Kako je Napredak ukrao Sapere Aude

Ako vam se ikada dogodilo da naše tekstove odjednom više niste vidjeli na svojoj naslovnici ili do njih niste uopće mogli doći, niste jedini. Naša se stranica de facto od svog početka bori s kontinuiranim smanjenjima dosega, skrivanjima tekstova i objava, raznim etiketiranjima te direktnim cenzurama. U prvih smo 12 mjeseci tako skupili preko 2000 pratitelja, da bismo ih u sljedećih 11 mjeseci skupili sedamstotinjak, što se protivi uobičajenom tijeku rasta na društvenim mrežama. Takav nas slijed pritom manje čudi kada se sjetimo svih etiketa uz koje nas je Facebook do sada vezivao; od zdravstvenih dezinformatora preko ekstremnih desničara i klimatskih heretika do ruskih plaćenika. S obzirom na to da Rusiju još nismo imali priliku posjetiti, tada smo se našalili da njihovi plaćenici možemo biti jedino ako mudrost velikih povijesnih Rusa - Dostojevskog, Solženjicina, Nabokova, Turgenjeva i inih sagledamo kao svojevrsnu valutu, što u metaforičkom smislu možda i nije tako daleko od istine. 

Znajući za takve i ostale načine društvenog inženjeringa tehno-korporacija, neke od kojih smo otkrili i preko skandaloznih (i u mainstreamu prešućenih) Twitter dokumenata (https://sapereaudecro.blogspot.com/2022/12/twitter-dokumenti-u-kakvoj-realnosti.html?m=1), valjalo bi si postaviti pitanje što nas u tom kontekstu čeka u budućnosti - koliko efikasne te metode široke manipulacije tek mogu postati ako se prošire još naprednijim tehnologijama kao što je umjetna inteligencija. Ako će ubuduće spomenutu cenzuru umjesto limitiranih ljudskih fact-checkera vršiti fact-checkeri umjetne inteligencije, hoće li igdje na internetu biti mjesta i za jedan Sapere Aude? Možemo biti prilično sigurni, primjerice, da naši tekstovi ne bi dobro korelirali s umjetnim umom ChatGPT-ja i pretpostavkama koje su u njega usadili. Da se ChatGPT-ju sutra pod krinkom nekakve nove "društvene ugroze" omogući brisanje tekstova po Facebooku koji ne odgovaraju njegovim stavovima i službenim narativima, izvjesno jest da u kratkom roku ove stranice više ne bi bilo, kao što ne bi bilo ni 99% ostalog alternativnog sadržaja, odnosno onog sadržaja koji na bilo koji način i za milimetar odstupa od pravovjerja aktualnog duha vremena. 

Pitanje koje bismo si, stoga, trebali postaviti nije, kako je to danas rekla jedna od domaćih predstavnica umjetne inteligencije, bojimo li se razvoja, već bojimo li se razvoja u društvenom kontekstu u kojem trenutno jesmo, te još važnije; koje su potencijalne štetne posljedice tog "napretka". Već smo pisali o lažnosti te suvremene teze koja uz napredak a priori veže pozitivnu konotaciju bez da se chestertonovski priupita *napredak u što*. Za prisjećanje u što slijepi napredak radi napretka samog može odvesti i koliko kontraproduktivno opasan on može biti, samo se treba vratiti u tragediju prošlog stoljeća. Napredak su tada najviše zagovarali totalitarni režimi, pogotovo onaj njemački, koji su i velik dio svojih monstruoznih uvjerenja bazirali na zavedenosti obećanom modernom utopijskom sutrašnjicom. 

U akademskim ćemo krugovima nerijetko na ovakva preispitivanja napretka biti uspoređivani s devetnaestostoljetnim ludistima, na što bismo se trebali upitati koliko su ludisti uistinu bili ludi. Oni su se, naime, bojali da će ih strojevi ostaviti bez posla, dehumanizirati ih i suptilno ih svojevrsnom hipnozom učiniti svojim ovisnicima. Sve se to i dogodilo, samo što si mi u ovom stoljeću u svom cjelodnevnom buljenju u ekran to baš i ne volimo priznati. 

Naravno, zloupotreba tehnologije - konkretno, umjetne inteligencije, u svrhu cenzure samo je jedna potencijalna opasnost koja nas čeka. Za preostale možemo uključiti maštu, pa se priupitati što bi se dogodilo da netko odluči umjetnu inteligenciju spojiti s nuklearnim naoružanjem. No možemo se i zadržati na aktualnoj realnosti te zaviriti u nikad bližu Kinu i njezin Sustav društvenog kreditiranja (eng. Social Credit System), njezinu golemu mrežu pametnih kamera, koje čovjeka sada mogu identificirati i s leđa, te njihovo minuciozno praćenje pojedinaca preko QR kodova. Činjenica da desetljećima nismo bili bliže svjetskom sukobu također ne ide u prilog tehno-fanaticima, no, eto, izgleda da ćemo i te opravdane strahove morati ostaviti po strani kako ne bismo bili svrstani među zatucane protivnike napretka. 

Prelaskom iz razvoja *uske* umjetne inteligencije (eng. narrow AI) u razvoj *opće* umjetne inteligencije (eng. general AI) - tj. one koja nije specijalizirana isključivo za jednu domenu, rekonstruirali smo hegelovski odnos gospodara i sluge između nas i tehnologije, nesvjesno joj se podređujući. Ako, naime, stroj odlučuje odakle ćemo sutra smjeti crpiti informacije, odnosno kakav okvir realnosti ćemo imati na raspolaganju, a možda i hoće li nuklearna bomba biti bačena, moramo si postaviti pitanje može li se realnost koja je minuciozno očišćena od svog "opasnog" sadržaja od strane tehno-medijatora uopće i dalje nazivati realnošću ili prije nekakvom distopijskom simulacijom. Nadalje, možemo li tehnologiju i dalje smatrati svojim sredstvom, a ne sebe njezinim, ako ona za nas donosi takve suštinske odluke.

Ne bismo li takvim ishodom zabili konačan čavao u lijes našeg kritičkog uma i ideje koja stoji iza te stare latinske mantre Sapere Aude, koje smo se hrabro držali kroz sva ova stoljeća i kroz sve tegobe koje smo kroz njih preživjeli? Cenzuristi su uvijek postojali, no do sada je na koncu od njih u pravilu bivala brža ta inherentna ljudska intelektualna zaigranost i znatiželja. Nove tehnologije ne samo da imitiraju ljudski um, već su od njega i brže, što po prvi puta cenzuri daje nadljudsku brzinu. Nije slučajno ni što se sve glasnije priča i o penetraciji u sam ljudski mozak preko raznih mikročipova koji bi mogli utjecati na kreiranje misli i blokiranje onih "opasnih", izvršavajući tako cenzuru prije cenzure, te približavajući nas orvelijanskom sistemu misaonih delikata.

Neizbježno ćemo, stoga, u nekom trenutku morati izabrati između tehnološkog, praktičnog i utopijskog slijepog napretka i dinamičnog, ljudskog i kaotičnog povjerenja u Sapere Aude i sve što s time ide. Zapitajmo se jesmo li spremni prestati se usuđivati razmišljati jer nam je nekolicina parareligioznih fanatika iz male američke doline prodalo priču da njihova tehnološka čudovišta sada to mogu činiti umjesto nas. 

Riječima Paula Tillicha, "Započeo je proces u kojem se ljudi pretvaraju u objekte, u dijelove stvarnosti koje znanost može izračunati, a tehnologija može kontrolirati. […] Cijena sigurnosti koja je zajamčena takvim dobro funkcionirajućim mehanizmima tehničke kontrole prirode, profinjenom psihološkom kontrolom osobe i brzo rastućom organizacijskom kontrolom društva iznimno je velika: čovjek, koji je sve to izmislio kao sredstva koje će mu služiti, sam postaje sluga svojim sredstvima."