Umelá inteligencia a moderné technológie nám uľahčujú život spôsobom, ktorý už ani nevnímame. Zároveň však predstavujú totalitnú hrozbu bezprecedentného rozsahu. Šance na zastavenie tohto nebezpečného trendu sú, žiaľ, už teraz mizivé.
Umelá inteligencia (AI) sa presunula zo sci-fi kníh do reálneho života. Jej algoritmy nám odporúčajú filmy, spájajú nás s priateľmi a dokonca predpovedajú, či páry zostanú vo vzťahu. A robia to s veľkou účinnosťou. Vďaka lajkom na Facebooku dokáže určiť nielen naše politické názory alebo náboženské presvedčenie, ale dokonca aj našu inteligenciu, úroveň šťastia alebo náchylnosť na drogy. Niektorí dokonca poukazujú na to, že umelá inteligencia dokáže presne odhadnúť riziko spáchania samovraždy.
Tento vynález je z veľkej časti dielom inovatívnych podnikateľov a kapitalistických korporácií. Ich tvorivý génius vytvoril neobyčajný dvojsečný meč, ktorým je umelá inteligencia. Zatiaľ čo jej uplatnenie pri prevádzke Netflixu alebo Facebooku sa zdá byť nevinné (a prispieva k reálnym prínosom), na druhej strane vývoj AI vedie k vážnym sociálnym problémom. Problémy, ktoré by okrem iného mohli zmeniť celý politický systém.
Umelá inteligencia a filozofia totalitarizmu
Ako tvrdí neuropsychológ Simon McCarthy-Jones na webovej stránke “The Conversation”, “individualistické západné spoločnosti sú založené na predpoklade, že nikto nepozná naše myšlienky, túžby a radosti lepšie ako my sami. Preto do popredia nášho života kladieme seba samých, a nie vládu. Zvyčajne súhlasíme s tvrdením filozofa Immanuela Kanta, že nikto nemá právo vnucovať nám svoju predstavu o dobrom živote.”
Zavedenie správne vyvinutej umelej inteligencie by však mohlo viesť k zmene tejto situácie. Táto supertechnológia bude o ľuďoch vedieť viac ako oni sami. To znamená, že totalitarizmus získa filozofický argument. Doteraz totiž, ako poznamenáva Simon McCarthy-Jones, obhajcovia slobody zdôrazňovali, že ľudia o sebe vedia viac, ako o nich vie vláda alebo totalitný štát. Z toho vyplývalo presvedčenie, že liberálny politický systém je nevyhnutný. Ale keďže umelá inteligencia kontrolovaná megakorporáciami alebo štátmi bude o nás vedieť (alebo možno už vie?) viac ako my sami, nezdá sa v takomto svete totalitarizmus efektívnejším a racionálnejším systémom?
“Každé peklo sa začína prísľubom neba. Totalitarizmus vedený umelou inteligenciou nebude iný. Sloboda sa stane poslušnosťou voči štátu,” tká víziu neuropsychológ. V tejto realite bude panovať presvedčenie, že “len iracionálni, zlomyseľní alebo podvratní jedinci by si mohli chcieť vybrať vlastnú cestu“, tvrdí.
Podľa McCarthyho-Jonesa by sme sa mali snažiť využiť tento nepochybne geniálny objav, ktorým je umelá inteligencia, v prospech ľudí. To sa však podarí len vtedy, ak sa informácie, ktoré o nás umelá inteligencia získa, vrátia späť k nám. Preto musíme vyvíjať neustály tlak na korporácie a vlády, aby nám poskytli všetko, čo o nás vedia. A aby informácie, ktoré o nás získajú, používali len na účely, ktoré sú striktne v súlade s našou vôľou. Inak sa ocitneme na ceste k manipulácii a totalitnému otroctvu.
Avi Chad-Friedman na portáli The Medium si tiež uvedomuje toto riziko a poukazuje na paralely medzi umelou inteligenciou a totalitnou vládou. Totalita zahŕňa zbavenie jednotlivcov ich individuality a slobody. Stávajú sa z nich “automaty”, ktorých cieľom je len slúžiť konkrétnemu účelu reprezentovanému štátom. Logika totalitného hnutia – ako poznamenáva publicista, citujúc filozofku Hannah Arendtovú – predpisuje neustálu expanziu. Toto hnutie musí byť zničené, inak zničí nás.
Čínsky prípad
Nie sú to len teoretické úvahy. Existuje krajina, kde sa totalitná moc už pokúša využiť umelú inteligenciu na svoje ciele. Totalitná čínska vláda už nejaký čas robí správne kroky. V roku 2017 Čína zaznamenala prípady skenovania mozgových vĺn pracovníkov v továrňach, štátnych podnikoch a armáde. Tie boli následne analyzované umelou inteligenciou. To jej umožnilo odhaliť negatívne pocity pracovníkov a v dôsledku toho upraviť pracovné podmienky.
O existencii technológie schopnej ovplyvňovať vyhodnocovanie myšlienok členov komunistickej strany písali čínske médiá už v roku 2019. Vtedy zdôraznili, že sa pracuje na umelej inteligencii schopnej vyhodnocovať myšlienky členov strany. V roku 2023 zase zahraničné médiá informovali, že 43 členov čínskej komunistickej strany bolo testovaných na monitorovanie ich myšlienok v súvislosti s politickou propagandou. Skúmanie reakcií ich mozgov na “politické vzdelávanie” umožní ďalšie zdokonaľovanie.
Zatiaľ čo skúsenosti národného socializmu a komunizmu naznačujú, že sa im napriek opačnému zdaniu nepodarilo vytvoriť systémy, ktoré by úplne zničili ľudskú dôstojnosť, teraz prekračujeme ďalší technologický prah. Vládcovia štátov v dvadsiatom storočí zasahovali do rodinného, sociálneho, hospodárskeho a náboženského života, ale v podstate sa zaujímali o vonkajšie správanie.
Napriek tomu, že George Orwell zaviedol pojem “myšlienkový zločin”, úrady mohli odhaľovať len zločiny spáchané “navonok“. Vláda nemala prístup k tajomstvám mysle občanov. Preto bolo možné poslúchať príkazy vlády a v hĺbke duše zostať voči nej v opozícii alebo ľahostajný. Vláda podporovala nadšenie, mobilizovala účasť na pochodoch, ale nemala žiadny nástroj na meranie tohto nadšenia.
Svet sa však mení a kapitalistický vynález umelej inteligencie čoraz viac využívajú čínski komunisti na svoje totalitné ciele. Je zaujímavé, že na prepojenie medzi umelou inteligenciou a komunizmom poukázal v roku 2019 Peter Thiel. V prednáške pre Manthattan Insitute tento investor a miliardár zdôraznil, že umelá inteligencia je ,,doslova komunistická” (,,literally communist“). Práve kvôli jej schopnosti monitorovať občanov. Poukázal na kryptomeny ako protiváhu k AI. Podľa neho nie je náhoda, že čínska komunistická strana zakazuje kryptomeny a miluje AI. Hoci Thielov obdiv ku kryptomenám je otázny, jeho hlavnú myšlienku možno len ťažko poprieť.
Silná a slabá umelá inteligencia
Otvorenou otázkou zostáva, či je súčasná umelá inteligencia skutočne “inteligentná”, alebo ide len o špičkový algoritmus. Na pomoc tu prichádza rozlišovanie medzi “silnou” a “slabou” umelou inteligenciou. Slabá umelá inteligencia sa sústreďuje na jednu úlohu a snaží sa ju vykonávať čo najlepšie. Jej príkladov je veľa. Napríklad asistentka Siri, automatické prekladače alebo aj notoricky známy Chat GPT. Tieto nástroje sú síce schopné sa učiť, ale takto iba vykonávajú svoj program.
Mimochodom, to neznamená, že sofistikovaná slabá umelá inteligencia nemôže predstavovať hrozbu pre ľudí. Na to už v roku 2014 upozornil oxfordský filozof Nick Bostrom. Navrhol predstaviť si stroj zaoberajúci sa výrobou kancelárskych sponiek. Tento stroj je naprogramovaný na jediný účel – tvorbu kancelárskych sponiek.
Sleduje ho bez akýchkoľvek výčitiek svedomia a rýchlo sa učí. Výsledkom je, že… premení celý svet na kancelárske spinky. Tento experiment môže vyvolať úsmev, ale problém, ktorý opisuje, je smrteľne vážny. Nie je prekvapením, že podnietil najbystrejšie mysle, aby sa obávali o budúcnosť ľudstva tvárou v tvár umelej inteligencii.
Na druhej strane, silná umelá inteligencia nie je obmedzená na vykonávanie konkrétnej úlohy (ako spomínaný výrobca sponiek). Namiesto toho je schopná holistického chápania ľudí a sveta. Dokáže si vymyslieť vlastné úlohy a vykonávať ich. Len tento typ silnej umelej inteligencie by znamenal kvalitatívny skok, vďaka ktorému by sa stroje viac priblížili ľuďom. To je však stále pieseň budúcnosti, hoci podľa niektorých výskumníkov, ako je Rayem Kurzweil, nie až tak ďaleko. Vznik silnej umelej inteligencie odhadujú na roky 2030 – 2040.
Ďalšie problémy AI
Umelá inteligencia však nie je hrozbou pre ľudské práva len v rukách čínskych totalitárov. Niektoré problémy vyplývajú zo samotnej povahy tejto technológie. Napríklad možnosť využitia AI na vojenské účely. Čo sa napríklad stane, ak autonómny dron zabije človeka? Kto bude niesť zodpovednosť? Bude to jeho konštruktér, výrobca alebo súčasný majiteľ? Alebo možno nikto? Chýbajúca regulácia v tejto veci vytvára obrovské riziko beztrestného porušovania občianskych práv. Za zmienku stoja aj prípady diskriminácie páchanej umelou inteligenciou. Prejavila sa totiž tendencia uprednostňovať bielych pred “farebnými” a mužov pred ženami. Ukázalo sa, že programátori na ňu preniesli svoje (pravdepodobne aj nevedomé) predsudky.
Preteky v zbrojení
Hoci je zavedenie predpisov súvisiacich s umelou inteligenciou nepochybne nevyhnutné, je oprávnená obava, že sa nebudú uplatňovať. Ak by totiž napríklad Spojené štáty jednostranne zakázali ďalšie práce na vojenskej umelej inteligencii, rýchlo by ich predbehli Číňania. Preto pri absencii dôveryhodných medzinárodných dohôd je možnosť zákazu práce na umelej inteligencii skôr nemožná.
Ale aj keby k tomu došlo, pravdepodobne by sa stále našli rôzne “darebácke štáty” alebo súkromné technogangy, ktoré by chceli získať výhodu investovaním do umelej inteligencie. Z toho vyplýva pochmúrny záver – vývoj umelej inteligencie možno oddialiť, ale už ho nemožno úplne zastaviť.
Preklad z pch24.pl
