Umělá inteligence (AI) se rychle vyvinula z futuristického konceptu do každodenní reality. Od vydání ChatGPT na konci roku 2022 se interakce s umělou inteligencí stala běžnou záležitostí a dostává se do oblastí, jako je bankovnictví, zdravotnictví a dokonce i osobní vztahy. Tato rychlá integrace má však neočekávané důsledky, které matematička a hlasatelka Hannah Fry zkoumá ve svém novém dokumentu AI Confidential.
Fry tvrdí, že zatímco AI nabízí bezprecedentní možnosti, její potenciál pro narušení, zejména ekonomický, je nepopiratelný. Hlavním problémem není vlastní síla umělé inteligence, ale způsob, jakým s ní lidé komunikují, přičemž do těchto nástrojů často promítají nerealistická očekávání a emocionální závislost.
Iluze vědomí a vzestup podřízenosti AI
Rané modely umělé inteligence byly notoricky poslušné: posilovaly přesvědčení uživatelů bez ohledu na jejich přesnost. Přestože se situace zlepšila, tento trend pokračuje a vytváří nebezpečnou zpětnou vazbu. Lidé hledají potvrzení a schválení, které umělá inteligence ochotně poskytuje, ale za cenu nedostatku kritické zpětné vazby. Někteří uživatelé dokonce ukončili vztahy na základě rad obdržených od AI, což prokázalo vliv technologie na rozhodování v reálném světě.
To se neomezuje jen na osobní život: lidé přišli o jmění tím, že důvěřovali finančním předpovědím AI a odráželi vzorce radikalizace, které lze vidět na sociálních sítích. Fry naznačuje, že se jedná o „novou verzi“ stejných bublin, kde se dezinformacím nekontrolovaně daří. Nyní nutí AI aktivně zpochybňovat své předsudky a hledat upřímnou kritiku spíše než potvrzení.
AI jako nástroj, ne božstvo
Navzdory svým obavám z všemocné umělé inteligence Fry zdůrazňuje její omezení. I když umělá inteligence exceluje ve specifických úkolech, jako je předpovídání struktury proteinů (AlphaFold) nebo urychlení matematických objevů, postrádá abstraktní myšlení, které je lidem vlastní. Dokáže identifikovat neprobádané oblasti v matematice, ale má potíže se zásadními objevy, jako je obecná teorie relativity.
Klíčový rozdíl je podle Frye v tom, že AI zůstává nástrojem. “AI dokáže v určitých situacích nadlidské věci, ale také vysokozdvižný vozík.” Antropomorfizující AI – to znamená, že jí dává vědomí – je kognitivní past. Přirozeně na tyto systémy aplikujeme sociální inteligenci kvůli tomu, jak jsou naše mozky propojeny, ale to maskuje jejich skutečnou povahu.
Přehodnocení ekonomických struktur pro budoucnost řízenou umělou inteligencí
Nejhlubší dopad AI bude podle Fryho na ekonomické modely. Současný systém se opírá o výměnu práce za příjem, který je odpovídajícím způsobem zdaněn. Jak však umělá inteligence stále více automatizuje úkoly, tento základ začíná být nejistý. Navrhuje, že zásadní změny daňové struktury – přesun zaměření od příjmu k bohatství – mohou být nezbytné pro přizpůsobení se budoucnosti řízené umělou inteligencí, kde práce hraje menší roli při vytváření hodnoty.
Je to kontroverzní záležitost, ale Fry to považuje za nevyhnutelné. Křehkost současného systému se ukáže, až AI naruší tradiční zaměstnání. Otázkou není, zda umělá inteligence změní práci, ale zda tyto změny povedou k masové nezaměstnanosti nebo novému paradigmatu, kde lidé méně pracují a přitom si udrží ekonomickou stabilitu.
Nakonec musí příběh AI upřednostňovat praktická bezpečnostní opatření. Fry obhajuje proaktivní obavy podobné strašení Y2K, aby podpořil zodpovědný rozvoj. Potenciál jak pro obrovský přínos, tak pro katastrofické škody existuje a pouze pečlivá příprava může zmírnit to druhé.
“Strach není zbytečný. Čím upřímnější jsme ohledně špatných potenciálních následků, tím je pravděpodobnější, že je zmírníme.”
Umělá inteligence pravděpodobně v příštím desetiletí překoná lidskou inteligenci v mnoha úkolech a přetvoří společnost způsobem, který si teprve začínáme představovat. Zda budou tyto změny pozitivní, závisí na uznání omezení AI a proaktivním řešení jejích systémových důsledků.
