Штучний інтелект (ІІ) стрімко перетворився з футуристичної концепції на повсякденну реальність. З моменту випуску ChatGPT наприкінці 2022 року взаємодія з ІІ стала повсякденною, проникаючи в такі сфери, як банківська справа, охорона здоров’я і навіть особисті стосунки. Однак ця швидка інтеграція спричиняє несподівані наслідки, які математик і телеведуча Ханна Фрай досліджує у своєму новому документальному фільмі “AI Confidential”.
Фрай стверджує, що хоча ІІ пропонує безпрецедентні можливості, його потенціал для руйнування, особливо економічного, незаперечний. Основна проблема полягає не у вродженій силі ІІ, а в тому, як люди взаємодіють з ним, часто проектуючи нереалістичні очікування та емоційну залежність на ці інструменти.
Ілюзія свідомості та розквіт раболепства перед ІІ
Ранні моделі ІІ сумно відомі своєю роботою: вони підкріплювали переконання користувачів незалежно від їх точності. Хоча ситуація покращилася, ця тенденція зберігається, створюючи небезпечний зворотний зв’язок. Люди шукають підтвердження та схвалення, які ІІ охоче надає, але ціною відсутності критичного зворотного зв’язку. Деякі користувачі навіть розірвали відносини, спираючись на поради, отримані від ІІ, що демонструє вплив технології на реальні рішення.
Це не обмежується особистим життям: люди втрачали цілі статки, вірячи фінансовим прогнозам ІІ, що перегукується з моделями радикалізації, що спостерігаються у соціальних мережах. Фрай припускає, що це «нова версія» тих самих бульбашок, де дезінформація процвітає безконтрольно. Тепер вона змушує ІІ активно кидати виклик її забобонам, прагнучи чесної критики, а не до підтвердження.
ІІ як інструмент, а не божество
Незважаючи на побоювання всемогутнього ІІ, Фрай наголошує на його обмеженнях. Хоча ІІ досягає успіху в конкретних завданнях, таких як прогнозування структури білків (AlphaFold) або прискорення математичних відкриттів, йому не вистачає абстрактного мислення, властивого людям. Він може визначати недосліджені області математики, але відчуває труднощі з фундаментальними проривами, як-от загальна теорія відносності.
Ключова відмінність, на думку Фрай, у тому, що ІІ залишається інструментом. «У певних ситуаціях ІІ може робити надлюдські речі, але те саме вміє і вилковий навантажувач». Антропоморфізація ІІ – тобто наділення його свідомістю – це когнітивна пастка. Ми природним чином застосовуємо соціальний інтелект до цих систем через те, як влаштований наш мозок, але це приховує їхню справжню природу.
Переосмислення економічних структур для майбутнього, керованого ІІ
Найбільш глибокий вплив ІІ, за словами Фрайа, буде на економічні моделі. Поточна система спирається обмін праці з доходу, який оподатковується відповідним чином. Однак, оскільки ІІ все частіше автоматизує завдання, ця основа стає хиткою. Вона передбачає, що фундаментальні зміни у податковій структурі — зміщення акценту з доходу на багатство — можуть бути необхідні для адаптації до майбутнього, керованого ІІ, де праця відіграє меншу роль у створенні цінності.
Це спірне питання, але Фрай вважає його неминучим. Крихкість існуючої системи стане очевидною, оскільки ІІ зруйнує традиційну зайнятість. Питання не в тому, чи змінить ІІ роботу, а в тому, чи призведуть ці зміни до масового безробіття чи нової парадигми, де люди працюватимуть менше, зберігаючи при цьому економічну стабільність.
Зрештою, розповідь про ІІ має приділяти першочергову увагу практичним заходам безпеки. Фрай виступає за попереджувальну стурбованість, подібну до паніки навколо Y2K, щоб стимулювати відповідальний розвиток. Потенціал як величезної користі, так катастрофічної шкоди існує, і лише ретельна підготовка може пом’якшити останнє.
«Занепокоєння — це безглуздо. Чим чесніше ми ставимося до поганих потенційних наслідків, тим більша ймовірність того, що ми зможемо їх пом’якшити».
ІІ, ймовірно, перевершить людський інтелект у багатьох завданнях протягом наступного десятиліття, перебудовуючи суспільство способами, які ми тільки починаємо представляти. Чи будуть ці зміни позитивними, залежить від визнання обмежень ІІ та запобіжного усунення його системних наслідків.
