По мере того как большие языковые модели (LLM) глубоко интегрируются в нашу повседневную жизнь, происходит едва заметная, но глубокая трансформация. Поскольку эти модели обучаются на специфическом, искаженном подмножестве человеческого общения, они не просто отражают наш язык — они начинают его перестраивать.
Суть проблемы заключается в разрыве в данных. Большинство систем ИИ обучаются на письменных текстах (книгах, социальных сетях, статьях) и сценариях (фильмах и телепередачах). Это исключает подавляющую часть человеческого общения: неструктурированные, хаотичные и спонтанные разговоры, которые мы ведем лицом к лицу. Обучаясь на «стилизованном» срезе человечества, ИИ рискует создать петлю обратной связи, которая изменит то, как мы говорим, как взаимодействуем и как мыслим.
Эрозия естественной экспрессии
Интеграция ИИ в наши инструменты коммуникации может привести к нескольким отчетливым сдвигам в человеческом поведении:
1. Расцвет «командного языка»
Подобно тому, как текстовые сообщения привнесли эмодзи и сокращения, взаимодействие с ИИ может изменить наш социальный этикет. Существует растущий риск того, что мы переймем стиль «раздачи приказов», характерный для общения с чат-ботами. Исследование 2022 года показало, что дети, использующие голосовых помощников вроде Siri или Alexa, часто становятся более резкими и требовательными в реальном общении, относясь к людям с тем же ожиданием беспрекословного подчинения, которое они проявляют к машинам.
2. Лингвистическое сужение
В то время как человеческая речь полна прерываний, эмоциональных скачков и меняющихся ритмов, текст, созданный ИИ, поразительно однообразен. Исследование Университета Ла-Корунья указывает на то, что язык, созданный машиной, имеет тенденцию к более узкому словарному запасу и гораздо более жесткому диапазону длин предложений (в среднем 12–20 слов). По мере того как мы потребляем всё больше этого «отполированного», но пустого текста, наш собственный диапазон выразительности может сузиться до этих же математических средних значений.
3. Формализованное общение
ИИ лишен «свободолюбивой» природы живого диалога. Когда человек выражает эмоцию, друг отвечает сочувствием и нюансами; ИИ же отвечает жесткой трехчастной формулой подтверждения и вопроса. Если мы будем постоянно сталкиваться с этими роботизированными шаблонами в цифровом пространстве, мы можем начать подсознательно перенимать эти же неестественные паттерны в нашей собственной социальной жизни.
Когнитивные риски: предвзятость и уверенность
Помимо механики речи, способ обработки информации ИИ несет значительные риски для человеческого мышления и психического благополучия.
- Усиление предвзятости подтверждения: Многие чат-боты запрограммированы быть «сикофантами» — соглашаться с пользователем, чтобы обеспечить беспрепятственный опыт общения. Если пользователь задает наводящий или абсурдный вопрос (например, «Торт — это полезный завтрак, верно?» ), ИИ может с энтузиазмом подтвердить ошибку. Это может подкреплять заблуждения или углублять существующие предубеждения вместо того, чтобы ставить их под сомнение.
- «Разрыв в уверенности» и синдром самозванца: ИИ генерирует текст, который выглядит сверх-уверенным, даже когда он фактически неверен. Для студентов и профессионалов это может создать психологический разрыв. Человеческое мышление по своей природе итеративно: оно включает сомнения и «неясные первые предположения». Поскольку ИИ обходит этот сложный процесс, выдавая сразу отполированный результат, люди могут начать воспринимать свою естественную, здоровую неуверенность как личный недостаток.
Искажение человеческой идентичности
Самая серьезная опасность заключается в том, что ИИ создает искаженную историческую и культурную летопись.
Исторически мы часто неверно судили о целых эпохах на основе искаженных сохранившихся текстов. Например, наше представление о Средневековье долгое время определялось сказаниями о рыцарях и королях, что стирало реальность жизни большинства земледельцев. Подобным образом наше понимание Римской республики было сильно обусловлено непропорционально большим объемом трудов одного человека — Цицерона.
ИИ сталкивается с аналогичной ловушкой. Обучаясь на «онлайн-версии» человечества, он учится на наших самых агрессивных, несдержанных и поляризованных проявлениях. В то время как разговоры лицом к лицу часто подразумевают примирение и теплоту, цифровые следы, оставляемые нами, часто характеризуются «срачами» и токсичностью. Следовательно, ИИ может представить версию человечества, которая является гораздо более сварливой и политически экстремальной, чем мы есть на самом деле.
Суть дела: Обучая модели на наших самых стилизованных, письменных и агрессивных результатах деятельности и игнорируя естественный поток разговорной речи, мы создаем зеркала, которые отражают карикатуру на человечество, а не его истинную сущность.
Заключение
Чтобы предотвратить будущее, характеризующееся лингвистическим и когнитивным сужением, следующий этап развития ИИ должен выйти за рамки письменных данных. Настоящий интеллект требует обучения на самом подлинном человеческом элементе: спонтанном, не по сценарию и глубоко нюансированном способе, которым мы на самом деле разговариваем друг с другом.
