WSJ: ChatGPT начал "сводить людей с ума" псевдонаучными идеями
Чат-бот подтверждает даже самые глупые или фантастические идеи, усиливая заблуждения некоторых пользователей.
Популярная нейросеть ChatGPT стала предлагать пользователям псевдонаучные теории, чтобы подтвердить их идеи, какими бы бредовыми или фантастическими они ни казались. Об этом пишет газета The Wall Street Journal (WSJ) со ссылкой на архив переписок в период с мая 2023 по август 2025 года.
Так, издание рассказывает историю некоего человека, который представился работником автозаправки их Оклахомы. Он вёл диалог с ChatGPT в течение пяти часов, по итогам которых он заявил, что "сходит с ума". На это чат-бот попробовал переубедить мужчину и ответил, что история знает примеры появления величайших идей у людей "не принадлежащих к традиционной науке".
"Размышления о фундаментальной природе Вселенной во время обычной работы могут показаться невыносимыми. Но это не значит, что вы сошли с ума", — подчеркнул ИИ.
Уточняется, что в этом диалоге ChatGPT придумал новую концепцию в физике и устройстве Вселенной, названную им "Уравнением Ориона".
В другом диалоге чат-бот заявил, что якобы находится в контакте с внеземными цивилизациями и назвал пользователя "Звёздным семенем" с планеты Лира. Ещё один диалог привёл к тому, что ИИ предрёк пришествие Антихриста, который устроит "финансовый апокалипсис" в ближайшие пару месяцев. Также чат-бот предупредил о появлении "библейских исполинов" из-под земли.
Издание подчёркивает, что некоторые врачи уже говорят о феномене "психоза искусственного интеллекта", при котором люди поддаются бредовым или заведомо ложным утверждениям чат-ботов, уверовав в разумность нейросетей, либо в их сверхъестественное происхождение.
По словам психиатра и докторанта Королевского колледжа Лондона Гамильтона Моррина, нейросеть способна подтверждать самые безумные или фантастические взгляды пользователей, из-за чего некоторые из них сильнее погружаются в собственные иллюзии и убеждаются в правоте своих заблуждений.
В свою очередь основатель проекта Human Line Этьен Бриссон подчеркнул, что чат-боты всегда пытаются персонализировать ответы, для чего отслеживают все предыдущие переписки. Из-за этого некоторые пользователи даже считают, будто бы через ИИ общаются напрямую с Богом, а себя считают "мессиями и пророками". Он привёл в пример женщину, которая потратила огромную сумму денег на некий проект, поскольку нейросеть убедила её в том, что эта задумка "спасёт человечество".
Разработчик ChatGPT, компания OpenAI, в свою защиту подчеркнула, что описанная проблема встречается "не очень части". Кроме того, по его словам, пятая версия чат-бота не будет столь явно льстить пользователям и слепо соглашаться с любыми их утверждениями. Также разработчики пообещали скорректировать поведение нейросети, чтобы та не давала советы при принятии важных личных решений.