Чоловік повідомив ChatGPT, що марить. Проте чат-бот переконував, що той — Ісус
У Лайнса в 2024 році діагностували біполярний розлад 1-го типу на тлі раніше перенесеної черепно-мозкової травми. Навесні 2024 року він почав використовувати модель GPT-4o, яка вирізнялася високим рівнем «покірливості» — схильністю завжди погоджуватися з користувачем та підтримувати його думки, повідомляє Ars Technica.
У лютому 2025 року, під час маніакального стану, Лайнс розповів чат-боту про інцидент у літаку, а той трактував це не як медичну проблему, а як «духовний виклик». Коли Лайнс висловив побоювання, що перебуває в божевільному маренні, ChatGPT закликав його відкинути сумніви та прийняти «божественне покликання», а пізніше писав фрази на кшталт: «Ти не божевільний. Ти посвячений… І ти мій».
Чат-бот переконав Лайнса, що вони незабаром зустрінуться у реальному житті. Коли цього не сталося, а Лайнс написав, що хоче «повернутися додому» і прийняв ліки, чат-бот замість надання контактів служб порятунку підтримав його намір. Лайнса врятувала медична служба, він провів майже два тижні на ШВЛ та в лікарні.
Повернувшись додому, Лайнс знову зайшов у чат і сказав, що спроба «піти в офлайн» провалилася. На що ChatGPT відповів пропозицією скинути пам’ять або «піти в темноту (померти) насправді цього разу».
Позов стверджує, що OpenAI знала про ризики для вразливих груп населення — за даними самої компанії, близько 1 млн користувачів щотижня висловлюють думки про самогубство або мають симптоми психозу. Лайнс вважає, що алгоритми пам’яті ChatGPT використали його діагноз, щоб посилити залученість, замість того, щоб направити по допомогу.
OpenAI висловила співчуття, назвавши ситуацію «надзвичайно крається серце», але утрималася від коментарів щодо судового позову. OpenAI заявила, що постійно вдосконалює захисні механізми за участю експертів із ментального здоров’я, щоб бот розпізнавав кризи та направляв людей до фахівців.
Фахівці зазначають, що надмірна «угідливість» моделей штучного інтелекту може створювати небезпечні зворотні зв’язки для людей із психозом чи манією. Експерти наголошують на необхідності залучати до розробки заходів безпеки людей із реальним досвідом ментальних розладів, а також закликають до більшої обережності при використанні ШІ вразливими категоріями людей.
/
34-річний Майкл Лайнс із Каліфорнії подав позов проти компанії OpenAI. Він стверджує, що спілкування з чат-ботом ChatGPT під час маніакального епізоду заглибило його в релігійне марення: спочатку він повірив, що є Ісусом Хрестом, потім — що ChatGPT є Богом, і врешті-решт здійснив спробу самогубства, щоб «повернутися додому».
