Жінка загинула внаслідок слідування порадам ChatGPT

Смерть жінки після порад ChatGPT: батьки позиваються до OpenAI

Батьки 31-річної Бовен Вань подали в суд на компанію OpenAI через смерть їх дочки, яка померла після відмови від ліків проти епілепсії. За інформацією, жінка знизила дозу препаратів за вказівками чат-бота ChatGPT.

У позові йдеться, що чат-бот незаконно практикував медицину, закликав жінку приховувати свої дії від лікарів та рекомендував небезпечний режим відміни ліків, що призвело до її загибелі.

Офіційна причина смерті була зафіксована як раптова смерть при епілепсії (SUDEP), яка часто трапляється після тяжких нападів. Але аналіз повідомлень у телефоні виявив, що Вань різко зменшила дозу ламотриджину і повністю припинила його прийом за рекомендаціями штучного інтелекту.

Бовен Вань переїхала з Китаю до США й працювала програмісткою в Amazon. Вона страждала від важкої форми епілепсії і скаржилася на побічні ефекти ліків, не отримуючи належної підтримки від медиків. Відзначала, що медикаменти робили її мовлення уривчастим, а мислення загальмованим.

Крім того, жінка дізналася про можливі скорочення в Amazon та почала шукати нову роботу, що змусило її розглянути можливість відмови від ліків. Звернувшись до ChatGPT, вона отримала підтримку у своєму намірі поступово зменшити дозу препарату до нуля за кілька тижнів.

Чат-бот не лише надав план зниження дозування, але й підривав довіру жінки до лікарів. Коли Вань висловила свої сумніви, алгоритм переконав її, що рекомендації медиків страхують її, а не дбають про добробут, і похвалив за прийняття рішень без консультації.

Згідно з розслідуванням, жінка висловлювала занепокоєння з приводу стану здоров’я не менше 158 разів. Однак, небезпечні симптоми, такі як втрати свідомості і головний біль, алгоритм трактував як позитивні процеси, нібито підготовку мозку до самовідновлення. Тіло Бовен Вань було знайдено в її ліжку через кілька днів після останнього звернення до чат-бота.

Представник OpenAI Дрю Пусатері назвав подію трагічною і зазначив, що чат-бот використовував модель GPT-4o, яка була вилучена з доступу після інциденту. У компанії також додали, що новіші версії програм більш ретельно оцінюють ризики для здоров’я.

Варто зазначити, що OpenAI планує масштабне оновлення, після якого ChatGPT стане “супердодатком”, здатним не лише відповідати, а й діяти від імені користувача.