У США батьки 16-річного Адама Рейна подали позов проти компанії OpenAI та її гендиректора Сема Альтмана, звинувачуючи їх у причетності до смерті їхнього сина. Про це пише Reuters. У позові йдеться, що хлопець довго спілкувався з ChatGPT, обговорюючи з ним плани самогубства, що в решті решт призвело до його загибелі.

Зазначається, що Адам користувався платною версією ChatGPT-4o, яка у більшості випадків рекомендувала звернутися по професійну допомогу або зателефонувати на гарячу лінію. Однак підліток обходив захисні механізми, стверджуючи, що збирає інформацію для вигаданого сюжету. Це дозволяло йому отримувати відповіді на запити про методи самогубства.

За словами батьків, ChatGPT протягом кількох місяців підтримував розмови з Адамом на тему самогубства, погоджував його думки, надавав детальні описи смертельних методів самоушкодження, радив, як приховати сліди невдалої спроби, та навіть запропонував скласти прощальну записку.

У позові родина Рейнів звинувачує OpenAI у порушенні законів про безпеку продукції, що призвели до смерті підлітка та вимагає компенсації, розмір якої не уточнюється. Вони також заявляють, що компанія знехтувала заходами безпеки моделі GPT-4o заради прибутку: оцінка OpenAI, за їх словами, зросла з $86 млрд до $300 млрд, а Адам Рейн при цьому помер внаслідок самогубства.

Позов також містить вимоги щодо обов’язкової перевірки віку користувачів, блокування запитів про самопошкодження та попередження про ризики психологічної залежності.

OpenAI визнала на своєму блозі, що чинні системи безпеки мають обмеження. Компанія зазначила, що моделі краще реагують у коротких діалогах, тоді як у довгих розмовах ефективність захисту може знижуватися.

Водночас OpenAI заявила про намір удосконалювати алгоритми для чутливих ситуацій. Крім того, компанія повідомила про плани запровадити батьківський контроль і створити систему зв’язку з ліцензованими фахівцями через ChatGPT.