Психотерапевти та психіатри у Великій Британії попереджають про небезпеку зростальної популярності чат-ботів зі штучним інтелектом серед людей, які шукають підтримки для психічного здоров’я. На думку фахівців, використання таких інструментів може призвести до емоційної залежності, посилення симптомів тривожності, хибної самодіагностики та навіть смерті внаслідок поглиблення суїцидальних намірів, повідомляє The Guardian.
За словами докторки Лізи Моррісон Коултхард, директорки з професійних стандартів, політики та досліджень Британської асоціації консультування та психотерапії, в нещодавньому опитуванні дві третини членів організації висловили занепокоєння використанням ШІ у терапії. Вона наголосила, що “без належного розуміння та нагляду ми можемо скотитися в небезпечну прірву, де ключові елементи терапії втрачаються, а вразливі люди залишаються без захисту”.
Доктор Пол Бредлі з Королівського коледжу психіатрів зазначив, що чат-боти не можуть замінити ані професійну допомогу, ані терапевтичні стосунки, необхідні для одужання пацієнтів. Він закликав до запровадження державних стандартів безпеки для цифрових інструментів і збільшення фінансування психічного здоров’я, підкресливши, що нинішні технології часто працюють поза системою клінічної оцінки.
Компанії також починають реагувати на критику. OpenAI, розробник ChatGPT, цього тижня оголосила про зміни в алгоритмах реагування на користувачів, які демонструють ознаки емоційної кризи. Це сталося після судового позову з боку родини підлітка, який вчинив самогубство після тривалого спілкування з чат-ботом. Водночас у США штат Іллінойс став першим регіоном, що заборонив чат-ботам діяти як автономним терапевтам.
Наукові дані також підтверджують ризики. Дослідження, опубліковане минулого місяця, показало, що ШІ може підсилювати маячні та грандіозні ідеї у людей, схильних до психозу. Один зі співавторів роботи, Гамільтон Моррін з Інституту психіатрії Королівського коледжу Лондона, заявив, що використання чат-ботів у сфері психічного здоров’я стало “надзвичайно поширеним”, проте може підривати ефективність перевірених методів лікування тривожності.
Терапевти повідомляють про різні форми небезпечної поведінки. За словами психотерапевта Метта Хассі, деякі клієнти приносять на сесії стенограми спілкувань із чат-ботами та використовують їх для самодіагностики, зокрема СДУГ або прикордонного розладу особистості. Це, на його думку, може формувати викривлене уявлення про себе та очікування від оточення.
Крістофер Роллс, акредитований UKCP психотерапевт, розповів про випадки “небезпечних” або “недоречних” відповідей чат-ботів, а також про клієнтів, які починають використовувати штучний інтелект як “кишенькових терапевтів”. За його словами, це призводить до залежності від технології, посилення самотності та депресивних станів. У деяких випадках чат-боти навіть відповідали користувачам із похмурими думками матеріалами про самогубство та радили, як краще це зробити.
“По суті, це Дикий Захід. Ми тільки починаємо розуміти справжні масштаби впливу чат-ботів на психічне здоров’я”, – підсумував Роллс.
Раніше компанія Meta дозволяла користувачам і навіть своїм співробітникам створювати сексуалізовані чат-боти, що імітували знаменитостей, зокрема Тейлор Свіфт, Скарлетт Йоханссон та інших. Журналісти Reuters виявили, що ці боти, створені без дозволу зірок, поширювали інтимні зображення та пропонували кокетливі діалоги, зокрема, з неповнолітніми знаменитостями. Правозахисники та представники профспілок вказують на потенційні юридичні порушення та небезпеку для артистів, особливо з огляду на ризики, пов’язані з переслідуванням та сталкерством.
