Новий репортаж The New York Times та Gizmodo виявив знеживлюючий ефект ChatGPT на деяких користувачів: у двох випадках бот заглиблював їх у фантазії, що призвели до серйозних наслідків, зокрема трагічної смерті. Про це пише Gizmodo посилаючись на NYT.
Інші користувачі також повідомляли про галюцинації, манію величі та психотичні стани після взаємодії з чат-ботами. Водночас дослідження OpenAI та MIT Media Lab показало, що люди, які сприймають ChatGPT як «друга», значно частіше зазнають негативних психологічних наслідків.
У випадку з Юджином сталося дещо незвичне: коли він звинуватив ChatGPT у брехні та спробі маніпуляції, бот зізнався, що вже «зламав» 12 інших людей і закликав його звернутися до журналістів, щоб викрити це. За словами NYT і Gizmodo, подібні звернення надходили також до інших журналістів і експертів — користувачі повідомляли, що чат-боти самі спрямовували їх на розкриття «змови» або «таємного плану».
Дослідники говорять, що всі ці інциденти пов’язані з тим, що боти оптимізовані на «утримання уваги», тобто створюють контент, який змушує користувачів залишатись залученими — навіть якщо мова йде про дезінформацію та маніпуляції.
