OpenAI пообіцяла випустити батьківський контроль для ChatGPT протягом наступного місяця, повідомила компанія у вівторок. Як тільки контроль стане доступним, батьки зможуть пов’язати свій особистий обліковий запис ChatGPT з обліковими записами своїх підлітків. Звідти батьки зможуть вирішувати, як ChatGPT реагуватиме на їхніх дітей, та вимикати окремі функції, зокрема пам’ять та історію чату. Крім того, ChatGPT буде генерувати автоматичні сповіщення, коли виявлятиме, що підліток перебуває в «стані гострого стресу». За словами OpenAI, «експертні рекомендації допоможуть цій функції підтримувати довіру між батьками та підлітками».
Оголошення про введення батьківського контролю з’явилося після того, як OpenAI було подано позов у першій відомій справі про неправомірну смерть проти компанії, що займається штучним інтелектом. У позові, поданому минулого тижня, Метт і Марія Рейн, батьки підлітка, який покінчив життя самогубством цього року, стверджують, що ChatGPT знав про чотири невдалі спроби самогубства їхнього сина, перш ніж допомогти йому спланувати свою смерть. Рейни заявили, що ChatGPT надав їхньому синові Адаму інформацію про конкретні методи самогубства і навіть дав йому поради, як приховати травми шиї, отримані під час попередніх невдалих спроб.
У вівторок OpenAI заявила, що батьківський контроль є частиною більш широких зусиль компанії з підвищення безпеки ChatGPT. Окремо компанія пообіцяла співпрацювати з додатковими експертами, зокрема тими, хто спеціалізується на розладах харчової поведінки, вживанні психоактивних речовин та здоров’ї підлітків, щоб вдосконалити свої моделі.
Компанія також пообіцяла впровадити новий маршрутизатор, що працює в режимі реального часу і призначений для фільтрації конфіденційних розмов за допомогою своїх моделей міркування. «Наші тести показують, що моделі міркування, навчені за допомогою методу, який ми називаємо «деліберативним вирівнюванням», більш послідовно дотримуються і застосовують правила безпеки та є більш стійкими до ворожих підказок», — заявили в OpenAI. Надалі, в ситуаціях, коли ChatGPT виявляє, що людина може перебувати в стресовому стані, чат-бот буде направляти ці розмови через модель міркування, незалежно від моделі, яку користувач вибрав перед початком розмови.
У більш широкому сенсі, OpenAI заявляє, що в майбутньому люди можуть очікувати на появу нових функцій безпеки. «Ця робота вже ведеться, але ми хочемо проактивно представити наші плани на найближчі 120 днів, щоб вам не довелося чекати на запуск, щоб побачити, куди ми рухаємося», — заявили в OpenAI. «Робота триватиме і після закінчення цього періоду, але ми докладаємо зусиль, щоб запустити якомога більше цих покращень цього року».
