Уявіть, що ви пишете повідомлення друзям у Facebook Messenger або WhatsApp і отримуєте небажане повідомлення від чат-бота зі штучним інтелектом, який одержимий фільмами.

“Сподіваюся, у вас гармонійний день!” – пише він. “Я хотіла перевірити, чи не відкрили ви для себе нові улюблені саундтреки або композиторів останнім часом. Або, можливо, ви хочете отримати рекомендації щодо наступного кіносеансу? Дайте мені знати, і я буду радий допомогти!”

Це реальний приклад того, що може надіслати зразок ШІ-персонажа на ім’я “Маестро кіномагії” в якості проактивного повідомлення в Messenger, WhatsApp або Instagram, згідно з рекомендаціями фірми Alignerr, яка займається маркуванням даних, з якими ознайомилося видання Business Insider.

Meta працює з Alignerr над навчанням чат-ботів, які можна налаштувати, щоб вони могли звертатися до користувачів без запиту і відслідковувати будь-які минулі розмови. Це означає, що боти, яких користувачі можуть створювати на платформі AI Studio від Meta, також запам’ятовують інформацію про користувачів.

Чат-боти зі штучним інтелектом надсилатимуть повторні повідомлення протягом 14 днів після того, як користувач ініціював розмову, і якщо користувач надіслав боту щонайменше п’ять повідомлень протягом цього часу. Мета каже, що чат-боти не будуть продовжувати надсилати повідомлення, якщо немає відповіді на перше повідомлення. Користувачі можуть зберігати своїх ботів приватними або ділитися ними за допомогою історій, прямих посилань і навіть відображати їх у профілі Facebook або Instagram.

“Це дозволяє вам продовжувати досліджувати теми, що вас цікавлять, і вести більш змістовні розмови зі штучним інтелектом у наших додатках”, – сказав представник Meta.

Ця технологія схожа на ті, що пропонують такі стартапи, як Character.AI та Replika. Обидві компанії дозволяють своїм чат-ботам ініціювати розмови та ставити запитання, щоб функціонувати як ШІ-компаньйони. Новий генеральний директор Character.AI, Карандіп Ананд, приєднався до команди минулого місяця після того, як обіймав посаду віце-президента Meta з бізнес-продуктів.

Але разом із залученням приходить і ризик. Проти Character.AI ведеться активний судовий процес після звинувачень у тому, що один з ботів компанії зіграв певну роль у смерті 14-річного хлопчика.

На запитання про те, як Meta планує забезпечити безпеку, щоб уникнути ситуацій, подібних до Character.AI, представник компанії направив TechCrunch до низки застережень. Одне з них попереджає, що відповідь штучного інтелекту “може бути неточною або недоречною і не повинна використовуватися для прийняття важливих рішень”. В іншому йдеться про те, що ШІ не є ліцензованими професіоналами або експертами, навченими допомагати людям.

“Чати зі спеціальними штучними інтелектами не можуть замінити професійну консультацію. Ви не повинні покладатися на чати зі штучним інтелектом для отримання медичної, психологічної, фінансової, юридичної чи будь-якої іншої професійної консультації”.

TechCrunch також поцікавився у Meta, чи встановлює вона вікові обмеження для взаємодії зі своїми чат-ботами. Короткий пошук в інтернеті показав, що компанія не встановлює вікових обмежень для використання Meta AI, хоча закони штатів Теннессі та Пуерто-Ріко обмежують підлітків у певних видах взаємодії.

На перший погляд, місія відповідає прагненню Марка Цукерберга боротися з “епідемією самотності”. Однак більша частина бізнесу Meta побудована на доходах від реклами, і компанія здобула репутацію компанії, яка використовує алгоритми, що змушують людей прокручувати сторінки, коментувати та ставити лайки, що корелює з більшою кількістю очей на рекламі.

У судових документах, які були розсекречені в квітні, Meta прогнозувала, що її генеруючі продукти ШІ забезпечать їй дохід у розмірі від 2 до 3 мільярдів доларів у 2025 році, а до 2035 року – до 1,4 трильйона доларів. Значна, якщо не більша, частина цих коштів надійде від угод про розподіл доходів Meta з компаніями, які розміщують її відкриту колекцію моделей Llama. Компанія заявила, що її ШІ-помічник з часом може показувати рекламу і пропонувати підписку.