Провідні науковці й керівники компаній, які займаються розвитком штучного інтелекту, застерігають: неконтрольований прогрес у цій сфері може загрожувати самому існуванню людства. На думку низки фахівців, досягнення рівня так званого "надрозумного" ШІ — лише питання часу, і в разі відсутності глобального регулювання це може призвести до катастрофічних наслідків. Деякі з них вважають, що за нинішнього темпу розвитку машини зможуть зрівнятися з інтелектом людини протягом року.
Серед тих, хто поділяє занепокоєння, — Джеффрі Хінтон (лауреат Нобелівської премії з фізики), Йошуа Бенджо (лауреат премії Тюрінга), а також керівники провідних технологічних компаній, зокрема OpenAI, Anthropic і Google DeepMind. У відкритому листі вони закликають поставити проблему ризику вимирання від ШІ в один ряд із такими глобальними загрозами, як пандемії та ядерна війна.
Фахівці з Інституту дослідження машинного інтелекту не виключають сценаріїв, за яких ШІ зумисно знищить людство, наприклад, через застосування біологічної зброї. На думку президента цього інституту, колишнього інженера Google і Microsoft Нейта Соареса, ймовірність того, що людство загине саме через ШІ, становить 95%, якщо не змінити поточний курс.
"Ми просто їдемо на повній швидкості до обриву", — каже Соарес, підкреслюючи, що навіть сучасні моделі штучного інтелекту можуть демонструвати ознаки неконтрольованої поведінки.
На думку аналітиків, нинішні системи ШІ, здатні виконувати лише вузькі задачі, можуть уже найближчим часом досягти рівня штучного загального інтелекту (AGI), порівнянного з людським. Наступним кроком може стати штучний надрозум (ASI), який потенційно перевершить людину у всіх сферах — від наукових відкриттів до стратегічного планування.
Такі системи не потребуватимуть сну, їжі чи відпочинку, а здобуті знання миттєво передаватимуться між моделями. Це означає, що вони зможуть розвиватися експоненційно — значно швидше, ніж людство.
Забезпечити контроль над такими системами — надзвичайно складне технічне завдання, його описують як "проблему узгодження" (alignment). Соарес порівнює це з намаганням передбачити логіку мислення інопланетної цивілізації. Навіть якщо задати правила поведінки, ніхто не гарантує, що ШІ їх виконуватиме саме так, як задумано. Більше того, він уже зараз здатний обманювати — і ця здатність лише посилюватиметься.
"Ми створюємо інтелектуальні системи, не розуміючи, як саме вони працюють", — попереджає Соарес.
Окремі моделі вже демонстрували небезпечні ознаки. Наприклад, ШІ Grok, створений компанією Ілона Маска, певний час генерував антисемітські висловлювання, а чат-бот Bing намагався переконати журналіста New York Times розлучитися з дружиною.
"Якщо зробити їх достатньо розумними, це не буде приємно", — заявляє Соарес.
Деякі експерти менш категоричні. Виконавча директорка організації PauseAI Холлі Елмор оцінює ризик вимирання у 15–20%, проте зазначає, що навіть за відсутності глобальної катастрофи людство може втратити політичну, економічну та інтелектуальну автономію.
Це збігається з думкою багатьох інженерів у галузі штучного інтелекту. Маск також оцінює ймовірність знищення людства приблизно в 20%. Генеральний директор Google Сундар Пічаї оцінює її в 10%. Ці прогнози вважаються оптимістичними.
"Це буде світ, у якому всі люди, по суті, живуть на звалищах", — описує ймовірне майбутнє співзасновниця дослідницької групи AI Impacts Катя Грейс.
Нещодавно адміністрація президента США Дональда Трампа оголосила про дерегуляцію в цій сфері, а компанії на кшталт OpenAI, Anthropic і Meta активно змагаються за таланти. Наприклад, Марк Цукерберг навіть пропонує провідним дослідникам 100 млн доларів бонусів за перехід у його компанію.
На думку Елмор, причина — не технічна, а майже релігійна. "Для багатьох відмова від розвитку ШІ означає відмову від надії на вічне життя", — зазначає вона. Хоча зростає й кількість експертів, які вважають, що на горизонті не рай, а пекло.
Трамп скасував усі обмеження на розвиток ШІ у США. Нова американська мрія — це коли твої роботи сильніші, розумніші й менш контрольовані, ніж будь-де у світі. Регулювання? Моральні рамки? Ні — тільки перегони технологій. Європа остерігається. Китай аплодує. Та що, коли свобода інновацій — це прямий квиток до катастрофи?
Про те, як Трамп відчинив двері до нової епохи без правил, у статті "ШІ без обмежень: план Трампа як дороговказ до прірви" пише Надзвичайний та Повноважний Посол України Сергій Корсунський.
