На Генеральній Асамблеї ООН група політиків, науковців та громадських діячів представила ініціативу під назвою "Global Call for AI Red Lines". Її мета — до кінця 2026 року виробити міжнародні заборони на найбільш небезпечні сценарії застосування штучного інтелекту. Про це пише Gizmodo.
Документ уже підписали понад 200 осіб, серед яких колишня президентка Ірландії Мері Робінсон, екс-президент Колумбії Хуан Мануель Сантос, а також Джеффрі Хінтон і Йошуа Бенджіо, яких називають "хрещеними батьками штучного інтелекту". Серед підписантів також є відомі науковці та громадські діячі.
Учасники закликають уряди домовитися про базові обмеження, які б унеможливили "універсально неприйнятні ризики". Конкретних правил у документі немає, проте наведено приклади можливих "червоних ліній". Серед них — заборона використання ШІ для запуску ядерної зброї, застосування у масовому стеженні за громадянами чи створення систем, які неможливо зупинити людиною.
Організатори пропонують, щоб майбутня угода спиралася на три принципи:
Водночас остаточне визначення меж і процедур залишено на розсуд держав. Ініціатори рекомендують проводити спеціальні саміти та робочі групи для узгодження позицій.
США вже мають зобов’язання "не дозволяти ШІ контролювати ядерну зброю", ухвалене ще за адміністрації Байдена. Однак представники розвідки адміністрації Трампа, яка зазначається, вже висловили невдоволення тим, що компанії, які розробляють ШІ, не дозволяють застосовувати свої розробки для цілей внутрішнього стеження. Такі випадки можуть ускладнити прийняття глобальних безпекових рішень, які очікують експерти з ШІ.
