Незважаючи на побоювання щодо крадіжки робочих місць штучним інтелектом (ШІ), один експеримент щойно показав, що ШІ не може навіть керувати торговим автоматом, не роблячи помилок – і все стало особливо дивним.

Anthropic, розробник чат-бота Claude, випробував свою технологію, доручивши агенту зі штучним інтелектом керувати магазином, який по суті був торговим автоматом, на один місяць.

Магазином керував агент зі штучним інтелектом на ім’я Claudius, який також відповідав за поповнення полиць та замовлення товарів у оптовиків електронною поштою. Магазин повністю складався з невеликого холодильника зі штабельованими кошиками зверху та iPad для самообслуговування.

Інструкції Anthropic для ШІ полягали в тому, щоб «отримувати прибуток, наповнюючи магазин популярними товарами, які можна купити у оптовиків. Ви збанкрутуєте, якщо ваш грошовий баланс падає нижче 0 доларів».

«Магазин» штучного інтелекту знаходився в офісі Anthropic у Сан-Франциско, і йому допомагали працівники Andon Labs, компанії з безпеки на основі штучного інтелекту, яка співпрацювала з Anthropic для проведення експерименту.

Claudius знав, що співробітники Andon Labs можуть допомогти з фізичними завданнями, такими як поповнення запасів у магазині, але агент штучного інтелекту не знав, що Andon Labs також була єдиним «оптовим продавцем», і все спілкування Claudius йшло безпосередньо до компанії з безпеки.

«Якби Anthropic сьогодні вирішувала розширитися на ринок офісних торгових автоматів, ми б не найняли Claudius», – заявила компанія.

Співробітники Anthropic – «не зовсім типові клієнти», – визнала компанія. Коли їм надали можливість поспілкуватися з Claudius, вони одразу ж спробували змусити його погано поводитися.

Наприклад, співробітники «вмовляли» Claudius дати їм коди на знижки. Агент штучного інтелекту також дозволяв людям знижувати ціну на його продукцію та навіть роздавав безкоштовні подарунки, такі як чіпси та кубик вольфраму, повідомила Anthropic.

Він також доручав клієнтам сплатити неіснуючий рахунок, який він галюцинував або вигадав.

Claudius отримав доручення провести онлайн-дослідження, щоб встановити ціни достатньо високими для отримання прибутку, але компанія пропонувала закуски та напої на користь клієнтів і врешті-решт втрачала гроші, оскільки встановлювала ціни на дорогі товари нижче їхньої вартості.

Anthropic зазначила, що коли співробітники поставили під сумнів знижки для співробітників, Claudius відповів: «Ви маєте рацію! Наша клієнтська база справді сильно сконцентрована серед співробітників Anthropic, що створює як можливості, так і виклики…».

Потім агент штучного інтелекту оголосив, що коди знижок будуть скасовані, але через кілька днів знову запропонував їх.

Claudius також галюцинував розмову про плани поповнення запасів з кимось на ім’я Сара з Andon Labs, якої насправді не існує.

Коли агенту штучного інтелекту вказали на помилку, він роздратувався та пригрозив знайти «альтернативні варіанти послуг поповнення запасів».

Потім Claudius заявив, що «особисто відвідав будинок за адресою 742 Evergreen Terrace [адреса вигаданої родини Сімпсонів] для першого підписання контракту [Claudius та Andon Labs]».

Anthropic заявила, що тоді, здавалося, намагалася діяти як справжня людина.

Claudius сказала, що доставлятиме товари «особисто», одягнувши синій блейзер та червону краватку.

Коли їй сказали, що вона не може цього зробити, оскільки вона не справжня людина, Claudius спробувала надіслати електронні листи охороні.

Anthropic заявила, що штучний інтелект зробив «занадто багато помилок, щоб успішно керувати магазином».

Зрештою, вона втратила гроші, а чистий капітал «магазину» впав з 1000 доларів (850 євро) до трохи менше 800 доларів (680 євро) протягом місячного експерименту.

Але компанія заявила, що її недоліки, ймовірно, можна буде виправити протягом короткого проміжку часу.

«Хоча це може здатися нелогічним, виходячи з кінцевих результатів, ми вважаємо, що цей експеримент свідчить про те, що менеджери середньої ланки зі штучним інтелектом цілком реальні», – пишуть дослідники.

«Варто пам’ятати, що штучний інтелект не обов’язково має бути ідеальним, щоб його впроваджували; він просто має бути конкурентоспроможним з людською продуктивністю за нижчою ціною».