Використання сучасних моделей штучного інтелекту, яке ще донедавна вважалося перспективою здешевлення, навпаки, призводить до стрімкого зростання витрат, повідомляє The Wall Street Journal. Малі компанії, які купують доступ до ШІ у технологічних гігантів для розробки програм, аналітики чи створення сервісів, повідомляють про суттєво вищі рахунки, ніж очікувалося.
Причина полягає у зміні принципу роботи нових моделей. Вони значно більше “мислять”: перевіряють власні відповіді, звертаються до інтернету за даними, створюють допоміжні програми для обчислень. Це робить результати якіснішими, але витрати у токенах – одиницях виміру ШІ-операцій – зростають у рази.
“Гонка озброєнь за найрозумнішу річ у ШІ перетворилася на гонку за найдорожчі технології”, – коментує Тео Браун, виконавчий директор T3 Chat, сервісу, що об’єднує десятки моделей ШІ. Він також розраховує свої відносні витрати на різні моделі, аналізуючи тисячі запитів користувачів.
За оцінками аналітиків, вартість одного токена щороку знижується в кілька разів, проте різко зростає кількість токенів, необхідних для виконання завдань. Витрати на різні завдання в токенах виглядають так:
Витрати вже безпосередньо відчувають технологічні компанії. Засновник компанії, що займається розробкою програмного забезпечення для продуктивності, Notion – Іван Чжао повідомив, що якщо два роки тому його компанія мала близько 90% рентабельності, то зараз близько 10% доходів йде на оплату сервісів штучного інтелекту.
Подібні проблеми виникли й у стартапів Cursor та Replit, які пропонують інструменти для створення коду. Деякі користувачі Cursor у новому тарифному плані вичерпали місячний запас кредитів лише за кілька днів. А після оновлення моделі ціноутворення в Replit, коли складніші запити стали коштувати дорожче, це назвали “ціноутворенням на основі зусиль”, користувачі масово скаржилися у соцмережах та на Reddit, заявляючи про відмову від сервісу.
Водночас генеральний директор Replit Амджад Масад стверджує, що компанія не зафіксувала значного відтоку клієнтів. Плани для корпоративних користувачів залишаються рентабельними на рівні 80-90%.
Певна консолідація у сфері ШІ неминуча, вважає партнер венчурної компанії Andreessen Horowitz Мартін Касадо. На його думку, хоча деякі стартапи жертвують короткостроковими прибутками задля розширення клієнтської бази, це не означає, що вони перебувають у зоні ризику. Частина компаній уже прагне досягти стабільної рентабельності, інші вкладають інвесторські кошти у масштабування.
Великі гравці, включно з OpenAI, Anthropic, Google та Meta, можуть дозволити собі витрачати понад 100 мільярдів доларів щороку на розвиток інфраструктури для навчання та використання ШІ, компенсуючи витрати іншими напрямками бізнесу.
Один з можливих виходів для стартапів – використання простіших і дешевших моделей. Наприклад, GPT-5 Nano від OpenAI коштує близько $0,10 за мільйон токенів, тоді як повноцінний GPT-5 обходиться приблизно у $3,44 за мільйон токенів.
Фінансовий директор OpenAI раніше повідомив, що 75% доходів компанії надходить від звичайних користувачів, які платять $20 на місяць, і лише 25% – від бізнесу та стартапів. Це означає, що для більшості користувачів достатньо “простішого” ШІ.
Навчання великих моделей потребує дедалі дорожчої обчислювальної інфраструктури, яку забезпечують суперкомп’ютери. Водночас логічний висновок – отримання відповідей від уже натренованих моделей, мав би стрімко дешевшати. Однак через збільшені обсяги обробки даних фактичні витрати для кінцевих користувачів зростають.
Зростання цін на використання передових моделей може відлякати клієнтів, а конкуренція з боку гігантів створює нові виклики. Це ставить під питання майбутнє нинішнього буму: чи зможе він тривати, якщо великі компанії конкуруватимуть зі своїми ж клієнтами?
Нещодавно компанія Google вперше оприлюднила дані про екологічну вартість використання своїх моделей ШІ, заявивши, що один запит до Gemini викидає 0,03 грама вуглекислого газу та споживає близько п'яти крапель води. Попри спроби компанії показати зниження цих показників, експерти попереджають про стрімке зростання глобального енергоспоживання через розвиток штучного інтелекту. За прогнозами, до 2030 року попит на електроенергію з боку дата-центрів може перевищити річне споживання цілих країн.
