Companiile nu știu cât să ceară pentru serviciile de inteligență artificială. Consumul de tokenuri face costurile greu de anticipat

Microsoft, Google și Anthropic au investit sute de miliarde de dolari în dezvoltarea modelelor lingvistice mari. Accesul gratuit la ChatGPT, Claude sau Gemini atrage utilizatori, dar nu recuperează investițiile făcute. Marile platforme oferă și abonamente plătite, cu funcții suplimentare pentru programare sau automatizarea activităților. În același timp, alte companii construiesc produse care folosesc aceste modele și agenți de inteligență artificială.

Stabilirea prețurilor pentru asemenea servicii este însă dificilă. Costurile pot varia rapid, iar furnizorii nu pot anticipa întotdeauna consumul fiecărui client.

Tokenurile stau la baza costurilor

Modelele de inteligență artificială procesează informațiile sub forma unor unități numite tokenuri. O întrebare adresată unui chatbot este împărțită în asemenea fragmente matematice. Răspunsul este generat tot sub forma tokenurilor. Acestea sunt transformate ulterior în text, cod informatic sau comenzi pentru automatizarea unui proces.

Consumul nu este întotdeauna predictibil. Modificări mici ale instrucțiunii pot produce răspunsuri diferite. Nici același model nu oferă obligatoriu un rezultat identic la fiecare solicitare.

Situația devine mai complicată în cazul sistemelor care folosesc mai mulți agenți AI. Aceștia pot colabora pentru a lua decizii și a executa sarcini. Fiecare etapă consumă tokenuri suplimentare. Prețul unui token a scăzut puternic în ultimii ani. Consumul total a crescut însă mult mai repede.

Goldman Sachs estimează că numărul tokenurilor utilizate va fi de 24 de ori mai mare în 2030 decât în 2026. Volumul ar putea ajunge la 120 de milioane de miliarde de tokenuri pe lună.

Factura poate depăși rapid bugetul

Multe companii nu știu câte tokenuri folosesc angajații până la epuizarea limitei sau primirea facturii. Testarea repetată a unor instrumente AI poate genera costuri greu de observat la început.

Potrivit unor informații citate de BBC, Microsoft ar fi limitat accesul inginerilor la anumite instrumente externe de programare. Uber și-ar fi consumat în numai câteva luni bugetul anual destinat tokenurilor pentru programare.

Will Venters, profesor asociat la London School of Economics, arată că firmele nu pot anticipa perfect nici costul, nici valoarea obținută. Rezultatul produs de inteligența artificială diferă în funcție de model, instrucțiuni și complexitatea sarcinii. Costurile pot crește și după integrarea tehnologiei într-un produs destinat unui număr mare de utilizatori. Tokenurile nu sunt necesare doar pentru funcția principală. Ele sunt consumate și pentru testare, securitate și introducerea măsurilor de protecție.

Adăugarea unui nou agent AI se poate face printr-o comandă. Angajarea unei persoane presupune însă aprobarea postului, stabilirea salariului și un proces de recrutare. Simplitatea tehnică poate încuraja extinderea rapidă a sistemelor AI, fără o analiză comparabilă a costurilor.

Abonamentele fixe ar putea deveni mai restrictive

Unele organizații mici folosesc conturi personale cu abonament fix. Acestea le permit să consume cantități mari de resurse fără o factură calculată pentru fiecare token. Oliver King-Smith, fondatorul companiei de software smartR AI, consideră că acest model nu poate continua pe termen nelimitat. Marile platforme ar putea introduce limite mai stricte atunci când acționarii le vor cere profituri mai mari.

Companiile pot reduce costurile prin alegerea atentă a modelelor. Nu toate activitățile au nevoie de cea mai performantă și mai scumpă tehnologie. Instrucțiunile oferite sistemului trebuie, de asemenea, formulate mai precis. Un prompt vag poate declanșa mai multe operațiuni și poate consuma resurse fără să ofere rezultatul așteptat.

Mai multe tokenuri pot produce uneori un răspuns mai bun. Prin urmare, reducerea consumului nu este întotdeauna cea mai eficientă soluție. Compania trebuie să compare factura cu valoarea economică obținută.

Furnizorii caută un model de tarifare

Dezvoltatorii trebuie să transfere costurile către clienți, dar nu există încă o formulă general acceptată. Unele companii pot majora prețul tuturor serviciilor. Altele pot factura în funcție de rezultate sau pot vinde pachete pentru un anumit număr de operațiuni. Oricare dintre aceste variante poate fi afectată de deciziile marilor furnizori de modele lingvistice. Dacă aceștia modifică prețurile, firmele care le folosesc trebuie să-și refacă propriile tarife.

Schimbările frecvente sunt greu de acceptat de clienții care își stabilesc bugetele pentru unul sau mai mulți ani. Un contract cu preț fix poate deveni neprofitabil pentru furnizor dacă utilizarea crește peste estimări.

Economia inteligenței artificiale produce astfel un paradox. Costul fiecărui token scade, dar facturile pot crește deoarece numărul tokenurilor consumate avansează mult mai repede. Companiile trebuie să controleze utilizarea, să măsoare rezultatele și să stabilească cine suportă costul final.