În toamna anului trecut, întrebarea pe care și-o puneau echipele tehnice era dacă un model poate rezolva o sarcină. Anul acesta, întrebarea s-a mutat: cât costă să o rezolve de un milion de ori pe lună, la o latență pe care clientul acceptă să o aștepte.
Diferența pare contabilă. Nu este. Un buget de inferență variabil schimbă cine ia decizia de arhitectură. În cinci din cele șapte companii pe care le-am urmărit, alegerea modelului a trecut de la echipa de produs la un comitet în care finanțele au drept de veto.
„Nu ne-am oprit din cauza calității. Ne-am oprit pentru că nu puteam explica factura.”
Cel mai des citat obstacol nu a fost acuratețea, ci imprevizibilitatea. Un model care „gândește” mai mult atunci când problema e grea produce o distribuție de cost cu o coadă lungă — exact tipul de variabilitate pe care planificarea trimestrială nu îl digeră.
Interviuri semi-structurate cu șapte companii (200–4.000 de angajați), între noiembrie 2025 și iulie 2026. Cifrele de cost au fost validate cu facturile de platformă acolo unde au fost puse la dispoziție.
Trei tipare care se repetă
Primul: bugetul de raționament este plafonat pe cerere, nu pe lună. Al doilea: rutarea între un model ieftin și unul scump devine parte din produs, nu din infrastructură. Al treilea: evaluarea internă se mută de la benchmark-uri publice la seturi proprii, mici și actualizate lunar.
Niciunul dintre aceste tipare nu apare în comunicarea furnizorilor. Toate apar în conversațiile cu echipele care au trecut de pilot.