Co to znamená v praxi
Token je kousek textu, se kterým model pracuje. Spotřeba tokenů je tedy to, kolik toho přes model projde, a od ní se odvíjí faktura.
Konkrétní čísla z praxe: jedna obchodní firma, se kterou pracujeme, dnes utrácí 1 000 až 2 000 eur měsíčně na jednoho softwarového inženýra. Na první pohled to vypadá jako hodně. Na druhý je to zlomek nákladů na toho samého člověka.
Proč nízká spotřeba není dobrá zpráva
Management instinktivně vnímá spotřebu jako náklad, který je potřeba stlačit. V praxi se ale chová spíš jako ukazatel učení.
Když tým vyčerpá týdenní limit, většinou to znamená, že s AI reálně pracuje. Když spotřeba stagnuje, lidé buď nemají co řešit, nebo, což je pravděpodobnější, nevědí, co všechno se dá.
Jak o tom uvažovat
Počítejte to jako investici do nástroje, ne jako provozní položku. Užitečná otázka není „kolik jsme utratili?”, ale „co za to vzniklo?” Dvacet variant webu za tisíc dolarů v tokenech je jiný rozhovor než tendr s agenturou.
Nákladová stránka agentic engineeringu je jedno z témat, která na trénincích probíráme s managementem i s vývojáři, každý potřebuje z toho čísla jiné závěry.