Co to znamená v praxi
Představte si AI jako velmi bystrého člověka, který má ale limitovanou velikost pracovního stolu. Dokud mu dokumenty položíte na stůl, umí s nimi pracovat. Když mu ale donesete knihu, která je větší než jeho stůl (překročíte context window), začne z ní stránky ztrácet a zapomínat první odstavce, které přečetl. Dnes už modely jako Claude nebo ChatGPT zvládají naráz načíst knihy se stovkami stran.
Proč to firmy musí znát
- Zpracování velkých smluv: Díky velkému context window můžete AI poslat 50stránkovou právní smlouvu a zeptat se, jaké tam jsou sankce při předčasném ukončení.
- Rychlá analýza konkurence: Můžete vložit obsah tří konkurenčních webů a nechat AI udělat srovnávací tabulku jejich služeb a cen.
- Limity paměti: Pokud pracujete s AI celý den v jednom dlouhém vlákně zpráv, po čase začne AI zapomínat instrukce z rána. Je to signál, že jí „paměť” přetekla.
Příklad z praxe
Personální agentura zpracovávala stovky životopisů měsíčně. Ruční porovnávání bylo extrémně pomalé a kvalita závisela na tom, jaký měl recruiter den. Díky velkému context window dokázal model Claude načíst životopisy i instrukce naráz, porovnat je se strukturovaným profilem role a připravit pro tým přesný shortlist top kandidátů na pohovor. Čas na první třídění spadl z hodin na minuty.
Na našich firemních AI trénincích učíme, jak rozumným dávkováním informací udržet odpovědi umělé inteligence přesné a bez halucinací.