Co to znamená v praxi
Když si koupíte oblek v obchodě, většinou vám sedí docela dobře. Když ale chcete, aby vám seděl dokonale, vezmete ho ke krejčímu, který ho na vás doladí.
Přesně to je fine-tuning. Vezmete hotový, chytrý LLM model (například od OpenAI) a „ukážete” mu tisíce příkladů z vaší firmy. Například mu ukážete 5000 vašich starých zákaznických e-mailů, aby se naučil, jakým tónem vaše firma komunikuje, jaký žargon používáte a jak formátujete odpovědi.
Proč to firmy musí znát
Nejčastější omyl, se kterým se u majitelů firem setkáváme, zní: „Chceme, aby AI znala naše interní směrnice, takže ji na nich musíme natrénovat (fine-tunovat).” To je chyba.
- Na fakta použijte RAG. Pokud chcete, aby AI věděla, jaké máte ceny, jaké jsou podmínky reklamace nebo co je v nejnovější smlouvě, fine-tuning je špatná a drahá cesta. Model se fakta učí těžko a těžko se z něj mažou, když se změní. Na fakta a hledání v dokumentech slouží RAG.
- Na styl a tón použijte fine-tuning. Fine-tuning je ideální, pokud chcete změnit způsob, jakým AI mluví. Pokud jste právní kancelář a chcete, aby AI psala smlouvy přesně vaším specifickým právnickým stylem, fine-tuning na vašich starých smlouvách je správná cesta.
- Náklady a data. Fine-tuning není levný. Vyžaduje přípravu stovek až tisíců kvalitních příkladů (tzv. dataset). Pokud do modelu nalijete „odpad”, naučí se produkovat odpad.
Příklad z praxe
E-commerce firma chtěla, aby AI generovala popisy produktů na e-shop přesně v jejich specifickém, trochu drzém a vtipném tónu.
Nejdřív to zkoušeli přes dlouhé instrukce, ale AI pořád zněla příliš roboticky. Vzali tedy 1000 svých nejlepších starých popisů produktů a udělali na nich fine-tuning menšího, levnějšího modelu. Výsledek? Model se naučil jejich přesný „firemní hlas” a teď generuje popisy, které copywriteři nemusí skoro vůbec upravovat.
Na našich firemních AI trénincích pomáháme firmám rozhodnout se, jestli na jejich problém stačí dobrý prompt, jestli potřebují RAG na vyhledávání v dokumentech, nebo jestli se jim skutečně vyplatí investovat do fine-tuningu.