Doladění modelu
Také známo jako Fine-tuning, Trénink vlastního modelu
Stručně
Dotrénování modelu na vašich příkladech, aby dodržel váš styl nebo formát — málokdy to, s čím je dobré začínat.
Doladění mění váhy modelu pomocí stovek až tisíců příkladů vstup-výstup. Neučíte ho fakta, ale chování: jak odpověď formulovat, jaký formát vracet, jak stručný má být váš tón podpory.
Nejdřív zkuste tohle
Prompt s dobrým příkladem nebo RAG na znalosti vyřeší většinu problémů levněji a rychleji. Doladění dává smysl, když máte hodně volání s velmi konzistentním výstupem, nebo když chcete, aby malý levný model dosáhl kvality velkého na úzkém a opakovaném úkolu.
Doladění nepřidá aktuální znalosti — zestárne ve chvíli, kdy se změní ceny nebo podmínky. Na fakta použijte retrieval, na chování je doladění reálná možnost.
Náklad, který se neplánuje
Data. Tisíce konzistentních příkladů v požadovaném formátu ještě neexistují, někdo je musí vytvořit a zkontrolovat a zkontrolovaná sada je pak zároveň vaše evaluační sada. Počítejte, že příprava dat zabere déle než samotné trénování.
Naplánujte i následnou péči: doladěný model je potřeba znovu vyhodnotit při každé změně a kromě všeho ostatního nasazení vám přibyla další verze modelu.
Zdroje
Související pojmy
Prompt
Pokyny a kontext, které modelu posíláte. Jasná struktura, příklady a definovaný formát výstupu jsou důležitější než vychytaná formulace.
RAG
Model dostane při každé otázce správné pasáže z vašich dokumentů, takže odpovídá z faktů, ne z paměti.
Velký jazykový model
Model natrénovaný na obrovském množství textu, který odhaduje další token — a to stačí na psaní, vysvětlování, překlad i úsudek.