Embedding
Také známo jako Vektorové vyjádření
Stručně
Seznam čísel, který zachytí význam textu — texty s podobným významem tak skončí blízko sebe.
Embedding model převede text na vektor o několika stovkách až tisících čísel. „Reset password“ a „nemůžu se přihlásit“ mohou skončit blízko sebe, i když nemají jedno společné slovo — přesně to klíčová slova neumí.
Blízkost znamená podobnost
Podobnost se měří kosinovým úhlem: čím menší úhel mezi dvěma vektory, tím příbuznější texty. Ve vyhledávání je hledání vlastně jen „najdi pasáže, jejichž vektor je nejblíž vektoru otázky“.
Embeddingy zachycují význam, ne pravdu. Pasáž „faktury se mažou po 30 dnech“ a pasáž „faktury se nikdy nemažou“ si jsou významově blízké — perfektní shoda pro dotaz na retenci a nebezpečné, když model nemá za úkol ctít přesné znění.
Praktické poznámky
Embeddingy různých modelů se nedají srovnávat. Když model vyměníte, musíte převést celý korpus znovu — počítejte s tím jako s migrací, ne jako se změnou konfigurace.
Kvalita dělení určuje strop. Dělte podle nadpisů a odstavců s malým překryvem, k každé pasáži přilepte název dokumentu a nikdy nenechte tabulku rozpadnout uprostřed řádku.
Související pojmy
RAG
Model dostane při každé otázce správné pasáže z vašich dokumentů, takže odpovídá z faktů, ne z paměti.
Vektorová databáze
Databáze (nebo její rozšíření), která rychle najde nejbližší vektory — úložiště pod vyhledáváním v RAG.
Token
Jednotka textu, po které AI model čte a píše — zhruba tři čtvrtě slova. Modely i ceny se počítají v tokenech.