LLM (velký jazykový model)
Jazykový model
LLM (Large Language Model, velký jazykový model) je typ umělé inteligence trénovaný na obrovském množství textu, který umí rozumět jazyku a generovat ho. Funguje tak, že na základě předchozího textu předpovídá nejpravděpodobnější pokračování slovo po slově, dokud nesestaví celou odpověď.
Jak LLM funguje
Velký jazykový model se během trénování učí z obrovského množství textu a zachycuje v něm statistické vztahy mezi slovy a pojmy. Když mu zadáte dotaz nebo pokyn, model nehledá odpověď v databázi, ale postupně předpovídá nejpravděpodobnější další slova tak, aby výsledek dával smysl.
Právě proto je důležité, jak svůj požadavek zformulujete. Text, který modelu zadáte, se nazývá prompt a jeho kvalita přímo ovlivňuje kvalitu odpovědi. Model si zároveň pamatuje jen omezený rozsah textu najednou, takže u dlouhých konverzací může na starší detaily zapomenout.
Na co se LLM hodí
LLM exceluje v úlohách spojených s jazykem. Ve firmě je využijete na práci, která by jinak zabrala hodně času při psaní nebo čtení textu. Nejlépe fungují jako pomocník, jehož výstup ještě zkontroluje člověk.
- Psaní a úprava textů pro web, e-maily a marketing.
- Shrnutí dlouhých dokumentů, přepisů a zpráv do pár vět.
- Překlady a úprava tónu textu pro různá publika.
- Odpovědi na dotazy zákazníků v chatbotu nebo na podpoře.
Kde jsou hranice LLM
LLM negarantuje pravdivost. Když nemá dostatek informací, může si odpověď vymyslet a podat ji přesvědčivě. Tomuto jevu se říká halucinace. Model také zná jen to, na čem byl trénován, takže o nejnovějších událostech nebo o vašich interních datech sám neví. Tyto mezery se řeší například metodou RAG, která modelu dodá relevantní podklady.
Chcete naučit tým pracovat s jazykovými modely?
Podívejte se na naše AI školeníČasto kladené otázky
Jsou odpovědi LLM vždy pravdivé?
Ne. Model generuje text na základě pravděpodobnosti, ne z ověřené databáze faktů, proto může znít jistě i tehdy, když se mýlí. U důležitých informací je vždy potřeba výstup ověřit nebo modelu dodat spolehlivé podklady.
Umí LLM pracovat s mými firemními daty?
Sám od sebe ne, zná jen to, na čem byl trénován. Přístup k vašim dokumentům a datům mu však umíte dát přes přístup zvaný RAG, který do odpovědi přidá relevantní informace z vašich zdrojů.
Je bezpečné vkládat do LLM citlivé údaje?
Závisí to na konkrétním nástroji a jeho podmínkách. U veřejných služeb je třeba být opatrný s osobními a obchodními údaji. Pro práci s citlivými daty se volí řešení s jasnými pravidly zpracování a uchovávání.