LLM
LLM (Large Language Model) je jazykový model natrénovaný na veľkom množstve textu, ktorý predpovedá najpravdepodobnejšie pokračovanie a vie tak generovať text, odpovedať na otázky či sumarizovať dokumenty.
Ako to funguje
LLM sa trénuje na veľkom množstve textu tak, že sa učí predpovedať ďalšie slovo (presnejšie token) na základe predchádzajúceho kontextu. Po natrénovaní model nedostane pevné pravidlá „ak nastane X, urči Y“ — namiesto toho pri každej odpovedi počíta, ktoré pokračovanie je najpravdepodobnejšie. Preto vie reagovať na formulácie, ktoré nikdy predtým nevidel, ale z rovnakého dôvodu si niekedy niečo „domyslí“ (halucinácia), keď si nie je isté a napriek tomu musí odpovedať.
Príklad z firemnej praxe
V zákazníckom servise LLM prečíta dopyt zákazníka, rozpozná, o čo ide, a buď rovno odpovie zo znalostnej bázy, alebo dopyt roztriedi a pošle správnemu človeku. Pri spracovaní dokumentov LLM prečíta voľný text faktúry alebo objednávky a vytiahne z neho polia, ktoré potrebuje ďalší systém — na rozdiel od pravidiel založených na presnej šablóne to zvládne aj pri dokumente, ktorý vyzerá inak než ktorýkoľvek predtým videný.
Kedy áno a kedy nie
LLM sa hodí tam, kde je vstup voľný text alebo reč a treba mu porozumieť, nie len ho porovnať so vzorom. Nehodí sa ako jediná kontrola pri úlohách, kde chyba niečo stojí (platba, právny záväzok) — tam potrebuje kontrolu pravidlami alebo človekom. Model negarantuje presnosť, len pravdepodobnosť, a to treba počítať do návrhu, nie ignorovať.
Samotný LLM navyše nepozná firemné dáta, ktoré nikdy nevidel pri tréningu — aktuálny cenník, interné postupy, históriu konkrétneho zákazníka. Na to sa kombinuje s vyhľadávaním vo vlastných dokumentoch, viď RAG, alebo s prístupom k firemným systémom cez nástroje, ktoré popisuje MCP.