Human-in-the-loop

Ako to funguje

Automatizácia alebo AI agent spracuje úlohu až po bod, kde by ďalší krok znamenal riziko — platbu, odoslanie správy zákazníkovi navonok, zmenu zmluvných podmienok, alebo prípad, ktorý sa vymyká bežnému vzoru. V tomto bode sa proces zastaví a pripravený podklad (návrh, zhrnutie, dôvod neistoty) dostane človek na schválenie alebo úpravu. Systém teda nerozhoduje sám o všetkom, len tam, kde je pravidlo jasné a riziko chyby nízke.

Príklad z firemnej praxe

Pri spracovaní faktúr automatizácia bežne založí záväzok sama, keď sa suma a dodávateľ zhodujú so zaužívaným vzorom. Keď faktúra prekročí stanovenú sumu, má nezvyčajného dodávateľa alebo sa údaje nedajú vytiahnuť s istotou, systém ju namiesto automatického spracovania pošle na schválenie účtovníčke s vysvetlením, čo ju k tomu viedlo.

Kedy áno a kedy nie

Human-in-the-loop patrí všade, kde chyba niečo stojí — peniaze, právny záväzok, dôveru zákazníka — alebo kde si model nie je istý. Pri rutinných prípadoch s jasným pravidlom a nízkym rizikom naopak spomaľuje proces bez úžitku; zmyslom automatizácie je odbremeniť človeka, nie mu posielať na schválenie každý jeden riadok. Správne nastavenie je otázka miery: kontrola pri výnimkách a rizikových prípadoch, automatický beh pri bežných.

Táto hranica sa navyše dá posúvať v čase. Keď sa pri sledovaní ukáže, že automatizácia určitý typ prípadu vyhodnocuje spoľahlivo a schválenia sú opakovane len formálne, dá sa prah na kontrolu človekom uvoľniť — a inde, kde sa objavia chyby, naopak sprísniť.

Súvisiace pojmy

AI agent · LLM · automatizácia procesov