Stručně
- Agent připraví, člověk rozhodne. Platí u všeho, kde jde o peníze, podmínky nebo citlivé údaje.
- Hranice se určují předem pro každý úkol zvlášť.
- Jak roste důvěra, může agent časem dělat víc sám.
Princip na jednom příkladu
Do realitní kanceláře přijde poptávka. Agent ji přečte, doplní chybějící údaje od zájemce, porovná ji s nabídkou a připraví návrh odpovědi s termíny prohlídky. Makléř jen zkontroluje a odešle.
Agent tu udělal většinu mechanické práce. Rozhodnutí, co a komu nabídnout, zůstalo u člověka. Co přesně AI agent je a jak se liší od chatu, vysvětluje článek AI agenti ve firmě.
Tři úrovně samostatnosti
| Úroveň | Co dělá agent | Co dělá člověk | Kdy použít |
|---|---|---|---|
| 1. Návrh | Připraví podklad nebo odpověď | Zkontroluje, upraví, odešle | Na začátku a u citlivých věcí |
| 2. Výjimky | Běžné případy vyřídí sám | Řeší jen to, co agent označí | Když se agent osvědčí na jednoduchých případech |
| 3. Dohled | Pracuje samostatně | Namátkově kontroluje přehledy | Jen u nízkého rizika a jasných pravidel |
Většina firemních úkolů začíná na úrovni 1. Posun dál je rozhodnutí vedení, ne technologie. A platí to i obráceně: když se proces změní nebo agent začne chybovat, vraťte ho klidně o úroveň níž.
Kde má vždy rozhodovat člověk
- Peníze: platby, slevy, cenové nabídky, reklamace.
- Podmínky a závazky: smlouvy, sliby zákazníkům, termíny.
- Citlivé údaje: zdraví, osobní situace, děti.
- Nejasné situace: stížnosti, konflikty, cokoli nového.
- Rozhodnutí o lidech: výběr uchazečů, hodnocení, přístup ke službám.
Poslední bod má i právní rozměr. GDPR dává lidem právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud má pro ně závažné účinky. AI Act zase vyžaduje lidský dohled u vysoce rizikových systémů AI.
Jak hranice nastavit v praxi
- Popište úkol krok za krokem, jak ho dnes děláte.
- U každého kroku určete: připraví agent, nebo rozhodne člověk?
- Stanovte, kdy má agent práci vždy předat (například částka nad limit, stížnost, chybějící údaj).
- Určete, kdo schvaluje a jak rychle.
- Po měsíci provozu vyhodnoťte, kde agent chyboval a kde by mohl dělat víc.
Hranice si zapište do interních pravidel, aby je znali všichni, kdo s agentem pracují. Jak takový postup zapadá do celého zavádění, popisuje článek Jak zavést AI ve firmě za 30 dní.
Proč to šetří čas, a ne ho bere
Kontrola hotového návrhu trvá zlomek času oproti jeho ruční přípravě. Člověk navíc zachytí chyby, které by AI udělala sebejistě, například vymyšlený údaj. A z oprav, které při kontrole dělá, je vidět, kde agent potřebuje upravit pravidla nebo podklady.
Důležitý je i záznam. Ke každému kroku agenta by mělo být dohledatelné, co navrhl, kdo to schválil a co se případně změnilo. Když se později objeví stížnost nebo dotaz, víte, co se stalo. Záznamy jsou zároveň nejlepší podklad pro rozhodnutí, jestli agentovi svěřit víc samostatnosti, nebo naopak méně.
Časté otázky
Neztrácí se úspora času, když musí člověk všechno schvalovat?
Většinou ne. Kontrola připraveného návrhu trvá zlomek času oproti jeho ruční přípravě. Navíc lze časem běžné případy pustit bez schvalování a člověk řeší jen výjimky.
Kdo nese odpovědnost za chybu agenta?
Firma, stejně jako za práci zaměstnance nebo jiného nástroje. Proto se u důležitých kroků nastavuje schvalování člověkem a o práci agenta se vede záznam.
Jak poznám, že agent může dělat víc sám?
Když na úkolu delší dobu chybuje minimálně a chyby jsou snadno opravitelné. Rozhodnutí by mělo vycházet z dat z provozu, ne z pocitu.