Stručně
- Model píše, co zní pravděpodobně, ne nutně to, co je pravda.
- Nejvíc pomáhá dát AI vaše ověřené podklady a chtít odkaz na zdroj.
- U důležitých kroků vždy rozhoduje člověk.
Proč k halucinacím dochází
Jazykový model v sobě nemá databázi faktů, kterou by prohledával. Skládá odpověď tak, aby zněla přirozeně a navazovala na otázku. Když potřebnou informaci nemá, často ji „doplní“ něčím, co vypadá věrohodně.
Výzkumníci z OpenAI v roce 2025 popsali ještě jeden důvod: trénování a testy modelů často odměňují tipování víc než přiznání „nevím“. Model se tak naučí raději hádat.
Typicky se to stává u přesných údajů: čísel, dat, jmen, citací zákonů nebo interních pravidel firmy, které model nikdy neviděl.
Zrádné je, že vymyšlená odpověď zní stejně sebejistě jako správná. Model nedává najevo, že si není jistý, pokud ho o to výslovně nepožádáte. Proto nestačí spoléhat na to, že chybu „poznáte na první pohled“. Čím přesvědčivější text, tím snáz se chyba dostane dál, třeba do e-mailu klientovi, do nabídky nebo do smlouvy.
Jak halucinace vypadá v praxi
- Chatbot e-shopu slíbí zákazníkovi dopravu zdarma, kterou nenabízíte.
- AI shrnutí smlouvy uvede výpovědní lhůtu, která ve smlouvě není.
- Odpověď občanovi cituje neexistující vyhlášku.
Všechny tři případy spojuje jedno: AI odpovídala z „obecné paměti“ místo z vašich podkladů.
Jak halucinace omezit
- Dejte AI vaše podklady. Agent má odpovídat jen z ceníku, směrnic nebo dokumentů, které schválíte. Této technice se říká RAG.
- Chtějte zdroj. Ke každé odpovědi agent ukáže, ze kterého dokumentu čerpal. Kontrola je pak otázkou vteřin.
- Povolte „nevím“. Agent má jasnou instrukci: pokud odpověď v podkladech není, předá dotaz člověku. Jak takové zadání napsat, radí článek Jak psát prompty.
- Kontrolujte strojově, co jde. Čísla, data a IČO se dají ověřit proti systému automaticky.
- Nechte rozhodovat člověka. U peněz, podmínek a citlivých věcí agent jen připravuje návrh (human-in-the-loop).
Stejné zásady platí i pro běžné nástroje jako ChatGPT nebo Copilot. Shrnuje je článek Jak bezpečně používat AI ve firmě.
Znamená to, že AI nelze věřit?
Ne. Znamená to, že se AI má nasazovat stejně jako nový kolega: s jasnými podklady, pravidly a kontrolou. Dobře postavený agent chybuje méně, protože nepracuje „z hlavy“, ale z vašich dat. A když si není jistý, řekne to.
Pomůže i krátké školení týmu. Lidé by měli vědět, u jakých úkolů je AI spolehlivý pomocník a kde musí výsledek vždy ověřit. Typicky u čísel, termínů, citací a všeho, co jde ven ke klientům. Platí jednoduché pravidlo: co podepisujete svým jménem, to si zkontrolujte, i když text připravila AI.
Pravidla, jak má tým s AI zacházet, můžete sepsat podle článku Pravidla pro AI ve firmě.
Časté otázky
Dá se halucinacím úplně zabránit?
Úplně ne, ale dají se výrazně omezit: prací s vlastními podklady, odkazem na zdroj u každé odpovědi, strojovou kontrolou údajů a schvalováním důležitých kroků člověkem.
Halucinují všechny modely stejně?
Ne, modely se v tom liší. Rozhodující je ale způsob nasazení, ne jen výběr modelu.
Jak poznám, že AI halucinuje?
Nejspolehlivěji tak, že od ní chcete zdroj. Pokud neumí ukázat, odkud informaci má, berte ji jako neověřenou.