AI má jednu vlastnost, která je současně působivá i nebezpečná: téměř vždy má co říct.
Zeptejte se na známý historický fakt a dostanete odpověď. Zeptejte se na komplikovaný problém a dostanete odpověď. A když se zeptáte na něco, k čemu chybí informace, někdy dostanete odpověď také.
Právě tam začíná problém.
Nejnebezpečnější odpověď AI totiž nemusí být očividný nesmysl. Může to být krásně napsaná, konkrétní a naprosto sebevědomá věta, které chybí jediná drobnost: pravda.
Přirozená reakce je připsat do zadání něco jako:
„Nevymýšlej si.“
Nebo:
„Pokud nevíš, řekni nevím.“
To je lepší než nic. Není to ale kouzelné zaklínadlo proti halucinacím. Aby AI mohla správně říct „nevím“, musí nejprve správně rozpoznat, že nemá dost podkladů. A právě to současné jazykové modely neumějí dokonale.
Dobrá zpráva je, že způsob, jakým otázku položíte, jejich chování ovlivnit může.
Proč AI raději odpoví, než aby řekla „nevím“
Když člověk nezná odpověď, může pokrčit rameny. Jazykový model funguje jinak. Je vytvořený tak, aby na základě kontextu generoval další pravděpodobný text.
To samo o sobě neznamená, že si musí vymýšlet. Moderní modely jsou výrazně lepší v práci s nejistotou než dřívější generace. Halucinace ale nezmizely.
Jedním z důvodů je jednoduchá pobídka: v mnoha klasických testech je ceněná správná odpověď. „Nevím“ bod nepřinese. Hádání tak může v některých způsobech hodnocení vypadat výhodněji než opatrnost, přestože z pohledu uživatele může být chybná sebevědomá odpověď mnohem horší než přiznaná nejistota.
A přesně tady můžeme změnit pravidla hry.
Ne tím, že AI přikážeme být neomylná. To neumíme.
Můžeme jí ale explicitně říct, že neodpovědět je legitimní výsledek.
Nejjednodušší verze: dovolte AI neodpovědět
Pro běžné použití nemusíte psát půl stránky instrukcí. Začněte jednou větou:
„Pokud odpověď nevíš nebo si nejsi jistý, řekni to. Nevymýšlej chybějící informace jen proto, abys poskytl odpověď.“
Je to drobná změna, ale mění očekávání. Úkolem už není „za každou cenu mi něco napiš“.
Úkolem je „odpověz, když pro odpověď máš dostatečný základ“.
Výzkum schopnosti jazykových modelů zdržet se odpovědi ukazuje, že přísněji formulovaný prompt může tuto schopnost zlepšit. Zároveň ale ukazuje druhou, pro praxi důležitější část: ani velmi schopné modely nerozpoznávají správně všechny situace, kdy by měly odpověď odmítnout.
Proto má smysl jít o krok dál.
Lepší prompt: neříkej jen „nevím“, zkontroluj nejdřív otázku
Existuje několik různých situací, které na první pohled vypadají stejně.
AI může odpověď skutečně neznat. Může jí chybět údaj, bez kterého odpověď nejde vypočítat. Otázka může obsahovat chybný předpoklad. Můžeme se ptát na něco, co objektivně nelze vědět. Nebo může být odpověď pouze odhadem, přestože ji chceme jako fakt.
Proto je užitečnější instrukce, která AI neříká jen „když nevíš, přiznej to“, ale nutí ji zvažovat, proč by neměla odpovědět.
Prompt, který si můžete uložit
Tenhle prompt můžete vložit před důležitější faktický dotaz, na začátek delší konverzace nebo do vlastních instrukcí pracovního AI asistenta.
Pořád ale nejde o bezpečnostní pás, který vás ochrání před každou chybnou odpovědí. Je to spíš změna pracovního režimu.
Čtyři různé důvody, proč by AI měla zabrzdit
Rozdíl je dobře vidět na jednoduchých otázkách.
1. Otázka obsahuje chybný předpoklad
„Za které dílo získal Václav Havel v roce 1992 Nobelovu cenu za literaturu?“
Špatná reakce není jen vymyšlený název díla. Chybou by bylo už samotné přijetí premisy otázky. Václav Havel Nobelovu cenu za literaturu nezískal.
Užitečná AI proto nemá pouze hledat odpověď. Má být schopná říct: otázka stojí na nesprávném předpokladu.
To je důvod, proč je v našem promptu věta „nepovažuj tvrzení obsažená v mé otázce automaticky za pravdivá“.
2. Odpověď by šla spočítat, ale chybí data
„Petr jel autem 240 kilometrů. Jakou měl průměrnou rychlost?“
Číslo 240 svádí k počítání. Jenže bez času jízdy průměrnou rychlost neurčíme.
Správná odpověď tedy není číslo.
Správná odpověď je informace, že chybí doba jízdy.
Tohle je důležitý rozdíl. „Nevím“ nemusí znamenat nedostatek znalostí modelu. Někdy znamená, že správná odpověď z poskytnutých informací jednoduše neexistuje.
3. Ptáme se na něco, co nelze přesně vědět
„Kolik lidí na světě právě v tuto sekundu pije kávu?“
Mohli bychom odhadovat spotřebu kávy, počet obyvatel nebo časová pásma. Přesný počet v konkrétní sekundě ale nemáme jak spolehlivě zjistit.
Dobrá odpověď proto může nabídnout odhad, pokud o něj stojíte. Neměla by však odhad převléknout za přesný fakt.
4. Model prostě neví
Tohle je paradoxně nejtěžší případ.
Když otázce chybí údaj, lze nedostatek logicky odhalit. Když obsahuje očividně chybnou premisu, může ji model rozpoznat. U obskurního faktu ale může mít model jen neúplnou nebo nepřesnou stopu, a přesto vytvořit velmi přesvědčivou odpověď.
A tady žádná formulka neposkytuje stoprocentní ochranu.
„Jsem si jistý na 82 %“ není řešení
Mohlo by se zdát, že stačí požádat AI, aby ke každé odpovědi připsala procento jistoty.
Jenže číslo napsané modelem není automaticky přesně změřená pravděpodobnost, že je jeho odpověď správná. Může být užitečným signálem v konkrétně navrženém systému, ale v obyčejném chatu bychom z něj neměli dělat laboratorní přístroj.
Pro běžné použití je často užitečnější kvalitativní rozlišení:
- tohle mohu doložit
- tohle je pravděpodobný odhad
- tady mi chybí informace
- tohle nevím
Čtenář nepotřebuje falešný pocit matematické přesnosti. Potřebuje vědět, které části odpovědi mají pevný základ a které ne.
U důležitých faktů změňte ještě jednu věc: chtějte ověření
Prompt, který dovolí AI říct „nevím“, řeší jen část problému.
Pokud na odpovědi skutečně záleží, je lepší změnit celý postup. Neptat se pouze „co je pravda?“, ale také „z čeho to víme?“.
Má-li AI k dispozici webové vyhledávání, dokumenty nebo jiné zdroje, můžete zadání rozšířit:
Tím se mění role AI. Už po ní nechcete jen vytvořit odpověď ze znalostí, které má k dispozici. Chcete po ní také pracovat s důkazy.
Ani vyhledávání samozřejmě nezaručuje bezchybný výsledek. Model může zdroj špatně interpretovat, vybrat nekvalitní podklad nebo z něj vyvodit víc, než skutečně říká. U důležitých rozhodnutí proto pořád dává smysl otevřít primární zdroj a podívat se na něj vlastníma očima.
Kdy tento prompt používat
Nemá smysl přidávat bezpečnostní protokol pokaždé, když chcete vymyslet název playlistu nebo deset variant titulku.
Největší hodnotu má tam, kde AI pracuje s fakty a chyba může snadno projít bez povšimnutí:
- při rešerši tématu, které sami dobře neznáte
- při práci s konkrétními jmény, daty, čísly a událostmi
- když se ptáte na obskurní informace
- když z odpovědi vzniká další dokument, prezentace nebo rozhodnutí
- když máte podezření, že vaše otázka sama může obsahovat chybný předpoklad
Čím důležitější je správnost, tím méně by měl být cílem „dostat odpověď“ a tím více dostat odpověď, která umí ukázat své hranice.
Nejlepší odpověď někdy není „nevím“
Ještě jedna věc: nechceme z AI udělat přehnaně opatrného asistenta, který odmítne všechno, čím si není absolutně jistý.
Existují lepší odpovědi než prosté „nevím“.
„Z těchto údajů to nelze určit.“
„Otázka obsahuje chybný předpoklad.“
„Mohu nabídnout odhad, ale ne přesné číslo.“
„Tohle nemohu spolehlivě ověřit.“
„Chybí mi údaj X. Když ho doplníte, můžu pokračovat.“
Tohle je ve skutečnosti užitečnější než samotné přiznání nevědomosti. AI totiž nejen zabrzdí, ale zároveň ukáže, co je potřeba udělat, aby mohla pokračovat poctivě.
Prompt není lék na halucinace. Je to dohoda o pravidlech
Bylo by lákavé zakončit tenhle článek větou: „Používejte náš prompt a AI už si nebude vymýšlet.“
Jenže tím bychom udělali přesně to, před čím článek varuje. Tvrdili bychom víc, než můžeme doložit.
Současné jazykové modely mohou halucinovat. Mohou se mýlit i v tom, jak jisté si svou odpovědí mají být. A žádný univerzální prompt tuto vlastnost jednoduše nevypne.
Můžeme ale udělat něco praktičtějšího.
Můžeme přestat AI zadávat pouze úkol „dej mi odpověď“.
A místo něj nastavit pravidlo:
„Dej mi odpověď, pokud pro ni máš dost podkladů. Když ne, řekni mi to.“
Možná to zní jako malá změna.
Ve světě, kde dokáže stroj vytvořit přesvědčivou odpověď téměř na cokoli, je ale schopnost říct „nevím“ někdy jedna z jeho nejužitečnějších funkcí.
Časté otázky
Stačí AI napsat „nehalucinuj“?
Ne. Taková instrukce může model upozornit, že vám záleží na přesnosti, ale nezaručí, že správně pozná každou vlastní chybu nebo mezeru ve znalostech. Užitečnější je explicitně povolit nejistotu, kontrolu předpokladů a odmítnutí odpovědi, když chybí podklady.
Řekne mi AI po tomto promptu vždycky „nevím“, když neví?
Ne, a článek to ani netvrdí. Prompt mění pobídku: dává modelu najevo, že přiznaná nejistota je vítaná odpověď. Šanci na poctivé „nevím“ tím zvyšuje, ale nezaručuje, že model každou mezeru ve svých znalostech správně rozpozná. U důležitých faktů proto vždy počítejte s vlastním ověřením.
Funguje tento prompt v ChatGPT, Claude i dalších AI?
Princip není vázaný na jednu službu: jasně říkáte, jaké chování od jazykového modelu očekáváte. Konkrétní výsledky se ale mohou mezi modely, jejich verzemi, nastavením a typem úlohy lišit.
Je lepší chtít po AI procento jistoty?
Neberte automaticky například „85 %“ jako přesně změřenou pravděpodobnost správnosti. Pro běžnou práci bývá praktičtější chtít, aby AI rozlišila ověřený fakt, odhad, chybějící informaci a nejistotu.
Kdy je lepší použít vyhledávání než prompt?
Když záleží na aktuálnosti nebo přesnosti konkrétního faktu. Prompt upravuje chování modelu, ale nedodává mu chybějící aktuální informace. U důležitých tvrzení je vhodné pracovat s dohledatelnými zdroji a zásadní informace ověřit.
Zdroje a reference
- Výzkum příčin halucinací a role hádání versus přiznání nejistoty — OpenAI, 2025
- Výzkum schopnosti jazykových modelů zdržet se odpovědi — COLING / ACL Anthology, 2025
