V květnu 2024 nová funkce Google AI Overview, která nad výsledky vyhledávání zobrazuje shrnutí vygenerované umělou inteligencí, na dotaz „jak přilepit sýr na pizzu, aby nesklouzával” doporučila přidat do omáčky netoxické lepidlo. Google odpověď převzal ze starého vtipného příspěvku na Redditu a vydal ho za seriózní radu. Screenshoty obletěly internet během hodin a Google musel funkci narychlo upravovat.

Byla to komická, neškodná ukázka mnohem obecnějšího problému. AI modely mají sklon k takzvaným halucinacím, tedy sebevědomě podávaným informacím, které neodpovídají realitě. Tomu, proč k halucinacím dochází, se podrobně věnuje samostatný článek o halucinacích AI. Tenhle text se soustředí na praktickou stránku: jak si odpověď od AI ověřit dřív, než se na ni spolehnete, a to i u témat, kde chyba nebude tak vtipná jako lepidlo na pizze.

Základní pravidlo: čím vyšší cena chyby, tím důkladnější ověření

Ne každou informaci od AI je potřeba ověřovat se stejnou pečlivostí. Recept na večeři, návrh formulace e-mailu nebo nápad na název firmy nesou minimální riziko, pokud se něco malého nepovede. Právní podání, zdravotní rozhodnutí, investice nebo cokoliv, co jde ven pod vaším jménem na veřejnost, riziko nesou vysoké, a tam se ověření nedá přeskočit.

Tenhle přístup podrobněji rozebírá i přehled bezpečnosti a soukromí u AI, který se věnuje širším rizikům kolem umělé inteligence. Tady se zaměříme konkrétně na to, jak fakticky ověřovat obsah odpovědi.

Jaké typy informací si zaslouží extra pozornost

Jména, čísla a citace patří k nejrizikovějším. Model dokáže vymyslet jméno autora studie, které zní naprosto věrohodně, přesně jako v případu amerického právníka, který si nechal od ChatGPT připravit podklady k soudu a dostal šest smyšlených precedentů. Datum, přesná částka nebo citovaný zákon se ověřují stejně opatrně, protože jedna špatná číslice změní smysl celé informace.

Odpovědi na okrajová nebo velmi aktuální témata jsou rizikovější než odpovědi na dobře zdokumentovaná obecná fakta. Čím míň se dané téma v tréninkových datech modelu vyskytovalo, tím větší je šance, že si model vzorec jen domyslí. Události, které nastaly nedávno, model navíc často vůbec nezná, pokud nemá přístup k aktuálnímu vyhledávání, a i tak může kombinovat staré a nové informace nesprávně.

Jak vypadá rozdíl v praxi

Představte si dva lidi, kteří se AI zeptají na stejnou věc: kdy přesně vstoupila v platnost konkrétní změna zákona. První odpověď zkopíruje rovnou do e-mailu klientovi. Druhý si všimne, že jde o konkrétní datum s právním dopadem, otevře oficiální sbírku zákonů nebo web příslušného úřadu a datum si porovná, než ho použije dál.

Rozdíl mezi nimi není v tom, že by druhý člověk AI nedůvěřoval o nic víc. Rozdíl je v tom, že si všiml, o jaký typ informace jde, a podle toho zvolil úroveň ověření. Přesně tenhle návyk je cílem celého tohoto textu.

Jak fakt reálně ověřit

Nejjednodušší způsob je dohledat stejnou informaci nezávisle, na oficiální stránce instituce, v důvěryhodném médiu nebo v primárním zdroji, ne přeposílat to, co napsal model, dál bez kontroly. Pokud AI cituje studii, vyhledejte ji podle názvu, ne podle toho, jak ji model popsal, protože i shrnutí může být zkreslené oproti originálu.

Zeptejte se modelu přímo na zdroj a na míru jistoty. „Odkud tuhle informaci máš” nebo „jak jistý si tím jsi” model někdy donutí přiznat, že jde spíš o odhad než o ověřené tvrzení. Nefunguje to spolehlivě pokaždé, protože model svou nejistotu neumí vždy rozpoznat, přesto se tenhle dotaz vyplatí zkusit jako první krok.

Porovnání odpovědi mezi víc nástroji funguje jako rychlá pojistka. Zeptejte se na totéž ChatGPT, Claude i Gemini. Pokud se všechny tři shodnou na stejném faktu, riziko halucinace klesá, protože jde o tři různé modely trénované na částečně odlišných datech. Pokud se rozcházejí, je to jasný signál, že fakt potřebuje nezávislé ověření mimo AI.

Podezřelý obrázek nebo fotku, u které máte pochybnost, jestli je skutečná, jde ověřit i bez AI nástroje: zpětné vyhledávání obrázků (reverse image search) v Google nebo Bing najde, kde se stejná fotka na internetu objevila dřív, a často tak odhalí, že jde o starší snímek použitý v novém, zavádějícím kontextu, nebo o AI generovaný obrázek, který už někdo dřív identifikoval a popsal.

Nástroje, které pracují s citovanými zdroji

Někteří asistenti dnes odpověď rovnou opírají o konkrétní nalezené webové stránky, místo aby spoléhali čistě na paměť z trénování. Perplexity je postavené přímo na tomhle principu: ke každému tvrzení připojí odkaz na zdroj, ze kterého informaci čerpalo. Také ChatGPT, Copilot a Gemini umí zapnout vyhledávání na webu a připojit citace pod odpovědí, poznáte to podle malých číslovaných odkazů nebo přehledu zdrojů na konci.

Vedle přímo v chatu se dá stejný princip využít i mimo AI: české weby jako Manipulátoři.cz nebo mezinárodní projekty typu AFP Fact Check se dlouhodobě věnují ověřování virálních tvrzení, obrázků a videí, včetně těch vytvořených AI. Pokud narazíte na podezřelou zprávu nebo obrázek, který se šíří sociálními sítěmi, zkuste nejdřív zjistit, jestli ho už někdo nezanalyzoval, než ho sami dál sdílíte.

Tahle metoda se odborně nazývá RAG, tedy generování rozšířené o vyhledávání, kdy model odpověď staví na reálně nalezeném textu, ne jen na predikci z paměti. Snižuje to riziko halucinace u aktuálních témat, úplně ho ale neodstraňuje. Model i tak dokáže nalezenou stránku špatně interpretovat nebo skombinovat dvě různé informace do jedné nesprávné věty.

Past, na kterou se snadno zapomíná: vymyšlené citace

Model dokáže halucinovat i samotné citace a odkazy, ne jen fakta v textu. Vygenerovaný odkaz může vést na stránku, která neexistuje, nebo na existující stránku, která ale netvrdí to, co model uvádí. Přítomnost číslovaného zdroje pod odpovědí proto sama o sobě není důkaz pravdivosti, je to jen vodítko, kam se podívat. Odkaz je vždycky potřeba skutečně otevřít a přečíst, ne jen zaregistrovat, že tam nějaký je.

Jak s tím pracují redakce

Seriózní redakce mají pro práci s AI výstupy podobné pravidlo, jaké dlouho platilo pro anonymní tip od zdroje: bez druhého nezávislého potvrzení to nejde publikovat. Konkrétní jméno, číslo nebo citace z AI odpovědi novinář dohledá v primárním zdroji, ne v tom, jak ho model parafrázoval. Stejný přístup se vyplatí přenést i do běžného použití: AI výstup berte jako první vodítko, kam se podívat, ne jako hotovou, publikovatelnou informaci.

Na co si dát pozor

Sebejistý tón odpovědi neznamená spolehlivost. Model neumí „znít nejistě” jen proto, že si není jistý, halucinace zní stejně plynule jako ověřený fakt. Nenechte se ukolébat tím, jak hladce je věta napsaná.

Dlouhé rozhovory zvyšují riziko drobných chyb, protože model má omezenou kapacitu, kolik z předchozí konverzace drží najednou v hlavě. U dlouhé práce na jednom tématu je dobré čas od času hlavní fakta zopakovat a nechat si je potvrdit, ne spoléhat na to, že si model pamatuje všechno přesně od začátku.

Shrnutí

Ověřování faktů od AI není o nedůvěře ke všem výstupům, je o tom vědět, kde přesně riziko roste, jména, čísla, citace, okrajová témata, a tam přidat nezávislou kontrolu. Google s lepidlem na pizzu dopadl jen trapně. U právního, zdravotního nebo finančního rozhodnutí by stejná chyba stála mnohem víc.

Nejrychlejší návyk, který se vyplatí zavést hned: u každého faktu, který chcete použít dál, se na chvíli zastavit a zeptat se, jestli byste ho vsadili na vlastní peníze. Pokud ne, ověřte ho nezávisle, než ho použijete.