Newyorský právník Steven Schwartz se v roce 2023 odvolal u soudu na šest soudních precedentů, které mu pomohl najít ChatGPT. Případy měly jména, čísla jednací, citované pasáže. Jenže ani jeden z nich nikdy neexistoval. Soudce nakonec Schwartzovi uložil pokutu a případ obletěl svět jako varovný příběh o tom, co se stane, když člověk odpovědi AI nezkontroluje.

Tahle chyba zdaleka není jediná, kterou začátečníci s AI dělají, ale patří k těm nejdražším. Většina ostatních chyb je bohužel míň dramatická a o to snáz jim člověk podlehne, protože nebolí hned. Nesedí u toho soudce ani žádná pokuta, jen zbytečně ztracený čas nebo výsledek, který nesedí. Následujících sedm patří mezi ty, které vidím dokola, ať jde o studenty, kolegy v redakci, nebo lidi, kteří AI zkoušejí poprvé v životě.

Věřit každému slovu, jako by ho řekl ověřený expert

AI mluví sebejistě i ve chvíli, kdy si vymýšlí.

Tón odpovědi se nemění podle toho, jestli model cituje ověřený fakt, nebo si ho právě domyslel. Přesně tohle je past: lidé si sebejistý tón spojují s pravdivostí, protože takhle to funguje mezi lidmi. Kolega, který mluví jistě, obvykle ví, o čem mluví. U AI to neplatí, model si je stejně „jistý“ i tehdy, když si jméno soudního precedentu nebo citaci vymyslel od základu. Řešení není přestat AI používat, ale ověřovat si fakta tam, kde na tom skutečně záleží, jména, čísla, citace, právní nebo zdravotní tvrzení. Schwartzův případ skončil „jen“ pokutou a ostudou v médiích. U zdravotního nebo finančního rozhodnutí, které si člověk nechá poradit a bez kontroly podle něj jedná, může být cena mnohem vyšší. Konkrétní postup, jak takové ověřování dělat rychle a bez paranoie u každé věty, popisuje článek jak ověřovat fakta z AI a nenaletět halucinacím.

Zadat úkol jako vzkaz na nástěnce, ne jako instrukci kolegovi

„Napiš mi e-mail“ nebo „shrň to“ jsou zadání, po kterých musí model hodně domýšlet. Kdo dostal domů obdobně vágní zadání od šéfa, ví, jak to obvykle dopadne: úkol se odevzdá, ale napodruhé, protože napoprvé nikdo netrefil, co bylo vlastně potřeba.

AI funguje podobně. Čím míň informací dostane, tím víc si musí domyslet, a tím větší je šance, že výsledek nesedí. Pomůže napsat, pro koho text je, jaký má mít tón, jak dlouhý má být a v čem konkrétně se má lišit od zjevného. Rozdíl mezi „napiš mi e-mail o zpoždění“ a „napiš tři věty pro dodavatele, věcně, bez omluv navíc, termín se posouvá o týden kvůli technické závadě“ je citelný hned na první pokus. První verze donutí model hádat adresáta, tón i důvod zpoždění. Druhá mu nedává nic k domýšlení. Stejná chyba se opakuje u vysvětlování pojmů. „Co je inflace“ dostane obecnou učebnicovou odpověď, protože model neví, jestli se ptá školák nebo ekonom. „Vysvětli mi inflaci jako člověku bez ekonomického vzdělání, na příkladu nákupu v obchodě, kde jsem byl loni a letos“ cílí přesně na konkrétního člověka, ne na anonymního čtenáře učebnice.

Detailní postup, jak si prompt poskládat krok za krokem, rozebírá kompletní průvodce promptováním AI.

Poslat do chatu věci, které byste nedali cizímu na ulici

Rodné číslo, celá čísla platebních karet, interní firemní dokumenty, hesla. Lidé je do AI chatů vkládají běžně, protože rozhraní vypadá jako soukromá poznámka, ne jako služba, která data odesílá na cizí server.

Riziko není jen teoretické. Různé AI služby mají různé podmínky, jak dlouho data uchovávají a jestli je případně používají k dalšímu trénování, a tyhle podmínky se v čase mění. Bezpečné pravidlo je jednoduché: co byste nenapsali na veřejnou nástěnku ve firmě, to nepatří ani do chatu. U firemních dat navíc často jde přímo o povinnost chránit osobní údaje, ne jen o opatrnost. Typický scénář vypadá takhle, zaměstnanec chce urychlit práci a vloží do veřejného chatu celou tabulku se jmény zákazníků a jejich objednávkami, aby mu AI pomohla najít vzorce v datech. Tabulka v tu chvíli opustila firemní systém a ocitla se na serveru, nad kterým firma nemá kontrolu. Existují bezpečnější cesty, jak podobnou analýzu udělat, ale vyžadují o krok víc přemýšlení než zkopírovat a vložit. Přesně tomuhle tématu se podrobně věnuje článek AI a GDPR: jak bezpečně pracovat s daty v AI nástrojích.

Čekat, že si pamatuje včerejšek

Klasický moment zmatku: člověk se v novém rozhovoru zeptá „a co jsme řešili minule“, a AI netuší, o čem je řeč. Nový chat obvykle začíná od nuly, bez znalosti předchozích konverzací, pokud model nemá zapnutou explicitní dlouhodobou paměť a pokud jste mu do ní předtím sami něco neuložili.

Jeden konkrétní rozhovor si model naopak pamatuje celý, klidně stovky zpráv zpátky, takže záměna nastává hlavně na hranici mezi okny. Kdo si založí nový chat na každou drobnost, ztrácí kontext, který by se jinak nabízel sám. Kdo naopak táhne jeden rozhovor donekonečna přes stovky zpráv, narazí na opačný problém: model časem začne „zapomínat“ úplný začátek konverzace, protože má omezené množství textu, které dokáže najednou zohlednit. V praxi to znamená, že u delší práce, na kterou se vracíte po dnech, se vyplatí na začátek nové zprávy krátce shrnout kontext. Pár vět o tom, na čem pracujete a co už je hotové, ušetří pětiminutové vysvětlování pokaždé znovu. A když se rozhovor přece jen rozroste do stovek zpráv a model přestane rozumět souvislostem z úvodu, není to rozmar, je to signál začít nový chat s krátkým shrnutím toho podstatného.

Spokojit se s první odpovědí

Začátečníci často berou první výstup jako finální, protože působí hotově a upraveně. Jenže první odpověď je spíš první návrh, ne poslední slovo. Zkušenější uživatelé odpověď skoro nikdy nepoužijí přesně tak, jak přišla, doladí tón, zkrátí, doplní chybějící detail. Nejrychlejší cesta k lepšímu výsledku není psát zbrusu nový prompt od začátku. Stačí napsat „zkrať to na polovinu“, „tohle zní moc formálně, uprav to“ nebo „chybí mi tam konkrétní příklad, doplň ho“ a model upraví tu samou odpověď v kontextu rozhovoru. Tahle schopnost reagovat na doplnění je vlastně jeden z hlavních rozdílů proti vyhledávači, kde se pokaždé zadává nové heslo od nuly.

Platí to i obráceně, když se v zadání spletete. Nemusíte celou konverzaci mazat a začínat znovu. Stačí najet na vlastní zprávu výš v historii, upravit ji a odeslat znovu, model od toho místa pokračuje podle nového zadání, jako by ta špatná odbočka nikdy nenastala.

Sáhnout po rychlém režimu i na úlohu, která si žádá přemýšlení

Většina dnešních AI chatbotů nabízí volbu mezi rychlejším modelem pro běžné dotazy a pomalejším, který si před odpovědí odpověď důkladněji promyslí. Začátečníci tuhle volbu obvykle přehlédnou a zůstanou u výchozího nastavení, i když se ptají na něco, kde záleží na každém kroku úvahy, rozbor smlouvy s víc podmínkami, plán s několika na sebe navazujícími kroky, matematický nebo logický problém. Rychlejší model u takové úlohy neselže vždycky, ale riziko chyby roste, protože nemá prostor si odpověď v klidu rozmyslet. Jednoduchý test pomůže odhadnout, který režim zvolit: pokud byste úlohu vyřešili v hlavě za pár vteřin, stačí rychlejší varianta. Pokud byste si museli sednout s papírem a rozepsat si to na kroky, vyplatí se přepnout na tu pomalejší, i za cenu pár vteřin čekání navíc.

Nechat se odradit první blbostí a přestat to zkoušet

Opačná chyba než slepá důvěra, ale stejně častá. Člověk dostane jednu nepovedenou odpověď, model si něco vymyslí nebo odpoví vedle, a usoudí, že „AI na tohle prostě není“. Zavře okno a příště to nezkusí ani jinak formulované. Modely se liší podle úlohy i podle konkrétního zadání. Odpověď, která nesedí na první pokus, často sedne po přeformulování nebo po přidání kontextu, který v prvním pokusu chyběl. Jedno selhání nic neříká o tom, jestli je nástroj pro daný úkol použitelný, říká jen to, že tenhle konkrétní pokus nevyšel.

Podobně se chová i opačný extrém, kdy člověk po jedné dobré zkušenosti začne AI důvěřovat úplně bezmezně a přestane rozlišovat, na co se hodí a na co ne. Zdravá míra je někde mezi, průběžně zkoušet, průběžně kontrolovat, a nevynášet nad celým nástrojem definitivní soud podle jedné zkušenosti, ať dobré, nebo špatné.

Na co si dát pozor

Všech sedm chyb má společného jmenovatele: vznikají tam, kde člověk zachází s AI buď jako s neomylnou autoritou, nebo jako s běžnou aplikací bez jakéhokoli rizika. Ani jedno neplatí. AI je nástroj, který potřebuje jasné zadání, kontrolu výsledku a rozumnou opatrnost u citlivých informací, podobně jako by člověk čekal od šikovného, ale nezkušeného asistenta. Většina těchhle chyb navíc nezmizí sama tím, že si člověk koupí dražší tarif nebo přejde na novější model. Souvisí spíš s návykem, jak se s nástrojem pracuje, než s tím, jak dobrý nástroj zrovna je. I ten nejschopnější model neuhádne, co v hlavě uživatele chybí říct, a nezachrání citlivá data poslaná bez rozmyslu.

Shrnutí

Nejrychlejší způsob, jak se těmhle chybám vyhnout, je jedna návyková věta před odesláním zprávy: co přesně od téhle odpovědi potřebuju a co si musím sám ověřit, než ji použiju. Zbytek, konkrétní zadání, opatrnost u dat a ochota to zkusit znovu jinak, přijde s praxí. Nikdo se to nenaučí z jednoho článku, ale ví aspoň, kde má hledat, když se něco pokazí.