Zeptejte se oblíbeného chatbota, co se stalo tento týden, a s trochou štěstí vám odpoví správně, protože si tu informaci došel dohledat na internet. Zeptejte se ho ale na něco, co se odehrálo o pár měsíců dřív, a spolehněte se jen na to, co má „v hlavě“ z trénování, a odpověď může vyjít vedle, aniž byste to na první pohled poznali.

Není to náhodná chyba.

Je to vestavěná vlastnost způsobu, jakým se dnešní modely staví, a v tomhle textu ukazuju, kde konkrétně podobné hranice dnešní AI leží: u zastaralých informací, dlouhých dokumentů, velkých čísel i všeho, co se odehrává mimo obrazovku.

Jedna slabina dnešních modelů je tak známá, že by zasloužila vlastní článek, a taky ho má. Takzvané halucinace, tedy sebevědomě podané vymyšlené fakty nebo citace, rozebírám v samostatném textu o halucinacích AI. Tady se soustředím na to, co zůstává, i když halucinace zrovna neřešíte: model, který neví o ničem po určitém datu, který ztrácí nit uprostřed dlouhého textu, který si splete velké číslo a který nemá tělo ani smysly.

Model s hlavou zastavenou v únoru

Každý velký model se učí na obrovském množství textu, který někdo posbíral do určitého data, a pak trénink skončí. Tomuhle datu se říká uzávěrka trénovacích dat, anglicky knowledge cutoff, a znamená to, že model nemá o ničem, co se stalo později, žádnou vlastní představu, dokud mu novou informaci nedá někdo zvenčí. Podle oficiální dokumentace OpenAI má aktuální řada modelů GPT-5.6 uzávěrku 16. února 2026. Cokoli přišlo po tomhle datu, model sám od sebe „nezná“, protože to prostě nikdy neviděl.

U konkurence to vypadá podobně, jen s jinými daty. Anthropic ve své dokumentaci uvádí, že nejsilnější aktuální model Claude Opus 5 má spolehlivou znalost světa do května 2026, zatímco starší a menší Claude Haiku 4.5, který firma dál nabízí kvůli rychlosti a nižší ceně, zůstal na únoru 2025. Rozdíl přes rok je v praxi citelný, hlavně u témat, která se mění rychle, jako jsou ceny nebo obsazení vedoucích pozic ve firmách.

Přesvědčení, že chatbot ví úplně všechno a jeho odpověď je automaticky čerstvá, patří mezi rozšířené představy, které jsem rozebíral v textu o mýtech o umělé inteligenci. Realita je prozaičtější. Když si asistent umí sám dohledat stránky na internetu, tenhle konkrétní limit částečně obchází, protože k odpovědi přidá čerstvě nalezený zdroj. Jenže ne každý dotaz vyhledávání spustí a ne každá aplikace ho vůbec nabízí, takže se u čerstvých témat pořád vyplatí zkontrolovat, jestli model mluví z vlastní paměti, nebo z něčeho, co si právě dohledal.

Milion tokenů, ale slepé místo uprostřed

Kontext je všechno, co model najednou vidí, tedy aktuální zadání i to, co se odehrálo dřív v téže konverzaci. Měří se v tokenech, tedy v kouscích slov, a ještě v roce 2024 platil milion tokenů za informatickou senzaci. Google tehdy představil model Gemini 1.5 Pro se standardním oknem 128 000 tokenů a rozšířenou verzí až na milion, což firma popsala jako víc než 700 000 slov, a na ukázku mu předhodil kompletní 402stránkový přepis komunikace z mise Apollo 11. Model z něj uměl vytáhnout konkrétní detail bez ohledu na to, kde přesně v dokumentu ležel.

Dnes je podobná kapacita spíš běžná než výjimečná. Aktuální hlavní modely Anthropicu, Claude Opus 5 a Claude Sonnet 5, mají podle firemní dokumentace kontextové okno milion tokenů, což při současném dělení textu na tokeny odpovídá zhruba 555 000 slovům nebo 2,5 milionu znaků. Do jednoho zadání se tak vejde třeba celá rozsáhlá smlouva i s přílohami.

Velké okno ale neznamená, že model se vším uvnitř zachází stejně pozorně. Nelson Liu, Percy Liang a další výzkumníci to v roce 2023 zdokumentovali ve studii pro časopis Transactions of the Association for Computational Linguistics, výstižně nazvané Lost in the Middle, tedy Ztraceno uprostřed. Zjistili, že modely spolehlivě najdou informaci, která leží na začátku nebo na konci vloženého textu, ale přesnost citelně klesá, když hledaná pasáž leží někde uprostřed dlouhého dokumentu. Model dovnitř kouká, ale nečte všechno stejně pečlivě, podobně jako čtenář, který prolistuje tlustou zprávu a nejvíc si zapamatuje první a poslední stránku.

Velké okno navíc nevychází zadarmo. Čím delší text model zpracovává, tím déle trvá, než odpověď vrátí, a tím víc to stojí, ať platíte za jednotlivé dotazy, nebo jen čekáte na odpověď v bezplatné aplikaci. Nacpat do zadání úplně všechno jen proto, že to technicky jde, se nevyplatí ani z hlediska rychlosti, ani z hlediska přesnosti.

Prakticky to znamená jedno: u dlouhých podkladů nespoléhejte, že model sám najde důležitý detail schovaný uprostřed. Hlavní instrukci nebo otázku je lepší zopakovat až za vloženým textem, případně dokument rozdělit na menší části a ptát se postupně.

Umí vysvětlit kvantovou fyziku, ale splete násobení

Zkuste tohle: zadejte chatbotu, ať vynásobí dvě šesticiferná čísla, a výsledek přepočítejte na kalkulačce. U menších čísel model skoro vždy trefí správnou odpověď, u větších se šance na chybu prudce zvyšuje, a to i u modelů, které jinde působí neomylně. Není to tím, že by model neuměl počítat v nějakém obecném smyslu. Je to tím, jak vlastně pracuje.

Jazykový model nemá uvnitř kalkulačku ani žádný modul na aritmetiku. Generuje odpověď stejně jako každou jinou větu: token po tokenu odhaduje nejpravděpodobnější pokračování na základě vzorů, které viděl při tréninku. Číslo přitom nemusí být rozsekané na jednotlivé cifry tak, jak by se hodilo pro počítání pod sebou, ale na kousky, které model obvykle vidí pohromadě, takže „384729“ může být jeden token, dva, nebo tři, podle toho, jak zrovna padne tokenizace textu. Sčítání a odčítání menších čísel model zvládá slušně, protože podobné příklady se v trénovacích datech vyskytují velmi často a vzorec je jednoduchý. Násobení dvou šesticiferných čísel je ale kombinatoricky mnohem bohatší úloha, přesně tuhle konkrétní kombinaci model mezi tréninkovými daty pravděpodobně nikdy neviděl, takže si musí pomoct odhadem. Ukázal to i výzkum Tiedonga Liua a Bryana Kian Hsiang Lowa z roku 2023: jejich model Goat, speciálně dotrénovaný na aritmetiku, musel u velkých násobení úlohu nejdřív rozložit na jednodušší mezikroky, protože přímý odhad výsledku v jednom kroku nefungoval spolehlivě ani po cíleném doladění.

Podobný efekt platí i u logických úloh o víc krocích, třeba u slovních zadání, kde se musí nejdřív spočítat mezivýsledek a pak se s ním dál pracuje. Když se model utne hned v prvním kroku, chybu si nese dál, a i sebejistě znějící závěr pak stojí na špatném základě. Pomáhá stejný trik jako u ručního počítání zpaměti: napsat si mezivýsledky, ne spoléhat na to, že se to spočítá samo v hlavě. U modelu to znamená nechat ho psát postup nahlas, krok po kroku, místo aby rovnou vyplivl výsledek.

Modernější asistenti se s tím dnes částečně perou tak, že si na těžké výpočty místo vlastního odhadu zavolají skutečnou kalkulačku nebo si nechají spustit kousek kódu, který výsledek spočítá přesně. Pokud tuhle možnost chatbot má a použije ji, chyba prakticky zmizí, protože počítání už nedělá jazykový model, ale klasický, přesný program. Jenže to neplatí vždycky a všude. U jednoduchého dotazu v chatovacím okně si model často „netroufne“ přiznat, že by se měl přepnout do jiného režimu, a rovnou nabídne odhad. Pro cokoli, kde se čísla promítnou přímo do peněz, třeba u faktury, se vyplatí výsledek přepočítat, ne mu věřit jen proto, že zní sebejistě.

Chytrý na papíře, nemotorný v dílně

Existuje starší postřeh, který se dnešní debatě o umělé inteligenci hodí možná víc, než se na první pohled zdá. Robotik Hans Moravec ho v roce 1988 formuloval takhle: naučit počítač hrát na úrovni dospělého v testech inteligence nebo ve hře dáma je poměrně snadné, ale dát mu smyslové a pohybové dovednosti ročního dítěte je nesmírně těžké, možná nemožné. Dnes se tomu říká Moravcův paradox a jazykové modely ho potvrzují stejně jako roboti, se kterými Moravec kdysi pracoval sám.

Vysvětlení souvisí s tím, jak dlouho se která dovednost v evoluci trénovala. Rozpoznat tvář nebo odhadnout, jestli sklenice na kraji stolu za chvíli spadne, zdokonalovaly savčí mozky miliony let, a proto nám to připadá automatické a lehké. Abstraktní uvažování, jako je matematika nebo formální logika, je v evolučním měřítku novinka, stará možná sto tisíc let. Model se učí právě z toho druhého, tedy z textu, do kterého lidé abstraktní myšlenky teprve zapsali, takže v něm exceluje. Fyzický svět, ve kterém nikdy nebyl, mu tímhle způsobem k dispozici není.

U běžného chatbota se to projeví nenápadně. Poradí vám famózně, jak vyměnit kolo u auta, krok po kroku, s odbornými termíny přeloženými do srozumitelné řeči. Nepozná ale, jestli je zvedák pod vaším konkrétním autem postavený rovně, ani jak silně se dá utáhnout šroub, než se přetrhne závit. Nemá tělo ani hmat. Má jen popisy, které o podobných situacích někdy někdo napsal.

Ani nejpokročilejší roboti dnes tenhle rozdíl úplně nesmazali. Chůze po nerovném chodníku nebo uchopení neznámého předmětu zvláštního tvaru pořád patří mezi úlohy, kde stroje zaostávají za dovedností, kterou zvládne běžné batole. Moravcův paradox tak funguje jako vysvětlení i po víc než třiceti letech, jenom se přesunul od šachových a dámových programů k jazykovým modelům a jejich robotickým příbuzným. Podrobnější přehled, ve kterých konkrétních úlohách má dnes navrch stroj a kde pořád vede člověk, nabízí srovnání AI a člověka.

Na co si dát pozor

Žádný z těchto limitů neznamená, že se dnešní AI nedá na nic spolehnout. Znamená to hlídat, na co se ptáte a kolik váhy dáte odpovědi. U čerstvých témat zkontrolujte, jestli asistent pracuje z vlastní paměti, nebo si informaci právě dohledal na internetu, a ve druhém případě se podívejte i na zdroj, který našel. U dlouhých dokumentů hlavní otázku raději zopakujte za text, ne jen na jeho úplný začátek. Větší součty a násobky si nechte přepočítat kalkulačkou nebo o to model rovnou požádejte přes nástroj, který umí spustit kód. Cokoli se týká fyzické bezpečnosti nebo zdraví, berte jako první návrh k ověření, ne jako hotové rozhodnutí.

Shrnutí

Dobré přirovnání je možná zkušený, sečtělý stážista, který za víkend přečetl celou firemní knihovnu a umí o ní mluvit hodiny. Zná spoustu věcí nazpaměť a umí je vysvětlit tak, že to dá smysl i úplnému laikovi. Netuší ale, co se stalo tenhle měsíc, plete se v součtu na faktuře a nikdy nebyl v garáži, kterou vám radí opravit. Právě proto se s ním nejlíp pracuje pod dohledem někoho, kdo pozná, kdy má to, co řekl, ještě zkontrolovat.