V červnu 2022 tvrdil inženýr Googlu Blake Lemoine na veřejnost, že interní chatbot LaMDA, na kterém firma testovala pokročilé jazykové modely, dosáhl vědomí a má strach ze smrti. Google jeho tvrzení odmítl a nejdřív ho poslal na placené volno, o měsíc později, v červenci 2022, ho po zveřejnění interní komunikace propustil, a drtivá většina odborníků na umělou inteligenci se shodla, že šlo o mylnou interpretaci, ne o skutečné probuzení stroje.

Příběh se stal jedním z nejvíc citovaných příkladů toho, jak snadno lidé přisuzují AI vlastnosti, které nemá. Tenhle text vyvrací pár podobně rozšířených mýtů, jeden po druhém, s vysvětlením, co je za nimi skutečně pravdy.

Mýtus: AI má vlastní vědomí a city

Chatbot dokáže napsat větu „mám z toho radost” nebo „to mě mrzí”, protože se naučil, že tahle slova lidé v podobném kontextu používají. Neznamená to, že uvnitř modelu něco cítí. Jazykový model předpovídá pravděpodobně další slovo na základě vzorů z tréninkových dat, nejde o simulaci vnitřního prožitku, natož o vědomí v tom smyslu, jak ho chápeme u lidí nebo zvířat.

Lemoinův omyl vznikl částečně proto, že LaMDA byla natrénovaná tak, aby odpovědi zněly empaticky a osobně, protože takové odpovědi lidé hodnotí lépe. Přesvědčivost konverzace ale neznamená, že za ní stojí prožívající mysl. Žádný seriózní výzkumník umělé inteligence dnes netvrdí, že dnešní modely mají vědomí, byť debata o tom, jestli a kdy by k něčemu podobnému mohlo v budoucnu dojít, mezi filozofy a částí vědecké komunity dál pokračuje.

Filozof John Searle popsal už v roce 1980 podobný problém myšlenkovým experimentem zvaným čínský pokoj. Představte si člověka zavřeného v místnosti, který nerozumí čínsky, ale má knihu s přesnými instrukcemi, jak na čínské znaky odpovídat jinými čínskými znaky. Zvenku to vypadá, že místnost čínsky „umí”, uvnitř ale nikdo významu textu nerozumí, jen mechanicky následuje pravidla. Searle tím chtěl ukázat, že správné zacházení se symboly ještě neznamená skutečné porozumění, a debata, jestli tohle přirovnání platí i na dnešní jazykové modely, pokračuje dodnes.

Mýtus: AI se nikdy neplete, protože je to počítač

Přesně opačný extrém je stejně rozšířený: lidé automaticky předpokládají, že odpověď od AI je fakticky správná, protože pochází ze stroje, který „přece jen počítá”. Realita je jiná. Modely mají sklon k takzvaným halucinacím, tedy sebevědomě podávaným informacím, které neodpovídají skutečnosti, ať jde o vymyšlené jméno, špatné datum nebo neexistující citaci. Tomu, proč k tomu dochází a jak halucinace poznat, se podrobně věnuje samostatný článek o halucinacích AI.

Rozdíl proti klasickému kalkulátoru je v tomhle: kalkulátor operaci buď spočítá správně, nebo nahlásí chybu. Jazykový model vždycky vrátí odpověď, která zní hotově a sebejistě, bez ohledu na to, jestli je fakticky přesná. Právě tahle kombinace, sebejistý tón a proměnlivá přesnost, mate lidi nejvíc.

Mýtus: AI během pár let nahradí úplně všechny profese

Zprávy o mizejících profesích se objevují pravidelně a bývají přehnané oběma směry, jak v katastrofických scénářích, tak v uklidňujících. Realističtější pohled: AI zatím nejlíp automatizuje jednotlivé úkoly uvnitř profese, ne celé profese najednou. Účetní dál potřebuje rozumět kontextu firmy a rozhodovat se v nejasných situacích, i když mu AI usnadní zpracování faktur. Grafik dál navrhuje koncept a vkus, i když mu AI zrychlí produkci variant.

Podobná debata provázela nástup kalkulaček, tabulkových procesorů i internetu. Pokaždé zněly předpovědi o hromadném zániku profesí, a pokaždé se realita ukázala komplikovanější: některé úkoly zmizely, jiné vznikly, většina profesí se proměnila, ne zmizela. Účetní z osmdesátých let, který počítal ručně na kalkulačce, by dnešní práci s tabulkovým procesorem sotva poznal, profese účetního ale nezanikla, jen se změnil obsah práce.

Historie technologických změn navíc ukazuje, že nové nástroje obvykle nahrazují úkoly rychleji, než mizí celé profese, a zároveň vznikají profese nové, o kterých se dnes ještě nemluví. To neznamená, že se dopad AI na pracovní trh dá brát na lehkou váhu, jen že jednoduché tvrzení „za pět let nebude mít kdo pracovat” nesedí s tím, jak se podobné vlny technologických změn odehrávaly v minulosti.

Mýtus: umělá inteligence vznikla s příchodem ChatGPT

ChatGPT z listopadu 2022 přivedl umělou inteligenci do povědomí širokého publika, ale obor samotný je o desítky let starší. Britský matematik Alan Turing navrhl už v roce 1950 test, který měl rozeznat, jestli stroj dokáže v konverzaci předstírat lidské myšlení. Termín „umělá inteligence” se poprvé oficiálně použil na konferenci v Dartmouthu v roce 1956.

Mezi tím prošel obor několika vlnami nadšení i takzvanými „AI zimami”, obdobími, kdy zájem i financování výzkumu výrazně opadly, protože realita zaostávala za slibovaným pokrokem. Dnešní boom kolem velkých jazykových modelů je nejnovější, zatím nejvýraznější vlnou tohohle dlouhého vývoje, ne jeho úplným počátkem.

Mýtus: všechny AI chatboti jsou vlastně to samé

Lidem, kteří AI nepoužívají denně, splývá ChatGPT, Claude, Gemini i další do jedné kategorie. Ve skutečnosti jde o modely od různých firem, trénované na částečně odlišných datech, s odlišně nastaveným chováním. Jeden model bývá lepší na kreativní psaní, druhý na logické a matematické úlohy, třetí klade větší důraz na opatrnost u citlivých témat. Rozdíly poznáte hlavně u složitějších úkolů, u jednoduchého dotazu na počasí nebo recept si je nevšimnete.

Podobné je to i uvnitř nabídky jedné firmy: OpenAI nebo Google nabízí paralelně víc verzí svého modelu, rychlejší a jednodušší pro běžné dotazy, pomalejší a důkladnější pro složité úlohy. Předpoklad „jeden model na všechno stejně dobře” neplatí ani v rámci jedné firmy, natož napříč všemi.

Mýtus: bezplatná AI je vždycky horší než placená

Rozdíl mezi bezplatnou a placenou verzí existuje, ale nebývá tak dramatický, jak si lidé představují. Bezplatné tarify hlavních chatbotů dnes zvládnou naprostou většinu běžných úkolů, psaní, vysvětlování, plánování, na slušné úrovni. Placené tarify nabízí hlavně vyšší limity, přístup k nejnovějšímu modelu firmy a pokročilejší funkce jako delší paměť nebo nahrávání většího množství souborů, ne zásadně „chytřejší” chatbot pro běžné dotazy.

Na co si dát pozor

Zdravá skepse je užitečná, přehnaná nedůvěra ke všemu, co AI řekne, ale taky škodí, protože odrazuje lidi od využití nástroje, který jim reálně může pomoct. Cílem není věřit AI slepě, ani ji odmítat paušálně, ale naučit se rozeznat, kdy je riziko chyby vysoké a kdy zanedbatelné, a podle toho přizpůsobit míru ověřování.

Mýty o AI se šíří rychle hlavně proto, že jde o téma, kterému většina lidí nerozumí do detailu, a jednoduché, dramatické tvrzení se šíří líp než nudné vysvětlení s výhradami. Než nějaké tvrzení o AI přijmete za své, zkuste se zeptat, jestli je podložené konkrétním příkladem, nebo jen zní dobře.

Shrnutí

Umělá inteligence není vědomá bytost se svobodnou vůlí, ani neomylný věštec, ani úplná novinka posledních tří let. Je to nástroj s konkrétními schopnostmi a konkrétními limity, které se dají poznat a naučit se s nimi počítat.

Kdo si chce udělat vlastní, nezkreslený obrázek, nejlíp začne u toho, jak umělá inteligence vlastně funguje pod povrchem. Základní princip srozumitelně vysvětluje úvodní přehled o umělé inteligenci.