V květnu 2023 opustil Geoffrey Hinton, jeden z výzkumníků, kteří položili základy dnešního hlubokého učení, svou pozici v Googlu. Důvod byl neobvyklý: chtěl moci svobodně mluvit o rizicích technologie, na jejímž vývoji sám desítky let pracoval, aniž by ho svazovaly zájmy zaměstnavatele. O rok a půl později, v říjnu 2024, dostali Demis Hassabis a John Jumper z Googlu Nobelovu cenu za chemii za nástroj AlphaFold, který pomocí AI vyřešil desítky let starý vědecký problém, jak předpovědět tvar bílkovin, a zrychlil tím výzkum nových léků po celém světě.

Obě události jsou pravdivé zároveň, a právě to dělá otázku „je AI hrozba, nebo příležitost” těžší, než by se čekalo. Tenhle text se nesnaží tvrdit, že jedna strana má úplnou pravdu. Snaží se ukázat, na čem obě strany argumentace staví, a proč je poctivá odpověď složitější než jedno slovo.

Strach z nové technologie není nový jev

Než se pustíme do argumentů obou stran, připomeňme, že podobný spor provází prakticky každou velkou technologickou změnu v historii. Řecký filozof Platón nechal ve svém dialogu Faidros postavu Sókrata varovat, že psané slovo oslabí lidskou paměť a schopnost skutečně porozumět, protože lidé přestanou věci nosit v hlavě a spolehnou se na text. Nástup knihtisku v patnáctém století provázely obavy z toho, že snadná dostupnost knih rozvrátí autoritu církve a rozšíří kacířské myšlenky, což se ostatně do jisté míry i stalo. Průmyslová revoluce vyvolala hnutí ludditů, dělníků, kteří ničili tkalcovské stavy v obavě o vlastní obživu.

Tahle historická paralela neznamená, že obavy z AI jsou automaticky liché, jen proto, že se podobné obavy objevily i dřív a lidstvo je přežilo. Znamená to, že má smysl se ptát, co je na dnešní situaci skutečně nové a co je opakující se vzorec strachu z čehokoliv neznámého.

Co říká strana obav

Hinton po odchodu z Googlu opakovaně varoval, že rychlost, jakou se schopnosti AI systémů zlepšují, může předběhnout naši schopnost je bezpečně kontrolovat. V květnu 2023 podepsala podobné prohlášení, jednu jedinou větu o tom, že snižování rizika vyhynutí lidstva kvůli AI by mělo být globální prioritou srovnatelnou s pandemiemi nebo jaderným konfliktem, i řada dalších významných jmen oboru, mimo jiné Sam Altman z OpenAI a Demis Hassabis z Googlu, tedy lidé, kteří na vývoji podobných systémů sami pracují.

Kritici na tomhle prohlášení upozorňují na paradox: firmy, které varují před nekontrolovaným rizikem, zároveň své nejschopnější modely dál vyvíjí a nasazují, protože komerční tlak a mezinárodní konkurence nezpomalování jinak neumožňují. Jde o skutečné dilema, ne o pokrytectví bez opory, protože jednostranné zpomalení jedné firmy nebo země riziko celkově nesnižuje, jen přesune vedoucí pozici jinam.

Vedle vzdálenějších, spekulativnějších rizik existují i konkrétní, už doložené škody: deepfake podvody, dezinformace, zneužití osobních dat nebo zaujatost v algoritmech, které ovlivňují třeba schvalování úvěrů. Těmhle konkrétním, aktuálním rizikům, ne spekulativním scénářům vzdálené budoucnosti, se podrobně věnuje přehled bezpečnosti a soukromí u AI.

Co říká strana příležitostí

AlphaFold z úvodu není ojedinělý úspěch. Systém GraphCast od stejného oddělení DeepMind, představený v roce 2023, dokázal předpovídat vývoj počasí na deset dní dopředu rychleji a v testech i přesněji než tradiční meteorologické modely, které běží na mnohem výkonnějších superpočítačích po celé dny. AI dnes pomáhá i objevovat nové materiály nebo analyzovat lékařské snímky rychleji, než to zvládne tým radiologů, byť vždy s lidskou kontrolou nad finální diagnózou.

Ekonomické odhady dopadu AI na produktivitu se různí a je potřeba je brát s rezervou, protože podobné dlouhodobé prognózy se historicky často výrazně minuly s realitou. Analytici investičních bank v posledních letech opakovaně publikovali odhady v řádu bilionů dolarů přidané hodnoty do globální ekonomiky během příští dekády. Konkrétní číslo si nedávejte do kalendáře jako jistotu, směr, kterým odhady míří, ale odpovídá tomu, co lidé i firmy s AI nástroji dnes reálně dělají.

Přístupnost je další, méně viditelná výhoda. AI nástroje pomáhají lidem se zdravotním postižením, čtou nahlas text nevidomým, přepisují mluvené slovo neslyšícím, překládají v reálném čase mezi jazyky. Malé firmy a jednotlivci navíc dnes mají přístup k nástrojům, které si dřív mohly dovolit jen velké korporace s vlastním výzkumným oddělením.

Dopad na práci: ani katastrofa, ani nic se neděje

Otázka, co AI udělá s pracovním trhem, si zaslouží vlastní podrobný text, protože zjednodušit ji na pár vět by nebylo poctivé. Zkráceně: AI mění obsah řady profesí rychleji, než profese samotné mizí, a dopad se výrazně liší podle oboru a konkrétní pracovní náplně. Někdo dnešní změny pocítí jako hrozbu pro vlastní obživu, někdo jako nástroj, který mu usnadní tu část práce, kterou stejně neměl rád.

Tenhle rozdíl v prožívání stejné změny je podstatný. Grafik, který se živí návrhem log pro malé firmy za nízké částky, čelí reálné konkurenci generátorů obrázků. Grafik, který pro velkou značku navrhuje celou vizuální identitu, propojenou napříč desítkami materiálů, řeší spíš to, jak AI zapojit do vlastního procesu, ne jestli o práci přijde. Stejná technologie, velmi odlišný dopad podle toho, kde přesně na trhu člověk stojí.

Kde se sami experti neshodnou

Zajímavé je, že lidé s podobně hlubokými technickými znalostmi docházejí k opačným závěrům. Yann LeCun, hlavní vědec pro AI v Metě a spolu s Hintonem jeden ze tří laureátů Turingovy ceny za hluboké učení, opakovaně veřejně zpochybňuje představu blízkého existenčního rizika. Podle LeCuna dnešní modely, i ty nejpokročilejší, postrádají skutečné porozumění světu a plánování, takže scénáře o AI, která si sama převezme kontrolu, považuje za předčasné strašení, které odvádí pozornost od konkrétních, řešitelných problémů.

Hinton a jeho spojenec Yoshua Bengio, další z trojice laureátů Turingovy ceny, argumentují opačně: že rychlost pokroku posledních let ukazuje, jak snadno se dá podcenit, co modely za pár let dokážou, a že je rozumnější řešit riziko dřív, než nastane, ne až potom.

Když se na stejné téma neshodnou lidé, kteří technologii rozumí lépe než drtivá většina veřejnosti, je to signál, že jednoduchá odpověď na otázku z titulku tohoto článku prostě neexistuje. Kdokoliv vám ji nabídne s naprostou jistotou, ať už v pozitivním, nebo negativním duchu, si zaslouží zdravou nedůvěru.

Jak se na to dívám já

Osobně mám blíž k pozici, která obě krajnosti odmítá. Čistý technooptimismus přehlíží reálné, už existující škody: podvody, ztrátu práce u konkrétních lidí, zneužití dat. Čistý katastrofismus zase podceňuje, kolik užitečné práce AI dnes reálně odvádí v medicíně, vědě i běžném životě lidí, kteří si nemůžou dovolit drahé alternativy.

Přijde mi užitečnější ptát se u každého konkrétního nasazení AI zvlášť: kdo z toho reálně těží, kdo nese riziko, a jestli jsou tihle dva lidé stejní, nebo ne. Když nemocnice nasadí AI na analýzu snímků a lékař zůstává tím, kdo dělá finální rozhodnutí, riziko i přínos leží na stejné straně, u pacienta, kterému se snímek analyzuje rychleji a přesněji. Když firma nahradí zákaznickou podporu chatbotem, aby ušetřila náklady, přínos jde firmě, riziko špatné zkušenosti nese zákazník. Tenhle rozdíl, ne otázka „AI ano, nebo ne”, je podle mě to, na co je užitečné se ptát.

Shrnutí

Odpověď na otázku z titulku zní: obojí najednou, podle toho, o jaké konkrétní použití jde. Hinton i Hassabis mají pravdu, každý o jiné části stejné technologie.

Kdo chce mít v tomhle tématu vlastní, informovaný názor, nemusí věřit ani hlasitým optimistům, ani hlasitým pesimistům. Stačí se u každého konkrétního nasazení AI ptát, kdo z něj těží a kdo nese riziko, a odpověď na tuhle konkrétní otázku bývá užitečnější než abstraktní spor o to, jestli je AI dobrá, nebo špatná.