V červnu 2023 rozhodl newyorský federální soud spor Roberta Maty s leteckou společností Avianca. V podání žalobce stály citace soudních precedentů, které nikdy neexistovaly, advokát si je nechal sepsat od ChatGPTa a nikdo z právního týmu je předtím neověřil. Soudce Kevin Castel označil část podání za nesmysl a právní zástupce klienta pokutoval pěti tisíci dolary. Historka dobře ukazuje, kde umělá inteligence dnes škodí nejčastěji, ne ve sci-fi scénáři se zlomyslným robotem, ale v obyčejném přecenění toho, co nástroj doopravdy umí.

Špatně položená otázka

Zeptat se, jestli je AI nebezpečná, je podobné jako se ptát, jestli je nebezpečné auto. Záleží na tom, kdo řídí a jak rychle.

Umělá inteligence nemá vlastní vůli někomu ublížit.

Model plní zadání, které dostane, a nemá cíl mimo něj samotný. Riziko vzniká ve chvíli, kdy člověk věří výstupu víc, než si zaslouží, nebo výstup použije k něčemu, na co nástroj vůbec nevznikl. Přesně tohle se stalo u newyorského soudu z úvodu: ChatGPT nelhal se zlým úmyslem, jen doplnil text, který zněl jako přesvědčivá právní citace, protože přesně takové texty od něj lidi čekali. Chyba byla v tom, že si ji nikdo neověřil dřív, než skončila v oficiálním podání. Než tenhle přehled projde jednotlivá rizika, stojí za to si tohle rozdělení zapamatovat: co dělá nástroj, a co dělá člověk, který mu bezhlavě věří.

Co je na dnešních rizicích nové, není jejich druh. Podvod, propaganda i obavy o vlastní práci existovaly dávno předtím, než někdo použil slovo algoritmus. Nové je hlavně to, jak prudce klesla cena, za kterou si podobnou škodu dnes může dovolit napáchat úplně obyčejný člověk s notebookem, ne jen specialista s rozpočtem a týmem. Přesně tenhle posun, ne samotná existence rizika, se opakuje v každé z kapitol, které následují.

Rozdíl mezi krátkodobým a dlouhodobým rizikem je stejně důležitý. Citlivá data můžete nechtěně vyzradit jediným zkopírovaným textem do appky ještě dnes odpoledne. Otázka, jak umělá inteligence za deset let promění celé obory práce, je naproti tomu spekulace, byť podložená, ne fakt. Tenhle přehled se drží věcí, které jde doložit, ne odhadů, jak bude svět vypadat za dekádu.

Tenhle výběr se soustředí na pět rizik, se kterými se běžný člověk potká nejčastěji. Etická dilemata kolem umělé inteligence, třeba nevědomá předpojatost v datech, na kterých se model učí, probírá samostatný přehled etických dilemat AI.

Když hlas i tvář zalžou

Dezinformace existovaly dávno před umělou inteligencí, jenže AI jim razantně snížila cenu. Vyrobit padělaný hlas politika dřív vyžadovalo herce a šikovného zvukaře, dnes stačí pár minut veřejně dostupné nahrávky a nástroj, který zvládne kdokoliv s notebookem. Pár dní před parlamentními volbami na Slovensku na podzim 2023 kolovala nahrávka, na které měl lídr strany Progresivní Slovensko Michal Šimečka mluvit o tom, jak zfalšovat výsledek hlasování. Šlo o takzvaný audio deepfake, tedy uměle vygenerovaný hlas napodobující skutečnou osobu. Vyšla najevo tak krátce před hlasováním, že na věcnou reakci prakticky nezbyl čas.

Stejnou technikou podvodníci napálí i jednotlivce, ne jen voliče jako celek. Americká Federální obchodní komise varovala už v březnu 2023 před podvodníky, kteří naklonují hlas příbuzného v nouzi a zavolají rodině s prosbou o peníze na záchranu ze smyšlené krizové situace. Stačí jim k tomu pár vteřin veřejně dostupné nahrávky, třeba z videa na sociální síti.

Ověřit, jestli je nahrávka pravá, přitom trvá mnohem déle než ji vyrobit. Novináři a nezávislí ověřovatelé faktů potřebují hodiny až dny, než dokážou s jistotou říct, že jde o padělek, zatímco samotná nahrávka se šíří po sociálních sítích během minut. Tahle nerovnováha, ne dokonalost padělku, je jádrem skutečného rizika u AI dezinformací.

Přehnaná verze strachu z AI dezinformací tvrdí, že teď už nepůjde poznat pravdu od lži vůbec. Realita je opatrnější. Snadná výroba padělku neznamená automaticky masové přesvědčení: lidé důvěryhodným zdrojům dál věří víc než anonymnímu klipu, a čím kontroverznější tvrzení, tím dřív ho někdo začne prověřovat. Skutečné riziko není v tom, že by padělek byl dokonalý, ale ve chvíli, kdy vyjde najevo příliš pozdě na to, aby oprava stihla dohnat rozšíření lži, přesně jako u slovenské nahrávky. Tomu, co je na obavách z umělé inteligence podložené a co jen zažitý mýtus, se podrobněji věnuje přehled mýtů o umělé inteligenci.

Kam zmizí to, co appce napíšete

V březnu 2023 povolil Samsung části zaměstnanců používat ChatGPT přímo v práci. Do měsíce se stalo přesně to, čeho se bezpečnostní tým bál nejvíc: tři různí zaměstnanci vložili do chatbota citlivý interní materiál, mimo jiné zdrojový kód. Firma na začátku května zavedla plošný zákaz. Interní průzkum mezi zaměstnanci mezitím ukázal, že bezpečnostní riziko v tom vidí přes šedesát procent z nich, a stačili přitom jen tři, aby k úniku došlo.

Text, který napíšete do veřejně dostupného chatbota, putuje na server firmy, jež nástroj provozuje. Co se s ním děje dál, se liší nástroj od nástroje a plán od plánu. Bezplatná verze běžně počítá s tím, že konverzaci může použít na další trénování modelu, placená firemní varianta bývá v tomhle ohledu opatrnější, ale ani to není automatická jistota bez přečtení podmínek. Kdo appce nadiktuje rodné číslo, heslo nebo tabulku se mzdami kolegů, ztrácí kontrolu nad tím, kde přesně ta informace skončí.

Většina appek dnes umožňuje v nastavení vypnout historii konverzací, nebo si nastavit, jak dlouho appka historii uchovává, i když tohle nastavení najde a použije málokdo. Pár minut strávených v nastavení appky dokáže riziko snížit citelně, aniž by ji člověk musel přestat úplně používat.

Případ Samsungu není ojedinělý, je jen nejznámější. Řada dalších firem si po podobných zkušenostech zavedla vlastní pravidla, co zaměstnanci do appek smí a nesmí psát. Kdo si v práci není jistý, kam se tahle hranice u jeho zaměstnavatele posouvá, udělá nejlíp, když se zeptá na interní pravidla, ne aby to zkoušel na vlastní triko.

Riziko jde omezit i bez toho, aby člověk appky přestal používat úplně. Stačí k nim přistupovat stejně obezřetně jako k cizímu e-mailu s přílohou: obecný dotaz ano, konkrétní citlivý údaj ne. Podrobný návod, jak s daty v AI nástrojích bezpečně zacházet, nabízí samostatný přehled bezpečnosti a soukromí u AI.

Kolik lidí nahradí jeden chatbot

Švédská finanční firma Klarna nasadila v únoru 2024 zákaznickou podporu poháněnou technologií od OpenAI. Během prvního měsíce provozu zvládl asistent zhruba dvě třetiny všech dotazů zákazníků, což firma sama přirovnala k výkonu sedmi set lidí na plný úvazek. Počet zaměstnanců Klarny mezitím klesal, z pěti a půl tisíce v roce 2022 na necelé tři tisíce v roce 2025. Firma pokles oficiálně vysvětlila přirozeným odchodem lidí a nahrazením části úkolů technologií.

Číslo působí dramaticky, ale skrývá jeden detail. Část poklesu souvisí s propouštěním z roku 2022, tedy z doby dva roky před nasazením AI asistenta, kdy firma řešila úplně jiné hospodářské potíže. Riziko ztráty práce kvůli AI je nejreálnější tam, kde práce spočívá v opakovaných úkolech s jasně danou odpovědí, typicky u části zákaznické podpory nebo rutinní administrativy.

Instalatér, zdravotní sestra u lůžka pacienta nebo právník řešící spor sousedů o plot mezi zahradami zatím žádnou srovnatelnou konkurenci necítí. Jejich práce spočívá v tom, co appka neumí: fyzicky něco opravit, reagovat na neopakovatelnou situaci v reálném čase nebo rozumět kontextu, který nikde nejde vygooglit. Riziko ztráty práce kvůli AI nemá smysl řešit jako jedno číslo za celou ekonomiku. Má smysl ho řešit obor po oboru, klidně úkol po úkolu.

Krátkodobě riziko dopadá hlavně na pár konkrétních profesí a konkrétních úkolů uvnitř nich. Jak dlouhodobě promění umělá inteligence celý trh práce, si nikdo netroufne tvrdit s jistotou. Kdo takovou jistotu nabízí, ať už v hrozivém, nebo uklidňujícím duchu, zaslouží zdravou nedůvěru.

Když přestanete přemýšlet sami

Výzkumníci z MIT Media Lab pod vedením Nataliyi Kosmyny loni zveřejnili studii, která sledovala 54 lidí při psaní esejů. Jedna skupina psala bez pomoci, druhá používala běžný vyhledávač a třetí ChatGPT. Přes elektroencefalogram autoři měřili, jak moc se při psaní zapojuje mozek. Skupina s ChatGPT vykazovala ze všech tří nejslabší propojení mozkových oblastí a účastníci měli k výslednému textu nejmenší pocit vlastnictví, jako by ho úplně sami nenapsali.

Podobná obava provázela dřív i kalkulačku nebo navigaci v autě. Kalkulačka výrazně oslabila, jak dobře si lidi trénují počítání zpaměti, navigace zase oslabila, jak dobře si pamatujeme cestu bez pomoci. Obojí je zároveň neuvěřitelně užitečné a nikoho vážně nenapadá kalkulačky zakazovat. Otázka u umělé inteligence proto nezní, jestli nástroj nějakou schopnost oslabí, protože to dělá skoro každý dobrý nástroj. Otázka zní, jestli člověk pozná chvíli, kdy se má spolehnout na vlastní úsudek i bez appky, a jestli si tu schopnost aspoň občas natrénuje.

Riziko není stejně velké pro každého. Člověk, který už dřív uměl napsat dobrý text nebo posoudit smlouvu, appku používá jako zkratku a svůj úsudek si stále může ověřit sám. Začátečník, který se teprve učí, tenhle druhý krok často přeskočí, protože netuší, že by ho měl udělat. Riziko závislosti proto nejvíc hrozí tam, kde appka nahradí dovednost dřív, než si ji člověk vůbec stihl osvojit.

Jde o jedinou studii s malým vzorkem, kterou autoři zveřejnili jako preprint, ne o uzavřený důkaz, že AI dělá lidi hloupějšími. Přesně tohle je ten rozdíl mezi reálným a přehnaným rizikem, o kterém je celý tenhle přehled. Reálné jádro je jednoduché: kdo nechá appku myslet za sebe pokaždé, přestane si časem věřit, že to zvládne i bez ní. Přesně tahle mezera se otevřela advokátovi z úvodu. Chyba nebyla v tom, že použil AI, chyba byla v tom, že jí přenechal i tu část práce, kterou měl udělat sám: ověřit, jestli citovaný případ vůbec existuje.

Na co si dát pozor

U právních, zdravotních nebo finančních otázek berte odpověď chatbota jako první návrh, ne jako hotovou věc. Model neví jistě, jestli něco cituje správně, umí jen sestavit text, který zní věrohodně.

Do appek nepatří rodná čísla, hesla, čísla karet ani interní firemní údaje, pokud si nejste jistí, jaké podmínky appka pro nakládání s daty má. Bombastické tvrzení, které se objeví z ničeho nic pár dní před volbami nebo jinou důležitou událostí, zaslouží druhý zdroj dřív, než ho pošlete dál.

Appky si všímejte i v momentě, kdy ji zavíráte. Otevíráte ji automaticky, ještě než jste se nad úkolem sami aspoň chvíli zamysleli? Pak si tu chvíli přemýšlení zkuste nechat, i za cenu, že appka by nakonec poradila líp.

Kdo v práci řeší úkoly, které appka zvládá skoro stejně dobře, udělá líp, když se naučí appku využívat jako pomocníka, než když bude doufat, že si toho nikdo nevšimne. Kdo umí s appkou pracovat, má dnes navrch před tím, kdo ji zásadně odmítá.

Shrnutí

Umělá inteligence není ani neškodná hračka, ani hrozba, která jen čeká na svou příležitost. Rizika popsaná v tomhle přehledu mají jedno společné: nezačínají u modelu, začínají u člověka, který mu uvěří víc, než by měl, nebo mu svěří něco, co by mu svěřovat neměl. Nástroj, který dokáže během pár vteřin napsat text nebo namluvit hlas, funguje podobně jako ostrý kuchyňský nůž. V rukou někoho zkušeného uvaří večeři, v nepozorné ruce ublíží, a nůž sám za to nemůže ani v jednom případě. Advokát z úvodu tohohle textu nedržel nůž špatně schválně, prostě si ho spletl s vidličkou, se kterou stačí míň pozornosti, a přesně tuhle záměnu si u umělé inteligence můžete nejsnáz pohlídat sami.