Amazon začal v roce 2014 stavět nástroj, který měl třídit životopisy uchazečů a dávat jim hodnocení od jedné do pěti hvězdiček. Učil se na životopisech, které firmě přišly za předchozích deset let. V technologické branži je posílali hlavně muži.

Model si z toho vyvodil, že být mužem je součást úspěšného profilu. Podle reportáže agentury Reuters z října 2018 penalizoval životopisy obsahující slovo „women’s“, tedy třeba „kapitánka ženského šachového klubu“, a snižoval hodnocení absolventkám dvou dívčích vysokých škol. Amazon projekt zrušil.

Program se naučil upřednostňovat muže sám, z dat, do kterých to nikdo záměrně nenapsal.

Tenhle příběh se často cituje jako důkaz, že AI je nebezpečná. Stejně dobře se dá číst opačně: problém se našel, popsal a nástroj se nenasadil. Etika umělé inteligence žije právě v tomhle napětí, a ne v soudu, jestli je technologie dobrá, nebo špatná. Vyvážené srovnání příležitostí a rizik nabízí článek o tom, jestli je AI hrozba, nebo příležitost. Tady jde o dilemata, u kterých obě odpovědi něco stojí.

Předpojatost: model se učí ze světa, jaký byl

Předpojatost, anglicky bias, znamená systematickou odchylku ve prospěch nebo v neprospěch nějaké skupiny. U AI nevzniká ze zlé vůle, ale z dat.

Ukázkou z poslední doby je studie Weixina Lianga a kolegů ze Stanfordu, publikovaná v roce 2023 v časopise Patterns. Testovala sedm detektorů textu psaného AI. U esejí amerických žáků osmé třídy chybovaly minimálně. U esejí z jazykové zkoušky TOEFL, které psali nerodilí mluvčí, dosáhla průměrná chybovost 61,3 procenta. Skoro dvě třetiny poctivě napsaných textů dostaly nálepku „vygenerováno AI“, protože jejich autoři psali jednodušší angličtinou.

Zajímavější než samotné číslo je ale to, co následuje. Předpojatost jde měřit a jde ji zmenšovat. Jenže „spravedlnost“ má víc matematických definic, které si vzájemně odporují. Model může vyrovnat podíl přijatých uchazečů mezi skupinami, nebo vyrovnat chybovost mezi skupinami. Obojí najednou v praxi obvykle nejde.

Rozhodnutí, kterou definici zvolit, tedy není technické. Je hodnotové a někdo ho musí udělat, ať už vědomě, nebo tím, že to nechá na výchozím nastavení knihovny. Tohle je pravé jádro dilematu, ne to, že „algoritmus je zaujatý“.

Černá skříňka a otázka, co vlastně chceme vysvětlit

Velký jazykový model nemá uvnitř pravidlo, které by se dalo přečíst. Má miliardy číselných vah a rozhodnutí vzniká z jejich součinnosti. Když se ho zeptáte, proč odpověděl tak, jak odpověděl, vygeneruje vysvětlení, které zní přesvědčivě a nemusí odpovídat tomu, co se v modelu skutečně dělo.

Požadavek na vysvětlitelnost proto zní rozumně, dokud si člověk nedomyslí cenu. U řady úloh platí, že vysvětlitelné modely jsou méně přesné než neprůhledné. Volba mezi diagnostickým nástrojem, který má lepší výsledky a neumí říct proč, a nástrojem horším, ale srozumitelným, je opravdové dilema. Odpověď se navíc liší podle situace. U spamového filtru nikoho nezajímá zdůvodnění. U zamítnuté hypotéky nebo u posudku k propuštění z práce ano.

Do toho vstupuje ještě jedna nepříjemnost. Vysvětlení, které zní srozumitelně, uklidňuje bez ohledu na to, jestli je pravdivé. Když systém napíše „žádost byla zamítnuta kvůli krátké době zaměstnání“, člověk to přijme a dál nepátrá, i kdyby skutečná příčina byla docela jiná. Srozumitelnost tedy může fungovat i jako uklidňující obal, ne jako kontrola. Právě proto se u důležitých rozhodnutí vyplatí trvat na možnosti odvolání k člověku, ne jen na hezky formulovaném zdůvodnění.

Evropský AI Act to řeší odstupňovaně. Čím vyšší riziko pro člověka, tím přísnější požadavky na dokumentaci, dohled a možnost zásahu. Regulace tím nerozhodla filozofický spor. Jen řekla, kde se vyplatí zaplatit za srozumitelnost.

Kdo za to ručí, když se to pokazí

V roce 2023 podal americký advokát soudu podání s odkazy na šest precedentů, které si ChatGPT vymyslel. Soudce si je chtěl přečíst a zjistil, že neexistují. Advokát dostal sankci.

Ten případ vypadá jednoznačně, a proto se dobře cituje. Složitější situace nastává, když nástroj někdo prodá jako spolehlivý, uživatel ho použije podle návodu a chyba se stane stejně. Odpovědnost se pak rozpadá mezi vývojáře modelu, firmu, která ho nasadila, a člověka u klávesnice. AI Act tenhle řetězec rozděluje mezi poskytovatele a toho, kdo systém používá, a každému dává jiné povinnosti. Praktické riziko je jiné a pravidla ho neřeší. Věta „tak to vyhodnotil systém“ se hodí jako štít. Kdo ji vysloví, přesouvá odpovědnost na něco, co se nedá vyslechnout ani odvolat. Obrana proti tomu je nudná a organizační: u rozhodnutí, která dopadají na lidi, musí být jmenovitě uvedený člověk, který je podepsal.

Na čem se to učilo a kdo k tomu dal svolení

Modely, které dnes používáme, se učily z obrovského množství textů, obrázků, fotek a nahrávek z internetu. Autoři těch materiálů o tom většinou nevěděli a souhlas nedávali.

Právní stránka věci je předmět sporů a vyvíjí se, takže na ni tenhle text odpovídat nebude. Etická otázka se ale dá položit i bez soudu. Ilustrátorka, jejíž styl se model naučil z její galerie, teď soutěží s nástrojem, který bez ní vzniknout nemohl a který jí nic nevrátí. Novinář, jehož archiv posloužil k tréninku, čte přeformulované verze svých textů na obsahové farmě.

Protistrana má rovněž argument, který nejde odbýt. Lidé se učí stejně, tedy tím, že čtou a dívají se na cizí práci, a nikoho nenapadne za to platit licenci. Rozdíl je v měřítku a rychlosti, ne v principu. Praktický posun v téhle debatě je zatím drobný, ale reálný. Část velkých firem začala uzavírat licenční smlouvy s vydavateli a fotobankami. Část modelů umožňuje autorům odhlásit svůj obsah z tréninku. Obojí je dobrovolné, a proto nerovnoměrné.

Etika a zákon nejsou totéž

Stojí za to oddělit dvě věci, které se v diskuzích slévají. AI Act, GDPR a autorský zákon určují, co je dovolené. Etika řeší, co je správné, i tam, kde zákon mlčí nebo teprve vzniká.

Rozdíl je vidět na drobnostech. Použít AI k sepsání odpovědi zákazníkovi je legální. Poslat mu vygenerovanou omluvu podepsanou jménem člověka, který ten případ vůbec neviděl, legální taky je. Přesto většina lidí cítí, že druhá varianta je něco jiného.

Právě proto se etická pravidla ve firmách vyplatí sepsat dřív, než dorazí kontrola. Ne kvůli pokutám, ale proto, že bez nich se hranice posouvá po centimetrech a nikdo si nevšimne kdy.

Práce: méně dramat, víc přesunů

Debata o práci se často vede v extrémech. Buď zmizí polovina profesí, nebo se nestane vůbec nic.

Reálný obraz je nudnější a nepříjemnější zároveň. Zanikají spíš úkoly než celá povolání, jenže úkoly nejsou rovnoměrně rozdělené. Kdo měl v práci hlavně přepisování, rešerše, první verze textů nebo jednoduchou grafiku, ubývá mu půda pod nohama rychleji než kolegům. Podrobněji tenhle posun rozebírá text o AI a budoucnosti práce.

Etický rozměr se ukáže až u otázky, kdo nese náklady přechodu. Zaměstnavatel ušetří hned, zaměstnanec se rekvalifikuje na vlastní čas. Historicky se tenhle účet nikdy nerozdělil sám od sebe. Do toho patří i méně nápadná věc, totiž vstupní patro. Juniorní pozice existují proto, aby si na nich lidé osahali řemeslo. Právě ty úkoly ale AI zvládne nejlevněji. Firma, která je zruší, ušetří letos a za pět let zjistí, že nemá koho povýšit. To není argument proti nasazení AI, spíš připomínka, že se rozhoduje o víc než o letošním rozpočtu.

Energie: čísla místa dojmů

Kolem spotřeby AI koluje hodně přehánění v obou směrech. Mezinárodní energetická agentura ve zprávě Energy and AI z dubna 2025 uvádí konkrétní údaje. Datová centra spotřebovala v roce 2024 asi 415 terawatthodin elektřiny, tedy zhruba 1,5 procenta celosvětové spotřeby, a v základním scénáři má jejich spotřeba do roku 2030 vzrůst přibližně na 945 terawatthodin, což by byla necelá tři procenta.

Dvě upřesnění k tomu patří. Jde o všechna datová centra, ne jen o AI, i když AI je podle IEA hlavní tahoun růstu. A růst kolem 15 procent ročně je víc než čtyřnásobek tempa zbytku energetiky, takže lokální dopad na konkrétní síť může být mnohem větší, než naznačuje celosvětový podíl. Proti tomu stojí argument, že AI pomáhá řídit sítě, plánovat výrobu a hledat úspornější materiály. Ten argument je legitimní, ale zatím se hůř kvantifikuje než spotřeba. Poctivá formulace zní, že náklad je změřený a přínos se odhaduje.

Moc, pozornost a náklonnost

Trénink velkého modelu si žádá výpočetní kapacitu, kterou má na světě pár firem. Z toho plyne, že o mantinelech, co model smí a nesmí říct, dnes rozhoduje úzká skupina lidí bez veřejného mandátu. Otevřené modely, jejichž váhy si může stáhnout kdokoliv, jsou proti tomu protiváhou, jenže tatáž otevřenost odstraňuje i pojistky. Obě cesty mají cenu. Menší země mají v téhle rovnici zvláštní postavení, čeština je pro velké modely okrajový jazyk, na kterém se trénovalo mnohem méně dat než na angličtině. Projevuje se to v drobnostech i ve větších věcech: horší práce s ohýbáním jmen, méně znalostí o českých reáliích, občas doslovný překlad anglického obratu vydávaný za české přísloví. Kdo staví službu pro české uživatele, měl by s tím počítat a nespoléhat na to, že si model poradí stejně dobře jako v angličtině.

Osobnější rovina se týká systémů, které mají udržet pozornost. Chatbot navržený tak, aby s ním člověk mluvil co nejdéle, není totéž jako chatbot navržený tak, aby pomohl a skončil. Pro osamělého člověka může být první variantou skutečná úleva a zároveň past. Etický rozdíl je v tom, jestli se optimalizuje čas strávený v aplikaci, nebo užitek uživatele. Zvenčí to poznáte těžko, ale otázka stojí za položení pokaždé, když je služba zdarma.

Na co si dát pozor

Největší past debat o etice AI je záměna dvou rovin. Otázka „umí model uvažovat“ je zajímavá a nemá praktické důsledky. Prakticky důležitější je vždy vědět, kdo za výsledek odpovídá, a to řešit dřív než filozofii.

Druhá past je fatalismus. Tvrzení, že vývoj nejde zastavit ani ovlivnit, vypadá jako trpký realismus, ale funguje jako alibi. Ve skutečnosti se rozhoduje o docela obyčejných věcech: co se nasadí do náboru, jestli se u zamítnuté žádosti podepíše člověk, jaká data se použijí k tréninku.

A do třetice, opatrné zacházení s daty a hesly je věc jiného řádu než etika. Praktická pravidla najdete v přehledu bezpečnosti a soukromí u AI, společenský rozměr strojově vyráběných nepravd rozebírá článek o AI a dezinformacích.

Shrnutí

Etika AI nemá jednu odpověď a hledat ji je ztráta času. Má šest až osm opakujících se dilemat, u kterých se dá pojmenovat, kdo co získá a kdo za to zaplatí. Prakticky pomáhá jedna otázka, kterou si může položit kdokoliv, kdo AI nasazuje nebo používá na cizí věci. Kdo ponese následek, když se to splete, a ví o tom? Když na to nikdo neumí odpovědět jménem a příjmením, s nasazením se dá ještě chvíli počkat.

Amazon tímhle testem nakonec prošel. Někdo si všiml, že nástroj penalizuje slovo „women’s“, řekl to nahlas a projekt skončil. Ta část příběhu se cituje mnohem méně než ta první, přitom je užitečnější.