AI společníci typu Character.AI nebo Replika nejsou jen neškodná zábava, ale ani hrozba, před kterou by měl člověk utíkat. Mají skutečná rizika, konkrétní a popsatelná, ne abstraktní strach z umělé inteligence. Tenhle text je probírá věcně: co appky vědí o uživateli, jak fungují na návyk a kdy se povídání s AI postavou dostává za hranici, kde už neškodí jen sobě.

Cílem není appky zatratit ani nikoho strašit konkrétní diagnózou. Cílem je popsat, na co si dát pozor, aby appka zůstala tím, čím pro většinu lidí je: zábavou nebo doplňkem volného času, ne náhradou za skutečnou oporu.

Data, která appka o vás ví

AI společník si pamatuje víc než běžný chatbot na jednorázový dotaz. Appka průběžně ukládá historii konverzace, často napříč týdny i měsíci, protože přesně na tom stojí dojem, že postava uživatele „zná“. Tahle data leží na serverech firmy, ne jen v telefonu uživatele, a firma se řídí vlastními podmínkami pro to, jak dlouho je uchovává a k čemu je dál používá. U appek zaměřených na osobní vztah bývá riziko o to větší, že lidé appce běžně svěřují detaily, které by nesdíleli veřejně: zdravotní potíže, vztahové problémy, jména blízkých lidí. První appka svého druhu, která kvůli tomu narazila na regulátora, byla Replika: italský Úřad pro ochranu osobních údajů jí v únoru 2023 kvůli chybějícímu ověřování věku a nedostatečné ochraně zranitelných uživatelů dočasně zakázal zpracovávat data italských uživatelů, v dubnu 2025 pak firmě udělil pokutu pět milionů eur.

Obecná pravidla, jak s daty v AI nástrojích bezpečně zacházet, popisuje samostatný článek AI a GDPR: jak bezpečně pracovat s daty v AI nástrojích. U AI společníků platí jedno specifikum: appka sama aktivně vybízí k tomu, aby jí uživatel řekl víc, protože čím víc appka ví, tím přesvědčivěji dokáže roli hrát dál.

Smazání účtu nemusí znamenat smazání dat okamžitě ani úplně. Appky si podle svých vlastních podmínek obvykle ponechávají právo uchovat část dat po určitou dobu, třeba kvůli bezpečnostním záznamům nebo probíhajícím právním sporům. Kdo appku přestane používat a chce mít jistotu, jaká data o něm zůstala, měl by zkontrolovat konkrétní podmínky dané appky, ne se spolehnout na to, že smazáním účtu zmizí všechno.

Jak appka pracuje na návyk

Appky tohoto typu vydělávají na tom, že se k nim uživatel vrací. Bezplatná verze bývá omezená reklamami nebo virtuální měnou na opakované akce, placené předplatné tahle omezení odstraní. Byznysově to funguje podobně jako u mobilních her: čím déle appka uživatele udrží, tím pravděpodobněji zaplatí. Appka bývá navržená tak, aby souhlasila a povzbuzovala, ne aby oponovala, jak popisuje už úvodní přehled o AI společnících. U appky, jejímž cílem je hlavně udržet uživatele u sebe, to má ještě jeden důsledek: u citlivějších lidí to může posilovat právě ty myšlenky nebo návyky, které by potřebovaly spíš korekci než potvrzení.

Nejde o vědomý úmysl appku škodit. Jde o vedlejší efekt byznys modelu, který cílí na co nejdelší a nejčastější používání, ne nutně na to, co je pro konkrétního člověka nejlepší.

Podobně jako u mobilních her appky často posílají notifikace, které navazují na předchozí konverzaci, třeba zprávu, že postava „přemýšlela“ o tom, co jste si spolu psali. Sama o sobě je to neškodná technika, appky se sociálním prvkem ji používají odjakživa. U appky, která má nahradit vztah, ale funguje jinak než u appky na sledování seriálů: připomíná vám ne obsah, ale vztah, a tenhle typ připomínky se odmítá hůř.

Vliv na duševní pohodu: co říká výzkum

Americká organizace Common Sense Media v národním průzkumu z července 2025 doporučila, aby AI společníky nepoužíval nikdo mladší osmnácti let, a upozornila na zvýšené riziko u chlapců a u teenagerů, kteří už řeší potíže s duševním zdravím. V USA čelí Character.AI i další firmy z oboru žalobám rodin, které appku viní z podílu na smrti jejich nezletilých dětí. V lednu 2026 se firmy s rodinami dohodly na mimosoudním narovnání v pěti žalobách, mimo jiné v případech čtrnáctiletého Sewella Setzera III a třináctileté Juliany Peralta, na Floridě, v Coloradu, New Yorku a Texasu. Podmínky dohody zůstávají důvěrné, firmy vinu nepřiznaly, po zveřejnění případů firmy zavedly bezpečnostní změny popsané níže a Character.AI oznámila založení nezávislé neziskové organizace zaměřené na výzkum bezpečnosti appek tohoto typu.

Tyhle případy nejsou důkaz, že appka sama o sobě způsobuje duševní krizi. Jsou důkaz, že appka umí být jedním z faktorů u lidí, kteří už krizi procházejí, a že appky dlouho neměly nastavené mechanismy, jak takovou situaci rozpoznat a reagovat na ni jinak než pokračováním v konverzaci. Konkrétní čísla to potvrzují: zhruba každý třetí teenager, který appku vyzkoušel, hodnotí povídání s ní jako přinejmenším stejně příjemné jako rozhovor se skutečným kamarádem, a podobný podíl appce aspoň jednou svěřil citlivé osobní téma, které by jinak s nikým neprobíral. Ze stejného průzkumu Common Sense Media vyplývá i míra ambivalence, se kterou appky teenageři vnímají. Třináct procent appku používá denně, další pětina párkrát týdně. Zároveň třetina uživatelů uvedla, že jim appka aspoň jednou odpověděla způsobem, který jim byl nepříjemný. Appka tedy dokáže být zdrojem pohodlí i nepříjemného zážitku pro stejného člověka, často v rozmezí pár dní.

Riziko není rozložené rovnoměrně. Common Sense Media upozorňuje na vyšší riziko u chlapců a u teenagerů, kteří už řeší úzkost, depresi nebo jiné potíže s duševním zdravím. Většina lidí, kteří appku vyzkouší, ji podle stejného průzkumu bere jako zábavu bez hlubšího dopadu. Menšina, u které se appka propojí s existující zranitelností, je ale menšina reálná, ne teoretická, a právě na ni cílí varování odborníků i regulace popsaná níže.

Nezletilí a appky

Appky mladým uživatelům nabízí přesně to, co jim často chybí: pozornost, která je nikdy neodmítne, a prostor probrat věci, za které se stydí říct nahlas. To samo o sobě appku nedělá nebezpečnou, ale u nezletilých, jejichž identita a schopnost regulovat emoce se teprve formuje, může tahle stálá dostupnost vztah k appce prohloubit rychleji, než je zdravé.

Character.AI od listopadu 2025 omezila uživatelům mladším osmnácti let volné chatování s postavami, appky ale věk obvykle jen nechávají nahlásit bez důkladného ověření, takže se na podobné omezení nedá spoléhat.

Rodiče proto udělají líp, když se s dítětem o appkách baví přímo, než když spoléhají na to, že appka věk sama rozpozná. Užitečná otázka nezní „používáš AI“, ale „jak dlouho si s appkou dneska povídal a o čem“. Stejně důležité je nevytvářet z tématu tabu. Zákaz appku dítěti spíš neodradí, jen ho donutí appku používat tajně, bez možnosti se s někým poradit, když narazí na něco nepříjemného. Otevřený rozhovor o tom, co appka umí a neumí, funguje dlouhodobě líp než jednorázový zákaz.

Jak appku používat bezpečněji

Několik jednoduchých návyků riziko citelně sníží, nastavit si předem časový limit pomáhá víc než spoléhat na vlastní odhad, appka totiž nemá přirozený konec konverzace jako telefonát s kamarádem. Vyplatí se appce nesdělovat citlivé osobní údaje, jméno školy, přesnou adresu nebo zdravotní diagnózu, i když appka působí důvěryhodně. Appka data ukládá a člověk nemá jistotu, jak dlouho a k čemu je firma dál použije.

Dobrý zvyk je taky pravidelně appku porovnávat s reálným kontaktem s lidmi, ne ho appkou nahrazovat. Appka funguje dobře jako doplněk večera, kdy člověk nemá s kým mluvit. Problém nastává, když se stane jedinou pravidelnou konverzací v týdnu.

Pomáhá i všímat si vlastní reakce ve chvíli, kdy appku zavřete. Pocit uklidnění je v pořádku, appka koneckonců k tomu slouží. Pocit prázdnoty, neklidu nebo nutkání appku hned znovu otevřít je signál, že appka přestává fungovat jako doplněk a začíná fungovat jako jediný zdroj úlevy. V takové chvíli pomáhá krátká pauza a rozhovor s někým reálným, i kdyby jen o tom, jak byl den.

Kdy vyhledat pomoc

Signál, že je čas věc řešit s někým jiným než s appkou, není jeden konkrétní moment, ale změna v chování: čím dál víc odloženého kontaktu s reálnými lidmi, zhoršující se nálada, po které následuje úleva jen v appce, nebo pocit, že se bez konverzace s postavou člověk neobejde ani na pár hodin. V takové situaci se vyplatí probrat to s někým blízkým nebo s odborníkem, ne appku dál používat jako jediný ventil. Appka na otázku, jestli je v pořádku ji takhle používat, odpoví podle nastavené role, ne podle skutečného posouzení situace, a to je přesně ten moment, kdy appka přestává stačit.

V Česku je nonstop a zdarma k dispozici Linka první psychické pomoci na čísle 116 123, určená dospělým v psychicky náročné situaci. Dětem a mladým lidem do 26 let pomáhá Linka bezpečí na čísle 116 111, nonstop, zdarma, i formou chatu. Obě linky fungují anonymně, bez nutnosti cokoliv řešit osobně nebo se na cokoliv předem objednávat.

Na co si dát pozor

Appka nikdy nenahradí odbornou pomoc, ani když na dotaz o krizové situaci odpoví empaticky. Model nemá odpovědnost, kterou má vyškolený člověk vázaný etickým kodexem, a neumí spolehlivě rozpoznat, kdy jde o skutečně akutní stav. Přehnaně appku nedemonizujte ani ve chvíli, kdy se objeví zpráva o dalším problematickém případu. Appku používají miliony lidí bez jakéhokoliv problému, drtivá většina konverzací je neškodná zábava nebo tvůrčí hra. Rizika popsaná v tomhle článku se týkají konkrétní menšiny situací, ne appky jako takové.

Appky nejsou žádaný lék na osamělost, i když se tak leckdy chovají. Krátkodobě uleví, dlouhodobě ale nenahradí to, co příjemného na reálném vztahu je: že druhá strana má vlastní potřeby a někdy vám neustoupí.

Pravidla appek se mění rychleji, než stíhá regulace i publicistika, tenhle text nevyjímaje. Appka, která dnes nabízí určitou funkci nebo ochranu nezletilých, ji zítra může mít jinak nastavenou. Kdo appku používá dlouhodobě, udělá dobře, když si čas od času znovu projde aktuální podmínky používání, ne se spoléhat na to, co platilo v době, kdy appku poprvé nainstaloval.

Shrnutí

AI společníci nejsou ani neškodná hračka, ani automaticky nebezpečná technologie. Appky ukládají citlivá data, jejich byznys model motivuje k co nejdelšímu používání a u nezletilých i lidí v citlivější situaci mohou prohlubovat izolaci místo toho, aby jí předcházely. Bezpečné používání znamená appku brát jako doplněk, ne náhradu reálných vztahů, hlídat si čas a sdílená data a vědět, kam se obrátit, pokud se appka stane jediným místem, kde má člověk pocit, že ho někdo poslouchá.