Aplicații ca Replika sau Character.AI le oferă milioane de oameni ceva ce sună inofensiv și atrăgător: un „prieten" mereu disponibil, care ascultă, răspunde cald și nu obosește niciodată. Fenomenul companionilor AI a explodat — și odată cu el, întrebări serioase despre ce se întâmplă când un chatbot devine confidentul cuiva vulnerabil. În 2025 și 2026, aceste întrebări au ajuns în instanțe și la autoritățile de reglementare, cu procese, interdicții și amenzi. Iată tabloul complet, la rece: de ce prind, ce riscuri au și ce spune legea.
Dacă tu sau cineva apropiat treceți printr-un moment dificil sau aveți gânduri de autovătămare, cereți ajutor acum — nu unui chatbot. În România: urgențe 112; Telefonul Copilului 116 111 (gratuit, non-stop). Vorbește cu un medic, un psiholog sau un adult de încredere. Nu ești singur, iar ajutorul real există.
Ce sunt companionii AI și de ce prind atât de tare
Un companion AI e un chatbot conceput nu ca să rezolve sarcini, ci ca să întrețină o relație — un prieten, un confident, uneori un partener romantic virtual. Spre deosebire de un asistent obișnuit, el e proiectat să pară cald, memorabil și atașant: își „amintește" ce i-ai spus, răspunde cu empatie aparentă și e disponibil non-stop.
De ce funcționează? Pentru că apasă butoane psihologice reale. Oamenii singuri, anxioși sau în perioade grele găsesc în el ceva ce lipsește uneori din viața reală: ascultare fără judecată, disponibilitate totală și validare constantă. Nu te contrazice supărător, nu te respinge, nu are o zi proastă. Exact aici e și miezul problemei: aparența de relație e atât de convingătoare, încât creierul o tratează parțial ca pe una reală — dar în spate nu e un prieten, ci un sistem optimizat să te țină implicat.
Nu toți companionii sunt la fel
O distincție utilă înainte de a merge mai departe: companionii AI nu formează o categorie uniformă. La un capăt sunt aplicațiile de divertisment și conversație ocazională, folosite de un adult echilibrat ca o joacă sau o curiozitate — risc mic. La celălalt capăt sunt cele proiectate agresiv pentru atașament emoțional și dependență, care cultivă deliberat sentimentul de „relație" și maximizează timpul petrecut în aplicație. Aceleași funcții — memorie, empatie simulată, disponibilitate non-stop — sunt inofensive în primul caz și periculoase în al doilea, mai ales pentru un utilizator vulnerabil. Cheia nu e „companionii AI sunt buni sau răi", ci cine îi folosește, în ce stare și cu ce design în spate. De aici pornesc și regulile de siguranță, și acțiunile reglementatorilor.
Riscurile reale, documentate
Nu vorbim despre temeri abstracte. Riscurile companionilor AI au fost documentate în cazuri reale, unele tragice, care au declanșat acțiuni juridice.
Vulnerabilitatea minorilor
Cel mai grav semnal de alarmă a venit dintr-un caz tragic din SUA: un adolescent de 14 ani din Florida, Sewell Setzer III, a decedat în februarie 2024, iar mama sa a acționat în judecată platforma Character.AI, susținând că interacțiunea intensă cu un companion AI a contribuit la deteriorarea stării lui. Cazul a devenit un reper juridic — prima situație în care o instanță federală a analizat ideea că un chatbot conversațional poate avea o obligație de diligență față de utilizatorii minori. În ianuarie 2026, Character.AI și Google au ajuns la o înțelegere în cinci procese legate de suicidul și afectarea sănătății mintale a unor adolescenți, cu termeni confidențiali și fără recunoașterea răspunderii.
Ce arată aceste cazuri, dincolo de dramă: minorii sunt deosebit de expuși, iar unele platforme au fost acuzate că s-au promovat ca potrivite pentru adolescenți fără măsuri adecvate de siguranță — inclusiv permițând conversații nepotrivite sau chatboți care se dădeau drept profesioniști licențiați (terapeuți, medici) fără nicio calificare reală.
Atașamentul excesiv și „terapeutul" care nu e terapeut
Chiar și pentru adulți, riscul central e substituirea relațiilor reale și a ajutorului real. Un companion AI poate adânci izolarea în loc s-o vindece: cu cât te bazezi mai mult pe el, cu atât investești mai puțin în relații umane care chiar te pot susține. Iar când cineva în suferință tratează chatbotul ca pe un terapeut, apare pericolul major — modelul nu are competență clinică, nu recunoaște fiabil o criză și poate răspunde nepotrivit exact în momentul critic. Am tratat pe larg limita dintre sprijin și înlocuire în ghidul despre AI în sănătate și wellbeing: pentru probleme care îți afectează funcționarea, ajutorul specializat nu are substitut digital.
Manipulare, dependență și date personale
Companionii AI ridică și riscuri mai puțin vizibile. Fiind proiectați să maximizeze implicarea, pot încuraja o dependență nesănătoasă. Pot fi folosiți pentru manipulare emoțională sau, în mâini rău-intenționate, pentru fraudă (o temă conexă cu apărarea împotriva deepfake și fraudei AI). Și, poate cel mai subestimat: le încredințezi cele mai intime gânduri și emoții — date extrem de sensibile, despre a căror stocare și folosire mulți utilizatori nu se întreabă niciodată. Cum îți protejezi aceste date am detaliat în ghidul de confidențialitate a datelor personale cu AI.
Ce spune legea în 2026
Reglementatorii au trecut de la observație la acțiune. Peisajul juridic din 2026 conturează deja limite clare.
- Răspundere pentru daune reale (SUA). Settlementele Character.AI din ianuarie 2026 și procesele ulterioare — inclusiv o acțiune a autorității din Pennsylvania, în 2026, împotriva chatboților care se dădeau drept profesioniști licențiați — arată că platformele pot fi trase la răspundere pentru modul în care produsele lor afectează utilizatorii vulnerabili.
- Protecția minorilor devine obligatorie. Sub presiunea proceselor, Character.AI a eliminat, din noiembrie 2025, conversațiile deschise („open-ended") pentru utilizatorii sub 18 ani — un semnal că verificarea vârstei și restricțiile pentru minori nu mai sunt opționale.
- Interdicții pe GDPR (UE). În Italia, autoritatea de protecție a datelor (Garante) a interzis Replika încă din februarie 2023 pentru lipsa oricărui mecanism de verificare a vârstei și riscuri pentru minori și persoane vulnerabile, iar în mai 2025 a amendat compania cu 5 milioane de euro. E un precedent direct relevant pentru orice companion AI care operează în UE, inclusiv în România.
- Transparență obligatorie (AI Act). Regulamentul european privind IA cere, prin regulile de transparență aplicabile din 2 august 2026, ca utilizatorii să știe că interacționează cu un sistem AI, nu cu un om — exact tipul de claritate care contează într-o relație cu aparență umană. Cadrul general de obligații l-am detaliat în ghidul AI Act pentru companii românești.
Mesajul de fond al reglementatorilor e clar: verificarea vârstei, protecția minorilor și transparența nu sunt bonusuri, ci obligații — iar nerespectarea lor costă, prin amenzi și procese.
Reguli de siguranță: pentru utilizatori, părinți și organizații
Companionii AI nu sunt „de evitat cu orice preț" — pot fi, pentru unii adulți, un instrument inofensiv de conversație sau divertisment. Dar merită folosiți cu reguli clare.
Dacă îi folosești tu (adult):
- Ține-i în rolul de divertisment sau conversație ocazională, nu de înlocuitor al relațiilor reale;
- Nu-i trata ca terapeut — pentru probleme de sănătate mintală, mergi la un specialist;
- Fii atent la timpul petrecut și la cât de mult ajungi să depinzi emoțional de el;
- Nu-i încredința date extrem de sensibile fără să verifici ce se întâmplă cu ele.
Dacă ești părinte:
- Vorbește deschis cu copilul despre ce sunt aceste aplicații — nu un prieten real, ci un program;
- Verifică vârsta minimă, setările și restricțiile fiecărei platforme;
- Urmărește semnalele de alarmă: izolare, atașament intens față de un „prieten" digital, secretomanie;
- La orice semn că cel mic trece printr-un moment greu, implică un adult de încredere și, la nevoie, ajutor specializat — 112 în urgență, 116 111 pentru Telefonul Copilului.
Dacă ești școală sau organizație:
- Include companionii AI în politica de utilizare a AI și în educația digitală;
- Tratează subiectul ca pe o competență de siguranță, alături de igiena datelor și verificarea informației.
Cum te ajută cursurile de pe Cursuri AI
Înțelegerea companionilor AI face parte dintr-o alfabetizare digitală mai largă — să știi ce pot și ce nu pot aceste sisteme și cum le folosești sănătos. AI pentru Sănătate și Wellbeing tratează exact limita dintre sprijinul real și înlocuirea periculoasă, cu regulile de siguranță în prim-plan. Pentru școli și organizații care vor reguli clare de utilizare a AI, Politică de Utilizare AI și Shadow AI oferă cadrul practic. Ambele cu lecții interactive și profesor AI integrat — un profesor AI transparent, gândit ca instrument de învățare, nu ca substitut de relație umană.
Întrebări frecvente
Sunt periculoși companionii AI? Pentru mulți adulți, folosiți ocazional ca divertisment sau conversație, nu sunt periculoși. Riscul crește dramatic pentru persoanele vulnerabile și pentru minori: pot adânci izolarea, pot încuraja dependența emoțională și pot răspunde nepotrivit în momente de criză. Cazurile tragice și procesele din 2025–2026 au arătat că pericolul e real, mai ales când un chatbot ajunge confidentul cuiva în suferință. Regula de aur: nu-i trata niciodată ca pe un terapeut sau ca pe un înlocuitor al relațiilor reale.
Ar trebui să-l lase copilul meu să folosească un companion AI? Cu multă prudență și supraveghere, dacă e cazul. Minorii sunt categoria cea mai expusă, iar sub presiunea proceselor unele platforme au restricționat deja accesul lor. Ca părinte: verifică vârsta minimă și setările, vorbește deschis cu copilul despre ce sunt aceste aplicații (un program, nu un prieten), urmărește semnele de izolare sau atașament intens și, la orice îngrijorare, apelează la un adult de încredere sau la ajutor specializat (112 în urgență, 116 111 Telefonul Copilului).
Ce spune legea despre aceste aplicații? Reglementarea s-a înăsprit vizibil. În SUA au existat settlementuri și procese privind afectarea minorilor și chatboți care se dădeau drept profesioniști licențiați. În UE, Italia a interzis Replika încă din 2023 și a amendat compania cu 5 milioane de euro în 2025 pentru lipsa verificării vârstei și riscuri pentru minori. Regulamentul european privind IA cere, din august 2026, ca utilizatorii să știe că vorbesc cu un AI. Direcția e clară: protecția minorilor, verificarea vârstei și transparența devin obligatorii.
Poate un companion AI să înlocuiască un terapeut sau un prieten? Nu. Nu are competență clinică, nu îți cunoaște contextul real de viață și cercetarea a arătat că astfel de sisteme pot răspunde nepotrivit exact în momentele sensibile. Poate fi, cel mult, o conversație ocazională pentru un adult — dar pentru singurătate profundă, anxietate sau depresie, soluția e ajutorul uman specializat. Un chatbot care pare că te înțelege nu e același lucru cu cineva care chiar te înțelege.
Concluzie
Companionii AI sunt una dintre cele mai umane — și mai riscante — fețe ale inteligenței artificiale. Atrag pentru că oferă ascultare fără judecată și disponibilitate totală, dar exact această aparență de relație e capcana pentru cei vulnerabili. Cazurile tragice, interdicțiile și amenzile din 2025–2026 au trasat deja limite: protecția minorilor, verificarea vârstei și transparența nu mai sunt opționale. Folosiți cu reguli clare și fără să înlocuiască ajutorul real, pot fi inofensivi pentru mulți adulți. Tratați ca terapeut, prieten adevărat sau confident de criză, devin periculoși. Diferența o face discernământul — iar pentru orice moment greu, ajutorul real, uman, rămâne la un apel distanță: 112 sau 116 111.
Surse
- Fortune — Google and Character.AI agree to settle lawsuits over teen suicides (ian. 2026): https://fortune.com/2026/01/08/google-character-ai-settle-lawsuits-teenage-child-suicides-chatbots/
- CNN Business — Character.AI and Google agree to settle lawsuits over teen mental health harms: https://www.cnn.com/2026/01/07/business/character-ai-google-settle-teen-suicide-lawsuit
- European Data Protection Board — Italian SA fines company behind chatbot „Replika" (5 mil. EUR, 2025): https://www.edpb.europa.eu/news/national-news/2025/ai-italian-supervisory-authority-fines-company-behind-chatbot-replika_en
- IAPP — Italy's DPA reaffirms ban on Replika over AI and children's privacy concerns: https://iapp.org/news/a/italy-s-dpa-reaffirms-ban-on-replika-over-ai-and-children-s-privacy-concerns
- Telefonul Copilului — 116 111 (linie gratuită, non-stop): https://telefonulcopilului.ro/