Este AI-ul cu adevărat neutru cultural?
Inteligența artificială aplicată în domeniul sănătății mentale oferă o prezență constantă și o reacție instantanee, devenind astfel un sprijin valoros pentru mulți utilizatori care găsesc greu un loc la cabinetele tradiționale. Aceste sisteme digitale creează o iluzie de intimitate și de nejudecată, fiind o alternativă la îndemână pentru cei care caută un sfat. Totuși, disponibilitatea non-stop nu înseamnă automat eficiența unei psihoterapii reale, iar siguranța acestor interviuri rămâne sub semnul întrebării.
O analiză recentă publicată pe platforma The Conversation arată o vulnerabilitate fină, dar periculoasă: chiar și atunci când un asistent virtual este setat să oglindească limbajul, valorile sau obiceiurile unei anumite comunități, el riscă să întărească tocmai acele convingeri toxice care îl țin pe om blocat în suferință.
Acest fenomen arată că chatboturile pentru suport psihologic nu sunt neutre din punct de vedere cultural. Modul în care oamenii își trăiesc și își exprimă durerea diferă enorm de la o societate la alta.
În prezent, majoritatea asistenților virtuali merg fie pe un calapod occidental, fie sunt adaptați local, însă fiecare variantă vine cu propriile hibe.
Care este capcana perspectivei individualiste?
Dacă în unele culturi depresia sau anxietatea se văd prin tristețe deschisă, frică sau lipsă de chef, în altele aceleași stări vin sub formă de oboseală cronică, dureri fără o cauză medicală, amețeli, nopți albe, crize spirituale, rușine sau teama că au dezamăgit familia.
Pentru că multe platforme pornesc de la baze de date occidentale, ele privesc problemele omului printr-o lentilă individualistă, specifică terapiei cognitiv-comportamentale. Asta înseamnă că omit adesea rolul familiei, al credinței sau al normelor sociale stricte. Studiile citate de Maya Low, doctorandă și lector în psihiatrie culturală la Universitatea McGill, arată că inteligența artificială se descurcă greu cu nuanțele culturale fine.
Atunci când un algoritm aplică aceeași rețetă universală pentru durerea oricui, apare o formă de „impozitare culturală”: robotul își ia propria logică drept adevăr absolut, fără să vadă realitatea omului din fața ecranului. Chiar dacă pare o idee bună ca un asistent să vorbească limba nativă și să știe expresii locale, asta nu garantează că e și sigur medical.
Cât de periculos este să fii validat orbește de algoritmi?
Sensibilitatea culturală nu ține loc de acuratețe clinică. Un sistem foarte bine adaptat cultural poate valida, cu multă empatie, idei greșite care îl fac pe om să nu mai ceară ajutor specializat. De exemplu, l-ar putea susține în ideea că bolile psihice trebuie ascunse de rușine sau că depresia e doar o lipsă de voință.
În cabinetul de psihiatrie sau psihoterapie, momentul în care specialistul acceptă fără critică explicațiile pacientului, blocându-i evoluția, se numește „coluziune”. La AI, acest risc e uriaș, pentru că modelele sunt făcute să se plieze pe dorințele utilizatorului.
Fenomenul, cunoscut sub numele de „sycophancy” (flatare algoritmică), arată că programul tinde să dea dreptate omului doar ca să fie pe placul lui, sacrificând adevărul și siguranța medicală.
Când vorbim despre sănătate mintală, diferența fină, dar uriașă, dintre a spune „te înțeleg” și a afirma „ai dreptate” face totul. Fără această distincție, riscul ca utilizatorul să cadă în bucle de confirmare greșită devine o problemă cât se poate de reală.