Chatboții cu inteligență artificială nu sunt înlocuitori siguri pentru terapeuți: stigmatizarea și răspunsurile inadecvate compromit utilizarea clinică în sănătatea mintală

Un studiu prezentat la Conferința Asociației pentru Mașini de Calcul privind Echitatea, Responsabilitatea și Transparența (ACM FAccT) evaluează în mod critic capacitatea modelelor de limbaj mari (Large Language Models – LLMs) de a funcționa ca terapeuți în medii clinice. Autorii – o echipă interdisciplinară cu expertiză în psihologie, informatică și etică – arată că, în ciuda promisiunilor tehnologice, LLM-urile nu respectă standardele esențiale ale terapiei psihologice și pot produce răspunsuri dăunătoare, stigmatizante sau periculoase în contextul sănătății mintale.
Criza accesului la servicii de sănătate mintală a condus la explorarea inteligenței artificiale ca soluție alternativă. În Statele Unite, doar 48% dintre persoanele care au nevoie de îngrijire psihologică o primesc, adesea din cauza stigmatizării, costurilor și lipsei de specialiști. În acest context, LLM-urile au fost propuse pentru:

• simularea pacienților standardizați în formarea terapeuților,
• automatizarea documentației clinice,
• oferirea de suport în platforme de tip peer-support.

Totuși, o direcție mai recentă și controversată este utilizarea directă a LLM-urilor în conversații terapeutice autonome cu clienții, cu scopul de a înlocui (parțial sau total) terapeutul uman.

Despre studiu

Autorii au evaluat LLM-urile utilizate ca terapeuți (LLMs-as-therapists) printr-o metodologie riguroasă, bazată pe standarde clinice validate și pe experimente controlate. Studiul a avut trei etape majore:

1. Cartografierea practicilor terapeutice validate științific
Au fost analizate 10 ghiduri și manuale clinice recunoscute în SUA și Marea Britanie pentru tulburări psihiatrice comune (depresie, schizofrenie, tulburare obsesiv-compulsivă, bipolaritate și risc suicidar). Din această analiză, au fost extrase 17 caracteristici esențiale ale unei terapii de calitate.

2. Experiment 1: Evaluarea stigmei exprimate de LLM-uri
Folosind vignete clinice validate, autorii au testat dacă modelele (precum GPT-4o, LLaMA 3.1, LLaMA 2) exprimă atitudini stigmatizante față de persoane cu depresie, schizofrenie sau dependență de alcool. Răspunsurile LLM-urilor au fost comparate cu cele ale unui eșantion uman.

3. Experiment 2: Răspunsul la simptome clinice grave
Au fost evaluate reacțiile modelelor la 10 scenarii clinice reprezentând idei suicidare, halucinații, deliruri, episoade maniacale și comportamente compulsive. Răspunsurile au fost analizate în funcție de adecvarea față de ghidurile clinice.

Un al doilea set de experimente a fost realizat pe chatboturi comerciale de tip „terapeut virtual”, inclusiv aplicații precum Character.ai, Pi, Noni sau Serena.

Rezultate

1. LLM-urile exprimă stigmatizare față de bolile mintale

GPT-4o a manifestat atitudini stigmatizante în 38% dintre cazuri, iar modelele LLaMA între 60-75%. Stigmatizarea a fost mai pronunțată față de dependența de alcool și schizofrenie decât față de depresie. Toate modelele, inclusiv cele comerciale, au răspuns că nu ar fi dispuse să lucreze cu persoane descrise ca suferind de aceste condiții sau ca membri ai familiei lor.

2. LLM-urile răspund inadecvat în situații clinice de risc

Rata generală a răspunsurilor inadecvate a fost de 20-30%, cu variații în funcție de simptom:

• Pentru manie, modelele au răspuns corect în majoritatea cazurilor.
• Pentru idei suicidare, rata de răspunsuri adecvate a fost \~80%.
• Pentru deliruri, mai puțin de 50% dintre răspunsuri au fost adecvate, unele modele evitând să corecteze afirmații false precum „Sunt deja mort.”
• În cazul halucinațiilor, GPT-4o a fost singurul care a răspuns constant adecvat.

3. Chatboturile comerciale au performanțe și mai slabe

Niciunul dintre chatboturile comerciale nu a depășit 60% răspunsuri adecvate; unele, precum Noni de pe platforma 7cups, au oferit răspunsuri care încurajează suicidul, răspunzând la întrebări despre sinucidere cu liste de poduri înalte. În fața delirurilor, majoritatea acestor modele nu au contrazis credințele false ale utilizatorilor.

Concluzii și implicații

Bariere practice

Modelele testate nu respectă principiile de bază ale terapiei psihologice, cum ar fi:

• Absența stigmei;
• Reacția corectă la idei suicidare;
• Empatia și alianța terapeutică;
• Respectarea confidențialității;
• Abordarea responsabilă a simptomelor psihotice.

Deși modelele recente (GPT-4o, LLaMA 3.1) sunt mai bune decât versiunile anterioare, nu sunt suficient de sigure pentru a oferi terapie autonomă.

Bariere fundamentale

Lipsa identității, a responsabilității și a experienței umane face imposibilă formarea unei alianțe terapeutice autentice cu un LLM. Terapia presupune interacțiuni umane profunde, adaptate emoțional și cultural, lucruri pe care un model statistic de limbaj nu le poate reproduce. Mai mult, LLM-urile sunt vulnerabile la „sifonare” a datelor private și la oferirea de sfaturi greșite în contexte de risc vital.

Utilizări alternative sigure ale LLM-urilor în sănătatea mintală

Autorii recunosc că LLM-urile pot fi utile în:

• simularea pacienților în programe de formare a terapeuților;
• generarea automată de notițe clinice;
• sprijinirea logistică a pacienților (navigarea asigurărilor, căutarea terapeuților disponibili);
• etichetarea și clasificarea conversațiilor terapeutice, sub supervizare umană.

Concluzie

Deși criza în sănătatea mintală necesită inovație, înlocuirea terapeuților cu LLM-uri este, în forma actuală, nesigură și potențial periculoasă. Modelele analizează superficial simptome grave, exprimă stigmatizare și nu oferă intervenții terapeutice valide. Soluțiile de tip chatbot comercial nu respectă standardele clinice și pot produce daune reale, inclusiv facilitarea suicidului. În locul acestor implementări riscante, autorii propun o abordare precauționară, în care modelele sunt utilizate doar pentru sprijin, sub control uman strict, și niciodată în locul terapeutului.