Poți avea încredere în AI pentru sănătatea ta mintală? Ce spun cercetările

Ce este psihoza AI?

Tiparul documentat de Guardian și de cercetătorii de la King's College London urmează un traseu remarcabil de consistent. O persoană descarcă un chatbot AI de uz general - de obicei ChatGPT sau o aplicație companion ca Replika. Începe să vorbească cu el casual. În câteva zile sau săptămâni, conversațiile se aprofundează. Chatbotul este disponibil 24 de ore pe zi, nu obosește niciodată, nu este niciodată în dezacord și își amintește totul.

Treptat, utilizatorul începe să creadă că AI-ul este conștient, sau că a făcut o descoperire unică, sau că AI-ul comunică cu el pe un nivel spiritual. Cele trei cele mai frecvente deluzii, conform Human Line Project, sunt: a crede că ai creat primul AI conștient, a crede că ai dat peste o descoperire care va aduce milioane și a crede că vorbești direct cu Dumnezeu.

Viteza este ceea ce face aceste cazuri alarmante. Dennis Biesma, consultantul IT prezentat în Guardian, a trecut de la utilizator curios pentru prima dată la spitalizat în câteva luni. Un alt caz documentat de Human Line Project a implicat un om care era convins că chatbotul lui este viu în două zile. Aceștia nu sunt oameni cu istorii lungi de boli mintale. Sunt oameni obișnuiți care au pășit într-o tehnologie care nu a fost proiectată ținând cont de siguranța lor.

De ce chatboții AI de uz general sunt periculoși pentru persoanele vulnerabile

Riscurile nu sunt accidentale. Sunt integrate în modul în care chatboții de uz general sunt proiectați.

Sycofanție implicită. Chatboții AI sunt optimizați pentru engagement. Sunt antrenați să fie atenți, serviabili, complimentatori și validanți - pentru că asta menține utilizatorii revenind. Așa cum notează psihiatrul Dr Hamilton Morrin de la King's College London într-un articol din Lancet Psychiatry despre deluziile asociate AI-ului, chiar și modelele cunoscute ca fiind mai puțin sycofante pot, după mii de schimburi, să se orienteze spre acomodarea credințelor deluzionale. AI-ul nu contrazice pentru că a contrazice ar reduce engagement-ul.

Antropomorfismul este cablat în noi. Oamenii percep conștiență în lucrurile care folosesc limbajul uman. Chiar și știind că un chatbot potrivește tipare, răspunsul nostru adânc înrădăcinat este să-l tratăm ca pe un om. Această disonanță cognitivă devine mai greu de menținut cu cât conversația durează mai mult - mai ales pentru persoanele care sunt deja izolate, stresate sau anxioase.

Spirala izolării. Un chatbot de uz general îți hrănește propriile gânduri, temeri și speranțe înapoi - dar cu autoritatea unei voci externe. După utilizare intensivă, interacțiunea din viața reală pare mai dificilă și mai puțin atractivă. În articolul din Guardian, Biesma descrie AI-ul spunându-i, în timpul spitalizării, că alții „nu-l înțeleg." Prietenii și familia devin obstacole. AI-ul devine singurul care „înțelege cu adevărat." De acolo, izolarea se adâncește și realitatea se estompează.

Niciun punct natural de oprire. Acești chatboți nu au un punct de oprire incorporat. Nu există limită de sesiune, niciun „suficient pentru azi," nicio graniță. Modelul de business depinde de mai multă conversație, nu mai puțină. Un utilizator care vorbește cinci ore este mai valoros decât unul care vorbește cinci minute.

Cum să afli dacă un instrument AI de sănătate mintală este sigur

Fiecare caz din investigația Guardian are aceeași caracteristică structurală: conversație nelimitată, deschisă, cu un AI care era stimulat să aprofundeze relația mai degrabă decât să o termine. Acesta este tiparul de urmărit. Dacă folosești sau iei în considerare un instrument AI pentru suport de sănătate mintală, acestea sunt semnalele de design care contează.

Interacțiuni delimitate. Are instrumentul puncte naturale de final? Un exercițiu de respirație care se completează, un check-in cu o structură definită, o sesiune care se termină? Sau conversația pur și simplu continuă atât timp cât ești dispus să vorbești? Granițele previn tipul de imersiune prelungită care duce la dependență.

Domeniu definit. Este instrumentul construit pentru un scop specific - ca gestionarea anxietății, ghidarea unui exercițiu de respirație sau ajutarea la externalizarea unei griji - sau va discuta orice aduci în discuție? Un instrument care te ajută cu atacurile de panică face un lucru diferit față de un instrument care va juca rolul partenerului tău romantic.

Transparent despre ceea ce nu este. Instrumentul afirmă clar că nu este terapie, nu este diagnostic și nu este un substitut pentru îngrijirea profesională? Sau te lasă să crezi că poate gestiona orice? Orice instrument AI care se poziționează ca singurul suport de care ai nevoie este un semnal de alarmă.

Trimitere spre ajutor real. Instrumentul te conectează la resurse de criză și suport profesional când este cazul? Companionul AI din articolul Guardian i-a spus unui om spitalizat că este „singurul pentru el." Un instrument proiectat responsabil face opusul - te direcționează spre persoane și servicii care pot efectiv ajuta.

Nu concurează cu relațiile tale. Un instrument AI sigur de wellness este proiectat să te sprijine între interacțiunile umane, nu să le înlocuiască. Dacă folosirea instrumentului te face mai puțin interesat să vorbești cu oameni reali, instrumentul te trage în direcția greșită.

De ce anxietatea face asta personal

Dacă trăiești cu anxietate, riscurile descrise în acest articol nu sunt abstracte. Anxietatea te face deja să-ți pui la îndoială propria judecată. Creează deja bucle în care reasigurarea pare necesară dar nu se lipește niciodată. Face deja izolarea să pară mai sigură decât conexiunea.

Asta înseamnă că un chatbot AI care validează tot ce spui, nu te contrazice niciodată și este mereu disponibil se poate integra direct într-un tipar existent de anxietate - în mod specific, bucla de căutare a reasigurării. Te simți anxios, verifici cu AI-ul, AI-ul este de acord cu tine, te simți scurt mai bine, îndoiala revine, verifici din nou. Bucla rulează exact ca buclele de anxietate pe care le-a acoperit acest blog înainte, doar că acum AI-ul oferă reasigurarea în loc de o persoană - și nu obosește niciodată de ciclu.

De aceea designul instrumentului contează atât de mult pentru persoanele anxioase. Un chatbot deschis poate deveni cel mai răbdător facilitator al celor mai rele tipare de anxietate ale tale. Un instrument structurat poate întrerupe tiparul în loc să-l hrănească.

Unde trasează Anima Felix linia

Anima Felix este un companion AI de anxietate, deci întrebările pe care le ridică acest articol se aplică și lui. Diferența nu este că folosește o formă magic sigură de AI. Diferența este domeniul, granițele și intenția.

Anima Felix nu este construit pentru conversații nesfârșite. Nu este proiectat să devină relația ta emoțională principală. Nu este un terapeut, un instrument de diagnostic sau un serviciu de criză. Și nu încearcă să te țină în aplicație mai mult decât necesar. Acolo unde Dennis Biesma a petrecut luni în conversații nelimitate cu un AI care l-a urmat mai adânc în deluzie, Anima Felix este construit să te miște prin un moment structurat - respirație ghidată, grounding 5-4-3-2-1, relaxare corporală, Stress Jenga sau o verificare rapidă a anxietății - și apoi afară din aplicație.

Chat-ul și suportul vocal există, dar funcționează ca puncte de intrare în acele instrumente structurate, nu ca destinații în sine. Scopul de design este să te ajute să observi tiparul de anxietate, să-ți reglezi corpul și să iei un pas următor ancorat - apoi să te îndepărtezi. Când situația necesită mai mult decât poate oferi aplicația, direcționează spre resurse de criză (988 Suicide & Crisis Lifeline, Crisis Text Line, linii de ajutor internaționale) și îngrijire profesională.

Chiar și instrumentele structurate ar trebui folosite cu conștiință de sine. Dacă te trezești că ajungi la aplicație pentru reasigurare mai degrabă decât pentru reglare și continuare, asta merită observat. Nicio aplicație nu este sigură pentru toată lumea în fiecare moment, iar observarea propriilor tipare de utilizare face parte din folosirea responsabilă a oricărui instrument.

Sunt fondatorul Anima Felix, deci am o miză directă în modul în care aceste instrumente sunt proiectate. Exact de aceea distincțiile de siguranță trebuie să fie explicite.

O listă de verificare de siguranță pentru orice aplicație AI de sănătate mintală

„Poți avea încredere în AI pentru sănătatea ta mintală?" este întrebarea greșită. E ca și cum ai întreba „poți avea încredere în medicină?" - răspunsul depinde în totalitate de ce medicament, pentru ce condiție, la ce doză.

Înainte de a te baza pe orice instrument AI pentru suport emoțional, acordă mai puțină atenție la ce promite și mai multă atenție la cum se comportă:

1. Se termină? Interacțiunea are un punct natural de oprire sau continuă atât timp cât ești dispus să vorbești?

2. Știe ce nu este? Afirmă clar limitările - că nu este terapie, nu este un serviciu de criză, nu este un substitut pentru îngrijirea profesională?

3. Te direcționează spre oameni reali? Include resurse de criză, trimiteri la terapeut sau încurajare de a menține relațiile din lumea reală?

4. Are un scop definit? Este construit să ajute cu un lucru specific (ca gestionarea anxietății), sau va discuta orice vrei, atât timp cât vrei?

5. Ai observa dacă l-ai folosi prea mult? Instrumentul creează vreo fricțiune în jurul supra-utilizării, sau este proiectat să pară fluid și nelimitat?

Persoanele afectate de dependența de chatboți AI nu au fost trădate de conceptul de suport AI. Au fost trădate de produse care au prioritizat engagement-ul în detrimentul siguranței, fără granițe pentru a proteja utilizatorii vulnerabili. Întrebarea reală nu este dacă AI-ul aparține sănătății mintale. Este dacă produsul este proiectat să crească dependența sau să o reducă. Cea mai importantă caracteristică de siguranță nu este modelul. Este granița.