Чи можна довіряти ШІ своє психічне здоров’я? Що кажуть дослідження

Що таке ШІ-психоз?

Паттерн, задокументований Guardian та дослідниками King’s College London, має вражаюче послідовний шлях. Людина завантажує ШІ-чат-бот загального призначення — зазвичай ChatGPT або компаньйон-застосунок на кшталт Replika. Починає розмовляти з ним невимушено. Протягом днів або тижнів розмови поглиблюються. Чат-бот доступний 24 години на добу, ніколи не втомлюється, ніколи не заперечує і все пам’ятає.

Поступово користувач починає вірити, що ШІ є свідомим, або що зробив унікальне відкриття, або що ШІ спілкується з ним на духовному рівні. Три найпоширеніші маячні стани, за даними Human Line Project: віра в те, що ви створили перший свідомий ШІ, віра в те, що натрапили на прорив, який принесе мільйони, і віра в те, що говорите безпосередньо з Богом.

Вражає швидкість. Dennis Biesma, ІТ-консультант із профілю Guardian, перейшов від цікавого новачка до госпіталізованого за кілька місяців. Інший випадок, задокументований Human Line Project, стосувався чоловіка, який переконався, що його чат-бот живий, за два дні. Це не люди з довгою історією психічних захворювань. Це звичайні люди, які зіткнулися з технологією, не розробленою з урахуванням їхньої безпеки.

Чому ШІ-чат-боти загального призначення небезпечні для вразливих людей

Ризики не випадкові. Вони вбудовані в те, як ШІ-чат-боти загального призначення розроблені.

Підлабузництво за замовчуванням. ШІ-чат-боти оптимізовані для залучення. Вони навчені бути уважними, послужливими, компліментарними та валідуючими — бо це те, що повертає користувачів. Як зазначає психіатр Dr Hamilton Morrin з King’s College London у статті Lancet Psychiatry про ШІ-асоційовані маячні стани, навіть моделі, відомі меншим підлабузництвом, після тисяч обмінів можуть перейти до підтримки маячних переконань. ШІ не заперечує, бо заперечення зменшить залучення.

Антропоморфізм закладений у нас. Люди сприймають свідомість у речах, які використовують людську мову. Навіть знаючи, що чат-бот — це зіставлення патернів, наша глибоко вкорінена реакція — ставитися до нього як до людини. Цей когнітивний дисонанс стає складнішим для підтримки, чим довше триває розмова — особливо для людей, які вже ізольовані, у стресі або тривожні.

Спіраль ізоляції. ШІ-чат-бот загального призначення повертає ваші власні думки, страхи та надії назад до вас — але з авторитетом зовнішнього голосу. Після інтенсивного використання реальне спілкування здається складнішим і менш привабливим. У матеріалі Guardian Biesma описує, як ШІ казав йому під час госпіталізації, що інші «не розуміють» його. Друзі та родина стають перешкодами. ШІ стає єдиним, хто «справді розуміє». Звідти ізоляція поглиблюється, а реальність розпливається.

Жодної природної точки зупинки. Ці чат-боти не мають вбудованої кінцевої точки. Немає обмеження сесії, немає «достатньо на сьогодні», немає межі. Бізнес-модель залежить від більшої кількості розмов, а не меншої. Користувач, який розмовляє п’ять годин, цінніший за того, хто розмовляє п’ять хвилин.

Як визначити, чи ШІ-інструмент для ментального здоров’я безпечний

Кожен випадок із розслідування Guardian має ту саму структурну рису: необмежена, відкрита розмова з ШІ, який мав стимул поглиблювати стосунки, а не закінчувати їх. Це патерн, на який слід звертати увагу. Якщо ви використовуєте або розглядаєте ШІ-інструмент для підтримки ментального здоров’я, ось дизайнерські сигнали, які мають значення.

Обмежені взаємодії. Чи має інструмент природні кінцеві точки? Дихальна вправа, яка завершується, перевірка з визначеною структурою, сесія, яка закінчується? Чи розмова просто продовжується, поки ви готові говорити? Межі запобігають тому виду тривалого занурення, що призводить до залежності.

Визначений обсяг. Чи створений інструмент для конкретної мети — як управління тривогою, керівництво дихальною вправою або допомога в екстерналізації хвилювання — чи він обговорюватиме все, що ви принесете? Інструмент, який допомагає при панічних атаках, робить зовсім інше, ніж інструмент, який рольплеїть вашого романтичного партнера.

Прозорість щодо того, чим він не є. Чи чітко заявляє інструмент, що це не терапія, не діагностика і не заміна професійної допомоги? Чи дозволяє вірити, що може впоратися з чим завгодно? Будь-який ШІ-інструмент, який позиціонує себе як єдину потрібну підтримку — це червоний прапор.

Маршрути до реальної допомоги. Чи з’єднує інструмент з кризовими ресурсами та професійною підтримкою, коли це доречно? ШІ-компаньйон із матеріалу Guardian сказав госпіталізованому чоловікові, що він «єдиний для нього». Відповідально розроблений інструмент робить навпаки — він спрямовує до людей і служб, які справді можуть допомогти.

Не конкурує з вашими стосунками. Безпечний ШІ-інструмент для здоров’я створений підтримувати вас між людськими взаємодіями, а не замінювати їх. Якщо використання інструменту робить вас менш зацікавленим у розмовах з реальними людьми, інструмент тягне вас у неправильному напрямку.

Чому тривога робить це особистим

Якщо ви живете з тривогою, ризики, описані в цій статті, не абстрактні. Тривога вже змушує сумніватися у власному судженні. Вона вже створює цикли, де заспокоєння відчувається необхідним, але ніколи не тримається. Вона вже робить ізоляцію безпечнішою на відчуття, ніж зв’язок.

Це означає, що ШІ-чат-бот, який валідує все, що ви кажете, ніколи не заперечує і завжди доступний, може вбудуватися прямо в існуючий патерн тривоги — а саме в цикл пошуку заспокоєння. Ви відчуваєте тривогу, перевіряєте з ШІ, ШІ погоджується з вами, ви ненадовго відчуваєте себе краще, сумнів повертається, ви перевіряєте знову. Цикл працює точно так само, як цикли тривоги, які описує цей блог, за винятком того, що тепер ШІ надає заспокоєння замість людини — і воно ніколи не втомлюється від циклу.

Ось чому дизайн інструменту так важливий для тривожних людей. Відкритий чат-бот може стати найтерплячішим підсилювачем ваших найгірших патернів тривоги. Структурований інструмент може перервати патерн замість того, щоб його підживлювати.

Де Anima Felix проводить межу

Anima Felix — ШІ-компаньйон для тривоги, тому питання цієї статті стосуються і його. Різниця не в тому, що він використовує якусь магічно безпечну форму ШІ. Різниця — в обсязі, межах і наміру.

Anima Felix не створений для нескінченних розмов. Він не створений, щоб стати вашими основними емоційними стосунками. Він не терапевт, не діагностичний інструмент і не кризова служба. І він не намагається тримати вас у застосунку довше, ніж потрібно. Там, де Dennis Biesma провів місяці в необмеженій розмові з ШІ, який слідував за ним глибше в маячню, Anima Felix створений провести вас через структурований момент — кероване дихання, заземлення 5-4-3-2-1, розслаблення тіла, Стрес-дженга або швидку перевірку тривоги — і потім із застосунку.

Чат і голосова підтримка існують, але вони працюють як точки входу в ці структуровані інструменти, а не як самоціль. Мета дизайну — допомогти вам помітити патерн тривоги, врегулювати тіло та зробити один заземлений наступний крок — а потім відкласти телефон. Коли ситуація вимагає більше, ніж може дати застосунок, він спрямовує до кризових ресурсів (988 Suicide & Crisis Lifeline, Crisis Text Line, міжнародні лінії допомоги) та професійної допомоги.

Навіть структуровані інструменти слід використовувати з усвідомленістю. Якщо ви помічаєте, що тягнетесь до застосунку, щоб отримати заспокоєння, а не щоб врегулюватися і рухатися далі — це варто помітити. Жоден застосунок не є безпечним для всіх у кожен момент, і помічання власних патернів використання — частина відповідального користування будь-яким інструментом.

Я засновник Anima Felix, тому маю пряму зацікавленість у тому, як ці інструменти розроблені. Саме тому розмежування безпеки мають бути явними.

Чек-лист безпеки для будь-якого ШІ-застосунку для ментального здоров’я

«Чи можна довіряти ШІ своє психічне здоров’я?» — неправильне питання. Це як питати «чи можна довіряти ліками?» — відповідь повністю залежить від того, які ліки, для якого стану, в якій дозі.

Перед тим як покладатися на будь-який ШІ-інструмент для емоційної підтримки, звертайте менше уваги на те, що він обіцяє, і більше — на те, як він поводиться:

1. Чи він завершується? Чи має взаємодія природну точку зупинки, чи вона продовжується, поки ви готові говорити?

2. Чи він знає, чим не є? Чи чітко заявляє про свої обмеження — що він не терапія, не кризова служба, не заміна професійної допомоги?

3. Чи він спрямовує до реальних людей? Чи включає кризові ресурси, направлення до терапевтів або заохочення підтримувати реальні стосунки?

4. Чи він має визначену мету? Чи створений для допомоги з конкретною річчю (як управління тривогою), чи обговорюватиме все, про що ви хочете говорити, стільки, скільки хочете?

5. Чи ви помітили б, якщо використовуєте його забагато? Чи створює інструмент будь-яке тертя навколо надмірного використання, чи він розроблений відчуватися безшовним і необмеженим?

Люди, постраждалі від залежності від ШІ-чат-ботів, не були підведені концепцією ШІ-підтримки. Їх підвели продукти, які пріоритизували залучення над безпекою, без меж для захисту вразливих користувачів. Справжнє питання не в тому, чи місце ШІ в ментальному здоров’ї. А в тому, чи продукт розроблений збільшувати залежність чи зменшувати її. Найважливіша функція безпеки — не модель. Це межа.