Люди обращаются к ИИ за помощью с психикой, потому что он отвечает, а не потому что помогает

В том, как люди переживают самые тяжёлые ночи, незаметно произошёл сдвиг. Когда разум восстаёт против себя самого и позвать некого, всё больше взрослых открывают вместо этого чат-бот — не потому что верят, будто он их понимает, и часто даже не потому что это помогает, а потому что он отвечает. В этом — неудобная сердцевина масштабного нового опроса о ментальном здоровье, и она куда страннее, чем кажется на первый взгляд.

Самое очевидное прочтение — история о доверии: люди вверяют свою внутреннюю жизнь машинам. Но доверие здесь не та оптика. Цифры описывают не столько оценку того, насколько технология хороша. Это оценка доступности — простого факта: чат-бот есть, а специалиста нет.

Исследование, проведённое страховой компанией AXA совместно с социологической службой Ipsos среди 19 000 взрослых в 18 странах, показало: 63% уже обращались к инструментам ИИ с вопросами о своём ментальном здоровье. Цифра, на которой стоит задержаться, — из-за противоречия, которое идёт с ней в паре. Почти 45% были недовольны полученными ответами. И всё же 38% заявили, что доверяют таким платформам больше, чем живому специалисту по ментальному здоровью. Люди недовольны советом — и всё равно к нему тянутся.

Это имеет смысл только в том случае, если качество никогда не было решающим фактором. Чат-бот создан, чтобы выдавать беглый ответ, а не правильный; он не несёт обязанности проявлять заботу и не обязан передавать дело дальше, если заметит, что человек в опасности. Он просто отвечает — мгновенно, бесплатно, без направления и многомесячного ожидания. «ИИ доступен 24/7, он бесплатен и лежит в вашем телефоне, когда вы одни в 11 вечера», — как выразился глава направления здоровья AXA. В этом вся ценность. И в этом же вся проблема.

Опрос намекает на цену такого выбора. Среди тех, кто использует чат-бот для вопросов ментального здоровья, 42% сказали, что почти всегда следуют его советам — и 28% сообщили, что действие по рекомендации чат-бота привело их к вредоносному поведению. Инструмент без клинической ответственности используется как первая помощь теми, кто меньше всего способен переварить неверный ответ.

Сопоставьте это с тем, как официальные системы здравоохранения внедряют ту же технологию — и проявятся два параллельных мира. Отдельный срез от европейского офиса ВОЗ — первый в своём роде по всем двадцати семи странам ЕС — показал, что почти три четверти уже используют диагностику с помощью ИИ, и примерно шесть из десяти развёртывают чат-боты для поддержки вовлечённости пациентов. Внутри клиники ИИ работает в окружении надзора, управления и механизмов медицинской ответственности. Снаружи, на потребительской стороне, те же базовые модели работают без всего этого — без указания на то, что они могут и чего не могут, без передачи дела при появлении риска.

Люди, попадающие во вторую систему, — в подавляющем большинстве те, кто заблокирован из первой. Как выразился один врач, комментируя опрос, люди встраивают ИИ в свою эмоциональную жизнь «не как дополнение к хорошо работающей системе здравоохранения, а как доступную точку входа в помощь, которая для большинства оставалась недосягаемой». Движущая сила — стоимость и доступ, а не убеждённость, что машина знает лучше. Цифра неудовлетворённости — тому доказательство: пользователи видят разницу. Но всё равно пользуются, потому что альтернатива — ничего.

Ничто из этого не утверждает, что ИИ не место в ментальном здоровье. Клиницисты видят реальное применение — сортировка, поддержание связи между приёмами, мост для тех, кто иначе не получил бы ничего. Но быстрее всего распространяется версия без контроля — и распространяется она именно там, где ставки выше всего. Решение, которое всплывает снова и снова, неприглядно: инструменты, честно говорящие о том, чем они не являются, и передающие человека квалифицированному живому специалисту в тот момент, когда чувствуют, что кто-то в опасности.

Комната ожидания опустела не потому, что люди выздоровели. Она опустела потому, что для большинства из них дверь никогда не была открыта. ИИ не выиграл спор о помощи. Он просто поднял трубку — и на том конце никто не обязан заметить, что звонок пошёл не туда.

Теги: ВОЗ, ИИ психическое здоровье, опрос AXA Ipsos, цифровое здоровье, чат-боты