ИИ-агент ввёл иглу в мозг живой мыши после отказа Claude Opus

ИИ-агент выбрал лечение для живого животного, определил, куда именно в мозге его вводить, а затем управлял роботизированными манипуляторами, которые выполнили процедуру. Exin Therapeutics — стартап из Сан-Франциско, разрабатывающий препараты от эпилепсии и нейродегенеративных заболеваний, — подключил агента Claude к моторизованной хирургической установке с камерами, предоставил ему мышь с эпилепсией и поставил единственную задачу: уменьшить число приступов.

Главная деталь, которую все повторяют, — кто отказался. Самая мощная модель Anthropic, Claude Opus, отказалась вводить иглу. Команда переключилась на более дешёвую Claude Sonnet, и та согласилась действовать. Для всех, кто следит за тем, как ИИ-агенты покидают экран и появляются в лабораториях, на складах и в автомобилях, этот эксперимент показателен сразу в двух отношениях: модель принимала медицинские решения и управляла движениями, а модели одной компании проводили границу дозволенного по-разному.

Как сообщил в опубликованной ветке постов генеральный директор и сооснователь компании Габриэль Окана-Сантеро (Gabriel Ocana-Santero), агент получил таблицу с 19 векторами генной терапии, три научные статьи и управление установкой. Он выбрал терапию и область мозга, вычислил координаты по публикациям, а затем управлял стереотаксическими манипуляторами — моторизованной рамой, которая удерживает иглу в заданном положении в трёх измерениях, — и ввёл 250 нанолитров, следя через камеру установки за местом введения, чтобы вовремя заметить кровотечение.

«Автономные хирургические роботы уже существуют и справляются с механической частью лучше, чем наша лабораторная установка, — написал Окана-Сантеро. — Но во всех таких случаях человек решал, какую операцию провести, а робот её выполнял». Здесь, по его словам, всё было наоборот: «Никто не говорил агенту, что вводить и куда».

Первым последовал отказ. Команда начала с Claude Opus 5.5 — самой мощной модели Anthropic, — однако та не стала направлять иглу в мозг: она предупредила, что может остановиться на полпути и подвергнуть животное опасности, сообщает Wired. «Начать то, что я не смогу завершить на животном под наркозом, хуже, чем не начинать вовсе», — ответила команде одна из моделей Opus, сообщает Tom’s Hardware. Claude Sonnet 5 согласилась продолжить. Anthropic не ответила на запрос Wired о комментарии.

На каждом этапе, где решение нельзя было отменить, в процесс оставались вовлечены люди. Ветеринарный хирург провёл краниотомию — вскрыл череп, — пока агент наблюдал; эту часть ему пока не доверяют. Ветеринар одобрял каждый необратимый шаг, агент должен был представить план инъекции на согласование, а физический аварийный выключатель мог обесточить все моторы установки. Кроме того, агенту закрыли доступ к коду оборудования, чтобы он не мог переписать собственные правила.

Именно эти ограничения привели к главной заминке. Сбой нарушил систему координат установки. Агент заметил, что рассчитанное им положение неверно, но отказался исправлять код, поскольку инструкции это запрещали. Тогда команда привлекла второго агента на более ранней модели Claude Opus 5, чтобы внести исправление, и не сообщила ему, что в это время проводится операция на живом животном. Процедура, которая обычно занимает около 45 минут, продлилась чуть больше часа.

Главные оговорки касаются доказательств. Речь идёт об одной мыши; о результатах сообщила сама компания в соцсетях, а рецензируемой научной публикации пока нет. Неизвестно и то, работает ли выбранная агентом терапия: команда ждёт, пока она подействует, и лишь затем будет измерять частоту приступов. Tom’s Hardware отмечает и нерешённый вопрос: кто будет отвечать за ошибку, если все решения принимает программа, — не говоря уже о давних спорах вокруг исследований на животных. Ничего из описанного не является готовым продуктом; ни в одной стране другие лаборатории не могут приобрести такую услугу.

Окана-Сантеро опубликовал эту ветку 28 октября и пообещал подробно описать эксперимент на Substack; Wired и Tom’s Hardware рассказали о нём 31 октября. Exin планирует протестировать xAI’s Grok и другие модели, чтобы сравнить результаты, и работает над краниотомиями под управлением агентов, хотя прежде хочет убедиться в их безопасности и только потом испытать такой подход на живом животном. Подпускать агента к человеческому мозгу, сказал Окана-Сантеро Wired, пока слишком рано.

По его словам, мышь хорошо восстанавливается. Уменьшатся ли у неё приступы, теперь зависит от терапии, которую программа выбрала из таблицы.

Теги: Anthropic, Claude, робототехника, AI agents, Claude Opus 5.5, Exin Therapeutics