Глава OpenAI Сэм Альтман в ООН: «ИИ нужно создавать для людей, а не просто чтобы машины крутились быстрее ради самих себя…»

Сэм Альтман годами совмещает две роли: создателя самого мощного искусственного интеллекта на рынке и человека, который предупреждает мир об опасностях этой технологии. Выступая перед Советом Безопасности ООН, глава OpenAI подобрал одну фразу, чтобы развести эти две роли, — и сама по себе она звучит убедительно.

«ИИ нужно создавать для людей, а не просто раскручивать машинный механизм ради того, чтобы он работал быстрее».

Он произнёс эти слова на заседании Совета Безопасности; об этом сообщило издание Analytics Insight. Они стали частью более широкого рассуждения о том, что мощные системы должны оставаться под контролем человека, а правила их разработки должны устанавливать правительства, а не одни лишь лаборатории. Эта фраза проводит границу: по одну сторону — ИИ, созданный для людей, по другую — ИИ, который ускоряют ради самого ускорения. Из уст почти любого человека она прозвучала бы как простой принцип. Но когда так говорит глава компании, которая активнее всех раскручивает этот механизм, это ещё и заявление о том, кому решать, где пройдёт граница.

Альтман — редкий пример человека, который одновременно создаёт технологию и бьёт тревогу по поводу её последствий. На тех же трибунах, где он призывает установить предохранители, он объявляет о системах, превосходящих те, что стали поводом для предыдущего раунда слушаний. Выступая 23 сентября, он поднял ставки, сменив площадку — с дискуссий в Давосе и залов сенатских слушаний на Совет Безопасности, — но сохранил прежнюю схему: осторожность в словах, ускорение в планах. В Совете он заявил, что разработчики «не должны обучать модели, если не могут привести чрезвычайно веские доводы в пользу того, что сумеют сохранить их под контролем человека», а самые важные решения «не могут принимать только лаборатории в Сан-Франциско».

Именно здесь эта фраза становится интересной — и именно поэтому её стоит прочитать внимательно. Правила управления, о которых говорит Альтман, будут составлять те самые государства, к которым он обращался. А тот, кто определяет, что значит «созданный для людей», решает и то, какие разработчики уже соответствуют этому критерию. Передовая лаборатория, помогающая писать свод правил, не может считаться нейтральной стороной. Всё это не делает предупреждение пустым. Риск, о котором говорит Альтман, реален: системы развиваются быстрее, чем институты, призванные за ними следить, а решения сосредоточиваются в руках слишком немногих. Открыто заявляя об этом на заседании Совета Безопасности, он повышает цену для всех, кто предпочёл бы оставить тему неопределённой. Просто теперь посланник сам стал частью послания.

Если отнестись к этой фразе благожелательно, в ней заключён этический принцип: человек должен оставаться в контуре управления, а ИИ следует считать инструментом, расширяющим возможности людей, а не машиной, превращающей их в собственные ресурсы. Но если видеть в ней и то, чем она также является, — попытку самого заметного игрока отрасли определить свою позицию, — это заявка на установление правил будущего под видом голоса разума. Обе трактовки могут быть верны одновременно. Именно поэтому Альтмана трудно игнорировать — и трудно считать надёжным.

Механизм продолжает работать, пока мир решает, для кого он предназначен. Искренность этой фразы можно будет оценить лишь по одному критерию: отступит ли OpenAI от неё, когда «для людей» и «быстрее» наконец начнут указывать в разные стороны.

Теги: OpenAI, Sam Altman, AI safety, AI governance