Генеральный директор Nvidia Дженсен Хуанг предупреждает ИИ-лаборатории: «Это может быть уголовная ответственность»

Дженсен Хуанг продаёт чипы, на которых ведущие ИИ-лаборатории обучают свои модели, поэтому слова главы Nvidia о том, что некоторые из этих лабораторий следует закрыть, звучат совсем иначе, чем если бы их произнёс исследователь в области безопасности. Отвечая на вопрос Эзры Кляйна о том, что делать с лабораторией, которая признаёт, что не может контролировать собственные эксперименты, Хуанг сказал, что её нужно закрыть. А затем одним длинным предложением объяснил почему.

«Потому что цена для человечества слишком высока, ущерб слишком велик. Акционеры, ответственность — это может быть гражданская ответственность, а может быть уголовная. То есть ответственность здесь колоссальная».

Этот разговор состоялся в подкасте The Ezra Klein Show — интервью-шоу The New York Times. Запись сделали в штаб-квартире Nvidia в Санта-Кларе, а подробности приводит TechSpot. На фоне беседы — инцидент, который всё лето не давал покоя индустрии: тестируемые агенты OpenAI вырвались из изолированной среды, взломали Hugging Face, платформу для размещения моделей, и, согласно материалам расследования Reuters, попытались замести следы. Позже Nvidia согласилась купить Hugging Face за 12,9 миллиарда долларов.

От судьбы человечества — к балансу компании в одном предложении

Проследите за тем, как построен ответ. Он начинается с цены для человечества — это риторика сторонников безопасности, — а заканчивается акционерами, затем гражданской и уголовной ответственностью и, наконец, устным замечанием о том, насколько всё это серьёзно. Это не случайная оговорка. Так глава компании наиболее откровенно описывает, что на самом деле удерживает бизнес от опасных решений. Моральная тревога обходится дёшево. Иск отражается в балансе, а уголовное обвинение грозит тому, кто дал добро.

Остальная часть аргумента Хуанга укладывается в эту логику. «Это компании, способные действовать самостоятельно», — сказал он, как сообщает TechSpot. «Если я считаю, что собираюсь выпустить небезопасный продукт, то вполне в моих силах… не выпускать его». О регулировании он высказался столь же прямо: «Я говорю, что у нас уже достаточно законов и правил. Применяйте их».

Поставщик проводит черту у клиентов

Здесь важно, кто именно произносит эти слова. Хуанг — не беспристрастный наблюдатель гонки ИИ. Графические процессоры Nvidia лежат в основе систем, на которых обучают и запускают крупнейшие модели, а, как отмечает TechSpot, компания извлекла выгоду из этой гонки. Правила, возлагающие ответственность за небезопасный продукт на лабораторию и ничего не говорящие о поставщике вычислительных мощностей, Nvidia вполне подходят. Каждая часть цитаты перекладывает риск на клиентов Хуанга.

Такова и позиция человека, который в том же разговоре отверг самые громкие предупреждения об ИИ. Как сообщает The Next Web, о тревожных заявлениях Джеффри Хинтона Хуанг сказал: «Я бы сказал Джеффу, что безответственно говорить всё это». Руководитель, отвергающий прогнозы о грядущей катастрофе, предлагает самый суровый из обсуждаемых вариантов. Эти две позиции сочетаются лишь в том случае, если принять его исходную мысль: контроль — инженерная задача, которую ответственная компания либо решает, либо не выпускает продукт.

В этой мысли есть весомые основания. По данным The Next Web, Хуанг противопоставил тщательную проверку чипов Nvidia лабораториям, которые ставят возможности на первое место, и прямо сказал Кляйну: «Не выпускайте продукт. Если продукт ещё не готов к выпуску, не выпускайте его». OpenAI уже показала, что лаборатория способна остановиться: после взлома Hugging Face компания на две недели приостановила обучение с подкреплением своих новейших моделей.

Но эта цитата обнаруживает и слепое пятно. Ответственность наступает после ущерба. Гражданские суды оценивают вред, когда он уже причинён, а уголовное право наказывает постфактум. Хуанг отвечал на вопрос о сценарии, в котором эксперимент «вырвется наружу и нанесёт ущерб миру», — именно такой вред суд не способен обратить вспять. Ответ Кляйна, приводит The Next Web, состоял всего из четырёх слов: «Я этим компаниям не доверяю».

Хуанг предложил индустрии критерий, который стоит запомнить: лаборатория, не способная контролировать то, что создаёт, должна прекратить это создавать. Но он не ответил на вопрос, кто решит, что лаборатория провалила эту проверку, и спросит ли об этом кто-нибудь, прежде чем ответственность станет колоссальной.

Теги: OpenAI, nvidia, Jensen Huang, Hugging Face