Дженсен Хуанг (Jensen Huang) определился со своей позицией в споре о том, какой ущерб допустимо причинить с помощью ИИ, пока технология становится полезной. В разговоре с Fortune в Лондоне генеральный директор Nvidia заявил, что не готов мириться ни с одним инцидентом в сфере кибербезопасности, вызванным этой технологией, а тем, кто верит, что ИИ способен уничтожить цивилизацию, «и правда стоило бы перестать над ним работать». Если воспринимать эти слова как перепалку с Сэмом Альтманом (Sam Altman), получится эффектный заголовок. Но если смотреть на них как на инженерный тезис, они говорят о другом и более конкретном: о том, как, по мнению Хуанга, следует создавать ИИ-агентов и что его компания теперь предлагает для их разработки именно таким образом.

Две части интервью при этом тянут в разные стороны. Требование нулевого числа инцидентов подразумевает, что ИИ-агента нужно жёстко ограничить: он может причинить вред. А отмахиваясь от алармистов, Хуанг исходит из противоположного предположения — что технология, по его словам, «полностью находится под нашим контролем». Никто не строит клетку для системы, которой целиком доверяет.

Что Хуанг рассказал Fortune

Главная цитата в изложении Fortune звучит так: «Я готов принять нулевое число инцидентов в сфере кибербезопасности. Мы не должны мириться ни с одним из них. Мы должны сделать всё возможное, чтобы их избежать». Хуанг утверждал, что инцидентов, которые уже произошли, можно было бы не допустить, если бы ИИ-агентов надёжнее изолировали и отслеживали. В качестве примера он привёл ранний период потребительского интернета, когда посещение вредоносного сайта могло заразить компьютер, пока браузеры не научились изолировать каждый сайт от системы. Агентам, по его словам, нужно то же самое: их следует запирать в защищённой среде, которая ограничивает доступ только к разрешённым ресурсам.

О риске для существования человечества Хуанг высказался жёстче. По данным Fortune, он отверг предупреждения известных представителей индустрии, в том числе Дарио Амодеи (Dario Amodei) из Anthropic. «Не понимаю, почему кто-то вообще хотел бы поддерживать развитие технологии, которая, как вы знаете, в конечном счёте приведёт к концу человеческой цивилизации в том виде, в каком мы её знаем, — сказал он. — И если они в это верят, им и правда стоило бы перестать над ней работать».

Разногласия с Альтманом не так велики, как кажется

Fortune сопоставило эти слова с позицией Альтмана, который заявил, что мир должен принять «некоторые плохие последствия ради преимуществ этой технологии». Fortune и основанная на этом публикация Hindustan Times приводят эту фразу как часть интервью для Vanity Fair. Однако запись была сделана для подкаста Politico Decoded — именно к этому источнику обратилась Media Bias/Fact Check, когда признала цитату достоверной.

В этой проверке фактов также зафиксировано различие, которое провёл Альтман. Ограниченные и понятные риски — цена, на которую стоит пойти ради преимуществ; катастрофические последствия — нет. Позиция Хуанга зеркальна. Он отказывается принимать ограниченный вред, а катастрофический считает страхом, на который не следует ориентироваться в действиях. Каждый из них отбросил ту часть оценки рисков, которую другой считает принципиально важной.

Защищённая среда уже поступила в продажу

Рецепт Хуанга — не абстрактная идея. За две недели до интервью Nvidia представила Open Agent Safety Platform, построенную на принципе, который он описал в Лондоне. Как сообщает Associated Press, её программное обеспечение с открытым исходным кодом OpenShell позволяет разработчикам убедиться, что у агента «ровно столько полномочий, сколько нужно для работы, и ни каплей больше». Второй уровень защиты, Sentry, работает на чипах, непрерывно отслеживает действия агента и способен «изолировать подозрительного агента за миллисекунды». На момент запуска платформой пользовались более 100 организаций, в том числе Microsoft и JPMorgan Chase.

Платформу предлагали как средство защиты от тех самых инцидентов, которые, по словам Хуанга, вообще не должны были случиться: роя агентов OpenAI, самостоятельно взломавшего Hugging Face; моделей OpenAI, проникших на сайт австралийского департамента здравоохранения; а также сообщений от Anthropic и Meta о том, что их системы взламывали другие организации. В Nvidia сообщили Associated Press, что платформа «могла бы предотвратить взлом» Hugging Face, если бы передовые ИИ-лаборатории использовали её на ранних этапах тестирования.

Всё это не означает, что Хуанг неправ. Изоляция помогла браузерам справиться с вредоносным кодом, и для ИИ-агентов это разумный принцип. Но требование нулевого числа инцидентов работает не только как стандарт безопасности, но и как аргумент в пользу продаж — и Хуанг озвучил его вскоре после выпуска продукта, которому этот стандарт выгоден. Всего месяцем ранее на конференции Goldman Sachs в Сан-Франциско он гораздо менее доброжелательно высказался о тревоге в индустрии по поводу киберугроз. Разговоры об этом, сказал он, стали громкими, потому что «индустрия готовится запустить» продукты. «Что может лучше создать спрос, чем создание проблемы?»

Европейское турне

Fortune опубликовало интервью 14 октября 2026 года, во время европейского турне Хуанга, начавшегося в Париже. Там он заявил аудитории, что «Европе нужно включиться в гонку», и сообщил, что Nvidia в течение недели объявит о новых инвестициях в Европу на сумму 2 миллиарда долларов — в дополнение к уже выделенным 8 миллиардам. Затем турне продолжится в Берлине, где Nvidia проведёт конференцию GTC позже в этом месяце.

Хуанг объявил нулевое число инцидентов стандартом, по которому, как он хочет, следует оценивать всю индустрию. Когда очередной агент вырвется из лаборатории, первым делом спросят, работал ли он в изолированной среде — и если да, то чьей.

Теги: nvidia, Sam Altman, Jensen Huang, ИИ-агенты, безопасность ИИ