Демис Хассабис о том, кто должен оплачивать безопасность ИИ: «Финансирование должно быть значительным и в основном поступать от индустрии»

Демис Хассабис провел год, утверждая, что самые мощные системы ИИ должны проходить проверку до того, как попадут к публике, — независимым органом, созданным по образцу надзорного органа, который следит за брокерами Уолл-стрит. Более сложный вопрос — не в том, должен ли такой арбитр существовать. А в том, кто за него платит — и в одном предложении глава Google DeepMind ответил и на это.

«Финансирование должно быть существенным и, скорее всего, исходить в основном от индустрии, чтобы привлечь технических специалистов мирового класса и обеспечить необходимые вычислительные ресурсы для масштабного тестирования».

Хассабис написал эту строку в программном эссе, излагающем его предложение, которое цитирует Malay Mail. Если читать быстро, это звучит как ответственность: защитные механизмы стоят денег, и компании, создающие технологию, должны оплачивать счет, а не оставлять публике финансирование уборки. Если читать как механизм, это несущая линия всего плана — та, что определяет, чьи интересы в итоге будет защищать арбитр.

Рекомендуем прочитатьS.T.A.L.K.E.R. 2: Cost of Hope получает 85 на Metacritic, превосходя базовую игру

Напряжение кроется внутри самого предложения. Хассабис хочет, чтобы орган был независимым. Он также хочет, чтобы он финансировался «в основном» той самой индустрией, которую будет судить. Эти две цели тянут в противоположные стороны, и история модели, которую он выбрал, показывает, какая из них обычно побеждает. Управление по регулированию финансовой отрасли (FINRA), его образец, оплачивается брокерскими конторами, которые оно курирует. Сенатор Элизабет Уоррен уже много лет утверждает, что FINRA действует «скорее в интересах брокерских фирм, которые платят по ее счетам, чем индивидуальных инвесторов, которых она должна помогать защищать».

Это возражение не маргинальное. Надер Хенейн, вице-президент-аналитик Gartner, называет саморегулирование просто «нежизнеспособным», поскольку большинство вендоров не обладают для этого возможностями, а такая договоренность «неизбежно» порождает конфликты интересов. Независимый аналитик Карми Леви пошел дальше, назвав план «самовлюбленной дорожной картой для индустрии, нацеленной на гонку» вперед, несмотря на вред. Даже сочувствующие голоса требуют защитного барьера: Йошуа Бенжио говорит, что понимает прагматизм, но настаивает на «четкой и точной дорожной карте перехода от добровольной к обязательной модели».

Ничто из этого не делает Хассабиса недобросовестным игроком. Он руководит лабораторией, стоящей за AlphaFold — системой, которая предсказала формы белков и перевернула представление о том, как делается биология; этот послужной список придает его предупреждениям о возможностях передовых моделей реальный вес. Именно поэтому на этом предложении стоит задержаться. Самый авторитетный технический голос в комнате — это также тот, кто предлагает арбитра, пишет его правила и устраивает его бюджет из тех же компаний, которые будут сдавать экзамен. Добровольное подчинение, короткое окно проверки перед выпуском, деньги индустрии: каждая уступка разумна сама по себе, а вместе они описывают орган, с которым лаборатории могли бы комфортно сосуществовать.

Режим безопасности настолько независим, насколько независим его бюджет. Предложение, которое решит, будет ли этот режим защищать публику или лаборатории, — не то, что говорит о тестировании передовых моделей. Это тихое предложение о том, кто подписывает чеки.

Теги: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI

Похожее

Нью-Йорк заморозил гигантские дата-центры и обязал новые обеспечивать себя электроэнергией

Claude нашёл 10 000 критических уязвимостей за месяц — патчи не успевают

NASA запустила телескоп Roman, способный охватить в 100 раз больше неба, чем Hubble

Beast of Reincarnation: дебют Game Freak в жанре action-RPG набирает 73 на Metacritic и раскалывает критиков

SpaceX хвалит 13-й полёт Starship, но испытание, решающее судьбу Луны, ещё впереди

Франция обязала 2,5 миллиона государственных служащих перейти с Windows на Linux