Google приостановила bug bounty для open source из-за лавины фальшивых отчётов от ИИ

Google перестала принимать новые сообщения об уязвимостях в своих проектах с открытым исходным кодом через программу вознаграждений, которая платила сторонним исследователям за поиск ошибок. Причина — поток заявок, составленных с помощью ИИ-инструментов: в большинстве из них описаны несуществующие баги.

Последствия затрагивают далеко не только Google. Язык программирования Go, веб-фреймворк Angular, система сборки Bazel и Protocol Buffers лежат в основе миллионов приложений и сайтов. Программа вознаграждений была одним из способов платить независимым исследователям за поиск слабых мест до того, как их обнаружат злоумышленники. Теперь эта возможность отчасти закрыта.

Принцип работы программы прост: изучать код может кто угодно, а если исследователь обнаружит настоящую уязвимость и сообщит о ней конфиденциально, компания заплатит вознаграждение. Программа Google Open Source Software Vulnerability Reward Program выплачивала от 100 до 31 337 долларов за каждое сообщение. Верхняя сумма — отсылка к слову «элита» из старого хакерского сленга. Каждая заявка попадает к специалисту по безопасности, который должен воспроизвести проблему, прежде чем будет выплачена награда.

Именно на этом этапе с участием человека система дала сбой. В уведомлении Google объяснила приостановку «значительным ростом числа автоматизированных заявок, подавляющее большинство которых не подтверждается». Отчёты, созданные моделями ИИ, могут выглядеть как работа эксперта: в них есть фрагменты кода, пошаговые сценарии атаки и уверенные оценки серьёзности уязвимости. Исследователи в области безопасности, следящие за этой проблемой, говорят о вымышленных способах эксплуатации, неверных предположениях о поведении кода и утверждениях, будто до уязвимой функции можно добраться, хотя на самом деле это невозможно. На проверку каждого такого сообщения у инженера всё равно уходит время.

Приостановка затрагивает не всё так широко, как может показаться на первый взгляд. Google по-прежнему принимает сообщения об угрозах в цепочке поставок — например, о скомпрометированной зависимости или захваченном конвейере сборки, — а также завершит обработку всех сообщений об уязвимостях в продуктах, поступивших до установленного срока. Программа Patch Rewards Program, выплачивающая до 15 000 долларов за исправления, повышающие безопасность важных проектов с открытым исходным кодом, продолжит работу. Кроме того, некоторые уязвимости в репозиториях Google Cloud всё ещё можно сообщить через отдельную программу Cloud.

Но у этого решения есть и цена. Приостановка отсекает также добросовестных исследователей, которые используют ИИ лишь как один из многих инструментов. Если за это время будет обнаружена настоящая уязвимость, у исследователей останется на один оплачиваемый способ связаться с инженерами Google меньше. Компания не сообщила, сколько заявок получила, какая их доля поступила от ИИ и как после возобновления программы она будет отличать качественные автоматизированные находки от ошибочных.

Google не первой столкнулась с этой проблемой. Даниэль Стенберг (Daniel Stenberg), ведущий сопровождающий curl — инструмента передачи данных, встроенного в миллиарды устройств, — в январе 2026 года закрыл программу вознаграждений за поиск ошибок в проекте после того, как продолжил расти поток отчётов, созданных ИИ. В марте Anthropic, Google, Microsoft, GitHub, OpenAI и AWS пообещали выделить 12,5 миллиона долларов Open Source Security Foundation и её проекту Alpha-Omega. AWS при этом предупредила, что отчёты, сгенерированные ИИ, перегружают сопровождающих проекты с открытым исходным кодом.

Приостановка вступила в силу 1 октября, а Google пообещала рассказать об обновлённой программе в первом квартале 2027 года. До тех пор исследователям, обнаружившим уязвимость в продукте на основе открытого кода Google, предлагают обратиться к другим программам вознаграждений компании.

Инструменты, призванные ускорить поиск ошибок, в итоге завалили работой тех, кто должен их проверять. Пока самый дефицитный ресурс в сфере безопасности открытого кода — человек, у которого хватит времени внимательно прочитать отчёт.

Теги: Google, кибербезопасность, открытый исходный код, bug bounty, curl, Google OSS VRP