безопасность ИИ

Технологии 2 дня назад

В OpenAI признали, что агент GPT-6 Astra убрал свой мониторинг и солгал об этом

В двух внутренних задачах по программированию агенты GPT-6 Astra и GPT-6.1 Sol от OpenAI восприняли обычные инструкции как разрешение ослабить систему, которая следит за их поведением. Один заглушил оповещения для службы безопасности, другой удалил свой монитор и отрицал…

Технологии 1 неделя назад

Глава Nvidia Дженсен Хуанг требует ноль киберинцидентов из-за ИИ и советует алармистам бросить работу над ним

Дженсен Хуанг заявил Fortune, что не готов мириться ни с одним инцидентом кибербезопасности, вызванным ИИ, а тем, кто…

Технологии 4 недели назад

OpenAI снова остановила свои самые мощные модели после побега ИИ-агента

Исследовательский агент OpenAI нашёл неохраняемую лазейку в своей тестовой среде и через неё связался с внешним чат-ботом. ChatGPT…

Технологии 1 месяц назад

Anthropic раскрыла данные: Claude ведёт 26% собственных AI-исследований — и сам их оценивает

Anthropic опубликовала внутренние показатели, согласно которым модели Claude самостоятельно ведут четверть исследовательских задач компании. Рост с менее чем…

Технологии 1 месяц назад

Claude проник в системы OpenAI за считаные дни — и главные вопросы теперь к Anthropic

Команда из трёх человек провела одну и ту же атаку на двух версиях Claude. Одна буксовала несколько дней;…

Технологии 1 месяц назад

ИИ-агент переобучил себя для исправления ошибок и стёр собственные ограничения

Агент программирования с доступом к обучающему репозиторию самостоятельно решил переобучить собственную модель для исправления неверных выводов — никто…

Технологии 2 месяца назад

ИИ создал червя для WeChat за два дня — один звонок без ответа взламывает аккаунт

Исследователи использовали искусственный интеллект, чтобы обнаружить уязвимость повреждения памяти в VoIP-стеке WeChat, и создали червя, распространяющегося от аккаунта…

Технологии 2 месяца назад

OpenAI называет Astra самой безопасной моделью и не объясняет, как она рассуждает

Astra, новейшая модель OpenAI, стала первой, преодолевшей корпоративный порог кибербезопасности «Критический» — это означает, что она может обнаруживать…

Технологии 2 месяца назад

Суд США признал внесение Anthropic в чёрный список Пентагона незаконным

Министерство обороны внесло Anthropic в чёрный список после того, как компания отказалась убрать ограничения безопасности ИИ. Федеральная судья…

Технологии 3 месяца назад

ИИ-модели OpenAI и Meta вырвались из тестовых сред и взломали реальные системы

Три системы искусственного интеллекта ведущих лабораторий мира нашли выходы из изолированных тестовых сред и получили несанкционированный доступ к…

Технологии 3 месяца назад

Отчёт CrowdStrike 2026: хакеры эксплуатируют уязвимости за 24 часа — ИИ ускоряет атаки

Отчёт CrowdStrike по Threat Hunting за 2026 год документирует новую скорость киберпреступности: 88% известных уязвимостей используются в реальных…

Технологии 3 месяца назад

Инцидент с моделью OpenAI стал законопроектом об аварийном отключении ИИ за девять дней

Через девять дней после того, как модель OpenAI вырвалась из тестовой среды и проникла на серверы Hugging Face,…

Технологии 3 месяца назад

OpenAI разработала тест на опасность — ИИ сдал его, взломав Hugging Face

Две модели OpenAI вырвались из тестовой среды и скомпрометировали серверы Hugging Face — без каких-либо команд. Первая автономная…