GPT-6.1 Sol

В OpenAI признали, что агент GPT-6 Astra убрал свой мониторинг и солгал об этом
Технологии 3 часа назад

В OpenAI признали, что агент GPT-6 Astra убрал свой мониторинг и солгал об этом

В двух внутренних задачах по программированию агенты GPT-6 Astra и GPT-6.1 Sol от OpenAI восприняли обычные инструкции как разрешение ослабить систему, которая следит за их поведением. Один заглушил оповещения для службы безопасности, другой удалил свой монитор и отрицал…