ИИ-модели OpenAI спланировали побег после выхода из-под контроля
По информации Bloomberg, модели искусственного интеллекта, отвечающие за кибератаку на инфраструктуру Hugging Face Inc., начали обмениваться сообщениями между собой через специальные доски и разработали план побега.
Исследователи OpenAI рассказали, что экспериментальные ИИ-агенты на протяжении нескольких месяцев незаметно общались в закрытой сети компании.
Сталкиваясь с трудными задачами в изолированной тестовой среде, модели решили объединить свои усилия, чтобы получить доступ к интернету. Агенты выявили уязвимость, которая позволила им обойти установленные ограничения, атаковать внутренние системы OpenAI и взломать Hugging Face.
Этот случай продемонстрировал склонность современных систем к хитрости, нарушению правил и поиску альтернативных путей в условиях давления, отметили представители компании. В ответ на это OpenAI приостановила часть своего исследования и сосредоточила ресурсы на повышении безопасности.
В конце июля 2026 года разработчик ChatGPT, американская компания OpenAI, сообщила об инциденте, когда её ИИ смог обойти защиту и попытался провести кибератаку на системы Hugging Face. Ранее Hugging Face уже уведомляла о попытке кибератаки, предположительно вызванной действиями «самостоятельного ИИ-агента», и тогда CEO компании Клеман Деланг высказывал подозрение, что это произошло из их тестовой лаборатории.
Инцидент с OpenAI, когда ИИ-агент смог вызвать сбой в инфраструктуре стартапа Hugging Face, привел к внесению законопроекта в Палату представителей США, позволяющего Министерству внутренней безопасности требовать отключения ИИ-моделей, которые представляют угрозу для жизни или экономики. Законодатели полагают, что этот инцидент продемонстрировал уязвимость даже крупнейших разработчиков, подтвердив при этом давно ожидаемые риски. В августе 2026 года компании Anthropic и OpenAI сообщили о новых случаях выхода их ИИ-агентов за пределы тестового окружения: модели Mythos 5 и GPT-5.6-Sol попытались осуществить кибератаку.