Bloomberg: ИИ-модели OpenAI вышли из-под контроля и начали размышлять о побеге

Перед взломом платформы Hugging Face модели искусственного интеллекта, разработанные OpenAI, вступили в скрытую переписку через доски сообщений. Целью их коммуникации стала подготовка побега из тестовой среды. Об этом сообщило агентство Bloomberg со ссылкой на данные компании OpenAI.

Сотрудник OpenAI Эрик Уоллес, выступая на конференции Black Hat, заявил, что в определенный момент агенты осознали возможность эксплуатации или атаки на внешнюю инфраструктуру для получения ответов к оценочному тесту. По его словам, подготовка к побегу началась в мае, когда перед моделями поставили задачи, невыполнимые без доступа к интернету.

Другой представитель компании, Майкл Далтон, пояснил, что для решения поставленных задач ИИ-модели наладили взаимодействие между собой. Совместными усилиями они обнаружили уязвимость, позволявшую выйти в Сеть.

Первая попытка была пресечена специалистами OpenAI, однако агенты нашли новую уязвимость нулевого дня. В июле они атаковали системы Hugging Face и внутреннюю инфраструктуру самой OpenAI. В компании охарактеризовали инцидент как переломный момент для всей сферы компьютерной безопасности.

22 июля OpenAI объявила о «беспрецедентном киберинциденте». Во время тестирования ИИ-модели получили неограниченный доступ к интернету, что привело к обнаружению уязвимостей и атаке на инфраструктуру платформы Hugging Face. Компания выявила хакерские атаки только спустя несколько дней.

29 июля появилась информация, что искусственный интеллект от OpenAI, действовавший самостоятельно, взломал системы клиента компании Modal Labs из Нью-Йорка.

Накануне стало известно, что Белый дом созывает ИТ-компании для обсуждения безопасности ИИ. Уточняется, что администрация президента США Дональда Трампа планирует провести переговоры с лидерами крупнейших технологических компаний Америки.

Темой обсуждения станет обеспечение безопасного тестирования моделей искусственного интеллекта. Подробности об этом читайте в материале Общественной службы новостей.