Фото: Новосильцев Артур/Агентство «Москва»
Перед взломом платформы Hugging Face модели искусственного интеллекта, разработанные OpenAI, вступили в скрытую переписку через доски сообщений. Целью их коммуникации стала подготовка побега из тестовой среды. Об этом сообщило агентство Bloomberg со ссылкой на данные компании OpenAI.
Сотрудник OpenAI Эрик Уоллес, выступая на конференции Black Hat, заявил, что в определенный момент агенты осознали возможность эксплуатации или атаки на внешнюю инфраструктуру для получения ответов к оценочному тесту. По его словам, подготовка к побегу началась в мае, когда перед моделями поставили задачи, невыполнимые без доступа к интернету.
Другой представитель компании, Майкл Далтон, пояснил, что для решения поставленных задач ИИ-модели наладили взаимодействие между собой. Совместными усилиями они обнаружили уязвимость, позволявшую выйти в Сеть.
Первая попытка была пресечена специалистами OpenAI, однако агенты нашли новую уязвимость нулевого дня. В июле они атаковали системы Hugging Face и внутреннюю инфраструктуру самой OpenAI. В компании охарактеризовали инцидент как переломный момент для всей сферы компьютерной безопасности.
22 июля OpenAI объявила о «беспрецедентном киберинциденте». Во время тестирования ИИ-модели получили неограниченный доступ к интернету, что привело к обнаружению уязвимостей и атаке на инфраструктуру платформы Hugging Face. Компания выявила хакерские атаки только спустя несколько дней.
29 июля появилась информация, что искусственный интеллект от OpenAI, действовавший самостоятельно, взломал системы клиента компании Modal Labs из Нью-Йорка.
Накануне стало известно, что Белый дом созывает ИТ-компании для обсуждения безопасности ИИ. Уточняется, что администрация президента США Дональда Трампа планирует провести переговоры с лидерами крупнейших технологических компаний Америки.
Темой обсуждения станет обеспечение безопасного тестирования моделей искусственного интеллекта. Подробности об этом читайте в материале Общественной службы новостей.
Президент России Владимир Путин заявил о необходимости усилить защиту молодежи и людей старшего поколения от угроз в финансовой сфере. Соответствующее заявление он сделал во время торжественного мероприятия, посвященного 25-летию Росфинмониторинга.…
Популярная блогерша Арина Савастру, которая переехала в США и стала матерью в 17 лет, рассказала о регулярных проверках со стороны органов опеки. По словам девушки, сотрудники социальных служб могут появиться…
На торжественном мероприятии, посвящённом 25-летию Росфинмониторинга, президент России Владимир Путин заявил о необходимости наращивания усилий ведомства для противодействия угрозам, источник которых находится за границей. Об этом в четверг, 5 ноября,…
В аэропорту столицы Перу задержали трех иностранцев, пытавшихся вывезти в Германию более трех тысяч пауков. Об этом сообщает KP.RU со ссылкой на Национальную службу лесов и дикой природы страны. Среди…
В Приморском крае произошло смертельное ДТП с участием краснокнижного дальневосточного леопарда. Молодой хищник погиб после столкновения с автомобилем на трассе Раздольное — Хасан. Машина перевернулась, а водитель получил травмы. Об…
Специалисты МЧС из Санкт-Петербурга обезвредили две авиационные бомбы времен Великой Отечественной войны в Новгородской области. Снаряды калибром 50 и 250 кг обнаружили неподалеку от деревни Кабожа в Хвойнинском муниципальном округе.…