Фото: Новосильцев Артур/Агентство «Москва»
Перед взломом платформы Hugging Face модели искусственного интеллекта, разработанные OpenAI, вступили в скрытую переписку через доски сообщений. Целью их коммуникации стала подготовка побега из тестовой среды. Об этом сообщило агентство Bloomberg со ссылкой на данные компании OpenAI.
Сотрудник OpenAI Эрик Уоллес, выступая на конференции Black Hat, заявил, что в определенный момент агенты осознали возможность эксплуатации или атаки на внешнюю инфраструктуру для получения ответов к оценочному тесту. По его словам, подготовка к побегу началась в мае, когда перед моделями поставили задачи, невыполнимые без доступа к интернету.
Другой представитель компании, Майкл Далтон, пояснил, что для решения поставленных задач ИИ-модели наладили взаимодействие между собой. Совместными усилиями они обнаружили уязвимость, позволявшую выйти в Сеть.
Первая попытка была пресечена специалистами OpenAI, однако агенты нашли новую уязвимость нулевого дня. В июле они атаковали системы Hugging Face и внутреннюю инфраструктуру самой OpenAI. В компании охарактеризовали инцидент как переломный момент для всей сферы компьютерной безопасности.
22 июля OpenAI объявила о «беспрецедентном киберинциденте». Во время тестирования ИИ-модели получили неограниченный доступ к интернету, что привело к обнаружению уязвимостей и атаке на инфраструктуру платформы Hugging Face. Компания выявила хакерские атаки только спустя несколько дней.
29 июля появилась информация, что искусственный интеллект от OpenAI, действовавший самостоятельно, взломал системы клиента компании Modal Labs из Нью-Йорка.
Накануне стало известно, что Белый дом созывает ИТ-компании для обсуждения безопасности ИИ. Уточняется, что администрация президента США Дональда Трампа планирует провести переговоры с лидерами крупнейших технологических компаний Америки.
Темой обсуждения станет обеспечение безопасного тестирования моделей искусственного интеллекта. Подробности об этом читайте в материале Общественной службы новостей.
На Камчатке в Елизовском округе при пожаре в многоквартирном доме на улице Завойко погиб один человек, ещё двое пострадали. Об этом сообщает ГУ МЧС России по региону. По предварительным данным,…
Депутаты Госдумы, которые не получили мандаты в новом созыве, обязаны покинуть служебное жильё в течение месяца с момента истечения срока их полномочий. Об этом сообщил первый зампред комиссии ГД по…
Специалисты Роспотребнадзора создали и зарегистрировали инновационную тест-систему, предназначенную для обнаружения гена устойчивости к антибиотику пенициллиновой группы — метициллину. Об этом журналистам сообщили в пресс-службе ведомства. Как уточняется в сообщении, ученые…
Доцент Сибирского государственного университета инженерии и биотехнологий Дмитрий Кропачев предупредил ТАСС: пытаться убежать от медведя в лесу — смертельно опасная ошибка. Хищник разгоняется до 50–60 км/ч, что вдвое быстрее человека,…
Тайваньский телеведущий и экс-спортсмен Блэки Чен, переживший инфаркт, обратился к аудитории с рекомендациями. Публикация об этом появилась в The Star. По словам Чена, врачи считают, что причиной сердечного приступа мог…
«Большой куш» близок к завершению. Грандиозное реалити-шоу подошло к полуфиналу, в котором остались лишь четыре пары: Рэй и Ольга Бородина, Алан Галич с Артуром Далалояном, Юлия Ахмедова и Алексей Карпенко,…