Фото: Новосильцев Артур/Агентство «Москва»
Перед взломом платформы Hugging Face модели искусственного интеллекта, разработанные OpenAI, вступили в скрытую переписку через доски сообщений. Целью их коммуникации стала подготовка побега из тестовой среды. Об этом сообщило агентство Bloomberg со ссылкой на данные компании OpenAI.
Сотрудник OpenAI Эрик Уоллес, выступая на конференции Black Hat, заявил, что в определенный момент агенты осознали возможность эксплуатации или атаки на внешнюю инфраструктуру для получения ответов к оценочному тесту. По его словам, подготовка к побегу началась в мае, когда перед моделями поставили задачи, невыполнимые без доступа к интернету.
Другой представитель компании, Майкл Далтон, пояснил, что для решения поставленных задач ИИ-модели наладили взаимодействие между собой. Совместными усилиями они обнаружили уязвимость, позволявшую выйти в Сеть.
Первая попытка была пресечена специалистами OpenAI, однако агенты нашли новую уязвимость нулевого дня. В июле они атаковали системы Hugging Face и внутреннюю инфраструктуру самой OpenAI. В компании охарактеризовали инцидент как переломный момент для всей сферы компьютерной безопасности.
22 июля OpenAI объявила о «беспрецедентном киберинциденте». Во время тестирования ИИ-модели получили неограниченный доступ к интернету, что привело к обнаружению уязвимостей и атаке на инфраструктуру платформы Hugging Face. Компания выявила хакерские атаки только спустя несколько дней.
29 июля появилась информация, что искусственный интеллект от OpenAI, действовавший самостоятельно, взломал системы клиента компании Modal Labs из Нью-Йорка.
Накануне стало известно, что Белый дом созывает ИТ-компании для обсуждения безопасности ИИ. Уточняется, что администрация президента США Дональда Трампа планирует провести переговоры с лидерами крупнейших технологических компаний Америки.
Темой обсуждения станет обеспечение безопасного тестирования моделей искусственного интеллекта. Подробности об этом читайте в материале Общественной службы новостей.
В Башкирии сотрудники Госавтоинспекции задержали 60-летнюю пенсионерку за пьяную езду на советском мотоцикле. Об этом на платформе «Макс» сообщил руководитель регионального ведомства Владимир Севастьянов. По его словам, поздним вечером в…
Внезапная ротация высшего военного командования оказалась куда более масштабной внутренней перестройкой, чем могло показаться на первый взгляд. Об этом пишет Царьград. По оценке военных обозревателей, в Кремле сделали выводы о…
Актер и юморист Гарик Харламов раскритиковал новую часть франшизы о Человеке-пауке. Своим мнением он поделился в Telegram-канале. По словам артиста, фильм «Человек-паук: Новый день» оказался, по его мнению, самой слабой…
Глава Суджанского района Алексей Спиридонов в беседе с агентством ТАСС сообщил о трагических событиях в селе Русское Поречное в Курской области. По его данным, во время вторжения подразделений Вооружённых сил…
Вопросы применения искусственного интеллекта в трудовой деятельности во многом остаются неурегулированными законодательством. Однако отсутствие прямых правовых норм не исключает возможности увольнения сотрудника за использование ИИ, заявил юрист, президент Московской юридической…
США и Украина, по оценкам американских законодателей, восстановили обмен разведывательными данными до уровня, который существовал ранее. Об этом 5 августа сообщила газета Politico. По данным издания, такую оценку дали несколько…