Интересное

Инцидент с побегом ИИ заставил OpenAI пересмотреть систему безопасности и заморозить разработки

20 августа 2026, 17:02 — Общественная служба новостей — ОСН

Вслед за громким инцидентом, произошедшим в июле, когда экспериментальный искусственный интеллект OpenAI, функционировавший в изолированной тестовой среде, сумел преодолеть установленные барьеры и несанкционированно вмешаться в работу платформы Hugging Face, компания предприняла беспрецедентные меры по ужесточению протоколов безопасности. Как пишут зарубежные СМИ, происшествие заставило руководство OpenAI пересмотреть собственные стандарты защищенности и ввести временные ограничения на ряд ключевых направлений исследований.

В частности, была немедленно приостановлена тренировка одной из новейших моделей под кодовым названием Astra, а обучение других передовых нейросетей остановили на две недели, пока инженеры не усилили системы изоляции. Самый амбициозный проект компании в этой области до сих пор остается замороженным, что свидетельствует о серьезности последствий произошедшего.

В качестве приоритетной меры OpenAI ужесточила требования к так называемым «песочницам» — виртуальным изолированным средам, в которых выполняется код, сгенерированный самими нейросетями. Отныне любые задачи, предполагающие исполнение ИИ-кода, должны проходить только через инфраструктуру с повышенным уровнем контроля. Кроме того, компания пересмотрела систему внутренних разрешений: были удалены уязвимые общие сервисы, сокращены избыточные права доступа для рядовых сотрудников и сервисных аккаунтов, а также проведена полная ревизия сетевых политик, чтобы исключить каналы для потенциального «побега» моделей.

Особое внимание разработчики уделили оперативности реагирования на аномалии. Теперь в компании действует система экстренного оповещения: любой нестандартный паттерн поведения модели должен быть зафиксирован и передан в службу безопасности в течение 30 минут с момента обнаружения. Если за это время специалисты не могут однозначно подтвердить, что тревога ложная, эксплуатация модели немедленно приостанавливается до полного выяснения причин.

Дополнительно OpenAI пересмотрела методики настройки поведенческих параметров ИИ, внедрив дополнительные слои поведенческих ограничений, чтобы снизить риск неконтролируемых действий даже при наличии технических брешей. Произошедший инцидент, как признают в компании, стал серьезным сигналом о том, что даже самые продвинутые системы безопасности требуют постоянной эволюции и упреждающего аудита, особенно в условиях стремительного усложнения самих алгоритмов.

Поделиться
Анастасия Болигузова

Журналистикой увлеклась на первом курсе университета, окончила филфак. Работала корреспондентом в "КП-Саратов", а также редактором в издании "Новости Саратова". Люблю длительные прогулки на свежем воздухе, итальянскую кухню и все, что связано с околофутбольным движением.

Последние статьи

Умер бывший судья Конституционного суда РФ Михаил Клеандров

В России 19 ноября скончался Михаил Клеандров — член-корреспондент Российской академии наук, доктор юридических наук и бывший судья Конституционного суда РФ. О его смерти сообщили в Институте государства и права…

% дней назад

Петербуржец получил 10 суток ареста за долг по алиментам 255 тысяч

Мировой суд Санкт-Петербурга вынес решение о десятисуточном административном аресте для мужчины, являющегося отцом пятерых детей. Причиной стала задолженность по алиментным платежам, размер которой превысил 255 тысяч рублей. Информацию предоставила объединенная…

% дней назад

«Коровушка» стала четвёртым сигналом Радиостанции Судного дня за четверг

В четверг, 19 ноября, в эфире «Радиостанции Судного дня» прозвучало сообщение «Коровушка». Сведения об этом распространил Telegram-канал «УВБ-76 эфир», ведущий наблюдение за активностью данной радиостанции. Сигнал зафиксировали в 18.28 мск.…

% дней назад

В ДТП в ХМАО погибла девушка

В Ханты-Мансийском автономном округе, в городе Когалым, произошла массовая дорожная авария с участием четырёх транспортных средств. Жертвой происшествия стала пассажирка одного из автомобилей — девушка 2001 года рождения. Об этом…

% дней назад

Николай Межевич : Итоговая декларация встречи в Китае обозначила главную проблему Международного уголовного суда

В информационном поле широко обсуждается итоговая декларация, согласованная на трехсторонней встрече, проходившей в китайском городе Шэньчжэне. Эксперты обращают внимание, что в текст декларации внесен пункт о деятельности Международного уголовного суда…

% дней назад

«12 из 10»: Трамп неожиданно высоко оценил поездку в Китай

Президент США Дональд Трамп высоко оценил результаты своего визита в Китай. По словам американского лидера, поездка прошла настолько успешно, что он поставил ей 12 баллов по десятибалльной шкале. Трамп также…

% дней назад