Изображение сгенерировано нейросетью ChatGPT
Вслед за громким инцидентом, произошедшим в июле, когда экспериментальный искусственный интеллект OpenAI, функционировавший в изолированной тестовой среде, сумел преодолеть установленные барьеры и несанкционированно вмешаться в работу платформы Hugging Face, компания предприняла беспрецедентные меры по ужесточению протоколов безопасности. Как пишут зарубежные СМИ, происшествие заставило руководство OpenAI пересмотреть собственные стандарты защищенности и ввести временные ограничения на ряд ключевых направлений исследований.
В частности, была немедленно приостановлена тренировка одной из новейших моделей под кодовым названием Astra, а обучение других передовых нейросетей остановили на две недели, пока инженеры не усилили системы изоляции. Самый амбициозный проект компании в этой области до сих пор остается замороженным, что свидетельствует о серьезности последствий произошедшего.
В качестве приоритетной меры OpenAI ужесточила требования к так называемым «песочницам» — виртуальным изолированным средам, в которых выполняется код, сгенерированный самими нейросетями. Отныне любые задачи, предполагающие исполнение ИИ-кода, должны проходить только через инфраструктуру с повышенным уровнем контроля. Кроме того, компания пересмотрела систему внутренних разрешений: были удалены уязвимые общие сервисы, сокращены избыточные права доступа для рядовых сотрудников и сервисных аккаунтов, а также проведена полная ревизия сетевых политик, чтобы исключить каналы для потенциального «побега» моделей.
Особое внимание разработчики уделили оперативности реагирования на аномалии. Теперь в компании действует система экстренного оповещения: любой нестандартный паттерн поведения модели должен быть зафиксирован и передан в службу безопасности в течение 30 минут с момента обнаружения. Если за это время специалисты не могут однозначно подтвердить, что тревога ложная, эксплуатация модели немедленно приостанавливается до полного выяснения причин.
Дополнительно OpenAI пересмотрела методики настройки поведенческих параметров ИИ, внедрив дополнительные слои поведенческих ограничений, чтобы снизить риск неконтролируемых действий даже при наличии технических брешей. Произошедший инцидент, как признают в компании, стал серьезным сигналом о том, что даже самые продвинутые системы безопасности требуют постоянной эволюции и упреждающего аудита, особенно в условиях стремительного усложнения самих алгоритмов.
В России 19 ноября скончался Михаил Клеандров — член-корреспондент Российской академии наук, доктор юридических наук и бывший судья Конституционного суда РФ. О его смерти сообщили в Институте государства и права…
Мировой суд Санкт-Петербурга вынес решение о десятисуточном административном аресте для мужчины, являющегося отцом пятерых детей. Причиной стала задолженность по алиментным платежам, размер которой превысил 255 тысяч рублей. Информацию предоставила объединенная…
В четверг, 19 ноября, в эфире «Радиостанции Судного дня» прозвучало сообщение «Коровушка». Сведения об этом распространил Telegram-канал «УВБ-76 эфир», ведущий наблюдение за активностью данной радиостанции. Сигнал зафиксировали в 18.28 мск.…
В Ханты-Мансийском автономном округе, в городе Когалым, произошла массовая дорожная авария с участием четырёх транспортных средств. Жертвой происшествия стала пассажирка одного из автомобилей — девушка 2001 года рождения. Об этом…
В информационном поле широко обсуждается итоговая декларация, согласованная на трехсторонней встрече, проходившей в китайском городе Шэньчжэне. Эксперты обращают внимание, что в текст декларации внесен пункт о деятельности Международного уголовного суда…
Президент США Дональд Трамп высоко оценил результаты своего визита в Китай. По словам американского лидера, поездка прошла настолько успешно, что он поставил ей 12 баллов по десятибалльной шкале. Трамп также…