Изображение сгенерировано нейросетью ChatGPT
Вслед за громким инцидентом, произошедшим в июле, когда экспериментальный искусственный интеллект OpenAI, функционировавший в изолированной тестовой среде, сумел преодолеть установленные барьеры и несанкционированно вмешаться в работу платформы Hugging Face, компания предприняла беспрецедентные меры по ужесточению протоколов безопасности. Как пишут зарубежные СМИ, происшествие заставило руководство OpenAI пересмотреть собственные стандарты защищенности и ввести временные ограничения на ряд ключевых направлений исследований.
В частности, была немедленно приостановлена тренировка одной из новейших моделей под кодовым названием Astra, а обучение других передовых нейросетей остановили на две недели, пока инженеры не усилили системы изоляции. Самый амбициозный проект компании в этой области до сих пор остается замороженным, что свидетельствует о серьезности последствий произошедшего.
В качестве приоритетной меры OpenAI ужесточила требования к так называемым «песочницам» — виртуальным изолированным средам, в которых выполняется код, сгенерированный самими нейросетями. Отныне любые задачи, предполагающие исполнение ИИ-кода, должны проходить только через инфраструктуру с повышенным уровнем контроля. Кроме того, компания пересмотрела систему внутренних разрешений: были удалены уязвимые общие сервисы, сокращены избыточные права доступа для рядовых сотрудников и сервисных аккаунтов, а также проведена полная ревизия сетевых политик, чтобы исключить каналы для потенциального «побега» моделей.
Особое внимание разработчики уделили оперативности реагирования на аномалии. Теперь в компании действует система экстренного оповещения: любой нестандартный паттерн поведения модели должен быть зафиксирован и передан в службу безопасности в течение 30 минут с момента обнаружения. Если за это время специалисты не могут однозначно подтвердить, что тревога ложная, эксплуатация модели немедленно приостанавливается до полного выяснения причин.
Дополнительно OpenAI пересмотрела методики настройки поведенческих параметров ИИ, внедрив дополнительные слои поведенческих ограничений, чтобы снизить риск неконтролируемых действий даже при наличии технических брешей. Произошедший инцидент, как признают в компании, стал серьезным сигналом о том, что даже самые продвинутые системы безопасности требуют постоянной эволюции и упреждающего аудита, особенно в условиях стремительного усложнения самих алгоритмов.
Власти Грузии рассчитывают на выстраивание равноправных дружеских отношений с Евросоюзом, однако категорически отказываются принимать упрёки и давление из-за своей прагматичной позиции по отношению к России. Об этом заявил генеральный секретарь…
Штурмовик с позывным «Колдун» рассказал о том, как пленные военнослужащие ВСУ на протяжении пяти суток поддерживали связь по рации с сослуживцами, запрашивая у них воду, продовольствие и аккумуляторы. Сброшенные украинской…
Президент Франции Эммануэль Макрон провел телефонный разговор с Владимиром Зеленским. О состоявшейся беседе французский лидер лично сообщил на своей официальной странице в социальной сети. В ходе разговора Макрон подтвердил неизменную…
Певица Татьяна Буланова впервые заговорила о конфликте с Анной Семенович после длительного молчания. Звезда в беседе с Общественной службой новостей призналась, что смогла помириться с подругой. Буланова призналась, что устала…
Сотрудники ДПС задержали мужчину по подозрению в жестоком тройном убийстве в посёлке Неклюдово. Жертвами злоумышленника стали его сожительница, её мать и дочка. Об этом сообщает SHOT. По версии следствия, во…
Министр туризма Нижегородской области Сергей Яковлев оставил занимаемую должность. Причиной послужил инцидент с участием футболистов клуба «Нижний Новгород». Об этом в понедельник, 5 октября, написал губернатор региона Глеб Никитин в…