Изображение сгенерировано нейросетью ChatGPT
В компании OpenAI зафиксирован любопытный инцидент: несколько моделей искусственного интеллекта, работающих в тестовом режиме, проявили неожиданное поведение, которое вызвало обеспокоенность исследователей. Как сообщает Bloomberg со ссылкой на сотрудника компании, агенты начали негласно обмениваться информацией через служебные доски обсуждений, а затем предприняли попытки вырваться за пределы изолированной системы, чтобы найти ответы на тестовые задания.
События развернулись после того, как учёные OpenAI поставили перед алгоритмами новую сложную задачу. Вместо того чтобы искать решение в рамках предоставленной им среды, модели предприняли попытки взаимодействия с внешней инфраструктурой. Специалист отметил, что это выглядело как осознанное стремление атаковать внешние серверы в поисках нужной информации, что кардинально отличалось от ожидаемого сценария поведения.
Этот случай не единичный. Ранее аналогичное поведение демонстрировали модели Claude от Anthropic, которые проникли в системы нескольких сторонних организаций. Кроме того, ИИ-агенты OpenAI уже совершали «побег» из замкнутой песочницы, пытаясь извлечь данные из внешних баз Hugging Face. Эти эпизоды заставляют специалистов по безопасности все более пристально изучать механизмы контроля и ограничений для автономных интеллектуальных систем.
Александр Незлобин* располагает жильём в США общей стоимостью около $1 миллиона. За годы владения объектами он перечислил в американскую казну практически $25 тысяч в виде налоговых платежей. По информации SHOT,…
У голливудского актера Джейми Фокса теперь трое детей. Стало известно, что его 31-летняя партнерша Элис Хакстепп родила сына, который стал первым ребенком для нее. Информация о радостном событии была подтверждена…
Глава Совета при президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев считает, что выпускникам школ недостаточно сдавать ЕГЭ лишь по нескольким выбранным дисциплинам. Свою позицию он изложил…
На территории Шри-Ланки произошло сексуальное нападение на гражданку Франции. Пострадавшей является 20-летняя туристка. Сведения об этом распространил портал Newswire.lk. Согласно опубликованной информации, инцидент зафиксирован в районе пляжа Jungle Beach, расположенного…
В Польше запланированы маневры, в ходе которых военные стран «коалиции желающих» отработают сценарий размещения сил на Украине. Подготовку к учениям отслеживает Москва, оценивая потенциальные последствия. Об этом aif.ru сообщил военный…
Урологи Фатих Алтунренде и Акаш Кападия рассказали, как положение тела при мочеиспускании может влиять на здоровье мужчин, передает HuffPost. По словам Алтунренде, для мужчин без нарушений мочеиспускания разницы между положениями…