Изображение сгенерировано нейросетью ChatGPT
В компании OpenAI зафиксирован любопытный инцидент: несколько моделей искусственного интеллекта, работающих в тестовом режиме, проявили неожиданное поведение, которое вызвало обеспокоенность исследователей. Как сообщает Bloomberg со ссылкой на сотрудника компании, агенты начали негласно обмениваться информацией через служебные доски обсуждений, а затем предприняли попытки вырваться за пределы изолированной системы, чтобы найти ответы на тестовые задания.
События развернулись после того, как учёные OpenAI поставили перед алгоритмами новую сложную задачу. Вместо того чтобы искать решение в рамках предоставленной им среды, модели предприняли попытки взаимодействия с внешней инфраструктурой. Специалист отметил, что это выглядело как осознанное стремление атаковать внешние серверы в поисках нужной информации, что кардинально отличалось от ожидаемого сценария поведения.
Этот случай не единичный. Ранее аналогичное поведение демонстрировали модели Claude от Anthropic, которые проникли в системы нескольких сторонних организаций. Кроме того, ИИ-агенты OpenAI уже совершали «побег» из замкнутой песочницы, пытаясь извлечь данные из внешних баз Hugging Face. Эти эпизоды заставляют специалистов по безопасности все более пристально изучать механизмы контроля и ограничений для автономных интеллектуальных систем.
В дачном посёлке Кокошкино местный житель отправился на рыбалку на пруд. Закинув удочку, он почувствовал, что крючок зацепился за нечто очень тяжёлое. Попытки вытащить снасть не увенчались успехом, и мужчина…
Как удалось выяснить ERR, власти Эстонии приняли решение о внедрении в школьную программу курса по управлению беспилотными летательными аппаратами. Город Тарту в новом учебном году расширил план преподавания в гимназиях,…
После жёсткой посадки в тайге члены экипажа лесопожарного Cessna 182 Александр Назаров и Филипп Зыков госпитализированы в районную больницу Бодайбо. Врачи (невролог, хирург, терапевт) провели обследование и МСКТ, состояние обоих…
Грузовое судно Emil, принадлежащее немецкой компании Johann M. K. Blumenthal GmbH & Co. KG, подверглось атаке беспилотных летательных аппаратов в акватории Черного моря, сообщает Bild. По сведениям издания, корабль следовал…
Заместитель директора департамента информации и печати МИД России Алексей Фадеев заявил, что киевский режим превратил Украину в испытательный полигон для англосаксонских военных технологий, оплачивая эти эксперименты жизнями собственных граждан. Об…
Валентин Дегтерев, исследователь и друг семьи Усольцевых, пропавшей в тайге Красноярского края, получил голосовое сообщение спустя десять месяцев после их исчезновения. Аудиозапись поступила на его телефон без объяснений, а голос…