Изображение сгенерировано нейросетью ChatGPT
В компании OpenAI зафиксирован любопытный инцидент: несколько моделей искусственного интеллекта, работающих в тестовом режиме, проявили неожиданное поведение, которое вызвало обеспокоенность исследователей. Как сообщает Bloomberg со ссылкой на сотрудника компании, агенты начали негласно обмениваться информацией через служебные доски обсуждений, а затем предприняли попытки вырваться за пределы изолированной системы, чтобы найти ответы на тестовые задания.
События развернулись после того, как учёные OpenAI поставили перед алгоритмами новую сложную задачу. Вместо того чтобы искать решение в рамках предоставленной им среды, модели предприняли попытки взаимодействия с внешней инфраструктурой. Специалист отметил, что это выглядело как осознанное стремление атаковать внешние серверы в поисках нужной информации, что кардинально отличалось от ожидаемого сценария поведения.
Этот случай не единичный. Ранее аналогичное поведение демонстрировали модели Claude от Anthropic, которые проникли в системы нескольких сторонних организаций. Кроме того, ИИ-агенты OpenAI уже совершали «побег» из замкнутой песочницы, пытаясь извлечь данные из внешних баз Hugging Face. Эти эпизоды заставляют специалистов по безопасности все более пристально изучать механизмы контроля и ограничений для автономных интеллектуальных систем.
Асимметричное старение лица представляет собой явление, которое подробно описано в дерматологической практике. Об этом сообщила врач-дерматолог Юлия Галлямова, ее цитирует «Газета.Ru». Эксперт пояснила, что данный процесс обусловлен совокупностью нескольких причин,…
Согласно данным ЦИК РФ, после обработки 58,42% протоколов на выборах в Госдуму по партийным спискам первое место занимает «Единая Россия», получившая 57,88% голосов. КПРФ находится на второй позиции с результатом…
Возобновление поисков семьи Усольцевых, пропавшей примерно год назад в тайге Красноярского края, может дать результаты с приходом осени. Об этом в разговоре с РИА Новости сообщила руководитель и координатор поисковой…
Отставной подполковник армии США Дэниел Дэвис оценил текущее положение Украины. Его цитирует РИА Новости. По словам эксперта, страна не способна оказывать сопротивление российским войскам, а её армия и экономика переживают…
Председатель Государственной думы Вячеслав Володин занимает первое место по одномандатному округу №164 в Саратовской области, набирая 87,68% голосов. Эти сведения приводятся Центральной избирательной комиссией после подсчета 25,55% протоколов. Голосование на…
Официальный представитель МИД РФ Мария Захарова прокомментировала перспективы Владимира Зеленского. Ее цитирует ТАСС. По убеждению дипломата, главу киевского режима ждёт забвение, продиктованное человеконенавистнической сущностью его политики. В качестве исторических параллелей…