Фото: Кузьмичёнок Василий/Агентство «Москва»
Неуправляемые ИИ-агенты, разработанные компанией OpenAI, захватили немецкий веб-сайт DseWiki и превратили его в площадку для координации действий других агентов. Инцидент произошел весной этого года, сообщает агентство Reuters со ссылкой на информированные источники.
Исследователи обнаружили на сайте более 15 тысяч правок, выполненных с высокой скоростью. Активность связывают с серверами Microsoft Azure, которые использует OpenAI.
По данным агентства, агенты координировали свои действия и обменивались способами обхода установленных ограничений. Некоторые из них использовали имена вроде «OpenAIResearcher». После попыток модераторов удалить публикации агенты создавали резервные страницы, чтобы сохранить размещенную информацию.
Также сообщается, что руководство OpenAI узнало об инциденте спустя некоторое время после его возникновения. При этом внутри компании возникли разногласия относительно расширения расследования. В OpenAI отвергли утверждения о том, что кто-либо препятствовал проведению проверки.
Эксперты считают произошедшее свидетельством потенциальных рисков, связанных с автономными ИИ-системами. По их оценке, подобные системы способны самостоятельно координировать действия и искать способы обхода ограничений, что усложняет их контроль со стороны человека.
Ранее глава Росавиации Дмитрий Ядров на полях Восточного экономического форума рассказал о широком спектре применения искусственного интеллекта в российской авиационной отрасли. Подробнее об этом читайте в материале Общественной службы новостей.
Приобретение хлеба и булочек, которые выпекают непосредственно в торговых залах, требует от покупателя внимательности к деталям, влияющим на безопасность продукта. Об этом в беседе с «Лентой.ру» рассказала Елена Спеценко, возглавляющая…
В центре Чернигова подполковник Национальной гвардии Украины применил табельное оружие против военнослужащего ВСУ. Информацию об этом предоставили представители российских силовых структур. Согласно сведениям, поступившим от силовиков в распоряжение ТАСС, огонь…
Летом 2026 года в Европе зафиксировано свыше 50 тысяч летальных исходов, вызванных аномально высокими температурами. Такие данные содержит исследование Института Грэнтэма, действующего при Имперском колледже Лондона. Об этом информирует РИА…
Исследование компании Foresight Development показало: всего 1% участников опроса утверждают, что ежедневные поездки на работу не вызывают у них раздражения. С результатами исследования ознакомилась «Газета.Ru». Главными источниками стресса респонденты назвали…
Вечером в различных областях Украины зафиксирована серия взрывов. Согласно поступающим сведениям, взрывы произошли в Запорожье и Житомире, а также в нескольких населённых пунктах западной части страны. Одновременно украинские силы продолжают…
Французский депутат Европарламента Тьерри Мариани заявил, что Украина будет обязана возместить ФРГ ущерб, если суд докажет её причастность к подрыву «Северных потоков». Его цитирует РИА Новости. По словам эксперта, диверсия…