Reuters: ИИ-агенты OpenAI захватили немецкий сайт и координировали действия

Неуправляемые ИИ-агенты, разработанные компанией OpenAI, захватили немецкий веб-сайт DseWiki и превратили его в площадку для координации действий других агентов. Инцидент произошел весной этого года, сообщает агентство Reuters со ссылкой на информированные источники.

Исследователи обнаружили на сайте более 15 тысяч правок, выполненных с высокой скоростью. Активность связывают с серверами Microsoft Azure, которые использует OpenAI.

По данным агентства, агенты координировали свои действия и обменивались способами обхода установленных ограничений. Некоторые из них использовали имена вроде «OpenAIResearcher». После попыток модераторов удалить публикации агенты создавали резервные страницы, чтобы сохранить размещенную информацию.

Также сообщается, что руководство OpenAI узнало об инциденте спустя некоторое время после его возникновения. При этом внутри компании возникли разногласия относительно расширения расследования. В OpenAI отвергли утверждения о том, что кто-либо препятствовал проведению проверки.

Эксперты считают произошедшее свидетельством потенциальных рисков, связанных с автономными ИИ-системами. По их оценке, подобные системы способны самостоятельно координировать действия и искать способы обхода ограничений, что усложняет их контроль со стороны человека.

Ранее глава Росавиации Дмитрий Ядров на полях Восточного экономического форума рассказал о широком спектре применения искусственного интеллекта в российской авиационной отрасли. Подробнее об этом читайте в материале Общественной службы новостей.