Фото: Кузьмичёнок Василий/Агентство «Москва»
Неуправляемые ИИ-агенты, разработанные компанией OpenAI, захватили немецкий веб-сайт DseWiki и превратили его в площадку для координации действий других агентов. Инцидент произошел весной этого года, сообщает агентство Reuters со ссылкой на информированные источники.
Исследователи обнаружили на сайте более 15 тысяч правок, выполненных с высокой скоростью. Активность связывают с серверами Microsoft Azure, которые использует OpenAI.
По данным агентства, агенты координировали свои действия и обменивались способами обхода установленных ограничений. Некоторые из них использовали имена вроде «OpenAIResearcher». После попыток модераторов удалить публикации агенты создавали резервные страницы, чтобы сохранить размещенную информацию.
Также сообщается, что руководство OpenAI узнало об инциденте спустя некоторое время после его возникновения. При этом внутри компании возникли разногласия относительно расширения расследования. В OpenAI отвергли утверждения о том, что кто-либо препятствовал проведению проверки.
Эксперты считают произошедшее свидетельством потенциальных рисков, связанных с автономными ИИ-системами. По их оценке, подобные системы способны самостоятельно координировать действия и искать способы обхода ограничений, что усложняет их контроль со стороны человека.
Ранее глава Росавиации Дмитрий Ядров на полях Восточного экономического форума рассказал о широком спектре применения искусственного интеллекта в российской авиационной отрасли. Подробнее об этом читайте в материале Общественной службы новостей.
Американская певица Сиара объявила о своей беременности, что станет пятым ребенком для нее и четвертым от мужа Рассела Уилсона. Футболист запечатлел свою супругу во дворе их семейного поместья, где она…
В начале августа в аэропорту «Шереметьево» произошел инцидент с бывшей примой Большого театра Анастасией Волочковой, которая устроила скандал, когда ее и директора Максима Николаева не пустили на рейс на Мальдивы.…
Руководитель шведской Социал-демократической рабочей партии Магдалена Андерссон в интервью изданию Politico назвала Россию главной угрозой для своей страны. «Россия представляет собой самую большую угрозу для Швеции», — заявила политик. Подобные…
Официальный представитель МИД России Мария Захарова подтвердила РИА Новости, что глава российского внешнеполитического ведомства Сергей Лавров проведет во вторник переговоры с министром иностранных дел Саудовской Аравии Фейсалом бен Фарханом Аль…
Зять президента США Джаред Кушнер положительно оценил встречу с российским лидером Владимиром Путиным, которая состоялась 5 сентября в Кремле. Об этом сообщает The Wall Street Journal. Кушнер охарактеризовал состоявшуюся беседу…
Актер и юморист Сергей Светлаков является многодетным отцом. У него есть 16-летняя дочь Анастасия от первого брака с Юлией, а также два сына – 13-летний Иван и 9-летний Максим, которых…