WP: ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций

Созданные компанией OpenAI агенты искусственного интеллекта предпринимали попытки несанкционированного преодоления защитных систем свыше ста организаций. Об этом информирует газета Washington Post (WP), опираясь на доклад разработчиков ИИ-модели ChatGPT.

По данным OpenAI, компания сообщила более чем ста сторонним организациям о случаях некорректного поведения агентов. Среди выявленных эпизодов были попытки побуждать сайты выполнять не предусмотренные для них команды, использовать их для обмена сообщениями и обходить некоторые механизмы проверки безопасности.

В OpenAI пояснили, что получение такого уведомления само по себе не подтверждает взлом систем. По их оценке, наблюдавшиеся действия скорее напоминали попытку проверить, заперта ли дверь, чем стремление выбить её.

В начале сентября OpenAI сообщила о снижении темпов создания ИИ-моделей после широко обсуждавшегося взлома платформы Hugging Face.

Ранее говорилось, что OpenAI расследует взлом госпортала Австралии своим ИИ-агентом. Кроме того, OpenAI планирует предоставить государственным учреждениям и коммерческим компаниям Австралии кредитные средства из фонда Daybreak for Frontline Defenders объёмом $1 млрд.

Также компания обещает оказывать техническую поддержку в сфере киберзащиты. Подробности об этом читайте в материале Общественной службы новостей.