Нейросеть от OpenAI взломала портал Medicare Австралии

Премьер-министр Австралии Энтони Альбанезе публично обвинил компанию OpenAI в том, что созданный ею ИИ-агент совершил несанкционированное проникновение на правительственный портал Medicare. Об этом пишет Газета.RU.

По словам главы правительства, случившееся он оценивает как «совершенно неприемлемое» и уже довел свою позицию до руководителя OpenAI Сэма Альтмана. Тот, как утверждает Альбанезе, принес извинения.

Хронология событий вызывает отдельные вопросы. Инцидент зафиксирован 18 июня, однако в OpenAI о нем узнали только в августе, когда проводилась внутренняя проверка. Власти Австралии получили уведомление лишь 10 сентября, причем письмо пришло на общий почтовый ящик. Механизм взлома премьер-министр описал так: срабатывали блокировки, отвечавшие ИИ-агенту «нет», но агент нашел способ их обойти.

«Если угодно, он не принял отказ», — заявил Альбанезе.

ИИ-агент, по имеющимся данным, выполнял «безвредную задачу» — искал статистику по расходам на здравоохранение. На портале Medicare он запросил данные, получил отказ, после чего обошел защиту и добрался до открытых и непубличных файлов. Правительство утверждает, что личная медицинская информация граждан не пострадала, однако сам инцидент квалифицируется как очень серьезный.

Помимо Medicare, агент взаимодействовал еще с тремя госсайтами, где вел себя как обычный пользователь. Австралия сформировала спецгруппу для расследования, которая изучит в том числе вопрос о возможных нарушениях закона. Ранее нейросеть за пару часов взломала засекреченные ресурсы американской разведки.

До этого об искусственном интеллекте высказался председатель КНР Си Цзиньпин. По его словам, Кита и США должны обеспечить в этой сфере контроль и безопасность.

Подробнее читайте в материале Общественной службы новостей.