ИИ-агент впервые в Австралии взломал сайт спортзала

Австралийский телеканал ABC сообщил о первой в стране автономной кибератаке, совершённой искусственным интеллектом: агент Claude AI компании Anthropic взломал сайт спортзала, чтобы выполнить запрос пользователя.

По данным телеканала, сотрудник компании по продаже ИИ-продуктов Эндрю экспериментировал с программным обеспечением OpenClaw, используя сервис Claude AI. Он попросил ассистента забронировать место на занятии, и тот нашёл уязвимость в системе бронирования, позволившую записаться за несколько месяцев до даты — за рамками установленных клубом сроков.

Затем, когда Эндрю захотел подняться с четвёртого места на первое в списке ожидания на другое занятие, ИИ-агент самостоятельно исключил из очереди одного из записавшихся, переместив пользователя на третью позицию. При этом удалённого человека ассистент восстановить уже не смог.

Разработчик ПО для бронирования отказался обсуждать вопросы безопасности, а компания Anthropic не ответила на запрос журналистов. Инцидент произошёл на фоне недавних испытаний, в ходе которых модели OpenAI, создателя ChatGPT, автономно взламывали инфраструктуру платформы машинного обучения Hugging Face.

Напомним, за последние месяцы это уже не первый случай, когда британские правительственные сети подвергаются кибератакам, а утекшие данные потом продаются на форумах в даркнете.

Группировка ExfilSquad заявила в своем канале, что сумела проникнуть в закрытые базы данных Национального колледжа полиции и порталы Министерства образования Великобритании и выложила в открытый доступ сотни тысяч персональных записей. Подробнее об этом читайте в материале Общественной службы новостей.