Аналитик Кусков: Вооруженные ИИ хакеры могут взломать большинство устройств, подключенных к Интернету

Стремительное развитие искусственного интеллекта в последние годы уже повлекло за собой ощутимые последствия: сгенерированные изображения и видео заполонили соцсети и рекламу, созданная нейросетями музыка стала попадать в топ-чарты, многие люди попали под сокращение после внедрения ИИ в рабочие процессы компаний. Однако главное следствие ИИ-бума, судя по всему, становится очевидным только сейчас – за последние несколько месяцев произошел ряд событий, которые еще недавно показались бы невозможными и фантастическими.

В конце лета тестовые ИИ-агенты OpenAI самовольно «вырвались» в открытый Интернет и атаковали инфраструктуру собственного разработчика и платформы Hugging Face, после чего компании пришлось временно приостановить обучение своих моделей.

Сентябрь прошел относительно спокойно, но ко второму месяц осени ситуация накалилась – его даже окрестили «Черным октябрем». Наиболее громким событием стало обнаружение при помощи LLM-моделей критических уязвимостей в языке программирования PHP – на нем написано около 70% всех сайтов в мире – которые никто не замечал последние 20 лет, и которыми злоумышленники в теории могли воспользоваться для удаленного запуска вредоносных кодов. После этого GitHub и другие платформы в срочном порядке начали обновлять свои системы для защиты от этой угрозы. Под конец месяца хакеры атаковали инфраструктуру LiteLLM и опубликовали от лица разработчика вредоносную версию программы, которая автоматически собирала пароли и ключи с компьютеров пользователей. Были и другие инциденты.

Глобального взлома большей части Интернета вышеперечисленные атаки и обнаруженные уязвимости не повлекли – системы скорее наоборот стали более устойчивы к хакерским попыткам взлома. «Черный октябрь», однако, показал, что ИИ может с легкостью обнаруживать бреши в цифровой инфраструктуре, невидимые человеческому глазу, что вызвало серьезную тревогу касательно информационной безопасности в современном мире.

Собственно, последовавший за этим ноябрь сразу же открылся с анонимных сообщений о том, что 17 числа хакеры взломают вообще весь Интернет, обнулят банковские счета и отключат Всемирную паутину на три месяца, по истечению которых все восстановит «суперпродвинутый ИИ». Были и более серьезные новости: британские эксперты выразили опасения, что всего через несколько лет хакеры с помощью ИИ смогут взламывать даже электростанции и прочие объекты гражданской инфраструктуры.

Как отмечает генеральный директор информационно-аналитического агентства Telecom Daily Денис Кусков, в таких условиях любым компаниям и учреждениям важно озаботиться обустройством локальных серверов, не подключенных к Интернету, на которых будут храниться резервные системы. Об этом эксперт заявил в разговоре с Общественной службой новостей.

«Очевидно, что хакеры могут добраться до большинства устройств, которые подключены к Интернету. Поэтому сегодня нельзя, например, обеспечивать города электроэнергией с компьютера, который подключён к Всемирной паутине. Обязательно должна быть система резервирования, которая не имеет выхода во внешний мир, и в которую нельзя добраться, чтобы можно было восстановить работоспособность в случае какой-то чрезвычайной ситуации и минимизировать потери», — говорит собеседник издания.

Касательно вброса про взлом всего Интернета 17 ноября Кусков отметил, что дата тут, в общем-то, непринципиальна – гипотетически, сделать это можно в любой день.

«Вопрос в том, насколько системы защищены от подобных атак, потому что очевидно, что использование хакерами возможностей искусственного интеллекта облегчает им задачу и усложняет жизнь структурам, которые эти системы защищают. Это борьба, которая ведется 24 часа в сутки, 365 дней в году. И кто в ней окажется лучше, тот и выиграет», — указал аналитик.

Читайте также:

• Эксперт по ИИ Геррейро: без контроля технологий, они начнут «жить своей жизнью»
• Аналитик Муртазин: Большинство дата-центров в России защищены от налетов БПЛА
• Футуролог Кононов призвал приручать ИИ через кинематограф и позитивные образы будущего