Изображение сгенерировано нейросетью ChatGPT
Стремительное развитие искусственного интеллекта в последние годы уже повлекло за собой ощутимые последствия: сгенерированные изображения и видео заполонили соцсети и рекламу, созданная нейросетями музыка стала попадать в топ-чарты, многие люди попали под сокращение после внедрения ИИ в рабочие процессы компаний. Однако главное следствие ИИ-бума, судя по всему, становится очевидным только сейчас – за последние несколько месяцев произошел ряд событий, которые еще недавно показались бы невозможными и фантастическими.
В конце лета тестовые ИИ-агенты OpenAI самовольно «вырвались» в открытый Интернет и атаковали инфраструктуру собственного разработчика и платформы Hugging Face, после чего компании пришлось временно приостановить обучение своих моделей.
Сентябрь прошел относительно спокойно, но ко второму месяц осени ситуация накалилась – его даже окрестили «Черным октябрем». Наиболее громким событием стало обнаружение при помощи LLM-моделей критических уязвимостей в языке программирования PHP – на нем написано около 70% всех сайтов в мире – которые никто не замечал последние 20 лет, и которыми злоумышленники в теории могли воспользоваться для удаленного запуска вредоносных кодов. После этого GitHub и другие платформы в срочном порядке начали обновлять свои системы для защиты от этой угрозы. Под конец месяца хакеры атаковали инфраструктуру LiteLLM и опубликовали от лица разработчика вредоносную версию программы, которая автоматически собирала пароли и ключи с компьютеров пользователей. Были и другие инциденты.
Глобального взлома большей части Интернета вышеперечисленные атаки и обнаруженные уязвимости не повлекли – системы скорее наоборот стали более устойчивы к хакерским попыткам взлома. «Черный октябрь», однако, показал, что ИИ может с легкостью обнаруживать бреши в цифровой инфраструктуре, невидимые человеческому глазу, что вызвало серьезную тревогу касательно информационной безопасности в современном мире.
Собственно, последовавший за этим ноябрь сразу же открылся с анонимных сообщений о том, что 17 числа хакеры взломают вообще весь Интернет, обнулят банковские счета и отключат Всемирную паутину на три месяца, по истечению которых все восстановит «суперпродвинутый ИИ». Были и более серьезные новости: британские эксперты выразили опасения, что всего через несколько лет хакеры с помощью ИИ смогут взламывать даже электростанции и прочие объекты гражданской инфраструктуры.
Как отмечает генеральный директор информационно-аналитического агентства Telecom Daily Денис Кусков, в таких условиях любым компаниям и учреждениям важно озаботиться обустройством локальных серверов, не подключенных к Интернету, на которых будут храниться резервные системы. Об этом эксперт заявил в разговоре с Общественной службой новостей.
«Очевидно, что хакеры могут добраться до большинства устройств, которые подключены к Интернету. Поэтому сегодня нельзя, например, обеспечивать города электроэнергией с компьютера, который подключён к Всемирной паутине. Обязательно должна быть система резервирования, которая не имеет выхода во внешний мир, и в которую нельзя добраться, чтобы можно было восстановить работоспособность в случае какой-то чрезвычайной ситуации и минимизировать потери», — говорит собеседник издания.
Касательно вброса про взлом всего Интернета 17 ноября Кусков отметил, что дата тут, в общем-то, непринципиальна – гипотетически, сделать это можно в любой день.
«Вопрос в том, насколько системы защищены от подобных атак, потому что очевидно, что использование хакерами возможностей искусственного интеллекта облегчает им задачу и усложняет жизнь структурам, которые эти системы защищают. Это борьба, которая ведется 24 часа в сутки, 365 дней в году. И кто в ней окажется лучше, тот и выиграет», — указал аналитик.
Читайте также:
По предварительным результатам промежуточных выборов, прошедших 3 ноября, Демократическая партия США вернула себе большинство в обеих палатах конгресса. Согласно оценкам NBC News, в палате представителей демократы могут рассчитывать на 258…
Обсуждение морской блокады России и сценариев изоляции Калининграда всё громче звучит в западных столицах. Представители НАТО открыто допускают подобные варианты, не скрывая намерений усилить давление на Москву. Об этом пишет…
В Екатеринбурге 4 ноября, в День народного единства, состоялось открытие мурала, посвященного императору Николаю II. Информацию об этом распространил аппарат полномочного представителя президента в УрФО Артема Жоги. Изображение размещено на…
Медицинские данные свидетельствуют: на линии боевого соприкосновения количество ранений, нанесённых снайперским оружием, сократилось в 6,5 раза по сравнению с 2022 годом. Уже к концу 2023 года первое место со значительным…
В пресс-службе управления СК РФ по Ямало-Ненецкому автономному округу агентству РИА Новости сообщили, что мужчина, который выжил после атаки медведя в Красноселькупском районе, по-прежнему пребывает в крайне тяжёлом состоянии. Ответ…
Уголовное преследование Ксении Петровой, российской исследовательницы, работавшей в Гарвардском университете, признано неоправданным с точки зрения расходования государственных средств. Соответствующая позиция изложена в судебном документе, изученном корреспондентами РИА Новости. Согласно материалам…