Степанов: слепое доверие к ИИ усугубляет риск утечки данных

Представитель аналитической компании «Криптонит» Борис Степанов в понедельник вечером проинформировал о том, что необдуманное использование искусственного интеллекта способно усиливать угрозу утечки конфиденциальных данных.

По его словам, существующие системы предотвращения утечек (DLP) функционируют исключительно внутри корпоративного контура и не способны контролировать действия пользователя за его пределами.

Как пояснил эксперт в интервью информационному порталу РИАМО, главным катализатором проблемы выступает так называемая «цифровая лень» — стремление получить готовый ответ без анализа и правки исходных материалов.

В публикации сказано о том, что многие пользователи воспринимают нейросети как безобидных помощников и массово передают им сведения, имеющие ограниченный доступ.

Если сотрудник выходит в сеть с личного гаджета, DLP становится бесполезной, а намеренный обход защиты ради быстрой отправки файла может быть расценен как грубое нарушение трудовой дисциплины с последующим увольнением.

Степанов опроверг распространенное заблуждение, что удаление из текста названий фирм и имен делает его безопасным для передачи нейросети. Злоумышленники способны восстановить полный контекст, опираясь на внутренние коды, должности сотрудников или специфическую терминологию.

Внимание обращается на тот факт, что даже в обезличенном виде материалы часто сохраняют элементы ноу-хау и бизнес-логики, которые составляют коммерческую тайну, подчеркнул специалист.

Он отметил, что использование ИИ на рабочем месте не запрещено, однако требует соблюдения цифровой гигиены. Перед началом работы следует выяснить, существует ли в организации безопасная корпоративная версия ИИ-помощника, развернутая в защищенном контуре.

Категорически запрещается загружать в нейросети документы с пометками «конфиденциально» или «секретно», а также материалы с персональными данными.

Специалист рекомендовал перед обращением к нейросети отключать в настройках функцию сохранения чатов и запретить использование диалогов для обучения моделей. Кроме того, ответы алгоритмов необходимо перепроверять, поскольку нейросетям свойственны ошибки, заключил Степанов.

Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.

Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.