Абрамов: В чат-боты нельзя загружать банковские реквизиты

Николай Абрамов, возглавляющий Дирекцию искусственного интеллекта в ИТ-компании «Первый Бит», в разговоре с корреспондентом агентства «Прайм» обратил внимание на опасность, которую несли публичные чат-боты.

Он констатировал, что загрузка служебных документов в такой сервис де-факто приравнивалась к их передаче в открытое пространство. Сотрудники, сами того не осознавая, могли сделать конфиденциальную информацию доступной широкому кругу лиц.

По оценке эксперта, бесплатные нейросети не предоставляли надежной защиты. Отправленные запросы нередко использовались для дообучения алгоритмов, а сами данные хранились на серверах, расположенных за рубежом. Это создавало дополнительные риски, связанные с юрисдикцией и законодательством других стран.

Абрамов назвал перечень сведений, которые категорически не следовало загружать в нейросети. В него вошли персональные данные, коммерческая тайна, финансовая отчетность, детали договоров и банковские реквизиты.

«Строго говоря, сторонний искусственный интеллект ничего не крадет, — цитировал эксперта собеседник. — Данные ему отдают сами сотрудники. Все, что вы отправляете в публичный чат-бот, тем более бесплатный, можно считать переданным третьей стороне».

В итоге любое взаимодействие с внешним ИИ несло в себе потенциальную угрозу утечки. Многие пользователи ошибочно полагали, что анонимность запросов защищает их, однако реальность оказывалась иной — провайдер сервиса получал полный доступ к введенной информации.

Для безопасной работы с ИИ эксперт рекомендовал придерживаться простого правила: не отправлять в публичные нейросети ничего, что пользователь не готов увидеть в чужих руках. Корпоративным клиентам следовало отдавать предпочтение локальным моделям, работающим на собственных серверах.

Если же требовалось использовать внешние сервисы, необходимо было применять технологии обезличивания данных. Эти меры минимизировали риски и позволяли сохранить конфиденциальность, резюмировал Абрамов.

Ранее говорилось, что разработчики ИИ нанимают философов за $400 тысяч в год. Уточняется, что годовой доход специалистов в ведущих компаниях, работающих с искусственным интеллектом, может достигать 400 тысяч долларов.

Спрос на философов значительно увеличился, когда нейронные сети стали не только анализировать данные, но и принимать самостоятельные решения с потенциально широким влиянием. Подробности об этом читайте в материале Общественной службы новостей.