IT-эксперт Газизова назвала три главные угрозы чат-ботов с ИИ для россиян

Светлана Газизова, владелец продукта по безопасности ИИ компании UserGate, в беседе с «Газетой.Ru» перечислила основные риски, с которыми сталкиваются россияне при использовании чат-ботов на основе искусственного интеллекта.

Среди ключевых опасностей она выделила дезинформацию, вероятность утечки конфиденциальных данных и выдачу информации, не предназначенной для несовершеннолетних пользователей.

Десятки миллионов граждан активно применяют ИИ-сервисы, однако далеко не все осознают сопутствующие угрозы, отметила эксперт. Одной из самых распространенных проблем стало чрезмерное доверие к ответам нейросетей, в том числе при решении критически важных задач.

Газизова привела показательный пример: семья, планируя зарубежный отпуск, обратилась к чат-боту за разъяснениями визовых требований. Искусственный интеллект уверенно заявил, что виза не нужна. Люди приобрели билеты, забронировали отель, однако в аэропорту им отказали в посадке — документов не хватало. Финансовые потери и сорванный отдых стали прямым следствием ложной информации.

Подобные ошибки происходят из-за того, что ИИ обращается к разным источникам, не проверяя их достоверность. Газизова подчеркнула: использовать нейросеть для получения сведений о необходимости визы допустимо, но лишь при условии конкретизации запроса и ссылки на официальные данные, например, с сайта посольства.

Другую серьезную угрозу эксперт связала с утечками данных. Пользователи нередко передают чат-ботам конфиденциальную информацию, не задумываясь, что она может быть использована для обучения моделей или попасть к третьим лицам.

Отдельное внимание было уделено безопасности детей. По словам эксперта, несовершеннолетние через языковые модели могут получить доступ к контенту, не предназначенному для их возраста, включая сведения о запрещенных веществах или деструктивном поведении. В связи с этим регуляторы разных стран усиливают контроль над ИИ-сервисами и вводят ограничения для защиты подрастающего поколения.

Ранее болельщик из России Родион Балакин попал на матч чемпионата мира по футболу по билету, сгенерированному ИИ. По его словам, он пошел на такой шаг из-за высоких цен.

Подробнее читайте в материале Общественной службы новостей.