Изображение сгенерировано нейросетью ChatGPT
Светлана Газизова, владелец продукта по безопасности ИИ компании UserGate, в беседе с «Газетой.Ru» перечислила основные риски, с которыми сталкиваются россияне при использовании чат-ботов на основе искусственного интеллекта.
Среди ключевых опасностей она выделила дезинформацию, вероятность утечки конфиденциальных данных и выдачу информации, не предназначенной для несовершеннолетних пользователей.
Десятки миллионов граждан активно применяют ИИ-сервисы, однако далеко не все осознают сопутствующие угрозы, отметила эксперт. Одной из самых распространенных проблем стало чрезмерное доверие к ответам нейросетей, в том числе при решении критически важных задач.
Газизова привела показательный пример: семья, планируя зарубежный отпуск, обратилась к чат-боту за разъяснениями визовых требований. Искусственный интеллект уверенно заявил, что виза не нужна. Люди приобрели билеты, забронировали отель, однако в аэропорту им отказали в посадке — документов не хватало. Финансовые потери и сорванный отдых стали прямым следствием ложной информации.
Подобные ошибки происходят из-за того, что ИИ обращается к разным источникам, не проверяя их достоверность. Газизова подчеркнула: использовать нейросеть для получения сведений о необходимости визы допустимо, но лишь при условии конкретизации запроса и ссылки на официальные данные, например, с сайта посольства.
Другую серьезную угрозу эксперт связала с утечками данных. Пользователи нередко передают чат-ботам конфиденциальную информацию, не задумываясь, что она может быть использована для обучения моделей или попасть к третьим лицам.
Отдельное внимание было уделено безопасности детей. По словам эксперта, несовершеннолетние через языковые модели могут получить доступ к контенту, не предназначенному для их возраста, включая сведения о запрещенных веществах или деструктивном поведении. В связи с этим регуляторы разных стран усиливают контроль над ИИ-сервисами и вводят ограничения для защиты подрастающего поколения.
Ранее болельщик из России Родион Балакин попал на матч чемпионата мира по футболу по билету, сгенерированному ИИ. По его словам, он пошел на такой шаг из-за высоких цен.
Подробнее читайте в материале Общественной службы новостей.
Монастырь святой Екатерины на Синае, один из древнейших христианских монастырей мира, может изменить свой статус после решения египетского суда от 28 мая. Об этом сообщает Greek City Times. Согласно постановлению,…
Глава «Роснефти» Игорь Сечин направил президенту Владимиру Путину предложения по стабилизации ситуации на топливном рынке на фоне атак на НПЗ, сообщает «КоммерсантЪ». В письме говорится, что действующие нормативы биржевых продаж…
25 июня православная церковь чтит память преподобного Петра Афонского. В народе — Петр Солнцеворот. Дата по старому стилю — 12 июня. Общественная служба новостей узнала, какие традиции, запреты и приметы…
Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России предупредило о сохранении популярности среди онлайн-аферистов так называемых романтических схем обмана. Об этом информирует ТАСС. В ведомстве отметили,…
Врач-онколог, старший научный сотрудник Института клинической онкологии ОНЦ РАМН, кандидат медицинских наук Евгений Черемушкин заявил, что МРТ не оказывает лучевой нагрузки на организм и поэтому считается более безопасным методом диагностики…
Автоэксперт Роман Гуляев рассказал, что при заправке автомобиля некачественным бензином водителям необходимо как можно скорее обратиться на станцию техобслуживания для промывки топливной системы и устранения последствий. Он отметил, что в…