Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Участники «Я – профессионал» разработают ИИ-агентов для бизнеса на Весенней экономической школе Сбера и НИУ ВШЭ

На площадке СберУниверситета стартовала Весенняя экономическая школа, организованная Сбером и НИУ ВШЭ для участников Всероссийской олимпиады студентов «Я – профессионал» Президентской платформы «Россия – страна возможностей». С 22 по 24…

% дней назад

Мема рассказал о панике на Западе из-за хода ЕС против России

Финский политик Армандо Мема заявил, что очередной пакет антироссийских санкций и кредит Украине не изменят ситуацию для Киева на поле боя. На своей странице в социальной сети X* Мема написал…

% дней назад

Правительство Германии вдвое сократило прогноз роста экономики страны

Как удалось узнать Handelsblatt, правительство Германии вдвое сократило прогноз роста экономики страны по итогам этого года. Об этом в среду, 22 апреля, сообщает «Российская газета». Минэкономики ФРГ подсчитал, что в…

% дней назад

Зеленский: Одобрение Украине кредита ЕС посылает России сигнал

Глава киевского режима Владимир Зеленский заявил, что одобрение кредита ЕС Украине в размере 90 миллиардов евро посылает «правильный сигнал» России. В своем Telegram-канале Зеленский также поддержал введение нового пакета антироссийских…

% дней назад

Путешественник Федор Конюхов показал изменения Приморья за 120 лет

Гендиректор ГК «Трансгаз» Иван Молчанов во время выступления в эфире телемоста Москва – Владивосток назвал цель конной экспедиции путешественника Федора Конюхова в Приморье. Об этом в среду, 22 апреля, сообщает…

% дней назад

Блогер Лебедев сравнил досмотр туристов в Египте с худшими временами СССР

Блогер и дизайнер Артемий Лебедев раскритиковал отношение к туристам в популярной у россиян стране. Об этом он высказался в обзоре новостей в соцсети «Вконтакте». Лебедеву не понравилось, как досматривают туристов…

% дней назад