Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Захарова выразила признательность КНР за сохранение памяти о советских солдатах

Мария Захарова, представляющая МИД РФ, высказала признательность китайской стороне за заботу о захоронениях советских бойцов. Свою позицию дипломат изложила в комментарии, подготовленном для документальной ленты «Забытый генерал», которую создала китайская…

% дней назад

Врач Мокрышева: сахарный диабет повышает риск тяжелого течения гриппа

Сахарный диабет выступает одним из наиболее весомых факторов риска, способствующих тяжелому течению гриппа и ряда иных респираторных инфекций. Об этом журналистам сообщила Наталья Мокрышева, занимающая должность директора НМИЦ эндокринологии имени…

% дней назад

Вице-премьер Италии Сальвини заявил о недопустимости отправки оружия Киеву

Вице-премьер Италии Маттео Сальвини после переизбрания на должность лидера партии «Лига» вновь высказался против оказания помощи Украине. Информацию об этом распространило агентство ANSA. По данным источника, политик заявил, что отправлять…

% дней назад

Вучич признал поражение коалиции на выборах в Сербии

Бывший глава Сербии Александр Вучич констатировал, что возглавляемая им политическая коалиция потерпела неудачу на выборах в парламент. Об этом он сообщил после оглашения предварительных итогов голосования. Так пишет РИА Новости.…

% дней назад

Дмитриев согласился с тезисом о стремлении Маска к мирному урегулированию

Кирилл Дмитриев, занимающий пост спецпредставителя президента РФ по инвестиционно-экономическому сотрудничеству с зарубежными странами и возглавляющий РФПИ, выразил согласие с тезисом о различной мотивации основателя SpaceX Илона Маска и Владимира Зеленского.…

% дней назад

Трамп заявил о проплаченных протестах на митингах республиканцев

Выступая на митинге в штате Мичиган, президент США Дональд Трамп столкнулся с прерыванием своей речи и сразу же обозначил причину инцидента. Об этом пишет РИА Новости. По данным источника, американский…

% дней назад