Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Полицию обвинили в избиении мужчины и его сестры: МВД раскрыло свою версию произошедшего

Полиция Кузбасса опровергла сообщения о том, что участковый избил мужчину и его сестру во время задержания в Таштагольском округе. Об этом сообщили в региональном управлении МВД. Ранее в местных СМИ…

% дней назад

Один человек погиб и шесть пострадали при атаках ВСУ в Белгородской области

В Белгородской области в результате очередных атак со стороны ВСУ погиб один человек, еще шесть получили ранения. Об этом в четверг, 10 сентября, сообщает РИА Новости. По информации оперштаба региона,…

% дней назад

СБУ хотела столкнуть Россию и Великобританию через охранника посольства

Журналист Russia Today сообщил о том, что Служба безопасности Украины вынашивала план по столкновению России и Великобритании, используя для этого сотрудника охраны британского посольства. По словам корреспондента RT, заговор удалось…

% дней назад

Сенат Узбекистана одобрил обновленный вариант латинского алфавита

Сенат Узбекистана утвердил окончательный вариант узбекского алфавита на основе латинской графики. Решение было принято по итогам 19-го пленарного заседания верхней палаты парламента. Обновленный алфавит будет состоять из 28 букв и…

% дней назад

Собака застряла внутри кресла: пожарным пришлось применять инструмент для ДТП

В американском городе Джоппатаун пожарным пришлось использовать гидравлические ножницы, чтобы освободить терьера по кличке Хайвей, который застрял внутри кресла и не мог выбраться самостоятельно. По данным добровольной пожарной службы Joppa…

% дней назад

Прокуратура проверит избиение подростка в школе Тюменской области

Прокуратура Тюменской области начала проверку после сообщений об избиении подростка в школе села Балаганы Викуловского муниципального округа. Информация об инциденте ранее появилась в интернете и СМИ. По предварительным данным, конфликт…

% дней назад