Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Меркурис: США не простит Киеву попытку вмешательства конфликт в Иране

Британский военный аналитик Александр Меркурис заявил на YouTube, что Дональд Трамп может жестко отреагировать на попытки Владимира Зеленского вмешаться в конфликт вокруг Ирана. Американский лидер считает главу киевского режима слабым…

% дней назад

Мирошник: Зеленский может устроить провокацию на Украине или в Европе

Официальный представитель Министерства Иностранных Дел Российской Федерации Родион Мирошник проинформировал о том, что Киев крайне недоволен тем, что западные государства забыли о нём, переключившись на вновь разгоревшееся в Ближневосточном регионе противостояние. В ходе диалога с ТАСС…

% дней назад

19fortyfive: у США не хватит ресурсов для наземной операции в Иране

Никто из союзников по Организации Североатлантического Договора не окажет поддержку США, если они решаться устроить полноценное вторжение на иранскую территорию в обозримом будущем. Турецкие границы не выйдет использовать для подготовки наступления из-за несогласия Анкары. Об этом, ссылаясь на опрошенных военных…

% дней назад

Кристина Асмус посмеялась над бывшим мужем Харламовым, встретив свою копию

Актриса Кристина Асмус поддержала блогера и актрису Маш Милаш (Марию Камову) на презентации ее нового трека «Просто так». При встрече девушки заметили, что внешне очень похожи — обе блондинки с…

% дней назад

ТАСС: застрявшие в ОАЭ россияне остались без денег из-за отмены рейсов

Многие россияне, застрявшие в ОАЭ из-за конфликта на Ближнем Востоке, остались без денег. Туристка из Краснодара Анастасия рассказала ТАСС, что ей удалось вернуться домой только одним из вывозных рейсов. Вылет…

% дней назад

NBC: Трамп выразил интерес к отправке в Иран небольшого контингента военных

Лидер Соединённых Штатов Америки Дональд Трамп всё ещё не желает прибегать к полноценному вторжению на иранскую территорию. Он сохраняет надежду на то, что сможет добиться своих целей без подобных мер, которые непопулярны в обществе. Об этом, ссылаясь на сохранивших…

% дней назад