Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Wildberries в Екатеринбурге возобновил работу после атак БПЛА

25 июля в Москве поступила официальная информация о восстановлении работы логистического комплекса Wildberries в Екатеринбурге. Деятельность объекта была приостановлена из-за падения беспилотного летательного аппарата, что вынудило компанию временно прекратить приём…

% дней назад

Майк Тайсон оказался втянут в битву за наследство Халка Хогана

Спустя год после кончины легендарного рестлера Халка Хогана, его наследство остается в центре судебных разбирательств. Как сообщает Page Six, компания Tyson 2.0, основанная Майком Тайсоном, добилась продления сроков для подачи…

% дней назад

Патриарх Кирилл поздравил Бастрыкина с Днем следствия

Патриарх Московский и всея Руси Кирилл 25 июля направил председателю Следственного комитета Российской Федерации Александру Бастрыкину официальное поздравление. Поводом для обращения стал профессиональный праздник — День сотрудника органов следствия. Текст…

% дней назад

Захарова о должности для Федорова: «Никого приличного не нашлось?»

Официальный представитель МИД РФ Мария Захарова опубликовала в Telegram комментарий, в котором иронично высказалась о предложении итальянской стороны занять одну из должностей бывшему министру цифровой трансформации Украины Михаилу Федорову. Дипломат…

% дней назад

РБК рассказал, как завтракают и проводят утро миллиардеры Маск и Баффетт

РБК представил подборку утренних привычек известных миллиардеров — оказалось, что далеко не все из них начинают день с эксклюзивных блюд. Илон Маск, основатель Tesla и SpaceX (состояние — 744 млрд долларов по оценке Forbes), отдаёт…

% дней назад

Мостовой предсказал победу ЦСКА над «Балтикой»

Бывший игрок сборных СССР и России Александр Мостовой высказался о матче первого тура Российской премьер-лиги между московским ЦСКА и калининградской «Балтикой». Его комментарий опубликовало издание «Чемпионат». Экс-футболист заявил, что заранее…

% дней назад