Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

Центробанк опроверг информацию об изменении тарифов на СБП с мая

Банк России прокомментировал информацию о якобы планируемых изменениях в условиях переводов по Системе быстрых платежей (СБП) с 1 мая. Об этом в среду, 22 апреля, сообщает ТАСС. Соответствующие публикации появились…

% дней назад

Зюганов признался, что его поразило обращение Виктории Бони из Монако

Лидер КПРФ Геннадий Зюганов прокомментировал резонансное обращение блогерши Виктории Бони к президенту России Владимиру Путину. Его слова приводит ИС «Вести». «Меня, знаете, что поразило? Виктория Боня из Монако, она там…

% дней назад

Сайт «Уральских авиалиний» выдал пассажирам чужие личные данные

Сайт авиакомпании «Уральские авиалинии» обвинили в выдаче чужих персональных данных. Об этом пишет телеграм-канал «Осторожно, новости». Пользователи заявили, что при попытке купить авиабилеты увидели на сайте личные данные незнакомого человека.…

% дней назад

Дворцов рассказал ужасающие подробности о смерти певца Кунгурова

Знаменитый российский продюсер Сергей Дворцов предположил, что 40-летнего певца Евгения Кунгурова, который скончался 8 апреля 2024 года, могли довести до самоубийства. Об этом он сообщил в беседе с Общественной службой…

% дней назад

Зюганов предупредил о возможной революции в России ближайшей осенью

Лидер КПРФ Геннадий Зюганов заявил, что Россия может столкнуться с ситуацией, подобной революции 1917 года, если власти срочно не примут меры по стабилизации экономики. Поводом для резонансного выступления стало обращение…

% дней назад

FT: 34 танкера, связанных с Ираном, проскочили мимо блокады США

По меньшей мере 34 танкера, связанных с Ираном, проскользнули мимо блокады США в Ормузском проливе. Об этом пишет Financial Times, ссылаясь на онлайн-трекер. Некоторые из танкеров перевозили сырую нефть. Иранские…

% дней назад