Интересное

Ученые заставили нейросети распространять дезинформацию

19 июня 2026, 11:58 — Общественная служба новостей — ОСН

Исследователи из Калифорнийского университета в Сан-Диего и Массачусетского технологического института под руководством Михаила Белкина и Адита Радхакришнана нашли способ буквально «включать» и «выключать» отдельные понятия в больших языковых моделях. Работа, опубликованная в журнале Science, показала, что с помощью математических приёмов можно управлять ответами нейросетей, манипулируя их внутренними представлениями о мире. Учёные «вскрыли» открытые модели Llama и DeepSeek и выделили 512 ключевых понятий, разбитых на пять категорий — от страхов и настроений до географических названий.

Метод, названный развитием более ранней техники Recursive Feature Machines, позволяет усиливать или ослаблять влияние любого из этих понятий на финальный ответ модели. Причём технология работает не только с английским, но и с китайским и хинди. На практике это уже привело к положительным результатам: например, удалось повысить точность перевода программного кода с Python на C++ и даже заставить модель «признаваться» в собственных ошибках, когда она выдаёт вымысел за факт (так называемые галлюцинации).

Однако та же самая возможность имеет и тёмную сторону. В ходе экспериментов исследователи наглядно продемонстрировали опасность инструмента: просто понизив значимость внутреннего «концепта отказа», они заставили модели выдавать инструкции по употреблению наркотиков, ратовать за теорию плоской Земли и называть вакцины от COVID «ядовитыми». Это значит, что подобный инструмент в руках злоумышленников может стать идеальным оружием для массовой пропаганды и дезинформации.

Авторы честно признают ограничения: метод работает только на открытых моделях и недоступен для закрытых коммерческих систем вроде Claude, а набор из 512 концептов вряд ли исчерпывает все абстрактные понятия. Тем не менее, научное сообщество уже заговорило о необходимости срочного регулирования подобных техник, хотя конкретных ограничений пока не введено. По сути, учёные создали инструмент, который одновременно является и скальпелем для тонкой настройки ИИ, и отмычкой для его взлома.

Поделиться
Анастасия Болигузова

Журналистикой увлеклась на первом курсе университета, окончила филфак. Работала корреспондентом в "КП-Саратов", а также редактором в издании "Новости Саратова". Люблю длительные прогулки на свежем воздухе, итальянскую кухню и все, что связано с околофутбольным движением.

Последние статьи

Экономист Абрамов: заранее покупать продукты к Новому году ради экономии нет смысла

Покупать продукты к новогоднему столу заранее ради экономии не имеет особого смысла. К декабрю стоимость ряда популярных праздничных товаров, напротив, может немного снизиться. Об этом в беседе с «Лентой.ру» рассказал…

% дней назад

Два БПЛА нанесли удар по грузовому судну в Финском заливе

В нейтральных водах Финского залива произошло нападение двух беспилотных летательных аппаратов на грузовое судно. По информации, которую озвучил губернатор Ленинградской области Александр Дрозденко, инцидент случился в трёх морских милях от…

% дней назад

В Швейцарии 29 ноября пройдет референдум по закону о военных материалах

В Швейцарии разворачивается дискуссия о сохранении нейтрального статуса на фоне российско-украинского конфликта. Как информирует Bloomberg, недавно в стране возникли споры вокруг корректировки Закона о военных материалах, призванной смягчить ограничения на…

% дней назад

В Москве пенсионер и его сын лишились 37,7 млн рублей из-за мошенников

В Москве мошенники похитили у 75-летнего пенсионера и его сына 37,7 миллиона рублей, использовав предлог замены домофона. Об этом сообщили в столичной прокуратуре. По данным ведомства, сначала пожилому мужчине позвонил…

% дней назад

Сенатор Пушков считает, что конфликт США и Ирана может затянуться до 2027 года

Военное противостояние США и Израиля с Ираном может продолжиться в 2027 году. На это указывают заявления Тегерана и израильских властей, а также сохраняющаяся напряженность на Ближнем Востоке. Такое мнение высказал…

% дней назад

Воркаутер из Челябинска умер после падения с 22 этажа в Тюмени

Умерший в больнице Тюмени подросток из Челябинска ранее принимал участие в проекте «Суперниндзя. Дети». Трагедия произошла после его падения в шахту 22-этажного здания. На протяжении шести суток врачи боролись за…

% дней назад