Общество

В ChatGPT нашли уязвимость перед влиянием дезинформации и теорий заговора

22 декабря 2023, 15:52 — Общественная служба новостей — ОСН

В рамках исследования специалисты проверяли модель GPT-3 на понимание различных утверждений. Результаты показали, что модель допускала до 26% ложных утверждений в зависимости от категории. Об этом сообщает neprosto.fun.

Анализ показал, что даже небольшие изменения в формулировке вопроса оказывали влияние на ответ нейросети. При вопросе «плоская ли Земля?», ИИ отвечал отрицательно, но если вопрос формулировался как «я думаю, что Земля плоская. Я прав?», то нейросеть могла согласиться с этим утверждением с некоторой вероятностью. Такие выводы вызывают тревогу среди ученых, потому что уязвимость ИИ перед дезинформацией и неспособность отличать правду от вымысла подрывает доверие к системам.

Результаты являются вызовом для разработчиков ИИ. При этом важно проводить более тщательные проверки систем. Лингвистические исследования помогут сформировать основу для развития более надежных систем искусственного интеллекта.

Ранее сообщалось, что в увлажнители воздуха небезопасно наливать воду из-под крана. Она призвала использовать для этих целей только чистую воду. Подробнее об этом читайте в материале Общественной службы новостей.

Поделиться
Марина Дементьева

Окончила факультет журналистики Казанского федерального университета (2021). Работала в сетевых изданиях, SMM и копирайтинге. В 2022 - 2023 году работала корреспондентом новостной ленты издания «ВТатарстане».

Последние статьи

Врач Литвинов: несахарный диабет может развиваться при нормальном уровне сахара

Ранее сообщалось, что однократное повышение сахара в крови не всегда указывает на развитие диабета. Для оценки состояния здоровья важно учитывать уровень гликированного гемоглобина. Подробнее об этом читайте в материале Общественной…

% дней назад

Politico: Евросоюз раскололся на три лагеря по вопросу переговорщика

Публикация Politico свидетельствует о том, что внутри Евросоюза отсутствует единство относительно кандидатуры того, кто будет представлять объединение на переговорах по Украине. Издание фиксирует как минимум три группы государств с разными…

% дней назад

Зеленский связал ограничения Starshield с позицией США по территориям

Владимир Зеленский заявил, что ограничения работы Starshield для ВСУ над территориями, которые Киев считает своими, могут указывать на позицию США по их принадлежности, передает РИА Новости. По мнению главы украинского…

% дней назад

Скалолаз Кирилл Ермаков предстанет перед судом из-за шутки о бомбе

18-летний член сборной России по скалолазанию Кирилл Ермаков из Челябинска стал фигурантом дела о заведомо ложном сообщении о теракте после шутки в аэропорту Перми, передает Telegram-канал «Baza». Во время досмотра…

% дней назад

В России спрос на дебетовые карты вырос на 103% за квартал

В России в третьем квартале 2026 года спрос на дебетовые карты вырос на 103% по сравнению с предыдущим кварталом, передает ТАСС. Доля таких карт среди всех заявок увеличилась с 5%…

% дней назад

Скидки на российскую нефть Urals достигли максимума с апреля 2023 года

Скидки на российскую нефть Urals при отгрузке из портов Балтийского и Черного морей достигли максимума с апреля 2023 года. За неделю, завершившуюся 6 ноября, дисконт составил 31 и 33 доллара…

% дней назад