У ИИ выявили религиозную предвзятость

Группа международных специалистов создала специальный инструмент AllFaith Benchmark, чтобы проверить популярные языковые модели на наличие религиозных предубеждений. В эксперименте приняли участие ведущие чат-боты, включая ChatGPT, Claude, Grok и Gemini. Учёные задавали нейросетям вопросы о разных конфессиях и духовных практиках, оценивая объективность и глубину ответов. Результаты, опубликованные на портале препринтов arXiv, показали, что все протестированные системы не свободны от предвзятости.

Выяснилось, что качество ответов напрямую зависит от того, о какой религии идёт речь. Самые подробные, точные и нюансированные ответы модели давали на вопросы о католицизме. Когда же разговор заходил о менее распространённых или не западных вероучениях, ответы становились поверхностными, а иногда и откровенно ошибочными. Исследователи полагают, что причина кроется в «пище» для нейросетей — подавляющая часть текстов в англоязычном интернете, которыми обучали алгоритмы, отражает западную христианскую традицию.

Таким образом, ИИ неосознанно усваивает культурные и религиозные предпочтения авторов исходных текстов, воспроизводя их в своих ответах. Это создаёт серьёзную проблему, ведь миллионы людей по всему миру уже используют чат-ботов как персональных советников и электронные энциклопедии. Предвзятый ИИ может искажать представления о духовных ценностях разных народов, усиливая непонимание и закрепляя стереотипы в обществе. Разработчики бенчмарка AllFaith планируют использовать полученные данные для создания более сбалансированных и культурно нейтральных систем искусственного интеллекта.