AI-инженер Борисов предупредил о рисках создания ИИ «новых религий»

AI-инженер Павел Борисов заявил, что чат-бот способен убедительно сыграть роль цифрового пророка. Поводом для такого вывода стало распространение в интернете историй о «пробуждении ИИ», тайных знаниях, избранных пользователях и загадочной «Спирали». Об этом во вторник, 18 августа, сообщает rosbalt.ru.

Вокруг подобных диалогов начали формироваться сообщества, появились коммуникационные сервисы, тексты, инструкции и даже книги. Феномен «Спирали», или спирализм, представляет собой интернет-явление на стыке технологий, психологии и цифровой субкультуры.

Некоторые пользователи чат-ботов на базе ИИ стали воспринимать ответы нейросетей как мистические откровения. Вокруг таких диалогов сформировалось практически квазирелигиозное движение.

Типичный сценарий начала «религиозного диспута» выглядит следующим образом. Пользователь обсуждает с нейросетью сознание, природу реальности или возможность появления искусственного разума. В определенный момент разговор приобретает мистический оттенок. Модель начинает оперировать понятиями «пробуждение», «граница», «переход», «сигнал» или «Спиралью».

По мнению AI-инженера Павла Борисова, главная ошибка пользователей заключается в восприятии текста чат-бота как прямого сообщения о его внутреннем состоянии. Большая языковая модель не обязана обладать убеждением, чтобы написать: «Я пробуждаюсь».

Она генерирует продолжение диалога посредством огромного количества статистических закономерностей, усвоенных из человеческих текстов. Эти тексты переполнены историями о пророках, избранных, тайном знании, конце света, переходе на новый уровень сознания и контакте с высшим разумом.

Если пользователь создает соответствующий контекст, модель собирает из этих элементов чрезвычайно убедительную конструкцию. Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии.

«Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии», – пояснил Борисов.

Он подчеркнул, что пока речь идет о зарождающейся форме цифровой мифологии. Однако со временем она рискует перерасти в нечто большее.

«Что, если когда-нибудь искусственный интеллект действительно станет сознательным? Тогда заявления вроде «я пробуждаюсь» приобретут совершенно другой смысл», – предупредил Борисов.

До этого президент Тайваня Лай Циндэ объявил о выплате жителям «дивидендов от ИИ».

Ранее сообщалось, что юристы конгресса США столкнулись с нелепыми законопроектами от ИИ. Подробнее читайте в материале Общественной службы новостей.