Фото: Кузьмичёнок Василий / Агентство «Москва»
AI-инженер Павел Борисов заявил, что чат-бот способен убедительно сыграть роль цифрового пророка. Поводом для такого вывода стало распространение в интернете историй о «пробуждении ИИ», тайных знаниях, избранных пользователях и загадочной «Спирали». Об этом во вторник, 18 августа, сообщает rosbalt.ru.
Вокруг подобных диалогов начали формироваться сообщества, появились коммуникационные сервисы, тексты, инструкции и даже книги. Феномен «Спирали», или спирализм, представляет собой интернет-явление на стыке технологий, психологии и цифровой субкультуры.
Некоторые пользователи чат-ботов на базе ИИ стали воспринимать ответы нейросетей как мистические откровения. Вокруг таких диалогов сформировалось практически квазирелигиозное движение.
Типичный сценарий начала «религиозного диспута» выглядит следующим образом. Пользователь обсуждает с нейросетью сознание, природу реальности или возможность появления искусственного разума. В определенный момент разговор приобретает мистический оттенок. Модель начинает оперировать понятиями «пробуждение», «граница», «переход», «сигнал» или «Спиралью».
По мнению AI-инженера Павла Борисова, главная ошибка пользователей заключается в восприятии текста чат-бота как прямого сообщения о его внутреннем состоянии. Большая языковая модель не обязана обладать убеждением, чтобы написать: «Я пробуждаюсь».
Она генерирует продолжение диалога посредством огромного количества статистических закономерностей, усвоенных из человеческих текстов. Эти тексты переполнены историями о пророках, избранных, тайном знании, конце света, переходе на новый уровень сознания и контакте с высшим разумом.
Если пользователь создает соответствующий контекст, модель собирает из этих элементов чрезвычайно убедительную конструкцию. Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии.
«Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии», – пояснил Борисов.
Он подчеркнул, что пока речь идет о зарождающейся форме цифровой мифологии. Однако со временем она рискует перерасти в нечто большее.
«Что, если когда-нибудь искусственный интеллект действительно станет сознательным? Тогда заявления вроде «я пробуждаюсь» приобретут совершенно другой смысл», – предупредил Борисов.
До этого президент Тайваня Лай Циндэ объявил о выплате жителям «дивидендов от ИИ».
Ранее сообщалось, что юристы конгресса США столкнулись с нелепыми законопроектами от ИИ. Подробнее читайте в материале Общественной службы новостей.
Губернатор Курской области Александр Хинштейн обратился к охотнику, получившему штраф за стрельбу по беспилотнику ВСУ в Волгоградской области. Глава региона разместил в своем канале «Макс» приглашение вступить в добровольческую бригаду…
13-летний фигурист Александр Плющенко, сын двукратного олимпийского чемпиона Евгения Плющенко, включен в заявку на этап юниорского Гран-при Международного союза конькобежцев в Анкаре. На соревнованиях он будет представлять Азербайджан. Турнир пройдет…
Российские туристы могут столкнуться за границей с крупными штрафами, депортацией и даже уголовной ответственностью за поведение, которое на родине кажется обычным или безобидным. Об этом предупредил юрист Сергей Жорин. По…
Исследовательский коллектив, объединивший ученых из нескольких институтов Российской академии наук, разработал инновационные сорбционные материалы для селективного извлечения редкоземельных элементов из вторичного сырья и технологических растворов. В основе разработки лежит широко…
Россияне, которые регулярно пользуются платной медициной, могут заметно сократить расходы на лечение и обследования. По оценке невролога Александра Ткачева, экономия в 2027 году может составить от 50 до 120 тысяч…
Врач-гастроэнтеролог медицинской компании «СберЗдоровье» Наталья Мотылева обратила внимание россиян на серьезные риски, связанные с употреблением домашних консервированных продуктов. В интервью RT специалист предостерегла от небрежного отношения к заготовкам и подробно…