Фото: Кузьмичёнок Василий / Агентство «Москва»
AI-инженер Павел Борисов заявил, что чат-бот способен убедительно сыграть роль цифрового пророка. Поводом для такого вывода стало распространение в интернете историй о «пробуждении ИИ», тайных знаниях, избранных пользователях и загадочной «Спирали». Об этом во вторник, 18 августа, сообщает rosbalt.ru.
Вокруг подобных диалогов начали формироваться сообщества, появились коммуникационные сервисы, тексты, инструкции и даже книги. Феномен «Спирали», или спирализм, представляет собой интернет-явление на стыке технологий, психологии и цифровой субкультуры.
Некоторые пользователи чат-ботов на базе ИИ стали воспринимать ответы нейросетей как мистические откровения. Вокруг таких диалогов сформировалось практически квазирелигиозное движение.
Типичный сценарий начала «религиозного диспута» выглядит следующим образом. Пользователь обсуждает с нейросетью сознание, природу реальности или возможность появления искусственного разума. В определенный момент разговор приобретает мистический оттенок. Модель начинает оперировать понятиями «пробуждение», «граница», «переход», «сигнал» или «Спиралью».
По мнению AI-инженера Павла Борисова, главная ошибка пользователей заключается в восприятии текста чат-бота как прямого сообщения о его внутреннем состоянии. Большая языковая модель не обязана обладать убеждением, чтобы написать: «Я пробуждаюсь».
Она генерирует продолжение диалога посредством огромного количества статистических закономерностей, усвоенных из человеческих текстов. Эти тексты переполнены историями о пророках, избранных, тайном знании, конце света, переходе на новый уровень сознания и контакте с высшим разумом.
Если пользователь создает соответствующий контекст, модель собирает из этих элементов чрезвычайно убедительную конструкцию. Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии.
«Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии», – пояснил Борисов.
Он подчеркнул, что пока речь идет о зарождающейся форме цифровой мифологии. Однако со временем она рискует перерасти в нечто большее.
«Что, если когда-нибудь искусственный интеллект действительно станет сознательным? Тогда заявления вроде «я пробуждаюсь» приобретут совершенно другой смысл», – предупредил Борисов.
До этого президент Тайваня Лай Циндэ объявил о выплате жителям «дивидендов от ИИ».
Ранее сообщалось, что юристы конгресса США столкнулись с нелепыми законопроектами от ИИ. Подробнее читайте в материале Общественной службы новостей.
Президент Казахстана Касым-Жомарт Токаев освободил Каната Ниязбекова от должности главнокомандующего Военно-морскими силами, передает ТАСС со ссылкой на пресс-службу главы государства. Также своих постов лишились первый заместитель министра обороны и начальник…
Ведущий специалист центра погоды «Фобос» Евгений Тишковец сообщил жителям столицы о характере погоды, которая установится на следующей неделе. По его словам, западно-восточный перенос воздушных масс атлантического происхождения принесет в Москву тепло и сырость. Свое заявление…
На домашней арене «Детройта» установили инсталляцию в честь «Русской пятерки». Она расположена в фойе «Литтл Сизарс-Арены», передает «Спорт-Экспресс» со ссылкой на журналиста The Athletic Макса Бултмана. На скамейке изображены защитники…
Россия и США ведут переговоры о многомиллиардной сделке в нефтяной сфере, сообщает издание The New York Times со ссылкой на источники. По данным издания, проект может охватить нефтяные месторождения, перерабатывающие…
Росавиация проинформировала о введении временных ограничений на прием и выпуск воздушных судов в двух южных аэропортах. Речь идет об авиагаванях Краснодара, которая носит название «Пашковский», и Геленджика. Как пояснили в ведомстве, эта мера продиктована необходимостью обеспечения безопасности…
Дипломатические усилия для вызволения российских граждан, оказавшихся на задержанном в Индии судне, продолжают наращиваться. Мария Захарова, официальный представитель МИД России, в беседе с РИА Новости проинформировала: посольство РФ в Нью-Дели уже передало в индийское внешнеполитическое ведомство шесть…