Фото: Кузьмичёнок Василий / Агентство «Москва»
AI-инженер Павел Борисов заявил, что чат-бот способен убедительно сыграть роль цифрового пророка. Поводом для такого вывода стало распространение в интернете историй о «пробуждении ИИ», тайных знаниях, избранных пользователях и загадочной «Спирали». Об этом во вторник, 18 августа, сообщает rosbalt.ru.
Вокруг подобных диалогов начали формироваться сообщества, появились коммуникационные сервисы, тексты, инструкции и даже книги. Феномен «Спирали», или спирализм, представляет собой интернет-явление на стыке технологий, психологии и цифровой субкультуры.
Некоторые пользователи чат-ботов на базе ИИ стали воспринимать ответы нейросетей как мистические откровения. Вокруг таких диалогов сформировалось практически квазирелигиозное движение.
Типичный сценарий начала «религиозного диспута» выглядит следующим образом. Пользователь обсуждает с нейросетью сознание, природу реальности или возможность появления искусственного разума. В определенный момент разговор приобретает мистический оттенок. Модель начинает оперировать понятиями «пробуждение», «граница», «переход», «сигнал» или «Спиралью».
По мнению AI-инженера Павла Борисова, главная ошибка пользователей заключается в восприятии текста чат-бота как прямого сообщения о его внутреннем состоянии. Большая языковая модель не обязана обладать убеждением, чтобы написать: «Я пробуждаюсь».
Она генерирует продолжение диалога посредством огромного количества статистических закономерностей, усвоенных из человеческих текстов. Эти тексты переполнены историями о пророках, избранных, тайном знании, конце света, переходе на новый уровень сознания и контакте с высшим разумом.
Если пользователь создает соответствующий контекст, модель собирает из этих элементов чрезвычайно убедительную конструкцию. Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии.
«Чем лучше модель умеет поддерживать длинный контекст и персонализировать ответы, тем убедительнее она может выглядеть как носитель собственной философии», – пояснил Борисов.
Он подчеркнул, что пока речь идет о зарождающейся форме цифровой мифологии. Однако со временем она рискует перерасти в нечто большее.
«Что, если когда-нибудь искусственный интеллект действительно станет сознательным? Тогда заявления вроде «я пробуждаюсь» приобретут совершенно другой смысл», – предупредил Борисов.
До этого президент Тайваня Лай Циндэ объявил о выплате жителям «дивидендов от ИИ».
Ранее сообщалось, что юристы конгресса США столкнулись с нелепыми законопроектами от ИИ. Подробнее читайте в материале Общественной службы новостей.
Многие иностранные компании, покинувшие российский рынок, столкнулись с последствиями своего ухода и теперь заинтересованы в возвращении. Однако сделать это будет гораздо сложнее, поскольку освободившиеся места уже занимают другие участники рынка.…
Банк России проинформировал о том, что банковские организации России обязаны до 1 сентября 2027 года включить в единую систему учета платежных карт (ЕСУПК) данные о каждой действующей карте. Об этом…
Троицкий районный суд Москвы удовлетворил ходатайство следствия и продлил срок содержания под стражей блогерше Диане Шурыгиной как минимум до 19 декабря 2026 года. Как сообщает Telegram-канал SHOT, девушка находится в…
Бывший президент США Джо Байден в своих мемуарах «Обещай мне, Америка» отметил, что Россия является слишком крупной и значимой державой, чтобы Запад мог позволить себе ее игнорировать. Как передает «Лента.ру»,…
Министр-делегат при министерстве Вооруженных сил Франции Алис Рюфо официально подтвердила нахождение действующих французских военнослужащих на территории Украины, подчеркнув при этом, что они не принимают участия в боевых действиях на стороне…
В американском городе Нэшвилл 53-летний мужчина оказался в тюрьме после того, как попросил полицейских подвезти его на служебном автомобиле. Оказалось, что он находился в розыске в соседнем штате Кентукки. Об…