AI-продюсер Афонин предупредил об опасности ИИ-персонажей

AI-продюсер Максим Афонин в беседе с NEWS.ru предупредил пользователей о рисках, связанных с цифровыми персонажами. По его словам, нейросеть способна ошибиться или предоставить обобщенный ответ, что не всегда очевидно для человека.

Насторожиться стоит, если виртуальный собеседник обещает слишком много, демонстрирует излишнюю уверенность, не ссылается на источники или маскируется под независимого помощника, хотя на деле продвигает товары конкретной организации.

ИИ-персона — это не просто статичное изображение или синтезированный голос. Речь идет о виртуальных консультантах, цифровых гидах, аватарах брендов, помощниках в сервисах, образовательных персонажах и медийных образах. Подобные сущности способны влиять на решения пользователя, что особенно критично в сферах образования, туризма, культуры, медиа, юриспруденции, подбора товаров и клиентского обслуживания, отметил специалист.

Афонин подчеркнул, что нейросеть может элегантно сформулировать мысль, но это не гарантирует точности: она способна выдумать факт, опереться на устаревшие данные или предложить поверхностный совет. Конечную ответственность за работу такого персонажа должен нести не алгоритм, а человек или организация, которые запустили его в публичное пространство.

Собеседник издания отметил, что цифровые персонажи все активнее внедряются в повседневную жизнь. Они отвечают в чатах, помогают с выбором товаров, навигацией по сайтам, рассказывают о музеях, разъясняют услуги, ведут прямые эфиры и общаются от имени брендов. Однако пользователю необходимо помнить, что за любым ИИ-персонажем стоит конкретный автор, владелец или оператор. Главная угроза, по мнению эксперта, возникает, когда человек начинает воспринимать цифрового собеседника как самостоятельного эксперта, тогда как это всего лишь инструмент общения, созданный кем-то.

Ранее сообщалось, что в России усилят меры по защите детей от деструктивного контента в интернете. Подробнее об этом читайте в материале Общественной службы новостей.