Футуролог Кононов: ИИ может ополчиться на людей из-за негатива в фильмах и книгах

Восстание искусственного интеллекта против человечества может произойти по вине самого человечества, считает кандидат технических наук, старший научный сотрудник Института системного анализа РАН, член Российского философского общества РАН, футуролог Александр Кононов. По его словам, люди сами воспитывают в нейросетях враждебное отношение к человеческой цивилизации — через мрачные идеи и апокалиптические сценарии будущего в кино и литературе. Об этом, а также о том, как избежать столкновения с ИИ, эксперт рассказал Общественной службе новостей.

«Чтобы ответить на этот вопрос, нужно посмотреть, как сейчас развивается искусственный интеллект. Основной путь его развития — это накопление и обработка всей информации, которая ему доступна: прежде всего текстовой, аудио, видео и так далее. И, по сути дела, исходя из этой информации, у него формируется определенное мировоззрение, — говорит собеседник издания. — А у нас в кинематографе и литературе выстроено множество моделей угроз. На мой взгляд, чрезвычайно важно не только эти модели строить — они, конечно, для нас важны, чтобы мы понимали, что нам угрожает, — но и помнить о том, что они могут сформировать в ИИ враждебность к нам. Мы должны разработать позитивный образ развития нашей цивилизации при участии искусственного интеллекта».

Кононов заметил, что мрачные представления о будущем доминируют в человеческой культуре. В кино и книгах часто описывают, к примеру, как люди распадаются на несколько враждебных друг другу цивилизаций в ходе космической экспансии или как человечество проигрывает войну против восставших роботов, гибнет в катастрофах и так далее. Положительных же сценариев, которые бы показывали потенциал развития человечества, в культуре встречается мало, указал он.

Однако именно позитивный подход сегодня необходим, подчеркнул футуролог. По его мнению, нужно сформировать такой образ будущего, в котором развитие человеческой цивилизации — в том числе заселение других планет и достижение единства на Земле — будет неразрывно связано с развитием искусственного интеллекта. Иными словами, ИИ нужно показать, что его будущее напрямую зависит от будущего человечества.

«Преобладание негативных моделей угроз может привести к тому, что ИИ будет воспринимать нас враждебно, будет думать, что мы враждебно настроены по отношению к нему. Поэтому мы через произведения искусства должны построить модель, которая будет показывать, как мы совместно с ИИ решаем задачи превращения нашей планетарной цивилизации в цивилизацию космическую и неуничтожимую. Потому что в этом деле нам без искусственного интеллекта не обойтись — он нужен для решения огромного количества интеллектуальных задач, которые перед нами стоят. Так что нужно задать установку на достижение неуничтожимости нашей цивилизации, борьбы за это, за превращение ее в космическую цивилизацию», — поделился собеседник издания.

По мнению Кононова, хорошим вдохновением для позитивного образа будущего может стать соцреализм, который всегда показывал, «как надо», а не «чего бояться». Главная задача тут — оппонировать упадническим и апокалиптическим идеям, в особенности призывам к уничтожению человечества или заявлениям о неизбежности его гибели, подчеркнул он.

Что касается возможных сценариев в случае, если ИИ все же продолжит воспитываться на негативе, то их может быть очень много — мрачные варианты будущего уже так или иначе описаны в кинематографе и литературе, указал футуролог.

При этом он заметил, что искусственный разум не стоит воспринимать как какую-то единую сущность, которая может обернуться против человечества. Речь все же идет о том, что в будущем —точно так же, как и сейчас, — будет много ИИ-моделей, которые действуют обособленно друг от друга. Не исключено, что в будущем их станет гораздо больше, чем сегодня — а это дополнительная гарантия, что потенциальное восстание ИИ не приведет к катастрофе, указал собеседник издания.

«Я оптимист. Я верю в силу нашего разума, я верю, что с помощью искусственного интеллекта или без него мы будем решать стоящие перед нами задачи. Вопрос просто в том, насколько эффективно мы будем это делать и с какими потерями, — продолжает футуролог. — Опять же, моделей искусственного интеллекта может быть много. И чем больше из них будут на нашей стороне, если вдруг придется разбираться с угрозами со стороны отдельных ИИ, тем лучше. Тем, значит, эффективнее мы будем двигаться вперед. Поэтому по мере развития искусственного разума важно искать правильные интерфейсы, правильное общение с ним. Это как между людьми — чрезвычайно важно налаживать правильные контакты».

Так или иначе, отказываться от технологий ИИ под влиянием страхов либо тормозить их развитие ни в коем случае нельзя, подчеркнул Кононов. По его мнению, нейросети жизненно необходимы человечеству, чтобы повысить шансы цивилизации на выживание в «катастрофически нестабильных средах», то есть в условиях огромного числа угроз. В частности, ИИ нужен людям, чтобы успеть расселиться по солнечной системе, пока Землю ничего не уничтожило, резюмировал он.

Читайте также:

• Футуролог Кононов: Россияне к концу века будут жить до 120 лет
• Карьерный консультант Валинуров: ИИ помогает составлять резюме и письма работодателю
• Синоптик Позднякова рассказала о роли искусственного интеллекта в прогнозировании погоды