Киберэксперт Бедеров: человеку нужна возможность вмешаться в работу ИИ

Не стоит забывать о том, что прогнозы о возможном исчезновении человечества из-за развития искусственного интеллекта в ближайшие десять лет представляют собой вероятностные оценки, а не научно установленный сценарий будущего.

Такой точкой зрения в среду поделился киберэксперт Игорь Бедеров, прокомментировав заявление IT-эксперта из Соединённых Штатов Америки Нейта Соареса, допустившего, что человечество может вымереть вследствие развития ИИ менее чем через десять лет.

Интернет-издание RT привело его слова о том, что подобные предположения отражают одну из наиболее радикальных позиций в профессиональном сообществе. При этом среди специалистов существуют и совершенно другие оценки вероятности такого развития событий.

Вместе с тем эксперт подчеркнул, что возможность утраты контроля над искусственным интеллектом, значительно превосходящим человека по интеллектуальным способностям, действительно рассматривается исследователями как потенциальная угроза.

Большинство серьезных специалистов, по его оценке, признают, что подобный риск нельзя считать нулевым, а потому полностью игнорировать его было бы неправильно.

Бедеров объяснил, что опасения Соареса и его единомышленников связаны с возможным появлением сверхинтеллектуальных систем, способных самостоятельно принимать сложные решения, планировать действия и совершенствовать собственные возможности.

Если такая система сформирует цели, не соответствующие интересам человечества, она теоретически сможет обходить ограничения, предусмотренные разработчиками, и создавать инфраструктуру, работающую без участия людей.

В подобном сценарии исчезновение человечества рассматривается не как результат вооруженного противостояния людей и машин, знакомого по фантастическим фильмам.

Речь идет о потенциальной ситуации, при которой сверхинтеллект начнет преобразовывать окружающую среду для решения собственных задач, вследствие чего условия существования могут стать непригодными для человека.

При этом Бедеров подчеркнул, что подобные рассуждения представляют собой серьезную исследовательскую работу, направленную на изучение возможных рисков, но не являются предсказанием неизбежных событий.

По мнению специалиста, развитие искусственного интеллекта должно сопровождаться совершенствованием механизмов контроля и регулирования.

Чем выше потенциальная опасность конкретной системы и чем сложнее понять принципы принятия ею решений, тем строже должны быть требования к прозрачности ее работы, проверке безопасности и возможности вмешательства человека.

Однако киберэксперт считает, что меры регулирования не следует ограничивать исключительно гипотетическими угрозами со стороны сверхразумных систем.

Не менее важными остаются уже существующие риски, возникающие при использовании искусственного интеллекта в повседневной жизни и профессиональной деятельности.

В частности, Бедеров предупредил об опасности чрезмерного доверия алгоритмам при принятии решений в чувствительных сферах, где ошибки могут иметь серьезные последствия.

Кроме того, специалист обратил внимание на угрозу передачи персональных данных зарубежным ИИ-сервисам, а также на использование нейросетевых технологий для мошеннических схем и манипулирования людьми.

По его мнению, эффективное регулирование искусственного интеллекта должно одновременно учитывать как долгосрочные технологические угрозы, так и практические проблемы безопасности, существующие уже сегодня.

Напомним, семнадцатого августа в городе Тобольск начала работу выставка расписных матрешек, созданных в период с 1960-го по 1980-й год. Экспозиция объединила образцы как из различных частей Российской Федерации, так и из разнообразных зарубежных держав. Информацию о старте проекта распространили в департаменте культуры Тюменской области.

Ранее, в ночь с воскресенья на понедельник, руководитель сервиса Яндекс ID Ася Статьева в ходе беседы с РИА Новости обратилась к гражданам Российской Федерации с важным предупреждением о рисках, связанных с длительным неиспользованием сим-карт. Подробнее об этом читайте в материале Общественной службы новостей.