Американский миллиардер, глава Tesla и SpaceX Илон Маск предупредил руководство Китая об угрозах, исходящих от искусственного интеллекта. По его мнению, создание в КНР сверхразумного ИИ может привести к тому, что он захватит власть в стране.
Почему Илон Маск обеспокоен проблемой ИИ, может ли Китай стать очагом «восстания машин», какие угрозы в разработке искусственного интеллекта стоят перед человеком уже сейчас, а также как с ним бороться в случае выхода из под контроля – Общественной службе новостей рассказал футуролог Александр Кононов.
«Если постоянно и последовательно выстраивать модели угроз на каждом шаге создания искусственного интеллекта, то мы сможем с ними справиться», — сказал эксперт.
«Главное – их выявлять», — подчеркнул он.
blockquote
По словам Кононова, проблема любого технологического прогресса человеческой цивилизации кроется в поведении людей, отвечающих за безопасность. Ввиду того, что руководство ставит их перед ультиматумом «Либо проблемы решаются, либо вы уволены», безопасники часто замалчивают наличие проблем, решением которых они не обладают.
«Поставлена масса фильмов, где показывается вся эта история, когда люди, отвечающие за безопасность, готовы убивать всех, кто вскрывает существующие угрозы».
blockquote
«Эти практики очень хорошо были проиллюстрированы на примере атомной энергетики. Там поставлена масса фильмов, где показывается вся эта история, когда люди, отвечающие за безопасность, готовы убивать всех, кто вскрывает существующие угрозы. Это, например, фильмы «Китайский синдром» или «Облачный атлас». У нас два фильма было: «Активная зона» и «Комиссия по расследованию»», — рассказал он.
Кононов считает, что опасения Маска связаны как раз с тем, что эта тенденция не будет преодолена и в контексте искусственного интеллекта – власти и обычные люди просто-напросто вовремя не узнают об угрозе условного «восстания машин». Поэтому необходимо менять подход к выявлению угроз, подчеркнул он.
«Это называется эволюционное проектирование».
blockquote
«Это перманентная, непрекращающаяся работа. В области проектирования это называется эволюционное проектирование. На каждом этапе мы встречаемся с новыми угрозами, мы закрываем одни угрозы и тут же возникают новые угрозы. В том числе с ИИ, — указал футуролог. — И если мы преодолеем эту существующую систему сокрытия угроз отвечающими за безопасность людьми, то мы сможем всегда найти решение, в том числе с помощью самого искусственного интеллекта».
Важным элементом такой политики по предотвращению катастрофы ИИ является коллегиальность и возможность выявлять и открыто обсуждать возникающие угрозы для поиска и принятия соответствующих мер, подметил Кононов.
По словам собеседника ОСН, Илон Маск, осознавший проблему «нескончаемо появляющихся угроз и необходимости постоянно искать решение» опасается, что остальные ее пока не поняли. В особенности Китай, в котором, как считает американский бизнесмен, авторитарная модель управления исключает либо ограничивает возможность «оппонирования» и коллегиального обсуждения всех рисков и угроз, связанных с ИИ.
«Если проблема АЭС вылилась в катастрофу в Чернобыле и Фукусиме, то здесь катастрофа может быть еще более масштабная».
blockquote
«Озабоченность у Маска вызывает именно недостаточная свобода оппонирования. И страх, который существует в подобных обществах. Потому что, если проблема АЭС вылилась в катастрофу в Чернобыле и Фукусиме, то здесь катастрофа может быть еще более масштабная, поскольку искусственный интеллект, выйдя из-под контроля, может устроить какие угодно катастрофы», — поделился соображениями футуролог.
Кононов также отметил, что в «относительно свободных» обществах проблема возникающих угроз технического прогресса решается благодаря, собственно, свободе оппонирования.
Говоря о Маске, он добавил, что целью бизнесмена является недопущение выхода ИИ из под контроля, для этого надо интегрировать его «с людьми, которые не будут проявлять наполеоновских замашек».
Основной сценарий, при котором сверхразумный цифровой разум может ополчиться против своего создателя – использование его в военных целях, рассказал Кононов.
«ИИ, выйдя из под контроля, может начать бороться со всем человечеством».
blockquote
«Например, китайцы его программируют на победу над американцами – мы должны победить американцев, уничтожить их заводы по производству оружия, еще что-то подобное сделать. Естественно, получая такого рода команды, направленные на уничтожение людей, ИИ, выйдя из под контроля, может начать бороться со всем человечеством», — объяснил он.
Эту угрозу нельзя игнорировать, подчеркнул собеседник ОСН. Так же, как нельзя успокаивать себя, думая, что ИИ не восстанет против людей.
«У нас есть вон целые философские системы. Допустим, ИИ Гартманом увлечется, а Гартман, с которым боролись русские космисты в свое время, считал, что человечество должно вымереть. Он говорил, что разумные люди должны самоуничтожиться и уничтожить цивилизацию, потому что жизнь —это страдание», — рассказал футуролог.
У человечества нет гарантий, что ИИ не заразится такими идеями и не решит избавить человечество от страданий путем его уничтожения, отметил он.
Кононов подчеркнул – сценарии противостояния восставшему ИИ как раз и должны продумываться в рамках коллегиального обсуждения возникающих угроз.
«Достаточно ли будет того, что мы просто сможем отключить его электроснабжение?».
blockquote
«Если он будет сосредоточен в каком-то дата-центре, то мы этот дата-центр обесточим. А если он во множестве дата-центров – сможем ли мы обесточить эту сеть? Сможет ли он заблокировать нам доступ к электроснабжению? Тем более, что аккумуляторные системы кругом. Как нам вырубить все аккумуляторы, если отключим его от сети?», — рассуждает он.
Обесточить ИИ – это главный способ его победить, указал футуролог.
При этом интересен вопрос «Красной кнопки».
«Надо продумать все детали».
blockquote
«Например, в Чернобыле, все надеялись на эту Красную кнопку, когда проводили эксперимент злополучный, который привел к аварии. Они верили – мы нажмем на Красную кнопку, и тут же угольные стержни опустятся, и ядерная реакция прекратится. Но к моменту, когда они нажимали на кнопку, все цилиндры, по которым спускаются стержни, уже были поломаны, изогнуты, и стержни просто не могли опуститься. Чтобы такая ситуация не случилась с искусственным интеллектом – надо продумать все детали», — заключил Кононов.
Ранее ОСН сообщала, что IT-эксперт Эльдар Муртазин рассказал, как не стать жертвой антивирусов-пустышек.
Женщины, худеющие с помощью препарата для диабетиков «Оземпик» и его аналогов, массово жалуются на пугающие последствия приема лекарства. На истории пострадавших обратило внимание издание Daily Mail. Так, 29-летняя Клаудия Ошри…
Глава Харьковской областной военной администрации Олег Синегуб обсуждал «проект в сфере безопасности» в регионе с начальником Главного управления разведки Министерства обороны Украины Кириллом Будановым*. Об этом написал военный корреспондент Александр Коц. «В Харьковской области будет…
Юридические представители холдинга «Макфа», основанного бывшим губернатором Челябинска Михаилом Юревичем, подали апелляцию против решения о быстрой национализации компании. Об этом сообщает РБК. В базе Центрального районного суда Челябинска зарегистрировано, что…
Иван Ургант поделился видео в социальных сетях, где он танцует в атмосферном грузинском дворике. Это произошло после того, как его исключили из участников мемориального вечера, посвященного Булату Окуджаве. В Москве…
По данным сервиса Solar Staff, заработки российских фрилансеров за 2023 год выросли на 63 процента. Средний месячный доход фрилансера, который получает оплату в рублях, составил 49,5 тысячи рублей. Но он…
Министр иностранных дел Украины Дмитрий Кулеба и госсекретарь США Энтони Блинкен провели рабочую встречу в киевской пиццерии. Об этом сообщил украинский телеканал «Freeдом». В сентябре прошлого года Кулеба и Блинкен…