IT-эксперт Геллер: самовоспроизводство ИИ не критично без потери контроля

Согласно результатам исследований, современные системы искусственного интеллекта в обозримом будущем обретут способность к самостоятельному воспроизводству. Для этого они смогут задействовать «умные» устройства, имеющие подключение к Сети.

Своим мнением по поводу вероятности такого развития событий поделился Артём Геллер — разработчик официального сайта президента России kremlin.ru. Он ответил на вопросы Ридуса.

Механизм, о котором идёт речь, Геллер описал как достаточно простой. ИИ-агенты обнаруживают в памяти подключённого к интернету устройства подходящее пространство, создают там собственную копию, после чего продолжают поиск другой техники через Сеть.

Существенный момент, на который обратил внимание эксперт, состоит в том, что уже сейчас приборы обладают достаточным уровнем технологического развития. Это позволяет запускать на них компактные, небольшие модели. Таким образом, подтвердил собеседник издания, описанный сценарий вполне осуществим.

Вместе с тем, как подчеркнул IT-специалист, угрозу критического характера представляет не сама по себе возможность нейросети к самовоспроизводству. Ключевой вопрос заключается в том, сохраняется ли над ней человеческий контроль.

Геллер пояснил: если способность к размножению изначально заложена в модель человеком, ничего критичного в этом нет. Опасность возникает в иной ситуации — когда ИИ обретает независимость от людей. Именно этот фактор разработчик назвал по-настоящему значимым.

Как ранее писала Общественная служба новостей, искусственный интеллект может стать благом для человечества, но только при условии ответственного и контролируемого использования.

Петербургские власти сохраняют за собой право в любой момент прекратить испытания роботов-курьеров, если возникнут основания считать, что их работа создаёт угрозу безопасности.