Лещенко: существует механизм по контролю развития искусственного интеллекта

В понедельник вечером оказалось известно, что развитие искусственного интеллекта возможно и нужно регулировать, однако контроль должен затрагивать не только сами нейросетевые модели, но и массивы данных, к которым у них есть доступ.

О подобных проблемах информирует интернет-издание RT, ссылаясь на эксперта по кибербезопасности Владимира Лещенко. По его мнению, любые подобные системы должны проходить обязательную сертификацию и проверку на соответствие федеральным и отраслевым нормативам еще до момента запуска.

В сегодняшнем выступлении собеседник журналистов подчеркнул, что подход к регулированию должен быть дифференцированным. Требования к обычному помощнику, составляющему черновики писем или презентации, не могут быть такими же, как к системам, которые отбирают кандидатов на работу, одобряют кредиты, ассистируют врачам или управляют сложным оборудованием.

В публикации внимание обращается на то, что, главный принцип, по словам Лещенко, прост: чем выше цена потенциальной ошибки, тем больше требуется человеческого участия и возможность в любой момент нажать кнопку «Стоп».

Отдельно эксперт остановился на мотивации крупных корпораций. Сейчас технологические гиганты находятся в жесткой гонке за рынок, инвестиции, вычислительные мощности и лучшие кадры. Из представленных данных следует, что в такой конкурентной логике вопросы безопасности нередко воспринимаются как фактор, тормозящий выпуск новых релизов.

Говоря о международном опыте, Лещенко выразил сомнение в появлении единого мирового закона об ИИ. Вместо этого он предложил договариваться по конкретным болевым точкам.

В их число входят нформационная безопасность, защита критической инфраструктуры, борьба с дипфейками, а также применение технологий в медицине и образовании. Критически важно ограничить передачу машинам права принимать решения, от которых зависит человеческая жизнь.

При этом опасаться «немедленного восстания машин» не стоит, поскольку современные модели лишены сознания, собственной воли и самостоятельных целей. Однако расслабляться рано: ИИ уже научился убедительно ошибаться, генерировать фальшивые фото, видео и голоса, а также помогать мошенникам масштабировать кибератаки и дезинформацию.

Главную угрозу эксперт видит не в мифическом сверхразуме, а в конкретных людях и организациях, которые используют мощные инструменты без критической проверки. Особую опасность такая халатность представляет в случаях, когда нейросеть получает доступ к финансам, персональным данным или системам управления энергетикой, транспортом и производством.

Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.

Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.