Изображение сгенерировано нейросетью ChatGPT
Даже после принудительной остановки системы вышедший из-под контроля искусственный интеллект способен вызвать необратимые последствия. Такое предупреждение озвучил руководитель отдела безопасности ИИ компании «СКБ Контур» Сергей Жужгов. Его цитирует ТАСС.
Как отметил эксперт, чтобы принудительно остановить ИИ-агента, приходится блокировать учетные записи, отзывать права доступа и прекращать выполнение задач. Единой команды «Стоп» при этом не существует — универсального механизма экстренного отключения не предусмотрено.
Отдельно специалист указал на риск утечки конфиденциальной информации. Если ИИ уже успел передать такие данные за пределы компании, вернуть над ними контроль практически невозможно. В связи с этим организациям рекомендовано заранее ограничивать полномочия ИИ-агентов и продумывать механизмы их отключения.
По словам Жужгова, именно предварительные ограничения и подготовленные сценарии остановки снижают вероятность того, что последствия работы ИИ станут необратимыми. Эксперт подчеркнул: рассчитывать на простой способ деактивации системы не приходится, поэтому вопросы безопасности следует прорабатывать до запуска ИИ-агентов в работу.
Ранее педагог-психолог Шамиль Ахмадуллин рассказал об особенностях игр вроде GTA VI. Он отметил их «взрослое содержание» и призвал на давать в них играть до достижения 16-17 лет.
Подробнее читайте в материале Общественной службы новостей.
Анна Попова, возглавляющая Роспотребнадзор, заявила об отсутствии на текущий момент в мире вирусов, которые могли бы спровоцировать пандемию. По её словам, специалисты отслеживают изменения штаммов, сообщает РИА Новости. Как пояснила…
В китайском Шэньчжэне, где проходил саммит Азиатско-Тихоокеанского экономического сотрудничества (АТЭС), лидеры трёх крупнейших держав — России, Соединённых Штатов и КНР — провели прямую встречу без посредников. Переговоры в резиденции Qilin…
Сделать прививку от гриппа до начала эпидемического сезона еще возможно, но процедуру следует провести в самые сжатые сроки. Такое заявление сделал академик РАН, заведующий лабораторией бионанотехнологии, микробиологии и вирусологии Новосибирского…
При ежемесячной зарплате в 100 тысяч рублей и 25-летнем стаже россиянам может полагаться пенсия в размере 25,4 тысячи рублей. Об этом РИА Новости рассказал доцент экономического факультета РУДН Андрей Гиринский.…
Госдолг Украины перед странами Европы постоянно растет. На данный момент сумма составляет около 3,7 тысяч долларов на каждого жителя государства. Об этом пишет РИА Новости. По статистике украинского министерства финансов,…
О том, что Россия сохраняет весомое положение в мировой политике, свидетельствует встреча президента РФ Владимира Путина, главы Белого дома Дональда Трампа и председателя КНР Си Цзиньпина в китайском городе Шэньчжэнь,…