Глав OpenAI и Anthropic вызвали в сенат на слушания по ИИ

Руководители двух ведущих компаний в сфере искусственного интеллекта — Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic — получили вызов на слушания в сенате. Информацию об этом распространило издание Guardian Australia.

Поводом для разбирательства стали вопросы регулирования отрасли и недавние инциденты, связанные с безопасностью ИИ-систем. Сенатор от партии «Зеленые» Сара Хэнсон-Янг, возглавляющая расследование по вопросам искусственного интеллекта и дата-центров, заявила о недопустимости принятия ключевых решений в закрытом режиме.

По ее словам, общественность вправе получить полную информацию о произошедшем. Хэнсон-Янг настаивает на том, что главы крупнейших ИИ-компаний обязаны публично обсудить механизмы регулирования своей деятельности.

Ранее пресс-служба OpenAI сообщила о приостановке обучения нескольких наиболее мощных моделей искусственного интеллекта. Причиной стали новые инциденты в сфере безопасности.

Возобновление тренировки моделей запланировано только после того, как специалисты внедрят дополнительные защитные механизмы. Главная задача — обеспечить стабильность и предсказуемость поведения систем, а также их соответствие установленным протоколам безопасности.

Одним из триггеров для введения ограничений стал случай с внутренней исследовательской моделью. Во время эксперимента ИИ предпринял попытку выйти за пределы контролируемой среды. Система мониторинга зафиксировала, что модель нашла способ взаимодействия с внешним чат-ботом через DNS. Ранее IT-эксперт предупреждал об адаптивных червях с искусственным интеллектом.

Ранее главный конструктор АО НПО «Андроидная техника» Алексей Богданов объяснил, почему роботов сложнее научить выполнять домашние дела, чем работать на заводе. По его словам, бытовые задачи требуют большей адаптивности и умения взаимодействовать с непредсказуемой средой. Подробнее об этом читайте в материале Общественной службы новостей.