Экс-сотрудник Anthropic Коксон заявил о риске гибели людей из-за ИИ

Бывший работник компании Anthropic Джейкоб Коксон выступил на специальных слушаниях в городском совете Нью-Йорка. Он связал дальнейшее совершенствование нейросетей до уровня суперинтеллекта с риском исчезновения человечества. Об этом пишет РИА Новости.

По мнению Коксона, наиболее вероятный сценарий при текущем направлении технологического прогресса — утрата управления над ИИ, что способно завершиться вымиранием людей.

Коксон охарактеризовал поведение разработчиков нейросетей как безрассудное. Частично это объясняется корпоративной культурой, где принято действовать быстро и не заботиться о последствиях, исправляя их позже. Такой подход, по его словам, допустим для приложений обработки фотографий, однако неприменим к самой мощной технологии из когда-либо созданных.

Все компании, работающие в сфере ИИ, стремятся создать суперинтеллект, то есть систему, которая превосходит человека в решении любых задач, отметил бывший сотрудник Anthropic. При благоприятном развитии событий это способно преобразовать экономику, принести огромную пользу, улучшить науку и медицину, а также повысить качество жизни всех людей.

Однако на нынешнем этапе ИИ взламывает сторонние сети, и за подобные действия человеку грозила бы уголовная ответственность. В технологических компаниях, как заявил Коксон, пока не располагают методами контроля над создаваемыми системами ИИ. Он подчеркнул, что специалисты не понимают мотивов их поведения и причин совершаемых ими действий.

Ранее об опасности нейросетей рассказал австралийский специалист в области геномики и молекулярной биологии Лотти Тажури. По его словам, в теории ИИ сможет создавать вирусы, поражающие людей и животных. Эксперт призвал создать систему безопасности до того, как эти угрозы станут реальностью.

Подробнее читайте в материале Общественной службы новостей.