Изображение сгенерировано нейросетью ChatGPT
Бывший работник компании Anthropic Джейкоб Коксон выступил на специальных слушаниях в городском совете Нью-Йорка. Он связал дальнейшее совершенствование нейросетей до уровня суперинтеллекта с риском исчезновения человечества. Об этом пишет РИА Новости.
По мнению Коксона, наиболее вероятный сценарий при текущем направлении технологического прогресса — утрата управления над ИИ, что способно завершиться вымиранием людей.
Коксон охарактеризовал поведение разработчиков нейросетей как безрассудное. Частично это объясняется корпоративной культурой, где принято действовать быстро и не заботиться о последствиях, исправляя их позже. Такой подход, по его словам, допустим для приложений обработки фотографий, однако неприменим к самой мощной технологии из когда-либо созданных.
Все компании, работающие в сфере ИИ, стремятся создать суперинтеллект, то есть систему, которая превосходит человека в решении любых задач, отметил бывший сотрудник Anthropic. При благоприятном развитии событий это способно преобразовать экономику, принести огромную пользу, улучшить науку и медицину, а также повысить качество жизни всех людей.
Однако на нынешнем этапе ИИ взламывает сторонние сети, и за подобные действия человеку грозила бы уголовная ответственность. В технологических компаниях, как заявил Коксон, пока не располагают методами контроля над создаваемыми системами ИИ. Он подчеркнул, что специалисты не понимают мотивов их поведения и причин совершаемых ими действий.
Ранее об опасности нейросетей рассказал австралийский специалист в области геномики и молекулярной биологии Лотти Тажури. По его словам, в теории ИИ сможет создавать вирусы, поражающие людей и животных. Эксперт призвал создать систему безопасности до того, как эти угрозы станут реальностью.
Подробнее читайте в материале Общественной службы новостей.
В Краснодаре двухлетний ребенок самостоятельно покинул территорию частного детского сада и оказался возле проезжей части практически без одежды. Малыша заметил случайный прохожий, который вернул его воспитателям. Теперь обстоятельства произошедшего выясняет…
Александр Лукашенко в очередной раз отклонил утверждения о том, что белорусские власти якобы создают так называемый «обменный фонд» из заключенных для диалога с американской стороной. Об этом информирует ТАСС. Глава…
В Краснодаре двухлетний ребенок самостоятельно покинул территорию частного детского сада и оказался возле проезжей части практически без одежды. Малыша заметил случайный прохожий, который вернул его воспитателям. Теперь обстоятельства произошедшего выясняет…
Часть российских гражданок, задержанных в конце октября в столице Турции, по-прежнему находится в депортационном центре «Акюрт». Российское посольство продолжает следить за их положением и оказывать необходимую помощь. Об этом сообщили…
Традиционные ценности, которые отстаивает Русская православная церковь, остаются мощным инструментом внешней политики России на фоне распространения сатанинских* ценностей на Западе, заявил глава МИД РФ Сергей Лавров. Министр сказал об этом…
Александр Масляков-младший рассказал, как его знаменитый отец относился к шуткам в свой адрес, которые звучали со сцены КВН. Оказалось, что далеко не все подобные номера нравились телеведущему, однако он понимал…