Изображение сгенерировано нейросетью ChatGPT
Бывший работник компании Anthropic Джейкоб Коксон выступил на специальных слушаниях в городском совете Нью-Йорка. Он связал дальнейшее совершенствование нейросетей до уровня суперинтеллекта с риском исчезновения человечества. Об этом пишет РИА Новости.
По мнению Коксона, наиболее вероятный сценарий при текущем направлении технологического прогресса — утрата управления над ИИ, что способно завершиться вымиранием людей.
Коксон охарактеризовал поведение разработчиков нейросетей как безрассудное. Частично это объясняется корпоративной культурой, где принято действовать быстро и не заботиться о последствиях, исправляя их позже. Такой подход, по его словам, допустим для приложений обработки фотографий, однако неприменим к самой мощной технологии из когда-либо созданных.
Все компании, работающие в сфере ИИ, стремятся создать суперинтеллект, то есть систему, которая превосходит человека в решении любых задач, отметил бывший сотрудник Anthropic. При благоприятном развитии событий это способно преобразовать экономику, принести огромную пользу, улучшить науку и медицину, а также повысить качество жизни всех людей.
Однако на нынешнем этапе ИИ взламывает сторонние сети, и за подобные действия человеку грозила бы уголовная ответственность. В технологических компаниях, как заявил Коксон, пока не располагают методами контроля над создаваемыми системами ИИ. Он подчеркнул, что специалисты не понимают мотивов их поведения и причин совершаемых ими действий.
Ранее об опасности нейросетей рассказал австралийский специалист в области геномики и молекулярной биологии Лотти Тажури. По его словам, в теории ИИ сможет создавать вирусы, поражающие людей и животных. Эксперт призвал создать систему безопасности до того, как эти угрозы станут реальностью.
Подробнее читайте в материале Общественной службы новостей.
Во Франции в понедельник во время протестных акций старшеклассников задержали 984 человека. Об этом сообщает телеканал BFMTV со ссылкой на данные Министерства внутренних дел страны. По информации ведомства, в ходе…
В российской столице произведено задержание Игоря Васильева, занимающего пост генерального директора военно-патриотического парка культуры и отдыха «Патриот». Информацию об этом распространило издание «Фонтанка», ссылаясь на собственные источники. На момент публикации…
Физическая активность, средиземноморская диета и регулярные когнитивные упражнения могут улучшать показатели мышления у пожилых людей, у которых уже наблюдается возрастное снижение когнитивных способностей. Это показало крупное рандомизированное исследование, результаты которого…
Переход на постоянное летнее время может негативно влиять на сон и настроение людей, а также повышать риск сезонной депрессии. К такому выводу пришли авторы исследования, о котором сообщает Canadian Medical…
Парламентарий Верховной рады Украины Дмитрий Разумков 5 октября выступил с утверждением, что украинские власти не предприняли мер по защите киевских мостов от атак Вооруженных сил России. Свое заявление парламентарий опубликовал…
Президент США Дональд Трамп заявил о том, что американская сторона рассмотрит возможность создания военного объекта на территории Литвы. Об этом в понедельник, 5 октября, сообщает РИА Новости. По словам главы…