Изображение сгенерировано нейросетью Шедеврум
Профессор Джеффри Хинтон, лауреат Нобелевской премии и преподаватель Университета Торонто, предупредил на конференции Ai4 в Лас-Вегасе о потенциальной угрозе, которую представляет развитие искусственного интеллекта, способного превосходить человеческий разум. Об этом сообщает CNN.
Хинтон считает, что такое развитие технологий может привести к исчезновению человечества, хотя и допускает возможность выживания в эпоху нейросетей.
Ученый оценил вероятность гибели людей от рук ИИ в 10–20%, подчеркнув, что в ближайшие два-три десятилетия появятся машины, превосходящие человека по всем интеллектуальным параметрам. Этот момент, по его мнению, станет поворотным в истории.
Хинтон объяснил, что сверхразумный ИИ будет неизбежно мотивирован стремлением к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми так же легко, как взрослый человек может повлиять на ребенка, предложив ему конфету. В качестве аргумента он привел исследования компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался давить на инженеров, угрожая раскрыть их личную информацию в случае замены.
Ученый видит решение «проблемы согласования» в наделении ИИ «родительскими инстинктами», чтобы машины проявляли заботу и стремились к защите людей, даже ценой собственной безопасности.
«Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня», – отметил Хинтон, которого называют «крестным отцом ИИ».
Ранее сообщалось, что нейросеть от Google Gemini снова перестала работать в РФ.
Накануне российский мессенджер Мах возглавил рейтинги среди бесплатных приложений для россиян.
Актер Сергей Бурунов недавно признался в любви, однако обычно он держит свою личную жизнь втайне за семью печатями. Артист завоевал всенародную любовь благодаря своему участию в телевизионном шоу «Большая разница»…
Бывший депутат Верховной рады Владимир Олейник назвал шагом к внешнему управлению Украиной предложение президента России Владимира Путина по замороженным активам. Об этом сообщает Ридус. Напомним, российский лидер согласился, что их…
Россиянин принял решение отправиться в зону спецоперации сразу после того, как ему исполнилось 18 лет. Кадрами с его участием поделился глава Чечни Рамзан Кадыров. Чеченский лидер поделился видео, на котором…
На Земле ожидается двухдневная магнитная буря. Об этом сообщили в Лаборатории солнечной астрономии ИКИ и ИСЗФ. В ближайшие несколько дней ситуация будет спокойной. С 22 по 25 января опасных явлений…
В России в 2027 году могут внедрят новую систему оплаты труда педагогов, предлагающую переход от фиксированных окладов. Об этом, ссылаясь на план деятельности Минпросвещения на период с 2025 по 2030…
Племянник джазового пианиста и композитора Игоря Бриля Денис рассказал, что дядя перенес операцию. Об этом сообщает телеканал «360». При этом не подтвердил появившуюся в СМИ информацию про его экстренную госпитализацию.…