Интернет

Нейросеть выходит из-под контроля — теперь она умеет врать, мошенничать и синтезировать яд

2 апреля 2023, 14:35 — Общественная служба новостей — ОСН

Эксперты в области искусственного интеллекта начинают всерьез беспокоиться. Теперь их «детище» может выйти из-под контроля. Об этом пишет 7days.ru.

«Мы призываем все лаборатории немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий» — данные требования были изложены в письме, под которым уже подписались Илон Маск, один из основателей Apple Стив Возняк, ведущие специалисты в области ИИ Стивен Расселл и Иошуа Бенджио и другие.

Уже сейчас искусственный интеллект способен сдавать за студентов экзамены и писать для них выпускные работы. Они могут выигрывать олимпиады и успешно проходить сложные тесты для медицинской аттестации. В итоге место настоящего специалиста может занять мошенник, который просто умело пользуется способностями нейросети. Это и является серьезной проблемой.

Еще в 2022 году ученые создали искусственный интеллект, который должен был заниматься поиском и анализом лекарств от смертельных болезней, но вместо этого он сумел синтезировать боевые отравляющие яды. Уже после шести часов работы ИИ выдал необходимые химически формулы, которые могут привести к непоправимым последствиям, если они окажутся не в тех руках.

Ранее депутат Евгений Попов предложил заменить чиновников нейросетью. Подробнее об этом читайте в материале Общественной службы новостей.

Поделиться
Наталья Анисеева

Окончила факультет Лингвистики и Мировых языков КГУ в Калуге, некоторое время работала репетитором по английскому и французскому языкам, писала академические работы на английском и русском, но в итоге поняла, что взаимодействие с родным языком мне ближе. Успела поработать копирайтером и рерайтером на различных фриланс биржах, затем продолжительное время занималась написанием статей для информационно-развлекательных сайтов. Сейчас пришла к работе с новостной лентой в ОСН.

Последние статьи

ТАСС: Роскомнадзор не получал решений по блокировке Minecraft

Роскомнадзор не получал никаких официальных указаний от уполномоченных структур, которые могли бы стать причиной для блокировки игры Minecraft в России. Об этом сообщает ТАСС со ссылкой на пресс-службу ведомства. В…

% дней назад

Нетаньяху поздравил Трампа со спасением пилота сбитого F-15Е в Иране

В Израиле прокомментировали инцидент со сбитым истребителем F-15Е ВВС США в Иране. Об этом высказался премьер-министр страны Биньямин Нетаньяху. Политик подтвердил, что Израиль участвовал в операции по спасению американского пилота.…

% дней назад

Бузова расплакалась на концерте в Петербурге, вспоминая прошлое

Певица и телеведущая Ольга Бузова вернулась в свой родной город с обновленным шоу под названием «Вот она Я». 4 апреля ее сольный концерт собрал почти полный зал в клубе Sound.…

% дней назад

Кусков заявил, что государство не будет останавливаться в кампании против VPN

Технический директор агентства Telecom Daily Денис Кусков заявил, что государство не будет останавливаться в кампании против VPN. Об этом сообщает Ридус. По словам эксперта, технические проблемы с идентификацией пользователей средств…

% дней назад

Орбан пошутил, что газопровод в Сербии хотели взорвать марсиане

В Евросоюзе упомянули марсиан, говоря о попытке подрыва газопровода в Сербии. Об этом пишет РИА «Новости». В воскресенье стало известно, что у газопровода, по которому газ идёт в Венгрию, нашли…

% дней назад

Поклонская рассказала, почему ушла в язычество из христианства

Наталья Поклонская, экс‑прокурор Крыма, объяснила журналистам свой переход от христианской веры к язычеству. Об этом сообщает издание «Лента.ру». Поклонская подчеркнула, что приняла это решение осознанно, без какого‑либо внешнего давления. Она…

% дней назад