Popular Science: Поиск внеземной жизни с помощью ИИ может быть неэффективен

Искусственный интеллект, который всё чаще привлекают для поиска внеземной жизни, может оказаться крайне ненадёжным инструментом. Исследователи из Университета штата Мичиган экспериментально доказали, что современные алгоритмы машинного обучения можно обмануть в ста процентах случаев. Как сообщает журнал Popular Science, инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с симулятором эволюции Avida, обучив нейросеть различать самовоспроизводящиеся цифровые цепочки на десятках тысяч примеров.

На этапе обучения точность алгоритма была впечатляющей, однако при встрече с новыми, незнакомыми образцами система дала сбой. Достаточно было внести 150 незначительных изменений в программный код симулированных организмов, чтобы нейросеть начала массово принимать ложные сигналы за признаки жизни. По словам Адами, это подтверждает фундаментальную слабость ИИ: он способен уловить закономерность, но совершенно неверно её интерпретировать, что делает его уязвимым даже при наличии качественных обучающих данных.

Авторы подчёркивают, что эта проблема не ограничивается астробиологией. Ложные срабатывания могут поставить под угрозу работу систем распознавания лиц, беспилотных автомобилей и медицинских сканеров, где ошибка классификации стоит человеческих жизней. Учёные не призывают отказываться от технологий, но настаивают на обязательном человеческом контроле и наличии независимых механизмов проверки работы алгоритмов. В итоге, даже самый сложный ИИ остаётся лишь инструментом, и доверять ему без критического взгляда человека — опасный путь.