Исследователи из Мичиганского государственного университета предупредили, что искусственный интеллект может ошибочно принимать неживые объекты за живые при поиске внеземной жизни. В ходе эксперимента с цифровыми организмами ИИ удалось обмануть, заставив уверенно классифицировать неживые объекты как живые.
Ученые провели эксперимент, который показал уязвимость искусственного интеллекта при поиске внеземной жизни. Специалист по вычислительной биологии Кристоф Адами и его студент Анкит Гупта протестировали ИИ на смоделированных формах жизни в компьютерной программе Avida. Результаты вызвали сомнения в надежности использования ИИ для обнаружения биосигнатур на других планетах, сообщает Space.com.
Суть эксперимента
Исследователи потратили три месяца на компьютерный анализ на тысяче параллельных машин. Они попросили ИИ определить, какие программы в Avida обладают свойствами жизни. Программы, которые управляют живой и неживой природой, имеют почти идентичный код. Из-за этого граница между ними не всегда заметна.
Данное наблюдение может быть справедливо и для других планет. Там биологические процессы способны сильно отличаться от земных, но структурное сходство программ сохранится.
Эксперимент
Ученые начали работу с программ, которые представляли собой случайные последовательности молекул. Затем они стали корректировать эти последовательности с целью обмана искусственного интеллекта. Изменения вносились по одному шагу. После каждой правки исследователи проверяли, меняет ли ИИ свое решение о том, является ли объект живым.
Результаты показали, что примерно за 15 изменений можно добиться абсолютной уверенности ИИ в том, что он видит живой организм, хотя на самом деле это был неживой объект. При этом независимо от начальной последовательности данных ИИ постоянно удавалось обмануть. Адами отметил, что в некоторых случаях ИИ был уверен на 100%, хотя ни один из объектов не был живым.
Проблема обучающих данных
Специалист объяснил, что проблема заключается в данных, на которых обучался ИИ. Если модель обучали на изображениях яблок, она успешно их распознает. Но если заменить яблоки на бананы, ИИ начнет испытывать трудности, поскольку бананы имеют другую форму и не входят в исходное распределение данных.
Аналогичная ситуация возникает при поиске внеземной жизни. Инопланетные микробы могут сильно отличаться от земных. В свою очередь ИИ не сможет их корректно интерпретировать.
VK
OK
Telegram
Дзен