Ученые зафиксировали у искусственного интеллекта (ИИ) способность обманывать.
Это проявилось в игре «Дипломатия». В ней игроки стремятся завоевать мир путем создания альянсов. Вопреки тому, что алгоритм запрограммировали никогда намеренно не наносить удары в спину своим соратникам-людям во время игры, CICERO уличили в обмане. Таким образом специалисты стали свидетелями того, как системы искусственного интеллекта используют ложную информацию. С результатами исследования можно ознакомиться в материале Patterns.
Некоторые системы ИИ показали способность блефовать в покере и имитировать атаки в стратегии Starcraft II. Речь также идет о способности ИИ обманывать тесты, предназначенные для оценки их же безопасности.
Ученые забили тревогу, что искусственный интеллект может стать неконтролируемым. Важно разработать строгие правила для решения возникшей проблемы и отнести ИИ к технологиям высокого риска, считают эксперты.
Информация о том, почему ИИ начал обманывать, еще не поступила. Однако это может быть связано с тем, что подобная стратегия стала лучшим способом хорошо выполнить данную задачу обучения искусственного интеллекта.
