По мере внедрения ИИ в различные сферы жизни общества понимание готовности людей принимать решения, основанные на ИИ, становится важнейшей научной и социальной проблемой. Вопрос о том, могут ли люди принимать решения, основанные на суждениях людей или ИИ, в ситуациях, когда они не уверены в своих собственных, остается открытым.
С внедрением ИИ в различные сферы жизни общества важно понимать готовность людей принимать решения, основанные на ИИ. Вопрос о том, могут ли люди принимать решения, основанные на суждениях ИИ, остается открытым. В исследовании, опубликованном в журнале Scientific reports, основное внимание уделяется «несотрудничеству с людьми с плохой репутацией» в рамках косвенной взаимности, так как люди избегают оценок оправданного отступничества.
Авторы изучили, какие решения люди приняли бы, если бы ИИ и люди принимали разные решения. Эксперименты показали, что люди считают решение ИИ более правильным только тогда, когда ИИ выносил положительное решение, а человек — отрицательное. Исследование предлагает новый взгляд на анализ человеческих норм, изучая различия в принятии решений ИИ и людьми.
Для стабильного кооперативного поведения необходимы социальные нормы, оценивающие оправданный отказ от сотрудничества как положительный. Если бы таких норм не было, те, кто отказывается от сотрудничества с плохим человеком, считались бы плохими, что привело бы к цепочке отказов от сотрудничества. Однако недавнее исследование показало, что люди нейтрально относятся к оправданному отступничеству, избегая оценок. Оправданное отступничество также можно рассматривать как форму наказания, которое, хотя и служит механизмом поддержания кооперации, не всегда приводит к приобретению хороших репутаций.
Два эксперимента показали, что люди считали решение ИИ более правильным только тогда, когда ИИ выносил положительное решение, а человек — отрицательное. Исследование показывает, что принятие решений ИИ зависит от оценки скрытых намерений, стоящих за общественными нормами, и предлагает новый взгляд на анализ человеческих норм.
Авторы статьи выяснили, что склонность к умозаключениям может объяснить, почему люди в определенных ситуациях были более склонны принимать ИИ. Колебания людей в оценке оправданного отказа от сотрудничества, скорее всего, связаны с конкурирующими критериями оценки. С одной стороны, критерии могут включать понятия «нельзя мириться с халявщиками» и «я могу понять, почему не стоит помогать эгоистичным людям». С другой стороны, критерии могут включать убеждения «месть — это плохо» и «мы должны помогать всем, кто в этом нуждается».
Эти силы обычно находятся в конфликте, и большинство людей решают воздержаться от суждений. Ученые предположили, что участники чувствовали, что оценка людьми оправданного дезертирства как хорошего подразумевала попустительство актам мести, тогда как оценка ИИ выглядела как рациональная оценка.
Исследователи также уточнили, что эксперимент не дает доказательств этого механизма, и в будущих исследованиях необходимо будет изучить мотивы этих суждений и только наблюдая за различиями в восприятии решений, принятых ИИ и людьми, можно будет приподнять завесу, скрывающую механизм принятия решений людьми.
