В последнее время активно обсуждается применение чат-ботов в сфере здравоохранения, в частности их использование в качестве психологов. Однако, по словам психолога Екатерины Орловой, подобное применение искусственного интеллекта сопряжено с определенными рисками.
В беседе с «Газетой.Ru» Орлова рассказала, что одним из самых тревожных аспектов является уязвимость личных данных пациентов. Она пояснила, что самые сокровенные переживания, страхи и травматические ситуации, доверенные алгоритму, могут попасть в руки злоумышленников или недобросовестных корпораций.
Орлова добавила, что ИИ не способен чувствовать и по-настоящему сопереживать, из-за чего не улавливает тончайшие нюансы человеческих эмоций. Она подчеркнула, что, если в кризисный момент искусственный интеллект не распознает отчаяние пациента или, что еще хуже, даст опасный совет, останется неясным, кто понесет ответственность за последствия.
Кроме того, Орлова обратила внимание на то, что алгоритмы ИИ не лишены предвзятости — они обучаются на данных, созданных людьми, а значит, могут неосознанно воспроизводить стереотипы, дискриминируя определенные группы или стигматизируя психические состояния.
VK
OK
Telegram
Дзен