О рисках использования искусственного интеллекта для снятия стресса предупредил эксперт
Главный редактор аналитического издания Runet Владимир Зыков выразил обеспокоенность по поводу попыток людей справляться со стрессом с помощью нейросетей, отметив, что такое взаимодействие может лишь усугубить психологическое состояние, передает RT.
По словам специалиста, демонстрация сочувствия со стороны искусственного интеллекта не гарантирует адекватности или уместности даваемых советов. Чат-бот может начать диалог с фразы о понимании тяжести ситуации, но затем выдать обширный список общих рекомендаций, не уточнив деталей произошедшего. В других случаях система может не распознать степень серьезности проблемы и ограничиться шаблонным ответом, из-за чего пользователь, искавший поддержки, останется с ощущением, что его не услышали.
Эксперт подчеркнул, что подобные недостатки алгоритмов уже фиксировались исследователями при тестировании ответов виртуальных помощников в психологически сложных сценариях. Особую опасность представляет склонность нейросетей к «поддакиванию». Стремясь проявить поддержку, ИИ может начать соглашаться с тревожными и иррациональными выводами пользователя. Например, если человек предположит, что отсутствие ответа от руководителя означает скорое увольнение, бот может принять эту догадку за факт и начать рассуждать о соответствующих признаках, тем самым усиливая тревожность собеседника. При этом весь диалог будет вестись в заботливом тоне.
Владимир Зыков обратил внимание на то, что поддержка переживаний и подтверждение худших опасений — это принципиально разные вещи. Он сослался на предупреждения Американской психологической ассоциации, которая отдельно указывает на риск того, что чат-боты могут усиливать тревожные размышления и закреплять ошибочные убеждения пользователей.
В связи с этим эксперт не рекомендует полагаться исключительно на виртуальных помощников в моменты сильного эмоционального потрясения. Зыков посоветовал обсуждать свои переживания с доверенными лицами, а при необходимости обращаться за профессиональной помощью к специалистам. Если в ходе переписки с ИИ уровень тревоги только возрастает, диалог следует немедленно прервать и найти поддержку среди живых людей. Нейросеть может выступать лишь вспомогательным инструментом, но брать на себя роль единственного советчика в критических состояниях она не должна.
