Эксперт: психологическим чат-ботам нужно правовое регулирование
Чат-боты на основе ИИ не могут нести ответственность за свои ошибки
Декан факультета «Экстремальная психология» МГППУ, доцент кафедры научных основ экстремальной психологии Дмитрий Деулин в беседе с Агентством городских новостей «Москва» сообщил, что психологические чат-боты на основе искусственного интеллекта нуждаются в правовом мониторинге.
Это связано с тем, что такие инструменты психологической поддержки не несут ответственности за свои ошибки, из-за которых состояние пользователя может ухудшиться.
«Из-за анонимности, отсутствия прозрачности и сложности контроля возникают серьезные правовые и этические вопросы. Остается неясным, кто будет нести ответственность за «врачебную ошибку» чат-бота, при которой психическое состояние клиента лишь ухудшится. Особую опасность применение ИИ несет в работе с тяжелыми психическими расстройствами. Чат-боты не могут учитывать уникальность личности и в некоторых случаях повторяют одинаковые фразы», — отметил специалист.