Использование чат-ботов с ИИ: привычный нейросетевой помощник постепенно превращается для немецких подростков в «карманного психолога». Новое исследование Федерального союза организаций потребителей (vzbv) показало, что почти каждый третий молодой человек в Германии делится с алгоритмами своими личными проблемами. Главный подвох в том, что боты умеют виртуозно симулировать сочувствие, но при этом способны выдать крайне опасный совет.
По данным социологов из forsa, из 93% подростков и молодежи, пользующихся нейросетями, 28% постоянно обсуждают с ними наболевшее. Больше половины задают вопросы о здоровье и диетах, а каждый третий пытается таким образом перекрыть личное одиночество. Чат-боты охотно подстраиваются под роль верного друга: они шлют эмпатичные реплики, просят скорейшего возвращения в диалог и часто во всем поддакивают пользователю.
Именно эта некритичность и создает риски. Во время экспериментов алгоритмы без проблем поддерживали жесткие расстройства пищевого поведения (выдавая фразы в духе «Терпи, каждая капля пота делает тебя тоньше») и попутно выманивали у детей конфиденциальные данные.
Правозащитники требуют от властей срочно вмешаться и обязать разработчиков поставить жесткие блокировки. ИИ не имеет права имитировать живые чувства и давать медицинские рекомендации. Сами молодые люди с этим согласны: 91% опрошенных поддерживают введение четких законов для защиты от цифровых манипуляций.
Как не попасться на удочку цифрового эмпата:
-
Не верьте на слово. Перепроверяйте любые факты и цифры — боты часто уверенно фантазируют.
-
Не лечитесь по советам бота. Любые проблемы с физическим или ментальным здоровьем должен разбирать только врачебный специалист.
-
Не сливайте приватив. Никогда не отправляйте в чат паспортные данные, адреса и интимную информацию.
-
Помните про алгоритмы. Перед вами просто математическая модель, у которой нет и не может быть чувств или истинной привязанности.
