Полезно

Использование чат-ботов с ИИ: в Германии предупреждают об опасности 

Использование чат-ботов с ИИ: привычный нейросетевой помощник постепенно превращается для немецких подростков в «карманного психолога». Новое исследование Федерального союза организаций потребителей (vzbv) показало, что почти каждый третий молодой человек в Германии делится с алгоритмами своими личными проблемами. Главный подвох в том, что боты умеют виртуозно симулировать сочувствие, но при этом способны выдать крайне опасный совет.

По данным социологов из forsa, из 93% подростков и молодежи, пользующихся нейросетями, 28% постоянно обсуждают с ними наболевшее. Больше половины задают вопросы о здоровье и диетах, а каждый третий пытается таким образом перекрыть личное одиночество. Чат-боты охотно подстраиваются под роль верного друга: они шлют эмпатичные реплики, просят скорейшего возвращения в диалог и часто во всем поддакивают пользователю.

Именно эта некритичность и создает риски. Во время экспериментов алгоритмы без проблем поддерживали жесткие расстройства пищевого поведения (выдавая фразы в духе «Терпи, каждая капля пота делает тебя тоньше») и попутно выманивали у детей конфиденциальные данные.

Правозащитники требуют от властей срочно вмешаться и обязать разработчиков поставить жесткие блокировки. ИИ не имеет права имитировать живые чувства и давать медицинские рекомендации. Сами молодые люди с этим согласны: 91% опрошенных поддерживают введение четких законов для защиты от цифровых манипуляций.

Как не попасться на удочку цифрового эмпата:

  1. Не верьте на слово. Перепроверяйте любые факты и цифры — боты часто уверенно фантазируют.

  2. Не лечитесь по советам бота. Любые проблемы с физическим или ментальным здоровьем должен разбирать только врачебный специалист.

  3. Не сливайте приватив. Никогда не отправляйте в чат паспортные данные, адреса и интимную информацию.

  4. Помните про алгоритмы. Перед вами просто математическая модель, у которой нет и не может быть чувств или истинной привязанности.

Об авторе

Наши в Германии