Чат-боты для романтических отношений: виртуальная любовь – реальные риски

[Artifact]

Исследователи Mozilla призывают одиноких пользователей не доверять машинам свои личные данные.
14 февраля, в День святого Валентина, исследователи из компании Mozilla опубликовали очередной отчёт в рамках серии публикаций Privacy Not Included , в котором специалисты выявили, что большинство имеющихся на рынке приложений для романтических переписок с чат-ботами не соответствуют современным стандартам безопасности и конфиденциальности.
С развитием генеративного искусственного интеллекта начался настоящий бум чат-ботов для «отношений», предлагающих компанию одиноким сердцам. Причём такие нейропереписки часто носят не только романтический, но и эротический характер.
Миша Рыков, исследователь из Mozilla, резко высказался по поводу подобных увлечений: «Честно говоря, ИИ-подруги — это не ваши друзья. Несмотря на обещания улучшить ваше психическое состояние, на деле они способствуют зависимости, одиночеству и токсичности, при этом извлекая из вас как можно больше данных».
В результате оценки 11 популярных чат-ботов для романтических переписок, включая такие приложения, как «Romantic AI», «Talkie Soulful AI» и «EVA AI Chat Bot & Soulmate», все из них получили от Mozilla пометку Privacy Not Included, что выделяет их как одни из наиболее проблемных с точки зрения конфиденциальности.

Скриншоты из приложения «EVA AI Chat Bot & Soulmate», где чат-бот
буквально выпрашивает у пользователя его фото и голосовые сообщения
Среди основных проблем безопасности и конфиденциальности, выявленных в исследовании, эксперты Mozilla отмечают отсутствие публичной информации о том, как управляются уязвимости безопасности (73%), неясность данных об использовании шифрования (64%), разрешение на использование слабых паролей, включая «11111» (45%), продажа данных пользователей или их использование для таргетированной рекламы без достаточно ясной информации в политике конфиденциальности (90%), и запрет на удаление личных данных (54%).
Джен Калтрайдер, директор программы Privacy Not Included, предостерегает: «Сегодня мы сталкиваемся с "диким западом" нейрогенеративных чат-ботов для отношений. Их популярность растёт взрывными темпами, а количество личной информации, которую они извлекают для создания романтических, дружеских и интимных взаимодействий, по-настоящему огромно».
Калтрайдер подчёркивает необходимость повышения прозрачности и предоставления пользователям куда большего контроля над подобными ИИ-сервисами, чтобы предотвратить потенциальную манипуляцию и защитить личные данные.
Таким образом, чат-боты для романтических отношений, которые день ото дня становятся всё более популярными, создают серьёзные риски для безопасности и конфиденциальности пользователей. Эти приложения собирают большое количество личных данных, включая фотографии и аудио, которые можно использовать в том числе как биометрию, однако не предоставляют достаточной информации о том, как они обрабатывают и защищают эту информацию.
Пользователи должны проявлять осторожность и критически относиться к подобным чат-ботам, чтобы не допустить утечку чувствительных данных, а также предотвратить злоупотребления и манипуляции со стороны злоумышленников, способных заполучить эти данные.
Code:

https://foundation.mozilla.org/en/privacynotincluded/articles/happy-valentines-day-romantic-ai-chatbots-dont-have-your-privacy-at-heart/