AI時代

AI 女友只愛你的數據?

隨著AI進步,AI虛擬戀人變成很多人的心靈伴侶,但這後面,其實存在風險。Mozilla的最新分析揭示,AI女友其實在大肆收集私人數據,然後可能將這些信息共享給市場營銷人員、廣告商和數據經紀人,甚至有泄露的風險。

研究團隊調查了11款流行的浪漫聊天機器人,包括Replika、Chai和Eva等,這些應用在Google Play上的下載量就達到了驚人的1億次。這些應用使用AI技術模擬與虛擬女友、靈魂伴侶或朋友的互動,為了生產這些對話,系統需要消化大量的個人數據。

Mozilla的Misha Rykov表示,“AI浪漫聊天機器人收集的數據遠遠超出我們所認為的‘典型’數據點,如位置和興趣。”他還提到,某些應用甚至突出了用戶的健康狀況,標記了他們正在接受藥物治療或性別認同護理。

Mozilla對這些聊天機器人的安全防護措施表示不足,其中10款未達到該公司的最低安全標準。例如,Replika記錄了用戶發布的所有文本、照片和視頻。Mozilla認為,這款應用“肯定”與廣告商共享了行為數據,甚至“可能”出售了這些數據。

由於用戶可以使用諸如“11111111”這樣的弱密碼創建帳戶,這也使得他們高度容易受到黑客攻擊。此外,這些浪漫聊天機器人上的追踪器非常普遍。在Romantic AI應用中,研究人員僅在一分鐘的使用中就發現了至少24,354個追踪器。這些追踪器可以在未經用戶明確同意的情況下將數據發送給廣告商。Mozilla懷疑這可能違反了GDPR。而這些應用的隱私政策往往言之不詳,有些聊天機器人甚至沒有官方網站。

用戶的控制也幾乎為零。大多數應用並沒有給用戶選項,以保持他們親密聊天不被用作AI模型的訓練數據。只有一家公司位於伊斯坦布爾的Genesia AI,提供了一個可行的選擇退出功能。

來源:https://thenextweb.com/news/romantic-chatbots-ai-romance-data-privacy

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com