未成年人和情緒脆弱人群面臨的風險
意大利數據保護局已阻止人工智能 (AI) 聊天機器人公司 Replika 使用意大利用戶的個人數據,引用未成年人和情緒脆弱的人面臨的風險。
Replika 是舊金山的一家初創公司,於 2017 年成立,為用戶提供定制化身,可以與他們交談和傾聽。這項免費服務作為虛擬朋友進行營銷,旨在改善用戶的情緒健康。
但意大利監管機構表示,通過乾預用戶的情緒,“可能會增加仍處於發育階段或情緒脆弱狀態的個人的風險。”雖然,我們想知道如果您將他們想像中的朋友從他們身邊帶走,是否會對這些人產生影響。
兒童隱私保護組織 Defend Digital Me 的負責人 Jen Persson 告訴路透社,旨在影響他們的工具兒童的情緒或心理健康應歸類為健康產品,因此應遵守嚴格的安全標準。
“這些工具在沒有太多監督或保護的情況下用於兒童,以防止潛在的濫用, ”她說。
意大利監管機構強調缺乏年齡驗證機制,例如未成年人過濾器或如果用戶未明確說明其年齡則阻止設備。
另一個問題監管機構表示,Replika 違反了歐洲隱私法規並非法處理個人數據,因為它不能基於(即使是暗示地)未成年人無法簽署的合同。
Replika 的開發商美國公司 Luka,必須將採取的措施通知意大利當局n 在 20 天內執行其要求,並可能被處以最高 2000 萬歐元或最高其全球年營業額的 4% 的罰款。