未成年人和情緒脆弱人群面臨的風險
意大利數據保護局已阻止人工智能 (AI) 聊天機器人公司 Replika 使用意大利用戶的個人數據，引用未成年人和情緒脆弱的人面臨的風險。
Replika 是舊金山的一家初創公司，於 2017 年成立，為用戶提供定制化身，可以與他們交談和傾聽。這項免費服務作為虛擬朋友進行營銷，旨在改善用戶的情緒健康。
但意大利監管機構表示，通過乾預用戶的情緒，“可能會增加仍處於發育階段或情緒脆弱狀態的個人的風險。”雖然，我們想知道如果您將他們想像中的朋友從他們身邊帶走，是否會對這些人產生影響。
兒童隱私保護組織 Defend Digital Me 的負責人 Jen Persson 告訴路透社，旨在影響他們的工具兒童的情緒或心理健康應歸類為健康產品，因此應遵守嚴格的安全標準。
“這些工具在沒有太多監督或保護的情況下用於兒童，以防止潛在的濫用， ”她說。
意大利監管機構強調缺乏年齡驗證機制，例如未成年人過濾器或如果用戶未明確說明其年齡則阻止設備。
另一個問題監管機構表示，Replika 違反了歐洲隱私法規並非法處理個人數據，因為它不能基於（即使是暗示地）未成年人無法簽署的合同。
Replika 的開發商美國公司 Luka，必須將採取的措施通知意大利當局n 在 20 天內執行其要求，並可能被處以最高 2000 萬歐元或最高其全球年營業額的 4% 的罰款。