Risiken für Minderjährige und emotional schwache Personen
Die italienische Datenschutzbehörde hat das Chatbot-Unternehmen Replika für künstliche Intelligenz (KI) daran gehindert, die personenbezogenen Daten italienischer Benutzer zu verwenden. unter Berufung auf Risiken für Minderjährige und emotional schwache Menschen.
Replika, ein 2017 gegründetes Startup aus San Francisco, bietet Benutzern angepasste Avatare, die mit ihnen sprechen und ihnen zuhören. Der kostenlose Dienst wird als virtueller Freund vermarktet und soll das emotionale Wohlbefinden des Nutzers verbessern.
Aber der italienische Wachhund sagte, dass es durch Eingriffe in die Stimmung des Benutzers”die Risiken für Personen erhöhen kann, die sich noch in einem Entwicklungsstadium oder in einem Zustand emotionaler Zerbrechlichkeit befinden.”Wir fragen uns jedoch, ob es Auswirkungen auf solche Menschen geben würde, wenn Sie ihnen ihren imaginären Freund wegnehmen würden.
Jen Persson, Direktorin der Datenschutzgruppe für Kinder, Defend Digital Me, sagte gegenüber Reuters, dass Werkzeuge dazu bestimmt sind, Einfluss zu nehmen die Stimmung oder das geistige Wohlbefinden eines Kindes sollten als Gesundheitsprodukte eingestuft werden und daher strengen Sicherheitsstandards unterliegen.
“Diese Hilfsmittel werden bei Kindern ohne viel Aufsicht oder Schutz vor potenziellem Missbrauch verwendet, “, sagte sie.
Italienische Aufsichtsbehörden betonten das Fehlen eines Altersüberprüfungsmechanismus, wie beispielsweise Filter für Minderjährige oder ein Sperrgerät, wenn Benutzer ihr Alter nicht ausdrücklich angeben.
Ein weiteres Problem war, dass Replika gegen europäische Datenschutzbestimmungen verstößt und personenbezogene Daten rechtswidrig verarbeitet, da dies nicht einmal implizit auf einem Vertrag beruhen kann, den ein Minderjähriger nicht unterzeichnen kann, sagte der Wachhund.
Der Entwickler von Replika, das US-Unternehmen Luka, muss der italienischen Behörde die ergriffenen Maßnahmen mitteilen n seine Anforderungen innerhalb von 20 Tagen umzusetzen und könnte mit einer Geldstrafe von bis zu 20 Millionen Euro oder bis zu vier Prozent seines weltweiten Jahresumsatzes belegt werden.