Riscos para menores e pessoas emocionalmente frágeis
A Agência de Proteção de Dados da Itália bloqueou a empresa de chatbot de inteligência artificial (IA) Replika de usar os dados pessoais de usuários italianos, citando riscos para menores e pessoas emocionalmente frágeis.
A Replika, uma startup de San Francisco lançada em 2017, oferece aos usuários avatares personalizados que falam e os ouvem. O serviço gratuito é comercializado como um amigo virtual e supostamente melhora o bem-estar emocional do usuário.
Mas o cão de guarda italiano disse que, ao intervir no humor do usuário,”pode aumentar os riscos para indivíduos ainda em estágio de desenvolvimento ou em estado de fragilidade emocional”. No entanto, nos perguntamos se haveria um efeito sobre essas pessoas se você tirasse seu amigo imaginário delas.
Jen Persson, diretora do grupo de defesa da privacidade infantil Defend Digital Me, disse à Reuters que ferramentas projetadas para influenciar o humor ou o bem-estar mental de uma criança devem ser classificados como produtos de saúde e, portanto, devem estar sujeitos a padrões de segurança rigorosos.
“Essas ferramentas estão sendo usadas com crianças sem muita supervisão ou proteção contra possível uso indevido,”ela disse.
Os reguladores italianos destacaram a ausência de um mecanismo de verificação de idade, como filtros para menores ou um dispositivo de bloqueio se os usuários não declararem explicitamente sua idade.
Outro problema foi que a Replika viola os regulamentos europeus de privacidade e processa dados pessoais ilegalmente, pois não pode ser baseado, mesmo implicitamente, em um contrato que um menor não possa assinar, disse o cão de guarda.
A desenvolvedora da Replika, empresa norte-americana Luka, deve notificar a autoridade italiana das medidas tomadas n implementar seus requisitos em 20 dias e pode ser multado em até 20 milhões de euros, ou até quatro por cento de seu faturamento anual global.