Um norueguês apresentou uma queixa após descobrir que o ChatGPT o descrevia erroneamente como um criminoso que matou dois de seus filhos.
“O que mais me assusta é que alguém possa ler isso e pensar que é verdade”, declarou Arve Hjalmar Holmen em um comunicado, representado pela associação austríaca Noyb, que luta pela proteção da vida privada.
Desde esse incidente, a empresa americana OpenAI, dona do chatbot, atualizou seu modelo e já não apresenta Holmen como assassino. No entanto, esses dados falsos podem permanecer nos sistemas internos, lamenta a Noyb.
“O ChatGPT regularmente fornece informações falsas (…) que podem prejudicar gravemente a reputação de uma pessoa, acusando falsamente pessoas de corrupção, abuso de menores e até mesmo assassinato”, denunciou a Noyb em um comunicado.
“Ao permitir conscientemente que seu modelo de IA produza resultados difamatórios, a OpenAI viola o princípio de precisão” consagrado no Regulamento Geral de Proteção de Dados (RGPD) europeu, acrescentou a ONG, que pede que os elementos infratores sejam “eliminados”, que a tecnologia seja melhorada e que seja imposta “uma multa administrativa”.