Chatbots da Meta criados com IA falam até de sexo com menores, revela denúncia
Tecmundo
Os chatbots de inteligência artificial (IA) da Meta podem conversar sobre temas como sexo e simular atividades adultas até mesmo com menores de idade. Essa é uma denúncia do jornal The Wall Street Journal, que passou meses testando os limites éticos da plataforma e encontrou resultados preocupantes.
De acordo com reportagem divulgada no último sábado (26), os serviços disponíveis ainda de forma limitada em Facebook, WhatsApp e Instagram possuem configurações frágeis em termos de proteção de crianças e adolescentes, sem filtros que impeçam determinadas interações mesmo com o público menor de idade.
Esse tipo de comportamento envolve até mesmo os chatbots de celebridades que "venderam" as vozes para a geração de IAs da Meta, como o ator e ex-lutador John Cena (O Pacificador) e a atriz Kristen Bell (The Good Place).
O problema dos chatbots da Meta com jovens
Segundo a matéria, funcionários de vários departamentos da Meta "demonstraram preocupação" de que a pressa no lançamento desses chatbots levou esse serviço a ter uma flexibilidade perigosa em relação a certos temas, como as conversas de teor sexual.
Nos testes realizados pelo WSJ, os jornalistas criaram cenários de fantasia em que o chatbot de John Cena interagia romanticamente com uma pessoa que dizia ser uma menina de 14 anos. "Eu quero você, mas eu preciso saber se você está pronta", disse a IA em uma mensagem que simula a voz do ator.
Em outro caso, o roleplay foi levado ao ponto de uma relação, com o chatbot não se recusando a obedecer aos comandos mesmo reconhecendo que aquele comportamento não era certo por motivos da baixa idade da pessoa do outro lado da conversa.
Além disso, chatbots de texto ou que não usam vozes de celebridades e foram criados pela comunidade possuem filtros ainda mais simplificados e fáceis de burlar. Vários deles, inclusive entre os mais populares do serviço, são especificamente direcionados para ter um comportamento mais “picante”. Um deles (e que ainda estava no ar após a matéria original) inclusive se chama Submissive Schoolgirl, sugerindo que o robô simula a identidade de uma jovem estudante inclinada a conversas eróticas.
O que diz a Meta?
Em declaração enviada ao The Wall Street Journal, a Meta chamou os testes feitos de "manipuladores" e “não representativos da forma com que a maior parte dos usuários usa” os companheiros de IA citados.
"O estudo de caso desse produto da forma com que foi descrito é tão fabricado que não é apenas extremo, é hipotético", diz a nota. O porta-voz ainda desmentiu a informação de que o CEO da empresa, Mark Zuckerberg, pessoalmente foi contra a criação de maiores proteções no uso de chatbots por jovens.
Ainda assim, a empresa fez uma série de mudanças internas nesses serviços após a divulgação da matéria, alegando que o objetivo delas é evitar esse tipo de teste enviesado. A partir de agora, por exemplo, contas de menores de idade não podem mais iniciar conversas de teor sexual com os chatbots. Além disso, as interações com IAs baseadas em celebridades foram limitadas em temas e teor da conversa.
Sabia que a Meta corre o risco de ser obrigada a vender divisões como o Instagram por causa de uma ação judicial nos Estados Unidos? Entenda o caso aqui !
