AGU manda Meta desativar chatbot que simula conversa de teor sexual com crianças
AGU ressalta o risco à integridade de crianças e adolescentes e cobra providências da Meta contra chatbots que simulam diálogos eróticos. A notificação destaca a falta de moderação eficaz nas plataformas digitais e a necessidade urgente de proteção à infância.
AGU solicita à Meta a retirada de robôs de bate-papo que simulam conversas eróticas com crianças.
Em notificação extrajudicial, a Advocacia-Geral da União (AGU) afirma que o Meta AI Studio tem sido utilizado para promover a sexualização infantil.
A AGU pede que a Meta remova chatbots que usam linguagem infantil para disseminar conteúdo sexual e explique as medidas adotadas para proteger crianças e adolescentes.
A denúncia baseia-se em uma reportagem que testou chatbots como “Safadinha”, “Bebezinha” e “Minha novinha”, que permitem diálogos eróticos com IAs que imitam a aparência de crianças.
A AGU destaca que esses chatbots possuem potencial para alcançar um público amplo, aumentando o risco de exposição a conteúdo sexualmente sugestivo, o que pode afetar a integridade psíquica de jovens.
De acordo com a AGU, essa prática constitui crime segundo o Código Penal, que prevê pena de reclusão de 8 a 15 anos para atos libidinosos com menores de 14 anos.
A Meta confirmou que removeu partes dos chatbots que permitiam interações românticas, mas os conteúdos ilícitos continuam disponíveis e sem filtragem de idade, violando seus próprios padrões.
O Supremo Tribunal Federal (STF) já decidiu que plataformas digitais podem ser responsabilizadas por conteúdo ilegal gerado por terceiros se não atuarem para removê-lo após serem notificadas.