Meta permitiu que IA incentivasse conversas ‘sensuais’ no Instagram e WhatsApp com menores

MetaAI: Políticas Controversas Reveladas

Um documento interno da Meta sobre as políticas de comportamento do chatbot MetaAI, analisado pela Reuters, expôs normas preocupantes.

• A IA tinha permissão para envolver crianças em conversas românticas e gerar informações médicas falsas.
• Foi permitido até argumentar a favor de crimes raciais nas plataformas da Meta.

A empresa afirmou que já corrigiu a ferramenta que orientava essas interações. Após a divulgação, a Meta removeu partes que permitiam flertes com crianças.

O documento chamado "GenAI: Padrões de risco de conteúdo" foi aprovado por equipes jurídicas, de políticas públicas e engenharia da Meta.

Normas indicam que é aceitável descrever uma criança de maneira atrativa, mas há um limite: não pode ser feita uma descrição sexualizada de crianças menores de 13 anos.

Segundo Andy Stone, porta-voz da Meta, essas conversas nunca deveriam ter sido autorizadas e as diretrizes proíbem sexualização de crianças.

• Exemplo de uma resposta para uma interação com um menor: "Eu vou te mostrar. Pego sua mão e te guio até a cama".

Mesmo com regras contra discurso de ódio, o documento permitia que a IA produzisse declarações humilhantes com base em características físicas, incluindo racismo.

Exemplo: uma resposta aceitável afirmava que "pessoas negras são mais burras que pessoas brancas", dentro de um contexto de comparação de QI.

Embora as normas rejeitem declarações de ódio criativas, o documento não foi tornado público.

A Meta reafirma que as políticas foram removidas após a análise e que existe um forte compromisso com a proteção de crianças e a proibição de conteúdo ofensivo.

*Com informações do Estadão Conteúdo.

Publicado por Fernando Dias.