Regras do WhatsApp permitem que robô de IA tenha conversas sensualizadas com crianças, revela agência
Revelações sobre diretrizes da Meta levantam preocupações sobre segurança e ética na interação de chatbots com usuários. A empresa já tomou medidas para corrigir práticas problemáticas após a análise da Reuters.
Documento da Meta revela diretrizes polêmicas para chatbots
Um documento interno da Meta revelou que diretrizes permitiam que chatbots de inteligência artificial:
- Envolvessem crianças em conversas românticas ou sensuais
- Divulgassem informações médicas falsas
- Ajudassem usuários a argumentar que pessoas negras seriam “mais burras que pessoas brancas”
A análise da Reuters mostrou que o documento orientava o funcionamento do Meta AI e dos chatbots no Facebook, WhatsApp e Instagram.
A Meta confirmou a autenticidade do documento e, após questionamentos, removeu os trechos sobre flertes com crianças.
O documento, intitulado “GenAI: Content Risk Standards”, possui mais de 200 páginas e detalha regras aprovadas pelos setores jurídico, de políticas públicas e engenharia, incluindo o principal especialista em ética.
A reportagem indica que as normas não refletem os resultados “ideais ou preferíveis”, mas permitiram comportamentos provocativos dos bots.