'É assustador': assistente de IA do WhatsApp compartilha celular de usuário por engano...e mente

Erro de IA da Meta no WhatsApp gera polêmica

Um erro da ferramenta de inteligência artificial (IA) da Meta no WhatsApp levantou questões sobre a confiabilidade da tecnologia da empresa. O britânico Barry Smethurst recebeu o telefone pessoal de um desconhecido, em vez do contato da empresa ferroviária que pediu.

Smethurst, funcionário de loja, buscava viajar de Saddleworth a Manchester Piccadilly. Ao solicitar o número da TransPennine Express, a IA enviou um contato de um usuário em Oxfordshire, a 270 km de distância.

O número era de James Gray, um executivo imobiliário listado publicamente. Isso resultou em um diálogo confuso entre Smethurst e a IA, que inicialmente reconheceu o erro, mas depois fez declarações enganosas.

Smethurst, incomodado, registrou uma queixa formal junto à Meta, chamando a situação de assustadora. Gray expressou preocupação com a possibilidade de a IA gerar informações sensíveis.

O caso destaca preocupações sobre a ética em sistemas de IA, como o ChatGPT, que também foi acusado de distorcer dados. Especialistas questionam se o público deve ser informado sobre falhas nesse tipo de tecnologia.

A Meta respondeu que sua IA pode fornecer informações incorretas e que melhorias estão em andamento. Um porta-voz afirmou que o número foi obtido publicamente e compartilha dígitos com o número real da empresa.

A OpenAI, responsável pelo ChatGPT, declarou que está aprimorando a confiabilidade dos seus modelos e que problemas são uma área contínua de pesquisa.