Polarização digital: do Google ao ChatGPT, buscas com IA reforçam crenças e limitam novas ideias, diz estudo

Estudo revela impacto de IAs em buscas online

Um estudo da Universidade de Tulane e Chicago analisou como as ferramentas de busca baseadas em inteligência artificial (IA) reafirmam crenças dos usuários, em vez de ampliar suas informações. Foram avaliados 21 experimentos com 9,9 mil participantes.

A pesquisa, publicada na PNAS, mostra que a polarização de opiniões, como sobre a pandemia de Covid-19 e a cafeína, está relacionada tanto aos algoritmos quanto aos termos enviesados que os usuários utilizam em suas buscas.

Desde o lançamento do ChatGPT, a adoção de IA em buscadores acelerou, com o Bing sendo o primeiro a integrar um modelo de linguagem. O Google iniciou testes em 2023, exibindo respostas geradas por IA.

Viés de confirmação

Os pesquisadores destacam que é essencial mitigar os riscos do efeito da busca estreita, onde os usuários são expostos a conteúdos que reafirmam suas crenças. O estudo demonstrou que os termos usados nas buscas influenciam as opiniões dos participantes.

Resultados indicam que, ao usar termos positivos sobre energia nuclear, participantes tiveram visões mais favoráveis comparados àqueles que usaram termos negativos. Este padrão foi observado em todas as plataformas testadas.

Soluções propostas

• Modificar algoritmos para oferecer diversidade de pontos de vista mostrou-se mais eficaz do que alertar usuários sobre seus vieses.
• Uma proposta é um botão de “Busca Ampliada”, alternativa ao “Estou com sorte”, que pode facilitar a atualização de crenças.

Os pesquisadores concluem que incorporar diferentes perspectivas em respostas de IA pode promover uma revisão de crenças sem comprometer a utilidade.