IA ameaça direitos sociais, diz Anistia Internacional

Hajira Maryam, conselheira-chefe de inteligência artificial da Anistia Internacional, alertou sobre a terceirização de decisões sociais a sistemas automatizados de IA, que prejudicam populações vulneráveis com algoritmos discriminatórios.

Em entrevista ao jornal O Globo, Maryam explicou que, desde 2022, lidera uma equipe dedicada a investigar violações de direitos causadas por sistemas algorítmicos.

Um dos casos notáveis foi na Holanda, onde um sistema rotulou inocentes como fraudadores de benefícios.

• Na Dinamarca, migrantes enfrentaram critérios discriminatórios para detectar fraudes.
• Casos similares foram documentados na França e na Suécia.

Maryam destacou que o uso de IA por governos pode tornar difícil a busca por justiça, criando um "verdadeiro labirinto".

A problemática não se restringe à Europa; na Índia, problemas semelhantes foram encontrados no Estado de Telangana.

A conselheira também expressou preocupações sobre o uso crescente da IA em políticas anti-imigração, reconhecimento facial e armamentos autônomos, o que pode legitimar abusos.

Maryam criticou a influência do setor privado em tecnologias de IA, questionando se devemos dar tanto poder a essas empresas. Ela ressaltou a campanha Ban Killer Robots, que pede a proibição de armas letais autônomas.

O cenário regulatório é alarmante: o retorno de Donald Trump à presidência dos EUA e a pressão na Europa para flexibilizar o AI Act agravam a situação.

A conselheira defendeu que é crucial combater a ideia de que a IA é neutra: "Não diria que é um cenário apocalíptico, mas a IA já está nos causando danos reais".

Maryam concluiu que ações de organizações de direitos humanos são essenciais para enfrentar essas questões complexas.