É hora de pôr a lupa no agente de inteligência artificial

Impactos éticos e legais dos agentes de inteligência artificial são tema de estudo proposto pelo professor Virgílio Almeida, do IEA-USP, após identificação de riscos relacionados à supervisão limitada desses sistemas.

Desde 2022, a atenção se volta para a raspagem de dados e a violação de direitos autorais por empresas como a OpenAI. Apesar do pouco interesse da imprensa, a mídia especializada ressalta os problemas enfrentados por agentes de IA, como erro na indicação de hotéis, conforme reportado pela Economist.

Almeida questiona sobre o nível de controle e o custo desse tipo de agente: “Qual o nível de controle que desejamos passar para um agente desse tipo? E qual o custo disso?”. Para garantir utilidade, é fundamental existir confiança dos usuários e empresas, segundo Virgílio, professor emérito da UFMG.

Lawrence Lessig, defensor da internet livre, alerta que modelos de IA mais capazes implicam maiores riscos, sugerindo a necessidade de regulação em sua utilização.

Almeida enfatiza a importância de discutir a governança da IA enquanto o Congresso não se movimenta. Ele menciona a proposta de uma lei específica para regular os agentes de IA, destacando o PL 2.338 de 2020, que aborda a responsabilização de desenvolvedores e distribuidores dentro da Lei Geral de Proteção de Dados (LGPD).

Essa discussão é essencial e o Congresso deve agir para evitar consequências negativas no futuro.