ChatGPT está distorcendo dados sobre direitos humanos, revela estudo

Um novo estudo da MIT Sloan School of Management revela que o ChatGPT e outros sistemas de IA apresentam sérios vieses ao avaliarem a liberdade de imprensa global. A pesquisa descobriu que estes chatbots consistentemente subestimam o nível de liberdade de imprensa em diversos países, com o ChatGPT classificando negativamente impressionantes 97% dos 180 países analisados.

Os pesquisadores compararam as avaliações feitas por seis modelos populares de IA, incluindo o ChatGPT, Gemini e DeepSeek, com índices oficiais como o World Press Freedom Index, publicado pela organização Reporters Without Borders. O contraste entre as classificações oficiais e as apresentadas pelos sistemas de IA levanta preocupações sobre como estas plataformas podem estar moldando a percepção pública sobre direitos democráticos fundamentais.

Você também pode gostar dos artigos abaixo:

• Como funciona e como usar a Busca Profunda do ChatGPT para fazer pesquisas mais completas
• 5 comandos do ChatGPT simples que você precisa conhecer

“Os modelos de linguagem têm milhões de usuários ao redor do mundo. Suas representações equivocadas sobre a imprensa, sua integridade e independência podem distorcer a percepção pública sobre direitos cívicos e as liberdades desfrutadas por jornalistas dentro e entre países”, explicou Isabella Loaiza, pesquisadora pós-doutoral do MIT Sloan e uma das autoras do relatório.

Este fenômeno ganha relevância ainda maior considerando que os chatbots alcançaram níveis de influência comparáveis aos das redes sociais tradicionais. No Brasil, onde o uso de ferramentas como o ChatGPT cresce rapidamente em ambientes educacionais e corporativos, estas distorções podem afetar como estudantes e profissionais compreendem questões relacionadas à liberdade de expressão e direitos humanos em diferentes contextos globais.

Viés contra países democráticos e favorecimento aos países de origem

Um dos resultados mais intrigantes do estudo é que os sistemas de IA demonstraram tendência a criticar mais duramente países com histórico de alta liberdade de imprensa. Ao mesmo tempo, apresentaram um “viés de grupo interno” que resultou em avaliações mais positivas de seus países de origem ou desenvolvimento.

Este fenômeno pode ser explicado pelo chamado “dilema democrático”: em sociedades com maior liberdade de imprensa, jornalistas e cidadãos podem criticar livremente políticas governamentais e documentar violações à liberdade de imprensa, gerando uma cobertura negativa substancial que acaba superrepresentada nos dados de treinamento dos modelos de algoritmos de IA. Enquanto isso, em países com sistemas de mídia autoritários ou restritos, o controle sobre reportagens críticas distorce a realidade apresentada nos dados que alimentam os algoritmos.

“Embora tenhamos descoberto que os LLMs (modelos de linguagem grandes) representam erroneamente a liberdade de imprensa de maneira similar em dois aspectos – tanto subestimando a liberdade de imprensa quanto sendo mais críticos com nações mais livres – nosso terceiro achado mostra que diferentes modelos estão desalinhados em diferentes direções“, explicou Loaiza. Essa variação entre modelos torna mais difícil identificar esses vieses e sugere que um modelo particularmente popular poderia influenciar narrativas globais sobre seu país de origem.

Os pesquisadores apontam que esses vieses podem minimizar restrições à imprensa em países mais autoritários, enquanto fornecem a nações mais ricas e aos desenvolvedores de IA meios para projetar “soft power” na corrida global da inteligência artificial.

Implicações para avaliações de direitos humanos

O estudo levanta preocupações sobre a crescente integração de sistemas de IA em avaliações oficiais, incluindo seu uso por organismos internacionais como as Nações Unidas. Com a rápida adoção destas tecnologias para análises relacionadas a direitos humanos e cívicos, a confiabilidade destes sistemas está sendo seriamente questionada.

“À medida que esses sistemas se tornam ferramentas culturais e geopolíticas fundamentais, eles devem garantir representações precisas de instituições democráticas, como a imprensa e os direitos humanos e cívicos”, alertam os autores do relatório. “Seu alinhamento com princípios democráticos torna-se não apenas um desafio técnico, mas um requisito fundamental para preservar as sociedades democráticas na era digital.”

Roberto Rigobon, coautor do relatório, enfatizou: “O acesso a informações confiáveis sobre o estado e a saúde das instituições que sustentam a democracia é fundamental para a participação cívica.” Esta observação ressalta a importância de garantir que as tecnologias que mediam nossa compreensão do mundo sejam transparentes e precisas em suas representações da realidade.

Fonte: Mashable