IA erra menos que humanos, mas quando erra, o impacto é maior, diz CEO da Anthropic

Os erros de uma IA nem sempre são o que parecem. Segundo Dario Amodei, CEO da Anthropic, os modelos atuais erram menos que os humanos, mas quando falham, o fazem de maneira tão confiante e inesperada que o impacto é maior. “Alucinam menos, mas de formas mais surpreendentes”, resumiu ele durante o evento Code with Claude, realizado em maio em San Francisco.

A frase lança luz sobre uma discussão cada vez mais relevante entre pesquisadores, engenheiros e usuários: como identificar os limites reais da inteligência artificial generativa? E mais — até onde podemos confiar em suas respostas?

Inteligência artificial geral? Nem todos acreditam

Enquanto empresas como a Anthropic acreditam que estamos nos aproximando de uma IA geral (AGI), algo previsto por Amodei para “talvez 2026”, outras vozes no setor tratam esse conceito com ceticismo.

A pesquisadora Kate Crawford, por exemplo, afirma que AGI não passa de uma peça de marketing. Já Yann LeCun, um dos nomes mais influentes na história da IA, também se mostra distante dessa narrativa. Ambos reforçam que, apesar dos avanços impressionantes, a IA de hoje ainda está longe de replicar a cognição humana.

Quando a IA erra com confiança

Um dos maiores riscos, segundo Amodei, não está na frequência dos erros — mas na maneira como eles são apresentados. Os modelos generativos, como Claude e outros, tendem a oferecer respostas com tanta segurança que é fácil aceitá-las como verdade, mesmo quando completamente distorcidas da realidade.

Isso torna essencial o papel do fator humano no processo: interpretação crítica, checagem de fatos e bom senso continuam indispensáveis, mesmo na era da automação cognitiva.

Alucinações da IA: falha ou sinal de criatividade?

Há quem veja esses “erros alucinados” como falhas de projeto. Outros, porém, enxergam neles o germe da imaginação artificial. Afinal, muitos dos grandes saltos da inovação nasceram de ideias fora do padrão.

Amodei adota uma posição mais pragmática: a IA pode se equivocar, assim como qualquer humano em sua profissão. A diferença está na forma como esses erros são percebidos — e na responsabilidade que temos ao interpretá-los.

Recentemente, o CEO da Anthropic também alertou que a IA poderá eliminar milhões de empregos básicos nos próximos 5 anos. Confira a declaração completa e o impacto que isso pode ter no mercado de trabalho