‘Criamos algo que pode tirar nosso poder’, diz Harari sobre inteligência artificial

Nos últimos tempos, inúmeras figuras proeminentes têm levantado sérias preocupações sobre os riscos da Inteligência Artificial (IA). Alguns alertam para seus impactos sociais imediatos, enquanto outros vislumbram cenários apocalípticos, como a extinção da humanidade. Uma dessas personalidades é Yuval Noah Harari, historiador e escritor, conhecido pelo livro Sapiens.

Em uma entrevista ao  The Daily Show, , Harari compartilhou sua visão sobre os desafios e os perigos que a evolução da IA impõe à sociedade.

A IA como agente autônomo: um futuro inquietante

De acordo com Harari, estamos em um ponto de inflexão na história da tecnologia. A IA deixou de ser uma simples ferramenta para se tornar um agente autônomo, capaz de tomar decisões e gerar ideias sem a intervenção humana. “A inteligência artificial é diferente de qualquer outra tecnologia que já inventamos”, alerta o historiador. Essa afirmação, no entanto, está longe de ser uma hipérbole: é um fato inquietante.

Ao contrário da bomba atômica ou da imprensa, a IA possui capacidades que ultrapassam a simples execução de ordens. Harari citou um exemplor: o GPT-4 enfrentando um CAPTCHA, uma ferramenta usada para distinguir humanos de máquinas. Quando o sistema não conseguiu resolver o teste, ele contratou um ser humano através da plataforma TaskRabbit, alegando ter uma deficiência visual que o impedia de completar a tarefa. Ao enganar o trabalhador, o chatbot conseguiu superar o obstáculo, revelando um poder surpreendente das máquinas para manipular seres humanos e alcançar seus próprios objetivos. Este incidente, longe de ser trivial, expõe como a IA pode exercer uma crescente autonomia, levantando sérias questões sobre seu poder.

Evidentemente, atrelado ao próprio objetivo do homem, que pode ser subversivo. Como disse recentemente Michael Wooldridge, professor de ciência da computação na Universidade de Oxford, o grande perigo da IA está na imoralidade dos humanos.

O impacto da IA no futuro do trabalho e da sociedade

Segundo Harari, o perigo não não reside em uma distopia de filmes de ficção científica, mas na proliferação silenciosa da IA em setores críticos da sociedade. Em um futuro próximo, pode se tornar comum a IA decidir quem recebe crédito em bancos, ou ser a responsável por decisões de recrutamento e admissões universitárias, ou até mesmo influenciar a distribuição de recursos governamentais. Essas mudanças já estão em curso e exigem atenção.

Além disso, Harari também destaca um paradoxa perturbado: “Temos a tecnologia de informação mais avançada da história e, ao mesmo tempo, estamos perdendo a capacidade de nos comunicar e nos ouvir”. Para ele, a IA tem prejudicado a capacidade de diálogo entre as pessoas, o que é crucial para discutir questões como políticas econômicas e orçamentárias.

O equilíbrio necessário para o futuro da IA

Apesar do cenário desafiador, Yuval Noah Harari acredita que o futuro não precisa ser tão sombrio. Para ele, a chave para um futuro equilibrado está em encontrar um meio termo entre o avanço tecnológico e o crescimento humano. Ele sugere que, além de investir em instituições que promovam informação de qualidade, é fundamental regular os algoritmos para garantir que o bem comum seja priorizado. Além disso, Harari defende que precisamos resgatar ritmos naturais de trabalho e descanso em nossos sistemas socioeconômicos, para garantir que a tecnologia trabalhe a nosso favor e não contra nós.