Humanos não conseguirão fiscalizar a IA, será preciso outra IA pra isso, diz ex-CEO do Google

Todo mundo já ouviu o conselho clássico de reiniciar um aparelho quando ele trava. Pode parecer simples demais, mas na maioria das vezes funciona. Curiosamente, é com essa mesma lógica que Eric Schmidt, ex-CEO do Google, acredita que devemos encarar a inteligência artificial.

Durante uma entrevista ao programa This Week, da emissora americana ABC News, Schmidt comparou o crescimento acelerado da IA com um sistema que, em determinado ponto, talvez precise mesmo ser desligado. A metáfora do botão de liga e desliga não foi por acaso. Para ele, a humanidade pode estar se aproximando de um estágio em que não haverá mais controle sobre o que a IA pode fazer.

O momento em que a IA começa a agir por conta própria

Schmidt descreve um cenário que vem tirando o sono de muitos especialistas: a possibilidade de a IA alcançar um nível de autonomia tão elevado que seja capaz de aprimorar a si mesma, sem intervenção humana. E, segundo ele, se isso acontecer, será hora de considerar uma medida extrema: cortar a energia.

“Precisamos levar a sério a ideia de desligá-la se ela ultrapassar certos limites”, disse, sem meias palavras.

Schmidt também destaca os impactos no mercado de trabalho, que já vêm sendo transformados pela automação. Mas a preocupação maior está mesmo no desconhecido — no que a IA poderá se tornar, caso avance sem supervisão.

Com mais de uma década no comando do Google, Schmidt não fala como alguém avesso à tecnologia, mas como quem entende bem seu ritmo e seu potencial de ruptura. Ele acredita que seria prudente preparar um sistema de emergência, uma espécie de “plano B” para o caso de a IA atingir um patamar crítico de desenvolvimento.

A ideia é simples: sempre haver alguém com a mão próxima da tomada, pronto para interromper o funcionamento caso algo saia do controle.

IAs vigiando outras IAs

Para Schmidt, o cenário mais provável é que os próprios humanos não deem conta de acompanhar o avanço dessa tecnologia. A solução, segundo ele, talvez esteja em criar uma inteligência artificial paralela, projetada exclusivamente para monitorar o comportamento da outra.

“Os humanos não conseguirão fiscalizar a IA. Mas sistemas de IA podem ser programados para vigiar outras IAs”, concluiu.

Qual sua opinião sobre o avanço da IA? Qual seria a melhor maneira de administrar o avanço? Comente abaixo.

Você também deve ler!

Estes são os países que mais investem grana em inteligência artificial (veja quanto o Brasil já investiu)