Seitas tech: ex-diretora da OpenAI alerta que IA usará seus medos mais íntimos para te controlar

Helen Toner carrega nas costas uma das decisões mais controversas da história recente da tecnologia. Em novembro de 2023, aos 33 anos, a pesquisadora australiana votou pela demissão de Sam Altman como CEO da OpenAI, numa jogada que sacudiu o Vale do Silício e recolocou a empresa no centro de debates globais sobre o futuro da IA.

Hoje, longe dos holofotes corporativos, Toner dirige pesquisas no Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown e oferece uma perspectiva única sobre os rumos da inteligência artificial. Em entrevista ao El País, ela detalha cenários que vão muito além da ficção científica.

O futuro sombrio das relações com IA

Quando questionada sobre manipulação por inteligência artificial, Toner aponta para um fenômeno que considera mais realista e perigoso que cenários apocalípticos: o surgimento de cultos baseados em IA.

“Vamos ver pessoas criando vínculos emocionais profundos com seus assistentes artificiais, tratando‌-os como amigos íntimos ou conselheiros espirituais”, explica a especialista. “A história mostra que fundar seitas é surpreendentemente simples. Agora imagine isso potencializado por uma IA que conhece perfeitamente seus medos, desejos e vulnerabilidades.”

O cenário não é distópico‌ — já acontece. Milhões de usuários desenvolvem relacionamentos pessoais com chatbots, compartilhando segredos e buscando conselhos em momentos de fragilidade emocional. O próprio Sam Altman já afirmou que a Geração Z consulta o ChatGPT antes de tomar decisões importantes. 

China vs EUA: a real distância na corrida da IA

Sobre a competição tecnológica entre superpotências, Toner oferece dados concretos baseados em lançamentos recentes. O DeepSeek V3, modelo chinês lançado em dezembro de 2024, impressionou especialistas por estar apenas seis a nove meses atrás de equivalentes americanos.

“Muita gente se empolgou com o R1, o modelo de raciocínio deles, mas entre profissionais da área, o V3 causou mais impacto”, revela. “Atualmente, a China está entre seis e doze meses atrás dos EUA, mas essa distância pode aumentar com as restrições de exportação de chips.”

A avaliação contrasta com narrativas simplistas sobre dominação tecnológica absoluta, mostrando uma corrida mais equilibrada do que aparenta.

IA militar: além das armas autônomas

Toner, que também trabalha com segurança nacional, critica o foco excessivo em armas autônomas nos debates sobre IA militar. “Os exércitos são organizações gigantescas com recursos humanos, finanças, logística. Faz todo sentido que usem IA como qualquer empresa”, argumenta.

As aplicações mais relevantes incluem análise de imagens de inteligência, manutenção preditiva de equipamentos e otimização administrativa‌ — áreas menos chamativas, mas com impacto estratégico real.

Para ela, o foco deveria estar nas leis de guerra existentes: “A questão central é se estamos diferenciando combatentes de civis e respondendo proporcionalmente. Isso já é regulamentado pelo direito internacional.”

O modelo de negócios bilionário que vem aí

Questionada sobre sustentabilidade financeira da IA, Toner é categórica: “O dinheiro grande virá das empresas, não do consumidor final.”

A lógica é a seguinte: como tecnologia de propósito geral, a IA se torna ferramenta essencial para produtividade e inovação em praticamente todos os setores. “Não estamos falando apenas de chatbots divertidos no celular, mas de transformação profunda em como trabalhamos e criamos valor.”

Mesmo parada, a IA já mudaria tudo

Uma das reflexões mais surpreendentes de Toner envolve o potencial transformador atual da tecnologia. “Mesmo se o desenvolvimento parasse hoje, ainda teríamos décadas de integração pela frente”, afirma.

A comparação com a internet é inevitável. “A transição de não ter internet para tê‌-la levou décadas. Com a IA, mesmo no estágio atual, ainda há trabalho imenso para integração em saúde, educação, processos empresariais, direito e finanças.

Raciocínio e agentes

Toner identifica duas fronteiras principais para os próximos 25 anos:

• Modelos de raciocínio: capazes de resolver problemas complexos passo a passo
• Agentes autônomos: capazes de tomar decisões e executar tarefas independentes

“A história dos últimos 15 anos na IA não foi de grandes revoluções, mas de melhorias incrementais que, somadas, geram avanços importantes”, explica. “Não apostaria que chegamos ao teto do que é possível.”

O futuro do poder em um mundo com IA

Talvez sua reflexão mais provocadora envolva reconfiguração política e social. “A IA mudará completamente o equilíbrio de poder”, prevê. “Quantos soldados você precisa em um exército com certos tipos de IA? Qual o poder dos trabalhadores se fazem greve em um mundo automatizado?”

O cenário otimista inclui um mundo onde necessidades básicas estão garantidas e todos têm acesso à IA. “Poderia ser maravilhoso”, admite. “Mas a condição básica da humanidade, ao longo da história, sempre foi que quem tem poder manda, e quem não tem vive pior.”

Esta tensão entre potencial utópico e realidade histórica define muito do debate atual sobre IA‌. Uma tecnologia poderosa o suficiente para redefinir a civilização, nas mãos de quem souber direcioná‌-la.