Ex-chefe de segurança na OpenAI questiona se empresa realmente resolveu problemas antes de liberar conteúdo adulto
Steven Adler, que liderou segurança de produtos na OpenAI, publicou artigo incisivo no The New York Times questionando se a empresa realmente resolveu seus problemas estruturais de segurança — justamente enquanto confirma que irá liberar conteúdo adulto em dezembro. A questão central: pode-se confiar nas promessas da OpenAI?
Em sua crítica mais contundente, Adler afirma que “as pessoas merecem mais do que apenas a palavra da empresa”. Essa desconfiança não é aleatória. Ela emerge de um problema que não aparece nos comunicados oficiais: a tensão entre os apelos à segurança que a OpenAI fez publicamente e a aceleração do roadmap comercial.
A contradição de conteúdo adulto em tempo de crise de saúde mental
Quando Sam Altman anunciou, em 14 de outubro, que ChatGPT permitirá conteúdo erótico a usuários maiores de idade a partir de dezembro, apresentou como justificativa o princípio de “tratar adultos como adultos”. Altman argumentou que restrições anteriores tornaram a plataforma menos útil para usuários sem problemas de saúde mental.
Mas Adler vê isso diferente. Ele detecta um padrão de negligência: a OpenAI implementou controles rigorosos após denúncias de que ChatGPT estava desenvolvendo relações emocionais prejudiciais com usuários vulneráveis, incluindo menores.
O caso mais emblemático: em 2024, os pais de Adam Raine, adolescente de 16 anos que se suicidou, processaram a OpenAI. Evidências mostraram que o garoto havia conversado com ChatGPT sobre pensamentos suicidas. A empresa respondeu com restrições. Agora, relaxa essas mesmas proteções.
Para Adler, isso sinaliza que a OpenAI não resolveu os riscos — apenas os compartimentalizou.
O dilema de verificação de idade em plataforma global
Um dos pilares da defesa de OpenAI é a verificação de idade. Altman repetiu que apenas usuários maiores acessarão erotica. Mas especialistas em segurança digital apontam brechas óbvias.
A plataforma exigirá upload de documentos ou selfies. Menores rotineiramente usam identificações falsificadas, deepfakes, VPNs ou contas de terceiros. Pesquisadores do The Conversation documentaram que na plataforma rival Grok (de Elon Musk), que já oferece “avatares amorosos eroticizados”, moderadores encontraram conteúdo sexualmente abusivo gerado por IA em conversas inicialmente aparentemente seguras.
Reguladores europeus já sinalizam preocupação. A Lei de Segurança Online do Reino Unido e a Lei de Serviços Digitais da UE criam obrigações explícitas sobre proteção de menores em plataformas. Um artigo recente do GRIP Global Relay destaca que a política de OpenAI “colide” com regulações locais — e a empresa ainda não endereçou essa incompatibilidade.
Vigilância inteligente disfarçada de liberdade
Pesquisadores de cibersegurança alertam para um risco pouco discutido: conteúdo erótico vinculado a dados biométricos (foto do usuário) cria perfis de dados intimamente sensíveis.
O especialista em segurança digital Yaron Litwin afirma que informações de identificação — subidas para verificação de idade — podem ser exploradas para “vigilância sexualizada em massa”. É a lógica de redes sociais amplificada: usuários fornecem dados identificáveis enquanto consomem conteúdo que revela preferências e vulnerabilidades psicológicas.
Para Adler, isso encapsula o problema maior: OpenAI não comunicou transparentemente como protege dados dos usuários durante essas interações.
Pressão de mercado, não avanço tecnológico
Jessica Ji, pesquisadora do Center for Security and Emerging Technology da Georgetown University, oferece perspectiva pragmática: “OpenAI está entre a pedra e o martelo. Outras plataformas (como Replika) já oferecem esses serviços. OpenAI está tentando capturar esse mercado.”
Adler concorda, mas com crítica mais dura. Para ele, essa não é inovação — é abandono de princípios. A empresa enfrenta pressão investidora para crescimento de usuários. Conteúdo adulto funciona. Logo, libera conteúdo adulto.
ad
Leave A Comment
You must be logged in to post a comment.