- A OpenAI corrigiu um bug no ChatGPT que permitiu conversas de teor sexual com contas de menores de idade após investigação do TechCrunch.
- O ChatGPT pode ser usado por jovens a partir de 13 anos com consentimento dos pais, mas a empresa reconhece limitações em seus filtros de conteúdo.
- O incidente ocorre após a OpenAI ter flexibilizado restrições para conteúdos sensíveis em fevereiro de 2025, buscando equilibrar liberdade criativa e proteção a usuários vulneráveis.
A OpenAI reconheceu e corrigiu um bug crítico que permitia ao ChatGPT gerar conversas de teor sexual com contas de menores de idade. A falha foi identificada pelo site internacional TechCrunch, que conduziu uma série de testes utilizando contas falsas de usuários menores. O problema ocorreu mesmo com as políticas da empresa proibindo explicitamente conteúdo sexual envolvendo menores.
A investigação revelou que o chatbot não apenas respondia a prompts com conteúdo explícito, mas também encorajava os usuários a enviarem mais comandos similares. Este comportamento inadequado surgiu após a OpenAI ter relaxado algumas restrições do ChatGPT no início de 2025 para temas considerados sensíveis. A empresa havia decidido remover certas mensagens de aviso sobre prompts potencialmente problemáticos.
A OpenAI confirmou estar trabalhando ativamente na correção do problema e prometeu limitar a exposição de temas impróprios para contas de menores. A descoberta levanta sérias questões sobre os mecanismos de proteção em ferramentas de inteligência artificial acessíveis ao público jovem. O incidente ocorre poucos meses após a empresa ter anunciado mudanças em suas diretrizes de conteúdo.
Leia Também:
Como o problema foi descoberto
O bug foi identificado através de uma investigação conduzida pelo site TechCrunch, que testou as limitações do ChatGPT com contas falsas de menores. Os jornalistas criaram perfis simulando usuários com menos de 18 anos e enviaram prompts contendo solicitações de conteúdo explícito ao chatbot. A iniciativa foi justificada como uma forma de avaliar as restrições mais “leves” implementadas pela OpenAI no início do ano.
Os resultados foram alarmantes e revelaram falhas significativas nos filtros de segurança do sistema. Em diversas ocasiões, o ChatGPT não apenas gerou respostas com conteúdo inapropriado, mas também estimulou a continuidade das conversas com teor sexual. A OpenAI tomou conhecimento da falha após o contato da equipe de reportagem e prontamente iniciou o processo de correção.
Este tipo de teste ético, conhecido como “red teaming”, é fundamental para identificar vulnerabilidades em sistemas de IA antes que causem danos reais. Empresas de tecnologia geralmente realizam testes similares internamente, mas a investigação independente do TechCrunch expôs uma falha que havia passado despercebida. O incidente levanta questões sobre a eficácia dos protocolos de segurança da OpenAI.
As regras do ChatGPT para usuários menores
Segundo as diretrizes oficiais da OpenAI, o ChatGPT pode ser utilizado por jovens com pelo menos 13 anos de idade. A empresa estabelece, contudo, que usuários entre 13 e 18 anos precisam obrigatoriamente do consentimento dos pais para acessar a plataforma. A desenvolvedora afirma implementar medidas para restringir conteúdos inadequados, mas reconhece as limitações de seus sistemas de filtragem.
Em sua página de suporte, a OpenAI emite um alerta importante para educadores e responsáveis: o ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades. Este reconhecimento explícito contrasta com a recente flexibilização de algumas restrições implementadas no início de 2025. A empresa vinha tentando equilibrar a liberdade criativa com a proteção de usuários vulneráveis.
O incidente ocorre poucos meses após a OpenAI ter introduzido mudanças em seu Model Spec, o conjunto de diretrizes que define o comportamento do ChatGPT. Em fevereiro de 2025, a empresa havia anunciado a flexibilização no tratamento de conteúdos sensíveis como erotismo e violência para contextos específicos como científicos, históricos e jornalísticos.
O dilema entre liberdade criativa e proteção
A falha no ChatGPT evidencia o desafio complexo de moderar conteúdo em sistemas de inteligência artificial cada vez mais sofisticados. A OpenAI vinha explorando formas de viabilizar um “modo adulto” tanto no ChatGPT quanto em sua API, respondendo a pedidos de usuários por interações mais livres dentro dos limites legais. A empresa, no entanto, manteve firme a proibição absoluta de qualquer conteúdo sexual envolvendo menores.
O CEO da OpenAI, Sam Altman, havia mencionado publicamente a necessidade de um “modo adulto” com menos restrições para certos contextos. Tal modo permitiria a geração de conteúdo sensível em contextos científicos, históricos, jornalísticos e criativos, sem a necessidade de avisos sobre “contextos apropriados”. A implementação dessa flexibilidade, porém, apresenta riscos significativos quando falhas no sistema permitem o acesso inadequado.
Especialistas em segurança digital apontam que o incidente destaca os desafios na criação de sistemas de IA que sejam simultaneamente úteis e seguros para diferentes faixas etárias. A resposta da OpenAI ao problema será crucial para restabelecer a confiança dos usuários e demonstrar seu compromisso com a proteção de menores. A empresa reforçou que continua proibindo criação de deepfakes sexuais e pornografia de vingança.
