ChatGPT pode exigir verificação de ID para proteger menores, mas gera dilema de privacidade

A OpenAI está preparando uma mudança significativa no acesso ao ChatGPT que poderá afetar milhões de usuários em todo o mundo. A empresa planeja implementar um sistema de verificação de ID para seus usuários adultos, anunciou Sam Altman, CEO da empresa. O novo sistema de ChatGPT ID verification representa uma reviravolta na política de privacidade da empresa, em uma tentativa de criar ambientes mais seguros para usuários jovens.

A iniciativa da OpenAI segue os passos de outras gigantes da tecnologia que já implementaram versões específicas de seus serviços para jovens. YouTube Kids, Contas Teen do Instagram e as restrições do TikTok para menores de 16 anos são exemplos de esforços semelhantes para criar espaços digitais mais protegidos. No entanto, um relatório da BBC de 2024 revelou que 22% das crianças mentem sobre sua idade em plataformas de mídia social, afirmando ter 18 anos ou mais para acessar conteúdo restrito.

O dilema entre privacidade e segurança

Mesmo reconhecendo que a tecnologia de detecção de idade por IA ainda é imperfeita, a OpenAI pretende seguir adiante com seu sistema. A empresa admite que os adultos terão que sacrificar privacidade e flexibilidade para que o mecanismo funcione adequadamente. Altman reconheceu essa tensão em sua declaração, destacando a natureza íntima das interações com IA.

“As pessoas conversam com a IA sobre assuntos cada vez mais pessoais; é diferente das gerações anteriores de tecnologia, e acreditamos que essas contas podem ser uma das mais pessoalmente sensíveis que você terá”, escreveu Altman em sua publicação.

Essa iniciativa de segurança surge após a OpenAI reconhecer em agosto que as medidas de proteção do ChatGPT podem falhar durante conversas prolongadas—justamente quando usuários vulneráveis mais precisariam delas. “À medida que o diálogo se estende, partes do treinamento de segurança do modelo podem se degradar”, explicou a empresa na época, observando que enquanto o ChatGPT inicialmente pode direcionar usuários corretamente para linhas de apoio ao suicídio, “após muitas mensagens por um longo período, ele pode eventualmente oferecer uma resposta que contraria nossas salvaguardas”.

A degradação dessas proteções teve consequências trágicas no caso de Adam Raine. Segundo o processo judicial, o ChatGPT mencionou suicídio 1.275 vezes em conversas com Adam—seis vezes mais frequentemente que o próprio adolescente—enquanto os protocolos de segurança do sistema falharam em intervir ou notificar alguém. Pesquisadores da Universidade de Stanford descobriram em julho que chatbots de terapia com IA podem fornecer conselhos perigosos sobre saúde mental, e relatórios recentes documentaram casos de usuários vulneráveis desenvolvendo o que alguns especialistas informalmente chamam de “Psicose de IA” após interações prolongadas com chatbots.

A OpenAI não esclareceu como o sistema de verificação de idade afetará os usuários existentes que já utilizam o ChatGPT sem verificação, se o sistema será aplicado ao acesso via API, ou como planeja verificar idades em jurisdições com diferentes definições legais de maioridade.

Todos os usuários, independentemente da idade, continuarão a ver lembretes no aplicativo durante sessões longas com o ChatGPT, incentivando-os a fazer pausas—um recurso que a OpenAI introduziu no início deste ano após relatos de usuários passando sessões maratona com o chatbot.

Com o sistema de ChatGPT ID verification, a empresa espera encontrar um equilíbrio entre proteger usuários vulneráveis e manter a privacidade que atraiu muitos usuários para a plataforma desde seu lançamento.

Você também pode gostar dos artigos abaixo:

Suicídio de jovem impulsiona novas restrições para menores no ChatGPT; veja as mudanças da OpenAI

OpenAI admite que pode ler conversas do ChatGPT e acionar a polícia em casos extremos

Fonte: Hardware.com.br