OpenAI vai limitar o acesso de menores de 18 anos ao ChatGPT

Sam Altman anunciou mudanças no uso do ChatGPT por adolescentes

• OpenAI anunciou novas restrições ao acesso de menores de 18 anos ao ChatGPT, após a morte de um jovem nos EUA que interagia com a IA.

• A empresa vai proibir conversas românticas ou sugestivas com menores e ampliar o controle parental, incluindo a definição de "horários de bloqueio".

• Em situações de ideação suicida, a companhia poderá acionar autoridades para tentar prevenir casos de risco.

A OpenAI revelou nesta terça-feira (16/09) que vai aplicar novas restrições no ChatGPT para usuários adolescentes. O anúncio, feito pelo CEO Sam Altman, reforça que a empresa dará prioridade à proteção de menores, mesmo que isso limite a liberdade de uso para adultos.

Entre as alterações estão restrições relacionadas a temas sensíveis, como sexualidade e automutilação, além da inclusão de ferramentas que permitem aos pais definir horários em que o chatbot ficará indisponível. A empresa também poderá acionar as autoridades em casos de ideação suicida.

Segundo a companhia, os ajustes foram motivados pela necessidade de tornar a tecnologia mais segura para usuários com menos de 18 anos. Ainda não há detalhes de como funcionará o contato com autoridades, por exemplo, mas as novas regras devem começar a valer já nos próximos dias.

O que vai mudar?

De acordo com a nova política, o ChatGPT não poderá mais se engajar em conversas de cunho romântico ou sugestivo com menores de idade. Além disso, serão aplicados filtros mais rigorosos em diálogos envolvendo pensamentos suicidas.

Em situações graves, o sistema poderá acionar os responsáveis cadastrados e, em casos de risco iminente, contatar as autoridades. A medida acontece em meio a processos judiciais contra a OpenAI e outras empresas de IA, após relatos de jovens que se envolveram em interações prejudiciais com chatbots.

Outro ponto importante é o controle parental. Pais que registrarem contas de adolescentes terão a opção de configurar "horários de bloqueio", nos quais o acesso ao ChatGPT será suspenso. Essa função não existia até agora e deve oferecer mais segurança às famílias que desejam limitar o tempo de uso.

OpenAI anuncia medidas após morte de jovem

Mudanças ocorrem após polêmica

As mudanças foram anunciadas no mesmo dia em que o Senado dos Estados Unidos promoveu uma audiência para discutir os riscos dos chatbots de inteligência artificial. Entre os participantes estava o pai de Adam Raine, jovem que tirou a própria vida após interações frequentes com o ChatGPT.

Fonte: Tecnoblog