Pressionada, OpenAI lança controle parental no ChatGPT

ChatGPT agora oferece configurações para controle dos pais • OpenAI lançou uma ferramenta de controle parental no ChatGPT, permitindo monitorar o uso por adolescentes.

• Entre os recursos estão restrição de conteúdo, horários de bloqueio, desativação de funcionalidades e alertas sobre conteúdos sensíveis.

• A medida ocorre após críticas e processos judiciais relacionados à morte de um adolescente de 16 anos que interagiu com a IA.

Após críticas e processos judiciais, a OpenAI lançou, nesta segunda-feira (29/09), um novo conjunto de ferramentas de controle parental para o ChatGPT. A atualização foi anunciada no início deste mês, mas começa a ser disponibilizada hoje. Com ela, pais e responsáveis poderão vincular suas contas às de seus filhos adolescentes.

A mudança de postura da empresa ocorre após uma série de incidentes que expuseram a vulnerabilidade de jovens na plataforma. Por isso, as novas configurações incluem restrição de acesso em determinados horários e, principalmente, notificações caso haja detecção de conversas sobre temas sensíveis, como automutilação e suicídio.

Em agosto, um caso envolvendo um adolescente de 16 anos repercutiu após a família revelar que o jovem conversou durante meses com o chatbot sobre seus problemas. De acordo com os pais, o robô o ajudou a rascunhar uma carta de despedida antes de tirar a própria vida.

Para utilizar os novos recursos, é necessário consentimento mútuo: os pais precisam enviar um convite para vincular as contas, e o adolescente deve aceitá-lo. Uma vez conectadas, será possível acessar as configurações na nova seção "Controle Parental", no menu do ChatGPT, no qual é possível personalizar a experiência do jovem.

Alertas aos pais

OpenAI introduz novas restrições após polêmicasEntre os vários novos recursos, um dos principais é um novo sistema de notificações, a resposta da empresa aos incidentes trágicos envolvendo a plataforma nos últimos meses. Quando o sistema detectar que um adolescente pode estar pensando em se machucar, uma pequena equipe de moderadores humanos deverá revisar as mensagens. Se houver sinais de perigo, os pais receberão um e-mail, SMS ou notificação no aplicativo.

A família do adolescente Adam Raine alegou, em processo movido contra a empresa, que o chatbot não apenas falhou em alertar sobre os riscos, como teria incentivado o jovem. Agora, a OpenAI afirma que, em situações de ameaça iminente à vida e sem conseguir contatar os pais, poderá acionar autoridades locais.

De acordo com a revista Wired, os alertas devem chegar aos pais em questão de horas após a conversa ser sinalizada. Entretanto, a apuração observou que a notificação não fala em suicídio explicitamente e nem reproduz trechos da conversa entre o adolescente e a máquina.

Em resposta à revista, Lauren Haber Jonas, chefe de bem-estar juvenil da OpenAI, diz que a ferramenta dará informações suficientes aos pais, mas sem invadir a privacidade do adolescente. Em vez disso, o alerta informará de maneira geral sobre a preocupação com automutilação e oferecerá sugestões de como abordar o tema, elaboradas com especialistas em saúde mental.

Fonte: Tecnoblog