Redações com IA são fáceis de identificar e perdem autenticidade, diz estudo

Um novo estudo realizado pela Universidade Cornell revela que redações com IA são facilmente identificáveis por avaliadores e perdem significativamente em autenticidade quando comparadas aos textos produzidos genuinamente por estudantes. Pesquisadores da Cornell Ann S. Bowers College of Computing and Information Science conduziram uma análise detalhada de 30 mil redações de candidatos universitários, comparando-as com conteúdos gerados por oito diferentes modelos de linguagem, incluindo o ChatGPT.

Os resultados mostraram que mesmo quando orientados a criar textos sob a perspectiva de pessoas com diferentes raças, gêneros ou localizações geográficas, os modelos de linguagem produziram narrativas uniformes e estereotipadas. Esta padronização torna as redações com IA facilmente distinguíveis dos textos humanos, que naturalmente demonstram maior variabilidade e características pessoais.

O estudo, publicado recentemente no servidor de pré-impressão arXiv, levanta preocupações importantes para estudantes que consideram utilizar ferramentas de IA para escrever suas redações de admissão universitária.

Redações com IA são fáceis de identificar e perdem autenticidade, diz estudo 7 "O ensaio de admissão representa uma oportunidade para o candidato mostrar quem realmente é", explicou o professor Rene Kizilcec, coautor da pesquisa. Segundo ele, solicitar a um modelo de IA que elabore o texto completo resulta em redações genéricas que não capturam a essência individual do estudante.

A autenticidade, elemento fundamental avaliado nas redações de admissão, é justamente o que os sistemas de IA falham em reproduzir. Por mais sofisticados que sejam, esses modelos não conseguem incorporar as experiências pessoais, nuances emocionais e particularidades de escrita que tornam um texto verdadeiramente único.

Os pesquisadores enfatizam que, apesar da capacidade técnica dos modelos de linguagem em produzir textos gramaticalmente corretos, eles não conseguem replicar a diversidade de estilos e perspectivas encontradas na escrita humana genuína. Esta limitação torna as redações produzidas por IA perceptivelmente diferentes para avaliadores experientes.

Redações com IA são fáceis de identificar e perdem autenticidade, diz estudo 8 A importância da voz autêntica

Além de analisar as características dos textos, a equipe de Cornell também desenvolveu um modelo para identificar conteúdo gerado por IA, alcançando precisão quase perfeita na detecção. Este resultado sugere que instituições de ensino podem facilmente implementar ferramentas para identificar redações produzidas por inteligência artificial.

"Com as ferramentas de IA disponíveis atualmente, os alunos podem estar inadvertidamente prejudicando suas próprias chances de admissão", alertou AJ Alvero, outro coautor do estudo, destacando os riscos envolvidos na prática.

De acordo com estimativas citadas na pesquisa, aproximadamente 30% dos estudantes já utilizam IA para escrever redações acadêmicas. No entanto, diante das evidências apresentadas, os pesquisadores recomendam que os candidatos limitem o uso da tecnologia a funções de suporte, como obter feedback sobre rascunhos ou auxílio na revisão, evitando delegar a criação integral do texto a ferramentas automatizadas.

Para maximizar a autenticidade, a equipe sugere que estudantes escrevam seus rascunhos iniciais à mão, desenvolvendo sua própria voz antes de utilizar qualquer ferramenta tecnológica para refinamentos. Esta abordagem preservaria as características individuais que comissões de admissão valorizam, enquanto ainda permite beneficiar-se das capacidades de revisão oferecidas pela IA.

Você também pode gostar dos artigos abaixo:

Novos empregos estão sendo gerados para corrigir as "cagadas" feitas por inteligência artificial

Empresas recorrem novamente a humanos para consertar erros da inteligência artificial

Fonte: Hardware.com.br