Artigos acadêmicos estão contaminados por IA

Pesquisadores observaram aumento significativo do uso de inteligência artificial (IA) em artigos acadêmicos — colocando em xeque a integridade científica dos conteúdos.

“De acordo com minha última atualização de conhecimento”, “regenerar resposta”, “como um modelo de linguagem de IA” são algumas das frases identificadas em estudos que indicam a presença da tecnologia na redação dos textos.

Ferramentas de IA generativa, como o ChatGPT, têm sido amplamente usadas para preparar e revisar manuscritos e as editoras ainda buscam maneiras de garantir o uso ético dos chatbots. Algumas exigem que os autores divulguem o uso de IA, mas há centenas de casos em que isso não acontece, segundo artigo publicado na revista científica Nature.

Caçando IA

• Em artigo publicado no ano passado, o instrutor de pesquisa e comunicação na Universidade de Louisville, no Kentucky (EUA), Alex Glynn, relatou um dos primeiros casos de uso de IA em uma publicação científica sem divulgação;
• O texto continha a frase do chatbot “Eu sou um modelo de linguagem de IA“. “Era o mais descarado possível”, afirmou Glynn à Nature. “De alguma forma, isso passou despercebido não apenas pelos autores, mas, também, pelos editores, revisores, compositores e todos os demais envolvidos no processo de produção”;
• Glynn criou um rastreador online, o Academ-AI, para listar artigos que contêm sinais de IA, como as palavras “Certamente, aqui estão“, outra frase típica de chatbots;
• Até agora, 700 artigos foram identificados, sendo que 13% desses artigos apareceram em periódicos pertencentes a grandes editoras, como Elsevier, Springer Nature e MDPI.

Além dele, o pesquisador Artur Strzelecki, da Universidade de Economia de Katowice (Polônia), também reuniu 64 artigos publicados em periódicos respeitados que não cumpriram a regra de indicação de uso de IA. “Esses são lugares onde esperaríamos um bom trabalho dos editores e revisões decentes”, disse Strzelecki à Nature.

Leia mais:

• O lado obscuro da IA: o perigo invisível dos dados contaminados
• Como é a rotina dos brasileiros que treinam inteligências artificiais
• Seis lições que a IA generativa tem nos deixado

Artigos sob investigação

Os artigos sinalizados por Glynn e Strzelecki estão sob investigação, segundo a equipe de notícias da Nature, que contatou as diversas editoras envolvidas. Algumas delas esclareceram que não exigem a divulgação do uso de IA ou a determinam apenas para certos usos.

No caso da Springer, de propriedade da Springer Nature, por exemplo, a edição de texto assistida por IA, que inclui alterações feitas para legibilidade, estilo e erros gramaticais ou ortográficos, não precisa ser sinalizada, conforme a reportagem.

O post Artigos acadêmicos estão contaminados por IA apareceu primeiro em Olhar Digital.