IdeaLens: ferramenta identifica autoria de ideias em documentos científicos

Pesquisadores desenvolveram uma ferramenta chamada IdeaLens, capaz de identificar se as ideias presentes em documentos científicos são de autoria humana ou de inteligência artificial (IA). O sistema se destaca por analisar a organização dos argumentos e o encadeamento das ideias, em vez de focar apenas nas características da escrita.

O surgimento do IdeaLens ocorre em um contexto onde o uso de IA na produção científica se torna mais frequente, e revistas e conferências acadêmicas enfrentam desafios na avaliação da autoria dos trabalhos submetidos. Segundo Rishanth Rajendhran, cientista da computação na Universidade de Maryland e um dos autores do trabalho que descreve o IdeaLens, a aceitação do uso de IA para redigir artigos aumenta, desde que a ideia principal seja do pesquisador.

Funcionamento do IdeaLens

O IdeaLens opera transformando o documento analisado em um esboço que resume sua estrutura, eliminando elementos de estilo da escrita. Em seguida, busca padrões que diferenciam ideias criadas por humanos e por sistemas de inteligência artificial, levando em consideração a construção dos argumentos e o fluxo do raciocínio.

Nikhil Garg, cientista da computação da Cornell Tech, elogiou a capacidade do sistema em reconhecer argumentos gerados por IA com base apenas em seus esboços estruturais. A proposta se fundamenta em pesquisas anteriores que identificaram diferenças na organização de narrativas escritas por humanos e por sistemas de IA.

Apesar do desempenho promissor, o IdeaLens não deve ser considerado um método infalível para determinar a autoria de ideias. Garg alerta que a ferramenta pode ter falhas, principalmente quando usada em outros contextos ou tipos de documentos que não foram incluídos em seu treinamento.

Os resultados do estudo em que o IdeaLens foi apresentado foram divulgados como pré-print no repositório arXiv, sugerindo que devem ser interpretados com cautela. A ferramenta pode auxiliar revistas científicas e organizadores de conferências a investigar o uso de IA em trabalhos submetidos, mas sua eficácia dependerá de estudos adicionais sobre sua confiabilidade.

Reconhecer padrões associados a IA não é sinônimo de provar a concepção original de uma ideia.