Os artigos de pesquisa em IA estão ficando cada vez melhores, e isso representa um grande problema para os cientistas / The Verge

Os artigos de pesquisa em IA estão ficando cada vez melhores, e isso representa um grande problema para os cientistas / The Verge

Os otimistas em relação à IA generativa têm grandes esperanças em sua capacidade de produzir futuros avanços científicos — acelerando descobertas , eliminando a maioria dos tipos de câncer —, mas a tecnologia está atualmente minando um dos pilares da pesquisa científica, inundando editores e revisores com um fluxo interminável de artigos. Paradoxalmente, quanto melhor a tecnologia se torna em produzir artigos competentes, pior fica a crise.

Durante a última década, o setor editorial acadêmico tem enfrentado as chamadas “fábricas de artigos”, empresas do mercado negro que produzem artigos em massa e vendem direitos de autoria para acadêmicos, médicos ou outros que esperam obter vantagem competitiva com pesquisas publicadas em seus currículos. Tem sido um jogo de gato e rato, no qual as editoras — frequentemente pressionadas pelos chamados detetives científicos, pesquisadores especializados em desvendar pesquisas fraudulentas — fecham uma vulnerabilidade apenas para que as fábricas encontrem uma nova. A IA generativa foi uma dádiva para as fábricas, ajudando-as a burlar os detectores de plágio ao criar imagens e textos totalmente novos. Ainda assim, as alucinações reveladoras da tecnologia significavam que as editoras podiam, pelo menos teoricamente, filtrar grande parte do trabalho dessas empresas. Na prática, os artigos ainda eram publicados, apenas para serem retratados quando os detetives encontravam um diagrama de um rato com genitais inexplicavelmente gigantescos rotulado como “testtomcels” ou um texto salpicado de “como um assistente de IA” que alguém se esqueceu de apagar.

Mas agora a IA evoluiu a tal ponto que consegue produzir artigos convincentes quase em larga escala, permitindo que acadêmicos desesperados por uma publicação fabriquem seus próprios trabalhos. O resultado é uma avalanche de conteúdo científico de má qualidade que ameaça inundar os processos de publicação, revisão por pares, concessão de bolsas de pesquisa e o sistema de pesquisa como o conhecemos hoje.

#Ciência #IA #PesquisaCientífica #GestãoEditorial

via The Verge

Disponível em: https://www.theverge.com/ai-artificial-intelligence/930522/ai-research-papers-slop-peer-review-problem