Fortalecimento da ciência aberta para combater a desinformação científica / COMeIN

Fortalecimento da ciência aberta para combater a desinformação científica / COMeIN

Fortalecimento da ciência aberta para combater a desinformação científica / COMeIN

O debate sobre inteligência artificial generativa na academia tem se concentrado quase exclusivamente em grandes modelos de linguagem, como ChatGPT, Gemini ou Grok, e discutimos sobre escrita assistida, plágio automatizado ou assinatura de artigos por algoritmos. No entanto, estamos negligenciando uma ameaça mais profunda e preocupante para o futuro, como o surgimento iminente de deepfakes de cunho científico , com sua capacidade de corromper evidências empíricas. (…)

Para onde tudo isso nos leva? Confiar que a solução virá da mesma tecnologia apresenta o mesmo perigo que não confiar nela . Entraremos numa corrida em que os modelos generativos estarão sempre um passo à frente das ferramentas de detecção. Como nos anos em que vírus e antivírus lutavam usando nossos computadores como modelos de aprendizado.

O diagnóstico que começa a emergir parece-me cada vez mais claro. O modelo atual de produção científica acelerada e exponencial não consegue absorver a síntese generativa sem perder a sua integridade. Se não queremos que a literatura científica se torne uma simulação onde algoritmos geram dados que outros algoritmos analisam, temos de repensar as regras do jogo.

#CiênciaAberta #Desinformação #IA

Disponível em: https://www.uoc.edu/divulgacio/comein/ca/numero170/articles/a-lopez-enfortir-la-ciencia-oberta-per-lluitar-contra-la-desinformacio-cientifica.html

Deixe uma resposta