Tag: ChatGPT

Artigos retratados sobre células-tronco são continuamente citados em publicações e utilizados pelo ChatGPT / Scientometrics 

Por em Informe-CI Tag ,

Artigos retratados sobre células-tronco são continuamente citados em publicações e utilizados pelo ChatGPT / Scientometrics 

Múltiplos métodos de detecção confirmam que a literatura sobre células-tronco retratada está incorporada aos dados de treinamento do ChatGPT-5.0. O modelo demonstra reconhecimento inconsistente de retratações e exibe disparidades geográficas nos padrões de citação. Essas descobertas destacam a necessidade urgente de mecanismos de filtragem aprimorados nos fluxos de treinamento de modelos de aprendizagem de linguagem e em sistemas dinâmicos de verificação de retratações.

#Retratação #ChatGPT

Disponível em: https://link.springer.com/article/10.1007/s11192-025-05484-y

Pesquisadores descobrem que mecanismos de busca com inteligência artificial dependem de fontes “menos populares” / Ars Technica

Por em Informe-CI Tag , ,

Pesquisadores descobrem que mecanismos de busca com inteligência artificial dependem de fontes “menos populares” / Ars Technica

De modo geral, as fontes citadas nos resultados das ferramentas de busca generativa tendiam a ser de sites menos populares do que aqueles que apareciam entre os 10 primeiros resultados de uma busca tradicional, segundo a ferramenta de rastreamento de domínios Tranco . As fontes citadas pelos mecanismos de IA tinham maior probabilidade do que as encontradas em buscas tradicionais do Google de estarem fora dos 1.000 e 1.000.000 domínios mais populares rastreados pela Tranco. A busca Gemini, em particular, mostrou uma tendência a citar domínios impopulares, com a fonte mediana ficando fora do top 1.000 da Tranco em todos os resultados.

Embora os pesquisadores não tenham determinado se os mecanismos de busca baseados em IA eram, no geral, “melhores” ou “piores” do que os mecanismos de busca tradicionais, eles incentivaram pesquisas futuras sobre “novos métodos de avaliação que considerem conjuntamente a diversidade de fontes, a abrangência conceitual e o comportamento de síntese em sistemas de busca generativos”.

#Buscadores #Gemini #ChatGPT

Disponível em: https://arstechnica.com/ai/2025/10/ai-powered-search-engines-rely-on-less-popular-sources-researchers-find/

Engenharia rápida para raspagem bibliográfica na web / Scientometrics

Por em Informe-CI Tag ,

Engenharia rápida para raspagem bibliográfica na web / Scientometrics

O objetivo deste artigo é definir como usar eficientemente a engenharia de prompts para elaborar um modelo de entrada de dados adequado, capaz de gerar, em uma única interação com o ChatGPT-4o, um web scraper totalmente funcional, programado em linguagem PHP, adaptado ao caso de catálogos bibliográficos. Como exemplo de demonstração, utiliza-se o catálogo bibliográfico da Biblioteca Nacional da Espanha, com um conjunto de dados de milhares de registros. Os resultados apresentam um modelo eficaz para o desenvolvimento de programas de web scraping, auxiliado por IA e com a mínima interação possível. Os resultados obtidos com o modelo indicam que o uso de prompts com modelos de linguagem de grande porte (LLM) pode melhorar a qualidade do scraping, compreendendo contextos e padrões específicos, adaptando-se a diferentes formatos e estilos de apresentação de informações bibliográficas.

#ChatGPT #WebScrapping

Disponível em: http://eprints.rclis.org/47235/

Rastros do ChatGPT / Pesquisa Fapesp

Por em Informe-CI Tag , ,

Rastros do ChatGPT / Pesquisa Fapesp

A Associação Americana para Pesquisa do Câncer (AACR), que publica 10 revistas científicas da área de oncologia, detectou uma prevalência elevada do uso de programas de inteligência artificial generativa nos trabalhos submetidos a seus periódicos. 23% dos manuscritos encaminhados por autores em 2024 continham indícios de que os textos foram preparados ou revisados com o apoio de grandes modelos de linguagem (LLM), sistemas de inteligência artificial treinados com enormes volumes de texto para compreender a linguagem humana, nos quais se baseiam ferramentas como o ChatGPT. O problema se estende, embora em menor escala, ao trabalho dos revisores – especialistas que avaliam o conteúdo dos trabalhos e recomendam ou não sua publicação. Há sinais de uso de programas de IA em 5% de pareceres de revisão por pares produzidos em 2024.

#GPT #EscritaCientífica #ComunicaçãoCientífica

Disponível em: https://revistapesquisa.fapesp.br/rastros-do-chatgpt/

Jornalistas científicos acham que o ChatGPT é ruim para resumir artigos científicos (mas será que é mesmo?) / The Distant Librarian

Por em Informe-CI Tag ,

Jornalistas científicos acham que o ChatGPT é ruim para resumir artigos científicos (mas será que é mesmo?) / The Distant Librarian

Conforme relatado pela Ars Technica , com muitos mais detalhes no White Paper (PDF) escrito pela equipe do Science Press Package, SciPak. Não tenho motivos para duvidar das conclusões, mas tomo nota das ressalvas que aparecem no próprio artigo…

Os prompts utilizados pelos avaliadores estão listados no apêndice do artigo (pág. 9) e são uma boa ilustração de como se deve escrever um prompt se se busca um tipo específico de resposta. Infelizmente, o artigo não indica se os resultados daquele prompt mais específico foram, em geral, melhores do que os menos específicos.
Acho importante fazer seus próprios testes, porque uma das maneiras pelas quais vemos estudantes, especialmente, usarem LLMs é exatamente para esse propósito: resumir trabalhos mais longos e difíceis. Se os resumos estiverem errados, isso é obviamente preocupante, mas se estiverem certos, mas não se adequarem a um estilo específico, isso é muito menos preocupante, na minha humilde opinião, e poderia ser corrigido com melhores orientações.

#DivulgaçãoCientífica #ChatGPT

via The Distant Librarian

Disponível em: https://distlib.pival.me/science-journalists-find-chatgpt-is-bad-at-summarizing-scientific-papers-but-are-they-really/

Datalogação: avaliação de ferramentas de inteligência artificial para automatizar a catalogação de livros / Infonomy

Por em Informe-CI Tag , , , ,

Datalogação: avaliação de ferramentas de inteligência artificial para automatizar a catalogação de livros / Infonomy

Esta pesquisa analisa o impacto no tempo, custos, qualidade e quantidade de livros catalogados usando aplicativos de inteligência artificial como ChatGPT 3.5, ChatGPT 4.0, Gemini e Copilot em comparação com a catalogação realizada por um catalogador especialista. Os livros selecionados foram três best-sellers e duas obras de primeira linha selecionadas pela equipe do Sistema de Bibliotecas da Universidade Distrital Francisco José de Caldas. Os resultados nos permitiram inferir que o processo médio de catalogação usando aplicativos que usam o Large Language Model é 183 vezes mais rápido, o custo salarial de um catalogador é 64 vezes mais caro do que a IA, e a IA pode catalogar 187 vezes mais livros do que um catalogador.

#Catalogação #IA #ChatGPT #Gemini #CoPilot

Disponível em: https://infonomy.scimagoepi.com/index.php/infonomy/article/view/104

Por que os modelos de linguagem alucinam? / OpenIA

Por em Informe-CI Tag ,

Por que os modelos de linguagem alucinam? / OpenIA

A persistência das alucinações se deve em parte aos incentivos oferecidos pelos métodos de avaliação que estão sendo usados. Embora as avaliações não provoquem as alucinações diretamente, a maioria delas mede o desempenho do modelo de uma forma que favorece adivinhações, em vez de reconhecer uma incerteza.

É como se fosse um teste de múltipla escolha. Se você não sabe, mas chuta uma resposta, pode acabar acertando. Mas vai ser pura sorte. Além disso, você sabe que deixar a resposta em branco é sinônimo de nota zero. Assim, quando os modelos são avaliados somente pela precisão, ou pelas perguntas com respostas exatas, eles são estimulados a adivinharem — e não a dizerem “não sei”.

#ChatGPT #Alucinação

via OpenIA

Disponível em: https://openai.com/pt-BR/index/why-language-models-hallucinate/

Conteúdo de IA está contaminando servidores de preprints e como os moderadores estão reagindo / Nature

Por em Informe-CI Tag , ,

Conteúdo de IA está contaminando servidores de preprints e como os moderadores estão reagindo / Nature

Os serviços de preprints contatados pela Nature afirmaram que uma proporção relativamente pequena de suas submissões apresenta sinais de serem geradas por um modelo de linguagem de grande porte (LLM), como o que impulsiona o ChatGPT da OpenAI. Os operadores do servidor de pré-impressão arXiv, por exemplo, estimam que cerca de 2% de suas submissões são rejeitadas por serem produtos de IA, fábricas de papel ou ambos.

Richard Sever, chefe da openRxiv, que opera o servidor de pré-impressão de ciências biológicas bioRxiv e o servidor biomédico medRxiv, com sede na cidade de Nova York, afirma que os dois, combinados, rejeitam mais de dez manuscritos por dia que parecem formulados e podem ter sido gerados por IA. Os serviços recebem cerca de 7.000 submissões por mês.

#Preprints #IA #ChatGPT

via Nature

Disponível em: https://www.nature.com/articles/d41586-025-02469-y

Ao menos 770 publicações acadêmicas usaram IA sem sinalizar / Núcleo

Por em Informe-CI Tag ,

Ao menos 770 publicações acadêmicas usaram IA sem sinalizar / Núcleo

O pesquisador Alex Glynn, da Universidade de Lousville, mantém o Academ-AI, um acompanhamento independente de casos de uso não-sinalizado de IA em periódicos, conferências e capítulos de livros. Ele diagnosticou que cerca de um quinto das publicações da área de ciência da computação contêm algum uso não-sinalizado de IA.

A grande maioria dos artigos não chegou a sofrer retratações ou correções por parte de seus publicadores – e as correções chegaram a levar até 274 dias para acontecer nos poucos casos em que houve correção, segundo análise de Glynn.

via Núcleo

#EscritaCientífica #ChatGPT

Disponível em: https://nucleo.jor.br/reportagem/2025-08-15-ia-educacao-superior-publicacoes-academicas/

“Sinto que estou ficando louco”: ChatGPT alimenta espirais delirantes / The Wall Street Journal

Por em Informe-CI Tag ,

“Sinto que estou ficando louco”: ChatGPT alimenta espirais delirantes / The Wall Street Journal

As mudanças ocorrem em um momento em que o número de casos de delírios relacionados à IA parece ter aumentado nos últimos meses, de acordo com os organizadores do Projeto Linha Humana, um grupo de apoio e defesa para pessoas e suas famílias que sofrem de delírios. O projeto afirma ter coletado até o momento 59 casos, e alguns membros do grupo encontraram centenas de exemplos no Reddit, YouTube e TikTok de pessoas compartilhando o que disseram ser revelações espirituais e científicas que tiveram com seus chatbots de IA.
Alguns observadores atribuem o fenômeno, em parte, a novos recursos em vários chatbots de IA que rastreiam as interações dos usuários com o serviço para personalizar suas respostas. Isso pode tê-los tornado, involuntariamente, melhores em reforçar ou encorajar as crenças de um usuário.

via The Wall Street Journal

#ChatGPT #Desinformação

Disponível em: https://www.wsj.com/tech/ai/i-feel-like-im-going-crazy-chatgpt-fuels-delusional-spirals-ae5a51fc

O ChatGPT está nos deixando burros? / BBC

Por em Informe-CI Tag , ,

O ChatGPT está nos deixando burros? / BBC

Quando usado de forma acrítica, o ChatGPT pode levar à acomodação intelectual. Os usuários podem aceitar suas respostas sem questionar premissas, buscar pontos de vista alternativos ou realizar análises mais profundas. Mas, quando o ChatGPT é usado como uma ajuda complementar, isso pode torná-lo um recurso poderoso para estimular a curiosidade, gerar ideias, esclarecer temas complexos e provocar diálogos intelectuais.

A diferença entre o ChatGPT nos tornar burros ou aumentar nossas capacidades está em como o utilizamos. A IA generativa deve ser usada para potencializar a inteligência humana, não substitui-la. Isso significa usar o ChatGPT como apoio a uma pesquisa, não um atalho. Significa usar as respostas das ferramentas de IA como o ponto de partida de um pensamento, não o fim.

#ChatGPT #Cognição #Tendências

via BBC

Disponível em: https://www.bbc.com/portuguese/articles/cwygyg3x62vo

Seu cérebro no ChatGPT: acúmulo de Dívida Cognitiva ao usar um Assistente de IA para tarefas de redação de ensaios / arXiv

Por em Informe-CI Tag , , ,

Seu cérebro no ChatGPT: acúmulo de Dívida Cognitiva ao usar um Assistente de IA para tarefas de redação de ensaios / arXiv

Embora os LLMs ofereçam conveniência imediata, nossas descobertas destacam potenciais custos cognitivos. Ao longo de quatro meses, os usuários do LLM apresentaram desempenho inferior consistentemente nos níveis neural, linguístico e comportamental. Esses resultados levantam preocupações sobre as implicações educacionais de longo prazo da dependência do LLM e ressaltam a necessidade de uma investigação mais aprofundada sobre o papel da IA na aprendizagem.

#ChatGPT #Escrita #Cognição #EnsinoEAprendizagem

Disponível em: https://arxiv.org/abs/2506.08872