Tag: Alucinação

A importância dos metadados na prevenção de alucinações de IA / E-LIS

Por em Informe-CI Tag , ,

A importância dos metadados na prevenção de alucinações de IA / E-LIS [Video]

Este artigo argumenta que os metadados são essenciais para prevenir alucinações da IA ​​e garantir resultados confiáveis. Quando sistemas de IA operam em ambientes fragmentados ou mal estruturados, frequentemente produzem resultados plausíveis, porém incorretos, devido à insuficiência de contexto e à governança deficiente. Essas falhas não decorrem apenas de limitações dos modelos, mas também refletem deficiências nas práticas de gestão de metadados e de informações. Ao fornecer identidade, contexto, procedência, status, permissões e rastreabilidade, os metadados viabilizam a recuperação precisa, a verificação e a automação responsável. O artigo também destaca a importância de estruturas de governança da informação para assegurar consistência e responsabilidade, posicionando os metadados como uma infraestrutura crítica para sistemas de IA confiáveis ​​e auditáveis.

#Metadados #GovernançaDaInformação #Alucinação

Disponível em: http://eprints.rclis.org/47831/

Por que os modelos de linguagem alucinam? / OpenIA

Por em Informe-CI Tag ,

Por que os modelos de linguagem alucinam? / OpenIA

A persistência das alucinações se deve em parte aos incentivos oferecidos pelos métodos de avaliação que estão sendo usados. Embora as avaliações não provoquem as alucinações diretamente, a maioria delas mede o desempenho do modelo de uma forma que favorece adivinhações, em vez de reconhecer uma incerteza.

É como se fosse um teste de múltipla escolha. Se você não sabe, mas chuta uma resposta, pode acabar acertando. Mas vai ser pura sorte. Além disso, você sabe que deixar a resposta em branco é sinônimo de nota zero. Assim, quando os modelos são avaliados somente pela precisão, ou pelas perguntas com respostas exatas, eles são estimulados a adivinharem — e não a dizerem “não sei”.

#ChatGPT #Alucinação

via OpenIA

Disponível em: https://openai.com/pt-BR/index/why-language-models-hallucinate/

Alucinação na Escrita Científica: Explorando Evidências das Versões 3.5 e 40 do ChatGPT… / Journal of the Association for Information Science and Technology

Por em Informe-CI Tag , ,

Alucinação na Escrita Científica: Explorando Evidências das Versões 3.5 e 40 do ChatGPT…

Os resultados foram preocupantes: ambas as versões do ChatGPT apresentaram uma alta porcentagem de citações falsas ou inexistentes. Especificamente, a versão 3.5 produziu 42,9% de citações inexistentes, enquanto a versão 4.0 aumentou essa porcentagem para 51,8%. Embora tenha havido uma ligeira melhora na precisão das citações reais, com taxas de acerto de 3,92% na versão 3.5 e 6,35% na versão 40, esses números são muito baixos e destacam sérias limitações em ambos os modelos.

#ChatGPT #EscritaCientífica #Alucinação

Disponível em: https://doi.org/10.1080/19322909.2025.2482093

O que é ‘alucinação’ de inteligência artificial l “[…] como a internet está “c…

Por em Informe-CI Tag ,

[ad_1]

O que é ‘alucinação’ de inteligência artificial l “[…] como a internet está “cheia de informações falsas, a tecnologia aprende a repetir as mesmas falsidades”, alertaram. “E às vezes os chatbots inventam coisas.” #Alucinação #IA via BBC bbc.com/portuguese/art…
[ad_2]

Acesse o item em: https://www.bbc.com/portuguese/articles/cv24066nkpqo