Inteligência artificial e metacognição: saber quando confiar em uma máquina, ou não, nem sempre é óbvio / The Conversation
A metacognição — a capacidade de monitorar e regular os próprios processos cognitivos — é a base psicológica para uma supervisão eficaz. Um operador com consciência metacognitiva sabe quando compreende algo, quando está conjecturando e quando seu julgamento é influenciado por fatores que não registrou conscientemente. Essa capacidade não pode ser presumida; ela varia significativamente entre indivíduos, treinamentos e pressões situacionais.
A pesquisa em interação humano-automação documentou um conjunto de falhas que emergem especificamente quando humanos supervisionam sistemas automatizados ou baseados em inteligência artificial. O viés de automação — a tendência de supervalorizar recomendações geradas por máquinas em detrimento do próprio julgamento — é uma das descobertas mais robustas na área.
#IA #Cognição
via The Conversation
