Desmascarando o uso da IA para censurar acervos de bibliotecas / ALA
Governos estaduais e locais estão utilizando cada vez mais IA para sinalizar livros “inapropriados”, “vulgares” ou “obscenos” para remoção dos acervos das bibliotecas. Ao fazer isso, eles contam com máquinas para fazer julgamentos mais adequados à formação, às habilidades e à experiência dos professores e funcionários de bibliotecas que empregam.
Embora alguns presumam que a IA forneça uma objetividade mecânica, a realidade é que a pergunta que você faz a um chatbot de IA molda a resposta que ele gera. Quando a linguagem da pergunta é baseada nos valores de um grupo ou indivíduo, a resposta gerada estará alinhada a esses valores. (…)
Para evitar a discriminação por pontos de vista e preservar os direitos dos pais, a decisão deve sempre pender para o acesso, e não para a exclusão. Dado que comandos (prompts) tendenciosos podem influenciar os resultados, que o acesso ao texto integral pode ser limitado e que fontes de avaliação profissional podem estar atrás de barreiras de pagamento (paywalls) ou, por outros motivos, inacessíveis a uma IA, nenhum livro deve ser censurado com base na avaliação de uma inteligência artificial. Nada substitui as competências e a formação de profissionais de bibliotecas e educadores.
#Censura #IA
via ALA
Disponível em: https://www.oif.ala.org/debunking-the-use-of-ai-to-censor-library-collections/







