Tag: MediaçãoAlgorítmica

Mitigando vieses no aprendizado de máquina: uma análise sociotécnica / Maquinações

Por em Informe-CI Tag , ,

Mitigando vieses no aprendizado de máquina: uma análise sociotécnica

O aprendizado de máquina surgiu como um subcampo da Inteligência Artificial que projeta algoritmos que aprendem a partir de grandes quantidades de exemplos — ou dados — relacionados a um determinado fenômeno [Mitchell 1997]. Hoje, o aprendizado de máquina é utilizado em uma infinidade de sistemas, desde sistemas de recomendação, sistemas de recrutamento, sistemas de tradução automática, de liberação de créditos, sistemas prisionais e em serviços de vigilância pública por reconhecimento facial. Nesta seção, apresentamos alguns conceitos importantes relacionados ao aprendizado de máquina e detalhamos as suas etapas.

Ver artigo: Mitigating Bias in Machine Learning: A Socio-technical Analysis, na iSys – Brazilian Journal of Information Systems

via Maquinações

#MediaçãoAlgorítmica #RacismoAlgorítmico #AprendizadoDeMáquina

Disponível em: https://maquinacoes.rafaelg.net.br/mitigando-vieses

Gênero, raça e preconceito interseccional na triagem de currículos por meio da recuperação do modelo de linguagem / AIES2024

Por em Informe-CI Tag , , ,

Gênero, raça e preconceito interseccional na triagem de currículos por meio da recuperação do modelo de linguagem

Neste trabalho, investigamos as possibilidades de usar LLMs em um ambiente de triagem de currículos por meio de uma estrutura de recuperação de documentos que simula a seleção de candidatos a emprego. Usando essa estrutura, realizamos um estudo de auditoria de currículos para determinar se uma seleção de modelos MassiveText Embedding (MTE) é tendenciosa em cenários de triagem de currículos. Simulamos isso para nove ocupações, usando uma coleção de mais de 500 currículos disponíveis publicamente e 500 descrições de cargos. Descobrimos que os MTEs são tendenciosos, favorecendo significativamente nomes associados a brancos em 85,1% dos casos e nomes associados a mulheres em apenas 11,1% dos casos, com a minoria dos casos não apresentando diferenças estatisticamente significativas. Análises posteriores mostram que os homens negros são desfavorecidos em até 100% dos casos, replicando padrões reais de preconceito em ambientes de emprego, e validam três hipóteses de interseccionalidade.

#MediaçãoAlgorítmica #RacismoAlgorítmico #Gênero #Interseccionalidade

Disponível em: https://ojs.aaai.org/index.php/AIES/article/view/31748/33915

Mediação algorítmica como uma das facetas da mediação da informação / PPGCI – UFPB

Por em Informe-CI Tag ,

Mediação algorítmica como uma das facetas da mediação da informação

A mediação algorítmica é um processo de intermediação entre usuários e informações disponíveis em ambientes digitais, realizado por meio de algoritmos, tendo uma ligação direta com a mediação da informação, por facilitar o acesso, o uso e a apropriação da informação pelos usuários. Buscando compreender esta relação, este trabalho tem como objetivo analisar como os algoritmos têm contribuído para direcionar a mediação da informação no ambiente digital

#MediaçãoAlgorítmica

Disponível em: https://repositorio.ufpb.br/jspui/handle/123456789/32121

Inteligência artificial: o risco do viês algorítmico / Globo News

Por em Informe-CI Tag ,

Inteligência artificial: o risco do viês algorítmico

“Ferramentas podem reproduzir dados tendenciosos e aumentar desigualdades”

Confira essa matéria no Globo News! 18 minutos de vídeo!

#MediaçãoAlgorítmica #IA

via Globo News

Disponível em: https://g1.globo.com/globonews/jornal-globonews-edicao-das-18/video/inteligencia-artificial-o-risco-do-vies-algoritmico-12780990.ghtml

Perspectivas da mediação algorítmica na Ciência da Informação / PPGCI – UFC

Por em Informe-CI Tag

Perspectivas da mediação algorítmica na Ciência da Informação

A seleção dos documentos foi realizada por meio de buscas do termo “mediação algorítmica”em diferentes bases de dados acadêmicas, seguida pela utilização de ferramentas de busca textual para contextualização dos termos encontrados. Os resultados exploram trabalhos acadêmicos nacionais e internacionais sobre mediação algorítmica e conceitos relacionados, contribuindo para análises e sínteses dos dados da pesquisa. Conclui que a caracterização da mediação algorítmica deve considerar elementos como agência não-humana, governança automatizada da informação, ambiente das plataformas digitais e automação, que são características essenciais desse tipo de mediação.

#MediaçãoAlgorítimica

Disponível em: https://repositorio.ufc.br/handle/riufc/77296

Pacificação das relações na filtragem de informação: efeito nos usuários brasileiros do Facebook em período de polarização política

Por em Informe-CI Tag , ,

Pacificação das relações na filtragem de informação: efeito nos usuários brasileiros do Facebook em período de polarização política

Propõe-se a discutir o aperfeiçoamento e as implicações dos agentes algorítmicos de gerenciamento de informações no tratamento do gigantesco universo de dados disponível nas mídias sociais digitais. Para isso, dedica-se a estudar um filtro de conteúdo chamado snooze (modo soneca, na versão brasileira), anunciado em 2017 pelo site de rede social do Facebook, que permite aos usuários gerenciarem melhor os fluxos informacionais de seus feeds de notícias, ocultando publicações indesejadas de “amigos” por até 30 dias. Tomando o uso do recurso como uma ação de informação de mediação, bem como as notícias sobre ele, o objetivo da pesquisa é demonstrar o efeito de “pacificação das relações” nos usuários brasileiros diante da polarização político-ideológica decorrente das eleições gerais de 2018 no país.

#MediaçãoAlgorítmica #Facebook #CapitalismoInformacional

Disponível em: https://ridi.ibict.br/handle/123456789/1196

Diversidade na cultura algorítmica contra o circundante deterioramento da informação

Por em Informe-CI Tag

Diversidade na cultura algorítmica contra o circundante deterioramento da informação

“Injetar parcialidade deliberada na tomada de decisão algorítmica pode ser devastadoramente simples e eficaz. Isso pode envolver a replicação ou aceleração de fatores pré-existentes que produzem viés”, observa Yeung. Muitos algoritmos já são alimentados com dados tendenciosos. Os atacantes poderiam continuar a usar esses conjuntos de dados para treinar algoritmos, com o conhecimento prévio do viés que neles continham. A negação plausível que isso permitiria é o que torna esses ataques tão insidiosos e potencialmente eficazes.

#MediaçãoAlgorítmica

via Jornal da USP

Disponível em: https://jornal.usp.br/artigos/diversidade-na-cultura-algoritmica-contra-o-circundante-deterioramento-da-informacao/

Facebook, X e Instagram: além de grátis. O verdadeiro custo das mídias sociais

Por em Informe-CI Tag , , ,

Facebook, X e Instagram: além de grátis. O verdadeiro custo das mídias sociais

Nesta análise, recorremos ao pensamento de Debord, Baudrillard e McLuhan para desvendar como a evolução da mídia, de um meio simples para um ecossistema digital complexo, conseguiu captar e potencialmente subjugar a atenção dos utilizadores. Esta dinâmica permite aos titãs da sociedade da informação traçar um perfil preciso dos utilizadores, utilizando esta informação para a distribuição calculada da publicidade, criando necessidades antes inexistentes.

#MídiasSociais #HistóriasDasMídias #SocidadeDaInformação #MediaçãoAlgorítmica

Disponível em: https://infonomy.scimagoepi.com/index.php/infonomy/article/view/39

Algoritmos funcionam como política e igreja influenciando comportamento e tomada de decisão

Por em Informe-CI Tag

Algoritmos funcionam como política e igreja influenciando comportamento e tomada de decisão

As reflexões da publicação “Algorithmic Institutionalism: the changing rules of social and political life” (“Institucionalismo Algorítmico: as mudanças nas regras da vida social e política”, em tradução livre) levam em conta os impactos sociais e políticos dos algoritmos na sociedade. Eles são um conjunto de regras que ajudam a estruturar normas e contextos em que seres humanos e máquinas agem e, por isso, influenciam comportamentos individuais e impactam áreas diversas, da segurança pública às estruturas de governo.

#MediaçãoAlgorítmica

via Jornal da USP

Disponível em: https://abori.com.br/computacao/algoritmos-influenciam-comportamentos-e-tomadas-de-decisao/

A inteligência artificial precisa de uma nova educação?

Por em Informe-CI Tag , , ,

A inteligência artificial precisa de uma nova educação?

É imperativo que a tecnologia e a inteligência artificial sejam utilizadas apenas para complementar e elevar aquilo que nos diferencia como humanos: nossa criatividade, nossa curiosidade, nossa capacidade de esperança, de ética, de empatia, de determinação e colaboração com os demais. (Friedman, 2023) Isso é exatamente o que deve priorizar a educação e que nenhum sistema de IA pode oferecer. Quais outras especificidades são próprias da escola? Quais são os desafios educativos hoje, antes das novas e contínuas inovações tecnológicas?

#MediaçãoAlgorítmica #IA #Algorítmos #EducaçãoAlgorítmica

via UNESCO

Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386262

Algoritmos e Inteligência Artificial: quais são as consequências para o acaso das nossas descobertas?

Por em Informe-CI Tag , ,

Algoritmos e Inteligência Artificial: quais são as consequências para o acaso das nossas descobertas?

A serendipidade pode ser definida como um fenômeno onde descobrimos algo valioso e útil por um feliz acaso. Ou seja, inicialmente procurávamos uma determinada coisa, mas no caminho deparamo-nos com algo inesperado, que acabou por ser positivo.

Em oposição quase total ao acaso, um algoritmo, segundo Le Robert, é “uma série de regras formais” destinadas a resolver um problema, ou, no caso de algoritmos de recomendação: como permitir que as empresas “empurrem” o conteúdo de informação provável interessar ao máximo os consumidores, de acordo com os seus respectivos gostos e interesses, e assim captar a sua preciosa atenção? Esses algoritmos são agora frequentemente aprimorados pela inteligência artificial, especialmente desde o advento do aprendizado profundo no início de 2010.

via Hypotheses

#MediaçãoAlgorítmica #IA #Serendipidade

Disponível em: https://archinfo24.hypotheses.org/6741

Novo índice descobre que os modelos de IA são obscuros e nada transparentes

Por em Informe-CI Tag , ,

Novo índice descobre que os modelos de IA são obscuros e nada transparentes

Um método poderia ser o Índice de Transparência do Modelo Básico desenvolvido pelo Centro de Pesquisa em Modelos Básicos da Universidade de Stanford. O índice classificou 10 modelos de IA em relação a 100 métricas diferentes, incluindo como os modelos são treinados, informações sobre as propriedades e funções do modelo e como os modelos são distribuídos e usados. As pontuações foram calculadas com base em dados disponíveis publicamente – embora as empresas tenham tido a oportunidade de fornecer informações adicionais para alterar a pontuação.

#MediaçãoAlgorítmica #IA #Algorítmos

Disponível em: https://www.darkreading.com/cyber-risk/new-index-finds-ai-models-are-murky-not-transparent-at-all

Rastros na rede: as práticas de modulação algorítmica no controle e filtragem da informação no Facebook

Por em Informe-CI Tag ,

Rastros na rede: as práticas de modulação algorítmica no controle e filtragem da informação no Facebook

Os resultados elencados demonstram, em dimensões de análise técnica, informacional e sociotécnica sobre as patentes da plataforma, que ela intenciona, respectivamente, operacionalizar ações de mediação e modulação algorítmicas sobre seus usuários, instituir filtros e bolhas na relação sujeito-informação e instalar e manter um regime de informação específico que modula comportamentos com vistas a uma lógica voraz de capitalismo de vigilância.

#MediaçãoAlgorítmica #Facebook

Disponível em: https://repositorio.ufba.br/handle/ri/37924

Proudly powered by WordPress | Theme: Content by SpiceThemes

Pular para o conteúdo