Tag: DeepFake

Deepfakes e bibliotecas escolares: desafios e responsabilidades na era da IA / RBE

Por em Informe-CI Tag , ,

Deepfakes e bibliotecas escolares: desafios e responsabilidades na era da IA / RBE

Para além da dimensão formativa, recomenda-se a definição de políticas institucionais claras para uso responsável da IA, incluindo transparência e proteção de dados.

Em suma, os deepfakes não constituem somente uma inovação tecnológica, representam, também, um desafio tecnológico, jurídico, ético e educativo que interpela diretamente a escola e a formação para a cidadania.

Num ecossistema informacional marcado pela produção automatizada de conteúdos sintéticos e pela erosão da confiança pública, as bibliotecas escolares afirmam-se como infraestruturas críticas de confiança. São espaços onde se ensina a verificar antes de partilhar, a questionar antes de aceitar e a distinguir evidência de manipulação.

#IALiteracy #Deepfake #BibliotecasEscolares

Disponível em: https://blogue.rbe.mec.pt/deepfakes-e-bibliotecas-escolares-3057911

Após polêmica com o Grok, senado dos EUA aprova projeto de lei contra deepfakes sexuais / Exame

Por em Informe-CI Tag , ,

Após polêmica com o Grok, senado dos EUA aprova projeto de lei contra deepfakes sexuais / Exame

A medida vem após uma polêmica envolvendo o Grok, assistente de IA da rede social X. O recurso foi utilizado por usuários para gerar e disseminar milhares de conteúdos sexualizados de mulheres e crianças nas últimas semanas. Essas imagens manipuladas são conhecidas como “deepfakes”.

#Grok #Deepfake

via Exame

Disponível em: https://exame.com/inteligencia-artificial/apos-polemica-grok-senado-eua-aprova-projeto-lei-deepfakes-sexuais/

Grok é usado para criar imagens de nudez sem consentimento / Tecnoblog

Por em Informe-CI Tag , , ,

Grok é usado para criar imagens de nudez sem consentimento / Tecnoblog

A rede social X, de Elon Musk, enfrenta uma nova onda de críticas após a ferramenta de IA integrada ao site, o Grok, ser utilizada para criar imagens de nudez não consensual. O chatbot tem permitido a alteração de fotos de usuários, colocando as vítimas, especialmente mulheres, em situações sexuais ou vestindo-as com roupas exageradamente curtas.

A controvérsia escalou quando a IA permitiu a geração de conteúdo sexualizado envolvendo menores de idade. Muitos comentários criticam a postura permissiva do X. “Não dá mais pra postar uma foto nessa rede sem que tenha esse tipo de coisa acontecendo”, criticou o perfil de uma brasileira que teve a foto de ano novo modificada.

#Grok #Twitter #Deepfakes #DeepNudes

via Tecnoblog

Disponível em: https://tecnoblog.net/noticias/grok-e-usado-para-criar-imagens-de-nudez-sem-consentimento/

Gerador de vídeos de IA do Google turbina conteúdos racistas e misóginos no TikTok / Núcleo

Por em Informe-CI Tag , , , , , ,

Gerador de vídeos de IA do Google turbina conteúdos racistas e misóginos no TikTok

O Veo 3, gerador de vídeos artificiais hiper-realistas do Google, vem sendo usado para disseminar teorias conspiratórias, discursos racistas e antissemitas e desinformação no TikTok. O Núcleo identificou vídeos que acumulam milhões de visualizações.

Uma análise sobre hashtags relacionadas ao Veo 3 no TikTok revela uma disfarce de humor com discursos de ódio que se repetem entre usuários brasileiros. Muitos dos posts analisados também não deixam claro que o conteúdo foi gerado por IA, o que pode confundir os usuários. Um estudo recente aponta que apenas 0.1% das pessoas conseguem identificar deepfakes sem errar.

#TikTok #Veo3 #Deepfakes #Vídeo #Google #Racismo #Misogenia

via Núcleo

Disponível em: https://nucleo.jor.br/reportagem/2025-07-15-ia-realista-do-google-veo3-videos-racistas-misoginos/

Pessoas acima dos 55 anos são mais vulneráveis a ‘deepfakes’ / Comunidade Cultura e Arte

Por em Informe-CI Tag ,

Pessoas acima dos 55 anos são mais vulneráveis a ‘deepfakes’

Pessoas com mais de 55 anos são consideradas mais vulneráveis à exposição a ‘deepfakes’ porque cerca de um em cada três inquiridos nunca ouviu o termo, revela o Relatório Anual de Inteligência Artificial (IA) de Ameaças 2025, desenvolvido pela iProov.

Apenas 0,1% dos entrevistados conseguiram identificar todos os exemplos de ‘deepfakes’ com precisão e 9% conseguiram reconhecer os vídeos falsos.

via Comunidade Cultura e Arte

#Desinformação #Deepfakes

Disponível em: https://comunidadeculturaearte.com/pessoas-acima-dos-55-anos-sao-mais-vulneraveis-a-deepfakes/

ONG lança detector de deep fakes gratuito / Núcleo

Por em Informe-CI Tag , ,

ONG lança detector de deep fakes gratuito

A organização sem fins lucrativos TrueMedia lançou neste 18.set um detector de deep fakes gratuito com o objetivo de combater a disseminação de desinformação nas redes sociais.

A ideia da ONG norte-americana foi lançar o recurso antes das eleições presidenciais do país, mas de modo que a ferramenta também estivesse disponível a mais regiões.

via Núcleo

Disponível em: https://nucleo.jor.br/curtas/2024-09-18-ong-lance-detector-deep-fakes-gratuito/

Como identificar vídeos gerados por IA: guia prático para não cair na armadilha / WwwhatsNews

Por em Informe-CI Tag ,

Como identificar vídeos gerados por IA: guia prático para não cair na armadilha

Os vídeos gerados por IA se enquadram principalmente em duas categorias: aqueles criados completamente do zero por modelos de IA e aqueles que são alterações de vídeos reais, onde um rosto é sobreposto ou o áudio é alterado para corresponder a uma narrativa falsa. Em ambos os casos, o resultado pode ser surpreendentemente realista.

#IA #Deepfake #Vídeos

Disponível em: https://wwwhatsnew.com/2024/08/15/como-identificar-videos-generados-por-ia-guia-practica-para-no-caer-en-la-trampa

Deepfakes superam ataques cibernéticos como principal uso malicioso de IA, aponta DeepMind

Por em Informe-CI Tag , ,

Deepfakes superam ataques cibernéticos como principal uso malicioso de IA, aponta DeepMind

O estudo indica que a criação de imagens, vídeos e áudios falsos, mas realistas, de pessoas é quase duas vezes mais comum do que o segundo maior uso indevido de ferramentas de IA generativa: a falsificação de informações usando ferramentas baseadas em texto, como chatbots, para gerar desinformação online.

#Deepfakes #IA #Desinformação

via Exame

Disponível em: https://exame.com/inteligencia-artificial/deepfakes-superam-ataques-ciberneticos-como-principal-uso-malicioso-de-ia-aponta-deepmind/

O crescimento explosivo da fraude impulsionada pela IA

Por em Informe-CI Tag

O crescimento explosivo da fraude impulsionada pela IA

Donald Trump posando com eleitores negros ou o Papa com uma jaqueta estilo puffer: vídeos, fotos e áudios enganosos criados com sistemas de inteligência artificial (IA) se espalharam em diversas plataformas da internet. Com os ajustes certos, qualquer pessoa pode criar imagens aparentemente realistas ou fazer com que as vozes de figuras proeminentes da política ou do entretenimento digam o que quiserem.

via Statista

#Deepfakes

Disponível em: https://es.statista.com/grafico/31907/paises-con-mayores-aumentos-de-casos-de-fraude-de-deepfake/

Combatendo as Deepfakes

Por em Informe-CI Tag

Combatendo as Deepfakes

Deepfakes são vídeos, áudio ou imagens que foram manipulados usando inteligência artificial (IA), muitas vezes para criar, substituir ou alterar rostos ou sintetizar fala. Eles podem parecer autênticos aos olhos e ouvidos humanos. Têm sido utilizados de forma maliciosa, por exemplo, para tentar influenciar eleições e para criar pornografia não consensual. Para combater tais abusos, podem ser utilizadas tecnologias para detectar deepfakes ou permitir a autenticação de meios genuínos.

#Deepfakes

Disponível em: https://www.gao.gov/assets/d24107292.pdf

Eleições nos EUA: uso de deepfake e IA revela problema que pode se repetir no Brasil

Por em Informe-CI Tag ,

Eleições nos EUA: uso de deepfake e IA revela problema que pode se repetir no Brasil

O episódio nos Estados Unidos confirma os receios de que novas tecnologias podem ser usadas para manipular os eleitores e impedir a realização de disputas limpas, inclusive no Brasil.

As autoridades brasileiras estão tão preocupadas com o problema que o Tribunal Superior Eleitoral (TSE) anunciou que vai debater esta semana propostas inéditas de regulamentação da inteligência artificial na propaganda eleitoral nas disputas municipais deste ano.

#Eleições #Deepfake

via CNN

Disponível em: https://www.cnnbrasil.com.br/internacional/eleicoes-nos-eua-uso-de-deepfake-e-ia-revela-problema-que-pode-se-repetir-no-brasil/