Connect with us

Hi, what are you looking for?

Televisão

Deepfake: Telegram registra aumento de bots com inteligência artificial

Aumento de deepfakes no Telegram tem alertado especialistas em segurança digital
Aumento de deepfakes no Telegram tem alertado especialistas em segurança digital (Foto: Divulgação)

O uso de deepfakes no Telegram está crescendo de maneira alarmante, alimentado por avanços em inteligência artificial que permitem a criação de imagens explícitas não consensuais com facilidade assustadora. O que começou como uma preocupação inicial em 2020, quando o especialista Henry Ajder descobriu um bot de IA que “despia” mulheres em fotos, se transformou em uma ameaça global que atinge milhões de pessoas, especialmente mulheres e meninas.

O Alarme Sobre o Crescimento dos Bots de Deepfake

De acordo com uma investigação recente da WIRED, ao menos 50 bots no Telegram estão ativos na criação de imagens explícitas usando IA. Esses bots permitem que qualquer pessoa, com apenas alguns cliques, crie deepfakes de pessoas sem seu consentimento, removendo roupas ou colocando-as em situações explícitas. O perigo é evidente: essas ferramentas têm o potencial de arruinar vidas, e a facilidade de seu uso coloca um número crescente de pessoas em risco de abuso online.

Milhões de Usuários Ativos em Bots Explícitos

Os números são estarrecedores: os 50 bots revisados pela WIRED somam mais de 4 milhões de usuários ativos mensais. Dois dos bots possuem mais de 400.000 usuários cada um, e outros 14 têm mais de 100.000 usuários. Isso indica que o uso de deepfakes explícitos está se tornando rapidamente uma prática disseminada, e o Telegram é o principal facilitador dessa disseminação.

Implicações Devastadoras para Vítimas de Deepfakes

As consequências psicológicas e emocionais de ter uma imagem pessoal transformada em um conteúdo explícito são devastadoras. Segundo Ajder, meninas e mulheres estão sendo atingidas de forma desproporcional, sofrendo com o trauma, a vergonha e o medo causados por essas criações. O crescimento desenfreado dos deepfakes explicita a incapacidade de plataformas como o Telegram de controlar adequadamente essa ameaça.

O Crescimento Imparável do Abuso de Imagens Íntimas

Desde que as imagens íntimas não consensuais (NCII) começaram a aparecer no final de 2017, a criação e o compartilhamento de deepfakes explodiram, impulsionados por avanços em inteligência artificial. Sites de “nudificação” e bots de Telegram são usados para visar mulheres em todas as partes do mundo, desde líderes políticas até estudantes de escolas secundárias. A normalização desse abuso é alarmante, e o problema continua a crescer sem sinais de contenção.

A Rede Secreta de Bots no Telegram

Os bots de deepfake são apoiados por uma rede de canais no Telegram que têm mais de 3 milhões de assinantes combinados. Esses canais são usados para compartilhar atualizações sobre novos recursos e promoções de “tokens” que permitem o uso dos bots. Isso mostra que o Telegram não é apenas um facilitador passivo, mas o centro de uma rede perigosa de abuso que continua a operar quase sem obstáculos.

Telegram Toma Medidas Insuficientes

Quando a WIRED notificou o Telegram sobre a existência desses bots, a plataforma removeu 75 bots e canais. No entanto, essa ação está longe de resolver o problema. Pouco tempo depois, novos bots apareceram para substituir os que haviam sido removidos, mostrando que a medida é uma gota no oceano em meio a um problema muito maior e mais complexo.

Bots de Deepfake Operam nas Sombras

Muitos bots de deepfake no Telegram operam sob disfarces aparentemente inofensivos. Eles não exibem conteúdo explícito em seus nomes ou páginas iniciais, mas uma vez que o usuário interage com eles, opções explícitas aparecem. Essa capacidade de ocultar sua verdadeira natureza torna esses bots ainda mais perigosos, já que passam despercebidos tanto para as vítimas quanto para as autoridades.

A Monetização do Abuso

Os criadores de bots de deepfake estão lucrando com a disseminação desse conteúdo abusivo. A maioria dos bots exige que os usuários comprem “tokens” para gerar as imagens, transformando o abuso online em uma indústria lucrativa. A demanda por essas ferramentas é tão alta que até cibercriminosos russos criaram sites falsos de “nudificação” para infectar usuários com malware, revelando o quão longe esse mercado sombrio já foi.

Tecnologia Deepfake Cada Vez Mais Ameaçadora

Os primeiros bots de deepfake eram rudimentares, mas a tecnologia se tornou cada vez mais sofisticada. Agora, os bots podem criar imagens altamente realistas com facilidade, e muitos operam sem levantar suspeitas. A qualidade das imagens geradas por IA é tão convincente que se torna praticamente impossível diferenciar o falso do real, o que amplifica o potencial de danos.

Uma Ferramenta para o Abuso Facilmente Acessível

A combinação de busca, hospedagem de bots e compartilhamento de conteúdo no Telegram cria um ambiente perfeito para o abuso de deepfakes. A plataforma permite que qualquer pessoa encontre e utilize essas ferramentas com facilidade, expondo milhões de pessoas a esse tipo de violação digital. O Telegram se tornou o epicentro de um problema global que parece impossível de conter.

A Inação das Grandes Empresas de Tecnologia

As grandes empresas de tecnologia, embora estejam cientes do problema, têm sido lentas para agir. Embora algumas políticas contra deepfakes não consensuais tenham sido implementadas por gigantes como Google e Apple, essas medidas estão longe de serem eficazes. Aplicativos que criam deepfakes ainda podem ser encontrados em lojas de aplicativos, e o conteúdo gerado continua a se espalhar por diversas plataformas.

Leis Não Conseguem Acompanhar o Rápido Crescimento dos Deepfakes

Nos Estados Unidos, 23 estados aprovaram leis para lidar com deepfakes não consensuais, mas a aplicação dessas leis ainda está engatinhando. Enquanto isso, plataformas como o Telegram continuam a ser utilizadas para disseminar esses conteúdos, e as vítimas têm poucas opções para buscar justiça ou reparação.

Telegram Sob Pressão, mas Lento em Agir

O Telegram vem sendo criticado por sua abordagem lenta e, em muitos casos, insuficiente para lidar com o conteúdo prejudicial. A plataforma, que já abrigou desde golpistas até extremistas, agora enfrenta a crescente pressão para combater o abuso de deepfakes. A recente prisão de seu fundador, Pavel Durov, trouxe algumas mudanças, mas as vítimas de deepfakes ainda são deixadas desamparadas.

Monitoramento e Moderação Ineficientes

Para Henry Ajder, o Telegram é particularmente problemático na questão dos deepfakes devido à facilidade com que permite a criação e o compartilhamento desses conteúdos. A plataforma oferece as ferramentas perfeitas para que abusadores usem a inteligência artificial de maneira destrutiva, tudo isso em um espaço que é difícil de monitorar.

O Círculo Vicioso dos Bots de Deepfake

Mesmo quando bots de deepfake são removidos, novos bots surgem rapidamente para ocupar o seu lugar. Esse ciclo constante de remoção e reaparecimento dificulta qualquer tentativa de controle eficaz do problema. A incapacidade de conter essa ameaça revela uma falha estrutural nas medidas de segurança das plataformas digitais.

A Responsabilidade Deve Ser das Plataformas

Para Elena Michael, cofundadora da campanha #NotYourPorn, o Telegram deveria ser mais proativo na moderação de seu conteúdo. Ela afirma que as plataformas precisam ser responsabilizadas pela criação de ambientes seguros e que o fardo de monitorar abusos não deveria recair sobre as próprias vítimas. Infelizmente, as empresas ainda parecem reativas em vez de preventivas na luta contra o abuso de deepfakes.

Conclusão: Uma Crise Fora de Controle

Os deepfakes explicitamente abusivos estão se tornando um problema generalizado, e a falta de uma ação firme por parte das plataformas como o Telegram e dos legisladores está permitindo que essa crise se amplie. Enquanto a tecnologia de inteligência artificial continuar a evoluir sem regulamentação adequada, o abuso online, facilitado por ferramentas como os bots de deepfake, continuará a se espalhar e destruir vidas.

Resumo para quem está com pressa

  • O uso de deepfakes abusivos no Telegram está crescendo de forma descontrolada, com mais de 50 bots ativos na criação de imagens explícitas.
  • Esses bots têm mais de 4 milhões de usuários mensais, expondo milhões de pessoas a abusos graves.
  • O Telegram removeu alguns bots, mas novos surgem rapidamente, perpetuando o ciclo de abuso.
  • O uso de inteligência artificial para criar deepfakes está se tornando cada vez mais sofisticado e perigoso.
  • Grandes empresas de tecnologia e legisladores estão reagindo lentamente a esse problema crescente.
  • As vítimas de deepfakes enfrentam consequências devastadoras enquanto as plataformas falham em agir de maneira proativa.

Últimas

Humor

Imagine a cena: um presidente em um discurso inflamado, cheio de convicção, se empolgando ao anunciar que Elon Musk, o bilionário mais “imprevisível” do...

Séries

Quem conhece Quentin Tarantino sabe: o mestre do cinema tem preferência clara por faroestes e filmes de terror. No entanto, quando o assunto é...

Esporte

O Palmeiras entra em campo nesta sexta-feira com a missão de retomar o rumo e espantar a má fase após a derrota no clássico...

Cinema

Nicholas Hoult, um dos nomes mais celebrados de sua geração, assume o manto de um dos maiores vilões dos quadrinhos: Lex Luthor! No aguardado...

Cinema

Prepare-se: Peaky Blinders está voltando, e desta vez, em grande estilo nas telonas. Desde o final da sexta temporada, os fãs aguardam ansiosos pela...

Advertisement

Recomendadas

Música

Prepare-se, fãs de Harry Potter! Neste sábado, dia 9 de novembro, a cidade de São Paulo será o palco do tão esperado espetáculo “Harry...

Netflix

O filme Legítimo Rei, estrelado por Chris Pine e disponível na Netflix, estreou em 2018 no Festival Internacional de Cinema de Toronto e desde...

Games

A Netflix não está satisfeita em dominar o streaming e quer marcar território no mundo dos games também. E o novo truque da gigante?...

Famosos

O astro do futebol Vinicius Jr., jogador brasileiro e um dos atacantes do Real Madrid, chamou a atenção com sua mais recente aquisição luxuosa:...

Famosos

Em uma notícia que mexeu com fãs de longa data, James Van Der Beek, o inesquecível Dawson de Dawson’s Creek, revelou seu diagnóstico de...

Notícias Mais Lidas

Netflix

Se você está buscando dar um gás na rotina ou esquentar o clima com sua parceria, a Netflix oferece uma seleção interessante de filmes...

Cinema

Nos últimos anos, marcas e publicações vêm repensando o uso do termo anti-idade em suas campanhas e produtos. No entanto, as promessas de reversão...

Bombando

A atriz Agatha Moreira, de 32 anos, conhecida por sua atuação em diversas novelas da TV Globo, fez uma nova publicação em suas redes...

Famosos

Sean ‘Diddy’ Combs foi uma das figuras mais influentes da indústria musical global nas décadas de 1990 e 2000. Conhecido por fundar a Bad...

Cinema

O filme “Calor Mortífero” estreou no Prime Video em 26 de setembro, e desde então, tem dominado o topo da lista dos 10 filmes...

Esporte

Na noite do dia 17, a Heineken lançou uma nova campanha publicitária que presta uma homenagem especial ao maior ícone do automobilismo brasileiro, Ayrton...

Cinema

Após o sucesso absoluto do primeiro Coringa (2019), dirigido por Todd Phillips e estrelado pelo genial Joaquin Phoenix, a sequência Coringa: Folie à Deux...

Tecnologia

A Tesla é conhecida por seu caráter inovador (ou pelo menos pelas promessas), e agora, com o Optimus, seu robô humanoide, a marca de...

Séries

A série Agatha Desde Sempre, que estreou no Disney+, coloca Agatha Harkness (Kathryn Hahn) no centro da trama. A icônica vilã de WandaVision, também...

Cinema

O icônico DeLorean, famoso por seu papel na trilogia De Volta Para o Futuro, e o lendário Christopher Lloyd, que interpretou o excêntrico Dr....

Netflix

A cada ano, a clássica pergunta ressurge: “Duro de Matar” é ou não é um filme de Natal? Enquanto o debate continua, a Netflix...

Mundo

A NASA estabeleceu um novo recorde ao enviar e receber com sucesso um sinal de laser a uma distância impressionante de cerca de 460...

Cinema

O filme Estação Espacial Internacional é uma produção de ficção científica que vem ganhando a atenção dos assinantes do Prime Video. A história se...

Esporte

Após anos de debates e provocações entre torcidas, a FIFA colocou um ponto final na polêmica sobre o título mundial do Palmeiras ao reconhecer...

Séries

A série Yellowstone conquistou o público com sua narrativa envolvente e cheia de camadas sobre a família Dutton, proprietária de um dos maiores ranchos...

Música

A banda icônica Queen está sugerindo o lançamento de um novo álbum, o que seria o primeiro em quase 30 anos desde o último...

Advertisement