IA em Foco
Voltar para o blog
Notícias de IA

Como o TikTok está removendo vídeos de IA que sexualizam mulheres negras após denúncia da BBC

22 de março de 2026
19:34
Como o TikTok está removendo vídeos de IA que sexualizam mulheres negras após denúncia da BBC

Após uma investigação da BBC, o TikTok removeu dezenas de vídeos gerados por inteligência artificial (IA) que apresentavam mulheres negras de forma sexualizada, direcionando usuários para sites com conteúdo adulto pago. Este guia detalha como identificar, denunciar e compreender as limitações no combate a esse tipo de conteúdo nas plataformas TikTok e Instagram, além de destacar as implicações sociais e técnicas envolvidas.

Contexto e identificação do problema

A BBC, em parceria com pesquisadores da Riddance, identificou cerca de 60 contas principalmente no Instagram, com cerca de um terço delas também no TikTok, que utilizavam avatares digitais femininos negros, criados por IA, exibidos com roupas reveladoras e corpos exagerados. Essas contas não indicavam que o conteúdo era gerado por IA, contrariando as diretrizes das plataformas, e promoviam links para sites externos com material sexual explícito.

Um caso emblemático envolveu a conta que sobrepunha o rosto digitalmente criado ao corpo real da modelo Riya Ulan, da Malásia, sem sua autorização. Os vídeos manipulados alcançaram milhões de visualizações, enquanto o conteúdo original da criadora teve alcance bem menor. A situação gerou indignação e debate sobre o uso ético da IA e a representação de mulheres negras nas redes sociais.

Como identificar contas e vídeos de IA sexualizados no TikTok e Instagram

  • Observe avatares digitais que apresentam características exageradas, como tons de pele muito escuros manipulado digitalmente, corpos com formas irreais e roupas extremamente reveladoras.

  • Verifique se as contas não indicam explicitamente que os vídeos ou imagens foram gerados por IA, o que é exigido pelas políticas das plataformas.

  • Fique atento a nomes de usuário que incluam termos como "preto", "noir", "escuro" ou "ébano", especialmente quando acompanhados de mensagens ou comentários com conotações raciais ou estereotipadas.

  • Analise se as contas compartilham links para sites externos com conteúdo adulto pago, muitas vezes indicados em descrições ou perfis.

  • Desconfie de contas que acumulam seguidores rapidamente e que replicam conteúdos de criadores reais sem autorização.

Passo a passo para denunciar conteúdo de IA sexualizado e enganoso

  1. No TikTok:

  • Acesse o perfil ou vídeo suspeito.

  • Toque no ícone de três pontos (menu) e selecione "Denunciar".

  • Escolha a categoria "Conteúdo sexual" ou "Conteúdo enganoso".

  • Especifique que o conteúdo envolve manipulação por IA e uso indevido de imagem.

  • Envie a denúncia e, se possível, registre o link para acompanhamento.

  1. No Instagram:

  • Vá até a conta ou publicação suspeita.

  • Clique nos três pontos no canto superior direito e selecione "Denunciar".

  • Opte por "Conteúdo sexual" ou "Conteúdo falso/enganoso".

  • Informe que o conteúdo é gerado por IA e pode estar violando direitos de imagem.

  • Confirme a denúncia.

  1. Em ambos os casos, considere reportar diretamente para os canais oficiais das plataformas, caso a denúncia via app não resulte em ação rápida.

Limitações e desafios na moderação de conteúdo gerado por IA

  • A detecção automática de vídeos e imagens gerados por IA ainda é incipiente, o que dificulta a remoção rápida e eficaz desse tipo de conteúdo.

  • A ausência de rotulagem clara sobre o uso de IA nas publicações contribui para o engano dos usuários e para a dificuldade das plataformas em aplicar suas políticas.

  • O volume elevado de conteúdos e a rapidez com que contas falsas ou manipuladas são criadas exigem esforços constantes de monitoramento e atualização das ferramentas de moderação.

  • A sobreposição de rostos reais em corpos digitais, como no caso da modelo Riya Ulan, configura violação de direitos autorais e de imagem, mas nem sempre é prontamente identificada pelas plataformas.

Implicações sociais e recomendações para usuários e criadores

  • A presença de avatares digitais sexualizados e estereotipados contribui para a perpetuação de preconceitos raciais e para a objetificação de mulheres negras.

  • Criadores de conteúdo devem estar atentos à possível apropriação indevida de suas imagens e agir rapidamente para denunciar e proteger seus direitos.

  • Usuários comuns precisam desenvolver senso crítico para identificar conteúdos manipulados e evitar a disseminação de material enganoso.

  • As plataformas devem aprimorar suas políticas e tecnologias para exigir rotulagem clara de conteúdo gerado por IA e aumentar a transparência.

A remoção de 20 contas no TikTok após a reportagem da BBC é um passo importante, mas o combate a conteúdos gerados por IA que exploram estereótipos raciais e promovem pornografia exige ações contínuas e integradas entre plataformas, pesquisadores e comunidade. Denunciar conteúdos suspeitos, compreender as políticas das redes sociais e promover uma cultura digital consciente são práticas essenciais para minimizar os danos causados por essas manipulações.

Links úteis

Este guia visa orientar usuários, criadores e interessados em tecnologia e ética digital a identificar e agir frente a conteúdos manipulados por IA que promovem representações negativas e enganosas, contribuindo para um ambiente online mais seguro e respeitoso.