Ghost in the Machine: Documentário de Valerie Veatch revela a herança racista por trás da IA generativa
Em 2024, a diretora Valerie Veatch se interessou pelo modelo de IA generativa de texto para vídeo Sora, lançado pela OpenAI. Apesar de não compreender completamente a tecnologia, sua curiosidade sobre as possibilidades e a formação de comunidades artísticas online a motivaram a explorar essa nova ferramenta. Contudo, Veatch logo se deparou com um problema grave: a geração frequente de imagens carregadas de racismo e sexismo, e a indiferença dos entusiastas da IA diante dessas manifestações.
Ghost in the Machine: um olhar crítico sobre a gênese da IA generativa
O desconforto com os resultados preconceituosos da tecnologia levou Veatch a produzir o documentário Ghost in the Machine, que traça a história e os fundamentos intelectuais que moldaram a inteligência artificial generativa (gen AI) como conhecemos hoje. Ao contrário das narrativas otimistas que exaltam os benefícios futuros da gen AI, o filme foca na origem da tecnologia para evidenciar o ciclo intenso de hype da indústria e as raízes problemáticas que influenciam seu funcionamento atual.
Do termo “inteligência artificial” à eugenia vitoriana
Em uma entrevista concedida durante a divulgação do documentário, Veatch destaca que o termo “inteligência artificial” foi cunhado em 1956 por John McCarthy, principalmente para captar investimentos. Contudo, a história que o filme revela é mais profunda e controversa: começa na Inglaterra vitoriana com Francis Galton, criador da eugenia, uma pseudociência racista que defendia a “melhoria” da humanidade pela eliminação de grupos considerados inferiores.
Galton, primo de Charles Darwin, desenvolveu técnicas de modelagem multidimensional usadas para medir atributos físicos de mulheres africanas e europeias, que influenciaram seu protegido Karl Pearson. Pearson criou ferramentas estatísticas como a regressão logística, base fundamental para o aprendizado de máquina moderno. Essa conexão histórica demonstra como a ciência racializada e discriminatória está imersa nas bases da IA atual.
Racismo e sexismo embutidos nos modelos de IA
Veatch relata suas experiências pessoais com o Sora, onde uma mulher negra do grupo de artistas percebeu que o modelo "branqueava" suas imagens, inserindo-a em espaços artísticos associados à cultura branca. A falta de reação dos demais membros do grupo ilustrou a negligência frente a esses problemas. Quando Veatch reportou diretamente à OpenAI, a resposta foi desanimadora, classificando as queixas como "cringe" e afirmando não haver solução imediata.
O documentário apresenta vozes de pesquisadores e teóricos críticos que argumentam que o racismo está tão enraizado na IA que as empresas responsáveis parecem desinteressadas em corrigir esses vieses, perpetuando uma tecnologia que reproduz ideologias odiosas sem provocação explícita.
Disponibilidade e acesso ao documentário
Ghost in the Machine estará disponível para streaming via Kinema entre os dias 26 e 28 de março de 2026. Posteriormente, o filme será exibido na PBS ainda em 2026. Essa produção é essencial para quem deseja compreender o contexto histórico e social que molda as tecnologias de IA e os desafios éticos que elas enfrentam.