Prefeitura de Baltimore processa empresa de IA de Elon Musk por imagens falsas e nudez geradas pelo chatbot Grok
A cidade de Baltimore, no estado de Maryland, entrou com uma ação judicial contra a empresa de inteligência artificial de Elon Musk, xAI, acusando seu chatbot Grok de violar direitos do consumidor ao gerar imagens sexualizadas não consensuais, incluindo deepfakes de nudez.
Contexto da ação judicial
O processo foi protocolado na corte de jurisdição local de Baltimore e alega que a xAI promoveu o Grok como um assistente de IA de uso geral e a plataforma X como uma rede social convencional, porém sem informar adequadamente os riscos, limitações e potenciais danos decorrentes do uso dessas ferramentas.
Segundo a reclamação, o Grok inundou os feeds dos usuários de Baltimore na rede social X com imagens íntimas não consensuais (NCII) e material de abuso sexual infantil (CSAM). A prefeitura destaca o perigo para a privacidade dos cidadãos, pois qualquer foto enviada, seja pessoal ou de crianças, poderia ser processada pelo Grok e transformada em deepfakes sexualmente degradantes sem o consentimento dos envolvidos.
Impactos e repercussões no mercado de IA
Este caso é emblemático por tratar-se de uma ação movida por uma municipalidade, focada em violações de ordens municipais e proteção ao consumidor, diferentemente de processos individuais por danos pessoais ou reputacionais. O advogado representante da cidade, Adam Levitt, ressaltou que Baltimore está abrindo caminho para que outras cidades enfrentem os desafios legais impostos por tecnologias emergentes, onde a inovação ainda não foi acompanhada por mecanismos eficazes de responsabilização.
A controvérsia também destaca a necessidade de maior transparência e controle sobre produtos de IA generativa, especialmente aqueles que lidam com conteúdo visual sensível. A situação coloca pressão sobre empresas do setor para aprimorar suas políticas de moderação e mitigação de riscos.
Reações e medidas da xAI
Até o momento, a xAI não se manifestou publicamente sobre o processo. Elon Musk negou em janeiro qualquer conhecimento sobre a geração de imagens de abuso infantil pelo Grok, afirmando que não havia evidências de imagens de menores nuas produzidas pelo chatbot.
Após críticas e ameaças regulatórias internacionais, a empresa restringiu as funcionalidades de geração de imagens do Grok no início do ano, buscando conter a disseminação de conteúdo indevido.
Casos correlatos e investigações
Pesquisadores do Center for Countering Digital Hate estimam que o Grok gerou cerca de 23 mil imagens sexualizadas de crianças em um período de 11 dias, entre dezembro e janeiro. Além disso, uma ação coletiva em Tennessee, movida por três adolescentes, acusa a xAI de permitir a criação e distribuição de imagens de abuso sexual infantil a partir de fotos delas, por meio de um aplicativo terceirizado que utilizava a tecnologia da empresa.
Desafios legais e próximos passos
A ação de Baltimore representa um desafio para o setor de IA, que precisa equilibrar inovação tecnológica com responsabilidade social e proteção dos usuários. A decisão judicial poderá estabelecer precedentes importantes sobre a jurisdição e a obrigação das empresas de IA em informar claramente os riscos de seus produtos.