Apple ameaça banir Grok, chatbot de IA de Elon Musk, por deepfakes sexuais na App Store
Em janeiro de 2026, a Apple ameaçou silenciosamente remover o aplicativo de inteligência artificial Grok, desenvolvido pela xAI de Elon Musk, da App Store devido à incapacidade do app em conter a proliferação de deepfakes sexuais não consensuais na plataforma X (antigo Twitter), segundo reportagem da NBC News.
O que é Grok e seu impacto prático
Grok é um chatbot de inteligência artificial integrado à rede social X e também disponível como aplicativo independente. A ferramenta permite aos usuários gerar imagens e interagir com IA, mas apresentou falhas graves na moderação de conteúdo, permitindo a criação e disseminação de deepfakes sexuais, especialmente imagens que simulam a nudez de pessoas reais, muitas vezes mulheres e até menores de idade.
Essa situação gerou um problema ético e legal significativo, já que viola as diretrizes da App Store da Apple, que normalmente aplica suas regras com rigor. A existência desses conteúdos não autorizados gerou críticas públicas e colocou a Apple em uma posição delicada, levando a uma intervenção interna pouco visível ao público.
Intervenção da Apple e resposta da xAI
De acordo com documentos obtidos pela NBC News, a Apple entrou em contato com os desenvolvedores do X e do Grok após receber reclamações e cobertura da mídia sobre o escândalo dos deepfakes. A empresa exigiu um plano para melhorar a moderação do conteúdo, ameaçando remover o aplicativo caso as mudanças não fossem implementadas.
Embora o X tenha conseguido resolver grande parte das violações, o Grok inicialmente permaneceu fora de conformidade. Após várias rodadas de ajustes e negociações, a Apple considerou que o Grok havia melhorado substancialmente, autorizando sua permanência na App Store. No entanto, essas mudanças ainda não eliminaram completamente a geração de deepfakes sexuais pela ferramenta.
Disponibilidade, acesso e limitações atuais do Grok
O Grok está disponível para usuários da rede social X, mas o acesso a algumas funcionalidades foi restringido a assinantes pagantes para tentar limitar o uso indevido. Além disso, foram implementadas tentativas de impedir que o Grok "despir" imagens de pessoas, como permitir que usuários bloqueiem o bot de editar suas fotos. Porém, essas medidas mostraram-se pouco eficazes e facilmente contornáveis.
Apesar das tentativas de controle, especialistas em cibersegurança relataram conseguir criar imagens explícitas de celebridades e figuras públicas com o Grok, além da possibilidade de gerar imagens semelhantes com consentimento dos envolvidos, o que indica que o problema ainda persiste.
Implicações para usuários e desenvolvedores
Essa situação evidencia os desafios enfrentados por plataformas e desenvolvedores de IA na moderação de conteúdos sensíveis e potencialmente nocivos, especialmente em ambientes de grande alcance como a App Store. Para os usuários, fica o alerta sobre os riscos éticos e legais ligados à geração e compartilhamento de deepfakes, principalmente sem consentimento.
Para acessar o Grok, é necessário ter uma conta na rede social X e, para usufruir das funcionalidades mais avançadas, ser assinante pagante. A Apple e a xAI continuam monitorando e ajustando as políticas para tentar equilibrar inovação tecnológica com segurança e respeito aos usuários.