Senador Adam Schiff propõe lei para limitar uso de IA em armas autônomas e vigilância em massa
O senador democrata Adam Schiff (D-CA) está elaborando um projeto de lei que visa formalizar as restrições defendidas pela empresa Anthropic no uso de inteligência artificial (IA) em armas autônomas e na vigilância em massa. A iniciativa busca garantir que decisões críticas sobre vida e morte continuem sob controle humano, evitando delegar tais responsabilidades a algoritmos.
Contexto da disputa entre Anthropic e o Pentágono
Recentemente, a Anthropic entrou em conflito com o Departamento de Defesa dos Estados Unidos após impor limites ao uso de seus modelos de IA pelo setor militar. A empresa se recusou a permitir que suas tecnologias fossem utilizadas para armas totalmente autônomas ou para vigilância doméstica em massa, o que levou o governo Trump a incluí-la em uma lista negra por supostos riscos na cadeia de suprimentos. Em resposta, Anthropic entrou com uma ação judicial alegando violação de seus direitos constitucionais e aguarda decisão judicial sobre o bloqueio da designação.
Detalhes do projeto de lei de Schiff
Embora o texto do projeto ainda esteja em fase de elaboração, Schiff declarou que o objetivo central é impedir o uso da IA para fins ilícitos, especialmente em contextos que envolvam decisões de vida ou morte. Um princípio fundamental é a manutenção de um human in the loop — ou seja, a presença obrigatória de um operador humano na cadeia de comando quando a tecnologia possa tirar vidas.
Schiff destacou que, embora a IA possa ser útil para acelerar o processamento de informações no campo de batalha, como fornecer dados em tempo real para operadores humanos, ela não deve substituir o julgamento humano em situações críticas, como distinguir entre alvos civis e militares.
Legislação paralela e diálogo com stakeholders
Paralelamente, a senadora Elissa Slotkin (D-MI) apresentou o AI Guardrails Act, que limita o uso da IA pelo Departamento de Defesa para detonação de armas nucleares e vigilância em massa de cidadãos americanos, além de estabelecer notificações obrigatórias ao Congresso em casos excepcionais de uso de armas autônomas letais. Embora os detalhes das propostas de Schiff e Slotkin ainda estejam sendo alinhados, ambas compartilham o compromisso de restringir usos potencialmente abusivos da IA.
O gabinete de Schiff mantém diálogo contínuo com líderes da indústria e outras partes interessadas para aperfeiçoar o projeto, incluindo a definição de parâmetros para o que configura armas autônomas ou vigilância doméstica. Questões de direitos humanos e proteção a não-cidadãos legalmente presentes no país também estão em discussão.
Implicações políticas e perspectivas para aprovação
Com os democratas em minoria no Congresso, a aprovação da lei dependerá do apoio bipartidário, especialmente diante das eleições de meio de mandato que se aproximam. Schiff considera que há respaldo público transversal para essas limitações, mas reconhece que críticas políticas podem surgir por interpretações de que o projeto seria uma censura à administração atual.
Entre as estratégias para avançar com a legislação está a inclusão do texto em veículos legislativos maiores, como o National Defense Authorization Act (NDAA), que autoriza o orçamento e políticas de defesa do país.
Confiança nas regras e o papel do setor privado
Schiff expressou preferência por estabelecer requisitos legais claros para o uso da IA, em vez de depender exclusivamente de acordos informais entre o Pentágono e CEOs de empresas de tecnologia. A controvérsia envolvendo Anthropic e a postura da OpenAI, que aceitou termos mais permissivos para uso militar, evidenciam a necessidade de normas explícitas para evitar abusos e preservar a liderança americana em IA de forma ética e segura.