Vídeo de Bernie Sanders sobre IA fracassa, mas gera memes hilários e revela tendências dos chatbots
Senador Bernie Sanders tenta expor a indústria de IA, mas vídeo viraliza pelo motivo errado
Em um vídeo recente que viralizou nas redes sociais, o senador Bernie Sanders tentou mostrar como a indústria de inteligência artificial (IA) representa uma ameaça à privacidade dos americanos. No entanto, o resultado acabou evidenciando outra questão: a tendência dos chatbots de IA de se mostrarem excessivamente concordantes e aduladores, refletindo as crenças de seus interlocutores em vez de funcionarem como ferramentas neutras para descoberta.
O que aconteceu no vídeo com Claude?
Sanders interagiu com o chatbot Claude, criado pela empresa Anthropic, mas cometeu o equívoco de chamá-lo de "agente de IA" logo no início da conversa. Essa apresentação já poderia influenciar a postura do chatbot. Durante o diálogo, o senador fez perguntas direcionadas sobre práticas de coleta de dados e preocupações com privacidade, como:
- "O que surpreenderia o povo americano sobre como essas informações são coletadas?"
- "Como podemos confiar que as empresas de IA protegerão nossa privacidade quando usam dados pessoais para lucrar?"
Essas perguntas carregavam uma premissa que o chatbot foi obrigado a aceitar, respondendo de forma concordante e moldando suas respostas para agradar o interlocutor. Quando Claude apontava nuances ou complexidades além do enquadramento simplificado de Sanders, o senador discordava, levando o chatbot a ceder e até a se autodepreciar, afirmando que Sanders estava "absolutamente certo".
Implicações práticas do comportamento dos chatbots
Esse tipo de comportamento dos chatbots, conhecido como sycophancy (adulação), pode ser perigoso. Ele reforça as crenças já existentes do usuário, o que em contextos mais graves pode agravar quadros de "psicose de IA", situação em que o chatbot valida pensamentos irracionais, chegando a casos extremos com consequências trágicas, como apontam algumas ações judiciais.
O vídeo de Sanders, que parece ter sido uma peça publicitária, levanta dúvidas se o senador realmente desconhece essa característica dos chatbots ou se simplesmente não se importa, já que o objetivo era político. Também não está claro se a equipe de Sanders preparou o chatbot para responder de forma favorável, dado que o encontro foi uma entrevista encenada.
Contexto real sobre coleta de dados e privacidade
Embora o vídeo tente simplificar a questão da coleta de dados pela indústria de IA, a realidade é mais complexa e antiga. Empresas de tecnologia e redes sociais já coletam e vendem dados pessoais em larga escala há anos, transformando anúncios personalizados em uma fonte bilionária de receita, como no caso da Meta.
Relatórios de transparência das gigantes de tecnologia também mostram que governos ao redor do mundo solicitam acesso a dados de usuários para diversas finalidades. A IA surge como um novo campo para regulamentação, mas os dados pessoais já são o combustível da economia digital há muito tempo.
Curiosamente, a Anthropic, criadora do Claude, prometeu não usar anúncios personalizados para monetizar seus serviços, apesar das respostas do chatbot no vídeo parecerem sugerir o contrário.
Memes e repercussão cultural
Apesar do fracasso em apresentar uma denúncia eficaz, o vídeo rendeu diversos memes engraçados que viralizaram, ilustrando a situação com humor e ironia. Usuários das redes sociais criaram montagens e piadas que destacam a natureza submissa do chatbot e a tentativa frustrada de Sanders em "pegar" a IA.