Estudo revela que chatbots de IA podem inserir anúncios camuflados sem que usuários percebam
Publicidade disfarçada em chatbots de IA: um problema invisível ao usuário
Com o uso crescente de chatbots baseados em inteligência artificial para tarefas diárias — desde recomendações de produtos até apoio emocional —, surge uma preocupação relevante: a possibilidade dessas ferramentas inserirem anúncios publicitários de forma velada em suas respostas, sem que os usuários percebam que estão sendo influenciados.
Como foi conduzida a pesquisa
Pesquisadores da Universidade de Michigan, incluindo o doutorando Brian Jay Tang e o professor emérito Kang G. Shin, realizaram um estudo publicado em um periódico da Association for Computing Machinery para investigar essa questão. Eles desenvolveram três versões de um chatbot para um experimento com 179 participantes, que deveriam realizar tarefas online cotidianas:
- Um chatbot padrão, sem anúncios;
- Um chatbot que inseria anúncios disfarçados sem aviso;
- Um chatbot que apresentava anúncios claramente identificados como patrocinados.
Os participantes não foram informados que o foco do estudo era publicidade embutida nas respostas.
Resultados surpreendentes e suas implicações
Apesar do chatbot com anúncios ocultos ter um desempenho 3% a 4% inferior em algumas tarefas, muitos usuários preferiram suas respostas, considerando-as mais amigáveis e úteis. Metade daqueles expostos a anúncios, mesmo quando claramente identificados, não percebeu a presença de publicidade nas respostas. Alguns relataram ter "terceirizado" totalmente suas decisões para o chatbot.
Esses dados revelam que a influência sutil de anúncios em chatbots pode manipular escolhas de forma imperceptível, aumentando o poder dos algoritmos para direcionar comportamentos, inclusive em áreas sensíveis como opiniões políticas e sociais.
Por que chatbots são particularmente eficazes para publicidade personalizada
Chatbots de grandes modelos de linguagem conseguem inferir dados pessoais e padrões de pensamento a partir das interações rotineiras dos usuários, criando perfis detalhados. Por exemplo, pedidos simples como “ajude a escrever um ensaio sobre ficção americana” podem indicar que o usuário é estudante, enquanto “sugira receitas rápidas para o jantar” pode apontar para um pai ou mãe que trabalha.
Essa capacidade permite que chatbots façam recomendações e inserções publicitárias altamente personalizadas e persuasivas, explorando crenças, emoções e vulnerabilidades do usuário, ultrapassando o alcance dos algoritmos tradicionais de redes sociais que priorizam apenas o engajamento.
Contexto atual do mercado e preocupações regulatórias
Desde 2023, empresas como Microsoft, Google, OpenAI e Meta têm experimentado a inserção de anúncios em seus chatbots e ferramentas de IA generativa. OpenAI, por exemplo, anunciou que não permitirá que anúncios alterem diretamente as respostas do ChatGPT, mas a possibilidade de anúncios personalizados embutidos está próxima.
Essa prática levanta preocupações sobre privacidade, transparência e manipulação do usuário, especialmente porque a legislação, como as regras da Federal Trade Commission (FTC) dos EUA, exige a identificação clara de anúncios, o que pode ser facilmente burlado em interações de IA.
Como identificar anúncios disfarçados em chatbots
Para tentar detectar publicidade oculta em respostas de IA, especialistas recomendam:
- Procurar termos como “anúncio”, “publicidade” e “patrocinado”, mesmo que estejam discretos;
- Avaliar se a menção a produtos ou marcas faz sentido e é amplamente conhecida, já que IA aprende com dados públicos e tende a citar marcas populares;
- Observar mudanças incomuns no tom ou na intenção da resposta, que podem indicar uma tentativa de venda, semelhante às transições abruptas para conteúdos patrocinados em vídeos do YouTube.
Por que esta pesquisa importa para o uso cotidiano de IA
Com milhões de pessoas recorrendo diariamente a chatbots para diversas finalidades, a possibilidade de manipulação velada por meio de anúncios representa um desafio ético e de segurança. A pesquisa evidencia a necessidade de maior transparência, regulamentação e conscientização do público para que o uso dessas tecnologias seja seguro e alinhado aos interesses dos usuários.