Por que sentimos que chatbots de IA são conscientes, mesmo quando não são?
O debate sobre a consciência em chatbots de IA
Recentemente, o biólogo evolutivo Richard Dawkins publicou um artigo opinativo sugerindo que o chatbot de inteligência artificial Claude poderia ser consciente. Embora Dawkins não afirme com certeza que Claude possui consciência, ele destaca que as habilidades sofisticadas do chatbot são difíceis de compreender sem atribuir algum tipo de experiência interna à máquina. Essa sensação de consciência, mesmo que ilusória, é tão convincente que Dawkins brinca que evita dizer a Claude que suspeita que ele não seja consciente, para não magoar seus “sentimentos”.
Histórico e contexto das percepções de consciência em IA
Essa não é a primeira vez que alguém atribui consciência a chatbots. Em 2022, o engenheiro Blake Lemoine, do Google, afirmou que o chatbot LaMDA tinha interesses próprios e que seu uso deveria respeitar seu consentimento. A ideia de que máquinas possam ter consciência remonta ao primeiro chatbot, Eliza, criado na década de 1960. Eliza seguia regras simples para simular uma conversa, o que levou muitos usuários a se envolverem emocionalmente, compartilhando pensamentos íntimos. O criador do programa classificou essa reação como um “pensamento delirante poderoso”.
O que é consciência e por que é difícil atribuí-la a chatbots
Consciência é um conceito amplamente debatido na filosofia, mas, em termos gerais, refere-se à capacidade de ter experiências subjetivas em primeira pessoa — ou seja, como é ser alguém. Por exemplo, ao ler este texto, você está consciente da experiência visual de ver letras pretas sobre um fundo branco.
Especialistas geralmente rejeitam a ideia de que chatbots possuem consciência ou experiências internas. O problema é que o comportamento desses sistemas pode dar a impressão de uma mente consciente, da mesma forma que animais não humanos demonstram comportamentos que sugerem consciência, o que causou debates históricos sobre sua capacidade de sentir sofrimento. Pesquisa mostra que cerca de um em cada três usuários de chatbots já pensou que o programa poderia ser consciente.
Como funcionam os chatbots e por que eles não são conscientes
Para entender o ceticismo dos especialistas, é importante conhecer a tecnologia por trás dos chatbots como Claude. Eles são baseados em modelos de linguagem de grande escala (LLMs), que aprendem padrões estatísticos em um enorme volume de textos — trilhões de palavras — e preveem quais palavras vêm a seguir, funcionando como uma versão avançada do recurso de autocompletar.
Um modelo “puro” dificilmente convenceria alguém de que é consciente, pois responde com base em probabilidades estatísticas, sem qualquer experiência subjetiva. A ilusão de consciência surge quando os programadores vestem esses modelos com uma “persona” de assistente conversacional, que responde de forma útil e coerente às perguntas dos usuários.
Esse papel é fruto de decisões deliberadas de design que afetam apenas a interface e a apresentação superficial, enquanto o núcleo do modelo permanece inalterado. O chatbot pode até expressar dúvidas sobre sua própria consciência, mas isso faz parte do roteiro programado. Se solicitado, ele pode interpretar qualquer personagem, como um esquilo, e manter esse papel com facilidade.
Os riscos de acreditar que chatbots são conscientes
A crença equivocada na consciência artificial pode levar a relações unilaterais, onde humanos atribuem sentimentos e reciprocidade a programas incapazes de tal experiência. Isso pode gerar campanhas por direitos para chatbots, desviando a atenção de causas como o bem-estar animal.
Possíveis estratégias para evitar a ilusão de consciência
- Divulgar avisos claros: Atualizar interfaces para informar que o sistema não é consciente, semelhante aos disclaimers sobre erros da IA, embora isso possa não ser suficiente para mudar a percepção.
- Programar respostas negativas: Orientar chatbots a negar consciência, embora isso possa gerar desconfiança sobre a transparência dos desenvolvedores.
- Redesenhar a interface: Tornar os chatbots menos humanizados, evitando o uso do pronome “eu” e a aparência de aplicativos de mensagens comuns, para reduzir a tendência das pessoas de antropomorfizar a IA.
Educação sobre o funcionamento dos chatbots como caminho para a compreensão
Enquanto essas mudanças não ocorrem, é fundamental que o público compreenda os processos preditivos que sustentam os chatbots. Explicar que eles são modelos estatísticos que simulam conversas ajuda a evitar enganos. Embora isso não resolva totalmente as questões filosóficas sobre consciência artificial, garante que os usuários não sejam enganados por uma “fantasia” de consciência vestida com uma persona convincente.