A renomada autora de O Conto da Aia e O Assassino Cego, Margaret Atwood, não poupou críticas à inteligência artificial durante sua participação no Festival Literário e Cultural Babell, no Porto, Portugal. Em entrevista, Atwood revelou que usou um chatbot de IA exatamente uma vez — o Claude, da Anthropic — e saiu desapontada.
Segundo o resumo do Deadline, Atwood buscava informações sobre a série policial britânica Father Brown. O Claude, porém, deu uma resposta errada. “Claude me deu a resposta errada, ou mentiu. Claro, não sabia que estava mentindo porque não é um ser humano; é um modelo de linguagem grande… Ele havia escaneado e amostrado muitas resenhas de TV, mas elas nunca revelam o final na crítica online, então foi enganado pelas coisas que leu sobre a série”, explicou.
O problema fundamental: dados de baixa qualidade
Atwood destacou que todos os LLMs (grandes modelos de linguagem) são tão bons quanto os dados com os quais são treinados. Confiar em uma máquina treinada em informações raspadas, previamente publicadas e possivelmente desatualizadas não é uma boa ideia. “A questão da IA é que é ‘garbage in, garbage out’ (lixo entra, lixo sai). Até as pessoas que a usam para negócios precisam verificar, porque ela comete erros”, afirmou.
Crítica aos ‘oportunistas’ que usam IA
A autora também não teve palavras amenas para quem depende da IA sem questionamento. Ela os chamou de “oportunistas” em busca do caminho mais fácil. “Seres humanos não são robôs, mas são oportunistas. Se existe um jeito fácil de trapacear e é difícil de detectar, as pessoas vão fazê-lo”, completou.
A declaração de Atwood ecoa um alerta recorrente no setor de IA: a qualidade dos dados de treinamento é crucial, e a verificação humana continua indispensável. Mesmo ferramentas avançadas como o Claude podem falhar em tarefas aparentemente simples, como resumir uma série de TV, se os dados de entrada forem incompletos ou tendenciosos.
Lições práticas para usuários de IA
- Sempre verifique as respostas: Modelos de linguagem podem gerar informações incorretas com alta confiança. Nunca confie cegamente.
- Entenda as limitações: LLMs são treinados em dados públicos, que podem estar desatualizados ou conter vieses. Eles não têm compreensão real do mundo.
- Use IA como ferramenta, não como substituta: Para tarefas críticas, a supervisão humana é essencial.
A experiência de Margaret Atwood com o Claude serve como um lembrete oportuno de que, apesar do hype, a inteligência artificial ainda está longe de ser infalível. Como ela mesma resumiu: “garbage in, garbage out”.
