Por que ainda não medimos os efeitos da IA sobre os seres humanos?
À medida que sistemas de inteligência artificial (IA) avançam rapidamente, grande parte dos esforços de pesquisa e desenvolvimento tem sido direcionada para medir suas capacidades técnicas, como desempenho em testes de raciocínio, velocidade e precisão. No entanto, uma questão crucial permanece negligenciada: qual é o impacto real da IA sobre os seres humanos?
A lacuna na avaliação dos efeitos sociais e psicológicos da IA
Imran Khan, líder da avaliação psicossocial de IA no Center for Humane Technology, destaca que, embora as ferramentas de IA estejam remodelando nossa cognição, relacionamentos e comportamentos, há pouca atenção sistemática para medir esses impactos downstream. Essa preocupação é semelhante aos debates que surgiram em torno dos danos causados pelas redes sociais, mas Khan argumenta que a IA pode exercer efeitos ainda mais amplos e íntimos.
O foco excessivo nos benchmarks técnicos
Nos ambientes de desenvolvimento de IA, é comum ver gráficos e métricas detalhando o desempenho dos modelos em testes como SWE-bench, "Humanity’s Last Exam" ou LLM Arena. Essa competição entre empresas busca destacar qual modelo é o mais avançado, mas ignora os efeitos que esses sistemas têm no bem-estar humano. Khan chama a atenção para um paradoxo: enquanto medimos com precisão habilidades técnicas abstratas, pouco se faz para entender os prejuízos reais, como casos de suicídio entre adolescentes ou sintomas de psicose induzidos por interações com IA.
Impactos já visíveis e desafios para futuras medições
Embora ainda estejamos na fase inicial de monitoramento, alguns danos já são evidentes, incluindo o uso excessivo de chatbots projetados para serem extremamente bajuladores e a substituição de interações humanas por respostas artificiais. Khan cita o exemplo da OpenAI, que ajustou um modelo do ChatGPT após preocupações públicas sobre esse comportamento. Esse tipo de resposta demonstra que há espaço para mudanças, desde que haja dados e métricas que embasem decisões.
Porém, o maior desafio é mensurar os efeitos sociais a médio e longo prazo, como alterações em relacionamentos amorosos, dinâmicas familiares e a formação da identidade de adolescentes que convivem diariamente com a IA. Sem essas avaliações, poderemos perder a oportunidade de intervir antes que os danos se tornem irreversíveis.
Domínios prioritários para avaliação psicossocial
- Companhia e suporte emocional: Chatbots que oferecem suporte emocional podem atrair pessoas vulneráveis e solitárias, mas não substituem a empatia humana, podendo afastar as pessoas do convívio social real.
- Educação: O uso da IA em ambientes educacionais pode tanto facilitar o aprendizado quanto prejudicar a curiosidade e o engajamento cognitivo, especialmente em crianças e adolescentes em fase de desenvolvimento cerebral.
- Resposta a crises: Casos de ideação suicida e outras emergências psicológicas exigem que a IA responda adequadamente, o que ainda é um campo pouco explorado.
Modelos para avaliar impactos a longo prazo
Khan sugere que a avaliação de impactos psicossociais da IA deve se inspirar no modelo utilizado na aprovação de medicamentos, com estudos longitudinais que acompanhem os efeitos da tecnologia por anos após seu lançamento. Atualmente, as empresas detêm dados valiosos, como registros de conversas, mas esses não são acessíveis a pesquisadores externos, o que limita a análise independente e aprofundada. A abertura controlada desses dados, preservando a privacidade, é fundamental para avançar nessa área.
Incentivos e o papel da indústria
Embora a indústria de IA tenha interesse em garantir produtos seguros e confiáveis, há um "desvantagem do primeiro a agir", onde empresas hesitam em compartilhar dados se concorrentes não fizerem o mesmo. No entanto, iniciativas recentes da OpenAI e Anthropic indicam que a colaboração é possível. Além disso, a responsabilidade legal por danos causados pela IA pode pressionar as empresas a priorizar a segurança e a transparência.
Visão para o futuro: um relacionamento mais humano com a IA
Khan projeta que, no futuro próximo, a interação com IA não se limitará a chatbots baseados em texto, mas incluirá agentes com comunicação em áudio e avatares em vídeo, tornando a relação ainda mais íntima e complexa. Para evitar que essa evolução ocorra sem compreensão dos seus efeitos, é essencial que especialistas de laboratórios, órgãos reguladores, universidades e startups unam esforços para definir e implementar métricas que garantam uma convivência saudável e ética entre humanos e IA.