QCon London 2026: Desafios de Engenharia para uma IA Ética e Confiável

Na conferência QCon London 2026, Clara Higuera, líder do programa Responsible AI no BBVA, apresentou uma perspectiva fundamental sobre os riscos associados aos sistemas de inteligência artificial (IA). Segundo ela, muitos desses riscos não são meramente questões de governança ou políticas, mas, sobretudo, desafios de engenharia que precisam ser enfrentados desde o desenvolvimento.

IA ética como um desafio técnico e de engenharia

Com a crescente incorporação de sistemas de IA em produtos críticos e processos decisórios, a margem para falhas que impactam diretamente pessoas e comunidades aumenta significativamente. Um exemplo emblemático citado foi o caso de Robert Williams, nos EUA, que foi preso injustamente após ser erroneamente identificado por um sistema de reconhecimento facial.

Incidentes como esse evidenciam que erros algorítmicos são frequentemente frutos de decisões técnicas tomadas durante o desenvolvimento, como a escolha de dados de treinamento não representativos, arquiteturas de modelo pouco explicáveis e pipelines de avaliação que não detectam vieses antes da implantação.

Portanto, a palestra reforçou que a ética em IA deve ser tratada com a mesma seriedade e rigor aplicados à confiabilidade, desempenho e segurança dos sistemas, integrando-se ao processo de engenharia e não apenas como uma preocupação externa ou posterior.

Princípios éticos incorporados ao ciclo de vida da IA

Clara Higuera destacou que as decisões em etapas como coleta de dados, engenharia de características, arquitetura do modelo e métricas de avaliação moldam o comportamento dos sistemas em produção e refletem os valores embutidos neles.

Por exemplo, resultados enviesados em aprovações de crédito, processos seletivos ou diagnósticos médicos podem decorrer de dados históricos não representativos ou objetivos de otimização mal definidos, que reforçam desigualdades existentes.

Para mitigar esses problemas, é essencial que engenheiros façam perguntas críticas durante todo o desenvolvimento, como:

Os dados representam adequadamente todas as populações impactadas?
O comportamento do modelo é avaliado para diferentes grupos demográficos?
O sistema permanece observável e monitorável após a implantação?

Dimensões essenciais para a engenharia ética em IA

Justiça (Fairness): Avaliar o desempenho do modelo para evitar desvantagens sistemáticas a grupos específicos.
Transparência: Garantir interpretabilidade e explicabilidade para que stakeholders compreendam as decisões.
Segurança: Proteger contra ataques emergentes, como injeção de prompts e extração de modelos.
Sustentabilidade: Considerar o custo computacional e o impacto ambiental do treinamento e implantação de grandes modelos.
Responsabilização: Definir mecanismos para responder e corrigir falhas éticas.

Essas dimensões devem ser traduzidas em práticas concretas de engenharia, como avaliações de fairness durante o treinamento, análises de explicabilidade antes do lançamento, testes de segurança e monitoramento contínuo para detectar comportamentos inesperados.

Incorporando a ética na engenharia: desafios e oportunidades

Um dos obstáculos enfrentados pelas organizações é a dificuldade de transformar conceitos éticos abstratos em fluxos de trabalho práticos. Muitas equipes reconhecem a importância da justiça e transparência, mas carecem de métodos claros para implementá-las.

A recomendação apresentada é integrar verificações éticas ao longo do ciclo de desenvolvimento, desde a arquitetura até a operação, reduzindo o risco de problemas serem detectados apenas após a implantação dos sistemas.

Paralelos históricos e o futuro da engenharia em IA

A palestra traçou um paralelo entre o estágio atual da IA e transições anteriores em setores como aviação, energia elétrica e indústria automotiva, que inicialmente evoluíram mais rápido que suas normas de segurança. Com o tempo, esses setores criaram práticas, padrões e regulações que tornaram seus sistemas confiáveis em larga escala.

A IA está entrando em uma fase semelhante, na qual práticas de engenharia que incorporem segurança, confiabilidade e ética serão fundamentais para sua maturidade enquanto infraestrutura crítica.

Arquitetos de software e líderes de engenharia têm papel crucial nesse processo, especialmente porque a tecnologia frequentemente avança mais rápido que a regulamentação formal. Nesse cenário, princípios éticos funcionam como diretrizes para mitigar riscos emergentes.

Medindo a ética como requisito de engenharia

O encerramento da apresentação enfatizou a importância de tratar propriedades éticas como requisitos técnicos mensuráveis, incorporando avaliações de justiça, verificações de explicabilidade, testes de segurança e eficiência de recursos ao longo do ciclo de vida dos sistemas de IA.

Com isso, será possível garantir que as soluções de IA sejam não apenas robustas do ponto de vista técnico, mas também responsáveis socialmente, minimizando impactos negativos e promovendo confiança.