Quando a Acurácia Engana — Uma Visão Centrada nos Dados para Modelos de IA Confiáveis, Interpretáveis e Eficientes

Modelos modernos de IA alcançam níveis impressionantes de acurácia, mas desempenho elevado nem sempre se traduz em decisões confiáveis. Nesta palestra, defendemos a tese de que propriedades como confiabilidade, adaptabilidade, interpretabilidade e eficiência não são explicadas apenas pelo modelo, mas emergem da forma como os dados são construídos, selecionados, reutilizados e interpretados ao longo de todo o pipeline de aprendizagem.

A partir dessa perspectiva centrada nos dados, discutimos quatro desafios fundamentais para sistemas de IA: confiança nas probabilidades produzidas pelos modelos, adaptação a mudanças nos dados, tomada de decisão em cenários complexos e interpretação dos mecanismos internos que sustentam as previsões. Apresentamos resultados recentes envolvendo calibração, aprendizado contínuo, seleção de instâncias e interpretabilidade em aplicações de Processamento de Linguagem Natural e Saúde.

A mensagem central é simples: a pergunta mais importante não é se um modelo é preciso, mas se suas decisões podem ser confiadas. Construir sistemas de IA verdadeiramente úteis exige olhar além da acurácia e adotar uma visão integrada, centrada nos dados e orientada à responsabilidade.