Seis disciplinas, um objetivo: IA biomédica fiável
Cada disciplina combina métodos científicos, critérios de avaliação mensuráveis e conhecimento clínico. Reunimos as abordagens mais relevantes para os objetivos e desafios de cada projeto.
Enviesamento: tipos e metodologias
Os conjuntos de dados biomédicos podem conter diferentes formas de enviesamento que afetam a validade, a equidade e a capacidade de generalização dos modelos de IA. Identificamos e quantificamos o enviesamento ao longo de todo o ciclo de vida dos dados, desde a seleção dos participantes e a aquisição dos dados até à medição, aos dados em falta e ao desenvolvimento do modelo. A nossa abordagem combina avaliação estatística, estratégias de mitigação direcionadas e avaliação da robustez.
Enviesamento de seleção e representatividade — ponderação pelo inverso da probabilidade (IPW), reamostragem estratificada e auditoria do recrutamento
Enviesamento de medição e informação — correção de erro de classificação, análise de sensibilidade e auditoria dos protocolos de rotulagem
Enviesamento demográfico e de equidade — métricas por subgrupo (paridade demográfica, equalised odds), auditorias de equidade e revisão de limiares
Enviesamento histórico e de atalho — testes contrafactuais, robustez a correlatos espúrios e revisão da proveniência do dado
Inferência causal: associação, estimação e ML causal
A associação preditiva não implica necessariamente causalidade. Distinguimos entre identificar relações estatísticas, estimar efeitos causais e investigar como estes efeitos variam entre indivíduos ou populações. Combinando enquadramentos de inferência causal com aprendizagem automática, investigamos relações biomédicas complexas, abordando explicitamente o confundimento e os pressupostos subjacentes.
Associação estatística — a correlação e a regressão preditiva descrevem covariância; não respondem ao que acontece sob uma intervenção
Estimação causal — DAG e critério backdoor, propensity scores, IPTW, estimadores duplamente robustos, variáveis instrumentais e diferenças em diferenças
Machine learning causal — causal forests, meta-aprendizes (T/S/X), double machine learning e efeitos heterogéneos do tratamento
Refutação — testes placebo, controlos negativos e sensibilidade a confundidores não observados (valor E)
IA preditiva: modelos longitudinais e multimodais
As condições biomédicas evoluem ao longo do tempo e raramente são explicadas por uma única fonte de informação. Desenvolvemos modelos preditivos que captam padrões temporais e integram dados heterogéneos, incluindo registos clínicos, medições laboratoriais, imagiologia médica, medições biológicas e sinais fisiológicos. O nosso foco está no desempenho preditivo, na consistência temporal e na generalização entre conjuntos de dados.
Modelos longitudinais — trajetórias de biomarcadores, modelos de efeitos mistos, Transformers/LSTM temporais e sobrevivência com covariáveis dependentes do tempo
Fusão multimodal — imagem (CNN/ViT), dados clínicos tabulares, genómica e ómicas, texto clínico e sinais de wearables
Desfechos clínicos — risco, progressão, resposta ao tratamento, reinternamento e complicações
Validação temporal e externa — partições por tempo e replicação em coortes independentes
Explicabilidade e IA de caixa branca
Compreender como um modelo de IA chega às suas previsões é essencial para a interpretação científica e a avaliação clínica. Combinamos técnicas de IA explicável com investigações mais aprofundadas das representações internas e dos mecanismos computacionais do modelo. Exploramos também reconstruções interpretáveis que tornam os modelos complexos mais fáceis de inspecionar, avaliar e auditar.
Atribuição — SHAP, Integrated Gradients e análise de atenção ao nível do doente e da coorte
Evidência em imagem — mapas de saliência que localizam as regiões que sustentam cada achado
Reconstrução de caixa branca — substitutos interpretáveis, destilação, GAM/EBM e árvores regularizadas
Auditoria de mecanismos — deteção de shortcut learning e inspeção das variáveis que o modelo usa realmente
IA fiável: como se mede a fiabilidade
A precisão preditiva, por si só, não é suficiente para estabelecer a fiabilidade de um sistema de IA. Avaliamos o desempenho do modelo através de medidas complementares de discriminação, calibração, robustez, equidade, incerteza e generalização. Avaliamos também a reprodutibilidade e a validade externa para identificar limitações e determinar em que condições as previsões do modelo continuam a ser fiáveis.
Calibração — Brier score, curvas de fiabilidade e erro de calibração esperado (ECE)
Discriminação — AUROC e AUPRC com intervalos de confiança, reportadas por subgrupo
Robustez — validação externa, testes de stress e sensibilidade a valores em falta e ruído
Estabilidade e equidade — desempenho por subgrupo, monitorização de deriva (drift) e vigilância pós-implementação
Incerteza — predição conforme e intervalos que indicam ao clínico quando não deve confiar num caso
Integração do conhecimento clínico
A IA biomédica deve combinar padrões aprendidos a partir dos dados com conhecimento clínico e biológico estabelecido. Integramos conhecimento especializado, diretrizes clínicas, relações fisiológicas, terminologias estruturadas e informação causal no desenho, desenvolvimento e avaliação dos modelos. Isto ajuda a ligar previsões estatísticas a conceitos clinicamente relevantes e a relações cientificamente interpretáveis.
Desenho com especialistas — definição de variáveis e DAG construídos em conjunto com clínicos
Restrições baseadas em diretrizes — regularização e restrições de variáveis alinhadas com diretrizes de prática clínica
Modelos híbridos — componentes mecanicistas e farmacocinéticos combinados com machine learning
Revisão clínica — revisão de casos com comités clínicos e reporte no estilo TRIPOD+AI
Colaboração
Construamos juntos uma IA fiável
Conta-nos o problema clínico ou de investigação e responder-te-emos com uma proposta de colaboração.
