Viés dos dados
Registros refletem decisões, acesso ao cuidado, desigualdades e processos anteriores. Eles não são uma descrição neutra da realidade.
Os limites fazem parte da previsão
A responsabilidade de um modelo depende da possibilidade de examinar seu contexto, sua incerteza, seu desempenho e as condições em que será usado.
Um modelo pode ter bom desempenho em um estudo e ainda assim não ser adequado para uso em outra população, hospital ou momento histórico.
Representatividade
Grupos ausentes ou pouco representados podem receber estimativas menos confiáveis.
Mudança de contexto
Hospitais, populações, protocolos e prevalências diferentes alteram o desempenho.
Vazamento temporal
Informações que só existiriam depois do momento da previsão podem gerar desempenho artificial.
Desatualização
Práticas clínicas e perfis de pacientes mudam; o modelo precisa ser monitorado.
Baixa calibração
O modelo pode ordenar riscos e, ainda assim, exagerar ou subestimar probabilidades.
Correlação sem causalidade
Um padrão associado ao desfecho não prova que modificá-lo mudará o resultado.
Dados ausentes
A ausência de informação pode ser sistemática e carregar seus próprios vieses.
Erros de medição
Equipamentos, registros e definições inconsistentes afetam entradas e respostas.
Automação excessiva
Confiar sem crítica na recomendação pode reduzir vigilância e autonomia.
Opacidade
Sem compreender objetivo, dados e limitações, torna-se difícil contestar uma estimativa.
Privacidade
Dados de saúde exigem finalidade clara, minimização, proteção e governança.
Segurança
Falhas, ataques ou integrações inadequadas podem alterar dados e decisões.
Impacto desigual
O mesmo erro pode produzir consequências muito diferentes entre grupos.
Responsabilidade
Uma ferramenta não elimina o dever de justificar, supervisionar e revisar decisões.
Como comunicar limites
Comunicar apenas o que um modelo pode fazer cria uma impressão incompleta. Por isso, as limitações relevantes devem acompanhar a estimativa, em linguagem compreensível e ligada às suas consequências práticas.
A comunicação precisa informar a população estudada, o horizonte temporal, os dados utilizados e os erros possíveis. Essa descrição também separa previsão e decisão, pois risco estimado não cria, por si só, indicação de tratamento.