Algoritmo não tem CRM: quem responde quando a IA erra?
Por André Leite e Vinícius Lain, autores de IA em Saúde.
No Brasil, todo médico carrega um número de registro no conselho de sua categoria — o CRM, no caso da medicina — que existe justamente para que haja responsabilidade individual, rastreável e exigível, por cada decisão clínica tomada. Um algoritmo de inteligência artificial não tem CRM. E é exatamente essa lacuna — quem responde quando a IA erra — que se tornou um dos debates jurídicos mais urgentes, e ainda mais mal resolvidos, da medicina contemporânea.
Considere um cenário simples: um sistema de apoio diagnóstico sugere, com alta confiança, uma conduta que se revela incorreta, e o paciente sofre dano. Quem responde? O médico que seguiu a sugestão sem questionar? O médico responde mesmo que a instituição tenha, na prática, incentivado ou exigido o uso daquela ferramenta? O hospital que adotou o sistema sem validação adequada para sua população de pacientes? O fornecedor da tecnologia, que desenvolveu e vendeu um produto com falha? Cada jurisdição, cada caso concreto, ainda está construindo essa resposta — e não existe, hoje, um consenso jurídico definitivo, nem no Brasil nem na maior parte do mundo.
Há uma analogia histórica desconfortável, mas útil, para pensar sobre esse tipo de responsabilidade distribuída: os Julgamentos de Nuremberg, que enfrentaram de frente a questão de até que ponto "estava apenas seguindo ordens" ou "seguindo o sistema" isenta um indivíduo de responsabilidade por suas próprias decisões. Não se trata, evidentemente, de comparar níveis de gravidade — trata-se de reconhecer que a história já nos ensinou, de forma dolorosa, que delegar julgamento inteiramente a uma autoridade externa, seja ela humana ou algorítmica, não isenta quem executa a ação final de responsabilidade sobre ela.
Na prática clínica, isso se traduz numa regra que deveria ser óbvia, mas que precisa ser dita com todas as letras: nenhuma ferramenta de inteligência artificial substitui o julgamento clínico final do médico, nem a responsabilidade que vem junto com ele. A IA pode sugerir, alertar, priorizar — mas a assinatura, no sentido mais literal e mais figurado da palavra, continua sendo humana.
Instituições sérias de saúde já estão construindo protocolos claros de uso — quando seguir a sugestão do algoritmo, quando questioná-la, como documentar essa decisão — exatamente para que essa responsabilidade não fique num limbo jurídico no dia em que, inevitavelmente, alguma coisa der errado.
Leia também
Ética e Regulação
Quem é responsável quando uma inteligência artificial erra na medicina?
Quando uma IA participa de uma decisão médica e algo dá errado, a responsabilidade não desaparece. Entenda o papel do médico, da instituição, do fornecedor e da governança.
Ética e Regulação
O Game of Thrones dos dados de saúde: viés algorítmico é desigualdade disfarçada de ciência
Como algoritmos treinados em dados desiguais reproduzem e amplificam desigualdades — e por que governança e explicabilidade (XAI) não são opcionais.
Inteligência Artificial na Medicina
A inteligência artificial vai substituir os médicos?
A inteligência artificial tende a transformar o trabalho médico mais do que substituí-lo. Entenda o que a máquina pode assumir — e o que continua essencialmente humano.