Com o avanço de sistemas de inteligência artificial cada vez mais integrados à rotina de diagnóstico por imagem, discussões que antes permaneciam restritas a debates acadêmicos sobre ética médica passaram a integrar decisões práticas de gestão em instituições de saúde de diferentes portes. Gustavo Khattar de Godoy, médico com formação em diagnóstico por imagem, mestrado e doutorado pela Unicamp e período de pós-doutoramento no Johns Hopkins Hospital, tem discutido questões relacionadas à responsabilidade profissional, transparência algorítmica e equidade no acesso a essas tecnologias, reconhecendo que a incorporação responsável de inteligência artificial exige reflexão que vai muito além da simples avaliação de desempenho técnico dos algoritmos disponíveis no mercado.
Quem é responsável quando um algoritmo comete um erro?
A definição de responsabilidade em casos de erro diagnóstico envolvendo ferramentas de inteligência artificial representa uma das questões éticas e jurídicas mais complexas enfrentadas atualmente pelo setor de saúde, especialmente diante da ausência de jurisprudência consolidada sobre o tema no contexto brasileiro. De acordo com Gustavo Khattar de Godoy, a responsabilidade final por decisões diagnósticas permanece, na maior parte dos modelos regulatórios atuais, atribuída ao profissional médico responsável pela interpretação do exame, mesmo quando ferramentas automatizadas participam ativamente do processo de análise, situação que reforça a importância de o profissional compreender adequadamente as limitações e o funcionamento geral de qualquer algoritmo incorporado à sua rotina assistencial.
Essa atribuição de responsabilidade, embora compreensível diante do estágio atual da tecnologia, levanta questionamentos sobre até que ponto é razoável exigir que o médico supervisione integralmente decisões geradas por sistemas cuja lógica interna nem sempre é totalmente transparente ou compreensível para o usuário final. A documentação adequada do processo decisório, incluindo registro claro sobre em que medida a ferramenta de inteligência artificial influenciou determinada conclusão diagnóstica, representa prática recomendável para instituições que utilizam essas tecnologias, fortalecendo tanto a transparência do processo quanto a proteção legal do profissional responsável em eventuais questionamentos futuros.
Como garantir transparência sobre o funcionamento dos algoritmos?
Muitos algoritmos de inteligência artificial utilizados em diagnóstico por imagem funcionam, do ponto de vista técnico, como sistemas de difícil interpretação direta, situação frequentemente descrita na literatura especializada como problema da caixa-preta algorítmica, na qual mesmo desenvolvedores têm dificuldade de explicar precisamente por que determinado sistema chegou a uma conclusão específica.
Na interpretação de Gustavo Khattar de Godoy, essa opacidade representa desafio ético relevante, especialmente quando se considera que pacientes têm direito a compreender, ao menos em termos gerais, como decisões relacionadas à sua saúde são tomadas, incluindo a eventual participação de ferramentas automatizadas nesse processo.
O desenvolvimento de tecnologias de inteligência artificial mais interpretáveis, capazes de indicar quais características da imagem influenciaram determinada conclusão, representa uma área de pesquisa bastante ativa que busca reduzir essa opacidade sem comprometer o desempenho técnico dos algoritmos desenvolvidos. A comunicação clara com pacientes sobre a utilização dessas ferramentas em seu processo diagnóstico, incluindo consentimento informado adequado quando aplicável, também representa aspecto ético relevante, ainda pouco padronizado entre diferentes instituições que já incorporaram inteligência artificial em sua rotina assistencial.
Quais riscos de desigualdade essas tecnologias podem amplificar?
Algoritmos de inteligência artificial treinados predominantemente com dados de determinadas populações podem apresentar desempenho inferior quando aplicados a populações com características demográficas distintas daquelas presentes no conjunto de dados original de treinamento, risco que exige atenção específica diante da diversidade populacional observada no contexto brasileiro. Gustavo Khattar de Godoy evidencia que a validação dessas ferramentas, especificamente na população brasileira, antes de sua incorporação ampla à prática clínica nacional, representa etapa essencial para evitar que desigualdades históricas de acesso a cuidados de saúde de qualidade sejam inadvertidamente amplificadas por tecnologias desenvolvidas e validadas majoritariamente em outros contextos populacionais.
Essa preocupação se torna ainda mais relevante diante do potencial dessas tecnologias de ampliar acesso a diagnóstico especializado em regiões carentes de profissionais qualificados, benefício que só se concretiza plenamente se o desempenho do algoritmo permanecer consistente também nessas populações historicamente sub-representadas em estudos de validação tecnológica. O acesso desigual a essas tecnologias entre instituições de diferentes portes e capacidades financeiras também representa preocupação ética relevante, com risco de que grandes centros urbanos concentrem os benefícios da inovação tecnológica, enquanto regiões mais carentes permanecem dependentes exclusivamente de processos tradicionais de interpretação diagnóstica.
Como construir governança ética adequada para essas tecnologias?
A construção de estruturas formais de governança ética, capazes de avaliar continuamente a implementação e o desempenho de ferramentas de inteligência artificial em contextos assistenciais reais, representa recurso relevante para instituições que desejam incorporar essas tecnologias de forma responsável.
Gustavo Khattar de Godoy sinaliza que comitês de ética específicos para avaliação de tecnologias de inteligência artificial, compostos por profissionais médicos, especialistas em ética e, quando possível, representantes de pacientes, fortalecem a capacidade institucional de identificar e mitigar riscos antes que produzam impacto negativo significativo sobre o cuidado oferecido. Essa governança formal, ainda incomum na maior parte das instituições brasileiras, tende a se tornar cada vez mais relevante conforme a utilização dessas ferramentas se expande e se consolida na prática assistencial cotidiana do país.
O desenvolvimento responsável de inteligência artificial aplicada ao diagnóstico por imagem exige, portanto, diálogo constante entre avanço tecnológico e reflexão ética cuidadosa, reconhecendo que benefícios técnicos significativos não eliminam a necessidade de atenção permanente às implicações mais amplas dessas tecnologias sobre a equidade e a qualidade do cuidado oferecido à população. Instituições que desejam estruturar processos de governança ética para incorporação de inteligência artificial em seus serviços de diagnóstico podem buscar orientação técnica especializada para construir esse arcabouço de forma consistente.