Cinco princípios que norteiam o uso responsável da IA no setor da saúde e para uma vida saudável

As soluções habilitadas para IA devem beneficiar a saúde e o bem-estar dos indivíduos e contribuir para o desenvolvimento sustentável da sociedade.

Como em qualquer inovação tecnológica, em primeiro lugar devemos nos perguntar qual propósito humano a IA deve servir. O objetivo não deve ser promover a IA como um fim em si mesmo, mas sim melhorar o bem-estar e a qualidade de vida das pessoas.

Com o aumento da demanda global por cuidados de saúde e a crescente escassez de profissionais do setor, há uma clara necessidade de IA para ajudar a aliviar a sobrecarga dos sistemas de saúde. Muito já foi escrito sobre como a IA pode atuar como um assistente inteligente para os profissionais de saúde no diagnóstico e tratamento – tudo com potencial para melhorar os resultados de saúde a um custo menor, ao mesmo tempo em que qualifica a experiência da equipe e do paciente (conhecido como o Objetivo Quádruplo). 

Mas para realmente beneficiar a saúde e o bem-estar das pessoas para as próximas gerações, precisamos pensar além do modelo atual reativo que visa “cuidar da doença”. Com a IA, podemos avançar em direção a um verdadeiro e proativo cuidado da saúde. A cada passo na vida das pessoas – do berço à velhice –, os aplicativos e serviços de saúde alimentados por IA poderiam informar e apoiar um estilo de vida saudável com assistência e aconselhamento personalizados, prevenindo e tratando doenças.

As soluções habilitadas para IA devem aumentar e capacitar as pessoas, com supervisão adequada.

Agora que estabelecemos o bem-estar humano como o propósito norteador para o desenvolvimento da IA, como garantir que a IA cumpra esse objetivo?

Como já defendi no passado, a IA aumenta as habilidades humanas e a experiência, mas não as torna menos relevantes. Especialmente no complexo mundo da saúde, onde as vidas estão em jogo, ferramentas de IA como o aprendizado de máquina exigem conhecimento e experiência do domínio humano para contextualizar seus resultados.

Um exemplo clássico da literatura médica pode ajudar a ilustrar isso – mostrando o que poderia dar errado se confiássemos cegamente nos algoritmos.

Em meados dos anos 90, uma equipe de pesquisa multi-institucional criou um modelo de aprendizado de máquina para prever a probabilidade de morte para pacientes com pneumonia. O objetivo era garantir que pacientes de alto risco fossem internados no hospital, enquanto pacientes de baixo risco poderiam ser tratados em ambulatórios. Com base nos dados de treinamento, o modelo inferiu que pacientes com pneumonia com histórico de asma têm menor risco de morrer de pneumonia do que a população em geral – um achado que vai contra todo o conhecimento médico comum ^[2].

Sem uma compreensão mais profunda dos dados, isso poderia ter levado à conclusão errônea de que pacientes com histórico de asma não precisavam de cuidados hospitalares com tanta urgência. Mas isso não poderia estar mais longe da verdade.

O que realmente explicou o padrão nos dados é que pacientes com histórico de asma geralmente eram internados diretamente na UTI quando apresentavam pneumonia no hospital. Isso reduzia o risco de morte por pneumonia em relação à população em geral. Se eles não tivessem recebido um atendimento tão proativo, eles teriam de fato um risco muito maior de morrer. 

Não havia nada de errado com o modelo de aprendizado de máquina em si – mas a correlação que havia sido identificada com base no conjunto de dados de treinamento era perigosamente enganosa. 

Este exemplo mostra como é crucial que o poder de cálculo da IA ande de mãos dadas com o conhecimento de especialistas humanos e da ciência clínica estabelecida. Não se pode usar um sem o outro.

As soluções habilitadas para IA não devem fazer mal e devem ter proteção adequada contra uso indevido deliberado ou inadvertido.

Para promover a aplicação responsável da IA, também precisamos implementar salvaguardas para evitar o uso indevido ou deliberado não intencional. Ter um conjunto robusto de mecanismos de controle ajudará a estabelecer confiança, ao mesmo tempo em que mitiga riscos potenciais. 

Isso é particularmente importante porque o uso indevido pode ser sutil e até mesmo ocorrer inadvertidamente – com a melhor das intenções.

Por exemplo, digamos que um algoritmo é desenvolvido para ajudar a detecção de câncer de pulmão usando tomografias de baixa dose. Se o algoritmo se mostrar eficaz para essa aplicação, com uma alta sensibilidade para detectar possíveis sinais de câncer de pulmão, pode parecer óbvio estender seu uso também para uma configuração de diagnóstico. Mas para uso eficaz e confiável nesse cenário, o algoritmo pode precisar ser ajustado de forma diferente, com maior especificidade de forma a descartar pessoas que realmente não tenham câncer de pulmão. Inclusive, um algoritmo totalmente diferente poderia ter um desempenho melhor. Diferentes configurações, diferentes demandas. 

Uma forma de prevenir o uso indevido (inadvertido) é monitorar o desempenho de soluções habilitadas para IA na prática clínica – e comparar os resultados reais com os obtidos em treinamento e validação. Qualquer discrepância significativa geraria uma análise adicional.

O treinamento e a educação também podem ser muitos úteis em garantir o uso adequado da IA. É fundamental que todo usuário tenha uma compreensão profunda das vantagens e limitações de uma solução específica habilitada para IA.

As soluções habilitadas para IA devem ser desenvolvidas e validadas com dados representativos do grupo visado para o uso pretendido e, ao mesmo tempo, evitar o preconceito e a discriminação.

Outra prioridade é garantir que a IA seja igualitária e livre de preconceitos. Devemos estar cientes de que a IA é tão objetiva quanto os dados que alimentamos nela. Um viés poderia ser facilmente inserido se um algoritmo fosse desenvolvido e treinado com base em um subconjunto específico da população, para depois ser aplicado a uma população mais ampla. 

Tome Dissecção Espontânea da Artéria Coronária (SCAD), uma condição rara e muitas vezes fatal que causa uma ruptura em um vaso sanguíneo do coração. Oitenta porcento dos casos de SCAD envolvem mulheres, mas as mulheres são tipicamente sub-representadas em ensaios clínicos que investigam a SCAD ^[3]. Se desenvolvermos uma ferramenta de apoio à decisão clínica alimentada por IA com base em dados desses ensaios clínicos, ela aprenderia com dados predominantemente masculinos. Como resultado, a ferramenta pode não capturar totalmente a complexidade da doença nas mulheres – perpetuando o viés que já estava presente nos ensaios.

Riscos semelhantes surgem quando um algoritmo de IA é desenvolvido em uma região do mundo e, em seguida, aplicado em outra região sem que antes seja feita uma revalidação com dados locais. Por exemplo, doenças cardiovasculares normalmente afetam pessoas da Índia 10 anos antes do que as pessoas de ascendência europeia ^[4]. Portanto, se um algoritmo for treinado apenas para os europeus, ele pode não captar sinais precoces de doenças cardiovasculares em pessoas indianos.

Como evitar esses vieses? 

Em primeiro lugar, o desenvolvimento e a validação da IA devem ser baseados em dados que representam de forma precisa a diversidade de pessoas no grupo-alvo. Quando a IA é aplicada a um grupo-alvo diferente, ela deve antes ser revalidada – e possivelmente retreinada.