Por que a IA na área de saúde precisa de um design centrado em pessoas

Em conversas com líderes de saúde em todo o mundo, um desafio que normalmente surge é a dificuldade de encontrar médicos especializados em número suficiente para atender à crescente necessidade de atendimento. Nesse ponto, gostaria de perguntar: e se pudéssemos tornar seus médicos duas vezes mais eficazes e eficientes, permitindo-lhes tomar melhores decisões, enquanto passam mais tempo com os pacientes?

Essa é essencialmente a promessa da IA, seja por meio da automação de tarefas ordinárias, que tiram o foco do médico sobre o paciente, seja pelo suporte à decisão clínica nos momentos que, em última análise, pode-se de chegar a melhores desfechos de saúde.

Apesar de todos os seus avanços tecnológicos, surpreendentemente, poucas aplicações de IA conseguiram transpor as barreiras do laboratório de pesquisa para a prática clínica. O que está atravancando a adoção da IA na área da saúde?

Problemas relacionados à gestão de dados e interoperabilidade são frequentemente retratados como os principais gargalos para uma adoção mais ampla da IA – e por um bom motivo. Na agitada e estressante realidade do dia-a-dia dos profissionais médicos, no entanto, há outros fatores em jogo também. Fatores humanos.

Os médicos costumam trabalhar com uma agenda apertada, dependentes das rotinas construídas ao longo dos anos de experiência. Se a IA não se encaixar perfeitamente em seus fluxos de trabalho, ou pior, se criar complexidade adicional, os médicos terão dificuldade em aceitá-la. E em um ambiente de alto risco como o de saúde, em que os profissionais precisam tomar decisões instantâneas com consequências de longo alcance, pode ser difícil desenvolver confiança em novas tecnologias. Você confiaria na recomendação de um algoritmo quando a vida de um paciente estivesse em suas mãos? Tanto o ajuste inadequado do fluxo de trabalho quanto a falta de confiança têm mostrado dificultar a aceitação da IA [1,2].

A saúde precisa de IA centrada no ser humano: inteligência artificial que não seja apenas impulsionada pelo que é tecnicamente viável, mas, acima de tudo, pelo que é humanamente desejável. Isso significa que precisamos combinar ciência de dados e conhecimento técnico com um forte entendimento do contexto clínico no qual os médicos atuam, bem como das demandas cognitivas e emocionais de sua realidade diária.

Já vemos os primeiros contornos da colaboração indivíduos-IA em radiologia; uma disciplina que sempre esteve na vanguarda da transformação digital em saúde e que, agora, é um viveiro fértil para inovação em IA. Com radiologistas e equipes de imagem escassos em muitas partes do mundo, enfrentando cargas de trabalho cada vez maiores, certamente poderiam se beneficiar de um assistente digital inteligente.

Há muito tempo, acredito que, para entregar inovação significativa às pessoas, é preciso inovar com elas, e não para elas. Como argumentei na conferência Fortune Brainstorm Design, há algum tempo, construir algoritmos nos confins de um laboratório de pesquisa em si não nos trará IA centrada no ser humano. Em vez disso, devemos primeiro agir no sentido de submergir-nos na realidade diária das pessoas cujas vidas estamos tentando melhorar.

É exatamente isso que estamos fazendo com nossos parceiros clínicos e acadêmicos, como o Catharina Hospital e a Eindhoven University of Technology (como parte de nossa colaboração conjunta denominada e/MTIC [i]) e o Leiden University Medical Center na Holanda, conduzindo análises de fluxo de trabalho de 360 graus no local e sessões de cocriação com especialistas médicos para olhar além da tecnologia em si e compreender o contexto completo de uso.

Por meio desse trabalho, estamos começando a descobrir os geradores de experiências que promovem uma forte colaboração médico-IA em radiologia. E o que se tornou bastante claro é que projetar uma IA centrada no ser humano envolve muito mais do que criar uma interface de usuário superior.

Antes de mais nada, precisamos nos perguntar: que tipo de IA seria útil em primeiro lugar? Esta parece ser uma questão óbvia, mas as aplicações de IA, muitas vezes, falham em traduzir-se para a prática clínica precisamente, porque a necessidade subjacente ou o ponto de dor foi mal definido.

Por exemplo, se um algoritmo de análise de imagem é meramente capaz de identificar anormalidades que um radiologista pode detectar rapidamente, seu valor agregado pode ser limitado, apesar de seu forte desempenho técnico. Ou digamos que haja um algoritmo que ajuda a medir o tamanho do tumor: pode ser um pouco mais preciso do que um observador humano, mas se a diferença for tão pequena que não afete praticamente as decisões de tratamento, não há benefício real para o paciente.

Por exemplo, no início do fluxo de trabalho, a IA pode ajudar a otimizar os agendamentos para que os pacientes sejam atendidos o mais rápido possível. Ou pode auxiliar os técnicos de radiologia na seleção e preparação dos exames de imagem apropriados para um paciente específico para evitar novas varreduras desnecessárias. Uma vez que as imagens tenham sido adquiridas, a IA pode apoiar os radiologistas de várias maneiras, por exemplo, apontando-os para descobertas incidentais que são fáceis de ignorar ou economizando tempo, por meio da integração automática das descobertas no laudo.

Há muitos outros casos de uso em que podemos pensar, alguns dos quais estamos explorando ativamente com nossos parceiros clínicos. Identificar pontos problemáticos e mapear oportunidades ao longo de todo o fluxo de trabalho é uma ótima maneira de lançar um programa de inovação de IA, porque cria um foco compartilhado no valor que a IA pode agregar em cada etapa.

Embora definir o valor agregado pretendido da IA seja um ponto de partida vital, é a maneira como a IA se encaixa no fluxo de trabalho – e pode, em última instância, ajudar a simplificá-lo – que fará ou interromperá a adoção na prática clínica.

Mas devemos pensar ainda mais holisticamente sobre a integração do fluxo de trabalho, olhando para o sistema de diagnóstico em geral. Por exemplo, a IA poderia fazer uma análise preliminar da tomografia computadorizada de um paciente para sinalizar casos preocupantes que requerem acompanhamento imediato com PET-CT. Em si, esta seria uma aplicação muito útil. Só funcionaria, no entanto, se fosse possível disponibilizar espaço na agenda do PET-CT nesse mesmo dia, o que apresenta um novo desafio de fluxo de trabalho (um que a IA também pode ser capaz de suportar). Como mostra esse exemplo, é preciso olhar para a forma de trabalho de todo o hospital, não apenas os elementos individuais do fluxo de trabalho.

Outro desafio de design apresentado pela IA, ao qual mencionei antes, é fazer com que os médicos confiem em seus resultados e recomendações. Com o surgimento do deep learning, os sistemas de IA se tornaram muito mais precisos e poderosos – mas também se tornaram cada vez mais difíceis de interpretar, exigindo do usuário um salto de fé. A confiança é essencial para a adoção, mas difícil de ser conquistada. A confiança também é facilmente perdida quando o sistema de IA fornece recomendações erradas, mesmo que mantenha um desempenho altamente preciso na média.

E o mais complicado é que, quando se trata de confiança, também pode haver “coisas boas demais”. Não queremos que um radiologista siga cegamente as descobertas de um algoritmo, quando o algoritmo, às vezes, não detecta uma doença. O que queremos é a confiança na medida adequada, que corresponda às capacidades da IA. Isso significa navegar por uma linha tênue entre falta de confiança e excesso de confiança.

Como ajudar os radiologistas a encontrarem o equilíbrio certo entre confiança e vigilância?

Primeiro, é essencial que entendam o que um sistema de IA pode e não pode fazer, em quais dados foi educado e para que foi otimizado. Por exemplo, um algoritmo pode ser otimizado para detectar pequenos tumores nos pulmões, mas pode, portanto, ignorar os maiores. Isso não é nada intuitivo para o radiologista e requer comunicação ativa para evitar a quebra de confiança. Os radiologistas também vão querer saber o quão bem a IA faz o que deveria fazer, pedindo transparência em sua validação e desempenho.

Além disso, precisamos considerar como podemos tornar as descobertas da IA tão compreensíveis quanto possível e necessárias. Embora a interpretação possa não ser tão importante quando os riscos são baixos, em uma situação de alto risco, a natureza da caixa preta de um sistema de IA pode ser um impedimento para a confiança. Junto com nossos colaboradores clínicos e parceiros acadêmicos, como a Eindhoven University of Technology, estamos investigando várias maneiras de abordar esse problema – seja explicando a filosofia de design da IA em geral ou fornecendo a justificativa para recomendações individuais.

É claro que as percepções dos médicos sobre a IA continuarão a evoluir à medida que suas capacidades amadurecem. Assim como um residente calouro que se soma à uma equipe médica, a IA precisa demonstrar seu valor agregado e ganhar confiança com o tempo.

Com a IA como um colaborador confiável que está perfeitamente integrado ao fluxo de trabalho, os radiologistas ficarão livres de tarefas rotineiras e poderão dedicar mais tempo a casos complexos, aumentando seu impacto na tomada de decisões clínicas. Os profissionais de saúde em outras áreas da medicina também se beneficiarão cada vez mais com a assistência da IA – seja em patologia digital, tratamento intensivo, terapia guiada por imagem ou manejo de doenças crônicas. Acredito firmemente que isso tornará seu trabalho mais valioso e gratifica.

Como eu esperava mostrar, esse futuro não acontecerá sozinho. Só acontecerá por conta do design.

Os designers devem ter um papel ativo desde o início do desenvolvimento da IA, trabalhando ao lado de cientistas de dados, engenheiros e especialistas clínicos para criar experiências habilitadas para IA que façam uma diferença positiva para profissionais de saúde e pacientes.

Só então veremos a IA na área da saúde cumprir totalmente sua promessa; se colocarmos as pessoas, não a tecnologia, em primeiro lugar.

Observação