Por que a IA na área de saúde precisa de um design centrado em pessoas

Definitivamente, acredito que a inteligência artificial (IA) é uma ferramenta que, se usada de maneira criteriosa, pode dar superpoderes aos profissionais de saúde ao colocar as informações certas na ponta de seus dedos, nos momentos que realmente importam para eles e seus pacientes. No entanto, também acredito que, para cumprir essa promessa, devemos focar, primeiramente, nas pessoas e depois na tecnologia.   

Em conversas com líderes de saúde em todo o mundo, um desafio que normalmente surge é a dificuldade de encontrar médicos especializados em número suficiente para atender à crescente necessidade de atendimento. Nesse ponto, gostaria de perguntar: e se pudéssemos tornar seus médicos duas vezes mais eficazes e eficientes, permitindo-lhes tomar melhores decisões, enquanto passam mais tempo com os pacientes?

Essa é essencialmente a promessa da IA, seja por meio da automação de tarefas ordinárias, que tiram o foco do médico sobre o paciente, seja pelo suporte à decisão clínica nos momentos que, em última análise, pode-se de chegar a melhores desfechos de saúde.

Apesar de todos os seus avanços tecnológicos, surpreendentemente, poucas aplicações de IA conseguiram transpor as barreiras do laboratório de pesquisa para a prática clínica. O que está atravancando a adoção da IA na área da saúde?

Já vemos os primeiros contornos da colaboração indivíduos-IA em radiologia; uma disciplina que sempre esteve na vanguarda da transformação digital em saúde e que, agora, é um viveiro fértil para inovação em IA. Com radiologistas e equipes de imagem escassos em muitas partes do mundo, enfrentando cargas de trabalho cada vez maiores, certamente poderiam se beneficiar de um assistente digital inteligente.

Mas como podemos garantir que a IA complemente esses especialistas humanos de forma que, juntos, alcancem mais do que qualquer um deles sozinho? Claramente, a resposta não vai se apresentar em uma bandeja de prata se nos concentrarmos na tecnologia de forma isolada.

Há muito tempo, acredito que, para entregar inovação significativa às pessoas, é preciso inovar com elas, e não para elas. Como argumentei na conferência Fortune Brainstorm Design, há algum tempo, construir algoritmos nos confins de um laboratório de pesquisa em si não nos trará IA centrada no ser humano. Em vez disso, devemos primeiro agir no sentido de submergir-nos na realidade diária das pessoas cujas vidas estamos tentando melhorar.

É exatamente isso que estamos fazendo com nossos parceiros clínicos e acadêmicos, como o Catharina Hospital e a Eindhoven University of Technology (como parte de nossa colaboração conjunta denominada e/MTIC [i]) e o Leiden University Medical Center na Holanda, conduzindo análises de fluxo de trabalho de 360 graus no local e sessões de cocriação com especialistas médicos para olhar além da tecnologia em si e compreender o contexto completo de uso.

Por meio desse trabalho, estamos começando a descobrir os geradores de experiências que promovem uma forte colaboração médico-IA em radiologia. E o que se tornou bastante claro é que projetar uma IA centrada no ser humano envolve muito mais do que criar uma interface de usuário superior.

Por exemplo, no início do fluxo de trabalho, a IA pode ajudar a otimizar os agendamentos para que os pacientes sejam atendidos o mais rápido possível. Ou pode auxiliar os técnicos de radiologia na seleção e preparação dos exames de imagem apropriados para um paciente específico para evitar novas varreduras desnecessárias. Uma vez que as imagens tenham sido adquiridas, a IA pode apoiar os radiologistas de várias maneiras, por exemplo, apontando-os para descobertas incidentais que são fáceis de ignorar ou economizando tempo, por meio da integração automática das descobertas no laudo.

Há muitos outros casos de uso em que podemos pensar, alguns dos quais estamos explorando ativamente com nossos parceiros clínicos. Identificar pontos problemáticos e mapear oportunidades ao longo de todo o fluxo de trabalho é uma ótima maneira de lançar um programa de inovação de IA, porque cria um foco compartilhado no valor que a IA pode agregar em cada etapa.

Mas devemos pensar ainda mais holisticamente sobre a integração do fluxo de trabalho, olhando para o sistema de diagnóstico em geral. Por exemplo, a IA poderia fazer uma análise preliminar da tomografia computadorizada de um paciente para sinalizar casos preocupantes que requerem acompanhamento imediato com PET-CT. Em si, esta seria uma aplicação muito útil. Só funcionaria, no entanto, se fosse possível disponibilizar espaço na agenda do PET-CT nesse mesmo dia, o que apresenta um novo desafio de fluxo de trabalho (um que a IA também pode ser capaz de suportar). Como mostra esse exemplo, é preciso olhar para a forma de trabalho de todo o hospital, não apenas os elementos individuais do fluxo de trabalho.

Como ajudar os radiologistas a encontrarem o equilíbrio certo entre confiança e vigilância?

Primeiro, é essencial que entendam o que um sistema de IA pode e não pode fazer, em quais dados foi educado e para que foi otimizado. Por exemplo, um algoritmo pode ser otimizado para detectar pequenos tumores nos pulmões, mas pode, portanto, ignorar os maiores. Isso não é nada intuitivo para o radiologista e requer comunicação ativa para evitar a quebra de confiança. Os radiologistas também vão querer saber o quão bem a IA faz o que deveria fazer, pedindo transparência em sua validação e desempenho.

Além disso, precisamos considerar como podemos tornar as descobertas da IA tão compreensíveis quanto possível e necessárias. Embora a interpretação possa não ser tão importante quando os riscos são baixos, em uma situação de alto risco, a natureza da caixa preta de um sistema de IA pode ser um impedimento para a confiança. Junto com nossos colaboradores clínicos e parceiros acadêmicos, como a Eindhoven University of Technology, estamos investigando várias maneiras de abordar esse problema – seja explicando a filosofia de design da IA em geral ou fornecendo a justificativa para recomendações individuais.