Inteligência Artificial na saúde e suas implicações éticas

Os algoritmos de Inteligência Artificial (IA), como aqueles que envolvem o chamado machine learning (aprendizagem de máquina), têm se tornado cada vez mais precisos e úteis, com grande aplicação na área da saúde.

Dada a relevância deste ramo da ciência de dados, é compreensível que sejam levantadas inúmeras preocupações éticas, que vão desde a coleta e o uso de dados para a modelagem de algoritmos preditivos, passando pelo processo de construção dos modelos, seus testes e suas aplicações práticas.

Tais preocupações se justificam porque os algoritmos de IA podem e estão modificando o curso de vida de pacientes, auxiliando na seleção de condutas terapêuticas, diagnósticas e de monitoramento, tanto ao nível populacional, quanto individual.

Diversos pesquisadores têm dedicado considerável esforço e tempo sobre este tema. Rajkomar et al., por exemplo, publicaram um interessante artigo relacionado (Rajkomar A, Hardt M, Howell MD, Corrado G, Chin MH. Ensuring Fairness in Machine Learning to Advance Health Equity. Ann Intern Med. 2018;169(12):866-872. doi: 10.7326/M18-1990).

Equidade e Justiça Distributiva

Corroborando as reflexões dos autores acima, reforçamos que questões éticas, como aquelas que envolvem justiça distributiva e equidade na alocação de recursos e nas condutas médicas, devem ser do conhecimento de todos os membros do ecossistema de IA aplicada à saúde — incluindo as equipes de ciência de dados responsáveis pelos algoritmos preditivos, as equipes clínicas que eventualmente conduzam ensaios de validação, os usuários dos modelos preditivos (médicos, enfermeiros, gestores, etc.), e assim por diante.

Diversas são as potenciais origens de inequidades nos modelos preditivos. Reconhecê-las e mitigá-las adequadamente consistem em boas práticas a serem adotadas exaustivamente, pois desta forma, pode-se efetivamente e com segurança fazer uso da tecnologia preditiva em benefício real e substancial às pessoas e à sociedade em geral.

Como mitigar problemas éticos nos modelos preditivos

De forma geral, são esses os pontos de atenção a serem observados:

  • Assegurar a qualidade e a representatividade dos dados sobre os quais se assentam os algoritmos preditivos;
  • Otimizar o processo de modelagem dos algoritmos, bem como os processos de testes, validações, calibrações, etc., os quais devem levar em conta os possíveis viéses nos dados e nos resultados;
  • As equipes assistenciais e administrativas que consomem os modelos preditivos devem compreender as características desta tecnologia, incluindo suas aplicações e limitações, a fim de que se possa mitigar eventuais distorções nos resultados e prontamente tratar a origem da discrepância.

A inteligência artificial, em particular o machine learning aplicado à saúde, tem o enorme potencial de mudar — para melhor — a vida das pessoas. Porém, como todo grande feito, deve ser adotada com responsabilidade, por equipes sérias e competentes.