A inteligência artificial na saúde traz benefícios clínicos reais, mas também levanta implicações éticas. Elas envolvem viés de dados, equidade no acesso e justiça na alocação de recursos. Em resumo: algoritmos preditivos podem melhorar diagnósticos e condutas. No entanto, eles exigem dados representativos, validação rigorosa e equipes que compreendam seus limites para evitar danos a pacientes.
Os algoritmos de Inteligência Artificial (IA), como aqueles que envolvem o chamado machine learning (aprendizagem de máquina), têm se tornado cada vez mais precisos e úteis. Além disso, ganham grande aplicação na área da saúde. Por isso, o uso dessa tecnologia cresce em hospitais, operadoras e serviços de saúde pública.
Dada a relevância deste ramo da ciência de dados, muitos especialistas levantam inúmeras preocupações éticas. Além disso, essas questões começam na coleta e no uso de dados para a modelagem de algoritmos preditivos. Em seguida, alcançam o processo de construção dos modelos, seus testes e suas aplicações práticas.
Tais preocupações se justificam porque os algoritmos de IA podem e estão modificando o curso de vida de pacientes. Nesse caso, a tecnologia auxilia na seleção de condutas terapêuticas, diagnósticas e de monitoramento. Esse apoio acontece tanto ao nível populacional quanto individual.
De fato, diversos pesquisadores dedicam considerável esforço e tempo sobre este tema. Rajkomar et al., por exemplo, publicaram um interessante artigo relacionado (Rajkomar A, Hardt M, Howell MD, Corrado G, Chin MH. Ensuring Fairness in Machine Learning to Advance Health Equity. Ann Intern Med. 2018;169(12):866-872. doi: 10.7326/M18-1990).
Por que a IA na saúde levanta questões de equidade e justiça distributiva?
A IA na saúde levanta questões de equidade porque os modelos preditivos podem reproduzir desigualdades presentes nos dados de origem. Por isso, todo o ecossistema envolvido precisa conhecer a justiça distributiva na alocação de recursos e nas condutas médicas, do desenvolvimento à aplicação clínica.
Corroborando as reflexões dos autores acima, reforçamos um ponto central. Questões éticas, como aquelas que envolvem justiça distributiva e equidade, devem chegar ao conhecimento de todos os membros do ecossistema de IA aplicada à saúde. Esse grupo inclui, por exemplo, as equipes de ciência de dados responsáveis pelos algoritmos preditivos e as equipes clínicas que eventualmente conduzam ensaios de validação. Também abrange os usuários dos modelos preditivos (médicos, enfermeiros, gestores, etc.), e assim por diante.
Diversas são as potenciais origens de inequidades nos modelos preditivos. No entanto, reconhecê-las e mitigá-las adequadamente consistem em boas práticas a serem adotadas exaustivamente. Assim, a equipe pode efetivamente e com segurança usar a tecnologia preditiva em benefício real e substancial às pessoas e à sociedade em geral. Em sistemas de predição em saúde, esse cuidado com a equidade integra a construção responsável dos modelos.
Como mitigar problemas éticos nos modelos preditivos?
Para mitigar problemas éticos em modelos preditivos, é preciso garantir dados de qualidade e representativos. Também é necessário otimizar os processos de modelagem e validação considerando possíveis vieses, além de capacitar as equipes que consomem os resultados. De forma geral, são esses os pontos de atenção a serem observados:
- Assegurar a qualidade e a representatividade dos dados sobre os quais se assentam os algoritmos preditivos;
- Otimizar o processo de modelagem dos algoritmos, bem como os processos de testes, validações, calibrações, etc., os quais devem levar em conta os possíveis vieses nos dados e nos resultados;
- As equipes assistenciais e administrativas que consomem os modelos preditivos devem compreender as características desta tecnologia, incluindo suas aplicações e limitações, a fim de que se possa mitigar eventuais distorções nos resultados e prontamente tratar a origem da discrepância.
Em seguida, vale reforçar uma síntese aplicável a qualquer projeto. Dados representativos, validação atenta a vieses e equipes bem informadas formam a base ética do uso de IA preditiva na saúde.
A inteligência artificial, em particular o machine learning aplicado à saúde, tem o enorme potencial de mudar, para melhor, a vida das pessoas. No entanto, como todo grande feito, exige responsabilidade e equipes sérias e competentes.
Para acompanhar mais conteúdos sobre o tema, vale também conferir o blog da Lean Saúde. vale também conferir o blog da Lean Saúde.
