Dos caras de la moneda AI/ML en el cuidado de la salud

como hemos discutido anteriormente, los algoritmos—instrucciones paso a paso (reglas) para realizar una tarea o resolver un problema, especialmente por una computadora—han sido ampliamente utilizados en el cuidado de la salud durante décadas. Un uso claro de estos algoritmos es a través de pruebas basadas en intervenciones de apoyo a la decisión clínica (DSI). Hoy en día, vemos un rápido crecimiento en los DSI predictivos basados ​​en datos, que usan modelos creados con algoritmos de aprendizaje automático (ML) u otros enfoques estadísticos que analizan grandes volúmenes de datos del mundo real (llamados «datos de entrenamiento») para encontrar patrones y hacer recomendaciones. Si bien los tipos (modelos) de DSI basados ​​en evidencia y predictivos podrían usarse para abordar el mismo problema, se basan en una lógica diferente que está «integrada» en su software.

Pero antes de explorar los dos enfoques, primero debemos revisar un desafío clave planteado en nuestra publicación anterior de esta serie: capitalizar el potencial de la inteligencia artificial (IA), en particular el ML y las tecnologías relacionadas, mientras se evitan los riesgos (como el daño potencial a un paciente) de estas tecnologías. En esta publicación de blog, profundizaremos un poco más en cuáles son algunos de esos riesgos y dónde pueden originarse esos riesgos.

Intervenciones de apoyo a la toma de decisiones basadas en evidencia versus predictivas

DSI que usar guías basadas en evidencia u otro consenso de expertos generar recomendaciones basadas en cómo el mundo Deberia trabajar. En general, representan la implementación del consenso de expertos que surge de ensayos clínicos de alta calidad, estudios observacionales y otras investigaciones. Las DSI basadas en evidencia suelen ser «reglas fijas», esencialmente, una serie de declaraciones «si-entonces» que forman un algoritmo. Por ejemplo, “si una mujer tiene entre 45 y 54 años y tiene un riesgo promedio de cáncer de mama, entonces debe hacerse una mamografía todos los años”.

Los DSI predictivos, por el contrario, generan recomendaciones (salidas) para respaldar la toma de decisiones basadas en patrones reconocidos en la forma en que el mundo realmente funciona, llenar los vacíos de conocimiento con datos del mundo real. Depende de los humanos determinar la relevancia de la recomendación en un contexto dado. Esto hace que los DSI predictivos sean herramientas poderosas porque pueden, al menos en teoría, usarse para predecir cualquier cosa sobre la cual la tecnología recopila datos, ya sea que la imagen se vea como un tumor, si es probable que un paciente desarrolle una enfermedad específica o si un paciente es probable que llegue a su próxima cita, por nombrar algunos. En parte, debido a que no se han establecido pautas clínicas expertas para muchos temas, las DSI predictivas pueden proporcionar una guía importante sobre una amplia gama de temas que las DSI basadas en evidencia actualmente no tocan. En su mejor momento, Los DSI predictivos pueden identificar patrones en los datos antes o con mayor precisión que los profesionales de la salud, o incluso descubrir patrones que no se conocían previamente y recomendar decisiones en muchas facetas de la atención médica.

Aumento de los riesgos existentes resultantes de la tecnología emergente

Si bien los DSI predictivos tienen un enorme potencial para mejorar muchos aspectos de la atención médica, también presentan varios riesgos potenciales que podrían generar impactos o resultados adversos. Estos riesgos pueden aumentar debido a su potencial para «aprender» rápidamente y producir predicciones en muchos cientos o miles de pacientes. En particular, los DSI predictivos en el cuidado de la salud pueden:

  • Reproducir o amplificar sesgos implícitos y estructurales de la sociedad, la salud y la prestación de atención médica, tal como se captura en los datos de entrenamiento subyacentes. Esto puede dar lugar a predicciones o recomendaciones injustas o sesgadas. También podría conducir a que la tecnología funcione de manera diferente entre ciertos pacientes, poblaciones y comunidades sin el conocimiento del usuario, lo que podría causar daños al paciente, aumentar las disparidades en la salud, discriminacióndecisiones de asignación de recursos ineficientes o toma de decisiones clínicas mal informada.
  • Ampliar las preocupaciones existentes sobre las implicaciones éticas, legales y sociales de las prácticas de datos subyacentes (recopilación, gestión y uso). Cada vez que se recopilan, administran y utilizan datos de salud, existen preocupaciones sobre la privacidad, la seguridad y la administración de la información, incluidas las relacionadas con la confidencialidad, el anonimato y el control sobre el uso de la información sobre un individuo (uso indebido potencial de la información; uso no exceptuado o contradictorio ). El potencial de la DSI predictiva para usar datos de salud de formas novedosas aumenta estas preocupaciones.
  • Reforzar las prácticas comunes que no se basan en evidencia. Si bien el sesgo es un ejemplo de alto perfil de cómo las DSI predictivas pueden aprender y reforzar las malas prácticas, de manera más general, las DSI predictivas pueden reforzar la tendencia a hacer algo de cierta manera porque esa es la forma en que siempre se hace, incluso sin evidencia de apoyo de beneficio. Debido a que los DSI predictivos aprenden de lo que se hace comúnmente, no necesariamente de lo que es mejor, el uso de DSI predictivos podría retrasar la adopción de nuevas innovaciones y mejores prácticas actualizadas al recomendar prácticas generalizadas, incluso después de que se vuelvan obsoletas. La psicología cognitiva muestra que las recomendaciones de los DSI predictivos tienen el potencial de reforzar las prácticas generalizadas al convertirlas en la opción predeterminada (sesgo predeterminado) o debido a una dependencia excesiva de la automatización (sesgo de automatización).
  • Integrar las diferencias existentes e inexplicables en la atención médica y los resultados de salud. Dado el ampliamente conocido niveles extremos de variación en la atención de la saludincluso en pequeñas áreas geográficasinfiriendo directamente lo que sucederá aquí basado en patrones similares en datos «desordenados» del mundo real de Por ahí es una propuesta arriesgada. Ese riesgo es aún mayor cuando los datos subyacentes son de baja calidad o integridad. Esto puede llevar a que los DSI realicen predicciones no válidas o poco confiables, especialmente si el modelo subyacente hace predicciones basadas en patrones en los datos de entrenamiento que difieren de los patrones en los datos del contexto local donde se usa el modelo, lo que a veces se denomina robustez.
  • Usar algoritmos de “caja negra” o opacos para que sea imposible decir exactamente cómo llegan a una decisión, incluido cómo se combinan, cuentan o ponderan los datos de entrada para producir la predicción, clasificación o recomendación del modelo. También se basan en algoritmos y modelos predictivos que están diseñados para predecir un valor faltante en lugar de indicar directamente una acción que se debe tomar. Estas facetas pueden reducir la inteligibilidad de los resultados del modelo para los usuarios finales, lo que facilita la interpretación errónea de lo que significa un resultado del modelo y conduce a un mayor riesgo de que los DSI predictivos se utilicen en entornos donde no son apropiados.
  • Llevar a recomendaciones que son ineficaces o no son seguraslo que significa que los riesgos descritos anteriormente superan cualquier beneficio potencial.

Dado que los datos juegan un papel fundamental en los DSI predictivos, los desafíos comunes de datos en el desarrollo de software (p. ej., calidad e integridad) también pueden afectar directamente el desarrollo y uso exitosos del DSI predictivo. Las posibles causas de daño también pueden deberse a la falta o inconsistencia de la gobernanza de los datos, o políticas y controles sobre cómo se adquieren, administran y utilizan los datos a lo largo del ciclo de vida de la DSI predictiva.

En ONC, nos hemos acostumbrado a llamar FAVES a las DSI predictivas de alta calidad que han minimizado los riesgos: justas, apropiadas, válidas, eficaces y seguras. Introdujimos algunos de estos términos en nuestro primera entrada de blogy en el próximo, discutiremos lo que vemos como un desafío definitorio que inhibe la optimización de los DSI predictivos en el cuidado de la salud, y discutiremos formas de saber y demostrar que un DSI predictivo es FAVES.

Esto es parte de la serie de blogs sobre inteligencia artificial y aprendizaje automático.

Fuente del artículo

Deja un comentario