El análisis de aspectos éticos en la investigación clínica siempre ha supuesto un reto que ha requerido constantes actualizaciones.
En resumen, la ética en la investigación es el conjunto de principios, reglas y normas específicas del comportamiento que una comunidad investigadora ha decidido como apropiadas y justas bajo la premisa de que la investigación debe caracterizarse por ser válida, fiable, legítima y representativa.
Se presenta una revisión no sistemática que trata algunas de las preocupaciones éticas que la comunidad científica debe tener en cuenta. Numerosos estudios sobre el desarrollo de nuevas herramientas de inteligencia artificial (IA), especialmente aplicadas a la radiología, hacen necesario que la comunidad investigadora en esta área promueva debates y establezca unos principios éticos aplicables a la práctica y al desarrollo de las nuevas herramientas de IA.
The analysis of ethical aspects in clinical research has always been a challenge and has required constant updates.
In short, research ethics is the set of specific principles, rules, and norms of behavior that a research community has decided are appropriate and fair under the premise that research must be valid, reliable, legitimate, and representative.
This non-systematic review brings some ethical concerns that should be considered within the scientific community. Many studies and the development of new artificial intelligence (AI) tools, especially in radiology, make it necessary for the radiology research community to promote debates and establish ethical standards for the practice and development of new AI tools.
En la investigación sanitaria, la ética se refiere al conjunto de principios y normas que deben actualizarse y reevaluarse constantemente para garantizar su validez, su fiabilidad, su legitimidad y su representatividad1.
La tecnología digital está cambiando la forma de trabajar de los profesionales sanitarios, incluidos los profesionales de la radiología, donde las herramientas de IA cada vez se utilizan más para automatizar algunas tareas altamente laboriosas, como el análisis de imágenes de TC. Este cambio conlleva que los profesionales de la radiología se adapten y se centren en tareas cognitivas más complejas2-5.
Aunque la tecnología basada en IA y su aplicación en la asistencia sanitaria van en aumento, la escasez de aspectos éticos en la investigación en IA sigue planteando un debate importante. La literatura científica publicada hasta la actualidad no incluye herramientas prácticas para probar y confirmar los requisitos éticos a lo largo del ciclo de la vida de la tecnología basada en la IA. Además, su aplicación en la sanidad pública plantea cuestiones acerca de la privacidad, la confianza, la responsabilidad y los múltiples sesgos6.
En este artículo revisamos la literatura existente y, a partir de ahí, nos proponemos la identificación y el debate de distintas cuestiones éticas que aparecen junto con el desarrollo y el uso de los algoritmos de la IA en radiología: la ética de los datos, los algoritmos, la práctica y los conflictos de intereses. Para ello, analizamos la literatura hasta la fecha y contribuimos al debate iniciado sobre la ética de la IA en la atención sanitaria, así como a la promoción de un uso responsable de la IA en radiología.
La ética de los datosEn radiología se obtiene una importante cantidad de datos de pacientes. La ética de los datos abarca la adquisición, la gestión y la evaluación de dichos datos. Algunas de las áreas más relevantes de la ética de los datos a tener en cuenta son: el consentimiento informado, la propiedad de los datos, la transparencia, la objetividad, la privacidad o la protección de datos, la garantía de un acceso lícito y provechoso a los datos y los recursos para asegurar una correcta gestión de los mismos1,7. De hecho, los investigadores y los radiólogos tienen la obligación moral de utilizar la información del paciente con fines de mejora de la práctica de la radiología y el cuidado del paciente2,3,7.
Lamentablemente, existen formas poco éticas de utilización de datos, sobre todo con fines comerciales2,3. Además, los datos correctamente etiquetados y de gran calidad, que se requieren durante y tras el entrenamiento de los algoritmos, están muy codiciados y su valor se ha disparado8.
Es cierto que es obligatorio considerar las cuestiones relativas a la propiedad de los datos de los pacientes3,4, como, por ejemplo: ¿a quién pertenecen los datos que pueden llevar a la creación de productos de inteligencia altamente rentables? O también ¿a quién pertenece la propiedad intelectual de los análisis elaborados a partir de datos agregados?2,4,7
La autonomía del paciente sobre sus datos es un punto esencial del debate. A través de los consentimientos informados muchos pacientes están de acuerdo en el uso retrospectivo de sus datos para fines investigadores. De hecho, en Europa el reglamento general de protección de datos (General Data Protection Regulation [GDPR]) permite la retirada del consentimiento en cualquier momento y requiere el permiso de los pacientes para reutilizar su información8. Las definiciones relativas a la propiedad de los datos varían en gran forma de unos países a otros, por lo que las respuestas sobre los beneficiarios del uso comercial de los datos son limitadas8. En última instancia, los pacientes son los propietarios de sus datos y, por tanto, nos planteamos: ¿deberían participar en los beneficios que se obtengan con sistemas de IA alimentados con la información facilitada o deberían ser las empresas las titulares de todos los intereses una vez que han comprado los derechos de acceso a los datos médicos? Pero, sobre todo, ¿podrían los pacientes elegir que sus datos se utilizasen solamente con fines académicos o incluso elegir la empresa a la que quieren vendérselos?8.
En esta línea, se necesita profundizar en debates sobre estas cuestiones para un mayor entendimiento de las prácticas comerciales y académicas en materia de datos con el fin de crear políticas que permitan equilibrar los beneficios con el bien común sin perjudicar a los pacientes.
Recogida y gestión de datosLos sistemas de IA dependen en gran medida de la calidad y de la cantidad de los datos que se emplean para desarrollarlos8. No obstante, existen barreras significativas sobre la recogida de datos relacionados con la radiología, el proceso de anotación, la disponibilidad y la accesibilidad. Este panorama conlleva una ausencia de datos recogidos de forma sistemática que impide que los radiólogos puedan beneficiarse del aprendizaje profundo (AP) (deep learning [DL] en inglés)8-10.
Para que los datos sean representativos y de alta calidad es necesario que los investigadores realicen una supervisión continua de las fases de extracción de datos8,11. En este sentido, los sistemas de extracción de datos automatizados han demostrado una capacidad de extracción defectuosa, ya que la escasez de datos estandarizados y la variabilidad contextual y la situación específica del usuario plantean retos sobre su rendimiento8.
De hecho, en el área de radiología se observa una discriminación significativa por los sesgos de factores adquiridos técnicamente debido a las divergencias entre las distintas máquinas y métodos de adquisición8. Mientras que los radiólogos están acostumbrados a interpretar las diferencias técnicas en la obtención de imágenes como el espesor del corte o la marca del escáner, los sistemas de AP podrían llevar a cabo mejor esta capacidad si se les expusiera a estas variables durante la fase de entrenamiento8.
Los sesgos también pueden aparecer durante el tratamiento de los datos del paciente2,7. Como ya se ha mencionado, el disponer de los datos es fundamental para obtener los conjuntos de datos de imágenes más diversos9. Sin embargo, la implementación del uso generalizado de los datos también plantea otros problemas, como las políticas de acceso a los datos, las políticas de calidad y seguridad de los datos, las cuestiones sobre la propiedad intelectual y la protección de datos10.
Además, surgen problemas éticos de las tecnologías de reconstrucción de imágenes, especialmente de los reconocimientos faciales, que violan la privacidad de los pacientes9. En la actualidad, el reconocimiento facial para la reconstrucción en 3D es capaz de construir modelos a partir de imágenes médicas no identificadas, como las resonancias magnéticas y, por consiguiente, se vulnera el anonimato8. Sin embargo, los programas informáticos existentes que previenen la reidentificación se limitan a sistemas específicos de AP y a algunos tipos de datos específicos, hecho que dificulta su aplicación en la mayoría de los algoritmos8.
La ética de los algoritmosLa toma de decisiones forma parte de la medicina y de la asistencia sanitaria e implica la elección de una línea de actuación entre distintas alternativas3. Las personas toman decisiones según sus creencias, sus conocimientos, sus preferencias y sus valores3. La IA toma una decisión según las características de los datos de entrada3,4. Los valores humanos, sus creencias y sus preferencias a menudo se transfieren a la IA, y de ahí que aparezcan los sesgos humanos2,3. Aunque los productos de IA no son humanos, sí están concebidos, creados y evaluados por ellos2,3. Por ello, los humanos son responsables de la igualdad y la legitimidad3, o, dicho de otro modo, los humanos pueden hacer un mal uso de los modelos de IA3,4. Por tanto, es imprescindible asegurar la transparencia en la toma de decisiones para que exista confianza con la IA entre el proveedor y el paciente2,3,5,12.
Además, el uso de la IA fomenta el «sesgo de automatización», entendido como que los humanos empiezan a confiar plenamente en el trabajo de una máquina en lugar de aplicar su pensamiento crítico y exhaustivo. Así pues, los pacientes serán más vulnerables a los errores de la IA si la toma de decisiones sanitarias se basa en la confianza de los profesionales sanitarios en conclusiones no verificadas de la IA9.
En particular, en los países con un sistema basado en seguros médicos, los sistemas de IA pueden discriminar a múltiples usuarios del sistema sanitario8. Por tanto, la aplicación práctica de la IA requiere un análisis constante y cauteloso para evitar que las decisiones de los algoritmos sean aceptadas por encima de la intuición moral y guiada por el conocimiento de los médicos8.
La ética en la prácticaLa IA en radiología es compleja, porque combina la atención clínica, la industria, la economía, la tecnología y las matemáticas3. No obstante, el comportamiento moral es intelectualmente incierto3. Además, existen casos en que las innovaciones han causado daños de forma involuntaria y han sido parte de actividades que carecían de principios7. De ahí que exista la necesidad de comprometerse con los valores morales y éticos a la hora de tomar decisiones acerca de dónde utilizar la IA, de definir lo que sería una IA responsable y de alertar cuando la IA se comporte de forma poco ética3.
El sesgo muestral se produce cuando los datos curados tienen que representar de forma adecuada a la población pero existen dificultades para la recogida de datos8,11. Este problema se plantea cuando una única institución proporciona los datos para desarrollar y entrenar los algoritmos de sistemas de AP y da lugar a la discriminación de subconjuntos infrarrepresentados de las poblaciones de otras instituciones8.
No cabe duda que los modelos de AP exigen inversiones financieras y científicas que están disponibles principalmente para los países económicamente más desarrollados8. Además, la escasez de infraestructuras en los países de ingresos bajos y medios plantea más retos, principalmente acerca de su capacidad para informar a los pacientes, su comunicación de la incertidumbre, su administración del consentimiento y su capacidad para generar datos sólidos6. Como consecuencia, estas naciones quedan obligadas a utilizar modelos de AP entrenados con datos procedentes de países desarrollados cuya realidad difiere de la de las regiones desatendidas10. Esta situación agrava las desigualdades sociales en materia de atención sanitaria y pone de manifiesto las limitaciones del uso de algoritmos en AP en las regiones que más se podrían beneficiar, como son las que no cuentan con suficientes recursos, especialistas ni tecnología.
Además, la falta de datos analizados perjudica en mayor medida a los grupos infrarrepresentados en función del género, de la orientación sexual, de la etnia, de la comorbilidad, del estatus social o de los factores económicos, entre otros1,5,7,8,11. Los estudios analíticos sobre la asistencia sanitaria muestran diferencias significativas en las tasas de infradiagnósticos en función de las variables anteriormente mencionadas8. Por ejemplo, si los conjuntos de datos de entrenamiento se equivocan y no presentan afecciones «raras», los algoritmos de la IA no identificarán las estructuras que se asemejen a los rasgos inherentes de los grupos infrarrepresentados8,11. Por tanto, deben tenerse en cuenta todas las posibles fuentes de sesgos para reducir su impacto en las decisiones de la IA3.
Una solución para el sesgo muestral podría pasar por un método de validación que garantice la generalización de los sistemas de IA mediante el uso de datos representativos de otras instituciones. Pero, a pesar de su relevancia, solo el 6% de los artículos recientes sobre AP en medicina incluían la validación con datos externos independientes8.
Guías de informesAlgunas cuestiones éticas incluyen la seguridad, la transparencia y la alineación de valores1,3,7. Los sistemas de IA deben ser verificables y fiables para garantizar su seguridad3,7,12. Aunque las acciones de los algoritmos puedan ser perceptibles, puede ser complicado comprender su funcionamiento a la hora de tomar de decisiones, cuestión que subraya la importancia de la transparencia3,7,8,12. La alineación de valores consiste en la optimización del trabajo de la IA en beneficio del paciente pero dejando la responsabilidad a investigadores y profesionales de la radiología3,7.
Se necesitan nuevos mecanismos de análisis adaptados a la naturaleza de los algoritmos además de los análisis estándares de la causa raíz3,7,12. Además, la creciente bibliografía sobre la IA aplicada a la imagenología médica demanda más investigaciones transparentes y sistemáticas13.
En una publicación sobre el futuro de la IA publicado en 2021 (FUTURE-AI - Fairness Universality Traceability Usability Robustness Explainability-AI) se propusieron principios generales para el desarrollo de la IA en la imagenología médica que incluían la investigación, el diseño y la implantación. A diferencia de las directrices anteriores que estaban centradas en la estructura de los manuscritos, FUTURE-AI hace hincapié en la equidad, la facilidad de uso, la robustez y la explicabilidad de los sistemas de IA.
Además, incluye nuevos temas como «la aplicación clínica», «la recopilación de requisitos del usuario final» y «la implantación y el control de la IA» con el objetivo de conseguir sistemas equitativos y mínimamente sesgados13.
La guía sobre evaluación clínica de los sistemas de IA publicada en 2022 (DECIDE-AI —Developmental and Exploratory Clinical Investigations of Decision support systems driven by AI) pretende garantizar la transparencia de los informes de los estudios clínicos que evalúan los sistemas de IA y abordar la influencia humana en el rendimiento clínico de la IA. Este sistema permitió y unificó la evaluación de las intervenciones complejas mediante el abordaje de una fase de desarrollo de los primeros ensayos clínicos en lugar de un tipo de estudio concreto. Así pues, proporciona una lista de verificación para evaluar la utilidad y la seguridad clínica, analizar las curvas de aprendizaje de los usuarios y preparar el algoritmo para evaluaciones a gran escala14.
En la actualidad, las directrices que están en fase de desarrollo aplicadas a la IA incluyen STARD-AI y TRIPOD-AI. La primera estandariza los informes de precisión diagnóstica y la segunda evalúa los estudios de modelos de predicción13,14.
Validación técnicaCada día se desarrollan numerosos sistemas de IA para tomar decisiones complicadas con el consiguiente riesgo de obtener resultados desfavorables8. Para que la IA sea rentable, segura y efectiva en radiología es necesario que se cumplan unos criterios de validación como la robustez, la reproducibilidad y la generalizabilidad. Por desgracia, resulta complejo diseñar un estudio de validación técnica, puesto que la mayoría de estudios utilizan el mismo conjunto de datos para el desarrollo, la optimización y la validación de los algoritmos. De aquí deriva la necesidad de una mayor verificación de la generalizabilidad y la robustez además de contemplar la posibilidad de una pérdida de datos9,11. Es esencial especificar la precisión esperada del algoritmo antes de seguir con los siguientes pasos de verificación. La aprobación técnica debe ir seguida de una validación clínica real para garantizar la seguridad del paciente. El rendimiento del algoritmo debe evaluarse antes de aplicarlo a situaciones rutinarias9.
La implantación de sistemas alimentados por AP debe garantizar la seguridad, la eficacia y la equidad. Sin embargo, la forma actual de las técnicas de explicabilidad del AP debería ser más adecuada para campos en los que está en juego la vida de los pacientes como es la radiología8.
Marcos reguladoresEn cada país se garantizan los principios éticos en la implantación de sistemas de AP a través de distintos métodos. En Europa existe la marca CE, y en Estados Unidos se requiere la autorización de organismos reguladores como la FDA y las IRB locales8.
La aprobación de los marcos reguladores es esencial para adoptar sistemas de IA en la práctica médica. No obstante, los protocolos actuales están limitados y necesitan mejoras para evaluar de forma exhaustiva los algoritmos diagnósticos de la IA15.
El foro internacional de reguladores de dispositivos médicos (International Medical Device Regulators Forum [IMDRF]) establece los estándares que siguen la mayoría de los reguladores de software médico como la FDA y marcos de la Unión Europea (UE). Los organismos reguladores analizan ampliamente la seguridad, la eficacia y el rendimiento de los sistemas de IA15. No obstante, encuentran dificultades en puntos críticos, como la combinación de la tarea del diagnóstico con el algoritmo de diagnóstico, la simple definición de la tarea de diagnóstico, la ausencia de mecanismos para comparar directamente algoritmos similares, la deficiente definición de los elementos de seguridad y rendimiento, y la falta de recursos para acceder al rendimiento en cada centro instalado15.
Un proceso de evaluación específica mejora la capacidad de abordar los problemas del software y facilita la comparación. El proceso implica definir la tarea de diagnóstico, realizar pruebas en un entorno controlado, evaluar la eficacia en el mundo real, valorar la durabilidad en el tiempo y establecer puntos de referencia internos para los desarrolladores. Por ello, las directrices basadas en este enfoque mejoran el control de la implantación longitudinal de los sistemas de IA15.
Los marcos reguladores convencionales deben garantizar la excelencia en cada centro de aplicación de software médico15. Para ello, se podría recurrir a terceros evaluadores, como organizaciones dedicadas a la investigación clínica, laboratorios de investigación u organizaciones que desarrollen y mantengan conjuntos de datos estándares de referencia que puedan ser utilizados. Este enfoque ya es de aplicación en los estudios de medicamentos bajo la supervisión de los organismos reguladores15.
Conflicto de interesesEn los incipientes mercados de la IA en radiología, los profesionales de esta área que trabajan en la atención al paciente también pueden tener cargos en empresas de nueva creación de IA o en entidades comerciales1-3. Al igual que los investigadores en materia de medicamentos con intereses económicos buscan el éxito de los mismos, los conflictos de intereses relacionados con los productos de IA pueden gestionarse a través de recursos como la divulgación pública, la venta de activos o la vigilancia. Los fabricantes de software médico que financian y publican evaluaciones de sus productos también pueden crear conflictos de intereses15.
Las partes interesadas responsables de compartir los datos de los pacientes, de conseguir agentes de IA o de implementar modelos en flujos de trabajo clínicos deben gestionar minuciosamente sus conflictos de intereses cuando se trata de la IA aplicada a la atención sanitaria. En algunos casos, además, puede ser necesario que rechacen su participación en dichas actividades3.
La aparición de herramientas de IA para la producción de textosEs necesario considerar que, con la aparición de herramientas de IA para la producción de textos, este tema genera todavía una mayor preocupación relacionada con la investigación16. Por ejemplo, los grandes modelos del lenguaje (Large Language Models [LLM]) preparados por IA pueden generar frases cada vez más complejas y ser difícilmente distinguidas de las escritas por personas. Por este motivo, el ChatGPT y otros LLM están generando una gran preocupación en el ámbito científico y académico por su habilidad para elaborar textos para redacciones, informes, exámenes y artículos científicos16.
ConclusiónEn la era del Big Data, los siete requisitos éticos para la investigación que propuso E.J. Emanuel et al.1 en 2000 deben revisarse en la práctica y en la investigación relacionadas con la IA, y para ello se necesitan más conversaciones y más debates1,3. En conclusión, la incorporación de la IA a la radiología ha mejorado la eficiencia y la precisión de los radiólogos. Sin embargo, para garantizar la seguridad y la privacidad de los pacientes es esencial resolver los problemas éticos relacionados con los datos de los pacientes, los algoritmos y los conflictos de intereses. El desarrollo y la aplicación de los marcos reguladores y de los principios éticos pueden contribuir, por un lado, a minimizar las posibles preocupaciones morales y, por otro, a maximizar los beneficios de la IA en radiología.
Información del estudioEl presente estudio se ha llevado a cabo en el Departamento de Neurorradiología del Hospital Antonio Prudente, Fortaleza, Ceará, Brasil.
FinanciaciónLa presente investigación no ha recibido ninguna ayuda específica de ninguna agencia de financiación ni del sector público, ni comercial ni de organizaciones sin ánimo de lucro.
