Buscar en
Atención Primaria
Toda la web
Inicio Atención Primaria La inteligencia artificial y sus aplicaciones en medicina II: importancia actual...
Información de la revista
Vol. 53. Núm. 1.
Páginas 81-88 (Enero 2021)
Compartir
Compartir
Descargar PDF
Más opciones de artículo
Visitas
647
Vol. 53. Núm. 1.
Páginas 81-88 (Enero 2021)
SPECIAL ARTICLE
DOI: 10.1016/j.aprim.2020.04.014
Open Access
La inteligencia artificial y sus aplicaciones en medicina II: importancia actual y aplicaciones prácticas
Artificial intelligence and its applications in medicine II: Current importance and practical applications
Visitas
...
Jose Francisco Ávila-Tomása,b,f,
Autor para correspondencia
joseavil@gmail.com

Autor para correspondencia.
, Miguel Angel Mayer-Pujadasc,d,g, Victor Julio Quesada-Varelae,f,g
a Medicina de Familia y Comunitaria, Centro de Salud Santa Isabel, Madrid, España
b Medicina Preventiva y Salud Pública, Universidad Rey Juan Carlos, Móstoles, Madrid, España
c Medicina de Familia y Comunitaria, Research Programme on Biomedical Informatics (GRIB), Instituto Hospital del Mar de Investigaciones Médicas, Barcelona, España
d Universitat Pompeu Fabra, Barcelona, España
e Medicina de Familia y Comunitaria, Centro de Salud de A Guarda, A Guarda, Pontevedra, España
f Estrutura Organizativa de Xestión Integrada (EOXI), Vigo, Pontevedra, España
g Miembro del Grupo de Trabajo de Innovación Tecnológica y Sistemas de Información de la semFYC
Información del artículo
Resumen
Texto completo
Bibliografía
Descargar PDF
Estadísticas
Tablas (2)
Tabla 1. Recomendaciones del High-Level Expert Group on Artificial Intelligence. Draft Ethics Guidelines for Trustworthy AI. European Commission
Tabla 2. Principios de la IA de Asilomar
Mostrar másMostrar menos
Resumen

La tecnología y la medicina siguen un camino paralelo durante las últimas décadas. Los avances tecnológicos van modificando el concepto de salud y las necesidades sanitarias están influyendo en el desarrollo de la tecnología.

La inteligencia artificial (IA) está formada por una serie de algoritmos lógicos suficientemente entrenados a partir de los cuales las máquinas son capaces de tomar decisiones para casos concretos a partir de normas generales.

Esta tecnología tiene aplicaciones en el diagnóstico y seguimiento de pacientes con una evaluación pronóstica individualizada de los mismos.

Además,si combinamos esta tecnología con la robótica, podemos crear máquinas inteligentes que hagan propuestas diagnósticas o que sean mucho más eficientes en su trabajo.

Por lo tanto la IA va a ser una tecnología presente en nuestro trabajo cotidiano a través de máquinas o programas informáticos, que de manera más o menos transparente para el usuario, van a ir siendo una realidad cotidiana en los procesos sanitarios. Los profesionales sanitarios tenemos que conocer esta tecnología, sus ventajas y sus inconvenientes, porque va a ser una parte integral de nuestro trabajo.

En estos dos artículos pretendemos dar una visión básica de esta tecnología adaptada a los médicos con un repaso de su historia y evolución, de sus aplicaciones reales en el momento actual y una visión de un futuro en el que la IA y el Big Data van a conformar la medicina personalizada que caracterizará al siglo XXI.

Palabras clave:
Inteligencia artificial
IA
medicina
salud
robótica
BigData
Abstract

Technology and medicine follow a parallel path during the last decades. Technological advances are changing the concept of health and health needs are influencing the development of technology.

Artificial intelligence (AI) is made up of a series of sufficiently trained logical algorithms from which machines are capable of making decisions for specific cases based on general rules.

This technology has applications in the diagnosis and follow-up of patients with an individualized prognostic evaluation of them.

Furthermore, if we combine this technology with robotics, we can create intelligent machines that make more efficient diagnostic proposals in their work.

Therefore, AI is going to be a technology present in our daily work through machines or computer programs, which in a more or less transparent way for the user, will become a daily reality in health processes. Health professionals have to know this technology, its advantages and disadvantages, because it will be an integral part of our work.

In these two articles we intend to give a basic vision of this technology adapted to doctors with a review of its history and evolution, its real applications at the present time and a vision of a future in which AI and Big Data will shape the personalized medicine that will characterize the 21st century.

Keywords:
Artificial intelligence
AI
medicine
health
robotics
Big Data
Texto completo
Importancia actual

Existen numerosos campos donde la inteligencia artificial (IA) y la robótica han tenido diversas aplicaciones. En esta sección explicaremos algunas de las más importantes:

  • 1.

    Finanzas: Usado en la banca para organizar operaciones o inversiones1 y para detectar movimientos anormales que posteriormente serán estudiados por humanos2.

  • 2.

    Industria3: La robótica se está utilizando en cadenas de montaje, movilización de grandes cargas, realización de tareas peligrosas o en condiciones incompatibles con la vida humana.

  • 3.

    Domótica: Aplicación de la robótica y la IA a los electrodomésticos. Actualmente el adjetivo «inteligente» o el prefijo inglés smart lo vamos encontrando cada vez más frecuentemente en lavadoras, lavavajillas, relojes, bombillas, aparatos de aire acondicionado o televisores. De esta manera los electrodomésticos son capaces de aprender patrones de uso por parte de las personas que los utilizan (sugerir programas de televisión dependiendo del usuario y la hora del día) o comportarse dependiendo de las condiciones (selección automática de programas de lavado dependiendo de la carga de la lavadora o lavavajillas). Hasta llegar a casas inteligentes integrales4.

  • 4.

    Conducción autónoma de vehículos: En los últimos años se han desarrollado sensores en los automóviles que detectan un cambio de carril, agotamiento del conductor, velocidad, distancia, objetos o personas en el trayecto de impacto o selecciones de la ruta más óptima dependiendo de las condiciones del tráfico5. Ya es casi un estándar en los coches el sistema de aparcamiento automático y en breve dispondremos de forma habitual de sistemas de conducción autónoma sin concurso humano.

  • 5.

    Mercadotecnia: Las tendencias del mercado, el análisis de las características del mismo, el comportamiento de los compradores puede ser simulado en modelos matemáticos que se aproximan mucho a la realidad6. Amazon®, Microsoft®, Google® y los otros gigantes tecnológicos utilizan la IA para analizar nuestros gustos y recomendarnos objetos que puedan interesarnos a través de lo que se denomina publicidad personalizada.

  • 6.

    Distribución de recursos: El dimensionamiento de las plantillas de los trabajadores dependiendo de la cantidad de trabajo previsto, es otra de las aplicaciones de la IA. La policía está usando el sistema PredPol®7 en varias ciudades de EE. UU. para predecir el número y tipo de delitos, y poder distribuir de manera eficaz los efectivos.

  • 7.

    Reconocimiento facial: Mediante técnicas inteligentes de reconocimiento facial8 se desarrollan numerosos proyectos relacionados con publicidad directa personalizada, seguridad o identificación personal.

Aplicaciones en medicina

Recientemente la IA ha comenzado a incorporarse a la medicina para mejorar la atención al paciente al acelerar los procesos y lograr una mayor precisión diagnóstica, abriendo el camino para brindar una mejor atención médica en general. Las imágenes radiológicas, las preparaciones de anatomía patológica y los registros médicos electrónicos de los pacientes se están evaluando mediante aprendizaje automático ayudando en el proceso de diagnóstico y tratamiento de los pacientes9.

De esta manera existen proyectos en la actualidad dedicados a explorar las aplicaciones de la IA en todas las facetas sanitarias: asistencial (prevención de enfermedades, diagnóstico, tratamiento y seguimiento de pacientes), docente o formación continuada, investigadora y gestora. A continuación se comentan algunos ejemplos concretos en las diferentes áreas de aplicación sanitaria.

Asistencial

  • 1.

    Prevención de enfermedades y diagnóstico precoz: Existen algoritmos informáticos que son capaces de contribuir a la prevención del cáncer de cérvix con alta precisión, ya sea a través de aplicación de software de machine learning en la identificación del virus del papiloma humano10 o de células con transformaciones oncogénicas11. Otros numerosos estudios se están realizando para ofrecer un diagnóstico precoz a través del uso de este tipo de algoritmos en el cáncer de útero12, cabeza y cuello13, próstata14 o piel15, ya sea a través de la aplicación de este tipo de software a la identificación de proteínas, a técnicas de imagen o a imágenes fotográficas identificando patrones de repetición.También se han desarrollado programas para la detección precoz de cardiopatías ocultas a partir de registros electrocardiográficos digitalizados16, diabetes mellitus17 y sistemas inteligentes que siguen el paradigma del Razonamiento Basado en Casos (Case-Based Reasoning [CBR]) para solucionar problemas actuales mediante la información que tenemos de problemas similares ocurridos anteriormente18 como el sistema InNoCBR, para la detección y clasificación de casos de infección nosocomial, implantado desde 2013 en el Complexo Hospitalario Universitario de Ourense (CHUO) y desde 2018 extendido a más centros de la comunidad autónoma19. Sobre el contenido de mensajes publicados en redes sociales también se pueden generar algoritmos que predicen el riesgo de psicopatologías. Se están desarrollando estudios sobre contenido de publicaciones y su relación con procesos psicológicos como el riesgo de depresión según los contenidos de las redes sociales como Twitter®20 o Instagram®21. A través de la interpretación de datos que registran nuestros movimientos (a través de sensores en nuestro teléfono móvil, reloj inteligente u otros dispositivos) se pueden identificar patrones que sugieran progresión de la enfermedad de Parkinson22.

  • 2.

    Diagnóstico: Existen muchos programas informáticos de apoyo y ayuda al diagnóstico que han ido mejorando su aprendizaje a través de su uso repetido y continuado. Actualmente existen diferentes tipos de software que se pueden aplicar a diferentes grupos de enfermedades como MYCIN/MYCIN II para enfermedades infecciosas23, CASNET para oftalmología, PIP para enfermedades renales o Al/RHEUM para enfermedades reumatológicas24. La empresa FDNA a través de su software de reconocimiento facial Face2Gene® es capaz de apoyar o sospechar el diagnóstico de más de 8.000 enfermedades raras25, con un reciente ensayo clínico desarrollado en Japón con buenos resultados26. En el campo del procesamiento y la interpretación de imágenes para el diagnóstico, la IA ofrece algoritmos que mejoran la calidad y la precisión del diagnóstico ya que los métodos de IA son excelentes para reconocer automáticamente patrones complejos en los datos de imágenes, elimina ruido en las imágenes ofreciendo una mayor calidad y permite establecer modelos tridimensionales a partir de imágenes de pacientes concretos27. Investigadores de IBM publicaron una investigación en torno a un nuevo modelo de IA que puede predecir el desarrollo del cáncer de mama maligno28, con tasas comparables a las de los radiólogos humanos. Este algoritmo aprende y toma decisiones tanto de datos de imágenes como del historial de la paciente, pudo predecir correctamente el desarrollo del cáncer de mama en el 87% de los casos analizados, y también pudo interpretar el 77% de los casos no cancerosos. Este modelo podría algún día ayudar a los radiólogos a confirmar o negar casos positivos de cáncer de mama. Si bien los falsos positivos pueden causar una enorme cantidad de estrés y ansiedad indebidos, los falsos negativos a menudo pueden obstaculizar la detección temprana y el tratamiento posterior de un cáncer. Cuando se puso a prueba frente a 71 casos diferentes que los radiólogos habían determinado originalmente como «no malignos», pero que finalmente terminaron siendo diagnosticados con cáncer de mama dentro del año, el sistema de IA pudo identificar correctamente el cáncer de mama en el 48% de las personas (48% de los 71 casos), que de lo contrario no se habrían detectado.

  • 3.

    Tratamiento: Combinando diferentes aplicaciones tecnológicas como localización GPS, IA, sensores corporales en tejidos inteligentes o complementos de vestido podemos predecir comportamientos o actividades de personas mayores que viven solas pudiendo mejorar su autonomía. No obstante, existen importantes consideraciones éticas a este respecto por el conflicto existente entre la tranquilidad de los familiares y los cuidadores, y la autonomía, privacidad, dignidad y consentimiento de los ancianos29. La IA también se puede aplicar para predecir reacciones adversas de tratamientos médicos30 o el grado de cumplimentación del tratamiento por parte de los pacientes31. Se ha utilizado el procesamiento de lenguaje natural para identificar palabras y frases en informes clínicos que predijeron la fuga anastomótica después de resecciones colorrectales. Muchas de sus predicciones reflejaban el conocimiento clínico que tendría un cirujano, pero este algoritmo también fue capaz de ajustar frases que describen a los pacientes (por ejemplo, irritado, cansado) en el primer día del postoperatorio para lograr predicciones con una sensibilidad del 100% y una especificidad del 72%32. El uso de los robots quirúrgicos, visto anteriormente, es una realidad cotidiana en nuestro medio, sobre todo en cirugía prostática33, colorrectal34 o pancreática35 al considerarse un método menos invasivo. Además de los desarrollos comerciales existentes, se están desarrollando sistemas de asistencia robótica en cirugía de código abierto como el sistema Raven II que será probado en diferentes universidades estadounidenses36.

  • 4.

    Seguimiento, soporte y monitorización: Muchos asistentes robóticos dotados de sistemas de IA con aplicaciones en salud están desarrollándose en la actualidad fundamentalmente en funciones de información, comunicación y acompañamiento de personas. Normalmente están dotados de un sistema de cámara (permiten moverse en el espacio e incluso detectar emociones a través del reconocimiento facial), sistemas de movilidad, sistemas de escucha e interpretación de voz y otras funciones mecánicas. Pillo37 es un robot alejado de formas humanoides que una vez programado es capaz de reconocer nuestra voz, nuestra cara y ofrecernos la medicación a la hora correcta. Las medicinas se cargan en un compartimento específico donde se mantienen en perfecto estado de conservación, es capaz de reconocer la medicación prescrita a cada miembro de la familia y responder a sencillas preguntas sobre alimentación y ejercicio. Almacena algunas variables en salud sobre cada uno de los miembros de la familia (peso, talla, niveles de glucemia y colesterol, tensión arterial…). Además de reconocer a cada una de las personas y poder ofrecerles la medicación correspondiente sin equivocarse abre caminos de futuro:

  • ?

    Una vez que se haya adelantado en el reconocimiento facial e interpretación de gestos podría establecer comunicación con dispositivos de asistencia domiciliaria urgente y videoconferencias ante situaciones de alerta de salud de la persona a quien cuida.

  • ?

    Podría ser un sistema de comunicación automática con dispositivos sociosanitarios.

  • ?

    Podría ser un entrenador en habilidades y ejercicios de rehabilitación física o mental.

Docencia y formación continuada

En casos de docencia con información compleja, que requiere entrenamiento de habilidades, y cuya ejecución tiene trascendencia social (como es el caso de la formación en las ciencias de la salud), la IA puede ofrecernos numerosas ventajas formativas ya que, a través de sus diferentes subcampos (como el aprendizaje automático, la lógica difusa o la interpretación del lenguaje natural) o aplicaciones, puede38:

  • 1.

    Crear escenarios virtuales de entrenamiento o aprendizaje que simulan una intervención real con gran realismo sin riesgo. Pueden ser de gran ayuda en simulación de cirugías ya sea para el aprendizaje de estudiantes o residentes, ya que la capa de IA se establece como un entrenador o mentor docente que interactúa con lo utilizado a través de la realidad virtual y/o aumentada39. También tiene aplicación en el entrenamiento para evacuación o rescate en grandes catástrofes priorizando las acciones a realizar o entrenamientos en habilidades de diagnóstico o comunicación con el paciente.

  • 2.

    Evaluación del progreso del estudiante. Ajustando las pruebas sucesivas a los logros alcanzados de forma previa.

  • 3.

    Generar parámetros reales y no subjetivos por parte del examinador que determinen los niveles de aptitud de los alumnos.

Investigación

Cuando hablamos de la aportación de la IA a la investigación lo hacemos desde una doble perspectiva:

  • 1.

    La mayoría de los subcampos de la IA aplicados a la medicina están en fase de investigación en sí mismos. En la actualidad hay en marcha numerosos estudios, la mayoría ensayos clínicos, que intentan buscar pruebas de la utilidad de la aplicación de la IA en salud. La mayoría de las grandes empresas de software y comunicación están trabajando de manera conjunta con diferentes universidades para la utilización de terminales y software específico en el seguimiento y control de numerosas enfermedades y procesos. Por ejemplo, la empresa Apple® desarrolla estudios relacionados con el seguimiento de pacientes con traumatismos craneoencefálicos (NYU Langone Medical Center), melanoma (Universidad de Salud y Ciencias de Oregón), depresión posparto (Universidad de Carolina del Norte y el Instituto Nacional de la Salud Mental) o trastornos del sueño (Universidad de California en San Diego y Asociación Americana de la Apnea del Sueño)40. Google® está participando de manera activa en numerosos proyectos de investigación relacionados con especialidades tan diversas como la oftalmología41 o la oncología42, pero relacionados con la búsqueda de patrones repetidos. Amazon® y Microsoft® también están invirtiendo en salud asociadas a la industria farmacéutica y empresas de inversión43 e incluso la primera de ellas se ha convertido en su propio proveedor de salud para sus trabajadores a través de AmazonCare®44.

  • 2.

    Muchas investigaciones biomédicas se ven claramente beneficiadas por la IA, ya que su aplicación genera una reducción en los costes y facilita la obtención y gestión de datos a través de modelos semánticos y relaciones entre variables desde una perspectiva diferente a la de la estadística clásica. La lógica difusa se está aplicando a investigaciones dentro del ámbito de la salud y está aportando nuevas visiones en el campo de creación de modelos de expansión de enfermedades infecciosas45, sistemas expertos para el diagnóstico46 o respuestas a tratamientos47.

Gestión

La gestión de recursos materiales y humanos también se puede beneficiar de la IA ya que al examinar grandes cantidades de datos procedentes de registros históricos se ayuda a prever los recursos necesarios en una situación concreta de manera que se optimiza el rendimiento, se impulsa la productividad y se mejora el uso de los recursos disponibles48. Por ejemplo, en un servicio determinado se puede establecer cuál es la plantilla óptima a partir de múltiples variables de las cuales el propio sistema va aprendiendo su ponderación (día de la semana, franja horaria, retransmisión simultánea de eventos deportivos o tiempo atmosférico).

Partes de la IA como la lógica difusa (que permite clasificar eventos que hasta ahora eran difícilmente clasificables) o la comprensión por parte de las máquinas del lenguaje natural humano pueden mejorar la clasificación de información o documentos. Así es posible que una red neuronal sea capaz de interpretar palabras que determinen mayor o menor confidencialidad del contenido de un texto y generar diferentes perfiles de acceso al mismo.

Implicaciones éticas

La automatización y la inclusión de los robots y las máquinas en general en la toma de decisiones que afectan a los seres humanos conllevan una serie de consideraciones éticas de gran importancia. Por un lado, la capacidad de cálculo por parte de las máquinas es mucho más rápida y precisa que la humana, pero existen variables no numéricas relacionadas con aspectos no tangibles que las máquinas aún no son capaces de incluirlas en sus procesos de decisión.

Tener robots que realizan tareas mecánicas en situaciones de gran riesgo para los seres humanos (entornos contaminados biológicamente o de gran toxicidad, desactivación de explosivos, reparaciones en entornos incompatibles con la vida humana como grandes profundidades o medición de variables en situaciones extremas como el viento en un huracán) suponen una ventaja considerable para la sociedad.

Los robots que realizan actividades cotidianas y repetitivas (realización de cientos de tests analíticos de laboratorio) suponen una descarga de tareas para el ser humano, pero esto puede provocar la desaparición de puestos de trabajo.

Disponer de robots que realizan tareas complejas para la toma de decisiones (por ejemplo, diagnósticos) tiene unas implicaciones éticas de gran importancia. La Unión Europea ha elaborado una guía de consideraciones éticas49 en la que se proponen 3 principios básicos para conseguir una IA fiable:

  • 1.

    Asegurarse de que la IA esté centrada en el ser humano: La IA se debe desarrollar, implementar y utilizar con un «propósito ético», fundamentado y que refleje los derechos fundamentales, los valores sociales y los principios éticos de la Beneficencia (hacer el bien), Maleficencia (no hacer daño), Autonomía de los seres humanos, Justicia y Explicabilidad.

  • 2.

    Confiar en los derechos fundamentales, principios éticos y valores para evaluar prospectivamente los posibles efectos de la IA en los seres humanos y el bien común. Prestar especial atención a las situaciones que involucran a los grupos más vulnerables, como niños, personas con discapacidades o minorías, o situaciones con asimetrías de poder o información, como entre empleadores y empleados, o empresas y consumidores.

  • 3.

    Reconocer y tener en cuenta el hecho de que, si bien aporta beneficios sustanciales a los individuos y a la sociedad, la IA también puede tener un impacto negativo. Permanecer atento a las áreas de preocupación crítica.

Para asegurar estos principios se han elaborado una serie de recomendaciones (tabla 1).

Tabla 1.

Recomendaciones del High-Level Expert Group on Artificial Intelligence. Draft Ethics Guidelines for Trustworthy AI. European Commission

1. Incorporar los requisitos para la IA de confianza desde la primera fase de diseño.2. Considerar métodos técnicos y no técnicos para garantizar la implementación de esos requisitos en el sistema de IA. Además, tener en cuenta esos requisitos para construir el equipo, para trabajar en el sistema en sí, el entorno de prueba y las aplicaciones potenciales del sistema.3. Proporcionar de manera clara y proactiva información a las partes interesadas (clientes, empleados, etc.) sobre las capacidades y limitaciones del sistema de IA, lo que nos permite establecer expectativas realistas. Asegurar la trazabilidad del sistema de IA es clave en este sentido.4. Hacer que la IA confiable sea parte de la cultura de la organización, y brindar información a las partes interesadas sobre la implementación, el diseño y el uso de los sistemas de IA. La IA confiable también se puede incluir en deontología o códigos de conducta de las organizaciones.5. Asegurar la participación e inclusión de las partes interesadas en el diseño y desarrollo del sistema de IA. Además, asegure la diversidad al configurar los equipos que desarrollan, implementan y prueban el producto.6. Prever formación y educación y asegurarse de que los directivos, desarrolladores, usuarios y empleadores conozcan y estén capacitados en IA confiable.7. Esforzarse por facilitar la auditabilidad de sistemas de IA, particularmente en contextos o situaciones críticas.8. Considerar la posible existencia de conflictos entre diferentes objetivos (la transparencia puede abrir la puerta al mal uso; identificar y corregir sesgos puede contrastar con las protecciones de privacidad). Comunicar y documentar estas compensaciones.9. Fomentar la investigación y la innovación para promover el cumplimiento de los requisitos para la IA confiable. 

IA: inteligencia artificial.

Además de la gran importancia de tener una normativa ética en la creación, desarrollo, implementación y evaluación de sistemas de IA hay otro proceso clave en este sentido.

La mayoría de sistemas de IA se basan en técnicas de aprendizaje automático a través de grandes colecciones de datos. Por lo tanto, una posible manera de generar sesgos en la toma de decisiones de la IA puede tener en la recopilación y selección de datos de entrenamiento. Si los datos de capacitación no son lo suficientemente inclusivos y equilibrados, el sistema podría aprender a tomar decisiones injustas, por ejemplo, los sistemas de reconocimiento facial son más fiables en varones blancos que en mujeres negras50 hecho que se está corrigiendo gracias al Gender Shades Projetc51.

La clave no es si existe algún sesgo; sino si el sesgo creado por los datos, las preguntas y las prioridades o los valores es moralmente neutro. Si es así, entonces el resultado será equitativo52.

En EE. UU. el Instituto Future of Life ha desarrollado los Principios de Inteligencia Artificial53 en Asilomar (Monterrey, California) a través de una conferencia con un amplio panel de expertos en robótica, físicos, economistas, filósofos y otros expertos en sus áreas en enero de 2017 donde se ha generado un consenso en 23 recomendaciones (tabla 2).

Tabla 2.

Principios de la IA de Asilomar

Relativas a la investigación en IA1. Objetivo de investigación: sus objetivos deben ser crear inteligencia no dirigida, pero beneficiosa.2. Financiación de la investigación: las inversiones en IA deben ir acompañadas de financiación para la investigación sobre cómo garantizar su uso beneficioso, incluidas preguntas espinosas en informática, economía, derecho, ética y estudios sociales.3. Enlace ciencia-política: debe haber una relación constructiva y saludable entre los investigadores de IA y los responsables políticos.4. Cultura de la investigación: debe fomentarse una cultura de cooperación, confianza y transparencia entre los investigadores y desarrolladores de IA.5. Evitar las carreras: los equipos que desarrollan sistemas de inteligencia artificial deben cooperar activamente para evitar el recorte de las normas de seguridad. 
Ética y valores1. Seguridad: los sistemas de IA deben ser seguros de manera verificable durante toda su vida operativa.2. Transparencia de fallos: si un sistema de IA causa daño, debería ser posible determinar la causa.3. Transparencia judicial: cualquier participación de un sistema autónomo en la toma de decisiones judiciales debe proporcionar una explicación satisfactoria auditable por una autoridad humana competente.4. Responsabilidad de los diseñadores y constructores de sistemas de IA avanzados como partes interesadas en las implicaciones éticas de su uso y uso indebido.5. Alineación del valor de los sistemas de IA con los valores humanos a lo largo de su operación.6. Valores humanos: los sistemas de IA deben diseñarse y operarse de manera que sean compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.7. Privacidad personal: las personas deben tener derecho de acceso, administración y control de los datos que generan, debido al poder de los sistemas de IA para analizar y utilizar esos datos.8. Libertad y privacidad: la aplicación de la IA a los datos personales no debe limitar injustificadamente la libertad real o percibida de las personas.9. Beneficio compartido: las tecnologías de IA deberían beneficiar y capacitar a tantas personas como sea posible.10. Prosperidad compartida: la prosperidad económica creada por una IA debe compartirse ampliamente en beneficio de toda la humanidad.11. Control humano: los seres humanos deben elegir cómo, y si delegar decisiones a los sistemas de IA para lograr los objetivos elegidos por el hombre.12. No subversión: el poder conferido por el control de sistemas de IA altamente avanzados debe respetar y mejorar, en lugar de subvertir, los procesos sociales y cívicos de los que depende la salud de la sociedad.13. Carrera armamentista de la IA: se debe evitar una carrera armamentista en armas autónomas letales. 
Problemas a largo plazo1. Precaución sobre la capacidad: al no haber consenso, debemos evitar suposiciones sólidas con respecto a los límites superiores de las capacidades futuras de IA.2. Importancia: la IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planearse y manejarse con cuidados y recursos proporcionales.3. Riesgos: los riesgos que plantean los sistemas de IA, especialmente los riesgos catastróficos o existenciales, deben estar sujetos a los esfuerzos de planificación y mitigación acordes con el impacto esperado.4. Auto-mejora recursiva: los sistemas de IA diseñados para auto-replicarse o auto-replicarse de manera recursiva de una manera que podría llevar a un aumento rápido de la calidad o cantidad deben estar sujetos a estrictas medidas de seguridad y de control.5. Bien común: la superinteligencia solo debe desarrollarse al servicio de ideales éticos ampliamente compartidos, y en beneficio de toda la humanidad en lugar de un estado u organización. 

IA: inteligencia artificial.

Financiación

Este artículo no ha recibido ningún tipo de ayuda o financiación de agencias del sector público, sector comercial o entidades sin ánimo de lucro.

Bibliografía
[1]
Fernández A. Inteligencia artificial en los servicios financieros. Boletín económico 2/2019. Banco de España [consultado 30 Sep 2019]. Disponible en: https://www.bde.es/f/webbde/SES/Secciones/Publicaciones/InformesBoletinesRevistas/ArticulosAnaliticos/19/T2/descargar/Fich/be1902-art7.pdf
[2]
Sosa-Sierra MC. Inteligencia artificial en la gestión financiera empresarial. Pensamiento y Gestión 2007 [consultado 30 Sep 2019]. Disponible en: http://rcientificas.uninorte.edu.co/index.php/pensamiento/article/viewFile/3518/2252
[3]
Industrial robots. International Federation of Robotics (IFR). Frankfurt, Germany 2018 [consultado 30 Sep 2019]. Disponible en: http://platea.pntic.mec.es/vgonzale/cyr_0204/ctrl_rob/robotica/industrial.htm
[4]
García-Sánchez CM, Moreno-Martín F. Una panorámica de la Inteligencia Artificial aplicada a la domótica. 2018 [consultado 17 Oct 2019]. Disponible en: http://www.it.uc3m.es/∼jvillena/irc/practicas/13-14/08.pdf
[5]
Y. Li, M. Díaz, S. Morantes, Y. Dorati.
Vehículos autónomos: Innovación en la logística urbana.
Rev-RIC, 4 (2018), pp. 34-39 [consultado 17 Oct 2019]
[6]
M. Alcibar, H. Alcibar, A. Puris.
Aplicaciones de Minería de Datos en Marketing.
Revista Publicando, 3 (2016 [consultado 17 Oct 2019]),
[7]
Predict Prevent Crime | Predictive Policing Software. PredPol [consultado 13 Mar 2019]. Disponible en: https://www.predpol.com/
[8]
Andalucía es Digital. 7 usos de la tecnología de reconocimiento facial que ya son reales. Blog de Andalucía es Digital. 2018 [consultado 13 Mar 2019]. Disponible en: https://www.blog.andaluciaesdigital.es/sistemas-de-reconocimiento-facial-usos/
[9]
Y. Mintz, R. Brodie.
Introduction to artificial intelligence in medicine.
Minim Invasive Ther Allied Technol, (2019), pp. 1-9 [consultado 13 Mar 2019]
[10]
O.G.W. Wong, I.F.Y. Ng, O.K.L. Tsun, H.H. Pang, P.P.C. Ip, A.N.Y. Cheung.
Machine learning interpretation of extended human papillomavirus genotyping by Onclarity in an Asian cervical cancer screening population.
J Clin Microbiol., 57 (2019),
[11]
Y. Ma, T. Xu, X. Huang, X. Wang, C. Li, J. Jerwick, et al.
Computer-Aided Diagnosis of Label-Free 3-D Optical Coherence Microscopy Images of Human Cervical Tissue.
IEEE Trans Biomed Eng, 66 (2019), pp. 2447-2456 [consultado 13 Mar 2019]
[12]
E. Günakan, S. Atan, A.N. Haberal, İ.A Küçükyıldız, E. Gökçe, A. Ayhan.
A novel prediction method for lymph node involvement in endometrial cancer: Machine learning.
Int J Gynecol Cancer, 29 (2019), pp. 320-324 [consultado 4 Abr 2019]
[13]
R. Forghani, A. Chatterjee, C. Reinhold, A. Pérez-Lara, G. Romero-Sanchez, Y. Ueno, et al.
Head and neck squamous cell carcinoma: Prediction of cervical lymph node metastasis by dual-energy CT texture analysis with machine learning.
Eur Radiol, 29 (2019), pp. 6172-6181
[14]
S. Jović, M. Miljković, M. Ivanović, M. Šaranović, M. Arsić.
Prostate Cancer Probability Prediction By Machine Learning Technique.
Cancer Invest, 35 (2017), pp. 647-651
[15]
A. Udrea, G.D. Mitra, D. Costea, E.C. Noels, M. Wakkee, D.M. Siegel, et al.
Accuracy of a smartphone application for triage of skin lesions based on machine learning algorithms.
J Eur Acad Dermatol Venereol, 34 (2020), pp. 648-51593655
[16]
J.J. Bax, P. van der Bijl, V. Delgado.
Machine Learning for Electrocardiographic Diagnosis of Left Ventricular Early Diastolic Dysfunction.
J Am Coll Cardiol, 71 (2018), pp. 1661-1662
[17]
B.P. Nguyen, H.N. Pham, H. Tran, N. Nghiem, Q.H. Nguyen, T.T.T. Do, et al.
Predicting the onset of type 2 diabetes using wide and deep learning with electronic health records.
Comput Methods Programs Biomed, 182 (2019), pp. 105055
[18]
A. Aamodt, E. Plaza, Case-Based Reasoning:.
foundational Issues Methodological Variations, and System Approaches.
AI Communications, 7 (1994), pp. 39-49 [consultado 17 Abr 2019]
[19]
H.J. Gómez-Vallejo, B. Uriel-Latorre, M. Sande-Meijide, B. Villamarín-Bello, R. Pavón, F. Fdez-Riverola, et al.
A case-based reasoning system for aiding detection and classification of nosocomial infections.
Decision Support Systems, 84 (2016), pp. 104-116
[20]
A. Leis, F. Ronzano, M.A. Mayer, L.I. Furlong, F. Sanz.
Detecting Signs of Depression in Tweets in Spanish: Behavioral and Linguistic Analysis.
J Med Internet Res, 21 (2019), pp. e14199
[21]
B.J. Ricard, L.A. Marsch, B. Crosier, S. Hassanpour.
Exploring the Utility of Community-Generated Social Media Content for Detecting Depression: An Analytical Study on Instagram.
J Med Internet Res, 20 (2018), pp. e11817
[22]
D. Ahmadi Rastegar, N. Ho, G.M. Halliday, N. Dzamko.
Parkinson's progression prediction using machine learning and serum cytokines.
NPJ Parkinson's Dis, 5 (2019), pp. 14
[23]
D.K. Kim, L.M. Fagan, K.T. Jones, D.C. Berrios, V.L. Yu.
MYCIN II: Design and implementation of a therapy reference with complex content-based indexing.
Proc AMIA Symp, (1998), pp. 175-179
[24]
C.A. Perry.
Knowledge bases in medicine: A review.
Bull Med Libr Assoc, 78 (1990), pp. 271-282
[25]
T. Dudding-Byth, A. Baxter, E.G. Holliday, A. Hackett, S. O’Donnell, S.M. White, et al.
Computer face-matching technology using two-dimensional photographs accurately matches the facial gestalt of unrelated individuals with the same syndromic form of intellectual disability.
BMC Biotechnol, 17 (2017), pp. 90
[26]
H. Mishima, H. Suzuki, M. Doi, M. Miyazaki, S. Watanabe, T. Matsumoto, et al.
Evaluation of Face2Gene using facial images of patients with congenital dysmorphic syndromes recruited in Japan.
J Hum Genet, 64 (2019), pp. 789-794
[27]
A. Hosny, C. Parmar, J. Quackenbush, L.H. Schwartz, H.J.W.L. Aerts.
Artificial intelligence in radiology.
Nat Rev Cancer, 18 (2018), pp. 500-510
[28]
A. Akselrod-Ballin, M. Chorev, Y. Shoshan, A. Spiro, A. Hazan, R. Melamed, et al.
Predicting Breast Cancer by Applying Deep Learning to Linked Health Records and Mammograms.
Radiology, 292 (2019), pp. 331-342
[29]
Y.T. Yang, C.G. Kels.
Does the Shoe Fit? Ethical Legal, and Policy Considerations of Global Positioning System Shoes for Individuals with Alzheimer's Disease.
J Am Geriatr Soc, 64 (2016), pp. 1708-1715
[30]
F. Christopoulou, T.T. Tran, S.K. Sahu, M. Miwa, S. Ananiadou.
Adverse drug events and medication relation extraction in electronic health records with ensemble deep learning methods.
J Am Med Inform Assoc, (2019), pp. 1-8
[31]
D.L. Labovitz, L. Shafner, M. Reyes Gil, D. Virmani, A. Hanina.
Using Artificial Intelligence to Reduce the Risk of Nonadherence in Patients on Anticoagulation Therapy.
Stroke, 48 (2017), pp. 1416-1419
[32]
C. Soguero-Ruiz, K. Hindberg, J.L. Rojo-Alvarez, S.O. Skrovseth, F. Godtliebsen, K. Mortensen, et al.
Support Vector Feature Selection for Early Detection of Anastomosis Leakage From Bag-of-Words in Electronic Health Records.
IEEE J Biomed Health Inform, 20 (2016), pp. 1404-1415
[33]
Health Quality Ontario.
Robotic Surgical System for Radical Prostatectomy: A Health Technology Assessment.
Ont Health Technol Assess Ser, 17 (2017), pp. 1-172
[34]
S. Roy, C. Evans.
Overview of robotic colorectal surgery: Current and future practical developments.
World J Gastrointest Surg, 8 (2016), pp. 143-150
[35]
S. Alfieri, U. Boggi, G. Butturini, A. Pietrabissa, L. Morelli, P. Di Sebastiano, et al.
Full Robotic Distal Pancreatectomy: Safety and Feasibility Analysis of a Multicenter Cohort of 236 Patients.
Surg Innov, (2019),
[36]
X. Li, T. Kesavadas.
Surgical Robot with Environment Reconstruction and Force Feedback.
Conf Proc IEEE Eng Med Biol Soc, 2018 (2018), pp. 1861-1866
[37]
Pillo Health [consultado 14 Sep 2019]. Disponible en: https://www.pillohealth.com/device.html
[38]
Lozano A. La inteligencia artificial mejora el proceso de aprendizaje: ¿Cómo es eso posible? e-Learning actual. 2009 [consultado 14 Sep 2019]. Disponible en: https://elearningactual.com/la-inteligencia-artificial-mejora-el-proceso-de-aprendizaje-como-es-eso-posible/
[39]
A.Y. Sheikh, J.I. Fann.
Artificial Intelligence: Can Information be Transformed into Intelligence in Surgical Education?.
Thorac Surg Clin, 29 (2019), pp. 339-350
[40]
ResearchKit y CareKit-Apple (ES) [consultado 16 Sep 2019]. Disponible en: https://www.apple.com/es/researchkit/
[41]
V. Gulshan, L. Peng, M. Coram, M.C. Stumpe, D. Wu, A. Narayanaswamy, et al.
Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs.
[42]
Liu Y, Gadepalli K, Norouzi M, Dahl GE, Kohlberger T, Boyko A. et al. Detecting cancer metastases on gigapixel pathology images. 2017arXiv preprint arXiv:1703.02442 [consultado 16 Sep 2019]. Disponible en: https://arxiv.org/abs/1703.02442
[43]
When the human body is the biggest data platform, who will capture value? Life Sciences 4.0: Securing value through data-driven platform. Progressions 2018 [consultado 30 Sep 2018]. Disponible en: https://www.ey.com/es/es/home/ey-progressions-life-sciences-2018
[44]
Amazon Care. Healthcare built around you [consultado 3 Oct 2019]. Disponible en: https://amazon.care/
[45]
D. Romero, J. Olivero, R. Real, J.C. Guerrero.
Applying fuzzy logic to assess the biogeographical risk of dengue in South America.
Parasit Vectors, 12 (2019), pp. 428
[46]
L.A. Arani, F. Sadoughi, M. Langarizadeh.
An Expert System to Diagnose Pneumonia Using Fuzzy Logic.
Acta Inform Med, 27 (2019), pp. 103-107
[47]
M.E. Ekpenyong, P.I. Etebong, T.C. Jackson.
Fuzzy-multidimensional deep learning for efficient prediction of patient response to antiretroviral therapy.
Heliyon, 5 (2019), pp. e00208
[48]
Cuatro aplicaciones de IA para la atención médica. Philips [consultado 18 Sep 2019]. Disponible en: https://www.philips.com.pe/healthcare/nobounds/four-applications-of-ai-in-healthcare
[49]
High-Level Expert Group on Artificial Intelligence. Draft Ethics Guidelines for Trustworthy AI. European Commission Directorate-General for Communication. Brussels; 2018 [consultado 16 Sep 2019]. Disponible en: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
[50]
J. Buolamwini, T. Gebru.
Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.Proceedings of Machine Learning Research, 81 (2018 [consultado 16 Sep 2019]), pp. 77-91
[51]
Gender Shades. Gender Shades Projet [consultado 11 Mar 2019]. Disponible en: http://gendershades.org/overview.html
[52]
Sexton G. Hablemos de la ética de la inteligencia artificial: la lucha de la equidad en los modelos predictivos de IA. Genesys [consultado 11 Mar 2019]. Disponible en: https://www.genesys.com/es-mx/blog/post/hablemos-de-la-etica-de-la-inteligencia-artificial-la-lucha-de-la-equidad-en-los-modelos-predictivos-de-ia
[53]
Asilomar AI Principles Future of Life Institute [consultado 11 Mar 2019]. Disponible en: https://futureoflife.org/ai-principles/
Copyright © 2020. The Author(s)
Opciones de artículo
Herramientas
es en pt

¿Es usted profesional sanitario apto para prescribir o dispensar medicamentos?

Are you a health professional able to prescribe or dispense drugs?

Você é um profissional de saúde habilitado a prescrever ou dispensar medicamentos