Buscar en
Atención Primaria
Toda la web
Inicio Atención Primaria Cuestionario para evaluar sitios web sanitarios según criterios europeos
Información de la revista
Vol. 38. Núm. 5.
Páginas 268-274 (Septiembre 2006)
Compartir
Compartir
Descargar PDF
Más opciones de artículo
Vol. 38. Núm. 5.
Páginas 268-274 (Septiembre 2006)
Acceso a texto completo
Cuestionario para evaluar sitios web sanitarios según criterios europeos
Questionnaire to Evaluate Health Web Sites According to European Criteria
Visitas
17904
Clara Bermúdez-Tamayoa, Jaime Jiménez-Pernetta, José Francisco García Gutiérreza, Inés Azpilicueta Cengotitobengoab, Martha Milena Silva-Castrob, Gastón Babioa, Juncal Plazaola Castañoa
a Escuela Andaluza de Salud Pública. Granada. España.
b Grupo de Investigación en Atención Farmacéutica. Universidad de Granada. Granada. España.
Este artículo ha recibido
Información del artículo
Resumen
Texto completo
Bibliografía
Descargar PDF
Estadísticas
Tablas (8)
Esquema general del estudio
ANEXO 1.
ANEXO 1.
ANEXO 2.
TABLA 1. Resultados del análisis de fiabilidad del cuestionario preliminar
ANEXO 3.
TABLA 2. Resultados del análisis de fiabilidad del cuestionario definitivo
Lo conocido sobre el tema
Mostrar másMostrar menos
Objetivo. Diseñar un cuestionario para evaluar el cumplimiento de criterios de calidad de sitios web sanitarios y analizar su fiabilidad. Diseño. Estudio descriptivo de la fiabilidad de un cuestionario. Participantes. Veinte sitios web relacionados con salud. Emplazamiento. Internet. Mediciones principales. El cuestionario se diseñó a partir de los criterios del código de conducta e-Europe 2002, comparándolos con los del AMA, Summit, e-Health Code of Ethics, normativa y directrices vigentes. Las dimensiones estudiadas fueron la transparencia y la ausencia de conflicto de intereses, autoría, protección de datos, actualización, responsabilidad y accesibilidad. Se elaboró un cuestionario preliminar, se midió la fiabilidad, se efectuaron ajustes y se diseñó el definitivo. Se evaluó nuevamente la fiabilidad utilizando 26 sitios web por parte de 3 investigadores. La concordancia se midió con el índice kappa de Cohen. Resultados. En el cuestionario diseñado se incluyeron todas las directrices de calidad de la guía Europea e-Europe 2002, la normativa Europea y los aspectos relevantes contemplados por otros códigos. Se obtuvo una fiabilidad aceptable (kappa ≥ 0,60) para 12 de los 18 criterios incluidos. Los aspectos menos concordantes fueron actualización (kappa = 0,310) y accesibilidad (búsqueda de contenidos y acceso para discapacitados). Conclusiones. Se obtuvo un cuestionario con una fiabilidad aceptable.
Palabras clave:
e-Health
Calidad
Internet
Objectives. To design a questionnaire to evaluate compliance with quality criteria on health web sites and to analyse its reliability. Design. A descriptive study on the reliability of a questionnaire. Participants. Twenty web sites on health topics. Setting. Internet. Main measurements. The questionnaire was based on analysis of content of the criteria of the e-Europe 2002 code of conduct, comparing these with the criteria underlying the AMA, the Summit code and the e-Health Code of Ethics regulations and current directives. The dimensions studied were transparency, absence of conflicts of interest, authorship, data protection, updating, accountability, and accessibility. A preliminary questionnaire was drawn up for a pilot test conducted by 3 researchers for 20 web sites, its reliability was appraised, adjustments were made and the definitive questionnaire was designed. Reliability was evaluated again for 26 web sites evaluated by 3 researchers. To evaluate concordance in the answers of the participants, Cohen's Kappa index with a 95% confidence level was used. Results. All the quality directives of e-Europe 2002, the European regulations and relevant points from other questionnaires were included in the questionnaire designed. Reliability was acceptable (kappa ≥ 0.60) for 12 of the 18 quality criteria included. The least concordant aspects of the questionnaire were information update (kappa =0.310) and accessibility (search for contents and access for persons with disability). Conclusions. Reliability of the questionnaire designed was acceptable.
Keywords:
e-Health
Quality
Internet
Texto completo

Introducción

La difusión del conocimiento biomédico a través de internet ha puesto al alcance de los ciudadanos una variedad y cantidad de información sin precedentes. En principio, este hecho podría favorecer el ejercicio de su autonomía y contribuir a lograr una mayor equidad en el acceso a la atención sanitaria1. No obstante, la incertidumbre que implica la búsqueda de información de calidad desigual por parte de la población2 conlleva que algunos autores consideren que los profesionales, los gestores y demás responsables sanitarios deberían asistir a los pacientes en este proceso. Los pacientes precisarían no sólo información sobre las fuentes disponibles, sino también consejos que les permitan entender y evaluar la información como apoyo al proceso de la toma de decisiones3, además de paliar el efecto adverso que puede derivarse de un mal uso de internet4.

En los últimos años se han desarrollado con este propósito diferentes instrumentos para medir la calidad de los sitios web sanitarios5-9. Su diseño tiene como base un código ético implícito o explícito, que se define como un conjunto de criterios de calidad para evaluar el contenido de los sitios web10 (p. ej., que en la web se describa el responsable de la misma).

Algunos instrumentos se utilizan en forma de filtros (que excluyen páginas que no cumplen criterios), guías para el usuario (automatizadas o no) y sellos de acreditación por terceros. Otras iniciativas se han enfocado en la autorregulación del proveedor a través de sellos de calidad autoaplicados11.

Entre los códigos de conducta destacan cuatro iniciativas: a) el código de la American Medical Association (AMA)12, que rige la calidad de las sitios web de sus miembros; b) el e-Health Code of Ethics13 de la Internet Health Coalition; c) el código del Health Summit Working Group (Summit)14, y d) el código e-Europe 2002 (criterios de calidad para sitios web sanitarios)15, que busca estimular la implementación de códigos en los estados comunitarios.

En España, el Colegio de Médicos de Barcelona otorga el sello «Web Médica Acreditada» a las páginas que cumplen con su código de conducta16, y la iniciativa «Webs médicas de calidad» (WMC), respaldada por diversas asociaciones médicas, otorga también un sello que pretende la mejora de la calidad de los sitios web españoles17. En la literatura médica sólo se ha encontrado un trabajo realizado en España que desarrolla un instrumento, elaborado a partir de criterios de calidad considerados por los médicos18.

La existencia de diferentes códigos plantea problemas como la redundancia de criterios, o la competencia entre ellos para ser reconocidos como el «patrón oro» (gold standard)19. Sin embargo, el mayor problema radica en la implementación de cualquier código, ya que las recomendaciones suelen ser demasiado generales y difíciles de utilizar como «reglas operativas» para evaluar sitios web específicos. Para ser prácticos, los códigos deberían incluir criterios específicos de evaluación y documentación de apoyo con ejemplos de «buenas prácticas» para los proveedores20.

La iniciativa e-Europe, originada por la Comisión Europea en 2002, pretende guiar a las autoridades sanitarias, asociaciones y otros proveedores, para que implementen los criterios de calidad de los sitios web sanitarios de manera apropiada, según su audiencia, y teniendo en cuenta su entorno cultural15. Sin embargo, los criterios que plantea no son operativos20.

El objetivo del presente trabajo es elaborar y evaluar la fiabilidad de un instrumento en español que permita valorar la calidad de los sitios web sanitarios en el ámbito iberoamericano, y que cumpla las recomendaciones de los principales códigos éticos y la normativa vigente para España y Europa. Por fiabilidad se entiende que el cuestionario produzca resultados similares para una misma evaluación aunque sea utilizado por diferentes personas. El procedimiento consistió en incluir de manera práctica los criterios del código e-Europe y completarlos con los criterios de los demás códigos disponibles a través de un análisis comparativo.

Material y método

La metodología del estudio se describe en el esquema. Cada una de las fases se describe a continuación.

Análisis de contenido

Para incluir de manera práctica los diferentes criterios del e-Europe, se efectuó un análisis cualitativo comparado, que incluía cada dimensión, con el código de la AMA, el código Summit, el e-Health Code of Ethics y la normativa y directrices vigentes. Las dimensiones que contiene el e-Europe son: a) transparencia y ausencia de conflicto de intereses; b) autoría; c) protección de datos personales; d) actualización de la información; e) responsabilidad, y f) accesibilidad.

La normativa y directrices estudiadas fueron la iniciativa internacional de la OCDE21 y la iniciativa europea e-Confidence22 para la protección del consumidor en internet, la World Wide Web Consortium-W3C23, la ley de protección de datos personales24 y los modelos internacionales de aseguramiento de la calidad EFQM25 e ISO 900026.

Para el análisis cualitativo se utilizó el programa QSR Nudist Vivo 1.1.127.

Elaboración del cuestionario preliminar

A partir de los resultados se elaboró un cuestionario preliminar y, teniendo en cuenta las recomendaciones de Casas et al27, las preguntas se agruparon por temas, según las dimensiones del e-Europe.

Prueba piloto

Una vez redactadas las preguntas y situadas en el cuestionario, se realizó una prueba piloto, por parte de 3 investigadores que utilizaron el cuestionario para evaluar 20 sitios web relacionados con temas de salud. Los sitios web evaluados y la metodología para su selección se describen en un artículo publicado previamente28. Esta prueba piloto sirvió para determinar si las preguntas fueron correctamente comprendidas por todos los sujetos, si producían fatiga o rechazo, si la duración fue excesiva o cualquier otra deficiencia.

Medición de la fiabilidad del cuestionario preliminar

Se evaluó la concordancia en las respuestas de los sujetos a preguntas con el índice kappa de Cohen y el nivel de significación estadística mediante el intervalo de confianza (IC) del 95%. Para calcular el índice kappa, el valor p asociado y el IC del 95%, se utilizó el programa STATA/SE 8.0 para Windows. Se consideraron los criterios de Fleiss para valorar el índice kappa29: menor de 0,20 se considera concordancia escasa; entre 0,21 y 0,40, débil; entre 0,41 y 0,60, moderada; entre 0,61 y 0,80, buena, y entre 0,81 y 1,00, muy buena.

Elaboración del cuestionario definitivo

Con base en los resultados obtenidos en la prueba piloto y en la concordancia obtenida, se efectuaron los ajustes pertinentes para los ítems con peores valores de kappa.

Medición de la fiabilidad del cuestionario definitivo

Se realizó una nueva prueba de la concordancia, para evaluar si se había mejorado a valores aceptables, para lo cual se evaluaron 26 sitios web por parte de 3 investigadores, y se calcularon las pruebas aplicadas al cuestionario preliminar. Para calcular el índice kappa, el valor de p asociado y el IC del 95%, se utilizó el programa STATA/SE 8.0 para Windows.

Resultados

Análisis de contenido

El análisis de contenido de las dimensiones abordadas por los códigos de conducta se utilizó para elaborar el cuestionario preliminar (anexo 1).

Elaboración del cuestionario preliminar

El cuestionario preliminar se describe en el anexo 2. Con respecto a los ítems incluidos, para el apartado de transparencia y ausencia de conflicto de intereses se incluyeron todos los criterios del e-Europe, los cuales pudieron incluirse de manera práctica con facilidad por ser objetivos. Otras exigencias del e-Health Code of Ethics y del Summit sobre el control de la influencia de patrocinadores en búsquedas y contenidos no fueron incluidas, puesto que se consideró que hacer explícita la fuente de financiación debe bastar para que el usuario esté informado de un posible conflicto de intereses. Para la autoría, además de los criterios de e-Europe, se incluían los criterios considerados por los demás códigos, a excepción del requerimiento de solicitar un enlace a la fuente (del e-Health Code of Ethics), al haberlo considerado de difícil cumplimiento. En las dimensiones sobre la protección de datos personales y la actualización de la información había acuerdo entre los códigos, así que al considerar el e-Europe, se consideraban también los demás. Para la responsabilidad se incluyeron los criterios del e-Europe y también los de los demás códigos. Los criterios del código de la AMA se utilizaron para incluir de manera práctica la accesibilidad, que estaba descrita de manera muy general en el e-Europe.

Las categorías para la evaluación de cada criterio fueron: 0, 1, 2 o 3 (0, no lo cumple; 3, lo cumple totalmente). El tiempo necesario para su contestación fue de 15 min aproximadamente.

Prueba piloto del cuestionario preliminar

Los resultados encontrados al calcular el índice kappa para la concordancia entre los 3 evaluadores se presenta en la tabla 1.

Diseño del cuestionario definitivo

El cuestionario definitivo, que resultó después de hacer los ajustes detectados en la prueba piloto, está accesible en internet (anexo link 2). Se ajustaron las preguntas con peor concordancia entre evaluadores, se valoraron como fuentes los profesionales (nombre, título, lugar de trabajo), los estudios publicados (artículos, guías de práctica clínica, libros), las declaraciones de sociedades científicas y las fuentes gubernamentales.

Para la autoría, al tener una concordancia tan débil, se solicitó su evaluación más específica, solicitándola para los tres documentos más accesibles.

Prueba del cuestionario definitivo

En general, se ha encontrado una buena concordancia entre evaluadores para el cuestionario definitivo. Los resultados encontrados al calcular el índice kappa para la concordancia entre los 3 evaluadores se presenta en la tabla 2.

Discusión

El cuestionario diseñado puede servir a los usuarios; profesionales, ciudadanos, gestores y responsables sanitarios como herramienta de evaluación de la calidad de los sitios web que consultan. Además, permitiría a los proveedores revisar su grado de cumplimiento de la política europea sobre «Criterios de calidad para sitios web relacionados con la salud», cuyo incumplimiento podría ser utilizado en su contra en discusiones legales20. Con todo, el cuestionario se ha probado en páginas dirigidas a profesionales y su utilización debería circunscribirse a este contexto.

El análisis de contenido efectuado para seleccionar los ítems incluidos en el cuestionario podría haber dejado fuera algunos criterios de calidad relevantes, debido a que sólo se han estudiado 4 códigos de conducta. Sin embargo, los códigos estudiados son los más reconocidos, lo cual da cierta garantía al cuestionario, además de que se estudió también la normativa vigente.

En general, el cuestionario presentó buena fiabilidad en casi todos sus ítems. Con respecto a la actualización de la información, el análisis muestra una concordancia débil, lo cual puede deberse a la dificultad que supone evaluar objetivamente el grado de actualización de la información ofrecida por un sitio web, dado que éste puede variar en función del contenido específico que se explora. Por esta razón sería necesario, en futuros trabajos, definir criterios de calidad específicos para el contenido. Por su parte, la accesibilidad para personas con discapacidades tuvo una concordancia débil, posiblemente porque había dos formas de revisar: con el sello W3C o con la autodeclaración del sitio. La facilidad para encontrar contenidos tuvo una escasa concordancia, dado que éste tiene un componente subjetivo, relativo a las capacidades y preferencias particulares.

Este estudio aporta a la literatura médica un instrumento con la definición de criterios explícitos y una evaluación de la fiablidad bastante aceptable, las cuales son las principales limitaciones de los 273 instrumentos encontrados en la bibliografía. Bernstam et al9 efectuaron recientemente una revisión de éstos, encontrando que sólo 80 (el 29%) explicitaban los criterios de calidad utilizados y que sólo 2 estudios evaluaron la fiabilidad de los instrumentos. El primero9 encontró un valor kappa >= 0,6 y el segundo30 evaluó un instrumento con 22 criterios similares a los del primero, encontrando 15 criterios con un índice kappa > 0,6.

La utilidad de la medición de la calidad de los sitios web ha sido cuestionada por algunos autores31,32 por diversos motivos, entre los que se mencionan el posible carácter subjetivo de la calidad, que podría depender del tipo de información requerido en cada momento y de las características y de prejuicios particulares del consumidor33. Por otra parte, se ha mencionado también que los consumidores podrían enfrentarse al contenido de los sitios web como lo han hecho frente a otros medios34. Respecto a este debate, Wilson et al11 rescatan el valor de los códigos de conducta, afirmando que no todos los profesionales y menos los pacientes tienen el tiempo y la disposición para utilizar apropiadamente los recursos disponibles, con lo cual es necesario contar con herramientas que faciliten esta cuestión, si bien hay que considerar que la calidad tendrá un componente subjetivo.

Por esta razón, en este estudio no se planteó hacer una validación del constructo que supone la «calidad». Se pretendió hacer una comparación de los criterios del e-Europe con los códigos de conducta, a través de una revisión exhaustiva, lo cual sería el primer paso para una validación del contenido.

El uso del cuestionario presentado podría apoyar la consulta y la producción de sitios web de mayor calidad. Futuras investigaciones en este ámbito podrían dirigirse al desarrollo de criterios más objetivos para determinados aspectos, como el grado de actualización de la información ofrecida, profundizando, por ejemplo, en el tema de los contenidos y la facilidad para la búsqueda de contenidos de los sitios web, incluyendo por ejemplo las competencias individuales en el uso de internet.

Agradecimientos

Agradecemos a Soledad Márquez Calderón sus valiosos aportes para la mejora del manuscrito preliminar.


Fuente de financiación: Red de Centros de Epidemiología y Salud Pública.

Correspondencia:

C. Bermúdez Tamayo.

Escuela Andaluza de Salud Pública. Campus Universitario de Cartuja.

Apdo. de Correos 2.070. 18080 Granada. España.

Correo electrónico: clara.bermudez.easp@juntadeandalucia.es

Manuscrito recibido el 21 de julio de 2005.

Manuscrito aceptado para su publicación el 19 de diciembre de 2005.

Bibliografía
[1]
Makus R..
Ethics and Internet healthcare: an ontological reflection..
Camb Q Healthc Ethics, 10 (2001), pp. 127-36
[2]
Meric F, Bernstam EV, Mirza NQ, Hunt KK, Ames FC, Ross MI, et al..
Breast cancer on the world wide web: cross sectional survey of quality of information and popularity of websites..
BMJ, 324 (2002), pp. 577-81
[3]
Resnik D..
Patient access to medical information in the computer age: ethical concerns and issues..
Camb Q Healthc Ethics, 10 (2001), pp. 147-54
[4]
Crocco AG, Villasis-Keever M, Jadad AR..
Analysis of cases of harm associated with use of health information on the internet..
JAMA, 287 (2002), pp. 2869-71
[5]
Jadad AR, Gagliardi A..
Rating health information on the Internet:navigating to knowledge or to Babel? JAMA, 279 (1998), pp. 611-4
[6]
Kim P, Eng TR, Deering MJ, Maxfield A..
Published criteria for evaluating health related web sites: review..
BMJ, 318 (1999), pp. 647-9
[7]
Gagliardi A, Jadad AR..
Examination of instruments used to rate quality of health information on the internet: chronicle of a voyage with an unclear destination..
BMJ, 324 (2002), pp. 569-73
[8]
Eysenbach G, Powel.l, Kuss O, Sa E..
Empirical studies assessing the quality of health information for consumers on the World Wide Web: a systematic review..
JAMA, 287 (2002), pp. 2691-5
[9]
Bernstam EV, Shelton D, Walji M, Meric-Bernstam F..
Instruments to asses the quality of health information on the World Wide Web:What can our patients actually use? Int J Med Inform, 74 (2005), pp. 13-9
[10]
e-Europe 2002: Quality criteria for health related websites [documento en internet]. Bruselas, 2002 [citado 10 Oct 2004]. Disponible en: http://europa.eu.int/information_society/eeurope/ehealth/doc/communication_acte_en_fin.pdf
[11]
Wilson P, Risk A..
How to find the good and avoid the bad or ugly: A short guide to tools for rating quality of health information on the Internet..
BMJ, 324 (2002), pp. 598-9
[12]
Chicago, 2000 [citado 10 Oct 2004]. Disponible en: http://www.ama-assn.org/ama/pub/category/1905.html
[13]
Código de Ética de e-Salud [documento en internet]. Newtown, 2000 [citado 10 Oct 2004]. Disponible en: http://www.ihealthcoalition.org/ethics/spanish-code.html
[14]
Criteria for Assessing the Quality of Health Information on the Internet [documento en internet]. Washington, 1997 [citado 10 Oct 2004]. Disponible en: http://hitiweb.mitretek.org/docs/criteria.html
[15]
E-Europe 2002: Quality Criteria for Health-related Website [documento en internet]. Bruselas, 1997 [citado 10 Oct 2004]. Disponible en: http://europa.eu.int/information_society/eeurope/ehealth/doc/communication_acte_en_fin.pdf
[16]
Accredited Medical web: an experience in Spain. J Med Internet Res [revista en internet] 2000; 2 Suppl 2:e5 [citado 10 Oct 2004]. Disponible en: http://www.jmir.org/2000/suppl2/e5/
[17]
Ávila de Tomás JF, Portillo BE, Pajares JM..
Calidad en la información biomédica existente en Internet..
Aten Primaria, 28 (2001), pp. 674-679
[18]
Rancaño I, Rodrigo JA, Villa R, Abdelsater M, Días R, Álvarez D..
Evaluación de las páginas web en lengua española útiles para el médico de atención primaria..
Aten Primaria, 31 (2003), pp. 575-84
[19]
Proposed Frameworks to Improve the Quality of Health Web Sites: Review. MedGenMed 2000 [citado 10 Oct 2004]. Disponible en: http://www.medscape.com/medscape/ GeneralMedicine/journal/2000/v02.n05/mgm0926.baur/mgm0926.baur-01.h
[20]
Risk A, Dzenowagis J..
Review of Internet Health Information Quality Initiatives..
J Med Internet Res [revista en internet, 3 (2001), pp. e28
[21]
Guidelines for consumer protection in the context of Electronic Commerce [documento en internet]. París, 2000 [citado 10 Ene 2005]. Disponible en: http://www1.oecd.org/publications/e-book/9300023e.pdf
[22]
e-Confidence project [documento en internet]. Bruselas, 2001 [citado 10 Ene 2005]. Disponible en: http://europa.eu.int/comm/consumers/cons_int/e-commerce/e-conf_working_annexe.pdf
[23]
Recommendations [documento en internet] [citado 10 Nov 2005]. Disponible en: http://www.w3.org/TR/1999/WAI-WEBCONTENT-19990324/wai-pageauth.html
[24]
La 'e-gestion' en la sociedad de la información: internet y nuevas tecnologías en el desarrollo del objeto social de la empresa en el siglo XXI. La «e-Health». En: Antequera JM, Arias E, editores. Sistema sanitario y recursos humanos. Madrid: Díaz de Santos; 2005. p. 469-92.
[25]
EFQM de Excelencia: versión para el Sector Público y las Organizaciones del Voluntariado. Bruselas: EFQM; 2003.
[26]
ISO 9001: 2000 comentada. Madrid: AENOR; 2002.
[27]
Casas J, Repullo JR, Donado J..
La encuesta como técnica de investigación. Elaboración de cuestionarios y tratamiento estadístico de los datos (II)..
Aten Primaria, 31 (2003), pp. 592-600
[28]
Silva-Castro MM, Bermúdez-Tamayo C, García Gutiérrez JF, Jiménez Pernett J, Tuneu L, Azpilicueta I, et al..
Recursos web utilizados por los farmacéuticos para realizar atención farmacéutica..
Seguim Farmacoter, 2 (2004), pp. 19-23
[29]
Statistical Methods for Rates and Proportions. 2nd ed. New York: John Wiley & Sons Inc.; 1981.
[30]
Sagaram S, Walji M, Meric-Bernstam F, Johnson C, Bernstam EV..
Inter-observer agreement for quality measures applied to online health information..
MedInfo, 11 (2004), pp. 1308-12
[31]
Coeira E..
Information epidemics, economics, and immunity on the Internet: We still know so little about the effect of information on public health..
BMJ, 317 (1998), pp. 1469-972
[32]
Silberg WM, Lundberg GD, Musacchio RA..
Assessing, controlling, and assuring the quality of medical information on the internet: caveant lector et viewor-let the reader and viewer beware..
JAMA, 277 (1997), pp. 1244-5
[33]
Purcell GP, Wilson P, Delamothe T..
The quality of health information on the internet..
BMJ, 324 (2002), pp. 557-8
[34]
Delamothe T, Smith R, Keller MA, Witscher B..
Netprints: The next phase in the evolution of biomedical publishing..
BMJ, 319 (1999), pp. 1515-6
Opciones de artículo
Herramientas
es en pt

¿Es usted profesional sanitario apto para prescribir o dispensar medicamentos?

Are you a health professional able to prescribe or dispense drugs?

Você é um profissional de saúde habilitado a prescrever ou dispensar medicamentos