{rfName}
Mi

Indexado en

Licencia y uso

Icono OpenAccess

Citaciones

9

Altmetrics

Investigadores/as Institucionales

Garcia-Gomez, Juan MAutor (correspondencia)Blanes-Selva, VicentAutor o Coautor

Compartir

31 de julio de 2025
Publicaciones
>
Artículo
Hybrid Gold

Mitigating patient harm risks: A proposal of requirements for AI in healthcare

Publicado en: ARTIFICIAL INTELLIGENCE IN MEDICINE. 167 103168- - 2025-09-01 167(), DOI: 10.1016/j.artmed.2025.103168

Autores:

Garcia-Gomez, Juan M; Blanes-Selva, Vicent; Romero, Celia Alvarez; Cenzano, Jose Carlos de Bartolome; Mesquita, Felipe Pereira; Pazos, Alejandro; Donate-Martinez, Ascension
[+]

Afiliaciones

Com Tecn Inteligencia Artificial, Soc Espanola Informat Salud SEIS, Madrid, Spain - Autor o Coautor
Ctr Invest Tecnol Informac & Comunicac CITIC, La Coruna, Spain - Autor o Coautor
Inst Invest Biomed A Coruna INIB, La Coruna, Spain - Autor o Coautor
Soc Iber Telemed & Telesalud SITT, Madrid, Spain - Autor o Coautor
Univ A Coruna, Comp Sci & Informat Technol Dept, RNASA IMEDIR Grp, La Coruna, Spain - Autor o Coautor
Univ Fed Juiz de Fora, Hematol Hemoterapia & Transplante Medula Ossea, Hosp Univ, Juiz de Fora, Brazil - Autor o Coautor
Univ Politecn Valencia, Area Derecho Constituc UPV, Valencia, Spain - Autor o Coautor
Univ Politecn Valencia, Biomed Data Sci Lab, ITACA Inst Informacio & Tecnol Comunicac, Valencia, Spain - Autor o Coautor
Univ Seville, IBiS Virgen Rocio Univ Hosp, Inst Biomed Seville, Computat Hlth Informat Grp,CSIC, Seville, Spain - Autor o Coautor
Ver más

Resumen

With the rise Artificial Intelligence (AI), mitigation strategies may be needed to integrate AI-enabled medical software responsibly, ensuring ethical alignment and patient safety. This study examines how to mitigate the key risks identified by the European Parliamentary Research Service (EPRS). For that, we discuss how complementary risk-mitigation requirements may ensure the main aspects of AI in Healthcare: Reliability - Continuous performance evaluation, Continuous usability test, Encryption and use of field-tested libraries, Semantic interoperability -, Transparency - AI passport, eXplainable AI, Data quality assessment, Bias Check -, Traceability - User management, Audit trail, Review of cases-, and Responsibility - Regulation check, Academic use only disclaimer, Clinicians double check -. A survey conducted among 216 Medical ICT professionals (medical doctors, ICT staff and complementary profiles) between March and June 2024 revealed these requirements were perceived positive by all profiles. Responders deemed explainable AI and data quality assessment essential for transparency; audit trail for traceability; and regulatory compliance and clinician double check for responsibility. Clinicians rated the following requirements more relevant (p < 0.05) than technicians: continuous performance assessment, usability testing, encryption, AI passport, retrospective case review, and academic use check. Additionally, users found the AI passport more relevant for transparency than decision-makers (p < 0.05). We trust that this proposal can serve as a starting point to endow the future AI systems in medical practice with requirements to ensure their ethical deployment.
[+]

Palabras clave

Ai actArtificial intelligenceArtificial-intelligenceMedical softwareMitigating strategiesModelPatient harmReliabilityResponsibilityRisk for patientsSoftware design requirementsSurveTraceabilityTransparency

Indicios de calidad

Impacto bibliométrico. Análisis de la aportación y canal de difusión

El trabajo ha sido publicado en la revista ARTIFICIAL INTELLIGENCE IN MEDICINE debido a la progresión y el buen impacto que ha alcanzado en los últimos años, según la agencia WoS (JCR), se ha convertido en una referencia en su campo. En el año de publicación del trabajo, 2025, se encontraba en la posición 7/48, consiguiendo con ello situarse como revista Q1 (Primer Cuartil), en la categoría Medical Informatics.

Independientemente del impacto esperado determinado por el canal de difusión, es importante destacar el impacto real observado de la propia aportación.

Según las diferentes agencias de indexación, el número de citas acumuladas por esta publicación hasta la fecha 2026-04-04:

  • WoS: 3
  • Scopus: 4
[+]

Impacto y visibilidad social

Desde la dimensión de Influencia o adopción social, y tomando como base las métricas asociadas a las menciones e interacciones proporcionadas por agencias especializadas en el cálculo de las denominadas “Métricas Alternativas o Sociales”, podemos destacar a fecha 2026-04-04:

  • El uso, desde el ámbito académico evidenciado por el indicador de la agencia Altmetric referido como agregaciones realizadas por el gestor bibliográfico personal Mendeley, nos da un total de: 63.
  • La utilización de esta aportación en marcadores, bifurcaciones de código, añadidos a listas de favoritos para una lectura recurrente, así como visualizaciones generales, indica que alguien está usando la publicación como base de su trabajo actual. Esto puede ser un indicador destacado de futuras citas más formales y académicas. Tal afirmación es avalada por el resultado del indicador “Capture” que arroja un total de: 63 (PlumX).

Con una intencionalidad más de divulgación y orientada a audiencias más generales podemos observar otras puntuaciones más globales como:

  • El Score total de Altmetric: 2.
  • El número de menciones en la red social X (antes Twitter): 2 (Altmetric).

Es fundamental presentar evidencias que respalden la plena alineación con los principios y directrices institucionales en torno a la Ciencia Abierta y la Conservación y Difusión del Patrimonio Intelectual. Un claro ejemplo de ello es:

  • El trabajo se ha enviado a una revista cuya política editorial permite la publicación en abierto Open Access.
[+]

Análisis de liderazgo de los autores institucionales

Este trabajo se ha realizado con colaboración internacional, concretamente con investigadores de: Brazil.

Existe un liderazgo significativo ya que algunos de los autores pertenecientes a la institución aparecen como primer o último firmante, se puede apreciar en el detalle: Primer Autor (García Gómez, Juan Miguel) .

el autor responsable de establecer las labores de correspondencia ha sido García Gómez, Juan Miguel.

[+]