Contenido
Una herramienta integrada en el trabajo diario
La inteligencia artificial sanitaria no siempre llega como una aplicación nueva. Puede encontrarse dentro de la historia clínica electrónica, en sistemas de triaje o en herramientas que organizan estudios y resultados. Una alerta puede modificar la prioridad de atención o destacar un hallazgo que influye en la percepción del profesional. Aunque no tome decisiones de forma autónoma, participa en el proceso clínico al ordenar qué información resulta visible y cuándo aparece.
Por eso importa distinguir entre mostrar datos, interpretarlos y proponer una conducta. La importancia de un sistema no depende solamente de que utilice aprendizaje automático, sino de su finalidad real, de cómo se integra en el trabajo y de las consecuencias posibles de un error.
Errores, confianza y fatiga de alertas
Una respuesta automatizada presentada con claridad puede parecer más fiable de lo que realmente es. En medicina esto produce un riesgo de confianza excesiva: la recomendación condiciona el criterio incluso sin sustituirlo formalmente. El efecto contrario también existe. Si una aplicación genera demasiadas alertas irrelevantes, los equipos pueden comenzar a ignorarlas y pasar por alto una señal importante.
Los errores también dependen del entorno. Una aplicación entrenada con datos de un hospital puede no representar adecuadamente pacientes de otra región o de edades diferentes. A ello se suma el cambio de patrones epidemiológicos o de procedimientos, que puede modificar el rendimiento de un modelo con el paso del tiempo. La respuesta responsable es supervisar esos resultados, no asumir que un algoritmo validado una vez funciona indefinidamente.
Validación en el entorno real
La validación debe corresponder a la población y al uso previstos. En pediatría no resulta prudente extrapolar automáticamente el rendimiento de un modelo entrenado con adultos a neonatos, lactantes o adolescentes. Tampoco basta con una puntuación general si el sistema funciona peor en grupos concretos. Es necesario conocer qué decisiones pretende apoyar, cómo se midieron sus errores y qué límites se identificaron.
Una herramienta puede ser técnicamente precisa y perjudicar el proceso asistencial si interrumpe continuamente la consulta, retrasa revisiones o fomenta automatismos. Evaluarla supone combinar seguridad, utilidad, supervisión y condiciones reales de trabajo. Estas preguntas ayudan a entender por qué la incorporación de IA es una decisión organizativa, además de técnica.
Las diferentes capas de regulación
En la Unión Europea pueden concurrir varias normas sobre una misma herramienta. El AI Act establece requisitos en función de su clasificación y de los roles de quienes la desarrollan o utilizan; su aplicación es progresiva. Si el software cumple una finalidad médica prevista en la normativa pertinente, también puede intervenir el régimen de productos sanitarios MDR o IVDR. La calificación no depende únicamente de que una aplicación se use en un hospital, sino de su finalidad, características y supuesto jurídico concreto.
El RGPD regula el tratamiento de datos personales, incluidos los datos de salud, y exige examinar finalidades, bases jurídicas, medidas de protección y derechos de las personas. El Espacio Europeo de Datos Sanitarios, establecido por el Reglamento (UE) 2025/327, articula reglas sobre acceso y utilización de datos electrónicos sanitarios y tiene aplicación escalonada. Estos marcos no se sustituyen entre sí: responden a problemas distintos y pueden operar conjuntamente bajo condiciones específicas.
Trazabilidad y responsabilidades
Cuando una herramienta participa en decisiones relevantes, debería ser posible reconstruir qué versión se utilizó, qué datos ingresaron, qué resultado produjo y qué revisión efectuó el profesional. Sin esa información resulta difícil investigar un error, identificar causas o defender una decisión. Los registros deben conservarse con controles adecuados para no exponer datos sensibles, y su utilidad dependerá de cómo fueron generados.
La supervisión humana efectiva requiere capacidad real de comprender, aceptar, cuestionar o descartar una recomendación. También se necesitan responsabilidades institucionales sobre selección, despliegue, vigilancia y comunicación de incidencias. Que el sistema sea suministrado por un tercero no exime de analizar qué obligaciones corresponden a cada interviniente.
Un supuesto para conectar los conceptos
En una guardia pediátrica se incorpora una herramienta que clasifica pacientes según un riesgo calculado automáticamente. Se utiliza con buenos resultados generales, pero no se ha comprobado suficientemente su rendimiento en lactantes. La pantalla muestra una recomendación de prioridad baja. El profesional observa signos clínicos que justifican reevaluación y decide no seguirla.
La investigación posterior debería distinguir si el modelo era adecuado para esa población, qué información recibió, qué versión estaba activa, cómo se comunicaron sus límites y si existía una forma real de cuestionar la salida. La situación muestra cómo los criterios clínicos, técnicos, organizativos y jurídicos se relacionan.
Fuentes y lecturas
Desarrollo didáctico basado en el manuscrito Inteligencia Artificial y Nuevas Tecnologías en Pediatría, de Mariano Enrique Torres Ponce y María Noel Arana. La mención identifica el documento de base; no supone atribuirle publicación en revista o DOI.