soft.report

Médicos tuvieron dificultades para detectar fallas de la IA en un estudio aleatorizado

En un estudio aleatorizado con 48 médicos publicado en npj Digital Medicine, la precisión diagnóstica cayó junto con la confiabilidad de una IA de auscultación cardíaca, y solo el 12,5% notó espontáneamente que el sistema fallaba.

Publicado el Fecha de la fuente: 13 de noviembre de 2026 Equipo soft.report

La supervisión humana suele presentarse como la principal salvaguarda frente a los errores de los sistemas de inteligencia artificial (IA) en medicina. Un estudio publicado el 13 de noviembre de 2026 en npj Digital Medicine puso a prueba esa premisa y obtuvo resultados preocupantes.

Qué se hizo

Investigadores alemanes y daneses realizaron un experimento aleatorizado con 48 médicos (38% en formación) en una tarea de auscultación cardíaca asistida por IA. A los participantes se les informó que el sistema tenía una exactitud del 96% en la validación (sensibilidad del 97% y especificidad del 89%). Cada uno clasificó 40 sonidos cardíacos grabados como normales o anormales, en cuatro bloques.

Sin que los médicos lo supieran, la confiabilidad de la IA disminuyó de forma progresiva: 90%, 60%, 50% y 0%. En el último bloque, el audio y la imagen se desincronizaron a propósito como señal adicional de una falla grave.

Los médicos fueron asignados al azar a dos grupos:

  • IA primero: veían la recomendación de la IA antes de escuchar el sonido y decidir.
  • IA después (cognitive forcing): hacían una clasificación independiente y luego veían la recomendación, con la opción de revisar su respuesta.

Qué encontraron

  • El desempeño diagnóstico con apoyo de la IA bajó del 81,5% en el primer bloque al 58,3% en el último.
  • En el bloque de alta confiabilidad, el desempeño combinado médico + IA quedó por debajo del de la propia IA (90%).
  • Con la IA fallando, los médicos corrigieron parte de los errores, pero el desempeño quedó por debajo del que lograban solos, sin la IA.
  • La estrategia de decidir antes de ver la IA no mejoró los resultados. En el último bloque, el grupo "IA primero" acertó el 64,6% y el grupo "IA después", el 52,1%.
  • La confianza de los médicos en su propio juicio cayó más rápido que la confianza en la IA, aun sin empeoramiento del desempeño independiente.
  • Al final, solo el 12,5% informó espontáneamente haber notado la caída de confiabilidad; incluso cuando se les preguntó directamente, solo el 37,5% dijo haberla percibido.

Limitaciones

El estudio se hizo en laboratorio, con una subtarea diagnóstica aislada, sin contacto con pacientes ni otra información clínica. La falla simulada fue rápida y continua, hasta 0% de aciertos, y los bloques siempre siguieron el mismo orden, lo que impide descartar efectos de orden. En la vida real, las fallas pueden ser más sutiles o intermitentes, y factores como el cansancio y la presión de tiempo probablemente dificulten aún más la supervisión. La muestra es pequeña.

Por qué importa en la práctica

Normativas como el AI Act europeo exigen supervisión humana de los sistemas de IA de alto riesgo. El estudio sugiere que poner a un médico "en el circuito" no garantiza que se detecten los errores. Los autores proponen que los servicios de salud definan objetivos claros para esa supervisión y establezcan procesos de monitoreo continuo del desempeño de los sistemas, en lugar de depender solo de la vigilancia individual.

Para quienes ya usan IA en el tamizaje de imágenes, como retinografía u OCT, la lección es clara: confiar en la exactitud anunciada no basta. Las auditorías periódicas y los indicadores de desempeño en uso real forman parte de la seguridad del paciente.

Lea el artículo en npj Digital Medicine.

Fuentes

  1. Challenges for human oversight in detecting system malfunctions in AI-assisted medical diagnostics — npj Digital Medicine, 13 de noviembre de 2026

Contenido informativo, escrito con ayuda de IA a partir de las fuentes citadas. No sustituye la lectura del estudio original ni la evaluación médica.

Informes oftalmológicos con su plantilla y estilo

La IA lee el examen, arma el borrador en su plantilla y usted revisa y firma. Prueba 15 días gratis, sin tarjeta.

Conocer soft.report