Las advertencias que salud y finanzas lanzan sobre la inteligencia artificial

   Desde diagnósticos erróneos hasta decisiones financieras en cadena, dos sectores críticos coinciden en una idea central: el gran reto de la inteligencia artificial ya no es adoptarla, sino gobernarla.

   La IA ha pasado en pocos años de ser una herramienta experimental a convertirse en infraestructura invisible en hospitales, bancos, administraciones y empresas. A medida que su uso se normaliza, aumentan también las advertencias sobre riesgos sistémicos. Dos alertas recientes lo ilustran con claridad: una del ECRI Institute en el ámbito sanitario y otra del Banco de España en el financiero. Ambas coinciden en que el principal peligro no es el fallo técnico aislado, sino la confianza excesiva en sistemas cuyo funcionamiento profundo aún no se comprende del todo.

   El ECRI, referente internacional en seguridad del paciente, situó el uso incorrecto de IA entre los mayores riesgos tecnológicos para la salud en 2026. Por su parte, el Banco de España alertó de vulnerabilidades estructurales derivadas del despliegue masivo de algoritmos en la banca, desde la dependencia de proveedores externos hasta posibles reacciones en cadena en los mercados. Analizadas en conjunto, las advertencias muestran que la IA no es solo innovación: es también una nueva capa de riesgo transversal.

Medicina algorítmica: precisión sin comprensión

   En salud, la IA generativa ya organiza historiales clínicos y asiste diagnósticos por imagen. Su capacidad para procesar grandes volúmenes de datos la convierte en una aliada poderosa. Sin embargo, el ECRI subraya una paradoja: muchos sistemas que parecen expertos no están diseñados para razonar clínicamente. Los modelos de lenguaje generan respuestas basadas en probabilidades lingüísticas, no en comprensión médica.

   Ese matiz técnico tiene consecuencias reales. Se han documentado recomendaciones incorrectas —como instrucciones erróneas en procedimientos quirúrgicos—, diagnósticos equivocados o datos anatómicos inexistentes. Estos fallos, conocidos como "alucinaciones", son especialmente peligrosos porque se presentan con tono seguro y profesional. Para un paciente sin formación médica, una respuesta bien redactada puede parecer tan fiable como la de un especialista.

   El problema no es que la IA se equivoque —los humanos también lo hacen—, sino cómo lo hace: con una seguridad lingüística que puede inducir a confiar sin verificar. El riesgo aumenta cuando estas herramientas se utilizan fuera de entornos clínicos supervisados, algo cada vez más habitual.

   Además, persisten los sesgos en los datos de entrenamiento. Si un sistema aprende principalmente de ciertos grupos poblacionales, su precisión disminuye en otros. En medicina, eso no es solo un problema técnico, sino una cuestión de equidad.

Finanzas algorítmicas: eficiencia y fragilidad

   En el sistema financiero, la preocupación no se centra en errores individuales, sino en impactos a escala de mercado. El Banco de España advierte que la adopción masiva de IA puede generar vulnerabilidades si no se acompaña de gobernanza sólida, estándares de calidad y control ético.

   Una inquietud clave es la dependencia tecnológica: buena parte de los proveedores de IA utilizados por bancos europeos se sitúan fuera de la Unión Europea. Esto implica que procesos críticos podrían apoyarse en infraestructuras externas, con implicaciones estratégicas y operativas.

   Además, si múltiples entidades emplean algoritmos similares desarrollados por los mismos proveedores, pueden surgir comportamientos sincronizados imprevistos. El fenómeno, descrito como "comportamiento de rebaño" algorítmico, se produce cuando modelos que analizan datos parecidos reaccionan de forma homogénea ante una señal. En mercados donde la velocidad es decisiva, esa homogeneización puede amplificar movimientos y generar volatilidad sin base económica real.

   Paradójicamente, el riesgo no surge de un algoritmo defectuoso, sino de varios funcionando correctamente al mismo tiempo. La eficiencia automatizada puede aumentar la fragilidad colectiva.

La paradoja de la confianza

   Tanto en salud como en finanzas aparece la misma tensión: cuanto más confiables parecen los sistemas, mayor es la tentación de delegar decisiones en ellos. Y cuanto mayor es la delegación, mayor es el impacto potencial de un error.

   En medicina, afecta diagnósticos y recomendaciones clínicas. En banca, decisiones de inversión, crédito o gestión de riesgos. En ambos casos, la automatización amplifica la escala de consecuencias.

   Por ello, los especialistas insisten en la "supervisión humana significativa": no frenar la innovación, sino evitar que la confianza tecnológica sustituya al juicio experto.

Gobernar sin frenar

   Las recomendaciones convergen en varios principios: supervisión activa, auditorías periódicas para evaluar precisión y sesgos, mayor transparencia sobre el funcionamiento de los algoritmos, formación de los profesionales que los emplean y control de la dependencia de proveedores.

   Estas medidas no eliminan los riesgos, pero reducen la probabilidad de que errores puntuales se conviertan en fallos estructurales.

   La inteligencia artificial aprende más rápido que las leyes que intentan regularla. Las advertencias del ECRI y del Banco de España no son alarmistas, sino preventivas. Reconocen el enorme potencial de la IA para mejorar diagnósticos y optimizar procesos financieros, pero recuerdan que confiar ciegamente en sistemas complejos y opacos puede generar riesgos difíciles de anticipar.

   La lección es clara: la IA no sustituye la responsabilidad humana; la amplifica. El mayor peligro no es que la tecnología se equivoque, sino que las personas olviden que puede hacerlo.