Piloto automático en la sala de radiología

Coescrita con Marcelo Andia, profesor de la Facultad de Medicina UC y director alterno iHEALTH

La aviación lleva más de una década enfrentando un problema que la medicina también está empezando a ver. En 2023, tras dos años revisando accidentes y políticas de aerolíneas, un grupo de trabajo de la Organización de Aviación Civil Internacional concluyó que muchos pilotos dependen demasiado de los sistemas automáticos y tienen deficiencias en vuelo manual. A fines de 2025, una encuesta a responsables de entrenamiento de más de 20 aerolíneas mostró que el 30% sabía poco sobre la destreza manual real de sus propios pilotos.

La respuesta no ha sido apagar el piloto automático, que contribuyó a hacer de la aviación un medio de transporte más seguro que nunca, sino entrenar y medir: más horas de vuelo manual, en simuladores y en vuelos reales bajo condiciones seguras. La industria no renunció a la tecnología, todavía está aprendiendo a convivir con ella.

Como ha ocurrido con muchos desarrollos tecnológicos, este problema podría llegar ahora a la medicina, y las imágenes médicas son una de las áreas más expuestas. Capacitar en inteligencia artificial (IA) a quienes interpretan radiografías, resonancias o mamografías es una tarea urgente, y también lo es cuidar que en ese proceso no se pierda la capacidad de leer una imagen. Sin entender cómo funcionan la tecnología y la IA, un profesional puede desconfiar de ella sin motivo o, en el otro extremo, seguir sus sugerencias sin cuestionarlas.

Ese segundo riesgo, el de confiar de más en el sistema, se conoce como sesgo de automatización. Un estudio publicado en Radiology en 2023 lo midió en la lectura de mamografías. Radiólogos con más de 15 años de experiencia clasificaban los casos con un 82% de precisión, pero cuando un sistema que creían de IA les sugería una categoría equivocada, esa cifra bajaba a 45,5%. La experiencia ayuda, pero no protege del todo, y lo mismo ocurre con la formación.

Hay un problema más silencioso. En 2025, un estudio en cuatro centros de Polonia, publicado en The Lancet Gastroenterology & Hepatology, siguió a 19 endoscopistas con décadas de experiencia. Después de incorporar un sistema de IA que marca lesiones precancerosas en tiempo real, su tasa de detección en los exámenes hechos sin IA bajó de 28,4% a 22,4%. Es un estudio observacional y no permite conclusiones definitivas. Sin embargo, este fenómeno de pérdida de habilidades de expertos, luego de utilizar herramientas de IA, ya tiene un nombre, y en inglés se le llama de-skilling. Este fenómeno abre preguntas más inquietantes: si bastaron sólo unos meses para que los expertos detectaran menos sin la herramienta, ¿qué pasará con aquellos profesionales que se formen desde el inicio con estas herramientas?

Ese último escenario es el que más debería preocuparnos, y la literatura ya le puso nombre: never-skilling, es decir, nunca llegar a adquirir la habilidad. Un médico experto que pierde parte de su destreza tiene algo que recuperar. Un nuevo profesional que nunca la desarrolló, no. Una persona sólo puede olvidar lo que alguna vez supo y, por lo mismo, siempre puede volver a recordarlo. Pero, ¿qué ocurre cuando nunca llegó a saberlo? Y serán justamente estos profesionales quienes en el futuro deberán evaluar la capacidad diagnóstica de los nuevos algoritmos de IA en salud e identificar cuándo el algoritmo se equivoque.

Nada de esto es un argumento contra la inteligencia artificial, que puede ayudar a priorizar casos urgentes y llevar capacidad diagnóstica a donde faltan especialistas. Todo lo contrario, es una invitación a implementarla bien. En algunos contextos, eso puede significar que el profesional interprete la imagen antes de ver lo que sugiere el sistema, o que haga lecturas periódicas sin herramientas de asistencia, tal como un piloto vuelve al simulador. Implementarla bien también exige una formación que enseñe cómo fallan estas herramientas, no solo cómo se usan.

Desde la ingeniería solemos medir el éxito por la precisión del modelo, y celebramos cuando supera el 90 o el 95%. Es un logro real. Pero deberíamos medir también qué le pasa, con los años, al profesional que lo usa. Un algoritmo excelente es un mal negocio si en 10 años nos deja profesionales que ya no saben reconocer cuándo se equivoca. La aviación aprendió esa lección después de los accidentes. En salud todavía estamos a tiempo de aprenderla antes.