No es la IA, es la ingenuidad
Que la encíclica "Magnifica Humanitas" se presentara con Christopher Olah, cofundador de Anthropic y uno de los investigadores más reconocidos en IA, dice más que mil columnas sobre lo que estamos enfrentando. La advertencia sobre los límites de esta industria ya no llega solo desde humanistas inquietos o reguladores rezagados. Llega desde la sala de máquinas, de quienes conocen desde dentro el poder que esta industria está concentrando. Cuando la advertencia viene de ahí, conviene tomarla en serio.
La inteligencia artificial no es el enemigo. La ingenuidad sí. El error está en creer que todavía podemos decidir si la usamos, como quien acepta o descarta una aplicación. Esa decisión ya no existe. La IA se está transformando en infraestructura de trabajo, educación, comunicación pública, seguridad, decisiones de guerra y de vida cotidiana. La pregunta no es si la usaremos. Lo que sigue abierto es quién define sus reglas, con qué propósito lo hace y sobre quiénes terminan cayendo sus costos y consecuencias.
La misma tecnología que puede ayudar a diagnosticar enfermedades, anticipar riesgos climáticos o facilitar trámites públicos puede, con la misma eficiencia, precarizar empleos, intensificar la vigilancia, manipular preferencias políticas, reemplazar vínculos por simulaciones afectivas y profundizar la exclusión de cada vez más población. La máquina no elige entre esos usos: no tiene cómo hacerlo. Pero quienes la diseñan, financian y despliegan, sí tienen intereses que definen el curso de estos desarrollos.
Dejar estos asuntos completamente en manos del mercado es una costosa imprudencia. No se trata de añorar al Estado ni de desconfiar por reflejo de lo privado, sino de admitir algo simple: hay bienes que no pueden organizarse solo por rentabilidad. La educación, la deliberación democrática, la salud, la dignidad humana y la paz son de esa clase. Cuando la política renuncia a custodiarlos, otros deciden. Y evidentemente no deciden por el bien común.
Aquí asoma el problema de fondo. En sociedades complejas, cada esfera funciona con su propia lógica: la economía persigue ganancia, el derecho ordena, la ciencia produce conocimiento, la política decide. Lo inquietante es que la racionalidad económica se ha vuelto tan poderosa que ahoga a las demás. Las grandes plataformas no nos venden un servicio y se retiran: administran nuestra atención, memoria y deseos. Hay quienes llaman a esto tecnofeudalismo, y aciertan en algo esencial: habitamos territorios digitales cuyas reglas no discutimos, de los que casi no podemos marcharnos y donde pagamos la renta en datos.
Pero el riesgo no termina ahí. Cuando esas infraestructuras se acoplan con autoritarismos, desinformación, vigilancia masiva y desprecio por los derechos humanos, aparece la sombra del tecnofascismo: no necesariamente con botas y uniformes, sino con perfiles predictivos, propaganda personalizada, enemigos fabricados y poblaciones tratadas como material administrable. Dominar ya no exige reunir a nadie; basta con aislarnos unos de otros. A cada cual se le ofrece una realidad a su medida, su propio enemigo, su propio miedo.
Y aquí ocurre algo que vale la pena nombrar: la economía de la atención y la fatiga moral son, en el fondo, el mismo fenómeno. El algoritmo que organiza nuestra soledad es el que organiza nuestra indiferencia. En lo privado tiene nombre clínico: ansiedad, dependencia, vacío de quien pasa el día conectado y termina más solo, de quien ya no encuentra sentido en su trabajo o en su comunidad. Pero no hablamos solo de exceso de pantalla. Hablamos de un ecosistema que fragmenta identidades, erosiona referencias comunes y convierte la desesperanza sobre el futuro en un estado de ánimo colectivo. Una sociedad sin horizonte no solo se deprime: se vuelve más manipulable.
En lo público, el mismo mecanismo nos vuelve espectadores. Vemos el genocidio en Gaza entre notificaciones. El horror aparece, se comenta, se archiva y lo reemplaza la tendencia siguiente. Una humanidad que ya no se espanta ante el sufrimiento extremo no ha perdido solo sensibilidad: está perdiendo capacidad de respuesta moral.
Por eso Chile no puede enfrentar la IA solo como oportunidad productiva o desafío regulatorio. Necesitamos gobernanza anticipatoria, instituciones fuertes y universidades públicas capaces de formar juicio crítico, capacidades científicas, imaginación ética y soberanía cognitiva. En países como el nuestro, la dependencia no se juega solo en minerales o energía. También se juega en datos, algoritmos, lenguajes, plataformas y modelos culturales que otros diseñan por nosotros.
A la universidad le toca aquí una tarea que nadie más hará. Enseñar a usar estas herramientas es lo mínimo; pronto lo hará cualquier tutorial, y probablemente mejor. Lo que está en juego es más profundo: qué significa formar a un profesional cuando la máquina ya redacta el informe, sugiere el diagnóstico y revisa el contrato.
Porque una profesión no es solo un repertorio de destrezas; es una forma de juicio y un modo de responder por él. Al médico no lo distingue del manual saber más, sino que él firma: responde ante otro por lo que decide. Eso es justamente lo que la inteligencia artificial no puede hacer. Produce una respuesta, pero no carga con sus consecuencias. El verdadero riesgo no es que las máquinas reemplacen a los profesionales, sino que los profesionales se vuelvan operadores dóciles de lo que la máquina propone, prestando su firma a decisiones que ya no comprenden.
Quizás la tarea de nuestro tiempo no sea demostrar que somos más inteligentes que las máquinas. Me parece que es algo más difícil: demostrar que todavía somos capaces de cuidar, deliberar, limitar el poder y conmovernos ante el dolor de otros. La pregunta no es si sobreviviremos a la inteligencia artificial. La pregunta es cómo sobreviviremos a aquello en que nos estamos convirtiendo mientras dejamos que otros decidan por nosotros.