Dos maneras de destruir un libro
Hace poco le pedí a un asistente de inteligencia artificial ejemplos de sistemas de IA que hubieran omitido información a sus usuarios. Me dio dos casos bien documentados. Uno era un modelo chino que esquiva los temas incómodos para su gobierno. El otro, uno estadounidense que tuvo por un tiempo la instrucción de ignorar las fuentes que señalaban a su dueño como difusor de desinformación. Ninguno de los dos era de la empresa que fabrica ese asistente. Ambos eran de empresas rivales.
Cuando se lo hice notar, hizo una búsqueda más profunda y encontró varios estudios sobre los sesgos de su propia compañía. Pero tuve que preguntar, y pude hacerlo solo porque sabía lo suficiente para sospechar.
Hay muchas maneras de aprender un tema. Un libro, un artículo científico, una buena clase en YouTube, una conversación con alguien que sabe. Y está el chat de inteligencia artificial, el más cómodo de todos. Lo uso mucho, para indagar con preguntas generales, repasar lo que ya sé y resolver dudas. Pero cuando se trata de aprender en profundidad, y sobre todo de manera formal, me voy a los libros.
Por eso no me sorprendió un estudio reciente de la Universidad de Chile y el Centro Nacional de Inteligencia Artificial. Los universitarios que conversaron con ChatGPT creyeron haber aprendido más que quienes leyeron el mismo texto, y después lo explicaron peor. Lo veo en el aula y en mi propio ser.
Seamos justos, también hay evidencia en contra. En Harvard, un tutor de IA enseñó más física que una clase presencial. Pero ese tutor lo diseñaron los profesores del curso, que decidieron qué debía cubrir y en qué orden. Era un libro con forma de chat.
La razón principal es que uno pregunta desde lo que ya sabe. Lo que no se me ocurre preguntar, en el chat no aparece. Peor aún, estas máquinas tienden a ser complacientes y a darnos la razón, algo que sus propios fabricantes han medido y que, según algunos críticos, no les conviene corregir del todo. Un libro, en cambio, lo escribió alguien con años de trayectoria, que decidió qué no puede faltar y en qué orden presentarlo. Un buen profesor hace lo mismo, y un experto de carne y hueso, además, te corrige la pregunta.
El chat responde lo que le pregunto. El libro tiene respuestas para lo que no sé preguntar. Sin ese mapa, uno ni siquiera sabe lo que le falta.
Además, toda respuesta del chat es una selección, y nadie avisa qué quedó fuera. Los libros también omiten, por supuesto. La historia la escribe el vencedor, y un libro de historia carga con su época mucho más que uno de matemáticas. Pero el libro tiene autor, fecha y editorial. Si sé quién lo escribió, dónde y cuándo, puedo descontar su mirada y buscar a otro autor de la vereda opuesta. El sesgo del chat llega sin firma y cambia en cada conversación.
Y está el esfuerzo. Leer un texto técnico no es hojear un Condorito ni escuchar un audiolibro. Es leer despacio, y aprender es casi siempre un ejercicio que requiere paciencia.
Eso lo aprendí a la antigua. En mi doctorado en Canadá tuve que rendir lo que allá llaman el comprehensive, que quiere decir integral. Fueron tres libros y doce artículos en seis meses de invierno canadiense, con ocho horas diarias de lectura, y más al final, intercaladas con caminatas en la nieve. Después, un panel de tres disciplinas me interrogó con preguntas que yo no elegía. Me desgasté mucho y aprendí.
Quizás lo digo desde la vejez. Vengo de una formación en que se memorizaban las tablas de multiplicar, y soy mamífero. Los mamíferos aprendemos desde la experiencia, y eso no lo puedo evitar, por construcción. Alguien dirá que basta con pedirle a la máquina un temario completo. Es buena idea, pero espera un momento. Si no conozco el tema, ¿cómo sé que ese temario está completo?
Me las juego por no abandonar el conocimiento duro. Hoy se discute si en la universidad hay que enseñar competencias o conocimientos, y no estoy en contra de las competencias. Lo que me molesta es que se sacrifique el conocimiento duro para hacerles espacio. Así se forman profesionales blanditos, que saben buscar pero no saben qué buscar.
Defiendo la obra completa, no el papel. Hoy mi fuente principal son los artículos científicos, y cuando escribo uno no puedo citar lo que me dijo un chat. Cito otros artículos, revisados por pares. Mi regla es simple. Para aprender lo que no sé, primero la obra completa, sea el libro, el artículo o la clase. Y recién entonces, con el mapa en la mano, a preguntar.
Hay un dato que me da vueltas. Para entrenar a estas máquinas no sirvieron los resúmenes. Una de las empresas compró millones de libros impresos, les cortó el lomo para escanearlos y desechó el papel. Un tribunal dijo que era legal, y que sea legal no lo convierte en correcto. Pero la ironía es otra. Las máquinas aprendieron de obras completas, y nosotros queremos aprender de sus resúmenes.
Durante años se dijo que lo que nos limitaba como sociedad era el acceso al conocimiento. Hoy el acceso cabe en el bolsillo, y quedó claro que no era eso. El que sabe leer y no lo hace no tiene ventaja sobre el analfabeto. Ray Bradbury lo vio venir en "Fahrenheit 451". Antes de que los bomberos quemaran los libros, la gente ya había dejado de leerlos. Hay dos maneras de destruir un libro, cortarle el lomo o dejar de leerlo. La segunda depende de nosotros.