Autocanibalismo de la IA y sociedad
Es sabido que la gran mayoría de las inteligencias artificiales (IA) funcionan con ese antiguo axioma comercial que decía "el cliente siempre tiene la razón". Dicho de otra forma, esa tradicional formulación "pregúntale a tal persona que todo lo sabe y si no lo sabe, lo inventa". Las IAs están programadas para responder "al cliente" y si no tienen los datos, los inventan. A esto se le llama "alucinar" y hay ejemplos por montón. Paradójicamente, este fenómeno hace que debamos tener un pensamiento crítico o analítico mucho más agudo que antes para verificar la información que la IA nos entrega. Puede que nos simplifique el trabajo, por una parte, pero lo complejiza, por otra.
Pero el problema no termina ahí, sino que ahí comienza, porque este fenómeno constituye la mayor amenaza estructural para la IA, dado que para responder una pregunta recoge la información de la web sin distinguir si la información es válida o errónea. Si esa respuesta vuelve a la web, la distorsión de los datos aumenta exponencialmente, porque con esas respuestas falsas la IA se va entrenando para mal, e incluso, "para peor", puesto que cada vez hay más datos sintéticos (noticias, artículos, fotos, etc. generados por IA) y menos datos humanos de alta calidad.
Cuando la IA se alimenta con datos distorsionados por varias generaciones termina produciendo textos incoherentes y, por tanto, inservibles. Si esto se aplica a la programación de códigos, el resultado es catastrófico, porque muchos códigos erróneos generados por IA se suben a la web, produciendo, a la vez, otros códigos con errores aún mayores que los anteriores. Así la IA correspondiente se autofagocita hasta que se produce lo que se llama el colapso del modelo. Sus resultados dejaron de ser confiables.
En cuanto a la(s) sociedad(es), no es mi intención entrar a perfilar las consecuencias sociales de esta situación, sino presentar otra perspectiva. Me parece sorprendente como la IA ha logrado replicar fielmente el elemento quizá más importante en el quiebre de una sociedad: la mentira, la falsedad. La mentira es tan grave porque termina destruyendo toda confianza, y sin confianza una sociedad, entendida como un conjunto de personas que se relacionan e interactúan en torno al bienestar para todos sus integrantes, queda hecha trizas. Se atomiza, cada uno se rasca con sus propias uñas (o se ve obligado a hacerlo) y termina imperando la ley de la selva donde triunfa el más fuerte. Un escenario así es el mejor caldo de cultivo para la corrupción, máxima expresión de la desintegración social. En este punto la sociedad se ha autocanibalizado.
El antídoto está a la mano: tomar conciencia de que el individualismo va en contra de nuestra naturaleza más profunda que es social y, en consecuencia, desterrarlo e ir recuperando y tejiendo espacios de encuentro, que nos ayudan a ir creciendo en humanidad.