Ocho tesis sobre ética e inteligencia artificial

Alvaro Ramis

Ultimos publicados:

• La Constitución de la codicia
• Ocho tesis sobre ética e inteligencia artificial
• Dussel y el pensar crítico en América Latina

La proliferación de relatos sobre las nuevas tecnologías inteligentes transita entre las ensoñaciones ingenuas y las distopías apocalípticas. Entre ambos escenarios es necesario situar un debate que no radica en la mera gestión técnica de estos procesos. Hablar de inteligencia artificial nos obliga a reconocer el creciente desface entre las capacidades morales y las capacidades tecnológicas del ser humano. Cerrar esa brecha es un desafío que no se puede abordar sin recordar la premonitoria advertencia de Gabriela Mistral: "La humanidad es todavía algo que hay que humanizar". Al parecer, aún no somos plenamente humanos y ya tenemos que lidiar con una forma de racionalidad poshumana, que nos supera y subsume. Propongo ocho tesis que nos ayuden a conversar sobre la humanización de la tecnología y la tecnologización de la humanidad.

1. La responsabilidad sobre la tecnología es y será siempre humana. Las nuevas tecnologías, desde la ingeniería genética hasta las formas más avanzadas de inteligencia artificial, nos permiten acceder a capacidades inéditas y exponenciales. Pero quienes debemos administrar esas oportunidades nos situamos en un punto equidistante entre la bestia y el ángel. Nuestra especie no se asemeja al buen salvaje de Rousseau ni tampoco el homo homini lupus de Hobbes. Somos seres frágiles, falibles, imprecisos e inciertos que hemos sido capaces de construir la tecnología que hoy nos hace tan inmensamente fuertes. Se desprende así una responsabilidad indelegable de cuidado, que es única y exclusivamente humana.

2. Máquinas y humanos debemos coevolucionar. Es evidente que la inteligencia artificial es más rápida que nuestro cerebro, aprende y puede procesar grandes cantidades de datos. Pero el aprendizaje de esas tecnologías inteligentes requiere del constante insumo de datos humanos para progresar. Tecnología y humanidad estamos condenados a una dependencia recíproca, que nos va a alterar y modificar profundamente.

3. La IA no puede (ni debe) fijar o alterar las valoraciones humanas. El enorme poder predictivo y analítico de la IA no reemplaza la forma cómo los humanos valoramos e interpretamos esa información, ya que ella no es creativa en el sentido en el que lo somos las personas. La IA no es capaz de preguntarse por qué suceden las cosas, que sentido tienen y cómo podemos cambiarlas. Su racionalidad es descriptiva e inferencial, pero no es ética, hermenéutica ni fruitiva. Mantener a la IA en ese ámbito acotado es parte de las responsabilidades de cuidado que la humanidad debe garantizar.

4. La IA debe colaborar a humanizar el trabajo, no eliminarlo. El impacto en el trabajo humano de la nueva tecnología es impredecible. Se sabe que su desarrollo obligará a la desaparición de algunos empleos mientras obligará a la creación de otros. De allí que el reto principal sea regular sus efectos. Los nuevos empleos que se generen pueden ser una gran oportunidad para superar la determinación del trabajo alienado, ya que deberían centrase en la gestión del conocimiento, más que en su mera provisión y administración. Pero si no se cuida su implantación pueden reproducir las formas de empeoramiento de las relaciones personales, la pérdida del sentido vital, la destrucción de la comunidad, la desigualdad social, el control por parte de élites industriales y militares y la precariedad laboral.

5. El consentimiento humano es indelegable. El poder predictivo de los algoritmos propios de la IA influye enormemente en las decisiones de la humanidad. Pero la responsabilidad final sobre esas decisiones no se puede delegar en la IA porque sólo la humanidad puede establecer fines últimos, de carácter moral. La IA puede facilitar los procesos que colaboren a establecer los procedimientos formales que ayuden a una deliberación cada vez más informada sobre esas finalidades. Pero el juicio valorativo al que se debe arribar no puede evadir el consentimiento humano explícito, al inicio y al final de todo ese camino.

6. La custodia final de los datos debe ser siempre una responsabilidad democrática. El poder de la IA radica en el acceso a una enorme y exponencial masa de datos. La protección de esa información no puede delegarse en manos de los gigantes tecnológicos privados ni de gobiernos autoritarios. Es necesario garantizar una gobernanza democrática efectiva, que permita regular la generación y control de esa información y la transparencia de los algoritmos con los que se procesen.

7. El tiempo humano debe prevalecer sobre el tiempo tecnológico. La IA es capaz de cambiar radicalmente nuestra percepción del tiempo. Su capacidad predictiva ofrece la sensación de que el presente, el aquí y ahora, se expande cada vez más. El futuro se acerca por la vía de los algoritmos predictivos. Y el pasado más remoto del universo se puede descifrar a partir de los maravillosos datos que nos entrega el Observatorio Paranal. Por eso sentimos que todo pasa en el presente, como si viviéramos en una máquina del tiempo. El pasado y el futuro vienen al presente. Pero el tiempo en este metaverso no es verdadero tiempo humano. Las opciones éticas de las personas se juegan en nuestra escala de tiempo biológico, y nuestras responsabilidades se dan en un margen de acción que está determinado por los límites de nuestra propia escala espacio-temporal.

8. Las tecnologías inteligentes nos pueden ayudar a tomar mejores decisiones, pero no debemos depender de ellas para decidir. Predecir lo probable no es lo mismo que acertar política o éticamente. La IA nos puede ayudar a tomar mejores decisiones públicas en áreas especialmente críticas, cómo la sostenibilidad ambiental, el control de pandemias o la gestión de las crisis humanitarias. Para eso son fundamentales los algoritmos predictivos, que están basados en datos del pasado para predecir el futuro. Pero en el tiempo estrictamente humano no todo se puede pronosticar, porque los algoritmos están basados en probabilidades y la capacidad valorativa humana siempre escapará a lo probable porque tiene tendencia a asumir riesgos y opciones improbables, porque la racionalidad ética no es siempre maximizadora del interés individual. Por eso el futuro no está escrito, y es impredecible, a pesar de las predicciones que pueda hacer la IA.