¿Regular la herramienta o el resultado? El dilema para la inteligencia artificial

David Alvo Poblete

Ultimos publicados:

• ¿Sabemos decir no en un mundo sin fricción?
• Fin de los consultores por 1 millón: cada empleado puede tener su propio asesor experto
• La mentalidad antifrágil, verdadero motor de la revolución digital

Cuando hablamos de regular la inteligencia artificial nos enfrentamos a una pregunta fundamental: ¿Deberíamos regular la tecnología en sí misma o los resultados que queremos obtener como sociedad? Es decir, ¿prohibimos o controlamos cómo funciona internamente una IA, o mejor definimos qué tipo de decisiones esperamos que tome? Desde mi perspectiva, especialmente en países donde la capacidad de fiscalización no es suficiente, regular la tecnología directamente no tiene mucho sentido. Es más efectivo crear incentivos para que las empresas desarrollen soluciones que generen los resultados que buscamos.

Regular directamente las herramientas tecnológicas presenta varios desafíos. Primero, frena la innovación al imponer restricciones específicas que pueden volverse obsoletas rápidamente. Segundo, es extremadamente difícil de fiscalizar, especialmente en países con recursos limitados. Las herramientas evolucionan mucho más rápido que las regulaciones.

Un ejemplo claro lo vemos en Transport Canada, que comparó dos enfoques para regular sistemas de seguridad en vehículos. El primer enfoque (que podríamos llamar "regulación detallada") especificaba exactamente cómo debía funcionar la tecnología: "Debe tener capacidad mínima de 50.000 variantes de código" y otros detalles técnicos específicos. El segundo enfoque simplemente definía el resultado deseado: "Debe tener probabilidad extremadamente baja de que el mismo código desarme dos vehículos". El segundo enfoque da flexibilidad a las empresas para innovar y encontrar la mejor solución técnica, mientras cumple el objetivo de seguridad.

El ejemplo más ilustrativo es la herramienta de inteligencia artificial que Amazon desarrolló para contratación en 2018. El sistema, entrenado con datos históricos de una década, aprendió los sesgos existentes y comenzó a discriminar contra mujeres. Penalizaba currículos que incluían la palabra "women's" y devaluaba graduadas de universidades femeninas. ¿Qué pasó? Amazon no necesitó que un regulador le dijera que parara. Al final, la herramienta no cumplía con lo que se quería lograr: encontrar el mejor talento de manera equitativa. El resultado no deseado llevó naturalmente al abandono del proyecto. El mercado mismo se autoreguló porque la herramienta no generaba el valor esperado.

La regulación basada en incentivos ha demostrado ser más efectiva en otros campos. En política ambiental, por ejemplo, los incentivos de mercado crean sistemas descentralizados que recompensan a quienes descubren nuevas formas de mejorar la salud ambiental, mientras que los mandatos regulatorios pueden crear incentivos perversos. Como dice Thomas Sowell: "Necesitamos evaluar las políticas en términos de los incentivos que crean en lugar de las esperanzas que las inspiraron". Si definimos claramente qué tipo de sociedad queremos crear, las herramientas se deberían adaptar a eso naturalmente.

Por supuesto, esto no es algo fácil de resolver. Regular por incentivos puede causar problemas con consecuencias no deseadas que no anticipamos. Requiere definir muy claramente qué resultados queremos como sociedad, y eso es un debate complejo que va más allá de lo técnico. En América Latina, donde las capacidades de fiscalización son particularmente limitadas, este enfoque cobra aún más relevancia. Es más realista crear marcos que incentiven los comportamientos deseados que intentar controlar cada detalle técnico.

No pretendo tener todas las respuestas. Este es un tema complejo que requiere el aporte de múltiples perspectivas. Pero creo que vale la pena explorar alternativas que fomenten la innovación mientras protegen nuestros valores como sociedad. ¿Cómo creen que se debería hacer? ¿Qué experiencias han tenido regulando tecnología en sus organizaciones? Me interesa conocer sus perspectivas sobre este dilema que todos enfrentamos.