El futuro de la inteligencia artificial no puede ser planificado de manera centralizada

Nadie puede predecir con exactitud adónde nos llevará la inteligencia artificial o qué podemos aprender de ella, por lo que intentarlo es, en el mejor de los casos, inútil.

La parte más interesante del debate actual sobre la Inteligencia Artificial es la manera en que estamos recapitulando dos de los más grandes errores del siglo XX. Estos son el engaño del cálculo socialista y lo que podríamos llamar la ilusión del nuevo hombre soviético.

La alquimia de la Inteligencia Artificial y el problema del conocimiento

Un ejemplo claro de la falacia del cálculo socialista proviene en su mayoría de Ali Rahimi, quien sostiene que es la alquimia, no la ciencia, la que está construyendo la Inteligencia Artificial (IA). Según Rahimi, las máquinas sólo se encargan de tareas simples y sin mayores habilidades, procesan gran cantidad de datos para ver qué encaja. Como él dice, “me gustaría vivir en una sociedad cuyos sistemas se construyan sobre conocimientos verificables, rigurosos y exhaustivos, y no sobre la alquimia”.

Esto suena bastante razonable en algunos contextos; después de todo, siempre he preferido que las plantas nucleares sean construidas por aquellos que saben lo que están haciendo. Sin embargo, es una crítica menos importante cuando se trata de sociedades y economías; como señalan Hayek y Mises, algunas cosas son demasiado complejas para que podamos comprenderlas del todo. 

“La Inteligencia Artificial va a cambiar el mundo” dicen, “no sabemos cómo, ¡por lo tanto debemos planificar! ¡Dirigir! ¡Canaliza esas fuerzas!”

De hecho, en economías desarrolladas utilizamos procesadores de datos sin comprender los detalles en el proceso. No sabemos cuántas manzanas se comerán el próximo año, por lo que dejamos a los procesos del mercado encargarse de ello. Como insistió Hayek, este es el único motor de computación capaz de hacer el procesamiento necesario de datos para darnos información útil.

También vemos este mismo problema en varios editoriales bien intencionadas. “La Inteligencia Artificial va a cambiar el mundo” dicen, “no sabemos cómo, ¡por lo tanto debemos planificar! ¡Dirigir! ¡Canaliza esas fuerzas!” Pero si no sabemos cómo una tecnología va a cambiar el mundo, la planificación simplemente no es factible.

Como The Guardian pregunta acertadamente, ¿quién podría haber sabido que el cambio del aceite de ballena al queros<�n en el siglo XIX llevaría finalmente al desarrollo de los plásticos? ¿Y qué plan iniciado en 1880 nos habría dado un mundo con o sin plásticos? Ninguno, claro, porque nadie sabía siquiera de la posibilidad. Lo mismo ocurre cuando intentamos averiguar qué efectos tendrá la Inteligencia Artificial en las próximas décadas; en ambos casos, la ignorancia total no es una buena base para iniciar un plan.

El Homo Sovieticus no existe

Otro error es lo que yo llamaría el problema del Hombre Nuevo Soviético. Esto describe la idea de que si bien las alegrías del socialismo no se adaptaban demasiado bien a seres humanos de verdad, el gobierno soviético eventualmente crearía un tipo de hombre completamente nuevo quien amaría en su totalidad el socialismo. Por supuesto, el homo sovieticus nunca se materializó.

Y esto nos lleva a otro argumento común sobre la Inteligencia Artificial: Que ésta no debe incorporar los rasgos negativos de los verdaderos seres humanos.

El error del Hombre Nuevo Soviético sería tratar de diseñar IA para un mundo libre de humanos con todo su comportamiento desordenado e ilógico.

Por ejemplo, sabemos que muchos humanos son racistas, misóginos, codiciosos y cortoplacistas. La Inteligencia Artificial, también, puede recoger esas debilidades y definitivamente puede mostrar lo que podríamos llamar “prejuicio”.

Insistir en que no lo harán es perder por completo el tema central. El único uso posible de las IA es proporcionarnos conocimientos sobre el mundo en el que vivimos, conocimientos que no podemos derivar únicamente de la lógica y lo que  debe ser, sino que se deben obtener a través del procesamiento de datos verídicos.

Después de todo, el mundo está lleno de seres humanos profundamente prejuiciosos. Una IA que no tuviera en cuenta eso tendría poco valor para describir nuestro mundo. Es por eso que no solo deberíamos querer, sino que debemos insistir absolutamente en que las IA incorporen nuestros defectos. 

El error del Hombre Nuevo Soviético sería tratar de diseñar IA para un mundo libre de humanos con todo su comportamiento desordenado e ilógico. Por supuesto, también es un argumento en contra de las diversas alternativas del capitalismo de libre mercado. Claro, si los humanos no respondieron a los incentivos, una igualdad de resultados rígida podría funcionar bien. En el mundo real, los incentivos son importantes y cualquier sistema que no permita un grado de desigualdad derivado de la aplicación o el esfuerzo no va a funcionar. El defecto de la IA es sutilmente diferente pero se basa en el mismo error básico.

Lo que todo esto significa es que podemos entrenar a las Inteligencias Artificiales a base de datos y ver qué sucede, en lugar de tratar de comprender las complejas interacciones, algo que no podemos hacer de todas maneras. Si el siglo pasado nos ha enseñado algo, es evitar esos dos errores claves: tratar de planificar sistemas complejos y asumir un mundo desprovisto de nosotros mismos, los humanos, y todos nuestros desordenados hábitos. A los pioneros de la IA les haría bien considerar y recordar estas lecciones.

*Este artículo fue originalmente publicado en CapX