¿Por qué los hombres luchan por su esclavitud como si se tratase de su libertad?

Spinoza

Las elecciones generales en Dinamarca del pasado 1 de noviembre han suscitado un inusual interés en los medios de comunicación gracias a un particular partido político. En mayo de este año los daneses reciban la noticia del lanzamiento del Partido Sintético.  La cara visible del partido es Leader Lars, un asistente conversacional (chatbot) creado mediante técnicas de Procesamiento de Lenguaje Natural (PLN) e Inteligencia Artificial (IA). Leader Lars ha sido entrenado con los programas electorales de partidos minoritarios en Dinamarca desde 1970, de manera que sus respuestas sintetizan las propuestas recogidas por estos partidos en los últimos 50 años. Aquellos que quieran saber las opiniones de Leader Lars pueden hacerlo a través de la popular plataforma social Discord. Entre los objetivos del partido es atraer al 20 % de los daneses que no votan en las elecciones.

Detrás del desarrollo de esta IA se encuentra el colectivo artístico Computers Lars, y la organización sin ánimo de lucro Life with Artificial. El objetivo de esta organización es concienciar sobre los dilemas y riesgos que plantean la aparición de tecnologías cada vez más humanizadas, así como estimular debates sobre el uso y el potencial de la IA. El Partido Sintético es, por el momento, el proyecto con el han conseguido más eco internacional. En la misma línea que recuerda a los malogrados Homo Velanime, este  colectivo se mueve entre el arte y el activismo transitando por los complicados espacios de la ironía.  El Partido Sintético  es una sofisticada broma que pretende poner en evidencia las contradicciones humanas y sociales. Como ellos mismos proclaman están «liderando el camino hacia una kakistocracia del futuro». Su propuesta es brillante si lo analizamos desde un punto de vista etimológico ya que pretende convertir a ese 20 % de idiotas que no votan, entendiendo el término según la interpretación de los antiguos griegos de personas sin interés por los asuntos públicos, en un 20 % de idiotas modernos que terminan regalando su voto a una IA.

El Partido Sintético no se presentaba en los pasados comicios ni tampoco queda claro hasta dónde van a estirar esta parodia. Por el momento han conseguido impacto mediático y han reavivado el debate del uso de la IA como parte del proceso democrático. Este área se conoce como gobernanza algorítmica. Plantea una visión alternativa de la gobernanza en la cual los algoritmos implementan una nueva forma de tecnocracia donde las decisiones son parcial o totalmente tomadas por las máquinas. Existen serias dudas si este tipo de gobernanza es coherente con la democracia.

Limitaciones de la gobernanza algorítmica

En su versión más radical la gobernanza algorítmica postula un nuevo orden social regulado por la toma de decisiones algorítmica. Esta forma alternativa de gobierno parte de la premisa de que los algoritmos son capaces de agregar las voluntades populares, y tomar decisiones mejores y más justas que los sistemas de gobernanza actuales. Este planteamiento ha sido duramente criticado por diversos intelectuales. Desde mi punto vista, las críticas más razonadas y razonables han provenido de Daniel Innerarity, que es Catedrático de Filosofía Política y Social, y director de la cátedra de Inteligencia Artificial y Democracia enmarcada dentro la Estrategia Nacional de Inteligencia Artificial (ENIA). Innerarity plantea sus consideraciones a la gobernanza algorítmica en cuatro aspectos

En primer lugar, es bien conocido que existen algoritmos que son excelentes para optimizar procesos que se puedan describir cuantitativamente. Estos algoritmos precisan establecer métricas que definan tanto la calidad como los costes del proceso incluyendo las posibles externalidades. El resultado que obtienen es la mejor combinación de parámetros que den las mejores métricas de calidad satisfaciendo las restricciones impuestas por los costes. En este contexto, se puede asegurar que el algoritmo va a tomar la mejor decisión, entendida como aquella que maximiza la calidad minimizando los costes. Ahora bien, el conjunto de métricas elegido nunca es neutral. Dependiendo del posicionamiento ideológico se obtendrán distintos conjuntos y definiciones que determinan los distintos objetivos a optimizar. Innerarity apunta que estos objetivos deben ser establecidos políticamente ya que dependen de las ideas que se tenga sobre el bien y sobre la justicia. Una primera conclusión es que los algoritmos son instrumentos que pueden ayudar a simplificar y mejorar el nivel operacional de la gobernanza siempre que los objetivos y los criterios de cumplimento sean decididos políticamente.  

En una segunda aproximación, se podría pensar en extraer automáticamente los criterios para configurar estos algoritmos. Al igual que las plataformas sociales que infieren las preferencias del usuario a partir de sus interacciones para personalizar los mejores contenidos,  se agregarían las voluntades de los ciudadanos analizando su huella digital. Esto llevaría a una aproximación más participativa en las que los algoritmos extraen nuestras preferencias a partir de nuestro comportamiento individual, y las consolidan a nivel global. Innerarity señala en este punto que las preferencias inmediatas extraídas por los algoritmos no tienen porque coincidir con las voluntades políticas. Es más, mis propias decisiones individuales y cotidianas pueden diferir de mis preferencias reflexivas. Yo puedo me puedo desplazar diariamente en un vehículo basado en combustibles fósiles mientras que mi posición frente al cambio climático puede estar alineada con la reducción del uso de los mismos. Estos dos planos distintos de agregación ya fueron distinguidos por Rousseau cuando hablaba de  la voluntad de todos frente a la voluntad general. La voluntad de todos no es más que la suma de todos esos intereses particulares de los individuos que buscan el mismo objetivo. Mientras que la voluntad general son intereses particulares que se unen en un pacto cuyo objetivo es el bien común. Esta segunda presupone una actitud deliberativa entre los participantes, mientras que la primera coincide con la mera agregación de intereses previos. Según Rousseau, es la voluntad de todos la que conforma el verdadero contrato social.

Esta distinción nos lleva a un tercer punto que señala Innerarity. La democracia va más allá de la agregación de voluntades. La votación no es más que la culminación de un proceso en el que el debate y la confrontación de ideas es fundamental. Fruto de este diálogo pueden cambiar las preferencias individuales, o matizar las posiciones. El resultado puede incluir aspectos que no estaban contemplados a priori por ninguno de los participantes. La negociación se distingue de la agregación en que es un proceso dinámico donde el otro puede moldear tu punto de vista o pueden emerger nuevas ideas. En democracia es importante el resultado pero más importante el procedimiento. No obstante, si tan importante es el proceso deliberativo, podríamos proponer que estuviera soportado por una IA, bien incorporándose como un participante más, bien liderando la discusión tal como propone el Partido Sintético.

El cuarto punto está relacionado con cómo se construyen la IA. Los algoritmos parten de la premisa que el futuro es continuista del pasado. Estas IA se construyen a partir de grandes cantidades de datos existentes. La IA toma estos datos como ejemplos de posibles respuestas a determinados contextos. De esta manera, cuando se le lanza una nueva pregunta a la IA elabora su respuesta como una síntesis de las respuestas que ha aprendido a preguntas formuladas en contextos similares. Bajo esta premisa la IA podría dar una respuesta coherente sobre, por ejemplo, su posicionamiento sobre la OTAN o la pertenencia a la EU, ya que probablemente sean temas que se puedan encontrar en los programas electorales que se han empleado para entrenarla. En cambio, la respuesta que pueda dar sobre la guerra de Ucrania podría ser cualquier cosa. Peor aún, posiblemente sea muy parecida a la respuesta si se le pregunta por la batalla del abismo de Helm del Señor de los Anillos, o sobre el inexistente conflicto suizo-malayo. Todas las IA procesan símbolos y relaciones entre los mismos. Ahora bien, es importante resaltar que estas IA sólo almacenan información estadística, no contienen ninguna representación sobre el significado de las palabras o sobre el mundo al que hacen referencia esas palabras. La IA se basa en las relaciones entre los significantes (los términos), pero no existe ninguna relación con el significado, lo que limita su capacidad para relacionar su discurso con la realidad. Mientras que en la generación de una obra de ficción esto va a quedar camuflado por el uso gramaticalmente correcto del lenguaje, en un posicionamiento político que tiene que vincularse con la realidad, la IA queda restringido a dar respuestas coherentes sobre lo que ya conoce.

En resumidas cuentas, la crítica que hacen Innerarity, y otros autores, se centran en señalar que la gobernanza algorítmica, entendida en su interpretación más radical, es incompatible con la propia democracia ya que supondría un bloqueo a la posibilidad de transformar y cambiar la sociedad. Los algoritmos, actualmente, tienen serias limitaciones para operar con información que desconocen.  No es que no puedan gestionar la incertidumbre. Solo tenemos que pensar en los robots que están explorando la inhóspita superficie de Marte. Estos robots operan en un entorno en el que tienen que tomar decisiones constantemente con un alto grado de incertidumbre. La limitación la encontramos en que operan en marcos conceptuales cerrados que han sido delimitados por sus diseñadores. Salir de ese marco implica volver a reconfigurar el algoritmo para que pueda funcionar en otro entorno. Las decisiones que se toman al definir el marco en el que opera el algoritmo son las decisiones claves en política.  Pensemos en una economía algorítmica equivalente donde una IA decide cómo tiene que ser el reparto más justo de la riqueza. El diseño de este sistema se encuentra con los mismos problemas que la gobernanza algorítmica radical ¿quién decide qué es un reparto justo?.

En el caso particular de las IA conversacionales, el gran defecto que tienen es que no disponen de una representación simbólica del mundo. Sus razonamientos se basan exclusivamente en lo que han aprendido de las colocaciones de palabras en diferentes contextos gramaticales. Al no incorporar  ninguna conexión con lo que estas palabras representan, estas IA se han denominado «loros estocásticos». Generan textos entretejiendo secuencias de palabras a partir de información probabilística sin ninguna referencia al significado de esas palabras. Cualquier razonamiento que emitan está sujeto a las leyes del azar, lo cual no es óbice para que puedan generar razonamientos plausibles basados en los textos con los que hayan sido entrenados.

Esta crítica previene sobre el abuso de la IA en la gobernanza algorítmica. En ningún caso, desaconseja su uso. Al contrario, limitando el campo de actuación a uno operativo expande las capacidades de la administración pública para una gestión más eficiente. El algoritmo no entiende si un subsidio es conveniente o no. Ahora partiendo de una determinada voluntad política se puede configurar para que calcule el subsidio óptimo para un determinado contexto. Otro ejemplo de buen uso podría ser utilizar la IA como herramientas de apoyo a las plataformas de participación ciudadana como DecideMadrid o  Future EU. La IA puede hacer un gran trabajo priorizando y clasificando las aportaciones de los ciudadanos, agrupando propuestas que sean similares, identificando comentarios irrelevantes o inapropiados, o sintetizando nuevas aportaciones a partir de comentarios individuales. Al final, una aplicación responsable de la gobernanza algorítmica no debería sustraer al ciudadano del proceso democrático.

Populismo algorítmico

Hay una debilidad en el análisis realizado más arriba.  Se parte de la hipótesis de que esta «algocracia», como la llama Innerarity, se sustenta sobre una visión racional de los intereses políticos.  Puede que la postura tecnofila sea ingenua al obviar que plantea una acción de gobierno que es incompatible con la democracia. Lo que no se cuestiona es la buena voluntad de la propuesta. El Partido Sintético va más allá. No en vano sus dirigentes lo definen como un partido antipolítico. En declaraciones a la prensa se presentan como una propuesta que engloba “las visiones políticas de la persona común”. Podrían haberse llamado perfecto Populismo Sintético, aunque, quizás, hubiera sido demasiada obvia la parodia. Más allá, de la anécdota en lo que se puede quedar esta acción, la existencia del Partido Sintético abre una perspectiva nada halagüeñas del uso de la IA en los procesos electorales. Pasamos de pretender automatizar la toma decisiones para conseguir mejorar el bien común, a optimizar la manera de generar simpatías en el votante, no con el objetivo de transformar la sociedad sino de conseguir o preservar el poder. Si la empresa Cambridge Analytica escogía algorítmicamente a los usuarios de Facebook que eran más proclives a reaccionar a una ideología determinada por sus clientes, el populismo sintético optimizará los propios mensajes y seleccionaría los mejores canales para generar las reacciones más emocionales. Un ejemplo muy burdo de esta aproximación lo encontramos en el bot Tay que puso en marcha Microsoft en el 2016. Tay imitaba el modo de conversación de las Twitter con la característica de que podía aprender de las interacciones con otros usuarios. Según los me gusta y los retuits que recibía iba modulando sus mensajes en la red social. Tras 16 horas de funcionamiento, Microsoft decidió parar el bot ya que sus mensajes terminaron derivando en comentarios racistas, antisemitas y cargados de contenido sexual.

Este proyecto se lanzó hace ya más de cinco años. Desde entonces los avances en el campo de la IA han sido espectaculares. Ahora mismo, disponemos de tecnologías como GPT-3 que generan textos con una calidad léxico y gramatical equivalente a un humano. Esta tecnología se está ya empleando para aumentar la productividad de los redactores publicitarios. Perfectamente podría utilizarse para afinar los de campañas políticas, redactar programas electorales o generar argumentarios. A esto se le añade la posibilidad ilimitada de crear imágenes a partir de inteligencias artificiales como DALL-E o Stable diffusion, o combinar video y voz sintética para generar políticos virtuales que transmitan de manera humanizada la ideología crea artificialmente. En el 2018 encontramos en Japón un primer ejemplo de un político artificial que terminó siendo el tercer candidato más votada en las elecciones a la alcaldía de un distrito de Tokyo. Evolucionar un bot como Tay a una IA con una apariencia digital humanizada que aprenda a través de las reacciones que generan más interés o una mayor respuesta emocional es técnicamente posible.

Me temo que recorrer este camino no nos va a llevar a una sociedad más democrática. Ni siquiera apunta a la tecnocracia algorítmica que se criticaba más arriba. El siguiente estadio a corto plazo podría ser una versión tecnológicamente potenciada de los partidos políticos actuales. No se va a reemplazar al cabeza de cartel por una IA, pero si que va a emplear los algoritmos como esteroides para reforzar la musculatura propagandística del partido. Presumiblemente esto podría ocurrir en todo lo espectro político con diferentes intensidades y orientaciones. Partidos de corte más populista darán rienda suelta a la tecnología para crear ideologías identitarias a medida. La viabilidad política del Partido Sintético, o algún otro partido artificial, me parece muy improbable a día de hoy. Es un órdago tan exagerado al planteamiento ilustrado que difícilmente va a conseguir una masa crítica de votantes. El perfil del votante está más cercano al seguidor de teorías conspiratorias y negacionistas que al desencantado de la política. De lo contrario, sí que estaríamos transitando una senda hacia un volcán en riesgo de erupción. Me cuesta entrever cuál sería ese futuro en que la IA pasa de ser una herramienta al servicio de la sociedad a un sujeto activo. En el terreno de la ficción podría imaginar una distopía donde el orden social está dirigido por una nueva forma de teocracia algorítmica. No habría quien dudara de la existencia del ser supremo ya que el representante de dios en la tierra sería el propio dios. Este ser artificial tiene respuesta a todas las preguntas imaginables, y de su autoridad emanan los preceptos morales. La dictadura perfecta liderada por un tirano todopoderoso que rige la mejor de las sociedades posibles. Una sociedad donde no nos quedaría otra opción que convertirnos en robots.