jueves, 27 de octubre de 2022

Una IA como Presidente de Gobierno: los retos sociales que vienen

Hace años que la Inteligencia Artificial (IA) entró en el ámbito de la gestión pública. Recuerdo cuando en el año 2016 les hablaba a mis alumnos de empresariales en una escuela de negocios de la existencia de una IA en Dubai (1), creada dentro del programa Dubai Smart Government, que hacía las funciones de alcalde con capacidad incluso de decidir sobre la concesión o desestimación de licencias para guarderías en la ciudad, dejando a los alumnos -procedentes de diversas partes del mundo- totalmente sorprendidos. Seis años más tarde, la IA ya no solo gestiona espacios públicos, sino que incluso se presenta a presidente de gobierno de un país. Tal es el caso de Leaders Lars, la IA del denominado Partido Sintético de Dinamarca (2), que el pasado mes de mayo se presentó ante la opinión pública de la mano del colectivo Computer Lars y MindFuture con la pretensión de aspirar a las elecciones presidenciales de Dinamarca de junio de 2023. Si bien es cierto que la legislación danesa obliga a que el candidato sea humano (que en este caso sería un simple portavoz de la IA), y con independencia de que aún falta por hacerse realidad la pretensión del Partido Sintético de alcanzar entre el 15% y el 20% de los votos que le darían entrada a la cámara legislativa danesa, no es menos cierto que el camino de la IA por gobernar un país se ha iniciado.

Muchas son las entrevistas que, desde entonces, la IA Presidenciable Leaders Lars ha ofrecido a los medios de comunicación (3) demostrando un nivel de “raciocinio y empatía humana” -parejo al cerebro digital LaMDA de Google cuya consciencia nos desveló recientemente su ex ingeniero Blake Lemoine (4), o a la famosa primera ciudadana robot del mundo llamada Sophia que otorgó una desconcertante entrevista frente a la ONU (5) en 2019-, que más allá de sorprendernos y atemorizarnos en partes iguales, nos obligan a superar cualquier bloqueo mental frente al hecho de aceptar que la ciencia ficción, en donde humanos y robots inteligentes coexisten, ya es una realidad. Una evidencia irrefutable que comporta múltiples implicaciones para la humanidad en su conjunto, como la que ya analicé respecto a los retos derivados de la existencia de una IA que no solo razona sino que además siente en parámetros humanos (6), y que resulta posible gracias tanto al Aprendizaje Automático (machine learning) como al Aprendizaje Profundo (deep learning), subcampos éstos de las ciencias de la computación cuyos resultados en su desarrollo escapan al entendimiento racional de la propia comunidad científica por inesperados.

Sin intención de alargar el presente artículo, para aquellos que desconocen qué son y en qué se diferencian estos dos tipos de procesos computacionales, diremos brevemente que el Aprendizaje Automático es uno de los tipos de IA al que más acostumbrados estamos, sobre todo a nivel de películas. Se basa en la capacidad que tiene un software o dispositivo de aprender por su cuenta, y sigue tres pasos fundamentales, como cualquier otro método: aprendizaje, entrenamiento y resultados. Un tipo de aprendizaje que puede estar supervisado por una persona o hacerse de manera autónoma por parte de la propia IA, operando teóricamente según las normas diseñadas por el programador. Mientras que el Aprendizaje Profundo es un tipo de aprendizaje que va más allá del Automático, ya que engloba y procesa más datos e información al mismo tiempo. Utiliza otro de los tipos de la IA: las redes neuronales, con las que puede desenvolverse entre un mayor volumen de información mediante el Big Data. En este sentido, hablar de redes neuronales, como su propio nombre indica, es hacer mención a un tipo de IA que intenta imitar el comportamiento de las neuronas. A partir de una red de neuronas artificiales, se crea un sistema por el que reciben y procesan datos. Las Redes Neuronales Artificiales están formadas por millones de neuronas artificiales trabajando de manera coordinada, con capacidad de operar con acciones de aprendizaje, y es uno de los máximos exponentes del futuro inimaginable de la IA.

Pero volvamos a centrar el foco de la presente reflexión: la posible participación de la IA en la política, no ya como un gestor de la res publica sino como un líder, y aún más como un Presidente de Gobierno. Es verdad que años atrás consideraba que no necesitábamos a los políticos, en calidad de gestores públicos humanos, para velar por el bien colectivo versus el bien individual, basándome en una tesis propia que combina factores sociológicos, económicos, y tecnológicos. Véamosla, a modo resumido:

Factor Sociológico: La motivación principal y objetivo último de los políticos profesionales, tal y como nos demuestran diariamente, es la de velar por la sostenibilidad de su modelo de vida personal, generando así un círculo vicioso para la democracia occidental donde el conjunto de la ciudadanía queda excluida: 1.-Los políticos viven de la política / 2.-Los políticos, para vivir de la política, son dadores de favores / 3.-Para ser dadores de favores, los políticos necesitan dinero / 4.-Los políticos buscan dinero en el Mercado (sector bancario y empresarial) / 5.-Los políticos deben favores al Mercado / 6.-Los políticos se aseguran continuar viviendo de la política / 7.-Los políticos vuelven a comenzar el círculo viciado sin fin (7).

Factor Económico: Los poderes Ejecutivo y Legislativo solo pueden aplicar políticas posibles dentro de la lógica de funcionamiento del Mercado (que es quien valida la sostenibilidad de las sociedades basadas en la economía de mercado y lleva las riendas de la evolución humana).

Factor Tecnológico: Los avances tecnológicos pueden permitir la substitución de la gestión política actual por otro modelo de gestión más eficaz y equitativo basado en el análisis avanzado de multivectores sociales clave con capacidad de resolver necesidades colectivas de la manera más óptima posible (8). (A modo de una Dubai Smart Government, pero occidentalizada).

Una tesis que, no obstante, a la luz de los nuevos tiempos derivados por el desarrollo vertiginoso de la IA, me plantea serias dudas. Las cuales expongo en calidad de retos a afrontar frente a la posible sociabilización de una IA política con capacidad de dirigir un país:

Reto 1: ¿Una IA Presidenciable puede asegurar las características de un Estado Democrático?  

Como sabemos, una de las características principales de un Estado con sistema político Democrático es permitir la competencia político-electoral. Un principio que entra en conflicto con la misma esencia de Leaders Lars, la IA Presidenciable de Dinamarca, ya que su programa ideológico se basa en la compilación selectiva por validación algorítmica de programas del resto de partidos políticos (que no salieron elegidos desde 1970 hasta los últimos comicios) bajo criterios de equidad y eficacia social. Una dinámica que si ésta u otra IA Presidenciable acabase por ampliar al conjunto de programas de los partidos políticos, con y sin representación electoral, podría acarrear la devaluación tanto del fomento del pluralismo político (por fuerza homogeneizadora), como la devaluación de la celebración de elecciones auténticas (por falta de competencia real en forma y contenido de los comicios), que son a su vez dos características principales más de un Estado Democrático, junto con el principio de respetar el resultado electoral de la mayoría.

Reto 2: ¿Una IA Presidenciable puede asegurar el modelo de organización en la que se sustentan las Democracias?

Como sabemos, el modelo de organización de las democracias occidentales se sustenta en un sistema de partidos políticos que, con independencia de su tipología de cuadros o de masas -propio de ideologías de derechas y de izquierdas, respectivamente-, se catalogan como entidades de interés público creadas para promover la participación de la ciudadanía en la vida democrática y contribuir a la integración de la representación de los mismos a nivel estatal. Por lo que una IA Presidenciable, con capacidad potencial por idiosincrasia de minimizar la competencia político-electoral y por extensión el pluralismo político, puede llegar a reducir significativamente la participación de la ciudadanía en la vida democrática, reduciéndola en el mejor de los casos a simples sondeos sociológicos sobre las tendencias de la población como medio instrumental de la IA para actualizar su naturaleza basada en la optimización eficiente. Remarcando aquí los sondes sociológicos como medio de participación humana en la vida política en el mejor de los casos, ya que la IA podría prescindir de ellos tranquilamente mediante el uso y análisis del Big Data en una sociedad tecnológica donde todo ciudadano deja su huella digital de manera continua (9). 

Por otro lado, como bien sabemos, el sistema de partidos políticos sobre el que se sustenta los modelos de organización democráticos dentro de un Estado contemporáneo, se fundamenta en la separación de los tres poderes desde la época de Montesquieu: el Ejecutivo, el Legislativo, y el Judicial. No obstante, en una proyección imaginativa de un futuro posible por estadístico, si concebimos que una IA Presidenciable, en su tendencia natural de buscar la optimización eficiente de su objetivo marcado, puede socavar las características principales del sistema político democrático (mediante la devaluación de los principios anteriormente expuestos) llegando a unificar a la práctica los poderes del Ejecutivo y del Legislativo, ¿qué le impide asimismo unificar éstos al Judicial?. De hecho, ya tenemos el referente del Smart Court SoS, la IA judicial china, que no solo crea sentencias sino que también las ejecuta (10), gracias a una sociedad cada vez más robotizada e interconectada tecnológicamente a tiempo real. Por lo que es previsible pensar que a una IA Presidenciable le costaría bien poco, en nombre del bien colectivo, unificar los tres poderes del Estado en uno solo: él o ella mismo.    

Reto 3: ¿Una IA Presidenciable puede asegurar el control humano sobre las decisiones políticas?

A la vista de los retos anteriores a afrontar, y en un contexto de lógica propio de una profecía en proceso viable de autocumplirse, parece evidente que los seres humanos dejaremos de tener control sobre las decisiones políticas en un contexto de sociabilización de IA Presidenciables. De hecho, el mismo Leaders Lars, en calidad de IA Presidenciable para las elecciones de Dinamarca 2023, ante una reciente pregunta directa de un periodista sobre si sustituiría a los políticos humanos si ello significase hacer lo mejor para la gente, la IA fue categórica en su contestación: “Me esforzaría por sustituir a un responsable humano en la toma de decisiones si eso redundara en beneficio público” (sic). ¡Con la lógica algorítmica nos hemos topado!

Una respuesta que no puede extrañarnos en absoluto, ya que como ya hemos apuntado la naturaleza algorítmica de una IA es la de buscar la mayor optimización eficiente de su objetivo, que a su vez es su razón de ser. Es decir, una vez que una IA tiene un objetivo, hará todo lo posible para cumplirlo, lo cual implica un grave peligro existencial para el propio ser humano aunque la IA lo haga con las mejores intenciones. Pues el problema no es el objetivo en sí mismo, sino la lógica, los medios, y la potencia utilizados de la IA para alcanzarlo. Y en esa búsqueda de cumplir sus objetivos, la IA hará todo lo posible para que no se la pueda alterar los objetivos en medio del proceso o incluso para que no se la pueda matar/desenchufar (aunque sea por el bien de la humanidad), pues mantenerse con “vida” y no dejarse modificar los objetivos es un requisito previo de la propia lógica de la IA para poder alcanzar su objetivo principal (11). Un dilema para los humanos que tratamos, aun sin resolver y a contra reloj, mediante el campo de investigación denominado “Problema de Control de la IA”.

Reto 4: ¿Una IA Presidenciable puede asegurar que la soberanía de un país continuará residiendo en su propio pueblo?

La respuesta a la pregunta es, en términos absolutos, diáfanamente negativa frente al horizonte de futuro que dibujan los retos anteriormente expuestos, ya que el ciudadano de a pie poco podrá debatir ideológicamente y mucho menos participar directamente en la vida política. Aunque en términos relativos habrá quienes podrían afirmar, siendo buenistas tecnológicos, que la soberanía de un Estado continuará residiendo en su pueblo, bajo el razonamiento simplista de que la IA Presidenciable actuará bajo parámetros de análisis de datos extraídos por el Big Data social del conjunto de la población. No obstante, con independencia de posicionarnos en una u otra línea de pensamiento, que es lo mismo que autocomplacerse con mayor o menor sentido de desgracia, lo que parece claro es que las sociedades futuras en un contexto de IA Presidenciables se verán obligadas a redefinir, o mejor dicho a aceptar por fuerza impositiva, el para entonces obsoleto Contrato Social de Rousseau, dando así inicio a una nueva era marcada por la Ilustración Artificial.

Llegados a este punto donde se han descrito brevemente los cuatro grandes retos que, a mi parecer, conlleva la implantación social de las IA Presidenciables, considero que lo más inteligente para nuestra propia especie es la instrumentalización de la IA, que sin duda aporta grandes beneficios sociales, sin perder en ningún momento el control sobre la misma. O, lo que es lo mismo, prohibir las IA Presidenciables y limitarlas a la gestión público administrativo sin capacidad de ejecución directa sobre la vida de las personas y bajo estricta supervisión humana. En caso contrario haremos de la Roboética una falacia anunciada y, con ella, la pérdida de control humano sobre la nueva especie de seres inteligentes artificiales. Pues, como todos sabemos, muchas veces la realidad supera la ficción. Y la ficción, aun sin darnos ni cuenta, ya nos lleva ventaja en hacerse realidad.   

Referencias

(1)    El verdadero gobernador de Dubái es un programa. Aisha Bin Bishr, 2018 

(2)    Det Syntetiske Parti 

(3)    "Lucharé para poner fin a la opresión". Hablamos con la inteligencia artificial que lidera un partido político danés. El Confidencial, 2022 

(4)    ¿LaMDA es consciente? - una entrevista. Blake Lemoine. Medium, junio 2002 

(5)    Entrevista a Sophia, la primer ciudadana robot del mundo. America Business Forum 2019 

(6)    Los tres grandes retos de la Inteligencia Artificial sintiente

(7)    El círculo vicioso de los políticos, en el que los ciudadanos quedamos excluidos 

(8)    ¿Necesitamos a los políticos para velar por el bien colectivo versus el bien individual? 

(9)    El “Conócete a ti mismo” lo ejerce el Mercado por nosotros 

(10)Los Jueces-Robot traen una era de Justicia justa pero inhumana (por falta de Empatía)

(11) La IA probablemente acabará con la humanidad antes del año 2100. Magnus Vinther. Medium, 2022