Page 8 - GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR. 2021.

GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR:
Cultura de Paz, Conflictos, Educación y Derechos Humanos
ferírsele al estado y cuánta libertad debería dejarse en manos del mercado), la gran cues- tión hoy es decidir si nuestras vidas deben estar controladas por poderosas máquinas digitales y en qué medida, cómo articular los beneficios de la robotización, automatiza- ción y digitalización con aquellos principios de autogobierno que constituyen el núcleo normativo de la organización democrática de las sociedades. El modo como configuremos la gobernanza de estas tecnologías va a ser decisivo para el futuro de la democracia; pue- de implicar su destrucción o su fortalecimien- to.
Este horizonte no es solo tecnológico o infraestructural sino ontológico.
La automatización requiere pensar muchas categorías socioculturales, como sujeto, acción, responsabilidad, conocimien- to o trabajo. Lo que aquí me planteo es qué quiere decir autogobierno democrático y qué sentido tiene la libre decisión política en esta nueva constelación. Mi objetivo es desarrollar una teoría de la decisión democrática en un entorno mediado por la inteligencia artificial, elaborar una teoría crítica de la razón auto- mática. Necesitamos una filosofía política de la inteligencia artificial, una aproximación que no puede ser cubierta ni por la reflexión tecnológica ni por los códigos éticos. El inte- rrogante fundamental es qué lugar ocupa la decisión política en una democracia algorít- mica. La democracia es libre decisión, volun- tad popular, autogobierno. ¿Hasta qué punto es esto posible y tiene sentido en los entor- nos hiperautomatizados, algorítmicos, que anuncia la inteligencia artificial? La demo- cracia representativa es un modo de articular el poder político que lo atribuye a un órgano determinado y de acuerdo con una cadena de responsabilidad y legitimidad en la que se verifica el principio de que todo el poder procede del pueblo. Desde esta perspectiva la introducción de sistemas inteligentes auto- nomizados aparece como algo problemático. Este problema se agudiza en los sistemas
que aprenden ya que la función que procesa los datos cambia en la fase de aprendizaje. El sistema trabaja adaptativamente y no confor- me a reglas pre-programadas (Unger 2019) con lo que la cadena de legitimidad y respon- sabilidad —sin la que no hay democracia— resulta más difícil de identificar. “Si las máqui- nas pueden participar en el discurso político sin ser identificadas como tales o incluso despersolizando a los humanos sin sanción, esto llevaría a una importante distorsión del discurso, inostenible en una democracia (...). Quienes mantienen las infraestructuras deci- sivas del discurso político deben ser respn- sables” (Nemitz 2018). Tenemos, de entrada, un problema de ininteligibilidad debido a que no está claro quién decide y es responsable en un entorno cada vez más automatizado.
La inteligencia artificial como instru- mento para las decisiones sociales es una manifestación concreta de lo que Pierre Bor- dieu llamaba “habitus”, a saber, estructuras estructuradas que funcionan como estruc- turas estructurantes (Bordieu 1990). No es que las decisiones clave sean delegadas en máquinas en las que no hay ningún humano; se trata más bien de que somos presionados a tomar decisiones de tal manera que no nos preguntamos quién es su verdadero autor. Los sistemas automatizados nos empujan a la irreflexividad en el sentido descrito por Hannah Arendt: la incapacidad de criticar las instrucciones, la falta de reflexión sobre las consecuencias, la disposición a creer que las órdenes son correctas (Arendt 2006).
8