Page 32 - GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR. 2021.

GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR:
Cultura de Paz, Conflictos, Educación y Derechos Humanos
tració de poder? Després de mil•lennis d’as- sajos i errors només hem trobat una fórmula: una combinació de limitacions jurídiques al poder polític en forma d’estat de dret, protec- ció de drets humans fonamentals, separació de poders, independència judicial, etc., amb el principi de sobirania popular que ha de garantir que la ciutadania, si no governa directament, disposi al menys del control últim efectiu i per- manent sobre les institucions que els governen i sobre les potencials amenaces que supo- sin els poders privats. És el que anomenem democràcia constitucional. El problema, aquí, és que s’ha produït un desajustament històric d’escala. Mentre les democràcies constitucio- nals funcionen, allà on ho fan, a nivell estatal, la concentració de poder que trobem avui al món posseeix ja una inevitable i irreversible escala global. Ni els estats, petits o grans, poden ja protegir efectivament els seus ciutadans de la potencial dominació de les gegants empreses privades tecnològiques que controlen bona part de la informació que es genera al món, ni els estats democràtics, especialment els més petits, disposen de recursos per a defensar-se de la potencial dominació tecnològica que pot venir dels grans estats que més han desenvo- lupat els seus sistemes d’IA, com la Xina i Rús- sia.
Ens calen regulacions internacionals efectives que posin límits a l’ús de les tecno- logies d’IA, que protegeixin els nostres drets fonamentals i preservin els nostres sistemes democràtics, i que siguin elles mateixes legíti- mes i democràtiques. Malauradament, el tipus d’institucions que es requereixen per activar i fer complir regulacions d’aquesta mena només són possibles si som capaços d’erigir un sis- tema constitucional i democràtic global. I tots veiem que estem molt lluny d’assolir aquest objectiu. Ens trobem, en aquest punt, en una carrera contrarellotge on la única via que podem recórrer amb unes mínimes garanties d’èxit és una via llarga, difícil i complexa, i al
mateix temps la urgència per arribar és cada cop més gran.
Això em porta a la quarta gran preocupa- ció democràtica relativa al desenvolupament de l’IA. La democràcia, tal i com la tradició polí- tica republicana ha posat de manifest, només és possible en la mesura en que la ciutadania ostenti el poder últim, i en conseqüència, tingui la capacitat efectiva de controlar allò que fan les institucions de govern. És a dir, democrà- cia és igual a control últim per part de la ciuta- dania12. Ara bé, aquest control només pot ser genuí si els ciutadans disposen d’informació sobre allò que fan les institucions que ells pre- tenen controlar, així com de les eines cogniti- ves necessàries per a jutjar l’acció d’aquestes institucions, i finalment dels recursos pràctics adequats per a poder imposar el seu crite- ri últim en cas de discrepància. Aquesta idea nuclear de democràcia ja afrontava un repte prou important en les darreres dècades com és el de la progressiva complexitat organitzativa, social, econòmica, jurídica i de tot tipus que ha anat emergint in consolidant-se al llarg dels anys a les nostres democràcies. Com poden els ciutadans del nostre país controlar el que estableixen les lleis que els governen, si el número de lleis i la complexitat de les mateixes fa virtualment impossible per a ningú tenir una imatge complerta de tot el sistema jurídic?
I aquest problema de creixent complexitat es veu encara agreujat amb la revolució tec- nològica, i especialment amb tecnologies tan sofisticades com la IA. En paraules de Daniel Innerarity, la complexitat del disseny dels algo- ritmes que es troben darrera de moltes de les aplicacions d’IA, i el que és pitjor, el fet que els mecanismes de machine learning permetin a aquests algoritmes auto-modificar-se i esdeve- nir finalment algoritmes nous que fins i tot els seus programadors són sovint incapaços d’en- tendre, fa que quan parlem de les aplicacions de tecnologies com la IA a l’àmbit de la demo-
12Vegis Ph. Pettit, On the People’s Terms. A Republican Theory and Model of Democracy, Cambridge University Press, 2012. 13Vegis el llibre d’Innerarity prèviament citat a la nota n. 10.
32