Page 31 - GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR. 2021.

GEOPOLÍTICA DEL MUNDO ACTUAL. UNA VISIÓN MULTIDISCIPLINAR:
Cultura de Paz, Conflictos, Educación y Derechos Humanos
molt precisos de votants potencials de cada un dels candidats, analitzar les seves personali- tats i preferències, i trobar el tipus de missatges que podien mobilitzar o desmobilitzar aquests ciutadans sense que ells ni tan sols advertis- sin que les seves accions i decisions estaven sent manipulades9. L’aparent escàndol de l’ex- periment de manipulació de 2014 havia estat en realitat una gegant i gratuïta campanya de publicitat per a Facebook10.
Si l’escàndol de la NSA no era més que una gota a l’oceà d’un complex i espès entramat mundial d’espionatges creuats de tot tipus, tant públics com privats, el de Cambridge Analyti- ca implica igualment la punta d’un iceberg molt més profund i complicat d’extirpar, un immens bloc de gel contra el que el transatlàntic de la nostra democràcia pot xocar i acabar naufra- gant. El cas demostra que els sofisticadíssims algoritmes d’anàlisi de big data i de machine learning que es troben al darrera tenen un potencial manipulador de les creences i emo- cions de la ciutadania de tot el planeta sense precedents a la història, que dificulten enorme- ment la preservació de la democràcia. Al cap i a la fi, l’ideal de la democràcia, del govern del poble, pel poble i per al poble, es sustenta en la premissa de que els ciutadans seran capaços
d’autodeterminar-se individualment i autogo- vernar-se col•lectivament en condicions d’au- tonomia personal i igualtat política. I aques- tes aplicacions abusives de la IA destrueixen aquests valors i principis11.
És obvi que només podem protegir-nos d’aquestes dues amenaces reforçant les nos- tres democràcies i establint nous drets i regu- lacions jurídiques clares i efectives. Però aquí sorgeix la tercera gran preocupació que vull esmentar: tot i que existeixen múltiples línies de recerca sobre IA al món treballant en paral•lel, més o menys descoordinades, els avenços més notables, en especial pel que fa a aplica- cions clau de la IA i a la seva capacitat d’ac- cedir i processar dades massives, estan con- trolats per molt poques mans. Els dos governs amb tecnologia d’IA més avançada són ara mateix la Xina i Rússia, i no cal dir que cap dels dos són democràtics, seguits a molta dis- tància pels Estats Units i la UE. Pel que fa a empreses privades, aquelles amb una tecnolo- gia més avançada són Google, Microsoft, Ama- zon i Facebook, que sent empreses com són, tampoc són òbviament democràtiques. Això vol dir que menys d’una dotzena d’actors de tot el món, entre públics i privats, estan concentrant actualment un poder sense precedents a la his- tòria, i cap d’ells té com a prioritat el bé comú. Si veiem la democràcia com un intent de frenar la dominació tant política, com econòmica i cul- tural, així com d’igualar la gent en el seu poder polític, és obvi que aquesta gegant concentra- ció de poder suposa una amenaça de primer nivell.
Com s’han defensat històricament les democràcies davant del perill de la concen-
11Són molts els autors que han començat a al•lertar dels perills de la IA sobre els nostres sistemes democràtics, tot i que es tracta, aquest, d’un camp de recerca encara incipient. A més de Lanier i Tufekci, ja esmentats, recomano J. Bartlett, The People vs. Tech. How the Internet is Killing Democracy (and how we save it), Random House, 2018; D. Innerarity, Una teoría de la democracia com- pleja. Gobernar en el siglo XXI, Galaxia Gutenberg, 2020; C. Álvarez Pereira, “Digital for Life? The Blind Spots and Its Reframing for Desirable Futures”, IEEE 18th International Conference on Cognitive Informatics and Cognitive Computing, 2019; F. Pasquale, “A Rule of Persons, Not Machines: The Limits of Legal Automation”, George Washington Law Review, 87(1), 1-55; J. Tito et al, “Destination Unk- nown: Exploring the Impact of AI on Government”, Working Paper at the Center for Public Impact, Setembre de 2017; L. Floridi et al, “AI 4 People’s Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Reccomendations”, Minds and Machines, 28, 689-707, 2018; P. Nemitz, “Constitutional democracy and technology in the age of AI”, Phil. Trans. R. Soc. A.376; i D. Helbing et al, “Will Democracy Survive Big Data and Artificial Intelligence?”, Scientific American, 25 de febrero de 2017.
31