En l’epíleg de l’obra col·lectiva A las puertas de la administración digital. Una guía detallada para la aplicación de las Leyes 39/2015 y 40/2015, coordinada per A. Cerrillo i Martínez, s’afirma que les nostres administracions públiques van estar immerses en un procés “d’electronificació” durant les dues darreres dècades. Aquest procés se centrava específicament en el desplegament de les infraestructures de gestió administrativa en un entorn virtual, en la posada en marxa de nous canals de comunicació entre l’Administració i els ciutadans a les xarxes i en la sistematització i reordenació dels processos de presa de decisions, tenint en compte les noves eines electròniques de gestió i tractament de la informació. Aquell paradigma era l’anomenada administració electrònica. Responen a aquesta realitat, per exemple, les modificacions de la Llei 30/1992, de 26 de novembre, de règim jurídic i del procediment administratiu comú, l’aprovació de la Llei 11/2007, de 22 de juny, d’accés dels ciutadans als serveis públics electrònics, o, a Catalunya, la promulgació de les lleis 26/2010, de 3 d’agost, de procediment administratiu comú de les administracions públiques de Catalunya, i 29/2010, de 3 d’agost, d’ús dels mitjans electrònics al sector públic de Catalunya.

Amb aquest procés ni de bon tros conclòs (penseu només, en l’entrada en vigor demorada de determinats preceptes de la Llei 39/2015, d’1 d’octubre, de procediment administratiu comú, en matèria d’administració electrònica), en els darrers anys, han emergit tecnologies disruptives que fan envellir les adaptacions per conformar una administració electrònica. Certament, hem entrat de forma vertiginosa, i amb el peu canviat, a l’era de la robòtica, dels algoritmes i de la intel·ligència artificial, de les dades massives i, també, de les cadenes de blocs (blockchains).

Mentre els nostres legisladors, governs i administracions públiques malden per complir les exigències pròpies de l’administració electrònica, de la transparència, del bon govern i del govern obert, a fi de desplegar-los definitivament, la tecnologia, de nou, ha sobrepassat el marc normatiu i les previsions organitzatives fixades.

Cal afrontar ara el repte de regular noves eines de tractament de la informació i de gestió dels processos de presa de decisions, eines que també permeten redimensionar l’abast dels drets de les persones, de la participació ciutadana i del retiment de comptes. Ens referim, entre d’altres, a la generalització de l’ús d’algoritmes i d’eines d’intel·ligència artificial, així com de la robòtica, per part de les administracions públiques. El nou model d’Administració pública està mancat en l’actualitat d’un marc jurídic adequat, atès que el dret acostuma a reaccionar tard i a adaptar-se de forma lenta als canvis tecnològics. A més, en vista dels reptes que planteja aquest nou escenari es fa necessari l’estudi de noves tècniques i procediments reguladors. Els articles de la secció monogràfica L’Administració a l’era digital, publicada al número 58 de la Revista Catalana de Dret Públic, ofereixen propostes suggeridores i il·luminen força el camí que encara cal recórrer.

De les tecnologies que acabem d’esmentar la que s’ha manifestat amb més força, tant a nivell tecnològic, com a nivell mediàtic, és l’anomenada intel·ligència artificial (IA). D’acord amb els experts, aquesta tecnologia està cridada a ser la punta de llança de la 4a revolució industrial. Amb la denominació “(IA)” ens referim als sistemes que mostren un comportament intel·ligent, en la mesura que estan preparats per analitzar el seu entorn i emprendre accions amb un cert marge d’autonomia, per tal d’aconseguir determinats objectius. Els sistemes d’IA poden ser simplement un programa informàtic (software) creat amb una finalitat molt concreta, per exemple, reconèixer cares o veus, o cercar informació. Aquests sistemes, però, també poden estar incorporats en equipaments o màquines, com robots o cotxes autònoms o d’altres vehicles (hardware). Cal tenir en compte, igualment, que sovint dins el terme “IA” s’inclouen referències a les dades massives (big data que nodreix l’IA), a la robòtica intel·ligent, als algoritmes, als sistemes d’autoaprenentatge (com el machine learning —aprenentatge automàtic— o el deep learning —aprenentatge profund—) i a les anomenades xarxes neuronals.

Tots aquests desenvolupaments tecnològics poden semblar elucubracions extretes d’una pel·lícula de ciència ficció i la majoria de nosaltres pot creure que encara no s’han materialitzat en la nostra vida quotidiana. Res més lluny de la realitat: les administracions públiques a Catalunya i a la resta de l’Estat espanyol —per posar exemples ben propers— ja les estan fent servir. Fixem-nos en la notícia següent: Barcelona estudia els fluxos de visitants als voltants de la Sagrada Família per millorar-ne la gestió. En aquesta breu ressenya s’explica que s’està desenvolupant “un projecte pilot per al control de fluxos de visitants que s’ha desenvolupat al voltant de la Sagrada Família. Mitjançant la instal·lació de sensors wifi, GSM i càmeres 3D, s’han registrat i monitoritzat els desplaçaments durant 4 setmanes del mes de juliol, per tal de conèixer els perfils i patrons de comportament de les persones que visiten l’entorn del temple […]. Un algoritme permet filtrar quines d’aquestes persones serien turistes, descartant-ne aquelles que passen per la zona durant menys de deu minuts o les que ho fan de manera repetida durant un període de més de 7 dies. Els resultats de l’anàlisi indiquen que el 80% de les persones detectades a l’àrea monitoritzada hi són durant menys de 100 minuts […] les hores de major afluència són entre les 10.00h i les 12.00 hores, amb un patró molt similar per al conjunt de dies entre setmana. Els divendres, en canvi, s’assimilen més al dissabte i diumenge, dies en què creix el nombre de visites durant la tarda”.

Aquest projecte que ara comentem ha estat objecte de presentació en fòrums especialitzats i en alguna breu notícia a la premsa generalista, amb tot, creiem possible afirmar que la gran majoria de ciutadans i turistes de Barcelona desconeixen que quan passen pels voltants de la Sagrada Família, de forma automàtica, “la ciutat” recull dades sobre els seus moviments, a través del seus terminals de telefonia mòbil, entre d’altres ginys. Aquestes dades acumulades (se n’ha generat un volum ingent), un cop aplicats els algoritmes pertinents, permeten extreure patrons que, altrament, quedarien ocults per als gestors de la ciutat, facilitant-los-hi així la feina d’articular els serveis públics (transports, seguretat, etc.) de la forma més eficaç i eficient en aquest punt de la vila. I això només és una petita mostra dels beneficis que pot generar l’ús de l’IA per a la bona administració dels afers públics.

Analitzant la realitat de les administracions espanyoles trobem altres exemples similars, on ja s’estan desenvolupant projectes d’IA, igualment, amb poca publicitat i amb una marcada tendència a obviar, per part dels responsables polítics i tècnics, la necessitat d’establir un règim jurídic adequat per al seu desenvolupament, a fi de respectar els principis que governen l’acció pública i salvaguardar els drets de les persones, com ja s’ha dit.

En el nounat document de bases L’estratègia d’intel·ligència artificial de Catalunya es palesa aquesta carència. Si bé en el document es manifesta que aquesta tecnologia “està generant una onada d’adopció entusiasta” “en moltes àrees de la nostra vida sense que s’estigui valorant amb profunditat els impactes ètics i legals amb els riscos que això suposa”, tampoc en aquesta estratègia s’ha previst la necessitat d’adaptar la regulació vigent a l’estadi de desenvolupament tecnològic actual. Simplement, es constata la necessitat que els projectes d’intel·ligència artificial que s’endeguin, des d’un prisma ètic i social, “respectin la legalitat vigent, siguin compatibles amb les nostres normes socials i culturals, i estiguin centrats en les persones”. El problema és que la legalitat vigent és insuficient per a donar resposta als nous reptes que ja es presenten (i els que encara estan per arribar). Cal tenir en compte que, entre els experts consultats per al desenvolupament del document, només hi ha havia una científica social (filòsofa del dret) i que la resta de perfils provenen majoritàriament de les STEM. Aquest fet podria explicar els biaixos del document. Al nostre entendre, en la posada en marxa de projectes d’IA per part del sector públic —ja sigui per monitoritzar espais de les ciutats, per adjudicar habitatge social o subvencions, o per prestar serveis de salut, entre moltíssimes altres potencialitats— es fa més necessari que mai servar el principi de transparència de la manera més expansiva possible i la col·laboració interdisciplinària resulta cabdal.

L’ús d’aquestes tecnologies disruptives pot posar en risc o, directament, vulnerar la seguretat jurídica i els drets fonamentals com la igualtat, la intimitat o la protecció de dades personals, entre d’altres. També són susceptibles de crear tensions respecte dels principis de funcionament de les administracions públiques i del mateix procediment administratiu (obligació de motivar els actes administratius, reducció de l’eficàcia del dret a plantejar al·legacions, etc. quan la decisió és presa com a conseqüència de l’aprenentatge automàtic dels algoritmes o quan se’n desconeix el seu funcionament, per exemple). Amb tot, i com apunten rellevants juristes, “(E)l daño individual producido por el big data y la Inteligencia artificial puede ser imperceptible para el derecho fundamental desde la perspectiva del individuo titular del derecho, pero bien puede afectar masivamente a los derechos fundamentales de sectores o conjuntos de la sociedad de una manera relevante en esta dimensión colectiva” (Cotino, 2018: 138), la qual cosa obliga a reformular conceptualment i dogmàtica les garanties d’aquests drets. I en aquesta tasca ens hem de trobar tots i totes, des de les respectives experteses.

El sector públic no pot funcionar, ni en això, ni en molts altres àmbits, ja ho sabem (és una boutade), com una empresa qualsevol. Les seves actuacions estan subjectes a servir l’interès general en el respecte als drets de les persones i per fer-ho, en l’actualitat, necessàriament s’ha d’utilitzar la tecnologia disponible, en el benentès que tot el que sigui possible des del punt de vista tecnològic, no té per què ser èticament o legalment possible. Establir els límits i la regulació (encara que sigui una regulació temporalment limitada, en proves, dúctil, flexible —o líquida, si es vol—) de l’ús de les tecnologies disruptives és feina comuna de moltes disciplines i hauria de ser una comesa compartida. Som-hi!

 

Clara I. Velasco Rico
Professora agregada (int.) de dret administratiu a la Universitat Pompeu Fabra

L’autora d’aquest apunt també signa el Dossier monogràfic publicat a la Revista Catalana de Dret Públic número 58 sobre l’Administració a l’era digital (juny 2019).