Dissenyar la intel·ligència artificial – Ricard Martínez Martínez

IA_500pxLa intel·ligència artificial (IA) és, sens dubte, l’última i més destacada de les tecnologies en Hype Cycle de Gartner. D’alguna manera, en cas que es confirmin les expectatives pot ser certament una tecnologia disruptiva. El somni de les xarxes neuronals, de les màquines que prenen decisions autònomes de propòsit general que perseguim des de finals dels cinquanta del segle passat sembla estar hui més pròxim. De segur, l’avanç previ de la tecnologia ha proporcionat les bases que podrien fer-ho realitat.

Per a l’IA, Internet i la computació en el núvol constitueixen, sens dubte, pilars sòlids des dels quals construir. D’una banda, el núvol proporciona recursos de processament i emmagatzematge abans inconcebibles. I la connectivitat tanca un cercle virtuós en la mesura en la qual permet la interconnexió i la interoperabilitat i multiplica els sensors capaços de recollir dades. Qualsevol avanç recent en el qual el lector pugui pensar es tradueix en ingents volums de dades que obliguen a definir noves unitats de mesura cada poc temps. L’usuari, que no fa un decenni somiava en megues, treballa avui en gigues, mentre la indústria pensa en yottabytes.

El món de la web 2.0 i l’arribada de les xarxes socials va multiplicar la informació disponible. Els telèfons intel·ligents i el seu ecosistema d’aplicacions han continuat aqueix procés acumulatiu de valor. Internet dels objectes i les anomenades Smart Cities estan incrementant la sensorització completa de l’entorn humà. Després de cada nou procés, totes les nostres dades són obtingudes, usades, reutilitzades i negociades en el mercat. D’altra banda, som capaços de programar processos d’analítica de dades que superen el concepte de base de dades estructurada, i s’enfoquen pràcticament a qualsevol classe de dades —estructurades o no—, documents, imatges… I la programació busca correlacions tant de manera dirigida com autònoma.

Aquest escenari permet que les primeres IA siguin capaces de desplegar una intel·ligència bàsica, de propòsit concret. L’analítica ens fa previsibles i ofereix escenaris predictius els resultats dels quals poden ser tan eficients i amables com per a oferir-nos una ruta adequada de camí al treball, com aterridors, facilitant la falsificació de preferències electorals.

En cas que l’IA sigui assolible de propòsit general, o en el millor dels casos els robots físics o virtuals, capaços de prendre certes decisions, l’horitzó pot oferir-nos cares molt diferents. L’IA podria ser una tecnologia alliberadora. Reduir la complexitat del trànsit i eliminar els riscos de la conducció. Assumir tasques d’alt risc en la indústria o la mineria. Canviar de manera radical la nostra manera d’entendre la malaltia i la seua cura.

Però també presenta un escenari de pèrdua de llibertats. La seua manifestació més naïf, la simple manipulació de l’algorisme d’una xarxa social per a abusar de les emocions dels votants incitant al vot mitjançant la falsificació de preferències, ha de percebre’s com una cosa aterridora. Els escenaris més apocalíptics amenacen amb un món d’homes substituïts per màquines i condemnats a la pobresa i a l’exclusió social. Si no, un univers de màquines que ens governen.

En aqueix context es percep un debat jurídic lent, fins i tot bizantí. En anteriors fases d’innovació disruptiva es va abusar fins a l’extrem de l’“absència de normes”. Resultava força senzill considerar que no existien normes per a una cosa tan nova com les tecnologies de la informació. I, òbviament, si alguna cosa no està prohibida, cal entendre-la permesa. Un enfocament, en el qual s’havia d’anar de pressa i trencar coses, en el qual l’eficiència i la rendibilitat permetia sacrificar valors construïts al llarg de segles per les democràcies constitucionals.

Però realment això és cert? No pot afirmar-se sense més ni més que no existeixin normes. Ni tampoc la pretesa lentitud del legislador pot servir com a excusa. Els juristes no podem caure en el parany dialèctic de contraposar la tecnologia al dret. O és que potser hauríem de modificar la Constitució després de cada avanç tecnològic? No hem de renunciar a desenvolupar noves i cada vegada millors eines normatives. Però mentre això succeeix, el raonable és canviar el pas i introduir en la metodologia del jurista models que s’alineen amb el mateix disseny de la tecnologia. Això obliga a un doble esforç.

El primer, ser capaços d’inserir el suport per al compliment normatiu en els processos d’investigació i d’innovació tecnològica. Això implica un nou model de responsabilitat corporativa i dels emprenedors. Ha d’assumir-se que hi ha coses “que no es poden trencar”, que existeixen principis, valors i regles que inspiren els nostres sistemes jurídics la garantia dels quals és ineludible. Res hi ha per damunt de la garantia de la dignitat, els drets fonamentals i les nostres llibertats. La lliure autodeterminació individual, la bona fe o no fer mal són principis jurídics intemporals i no dependents d’una tecnologia concreta.

Però alhora, els juristes hem de canviar el nostre enfocament. Hem d’aplicar el compliment normatiu des del disseny i per defecte. És crucial baixar del distant pedestal en el qual solem viure i adquirir noves metodologies i capacitats. Per això resulta urgent adoptar els models de disseny de la mateixa tecnologia i compassar els nostres processos tant en el dia a dia com en el disseny de les noves normes.

Els models d’inacció han fracassat. Pensar que el dret arribarà algun dia a abastar la tecnologia és il·lusori. La paradoxa d’Aquil·les i la tortuga serà la regla, no l’excepció. Abordar la qüestió des del dret sancionador, obligant a un aprenentatge basat en el càstig, no solament serà disfuncional sinó fins i tot perjudicial per al futur de l’economia digital. La Unió Europea compta amb un corpus jurídic molt sòlid i una manera d’entendre l’estat social i democràtic de dret altament apreciable. El nostre repte comença per manejar les eines de les quals disposem i aconseguir un model de IA des del disseny del compliment normatiu. I per això és necessari proposar noves metodologies.

 

Ricard Martínez Martínez
Professor de dret constitucional. Director de la Càtedra de Privacitat i Transformació Digital Microsoft-Universitat de València

Aquest apunt és un resum de l’article Intel·ligència artificial des del disseny. Reptes i estratègies per al compliment normatiu publicat en el número 58 (juny 2019) de la Revista Catalana de Dret Públic.

Deixa un comentari