El passat setembre de 2016 es va publicar l’informe Artificial Intelligence and Life in 2030, obra de la Stanford University. Aquest és el primer d’un total de 20 informes que pretén publicar, en els propers 100 anys, el grup de recerca que hi ha al darrera d’aquest projecte. L’objectiu és analitzar, des de diferents perspectives, el progrés i l’impacte de la intel·ligència artificial (IA) en la societat i preveure com aquest fenomen pot beneficiar els humans i proposar l’aplicació de determinades polítiques públiques.
Primer de tot, i abans d’entrar en detall amb l’informe, és imprescindible saber en què consisteix la IA. La veritat és que no hi ha una definició exacta perquè és un fenomen en constant evolució i que pren moltes direccions. No obstant això, a grans trets, podem definir la IA com la simulació dels processos de la intel·ligència humana per part de sistemes informàtics, és a dir, fer que les màquines puguin pensar, aprendre i prendre decisions. Fins fa ben poc, només integràvem instruccions a les màquines i n’esperàvem un resultat. El que s’està fent ara és induir-los l’aprenentatge, perquè aprenguin soles. Aquest procés es coneix com a Machine Learning.
El document proposa diverses polítiques públiques i camins a seguir pel que fa a la IA. Les idees més interessants són les següents:
- Encara és d’hora per regular. Els experts coincideixen en el fet que una regulació genèrica de la IA no seria efectiva, ja que no hi ha una definició exacta del que s’entén per IA i els riscos són molt diversos i d’àmbits molt diferents. Això no obstant, avisen els polítics que tard o d’hora diverses indústries requeriran regulacions específiques i apropiades al respecte. Per aquest motiu, els governs hauran de tenir la suficient experiència en la matèria com per examinar les tecnologies desenvolupades pel sector privat i públic i elaborar reglaments quan sigui necessari.
- Cal no fomentar por. Davant dels profunds canvis que les tecnologies de la IA poden produir a la societat, la pressió per una regulació restrictiva d’aquesta és, gairebé, inevitable. El desconeixement del que en veritat és la IA, sobretot en un context de por, podria alimentar l’oposició a tecnologies que podrien beneficiar-nos a tots. Això seria un tràgic error. La regulació que sufoca la innovació o la trasllada a altres jurisdiccions seria igualment contraproduent.
- Governança eficaç. És clau definir un camí dirigit a l’acumulació d’experiència tècnica en IA en tots els nivells de govern. Una governança eficaç requereix més experts, en l’àmbit de l’Administració pública, que entenguin i analitzin aquest fenomen. Així doncs, és fonamental disposar de funcionaris amb experiència tècnica en aquesta matèria per tal de tractar com cal un tema tan transcendent com aquest.
- Obrir el debat. A l’igual que moltes altres tecnologies, la IA té el potencial per ser utilitzada amb bons o mals propòsits. Un vigorós i informat debat sobre com gestionar millor la IA de forma que jugui a favor nostre, és a dir, que enriqueixi les nostres vides i la societat en general és una necessitat urgent i vital.
- Implicacions i beneficis. En els propers anys, a mesura que vagin sorgint noves aplicacions d’IA, serà fonamental que aquestes siguin introduïdes al nostre dia a dia en formes que fomentin la confiança i la comprensió i respectin els drets humans i civils. Aquestes aplicacions hauran de tenir implicacions ètiques, de privacitat i de seguretat, i s’haurà d’assegurar que els seus beneficis s’expandeixen de forma àmplia i justa.
- Increment del finançament. Cal incrementar el finançament públic i privat per al desenvolupament d’estudis interdisciplinaris sobre l’impacte social de la IA, amb la creació d’equips d’analistes que donin resposta a les qüestions que planteja aquest fenomen.
Personalment, crec que la intel·ligència artificial és un fenomen potentíssim, però a l’hora delicat, del qual, com a humans, n’hem de tenir cura. Seria convenient, com bé diu l’informe, no regular de forma restrictiva les aplicacions que sorgeixin d’aquesta tecnologia, però considero que, com a mínim, hi ha d’haver un cert control de les empreses que hi ha al darrere: qui, què i per què? No hem d’oblidar el possible escenari d’una súper IA, és a dir, el sorgiment d’una intel·ligència superior a la nostra, la dels humans. En aquest sentit, alguns experts afirmen que la IA podria ser l’últim invent creat per l’home. Per tant, pot ser que la IA es reguli ella sola si s’arriba a tal estadi? Podria ser, sí.
Així doncs, ja que estem creant una cosa que pot esdevenir súper intel·ligent i autònoma, ens hem d’assegurar que, com a mínim, el seu sistema de valors i sistema moral és el mateix que el nostre. És, doncs, un tema prou important i transcendent com per ser recollit a les estratègies de seguretat nacional dels estats. Tot i això, cal que quedi clar, però, que la IA està per servir-nos i així ho farà (de fet, ja ho està fent) si fem les coses bé i això implica, entre altres coses, portar a terme els 6 punts citats de l’informe.
Marc Valls Estefanell
Expert legal en drons i màquines autònomes i soci, director jurídic i director d’Educació i Polítiques Públiques d’Unblur