Quina és la seva tasca?
Com que entenc com funciona la tecnologia, sé quines són les implicacions a la societat. La IA conté dades esbiaixades, ja que a l’hora de dissenyar-la s’ha entrenat amb l’objectiu que el sistema prengui millors decisions. Per exemple, Amazon ho va fer servir per destriar currículums, i per fer-ho van fer servir dades del passat. D’aquesta manera, només fitxaven homes blancs i enginyers.
En quin punt es troba la regulació al món en IA? A Andorra amb el codi ètic n’hi ha prou o s’hauria d’aprovar alguna llei?
Els països més avançats són els de la Unió Europea, perquè disposen d’un reglament vinculant que determina, en funció del grau de risc, com es pot fer servir. Per exemple, l’eina no pot fer un diagnòstic mèdic i tampoc una hipoteca. En el cas d’Andorra, hem començat amb un codi ètic que inclou recomanacions de valors i guies per a una bona utilització. Veurem si això és suficient, perquè encara hi ha molt poca implantació de la IA al país, tot i que a l’administració hi estem treballant, però encara és poc el que hi tenim. L’èxit d’aquesta mesura veurem si condiciona regulacions a futur.
Però s’hauria d’aprovar alguna llei a Andorra?
Hi ha 143 països que tenen algun tipus de regulació amb algun aspecte associat a la IA, sobretot en transparència i explicabilitat. Aquestes regulacions no tenen per què ser lleis, de manera que Andorra hi entraria amb el codi ètic. A partir d’aquí, l’important seria que veiem com s’aplica el codi ètic i l’impacte que té a la societat. Si fas una regulació molt estricta, només la poden complir un petit grup d’empreses. Però va bé que ens emmirallem amb el treball que es fa en organismes com el Consell d’Europa o la Unesco. De fet, el codi ètic ja ho té en compte. Sí que és cert que en alguns casos és millor que hi hagi certa vinculació, en el sentit que et puguin denunciar al batlle si no es fa determinada acció. El codi ètic ho acull, però no és el mateix una recomanació que una llei.
Per què creu que avui en dia hi ha poca implantació de la IA al país?
La tecnologia és relativament nova en la seva aplicació actualment. No pots posar una nova eina si no tens un mínim a les empreses en digitalització. Per exemple, imagina que al diari Bondia vols fer servir una eina d’IA per millorar la qualitat de les fonts i no tens connexió a Internet.
Així doncs, primer hauria de culminar el procés de digitalització?
Tant com culminar no, però va tot lligat. És molt difícil i no té sentit començar la casa per la teulada.
Això ens fa ser un país endarrerit?
Digitalitzar les empreses és necessari i és positiu, fa augmentar la competitivitat i millora les operacions, que són més transparents i explicables, però no fan falta eines d’IA a tot arreu, hi ha processos en què no és ni necessari ni tampoc recomanable. Des d’un punt de vista humanista, quan vas a demanar una hipoteca és important parlar amb una persona. I el mateix amb l’assistència mèdica o social, tot i que també ho podria amplificar.
Hi ha massa riscos?
En alguns casos sí, i aquí hi entraria la regulació i tots els aspectes vinculats amb els drets humans. Si parlem de la premsa, les eines d’IA tenen un algoritme al darrere que pot determinar quina informació es fa pública. A Twitter, per exemple, t’orienten cap a un costat i no són neutres, i això ens ho hem de plantejar, perquè en algun cas pot determinar el sentit d’unes eleccions. A Andorra encara estem relativament protegits, perquè la política es fa al carrer, hi ha certa proximitat, però als països grans no és així. Ara bé, correm altres riscos, i és que les eines d’IA estan pensades per a cultures majoritàries. Tot el que ens arriba al mòbil sol ignorar tot allò que és minoritari. Així, la nostra expressió com a comprensió del nostre entorn es veu disminuïda perquè tot el que veiem als dispositius està esbiaixat.
En l’àmbit de la llengua, s’hauria de lluitar conjuntament amb la resta de territoris de parla catalana, tot i que alguns governs no són precisament proclius?
Sí. A les Balears i al País Valencià no només són els governs, sinó que hi ha un conjunt d’entitats culturals i socials que entenen que la llengua és la seva forma d’expressió i no com una cosa política. Andorra té un rol rellevant, perquè és l’únic Estat que té com a única llengua oficial el català, i això et dona visibilitat i representació a molts llocs.
Però què cal fer?
Primer, parlar-nos. Entre territoris de parla catalana ens hem de parlar més per les implicacions del context digital. Una cosa que hem fet és el monitoratge de l’ús del català en l’entorn digital. Ja es fa a Catalunya i a les Balears, i és com el català està posicionat en les cerques a internet. Hi va haver un problema amb Google i es va solucionar.
Quina és la presència del català en la IA?
Molt poca, ínfima. Hem de fer que el català sigui rellevant, i això s’aconsegueix si el fem servir en les nostres interaccions digitals, una tasca que correspon als ciutadans. Les institucions el que han de fer és influir en els fòrums on tenen veu. Han d’aixecar la bandera que, en el context digital, les llengües minoritàries són importants, i això Andorra ho fa. A cada fòrum on anem, ho diem, i no només parlem del català, sinó de les altres llengües minoritàries. A les institucions internacionals això s’escolta i es té en compte. Per exemple, a la regulació del Consell d’Europa i de la Unesco així ha estat perquè ho hem dit, no queda en un calaix i ja està. Ara bé, el poder en el món digital no el tenen els estats, sinó les empreses, així que has de ser rellevant per a les empreses. Això des d’Andorra és complicat, perquè som un petit Estat, però si sumes tots els territoris de parla catalana, ja som bastants més. El contenciós amb Google l’ha tingut també Estònia, Finlàndia o Suècia. El que ajuda a les empreses grans és donar lògiques empresarials, a partir del mercat i els clients, i que ho pugui monetitzar.
Cal anar de la mà d’altres idiomes?
Clar, és important, perquè en cas contrari quedem diluïts. Ens hem d’acompanyar dels altres, ja que si no cadascú farà la guerra pel seu compte.
Quin paper hi té Andorra com a país?
Com a Estat? El rol que tenim és que podem fer d’altaveu en els organismes internacionals. És molt positiu que el cap de Govern parli en català a l’ONU, ja que Andorra ha de seguir reivindicant la seva cultura i llengua.
Quines són les dues principals oportunitats i riscos de la IA?
Un dels dos avantatges principals és que pot amplificar un conjunt de capacitats i funcionaments que són positius per a la societat. Per exemple, pot ajudar Afers Socials a ser més ràpids i eficients a decidir qui es beneficia d’una ajuda. També augmenta l’eficiència i operativitat de les empreses. Ara bé, els riscos són que en alguns casos hi ha alguns aspectes que van en contra dels drets humans, i que aquesta tecnologia no és neutra, perquè sempre hi ha una intenció darrere. Per què hi ha més eines que et serveixen per recomanar-te productes que per detectar malalties minoritàries a països del centre de l’Àfrica? Com que es busca monetitzar, hi ha un biaix, tot i que són diferents.
Ara a Andorra hi ha poca implantació. Amb poc temps es revertirà i estarà molt present?
Encara que no ens ho sembli, ja hi és en el nostre dia a dia. Amb el dispositiu mòbil, ja està afectant la manera com accedim a la informació, amb múltiples eines d’intel·ligència artificial al darrere. Ara bé, en el futur aquestes eines estaran presents cada vegada més de forma més conscient. Probablement, l’Administració pública la farà servir per ser més eficient en el servei al ciutadà.
No hi haurà tantes cues al Servei de Tràmits?
No sé si hi haurà cues a Tràmits, no hi entraré, però podria ser una opció. Per exemple, l’Agència Tributària holandesa va posar un sistema per detectar frau en els ciutadans, perquè no tenen prou recursos per analitzar-ho. Va entrar en el sistema amb dades del passat, i evidentment va detectar molt de frau. L’agència va demanar als ciutadans que demostressin que no s’equivocaven, i no al revés. Què va passar? Que el sistema era molt esbiaixat perquè totes les persones que tenien doble nacionalitat eren susceptibles de cometre frau, perquè en el passat, totes les persones que havien comès frau, una bona part tenien doble nacionalitat. L’administració tributària holandesa no tenia cap mala llet, però a l’hora d’implantar un sistema no va tenir en compte els drets bàsics.
Per acabar, digui’m una cosa que, d’aquí a poc, farem d’una manera molt diferent a com la fem ara, gràcies a la IA?
Les cerques a internet. Ara anem a Google i posem “busca’m un hotel per anar de viatge on sigui”. Tot això ho farem amb un model de llenguatge en una mena de caixeta en què li diràs “vull anar a Mallorca, de tal dia a tal dia, busca’m un hotel que estigui per aquesta zona, no més de tants diners, que sigui de quatre estrelles...
Això ho pots fer ara amb el Booking, oi?
Ara comences, però t’ho fas tu, es tracta que li diguis i que no hagis de posar-ho tu dins de les seves caixetes.