Notícies
Els ombudsman fan un crit d’alerta sobre intel·ligència artificial i drets humans
Consideren necessari i urgent regular en els tractats internacionals la garantia dels drets humans, que poden ser lesionats per l’aplicació de la intel·ligència artificial
Les jornades han aplegat institucions, experts, representants d’empreses, ombudsman, defensors i representats d’estructures de drets humans
Els dies 2 i 3 de març s’ha celebrat el Seminari Internacional sobre Intel·ligència Artificial i Drets Humans: reptes, rols i eines de les institucions de l’Ombudsman, organitzat per l’Institut Internacional de l’Ombudsman (IOI) i el Síndic de Greuges de Catalunya al Museu del Disseny Hub de Barcelona. Les jornades han tingut un total de cinc taules rodones que tenien com a eix vertebrador la intel·ligència artificial i la importància de l’aplicació i la reglamentació en matèria de drets humans dins aquest camp.
Durant la inauguració del seminari s’ha destacat la importància del paper que han de desenvolupar els ombudsman en matèria de drets humans i intel·ligència artificial, tal com ha explicat Rafael Ribó, síndic de greuges de Catalunya, que ha remarcat la necessitat d’un nou humanisme tecnològic per establir els drets digitals com a drets humans. Per la seva banda, Pablo Martín, sotssecretari del Ministeri de Ciència i Innovació, ha destacat la importància i el lideratge de Catalunya i Barcelona en el camp de la IA.
La primera taula rodona s’ha centrat en les realitats i els límits de la intel·ligència artificial, i s’han plantejat els elements primordials que la configuren i un anàlisis de les incidències positives i negatives, amb la repercussió que poden tenir sobre els nostres drets. Durant la sessió, Andreas Pottakis, ombudsman de Grècia, ha subratllat que la IA es pot convertir en un límit per a la llibertat d’expressió fins al punt que pot arribar a prendre decisions per nosaltres i canviar així la forma en què vivim. En aquesta línia, resulta indispensable assegurar la confiança com a punt clau per la seva adopció. A banda, Carina Lopes, cap de la Digital Future Society Think Tank, ha fixat com a objectius per a l’adopció de la IA una acció reguladora, la innovació pública i el suport i la reparació ciutadana.
A la segona sessió del seminari, “De la societat analògica a la digital”, s’han posat en relació els elements com a pilars fonamentals dels sistemes de llibertats i drets, com ara l’exercici de la democràcia. Durant la sessió, Renata Ávila, directora executiva de la Fundación Ciudadano Inteligente, ha encomanat als ombudsmans la tasca de ser pioners del futur marcant les bases legals de la IA. A més, José María Lassalle, director del Foro de Humanismo Tecnológico d’ESADE, ha parlat de la importància d’una nova generació de drets per pal·liar els efectes negatius de l’evolució tecnològica. Daniel Innerarity, catedràtic de Filosofia Política de la Universitat del País Basc i membre de l’Iberbasque Foundation for Science, ha subratllat la funció dels algoritmes i els seus biaixos inevitables.
Dimarts 3 de març del 2020
La primera part de la taula rodona “Drets, reptes, qüestions fonamentals. Institucions Internacionals i definicions” ha tractat l’aproximació sectorial aplicant la teoria i el debat de les sessions anteriors a les diferents matèries que incideixen dins la nostra societat. Per exemple, en l’àmbit de salut, Josep Maria Argimon, director gerent de l’Institut Català de la Salut, ha explicat la importància de complir els estàndards pel que fa a les dades per dur bones pràctiques: considera que han de ser vàlides, no esbiaixades, transparents i respectuoses. Ángel Gómez de Ágreda, coronel d’aviació i cap de l’Àrea d’Anàlisi Geopolítica de la Secretaria de Política de Defensa del Ministeri de Defensa, en matèria de ciberseguretat, va plantejar que els algoritmes ens reflecteixen tal com som, i aquest fet ens genera por. D’altra banda, Liliana Arroyo, experta en transformació digital, ha exposat les discriminacions de l’aplicació de la IA pel fet de ser un amplificador de l’imaginari social i Itziar de Lecuona, subdirectora de l’Observatori de Bioètica i Dret, ha qüestionat la falta d’anonimat de la societat davant la importància de protegir les persones a través de les seves dades.
Pel que fa als tractats internacionals, s’han presentat els diferents punts de vista dels representants d’organismes europeus que tenen la missió de protegir els drets i fer-los complir. Gregor Strojin, president del CAHAI (el Comitè Ad Hoc sobre Intel·ligència Artificial del Consell d’Europa), ha exposat que no tot el que és factible en tecnologia és acceptable des d’una perspectiva de drets humans. Per la seva banda, Geraldine Mattioli–Zeltner, assessora a la Comissària Europea de Drets Humans del Consell d’Europa, n’ha donat una visió positiva afirmant les potencialitats que té la IA a favor dels drets humans i Peter Bonnor, jurista principal de l’Ombudsman Europeu, ha animat a aprofitar l’oportunitat de participar a l’hora de legislar sobre la IA. Martha Stickings, de l’Agència de Drets Fonamentals de la UE (FRA), ha posat l’accent en la validesa i l’obligatorietat dels tractats i les lleis davant el caràcter voluntari dels codis d’ètica.
L’última sessió del seminari, centrada en els rols, reptes i oportunitats per a les institucions d’ombudsman, s’han tractat els diferents punts de vista i experiències dels ombudsman de tot Europa. Durant la sessió, Quirine Eijkman, comissària i vicepresidenta de l’Institut Neerlandès dels Drets Humans, ha interpel·lat els ombudsman a l’hora d’implicar-se més en l’anàlisi en matèria d’IA i dels algoritmes. Rob Behrens, ombudsman del parlamentari del sistema sanitari del Regne Unit, ha afirmat que al seu país encara no se senten gaire còmodes utilitzant la IA i que cal avançar en les potencialitats que pot oferir. I Eric Houtman, ombudsman federal belga i membre de la NEON, ha posat el focus en la IA relacionada amb les necessitats energètiques i els seus avantatges en aquest aspecte.
Pel que fa a les conclusions, que han anat a càrrec d’Ulises Cortés, professor i investigador titular de la UPC, Barcelona Supercomputing Center (BSC) acompanyat de la moderadora Catherine De Bruecker, ombudsman federal belga. Cortés ha destacat els avantatges de la IA i ha animat a utilitzar-la com una extensió de les habilitats humanes, tot destacant la importància del sector privat a l’hora d’implementar polítiques ètiques en IA que integrin els drets humans per vetllar per la seguretat de les persones.
Rafael Ribó, síndic de Greuges de Catalunya, ha destacat que el concepte de drets humans va més enllà de les lleis i ha lloat l’IOI pel camí que està fent en matèria de drets humans i intel·ligència artificial. Daniel Marco, director general d’Innovació i Economia Digital de la Generalitat de Catalunya, ha sintetitzat el concepte d’IA com a bé comú, transparent i per a les persones.
El primer Seminari sobre Intel·ligència Artificial i Drets Humans organitzat pel Síndic de Greuges de Catalunya i l’IOI ha aconseguit aplegar diferents ponents institucionals, experts, ombudsman, defensors i representants d’estructures de drets humans per reflexionar i exposar diferents punts de vista sobre la intel·ligència artificial, tot prioritzant el factor humà i la importància dels drets humans. El Síndic de Greuges ha agraït tota la col·laboració rebuda per part del BSC-CNS (Barcelona Supercomputing Center) i del Digital Future Society (del Mobile World Capital), i també l’esponsorització per part de La Caixa.
