Us enviem la nota de premsa de la xarxa IA Ciudadana, on Lafede.cat formem part, sobre el nou informe en relació a com aconseguir transparència en els registres d'algoritmes.

La coalició IA Ciutadana demana al Govern espanyol un registre central d'algoritmes transparent per evitar discriminacions de la intel·ligència artificial

Madrid, 19 de març de 2025. Rebre una ajuda social. Entrar en un procés de selecció per a un lloc de feina. Optar a un crèdit. Totes aquestes situacions quotidianes ja estan dominades pels algoritmes. A l'Administració Pública es fan servir cada vegada més per a la presa de decisions que ens afecten, però no és possible supervisar-ne les implicacions, que poden arribar a ser molt greus. Per exemple, 55 dones van ser assassinades després que els seus casos es consideressin de risc baix pel sistema VioGen, que utilitza un sistema d'avaluació automatitzat. També hi ha centenars de joves afectats per “distorsions” de l'algoritme amb què el Districte Únic Andalús calcula les posicions a les llistes d'entrada als graus universitaris. No és una qüestió de tecnologia, sinó de drets.

Davant d'aquesta situació, les 17 organitzacions unides a la plataforma IA Ciutadana demanen al Govern espanyol la creació d'un Registre Central d'Algoritmes, les característiques del qual han detallat en un estudi que s'acaba de publicar i que inclou 12 recomanacions. Aquest registre ha de ser obligatori, dissenyat en col·laboració amb la societat civil, transparent i accessible. A més, ha d'incloure tots els sistemes algorísmics utilitzats per l'administració pública basats en regles i patrons. Dels registres d'aquest tipus que hi ha a països europeus, el dels Països Baixos és el més avançat.

"No solucionarem la crisi de la democràcia ocultant els seus mecanismes. És necessari ser ambiciosos i millorar els requisits del Reglament d'IA de la Unió Europea, perquè exclou del registre obligatori els sistemes que considera de baix risc i limita sectors crítics que van des de les forces de seguretat i el control de fronteres fins al sector financer", afirma Anabel Arias, responsable de drets digitals a la Federació de Consumidors i Usuaris CECU. Tampoc no ofereix informació detallada, com ara codis font i dades d'entrenament, ni els proveïdors externs, informació essencial per solucionar efectes discriminatoris no desitjats i reparar les víctimes.

"L'aprovació de l'Avantprojecte de Llei per a la Governança i el Bon Ús de la Intel·ligència Artificial, anunciat aquesta setmana pel Govern espanyol, és una gran oportunitat per crear aquest registre. Esperem que s'inclogui en el seu disseny les organitzacions de la societat civil", afegeix David Cabo, codirector de Civio.

El paper del legislatiu és també important, i per això IA Ciutadana demana al Parlament espanyol la creació d'una comissió parlamentària sobre transparència algorítmica, a més de que exigeixi al Govern espanyol que informi sobre aquest tema almenys una vegada a l'any a la seu de la sobirania popular, entre altres demandes.

L’Estat espanyol va anunciar aviat plans i estratègies per reforçar la transparència tant al sector públic com al privat. El 2021, el Govern espanyol va aprovar la Carta de Drets Digitals, convertint-se en el primer Estat europeu en reconèixer aquest conjunt de proteccions per a la ciutadania a l'esfera digital. També es va anunciar l'Estratègia Nacional d'Intel·ligència Artificial, que en la versió del 2024 parla d'una ”Intel·ligència Artificial transparent, responsable i humanista”, però continua sense tancar-se. Tampoc no s'ha presentat el V Pla de Govern Obert 2024-2028, que inclou la “Governança Digital” com una àrea de reforma.

Davant la manca d'acció o l'obstrucció directa per part de les administracions, els mitjans de comunicació i la societat civil són els que estan prenent les regnes en la lluita per la transparència algorítmica, amb investigacions i denúncies davant els tribunals. Les nostres recomanacions permeten precisament a acadèmics, periodistes i ONG dur a terme la tasca de fiscalització dels poders públics.

Així ha passat amb el sistema de rastreig de baixes laborals per part de la Seguretat Social, qüestionat per una investigació en què es van aliar una ONG i un mitjà de comunicació, o la demanda perquè s'aclareixi com el programa BOSCO concedeix el bo social, que ha arribat al Tribunal Suprem. Com una taca d'oli, els riscos s'estenen a les comunitats autònomes: a Galícia una IA influirà en els processos de cerca pública d'ocupació sense que sapiguem si s'ha entrenat per evitar discriminacions per sexe o raça.

La iniciativa reguladora la protagonitzen les comunitats autònomes, entre les quals destaquen la Comunitat Valenciana i Catalunya, que han proposat mesures per ampliar l'accessibilitat als sistemes d'IA que afecten la vida quotidiana dels ciutadans. Alhora, Galícia, Astúries, Extremadura, o recentment el País Basc, han aprovat o estan en procés d'aprovar regulacions, encara que no totes proposen la creació de registres.

És una coalició de 17 organitzacions que treballen per defensar els drets humans en el context de les tecnologies digitals. El nostre objectiu és ampliar els espais de participació de la societat en la regulació i en la governança de la intel·ligència artificial i els algorismes, a fi d'aconseguir que aquestes tecnologies protegeixin les persones i promoguin la justícia social. Hi ha 14 organitzacions participants (Civio, Political Watch, Algorace, TAS, Ètiques, LaFedeCat, Komons, Digital Fems, Institut de Drets Humans de Catalunya, Algorights, Irídia, Novact, CECU i Oxfam Intermón). Com a observadores, actuen Amnistia Internacional, Secretariat Gitano i X Net.

Àrea de Comunicació transformadora
Lafede.cat – Organitzacions per a la Justícia Global
C.Tàpies, 1-3, 08001 Barcelona | T. 93 442 28 35 |www.lafede.cat

En compliment del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d’abril de 2016 (RGPD), l’ informem que les dades que figuren en aquesta comunicació estan incloses en els sistemes d’informació propietat de Lafede.cat. Pot exercir els drets d’accés, rectificació, oposició, limitació, portabilitat o cancel·lació, a l’adreça electrònica informacio@lafede.cat. Pot accedir a més informació consultant la política de privacitat.

Aquest missatge i els fitxers annexos que pugui incloure són confidencials, poden contenir informació sotmesa a secret professional i es dirigeix exclusivament al seu destinatari. Si ha rebut aquest missatge per error o se li ha fet arribar per qualsevol motiu, li preguem que ens ho comuniqui immediatament per aquest mateix mitjà i s'abstingui d'utilitzar-lo, reproduir-lo, alterar-lo, arxivar-lo o comunicar-lo a tercers.

Segueix- nos a: