Hola,

Us enviem la nota de premsa de la xarxa IA Ciudadana, on Lafede.cat formem part, sobre el nou informe en relació a com aconseguir transparència en els registres d'algoritmes.

Adjuntem nota de premsa.

Per qualsevol dubte estem a la vostra disposició.

Salutacions.

*

Informe en castellà https://iaciudadana.org/wp-content/uploads/2025/03/Informe_ES.pdf

*

Informe en https://iaciudadana.org/wp-content/uploads/2025/03/Report.pdfanglès.

*

Policy brief sobre Espanya https://iaciudadana.org/wp-content/uploads/2025/03/Policy-Brief-ESP.pdf

---

La coalició IA Ciutadana demana al Govern espanyol un registre central d'algoritmes transparent per evitar discriminacions de la intel·ligència artificial

*

Un informe elaborat per aquesta plataforma analitza 39 registres d'algoritmes, 5 dels quals són bases de dades nacionals, com les de França, Regne Unit i Països Baixos

*

La Policia, la Justícia i els serveis d'ocupació, a més de la banca o les assegurances, ja utilitzen mecanismes automàtics que provoquen indefensió a la població

*

A Espanya, Catalunya, el País Valencià i el País Basc, estan entre les comunitats que ja estan avançant en aquest sentit

Madrid, 19 de març de 2025. Rebre una ajuda social. Entrar en un procés de selecció per a un lloc de feina. Optar a un crèdit. Totes aquestes situacions quotidianes ja estan dominades pels algoritmes. A l'Administració Pública es fan servir cada vegada més per a la presa de decisions que ens afecten, però no és possible supervisar-ne les implicacions, que poden arribar a ser molt greus. Per exemple, 55 dones van ser assassinades després que els seus casos es consideressin de risc baix pel sistema VioGen, que utilitza un sistema d'avaluació automatitzat. També hi ha centenars de joves afectats per “distorsions” de l'algoritme amb què el Districte Únic Andalús calcula les posicions a les llistes d'entrada als graus universitaris.No és una qüestió de tecnologia, sinó de drets.

Davant d'aquesta situació, les 17 organitzacions unides a la plataforma IA Ciutadana https://iaciudadana.org/demanen al Govern espanyol la creació d'un Registre Central d'Algoritmes, les característiques del qual han detallat en un estudi que s'acaba de publicar https://iaciudadana.org/wp-content/uploads/2025/03/Informe_ES.pdfi que inclou 12 recomanacions. Aquest registre ha de ser obligatori, dissenyat en col·laboració amb la societat civil, transparent i accessible. A més, ha d'incloure tots els sistemes algorísmics utilitzats per l'administració pública basats en regles i patrons. Dels registres d'aquest tipus que hi ha a països europeus, el dels Països Baixos és el més avançat.

"No solucionarem la crisi de la democràcia ocultant els seus mecanismes. És necessari ser ambiciosos i millorar els requisits del Reglament d'IA de la Unió Europea, perquè exclou del registre obligatori els sistemes que considera de baix risc i limita sectors crítics que van des de les forces de seguretat i el control de fronteres fins al sector financer", afirma Anabel Arias, responsable de drets digitals a la Federació de Consumidors i Usuaris CECU. Tampoc no ofereix informació detallada, com ara codis font i dades d'entrenament, ni els proveïdors externs, informació essencial per solucionar efectes discriminatoris no desitjats i reparar les víctimes.

"L'aprovació de l'Avantprojecte de Llei per a la Governança i el Bon Ús de la Intel·ligència Artificial, anunciat aquesta setmana pel Govern espanyol, és una gran oportunitat per crear aquest registre. Esperem que s'inclogui en el seu disseny les organitzacions de la societat civil", afegeix David Cabo, codirector de Civio.

El paper del legislatiu és també important, i per això IA Ciutadana demana al Parlament espanyol la creació d'una comissió parlamentària sobre transparència algorítmica, a més de que exigeixi al Govern espanyol que informi sobre aquest tema almenys una vegada a l'any a la seu de la sobirania popular, entre altres demandes https://iaciudadana.org/wp-content/uploads/2025/03/Policy-Brief-ESP.pdf.

Estat espanyol: els retards d'un país que va voler ser pioner

L’Estat espanyol va anunciar aviat plans i estratègies per reforçar la transparència tant al sector públic com al privat. El 2021, el Govern espanyol va aprovar la Carta de Drets Digitals, convertint-se en el primer Estat europeu en reconèixer aquest conjunt de proteccions per a la ciutadania a l'esfera digital. També es va anunciar l'Estratègia Nacional d'Intel·ligència Artificial, que en la versió del 2024 parla d'una ”Intel·ligència Artificial transparent, responsable i humanista”, però continua sense tancar-se. Tampoc no s'ha presentat el V Pla de Govern Obert 2024-2028, que inclou la “Governança Digital” com una àrea de reforma.

Davant la manca d'acció o l'obstrucció directa per part de les administracions, els mitjans de comunicació i la societat civil són els que estan prenent les regnes en la lluita per la transparència algorítmica, amb investigacions i denúncies davant els tribunals. Les nostres recomanacions permeten precisament a acadèmics, periodistes i ONG dur a terme la tasca de fiscalització dels poders públics.

Així ha passat amb el sistema de rastreig de baixes laborals per part de la Seguretat Social, qüestionat per una investigació en què es van aliar una ONG i un mitjà de comunicació, o la demanda perquè s'aclareixi com el programa BOSCO concedeix el bo social, que ha arribat al Tribunal Suprem. Com una taca d'oli, els riscos s'estenen a les comunitats autònomes: a Galícia una IA influirà en els processos de cerca pública d'ocupació sense que sapiguem si s'ha entrenat per evitar discriminacions per sexe o raça.

La iniciativa reguladora la protagonitzen les comunitats autònomes, entre les quals destaquen la Comunitat Valenciana i Catalunya, que han proposat mesures per ampliar l'accessibilitat als sistemes d'IA que afecten la vida quotidiana dels ciutadans. Alhora, Galícia, Astúries, Extremadura, o recentment el País Basc, han aprovat o estan en procés d'aprovar regulacions, encara que no totes proposen la creació de registres.

Més informació sobre situacions de risc documentades,en aquest enllaç https://iaciudadana.org/2025/03/14/como-sabemos-que-los-algoritmos-que-usan-las-administraciones-publicas-cumplen-su-objetivo/.

MATERIALS

*

Informe en castellà https://iaciudadana.org/wp-content/uploads/2025/03/Informe_ES.pdf

*

Informe en https://iaciudadana.org/wp-content/uploads/2025/03/Report.pdfanglès.

*

Policy brief sobre Espanya https://iaciudadana.org/wp-content/uploads/2025/03/Policy-Brief-ESP.pdf

IA Ciudadana

És una coalició de 17 organitzacions que treballen per defensar els drets humans en el context de les tecnologies digitals. El nostre objectiu és ampliar els espais de participació de la societat en la regulació i en la governança de la intel·ligència artificial i els algorismes, a fi d'aconseguir que aquestes tecnologies protegeixin les persones i promoguin la justícia social. Hi ha 14 organitzacions participants (Civio, Political Watch, Algorace, TAS, Ètiques, LaFedeCat, Komons, Digital Fems, Institut de Drets Humans de Catalunya, Algorights, Irídia, Novact, CECU i Oxfam Intermón). Com a observadores, actuen Amnistia Internacional, Secretariat Gitano i X Net.

CONTACTES DE PREMSA

Judith Membrives y Llorens

Lafede.cat / 93 442 28 35

jmembrives@lafede.cat mailto:jmembrives@lafede.cat

Celia Zafra

Political Watch

celia.zafra@politicalwatch.es mailto:celia.zafra@politicalwatch.es/ 630 033 112

Nieves Rodeiro

Federación de Consumidores y Usuarios CECU

Telf. 657 50 47 12 / 91 364 13 84

nieves.rodeiro@cecu.es mailto:nieves.rodeiro@cecu.es/ comunicacion@cecu.es mailto:comunicacion@cecu.es

Javier de Vega

Civio

javier@civio.es mailto:javier@civio.es/ 650 074 421

Ana Gómez

Amnistía Internacional

agomez@es.amnesty.org mailto:agomez@es.amnesty.org/ 650 347 765