A partir de 2026, se exigirá el análisis de los diferentes sistemas de inteligencia artificial antes de su implementación
A partir de agosto de 2026, los operadores que utilicen sistemas de inteligencia artificial clasificados como “de alto riesgo” (como entidades financieras, aseguradoras o administraciones públicas) estarán obligados a realizar una evaluación previa de su impacto sobre los derechos fundamentales, según recoge el artículo 27 del nuevo Reglamento Europeo de Inteligencia Artificial.
La medida busca prevenir abusos y garantizar que la tecnología no vulnere derechos esenciales como la igualdad, la no discriminación o el acceso a la información. Sin embargo, un reciente informe elaborado para la Federación de Consumidores y Usuarios (CECU), en colaboración con la coalición IA Ciudadana, alerta de que estas evaluaciones podrían convertirse en “un mero paso burocrático” si no se aplican con garantías de transparencia, participación social y supervisión independiente.
En esta línea, Anabel Arias, responsable del Área de Derechos Digitales de CECU, advierte de que ya existen antecedentes preocupantes en Europa. Entre ellos, destaca el caso del sistema SyRI en Países Bajos, un algoritmo que detectaba fraude fiscal y que “discriminaba a población migrante y racializada”, llegando a generar graves consecuencias personales, incluso suicidios.
En España también se han detectado situaciones similares. Arias menciona el caso Riscambi, que calcula el riesgo de reincidencia de personas reclusas, o el algoritmo Bosco, utilizado para gestionar el bono social eléctrico, que recientemente fue objeto de una sentencia del Tribunal Supremo que exige su apertura al escrutinio público.
El informe de CECU propone una hoja de ruta para asegurar que las evaluaciones no sean un simple trámite. “Debe hacerse un análisis previo real y consciente de los posibles impactos”, insiste Arias, quien subraya la necesidad de que estas evaluaciones estén disponibles públicamente y cuenten con participación activa de la ciudadanía.
ENTREVISTA A ANABEL ARIAS – RESPONSABLE DEL ÁREA DE DERECHOS DIGITALES DE CECU
Podcast: Reproducir en una nueva ventana | Descargar (Duración: 8:46 — 20.1MB)
