Herramientas IA usadas por Policía Nacional y Guardia Civil

I. ANTECEDENTES

1. Según se desprende de la documentación obrante en el expediente, el 5 de noviembre de 2024 la entidad reclamante solicitó al MINISTERIO DEL INTERIOR, al amparo de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno (en adelante, LTAIBG), la siguiente información:

«Listado de herramientas de inteligencia artificial, incluyendo algoritmos predictivos de delincuencia, herramientas de identificación biométrica, transcripción y análisis de texto y audio u otro tipo de herramientas, usada actualmente por Policía Nacional y Guardia Civil, señalando fecha de comienzo de uso, entidad encargada del desarrollo de la herramienta, y, en el caso de que se disponga de la siguiente información, número de veces que se ha utilizado por mes desde la fecha de implementación y estadísticas sobre resultado de uso».

2. Mediante resolución del Ministerio de 12 de diciembre de 2024 se informa al reclamante de lo siguiente:

Número y fecha de resolución: indicados al margen.
Número de expediente: 2189/2024
Reclamante: FUNDACION CIUDADANA CIVIO.
Organismo: MINISTERIO DEL INTERIOR.
Sentido de la resolución: Desestimatoria.
Palabras clave: seguridad, inteligencia artificial, disconformidad, arts. 13 y 24 LTAIBG.

«No se dispone de ninguna herramienta operativa en el entorno de producción que ofrezca servicios de Inteligencia Artificial».

3. Mediante escrito registrado el 16 de diciembre de 2024, la entidad solicitante interpuso una reclamación ante el Consejo de Transparencia y Buen Gobierno (en adelante, el Consejo) en aplicación del artículo 24 de la LTAIBG en la que pone de manifiesto que está disconforme con la respuesta recibida de acuerdo con lo siguiente:

«En su respuesta, el Ministerio de Interior asegura que no dispone de ninguna herramienta de este tipo. Sin embargo, esto no es correcto, ya que es de conocimiento público la existencia y uso por parte de la Policía Nacional del sistema Viogen o Veripol, que responde a la descripción del Reglamento Europeo sobre IA, que, de hecho, la incluye en el listado de IA de alto riesgo (Anexo 3 https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81079). Entendemos que el concepto de IA es confuso, pero requerimos que se responda a nuestra solicitud en base a las herramientas contempladas en este reglamento».

4. Con fecha 16 de diciembre de 2024, el Consejo trasladó la reclamación al Ministerio requerido solicitando la remisión de la copia completa del expediente derivado de la solicitud de acceso a la información y el informe con las alegaciones que considere pertinentes. El 13 de enero de 2025 tuvo entrada en este Consejo, junto al expediente, escrito en el que se señala lo siguiente:

«El Sistema de Seguimiento Integral en los casos de Violencia de Género en España (VioGén 2), gestionado por el Ministerio del Interior incorpora funcionalidades de distinto nivel, con el propósito de coordinar acciones de distintas instituciones para prevenir la reincidencia y optimizar la atención a las víctimas mediante el mejor conocimiento de sus necesidades y vulnerabilidades.
Sus objetivos son:

• Aglutinar a las diferentes instituciones públicas que tienen competencias en materia de violencia de género
• Integrar toda la información de interés que se estime necesaria
• Hacer predicción del riesgo
• Atendiendo al nivel de riesgo, realizar seguimiento y protección a las víctimas en todo el territorio nacional
• Efectuar una labor preventiva, emitiendo avisos, alertas y alarmas, a través del "Subsistema de Notificaciones Automatizadas", cuando se detecte alguna incidencia o acontecimiento que pueda poner en peligro la integridad de la víctima.

Buscando, finalmente, establecer una tupida red que permita el seguimiento y protección de forma rápida, integral y efectiva de las mujeres maltratadas, y de sus hijos e hijas, en cualquier parte del territorio nacional.
Una de las funcionalidades del Sistema corresponde a la posibilidad de utilizar, cuando y por quien corresponde, los formularios de Valoración Policial del Riesgo para conocer las necesidades de protección que tienen las víctimas en cada momento. Como en cualquier otro instrumento análogo, el algoritmo es sencillo y se construye a partir de la información matemática de los indicadores empíricos de riesgo de los formularios de valoración policial del riesgo incluidos.
Conviene aclarar al respecto de estos instrumentos, que están a disposición de los profesionales para poder desarrollar su trabajo con mayor eficacia, y por tanto, en última instancia son los agentes quienes toman las decisiones que correspondan en función de las características de cada caso. De esta forma, aunque hay acciones sobre sistemas de reglas, no se trata de un sistema automático sin supervisión ni intervención humana, sino de procedimientos que ayudan a que los expertos puedan adoptar en cada momento las mejores decisiones sobre la gestión de la seguridad de las víctimas denunciantes en función de las circunstancias y de la información disponible.
En este punto, para concretar la respuesta, previamente conviene recordar la descripción del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, que define un Sistema de IA como “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”.
En suma, es importante precisar que la AI Act o Reglamento Europeo de Inteligencia Artificial, cuando entre totalmente en vigor, establece como objeto de regulación sólo los sistemas de IA, y no otros sistemas algorítmicos o computacionales más sencillos. De este modo solo quedarían sujetos al Reglamento de IA aquellos sistemas que tengan capacidades de “inferencia”, entre los cuales los considerandos citan los sistemas de aprendizaje automático y los basados en enfoques de lógica y conocimiento, excluyéndose el “software tradicional basado en reglas definidas solo por humanos y que ejecuta automática operaciones” (considerando 6). Así, en lo referido al Sistema VioGén, no podría ser considerado un sistema algorítmico de perfilado, ni utiliza IA ni ha sido entrenado a través de machine learning u otro procedimiento de entidad similar, por lo que en ningún caso entra dentro de los sistemas de alto riesgo tal y como está establecido en el Reglamento hasta este momento. La capacidad de inferencia de un sistema de IA trasciende el tratamiento básico de datos y permite el aprendizaje, el razonamiento o la modelización (considerando 12).»

5. El 14 de enero de 2025, se concedió audiencia al reclamante para que presentase las alegaciones que estimara pertinentes; sin que, a fecha de elaborarse esta resolución se haya presentado escrito alguno.

II. FUNDAMENTOS JURÍDICOS

1. De conformidad con lo dispuesto en el artículo 38.2.c) de la LTAIBG y en el artículo 13.2.d) del Real Decreto 615/2024, de 2 de julio, por el que se aprueba el Estatuto del Consejo de Transparencia y Buen Gobierno, A.A.I., el presidente de esta Autoridad Administrativa Independiente es competente para conocer de las reclamaciones que, en aplicación del artículo 24 de la LTAIBG, se presenten frente a las resoluciones expresas o presuntas recaídas en materia de acceso a la información.

2. La LTAIBG reconoce en su artículo 12 el derecho de todas las personas a acceder a la información pública, entendiendo por tal, según dispone en el artículo 13, «los contenidos o documentos, cualquiera que sea su formato o soporte, que obren en poder de alguno de los sujetos incluidos en el ámbito de aplicación de este título y que hayan sido elaborados o adquiridos en el ejercicio de sus funciones».
De este modo, la LTAIBG delimita el ámbito material del derecho a partir de un concepto amplio de información, que abarca tanto documentos como contenidos específicos y se extiende a todo tipo de “formato o soporte”. Al mismo tiempo, acota su alcance, exigiendo la concurrencia de dos requisitos que determinan la naturaleza “pública” de las informaciones: (a) que se encuentren “en poder” de alguno de los sujetos obligados, y (b) que hayan sido elaboradas u obtenidas “en el ejercicio de sus funciones”.
Cuando se dan estos presupuestos, el órgano competente debe conceder el acceso a la información solicitada, salvo que justifique de manera clara y suficiente la concurrencia de una causa de inadmisión o la aplicación de un límite legal.

3. La presente reclamación trae causa de una solicitud, formulada en los términos que figuran en los antecedentes, en la que se pide el acceso a la lista de herramientas de Inteligencia Artificial utilizadas por la Policía Nacional y la Guardia Civil.
El organismo competente, tras ampliar el plazo para dictar resolución, acordó conceder el acceso indicando que no existe ninguna herramienta de Inteligencia Artificial en producción. Posteriormente, en fase de alegaciones, explica las características de la herramienta VioGen, aludida en la reclamación, y los motivos por los que se considera que no se trata de una herramienta de IA en el sentido previsto por el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (en adelante, el Reglamento europeo de Inteligencia Artificial).
En las alegaciones no se hace referencia a la aplicación VeriPol, que junto con VioGen es expresamente mencionada por la entidad interesada en su reclamación, en el sentido de indicar que se trata de dos herramientas que considera que constituyen sistemas de IA de alto riesgo de las contempladas en el Anexo III del Reglamento europeo de Inteligencia Artificial, y que por tanto tenían que haber sido incluidas por el Ministerio del Interior en la resolución.

4. Antes de entrar a examinar el fondo de asunto, procede recordar que el artículo 20.1 LTAIBG dispone que:

«[l]a resolución en la que se conceda o deniegue el acceso deberá notificarse al solicitante y a los terceros afectados que así lo hayan solicitado en el plazo máximo de un mes desde la recepción de la solicitud por el órgano competente para resolver. Este plazo podrá ampliarse por otro mes en el caso de que el volumen o la complejidad de la información que se solicita así lo hagan necesario y previa notificación al solicitante».

Consta en el expediente que, en este caso, el órgano competente si bien notificó el acuerdo de ampliación de plazo al amparo del artículo 20.1 in fine LTAIBG, no argumentó, sin embargo, la concurrencia de las causas que habilitan el uso de esa posibilidad excepcional de ampliación del plazo (complejidad o volumen de la información), toda vez que no puede considerarse como tal justificación la mera invocación de aquéllas, en cuanto que son mero presupuesto legal habilitante para acordar tal ampliación.
Este Consejo ha señalado en múltiples resoluciones que la correcta aplicación de esta ampliación del plazo (que debe utilizarse razonablemente y ser objeto de una interpretación restrictiva), se ciñe a dos supuestos: (i) «el volumen de datos o informaciones» y (ii) «la complejidad de obtener o extraer los mismos»; debiéndose justificar su concurrencia de forma expresa y en relación con el caso concreto, lo cual, en este caso, no se hizo.
En este caso, el organismo requerido, tras acordar la ampliación del plazo, dictó resolución en la que, sin embargo, se limitaba a señalar que no existía la información solicitada. Conviene recordar a este respecto que resulta abiertamente contrario a la finalidad del artículo 20.1 in fine LTAIBG ampliar el plazo ordinario para, finalmente, no proporcionar la información solicitada. La ampliación del plazo únicamente está justificada cuando se reconozca el derecho de acceso y se necesite más tiempo para buscar la información o la documentación requerida, prepararla y ponerla a disposición del solicitante, no debiendo extenderse nunca más allá del tiempo estrictamente necesario para estos fines. Y es que la observancia del plazo máximo de contestación es un elemento esencial del contenido del derecho constitucional de acceso a la información pública, según se subraya en el preámbulo de esta Ley al manifestar que «con el objeto de facilitar el ejercicio del derecho de acceso a la información pública la Ley establece un procedimiento ágil, con un breve plazo de respuesta».

5. No obstante lo anterior, no cabe desconocer que la entidad requerida ha dictado resolución, y sobre el contenido de la misma ha facilitado en el trámite de alegaciones determinadas explicaciones acerca de la no existencia de herramientas de IA que había indicado en su resolución inicial —en particular, en relación con las razones que, a su entender, excluyen que la aplicación VioGen pueda considerarse un sistema de IA de acuerdo con el Reglamento europeo de Inteligencia Artificial. Por tanto, corresponde verificar si se ha satisfecho el derecho de acceso en los términos previstos en los artículos 12 y 13 LTAIBG.
El reclamante solicitaba «[l]istado de herramientas de inteligencia artificial, incluyendo algoritmos predictivos de delincuencia, herramientas de identificación biométrica, transcripción y análisis de texto y audio u otro tipo de herramientas, usada actualmente por Policía Nacional y Guardia Civil». En particular, en su reclamación concretaba que en dicho listado deberían estar incluidas, al menos, VioGen y VeriPol, acotando su petición inicial a aquellos sistemas de IA que concuerden con la definición marcada por el Reglamento europeo de Inteligencia Artificial.
El Ministerio, en su resolución, parte de la definición de Inteligencia Artificial recogida en el artículo 3 del Reglamento europeo de Inteligencia Artificial y en el Considerando 12 de dicho Reglamento —sobre el alcance de las diferentes capacidades que debe tener un sistema IA: autonomía, adaptación e inferencia—, para remarcar que, de acuerdo con las citadas disposiciones, la capacidad de inferencia deriva de estrategias de aprendizaje automático y estrategias de lógica y conocimiento que infieren a partir de conocimientos codificados o de una representación simbólica de la tarea a resolver. Además, indica que un sistema de IA «no está basado en las normas definidas únicamente por personas físicas para ejecutar automáticamente operaciones y que trasciende el tratamiento básico de datos, al permitir el aprendizaje, el razonamiento o la modelización.» En consecuencia, remarca el Ministerio, para que un sistema de procesamiento de datos (obtención de unos resultados de salida a partir de una entrada de información) pueda ser considerado un sistema de IA de acuerdo con el Reglamento europeo de Inteligencia Artificial, en la operación de los datos han de estar implicadas las estrategias indicadas, susceptibles de generar capacidad de inferencia, así como la capacidad de autonomía y adaptación del sistema; por lo que VioGen no podría ser calificada como un sistema de IA.
En este sentido el Ministerio señala que en VioGen «el algoritmo es sencillo y se construye a partir de la información matemática de los indicadores empíricos de riesgo de los formularios de valoración policial del riesgo incluidos (…)aunque hay acciones sobre sistemas de reglas, no se trata de un sistema automático sin supervisión ni intervención humana, sino de procedimientos que ayudan a que los expertos puedan adoptar en cada momento las mejores decisiones» y que «ni utiliza IA ni ha sido entrenado a través de machine learning u otro procedimiento de entidad similar».
Por lo tanto, a la luz de las explicaciones facilitadas por el Ministerio en lo relativo al sistema VioGen ha de concluirse que se ha facilitado la información de la que se dispone de forma completa.
En lo concerniente a VeriPol, ha de advertirse que se ha podido constatar que la entidad reclamante ha publicado en su web que «[e]n octubre de 2024, seis años después, esta IA dejó de estar operativa, según han confirmado a Civio desde el Gabinete Técnico de la Dirección General de Policía». Por tanto, en lo relativo a esta herramienta, este Consejo considera que, aunque hubiera sido deseable que incluyesen en la tramitación de esta reclamación esta información, la respuesta dada por el Ministerio fue completa, dado que la solicitud de información se presentó el 5 de noviembre de 2024, fecha en la que, de acuerdo con la información que manifiesta conocer la entidad reclamante, dicha herramienta ya no se encontraba en uso por el Ministerio del Interior.
Respecto de otras posibles aplicaciones que puedan constituir sistemas IA utilizados por el Ministerio del Interior, dado que en la respuesta objeto de reclamación se afirma su no existencia, este Consejo considera que se ha dado respuesta a la solicitud.
Conviene recordar en este punto que el objeto del derecho de acceso a la información reconocido en el artículo 12 LTAIBG es la información pública que, de acuerdo con la definición contenida en el artículo 13 LTAIBG, se integra por aquellos documentos y contenidos que obren en poder del sujeto obligado por haberlos adquirido o elaborado en ejercicio de sus funciones. La existencia y disponibilidad de tal información constituye, por tanto, el presupuesto necesario para el ejercicio del derecho; presupuesto que no concurre en este caso pues, según se ha declarado formalmente por el órgano competente, no existen herramientas de IA en uso por parte del Ministerio del Interior, y por tanto, no obra en poder de ese órgano documento o contenido que se corresponda con la información requerida en la solicitud.

6. En consecuencia, considerándose que la información dada en la resolución fue completa, procede la desestimación de la reclamación.

III. RESOLUCIÓN

En atención a los antecedentes y fundamentos jurídicos descritos, procede DESESTIMAR la reclamación interpuesta frente al MINISTERIO DEL INTERIOR.

De acuerdo con el artículo 23.1 de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, la reclamación prevista en el artículo 24 de la misma tiene la consideración de sustitutiva de los recursos administrativos, de conformidad con lo dispuesto en el artículo 112.2 de la Ley 39/2015, de 1 de octubre, de Procedimiento Administrativo Común de las Administraciones Públicas.

Contra la presente resolución, que pone fin a la vía administrativa, se podrá interponer recurso contencioso-administrativo, en el plazo de dos meses, directamente ante la Sala de lo Contencioso-administrativo de la Audiencia Nacional, de conformidad con lo previsto en el apartado quinto de la Disposición adicional cuarta de la Ley 29/1998, de 13 de julio, Reguladora de la Jurisdicción Contencioso-administrativa.

EL PRESIDENTE DEL CTBG
Fdo.: José Luis Rodríguez Álvarez