WhatsApp
Facebook
X
Linkedin
El Consejo de Transparencia y Protección de Datos de Andalucía ha puesto ya en funcionamiento la nueva herramienta metodológica diseñada para ayudar a las administraciones públicas andaluzas a implementar sistemas de inteligencia artificial de manera responsable y conforme a la normativa de protección de datos, un proyecto que responde a una necesidad detectada en la experiencia de supervisión de la autoridad de control, según se desprende de los resultados del Plan de Control e Inspección en el Sector Público Andaluz 2023-2025.
La implantación de sistemas de inteligencia artificial (SIA) en las administraciones avanza de forma imparable, se extiende progresivamente a más sectores y afecta con mayor frecuencia a la ciudadanía. En este contexto de elevada complejidad para el cumplimiento en protección de datos, es necesario aunar elementos normativos, tecnológicos, organizativos y procedimentales y ofrecer una respuesta estructurada que proporcione un marco de seguridad jurídica para una innovación responsable.
El Consejo ha identificado varios retos significativos en la implantación de soluciones basadas en IA que conllevan tratamientos de datos personales: la necesidad de reforzar los conocimientos y recursos disponibles en las entidades, especialmente en las de menor tamaño; la mejora en la metodología y aplicación práctica de los análisis de riesgos y las Evaluaciones de Impacto en la Protección de Datos (EIPD); un análisis más riguroso de la necesidad y proporcionalidad de los tratamientos; y la incorporación efectiva del DPD desde las fases iniciales de los proyectos.
Adaptación a cada proyecto
La metodología desarrollada funciona como una guía paso a paso que acompaña a los responsables públicos desde la concepción inicial del proyecto hasta su puesta en funcionamiento. Se adapta automáticamente al tipo y complejidad de cada proyecto.
Se aplicarán distintos niveles de exigencia, de modo que será diferente el control a un sistema simple de gestión documental frente a otro que tome decisiones sobre la posible adaptación curricular del alumnado o pretenda identificar a personas mayores en situación de soledad no deseada. La metodología procederá en función del riesgo, es decir, a mayor impacto potencial, mayor nivel de supervisión, y viceversa.
El sistema comienza con unas preguntas claras sobre el tipo de proyecto, los datos que procesará y los colectivos afectados. Con estas respuestas, configura automáticamente qué pasos seguir y qué nivel de verificación es necesario, variando desde 40 controles para proyectos básicos hasta 161 para los sistemas más complejos.
Otra característica distintiva es su relación con el proceso de licitación pública. La protección de datos no debe ser algo que se añada al final del proyecto como una carga adicional, justo al contrario, debe estar integrada desde el primer momento, desde la redacción de los pliegos hasta la recepción del sistema.
La herramienta ayuda a identificar qué requisitos de protección de datos incluir en los pliegos y supervisar durante el desarrollo que se implementan correctamente las medidas necesarias.
Aunque el objetivo principal es facilitar el cumplimiento de la normativa de protección de datos, la metodología promueve un enfoque de innovación responsable. Al exigir una reflexión sistemática sobre riesgos y medidas de protección, contribuye al desarrollo de sistemas de IA más robustos y confiables.
Ejemplos prácticos
La metodología funciona de forma diferente en función del tipo de proyecto:
• Proyectos de complejidad baja: Un ayuntamiento que implemente un chatbot para responder consultas ciudadanas básicas podría completar el proceso verificando un conjunto reducido de medidas de protección específicas.
• Proyectos de alta complejidad: Una administración que desarrolle un sistema de IA para evaluar automáticamente solicitudes de ayudas sociales (que procesa datos sensibles y toma decisiones que afectan significativamente a los ciudadanos) deberá seguir un proceso más exhaustivo que incluye evaluación de sesgos algorítmicos, mecanismos de supervisión humana y procedimientos específicos para el ejercicio de derechos.
Herramienta referente
El Consejo comenzó aplicando elementos de la herramienta de forma práctica en las actuaciones inspectoras realizadas en Plan de Control e Inspección y servirá como referente para la elaboración de futuros planes de control e inspección.
La metodología contempla todos los elementos necesarios para generar las evaluaciones de impacto en protección de datos requeridas por la normativa, reduciendo la carga de redacción manual y asegurando la coherencia de toda la documentación.
El objetivo es que esta herramienta se convierta en el estándar de referencia para el desarrollo responsable de IA en materia de protección de datos en el sector público andaluz, permitiendo que las administraciones puedan aprovechar todo el potencial de la inteligencia artificial manteniendo las máximas garantías para los derechos de los ciudadanos.
