Transparency and data protection on the use of Artificial Intelligence by public administrations
Keywords:
Data protection, artificial intelligence, transparency, explainability, machine learning, deep learning, public administration.Abstract
This paper aims to analyze the multifaceted concept of transparency regarding artificial intelligence, as discussed in scholarly literature, and to examine the extent to which it is reflected in national and european regulations on transparency and personal data protection, respectively. The conclusion reached in this study suggests that Spanish legislation must still address the definition and establishment of adequate safeguards regarding the use of artificial intelligence within public administrations.
Downloads
References
AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS, “Adecuación al RGPD de tratamientos que incorporan Inteligencia Artifi Una introduc- ción”. Madrid, 2020. Disponible en https://www.aepd.es/guias/ade- cuacion-rgpd-ia.pdf (recuperado el 30 de mayo de 2024).
AI HLEG, “A definition of AI: main Capabilities and Disciplines”. Comisión Europea, Bruselas, 2019. Disponible en https://digital-strategy. ec.europa.eu/en/library/definition-artificial-intelligence-main-ca- pabilities-and-scientific-disciplines (recuperado el 24 de abril de 2024).
AI HLEG, “Ethics guidelines for trustworthy AI. Brussels: European Commis- sion”. Comisión Europea, Bruselas, 2019. Disponible en https://di- gital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustwor- thy-ai (recuperado el 28 de abril de 2024).
BOIX, A. & SORIANO, A, “Transparencia y control del uso de la inteligen- cia artifi por las administraciones públicas”, en Derecho público de la inteligencia artifi . Fundación Manuel Giménez Abad de Es- tudios Parlamentarios y del Estado Autonómico, Zaragoza, 2023. Disponible en https://www.fundacionmgimenezabad.es/sites/default/files/Publicar/publicaciones/documentos/oc27_10_andres_ boix_alba_soriano_es_o.pdf (recuperado el 29 de mayo de 2024).
CERRILLO, A., “Com obrir les caixes negres de les administracions pú- bliques? Transparència i rendició de comptes en l’ús dels algorit- mes”, Revista Catalana de Dret Públic, núm. 58, 2019. Disponible en https://raco.cat/index.php/RCDP/article/view/10.2436-rcdp. i58.2019.3277/449149 (recuperado el 3 de mayo de 2024).
COMISIÓN EUROPEA, “Libro blanco sobre la inteligencia artificial – un en- foque europeo orientado a la excelencia y la confianza”. COM(2020) 65 final, 2020. Disponible en https://commission.europa.eu/docu- ment/download/d2ec4039-c5be-423a-81ef-b9e44e79825b_es?fi- lename=commission-white-paper-artificial-intelligence-feb2020_ es.pdf (recuperado el 24 de abril de 2024).
COTINO, L. & CASTELLANOS, J., “Transparencia y explicabilidad de la in- teligencia artificial”. Tirant Lo Blanch, Valencia, 2022. Disponible en https://www.uv.es/cotino/publicaciones/libroabiertotp22.pdf (recuperado el 24 de abril de 2024).
DE LA QUADRA-SALCEDO, T., “Carta de Derechos Digitales”, Ministerio para la Transformación Digital y Función Pública. Madrid, 2021. Disponible en https://www.lamoncloa.gob.es/presidente/activi- dades/Documents/2021/140721-Carta_Derechos_Digitales_Re- dEs.pdf (recuperado el 27 de abril de 2024)
EUROPEAN COMMISSION, “Laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts”. Eur Comm, 106, 2021, pág. 11. Disponible en https://artificialintelligenceact.eu/es/el-acto/ (recuperado el 24 de abril de 2024).
GAMERO, E., “Sistemas automatizados de toma de decisiones en el Derecho Administrativo Español”, Revista General de Derecho Ad- ministrativo, núm. 63, 2023. Disponible en https://laadministra- cionaldia.inap.es/usuarios/msg.asp?mensaje=54 (recuperado el 29 de mayo de 2024).
GAMERO, E. & PÉREZ, F. L., “Inteligencia artificial y sector público: retos, límites y medios”. Tirant Lo Blanch, Valencia, 2023. Disponible en https://rio.upo.es/entities/publication/06dc1a44-5034-4b58-b38 b-3385656c0790 (recuperado el 10 de junio de 2024).
GIL, E., “Aproximación al estudio de las decisiones automatizadas en el seno del Reglamento General Europeo de Protección de Da- tos a la luz de las tecnologías big data y de aprendizaje computa- cional”, Revista española de la transparencia, núm. 5, 2017, págs. 165-179. Disponible en http://agora.edu.es/servlet/articulo?codi- go=6312525 (recuperado el 30 de mayo de 2024).
GILLESPIE, N., LOCKEY, S., CURTIS, C., POOL, J. K., & AKBARI, A., “Trust in Artificial Intelligence: a global study”. The Queensland University, Birsbane, 2023. Disponible en https://doi.org/10.14264/00d3c94 (recuperado el 24 de abril de 2024)
GUTIÉRREZ, M. E., “Administraciones inteligentes y acceso al códi- go fuente y los algoritmos públicos. Conjurando riesgos de ca- jas negras decisionales”, Derecom, núm. 31, 2021, págs. 20-105. Disponible en https://dialnet.unirioja.es/servlet/articulo?codi- go=8193102 (recuperado el 28 de abril de 2024)
ICO & ALAN TURING INSTITUTE, “Explaining decisions made with AI”, 2020. Disponible en https://ico.org.uk/for-organisations/ uk-gdpr-guidance-and-resources/artificial-intelligence/explai- ning-decisions-made-with-artificial-intelligence/ (recuperado el 24 de abril de 2024)
INSTITUTO NACIONAL DE CIBERSEGURIDAD, “Glosario de términos de ciberseguridad. Una guía de aproximación para el empresario”, 2020. Disponible en https://www.incibe.es/sites/default/files/ contenidos/guias/doc/guia_glosario_ciberseguridad_2021.pdf (recuperado el 4 de mayo de 2024)
MARTÍNEZ, R., “El derecho fundamental a la protección de datos: pers- pectivas”, IDP: revista de Internet, derecho y política= revista d’In- ternet, dret i política, núm. 5, 2007. págs. 47-61. https://dialnet. unirioja.es/servlet/articulo?codigo=2372613 (recuperado el 6 de junio de 2024).
MEDINA, M., “El derecho a conocer los algoritmos utilizados en la toma de decisiones. Aproximación desde la perspectiva del de- recho fundamental a la protección de datos personales”, Teoría y realidad constitucional, núm. 49, 2022, págs. 141-171. Disponible
en https://dialnet.unirioja.es/servlet/articulo?codigo=8450038 (recuperado el 29 de octubre de 2024)
MINISTERIE VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES, “Impact Assessment. Mensenrechten en Algoritmes”, 2021 Disponible en https://www.government.nl/documents/reports/2022/03/31/ impact-assessment-fundamental-rights-and-algorithms (recupe- rado el 28 de abril de 2024)
NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY, “Artificial Intelligence Risk Management Framework (AI RMF 1.0)”, 2023. Dis- ponible en https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1. pdf?isid=enterprisehub_us&ikw=enterprisehub_us_lead%2Fhow- to-responsibly-use-ai-powered-hr-tools_textlink_https%3A%2F%- 2Fnvlpubs.nist.gov%2Fnistpubs%2Fai%2FNIST.AI.100-1.pdf (recu- perado el 28 de abril de 2024).
OSWALD, M., GRAVE, J., URWIN, S., & BARNES, G. C., “Algorithmic risk assessment policing models: lessons from the Durham HART model and ‘Experimental’ proportionality”, Information & communications technology law, núm. 27, 2018, págs. 223- 250. Disponible en https://www.tandfonline.com/doi/epd- f/10.1080/13600834.2018.1458455?needAccess=true (recupera- do el 24 de abril de 2024)
PARDO, J., “Artículo 18.4: La protección de datos”. En Comentarios a la Constitución española (pp. 562-566). Wolters Kluwer, Madrid, 2018. Disponible en https://www.boe.es/biblioteca_juridica/abrir_pdf. php?id=PUB-PB-2018-94_1 (recuperado el 3 de mayo de 2024)
THE ROYAL SOCIETY, “Explainable AI: the Basics. Policy briefing”. Lon- dres, 2019. Disponible en https://royalsociety.org/-/media/policy/ projects/explainable-ai/AI-and-interpretability-policy-briefing.pdf (recuperado el 24 de abril de 2024)
