CARTA DEL DIRECTOR

Abstract

Bienvenidos a la nueva edición de nuestra Revista de Privacidad y
Derecho Digital, que esta vez nos presenta un más que especial número
monográfico acerca del flamantemente publicado Reglamento
europeo de inteligencia artificial. El número es sugerencia brillante
de nuestro consejo asesor y tiene además el honor de encuadrarse
en un Proyecto de investigación de la Universidad Autónoma de
Madrid concretamente el que lleva por título "Nuevos avances en
la legislación de transparencia en España: mejoras en la definición
del marco regulatorio" (PID 2021-124724NB-100)", y del que es IP la
profesora Ana de Marcos Fernández.
El número comienza con la Tribuna de Honor, a cargo de Carme
Artigas, anterior Secretaria de Estado de Digitalización e Inteligencia
Artificial del Gobierno de España y Co-Chair del UN AI High-level
Advisory Board, ofreciéndonos un “detrás de cámaras” de la
negociación del Reglamento europeo de IA - del que ella misma
fue protagonista absolutamente directa -, que consiguió acordarse
políticamente el pasado diciembre del 2023. Su artículo comenta
también la gobernanza global inminente que acompaña desde foros
multilaterales esta pionera aprobación europea.
Los estudios los encabeza la propia Ana María de Marcos Fernández,
Profesora contratada doctora de Derecho Administrativo en la
Universidad Autónoma de Madrid, quien nos contextualiza el
novedoso Reglamento de Inteligencia Artificial. La autora arranca con
el lanzamiento de ChatGPT, pero da un paso atrás para comentar los
orígenes de la Inteligencia Artificial que data a la primera mitad del
Siglo XX. La autora divide el trabajo en dos partes. La primera resume
la evolución de la inteligencia artificial desde entonces, destacando
hitos como la acuñación del término en los años 50, los algoritmos
de aprendizaje automático, el aprendizaje profundo y los grandes
modelos de lenguaje. La segunda parte aborda la regulación de
la inteligencia artificial por las instituciones europeas desde 2018,
culminando en la aprobación del Reglamento de IA en 2024.
Ricardo Rivero Ortega, catedrático y ex rector de la Universidad de
Salamanca, profundiza en las obligaciones informativas y técnicas
que posibilitan el control de los proveedores de sistemas. Con la
lectura de su trabajo, entenderemos con mayor detalle la evaluación
de conformidad a la que están sujetas los proveedores, además de
la actualización progresiva de las obligaciones de los proveedores y
las posibles fuentes de litigiosidad. Además, antes de acabar con la
aplicación de estas obligaciones a los poderes públicos, este autor
hace una reflexión acerca del siempre difícil e incluso cuestionable
equilibrio entre regulación e innovación.
El tercer estudio, realizado por Mercedes Fuertes López, Catedrática
en la Universidad de León, versa sobre las obligaciones específicas que
han de cumplir los usuarios de los sistemas de inteligencia artificial,
atendiendo las diversas categorías de riesgos que presenten estos
sistemas. Aquí reside de hecho una de las grandes singularidades
del Reglamento europeo, en la medida en que, lejos de aplicarse
exclusivamente a proveedores, también lo es a usuarios.
De la mano de Martín María Razquin Lizarraga, Catedrático en la
Universidad Pública de Navarra, exploramos en profundidad el tema
de sistemas de IA prohibidos, de alto riesgo, limitado riesgo, y bajo
o nulo riesgo. El artículo analiza pues la regulación de la Inteligencia
Artificial desde la perspectiva del riesgo, asimismo centrada en
valores éticos que priorizan la protección de la salud, seguridad y
derechos fundamentales.
El estudio escrito por María Jesús Jiménez Linares, Profesora Titular
en la Universidad de Granada, nos anticipa los posibles riesgos que
envuelven el desarrollo y auge de la Inteligencia Artificial generativa.
La autora nos hace conscientes de los diferentes riesgos de la IA, como
pueden ser la confusión, desinformación, amenazas de privacidad
o ciberdelincuencia, entre otros muchos que explica a lo largo de
su estudio. Más aún, hace especial referencia a la preocupación, a
escala europea, por los “deep fakes”, y la exigencia del Reglamento
de una necesaria transparencia sobre el origen artificial de este
contenido.

El último estudio ha sido elaborado por el Profesor contratado postdoctoral
de la Universidad de Granada José Antonio Castillo Parrilla,
quien trabaja acerca del control, las sanciones y la responsabilidad.
Los dos primeros se encomiendan por parte del Reglamento a
autoridades públicas, tanto comunitarias como nacionales, mientras
que el aspecto de la responsabilidad resulta capital en una norma de
esta naturaleza, que al fin y al cabo, hace de la inteligencia artificial y
los sistemas en que se plasma, productos a tal efecto.
El apartado En Prospectiva nos aleja de los riesgos tan sonados
en boca de todos sobre el avance tecnológico, y nos muestra una
faceta positiva del Reglamento de inteligencia artificial europeo:
la innovación. Este apartado recoge los aspectos del Reglamento
que fomentan la innovación, e indiscutiblemente el crecimiento
económico. La norma hace especial referencia al apoyo que deben
recibir las Pymes y Startups, hace una llamada para el establecimiento
de “sandboxes” regulatorios, avala la investigación y desarrollo,
destacando la estandarización como elemento crucial. Este trabajo
ahonda a sí mismo en la innovación como objetivo pretendidamente
capital del Reglamento, junto a los mucho más notorios de garantía de
la salud, seguridad y derechos y libertades de las personas, analizando
de hecho hasta qué punto esta norma consigue tal objetivo.
Esperamos que disfruten de este número, y también que resulte
beneficioso con vistas a ayudar a afrontar los retos que trae consigo
la entrada en vigor del nuevo Reglamento de IA.
Atentamente,
Pablo García Mexía