SISTEMAS DE IA PROHIBIDOS, DE ALTO RIESGO, DE LIMITADO RIESGO, O DE BAJO O NULO RIESGO
Palabras clave:
Ley de Inteligencia Artificial, inteligencia artificial, sistemas de IA prohibidos, sistemas de IA de alto riesgo., Este trabajo se recibió el 28 de mayo de 2024 y fue aceptado en septiembre.Resumen
La LIA regula los sistemas de IA desde la perspectiva del riesgo y
por tanto los clasifica en sistemas de IA prohibidos, de alto riesgo
o de bajo o nulo riesgo. Quedan prohibidas las prácticas de
IA que supongan riesgos inadmisibles, salvo algunas excepciones.
La categoría principal es la de sistemas de IA de alto riesgo,
que vienen enumerados en función de su inclusión en normas
sobre productos o en razón de criterios horizontales. Se permite
su introducción en el mercado, comercialización y uso de los
sistemas de IA de alto riesgo, previo cumplimiento de diversos
requisitos y obligaciones relevantes para los operadores. Por el
contrario, los sistemas de bajo o nulo riesgo quedan sólo vinculados
al cumplimiento voluntario de códigos de conducta.
Descargas
Citas
BECK, U., La sociedad del riesgo. Hacia una nueva modernidad, Paidós,
Barcelona, 2010.
BELLOSO MARTÍN, N., “La problemática de los sesgos algorítmicos
(con especial referencia a los de género). ¿Hacia un derecho
a la protección contra los sesgos?”, en Inteligencia artificial
y filosofía del Derecho, Laborum. Murcia, 2022, págs. 45-78.
CHRISTAKIS, T. y KARRATHANASIS, T., “Tools for Navigating the
EU AI Act (2) Visualisation Pyramid”, AI Regulation Papers 24-
03-5, AI-Regulation.com, March 8th, 2024.
COTINO HUESO, L., “Sistemas de inteligencia artificial con reconocimiento
facial y datos biométricos. Mejor regular bien
que prohibir mal”, en El Cronista del Estado Social y Democrático
de Derecho, núm. 100, 2022, págs. 68-79.
COTINO HUESO, L., “Transparencia y explicabilidad de la inteligencia
artificial. Elementos conceptuales, generales y de
género”, en Transparencia y explicabilidad de la inteligencia
artificial, Tirant lo blanch, Valencia, 2022, págs. 25-70.
COTINO HUESO, L. y CASTELLANOS CLARAMUNT, J., Transparencia
y explicabilidad de la inteligencia artificial, Tirant lo blanch,
Valencia, 2022.
COTINO HUESO, L. et al., “Un análisis crítico constructivo de la
propuesta de Reglamento de la Unión Europea por la que
se establecen normas armonizadas sobre la Inteligencia Artificial
(Artificial Intelligence Act)”, en Diario La Ley, sección Ciberderecho,
2 de julio de 2021.
COTINO HUESO, L., “Nuevo paradigma en la garantía de los derechos
fundamentales y una nueva protección de datos frente
al impacto social y colectivos de la inteligencia artificial”, en
Derechos y garantías ante la inteligencia artificial y las decisiones
automatizadas, Aranzadi, Cizur Mayor, 2022, págs. 69-105.
COTINO HUESO, L., “Reconocimiento facial automatizado y sistemas
de identificación biométrica bajo la regulación superpuesta
de inteligencia artificial y protección de datos”, en
Derecho Público de la Inteligencia Artificial, Fundación Manuel
Giménez Abad, Zaragoza, 2023, págs. 347-402.
DE LA QUADRA FERNÁNDEZ DEL CASTILLO, T. (2019). “Derechos
fundamentales, democracia y mercado en la edad digital”.
Derecho digital e Innovación núm. 1.
DE MIGUEL ASENSIO, P.A., “Propuesta de Reglamento sobre inteligencia
artificial”, La Ley Unión Europea, núm. 92, mayo
2021.
ESTEVE PARDO, J., Técnica, riesgo y Derecho. Tratamiento del riesgo
tecnológico en el Derecho ambiental, Ariel, Barcelona, 1999.
FERNÁNDEZ HERNÁNDEZ, F., “La futura regulación europea de
la inteligencia artificial: objetivos, principios y pautas”, en
Claves de inteligencia artificial y derecho, La Ley, Madrid, 2022,
págs. 115-179.
HERNÁNDEZ PEÑA, J.C., El marco jurídico de la inteligencia artificial.
Principios, procedimientos y estructuras de gobernanza,
Aranzadi, Cizur Menor, 2022.
HERNÁNDEZ PEÑA, J.C., “Organización y gobernanza de la inteligencia
artificial: marco general”, en Inteligencia artificial y
sector público. Retos, límites y medios, Tirant lo blanc, Valencia,
2023, pp. 599-630.
HUERGO LORA, A., “Gobernar con algoritmos, gobernar los algoritmos”,
El Cronista del Estado Social y Democrático de Derecho,
núm. 100, 2022, págs. 80-89.
MORAL SORIANO, L. “Modelos de gobernanza global de la inteligencia
artificial”, en Inteligencia artificial y Derecho. El jurista
ante los retos de la era digital, Aranzadi, Cizur Menor, 2021,
págs. 235-258.
PALMA ORTIGOSA, A., “El ciclo de vida de los sistemas de inteligencia
artificial. Aproximación técnica de las fases presentes
durante el diseño y despliegue de los sistemas algorítmicos”,
en Derechos y garantías ante la inteligencia artificial
y las decisiones automatizadas, Aranzadi, Cizur Menor, 2022,
págs. 29-51.
PONCE SOLÉ, J., “Reserva de humanidad y supervisión humana
de la Inteligencia artificial”. El Cronista del Estado Social y Democrático
de Derecho, núm. 100, 2022, págs. 58-67.
SALAZAR GARCÍA, I., “Retos actuales de la ética en la Inteligencia
Artificial”, en Derechos y garantías ante la inteligencia artificial
y las decisiones automatizadas, Aranzadi, Cizur Menor, 2022,
págs. 53-66.
SCHUETT, J., “Risk management in the Artificial Intelligence Act”,
en European Journal of Risk Regulation, 2023, págs. 1-19.
SIMÓN CASTELLANO, P., “Allende una teoría general de las garantías
jurídicas para una inteligencia artificial confiable”, en
Derecho Público de la Inteligencia Artificial, Fundación Manuel
Giménez Abad, Zaragoza, 2023, págs. 111-148.
SIMÓN CASTELLANO, P., “Las evaluaciones de impacto algorítmico
en los derechos fundamentales: hacia una efectiva minimización
de sesgos”, en Algoritmos abiertos y que no discriminen
en el sector público, Tirant lo blanch, Valencia, 2023,
págs. 27-56.
SORIANO ARNANZ, A., “La aplicación del marco jurídico europeo
en materia de igualdad y no discriminación al uso de aplicación
de inteligencia artificial”, en Nuevas normatividades: inteligencia
artificial, derecho y género, Aranzadi, Cizur Menor, 2021,
págs. 63-87.
VIDA FERNÁNDEZ, J., “La gobernanza de los riesgos digitales: Desafíos
y avances en la regulación de la Inteligencia artificial”,
Cuadernos de Derecho Transnacional, núm. 14-1.
