Prohibited, high-risk, limited risk, or minimal or no risk ai systems
Keywords:
Artificial Intelligence Act, artificial intelligence, prohibited AI systems, high-risk AI systems.Abstract
AIA regulates AI systems from a risk perspective and therefore
classifies them into prohibited, high risk, or low or no risk AI
systems. AI practices that suppose unacceptable risks are prohibited,
with some exceptions. The main catogery is high-risk AI
systems, which are listed based on their inclusion in products
standard or based on horizontal criteria. High-risk systems are
permitted to be introduced into the market, commercialized
and used, subject to compliance with various relevant requirements
and obligations for operators. On the contrary, minimal
or no risk systems are only linked to voluntary compliance with
codes of conduct.
Downloads
References
BECK, U., La sociedad del riesgo. Hacia una nueva modernidad, Paidós,
Barcelona, 2010.
BELLOSO MARTÍN, N., “La problemática de los sesgos algorítmicos
(con especial referencia a los de género). ¿Hacia un derecho
a la protección contra los sesgos?”, en Inteligencia artificial
y filosofía del Derecho, Laborum. Murcia, 2022, págs. 45-78.
CHRISTAKIS, T. y KARRATHANASIS, T., “Tools for Navigating the
EU AI Act (2) Visualisation Pyramid”, AI Regulation Papers 24-
03-5, AI-Regulation.com, March 8th, 2024.
COTINO HUESO, L., “Sistemas de inteligencia artificial con reconocimiento
facial y datos biométricos. Mejor regular bien
que prohibir mal”, en El Cronista del Estado Social y Democrático
de Derecho, núm. 100, 2022, págs. 68-79.
COTINO HUESO, L., “Transparencia y explicabilidad de la inteligencia
artificial. Elementos conceptuales, generales y de
género”, en Transparencia y explicabilidad de la inteligencia
artificial, Tirant lo blanch, Valencia, 2022, págs. 25-70.
COTINO HUESO, L. y CASTELLANOS CLARAMUNT, J., Transparencia
y explicabilidad de la inteligencia artificial, Tirant lo blanch,
Valencia, 2022.
COTINO HUESO, L. et al., “Un análisis crítico constructivo de la
propuesta de Reglamento de la Unión Europea por la que
se establecen normas armonizadas sobre la Inteligencia Artificial
(Artificial Intelligence Act)”, en Diario La Ley, sección Ciberderecho,
2 de julio de 2021.
COTINO HUESO, L., “Nuevo paradigma en la garantía de los derechos
fundamentales y una nueva protección de datos frente
al impacto social y colectivos de la inteligencia artificial”, en
Derechos y garantías ante la inteligencia artificial y las decisiones
automatizadas, Aranzadi, Cizur Mayor, 2022, págs. 69-105.
COTINO HUESO, L., “Reconocimiento facial automatizado y sistemas
de identificación biométrica bajo la regulación superpuesta
de inteligencia artificial y protección de datos”, en
Derecho Público de la Inteligencia Artificial, Fundación Manuel
Giménez Abad, Zaragoza, 2023, págs. 347-402.
DE LA QUADRA FERNÁNDEZ DEL CASTILLO, T. (2019). “Derechos
fundamentales, democracia y mercado en la edad digital”.
Derecho digital e Innovación núm. 1.
DE MIGUEL ASENSIO, P.A., “Propuesta de Reglamento sobre inteligencia
artificial”, La Ley Unión Europea, núm. 92, mayo
2021.
ESTEVE PARDO, J., Técnica, riesgo y Derecho. Tratamiento del riesgo
tecnológico en el Derecho ambiental, Ariel, Barcelona, 1999.
FERNÁNDEZ HERNÁNDEZ, F., “La futura regulación europea de
la inteligencia artificial: objetivos, principios y pautas”, en
Claves de inteligencia artificial y derecho, La Ley, Madrid, 2022,
págs. 115-179.
HERNÁNDEZ PEÑA, J.C., El marco jurídico de la inteligencia artificial.
Principios, procedimientos y estructuras de gobernanza,
Aranzadi, Cizur Menor, 2022.
HERNÁNDEZ PEÑA, J.C., “Organización y gobernanza de la inteligencia
artificial: marco general”, en Inteligencia artificial y
sector público. Retos, límites y medios, Tirant lo blanc, Valencia,
2023, pp. 599-630.
HUERGO LORA, A., “Gobernar con algoritmos, gobernar los algoritmos”,
El Cronista del Estado Social y Democrático de Derecho,
núm. 100, 2022, págs. 80-89.
MORAL SORIANO, L. “Modelos de gobernanza global de la inteligencia
artificial”, en Inteligencia artificial y Derecho. El jurista
ante los retos de la era digital, Aranzadi, Cizur Menor, 2021,
págs. 235-258.
PALMA ORTIGOSA, A., “El ciclo de vida de los sistemas de inteligencia
artificial. Aproximación técnica de las fases presentes
durante el diseño y despliegue de los sistemas algorítmicos”,
en Derechos y garantías ante la inteligencia artificial
y las decisiones automatizadas, Aranzadi, Cizur Menor, 2022,
págs. 29-51.
PONCE SOLÉ, J., “Reserva de humanidad y supervisión humana
de la Inteligencia artificial”. El Cronista del Estado Social y Democrático
de Derecho, núm. 100, 2022, págs. 58-67.
SALAZAR GARCÍA, I., “Retos actuales de la ética en la Inteligencia
Artificial”, en Derechos y garantías ante la inteligencia artificial
y las decisiones automatizadas, Aranzadi, Cizur Menor, 2022,
págs. 53-66.
SCHUETT, J., “Risk management in the Artificial Intelligence Act”,
en European Journal of Risk Regulation, 2023, págs. 1-19.
SIMÓN CASTELLANO, P., “Allende una teoría general de las garantías
jurídicas para una inteligencia artificial confiable”, en
Derecho Público de la Inteligencia Artificial, Fundación Manuel
Giménez Abad, Zaragoza, 2023, págs. 111-148.
SIMÓN CASTELLANO, P., “Las evaluaciones de impacto algorítmico
en los derechos fundamentales: hacia una efectiva minimización
de sesgos”, en Algoritmos abiertos y que no discriminen
en el sector público, Tirant lo blanch, Valencia, 2023,
págs. 27-56.
SORIANO ARNANZ, A., “La aplicación del marco jurídico europeo
en materia de igualdad y no discriminación al uso de aplicación
de inteligencia artificial”, en Nuevas normatividades: inteligencia
artificial, derecho y género, Aranzadi, Cizur Menor, 2021,
págs. 63-87.
VIDA FERNÁNDEZ, J., “La gobernanza de los riesgos digitales: Desafíos
y avances en la regulación de la Inteligencia artificial”,
Cuadernos de Derecho Transnacional, núm. 14-1.
