Sistema de IA de Alto Riesgo
El Sistema de IA de Alto Riesgo es la categoría del AI Act que agrupa los sistemas con potencial de causar daño significativo a las personas, sometidos a los requisitos más estrictos de conformidad antes de su puesta en servicio.
01 Definición
El AI Act clasifica como sistemas de IA de alto riesgo aquellos que se usan en ámbitos con potencial de afectar significativamente a derechos fundamentales, la salud, la seguridad o el acceso a servicios esenciales. El Anexo III del reglamento enumera ocho categorías de alto riesgo, entre las que destacan los sistemas usados en administración pública para gestión de infraestructuras críticas, educación, empleo, acceso a servicios esenciales, y aplicación de la ley.
Para estos sistemas, el AI Act exige: sistema de gestión de riesgos, datos de entrenamiento de alta calidad, documentación técnica exhaustiva, supervisión humana efectiva, robustez y ciberseguridad, y registro en la base de datos de la UE antes de su puesta en servicio.
02 Qué significa para las AAPP
La clave para las AAPP es distinguir qué sistemas de IA son de alto riesgo y cuáles no. Un chatbot que informa sobre horarios y trámites, que no toma decisiones vinculantes y que siempre deriva a un funcionario cuando la consulta lo requiere, **no es un sistema de alto riesgo**. Sin embargo, un sistema de IA que evalúa solicitudes de prestaciones sociales, prioriza expedientes o genera propuestas de resolución administrativa sí entraría en esa categoría.
La distinción importa porque los sistemas de alto riesgo requieren una inversión significativa en conformidad: evaluación de datos, auditorías técnicas, registro en la base de datos de la UE y supervisión continua.
03 Cómo lo aborda Agento
Agento opera deliberadamente como sistema de IA de **riesgo limitado**: informa, orienta y facilita el acceso a trámites, pero nunca toma ni recomienda decisiones administrativas vinculantes. Esta arquitectura de responsabilidades está documentada y permite a las administraciones desplegar Agento sin los requisitos de conformidad exigidos para sistemas de alto riesgo.