Glosario de Cumplimiento y Gobernanza de IAAI Compliance Glossary

Un sistema basado en aprendizaje automático (machine learning) u otras técnicas de IA, diseñado para operar con distintos niveles de autonomía y generar resultados como predicciones, recomendaciones, decisiones o contenido que afectan entornos reales.

La probabilidad de que el uso, falla o mal uso de un sistema de IA genere consecuencias adversas de naturaleza legal, operacional, ética o de seguridad para personas, organizaciones o mercados.

Proceso formal y documentado para identificar, analizar y priorizar los riesgos asociados a un sistema de IA antes de su despliegue, durante su operación y al momento de su retiro.

Reglamento (UE) 2024/1689 de la Unión Europea, también conocido como Artificial Intelligence Act, que establece el primer marco legal vinculante para el desarrollo, comercialización y uso de sistemas de inteligencia artificial, clasificando sus riesgos en cuatro niveles: inaceptable, alto, limitado y mínimo.

Categoría de la EU AI Act que engloba sistemas de IA con alto potencial de daño a derechos fundamentales, salud, seguridad o acceso a servicios esenciales. Incluyen sistemas en salud, educación, empleo, infraestructura crítica y aplicación de la ley.

Conjunto de políticas, estructuras organizacionales, procesos y controles internos que una organización implementa para supervisar el desarrollo, despliegue y operación responsable de sus sistemas de IA.

Estado de alineamiento entre el comportamiento real de los sistemas de IA de una organización y las obligaciones establecidas por regulaciones vigentes, estándares técnicos y políticas internas aplicables.

Conjunto de medidas técnicas, organizacionales y legales implementadas para reducir la probabilidad de ocurrencia o el impacto de los riesgos identificados en un sistema de IA, incluyendo guardrails, auditorías, supervisión humana y documentación.