"Every organisation deploying high-risk AI already generates logs. Almost none of them meet the Art. 12 standard. The gap is not in volume — it is in structure, immutability, retention, and the ability to reconstruct a decision under regulatory scrutiny."
When compliance teams assess their AI systems against the EU AI Act, logging tends to be treated as a resolved item. "We have logging," is the standard answer. Application logs, error traces, API call records — the infrastructure already exists. The assumption is that Article 12 is satisfied by default.
This assumption is wrong in almost every case. Article 12 does not require that AI systems generate logs. It requires that they generate automatically captured logs that enable adequate traceability of the system's operation over its lifetime. These are fundamentally different properties.
"The question is not whether you log. The question is whether your logs can reconstruct, with full fidelity, every decision the system made — who was affected, what input produced what output, which policies applied, and whether a human intervened — for any point in the past six months."
AI Synapse Technologies · Position Paper 03This paper provides a technical specification of what Art. 12 actually requires, identifies the most common gaps in existing implementations, and defines the architectural requirements for a compliant audit trail.
Article 12 of the EU AI Act reads, in its operative part: high-risk AI systems shall be designed and developed with capabilities enabling the automatic recording of events ('logs') throughout their lifetime. These capabilities must ensure a level of traceability of the AI system's functioning throughout its lifecycle that is appropriate to the intended purpose of the system.
Seven distinct technical obligations are embedded in this language:
Logging must be automatic — not triggered by human action, not selectively enabled, not dependent on a flag being set. Every instance of operation that could affect a natural person must be logged without exception or human initiation. Manual or sampled logging does not satisfy this obligation.
Logs must be maintained throughout the system's lifetime. This is not a fixed retention period — it is a lifecycle obligation. For systems in active deployment, the log must cover the entire operational period. Retention periods define the minimum; operational lifetime defines the ceiling.
The log must enable traceability of the system's functioning — not just that it ran, but how it ran. This means the log must contain enough information to reconstruct any specific decision: the input data, the model version, the applied policies, the output, the confidence level, and the context of use.
Traceability must be appropriate to the intended purpose. Systems making decisions that affect fundamental rights require richer log records than systems performing classification tasks with no individual impact. The compliance team — not the engineering team — must define this threshold.
Art. 12(1) requires logs to be stored for a period appropriate to the purpose and proportionate to the risks. The EU AI Act Recitals and NIST alignment suggest six months as the general baseline for high-risk AI. This is an absolute minimum, not a recommended period.
For high-risk AI systems used in law enforcement, border management, migration, and asylum, Art. 12(1) explicitly requires log retention of at least three years. This is a hard legal minimum — not configurable, not waivable, and it includes all operational logs, not only those related to incidents.
Art. 12(2) specifies that in the context of public authorities, the obligation to maintain logs falls on the deployer, who must be able to keep the logs under its control. A deployer who cannot independently access, export, or verify its AI system's logs does not control them — regardless of what the vendor contract says.
Applies to all Annex III categories not listed below. Includes AI in education, employment, essential services, credit scoring, insurance. Six months is the floor — system purpose and risk profile may require longer.
Art. 12(1) · Recital 73Mandatory extended retention for AI used in: law enforcement (Art. 5 exceptions), border control, migration processing, asylum assessment, judicial decisions. Three years from each decision event, not from system deployment.
Art. 12(1) explicit extension · non-waivableAI managing critical infrastructure (energy, water, transport, digital) must maintain logs for the operational lifetime of the system plus any applicable post-retirement regulatory obligation. Define this at procurement, not at decommissioning.
Art. 12(1) · Annex III item 2 · Sector regulationThe six-month minimum refers to the retention of logs produced by the AI system during operation — not the retention of the FRIA document or technical documentation, which have separate obligations. A system that purges operational decision logs after 90 days for storage cost reasons is non-compliant, regardless of what other documentation is retained.
The distinction between a system log and a compliance-grade audit trail is architectural, not cosmetic. System logs are designed for operational purposes — debugging, performance monitoring, error detection. They are designed to be read by engineers who have full context. A compliance audit trail is designed to be read by regulators who have no prior knowledge of the system — and who will be looking for specific evidence of rights impacts.
When a market surveillance authority exercises its powers under Art. 73 of the EU AI Act, it will not begin by reviewing your system documentation. It will begin with a specific question about a specific decision made by your AI system that affected a specific person.
The question is not "do you have logging?" It is: "On this date, your system processed a request in this category. Show me what it decided, why, which policies applied, and whether a human reviewed it."
"If you cannot answer that question — from your own systems, without vendor assistance, in a reasonable timeframe — you have a compliance gap regardless of what your technical documentation says."
AI Synapse Technologies · Position Paper 03For any point in the past six months (three years for law enforcement): the input received, the output produced, the model version active at the time, and the confidence level. Not from a vendor dashboard — from your own infrastructure, independently of the vendor.
Art. 12 — Traceability of functioning throughout lifetime
Not just that policies exist in documentation — that specific named policies were evaluated for each decision, and what outcome each produced. Documented controls that are not evidenced per-decision are not controls for regulatory purposes.
Art. 9 — Continuous risk management system
For decisions that were flagged, escalated, or overridden: a linked record of who reviewed, when, what they concluded, and why. "We have a human-in-the-loop policy" is a statement of intent. A timestamped, linked oversight record is evidence.
Art. 14 — Human oversight as a technical protocol
This is the question most organisations are not prepared for. A log stored in a database with write access has no answer to this. A cryptographically chained record does. The difference is not cosmetic — it determines whether the evidence survives legal challenge.
Evidentiary standard — implicit in Art. 12's traceability requirement
An organisation that cannot answer all four questions from its own infrastructure — independently of the vendor — does not control its compliance evidence. Art. 12(2) places the obligation to maintain logs under the deployer's control explicitly. Compliance evidence that resides primarily in vendor-controlled systems cannot be guaranteed to be complete, unmodified, or available on demand in a regulatory context.
The most technically consequential requirement of Art. 12 is one the article does not state explicitly: immutability. The obligation to maintain logs that enable traceability throughout the system's lifetime is only meaningful if those logs cannot be altered after the fact. A log that can be modified is not evidence — it is a representation of what someone chose to record.
Standard RDBMS tables are mutable by design. Even if application code never updates audit records, database administrators can. There is no technical proof that a specific record has not been modified. This architecture fails the evidentiary standard regardless of access control policies.
Append-only file systems (e.g., immutable S3 object storage with Object Lock) prevent deletion but do not provide cryptographic proof of integrity. Access control gaps — at the infrastructure level, not the application level — can allow modification. Acceptable for low-risk logging; insufficient for high-risk AI compliance.
Each record contains an HMAC or hash of its own content plus a reference to the preceding record's hash. Any modification of any record in the chain is detectable by recomputing the chain. The deployer holds the signing keys independently. This is the architecture that satisfies Art. 12's evidentiary requirements.
Cryptographic chaining plus periodic anchoring to an external timestamp authority (RFC 3161 compliant) provides the strongest possible evidentiary standard. Proves not only that records were not modified, but that they were created at the recorded time. Required for the most sensitive high-risk AI categories.
The audit trail obligation is referenced across multiple articles of the EU AI Act and interacts with external regulations. A compliance-grade implementation must satisfy all of them simultaneously.
Risk management requires continuous monitoring. Monitoring without a structured log of observed risk events is not monitoring — it is observation without record. Art. 9 and Art. 12 are technically inseparable: you cannot satisfy one without the other.
Human oversight is a right, not just a policy. The audit trail must record every instance of human review, intervention, override, or escalation as a first-class event. If oversight is not in the log, it did not happen for regulatory purposes.
The FRIA's commitment to specific oversight measures and bias controls is only verifiable through the audit trail. A FRIA without a corresponding log infrastructure commits to controls that cannot be demonstrated. The log is the FRIA's evidentiary backbone.
Providers must establish a post-market monitoring system to collect and review experience gained from deployed AI. This requires structured historical log data — not just current-state metrics. The log is the raw material for post-market analysis.
National market surveillance authorities can require access to AI system documentation and logs. Logs that cannot be produced within a reasonable timeframe — or that require vendor cooperation to retrieve — represent a direct compliance risk at the moment of regulatory inquiry.
GDPR's storage limitation principle requires that personal data is kept no longer than necessary. AI Act retention obligations (6 months / 3 years) must be justified under a GDPR lawful basis. The input_hash approach satisfies both: traceability without retaining personal data in the compliance ledger.
Model versions change frequently — especially with fine-tuning or prompt updates. A log record without the model version cannot be linked to the system state that produced it. Post-incident root cause analysis becomes impossible.
Most AI systems have governance policies defined in documentation. Whether those policies were actually evaluated for a specific decision — and what outcome they produced — is almost never captured in operational logs. This creates an unbridgeable gap between documented controls and evidenced compliance.
Human review workflows are typically managed in ticketing or case management systems (JIRA, ServiceNow, custom portals) with no technical link to the AI decision they modified. The two event streams cannot be correlated. Human oversight cannot be evidenced for specific decisions.
Standard DevOps practice rotates and purges logs based on storage cost. Logs older than 30 or 90 days are frequently deleted. This is non-compliant from day one of operation if the system is high-risk under Annex III. Retention policy must be set before go-live, not after the first regulatory inquiry.
AI systems produce outputs with associated confidence levels. These are almost never recorded in compliance logs — only in model inference telemetry. Without confidence scores, accuracy thresholds cannot be monitored and decision quality cannot be assessed post-hoc.
Cloud AI deployments frequently route all telemetry through vendor-controlled observability platforms (e.g., vendor dashboards, managed logging services). The deployer can view logs but cannot independently verify they are complete, unmodified, or guaranteed to be produced on demand in a regulatory context.
Bias monitoring requires knowing the protected-category distribution of decisions over time. If affected-party category is not captured in log records (even in anonymised form), bias analysis requires re-processing historical data — which may no longer be available, or may conflict with GDPR data minimisation.
Logs stored in writable storage with no integrity mechanism — no hash chain, no HMAC, no external timestamp anchor — cannot be presented as reliable evidence. A regulator can legitimately challenge whether the logs reflect the actual operational history of the system or a curated version produced after the fact.
There is a structural risk in AI governance that most compliance frameworks do not address: what happens to the audit trail when the AI vendor relationship ends?
Consider a realistic scenario: a public administration has deployed a high-risk AI system for three years. The AI vendor has produced the operational logs, hosted the monitoring infrastructure, and maintained the oversight records. The administration decides to change vendors — perhaps because a better system is available, the contract expires, or the vendor is acquired.
At the moment of transition, the organisation faces the following:
The audit trail for the entire operational period resides in the vendor's infrastructure. Contractual rights to the data exist on paper — but extraction requires active vendor cooperation, and completeness cannot be independently verified.
Art. 27(4) requires FRIA review when circumstances change substantially. A vendor transition qualifies. But the evidence base needed for that review — the operational log, monitoring data, oversight records — is precisely what is being migrated. There is a structural gap in regulatory continuity.
Policy gates, bias monitors, oversight protocols — all configured for the previous vendor's system. None of it transfers to the new AI model. The administration restarts the governance clock at zero while the regulatory obligation continues without interruption.
The worst-case version: the vendor relationship ends acrimoniously, or the vendor becomes insolvent. The administration's compliance evidence — years of decisions, oversight records, policy applications — is in legal limbo at the exact moment a regulatory audit may be triggered.
These problems share a single root cause: governance infrastructure was bundled with the AI model rather than operating as an independent layer. The solution is architectural separation. The vendor supplies the intelligence. The administration owns the governance. This means the audit trail, the monitoring infrastructure, and the oversight records must operate under the administration's control — not merely accessible through vendor APIs, but genuinely sovereign: exportable, verifiable, and operationally continuous through any vendor change.
The EU AI Act does not prescribe this separation explicitly. But Art. 12 (deployer control of logs), Art. 27(4) (continuous FRIA evidence), and Art. 9 (continuous risk management) together make it the only architecture that guarantees regulatory continuity regardless of what happens in the vendor relationship.
Article 12 is one of the most technically specific obligations in the EU AI Act, yet it is consistently underestimated in compliance gap analyses. Organisations that conflate operational logs with compliance audit trails will discover the gap at the worst possible moment: during a post-incident investigation or a regulatory audit, when the evidence they need either does not exist, cannot be verified, or cannot be produced without vendor cooperation.
The architectural decisions that determine Art. 12 compliance are made at system design and procurement — not at deployment. A system without a compliant audit trail architecture cannot be made compliant after the fact without significant re-engineering. The time to get this right is before go-live.
A compliant Art. 12 audit trail requires six properties that standard operational logs do not provide: automatic capture (no human trigger), complete decision context (input hash, model version, applied policies, confidence, human oversight linkage), cryptographic immutability (detectable tampering), structured schema (machine-queryable, not free-text), deployer-controlled storage (independent of vendor), and enforced retention (6 months general, 3 years law enforcement). Missing any one of these properties is a compliance gap, not a technical preference.
The AI Synapse ledger provides every property described in this paper — cryptographic immutability, structured decision records, human oversight linkage, policy gate logging, and sovereign storage — as a deployable infrastructure layer.
Request a technical briefing Explore the Ledger module
"Todas las organizaciones que despliegan IA de alto riesgo ya generan logs. Casi ninguno cumple el estándar del art. 12. La brecha no está en el volumen — está en la estructura, la inmutabilidad, la retención y la capacidad de reconstruir una decisión bajo escrutinio regulatorio."
Cuando los equipos de compliance evalúan sus sistemas de IA frente al Reglamento de IA, el registro de operaciones tiende a tratarse como un punto resuelto. "Tenemos logging" es la respuesta estándar. Logs de aplicación, trazas de error, registros de llamadas API — la infraestructura ya existe. La suposición es que el artículo 12 está satisfecho por defecto.
Esta suposición es incorrecta en casi todos los casos. El artículo 12 no exige que los sistemas de IA generen logs. Exige que generen registros capturados automáticamente que permitan una trazabilidad adecuada del funcionamiento del sistema a lo largo de su vida útil. Estas son propiedades fundamentalmente diferentes.
"La pregunta no es si registra. La pregunta es si sus logs pueden reconstruir, con total fidelidad, cada decisión que tomó el sistema — quién fue afectado, qué entrada produjo qué salida, qué políticas se aplicaron y si un humano intervino — para cualquier momento de los últimos seis meses."
AI Synapse Technologies · Documento de Posición 03El artículo 12 exige capacidades que permitan el registro automático de eventos a lo largo de la vida del sistema con un nivel de trazabilidad apropiado a la finalidad prevista. Siete obligaciones técnicas distintas están implícitas en este lenguaje:
El registro debe ser automático — no activado por acción humana, no habilitado selectivamente, no dependiente de un indicador configurado. Cada instancia de operación que pueda afectar a una persona física debe registrarse sin excepción. El registro manual o por muestreo no satisface esta obligación.
Los registros deben mantenerse durante toda la vida útil del sistema. Los períodos de retención definen el mínimo; la vida operativa define el techo. Un sistema activo no puede purgar registros basándose únicamente en costes de almacenamiento.
El registro debe permitir la trazabilidad del funcionamiento del sistema — no solo que funcionó, sino cómo funcionó. Los datos de entrada, la versión del modelo, las políticas aplicadas, la salida, el nivel de confianza y el contexto de uso deben ser reconstruibles.
Para sistemas de IA de alto riesgo utilizados en aplicación de la ley, gestión de fronteras, migración y asilo, el art. 12(1) exige explícitamente la retención de registros durante al menos tres años. Este es un mínimo legal estricto — no configurable, no renunciable.
Para el resto de categorías del Anexo III. Seis meses es el suelo — la finalidad del sistema y el perfil de riesgo pueden requerir más. La retención de 90 días estándar en DevOps es no conforme desde el primer día de operación.
La trazabilidad debe ser apropiada a la finalidad prevista. Los sistemas que toman decisiones que afectan a derechos fundamentales requieren registros más completos que los que realizan tareas de clasificación sin impacto individual. El equipo de compliance — no el de ingeniería — debe definir este umbral.
El art. 12(2) especifica que el responsable del despliegue debe poder mantener los registros bajo su control. Un responsable que no puede acceder, exportar o verificar de forma independiente los registros de su sistema de IA no los controla — independientemente de lo que diga el contrato con el proveedor.
Aplica a todas las categorías del Anexo III no listadas abajo. Incluye educación, empleo, servicios esenciales, scoring crediticio, seguros. Seis meses es el suelo — la finalidad y el perfil de riesgo pueden requerir más.
Art. 12(1) · Considerando 73Retención extendida obligatoria para IA utilizada en: aplicación de la ley, control fronterizo, tramitación de migración, evaluación de asilo, decisiones judiciales. Tres años desde cada evento de decisión.
Art. 12(1) extensión explícita · irrenunciableLa IA que gestiona infraestructuras críticas debe mantener registros durante toda la vida operativa del sistema más cualquier obligación regulatoria post-retirada. Definir en la contratación, no en la retirada del servicio.
Art. 12(1) · Anexo III punto 2 · Normativa sectorialCuando una autoridad de vigilancia del mercado ejerce sus competencias conforme al Art. 73 del Reglamento de IA, no comenzará revisando su documentación técnica. Comenzará con una pregunta concreta sobre una decisión concreta tomada por su sistema de IA que afectó a una persona concreta.
La pregunta no es "¿tiene registros?" Sino: "En esta fecha, su sistema procesó una solicitud de esta categoría. Muéstreme qué decidió, por qué, qué políticas se aplicaron y si un humano lo revisó."
"Si no puede responder a esa pregunta — desde sus propios sistemas, sin asistencia del proveedor, en un plazo razonable — tiene una brecha de cumplimiento independientemente de lo que diga su documentación técnica."
AI Synapse Technologies · Documento de Posición 03Para cualquier momento de los últimos seis meses (tres años para aplicación de la ley): la entrada recibida, la salida producida, la versión del modelo activa en ese momento y el nivel de confianza. No desde un panel del proveedor — desde su propia infraestructura, con independencia del proveedor.
Art. 12 — Trazabilidad del funcionamiento durante toda la vida útil
No solo que las políticas existen en documentación — sino que políticas con nombre concreto fueron evaluadas para cada decisión, y qué resultado produjo cada una. Los controles documentados que no se evidencian por decisión no son controles a efectos regulatorios.
Art. 9 — Sistema de gestión de riesgos continuo
Para las decisiones que fueron marcadas, escaladas o anuladas: un registro vinculado de quién revisó, cuándo, qué concluyó y por qué. "Tenemos una política de intervención humana" es una declaración de intención. Un registro de supervisión con marca temporal y enlace es evidencia.
Art. 14 — Supervisión humana como protocolo técnico
Esta es la pregunta para la que la mayoría de organizaciones no están preparadas. Un log almacenado en una base de datos con permisos de escritura no tiene respuesta a esto. Un registro encadenado criptográficamente sí la tiene. La diferencia no es cosmética — determina si la evidencia sobrevive una impugnación legal.
Estándar probatorio — implícito en el requisito de trazabilidad del Art. 12
Una organización que no puede responder las cuatro preguntas desde su propia infraestructura — con independencia del proveedor — no controla su evidencia de cumplimiento. El Art. 12(2) sitúa explícitamente la obligación de mantener los registros bajo el control del responsable del despliegue. La evidencia de cumplimiento que reside principalmente en sistemas controlados por el proveedor no puede garantizarse como completa, no modificada ni disponible a demanda en un contexto regulatorio.
El requisito técnicamente más determinante del Art. 12 es uno que el artículo no enuncia explícitamente: la inmutabilidad. La obligación de mantener registros que permitan la trazabilidad durante toda la vida del sistema solo es significativa si esos registros no pueden modificarse a posteriori. Un registro que puede alterarse no es evidencia — es una representación de lo que alguien decidió consignar.
Las tablas RDBMS estándar son mutables por diseño. Aunque el código de aplicación nunca actualice los registros de auditoría, los administradores de base de datos pueden hacerlo. No existe prueba técnica de que un registro concreto no haya sido modificado. Esta arquitectura no supera el estándar probatorio con independencia de las políticas de control de acceso.
Los sistemas de archivos de solo adición (por ejemplo, almacenamiento S3 inmutable con Object Lock) impiden la eliminación pero no proporcionan prueba criptográfica de integridad. Las brechas en el control de acceso — a nivel de infraestructura, no de aplicación — pueden permitir modificaciones. Aceptable para logging de bajo riesgo; insuficiente para el cumplimiento de IA de alto riesgo.
Cada registro contiene un HMAC o hash de su propio contenido más una referencia al hash del registro precedente. Cualquier modificación de cualquier registro de la cadena es detectable recalculando la cadena. El responsable del despliegue mantiene las claves de firma de forma independiente. Esta es la arquitectura que satisface los requisitos probatorios del Art. 12.
El encadenamiento criptográfico más el anclaje periódico a una autoridad de sellado temporal externo (conforme a RFC 3161) proporciona el estándar probatorio más sólido posible. Demuestra no solo que los registros no fueron modificados, sino que fueron creados en el momento consignado. Necesario para las categorías de IA de alto riesgo más sensibles.
La obligación de audit trail se referencia en múltiples artículos del Reglamento de IA e interactúa con regulaciones externas. Una implementación de grado compliance debe satisfacer todas simultáneamente.
La gestión de riesgos exige monitorización continua. Monitorizar sin un registro estructurado de los eventos de riesgo observados no es monitorización — es observación sin constancia. El Art. 9 y el Art. 12 son técnicamente inseparables: no puede satisfacerse uno sin el otro.
La supervisión humana es un derecho, no solo una política. El audit trail debe registrar cada instancia de revisión humana, intervención, anulación o escalada como un evento de primer orden. Si la supervisión no consta en el registro, no existió a efectos regulatorios.
El compromiso de la EIDF con medidas concretas de supervisión y controles de sesgo solo es verificable a través del audit trail. Una EIDF sin la infraestructura de registro correspondiente se compromete a controles que no pueden demostrarse. El registro es el respaldo probatorio de la EIDF.
Los proveedores deben establecer un sistema de seguimiento post-comercialización para recopilar y revisar la experiencia obtenida de la IA desplegada. Esto requiere datos de registro históricos estructurados — no solo métricas del estado actual. El registro es la materia prima para el análisis post-comercialización.
Las autoridades nacionales de vigilancia del mercado pueden requerir acceso a la documentación y los registros del sistema de IA. Los registros que no pueden producirse en un plazo razonable — o que requieren la cooperación del proveedor para recuperarse — representan un riesgo de cumplimiento directo en el momento de la inspección regulatoria.
El principio de limitación del plazo de conservación del RGPD exige que los datos personales no se conserven más tiempo del necesario. Las obligaciones de retención del Reglamento de IA (6 meses / 3 años) deben justificarse bajo una base jurídica del RGPD. El enfoque input_hash satisface ambas: trazabilidad sin retener datos personales en el ledger de cumplimiento.
Las versiones de modelo cambian con frecuencia. Un registro sin versión de modelo no puede vincularse al estado del sistema que lo produjo. El análisis de causas raíz tras un incidente se vuelve imposible.
La mayoría de sistemas de IA tienen políticas de gobernanza definidas en documentación. Si esas políticas fueron evaluadas para una decisión concreta — y qué resultado produjeron — casi nunca se captura en los logs operacionales. Esto crea una brecha insalvable entre controles documentados y cumplimiento evidenciado.
Los flujos de revisión humana suelen gestionarse en sistemas de tickets o gestión de casos sin vínculo técnico con la decisión de IA que modificaron. Los dos flujos de eventos no pueden correlacionarse. La supervisión humana no puede evidenciarse para decisiones específicas.
La práctica estándar de DevOps rota y purga logs en función del coste de almacenamiento. Los logs de más de 30 o 90 días se eliminan frecuentemente. Esto es no conforme desde el primer día de operación si el sistema es de alto riesgo según el Anexo III.
Los sistemas de IA producen salidas con niveles de confianza asociados. Estos casi nunca se registran en los logs de cumplimiento — solo en la telemetría de inferencia del modelo. Sin puntuaciones de confianza, los umbrales de precisión no pueden monitorizarse y la calidad de la decisión no puede evaluarse a posteriori.
Los despliegues de IA en cloud frecuentemente enrutan toda la telemetría a través de plataformas de observabilidad controladas por el proveedor. El responsable puede ver los logs pero no puede verificar de forma independiente que están completos, sin modificar, o garantizados para producirse a demanda en un contexto regulatorio.
La monitorización de sesgos requiere conocer la distribución por categorías protegidas de las decisiones a lo largo del tiempo. Si la categoría no se captura en los registros, el análisis de sesgos requiere reprocesar datos históricos — que pueden no estar disponibles o en conflicto con el principio de minimización de datos del RGPD.
Los logs almacenados en almacenamiento modificable sin mecanismo de integridad — sin cadena de hashes, sin HMAC — no pueden presentarse como evidencia fiable. Un regulador puede legítimamente cuestionar si los logs reflejan el historial operativo real del sistema o una versión curada producida a posteriori.
Para administraciones públicas y operadores privados regulados: los siguientes requisitos de verificación deben ser contractualmente vinculantes antes de que cualquier sistema de IA de alto riesgo sea aceptado en producción.
Completitud del registro: Solicitar una muestra de 100 registros operativos consecutivos. Verificar que todos los campos obligatorios del esquema anterior están presentes, cumplimentados y son legibles por máquina. Rechazar cualquier sistema donde falten campos o estén almacenados únicamente en formato de texto libre.
Verificación de integridad: Solicitar un procedimiento para verificar la integridad de los registros. Si el proveedor no puede facilitar una comprobación de integridad documentada e independientemente ejecutable, los registros no pueden utilizarse como evidencia. Solicitar el procedimiento de gestión de claves HMAC y confirmar que el responsable del despliegue dispone de su propia clave.
Configurabilidad de la retención: Verificar que los períodos de retención son configurables por el responsable del despliegue — no fijados por el proveedor. Para aplicaciones de aplicación de la ley y fronteras, confirmar que la retención de tres años está técnicamente impuesta, no solo documentada como política.
Acceso soberano al registro: Confirmar que el responsable del despliegue puede exportar de forma independiente el registro operativo completo en un formato estándar (JSON, CSV, Parquet) sin necesidad de asistencia del proveedor ni costes adicionales. Probarlo antes de la puesta en producción, no en el momento de una inspección regulatoria.
Integración de la supervisión humana: Verificar que el sistema proporciona un mecanismo técnico — no una recomendación de proceso — para vincular los eventos de supervisión humana con las decisiones de IA específicas que modificaron. Los sistemas separados que utilizan números de ticket compartidos no son suficientes.
Registro de puertas de política: Para cada política de gobernanza definida en la EIDF, verificar que el sistema registra, por decisión, si la política fue evaluada, qué resultado produjo y qué acción se tomó. La documentación de políticas sin registro de aplicación por decisión no satisface el Art. 9 ni el Art. 12.
Salida de monitorización de sesgo: Solicitar una demostración de la monitorización de sesgo sobre datos de registro históricos. El sistema debe poder producir, a partir de sus propios registros, una distribución estadística de resultados por categoría protegida durante un período de tiempo definido. Es una condición necesaria para la revisión de la EIDF conforme al Art. 27(4).
Todo contrato para un sistema de IA de alto riesgo debe contener, como mínimo, estas tres cláusulas:
(1) Soberanía del registro: Todos los registros operativos generados por el sistema durante el período contractual son propiedad exclusiva del organismo que despliega y deben entregarse en su totalidad, en formato portable, en un plazo de 10 días hábiles desde cualquier solicitud, sin coste adicional.
(2) Garantía de integridad: El proveedor garantiza que los registros están firmados criptográficamente y que cualquier modificación o eliminación es técnicamente detectable. El proveedor debe suministrar el procedimiento de verificación como parte de la documentación contractual.
(3) Obligación de retención: El proveedor conservará los registros durante los períodos especificados en el Art. 12(1) del Reglamento (UE) 2024/1689 aplicables a la categoría del sistema, y notificará al responsable del despliegue con no menos de 90 días de antelación ante cualquier modificación planificada de la configuración de retención de registros.
Las decisiones arquitectónicas que determinan el cumplimiento del art. 12 se toman en el diseño y la contratación del sistema — no en el despliegue. Un sistema sin una arquitectura de audit trail conforme no puede hacerse conforme después del hecho sin re-ingeniería significativa. El momento de hacerlo bien es antes de la puesta en producción.
Un audit trail conforme al art. 12 requiere seis propiedades que los logs operacionales estándar no proporcionan: captura automática (sin activación humana), contexto completo de decisión (hash de entrada, versión de modelo, políticas aplicadas, confianza, vínculo con supervisión humana), inmutabilidad criptográfica (manipulación detectable), esquema estructurado (consultable por máquina, no texto libre), almacenamiento bajo control del responsable del despliegue (independiente del proveedor) y retención forzada (6 meses general, 3 años para aplicación de la ley). La ausencia de cualquiera de estas propiedades es una brecha de cumplimiento, no una preferencia técnica.
El ledger de AI Synapse proporciona cada propiedad descrita en este documento — inmutabilidad criptográfica, registros estructurados de decisiones, vínculo con supervisión humana, registro de policy gates y almacenamiento soberano — como capa de infraestructura desplegable.
Solicitar un briefing técnico Explorar el módulo Ledger
« Chaque organisation déployant une IA à haut risque génère déjà des journaux. Presque aucun ne répond à la norme de l'art. 12. L'écart n'est pas dans le volume — il est dans la structure, l'immuabilité, la rétention et la capacité à reconstruire une décision sous contrôle réglementaire. »
L'article 12 n'exige pas que les systèmes d'IA génèrent des journaux. Il exige qu'ils génèrent des journaux capturés automatiquement permettant une traçabilité adéquate du fonctionnement du système tout au long de sa durée de vie. Ce sont des propriétés fondamentalement différentes.
« La question n'est pas de savoir si vous journalisez. La question est de savoir si vos journaux peuvent reconstruire, avec une fidélité totale, chaque décision prise par le système — qui a été affecté, quelle entrée a produit quelle sortie, quelles politiques se sont appliquées, et si un humain est intervenu — pour tout moment au cours des six derniers mois. »
AI Synapse Technologies · Document de Position 03S'applique à toutes les catégories de l'annexe III non listées ci-dessous. Six mois est le plancher — la finalité et le profil de risque peuvent exiger plus.
Art. 12(1) · Considérant 73Rétention étendue obligatoire pour l'IA utilisée dans : les forces de l'ordre, le contrôle aux frontières, le traitement des migrations, l'évaluation de l'asile, les décisions judiciaires. Trois ans à compter de chaque événement de décision.
Art. 12(1) extension explicite · non modulableL'IA gérant des infrastructures critiques doit conserver les journaux pendant toute la durée de vie opérationnelle du système plus toute obligation réglementaire post-retrait. Définir lors de l'achat, pas lors du décommissionnement.
Art. 12(1) · Annexe III point 2Les versions de modèle changent fréquemment. Un enregistrement sans version ne peut pas être lié à l'état du système qui l'a produit. L'analyse des causes profondes après un incident devient impossible.
La plupart des systèmes d'IA ont des politiques de gouvernance définies dans la documentation. Si ces politiques ont été évaluées pour une décision spécifique — et quel résultat elles ont produit — n'est presque jamais capturé dans les journaux opérationnels.
Les flux de révision humaine sont généralement gérés dans des systèmes de tickets ou de gestion de cas sans lien technique avec la décision d'IA qu'ils ont modifiée. La supervision humaine ne peut pas être prouvée pour des décisions spécifiques.
La pratique DevOps standard fait tourner et purge les journaux en fonction des coûts de stockage. Les journaux de plus de 30 ou 90 jours sont fréquemment supprimés. C'est non conforme dès le premier jour d'exploitation pour tout système à haut risque selon l'annexe III.
Les systèmes d'IA produisent des sorties avec des niveaux de confiance associés. Ceux-ci ne sont presque jamais enregistrés dans les journaux de conformité. Sans scores de confiance, les seuils de précision ne peuvent pas être surveillés.
Les déploiements IA en cloud envoient souvent toute la télémétrie via des plateformes d'observabilité contrôlées par le prestataire. Le responsable du déploiement peut voir les journaux mais ne peut pas vérifier indépendamment leur complétude ou leur intégrité.
La surveillance des biais nécessite de connaître la distribution par catégories protégées des décisions dans le temps. Si la catégorie n'est pas capturée dans les enregistrements, l'analyse des biais nécessite un retraitement des données historiques qui peuvent ne plus être disponibles.
Les journaux stockés dans un stockage modifiable sans mécanisme d'intégrité ne peuvent pas être présentés comme preuves fiables. Un régulateur peut légitimement remettre en question si les journaux reflètent l'historique opérationnel réel ou une version organisée produite après coup.
Les décisions architecturales qui déterminent la conformité à l'art. 12 sont prises lors de la conception et de l'achat du système — pas lors du déploiement. Un système sans architecture de piste d'audit conforme ne peut pas être rendu conforme après coup sans une ré-ingénierie significative.
Une piste d'audit conforme à l'art. 12 requiert six propriétés que les journaux opérationnels standard ne fournissent pas : capture automatique, contexte décisionnel complet, immuabilité cryptographique, schéma structuré, stockage sous contrôle du responsable du déploiement et rétention imposée. L'absence de l'une de ces propriétés est un écart de conformité, pas une préférence technique.
Le ledger AI Synapse fournit chaque propriété décrite dans ce document — immuabilité cryptographique, enregistrements structurés, lien supervision humaine, journalisation des portes de politique et stockage souverain.
Demander un briefing technique Explorer le module Ledger
« Ogni organizzazione che distribuisce IA ad alto rischio genera già log. Quasi nessuno soddisfa lo standard dell'art. 12. Il divario non è nel volume — è nella struttura, nell'immutabilità, nella conservazione e nella capacità di ricostruire una decisione sotto scrutinio regolatorio. »
L'articolo 12 non richiede che i sistemi di IA generino log. Richiede che generino registrazioni catturate automaticamente che consentano un'adeguata tracciabilità del funzionamento del sistema per tutta la sua vita utile. Queste sono proprietà fondamentalmente diverse.
« La domanda non è se si registra. La domanda è se i vostri log possono ricostruire, con piena fedeltà, ogni decisione presa dal sistema — chi è stato interessato, quale input ha prodotto quale output, quali policy si sono applicate e se un umano è intervenuto — per qualsiasi momento degli ultimi sei mesi. »
AI Synapse Technologies · Documento di Posizione 03Si applica a tutte le categorie dell'allegato III non elencate di seguito. Sei mesi è il pavimento — la finalità e il profilo di rischio possono richiedere di più.
Art. 12(1) · Considerando 73Conservazione estesa obbligatoria per IA utilizzata in: forze dell'ordine, controllo delle frontiere, elaborazione delle migrazioni, valutazione dell'asilo, decisioni giudiziarie. Tre anni da ogni evento di decisione.
Art. 12(1) estensione esplicita · non derogabileL'IA che gestisce infrastrutture critiche deve conservare i log per tutta la vita operativa del sistema più qualsiasi obbligo normativo post-ritiro. Definire in fase di acquisto, non di dismissione.
Art. 12(1) · Allegato III punto 2Le versioni del modello cambiano frequentemente. Un record senza versione non può essere collegato allo stato del sistema che lo ha prodotto. L'analisi delle cause radice dopo un incidente diventa impossibile.
La maggior parte dei sistemi di IA ha policy di governance definite nella documentazione. Se quelle policy sono state valutate per una decisione specifica — e quale esito hanno prodotto — quasi mai viene catturato nei log operazionali.
I flussi di revisione umana sono tipicamente gestiti in sistemi di ticketing o gestione dei casi senza collegamento tecnico con la decisione di IA che hanno modificato. La supervisione umana non può essere dimostrata per decisioni specifiche.
La pratica DevOps standard ruota e purga i log in base ai costi di archiviazione. I log più vecchi di 30 o 90 giorni vengono frequentemente eliminati. Questo è non conforme dal primo giorno di operazione per qualsiasi sistema ad alto rischio secondo l'Allegato III.
I sistemi di IA producono output con livelli di confidenza associati. Questi quasi mai vengono registrati nei log di conformità. Senza punteggi di confidenza, le soglie di accuratezza non possono essere monitorate.
I deployment IA in cloud spesso instradano tutta la telemetria attraverso piattaforme di osservabilità controllate dal fornitore. Il responsabile del deployment può vedere i log ma non può verificare indipendentemente che siano completi o non modificati.
Il monitoraggio dei bias richiede di conoscere la distribuzione per categorie protette delle decisioni nel tempo. Se la categoria non viene catturata nei record, l'analisi dei bias richiede la rielaborazione di dati storici che potrebbero non essere più disponibili.
I log archiviati in storage modificabile senza meccanismo di integrità non possono essere presentati come prove affidabili. Un regolatore può legittimamente contestare se i log riflettono la reale cronologia operativa del sistema o una versione curata prodotta a posteriori.
Le decisioni architetturali che determinano la conformità all'art. 12 vengono prese in fase di progettazione e acquisto del sistema — non in fase di deployment. Un sistema senza un'architettura di audit trail conforme non può essere reso conforme dopo il fatto senza una significativa re-ingegnerizzazione.
Un audit trail conforme all'art. 12 richiede sei proprietà che i log operazionali standard non forniscono: cattura automatica, contesto decisionale completo, immutabilità crittografica, schema strutturato, storage sotto controllo del responsabile del deployment e conservazione forzata. L'assenza di una qualsiasi di queste proprietà è una lacuna di conformità, non una preferenza tecnica.
Il ledger AI Synapse fornisce ogni proprietà descritta in questo documento — immutabilità crittografica, record decisionali strutturati, collegamento supervisione umana, registrazione dei gate di policy e storage sovrano.
Richiedere un briefing tecnico Esplorare il modulo Ledger