Francesca Mazzi – Lecturer in AI, innovation and law – Brunel University London
SOMMARIO
1. Introduction.
1.1. Framing the Problem.
1.2. Contextualising the analysis through a risk-based approach.
1.3 Scope and Assumptions.
1.4 Methods.
2. The Static Approach to AI Auditing.
2.1. AI as a ‘Living System’.
2.2. Multi-Layered Impact of AI Systems.
2.3. Existing Auditing Methodologies.
2.4. Risk Buckets Across the AI Lifecycle.
2.5. The Limits of the Static Approach.
3. The Silent Over-Delegation.
3.1. Conceptualising Silent Over-Delegation.
3.2. Organizational Dynamics of Silent Over-Delegation.
3.3. Technical Manifestations of Silent Over-Delegation in favour of automation.
3.4 Technical Manifestations of Silent Over-Delegation with meaning-erosion of human control.
3.5 The Feedback Loop Between Static Auditing and Over-Delegation.
4. Relevance for Sustainability and Recommendations.
4.1. Mapping Risks to Structured Categories.
4.2. Embedding Human Oversight.
4.3. Organizational Accountability.
4.4. Adaptive and Iterative Auditing Methodologies.
4.5. Elaborating the concept of ‘human-control washing’.
4.6. A Broader Reflection.
5. Conclusions.
This paper reframes some of the obstacles in AI auditing as opportunities to strengthen oversight and resilience by examining two insidious patterns: the static approach and silent over-delegation. Rather than treating AI as fixed tools, the paper proposes viewing systems as dynamic, evolving entities whose emergent behaviours require continuous, adaptive governance. The paper shows how static auditing – which assumes technological stability – can be transformed into iterative methodology that balances regulatory alignment with operational effectiveness, reducing the misalignment between private cost incentives and public interest. The paper also addresses silent over-delegation, where systems audit their own outputs or human oversight is nominal, and discusses remedies that restore meaningful accountability. The risk analysis organizes vulnerabilities into actionable categories and links concrete mitigation strategies grounded in AI governance and organizational compliance literature. The paper aims to advance theoretical understanding and practical approaches for preserving the substance of ‘human oversight’ in AI auditing, and, in turn, mitigating broader consequences for systems that influence public goods, including the Sustainable Development Goals. Moreover, this analysis directly contributes to the practical interpretation of the obligations under the EU AI Act, such as the requirements for risk management, data governance, technical documentation, transparency, and robust human oversight for highrisk AI systems. The proposed framework supports compliance with the EU AI Act’s mandate for ongoing monitoring and assessment, helping organizations meet enforceable duties while preventing what can be defined as ‘humancontrol washing’.
Keywords: AI auditing, Static approach, Silent over-delegation, Risk analysis, Governance, Compliance, human-control washing.
Questo contributo rilegge alcuni degli ostacoli dell’auditing dell’intelligenza artificiale come opportunità per rafforzare il controllo e l’effettiva supervisione dei sistemi, attraverso l’analisi di due dinamiche particolarmente insidiose: l’approccio statico all’auditing e la silent over-delegation (la progressiva ed eccessiva delega del controllo ai sistemi di IA). Il lavoro propone di interpretare i sistemi di IA come entità dinamiche e in continua evoluzione, concentrando l›attenzione sui modelli di governance continui e adattivi che tale natura richiede.
L’articolo mostra come l’auditing statico – fondato sull’assunto di una sostanziale stabilità tecnologica – possa essere ripensato con una metodologia iterativa, capace di coniugare conformità normativa ed efficacia operativa, contribuendo a ridurre la tensione tra gli incentivi privati alla riduzione dei costi e l’interesse pubblico. Il contributo affronta inoltre il fenomeno della silent over-delegation, in cui i sistemi finiscono per verificare i propri output oppure la supervisione umana si riduce a un adempimento puramente formale, discutendo possibili rimedi in grado di ripristinare meccanismi efficaci di responsabilità e rendicontazione.
L’analisi organizza i rischi in categorie operative e collega ciascuna vulnerabilità a strategie di mitigazione concrete, fondate sulla letteratura in materia di governance dell’IA e di compliance organizzativa. L’obiettivo è contribuire sia al dibattito teorico sia allo sviluppo di strumenti pratici per preservare la sostanza della supervisione umana (human oversight) nell’auditing dei sistemi di IA e, di conseguenza, rafforzare la capacità di governarne gli impatti su ambiti di pubblico interesse, inclusi gli Obiettivi di Sviluppo Sostenibile (Sustainable Development Goals).
L’analisi offre inoltre un contributo all’interpretazione operativa degli obblighi previsti dall’AI Act dell’Unione europea, con particolare riferimento ai requisiti in materia di gestione del rischio, documentazione tecnica, trasparenza e supervisione umana per i sistemi di IA ad alto rischio. Il quadro metodologico proposto favorisce la conformità agli obblighi di monitoraggio e valutazione continua previsti dal regolamento, aiutando le organizzazioni ad adempiere ai propri doveri giuridici e, al contempo, a prevenire quello che il presente lavoro definisce come ‘human-control washing’, cioè la formalizzazione del controllo umano senza il mantenimento di una capacità decisionale significativa.
Parole chiave: governance dell’intelligenza artificiale, Auditing dell’IA, EU AI Act, human oversight, Silent over-delegation, human-control washing.