Confiance & IA
L'IA publique doit rendre des comptes
Quand un algorithme éclaire une décision qui engage l'État, cette décision doit rester traçable, imputable et contestable. C'est notre vision Jazari ROOT, alignée sur Maroc Digital 2030.
Un modèle qu'on ne peut pas auditer n'a pas sa place dans une décision publique.
La redevabilité avant la performance
L'administration s'équipe d'assistants algorithmiques : scoring, tri de dossiers, aide à la décision. Le gain d'efficacité est réel — le risque aussi : qui répond d'une décision que personne ne peut expliquer ?
Notre position est simple : dans le secteur public, la redevabilité prime la performance. Chaque recommandation algorithmique doit être journalisée avec ses entrées, sa version de modèle et son contexte ; chaque décision finale doit porter la signature d'un agent humain habilité.
C'est la même exigence de preuve que pour les actes classiques — étendue aux décisions assistées par l'IA, avec les mêmes briques souveraines : signature, horodatage, journal vérifiable, hébergés sur site.
Jazari ROOT : quatre principes non négociables
Du nom d'Al-Jazari, ingénieur de génie du XIIᵉ siècle : une IA publique digne des inventeurs qui mesuraient leurs mécanismes. ROOT — Redevabilité, Ouverture, Opposabilité, Traçabilité.
Redevabilité
Toute décision assistée par l'IA a un responsable humain identifié, qui la signe et peut en répondre devant un tiers.
Ouverture
Les critères et les limites du modèle sont documentés et communicables aux corps de contrôle — pas de boîte noire opposée aux citoyens.
Opposabilité
Le journal de décision est signé et horodaté : il fait preuve en cas de recours, des années plus tard.
Traçabilité
Entrées, version du modèle, contexte d'exécution : chaque recommandation est reconstituable à l'identique.
Notre feuille de route Jazari ROOT
Des briques concrètes, livrées dans l'ordre où le secteur public en a besoin.
-
1
Journal de décision IA
Consigner chaque recommandation algorithmique — entrées, version, contexte — dans le journal de preuve souverain existant.
-
2
Signature de la décision finale
L'agent habilité valide et signe : l'IA propose, l'humain engage. La non-répudiation s'applique à la décision, pas au modèle.
-
3
Registre des modèles
Versions, données d'entraînement, évaluations et limites documentées : le pendant « IA » du registre des traitements.
-
4
Audit & contre-expertise
Rejouer une décision à l'identique pour les corps de contrôle : la contestabilité devient une fonctionnalité, pas un contentieux.
Votre administration prépare un projet d'IA ?
Cadrons ensemble sa redevabilité avant sa mise en production.