الثقة والذكاء الاصطناعي
الذكاء الاصطناعي العمومي يجب أن يكون خاضعاً للمساءلة
عندما تنير خوارزمية قراراً يُلزم الدولة، يجب أن يبقى هذا القرار قابلاً للتتبع والإسناد والطعن. هذه رؤيتنا Jazari ROOT، المنسجمة مع المغرب الرقمي 2030.
نموذج لا يمكن تدقيقه لا مكان له في قرار عمومي.
المساءلة قبل الأداء
تتجهز الإدارة بمساعدات خوارزمية: تنقيط، فرز ملفات، مساعدة على اتخاذ القرار. مكسب النجاعة حقيقي — والمخاطر كذلك: من يجيب عن قرار لا يستطيع أحد تفسيره؟
موقفنا بسيط: في القطاع العام، المساءلة تسبق الأداء. كل توصية خوارزمية يجب أن تُسجَّل بمدخلاتها ونسخة نموذجها وسياقها؛ وكل قرار نهائي يجب أن يحمل توقيع موظف بشري مؤهل.
إنها نفس متطلبات الإثبات المطبقة على العقود التقليدية — ممتدة إلى القرارات المدعومة بالذكاء الاصطناعي، بنفس اللبنات السيادية: توقيع، ختم زمني، سجل قابل للتحقق، مستضافة محلياً.
Jazari ROOT: أربعة مبادئ غير قابلة للتفاوض
نسبةً إلى الجزري، المهندس العبقري من القرن الثاني عشر: ذكاء اصطناعي عمومي جدير بمخترعين كانوا يقيسون آلياتهم. ROOT — المساءلة، الانفتاح، الحجية، التتبع.
المساءلة
لكل قرار مدعوم بالذكاء الاصطناعي مسؤول بشري محدد يوقعه ويمكنه الإجابة عنه أمام طرف ثالث.
الانفتاح
معايير النموذج وحدوده موثقة وقابلة للإبلاغ لهيئات الرقابة — لا صندوق أسود في وجه المواطنين.
الحجية
سجل القرار موقع ومختوم زمنياً: يشكل دليلاً عند الطعن، حتى بعد سنوات.
التتبع
المدخلات، نسخة النموذج، سياق التنفيذ: كل توصية قابلة لإعادة التركيب بشكل مطابق.
خارطة طريقنا Jazari ROOT
لبنات ملموسة، تُسلَّم بالترتيب الذي يحتاجه القطاع العام.
-
1
سجل قرارات الذكاء الاصطناعي
تدوين كل توصية خوارزمية — المدخلات، النسخة، السياق — في سجل الإثبات السيادي القائم.
-
2
توقيع القرار النهائي
الموظف المؤهل يصادق ويوقع: الذكاء الاصطناعي يقترح والإنسان يلتزم.
-
3
سجل النماذج
النسخ وبيانات التدريب والتقييمات والحدود الموثقة: نظير « الذكاء الاصطناعي » لسجل المعالجات.
-
4
التدقيق والخبرة المضادة
إعادة تشغيل قرار بشكل مطابق لهيئات الرقابة: قابلية الطعن تصبح خاصية لا نزاعاً.
إدارتكم تحضّر مشروع ذكاء اصطناعي؟
لنؤطر معاً مساءلته قبل دخوله حيز الإنتاج.