إطار حوكمة وكلاء الذكاء الاصطناعي
كيف تتحكم في أنظمة الوكلاء وتدققها قبل أن تتحكم فيك: هوية، صلاحيات، سجلات، وموافقة بشرية — إطار عملي من أربع ركائز.
لماذا الحوكمة قبل الأتمتة؟
الوكيل الذي يرسل بريدًا أو يعدّل سجلًا أو ينفّذ دفعة يقوم بفعل حقيقي لا يمكن التراجع عنه. الحوكمة ليست طبقة تُضاف لاحقًا — بل شرط التشغيل. هذا الإطار يلخص كيف نهندس أي نظام وكلاء ليبقى قابلًا للتدقيق من اليوم الأول.
١. سجل الهويات
كل وكيل يعمل بحساب مستقل باسمه ومالك بشري مسؤول عنه. لا بيانات دخول مشتركة ولا حسابات شخصية مستعارة — فيُنسب كل فعل إلى فاعل واحد معروف.
٢. مصفوفة الصلاحيات
لكل وكيل جدول صلاحيات مكتوب: ماذا يقرأ، وبأي أدوات يكتب، وما الممنوع صراحة. الافتراضي أقل صلاحية ممكنة، وأي توسعة تمر بموافقة المالك البشري.
٣. سجل القرارات
كل خطوة تُسجَّل في مخزن لا يستطيع الوكيل تعديله: المدخل، الأداة، النتيجة، والسبب. عند أي حادثة تراجع السجل بدل تخمين ما حدث.
٤. بوابات الموافقة البشرية
صنّف الأفعال إلى قابلة للتراجع وغير قابلة. غير القابلة — مدفوعات، رسائل للعملاء، حذف بيانات — تتوقف حتى يوافق إنسان. الوكيل يقترح؛ الإنسان يقرر.
قائمة تحقق قبل الإطلاق
- هل للوكيل حساب مستقل ومالك بشري مسؤول؟
- هل صلاحياته مكتوبة ومحدودة بمهمته فقط؟
- هل يسجل كل قرار في مخزن لا يستطيع تعديله؟
- هل الأفعال غير القابلة للتراجع تتطلب موافقة بشرية؟
- هل يستطيع شخص إيقافه فورًا دون كسر النظام؟