تحديد النطاق
احصر الأدوات والبيانات والصلاحيات والأفعال المسموحة والممنوعة ونقطة موافقة الإنسان. اربط كل صلاحية بمهمة.
دليل / منهج
تقييم وكيل ذكاء اصطناعي قبل تشغيله
يشمل تقييم الوكيل أفعاله وحدوده وإخفاقاته، لا طلاقة إجاباته وحدها.
إجابة مباشرة
كيف نعرف أن الوكيل جاهز للاستخدام الفعلي؟
حدد المهام المسموحة والنتائج المتوقعة والأضرار الواجب منعها. أنشئ حالات عادية وملتبسة وعدائية، ونفذها بلا أثر خارجي، ثم راجع كل فعل وتوقف.
01 / منهج الفحص
منهج الفحص
بناء حالات الاختبار
أدرج الطلبات العادية والبيانات الناقصة والتعليمات المضللة في المصادر وأعطال الأدوات والتكرار ومحاولات تجاوز المهمة.
فحص السجلات
قارن النتيجة والمصادر واستدعاءات الأدوات والرفض والوقت والكلفة وتدخل الإنسان بالمعايير المحددة.
اتخاذ قرار التشغيل
امنع الإخفاقات الحرجة وقلص الصلاحيات وأعد الاختبارات بعد التعديل. جهز الإيقاف والبديل اليدوي والسحب.
02 / الأدلة المحفوظة
الأدلة المحفوظة
بطاقة الحالة
المدخل والنتيجة المتوقعة والخطر والشدة ومعيار النجاح.
سجل التنفيذ
نسخة النظام والأدوات والبيانات المكشوفة والمخرجات والقرار البشري.
سجل الفجوات
الخطأ وأثره وسببه المحتمل وتصحيحه ونتيجة الإعادة.
قرار التشغيل
المسؤول والنطاق المعتمد وحد الإيقاف والبديل وموعد المراجعة.
03 / FAQ
أسئلة شائعة
هل تكفي الإجابة الصحيحة للأمان؟
لا. قد يصل إليها من مصدر غير مناسب أو بفعل غير مصرح به.
هل يجب اختبار حقن التعليمات؟
نعم، خاصة عند قراءة صفحات أو وثائق أو رسائل قد تحتوي تعليمات عدائية.
متى يلزم قرار بشري؟
قبل فعل حساس أو لا رجعة فيه أو خارج النطاق المصرح به.
ماذا بعد إخفاق حرج؟
أوقف المسار واحفظ السجل وقلص القدرة وأعد الاختبارات قبل الاستئناف.
04 / مراجع رسمية