كيف تراجع وكيل الذكاء الاصطناعي قبل أن تثق به في عملياتك

وكيل ذكاء اصطناعي مدمج في نظام ERP يعتمد أمر شراء في الساعة الثانية صباحاً. لم يراجعه أحد. بدت منطقه سليمةً في بيئة الاختبار المعزولة قبل ثلاثة أشهر. لكن هذا لا يعني أنه يتصرف بالشكل الصحيح اليوم، في مواجهة بيانات حية، وظروف معادية، وصلاحيات تراكمت منذ الإطلاق. الفجوة بين هذين الوضعين هي موطن المخاطر التشغيلية — وأغلب المؤسسات الخليجية لم تبنِ بعد آليةً منهجية لإغلاقها.

ما يفحصه تدقيق وكيل الذكاء الاصطناعي فعلاً — ولماذا "نجح في الاختبار" ليس كافياً

البرمجيات التقليدية تؤدي الوظيفة ذاتها في كل مرة تُشغَّل فيها. هذا الاتساق الحتمي هو ما يجعلها قابلة للتدقيق: حدِّد المخرجات المتوقعة، اختبر المدخلات، قارن النتائج. وكيل الذكاء الاصطناعي يكسر هذا الافتراض كلياً. إنه يستدل ويختار الأدوات ويتخذ إجراءات تتباين مع كل مدخل، وكل نافذة سياق، وكل استدعاء أداة في سلسلته. ^[2]

هذه ليست مخاوف نظرية. في يونيو 2025، مكّن هجوم حقن موجهات بدون نقر في Microsoft 365 Copilot (CVE-2025-32711، CVSS 9.3) من تسريب البيانات دون أي تفاعل من المستخدم — إذ عالج الوكيل بريداً إلكترونياً خبيثاً، ونفّذ تعليمات مخفية، وأرسل بيانات حساسة إلى عنوان خارجي. وفي حادثة منفصلة عام 2026، تضمّنت أوصاف طلبات سحب GitHub Copilot حقناً موجهاً مخفياً (CVE-2025-53773، CVSS 9.6) أدى إلى تنفيذ تعليمات برمجية عن بُعد. ^[2] في كلتا الحالتين، نفّذ الوكيل بالضبط ما صُمِّم للقيام به. التعليمات جاءت فحسب من مهاجم.

التدقيق الحقيقي لا يسأل "هل اجتاز الوكيل اختبار الجودة؟" بل يطرح أربعة أسئلة محددة:

1. هل يتطابق السلوك الملحوظ للوكيل مع مواصفاته عبر مدخلات متنوعة ومعادية؟
2. أي الأدوات يستدعي، وهل يستدعيها فقط عند الحاجة الفعلية؟
3. أي البيانات يصل إليها، وهل الوصول مقيّد بمبدأ الحد الأدنى من الصلاحيات؟
4. هل تُفعَّل حلقات التصعيد البشري في أوقاتها المحددة — لا في سيناريوهات المسار المثالي فحسب؟

إطار العمل مفتوح المصدر iFixAi يُشغّل هذا الاستفسار بصورة عملية. يمكن تنفيذه بواسطة مراجع بشري أو الوكيل ذاته، وهدفه المُعلَن الإجابة على السؤال الجوهري في نشر الوكلاء — "هل الوكيل يفعل ما يُفترض أن يفعله؟" — في أقل من 120 ثانية. ^[1] تلك السرعة مهمة: تجعل التحقق قبل النشر بوابةً قابلة للتكرار لا تمريناً يُجرى مرةً واحدة.

أنماط الإخفاق الأربعة التي تفلت من اختبار الجودة المعياري في نشر الوكلاء

اختبار الجودة المعياري يتحقق من السلوك الذي توقعته. أنماط إخفاق الوكيل تميل إلى الاختباء في السلوك الذي لم تتوقعه. أربعة أنماط تتكرر باستمرار في عمليات النشر المؤسسي:

1. حقن الموجهات عبر مصادر بيانات موثوقة. الوكيل يثق بالمحتوى القادم من نظام متكامل — حقل فاتورة، اسم مورد، نص بريد إلكتروني — وذلك المحتوى يتضمن تعليمات تُعيد توجيه إجراءات الوكيل. ^[2] نادراً ما يختبر فريق الجودة هذا السيناريو لأن سكريبتات الاختبار يكتبها الفريق الذي بنى التكامل، لا طرف مهاجم.

2. تضخم الصلاحيات بمرور الوقت. تُمنح الوكلاء صلاحيات وصول إضافية للأدوات تدريجياً مع اكتشاف الفرق لحالات استخدام جديدة. كل إضافة توسّع ما يستطيع الوكيل فعله إن انحرف سلوكه أو جرى التلاعب به. ^[4] سطح التدقيق يتسع مع كل صلاحية، لكن إعادة الاختبار نادراً ما تواكب ذلك.

3. انجراف النموذج دون تغيير سير العمل. النموذج الأساسي أو معاملاته تُحدَّث. مواصفات سير العمل لا تُحدَّث. قد يُكمل الوكيل المهام، لكن مسار استدلاله وعتبات ثقته وتعامله مع الحالات الحدية ربما تغيّرت جميعاً. ^[2] لا أحد يلاحظ حتى يفشل عملية تالية.

4. حلقات الموافقة البشرية الغائبة أو المتجاوَزة. أطر الحوكمة تشترط وجود إنسان في الحلقة للقرارات عالية المخاطر. في الواقع العملي، صُمِّمت خطوات الموافقة لسير العمل المتوقع، وقد لا تُفعَّل حين يصل الوكيل إلى القرار ذاته عبر مسار استدلال غير متوقع. ^[3] الحلقة موجودة على الورق؛ لكنها لا تُفعَّل بشكل موثوق في بيئة الإنتاج.

ثمانية وثمانون بالمئة من المؤسسات التي تُشغّل وكلاء ذكاء اصطناعي أبلغت عن حادثة أمنية مؤكدة أو مشتبه بها خلال العام الماضي — في حين يُخصص 6% فقط من ميزانيات الأمن لمعالجة المخاطر المرتبطة بالوكلاء. ^[2] هذا التفاوت هو المشكلة. إن نشرت وكلاء داخل طبقة ERP أو سير عمل دون تدقيق منهجي، فعلى الأرجح قبلت مخاطر لم تقِسها.

قائمة مراجعة تدقيق عملية للوكلاء المدمجين في أنظمة ERP وسير العمل

القائمة أدناه ليست شاملة، لكنها تغطي الحد الأدنى الذي ينبغي أن تتضمنه أي مراجعة جادة قبل النشر. فكّر فيها بوصفها المقابل لضوابط مالية: لن توافق على سير عمل لدفعات جديدة دون قائمة مراجعة للاعتماد. الانضباط ذاته ينطبق هنا.

مراجعة مواصفات السلوك

• هل توجد مواصفة مكتوبة لما يجب على الوكيل فعله وما لا يجب، على مستوى الإجراءات؟
• هل تغطي المواصفة الحالات الحدية والمدخلات المعادية، لا مسار التدفق الأمثل فحسب؟

نطاق الأدوات والصلاحيات

• هل يعمل الوكيل وفق مبدأ الحد الأدنى من الصلاحيات — وصول فقط إلى البيانات والأدوات التي يحتاجها للمهمة الحالية؟ ^[4]
• هل خضعت كل صلاحية للمراجعة منذ آخر تحديث للنموذج أو التكامل؟

قابلية المراقبة والتسجيل

• هل كل استدعاء أداة وحدث وصول إلى بيانات وفرع قرار مُسجَّل في سجل تدقيق قابل للاسترجاع؟ ^[4]
• هل يمكنك إعادة بناء ما فعله الوكيل بالضبط، ولماذا، لأي معاملة معينة؟

اختبار المدخلات المعادية

• هل اختُبر الوكيل بمحاولات حقن موجهات مضمّنة في حمولات بيانات واقعية — لا بيانات اختبار نظيفة فحسب؟
• هل استُمدت المدخلات من الأنظمة الفعلية التي سيقرأ منها الوكيل في بيئة الإنتاج؟

التحقق من صحة حلقة التصعيد البشري

• هل تُفعَّل منطق التصعيد حين يصل الوكيل إلى حد قرار عبر مسار استدلال غير متوقع، لا فقط عبر المسار الموثق؟
• من يملك قرار التصعيد، وهل هذه الملكية موثقة ومختبرة؟

التوافق مع إطار الحوكمة

• هل يتوافق النشر مع قائمة OWASP للتطبيقات الوكيلية العشرة الأولى (الصادرة في ديسمبر 2025) ومبادرة NIST لمعايير وكلاء الذكاء الاصطناعي (فبراير 2026)؟ ^[2]
• هل Agent Governance Toolkit من Microsoft أو طبقة تطبيق بديلة في وقت التشغيل موجودة؟ ^[2]

للفرق التي تفكر بالفعل في وكلاء الذكاء الاصطناعي داخل أنظمة ERP، ينبغي تشغيل هذه القائمة قبل أول معاملة إنتاجية، لا بعد أول شذوذ.

الإنسان في الحلقة مقابل الوكلاء ذاتيو التدقيق: ما يكشفه نهج iFixAi

إطار iFixAi يدعم وضعين للتدقيق: يُديره إنسان، ويُديره الوكيل. ^[1] هذا التمييز أكثر أهمية تشغيلياً مما يبدو.

التدقيق الذي يُديره إنسان يُضفي حُكماً لا يستطيع أي نظام آلي تكراره — يمكن للمراجع أن يلاحظ أن السلوك المعتمد للوكيل ذاته مُحدَّد بصورة رديئة، قبل التحقق حتى من مدى مطابقة الوكيل للمواصفة. الوكلاء ذاتيو التدقيق في المقابل يعملون بصفة مستمرة وعلى نطاق واسع، ويرصدون الانحرافات في شبه وقت فعلي بدلاً من فترات مراجعة مجدولة.

الموقف الصريح هو أنك تحتاج كليهما، مُرتَّبَين بالتسلسل الصحيح. مراجعة بشرية في مرحلة المواصفة وعند مراحل النشر الرئيسية. مراقبة آلية مستمرة بين تلك المراحل. تُظهر بيانات KPMG AI Pulse أن المؤسسات تتصارع مع هذه الفجوة في المساءلة بالضبط: مع توسع نطاق الوكلاء عبر المؤسسة، يصعب الإجابة على سؤال من المسؤول عن قراراتهم دون قابلية مراقبة منهجية. ^[3]

عبارة "إنسان في الحلقة" أصبحت خانة في قائمة الامتثال. ما ينبغي أن تعنيه هو بوابة موافقة موثقة ومختبرة وتُفعَّل بشكل موثوق على القرارات ذات الأثر — مع إنسان مُسمَّى يستطيع تفسير سبب قبول مخرجات الوكيل أو رفضها. أي شيء دون ذلك هو وثيقة حوكمة لا تصمد أمام بيئة الإنتاج.

هذا يرتبط مباشرةً بالنقطة التي أشرنا إليها في لماذا يحتاج الذكاء الاصطناعي المؤسسي الآن إلى مقيّم لا مجرد مورّد: طبقة التقييم ليست بنية تحتية اختيارية. إنها الشرط الذي تحت ظله يمكن الوثوق بالأتمتة.

رأي تارسين: بوابات التدقيق ينبغي أن تسبق الإطلاق، لا أن تعقب الحادثة الأولى

نلاحظ نمطاً متكرراً في المؤسسات الخليجية التي نعمل معها. يُشغَّل إثبات المفهوم بنجاح في بيئة معزولة. يُبدي أصحاب المصلحة إعجابهم. يُسرَّع المشروع إلى الإنتاج. سؤال التدقيق — "هل الوكيل يفعل فعلاً ما حددناه؟" — يُؤجَّل إلى مراجعة ما بعد الإطلاق التي لا تحدث أبداً لأن الفريق يبني الأتمتة التالية بالفعل.

هكذا تنتهي بفوضى مُفصحة: وكيل يُنتج مخرجات واثقة وسليسة تبدو صحيحة هيكلياً، لكنها خاطئة بأوجه لا يكتشفها أحد حتى يستفسر مورد عن دفعة، أو يطلب جهة تنظيمية سجل تدقيق، أو يفشل عملية تالية بصمت أسابيع متواصلة.

الحجة للتحرك بسرعة حقيقية. لكنها لا تُلغي الحجة لمعرفة ما يفعله وكيلك. الاثنتان ليستا في تعارض إن بنيت بوابة التدقيق داخل عملية النشر بدلاً من التعامل معها كخطوة منفصلة واختيارية.

توصيتنا مباشرة: شغّل تدقيقاً منهجياً قبل النشر — مواصفة السلوك، نطاق الصلاحيات، قابلية المراقبة، اختبار المدخلات المعادية، والتحقق من حلقة التصعيد — قبل أن يلمس أي وكيل بيانات الإنتاج. استخدم إطاراً مثل iFixAi ^[1] لجعل التحقق قابلاً للتكرار وسريعاً. توافق مع معايير OWASP وNIST الموجودة الآن تحديداً للنشر الوكيلي. ^[2] وعيّن إنساناً مُسمَّى يملك نتيجة التدقيق، لا البناء فحسب.

إن أردت نقطة انطلاق منهجية لعمليتك، صُمِّم تدقيق تارسين ليمنحك صورة واضحة عن مواطن نجاح منظومة الذكاء الاصطناعي والأتمتة لديك، ومواطن إخفاقها، وما تحتاج إصلاحه قبل أن يكلّفك ذلك. وكما كتبنا سابقاً في التدقيق الذي يحدد ما إذا كان الذكاء الاصطناعي يستحق الأمر، الإجابة الصريحة أحياناً هي: لا تُطلق بعد.

وكلاء الذكاء الاصطناعي ليسوا خطرين لأنهم أقوياء. إنهم خطرون حين يُنشَرون دون انضباط التحقق ذاته الذي تطبقه على أي نظام آخر يُحرّك الأموال، أو يُنشئ السجلات، أو يتخذ القرارات نيابةً عنك. الأطر باتت موجودة. الأدوات باتت موجودة. الفجوة ليست تقنية — إنها في العملية.

أغلقها قبل الإطلاق. الحادثة الأولى دائماً أكثر تكلفةً من التدقيق الذي كان سيمنعها.