ProvenanceGuard: تحقق من مصدر الحقائق لوكلاء MCP بدقة 86%
أطلقت Multiverse Computing نظام ProvenanceGuard، طبقة تحقق لاحقة للوكيل الذكي تكشف 'الخلط بين المصادر' في بيئات MCP متعددة الأدوات. حقق النظام F1=0.802 في حجب الادعاءات غير المدعومة، والتقط 138 من 139 ادعاءً خاطئاً، وحدد المصدر الصحيح بنسبة 86%، متفوقاً على MiniCheck وRAGAS وAlignScore وSummaC-ZS.
الموجز الإحصائي السريع
أعلنت Multiverse Computing عن نظام ProvenanceGuard، طبقة تحقق لاحقة للتحقق من مصدر الحقائق في وكلاء LLM القائمة على بروتوكول MCP. النظام متاح عبر الورقة البحثية على Hugging Face وarXiv، وقد قُدّم كملصق في Agentic AI Summit 2026 بجامعة UC Berkeley، وتم دمجه في NVIDIA NVFlow لوكيلها المالي.
📊 بطاقة البيانات والمواصفات التقنية الرسمية
| المحور التقني | البيانات الرسمية المؤكدة |
|---|---|
| 💰 الأسعار وتكلفة الاستخدام | مجاني عبر الورقة البحثية على Hugging Face وarXiv. النماذج المحلية المستخدمة (MiniLM، DeBERTa NLI، نموذج لغوي محلي) مفتوحة المصدر. التكيف مع النماذج السحابية المستضافة يتطلب اختبار ومعايرة خاصة. |
| 🌐 المنصات والتوفر الفوري | Hugging Face (الورقة البحثية)، arXiv (نسخة أولية)، NVIDIA NVFlow (دمج في وكيل مالي)، Agentic AI Summit 2026 (ملصق). يعمل كنظام محلي Offline أو قابل للتكيف مع السحابة. |
| ⚡ الأداء ومؤشرات السرعة | F1=0.802 في حجب الادعاءات (الأعلى بين 5 أنظمة). التقاط 138 من 139 ادعاءً خاطئاً (99.3%). دقة تحديد المصدر الصحيح 86%. زمن المعالجة ~0.5 ثانية لكل إجابة. استدعاءات NLI والتوجيه في نطاق عشرات المللي ثانية. |
| 🛡️ الأمان ومقاومة الاختراق | يكشف الخلط بين المصادر (Cross-Source Conflation) حيث يُنسب ادعاء صحيح إلى مصدر خاطئ. اكتشف 50 من 50 حالة تبديل مصدر. سياسة قرار محافظة تناسب المراجعة الحساسة للبيانات. يحافظ على معرفات المصادر عبر خط الأنابيب دون تجميع مجهول. |
| 🧠 سياق الذاكرة (Context Window) | يعمل على مسارات MCP الملتقطة (281 مساراً حقيقياً في الاختبار الطبي). لا يحد من نافذة سياق الوكيل الأصلي. يحلل مخرجات الأدوات ومعرفات المصادر بشكل منفصل دون تجميعها. |
| 🌍 دعم اللغة العربية والمنطقة | لم يُذكر دعم عربي صريح في الورقة البحثية. النظام يعمل على النصوص الإنجليزية في الاختبارات المنشورة. قابل للتكيف نظرياً مع اللغات الأخرى عند توفر نماذج NLI مناسبة. |
تفاصيل الإعلان والميزات التقنية الجديدة
يعالج ProvenanceGuard فشلاً دقيقاً في وكلاء MCP يسميه الباحثون "الخلط بين المصادر" (Cross-Source Conflation): ادعاء صحيح موجود في مكان ما ضمن مخرجات الأدوات المجمعة، لكنه منسوب إلى مصدر خاطئ. مثال ذلك وكيل دعم عملاء يقول "وفقاً لسجل الحساب، تشمل هذه الخطة نافذة استرداد 30 يوماً"، بينما النافذة مذكورة فعلاً في وثيقة سياسة وليس في سجل الحساب. أنظمة التحقق العمياء عن المصدر تمرر هذا الادعاء لأن الحقيقة موجودة في المجموع، بينما ProvenanceGuard يكتشف عدم تطابق الإسناد.
يعمل النظام كطبقة تحقق لاحقة تقرأ مسار MCP الملتقط بما في ذلك مخرجات الأدوات ومعرفات المصادر، دون إعادة تدريب الوكيل. ينفذ خمس خطوات متسلسلة: تقسيم الإجابة إلى ادعاءات محددة، إيجاد المصدر الأكثر صلة بكل ادعاء، التحقق من دعم المصدر للادعاء، مقارنة المصدر بالمصدر المذكور أو المُضمَر في الإجابة، ثم إصدار حكم لكل ادعاء وقرار عام بالسماح أو الحجب. في الإعداد المحلي المستخدم، يعمل MiniLM على إيجاد المصدر، وDeBERTa NLI على التحقق من الدعم، ونموذج لغوي محلي على تقسيم الادعاءات. يتحقق النظام أيضاً من القيم الحرفية: رقم أو تاريخ أو معرف غائب عن المصدر لا يمكن أن يمر لمجرد أن الجملة تبدو معقولة.
عند حجب إجابة، يمكن تشغيل حلقة إصلاح بنمط RARR لمحاولة مراجعة مستندة إلى المصدر أو نص احتياطي آمن، ثم يعيد المدقق فحصها. في التشغيل الكامل، حلّ النظام جميع الإجابات المحجوبة البالغ عددها 173، لكن 144 منها انتهت بنص احتياطي بدلاً من إعادة صياغة جوهرية، وهو اختيار النظام لتجنب إجابة غير قابلة للتحقق بدلاً من اختلاقها.
المقارنة المعيارية والأداء التنافسي
في اختبار على 361 ادعاءً من 40 إجابة، حدد الخبراء البشريون 139 ادعاءً يجب حجبها، والتقط ProvenanceGuard 138 منها وسمح بواحد فقط. كما حجب 67 ادعاءً اعتبره الخبراء مدعوماً لأغراض المراجعة أو الإصلاح، مما يعكس السياسة المحافظة في الإعداد المختبَر. للادعاءات ذات المصدر القابل للتحديد، اختار النظام المصدر الصحيح بنسبة 86%.
في مقارنة مع أربعة أنظمة تحقق أخرى على نفس الادعاءات، سجل ProvenanceGuard أعلى درجة F1=0.802، مقابل MiniCheck (0.783)، RAGAS Faithfulness (0.758)، AlignScore (0.662)، وSummaC-ZS (0.436). الميزة الحاسمة أن ProvenanceGuard هو النظام الوحيد الذي يصدر معرف المصدر لكل ادعاء، بينما لا تفعل ذلك الأنظمة الأربعة المنافسة. في اختبار أصعب بمصادر متشابهة، سجل النظام F1=0.846 في قرار الحجب لكنه حدد المصدر الصحيح بنسبة 50.3% فقط، مما يشير إلى أن التمييز بين المصادر المتشابهة يبقى مجالاً للتحسين. في اختبار تبديل المصادر في 50 حالة مع الحفاظ على الأدلة الداعمة، اكتشف النظام جميع الحالات الخمسين.
ماذا يعني هذا للمطور والمستخدم العربي؟ (The Localization Edge)
يقدم ProvenanceGuard نموذجاً عملياً للمطورين العرب الذين يبنون وكلاء ذكاء اصطناعي متعدد الأدوات في قطاعات حساسة مثل الصحة والمالية والخدمات الحكومية، حيث يكون الخطأ في إسناد المعلومة لمصدرها بنفس خطورة الخطأ في المعلومة نفسها. تكلفة التطوير منخفضة نسبياً لأن النظام يعمل محلياً بنماذج مفتوحة المصدر (MiniLM وDeBERTa) دون الحاجة إلى استدعاءات API سحابية مكلفة، مما يناسب المشاريع الناشئة ذات الميزانيات المحدودة. زمن المعالجة البالغ نصف ثانية لكل إجابة مقبول لمعظم حالات الاستخدام العربية التي تتطلب دقة على حساب السرعة القصوى. التحدي الرئيسي هو غياب دعم عربي صريح في الورقة البحثية، مما يتطلب من المطورين العرب تكييف نماذج NLI العربية أو تدريبها لتحقيق نفس مستويات الدقة. حالات الاستخدام الواعدة تشمل وكلاء الدعم الحكومي، والاستشارات الطبية عن بُعد، والخدمات المصرفية الرقمية في المنطقة.
الخلاصة والتطلعات القادمة
يمثل ProvenanceGuard تحولاً مهماً في تعريف "صحة" إجابات وكلاء LLM: من مجرد وجود الحقيقة في مكان ما ضمن الأدلة، إلى إسنادها للمصدر الصحيح الذي تذكره الإجابة. مع دمج النظام في NVIDIA NVFlow لوكيلها المالي، يبدو أن النهج المصدر-الواعي يجد طريقه إلى التطبيقات الإنتاجية. التحدي القادم هو تحسين التمييز بين المصادر المتشابهة، حيث انخفضت الدقة إلى 50.3%، وهو ما سيكون حاسماً لتبني النظام في بيئات المؤسسات المعقدة متعددة المصادر.
المصدر الإعلامي: Hugging Face | البيان الرسمي للشركة: المصدر الأصلي | تدقيق وتحليل البيانات: AI Tools Oasis
أسئلة شائعة
فريق AI Tools Oasis
نقدم لك أحدث الأخبار والتحليلات في عالم الذكاء الاصطناعي بدقة ومصداقية. تابعنا للحصول على كل جديد.
