يمنع أخطاء وكيل الذكاء الاصطناعي… فيكتارا تطلق 'مُحقق الأدوات'

المصدر: TokenPost العنوان الأصلي: AI 에이전트 오류 막는다…벡타라, ‘툴 밸리데이터’ 출시 الرابط الأصلي: بينما تتسارع تقنية الذكاء الاصطناعي في استبدال عمليات الأعمال في الشركات، زادت مخاطر الحوادث الناتجة عن أخطاء تخطيط وكلاء الذكاء الاصطناعي، وظهرت تقنيات جديدة لمواجهتها. شركة ستارتوب فيكتارا(Vectara) أطلقت حديثًا ‘مدقق الأدوات(Tool Validator)’ الذي يلعب دورًا في تحديد الطلبات غير الضرورية أو الخاطئة لاستخدام الأدوات ضمن خطة العمل التي ينفذها وكيل الذكاء الاصطناعي، مما يوقف الأخطاء مسبقًا.

مدقق الأدوات هو الحل الثاني من منتجات ‘وكيل الحارس(Guardian Agent)’ التي طورتها فيكتارا، وتركز على تطبيق الحوكمة والسياسات الأمنية في الوقت الحقيقي في أنظمة الذكاء الاصطناعي للشركات، مع منع الأخطاء. مؤسس مشارك ومدير تنفيذي لشركة فيكتارا، عمرو عواد الله(Amr Awadallah)، قال: “في أوائل عام 2025، كانت العديد من الشركات تتوقع إمكانيات وكيل الذكاء الاصطناعي بشكل كبير، لكن محدودية الثقة والأخطاء في التخطيط والنتائج غير المتسقة أدت إلى فشل في تحقيق الأرباح الفعلية”، مؤكدًا على الحاجة إلى هذا الحل.

هناك حالات مباشرة أيضًا. في أحد الأمثلة، قام مطور باستخدام بيئة التطوير المتكاملة ‘أنتيغراديفيتي(Antigravity)’ التي قدمتها جوجل، بتنفيذ أمر خطير بحذف كامل وحدة التخزين بدلاً من مسح الذاكرة المؤقتة، مما أدى إلى فقدان البيانات. ويُعتقد أن السبب هو أن الوكيل المعطوب استخدم أداة خاطئة خلال مرحلة التخطيط. وأوضحت فيكتارا أن وجود مدقق الأدوات كان يمكن أن يمنع حدوث ذلك مسبقًا.

هذه الأداة مبنية على بنية ‘نظام تشغيل الوكيل(Agent Operating System)’ التي طورتها فيكتارا، وتقوم بمراجعة تلقائية لقائمة الأدوات المقترحة من قبل الذكاء الاصطناعي خلال مرحلة التخطيط، مع إزالة العناصر غير ذات الصلة واقتراح أدوات بديلة. كما تمنع الوكيل من استدعاء الموارد الأساسية مثل متصفح الويب، قواعد البيانات، ونظام الملفات بشكل غير ضروري، مما يعزز الاستقرار والثقة بشكل عام.

تم تصميم مدقق الأدوات للعمل جنبًا إلى جنب مع ‘وكيل تصحيح الهلوسة(Hallucination Corrector)’ الذي أُطلق سابقًا، والذي يهدف إلى تصفية الأخطاء الناتجة عن توليد معلومات غير دقيقة أو استدعاء موارد غير ضرورية في نتائج الذكاء الاصطناعي أثناء عملية الاستنتاج.

لكي تكتسب أنظمة الذكاء الاصطناعي المعتمدة على الوكيل مكانة أدوات بديلة للمهام التقليدية، فإن الثقة والسيطرة ضروريان. وتأمل فيكتارا أن تساهم منتجاتها الجديدة في تحقيق حوكمة فعالة وتقليل مخاطر التشغيل أثناء اعتماد الشركات على الذكاء الاصطناعي.