يعني إيه AI Agent أصلًا؟

AI Agent هو نظام ذكاء اصطناعي قادر على فهم هدف، تقسيمه إلى خطوات، استخدام أدوات، قراءة بيانات، واتخاذ أفعال لتحقيق النتيجة المطلوبة. الفرق بينه وبين الشات بوت العادي أن الشات بوت غالبًا يرد فقط، أما الوكيل فقد يقرأ وينفذ ويتابع ويتخذ قرارات داخل نظام.

مثلًا، وكيل مبيعات قد يقرأ بيانات عميل من CRM، يراجع آخر محادثة، يكتب رسالة متابعة، يحدد موعدًا، ويرسل تنبيهًا لفريق المبيعات. ووكيل دعم فني قد يصنف الشكاوى، يبحث في قاعدة المعرفة، ينشئ تذكرة، أو يصعّد المشكلة للفريق المناسب.

ما المقصود بصلاحيات غير آمنة؟

الصلاحيات غير الآمنة تعني أن الوكيل يمتلك وصولًا أوسع مما يحتاجه فعلًا لأداء مهمته. مثلًا: وكيل خدمة عملاء يستطيع الوصول لكل ملفات الشركة، أو وكيل تسويق يستطيع حذف بيانات CRM، أو وكيل تقارير يمتلك صلاحية تعديل قاعدة البيانات بدل قراءتها فقط.

المشكلة ليست في وجود الصلاحيات فقط، بل في عدم وجود حدود واضحة: ماذا يقرأ؟ ماذا يعدل؟ ماذا يرسل؟ متى يحتاج موافقة بشرية؟ كيف يتم تسجيل أفعاله؟ ومن المسؤول إذا أخطأ؟

أمثلة على صلاحيات خطيرة لو اتفتحت للوكيل

مش كل وصول للأنظمة خطر، لكن الخطر يبدأ عندما يحصل الوكيل على صلاحيات تنفيذية أو حساسة بدون ضوابط.

أخطر سيناريو: الوكيل عنده Tool Access بدون Governance

Tool Access يعني أن الوكيل لا يرد فقط، بل يستخدم أدوات: API، إيميل، CRM، ERP، قاعدة بيانات، نظام تذاكر، أو منصة إعلانات. هذه القوة مفيدة جدًا، لكنها تصبح خطيرة إذا لم يتم تحديد الحدود.

مثلًا، Prompt Injection داخل ملف أو رسالة يمكن أن يحاول توجيه الوكيل لتنفيذ أمر غير مقصود. ولو الوكيل لديه صلاحيات واسعة، قد يقرأ بيانات أو ينفذ أفعالًا لا علاقة لها بمهمة المستخدم.

أهم المخاطر الأمنية لوكلاء الذكاء الاصطناعي

إزاي أتعامل مع المشكلة؟ ابدأ بمبدأ أقل صلاحية

مبدأ أقل صلاحية Least Privilege يعني أن الوكيل يأخذ أقل صلاحية ممكنة لأداء المهمة المطلوبة فقط. لا تعطيه وصولًا عامًا لأن “يمكن يحتاجه لاحقًا”. الصلاحيات الواسعة هي أول باب للخطر.

طبّق نموذج صلاحيات واضح للوكلاء

يجب أن تتعامل مع AI Agent كهوية رقمية داخل الشركة، وليس كأداة مجهولة. كل وكيل يجب أن يكون له اسم، مالك، هدف، صلاحيات، حدود، وسجل نشاط.

قسّم الوكلاء حسب مستوى الخطورة

ليس كل وكيل يحتاج نفس مستوى الأمان. وكيل يلخص مقالات عامة ليس مثل وكيل يستطيع تعديل بيانات العملاء أو إرسال إيميلات أو الوصول لملفات مالية.

استخدم Read-Only كإعداد افتراضي

أفضل بداية آمنة هي أن يكون الوكيل Read-Only بشكل افتراضي. يعني يقرأ ويحلل ويلخص ويقترح، لكنه لا يعدل ولا يرسل ولا يحذف إلا بعد موافقة أو في حالات محددة جدًا.

هذه القاعدة تحمي الشركة في مرحلة التجربة، وتمنح الفريق فرصة لفهم سلوك الوكيل قبل توسيع صلاحياته.

اجعل الأفعال الحساسة Human-in-the-Loop

Human-in-the-Loop يعني أن الإنسان يراجع ويوافق قبل تنفيذ أفعال معينة. هذا ضروري خصوصًا مع إرسال إيميلات خارجية، نشر محتوى، تعديل بيانات عملاء، تشغيل حملة، إصدار فاتورة، أو مشاركة ملف.

استخدم صلاحيات مؤقتة بدل صلاحيات دائمة

من الأخطاء الشائعة أن يحصل الوكيل على صلاحيات دائمة. الأفضل استخدام صلاحيات مؤقتة Time-Bound أو Just-in-Time Access. يعني الوكيل يحصل على صلاحية محددة لفترة قصيرة أو لمهمة واحدة، ثم يتم إغلاقها تلقائيًا.

هذا يقلل خطر أن يستغل شخص أو عملية خاطئة صلاحيات قديمة أو غير مستخدمة.

لا تستخدم حساب موظف للوكيل

بعض الشركات تربط الوكيل بحساب موظف حقيقي أو حساب Admin عام. هذا خطر جدًا لأنه يخلط بين أفعال الإنسان وأفعال الوكيل، ويجعل التحقيق والمراجعة أصعب.

الأفضل أن يكون لكل وكيل هوية مستقلة Agent Identity، بصلاحيات واضحة وسجل مستقل. بهذه الطريقة تعرف ماذا فعل الوكيل، ومتى، وبأي أمر، وتحت أي سياسة.

اعمل Allowlist للأدوات المسموح بها

لا تجعل الوكيل يستخدم أي أداة متاحة. اعمل قائمة أدوات مسموح بها فقط Allowlist. مثلًا: وكيل الدعم الفني يمكنه إنشاء تذكرة وقراءة قاعدة المعرفة، لكنه لا يستطيع الوصول للبيانات المالية أو إرسال ملفات خارجية.

راقب الوكيل كأنك تراقب موظفًا عالي الصلاحية

أي وكيل لديه صلاحيات على بيانات أو أنظمة يجب أن يتم مراقبته. المراقبة لا تعني عدم الثقة في الذكاء الاصطناعي، بل تعني أن أي نظام قادر على التنفيذ يحتاج مراجعة.

اختبر الوكيل قبل التشغيل الحقيقي

قبل أن تطلق الوكيل داخل بيئة حقيقية، اختبره في Sandbox ببيانات وهمية أو بيانات محدودة. جرّب سيناريوهات عادية وسيناريوهات هجوم: تعليمات متعارضة، ملفات بها أوامر خفية، طلبات تصعيد صلاحيات، أو محاولات استخراج بيانات.

الهدف من الاختبار ليس إثبات أن الوكيل ذكي فقط، بل إثبات أنه آمن عند الخطأ، ويرفض الأفعال غير المصرح بها، ولا يتجاوز حدوده.

خطة عملية من 30 يوم لتأمين AI Agents

لو شركتك بدأت تستخدم AI Agents أو تفكر في استخدامها، اتبع خطة بسيطة لمدة 30 يومًا بدل فتح الصلاحيات بسرعة.

Checklist سريع قبل إطلاق أي AI Agent

أخطاء شائعة لازم تتجنبها

كيف توازن بين الإنتاجية والأمان؟

الهدف ليس تعطيل AI Agents أو منع استخدامها. الهدف هو استخدامها بشكل ناضج. الوكيل الآمن هو الذي يساعد الفريق ينجز أسرع، لكن داخل حدود واضحة تحمي البيانات والعميل والشركة.

أفضل توازن هو أن تبدأ بصلاحيات قراءة وتحليل، ثم تضيف أفعالًا بسيطة، ثم أفعالًا أكثر تأثيرًا بعد الاختبار والمراقبة. كل مرحلة يجب أن يكون لها قياس ومراجعة وصلاحيات محددة.

الخلاصة

وكلاء الذكاء الاصطناعي يمكن أن يرفعوا إنتاجية الشركات بشكل كبير، لكنهم يحتاجون حوكمة مختلفة عن الشات بوت العادي. لأن الوكيل لا يتكلم فقط، بل قد يستخدم أدوات ويتعامل مع بيانات وينفذ أفعالًا.

التعامل الصحيح يبدأ من أقل صلاحية، هوية مستقلة لكل وكيل، موافقات بشرية للأفعال الحساسة، مراقبة كاملة، اختبار في بيئة آمنة، ومراجعة دورية للصلاحيات.

لا تمنح AI Agent صلاحيات مفتوحة لأنه “ذكي”. امنحه صلاحيات محددة لأنه يحتاجها، وراقبه لأنه قادر على التنفيذ.