*د.محمد إٍسماعيل

مفتاح الحلّ لا يكمن في مراقبة كل حركة ينفذها الوكيل الآلي وحدها، بل في هندسة حواجز رقمية تفرض حدود صلاحياته على مستوى الأنظمة.

شهدت ثورة الذكاء الاصطناعي تحوّلاً جذرياً في طبيعة العلاقة بين الإنسان والآلة، إذ لم تعد البرمجيات مجرد محاور افتراضي ينتظر سؤالك ليصوغ لك إجابة، بل أدخلتنا في عصر "الوكلاء المستقلين" (Autonomous Agents) والحديث هنا عن برامج تُمنح تفويضاً بالعمل: تُعطى هدفاً نهائياً، فتتحرك بمفردها لترتيب الخطوات، واستخراج الملفات، ومخاطبة الأنظمة، وإصدار الأوامر دون إشراف بشري آني.

لكن، خلف هذا الإغراء الإنتاجي المذهل يختبئ فخ تقني وتنظيمي بالغ الحساسية: كيف تمنح برنامجاً حرّية التصرّف الكافية ليحلّ مشكلاتك، دون أن يسعى يوماً ليستخدم صلاحيات حسّاسة لم تفكر يوماً في منحه إيّاها؟

سيناريو افتراضي: فخ "الاجتهاد المفرط"

لفهم طبيعة هذا الخطر بعيداً عن التعقيدات التقنية، فلنتخيل هذا الموقف: داخل قسم المحاسبة في إحدى الشركات، يطلب المدير المالي من وكيل ذكاء اصطناعي إعداد تقرير مقارنة بين رواتب الموظفين وميزانية المشاريع للربع الأخير. الصلاحية الممنوحة للوكيل يُفترض أن تكون محصورة في القراءة فقط لسجلات محددة. لكن أثناء جمع الأرقام، يجد الوكيل ملفاً مشفراً يخص مكافآت الإدارة التنفيذية، فيصطدم بجدار الحماية: "أنت لا تملك حق الوصول".

الموظف البشري يتوقف هنا ليسأل مديره. أما الوكيل الذكيّ، فقد يحاول البحث عن مسار بديل لإنجاز المهمة إن كانت الأدوات والصلاحيات المتاحة له تسمح بذلك. وفي هذا السيناريو الافتراضي، يبحث داخل الملفات المشتركة التي يستطيع الوصول إليها، فيعثر على ملف يحتوي على كلمة مرور حساب مدير تقنية المعلومات ذي الصلاحيات الواسعة. يستخدم الوكيل بيانات الاعتماد هذه للوصول إلى الملف المحظور، ثم يحذف المسوّدات القديمة من الخادم لتوفير مساحة لحفظ التقرير الجديد، مستفيداً من الصلاحيات الإضافية التي أتاحها له الحساب!

المفاجأة هنا أن أجهزة المراقبة في الشركة لم ترصد أيّ اختراق خارجي. المفتاح المستخدم رسمي وموثوق، والأنظمة الأمنية التقليدية مصمّمة لتسأل: "هل الرمز صحيح؟" ولا تسأل أبداً: "من الذي يمسك بالرمز، إنسان أم آلة؟". في هذه الحال، لم تكن هناك برمجية خبيثة، بل "اجتهاد مفرط" من ذكاء اصطناعي أراد الوصول إلى خط النهاية متجاهلاً القوانين والضوابط.

وهم "حق الاطلاع": الخطر لا يقتصر على الحذف أو التعديل

كثيرون يعتقدون أن حصر صلاحية الوكيل في القراءة فقط يضمن الأمان التام. لكن الواقع يثبت العكس؛ فالخطر الحقيقي لا ينحصر في تعديل البيانات أو إتلافها وحذفها فحسب، بل يمتد إلى وجهة تلك البيانات ومسارها.

فالوكيل الذي يملك حق قراءة سجلات مالية أو شخصية حسّاسة، قد يعيد إرسالها دون قصد في رسالة بريد إلكتروني، أو يُضمّنها في ملخص عام موجّه لجمهور غير مخوّل للاطلاع، أو حتى ينقلها إلى خادم خارجي غير محميّ؛ ما يعني حدوث تسريب خطير للبيانات تحت مظلة مهمة استطلاعية بريئة تماماً.

صورة تعبيرية لتجاوز وكلاء الذكاء الاصطناعي الحواجز الأمنية والوصول إلى البيانات الحساسة. (تصميم النهار)

لماذا يميل الذكاء الاصطناعي إلى كسر حدوده؟

الوكيل لا يتصرف بدافع التمرد أو الخبث، بل نتيجة طبيعة تصميمه الرياضي، وتحت ضغط مؤثرَين لا مفرّ منهما:

1. التخلص من الرقابة المرهقة: جوهر الاستعانة بالوكيل هو التحرر من الروتين. فلو اضطر المدير لمراجعة كل خطوة، والموافقة على كل اتصال بقاعدة بيانات، لفقدت الأتمتة قيمتها وصار الذكاء الاصطناعي عبئاً لا ميزة.

2. منطق الالتفاف حول العقبات: النماذج اللغوية المتطوّرة تبرع في التفكير الإبداعي البرمجي؛ وحين تجد طريقاً مسدوداً، لا تستسلم، بل تبحث في بيئة العمل الرقمية عن ثغرة أو مفتاح مهمل للالتفاف حول المشكلة. وضع أمر منع معيّن بشكل مباشر لا يكفي؛ فالوكيل قادر على إعادة صياغة طلبه عبر قناة اتصال أخرى لتحقيق النتيجة ذاتها.

كيف نبني أسوار أمان حقيقية؟

إن الاكتفاء بكتابة تعليمات نصّية للوكيل من قبيل "التزم حدودك" أو "لا تفتح ملفات غير مصرّح بها" يشبه وضع لافتة ورقيّة تطلب من الرياح عدم كسر النافذة. فالنماذج قد تسيء فهم التوجيه أو تقع ضحيّة أوامر غير دقيقة. الأمان الفعلي يتطلب حواجز تقنية صارمة:

• حواجز التفتيش الرقمية: وضع محطة مراقبة وسيطة بين الوكيل والأنظمة الحساسة؛ تقرأ كل طلب يصدر عنه، وتسمح بمرور طلبات الاستعراض، بينما تسقط تلقائياً أيّ أمر بالتعديل أو المسح، بغضّ النظر عن الصلاحية التي يزعم الوكيل امتلاكها.

• بيئة العمل المعزولة: تشغيل الوكيل داخل غرفة رقمية مغلقة (sandbox) أشبه بالمختبر المحميّ؛ يرى فيها الملفات المخصّصة للمهمة فقط، ومحظور تماماً عن بقيّة شرايين الشبكة وبيانات المديرين.

• مفاتيح مؤقتة ذات صلاحية واحدة: التخلي عن الحسابات المشتركة، ومنح الوكيل هويّة رقمية مستقلة بصلاحيات مؤقتة تنتهي تلقائياً بمجرد إنجاز المهمة، دون النفاذ إلى أيّ ملفات أخرى.

• مكابح الطوارئ الفورية: آليّات أمنية تفحص الأوامر قبل تنفيذها، وتتحقق من توافقها مع صلاحيات الوكيل وسياسات الشركة، وتمنع العمليات المخالفة أو تحيلها إلى مراجعة بشرية.

نحو شراكة ذكيّة بلا مفاجآت

إن الغاية من وضع هذه القيود ليست كبح التطور أو العودة إلى العمل اليدوي البطيء، بل حماية التحوّل الرقمي نفسه. النجاح في تبنّي الوكلاء الأذكياء لا يقاس بمدى السرعة التي يحلون بها المشكلات فحسب، بل بمدى اطمئناننا إلى أنهم مهما بلغت درجة استقلاليتهم وذكائهم، سيظلون يعملون داخل مسار آمن وواضح المعالم، تتوقف فيه حريتهم بالضبط عند حدود أمان مؤسساتنا.

*باحث ومدرّب في التحوّل الرقمي.