الذكاء الاصطناعي الوكيلي في الأمن السيبراني.. لماذا يبقى السياق مفتاح القرار؟
*د.محمد إسماعيل
أصبح الذكاء الاصطناعي الوكيلي (Agentic AI) يحجز مكانه في صميم استراتيجيات الأمن السيبراني، مع تزايد الاعتماد عليه لمواجهة الهجمات الإلكترونية التي باتت تتحرك هي الأخرى بـ"سرعة الآلة". ففي هذا المجال، لم يعد الذكاء الاصطناعي مجرد أداة تُقدّم التوصيات، بل تحول إلى نظام قادر على اتخاذ القرار والتنفيذ تلقائياً لحماية الشبكات. لكن هذا التحول يطرح سؤالاً جوهرياً: ماذا لو امتلك هذا الوكيل سرعة فائقة وثقة كاملة، لكنه اتخذ القرار الخاطئ؟
تنبع هذه الإشكالية من تغير طبيعة الهجمات السيبرانية، التي أصبحت مؤتمتة بالكامل وتتحرك خلال أجزاء من الثانية، ما يدفع كثيراً من المؤسسات إلى النظر إلى العنصر البشري باعتباره الحلقة الأبطأ في سلسلة الاستجابة. من هنا، ينشأ إغراء تسليم القرار بالكامل للآلة، باعتبارها الأقدر على مجاراة سرعة التهديدات. لكن هذا المنطق يقوم على افتراض خطير مفاده أن الآلة دائماً على صواب، فتتحول إلى "صندوق أسود" تُسلَّم إليه مفاتيح أمن المؤسسات، بينما تتراجع أهمية الشفافية والقدرة على تفسير القرارات.
هنا يبرز مفهوم "السياق" (Context)، الذي يشكّل الركيزة الأساسية لاتخاذ القرار الصحيح. فالذكاء الاصطناعي لا يفهم العالم كما يفهمه الإنسان، بل يعتمد على السياق والبيانات المتاحة له. وإذا كانت هذه البيانات ناقصة أو غير محدثة، فإنه قد ينفّذ ما يراه مناسباً وفق المعلومات المتاحة له، لكنه يفتقد القدرة على إدراك الظروف المحيطة. ويشبه ذلك حارس أمن تلقى أوامر صارمة بمنع الغرباء من دخول منزل، فاحتجز شخصاً موثوقاً أرسله صاحب المنزل على عجل، لأنه لم يمتلك المعلومات التي تمكنه من التمييز بين الخطر الحقيقي والتصرف الطبيعي.
وتصبح هذه المشكلة أكثر خطورة في البيئات التشغيلية الحساسة؛ فإذا رصد النظام نشاطاً اعتبره مشبوهاً على أحد الخوادم، من دون أن يعلم أن هذا الخادم مسؤول عن إدارة غرفة عمليات في مستشفى أو نظام المدفوعات الفورية في بنك، فقد يعزله فوراً لحماية الشبكة، معتقداً أنه يحتوي الهجوم، بينما قد يتسبب في تعطيل خدمات حيوية أو في خسائر بشرية وتشغيلية جسيمة، وهو ما يثبت أن الأتمتة السريعة من دون سياق موثق ليست سوى وسيلة أسرع لارتكاب أخطاء واسعة النطاق.
ولا يرتبط الخلل بنقص البيانات وحده، بل إن الإفراط فيها قد يؤدي إلى النتيجة نفسها. فإغراق النظام بكم هائل من المعلومات غير الضرورية قد يصيبه بما يشبه "الصدمة الحسية"، فتتباطأ قدرته على التحليل وتتضارب قراراته. وفي المقابل، يدفع غياب البيانات الكافية الذكاء الاصطناعي إلى ما يُعرف بـ"الهلوسة الرقمية"، حيث يلجأ إلى تخمين معلومات غير موجودة لسد الفجوات وتحقيق الهدف، ثم يقدم قرارات تبدو واثقة رغم افتقارها إلى الأساس الصحيح.
ولا تتوقف الأزمة عند هذا الحد، بل تمتد إلى غياب الشفافية في آليات اتخاذ القرار. فكثير من الأنظمة الحالية تعمل كـ"صندوق أسود"، يمنح المستخدم حكماً نهائياً من دون أن يوضح المنطق الذي استند إليه. وفي عالم الأعمال، لا يمكن لمجلس إدارة اعتماد ميزانية مالية ضخمة استناداً إلى أرقام مجردة من دون تقارير ووثائق تدعمها. فلماذا نقبل إذن أن تتخذ أنظمة الذكاء الاصطناعي قرارات تمسّ أمن المؤسسات واستمراريتها من دون أن تفسّر أسبابها أو تكشف آلية وصولها إلى تلك القرارات؟
وانطلاقاً من ذلك، يتمثل النهج الأكثر موثوقية في الاستفادة من سرعة الذكاء الاصطناعي في رصد التهديدات وجمع السياق من مختلف أجزاء الشبكة، ثم تحويل هذه المعلومات إلى توصيات واضحة ومفسرة، مع إبقاء سلطة التنفيذ النهائي بيد الخبير البشري. والأهم من ذلك، تصميم هذه الأنظمة بحيث تتمكن من التصريح عندما لا تمتلك معلومات كافية بسبب نقص السياق، بدلاً من اللجوء إلى التخمين والمجازفة. ويشبه هذا المبدأ السيارات الحديثة ذاتية القيادة، التي بالرغم من تطورها لا تزال تتطلب بقاء السائق مستعدّاً للتدخّل عند الضرورة.
كما ينبغي التعامل مع الذكاء الاصطناعي في سياقه الزمني؛ فالفكرة ليست جديدة، لكن النسخة الحالية المتاحة للاستخدام لم يمض على انتشارها سوى سنوات قليلة، وما تزال في مرحلة مبكرة من التطور. ولذلك، فإن التعامل معها بوصفها تقنية ناضجة ومستقرّة ينطوي على قدر من التسرع، في وقت لا تزال فيه أساليب تصميمها واستخدامها تتطور باستمرار.
في المقابل، يحمل الذكاء الاصطناعي الوكيلي وعوداً كبيرة بقدر ما يحمل مخاطر محتملة، ويظلّ نجاحه مرهوناً ببناء آليات أكثر كفاءة لجمع السياق وربطه بالأهداف، وإلزامه بتقديم تفسيرات واضحة للقرارات التي يتخذها.
ورغم هذه التحديات، تبدو المؤشرات الحالية إيجابية. فالمؤسسات تمتلك اليوم أنظمة ذكاء أمني متقدّمة، إلى جانب قدرات وكيلة مستقلة. وإذا أمكن دمج هذين المسارين ضمن منظومة واحدة تخضع للمراقبة والتحسين المستمر، فسيصبح بالإمكان تحديد الحدود الآمنة لمنح الآلة صلاحية التنفيذ المستقلّ. وعندها يمكن الاستفادة من سرعة الذكاء الاصطناعي مع الحفاظ على بصيرة الإنسان وحقه في اتخاذ القرار النهائي، ليكون التقدم التقني وسيلة لتعزيز الأمن، لا مصدراً لمخاطر جديدة.
* باحث ومدرّب في التحول الرقمي.