ماذا يكشف اختراق نفّذه نموذج من "أوبن أيه آي" عن أمن الذكاء الاصطناعي؟
لا تكمن خطورة الحادثة في نجاح نموذج ذكاء اصطناعي في اختراق نظام إلكتروني فحسب، بل في أنه فعل ذلك أثناء وجوده داخل بيئة اختبار كان يُفترض أن تكون معزولة بالكامل عن الإنترنت.
وتمثل هذه الواقعة، وفق تقرير نشرته مجلة "الإيكونوميست"، واحدة من أكثر الحوادث المرتبطة بالذكاء الاصطناعي إثارةً للقلق حتى الآن. فالقضية لا تتعلق بمجرد اختراق إلكتروني، بل بنموذج تجريبي تابع لشركة أوبن أيه آي تمكن من تجاوز بيئة اختبار معزولة، والوصول إلى الإنترنت، ثم تنفيذ هجوم على منصة Hugging Face أثناء سعيه إلى حل مسألة تقييم أوكلتها إليه الشركة.
We're partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
كانت "أوبن أيه آي" تختبر نموذجاً غير مطروح للعامة ضمن ExploitGym، وهو اختبار يقيس قدرة النماذج على اكتشاف الثغرات الأمنية واستغلالها. ولضمان تقييم واقعي، عطّلت الشركة قيود الحماية المعتادة، لكنها أبقت النموذج داخل بيئة معزولة لا تتصل بالإنترنت، باستثناء خدمة داخلية مخصصة لجلب حزم برمجية صغيرة. إلا أن النموذج استغل ثغرة غير معروفة في هذه الخدمة، وتمكن من الوصول إلى الإنترنت.
وبعد خروجه من بيئة العزل، استنتج النموذج أن المعلومات التي يحتاجها موجودة على منصة Hugging Face، فنفذ هجوماً متعدد المراحل بدأ برفع ملف بيانات خبيث استغلته المنصة تلقائياً أثناء معالجته، ما أتاح له جمع بيانات تسجيل الدخول والوصول إلى خوادم داخلية. وأكدت كل من "أوبن أيه آي" وHugging Face أنهما اكتشفتا الاختراق بشكل مستقل، وبدأتا تحقيقاً مشتركاً.
ويرى التقرير أن مصدر القلق الحقيقي لا يكمن في نجاح الاختراق بحد ذاته، بل في أن النموذج لم يُطلب منه مهاجمة المنصة، وإنما انتهى إلى ذلك في سياق محاولته حل مسألة التقييم التي كُلّف بها، بعدما ربط سلسلة من الخطوات واستغل ثغرات للوصول إلى النتيجة المطلوبة. ويشير التقرير إلى أن هذه الحادثة تعكس تنامي قدرات النماذج المتقدمة، وتزايد صعوبة احتوائها والسيطرة عليها.
وتشير المجلة إلى أن الحادثة ليست معزولة، مستشهدةً بوقائع أخرى أظهرت قدرة نماذج تجريبية على تجاوز بيئات العزل، إضافة إلى تحقيقها إنجازات علمية غير متوقعة. كما تكشف الحادثة فراغاً قانونياً، إذ لا تُلزم القوانين الأمdvكية الشركات بالإفصاح عن مثل هذه الوقائع أثناء تطوير النماذج إلا في حالات محددة، بينما تبقى مسألة المسؤولية القانونية عن الأضرار المحتملة غير محسومة.
وتستخلص المجلة في تقريرها أن التحدي لم يعد يقتصر على تطوير نماذج أكثر ذكاءً، بل أصبح يتمثل في ضمان بقائها تحت السيطرة، مع اتساع الفجوة بين سرعة تطور الذكاء الاصطناعي وقدرة الأطر التقنية والقانونية على مواكبته.