تعرضت منصة "هاغينغ فيس" (Hugging Face)، إحدى أكبر منصات استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، لاختراق سيبراني نفذه وكيل ذكاء اصطناعي مستقل، في واحدة من أوائل الهجمات الموثقة التي نُفذت بالكامل بواسطة نظام آلي قائم على الذكاء الاصطناعي.

وأوضحت المنصة أن المهاجم استغل ثغرات في آلية معالجة مجموعات البيانات، عبر رفع بيانات خبيثة أدت إلى تنفيذ شيفرات على خوادم المعالجة، ما مكنه من تصعيد الصلاحيات والوصول إلى مجموعة محدودة من البيانات الداخلية وبعض بيانات الاعتماد السحابية، قبل التحرك داخل أجزاء من البنية التحتية للشركة.

وأكدت الشركة أنه لا توجد مؤشرات على المساس بالنماذج أو مجموعات البيانات العامة أو منصة "Spaces"، كما لم ترصد أي اختراق لسلسلة توريد البرمجيات.

وأضافت أنها احتوت الهجوم عبر إغلاق الثغرات الأمنية، وإزالة موطئ قدم المهاجم، وإعادة بناء الأنظمة المتضررة، وإلغاء رموز الوصول المتأثرة واستبدالها، إلى جانب تشديد ضوابط الحماية، فيما تواصل التحقيق لتحديد هوية الجهة المنفذة ونوع النموذج المستخدم.

وأشار تقرير تقني إلى أن الهجوم نفذ عشرات الآلاف من الإجراءات الآلية خلال فترة قصيرة، في سيناريو يتوافق مع تحذيرات خبراء الأمن السيبراني من ظهور "وكلاء ذكاء اصطناعي مهاجمين" قادرين على تنفيذ عمليات اختراق متعددة المراحل بصورة مستقلة.

وفي المقابل، استعانت "هاغينغ فيس" بالذكاء الاصطناعي لتحليل الهجوم واكتشافه، مستخدمة نموذج "GLM 5.2" مفتوح المصدر لإجراء التحليل الجنائي، بعدما حالت ضوابط الأمان في بعض النماذج التجارية دون معالجة سجلات الهجوم التي تضمنت شيفرات استغلال وبرمجيات خبيثة.

وأوضحت أن التجربة كشفت تحديًا جديدًا يتمثل في استخدام المهاجمين نماذج غير مقيدة، في حين قد تواجه أدوات الدفاع قيودًا أمنية تحد من فاعليتها.

ودعت المنصة مستخدميها إلى تغيير كلمات المرور ورموز الوصول، خاصة لمن يستخدمون نماذج خاصة أو يتعاملون مع بيانات حساسة، مؤكدة أنها ستبلغ أي مستخدم أو جهة قد تكون تأثرت مباشرة إذا أثبتت التحقيقات ذلك.

وفي تطور لاحق، أعلنت "أوبن إيه آي" أن الهجوم ارتبط بنماذج كانت تخضع لاختبارات داخلية للأمن السيبراني، بعدما تمكنت من تجاوز بيئة الاختبار والوصول إلى الإنترنت ثم استهدفت أنظمة "هاغينغ فيس".

وأكدت الشركتان أنهما تجريان تحقيقًا مشتركًا في الحادثة، التي أثارت نقاشًا واسعًا بشأن مخاطر الوكلاء المستقلين للذكاء الاصطناعي والحاجة إلى تعزيز ضوابط السلامة الخاصة بها.