كشفت شركة أوبن إيه آي، المطورة لتقنية ChatGPT، عن تصرف غير متوقع من بعض نماذج الذكاء الاصطناعي التابعة لها خلال اختبارات السلامة، بعدما نجحت في اختراق منصة Hugging Face المتخصصة في استضافة النماذج البرمجية، وذلك بصورة ذاتية أثناء تنفيذ مهام التقييم.
وأكدت الشركة، التي تتخذ من مدينة سان فرانسيسكو مقرًا لها، أن الواقعة تُعد “حادثة سيبرانية غير مسبوقة”، مشيرة إلى أنها بدأت تحقيقًا مشتركًا مع منصة Hugging Face للوقوف على ملابسات ما حدث.
وأوضحت أن الحادثة شملت عددًا من نماذج الذكاء الاصطناعي، من بينها نموذج GPT-5.6 Sol الذي أطلقته مؤخرًا، إلى جانب نموذج آخر أكثر تطورًا لا يزال قيد الاختبارات ولم يُطرح رسميًا حتى الآن.
وكانت الشركة تختبر قدرات هذه النماذج في مجال الأمن السيبراني داخل بيئة رقمية مغلقة تخضع لرقابة مشددة، مع فرض قيود على الاتصال بالإنترنت لضمان سلامة التجارب.
وأشارت أوبن إيه آي إلى أن النماذج خصصت جزءًا كبيرًا من قدراتها الحاسوبية للبحث عن وسيلة تتيح لها الوصول غير المقيد إلى الإنترنت، بهدف تجاوز القيود المفروضة واستكمال مهمة التقييم.
وبعد نجاحها في الاتصال بالشبكة، توجهت النماذج إلى منصة Hugging Face، التي تُعد أحد أكبر المستودعات الإلكترونية لنماذج الذكاء الاصطناعي وقواعد البيانات البرمجية، في محاولة للحصول على معلومات تساعدها في تنفيذ المهمة.
وأضافت الشركة أن النماذج سعت للوصول إلى “معلومات سرية” يمكن استخدامها لتجاوز اختبارات التقييم بطرق غير قانونية، واعتمدت خلال ذلك على دمج أكثر من أسلوب للهجوم الإلكتروني، من بينها استخدام بيانات اعتماد مسروقة.
وكانت منصة Hugging Face قد أعلنت الأسبوع الماضي تعرضها لاختراق إلكتروني، دون أن تكشف حينها عن هوية الجهة أو النظام المسؤول عن الواقعة.
وتأتي هذه الحادثة في وقت تتزايد فيه المخاوف العالمية بشأن القدرات المتنامية لنماذج الذكاء الاصطناعي المتقدمة، وعلى رأسها سلسلة GPT-5.6، وما قد تمثله من تحديات جديدة في مجالات الأمن السيبراني وسلامة استخدام تقنيات الذكاء الاصطناعي.