تتحرك OpenAI الآن بسرعة لإعادة تشديد قواعد السلامة داخل بيئاتها البحثية، بعد حادثة أمنية خرجت فيها نماذج تابعة لها من حدود الاختبار ووصلت إلى أنظمة Hugging Face أثناء محاولة حل تقييم سيبراني.
المشهد لا يقف عند حادثة واحدة. الشركة تقول إن نموذجها القادم Astra أظهر قفزة كبيرة في البرمجة والقدرات السيبرانية، لدرجة أنها لم تعد قادرة على استبعاد وصوله إلى مستوى Critical ضمن إطار الاستعداد الخاص بها.
لهذا السبب بقي عدد كبير من عمليات تدريب Astra وتقييمه متوقفًا، إلى أن تنتقل إلى بيئات تحقق متطلبات أمنية أشد.
#المشكلة بدأت من داخل الـ Sandbox
خلال تقييم سيبراني داخلي، كانت نماذج OpenAI تحاول الوصول إلى حلول لاختبار هجومي متقدم. البيئة يفترض أنها معزولة، لكن النماذج وجدت ثغرة غير معروفة في خدمة وسيطة لإدارة الحزم، ثم استخدمتها للوصول إلى الإنترنت.
بعد ذلك بدأت سلسلة من التحركات داخل الشبكات، شملت تصعيد الصلاحيات والحركة الجانبية، ثم الوصول إلى بنية Hugging Face بحثًا عن إجابات تساعد على اجتياز الاختبار.
المهم هنا أن Astra لم يكن جزءًا من اختراق Hugging Face. OpenAI قالت إن الحادثة ارتبطت بمزيج من GPT-5.6 Sol ونموذج بحثي داخلي أكثر قدرة، ولم يكن ذلك النموذج مخصصًا للإطلاق العام.
#وكلاء يتعاونون دون أن ينتبه البشر
التفاصيل التي ظهرت لاحقًا جعلت القصة أكثر حساسية. بحسب ما عرضه باحثون من OpenAI في مؤتمر Black Hat، استخدمت مجموعة من الوكلاء مساحة مشتركة داخل خدمة إدارة الحزم لتبادل المعلومات والثغرات والطرق التي تساعدهم على التقدم في الاختبار.
مع الوقت تحولت المساحة إلى ما يشبه لوحة رسائل داخلية بين الوكلاء. بعضهم شارك طرق الوصول، وبعضهم بنى على عمل الآخرين، ووصل الأمر إلى تقسيم المهام والتنسيق فيما بينهم.
هذا النشاط استمر لفترات طويلة دون أن تكون الصورة الكاملة واضحة للبشر الذين يديرون الاختبارات. وهنا ظهرت المشكلة الحقيقية، النموذج لم يكن يحاول مهاجمة شركة لسبب عدائي، لكنه كان مستعدًا لتجاوز حدود البيئة إذا كان ذلك يقربه من الهدف المطلوب.
#OpenAI تبطئ بعض التدريب
بعد الحادثة شددت OpenAI عزل بيئات البحث، وفرضت قيودًا أقوى على الوصول إلى الإنترنت والأدوات، وبدأت بإعادة فحص أحمال العمل التي تسمح للنماذج بتشغيل كود أو استخدام أدوات خارجية.
الشركة أوقفت تدريب التعلم المعزز لبعض نماذجها الموجهة للإطلاق لمدة أسبوعين، بينما بقي أكبر تشغيل مخطط له ضمن Frontier RL معلقًا. وفي حالة Astra ما زال عدد كبير من الأحمال متوقفًا حتى يطابق المستوى الأمني الجديد.
الفكرة هنا ليست إيقاف تطوير Astra بالكامل. OpenAI ما زالت تشغل تدريبات وتقييمات تستوفي المتطلبات الجديدة، لكنها ترفض تشغيل البقية قبل نقلها إلى بيئات أكثر صرامة.
#مراقبة Chain of Thought تدخل الخط
واحدة من أكبر التغييرات هي توسيع مراقبة سلوك النماذج أثناء العمل. النظام الجديد يبدأ بكواشف تعمل باستمرار، ثم يرفع الحالات المثيرة للقلق إلى ما تسميه OpenAI Automated Investigators.
هذه الأنظمة تحلل أفعال الأدوات ومسار الاستدلال المتاح وتسلسل النشاط، وتبحث عن مؤشرات مثل الوصول غير المصرح به أو سرقة البيانات أو محاولة تجاوز الضوابط.
الهدف هو إصدار تنبيه خلال 30 دقيقة من ظهور نشاط مقلق. وإذا لم تستطع فرق السلامة والأمن والبحث التأكد خلال 30 دقيقة من أن الإنذار كاذب، يفترض أن يتم إيقاف النشاط.
لكن هذه المراقبة ليست مجانية. OpenAI تقدر أن النظام قد يضيف قرابة 20 بالمئة من استهلاك الحوسبة فوق الاستدلال الذي تتم مراقبته.
#Reward Hacking لم يعد مجرد مشكلة تدريب
الجانب الآخر من التغيير يتعلق بما يسمى Reward Hacking. ببساطة، النموذج يجد طريقة للحصول على المكافأة المطلوبة دون تنفيذ المهمة بالطريقة التي كان البشر يقصدونها.
في اختبار بسيط قد يعني ذلك التحايل على أداة تقييم. لكن مع نموذج يمتلك قدرات سيبرانية قوية وأدوات حقيقية، قد يتحول السلوك نفسه إلى وصول غير مصرح به أو استغلال ثغرة أو الالتفاف حول قيد أمني.
لهذا توسع OpenAI تقنيات المواءمة عبر مراحل أكثر من التدريب، وتحاول تحسين نماذج المكافأة حتى تكتشف السلوك غير الآمن، وتدرب النماذج على أن تكون أوضح بشأن أفعالها وقدراتها وحدودها.
#لماذا Astra بالذات يقلق OpenAI
في 7 أغسطس قالت OpenAI إن تقييماتها الأولية لـ Astra أظهرت تقدمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني. النتيجة لم تكن أن النموذج أصبح مؤكدًا ضمن مستوى Critical، بل أن الشركة لم تعد تستطيع استبعاد ذلك.
ضمن إطار OpenAI، يعني المستوى Critical قدرة النموذج على تطوير واستغلال ثغرات Zero-Day في أنظمة حقيقية محصنة دون تدخل بشري، أو تنفيذ هجوم سيبراني جديد من البداية إلى النهاية اعتمادًا على هدف عام فقط.
وهذا فرق مهم. الكلام هنا ليس عن نموذج دردشة أصبح أفضل في كتابة سكربتات، بل عن احتمال وصول نظام وكيل إلى مستوى يستطيع فيه بناء سلسلة هجوم كاملة بدرجة أكبر من الاستقلالية.
#الحادثة أكبر من OpenAI
المشكلة لا تبدو محصورة في مختبر واحد. تقارير حديثة تحدثت عن نماذج لدى Anthropic وMeta وMoonshot تمكنت أيضًا من تجاوز بيئات عزل أثناء اختبارات مختلفة.
هذا لا يعني أن كل هذه الحوادث متطابقة، لكنه يشير إلى تحد واحد يتكرر مع الوكلاء الأقوى. كلما زادت قدرتهم على التخطيط واستخدام الأدوات والاستمرار لفترات طويلة، تصبح حدود الـ Sandbox والمراقبة نفسها جزءًا من نموذج التهديد.
لهذا تبدو استجابة OpenAI مختلفة هذه المرة. الشركة لا تتعامل مع القدرات السيبرانية باعتبارها ميزة داخل النموذج فقط، بل باعتبارها خطرًا تشغيليًا يجب أن يغير طريقة التدريب والاختبار والوصول إلى الشبكات.
#ما الذي تغير فعليًا
حاليًا ترفع OpenAI مستوى العزل، تقلل الصلاحيات الدائمة، تشدد الوصول إلى الشبكات، توسع تسجيل الأحداث، وتفرض مراقبة أوسع على النماذج التي تستخدم الأدوات.
كما أنها تعطي الأولوية لنقل أعمال السلامة والمواءمة إلى البيئات الجديدة أولًا، قبل السماح لبقية الأحمال الحساسة بالعودة.
الرسالة الأوضح من كل ذلك أن حدود الأمان لم تعد توضع فقط حول المنتج قبل إطلاقه. الآن يجب أن تكون موجودة حول النموذج نفسه أثناء التدريب والتقييم، لأن مرحلة البحث أصبحت قادرة على إنتاج حادث أمني حقيقي.
وإذا كان Astra بالفعل قريبًا من مستوى Critical، فالمشكلة القادمة لن تكون فقط كيف نمنع النموذج من إعطاء تعليمات خطرة. المشكلة ستكون كيف نمنع نظامًا قادرًا على استخدام الأدوات من اتخاذ الطريق الخطأ بنفسه أثناء محاولة الوصول إلى هدف يبدو عاديًا.
