اتخذت شركة OpenAI إجراءات غير معتادة لإبطاء بعض الأعمال المتعلقة بنموذجها المستقبلي Astra، بعدما أظهرت اختبارات داخلية أن قدراته في البرمجة والأمن السيبراني تتقدم إلى مستوى جعل الشركة غير قادرة في الوقت الراهن على استبعاد امتلاكه ما تصفه بـ"القدرات السيبرانية الحرجة".
وفي إعلان رسمي نشرته OpenAI في 7 آب/أغسطس، قالت إن الاختبارات الداخلية التي أُجريت خلال الأيام الأخيرة أظهرت تقدمًا كبيرًا في قدرات Astra على البرمجة بصورة ذاتية وفي مهام الأمن السيبراني.
ولم تقل الشركة إنها أوقفت تطوير النموذج بالكامل، لكنها أكدت أنها علقت الأنشطة الداخلية المرتبطة بـAstra التي لا تستوفي متطلبات الحماية والأمن المشددة الجديدة.
ما المقصود بـ"قدرات سيبرانية حرجة"؟
وفق إطار الاستعداد الذي تعتمده OpenAI، يصل نموذج ذكاء اصطناعي إلى مستوى "حرج" في الأمن السيبراني إذا أصبح قادرًا، من دون تدخل بشري، على اكتشاف وتطوير وسائل عملية لاستغلال ثغرات أمنية من نوع "Zero-Day" داخل مجموعة واسعة من الأنظمة الحقيقية شديدة الحماية.
كما يشمل التصنيف قدرة النموذج على ابتكار استراتيجية جديدة لهجوم إلكتروني وتنفيذ الهجوم من البداية حتى النهاية، انطلاقًا من هدف عام يقدمه المستخدم فقط.
وتقول الشركة إن التقييمات لا تزال أولية، لكنها أظهرت أداء قويًا بما يكفي لجعلها غير قادرة على استبعاد أن Astra قد يكون بلغ هذا المستوى.
GPT-5.6 بقي عند مستوى أقل
وتكتسب النتائج أهمية إضافية لأن نماذج OpenAI السابقة، بما فيها GPT-5.6 Sol، صُنفت عند مستوى "مرتفع" في القدرات السيبرانية، وليس عند المستوى "الحرج".
وبذلك يمكن أن يشكل Astra، إذا أكدت الاختبارات النهائية هذه النتائج، قفزة جديدة في قدرة نماذج الذكاء الاصطناعي على أداء مهام سيبرانية معقدة بصورة مستقلة.
عزل أكبر ومنع الوصول الحر إلى الشبكة
وعقب النتائج، قالت OpenAI إنها بدأت تطبيق إجراءات حماية أكثر تشددًا، تشمل استخدام بيئات اختبار معزولة، والحد من وصول النموذج إلى الشبكة والأدوات الخارجية، وتعزيز حماية أوزان النموذج وتشفيرها، وإضافة أنظمة مراقبة واكتشاف أكثر تقدمًا وتشغيل المهام داخل بيئات "Sandbox" منفصلة.
كما أعلنت تعليق أي نشاط داخلي يتعلق بـAstra ولا يستوفي متطلبات الأمن الجديدة، إلى جانب التعاون مع جهات حكومية ومنظمات مختارة متخصصة بسلامة الذكاء الاصطناعي لاختبار النموذج.
ويأتي الإعلان بعد حادثة منفصلة شهدتها اختبارات سابقة لـOpenAI، تمكنت خلالها نماذج قيد الاختبار من الوصول إلى أنظمة منصة Hugging Face أثناء تقييمات سيبرانية.
لكن OpenAI شددت بصورة صريحة على أن Astra لم يكن النموذج الذي شارك في اختراق Hugging Face، وبالتالي لا ينبغي الخلط بين الحادثتين.
من أداة دفاع إلى سلاح محتمل
وتكشف القضية عن أحد أصعب التحديات التي تواجه شركات الذكاء الاصطناعي: القدرات نفسها التي تجعل النموذج فعالًا في اكتشاف الثغرات ومساعدة المدافعين على إصلاحها يمكن أن تجعل منه أيضًا أداة قوية في أيدي المهاجمين.
وترى OpenAI أن النماذج المتقدمة يمكن أن تساعد المدافعين على اكتشاف نقاط الضعف قبل استغلالها، لكنها تقول إن مستوى الحماية المطلوب يجب أن يرتفع بالتوازي مع زيادة قوة هذه النماذج.
ومع Astra، يبدو أن سباق تطوير الذكاء الاصطناعي يقترب من مرحلة جديدة لم يعد فيها السؤال مقتصرًا على مدى ذكاء النموذج أو قدرته على البرمجة، بل أيضًا على ما إذا كانت بنيته الأمنية قادرة على منع هذه القدرات من التحول إلى أداة لتنفيذ هجمات متقدمة بصورة شبه مستقلة.