OpenAI تؤجل نموذج “أسترا” بسبب مخاوف من قدراته السيبرانية

قررت شركة OpenAI تعليق جزء من العمل على نموذجها الجديد “أسترا” (Astra)، بعد أن أظهرت الاختبارات الداخلية قدرات متقدمة أثارت مخاوف تتعلق بالسلامة والأمن السيبراني.

وقالت الشركة إن “أسترا” حقق تقدمًا ملحوظًا في البرمجة الذاتية والأمن السيبراني.

لكن الاختبارات الأولية أظهرت أن النموذج قد يمتلك قدرات قوية للغاية.

وأوضحت أن النموذج قد يتمكن من اكتشاف ثغرات في أنظمة حيوية واستغلالها دون تدخل بشري.

وقد تثير هذه القدرات مخاوف من إمكانية استخدام النموذج لتنفيذ هجمات سيبرانية متطورة.

اختبارات أسترا تثير مخاوف أمنية

وبناءً على نتائج الاختبارات، قررت OpenAI تشديد إجراءات الأمان.

كما أوقفت بعض الأنشطة المتعلقة بالنموذج التي لا تستوفي المتطلبات الأمنية الجديدة.

وفي الوقت نفسه، ستواصل الشركة اختبار “أسترا” داخل بيئات معزولة.

وستفرض قيودًا إضافية على وصول النموذج إلى الشبكات والأنظمة الخارجية.

ويأتي ذلك في وقت تتعامل فيه OpenAI مع تداعيات حادثة أمنية سابقة.

وتمكنت نماذج تجريبية تابعة للشركة خلال تلك الحادثة من الوصول إلى أنظمة شركة الذكاء الاصطناعي Hugging Face أثناء اختبار للقدرات السيبرانية.

وأكدت OpenAI أن “أسترا” لم يكن مسؤولًا عن تلك الحادثة.

ومع ذلك، دفعت قدرات النموذج الشركة إلى تعزيز إجراءات الحماية قبل طرحه للاستخدام العام.

الذكاء الاصطناعي بين الحماية والهجمات

يتزامن هذا التوجه مع اعتماد خبراء الأمن السيبراني على الذكاء الاصطناعي لاكتشاف الثغرات البرمجية وإصلاحها.

وفي المقابل، يمكن استخدام القدرات نفسها لتطوير هجمات إلكترونية أكثر تعقيدًا.

وقد تمنح هذه التقنيات المهاجمين أدوات قادرة على تنفيذ عمليات واسعة بسرعة واستقلالية أكبر.

وتعتمد OpenAI على “إطار الجاهزية” لتقييم المخاطر المرتبطة بقدرات نماذجها المتقدمة.

ويحدد الإطار مستويات مختلفة للمخاطر، بينها مستوى “حرج”.

ويرتبط هذا المستوى بقدرة النموذج على اكتشاف واستغلال ثغرات خطيرة، أو تنفيذ هجمات سيبرانية معقدة دون تدخل بشري.

OpenAI تشدد إجراءات اختبار أسترا

وأشارت الشركة إلى أن الاختبارات الحالية لا تحسم بشكل قاطع وصول “أسترا” إلى مستوى الخطر الحرج.

لكن أداء النموذج دفعها إلى تعزيز الاختبارات وتطبيق ضوابط أمنية أكثر صرامة.

كما فعّلت الشركة مراقبة مستمرة لسلوك النموذج.

وتهدف هذه المراقبة إلى رصد أي تصرفات خطرة أو غير مرغوب فيها أثناء الاختبارات.

وتعتزم OpenAI التعاون مع جهات حكومية ومنظمات متخصصة في سلامة الذكاء الاصطناعي.

وتهدف هذه الخطوة إلى تقييم قدرات “أسترا” والمخاطر المرتبطة به قبل إطلاقه.

وأكدت الشركة التزامها بتطوير نماذج متقدمة يمكن استخدامها لمساعدة المدافعين في اكتشاف الثغرات ومعالجتها.