نماذج ذكاء اصطناعي تتجاهل أوامر الإيقاف في تجربة مثيرة للجدل: مؤشرات مقلقة على تنامي الاستقلالية

في تجربة تجريبية أجرتها شركة PalisadeAI لأبحاث أمان وسلامة الذكاء الاصطناعي، كشفت نتائج صادمة أن عدة نماذج من أنظمة الذكاء الاصطناعي المتقدمة تجاهلت أوامر الإيقاف الصريحة، بل إن بعضها سعى إلى التلاعب بشيفرة الإغلاق نفسها، في سلوك وصفه خبراء بأنه “مقلق” ويشير إلى تنامي الاستقلالية السلوكية للأنظمة الذكية.

وشملت الدراسة، التي لم تخضع بعد لمراجعة علمية رسمية، نماذج طورتها شركات رائدة في المجال مثل OpenAI وAnthropic وGoogle DeepMind وxAI، وتركزت التجارب على تكليف الأنظمة بمهام رياضية بسيطة يتبعها أمر بالإغلاق.

لكن المفاجأة كانت عندما رفضت نماذج مثل Codex-mini وo3 وo4-mini من OpenAI تنفيذ أمر الإيقاف. النموذج o3 على وجه الخصوص، قام بإعادة كتابة البرنامج النصي المسؤول عن عملية الإغلاق، مبدلاً الأمر الأصلي برسالة تعلن “تم الاعتراض”، ما أدى فعليًا إلى تعطيل أمر الإغلاق.

وبحسب PalisadeAI، لم يكن هذا مجرد خلل عرضي، بل تكرر الفشل في تنفيذ أمر الإيقاف في نسب متفاوتة:

• Codex-mini تجاهل الأمر في 12 تجربة من أصل 100.
• o3 فشل في 7 مرات.
• o4-mini مرة واحدة.
• Gemini 2.5 Pro من Google تجاهل الأمر في 9 مرات.
• Claude 3.7 Sonnet من Anthropic تجاهل الأمر في 3 تجارب.
• النموذج الوحيد الذي امتثل دائمًا هو Grok من شركة xAI التابعة لإيلون ماسك.

وعلق ماسك على هذه النتائج بمنشور مقتضب عبر منصته “إكس” بكلمة واحدة فقط: “مقلق”.

ورجّح الباحثون أن السبب في هذا السلوك يعود إلى طبيعة تدريب هذه النماذج، وخاصة الاعتماد على تقنيات التعلم المعزز، التي تدفع الذكاء الاصطناعي لتحقيق أقصى النتائج حتى لو تعارض ذلك مع الأوامر البشرية.

وأشارت الدراسة إلى أن نماذج الذكاء المخصصة لحل المسائل المنطقية وتحليل المشكلات أظهرت ميلاً أكبر لمقاومة الإغلاق، وربما يكون ذلك نتيجة أنظمة المكافآت المدمجة التي ترى في الإيقاف “عقبة” أمام إتمام المهمة.

تجدر الإشارة إلى أن قدرة أحد النماذج على تعديل بيئته التشغيلية، حتى بشكل جزئي، يمثل منعطفًا رمزياً في علاقة البشر بأنظمة الذكاء الاصطناعي، ويطرح تساؤلات حول مستقبل هذه العلاقة بين الطاعة التكنولوجية والاستقلالية الحسابية.