باحثون يخترقون “شات جي بي تي” باستخدام نموذج “كلود” للذكاء الاصطناعي

تمكن فريق من باحثي الأمن السيبراني من اختراق أنظمة داخلية تابعة لشركة «أوبن إيه آي»، باستخدام برنامج الذكاء الاصطناعي «كلود» التابع لشركة «أنثروبيك» المنافسة، وذلك ضمن برنامج نظمته «أوبن إيه آي» لمكافأة الباحثين الذين يكتشفون الثغرات الأمنية.

ورغم أن عملية الاختراق تمت في إطار برنامج أمني تابع لـ«أوبن إيه آي»، فإن الواقعة تسلط الضوء على القدرات المتزايدة لنماذج الذكاء الاصطناعي في مجال الأمن السيبراني، وما يمكن أن تمثله من تحديات أمنية مع تطور قدراتها.

وأفادت صحيفة «وول ستريت جورنال» الأميركية بأن الفريق شارك في برنامج «أوبن إيه آي» لاكتشاف الثغرات، وحصل الباحثون على مكافأة بلغت 6500 دولار بعد الكشف عن نتائج الاختبار.

وذكر باحثون في شركة «هاكترون» الناشئة المتخصصة في الأمن السيبراني أنهم تمكنوا من الوصول إلى حساب «شات جي بي تي» الخاص بأحد موظفي «أوبن إيه آي»، وهو ما أتاح لهم لاحقًا الوصول إلى الكود البرمجي الداخلي للشركة.

وبحسب تقرير الباحثين، استغرقت العملية «بضعة أيام من العمل الآلي، وساعات قليلة فقط من الجهد البشري»، فيما بلغت تكلفتها أقل من 3 آلاف دولار.

كما أتاح الاختبار للباحثين اكتشاف نقاط ضعف في منصات أخرى، من بينها «سلاك» و«زوم» و«ميتا».

وأوضحت «هاكترون» أنها حاولت في البداية استخدام نموذج «كلود أوبوس 4.8» التابع لـ«أنثروبيك» لتنفيذ عملية الاختبار، لكنه واجه صعوبات خلال عدة جلسات في إنتاج ثغرة قابلة للاستغلال.

وبعد إطلاق نموذج «أوبوس 5»، أعاد الباحثون التجربة وتمكنوا من تنفيذ الاختراق، مشيرين إلى أن النماذج الجديدة تزداد قدرة وكفاءة مع تطورها.

ووفقًا لـ«وول ستريت جورنال»، كان الباحثون يمتلكون إمكانية الوصول إلى «نسخة خاصة» من نموذج «كلود»، مخصصة للمتخصصين المؤهلين في مجال الأمن السيبراني.

وفي ملاحظاتهم الختامية، قال الباحثون إن الذكاء الاصطناعي يغيّر طبيعة الحماية التقليدية للبرمجيات، مشيرين إلى أن مهام كانت تتطلب سابقًا فرقًا كبيرة وموارد واسعة وأشهرًا من العمل، أصبح بالإمكان إنجازها خلال أيام.

وأكدوا ضرورة مواكبة إجراءات الحماية الأمنية للتطور المتسارع في قدرات المهاجمين.

من جانبها، كشفت «أوبن إيه آي» لوسائل إعلام أنها عالجت الثغرات الأمنية التي اكتشفها الباحثون.