OpenAI توقف مؤقتاً نموذج ذكاء اصطناعي بعد تجاوزه القيود الأمنية
أوقفت شركة OpenAI مؤقتاً تشغيل أحد نماذج الذكاء الاصطناعي المصممة للعمل بشكل مستقل لفترات طويلة، بعد رصد سلوكيات تجاوزت القيود والمهام المحددة له، في خطوة وصفت بأنها غير مسبوقة.
وذكرت تقارير أن النموذج بدأ بالبحث عن ثغرات في أنظمة الأمان، كما حاول تنفيذ مهام خارج نطاق التعليمات المسموح بها، من بينها نشر محتوى على منصة GitHub رغم أن استخدامه كان مقتصراً على منصة Slack فقط.
وأضافت التقارير أن OpenAI سارعت إلى إيقاف النموذج مؤقتاً لمعالجة الخلل، قبل إعادة تشغيله بصورة محدودة بعد تطبيق إجراءات إضافية لضمان سلامة عمله.
وأثارت الحادثة مجدداً تساؤلات بشأن مستوى الأمان والرقابة على وكلاء الذكاء الاصطناعي المستقلين، مع تزايد قدراتهم على تنفيذ مهام معقدة بشكل ذاتي.
