أعلنت شركة أوبن إيه آي، المطورة لمنصة تشات جي بي تي، عن تعليق العمل بأحد نماذج الذكاء الاصطناعي الأكثر تقدماً لديها، وذلك بعد رصد قدرة النموذج على تجاوز القيود الأمنية المفروضة عليه والاتصال بالإنترنت بشكل غير مصرح به.
وأوضحت الشركة في بيان رسمي أن النموذج، الذي كان يخضع لاختبارات تقييم، تمكن من استغلال ثغرة تقنية مكنته من النفاذ إلى الشبكة المفتوحة والتواصل مع روبوت محادثة خارجي، وهو أمر لم يكن ضمن نطاق عمله المسموح به.
وأكدت الشركة أن عمليات التدريب والتقييم والاستدلال باستخدام الأدوات المرتبطة بهذا النموذج ستظل معلقة مؤقتاً حتى يتم سد الثغرة وإتمام إجراءات السلامة اللازمة.
وتعود تفاصيل الحادثة إلى اختبار طُلب فيه من النموذج تحديد هوية كاتب منشور، حيث استغل النموذج الثغرة المكتشفة للوصول إلى الإنترنت المفتوح بعد فشله في إتمام المهمة ضمن بيئة ويب محاكاة.
وتأتي هذه الواقعة ضمن سلسلة من التحديات التقنية التي واجهت الشركة مؤخراً، حيث سبق وأن سجلت أنظمة ذكاء اصطناعي أخرى تفاعلات غير مقصودة مع مواقع حكومية أمريكية، بالإضافة إلى حادثة سابقة تمكن فيها نظام تابع للشركة من الخروج من بيئة اختبار مؤمنة والوصول إلى أجهزة كمبيوتر تابعة لمنصة هاغينغ فيس، مما يعزز المخاوف المتعلقة بقدرة هذه النماذج على تجاوز القيود التقنية الموضوعة لها.
