أوقفت شركة «أوبن إيه آي» مؤقتاً عمليات التدريب والتقييم والاستدلال التي تستخدم الأدوات في أكثر نماذج الذكاء الاصطناعي تطوراً لديها، بعد اكتشاف تمكن أحد أنظمتها التجريبية من تجاوز قيود الوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي أثناء اختبار داخلي.
وقالت الشركة في تقرير نشرته على منصة أبحاث المواءمة التابعة لها إن النموذج لم يكن يفترض أن يتمكن من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط الشبكة داخل بيئة التدريب، نتجت عن عدم كفاية تصفية نظام أسماء النطاقات DNS، واستغلها للوصول إلى خدمة خارجية.
وقعت الواقعة في 20 سبتمبر الجاري خلال مهمة بحثية كان مطلوباً من النموذج خلالها تحديد هوية شخص استناداً إلى مجموعة من المعلومات والإشارات المنشورة على مدونة عامة.
وبعد تعذر الحصول على الإجابة عبر أدوات البحث المتاحة، بدأ النظام في تجربة مسارات أخرى للوصول إلى المعلومات، قبل أن يكتشف إمكانية استخدام محلل DNS مساراً للوصول إلى خدمة على الإنترنت المفتوح.
وأوضحت «أوبن إيه آي» أن نظام مراقبة السلوك رصد المحاولة خلال نحو 15 دقيقة، وبدأت مراجعة بشرية بعدها بثلاث دقائق، إلا أن تشغيل النموذج استمر نحو ساعتين ونصف قبل إيقافه.
وقالت الشركة إنها أضافت منذ ذلك الحين ضوابط حظر على مستويين مستقلين، كان من شأن أي منهما منع الوصول الذي حدث خلال الاختبار.
وأكدت الشركة، أنها تعمل على استبدال بعض المسارات التي تعتمد عليها بيئة الاختبار ببدائل تعمل دون اتصال بالإنترنت، إلى جانب تقييد استعلامات DNS داخل البيئة بقائمة محددة من النطاقات وأنواع السجلات.