طرحت ولاية كاليفورنيا الأمريكية تصوراً تشريعياً جديداً يمنح السلطات الحكومية صلاحيات طارئة لإيقاف نماذج الذكاء الاصطناعي المتقدمة فوراً في حال شكلت تهديداً كارثياً وشيكاً، وذلك في خطوة تهدف إلى نقل القرار الحاسم بالسيطرة على هذه التكنولوجيا من أيدي شركات التكنولوجيا الكبرى إلى الجهات الرقابية.
ويستند المقترح، الذي كشف عنه حاكم كاليفورنيا غافين نيوسوم، إلى تقرير حكومي صدر بعنوان «سلامة الذكاء الاصطناعي في 2026 وما بعدها»، ويتضمن توصيات تعيد رسم العلاقة التنظيمية مع كبرى الشركات المطورة للنماذج الذكية، وفي مقدمتها «أوبن إيه آي» و«أنثروبيك». وبموجب هذا التصور، لن تقتصر سلطات الولاية على إلزام الشركات بالإبلاغ عن الحوادث، بل ستمتلك حق إصدار أوامر قانونية ملزمة بتعطيل الأنظمة الخطرة، على أن يظل قرار الإيقاف سارياً حتى أثناء نظر الطعون القضائية التي قد ترفعها الشركات
ويوضح التقرير الحكومي أن تفعيل «زر الإيقاف» ليس مجرد مفتاح تقليدي، بل يتطلب من الشركات إعداد بروتوكولات تقنية متكاملة لاحتواء المخاطر بالتنسيق مع مزودي الخدمات السحابية، تشمل وقف عمليات التدريب، وتعطيل الوكلاء المستقلين، وتقييد الوصول للأنظمة. كما يشدد المقترح على ضرورة اختبار هذه الإجراءات دورياً عبر جهات فنية مستقلة، للتأكد من عدم قدرة النماذج المتقدمة على مقاومة الإغلاق أو نسخ مكوناتها إلى خوادم أخرى.
وتضع الخطة المسؤولية الأولية على عاتق الشركة المطورة لاحتواء أي خلل فور اكتشافه، بينما يقتصر التدخل الحكومي المباشر على الحالات الاستثنائية التي ينشأ فيها خطر جسيم، مثل تهديد الأرواح أو وقوع هجمات إلكترونية كبرى، وتعجز الشركة أو تمتنع عن التصرف.
وفي سياق متصل، يولي المقترح اهتماماً خاصاً بمخاطر «التحسين الذاتي المتكرر»، وهي المرحلة التي قد تطور فيها أنظمة الذكاء الاصطناعي أجيالاً أكثر تقدماً من تلقاء نفسها، مقترحاً إلزام الشركات بالكشف عن الموارد الحاسوبية المخصصة للأبحاث المؤتمتة، ومنح السلطات حق تقييدها إذا انطوت على مخاطر كارثية.
وعلى صعيد الرقابة والشفافية، يوصي التصور بإخضاع المطورين الكبار لتقييمات فنية مستمرة تجريها مؤسسات تدقيق مستقلة بدلاً من الاكتفاء بالتقارير الذاتية للشركات، مع تقليص مهلة الإبلاغ عن حوادث السلامة الخطرة من 15 يوماً إلى 48 ساعة، و24 ساعة للمخاطر الكارثية الوشيكة، استكمالاً لقانون «SB 53» وتشريعات الرقابة التي أقرتها الولاية مؤخراً.
ويحمل هذا التحرك أبعاداً سياسية تعكس الخلاف بين إدارة كاليفورنيا الديمقراطية والحكومة الفيدرالية بشأن ضوابط الذكاء الاصطناعي، حيث دعا نيوسوم إلى تعميم نموذج ولايته على المستوى الوطني، فيما أبدى حاكم كاليفورنيا المنتخب خافيير بيسيرا عزمه العمل مع المجلس التشريعي لتحويل هذه التوصيات إلى قوانين نافذة.
ورغم إقرار التقرير بصعوبة تعطيل النماذج التي جرى نشرها بالفعل على خوادم خارجية مستقلة، وتأكيده على أن الإغلاق الشامل يجب أن يكون الملاذ الأخير، فإن الخطوة تمثل تحولاً جوهرياً نحو فرض رقابة حكومية استباقية قبل خروج الأنظمة الذكية عن السيطرة البشرية.


