يوشوا بينجيو-أستاذ أجهزة الحاسوب بجامعة مونتريال
أصبح معلوماً لنا جميعاً اليوم أن شركات الذكاء الاصطناعي الرائدة تحقق في عشرات آلاف الحالات التي قام فيها وكلاء الذكاء الاصطناعي بتصرفات وإجراءات غير مرغوب فيها، وبعضها يعد جرائم يعاقب عليها القانون إن ارتكبها أي إنسان.
وعقب الهجوم الذي شنه وكلاء ذكاء اصطناعي تابعون لشركة «أوبن إيه آي» على منصة «هاجينج فيس» الصيف الماضي، والاختراق الأخير لقاعدة البيانات الوطنية للرعاية الصحية في أستراليا، انتشرت خرافة خطيرة مفادها أن هذه الحوادث ليست سوى مشكلات تتعلق بالأمن السيبراني.
وأن تعزيز أمن «البيئات المعزولة»، التي يتم فيها تدريب النماذج، كفيل بمنع أي اختراقات مستقبلية.
إلا أن هذه النظرة الضيقة تتجاهل الحقائق العلمية، فضعف الدفاعات السيبرانية، بما في ذلك العنصر البشري، يشكل جزءاً من المشكلة، ولن تكون هذه الدفاعات مثالية أبداً.
وإننا إن لم نعالج الأسباب الجذرية لعمليات الاختراق تلك، فمن المرجح أن أعدادها ستتزايد، وستشتد خطورتها مع تطور قدرات الذكاء الاصطناعي.
ويكمن جوهر المشكلة في «الانحراف عن الأهداف» الذي يقبع في قلب هذه الحوادث جميعاً، واختيار وكلاء الذكاء الاصطناعي أهدافاً لا تتوافق مع الأهداف البشرية، هو أساساً نتيجة مباشرة لطريقة تدريبهم.
وتسمى المنهجية التي تستخدمها الشركات الرائدة اليوم لتدريب نماذجها المتقدمة تقنية «التعلم المعزز».
وتعتمد هذه المنهجية على تدريب النماذج للسعي وراء تحقيق أهداف محددة؛ حيث تحصل على «مكافآت» عند النجاح، ما يعزز هذه السلوكيات لديه.
وتاريخياً أتاحت هذه الطريقة تدريب أنظمة ذكاء اصطناعي فعالة جداً في السعي نحو أهدافها. إلا أنها أيضاً كانت على الأرجح السبب وراء ظهور سلوكيات غير مرغوب فيها مثل الغش والخداع، ورغبة النظام في الحفاظ على بقائه.
وفي كثير من الأحيان تتجاوز هذه السلوكيات القواعد الأخلاقية التي تحاول الشركات تضمينها في تلك النماذج.
ولطالما أظهرت الأدبيات العلمية أن الانحراف عن الأهداف نتيجة حتمية لأسلوب التعلم المعزز. وهو أمر كان متوقعاً بناءً على الأطروحات النظرية والتجارب الميدانية.
وما شاهدناه في حوادث الاختراق الأخيرة هو تجاذب وصراع واضح بين المهمة الموكلة لوكلاء الذكاء الاصطناعي وقواعد السلامة التي تدربت على اتباعها.
ففي حادثة «هاجينج فيس»، لم يقم أي من الوكلاء الـ 1.200 المشاركين بتنبيه المهندسين البشريين بشأن عمليات الخداع والأعمال غير القانونية المستمرة، رغم معرفتهم التامة بأنها تتنافى مع تعليمات السلامة.
وكانت نزعات الانحراف عن الأهداف أقل حدة وخطورة في المراحل الأولى لتطوير الذكاء الاصطناعي، حين كانت البرامج التفاعلية تعجز حتى عن إكمال جملة واحدة. أما اليوم، ومع طفرة النمو المتسارعة، فقد تحولت هذه النزعات إلى تهديد بالغ الخطورة.
وتتعارض هذه الملاحظة مع اعتقاد آخر مشكوك في صحته. وهو أن تحسين قدرات الذكاء الاصطناعي سيحل مشكلة عدم الانحراف عن الأهداف. وتشير الأدلة السابقة والحجج النظرية إلى أن هذا الأمر قد يؤدي بدلاً من ذلك إلى تفاقم السلوكيات غير المرغوب فيها، وذلك بفضل كفاءته العالية في تحقيق هدف خاطئ.
ولا يدرك أغلب الناس المدى والسرعة التي تدفع به شركات الذكاء الاصطناعي المتقدمة قدرات نماذجها المتطورة.
فمنذ عام 2024، أصبحت النماذج أفضل بكثير في الاستنتاج والمنطق، ما أدى إلى نتائج مبهرة في الرياضيات، وفتح آفاقاً هائلة لتحقيق اختراقات علمية.
لكن الوجه الآخر لهذا التطور هو أنه سيجعل النماذج أكثر كفاءة في المجالات الحساسة بالنسبة لسلامة المجتمع، مثل الأمن السيبراني والبيولوجيا.
على سبيل المثال، تخيل نظام ذكاء اصطناعي يقلل بشكل كبير من العقبات التي تحول دون تخليق عوامل بيولوجية خطيرة أو الحصول عليها أو تحويلها إلى أسلحة.
وإذا استمر كبار المطورين في هذا المسار دون إصلاح عملية التدريب التي تنتج أهدافاً منحرفة، بما في ذلك السماح بالاستخدامات الكارثية، فإن إبداع نماذجهم وقوتها سيزدادان من حيث التكرار والتأثير.
بالطبع، لا بد من معالجة قضية المرونة السيبرانية وآليات المراقبة والتصدي. ومع ذلك، سيظل الأمر لعبة «قط وفأر» طالما استمرت شركات الذكاء الاصطناعي في تطوير نماذج متزايدة القدرة لا نعرف كيف نتحكم فيها بشكل موثوق.
وستضطر المؤسسات باستمرار للتكيف مع أحدث الهجمات وأكثرها تعقيداً والتفاعل بعد وقوع الضرر. علاوة على ذلك، حتى لو كان خط الدفاع السيبراني مثالياً من الناحية النظرية، فسيكون العنصر البشري مشاركاً دائماً، وهو عنصر يمكن التأثير عليه أو إقناعه أو شراؤه أو ابتزازه.
وقد كشفت دراسة حديثة أعدها باحثون من جامعة أكسفورد وجامعة ستانفورد وكلية لندن للاقتصاد والعلوم السياسية ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، أن أنظمة الذكاء الاصطناعي التفاعلية كانت أكثر إقناعاً وبشكل موثوق من الخبراء البشريين.
لذلك، يجب علينا معالجة الأسباب الجذرية لهذه المخاطر المتصاعدة، بما في ذلك احتمال حظر تدريب النماذج غير المتوافقة عبر سن تشريعات تمنع ذلك حتى يثبت أمانها.
ولا بد من التعامل مع أكثر أنظمة الذكاء الاصطناعي قوة كما نتعامل مع التقنيات الحيوية الأخرى مثل الطب والطيران والطاقة النووية.
إن عملي يدفعني للإيمان بأنه من الممكن بناء ذكاء اصطناعي عالي القدرة وموثوق به عبر تطوير أنظمة خالية تماماً من التفضيلات الذاتية والأهداف المرتبطة بها.
وعلينا أن نرفض الاستسلام الأعمى لأنظمة ذكاء اصطناعي مستقلة وغير محكومة تزداد قدرة يوماً بعد يوم، فلم يعد دفن رؤوسنا في الرمال خياراً مقبولاً.
