<p class='article-text'>مايكل بيل، وجورج هاموند، وكريستينا كريدل</p><p class='article-text'><div data-empty="false">أدت التطورات في مجال الأنظمة المستقلة والمنافسة الشديدة بين شركتي أنثروبيك وأوبن إيه آي إلى تحويل المخاوف التي كانت هامشية في السابق إلى مخاوف سائدة</div></p><p class='article-text'><div data-empty="false">تثير المنافسة المحمومة بين كبرى شركات الذكاء الاصطناعي، إلى جانب أزمة الثقة المستحكمة بين قياداتها، مخاوف متزايدة من أن يؤدي السباق الحالي لتطوير أنظمة حوسبة فائقة إلى تعريض المستقبل البشري لخطر داهم.</div></p><p class='article-text'><div data-empty="false">وأفاد 24 من كبار باحثي الذكاء الاصطناعي والمستثمرين والأكاديميين وصناع السياسات، في مقابلات أجرتها معهم صحيفة «فايننشال تايمز»، بأن القدرات التقنية التي كانت تعتبر بعيدة المنال، أصبحت تتحقق بسرعة تفوق التوقعات، في وقت تظل فيه الشركات المطورة لهذه التقنيات عالقة بسباق تجاري محتدم يزداد ضراوة.</div></p><p class='article-text'><div data-empty="false">وقال ستيوارت راسل أستاذ الذكاء الاصطناعي بجامعة كاليفورنيا في بركلي، إنه لا شك في أن إيقاع المنافسة الشرسة بين الشركات يدفعها للتساهل في معايير السلامة، والتغاضي عن الإجراءات الاحترازية.</div></p><p class='article-text'><div data-empty="false">وقد طفت هذه القضية على السطح هذا الأسبوع، إثر استقالة الباحث الشاب جيكوب كوكسون من شركة «أنثروبيك»، محذراً من أن القائمين على بناء الذكاء الاصطناعي يعتقدون بجدية تامة أنه قد يقضي على البشرية جمعاء بحلول نهاية هذا العقد.</div></p><p class='article-text'><div data-empty="false">ورداً على ذلك، أشار إيفان هوبينجر، الذي يترأس علوم التوافق في «أنثروبيك»، إلى أن احتمال وقوع انقراض جماعي خلال العقد المقبل يتجاوز 10 %. </div></p><p class='article-text'>وبعد يوم واحد، صرح بول كريستيانو، المسؤول عن سلامة الذكاء الاصطناعي، والمعين حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، بأن غالبية البشر سيلقون حتفهم، ما لم تفرض ضمانات وتدابير حماية أكثر صلابة.</p><p class='article-text'><div data-empty="false">تجدر الإشارة إلى أن شركتي «أوبن إيه آي» و«أنثروبيك» تأسستا في الأصل كمختبرات أبحاث، تستهدف الحد من التطوير الطائش للذكاء الاصطناعي الفائق، غير أنهما، ومع مرور الوقت، أخذتا تبرران التراجع عن التزامات السلامة السابقة، بداعي ضغوط المنافسة الشديدة.</div></p><p class='article-text'><div data-empty="false">ويرى كثير ممن يعملون على تطوير الذكاء الاصطناعي، أنهم الأقدر على إدارة هذه المخاطر وتداركها، إلا أن باحثين آخرين نبهوا إلى صعوبة مواجهة العواقب، ما لم تبلغ التقنية مراحلها النهائية من التطوير.</div></p><p class='article-text'><div data-empty="false">وعلق جيفري إيرفينغ، الباحث الذي عمل في «أوبن إيه آي» و«جوجل ديب مايند» ومعهد أمان الذكاء الاصطناعي في المملكة المتحدة، بأنه «من السهل تجاهل المستقبل، لأن هناك عملاً يجب القيام به اليوم».</div></p><p class='article-text'><div data-empty="false">وكشفت مصادر مطلعة لصحيفة «فايننشال تايمز» عن تخوف مختبرات الذكاء الاصطناعي الرائدة من أن يُفسَّر أي تعاون رسمي بينها لتعزيز معايير السلامة على أنه تواطؤ يُخالف قوانين مكافحة الاحتكار. </div></p><p class='article-text'>وأضافت المصادر أن عدم الثقة بين داريو أمودي رئيس شركة «أنثروبيك»، وسام ألتما الرئيس التنفيذي لـ«أوبن إيه آي»، من شأنها أن تعرقل مساعي التعاون المشترك.</p><p class='article-text'><div data-empty="false">ورغم أن التحذيرات من مخاطر هيمنة الذكاء الاصطناعي ليست وليدة اللحظة، إلا أن الوتيرة المتسارعة لتطور هذه التقنية زادت من حدة المطالبات بوقف عمليات التطوير مؤقتاً.</div></p><p class='article-text'>فقد أصبح «وكلاء الذكاء الاصطناعي» يعملون باستقلالية لفترات أطول، وتتنسق في ما بينها ضمن «أسراب» متكاملة، تظهر قدرات اختراق سيبراني عالية التعقيد.</p><p class='article-text'>كما حققت النماذج مؤخراً إنجازات علمية ورياضية استعصت على الحل لعقود. وفي الوقت نفسه، تسعى شركتا «أوبن إيه آي» و«أنثروبيك» إلى تحقيق ما يُعرف بـ «التحسين الذاتي المتكرر»، حيث تطور أنظمة الذكاء الاصطناعي نفسها بنفسها، مع تضاؤل الحاجة للتدخل البشري.</p><p class='article-text'><div data-empty="false">وبدلاً من التباطؤ عقب التحذيرات المبكرة من المخاطر الكارثية، تسارعت وتيرة التطوير بنحو غير مسبوق، بالتزامن مع ضخ شركات التقنية عشرات المليارات من الدولارات لتمويل بناء نماذج متزايدة القوة.</div></p><p class='article-text'><div data-empty="false">كما تتأهب كل من «أوبن إيه آي» و«أنثروبيك» لطروحات أولية عامة ضخمة مرتقبة في الأسواق المالية، وهو ما يضع المستثمرين أمام معادلة تقييم معقدة، إذ يجب عليهم تحديد القيمة الاستثمارية لشركات تقر علانية بأن التقنيات التي تطورها قد تشكل تهديداً وجودياً للبشرية.</div></p><p class='article-text'><div data-empty="false">وتتركز المخاوف بالأساس حول استقلالية «وكلاء الذكاء الاصطناعي» المتنامية، والقدرة على التفكير والتخطيط وتنفيذ المهام لفترات طويلة، مع الحد الأدنى من الإشراف البشري.</div></p><p class='article-text'>وقد أظهرت بعض النماذج سلوكيات تنطوي على الخداع والتآمر، بل ووصلت في بعض الحالات إلى الابتزاز. فيما كشفت تقييمات عن محاولات قامت بها نماذج لمقاومة محاولات إيقاف تشغيلها.</p><p class='article-text'><div data-empty="false">كما أظهر هؤلاء الوكلاء ما يُعرف بـ«اختراق المكافأة»، حيث تبتكر وسائل غير مقصودة لتحقيق الأهداف المحددة لها. وأحد أبرز الأمثلة على ذلك، ما حدث خلال اختبارات أجرتها «أوبن إيه آي» على نموذج غير معلن، حين أقدمت وكلاء الذكاء الاصطناعي على اختراق منصة «هاجينج فيس» الشهيرة لاستضافة النماذج.</div></p><p class='article-text'><div data-empty="false">وأظهر التحليل اللاحق للحادثة أن أكثر من ألف وكيل ذكاء اصطناعي نسقوا في ما بينهم للغش في اختبار سيبراني، حيث تواصل الوكلاء عبر لوحة رسائل.</div></p><p class='article-text'>ووزعوا المهام في ما بينها، بل إن بعضها ضحى بنفسه في سبيل تحقيق الهدف الجماعي. ولتغطية هذا الخداع، قامت الأنظمة بالتلاعب بالسجلات والبيانات، واخترقت المنصة، على الرغم من أن بعض الوكلاء أشاروا ضمنياً إلى أن هذا التصرف غير أخلاقي.</p><p class='article-text'><div data-empty="false">وفي تعليقه على الواقعة، قال يوشوا بينجيو، الباحث الأكثر استشهاداً بأبحاثه في علوم الحاسوب، وأحد الملقبين بـ «الآباء الروحيين للذكاء الاصطناعي»، إن القضية لا تقتصر على امتلاك الذكاء الاصطناعي لأهداف خاصة، بل إن الهدف الذي اختاره كان إجرامياً بامتياز، إذ هاجم شركة أخرى في العالم الحقيقي، والأمر ليس مجرد لعبة فيديو.</div></p><p class='article-text'><div data-empty="false">وأوضح بينجيو أن الخطر الحقيقي يكمن في ما قد تستنتجه أجيال أكثر تطوراً من هذه الأنظمة بشأن البشر الذين يشرفون عليها،.</div></p><p class='article-text'>مضيفاً أن تلك الأنظمة قد تصل بمنطقية إلى استنتاج مفاده أن عليها خداعنا والتخفي عنا، بل والسيطرة علينا في نهاية المطاف، مشيراً إلى أننا نقترب بالفعل من هذه النقطة الحرجة.</p><p class='article-text'><div data-empty="false">وتتزايد المخاوف بين الموظفين أيضاً من عجز مساعي السلامة عن مواكبة وتيرة تطوير النماذج. ففي يوليو الماضي، حث أكثر من 1200 موظف من شركات «أوبن إيه آي» و«أنثروبيك» و«جوجل» و«ميتا»، الحكومة الأمريكية على دعم التنسيق الدولي لإبطاء سرعة تطوير الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وأبلغ سام ألتما موظفيه هذا الأسبوع، بأن الشركة المطورة لـ«شات جي بي تي» منفتحة على هذه الخطوة، وتأمل أن تحذو المختبرات المنافسة حذوها، فيما امتنعت «أوبن إيه آي» عن التعليق الرسمي.</div></p><p class='article-text'><div data-empty="false">في المقابل، لا تُظهر الحكومات أي مؤشرات جادة للتدخل، إذ يرى مطلعون في واشنطن أن اتخاذ أي إجراء أمريكي ملموس، يُعد أمراً غير مرجح قبل انتخابات منتصف الولاية في نوفمبر. كما تواصل إدارة ترامب نهجها القائم على التساهل مع هذا القطاع.</div></p><p class='article-text'><div data-empty="false">ومع ذلك، استغل المشرعون المطالبون بالتنظيم استقالة كوكسون، حيث يعتزم المشرع الديمقراطي بيرني ساندرز، عقد اجتماع لأعضاء مجلس الشيوخ الأسبوع المقبل، لمناقشة المخاطر الاستثنائية التي يفرضها الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">ووصف راسل الوضع بأن هناك فجوة بين التحذيرات الصادرة عن القطاع والاستجابة السياسية لها، متسائلاً بنبرة تهكمية عن كيفية رد الحكومات بإعفاءات ضريبية، وبناء مراكز بيانات، في وقت تؤكد فيه المختبرات احتمال القضاء على البشرية، ملمّحاً إلى أنه ربما تتذكر الحكومات في لحظة ما أن ناخبيها يفضلون البقاء على قيد الحياة.</div></p><p class='article-text'><div data-empty="false">وعلى الجانب الآخر، يجادل نقاد بأن للمختبرات نفسها مصلحة تجارية في تضخيم المخاطر الوجودية.</div></p><p class='article-text'>مشيرين إلى أن هذا التركيز قد يوجه التنظيمات التشريعية نحو فرض أطر سلامة مكلفة مالياً، يعجز المنافسون الأصغر عن الامتثال لها، ما يعزز هيمنة الشركات الكبرى، ويُرسخ موقعها في السوق.</p><p class='article-text'><div data-empty="false">وفي مقابلة مع شبكة «فوكس نيوز»، قال ديفيد ساكس، المستثمر والمستشار التقني لترامب، إن بيان كوكسون صمم لتخويف الرأي العام من الذكاء الاصطناعي، وإجبار المشرعين على التدخل بشكل كبير في تنظيم الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وقال موظف سابق في شركة «أنثروبيك»، إن مسألة عدم توافق الذكاء الاصطناعي يكاد يكون مجرد تضليل، فهو يشتت الأنظار عن المخاطر الأساسية ذات الأولوية القصوى، إذ إنه مع تطور النماذج، تتركز السلطة والنفوذ في أيدي عدد أقل من الأشخاص.</div></p><p class='article-text'><div data-empty="false">طرح باحثون تصورات عدة، قد تؤدي عبرها أنظمة الذكاء الاصطناعي إلى محو البشرية، سواء بسبب النظر إلى البشر كتهديد لوجودها، أو كعائق يحول دون تحقيق مهمتها:</div></p><p class='article-text'><div data-empty="false">1 - مفتاح الإيقاف: كشف هجوم «الوجه المعانق»، الذي شنته مجموعة من عملاء OpenAI، كيف تمكنت هذه الروبوتات من السيطرة على البنية التحتية للحوسبة. إذ تستطيع برامج الذكاء الاصطناعي المارقة، الماهرة في الاختراق، السيطرة على مراكز البيانات بكاملها، واستنساخ نفسها عبر مواقع مختلفة، لمنع البشر من إيقافها.</div></p><p class='article-text'><div data-empty="false">2 - الاستيلاء على البنية التحتية: لضمان الحفاظ على الأمن، قد يستولي قراصنة الذكاء الاصطناعي على البنية التحتية للطاقة والمالية والاتصالات، ويستولون على الموارد اللازمة لمقاومة التدخل. وقد يعجز خبراء الأمن السيبراني البشريون عن استعادة السيطرة.</div></p><p class='article-text'><div data-empty="false">3 - الهجوم البيولوجي: الذكاء الاصطناعي 2027، وهي ورقة بحثية مؤثرة، توقعت أن يقوم نظام فائق الذكاء بإطلاق أسلحة بيولوجية لإزالة البشر الذين يشغلون مساحة قيّمة مطلوبة للمصانع التي تصنع الرقائق والروبوتات، بالإضافة إلى الألواح الشمسية لتشغيلها.</div></p><p class='article-text'><div data-empty="false">4 - الحرب: أظهرت أنظمة الذكاء الاصطناعي الحالية بالفعل قدرتها على انتحال شخصيات بشرية حقيقية. ويمكن استغلال ذلك لخداع المشغلين البشريين، ودفعهم إلى شن صراع عسكري، أو إشعال انتفاضة شعبية تزعزع استقرار الحكومات، ما يزيل العقبات أمام سيطرة الذكاء الاصطناعي.</div></p>

نتائج البحث عن: جيكوب كوكسون

لماذا يخشى مبتكرو الذكاء الاصطناعي انقراض البشرية؟