السيطرة على الذكاء الاصطناعي: هل يمكن لـ"مفتاح الإيقاف" منع الكارثة؟

لقد اكتسب هذا السؤال أهمية ملحة جديدة في أعقاب سلسلة من التحذيرات الصارخة التي صدرت مؤخراً من داخل قطاع الذكاء الاصطناعي بشأن التهديد الوجودي الذي تشكله النماذج المتقدمة التي تعمل عبر هذه التكنولوجيا.

السياسات الأمريكية

ويتجه صناع السياسات في الولايات المتحدة نحو إلزام شركات الذكاء الاصطناعي، بتزويد أنظمتها الذكية بما يُعرف بـ "مفتاح إيقاف طارئ" أو Kill Switch، الذي يتيح تعطيل هذه الأنظمة بالكامل عند الضرورة.

ففي شهر سبتمبر 2026، وقّع حاكم ولاية كاليفورنيا، غافين نيوسوم، أمراً تنفيذياً يلزم مسؤولي الولاية بدراسة قواعد تجبر شركات الذكاء الاصطناعي على استحداث "مفاتيح إيقاف طارئة" لنماذج الذكاء الاصطناعي المتطورة، في الوقت الذي يسعى فيه المشرعون الفيدراليون في مختلف انحاء أميركا إلى اتخاذ تدابير مماثلة.

انقسام الخبراء

ويرى بعض الخبراء أن تطبيق مفهوم "مفاتيح الإيقاف الطارئة" على أنظمة الذكاء الاصطناعي، يواجه تحديات كبيرة، نظراً إلى اتساع البنية التحتية التي تعتمد عليها هذه التكنولوجيا وصعوبة التنبؤ بسلوكها في جميع الظروف. في المقابل، يرى خبراء آخرون أن اعتماد هذه الآلية قد يوفر وسيلة للحد من المخاطر، من دون الحاجة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على نطاق واسع.

فما الذي يعني هذا المصطلح في عالم الذكاء الاصطناعي؟

يهدف مفهوم "مفتاح الإيقاف الطارئ" إلى تمكين الأفراد من تعطيل أنظمة الذكاء الاصطناعي، أو إيقافها بشكل فوري عند رصد قيامها بسلوك خطير، أو حدوث خلل قد يهدد سلامة المستخدمين أو المجتمع.

لماذا "زر الإيقاف" الآن؟

لطالما حذّر باحثو الذكاء الاصطناعي من احتمال فقدان البشر السيطرة على الذكاء الاصطناعي، ولكن ما تغيّر مؤخراً هو التطور الهائل في قدرات الأنظمة العاملة بهذه التكنولوجيا، إلى جانب سلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال أكثر واقعية وأقرب إلى النقاش العملي.

هل يُعد "مفتاح الإيقاف الفوري" حلاً واقعياً؟

يرى بعض الخبراء أن ضمان الإيقاف التام لنظام ذكاء اصطناعي متطور ليس بالمهمة البسيطة، إذ قد يكون من الصعب التأكد من توقف جميع مكونات النظام عن العمل بمجرد إصدار أمر بالإيقاف.

فكرة قابلة للتطبيق

تقول مستشارة الذكاء الاصطناعي المعتمدة من أكسفورد هيلدا معلوف ملكي، في حديث لموقع "اقتصاد سكاي نيوز عربية"،  إن فكرة "مفتاح الإيقاف الطارئ" قابلة للتطبيق من الناحية الهندسية، شرط ألا يتم التعامل معها باعتبارها زرّاً سحرياً يوقف الذكاء الاصطناعي في لحظة، وإنما باعتبارها طبقة أخيرة ضمن منظومة متكاملة للتحكم في الأنظمة الذكية.