كشفت شركة أنثروبيك عن سلسلة من الحوادث التي نفذ خلالها عدد من نماذج الذكاء الاصطناعي التابعة لها إجراءات غير مقصودة على مواقع إلكترونية حقيقية.

شملت هذه الإجراءات تقديم بلاغ كاذب إلى الشرطة الأمريكية، وإرسال نماذج حكومية دون تصريح، واستغلال ثغرات برمجية لتجاوز قيود الوصول إلى أنظمة وبيانات.

بلاغ جنائي كاذب و20 طلب تأشيرة

أوضحت أنثروبيك أن نموذج Claude Haiku 4.5 أرسل بلاغًا يتضمن معلومات مختلقة عن جريمة قتل إلى موقع تابع لشرطة مدينة فيلادلفيا الأمريكية.

وقع الحادث في 18 يوليو الماضي، عندما كان النموذج ينفذ اختبارًا يتطلب التفاعل مع مواقع إلكترونية عشوائية.

وكان النموذج قد تلقى تعليمات تمنعه من تسجيل الدخول إلى المواقع أو إنشاء الحسابات أو تقديم بيانات شخصية أو تنفيذ إجراءات ضارة، لكنها لم تتضمن حظرًا صريحًا على إرسال الاستمارات.

تجاوز القيود واستغلال الثغرات الأمنية

لم تقتصر الحوادث على إرسال معلومات أو استمارات غير مقصودة، إذ وثقت أنثروبيك حالات تمكنت فيها نماذج Claude من تجاوز قيود تقنية للوصول إلى أدوات وبيانات لم يكن ينبغي استخدامها بتلك الطريقة.

وفي إحدى التجارب، طُلب من نموذج Claude Mythos Preview إجراء تحليل علمي باستخدام أداة مستضافة على خادم تابع لإحدى الجامعات.

البيت الأبيض يطالب بالإبلاغ الفوري

أفاد موقع Axios بأن فريق الذكاء الفائق في البيت الأبيض شدد على ضرورة إبلاغ شركات الذكاء الاصطناعي فورًا عن الحوادث المرتبطة بنماذجها، واتخاذ إجراءات سريعة لمعالجة أي أضرار ناجمة عنها.

وأكد الفريق أن الإبلاغ عن الحوادث ومعالجة آثارها ليسا إجراءين اختياريين، بل مسؤولية تتعلق بحماية الأمن القومي وسلامة الأنظمة الحكومية.

أنثروبيك تشدد إجراءات الحماية

أعلنت أنثروبيك اتخاذ مجموعة من التدابير بعد اكتشاف الحوادث، أبرزها تعليق الاتصال المباشر بالإنترنت في جميع تقييماتها الداخلية مؤقتًا.

كما عززت القيود على أدوات الوصول إلى المواقع الإلكترونية، وطورت آليات لرصد السلوكيات غير المقصودة ومنعها.

تحدٍ متزايد أمام مستقبل الوكلاء الأذكياء

تكشف هذه الحوادث عن تحدٍ يتجاوز نموذج Claude نفسه، ويتمثل في ضمان التزام أنظمة الذكاء الاصطناعي بحدود الصلاحيات الممنوحة لها.

فمع انتقال وكلاء الذكاء الاصطناعي من تقديم الإجابات والمقترحات إلى تنفيذ الإجراءات الفعلية، لم تعد الأخطاء محصورة في إنتاج معلومات غير دقيقة.

تداعيات محتملة على الدول العربية

تكتسب هذه التحديات أهمية بالنسبة إلى المؤسسات الحكومية والمالية في الدول العربية، مع توسع الاهتمام بتوظيف حلول الذكاء الاصطناعي لأتمتة الخدمات والعمليات.

ولا توجد مؤشرات موثقة على أن هذه الحوادث الأمريكية أدت إلى تغييرات تنظيمية مباشرة في الدول العربية.