أصبحت أدوات الذكاء الاصطناعي جزءا من الاستخدام اليومي للإنترنت، إذ يلجأ إليها المستخدمون لطرح الأسئلة الشخصية وتلخيص المستندات وكتابة الرسائل وتحليل الملفات ومناقشة موضوعات قد لا يرغبون في مشاركتها مع الآخرين، لكن هذه الاستخدامات تثير مخاوف متزايدة بشأن خصوصية البيانات، خصوصا مع تخزين المحادثات على خوادم الشركات، وإمكانية ربط المساعدات الذكية بتطبيقات وخدمات خارجية.

وكشفت حوادث فعلية في منصات مثل شات جي بي تي وغروك وديب سيك وكلود، أن المحادثات والمعلومات الشخصية قد تنكشف نتيجة أخطاء برمجية، أو قواعد بيانات غير محمية، أو إعدادات مشاركة تسمح لمحركات البحث بالوصول إلى المحتوى وفهرسته، وتوضح هذه الوقائع أن مخاطر الخصوصية لا تقتصر على اختراق الحسابات، بل تشمل أيضا طريقة تصميم الخدمات وإدارة البيانات والصلاحيات الممنوحة للتطبيقات.

خلل برمجي كشف محادثات مستخدمي شات جي بي تي

في مارس/آذار 2023، أعلنت شركة أوبن إيه آي اكتشاف خلل برمجي في مكتبة مفتوحة المصدر تستخدمها خدمة شات جي بي تي لإدارة البيانات المخزنة مؤقتا عبر نظام ريديس (Redis).

أخبار مقترحة

  • اللغة العربية والذكاء الاصطناعي
    أصوات العرب ولهجاتهم ترسم ملامح جيل جديد من الذكاء الاصطناعي
  • 7 انقطاعات في 6 أيام.. لماذا تتهاوى خدمات أمريكا؟ خبراء يجيبون

وأوضحت الشركة أن الخلل أتاح لبعض المستخدمين الاطلاع على عناوين محادثات تخص مستخدمين آخرين، كما كان من الممكن ظهور الرسالة الأولى من محادثة جديدة في سجل مستخدم آخر، إذا كان الطرفان يستخدمان الخدمة في الوقت نفسه تقريبا.

وامتد التأثير المحتمل إلى بعض المعلومات المرتبطة بالدفع لنحو 1.2% من مشتركي شات جي بي تي بلس النشطين خلال فترة تسع ساعات. وشملت هذه المعلومات الأسماء، وعناوين البريد الإلكتروني، وعناوين الفواتير، ونوع البطاقة، وآخر أربعة أرقام منها، وتاريخ انتهاء صلاحيتها.

وعزت الشركة المشكلة إلى خلل في إدارة الاتصالات بين الخادم ونظام التخزين المؤقت، أدى إلى احتمال وصول بيانات مخزنة تخص مستخدما إلى طلب صادر عن مستخدم آخر. وأكدت إصلاح الخلل وإضافة إجراءات تحقق للحد من احتمال تكراره.

روابط المشاركة تفتح باب التسريب

لا تتطلب جميع حالات انكشاف المحادثات اختراق الأنظمة، إذ قد تتحول ميزات المشاركة نفسها إلى سبب في وصول المعلومات إلى جمهور أوسع مما قصده المستخدم.

وفي يوليو/تموز 2025، كشفت مجلة فاست كومباني (Fast Company) عن ظهور نحو 4500 محادثة مشتركة من شات جي بي تي في نتائج بحث غوغل، تضمنت نقاشات شخصية وحساسة تتعلق بالصحة النفسية والإدمان والعلاقات.

وحدث ذلك نتيجة ميزة تجريبية أتاحت للمستخدمين جعل محادثاتهم قابلة للاكتشاف عبر محركات البحث عند مشاركة روابطها، وبعد انتشار القضية، أعلنت أوبن إيه آي إزالة هذا الخيار، وبدأت العمل على حذف المحتوى المفهرس من نتائج البحث.

وظهرت مشكلة مشابهة في غروك، إذ أفادت مجلة فورتشن (Fortune) في أغسطس/آب 2025 بفهرسة أكثر من 370 ألف محادثة عبر محركات البحث، وكان الضغط على زر المشاركة ينشئ رابطا فريدا للمحادثة، لكن هذه الروابط كانت تُنشر على موقع الخدمة وتصبح قابلة للفهرسة، دون تنبيه واضح للمستخدم إلى احتمال ظهورها للعامة. وتضمنت المحادثات أسئلة طبية ونفسية ومعلومات تجارية، إضافة إلى كلمة مرور واحدة على الأقل، وفق التقرير.

 

وفي يوليو/تموز 2026، ظهرت مشكلة أخرى في كلود التابع لشركة أنثروبيك، بعدما كشفت تقارير إعلامية عن ظهور آلاف المحادثات والملفات التي أنشأها المستخدمون عبر روابط المشاركة في نتائج بحث غوغل، وأشارت التقارير إلى أن بعض الصفحات لم تتضمن وسم (noindex)، الذي يطلب من محركات البحث عدم إدراجها في نتائج البحث، ما ساعد على فهرستها.

وأوضحت أنثروبيك أن إنشاء رابط للمشاركة يجعل المحتوى متاحا للعامة، وأن خدمات خارجية قد تقوم بأرشفته وفهرسته.

قواعد البيانات والتطبيقات الخارجية مصدر آخر للمخاطر

في يناير/كانون الثاني 2025، كشفت شركة الأمن السيبراني ويز (Wiz) عن قاعدة بيانات تابعة لديب سيك كانت مكشوفة على الإنترنت دون حماية كافية.

ووفقا لوكالة رويترز، احتوت قاعدة البيانات على أكثر من مليون سطر من البيانات، شملت سجلات محادثات بدت وكأنها تتضمن استفسارات المستخدمين، إلى جانب مفاتيح برمجية وسجلات تشغيل داخلية، وأبلغت ويز الشركة بالمشكلة، التي سارعت إلى إغلاق إمكانية الوصول إلى البيانات خلال أقل من ساعة.

ولا تقتصر المخاطر على المنصات نفسها، بل تمتد إلى التطبيقات الخارجية المرتبطة بها. فالمساعدات الذكية التي تحصل على صلاحيات قراءة البريد الإلكتروني والملفات والتقويم قد تعرض هذه البيانات للخطر إذا أسيء ضبط أذوناتها، أو تعرضت الخدمة المرتبطة بها للاختراق.

كما تمثل هجمات حقن الأوامر (Prompt Injection) تحديا إضافيا، إذ تعتمد على تضمين تعليمات خبيثة داخل صفحات أو رسائل أو مستندات يقرأها الوكيل الذكي، بهدف خداعه ودفعه إلى تنفيذ إجراءات غير مرغوبة، أو محاولة استخراج معلومات يمكنه الوصول إليها.

وتبرز مخاطر إدخال البيانات الحساسة في حادثة شركة سامسونغ عام 2023، عندما رفع موظفون شيفرات مصدرية ومعلومات داخلية إلى شات جي بي تي، ما دفع الشركة إلى تقييد استخدام أدوات الذكاء الاصطناعي الخارجية.

كما حذرت هيئة حماية البيانات الهولندية في أغسطس/آب 2024 من بلاغات بشأن إدخال موظفين بيانات مرضى وعناوين عملاء إلى روبوتات المحادثة، مؤكدة أن هذه المعلومات قد تنتقل إلى خوادم الشركات المشغلة للخدمات.

خطوات لحماية المحادثات والبيانات الشخصية

تتطلب حماية الخصوصية التعامل بحذر مع المعلومات التي يشاركها المستخدم مع أدوات الذكاء الاصطناعي، ومن أبرز الإجراءات التي يمكن اتباعها:

  • تجنب إدخال كلمات المرور والبيانات المصرفية والمعلومات الصحية والوثائق السرية في المحادثات.
  • مراجعة إعدادات الخصوصية والتحكم في استخدام المحادثات لتحسين النماذج.
  • تجنب إنشاء روابط عامة للمحادثات الشخصية، ومراجعة الروابط التي سبق مشاركتها وإلغاء ما لم تعد هناك حاجة إليه.
  • تقليص صلاحيات التطبيقات الخارجية، وعدم منح الوكلاء الذكيين إمكانية الوصول الشامل إلى الملفات والحسابات دون حاجة فعلية.
  • استخدام خدمات مؤسسية معتمدة عند التعامل مع بيانات العمل والعملاء.
  • تفعيل المصادقة الثنائية واستخدام كلمات مرور قوية ومختلفة للحسابات.

ويجب الانتباه إلى أن حذف المحادثة من واجهة التطبيق لا يعني بالضرورة إزالتها فورا من جميع أنظمة الشركة والنسخ الاحتياطية، إذ تختلف سياسات الاحتفاظ بالبيانات ومدد حذفها بين الخدمات.

الخصوصية مسؤولية مشتركة

تكشف هذه الحوادث أن مخاطر الخصوصية في أدوات الذكاء الاصطناعي متعددة المصادر، فقد تنشأ عن خلل برمجي، أو قاعدة بيانات مكشوفة، أو إعدادات مشاركة غير مناسبة، أو نقل معلومات حساسة إلى خدمات خارجية.

ولا يعني ذلك أن جميع المحادثات معرضة للتسريب، لكنه يؤكد أهمية معرفة المستخدم لطبيعة البيانات التي يشاركها والصلاحيات التي يمنحها لهذه الأدوات. وفي المقابل، تتحمل الشركات المطورة مسؤولية تأمين بنيتها التقنية، وتوضيح سياسات معالجة المعلومات، وتوفير خيارات فعالة للتحكم في الخصوصية.

فالثقة بأدوات الذكاء الاصطناعي لا ينبغي أن تقوم على سهولة استخدامها وحدها، بل على قدرتها أيضا على حماية المعلومات التي يضعها المستخدمون بين أيديها.