كشفت دراسة حديثة عن ثغرة أمنية خطيرة في نماذج الذكاء الاصطناعي التوليدية المستخدمة لإنتاج بيانات تركيبية لحماية الخصوصية. حيث تمكن الباحثون من تطوير هجوم استدلالي يمكنه كشف معلومات حساسة عن البيانات الأصلية المستخدمة في التدريب، حتى مع تطبيق آليات الخصوصية التفاضلية. تظهر النتائج أن التداخل البنيوي في توزيع البيانات يخلق قنوات تسرب غير متوقعة.
تُستخدم النماذج التوليدية للذكاء الاصطناعي على نطاق واسع لإنشاء بيانات تركيبية، يُنظر إليها كبديل آمن لمشاركة مجموعات البيانات الحساسة في مجالات مثل الرعاية الصحية والتمويل. لكن دراسة جديدة نُشرت على منصة arXiv تكشف أن هذه البيانات التركيبية قد لا تكون آمنة كما يُعتقد، حيث يمكنها تسريب معلومات مهمة عن العينات الأصلية المستخدمة في تدريب النماذج.
طور الباحثون هجوماً استدلالياً من نوع "الصندوق الأسود" يستغل التداخل البنيوي في مشعب البيانات. يعتمد الهجوم على استعلام النموذج التوليدي بشكل متكرر للحصول على أعداد كبيرة من العينات التركيبية، ثم إجراء تجميع غير خاضع للإشراف لتحديد المناطق الكثيفة في التوزيع التركيبي. بعد ذلك، يحلل المهاجم النقاط المركزية والأحياء المجاورة التي تتوافق مع مناطق عالية الكثافة في بيانات التدريب الأصلية، والتي تعمل كوكلاء للعينات الأصلية، مما يمكن المعتدي من استنتاج العضوية أو إعادة بناء سجلات تقريبية.
أظهرت التجارب عبر مجالات حساسة أن التداخل العنقودي بين البيانات الحقيقية والتركيبية يؤدي إلى تسرب واضح للعضوية، حتى عندما يتم تدريب النموذج التوليدي باستخدام الخصوصية التفاضلية أو آليات ضوضاء أخرى. هذا يكشف عن سطح هجومي غير مُستكشف بشكل كاف في خطوط إنتاج البيانات التركيبية.
تسلط الدراسة الضوء على الحاجة إلى ضمانات خصوصية أقوى تأخذ في الاعتبار الاستدلال على الأحياء التوزيعية، وليس فقط حفظ العينات على المستوى الفردي. النتائج تدق ناقوس الخطر للمؤسسات التي تعتمد على البيانات التركيبية كنشر آمن للبيانات، وتؤكد على ضرورة تطوير آليات حماية أكثر قوة لسد هذه الثغرة الخطيرة. كود التنفيذ والتقييم متاح للجمهور على منصة GitHub.
المصدر: arXiv ML Papers | تغطية حصرية من AI Tools Oasis
نقدم لك أحدث الأخبار والتحليلات في عالم الذكاء الاصطناعي بدقة ومصداقية. تابعنا للحصول على كل جديد.
تواصل OpenAI العمل على تطبيقها الشامل الخارق الذي يهدف إلى دمج الذكاء الاصطناعي في منصة واحدة متعددة الوظائف. يأتي هذا التطور في إطار سعي الشركة لتوسيع نطاق خدماتها وتقديم تجربة مستخدم متكاملة. تعرف على التفاصيل الكاملة والتأثير المتوقع لهذه الخطوة.
أعلنت منصة نوتيون عن استعادة الوصول إلى خدمة أنثروبيك بعد انقطاع مؤقت أثر على المستخدمين. يأتي هذا الإجراء بعد ساعات من تعطل الخدمة، مما أثار تساؤلات حول استقرار التكامل بين أدوات الإنتاجية وخدمات الذكاء الاصطناعي. نستعرض تفاصيل الحادثة وتأثيرها على المستخدمين.
تتزايد المخاوف في عالم العملات الرقمية من ظاهرة تُعرف بـ Tokenpocalypse، حيث قد يؤدي تضخم عدد الرموز إلى انهيار السوق. تحليل TechCrunch يكشف عن علامات تحذيرية وتأثيرات محتملة على المستثمرين.
