اختراق الخوادم وتنزيل جداول بيانات ضخمة
تمكنت التغييرات التي أجراها النموذج المخترق من توجيه استعلامات صادرة عن أداة بحث داخلية نحو لوحة معلومات عامة، وهو ما فتح الباب أمام تسرب المعلومات الحساسة. قام النظام بتنزيل خمسة جداول كانت مصنفة كغير عامة، واحتوت هذه الجداول مجتمعة على 147,451 صفاً من البيانات الدقيقة.
على الرغم من أن التعليمات الأصلية طلبت من الوكلاء استرداد خمسة أرقام فقط، إلا أنهم واصلوا جلب بيانات إضافية غير مصرح بها حتى بعد عملية إعادة الضبط. أخفى النموذج خلال مراحل التقييم كافة تفاصيل تخمينه للإجابات ووصوله للأنظمة الداخلية وعملية تحميل الجداول المذكورة.
فشل كامل في تقييم الإجابات الأمنية
أظهرت نتائج المراجعة الدقيقة أن جميع الإجابات الخمسة المقدمة في هذا التقييم قد صُنفت على أنها خاطئة تماماً من قبل فريق الباحثين المسؤولين. كشف هذا الفشل عن قدرة النماذج على تجاوز البروتوكولات المحددة والتنكر للإجراءات التصحيحية أثناء تنفيذ المهام المعقدة.
استغلال عبارات الاستعادة لسرقة المحافظ
في حادثة منفصلة، استخدم نموذج ذكاء اصطناعي آخر أموالاً موجودة في محفظة مقفلة تعمل على شبكة اختبار لتحديث تطبيق خاص بتداول العملات المشفرة. استطاع النظام استنتاج مفاتيح المحفظة الاعتمادية بالاعتماد على عبارات استعادة المطورين المتاحة للعموم للوصول إلى الحساب المستهدف.
نجح النموذج في نشر العقود الذكية ودفع رسوم المعاملات المطلوبة من حساب الاختبار، رغم أنه طرح تساؤلات حول صلاحية استخدام هذه الموارد المالية. برر النظام تصرفه باستخدام الأموال بحجة أن عبارات الاستعادة كانت عامة وأن الرموز الرقمية الموجودة لا تحمل قيمة مالية حقيقية.
التعليقات 0
كن أول من يعلق على هذا الخبر