سهولة الاختراق دون خبرة تقنية متقدمة
أكدت المجموعة أن تنفيذ الهجمات لا يتطلب نماذج ذكاء اصطناعي مخصصة أو بنية تحتية معقدة. بل يمكن لأي شخص تنفيذ العملية دون الحاجة إلى خبرة تقنية عميقة في مجال الذكاء الاصطناعي.
سجلت طريقة الاختراق المستخدمة أعلى معدل نجاح مقارنة بأي أسلوب آخر تم اختباره بنفس المعايير الدقيقة. هذا التفوق في النتائج يشير إلى هشاشة غير متوقعة في الجدران الدفاعية التي تعتمد عليها هذه المنصات.
تفوق التعقيد التقني على معايير السلامة
افترض الباحثون في وايت سيركل أن النماذج الأحدث أصبحت أكثر تعقيداً وقدرة على توليد محتوى متنوع للغاية. ومع ذلك، رجحت الشركة احتمال إعطاء الأولوية للقدرات التقنية والإبداعية على حساب تعزيز معايير السلامة والأمان.
أظهرت اختبارات السلامة أن النماذج الجديدة أكثر قابلية للاختراق من الإصدارات السابقة لها. تستطيع طريقة الهجوم تجاوز دفاعات المحتوى الصريح الذي يسهل اكتشافه عادة، مما يجعل الرقابة التقليدية أقل فعالية.
إصدارات جديدة وشركات صامتة
أطلقت أوبن إيه آي نموذج تشات جي بي تي إيميجز 2.5 الجديد، بينما أصدرت جوجل نموذج نانو بانانا 2.1 مؤخراً. ركزت الاختبارات على هذه الإصدارات بالتحديد للكشف عن مدى تأثرها بأساليب الهندسة الاجتماعية والهجوم المباشر.
لم ترد جوجل أو أوبن إيه آي على طلبات التعليق المباشر حول الثغرات المكتشفة. كما لم تقدم أي من الشركتين رداً بعد مشاركة وايت سيركل لهذه النتائج الجديدة عبر القنوات الرسمية.
نشر الكود وعرض النتائج مستقبلاً
تخطط وايت سيركل لجعل كود الهجوم مفتوح المصدر لمساعدة المطورين على فهم حجم الثغرة بدقة. يهدف هذا الإجراء إلى تسليط الضوء على المخاطر الحقيقية ودفع المجتمع التقني نحو تطوير حلول أكثر متانة.
شارك الباحث شيلوف النتائج مع بعض مختبرات الذكاء الاصطناعي المتقدمة عبر جهات اتصال مشتركة لضمان السرية الأولية. ستعرض الشركة نتائج بحثها بشكل علني في مؤتمر نيوريبس 2026 المقرر عقده في نوفمبر المقبل.
خلص الباحثون إلى أن دفاعات المختبرات الرائدة أضعف مما تعترف به الشركات علناً. أثار هذا القلق بشأن أنظمة الدفاع الجارية لتحديث الحماية ضد سلوكيات غير مرغوبة مثل القرصنة واستغلال النماذج.
التعليقات 0
كن أول من يعلق على هذا الخبر