نشر ساتيا نادالا، الرئيس التنفيذي لشركة مايكروسوفت، منشورًا مطولًا على منصة إكس يتناول مخاطر نماذج الذكاء الاصطناعي المتقدمة وسبل مواجهتها. وأكد المسؤول التقني ضرورة التوقف عن التعامل مع هذه الأنظمة بصفتها صناديق سوداء متداخلة لا يمكن فهم آليات عملها الداخلية.

افتراض الاختراق وتوفير أدلة مقاومة للتلاعب

شدد نادالا على وجوب افتراض أن أي نموذج ذكاء اصطناعي قد يكون مخترقًا منذ البداية. وتتطلب هذه المقاربة ترك أدلة مقروءة بشريًا ومقاومة للتلاعب لضمان إمكانية تتبع العمليات بدقة.

كما دعا إلى توفير بيانات قابلة للتحقق وتطبيق إجراءات احتواء صارمة. وتضمنت توصياته ضرورة الإفصاح السريع عن الحوادث الأمنية وإجراء تدقيقات مستقلة دورية.

فرامل الطوارئ وصلاحيات الإيقاف الفوري

شبه الرئيس التنفيذي آلية الاحتواء المطلوبة بفرامل الطوارئ المخصصة للأنظمة التقنية. ويجب أن يمتلك شخص مخول صلاحية إيقاف النموذج مؤقتًا أو نهائيًا أثناء العمل لمنع الأضرار المحتملة.

دعا المنشور أيضًا إلى بناء أنظمة شفافة تسمح بمراقبة النماذج واحتوائها بفعالية. وتزداد الحاجة إلى تقنيات احتواء أكثر تطورًا بالتزامن مع تقدم قدرات هذه النماذج.

توحيد المعايير لمواجهة تحديات الذكاء الخارق

استخدم نادالا مصطلح «الذكاء الخارق» للإشارة إلى الذكاء الاصطناعي في منشوره المفصل. وطالب بتوحيد معايير تقنيات الاحتواء الخاصة بهذا القطاع لضمان فعالية الإجراءات الوقائية.

وتركز الرؤية المطروحة على جعل الأنظمة خاضعة للرقابة البشرية المستمرة بدلاً من الاعتماد الكلي على التشغيل الذاتي. ويُعد هذا التوجه أساسيًا لإدارة المخاطر المرتبطة بالتطور السريع لهذه التقنيات.