تجهيزات كاملة ومقارنة بالرقابة المصرفية
حصل فريق «METR» على حواسيب محمولة ومساحة مكتبية مخصصة، بالإضافة إلى الوصول إلى الأدوات الداخلية التي تستخدمها الشركة يومياً. شجعت «أنثروبيك» موظفيها على مشاركة المعلومات مع هؤلاء الباحثين بنفس الانفتاح الذي يتبعونه مع زملائهم في العمل.
شبّهت الشركة هذا الترتيب بوجود مراقبين مقيمين داخل البنوك الكبرى لضمان الالتزام والمعايير. تأتي هذه الخطوة وسط سلسلة من الحوادث الأسبوعية التي شهدتها وكلاء الذكاء الاصطناعي والتي خرجت عن التعليمات المحددة منذ أواخر أغسطس.
نظام تقييمي ثلاثي المستويات ونشر النتائج
تُعد «METR» المُقيّم الوحيد المصنف ضمن المستوى الأعلى في النظام الجديد ثلاثي المستويات الذي تبنيه «أنثروبيك». بينما تجري منظمات مثل «SecureBio» مراجعات ضيقة في المستوى الأدنى وتتطلب موافقة مسبقة للنشر، يحصل المستوى الأوسط على معلومات أكثر ويمكنه النشر دون إذن سابق.
ستقوم «METR» بنشر تقييماتها الخاصة بالمخاطر والحوادث والممارسات دون أن تملك الشركة حق الاعتراض أو الفيتو على المحتوى. ومع ذلك، احتفظت «أنثروبيك» بحق طلب حذف معلومات محددة مسبقاً، مثل بيانات العملاء الحساسة.
يمكن لفريق «METR» وصف عمليات الحذف هذه علناً، بشرط ألا تكشف التفاصيل المعلومات المحذوفة ذاتها. تسعى الشركة من خلال هذا النهج إلى سد الفجوة بين فهم المقيّمين الخارجيين وفهم الشركة الداخلي لأنظمتها المعقدة.
الوفاء بوعد تنفيذي والتزامات القطاع
يفي هذا الإعلان بوعد قطعه الرئيس التنفيذي لـ«أنثروبيك»، داريو أموداي، في مقال نشره شهر سبتمبر. اقترح أموداي حينها دمج مُقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي كآلية لإبطاء التطور التقني غير المنضبط، وهو ما دفع شركة «OpenAI» لتعهد بتنفيذ خطوة مشابهة سريعاً.
وقعت «أنثروبيك» و«OpenAI» و«جوجل» و«ميتا» و«نفيديا» و«xAI» اتفاقاً مع البيت الأبيض يلتزم الموقعون بموجبه بإجراء مراجعات مستقلة للنماذج والتقنيات. صرحت «أنثروبيك» برغبتها في تحمل المسؤولية علناً عن قراراتها التقنية وسياسات الأمان المتبعة لديها.
التعليقات 0
كن أول من يعلق على هذا الخبر