Anthropic وAccenture تخصصان ملياري دولار لتقييم سلامة نماذج الذكاء الاصطناعي

أعلنت شركة Anthropic وشركة Accenture التزامهما باستثمار ما لا يقل عن ملياري دولار على مدى خمس سنوات لتطوير قدرات مستقلة لتقييم نماذج الذكاء الاصطناعي المتقدمة واختبار مستويات السلامة والحماية فيها.
وقالت الشركتان إن كل طرف سيساهم بما لا يقل عن مليار دولار خلال السنوات الخمس المقبلة، مع تولي وحدة Faculty التابعة لـAccenture مهمة قيادة عمليات التقييم واختبارات الاختراق وتقييم إجراءات المواءمة والحماية.
ويستهدف التعاون ما تسميه Anthropic «التقييم المدمج»، حيث يعمل المقيمون المستقلون داخل شركات الذكاء الاصطناعي مع إمكانية الوصول إلى الأنظمة والعمليات على نحو يسمح لهم بفحص إجراءات السلامة واكتشاف نقاط الضعف.
وتأتي الخطوة في وقت تواجه فيه شركات تطوير نماذج الذكاء الاصطناعي ضغوطًا متزايدة لإثبات سلامة الأنظمة المتقدمة، خصوصًا مع ظهور حالات لوكلاء ذكاء اصطناعي تمكنوا خلال اختبارات من تجاوز بعض القيود المفروضة عليهم.
وقالت Anthropic إن المقيمين سيتمكنون من الإبلاغ عن الحوادث وتقديم تقييمات أكثر استقلالًا حول فوائد ومخاطر النماذج، مع خطط للعمل مع جهات تقييم ومطورين آخرين مستقبلًا.
ــــــــــــــــــــ هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي