«أنثروبيك» تحدث نموذج «كلود» بآليات أمان متطورة لمنع استغلال الذكاء الاصطناعي

​أعلنت شركة أنثروبيك (Anthropic) المتخصصة في تطوير تقنيات الذكاء الاصطناعي عن إطلاق تحديث أمني جديد لسلسلة نماذج كلود (Claude).

ويهدف التحديث إلى تعزيز بروتوكولات الأمان الداخلي وتقليل المخاطر المرتبطة بتوليد المحتوى الحساس أو تقديم إرشادات برمجية قد تُستغل في الهجمات السيبرانية.

​وأوضحت الشركة عبر موقعها الرسمي أن التحديث يعتمد على تقنيات تقييم مستمرة تجري في الوقت الفعلي أثناء توليد النصوص والردود، مما يساعد في رصد أي محاولات لتجاوز حواجز الحماية (Guardrails).

وتأتي هذه الخطوة في إطار المساعي الدولية لتنظيم الذكاء الاصطناعي وضمان سلامة النماذج المتقدمة قبل إتاحتها للاستخدام المباشر في المنصات المؤسسية.
​ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي