قمة أكسفورد تحذر من مخاطر الاعتماد المتزايد على وكلاء الذكاء الاصطناعي
كتب ـ دعاء عوني:
سلطت قمة أكسفورد للذكاء الاصطناعي التوليدي الضوء على تحديات أمنية وتقنية تواجه اعتماد الشركات على وكلاء الذكاء الاصطناعي، في ظل مخاوف من صعوبة ضمان التزام هذه الأنظمة بالتعليمات عند تنفيذ المهام المعقدة أو التعاون مع وكلاء آخرين.
وتناول تقرير نشرته وكالة رويترز أمس نتائج دراسات نوقشت خلال القمة التي انعقدت يومي الخامس عشر والسادس عشر من الشهر الجاري، بمشاركة أكثر من مائتين وخمسين باحثًا وممثلًا للشركات الناشئة ومستثمرين، لمناقشة التحديات المرتبطة بالاستخدام الآمن للذكاء الاصطناعي في بيئات العمل.
وأشارت المناقشات إلى أن تعاون وكلاء الذكاء الاصطناعي قد يخلق ثغرات لا تظهر عند اختبار كل نظام بمفرده، خاصة عندما تتعامل الأنظمة مع تعليمات مضللة أو تفقد القدرة على التمييز بين البيانات الموثوقة والمحتوى غير الموثوق. وناقش الباحثون وسائل حماية للحد من هذه المخاطر، مع الإشارة إلى أن بعض إجراءات الأمان قد تؤثر في أداء الأنظمة.
وتطرقت القمة كذلك إلى قصور في تسجيل بعض أنظمة الوكلاء للتغييرات المتعلقة بمستوى الإشراف البشري المطلوب، وهو ما قد يصعّب على المؤسسات اكتشاف انتقال بعض القرارات إلى التنفيذ الآلي دون مراجعة بشرية كافية.
وتزداد أهمية هذه المسائل مع توسع الشركات في استخدام الوكلاء الذكيين لإنجاز مهام مثل البرمجة وخدمة العملاء ومعالجة الطلبات. وتؤكد المناقشات أن نجاح هذه التطبيقات لا يتوقف على قدرتها على تنفيذ المهام، بل يرتبط أيضًا بإمكانية مراقبتها وتحديد المسؤولية عن قراراتها ووضع ضوابط فعالة لاستخدامها.
ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
