رئيس «مايكروسوفت» يحذر من الثقة العمياء في الذكاء الاصطناعي ويدعو لـ «فرامل طوارئ»

حذّر ساتيا ناديلا، الرئيس التنفيذي لشركة «مايكروسوفت» (Microsoft)، من مخاطر الاعتماد المفرط والثقة المطلقة في أنظمة الذكاء الاصطناعي، مشددًا على ضرورة بناء «فرامل طوارئ» وآليات تحكم بشرية صارمة لمنع التداعيات الكارثية المحتملة لاستقلال هذه الأنظمة.
​
وأوضح ناديلا خلال تصريحات صحفية حديثة أن تسارع تطوير وكلاء الذكاء الاصطناعي (AI Agents) القادرين على اتخاذ قرارات وتنفيذ مهام معقدة بشكل مستقل، يتطلب استراتيجيات حماية متطورة تضمن بقاء السيطرة النهائية بيد العنصر البشري.

وأشار إلى أن شركات التكنولوجيا الكبرى مطالبة بالتأكد من وجود مفاتيح إيقاف فورية وآليات للتدخل السريع في حال انحراف الأنظمة عن مسارها المحجوز.
​
وأكد رئيس «مايكروسوفت» أن الهدف من تطوير تقنيات الذكاء الاصطناعي يجب أن يظل محصورًا في تعزيز القدرات البشرية وتمكين الأفراد، مع عدم الاندفاع نحو بناء منظومات مستقلة كليًا دون التأكد المستبق من أمانها واستقرارها السيبراني في كافة ظروف التشغيل.
​ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي