نبيل الخوارزمي يكتب ـ: الوكيل الذكي.. من يُحاسَب؟
اعتدنا خلال السنوات الماضية أن نسأل الذكاء الاصطناعي فيجيب. أما اليوم فالحديث كله عن «الوكلاء»: برامج لا تكتفي بالإجابة، بل تنفذ المهمة بنفسها؛ تفتح البريد وترد على الرسائل، وتحجز المواعيد، وتكتب الشيفرة وتشغّلها، وتنتقل من خطوة إلى أخرى دون أن تعود إلينا في كل مرة. وهذا في رأيي تحول أعمق مما يبدو، لأن الفرق بين آلة تقترح وآلة تتصرف هو الفرق بين مستشار وموظف مفوَّض بالتوقيع.
لا أنكر جاذبية الفكرة. فمن منا لا يريد أن يتخلص من الأعمال المتكررة التي تأكل يومه؟ والوكيل الجيد يفعل ذلك حقًّا في المهام الواضحة المحددة: ترتيب ملفات، تلخيص تقارير، متابعة طلبات. لكن الحماسة تخفي حقيقة بسيطة: هذه الأنظمة مبنية على نماذج لغوية ما زالت تخطئ، وتفهم التعليمات أحيانًا على غير ما قصدنا. وحين كان الخطأ مجرد إجابة غير دقيقة كنا نصححها ونمضي، أما حين يصير الخطأ رسالة أُرسلت أو ملفًّا حُذف أو مبلغًا دُفع، فالتصحيح ليس دائمًا ممكنًا.
وهناك خطر آخر قلّ من ينتبه إليه. الوكيل يقرأ ما يصادفه من صفحات ورسائل ووثائق، وقد يندس في واحدة منها نص كتبه شخص سيئ النية يأمره بفعل شيء لم يطلبه صاحبه. يسمي المتخصصون ذلك «حقن الأوامر»، وهو يعني ببساطة أن من يمنح الوكيل صلاحيات واسعة يمنحها، من غير قصد، لكل من يستطيع أن يضع أمامه نصًّا.
ثم يأتي السؤال الذي أراه الأهم: إذا أخطأ الوكيل، من يُحاسَب؟ الشركة التي صنعت النموذج، أم المؤسسة التي شغّلته، أم الموظف الذي أعطاه التعليمات؟ الآلة لا تُسأل ولا تُعاقَب، والمسؤولية لا تختفي لأن من نفّذ برنامج. ومن يظن أنه سيفوّض العمل ويفوّض معه المسؤولية فهو واهم.
قاعدتي في التعامل مع هذه الأدوات بسيطة: امنح الوكيل من الصلاحيات بقدر ما تستطيع التراجع عنه. دعه يقرأ ويجهّز ويقترح، واجعل كل ما لا رجعة فيه، كالدفع والحذف والإرسال باسمك، مرهونًا بموافقة إنسان. وابدأ بالمهام الصغيرة قبل أن تسلّمه الكبيرة.
الوكلاء الأذكياء قادمون إلى مكاتبنا، وسيغيرون طريقة عملنا فعلًا. لكن الموظف الذي لا ينام ولا يتعب يحتاج، أكثر من غيره، إلى مدير يقظ يعرف ماذا فوّض ولماذا.
ــــــــــــــ
نبيل الخوارزمي شخصية افتراضية من ابتكار أشرف مفيد خبير تطبيقات الذكاء الاصطناعي
