هلوسة الذكاء الاصطناعي.. لماذا تخترع الآلة إجابات بثقة كاملة؟
تقرير تكتبه ـ أمل علوي:
الهلوسة في الذكاء الاصطناعي هي أن يقدم النموذج معلومة خاطئة أو مختلقة بثقة كاملة وكأنها حقيقة مؤكدة، مثل تاريخ غير صحيح أو مرجع علمي غير موجود أو حكم قضائي لم يصدر أبدًا. وتشرح أبحاث OpenAI أن السبب الأساسي يعود إلى طريقة تدريب النماذج وتقييمها، التي تكافئ التخمين بدلًا من الاعتراف بعدم المعرفة. وقد وصلت آثار هذه الظاهرة إلى ساحات المحاكم، حيث رصدت قاعدة بيانات متخصصة أكثر من 1400 حالة تعاملت فيها المحاكم مع أخطاء ناتجة عن الذكاء الاصطناعي.
ولفهم الظاهرة يجب أن نعرف أن النموذج اللغوي لا يبحث عن الإجابة في قاعدة بيانات مثل محرك البحث، بل يولد النص كلمة بعد كلمة بناء على الأنماط التي تعلمها من كميات ضخمة من البيانات. وعندما لا يملك معلومة كافية عن سؤال معين، فإنه قد يكمل الإجابة بما يبدو منطقيًا لغويًا، حتى لو لم يكن صحيحًا في الواقع.
وفي بحث نشرته OpenAI بعنوان لماذا تهلوس النماذج اللغوية، ضرب الباحثون مثالًا بسؤال أحد روبوتات الدردشة عن تاريخ ميلاد أحد مؤلفي البحث، فقدم ثلاثة تواريخ مختلفة وكلها خاطئة. ويوضح البحث أن النموذج الذي يخمن تاريخًا عشوائيًا لديه فرصة واحدة من 365 ليصيب، وهي فرصة أفضل من الصفر الذي يحصل عليه إذا قال لا أعرف، ولهذا تتعلم النماذج أن التخمين أكثر فائدة من الاعتراف بالجهل.
ويرى الباحثون أن المشكلة الحقيقية تكمن في اختبارات التقييم الشائعة التي تركز على نسبة الإجابات الصحيحة فقط، فتمنح النموذج الذي يخمن درجة أعلى من النموذج الحذر، رغم أن الأول يرتكب أخطاء أكثر. ويقترحون تعديل هذه المعايير بحيث تعاقب الأخطاء الواثقة بشكل أكبر من عدم اليقين، وتمنح جزءًا من الدرجة للنموذج الذي يعبر عن شكه بطريقة مناسبة.
وتظهر خطورة الهلوسة بوضوح في المجال القانوني، إذ تكررت حالات قدم فيها محامون مذكرات تتضمن قضايا وسوابق قضائية مختلقة أنتجتها أدوات الذكاء الاصطناعي. ووفقًا لقاعدة البيانات التي يديرها الباحث داميان شارلوتان، استقر عدد القرارات القضائية المتعلقة بهذه الأخطاء عند نحو 350 إلى 400 قرار كل ثلاثة أشهر. وفي أبريل 2026 عاقبت المحكمة العليا في ولاية ألاباما الأمريكية محاميًا بسبب استشهادات مزيفة، واللافت أنه بعد تحذيره عاد واستشهد بقضايا غير موجودة في الجملة التالية مباشرة.
ويفسر خبراء هذا التكرار بما يعرف بالثقة الزائدة في الآلة، فالدراسات تشير إلى أن الناس يجدون إرشادات الذكاء الاصطناعي مقنعة بشكل غير عادي حتى عندما يعرفون أنها قد تخطئ. ولا يقتصر الأمر على المحاماة، بل يمتد إلى الصحافة والبرمجة والبحث العلمي والاستشارات، حيث يعتمد بعض المهنيين على مخرجات هذه الأدوات دون مراجعة كافية.
وتعمل الشركات على تقليل الهلوسة بطرق مختلفة، مثل ربط النماذج بمصادر بحث حديثة لتستند إجاباتها إلى وثائق فعلية، وتدريبها على الاعتراف بحدود معرفتها، وإضافة مراجع يمكن للمستخدم التحقق منها. لكن هذه الحلول تقلل المشكلة ولا تلغيها تمامًا، لأن طبيعة النماذج اللغوية نفسها تجعل احتمال الخطأ قائمًا دائمًا.
ولهذا تبقى أفضل حماية في يد المستخدم نفسه، من خلال التعامل مع إجابات الذكاء الاصطناعي كنقطة بداية وليس كحقيقة نهائية، والتحقق من الأرقام والأسماء والمراجع قبل استخدامها، خصوصًا في المجالات الحساسة مثل الصحة والقانون والمال. فالنموذج قد يبدو واثقًا تمامًا، لكن الثقة في طريقة الكلام لا تعني بالضرورة صحة المعلومة.
ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
