هلوسة الذكاء الاصطناعي.. لماذا يكذب المساعد الذكي بثقة وكيف تكشفه؟

تقرير تكتبه ـ أمل علوي:

تسأل المساعد الذكي عن كتاب، فيذكر لك مؤلفه وسنة نشره وملخص فصوله بلغة واثقة، ثم تكتشف أن الكتاب لم يُكتب أصلًا. هذه الظاهرة تُعرف باسم «هلوسة الذكاء الاصطناعي»، وتعني أن يقدم النموذج معلومات خاطئة أو مختلقة بالكامل في صورة تبدو صحيحة ومقنعة. ورغم التحسن الكبير في النماذج خلال السنوات الأخيرة، ما زالت الهلوسة من أكبر العقبات أمام الاعتماد على هذه الأدوات في المجالات الحساسة كالقانون والطب والبحث العلمي. وفي هذا التقرير نشرح أنواع الهلوسة وأسبابها، ونعرض ما كشفته أحدث الأرقام عن آثارها، وكيف يمكن للمستخدم أن يحمي نفسه منها.

استُعير مصطلح الهلوسة من علم النفس، حيث يعني رؤية أو سماع أشياء غير موجودة، لكن الآلة بالطبع لا «ترى» شيئًا، فالتسمية مجازية. ويميز الباحثون عادة بين نوعين رئيسيين؛ الأول هو الهلوسة الواقعية، حين يخترع النموذج حقائق لا وجود لها مثل تاريخ حدث أو اسم باحث أو رقم إحصائي، والثاني هو عدم الأمانة للمصدر، حين يُطلب منه تلخيص مستند أو الإجابة منه فيضيف معلومات لا يتضمنها المستند أو يحرف ما جاء فيه. وهناك أيضًا أخطاء في الاستدلال، حين تكون المعلومات صحيحة لكن النموذج يستنتج منها نتيجة خاطئة بثقة كاملة.

ولفهم سبب الهلوسة يجب أن نتذكر كيف تعمل نماذج اللغة الكبيرة؛ فهي لا تبحث في قاعدة بيانات عن الإجابة، بل تتنبأ بالكلمة التالية الأكثر احتمالًا بناء على الأنماط التي تعلمتها من كميات هائلة من النصوص. وعندما يُسأل النموذج عن معلومة نادرة أو دقيقة لم تتكرر كثيرًا في بيانات تدريبه، فإنه لا يملك دائمًا وسيلة داخلية لمعرفة أنه لا يعرف، فيولد إجابة تشبه في شكلها الإجابات الصحيحة. ولهذا تكثر الهلوسة في المراجع والاستشهادات وأرقام القضايا والأسماء غير المشهورة، لأن النموذج يعرف «شكل» المرجع العلمي جيدًا لكنه قد لا يحفظ المرجع نفسه.

وقد أضافت ورقة بحثية نشرتها OpenAI في سبتمبر 2025 تفسيرًا مهمًا؛ إذ رأت أن أساليب تدريب النماذج وتقييمها تكافئ التخمين أكثر مما تكافئ الاعتراف بعدم المعرفة، تمامًا مثل الطالب في امتحان الاختيار من متعدد الذي يكسب درجات أكثر إذا خمّن بدلًا من ترك السؤال فارغًا. وخلص الباحثون إلى أن تعديل طرق التقييم بحيث يُعاقب الخطأ الواثق أكثر من الامتناع عن الإجابة يمكن أن يقلل الهلوسة بشكل ملموس.

أما الآثار العملية فقد ظهرت بوضوح في قاعات المحاكم؛ فقاعدة البيانات التي يديرها الباحث داميان شارلوتان في كلية HEC باريس لرصد القضايا التي قُدمت فيها مواد مختلقة بالذكاء الاصطناعي تجاوزت ألفي قضية حول العالم بحلول سبتمبر 2026، بعد أن كانت نحو مئتي قضية فقط في منتصف 2025، وفق ما تنقله تقارير متخصصة. وفرضت المحاكم الأمريكية عقوبات مالية على محامين قدموا مذكرات تضمنت أحكامًا قضائية لا وجود لها، وبلغت إحدى هذه العقوبات في ولاية أوريجون نحو 110 آلاف دولار. واللافت أن أدوات قانونية متخصصة لم تسلم من المشكلة، إذ وجدت دراسة لجامعة ستانفورد أن أدوات بحث قانوني تجارية تعمل بالذكاء الاصطناعي أخطأت في نسبة معتبرة من الإجابات رغم تسويقها بوصفها أدوات موثوقة.

ولم يكن البحث العلمي بعيدًا عن هذه الظاهرة؛ ففي يناير 2026 فحصت شركة GPTZero أكثر من أربعة آلاف ورقة بحثية قُبلت في مؤتمر NeurIPS 2025، أحد أهم مؤتمرات تعلم الآلة في العالم، وعثرت على مراجع مختلقة في ثلاث وخمسين ورقة على الأقل، رغم أن كل ورقة راجعها ثلاثة محكمين أو أكثر. ويكشف ذلك أن الهلوسة لا تخدع المستخدمين العاديين فقط، بل قد تتسلل إلى أعمال المتخصصين حين يثقون في المخرجات دون تحقق.

وتعمل الشركات والباحثون على عدة حلول للحد من المشكلة، أبرزها تقنية «التوليد المعزز بالاسترجاع»، التي تجعل النموذج يبحث أولًا في مصادر موثوقة أو في الإنترنت ثم يبني إجابته عليها ويشير إلى مصادرها، بدلًا من الاعتماد على ذاكرته فقط. كما تُدرَّب النماذج الحديثة على قول «لا أعرف» حين تفتقر إلى المعلومة، وتُستخدم أنظمة تحقق آلية تراجع الإجابات قبل عرضها. ومع ذلك يتفق أغلب الخبراء على أن الهلوسة لن تختفي تمامًا ما دامت النماذج تعمل بمنطق التنبؤ الاحتمالي، وأن الهدف الواقعي هو تقليلها وجعلها أسهل في الاكتشاف.

وبالنسبة للمستخدم، تبقى القاعدة الذهبية أن تتعامل مع إجابات المساعد الذكي كمسودة أولية لا كحقيقة نهائية، خاصة في الأمور المهمة. ومن المفيد أن تطلب من النموذج ذكر مصادره ثم تفتح هذه المصادر بنفسك، وأن تتحقق من الأرقام والأسماء والتواريخ والاستشهادات من جهات رسمية، وأن تنتبه إلى أن الأسلوب الواثق لا يعني بالضرورة أن المعلومة صحيحة. كما يساعد تزويد النموذج بالمستندات التي تريد الإجابة منها بدلًا من سؤاله بشكل عام، ويُفضل ألا يُستخدم وحده في القرارات الطبية أو القانونية أو المالية دون مراجعة متخصص.

إن هلوسة الذكاء الاصطناعي تذكير مستمر بأن هذه الأدوات، مهما بلغت براعتها في الكتابة والتحليل، لا تمتلك فهمًا للحقيقة بالمعنى البشري. وبين نماذج تتحسن عامًا بعد عام ومستخدمين يتعلمون كيف يتحققون مما يقرؤون، يمكن الاستفادة من قوة الذكاء الاصطناعي مع تجنب فخاخه، شرط أن يبقى العقل البشري هو صاحب الكلمة الأخيرة.

ــــــــــــــــــــ

هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي