تخيّل أنك سألت شخصًا واثقًا جدًا من نفسه عن كتاب لم يقرأه.
الشخص الصادق سيقول لك: لا أعرف. لكن شخصًا آخر قد يبدأ في وصف الفصول والأفكار والمؤلف بنبرة هادئة ومقنعة، رغم أن ما يقوله غير صحيح.
هذا قريب مما نسميه الهلوسة في الذكاء الاصطناعي: إجابة تبدو سليمة ومقنعة، لكنها خاطئة أو غير مدعومة بمصدر موثوق.
ما هي الهلوسة في الذكاء الاصطناعي؟
الهلوسة هي أن يولّد نموذج الذكاء الاصطناعي معلومة غير صحيحة أو غير مستندة إلى الأدلة المتاحة، ثم يعرضها في صياغة تبدو طبيعية وواثقة. قد تكون اسم كتاب غير موجود، أو رقمًا بلا مصدر، أو اقتباسًا لم يقله صاحبه، أو مرجعًا علميًا بعنوان ومؤلف وتاريخ تبدو كلها حقيقية.
لا يعني هذا أن كل إجابة غير دقيقة هي اختراع كامل. قد يخلط النموذج بين حقيقتين، أو يغيّر تاريخًا، أو ينسب معلومة صحيحة إلى المصدر الخطأ. لذلك فالمشكلة لا تتعلق بشكل الجملة، بل بعلاقتها بالواقع أو بالمصادر التي يفترض أن تستند إليها.
لماذا تحدث الهلوسة؟
تتعلم النماذج اللغوية أن تتوقع الوحدات النصية التالية اعتمادًا على الأنماط الموجودة في بيانات التدريب. هذه الآلية تجعلها ممتازة في إنتاج لغة مترابطة، لكنها لا تمنح كل جملة ختمًا داخليًا يضمن صحتها.
خلال التدريب، يرى النموذج أمثلة كثيرة على اللغة، لكنه لا يتلقى دائمًا علامة واضحة تقول إن كل ادعاء صحيح أو خاطئ. وعندما تكون المعلومة نادرة أو غامضة أو غير متاحة، قد ينتج استمرارًا لغويًا معقولًا بدل الاعتراف بعدم اليقين.
كما تشير أبحاث OpenAI، قد تزيد بعض طرق التقييم المشكلة عندما تكافئ الإجابة الصحيحة ولا تعاقب التخمين الواثق بما يكفي. في هذه الحالة يصبح تقديم إجابة تخمينية أفضل للنموذج من التوقف وقول «لا أعرف»، حتى لو كانت الإجابة معرضة للخطأ.
متى يزيد احتمالها؟
لا توجد قاعدة تسمح بالتنبؤ بكل هلوسة، لكن الخطر يرتفع في حالات معروفة:
المعلومات النادرة أو المحلية: عندما تسأل عن شخصية غير معروفة، أو حدث صغير، أو معلومة لا تتكرر كثيرًا في المصادر، تقل الأنماط التي يمكن للنموذج الاعتماد عليها.
المراجع والأرقام الدقيقة: يستطيع النموذج تقليد شكل المرجع أو الإحصائية، ولذلك قد يولّد عنوانًا ومؤلفًا ورابطًا تبدو صحيحة وهي غير موجودة.
الأسئلة المبنية على فرضية خاطئة: إذا سألت «لماذا قال فلان كذا؟» فقد يحاول النموذج تفسير العبارة بدل التحقق أولًا من أن الشخص قالها بالفعل.
الأحداث الحديثة أو المعلومات المتغيرة: قد لا يملك النموذج معلومات محدثة، وقد تكون أداة البحث غير متاحة أو لم تُستخدم. وجود اتصال بالإنترنت لا يعني أن كل جواب تحقّق من أحدث المصادر.
السياق الناقص أو المتناقض: عندما تكون التعليمات مبهمة أو الوثائق غير مكتملة، قد يملأ النموذج الفراغات باستنتاجات غير مدعومة.
هل البحث والمصادر يمنعان الهلوسة؟
يمكن تقليل الهلوسة، لكن لا يمكن ضمان اختفائها في جميع الحالات.
البحث على الويب، والاسترجاع المعزّز بالتوليد، وتزويد النموذج بوثائق محددة، كلها تساعده على الاستناد إلى معلومات خارجية. لكن النموذج قد يسيء قراءة المصدر، أو يربط بين أجزاء لا علاقة بينها، أو يذكر مصدرًا لا يدعم ادعاءه فعلًا.
حتى النماذج الأكثر تطورًا قد تنتج أخطاء واثقة. لذلك لا يكفي ظهور رابط أسفل الإجابة؛ يجب فتح الرابط والتأكد من أن الصفحة موجودة، وأنها موثوقة، وأنها تقول فعلًا ما نسبه النموذج إليها.
كيف تقلّل الخطر؟
ابدأ بقاعدة عملية: كلما ارتفعت كلفة الخطأ، ارتفعت ضرورة التحقق البشري.
- اطلب من النموذج أن يميّز بوضوح بين المعلومة المؤكدة والاستنتاج.
- اطلب مصادر مباشرة، ثم افتحها واقرأ الجزء الذي يدعم الادعاء.
- قارن المعلومات المهمة بمصدر رسمي أو مصدرين مستقلين.
- قسّم الأسئلة المعقدة إلى خطوات، وصحّح الفرضيات الخاطئة قبل طلب الجواب.
- لا تعتمد على النموذج وحده في القرارات الطبية أو القانونية أو المالية أو الأمنية.
- عند تحليل ملف، اطلب منه ذكر الصفحة أو الفقرة التي استند إليها.
طلب المصادر لا يمنع الهلوسة وحده، لأن النموذج قد يخترع المصدر أيضًا. قيمة المصدر تبدأ بعد التحقق منه، لا بمجرد ظهوره داخل الإجابة.
هل الهلوسة تعني أن النموذج يكذب؟
وصف الإجابة بأنها «كذب» قد يكون مضللًا، لأن الكذب يفترض نية ووعيًا بالحقيقة. النموذج لا يملك دليلًا مضمونًا على نية بشرية، بل يولّد نصًا انطلاقًا من أنماط واحتمالات وتعليمات وسياق متاح.
لهذا تستخدم جهات مثل NIST أيضًا تعبيرات مثل «الاختلاق» أو إنتاج محتوى خاطئ بثقة، مع التنبيه إلى أن كلمة الهلوسة قد تدفعنا إلى إضفاء صفات بشرية على النظام.
الخلاصة
الهلوسة في الذكاء الاصطناعي هي إجابة خاطئة أو غير مدعومة تظهر في صياغة مقنعة. تحدث لأسباب ترتبط ببيانات التدريب، وطريقة التوليد، ونقص المعلومات، والسياق، وأساليب التقييم.
يمكن للبحث والاسترجاع وتحسين النماذج أن يقلّل المشكلة، لكنه لا يحوّل الإجابات إلى حقائق مضمونة. السؤال الأهم ليس فقط: «هل أعطاني النموذج جوابًا؟» بل: هل أستطيع التحقق من هذا الجواب من مصدر موثوق؟