تخيل أنك سألت شخصًا واثقًا جدًا من نفسه عن كتاب لم يقرأه.
الشخص الصادق سيقول لك: لا أعرف. أما هذا فسيبدأ في الحديث بطلاقة عن فصوله وأفكاره، بنبرة هادئة ومقنعة تمامًا، دون أن يتوقف لحظة واحدة ليقول إنه غير متأكد.
وأنت لن تشك، لأن كل شيء في طريقة كلامه يوحي بأنه يعرف.
هذا بالضبط ما يحدث حين يهلوس نموذج الذكاء الاصطناعي.
ما هي الهلوسة؟
الهلوسة هي أن ينتج النموذج معلومة تبدو صحيحة تمامًا لكنها ليست كذلك: اسم كتاب لم يُنشر، تصريح لم يقله صاحبه، رقم لا مصدر له، أو مرجع علمي مخترع بعنوان ومؤلف وسنة نشر.
والمشكلة ليست في الخطأ نفسه. البشر يخطئون أيضًا. المشكلة أن النموذج يقدم المعلومة المخترعة بنفس النبرة الواثقة التي يقدم بها المعلومة الصحيحة، دون أي إشارة تميز بينهما.
لماذا تحدث؟
لأن النموذج لم يُصمَّم ليقول الحقيقة. صُمِّم ليكمل النص بطريقة معقولة.
حين تسأله، هو لا يبحث في قاعدة بيانات ثم ينقل لك الجواب. هو يحسب: ما الكلمة الأكثر احتمالًا بعد هذه الجملة؟ ثم التي بعدها، وهكذا.
وفي معظم الأحيان، الجملة الأكثر احتمالًا تكون أيضًا صحيحة، لأن النصوص التي تدرّب عليها كانت في غالبها صحيحة.
لكن حين لا يعرف، لا يوجد شيء داخله يوقفه. هو يواصل إنتاج ما يبدو معقولًا. والنتيجة تكون جملة مبنية بشكل سليم، بمصطلحات صحيحة، وبمحتوى مخترع.
متى تكثر؟
الهلوسة ليست عشوائية تمامًا. هناك مواضع يزيد فيها احتمالها بوضوح.
الأسئلة النادرة. كلما قلّ ما رآه النموذج عن موضوع، زاد اعتماده على التخمين. اسأله عن شخصية مغربية غير مشهورة، أو عن حدث محلي صغير، وستزيد فرص الاختراع.
طلب المصادر والأرقام. حين تطلب مرجعًا أو إحصائية، النموذج يعرف شكل المصدر: عنوان، مؤلف، جهة، سنة. فيبني واحدًا بهذا الشكل، حتى لو لم يكن موجودًا.
الأسئلة التي تفترض شيئًا غير صحيح. إذا سألته «لماذا قال فلان كذا؟» وهو لم يقلها أصلًا، فالنموذج غالبًا سيجيب على السؤال بدل أن يصحح فرضيته.
المواضيع الحديثة. معرفته تتوقف عند تاريخ معين. ما بعده لا يعرفه، وقد يخترع بدل أن يعترف.
هل يمكن إصلاحها؟
تُقلَّل، ولا تُلغى.
ربط النموذج بالبحث على الإنترنت يقلّل الاختراع لأنه يستند إلى نصوص حقيقية. وتقنيات الاسترجاع التي تُغذّيه بوثائق محددة تفعل الشيء نفسه. والنماذج الأحدث أقل هلوسة من سابقاتها.
لكن الهلوسة ليست عطبًا يُصلَح بترقية. هي نتيجة مباشرة لطريقة عمل هذه الأنظمة: التوقع الاحتمالي. وما دام النموذج يتوقع، سيتوقع أحيانًا خطأ.
كيف تحمي نفسك؟
القاعدة العملية بسيطة: كلما زادت كلفة الخطأ، زادت ضرورة التحقق.
إذا طلبت منه إعادة صياغة فقرة، الخطر ضعيف وستلاحظ الخطأ بنفسك. أما إذا سألته عن جرعة دواء، أو مادة قانونية، أو رقم ستضعه في تقرير، فالتحقق ليس اختياريًا.
وهناك عادة صغيرة مفيدة: اطلب منه المصدر دائمًا. لن يمنع هذا الاختراع، لكنه يعطيك شيئًا ملموسًا تتحقق منه بدل أن تصدق جملة معلقة في الهواء.
وحين يعطيك رابطًا، افتحه. النموذج قادر تمامًا على توليد رابط بشكل سليم لصفحة غير موجودة.
الخلاصة
الهلوسة ليست كذبًا، لأن الكذب يحتاج نية. وليست جهلًا، لأن الجهل يحتاج وعيًا بالفرق بين ما نعرف وما لا نعرف.
هي ببساطة ما يحدث حين تطلب إجابة من نظام لا يملك أي إحساس بالحقيقة، ومصمَّم ليكمل الجملة مهما كان.
ولهذا يبقى السؤال الأهم في تعاملك مع هذه الأدوات: ليس هل تجيبني، بل هل أستطيع التحقق مما أجابت به؟