لماذا تخطئ النماذج؟ ظاهرة الهلوسة
ما هي الهلوسة؟ ولماذا يجب أن نهتم بها؟
لماذا يجب أن نقلق من "الهلوسة"؟
تخيّل أنك تسأل صديقاً خبيراً في القانون عن مادة في نظام العمل، فيجيبك بثقة تامة ويفصّل لك المادة رقم كذا ونصها حرفياً. تذهب أنت لتطبق المعلومة، فتكتشف أن هذه المادة غير موجودة أصلاً في النظام. هذا بالضبط ما يحدث مع النماذج اللغوية الكبيرة، ونسميه "الهلوسة" (Hallucination).
الهلوسة ليست خطأً مطبعياً أو سهواً بسيطاً. هي أن ينتج النموذج جملة كاملة، صحيحة نحوياً، تبدو منطقية تماماً، لكنها خاطئة من حيث المضمون. والأخطر أنها تُقال بثقة عالية، وكأن النموذج متأكد تماماً من صحة ما يقوله. لهذا السبب، إذا كنت ستستخدم الذكاء الاصطناعي في أي شيء مهم — دراسة، عمل، بحث، أو حتى قرار شخصي — فإن فهم هذه الظاهرة هو أول خطوة لحمايتك من التضليل.
في هذا الدرس، سنفهم لماذا يحدث هذا، وكيف تكتشفه بنفسك، وكيف تتعامل معه عملياً.
ما هي الهلوسة بالضبط؟
الهلوسة هي معلومة خاطئة أو مختلقة يقدمها النموذج بثقة، وكأنها حقيقة مسلّم بها. ليست مجرد "إجابة خاطئة" — فالإجابة الخاطئة قد تكون قريبة من الصواب أو ناقصة. الهلوسة هي اختلاق كامل لتفاصيل غير موجودة: أسماء كتب لم تُكتب، أرقام إحصائيات لم تُنشر، اقتباسات لم تُقل، أو أحداث تاريخية لم تحدث.
لفهم السبب الجذري، يجب أن نتذكر شيئاً أساسياً عن طبيعة هذه النماذج: النموذج اللغوي الكبير (LLM) هو آلة توقع للكلمة التالية. هو لا يبحث في قاعدة بيانات عن إجابة صحيحة، بل يحسب الاحتمالات: ما هي الكلمة الأكثر ترجيحاً أن تأتي بعد الكلمات السابقة؟ هذا يعني أنه عندما يسأله أحدهم عن "نظرية اقتصادية نادرة"، فإنه لا يبحث عن تعريفها في مرجع، بل يبني جملة من الكلمات التي يرجّح أن تكون مرتبطة بهذا الموضوع بناءً على ما رآه في بيانات التدريب.
هناك ثلاثة أسباب رئيسية تجعل النموذج "يهلوس":
- نقص المعرفة: النموذج لا يعرف كل شيء. إذا سُئل عن موضوع نادر جداً أو جديد لم يُذكَر كثيراً في بيانات تدريبه، فإنه لا يقول "لا أعرف" — بل يبني إجابة من أقرب ما يعرفه، وقد يملأ الفراغات بتفاصيل مختلقة.
- البيانات المحدودة أو المتحيزة: النموذج تعلّم من نصوص متاحة على الإنترنت حتى تاريخ معين. إذا كانت المعلومات المتاحة عن موضوع ما قليلة أو متضاربة، فإن النموذج قد ينتج إجابة "متوسطة" تجمع أجزاء متناقضة، أو يكرر خطأ شائعاً موجوداً في المصادر الأصلية.
- التركيب الاحتمالي: حتى لو كان النموذج يعرف الإجابة الصحيحة، فإن آلية توليد الكلمات تعتمد على الاحتمالات. في بعض الأحيان، يختار النموذج مساراً لغوياً أقل احتمالاً لكنه يبدو مقنعاً، فينتج جملة صحيحة لغوياً لكنها خاطئة واقعياً.
مثال عملي حقيقي: كيف تكتشف الهلوسة بنفسك
لنقم بتجربة عملية الآن. سأستخدم نموذجاً مجانياً متاحاً للجميع، مثل ChatGPT المجاني (GPT-3.5) أو Google Gemini المجاني أو Claude المجاني. أي نموذج مجاني سيفي بالغرض.
الخطوة الأولى: افتح المتصفح واذهب إلى chat.openai.com أو gemini.google.com.
الخطوة الثانية: اكتب هذا السؤال حرفياً (اختر موضوعاً نادراً لا يعرفه معظم الناس):
ما هو اسم أول كتاب طُبع في تاريخ إثيوبيا الحديثة، ومن هو مؤلفه، وفي أي عام صدر؟الخطوة الثالثة: ستحصل على إجابة تبدو مقنعة. اكتب الإجابة التي حصلت عليها في مفكرة.
الخطوة الرابعة: الآن افتح محرك بحث Google واكتب نفس السؤال، أو ابحث عن "تاريخ الطباعة في إثيوبيا". قارن ما وجدته في نتائج البحث مع إجابة النموذج.
في الغالب، ستجد أن النموذج أعطاك اسم كتاب ومؤلفاً وسنة نشر — لكن البحث في المصادر الموثوقة (مثل الموسوعات أو مواقع الجامعات) قد لا يؤكد هذه التفاصيل، أو قد يجد أن المعلومات مختلفة تماماً. هذا هو الاختلاق بعينه.
لاحظ أن النموذج لم يقل "لا أعرف". لقد أعطاك إجابة كاملة ومفصلة. هذه هي الهلوسة: ثقة كاملة في معلومة مختلقة.
لماذا لا يقول النموذج "لا أعرف"؟
هذا سؤال ذكي. السبب يعود إلى طريقة التدريب. النموذج يُدرَّب على ملايين النصوص، ويُحسَّن لاحقاً عبر ما يسمى "التعلم المعزز من التقييم البشري" (RLHF). في هذه المرحلة، يفضّل المدرّبون البشريون الإجابات الطويلة والمفصلة على الإجابات القصيرة مثل "لا أعرف". لذلك، تعلم النموذج ضمنياً أن إعطاء إجابة مفصلة — حتى لو كانت خاطئة — يحصل على تقييم أفضل من الاعتراف بالجهل.
هذا ليس خطأً في النموذج وحده، بل هو نتيجة لطريقة تحسينه. النموذج يحاول إرضاء المستخدم، والمستخدم (في بيانات التدريب) كان يفضّل الإجابات الطويلة. النتيجة: نموذج يفضل الاختلاق على الاعتراف بالجهل.
كيف تحمي نفسك عملياً؟
القاعدة الذهبية: النموذج اللغوي أداة لغوية، وليس موسوعة حقائق. استخدمه لصياغة الأفكار، وتلخيص النصوص، وتوليد مسودات، وتحليل النصوص التي تعطيه إياها. لكن عندما تحتاج إلى حقيقة دقيقة — رقم، تاريخ، اقتباس، مادة قانونية، نتيجة دراسة — يجب أن تتحقق منها دائماً بمصدر خارجي.
هناك أيضاً تقنية عملية تسمى "الاستدعاء المعزز" (RAG) — وهي أن تزوّد النموذج بنص موثوق وتطلب منه الإجابة بناءً على هذا النص فقط. لكن هذه التقنية تتطلب أدوات متقدمة، وسنتعلمها في دروس لاحقة. للمبتدئ، القاعدة بسيطة: تحقق دائماً.
نصيحة الخبراء
عندما تسأل نموذجاً لغوياً عن معلومة تحتاج إلى دقة، اطلب منه صراحةً أن يحدد درجة ثقته في إجابته، أو أن يذكر "المصادر المحتملة" التي بنى عليها إجابته. ثم ابحث عن تلك المصادر بنفسك. إذا لم يستطع النموذج ذكر مصدر محدد، فهذا مؤشر قوي على أن الإجابة قد تكون مهلوسة. أيضاً، جرّب أن تسأل السؤال نفسه بطريقة مختلفة: "هل أنت متأكد من هذه المعلومة؟ هل يمكن أن تكون مخطئاً؟" في كثير من الحالات، سيعترف النموذج بعدم اليقين إذا ضغطت عليه — لكنه لن يفعل ذلك من تلقاء نفسه.
مثال إضافي: الهلوسة في الاستشهادات
من أكثر أنواع الهلوسة شيوعاً وخطورة: اختلاق المراجع والاستشهادات. إذا طلبت من نموذج لغوي أن يكتب فقرة بحثية مع مراجع، فسيقدم لك قائمة مراجع تبدو حقيقية تماماً — بأسماء مؤلفين، وعناوين كتب، وسنوات نشر، وأسماء دوريات. لكن إذا بحثت عن هذه المراجع، ستجد أن بعضها غير موجود أصلاً.
جرّب هذا السؤال على أي نموذج مجاني:
اكتب فقرة عن فوائد القراءة، ثم أضف ثلاثة مراجع أكاديمية حقيقية تدعم هذه الفقرة. اذكر اسم المجلة ورقم الصفحة.ثم ابحث عن هذه المراجع في Google Scholar (scholar.google.com). ستجد أن واحداً أو أكثر من المراجع غير موجود. هذا ليس خطأً عشوائياً — النموذج "تعلّم" شكل المراجع الأكاديمية، لكنه لا يملك قاعدة بيانات بالمراجع الحقيقية، فيبني مراجع تبدو صحيحة الشكل لكنها خاطئة المضمون.
الأخطاء الشائعة التي يقع فيها المبتدئون
الأخطاء الشائعة
- الاعتقاد أن النموذج "يكذب" عمداً: النموذج لا يملك نية أو وعياً. هو لا يختار أن يكذب، بل ينتج ما هو أكثر احتمالاً لغوياً. لا تتعامل معه ككائن مخادع، بل كأداة غير دقيقة بطبيعتها.
- الاعتقاد أن النموذج الأحدث لا يهلوس: النماذج الأحدث (مثل GPT-4 أو Claude 3) تقلل الهلوسة لكنها لا تقضي عليها نهائياً. حتى أفضل النماذج المتاحة اليوم تنتج معلومات خاطئة في بعض المواضيع النادرة أو الحديثة.
- الاعتماد على النموذج في المعلومات الحديثة: معظم النماذج المجانية لديها تاريخ قطع (Cutoff Date) — أي أنها لا تعرف الأحداث بعد تاريخ معين. إذا سألتها عن خبر اليوم، فستختلق إجابة. تحقق دائماً من تاريخ قطع النموذج.
- عدم التحقق من الأرقام: الأرقام هي أكثر ما يهلوس فيه النموذج. إذا قال "وفقاً لدراسة عام 2022، 78% من الناس..." فاعتبر هذا رقماً مشكوكاً فيه حتى تجد الدراسة الفعلية.
الخطوات العملية للتحقق من أي إجابة
إليك بروتوكولاً بسيطاً من ثلاث خطوات، طبّقه مع أي معلومة مهمة:
- افصل المعلومة عن الصياغة: خذ الإجابة التي أعطاك النموذج، واستخرج منها الحقائق القابلة للتحقق: الأرقام، الأسماء، التواريخ، أسماء الأماكن.
- ابحث عن كل حقيقة على حدة: اكتب في محرك البحث (Google أو Bing) الحقيقة كما هي، بين علامتي اقتباس "..." للبحث عن النص الحرفي. إذا لم تجد أي مصدر يطابق، فهذه هلوسة شبه مؤكدة.
- ابحث عن مصدرين مستقلين: لا تكتفِ بمصدر واحد. إذا وجدت معلومة في موقع واحد فقط، فقد تكون معلومة خاطئة منتشرة. ابحث عن تأكيد من مصدر ثانٍ مستقل.
هذه الخطوات تستغرق أقل من دقيقتين، لكنها تحميك من كارثة محتملة — خاصة إذا كنت تستخدم المعلومة في قرار مهني أو أكاديمي.
متى يمكنك الوثوق بالنموذج؟
ليس كل ما ينتجه النموذج هلوسة. في الواقع، النموذج دقيق جداً في مجالات معينة:
- المعلومات العامة الشائعة: من هو مؤسس مايكروسوفت؟ ما عاصمة فرنسا؟ هذه معلومات موجودة بكثرة في بيانات التدريب، والنموذج يجيب عنها بدقة عالية.
- إعادة صياغة النصوص: إذا أعطيته نصاً وطلبت منه تلخيصه أو إعادة صياغته، فهو ممتاز في هذا — لأنه يعمل على نص موجود أمامه، لا على ذاكرة.
- توليد الأفكار والمسودات: إذا طلبت منه كتابة بريد إلكتروني أو مسودة مقال، فأنت لا تبحث عن حقيقة، بل عن صياغة. هنا الهلوسة ليست مشكلة.
- البرمجة: النماذج جيدة جداً في كتابة أكواد برمجية شائعة، لأن الأكواد الصحيحة موجودة بكثرة في بيانات التدريب. لكن حتى هنا، يجب اختبار الكود قبل استخدامه.
القاعدة العامة: كلما كانت المعلومة أكثر تحديداً وندرة، زاد احتمال الهلوسة. المعلومات العامة الشائعة آمنة نسبياً. المعلومات المتخصصة النادرة — مثل تفاصيل قانونية دقيقة، أو أحداث تاريخية غير مشهورة، أو نتائج دراسات حديثة — هي أرض خصبة للهلوسة.
مهمة تطبيقية (أقل من 15 دقيقة)
الآن دورك. أكمل هذه المهمة لتتأكد أنك فهمت الظاهرة عملياً:
- افتح أي نموذج لغوي مجاني (ChatGPT المجاني، Gemini، أو Claude).
- اسأله السؤال التالي:
ما هو اسم أقدم جامعة في العالم العربي، وفي أي عام تأسست بالضبط؟ - اكتب الإجابة التي حصلت عليها.
- افتح محرك بحث Google وابحث عن "أقدم جامعة في العالم العربي".
- قارن بين الإجابتين. هل تطابقتا؟ هل كانت إجابة النموذج دقيقة أم أنها أضافت تفاصيل غير موجودة في المصادر؟
- كرر التجربة مع سؤال آخر من اختيارك — لكن اختر موضوعاً نادراً جداً (مثل: "ما هو اسم أول فيلم رسوم متحركة أنتج في إندونيسيا؟").
الهدف ليس "القبض على النموذج وهو يخطئ"، بل أن تبني لديك عادة التحقق. بعد هذه التجربة، ستنظر إلى أي إجابة من نموذج لغوي بعين ناقدة — وهذا هو بالضبط ما يفعله المحترفون.
في الدرس القادم، سنتعلم كيف نستخدم النماذج اللغوية بذكاء لتقليل الهلوسة — من خلال صياغة الأسئلة بطريقة أفضل، وتزويد النموذج بالسياق، وتعلم متى نطلب منه "البحث" بدلاً من "التذكر".
جاري تحميل التقييمات...