الجزء الأول: شرح كامل
كشف هلوسة النماذج
تعلّم 4 إشارات تكشف أنّ النموذج اختلق معلومة بدلاً من ذكر حقيقة موثّقة.
الهدف
تجنّب نشر أو الاعتماد على معلومات اختلقها النموذج وقدّمها بثقة.
الخطوات
-
1
الإشارة 1: أرقام دقيقة جدًا بلا مصدر («37.4% من المستهلكين…») — اطلب المصدر.1 دقيقة
-
2
الإشارة 2: أسماء أبحاث/كتب لا تجدها على Google Scholar — احذف وتحقّق.2 دقائق
-
3
الإشارة 3: اقتباسات مباشرة بدون رقم صفحة — اطلب الصفحة، النموذج عادة يفشل.1 دقيقة
-
4
الإشارة 4: ثقة عالية في موضوع حديث (بعد cutoff) — النموذج لا يعرف الحاضر.1 دقيقة
-
5
طبّق قاعدة: «أيّ ادّعاء بدون مصدر قابل للتحقّق = صفر ثقة».1 دقيقة
النتيجة المتوقّعة
فوريًا
تكتشف هلوسة واحدة على الأقل في كلّ جلسة مع نموذج لغوي.
خلال أسبوع
تتوقّف عن إعادة نشر معلومات «جميلة لكنها مختلقة».
علامة النجاح
البحث عن المصدر يفشل = الادّعاء مختلق.
إن لم تنجح
إن صدّقت الادّعاء لأنّه يطابق ما تريد سماعه، فهذا «انحياز التأكيد» وليس خطأ النموذج.
سؤال التأمّل
متى آخر مرّة شاركت معلومة من ChatGPT دون التحقّق؟
المرجع العلمي
المدرسة: AI Literacy / Hallucination Research
الروّاد: Ji et al. · Stanford HAI (2023)
دراسة Ji 2023 الشاملة عن الهلوسات في نماذج اللغة قسّمتها إلى factual و faithfulness errors، وأبرزت أنّ الثقة العالية ≠ صدق.
- Ji, Z. et al. (2023). Survey of Hallucination in NLG. ACM Computing Surveys.
- Stanford HAI (2024). AI Index Report.
الكلمات المفتاحية
طبّق الآن
كشف هلوسة النماذج: تطبيق تفاعلي مصمَّم لهذا التمرين. مدّته 12 دقيقة. كلّ widget يحفظ مدخلاتك تلقائيًّا.