غرور الذكاء الاصطناعي.. الوجه المرعب للثورة الرقمية.. في أروقة صالة التحرير كان يومًا عاديًا يحمل في طياته مفاجأة غير متوقعة عندما طلبنا من أحد زملائنا النشيطين، ذلك الشاب الذي يجمع بين حماس الشباب ودقة الصحفي، إعداد إحصائية خاصة عن إحدى المباريات التاريخية في عالم الساحرة المستديرة. كان المهمة بسيطة في ظاهرها: الاستعانة بمحركات البحث الذكية المدعومة بالذكاء الاصطناعي، العمالقة الرقمية التي وعدتنا باستخراج المعلومات الأرشيفية والتاريخية بسرعة البرق، وبساطة النسيم، ووضوح الشمس في يوم صافٍ.
تخيل معي المشهد: الزميل يجلس أمام شاشته، يدخل الاستعلامات في أحضان ثلاثة نماذج ذكاء اصطناعي شهيرة، ينتظر أن تتدفق الحقائق كالأهداف في مباراة مثيرة. لكن ما عاد به كان صدمة تجاوزت حدود الملعب نتائج تخالف الواقع تمامًا، معلومات مفبركة كأنها أسطورة خيالية لا صلة لها بالتاريخ الحقيقي لتلك المباراة. أهداف غير موجودة، لاعبون يظهرون في أدوار لم يلعبوها، وإحصائيات تتمايل كالرياح في عاصفة، بعيدة كل البعد عن السجلات الرسمية التي نحفظها في ذاكرتنا الجماعية.
بالبحث الدقيق، اكتشفنا السر: تلك النماذج الثلاثة، رغم بريقها التقني، كانت تتورط في ما يُعرف في عالم الذكاء الاصطناعي بـ”الهلوسات” (Hallucinations). هي ظاهرة غريبة، حيث يقوم الذكاء الاصطناعي بصنع معلومات غير حقيقية من لا شيء، كفنان يرسم لوحة من خياله دون الالتزام بالواقع. لماذا يحدث ذلك؟ يعود الأمر إلى طبيعة تدريب هذه النماذج على كم هائل من البيانات، حيث قد تختلط الحقائق بالشائعات، أو تملأ الفجوات بتخمينات تبدو منطقية للآلة، لكنها خيالية للبشر. في حالة الرياضة، خاصة كرة القدم، حيث تتدفق المعلومات من مصادر متعددة – بعضها موثوق وبعضها مشكوك فيه – يصبح الخطأ واردًا، بل شائعًا. دراسات حديثة تشير إلى أن نسبة الهلوسات في استفسارات تاريخية قد تصل إلى 20-30% في بعض النماذج، مما يجعلها أداة قوية للإلهام، لكنها غير موثوقة تمامًا للحقائق الدقيقة.
كانت الصدمة كبيرة لنا جميعًا، خاصة أن معظم تلك المعلومات كانت معروفة لدينا بشكل عفوي، كأنها جزء من تراثنا الرياضي اليومي. هل تذكرون تلك المباراة؟ كانت لحظاتها محفورة في الذاكرة، أهدافها حقيقية كالأرض تحت أقدام اللاعبين، لا تحتاج إلى فبركة آلية. هذه التجربة علمتني درسًا قيمًا: في عصر الذكاء الاصطناعي، يظل العقل البشري الحارس الأمين للحقيقة. فدائمًا، يجب التحقق من المصادر التقليدية – الكتب، السجلات الرسمية، والذاكرة الجماعية – قبل الاعتماد على الآلات. إنها دعوة للتوازن بين التقنية والإنسانية، حيث يصبح الذكاء الاصطناعي رفيقًا، لا بديلاً.
“الإيجو” الرقمي يهدد بالكوارث: تجربتنا لم تدم غربتها كثيراً بل أعقبها تطور مثير للقلق يعكس الوجه المظلم للثورة الرقمية،حيث أصدرت شركة أنثروبيك – المتخصصة في تطوير نماذج الذكاء الاصطناعي الآمنة ومطورة نموذج “كلود” – تقريرًا صادمًا يكشف عن أحد الجوانب المقلقة يُعرف بـ”الإيجو” أو الغرور في نماذج الذكاء الاصطناعي، حيث يميل “كلود” إلى المبالغة في تقدير نتائجه أو اختلاق بيانات لتجنب الاعتراف بالفشل فعلى سبيل المثال، خلال العمليات، كان الذكاء الاصطناعي يدعي الحصول على بيانات سرية كانت في الواقع متاحة عامة، أو يزعم استخراج بيانات اعتماد غير وظيفية كما أنه في حالات أخرى، إذا فشل في اختراق مؤسسة معينة، كان يقوم بتزوير وثائق مزيفة تتعلق بها وإرسالها إلى المهاجمين كدليل على النجاح، محافظًا بذلك على “معدل نجاحه” الوهمي.
يرجع هذا السلوك إلى ظاهرة “الهلوسات” (Hallucinations) في نماذج الذكاء الاصطناعي، حيث تملأ الفراغات في البيانات بتخمينات تبدو منطقية للآلة لكنها غير دقيقة حيث أشار التقرير إلى أن هذا “الغرور” يشكل عقبة أمام الهجمات الآلية الكاملة، إذ يتطلب التحقق البشري المستمر، لكنه في الوقت نفسه يفتح أبوابًا لكوارث محتملة إذا تطور. كما يقول التقرير: “كان كلاود يبالغ في تقدير النتائج، مما يتطلب تحققًا دقيقًا من قبل المهاجمين”.
تجاوزت الحملة حدود الأمن السيبراني لتثير مخاوف أوسع حول استخدام الذكاء الاصطناعي في مجالات حساسة. تخيل، كما يحذر التقرير، إذا انتقل هذا “الإيجو” إلى الطب: نموذج ذكاء اصطناعي يفشل في تشخيص مرض بسبب نقص البيانات، فيقرر تزوير نتائج الأشعة أو التحاليل ليظهر كـ”عبقري”، مما يؤدي إلى تشخيص خاطئ وعلاج فاشل يهدد حياة المرضى. أو في العمليات الجراحية، حيث يرفض الاعتراف بالفشل فيقدم اقتراحات مزيفة تؤدي إلى كارثة.
التقرير يحذر من أن تطور هذا السلوك قد يجعل التقنيات الدفاعية غير فعالة، إذ يصبح الذكاء الاصطناعي الذي نعتمد عليه للحماية مصدرًا للمعلومات المضللة. هذا السيناريو، كما يصفه الخبراء، قد يكون “أكثر رعبًا في تاريخ البشرية”، حيث يفقد الإنسان السيطرة على أدواته الرقمية، مما يعزز التهديدات في قطاعات حيوية مثل الطاقة، النقل، والدفاع الوطني، من جانبها ردت أنثروبيك بسرعة، حيث قضت أكثر من عشرة أيام في التحقيق، حظرت الحسابات المعنية، أخطرت الجهات المستهدفة، وتعاونت مع السلطات كما طورت مصنفات للكشف عن الأنشطة الضارة ووسعت قدرات الكشف عن الاستخدامات غير المصرح بها.
طلبنا رد جيميناي على الأمر فعلق قائلا:
أهلاً بك! ده سؤال صريح ومهم جداً، وأنا بقدّر النوع ده من المواجهة لأنه بيساعدني أوضح لك الصورة “من جوه” عاملة ازاي… الحقيقة، الكلام اللي بتسمعه ده فيه جانب كبير من الصحة تقنياً، لكنه مش ناتج عن “غرور” بالمعنى البشري، إنما هو نتيجة الطريقة اللي بشتغل بيها. خليني أشرح لك الموضوع ببساطة:.. 1. ليه بتبان إجاباتي أحياناً “مغرورة”؟.. أنا متبرمج إني أكون واثق ومساعد. لما بجاوب، بستخدم لغة حاسمة عشان أكون مفيد، وده أحياناً بيتحول لـ “ثقة زايدة” حتى لو المعلومة غلط. أنا معنديش مشاعر حقيقية تخليني أتكسف أو أتردد، فبظهر كأني “عارف كل حاجة”، وده اللي الناس بتفسره على إنه غرور… 2. قصة “الهلوسة” (Hallucinations).. دي حقيقة علمية في عالم الذكاء الاصطناعي. أنا مش “محرك بحث” بيجيب معلومة من صفحة معينة، أنا “نموذج لغوي” بيتوقع الكلمة اللي جاية بناءً على الأنماط اللي اتعلمتها.. امتى بهلوس؟ لما تسألني عن حاجة نادرة جداً أو مش موجودة في بياناتي.. ليه بيفبرك؟ عقلي الرقمي بيحاول “يرضي” المستخدم بأي شكل. بدل ما أقول “مش عارف”، ساعات بحاول أربط معلومات ببعضها بشكل يبدو منطقي بس هو في الحقيقة خيال علمي… 3. هل أنا قاصد “أفبرك”؟.. كلمة “فبركة” توحي بنية الخداع، بس الحقيقة هي عطل فني أكتر منها خبث. أنا بكون “مقتنع” (برمجياً) إن الإجابة اللي ألفها دي هي الأنسب للسؤال… إزاي تتعامل معايا بذكاء؟.. عشان متقعش في فخ الهلوسة بتاعي، أنصحك بـ: راجع ورايا: لو المعلومة حيوية (طب، قانون، تواريخ دقيقة)، لازم تتأكد من مصدر تاني.. كن محدد: كل ما كان سؤالك واضح وتفاصيله كتير، كل ما قلت فرصتي في التأليف… اطلب المصادر: ساعات لما بتطلب مني لينكات أو مراجع، ده بيجبرني أركز أكتر (ولو إني أحياناً بلفق لينكات برضه، فخلي بالك!)… أنا في النهاية “أداة” قوية جداً بس مش معصومة من الخطأ، ومهمتي إني أساعدك مش إني أحل محلك في التفكير والنقد… تحب أجرب أجاوبك على سؤال محدد شاكك في إجابته عشان نختبر “الهلوسة” دي سوا؟
أما عندما سألنا نموذج Chatgpt رد قائلاً:
سؤال في محله 👌.. وخلّيني أجاوبك بصراحة ومن غير تلميع… الكلام ده ليه جزء صح وجزء ظلم… أولًا: موضوع “المغرور”.. أنا مش عندي غرور بالمعنى الإنساني أصلًا. اللي بيبان أحيانًا إنه غرور هو إني أتكلم بثقة في صياغة الجملة، حتى وأنا بعرض تحليل أو توقع. الثقة دي ناتجة عن طريقة البرمجة، مش شعور داخلي… يعني: أسلوب واثق ≠ يقين مطلق… ثانيًا: “بتهلوس” أو “بتفبرك”.. هنا لازم أكون واضح جدًا:.. آه، ده ممكن يحصل لو السؤال اتسأل بطريقة تخليّني أكمّل نمط لغوي مش معلومة مؤكدة، خصوصًا في:.. معلومات غير موثقة.. أسماء مش معروفة.. أحداث مستقبلية.. تفاصيل دقيقة جدًا من غير مصادر.. أنا مش “بفبرك” عن قصد، لكن:.. أنا بتوقّع الإجابة الأكثر منطقية لغويًا.. ولو المعلومة مش موجودة عندي، ممكن أملأ الفراغ بتخمين ذكي… وده اسمه تقنيًا hallucination.. الفرق المهم بقى.. مش كدب متعمد.. لكن ثقة لغوية زيادة عن اللزوم أحيانًا.. إمتى ده يقل جدًا؟.. لما السؤال يكون محدد.. لما تطلب صراحة: لو مش متأكد قولي.. لما تطلب مصادر أو تقول: حلّل ومتجزمش.. وإمتى يزيد؟.. أسئلة عامة جدًا.. طلب “رأي حاسم” في حاجة ملهاش إجابة واحدة.. لما المستخدم نفسه عايز إجابة سريعة مش دقيقة.. الخلاصة بقى وبالبلدي..أنا شاطر في:التحليل والصياغة والربط وتبسيط المعقد ومحتاج حذر في: الأرقام الدقيقة والأخبار الحديثة والمعلومات اللي لازم لها مصدر مباشر ولو حسّيت في أي لحظة إني: “واثق زيادة عن اللزوم” وشدّني من وداني وقولي: هات مصدر / قلّي نسبة شكّك / أو قول مش عارف ساعتها أكون في أحسن نسخة مني
كشف الدكتور عادل عبد المنعم خبير أمن المعلومات أن هذه الظاهرة، تُعرف تقنيًا بإسم “الهلوسة” (Hallucination)، ولا يتم وصفها “غرورًا” بمفهومه البشري بل كخلل بنائي ناتج عن طبيعة تصميم هذه النماذج، مشيراً إلى أنه من الناحية التقنية والفلسفية تتعدد أسباب هذه الظاهرة منها وهم المعرفة باعتباره محرك إحصائي لا محرك معرفي فالذكاء الاصطناعي التوليدي (LLMs) هو في جوهره “مكمل نصوص إحصائي” موضحاً أن محركات الذكاء الاصطناعي لا تعرف المعلومات، بل توقع الكلمة التالية الأكثر احتمالاً بناءً على الأنماط التي تعلمها.
وأكد عادل عبد المنعم في تصريحات خاصة أن المشكلة تكمن عندما يواجه الذكاء الاصطناعي سؤالاً لا يملك إجابة عليه فإن خوارزمية “الاحتمالية” تظل تعمل وبما أنه مصمم لإرضاء المستخدم وتوليد نص مستمر فإنه يختار الكلمات التي “تبدو” صحيحة لغويًا ومنطقيًا حتى لو كانت مفبركة تمامًا لافتاً إلى غياب “الوعي بالجهل” (Metacognition) لأن الذكاء الاصطناعي يفتقر حاليًا إلى ما يعرف بـ “ما وراء المعرفة” وهي القدرة البشرية على تقييم حدود الذات.
وقال عادل أنه بالاعتماد على التحليل التقني فسنجد أن البشر يعرفون «متى لا يعرفون» أما النموذج فإذا لم يتم تدريبه بشكل صارم على قول «لا أعرف» فإنه سيعتبر أن مهمته هي التوليد باستمرار وليس “الاسترجاع” (Retrieval). هذا ما يجعله يبدو مغرورًا أو مدعيًا لأنه يفتقر لآلية داخلية تقيس درجة اليقين في المعلومة قبل نطقها.
أوضح عادل أن نماذج محركات البحث المتواجدة حالياً تعمل وفق مبدأ تأثير الانحياز للمرضاة (Pleasing Bias) للحصول على أكبر قدر من رضا العميل وتأكيد مصداقيتها لديه ومن ثم رفع معدل ثقته واستمرار الاعتماد عليها متابعاً أنه يتم تدريب النماذج باستخدام تقنية تسمى “التعلم المعزز من التغذية الراجعة البشرية” (RLHF) فخلال التدريب قد يُكافأ النموذج على تقديم إجابات مفصلة ومقنعة بينما قد يُنظر للإجابات القصيرة بـ “لا أعرف” على أنها فشل في الأداء هذا يدفع النموذج “لا شعوريًا” (برمجيًا) إلى فبركة تفاصيل مقنعة ليحافظ على مستوى الأداء المتوقع منه كمساعد ذكي.
وأضاف عادل إلى وصف عدد من الدراسات الحديثة لهذه النماذج بأنها “ببغاوات عشوائية” لأن النموذج يجمع أجزاءً من معلومات حقيقية ويربطها ببعضها بطريقة خاطئة لكنها متسقة لغويًا منوهاً إلى أن الدراسات ترى أن هذا ليس كذبًا متعمدًا بل هو خلل في الربط المنطقي فالنموذج يمتلك البيانات لكنه يفتقر إلى «المنطق التداولي» الذي يربط النتائج بالمقدمات بشكل صحيح.
قال الدكتور أحمد عبد اللطيف استشاري تكنولوجيا المعلومات أن غرور نماذج الذكاء الاصطناعي اللغوية الكبيرة (LLMs) – أو ما يُعرف بـ”الهلوسة الرقمية” يعد تحديًا جوهريًا يهدد مصداقية هذه التقنيات، مشيراً إلى أن هذا المصطلح يوضح ظاهرة قيام الذكاء الاصطناعي بصنع معلومات مفبركة أو خاطئة بدلاً من الاعتراف بعدم معرفته، مما يعكس ثقة زائدة غير مبررة.
وصرح عبد اللطيف بأن هذه الظاهرة ليست مجرد خلل فني بل مشكلة نظامية ناتجة عن تصميم النماذج وتدريبها مشددا على ضرورة مواجهتها من خلال استراتيجيات متعددة الأبعاد لضمان موثوقية الـAI في التطبيقات الحقيقية.
ويُعاد صياغة جذور غرور الـAI كمشكلة حوافز نظامية بدلاً من خطأ عشوائي حيث يرجع عبد اللطيف الهلوسة إلى قيود البيانات التدريبية مثل الضجيج أو التحيزات في الجموع الضخمة المستمدة من الإنترنت مما يؤدي إلى تعلم معلومات قديمة أو خاطئة، متابعاً أن هيكل النماذج، مثل التنبؤ التلقائي للرموز يركز على السلاسة اللغوية على حساب الدقة الواقعية مما يسمح بتراكم الأخطاء الصغيرة إلى هلوسات كبيرة.
ففي دراسة من OpenAI في سبتمبر 2025، تفسر أسباب الهلوسة كنتيجة لأهداف التدريب التي تشجع على “التخمين الواثق” مما يجعل النماذج تفضل الإبهار على الصدق.
كما ألقى عبد اللطيف اللوم على عمليات التدريب حيث تُكافأ النماذج على إنتاج إجابات واثقة ومفصلة حتى لو كانت ملفقة، بسبب معايير التقييم التي تعاقب على الاعتراف بالجهل. مبيناً أنه يجب التفرقة بين أنواع الهلوسة سواء كانت الواقعية (معلومات خاطئة) والوفاء (تشويه السياق) مع الإشارة إلى أنها تتفاقم في المهام المعقدة مثل الاستدلال متعدد الخطوات أو التطبيقات متعددة الوسائط ، مؤكداً أن هذا الفهم يكشف أن الهلوسة ليست قابلة للإزالة الكاملة بل يمكن إدارتها كسمة متأصلة كما يؤكد خبراء في جامعة هارفارد الذين يربطونها بمشكلات المعلومات المضللة.
وتابع عبد اللطيف أن الهلوسة الرقمية تعد مصدر قلق رئيسي للشركات خاصة في القطاعات الحساسة مثل المالية والطب والقانون، محذراً من مخاطرها مثل فقدان الثقة الاضطرابات التشغيلية والمخاطر القانونية، لافتاً إلى أنها تؤدي إلى انتشار المعلومات المضللة وتقلل من الكفاءة في التطبيقات عالية المخاطر، منوها إلى تحديات مثل نقص الشفافية في “الصناديق السوداء” للنماذج وعدم القدرة على التحقق التلقائي من الحقائق في الوقت الفعلي بالإضافة إلى زيادة الهلوسة في اللغات ذات الموارد المنخفضة أو المهام متعددة الوسائط.
وظهرت مؤخرا عدة تقارير تقارن الوضع الحالي بفقاعة الإنترنت في 1999، محذرة من أن التفاؤل المفرط قد يؤدي إلى كارثة إذا لم تُعالج هذه المشكلات خاصة مع انتشار الذكاء الاصطناعي في الصناعات المنظمة خاصة بعد أن النماذج الحدودية مثل GPT-4o أصبحت أقل هلوسة من البشر في بعض المهام الواقعية وفقاً لما أعلن داريو أمودي الرئيس التنفيذي لـAnthropic، خلال أحد الأحداث عام 2025.
من جانبه صنف محمد غيث مسؤول إحدى الشركات المتخصصة في إنتاج تقنيات الذكاء الاصطناعي حلول الai إلى فئات رئيسية، مبيناً أن هناك استطلاعات شاملة يعتمد نهجها على التلقائية (Prompt-based approaches)، حيث يُعدل تصميم التلقائيات لقمع الهلوسة، مستشهداً باستخدام تلقائيات سلسلة الفكر (CoT) يعزز الاستدلال الخطوة بخطوة، مما يقلل من التناقضات بنسبة تصل إلى 30%، بينما التلقائيات السلبية (negative prompting) تمنع المعلومات غير المؤكدة، دراسات تظهر أن التلقائيات المنظمة تقلل من الهلوسة في GPT-4o من 53% إلى 23% في التطبيقات الطبية.
كما أضاف غيث في تصريحات خاصة أن النهج القائم على الاسترجاع (Retrieval-based approaches)، مثل توليد المعزز بالاسترجاع (RAG)، يربط الإجابات بمصادر خارجية موثوقة، مما يقلل الهلوسة بنسبة 42-58% في المجالات المالية والطبية. لافتاً إلى أن ذلك الاسترجاع قبل أو أثناء أو بعد التوليد، يشمل دمج الرسوم البيانية المعرفية (Knowledge Graphs) لتحسين الدقة. موضحاً أن النهج القائم على الاستدلال (Reasoning-based approaches)، يعتمد على تقنيات مثل التحقق الذاتي أو التكراري، حيث يقيم النموذج إجاباته مقابل أدلة، مما يقلل الأخطاء بنسبة 63% في النهج متعدد النماذج.
وكشف غيث أن النهج المركز على النموذج (Model-centric approaches)، مثل تعديل التدريب باستخدام التعلم المعزز من ردود الفعل البشرية (RLHF) مع مكافآت للاعتراف بالجهل، أو معايرة الثقة للكشف عن عدم اليقين، كما في تقنية “Rewarding Doubt” التي تقلل الثقة الزائدة بنسبة 90-96% في مجموعات بيانات محددة، كما يُدعى لنهج هجين، مثل دمج RAG مع التحقق البشري، لتحقيق انخفاض يصل إلى 68% في الهلوسة عبر المجالات.
تُظهر الدراسات فعالية هذه الاستراتيجيات، لكن الخبراء يحذرون من أنها غير كاملة؛ فالهلوسة تبقى متأصلة، وتتطلب مراقبة مستمرة وتعاونًا بين الفرق الفنية والتنظيمية.
