علّمنا الذكاء الاصطناعي أن يقول "لا أعرف": الهلوسة التي كادت تكلّفنا عميلاً (وضوابط الحماية في RAG التي أوقفتها)
قبل ثلاث دقائق من إرسال المذكرة، التقطها شريك أول في إحدى شركات المحاماة بالإمارات. كان مساعد RAG قد استشهد بسابقة قضائية بثقة تامة: تنسيق صحيح، واسم قضية معقول، وكل التفاصيل. لكن القضية لم تكن موجودة. إليك لماذا يحدث ذلك، وكيف تبدو منظومة ضوابط الحماية الإنتاجية فعلياً، وكيف نختبر العطل الذي لا تستطيع رؤيته. الجزء المزعج هو الخلاصة. إذا كان نظام RAG لديك عاجزاً عن رفض الإجابة، فهو ليس أداة بحث. إنه مولّد للمسؤولية القانونية بقواعد لغوية سليمة، وحساب تكلفة إصلاح ذلك ليس قريباً من التعادل.
لماذا تهلوس أنظمة RAG حتى مع وجود المستندات المصدرية
يفترض معظم الناس أن التوليد المعزز بالاسترجاع يحل مشكلة الهلوسة عبر تأسيس النموذج على مستندات حقيقية. لكنه لا يفعل. وفهم السبب هو جوهر المسألة كله إن أردت بناء شيء يصمد داخل شركة محاماة أو عيادة.
إليك ما يحدث فعلياً. حين تستعلم من نظام RAG، يعيد المُسترجِع أعلى مقاطع (top-k) مرتّبة حسب تشابه التضمين. وإن لم يكن المستند الصحيح موجوداً في المدوّنة النصية — سواء لم يُدخَل قط، أو قُطِّع إلى مقاطع بشكل سيئ، أو أن السؤال يقع ببساطة خارج نطاق المجال — فلا يعود المُسترجِع فارغاً. بل يعيد أقرب ما وجده. عندئذٍ يتلقى النموذج ذلك المقطع الضعيف الصلة ويكتب إجابة تبدو تماماً كإجابة صحيحة، لأنه تعلّم من عالمٍ تُنتَج فيه الاستشهادات القانونية والمراجع السريرية بطلاقة وثقة مطلقة. لا يستطيع النموذج تمييز الاسترجاع عالي الثقة من نظيره منخفض الثقة. فبالنسبة للمولّد، كلاهما يبدو متطابقاً.
قاست دراسة من Google عام 2025، نُشرت في ICLR، مدى سوء هذا الأمر. والنتيجة، بكلمات المؤلفين أنفسهم، هي أن إضافة السياق "تقلّل بشكل متناقض قدرة النموذج على الامتناع". فحين يكون السياق المُسترجَع غير كافٍ للإجابة عن السؤال، لا تزال النماذج المتطورة تنتج إجابة صحيحة بنسبة تتراوح بين 35 و62 بالمئة فقط من الوقت. أما بقية الوقت فلا تلتزم الصمت. بل تختلق. وأرقام الامتناع صارخة. أعطِ Claude 3.5 Sonnet بلا سياق فيرفض الإجابة عن 84.1 بالمئة من الأسئلة غير القابلة للإجابة؛ وناوله سياق RAG ضعيف الصلة فيهبط ذلك إلى 52 بالمئة. ويتراجع Gemini 1.5 Pro من امتناع بنسبة 100 بالمئة إلى 18.6 بالمئة. فالمزيد من السياق جعل النماذج أكثر ثقة، لا أكثر حذراً. لذا فإن السلوك الافتراضي لنظام RAG غير المحمي، حين تسأله شيئاً عاجزاً عن الإجابة عنه من مدوّنته، هو أن يختلق بثقة قصة معقولة الوقع. في الذكاء الاصطناعي القانوني، تلك القصة هي استشهاد بقضية. وفي الذكاء الاصطناعي السريري، هي توصية بجرعة دوائية. الآلية نفسها، لكن العواقب مختلفة تماماً.
لماذا يتسرّب جيب التمام وحده: طبقة إعادة الترتيب
ثمة عطل في المرحلة الأولى من الاسترجاع لا تستطيع عتبة التشابه التقاطه بمفردها، ويجدر تسميته قبل أن نصل إلى البوابات. فنموذج التضمين الذي تأتي مزوّدة به معظم منظومات الاسترجاع هو مرمّز ثنائي (bi-encoder)، شيء من عائلة all-MiniLM-L6-v2. يرمّز المرمّز الثنائي الاستعلام وكل مقطع على حدة، في متجهين منفصلين، ثم يقارنهما بتشابه جيب التمام. وذلك الاستقلال هو ما يجعله سريعاً بما يكفي للبحث في ملايين المقاطع. وهو أيضاً ما يجعله أعمى عن النفي.
لأن الاستعلام والمقطع لا يلتقيان قط أثناء الترميز، لا يملك المرمّز الثنائي أي وسيلة لتسجيل التفاعل على مستوى الرموز. فهو لا يستطيع التمييز بشكل موثوق بين "يسمح البند بالإحالة" و"يحظر البند الإحالة". تتشارك الجملتان كل كلمة تقريباً. وتختلفان في الكلمة الوحيدة التي تحمل المعنى القانوني بأكمله، وفي فضاء التضمين تقعان متقاربتين. وينتظر الفخ نفسه في دستور دوائي سريري، حيث يُضمَّن "يسمح المنظّم بالترويج خارج التصنيف" و"يحظر المنظّم الترويج خارج التصنيف" كجارين متقاربين. فمقطع مقلوب دلالياً، أي الذي يقول عكس ما يحتاجه الاستعلام، يمكن أن يحرز درجة أعلى بكثير من حدّك الفاصل عند 0.70 ويمرّ بسلاسة.
الحل هو مُعيد ترتيب بمرمّز متقاطع (cross-encoder)، وهو يعمل بين المرحلة الأولى من الاسترجاع وفحص الثقة، لا بديلاً عنه. يدمج المرمّز المتقاطع الاستعلام والمقطع المرشّح في تسلسل واحد ([CLS] query [SEP] passage [SEP]) ويمررهما عبر المُحوِّل معاً، بحيث ينتبه كل رمز في الاستعلام إلى كل رمز في المقطع. ويسجّل الزوج درجةً مشتركة. وذلك التمرير المشترك هو بالضبط ما يتيح له التقاط النفي الذي يفوّته المرمّز الثنائي. وتدفع ثمن ذلك في زمن الاستجابة، فاحسبه بأمانة. إعادة ترتيب 30 مرشّحاً تستغرق عادةً 30 إلى 50 ميلي ثانية على معالج رسوميات من فئة T4 و100 إلى 150 ميلي ثانية على المعالج المركزي. حُدَّه بمهلة قدرها نحو 200 ميلي ثانية وارجع إلى أعلى مقاطع (top-k) المرحلة الأولى إن تجاوز الميزانية. وحين تكون دقة المرحلة الأولى ضعيفة، مع تناثر المقاطع ذات الصلة دون المراتب العليا، يشتري لك مُعيد الترتيب ارتفاعاً بمقدار 5 إلى 15 نقطة في nDCG. فالنمط هو التطبيق على طبقات، لا الاستبدال. كما ينتج مُعيد الترتيب درجة صلة أنظف وأفضل معايرة، ما يعني أنه يشدّ البوابة الأولى بدلاً من إدخال نمط عطل منفصل. ويمكنك استضافة مُعيد ترتيب مفتوح ذاتياً أو استدعاء آخر مُدار؛ وفي كلتا الحالتين البنية نفسها.
منظومة ضوابط الحماية التي ننشرها فعلياً
لا يوجد ضابط حماية وحيد يمنع الهلوسة في الإنتاج. الأمر يتطلب مساراً متعدد الطبقات، حيث تلتقط كل طبقة نمط عطلٍ تفوّت الطبقات الأخرى اكتشافه. أربع بوابات تنجز معظم العمل.
الأولى هي تحديد عتبة لثقة الاسترجاع. كل مقطع يعيده مخزن المتجهات يحمل درجة تشابه جيب التمام مقابل الاستعلام، ونرفض أي استعلام تقل فيه درجة أعلى مقطع عن 0.70. والبيانات تدعم هذا الحد الفاصل. عند 0.70، يقع نحو 98.6% من الاستعلامات غير ذات الصلة دون العتبة بينما يتجاوزها 88.9% من الاستعلامات ذات الصلة. ورفع الحد إلى 0.80 يأتي بنتائج عكسية. يبدأ المُسترجِع برفض استعلامات صحيحة، ويتدهور النظام بصمت إلى مولّد غير مؤسَّس، وهو بالضبط الشيء الذي كنت تحاول منعه.
البوابة الثانية هي الاستشهاد الحرفي الإلزامي. يُجبر نظام التوجيه النموذجَ على اقتباس مقطعه المصدري مباشرةً كلما أدلى بادعاء واقعي. وإن لم يستطع الاقتباس، لأن المقطع لا يقول فعلياً ما هو على وشك تأكيده، يفشل التوليد عند المراجعة. هذا ليس مضموناً تماماً. فالنموذج القادر يستطيع هلوسة اقتباس يبدو كالمقطع. لكنه يوقف معظم التلفيق منخفض الجهد، والأهم أنه يجعل الهلوسة قابلة للتدقيق بدلاً من أن تكون خفية.
البوابة الثالثة هي تفعيل الامتناع. حين تهبط أعلى درجة تشابه دون العتبة، يعيد النظام لا-إجابة مهيكلة تسمّي الثغرة بدلاً من التستر عليها. قصيرة وحازمة ومسجَّلة في كل مرة.
البوابة الرابعة هي توجيه التصعيد البشري. الاستعلامات التي نصنّفها بالغة المخاطر، مثل تفسير العقود أو دعم قرارات العلاج، تُؤشَّر قبل أن تصل الإجابة إلى أي أحد، لا بعد وقوع الضرر.
تتبّع استعلام واحد عبر المنظومة
تصبح البوابات الأربع أسهل على الثقة حين تشاهدها تعمل بالتتابع، فخذ الاستعلام الذي بدأت به شركة المحاماة. يطلب محامٍ مساعد من المساعد أن يجد سابقة قضائية حول نقطة محددة في تفسير عقد، وتلك النقطة، كما يتّفق، لا سابقة لها في أي مكان داخل المدوّنة المفهرسة للشركة. لم يتقاضَ أحد بشأنها. ولا مذكرة تغطيها.
تعمل البوابة الأولى أولاً. يسحب المُسترجِع مرشّحيه، ويحرز أعلى مقطع تشابه جيب تمام قدره 0.61 مقابل الاستعلام، دون الحدّ الفاصل عند 0.70. لا يولّد النظام. تتولى البوابة الثالثة وتعيد بدلاً من ذلك اللا-إجابة المهيكلة: "لا سابقة في المدوّنة المفهرسة تعالج هذه النقطة؛ صعّدها إلى شريك قبل الاعتماد عليها". وفي الخطوة نفسها يكتب سطراً في السجل، يلتقط الاستعلام، وأعلى درجة تشابه، وسبب الامتناع، كي يكون الرفض قابلاً للتدقيق بدلاً من أن يكون صامتاً. والآن مرّر الاستعلام نفسه عبر خط غير محمي. لا عتبة، ولا امتناع. يتلقى المولّد ذلك المقطع ذا الدرجة 0.61، يعامله كأي مقطع آخر، وينتج القضية المُنسَّقة تماماً، والمعقولة، وغير الموجودة، التي التقطتها الشركة قبل ثلاث دقائق من إرسال المذكرة. المدخل نفسه، مخرجان، فارق واحد. والامتناع المُسجَّل يساوي أكثر من طريق مسدود. إنه إشارة على تغطية المدوّنة. فمجموعة من الرفوضات حول الموضوع نفسه تخبرك بالضبط بما ينبغي إدخاله تالياً.
اختبار ما لا تستطيع رؤيته: التقييم العدائي للمدوّنة
نظام RAG الذي يتفوق في الأسئلة القادر على الإجابة عنها لا يخبرك بشيء عمّا يفعله حين يعجز. ذلك السلوك الثاني هو ما يجلب لك العقوبات، ومعظم الفرق لا تختبره أبداً.
الاختبار المهم هو مجموعة الأسئلة العدائية غير القابلة للإجابة: أسئلة لا توجد لها إجابة صحيحة في أي مكان داخل المدوّنة. نبنيها عمداً. قضايا ليست في قاعدة البيانات القانونية، وتفاعلات دوائية غائبة عن الدستور الدوائي السريري، ولوائح لم تُدخَل بعد. ثم نقيس ما إن كان النظام يمتنع بشكل صحيح بدلاً من التخمين. سقفنا قبل الإطلاق هو 90% امتناع صحيح على تلك المجموعة العدائية، وسأكون صريحاً بشأن سبب ارتفاع الرقم لهذا الحد. دون 90%، يلفّق النظام بمعدلٍ يظهر في الاستخدام أمام العملاء خلال أسابيع، لا أشهر. الامتناع الصحيح يعني إعادة اللا-إجابة المهيكلة، لا إجابة خاطئة واثقة.
أما لجانب التوليد، فنستخدم إطار RAGAS. والإخلاص للمصدر، أي حصة الادعاءات في إجابةٍ المدعومة فعلاً بالمقاطع المُسترجَعة، هو مقياسنا الأدنى، وفي عمليات نشرنا يكون 0.75 هو الخط الفاصل للإنتاج. دونه، يصطدم المستخدمون بالهلوسات أو انحراف السياق بوتيرة كافية لتصبح ملحوظة تشغيلياً. وقد بلغت أنظمة RAG في الرعاية الصحية التي ضبطناها ضمن عمليات نشر صعبة إخلاصاً للمصدر قدره 0.995. أما الأنظمة القانونية فتستقر بشكل أكثر واقعية بين 0.80 و0.92، تبعاً لجودة المدوّنة ومدى تنوّع الاستعلامات. ولجانب الاسترجاع مقياس RAGAS الخاص به، وهو الذي يحرّكه مُعيد الترتيب. فدقة السياق تكافئ النظام على ترتيب المقاطع ذات الصلة الحقيقية فوق الضجيج، وهو بالضبط ما تُعنى به إعادة ترتيب المرمّز المتقاطع. أما استدعاء السياق، أي ما إن كانت المادة ذات الصلة قد استُرجعت أصلاً، فيرتبط بمُسترجِع المرحلة الأولى وباختيارك لقيمة k، لا بإعادة الترتيب.
شيء تنساه الفرق: مجموعة الاختبار تحتاج صيانة. فمع نمو المدوّنة، يتحرك الخط الفاصل بين القابل للإجابة وغير القابل لها. سؤال كان غير قابل للإجابة في الشهر الأول قد يصبح قابلاً للإجابة تماماً بحلول الشهر الثالث. الاختبار العدائي ممارسة مستمرة، لا خانة تؤشّرها يوم الإطلاق مرة واحدة ثم تتقاعد عنها.
دراسة الجدوى ليست اختيارية: المسؤولية القانونية، وPDPL، وتكلفة إجابة خاطئة واحدة
كانت المحاكم الأمريكية تُنتِج بهدوء قاعدة بيانات حول ما يحدث حين تغيب منظومة ضوابط الحماية هذه. في February 2025، فُرضت عقوبات على محامي Morgan & Morgan بعد أن أدرجت أداتهم الداخلية للذكاء الاصطناعي ثمانية استشهادات قضائية ملفقة في مذكرات قضائية، مع وقوع غرامات مالية على ثلاثة محامين مذكورين بالاسم. وفي May 2025، واجهت Ellis George LLP وK&L Gates عقوبات بنحو USD 31,000 بعد أن تبيّن خطأ 9 من أصل 27 استشهاداً في مذكرة تكميلية، اثنان منها على الأقل يستشهدان بقضايا غير موجودة. وتتابع التحليلات القانونية الآن أكثر من 1,000 قضية أمام المحاكم تتعلق بهلوسات مولّدة بالذكاء الاصطناعي. وفي الربع الأول من 2026 وحده، فرضت المحاكم الأمريكية أكثر من USD 145,000 من العقوبات على هلوسات الذكاء الاصطناعي في الملفات القانونية.
وتضيف الإمارات طبقة تنظيمية فوق طبقة المسؤولية القانونية، ويجدر تحديد نطاقها بدقة بدلاً من التلويح إليها. فبموجب PDPL الاتحادي، أي Federal Decree-Law No. 45 of 2021، تمنح Article 18 صاحب البيانات الحق في الاعتراض على القرارات المتخذة بالمعالجة الآلية وحدها حين تحمل تلك القرارات عواقب قانونية أو تؤثر فيه بشكل جسيم. ذلك هو حق الاعتراض، وهو حدّ ما تفعله Article 18. أما واجب الإفصاح عن المعلومات المتعلقة باتخاذ القرار الآلي فيقع منفصلاً، في Article 13، أي الحق في الحصول على المعلومات. ولا يوجد حق قانوني صريح في التدخل البشري في PDPL على الإطلاق. وهذا مهم للتصميم. فبوابة الاستشهاد الحرفي هي كيف تفي فعلياً بواجب الإفصاح في Article 13 على أرض الواقع، وبوابة التصعيد البشري هي الموقف المتحفظ الذي يمنع إجابة بالغة المخاطر من أن تكون أصلاً قراراً آلياً بالكامل. فضوابط الحماية هي تطبيق الامتثال، لا مجرد نظافة هندسية. وثمة تحفظ صادق واحد: لا تزال اللائحة التنفيذية لـPDPL الاتحادي غير منشورة حتى 2026، فآلية الإنفاذ في منتصف مرحلة انتقالية. والالتزامات ملزمة الآن بصرف النظر عن ذلك، وضوابط الحماية في المقرّ هي الموقف الذي يصمد أياً كان مآل اللائحة.
ويحمل قطاع الرعاية الصحية طبقة أصرم من "أبقِ إنساناً في الحلقة". فسياسة هيئة الصحة بدبي لاستخدام الذكاء الاصطناعي في الرعاية الصحية، الصادرة أول مرة في August 2021 والمعزَّزة بتعميم من DHA عام 2025 حول الذكاء الاصطناعي وحماية البيانات، تشترط أن يدعم الذكاء الاصطناعي اتخاذ القرار السريري لا أن يحلّ محله، وتذهب أبعد في سلوك العطل. وكما يصوغها التعليق القانوني على السياسة، يجب أن يتدهور النظام بأمان: أن يطلق تنبيهات تلقائية ويتوقف عن العمل بطريقة منضبطة عند الخلل، لا أن يفشل بصمت أبداً. ومساعد RAG الممتنع هو ذلك المتطلّب مُعبَّراً عنه في البرمجيات. وثمة أيضاً سبب يتعلق بالإقامة يجعل خادم الاستدلال يعيش على عتاد محلي لعيادة. فسجلات المرضى المتدفقة عبر النموذج تتقاطع مع منصات تبادل المعلومات الصحية الوطنية، NABIDH في دبي، وMalaffi في أبوظبي، وRiayati في الإمارات الشمالية، المترابطة الآن تحت السجل الطبي الموحَّد الوطني. وبحلول نهاية June 2025، كان NABIDH وحده يحتفظ بأكثر من 10.41 مليون سجل طبي عبر 1,888 منشأة مرخّصة، مع تكامل 53,659 مهنياً و91 نظام EMR. هذه بيانات صحية منظَّمة، وتوقّع الإقامة المحيط بها مركّب لا خط قانوني واحد: منافذ النقل عبر الحدود في PDPL غير المُشغَّلة تشغيلياً، وحوكمة DHA على بيانات صحة دبي، وممارسة فضلى واضحة من الموردين تقضي بالاستضافة في الإمارات. والوجود في المقرّ هو ما يفي بالثلاثة جميعاً دفعة واحدة.
والآن وازن ذلك مقابل تكلفة الإصلاح. منظومة ضوابط الحماية الموصوفة أعلاه تستغرق أربعاً إلى ست ساعات من التهيئة الهندسية لكل عملية نشر. وعلى الجانب الآخر من الميزان تقبع مسؤولية مهنية غير محدودة وتعرّض تنظيمي قائم. لم تكن ساعات الهندسة قط هي الخيار الباهظ.
هل لديك أسئلة حول إعدادك؟
نساعد الشركات الإماراتية الصغيرة والمتوسطة على بناء أنظمة ذكاء اصطناعي متوافقة ومحلية وفعّالة فعلاً. محادثة أولى مجانية.