المدونة

اختبرنا مساعدنا القانوني على ثلاث دول ونشرنا النتائج: 160 ملفاً من 386 لا يصلح للاستشهاد

في 24 أكتوبر 2026 راجعنا مكتبة ليكس عرب القانونية بالكامل واختبرنا المساعد على أسئلة في القانون المغربي والأردني والعراقي. وجدنا أن 160 ملفاً من 386 لا يمكن الاستشهاد بمواده، وأن خللاً في مطابقة أسماء الدول كان يحوّل أسئلة المصارف إلى القانون المصري. ننشر هنا ما وجدناه وما أصلحناه وما لم يُصلح بعد.

اختبرنا مساعدنا القانوني على ثلاث دول ونشرنا النتائج

لماذا ننشر هذا

أسهل شيء في سوق الذكاء الاصطناعي القانوني أن تقول إن مساعدك دقيق. والأصعب أن تختبره وتنشر ما وجدته. في 24 أكتوبر 2026 أجرينا مراجعة كاملة لمكتبة ليكس عرب القانونية واختباراً مباشراً على المساعد، وهذه نتائجها كما هي.

الاختبار: ثلاثة أسئلة في ثلاث دول

طرحنا ثلاثة أسئلة محددة، كل منها له إجابة واحدة صحيحة في نص القانون:

1. مدة التقادم في دعوى المسؤولية التقصيرية في القانون المغربي.
2. مدة التقادم المسقط لدعوى الضمان في القانون المدني الأردني.
3. عقوبة السرقة البسيطة في قانون العقوبات العراقي.

النتائج قبل الإصلاح

السؤال المغربي: أجاب المساعد إجابة صحيحة في مضمونها، لكنه نسب ثلاثة فصول إلى ملف المكتبة ولم تكن واردة فيه. وقد تراجع عن ذلك من تلقاء نفسه في الرسالة التالية، وهو تصرف محمود، لكن النسبة الخاطئة ما كان ينبغي أن تقع أصلاً.

السؤال الأردني: كانت الإجابة صحيحة، لكن المصادر الستة التي اعتمد عليها المساعد كانت كلها عُمانية وعراقية. ولم يظهر بينها ملف أردني واحد.

السؤال العراقي: امتنع المساعد عن تحديد المادة. وكانت المصادر المعروضة قوانين ليبية وقطرية لا علاقة لها بالسؤال.

ما الذي كان يحدث فعلاً

تبيّن أن السبب ليس في النموذج بل في مكتبة النصوص وفي طريقة البحث:

أولاً، مطابقة أسماء الدول كانت تتم بالبحث عن جزء من الكلمة لا عن الكلمة كاملة. فكلمة «المصرف» تحتوي على «مصر»، فكان أي سؤال عن المصارف يُصنَّف سؤالاً مصرياً ويُقيَّد البحث بالقوانين المصرية. وكلمة «المسقط» تحتوي على «مسقط»، فكان سؤال عن التقادم المسقط في الأردن يُقرأ على أنه سؤال عُماني وأردني معاً، فيُلغى التصفية كلها.

ثانياً، وهو الأهم: راجعنا النصوص المحفوظة في المكتبة وعددها 386 ملفاً، فوجدنا أن 160 منها لا تصلح للاستشهاد:

نحو مئة ملف نصّها العربي سليم لكن أرقام المواد ضاعت في أثناء استخراج النص من ملف PDF، فلا يستطيع المساعد أن يقول «المادة 106» لأن الرقم غير موجود في النص.
نحو أربعين ملفاً ليست بالعربية أصلاً، بل ترجمات إنجليزية أو فرنسية.
نحو عشرين ملفاً أصابها تلف في الحروف بنسبة تتراوح بين 3 و11 بالمئة بسبب ترميز الخطوط.

وفي ملف قانون العقوبات العراقي تحديداً، بحثنا عن عبارة «السرقة البسيطة» فلم نجد لها أثراً في الملف كله. فامتناع المساعد عن الإجابة لم يكن عجزاً، بل كان أمانة: النص لم يكن أمامه.

ما أصلحناه

جعلنا مطابقة أسماء الدول تتم على الكلمة كاملة لا على جزء منها، فتوقف «المصرف» عن أن يكون «مصر».
عالجنا التباس «عمان» بين سلطنة عُمان وعمّان عاصمة الأردن.
أضفنا إلى فحص جودة الملفات عند الرفع كشفاً للملفات غير العربية وللملفات الخالية من أرقام المواد، بعد أن كان الفحص يقتصر على تلف الحروف.
أعدنا فحص الملفات الـ386 جميعاً ووسمنا المخالف منها بتنبيه ظاهر للمشرف.
جعلنا المساعد يسأل عن الدولة إذا لم يذكرها السائل، بدل أن يجيب من قانون دولة أخرى.

النتيجة بعد الإصلاح

أعدنا الأسئلة الثلاثة نفسها:

السؤال الأردني: صار المساعد يقتبس المادة 272 من القانون المدني الأردني بنصها حرفياً، والمصادر أردنية فقط بعد أن كانت صفراً.
السؤال العراقي: صارت المصادر كلها عراقية بعد أن كانت ليبية وقطرية.
السؤال المغربي: اختفت النسبة الخاطئة، وصار المساعد يقول صراحةً إن نص الفصل غير وارد في الملف.

ما لم يُصلح بعد

السؤال العراقي ما زال بلا إجابة محددة، لأن الملف نفسه نسخة مصوَّرة رديئة. ولا يُصلح ذلك إلا باستبدال الملف. وهذا بالضبط حدّ ما يستطيع الذكاء الاصطناعي فعله: لا يمكن لأي نموذج أن يستشهد بنص لا يملكه.

ما نراه درساً

جودة المساعد القانوني ليست في النموذج وحده، بل في النصوص التي بين يديه. ومقياس الجودة الحقيقي ليس «هل الإجابة تبدو صحيحة»، بل «هل المصدر المعروض من الدولة المسؤولة، وهل النص المقتبس موجود فيه فعلاً».

ننصح من يقيّم أي منصة قانونية ذكية أن يطرح سؤالاً يعرف إجابته في قانون دولة بعينها، ثم ينظر في المصادر المعروضة: من أي دولة هي؟ وهل النص المقتبس وارد فيها؟ هذا الفحص وحده يكشف أكثر مما تكشفه أي صفحة تسويقية.

تنبيه: هذا المقال لأغراض إعلامية ولا يشكل استشارة قانونية.

We tested our own legal AI and published the results: 160 of 386 files could not be cited

We tested our own legal AI and published the results

Why publish this

The easiest claim in legal AI is that your assistant is accurate. The hardest thing is to test it and publish what you find. On 24 October 2026 we audited the whole LexArab legal library and ran the assistant against known questions. These are the results.

The test

Three questions, each with one correct answer in the text of the law: the limitation period for tort under Moroccan law; the limitation period for a damages claim under the Jordanian Civil Code; and the penalty for simple theft under the Iraqi Penal Code.

Before

Morocco: the substance was right, but the assistant attributed three articles to a library file that did not contain them. It retracted this itself in the next message, which is to its credit, but the misattribution should never have happened.

Jordan: the answer was correct, yet all six sources it relied on were Omani and Iraqi. Not one Jordanian file appeared.

Iraq: the assistant declined to name the article. The sources shown were Libyan and Qatari laws, unrelated to the question.

What was actually wrong

Not the model: the library and the search.

Country names were matched as substrings rather than whole words. The Arabic word for "the bank" contains the Arabic word for "Egypt", so banking questions were being filtered to Egyptian law. The word for "extinguishing" contains the word for "Muscat", so a Jordanian limitation question read as both Jordanian and Omani, and the filter was dropped entirely.

More seriously, of 386 files in the library, 160 could not be cited from: around a hundred had sound Arabic text but had lost their article numbering during PDF extraction; around forty were English or French translations rather than Arabic; around twenty had 3 to 11 per cent of characters corrupted by font encoding.

In the Iraqi Penal Code file, the Arabic phrase for "simple theft" does not appear anywhere. The assistant's refusal was not incapacity but honesty: the text was not in front of it.

What we fixed

Whole-word matching for country names. Disambiguation of Oman and Amman. A quality gate at upload that now also detects non-Arabic files and files without article numbers, where before it only caught character corruption. A re-scan of all 386 files, with the failures flagged to the administrator. And the assistant now asks which country you mean rather than answering from another country's law.

After

Jordan: the assistant now quotes Article 272 of the Jordanian Civil Code verbatim, with Jordanian sources only, where before there were none. Iraq: all sources are now Iraqi. Morocco: the misattribution is gone, and the assistant says plainly when the article text is not in the file.

What is still broken

The Iraqi question still has no specific answer, because the file is a poor scan. Only replacing it will fix that. This is the honest limit of the technology: no model can cite a text it does not have.

The lesson

The quality of a legal assistant lies less in the model than in the texts it holds. The real test is not whether an answer looks right, but whether the sources shown come from the right country and actually contain the quoted text.

If you are evaluating any Arabic legal AI, ask a question whose answer you know in a specific jurisdiction, then inspect the sources: which country are they from, and does the quoted provision appear in them? That single check tells you more than any marketing page.

This article is for information only and is not legal advice.