شرح القرارات الآلية

يحتاج العميل إلى معرفة ما حدث وما عليه فعله بعد ذلك: تأكيد هويته، أو إرسال مستند، أو المحاولة لاحقًا، أو طلب المراجعة. ويحتاج المحلل إلى الوقائع التي رآها النظام والعوامل التي تقف وراء الدرجة، كي يؤكد القرار أو ينقضه. وتحتاج الجهة الرقابية أو المدقق إلى إعادة بناء القرار بدقة، مع البيانات المستخدمة، وإصدارات النموذج والقواعد، ومن راجعه.

تختلف التفسيرات الثلاثة في الطول والمفردات، لكن يجب أن تتفق، ولا تبقى متسقة إلا حين تصدر جميعها عن السجل نفسه.

في مختلف الولايات القضائية، يحق للأشخاص المتأثرين بالقرارات الآلية أن يفهموها وأن يعترضوا عليها. جرى التحقق من هذا الملخص في 25 أكتوبر 2026، وعلى مستشارك القانوني تأكيد ما ينطبق عليك.

الاتحاد الأوروبي، اللائحة العامة لحماية البيانات (GDPR)

تقيّد المادة 22 القرارات القائمة حصرًا على المعالجة الآلية والتي تؤثر في الأشخاص تأثيرًا كبيرًا، وحيث يُسمح بهذه القرارات تشترط على الأقل تدخلًا بشريًا وسبيلًا للاعتراض. وقضت محكمة العدل التابعة للاتحاد الأوروبي بأن درجة الجدارة الائتمانية قد تكون في حد ذاتها قرارًا من هذا النوع حين يمنحها المقرضون دورًا حاسمًا (قضية SCHUFA، 2023)، وبأنه يجب إبلاغ الأشخاص بالإجراء والمبادئ المطبقة فعلًا، بصيغة يستطيعون فهمها (قضية Dun & Bradstreet Austria، 2025).

الاتحاد الأوروبي، قانون الذكاء الاصطناعي

يصنّف الملحق الثالث تقييم الجدارة الائتمانية للأفراد ضمن الأنظمة عالية المخاطر، ويستثني الأنظمة المستخدمة لكشف الاحتيال المالي. وتمنح المادة 86 الأشخاص المتأثرين حقًا في الحصول على تفسيرات واضحة وذات معنى لدور النظام والعناصر الرئيسية للقرار. ونقل تعديل صدر عام 2026 موعد التزامات الملحق الثالث إلى 2 ديسمبر 2027.

البرازيل، قانون LGPD

تمنح المادة 20 الأشخاص الحق في طلب مراجعة القرارات الآلية حصرًا التي تمس مصالحهم، بما فيها ملفات الائتمان، والحصول على معلومات واضحة عن المعايير والإجراءات المستخدمة، مع مراعاة السرية التجارية.

الإمارات العربية المتحدة

تطلب الإرشادات المشتركة لعام 2021 الصادرة عن مصرف الإمارات العربية المتحدة المركزي وهيئة الأوراق المالية والسلع وسلطة دبي للخدمات المالية وسلطة تنظيم الخدمات المالية أن تكون نماذج الذكاء الاصطناعي الجوهرية قابلة للتفسير، وأن يُحتفظ بسجل لكل إصدار من النموذج، وأن تتوفر إمكانية عكس القرارات الخاطئة يدويًا، وأن تُقدَّم تفسيرات واضحة للعملاء الذين يطلبونها، دون كشف الملكية الفكرية أو الشيفرة المصدرية.

مركز دبي المالي العالمي

تشترط اللائحة 10، السارية منذ سبتمبر 2023، إشعار الأشخاص حين تُعالَج بياناتهم الشخصية بواسطة أنظمة ذاتية التشغيل أو شبه ذاتية التشغيل، والقدرة على شرح تلك المعالجة بلغة غير تقنية.

الولايات المتحدة

حلّت SR 26-2، الصادرة في أبريل 2026، محل SR 11-7. وهي تتوقع تمحيصًا فعالًا من مراجعين مستقلين، وتحليلًا للنتائج، وتوثيقًا كافيًا، وتستثني من نطاقها الذكاء الاصطناعي التوليدي والوكيلي، لذا يحتاج النص الذي يكتبه نموذج لغوي إلى ضوابط خاصة به.

اكتب السجل مرة واحدة، لحظة اتخاذ القرار، ولا تكتب فوقه أبدًا.

المدخلات كما رآها النظام

كل قيمة استخدمها النظام، كما كانت آنذاك، بما فيها الإجابات الواردة من خدمات خارجية مثل مكتب الائتمان. وسجل العميل الحالي لا يغني عنها.

الإصدارات

إصدارات النموذج ومجموعة القواعد، مع القوائم والعتبات السارية.

الدرجة

الدرجة والشريحة التي وقعت فيها.

الأسباب

رموز الأسباب مرتبة حسب أثرها في هذا القرار، مع القيم التي تستند إليها.

الإجراء

القبول أو الرفض أو طلب تحقق إضافي أو التعليق أو الإحالة، مع أي حد مرتبط به.

المراجعة

من راجع الحالة، ومتى، وما الذي قرره ولماذا.

الرسالة

النص الدقيق الذي تلقاه العميل، ولغته.

ينبغي أن تصف رموز الأسباب ما حرّك هذه الدرجة لهذا العميل. استخدم أسلوب إسناد يناسب النموذج، وتحقق من ثباته، بحيث تحصل حالتان متطابقتان تقريبًا على الأسباب نفسها. واربط العوامل بمكتبة قصيرة من الأسباب المكتوبة بلغة واضحة توافق عليها إدارة الامتثال، بكل لغة تخدم بها عملاءك.

إذا كان نموذج لغوي يكتب رسالة العميل أو ملاحظة المحلل، فأنشئها من الأسباب والقيم المسجلة وحدها، وطابقها معها قبل الإرسال، واحفظها مع السجل. فالتفسير البليغ الذي لا يعكس ما استخدمه النموذج أسوأ من غيابه، لأنه يضلل العميل، ثم الجهة الرقابية لاحقًا.

يمكن إخبار المتقدم للائتمان بالعوامل الأكثر تأثيرًا وبما قد يغيّر النتيجة، وقد أشارت محكمة العدل التابعة للاتحاد الأوروبي إلى أن بيان كيف كانت بيانات مختلفة ستؤدي إلى نتيجة مختلفة يمكن أن يجعل التفسير مفهومًا. أما سبب الاحتيال المفصل، في المقابل، فيعلّم المحتال الإشارة التي عليه تجنبها.

أخبر العميل بما يكفي ليتصرف: الدفعة معلّقة لفحص أمني، وهذه طريقة تأكيد أنك من أجراها، وهذا الوقت الذي يستغرقه ذلك. واحتفظ بالإشارات المحددة في واجهة المحلل وفي سجل التدقيق. وتظل قواعد حماية البيانات سارية على قرارات الاحتيال الآلية حصرًا التي تؤثر في العميل تأثيرًا كبيرًا، حتى حيث لا يسري قانون الذكاء الاصطناعي.

ينبغي أن يرافق كل قرار آلي ذي أثر كبير سبيلٌ واضح لطلب المراجعة، يتولاه أشخاص يرون السجل كاملًا ويستطيعون نقض القرار. والقرارات المنقوضة هي أيضًا أفضل تغذية راجعة لديك عن مواضع خطأ النموذج أو القاعدة.

احتفظ بنموذج منافس أبسط، مثل بطاقة تقييم، إلى جانب النموذج الرئيسي، وأحِل إلى شخص الحالات التي يختلف فيها النموذجان اختلافًا حادًا. ووثّق الحدود المعروفة لكل نموذج، مثل العملاء ذوي التاريخ القصير أو المنتجات التي لم يُدرَّب عليها، كي يعرفها المراجعون.

أسباب عامة

عبارة «لم تستوفِ معاييرنا» لا تعطي العميل ما يتصرف بناءً عليه، ولا تعطي المحلل ما يتحقق منه.

تفسيرات تُكتب بعد وقوع الأمر

الأسباب المعاد بناؤها من بيانات اليوم ونموذجه قد تختلف عن تلك التي طُبّقت. احفظها لحظة اتخاذ القرار.

غياب سجل الإصدارات

المؤسسة التي لا تستطيع أن تقول أي نموذج وأي قواعد كانت سارية في تاريخ معين لا تستطيع الدفاع عن القرارات التي اتُّخذت في ذلك اليوم.

مراجعة بالاسم فقط

المراجع الذي لا يرى إلا الدرجة ويؤكدها دائمًا لا يمثل المراجعة البشرية التي تقصدها القواعد.

أسباب محددة

نسبة القرارات السلبية التي تحمل سببًا واحدًا محددًا ومعتمدًا على الأقل.

زمن إعادة البناء

الوقت اللازم لإعادة بناء قرار مضى عليه ستة أشهر بالكامل. اختبر عينة عشوائية كل ربع سنة.

الشكاوى والتظلمات

معدلها لكل قرار سلبي، حسب المنتج والقناة.

التظلمات التي يُنقض فيها القرار

نسبة المراجعات التي تنقض القرار. والنسبة المتزايدة تشير إلى مشكلة في النموذج أو القاعدة، والنسبة القريبة من الصفر قد تعني أن المراجعات غير مستقلة.

1. 1
   هل نستطيع إعادة بناء أي قرار من العام الماضي، بالمدخلات والإصدارات المستخدمة في حينه، خلال يوم عمل واحد؟
2. 2
   من أين تأتي رموز الأسباب لدينا، ومن وافق على صياغة كل منها للعميل؟
3. 3
   إذا كان نموذج لغوي يصوغ رسائل العملاء، فما الذي يطابق كل رسالة مع الأسباب المسجلة؟
4. 4
   ماذا نقول للعميل الذي أُوقفت دفعته بسبب الاحتيال، وهل يكشف ذلك طريقة عمل ضوابطنا؟
5. 5
   من يراجع القرارات المعترض عليها، وماذا يرى، وكم مرة ينقضها؟

اختر نوعًا واحدًا من القرارات، مثل رفض دفعات البطاقات أو رفض القروض الشخصية، وحاول إعادة بناء عينة عشوائية من قرارات الربع الماضي مما تخزنه اليوم. والثغرات التي تجدها تحدد ترتيب العمل. وكل قرار يُتخذ بواسطة Mantika Argus يحمل سببًا بكلمات واضحة يستطيع فريقك والجهة الرقابية قراءته.