نهجنا
يدعم مصرف قطر الإسلامي "المصرف" الاستخدام المسؤول والأخلاقي لتقنيات الذكاء الاصطناعي، بما يسهم في تعزيز تجربة العملاء، ورفع الكفاءة التشغيلية، وتطوير إدارة المخاطر، ودعم الابتكار.
ويلتزم المصرف بضمان تطوير أنظمة الذكاء الاصطناعي واقتنائها واستخدامها بطريقة آمنة وعادلة وشفافة وخاضعة للمساءلة، مع توفير الإشراف البشري المناسب وتطبيق الضوابط اللازمة لحماية العملاء والموظفين وأصحاب المصلحة الآخرين.
ينطبق هذا البيان على أنظمة الذكاء الاصطناعي التي يطورها المصرف، أو يحصل عليها من أطراف ثالثة، أو يستخدمها من خلال الخدمات المسندة إلى جهات خارجية. ويتماشى نهج المصرف مع الإرشادات الصادرة عن مصرف قطر المركزي بشأن الذكاء الاصطناعي، وغيرها من القوانين والمتطلبات التنظيمية المعمول بها في دولة قطر.
الخصوصية والأمن
يلتزم المصرف بحماية البيانات الشخصية والمعلومات السرية والحساسة المستخدمة في تطبيقات الذكاء الاصطناعي.
وتخضع تطبيقات الذكاء الاصطناعي لضوابط مناسبة لحماية البيانات وأمن المعلومات والأمن السيبراني، بما في ذلك ضوابط الوصول إلى البيانات، ومنع فقدانها أو استخدامها دون تصريح، وحماية أنظمة الذكاء الاصطناعي من التلاعب.
ويُحظر إدخال بيانات العملاء أو الموظفين أو المعلومات السرية الخاصة بالمصرف في أدوات الذكاء الاصطناعي غير المصرح باستخدامها.
وعند استخدام تقنيات الذكاء الاصطناعي التوليدي، يطبق المصرف الضوابط الوقائية المناسبة للحد من المخاطر المحتملة، مثل المخرجات غير الدقيقة أو غير الملائمة، والإفصاح غير المصرح به عن المعلومات، والتلاعب بأنظمة الذكاء الاصطناعي، وإساءة استخدام أدواته.
العدالة وتجنب التحيز
لا يدعم المصرف استخدام الذكاء الاصطناعي بأي شكل قد يؤدي إلى التمييز غير المشروع أو المعاملة غير العادلة دون مبرر.
وتخضع تطبيقات الذكاء الاصطناعي الجوهرية لعمليات التقييم والاختبار المناسبة للكشف عن أي تحيز محتمل في البيانات أو النماذج أو النتائج، لا سيما في الحالات التي قد يؤثر فيها استخدام الذكاء الاصطناعي على العملاء أو الموظفين أو فرص الحصول على الخدمات المالية.
الإشراف البشري والمساءلة
تظل مسؤولية القرارات المدعومة بالذكاء الاصطناعي على عاتق المصرف والموظفين والإدارات المعنية والمساءلة عنها.
وتخضع تطبيقات الذكاء الاصطناعي لمستوى مناسب من الإشراف البشري يتناسب مع درجة مخاطرها وتأثيراتها المحتملة. وبالنسبة للتطبيقات عالية المخاطر، يجب أن يتمكن الموظفون المخولون من مراجعة النتائج الصادرة عن أنظمة الذكاء الاصطناعي، والاعتراض عليها، أو تعديلها أو إيقاف العمل بها عند الضرورة.
كما تخضع المحتويات التي يتم إنشاؤها باستخدام الذكاء الاصطناعي والمخصصة للاتصالات الجوهرية مع العملاء أو الجهات التنظيمية للمراجعة والموافقة البشرية المناسبة قبل استخدامها.
ويجب أن يكون لكل تطبيق جوهري للذكاء الاصطناعي جهة مسؤولة محددة، مع توزيع واضح للمسؤوليات المتعلقة بالموافقة عليه وتشغيله ومراقبته وضمان استمرار ملاءمته للغرض المخصص له.
الشفافية وحقوق العملاء
يسعى المصرف إلى ضمان تحديد أغراض تطبيقات الذكاء الاصطناعي الجوهرية بوضوح، وفهم دورها وحدودها الرئيسية ونطاق صلاحياتها في اتخاذ القرارات.
وعندما يتفاعل العملاء مباشرةً مع أنظمة الذكاء الاصطناعي، يحرص المصرف على الإفصاح عن ذلك بالشكل المناسب. وفي الحالات التي يؤثر فيها الذكاء الاصطناعي بصورة جوهرية على قرار يتعلق بأحد العملاء، يسعى المصرف إلى تقديم توضيح مناسب بشأن القرار، وإتاحة القنوات ذات الصلة لتقديم الملاحظات والشكاوى وطلب المراجعة البشرية، وفقاً للمتطلبات المعمول بها.
كما ينظر المصرف، عند الاقتضاء، في مدى ملاءمة إتاحة خيار للعملاء لعدم المشاركة في الإجراءات المدعومة بالذكاء الاصطناعي.
إدارة المخاطر والذكاء الاصطناعي المقدم من الأطراف الثالثة
يتبنى المصرف نهجاً قائماً على المخاطر في إدارة تطبيقات الذكاء الاصطناعي. وتخضع التطبيقات عالية المخاطر لتقييمات معززة، وعمليات تحقق مستقلة عند الاقتضاء، إلى جانب الاختبارات والمراقبة والحوكمة طوال دورة حياتها.
ويحتفظ المصرف بسجل لأنظمة الذكاء الاصطناعي بهدف تحديد الجهات المسؤولة عنها بوضوح، وتصنيف مخاطرها، والإشراف على دورة حياتها، وضمان حوكمتها بصورة مستمرة.
ويجب استخدام أنظمة الذكاء الاصطناعي حصرياً للأغراض المحددة والمعتمدة، وضمن الحدود والضوابط المقررة. وقد تستلزم أي تغييرات جوهرية في أغراض هذه الأنظمة أو وظائفها أو مستوى مخاطرها إجراء مراجعات إضافية والحصول على الموافقات اللازمة.
كما يخضع مزودو حلول الذكاء الاصطناعي من الأطراف الثالثة لإجراءات العناية الواجبة بما يتناسب مع مستوى المخاطر، وتشمل مجالات مثل حماية البيانات، والأمن السيبراني، وأداء الأنظمة، والامتثال للمتطلبات التنظيمية، واستمرارية الأعمال، وممارسات الاستخدام المسؤول للذكاء الاصطناعي.
ولا يعفي الاعتماد على مزودي الخدمات الخارجيين المصرف من مسؤوليته عن إدارة المخاطر المرتبطة بالذكاء الاصطناعي.
استخدامات الذكاء الاصطناعي التي لا يدعمها المصرف
لا يقوم المصرف بتطبيق أنظمة الذكاء الاصطناعي لأغراض غير مشروعة أو تنطوي على التضليل المتعمد أو الاستغلال، أو تتعارض مع قيم المصرف ومبادئ الشريعة الإسلامية ومعايير السلوك المهني المعتمدة لديه.
ويشمل ذلك أنظمة الذكاء الاصطناعي المصممة بهدف:
- التلاعب بالأفراد بطرق يُحتمل أن تتسبب في أضرار جسيمة.
- استغلال نقاط الضعف لدى الأفراد أو المجموعات.
- تسهيل ممارسات التمييز غير المشروع.
- إجراء تصنيفات أو تقييمات اجتماعية غير مشروعة أو غير مبررة.
- إجراء عمليات التعرف على الهوية باستخدام البيانات البيومترية أو المراقبة دون تصريح.
- تسهيل الاحتيال أو الجرائم المالية أو غيرها من الأنشطة غير المشروعة.
ولا يجوز تطبيق أنظمة الذكاء الاصطناعي التي تنطوي على مخاطر غير مقبولة من الناحية القانونية أو الأخلاقية أو الأمنية أو المتعلقة بالسلوك المهني، كما يجب إيقاف استخدامها إذا كانت مطبقة بالفعل.
الاعتبارات البيئية
يدرك المصرف أن بعض تقنيات الذكاء الاصطناعي قد تتطلب قدرات حوسبة كبيرة واستهلاكاً مرتفعاً للطاقة والمياه.
وعند اتخاذ القرارات الجوهرية المتعلقة بالتقنية أو المشتريات، وحيثما كان ذلك مناسباً، يراعي المصرف كفاءة حلول الذكاء الاصطناعي في استهلاك الطاقة والموارد، بما في ذلك البنية التحتية الداعمة لها من مراكز البيانات والخدمات السحابية، ومزودو الخدمات من الأطراف الثالثة ذوو الصلة.
الحوكمة والمراجعة
تتم إدارة الذكاء الاصطناعي ضمن أطر الحوكمة وإدارة المخاطر والبيانات والتقنية وأمن المعلومات المعتمدة لدى المصرف.
ويستند نهج المصرف في الاستخدام المسؤول للذكاء الاصطناعي إلى سياساته الداخلية، بما في ذلك سياسة علوم البيانات والذكاء الاصطناعي، وسياسة إدارة مخاطر الذكاء الاصطناعي، وإجراءات التشغيل القياسية ذات الصلة، والتي تحدد المتطلبات التفصيلية للحوكمة وإدارة المخاطر والإشراف طوال دورة حياة أنظمة الذكاء الاصطناعي.
ويتولى مجلس الإدارة والإدارة العليا الإشراف على نهج المصرف في استخدام الذكاء الاصطناعي، بما يشمل المخاطر المرتبطة به وأطر الحوكمة والمسؤوليات والمساءلة.
وتخضع أنظمة الذكاء الاصطناعي الجوهرية للاختبارات المناسبة والمراقبة المستمرة، بما يشمل تقييم الأداء والأمن وجودة البيانات والتحيز والنتائج غير المقصودة.
كما يعتمد المصرف إجراءات لتحديد الحوادث الجوهرية المرتبطة بالذكاء الاصطناعي، وتصعيدها إلى الجهات المعنية والاستجابة لها، بما في ذلك إجراء التحقيقات المناسبة، واتخاذ الإجراءات التصحيحية، وإخطار الجهات التنظيمية عند الاقتضاء.
ويعمل المصرف على تعزيز الوعي بالاستخدام المسؤول للذكاء الاصطناعي، وتوفير التدريب المناسب للموظفين وفقاً لطبيعة أدوارهم ومسؤولياتهم، بما يشمل حوكمة الذكاء الاصطناعي، والاعتبارات الأخلاقية، والمتطلبات التنظيمية، وضوابط الاستخدام المقبول.
ويراجع المصرف نهجه في الاستخدام المسؤول للذكاء الاصطناعي بصورة دورية، بما يواكب التطورات التقنية والتنظيمية والتوسع في استخدام تطبيقات الذكاء الاصطناعي.
تم اعتماد سياسة إدارة مخاطر الذكاء الاصطناعي من قبل مجلس إدارة المصرف