التقاضي بسوء النية في ميزان أنظمة الذكاء الاصطناعي

26 نوفمبر 2023
التقاضي بسوء النية في ميزان أنظمة الذكاء الاصطناعي

التقاضي بسوء النية في ميزان أنظمة الذكاء الاصطناعي

لقد تخطت البشرية عصر المجتمع الزراعي بعد حلول القرن التاسع عشر، إلى أن حلت الثورة الصناعية الكبرى في العديد من دول العالم، الأمر الذي أذى إلى إدخال التحسينات في كافة مجالات الحياة الاقتصادية والاجتماعية والسياسية والكثير من المتغيرات بفضل هذه الثورة التي ساهمت تباعا في صناعة التكنولوجيا والتي قادتها الآلات الالكترونية وحررت بها العبيد، إلى أن أصبحت هذه التحسينات سمة ذلك العصر[1].

و في عام 1950 قد اقترح آلان تورينج تعريفا لتحديد ما إذا كانت البرامج ذكية أم لا، و في نظريته يمكن قياس السلوك الذكي للبرنامج مثل الكفاءة الفكرية البشرية بحيث يكون البرنامج ذكيا عندما لا يعرف الإنسان ما إذا كان يتحدث مع البرنامج أو مع إنسان آخر، و منذ ذلك الوقت بدأت الأفكار تتوالى حول إنشاء أنظمة ذكية مما يجعلها من أهم التقنيات المستخدمة في الوقت الحاضر، حيث شهدت السنوات الأخيرة تطورا سريعا لاستخدام الذكاء الاصطناعي مثل تقنية التعلم العميق و تحليل البيانات و المحادثات الذكية و غيرها من الأنواع، فمع نشأة الذكاء الاصطناعي و تأثيره الملحوظ و المهم في الآونة الأخيرة من حياتنا بشتى أنواعه و مجالاته و الذي يعنى بدراسة كيفية تصميم و تطوير الأنظمة و البرامج و الأجهزة القادرة على القيام بالمهام التي تتطلب الذكاء أو التفكير البشري و الذي من خلالها يمكن القول بأنها تساهم في القدرة على تحسين الأداء و الجودة و تقليل الأخطاء البشرية و توفير الوقت و الجهد[2].

و لم يكن مجال العدالة بدوره بعيدا عن التأثر بأنظمة و تقنيات الذكاء الاصطناعي سواء فيما يتعلق بالتقاضي أو بالوسائل البديلة لفض المنازعات[3]، حيث تخطت التكنولوجيا الجديدة إلى القضاء من خلال تأسيس نظم متعددة في التقاضي الالكتروني بهدف تحقيق العدالة الناجزة في المحاكم بدول العالم المتحضر، ففي السنوات الأخيرة كان هناك اهتمام متزايد بالتطور التكنولوجي للذكاء الاصطناعي و تطبيقه المحتمل و الفعال لتطوير الأدوات التي تدعم عمل المتخصصين في مجال العدالة، و يتضمن الذكاء الاصطناعي جميع أنواع التقنيات التي تتميز بآلة تحاكي الوظائف “المعرفية” المرتبطة بالعقل البشري، مثل “التعلم” و “حل المشكلات” و “معالجة اللغة الطبيعية” و ما إلى ذلك، إلا أن العواقب المحتملة لاستخدام الذكاء الاصطناعي تمثل مصدر قلق كبير، و تحاول عدد من الجهات الفاعلة المختلفة تطوير أطر معيارية من أجل ضبط استخدامه، ووضع مبادئ توجيهية بهف حماية الحقوق و القيم الأساسية من الأضرار التي قد تسببها تكنولوجيا الذكاء الاصطناعي بالنظر إلى التشابكات العميقة بين التكنولوجيا في العدالة و الأنظمة المعيارية.

ففي ضوء حالة الاجتياح غير المسبوق للثورة الرقمية بمكوناتها الثلاث: الانترنيت – الأشياء و البيانات الضخمة Big Data، إضافة إلى الذكاء الاصطناعي، مختلف العلوم الإنسانية بما فيها القانونية كما سبق الذكر، يكثر الحديث في الأوساط الفقهية عن أثر هذه الثورة على القانون، لا سيما قدرتها القانونية على مساعدة المؤسسة القضائية إلى الوصول لعدالة قانونية أكثر موثوقية، فيما يعرف اليوم بالعدالة التنبؤية، معيدة بذلك التذكير بالترابط القائم بين القانون و الرياضيات، و بأن العدالة كما لها جانبها الإنساني فإن لها جانبها الرياضي الإحصائي، و كلاهما يجتمعان في عنصر مفصلي واحد هو “التنبؤ”، معتبرين أن الوصول إلى العدالة لا يخرج في جوهره عن استخدام مجموعة من المهارات و الخبرات القانونية في تحليل و فهم النص القانوني و الظروف المحيطة به وفق مفهوم التحليلات القانونية، ضمن نبوءة قانونية تشعر القاضي أن ما ينطق به هو العدل، ذلك أن السؤال يبقى واحدا سواء أكان في العدالة التقليدية أو نظيرتها التنبؤية و هو بماذا تحكم؟ وكيف تحكم؟[4].

وتعرف العدالة التنبؤية بأنها ” استخدام الخوارزميات للتنبؤ بنتيجة الإجراء القانوني وهو ما يسمى بوعد العدالة التنبؤية. وتعرف كذلك بأنها :” مجموعة من الأدوات التي تم تطويرها بفضل تحليل الكتل الضخمة من بيانات العدالة التي تقترح على وجه الخصوص من حساب Dalloz  للتنبؤ مسبقا بنتيجة النزاع[5].

ويهدف علم الذكاء الاصطناعي إلى فهم طبيعة الذكاء الإنساني عن طريق عمل برامج للحاسب الآلي قادرة على محاكاة السلوك الإنساني المتسم بالذكاء، وتعني قدرة البرمجة على حل مسألة ما أو اتخاذ قرار في موقف ما بناء على وصف لهذا الموقف، أو أن البرنامج نفسه يجد الطريقة التي يجب أن تتبع لحل المسألة أو للتوصل إلى القرار بالرجوع إلى العديد من العمليات الاستدلالية المتنوعة التي غدي بها البرنامج[6].

و بهذا فقد بات معلوما تأثير خوارزميات الذكاء الاصطناعي على مجال العدالة، و لكفاءتها و نجاعتها ، فقد أصبحت تلك الخوارزميات تصدر القرارات و تنفذ الإجراءات نيابة عن الأفراد في مجال التقاضي، و على الرغم من هذه المكاسب، فهناك مخاوف بشأن المكننة السريعة لقطاع العدالة عامة و القضاء خاصة .

و باعتبار حق التقاضي أحد أهم الحقوق و الحريات المكفولة دستوريا، و الدفاع أمام القضاء مصون بالقانون، كما نص عليه القانون العالمي لحقوق الانسان و مسوغ ذلك أن هذا الحق حق أصيل و يستحيل دونه أن يؤمن الأفراد على حرياتهم، أو يردوا على ما يقع عليها من اعتداء. و التقاضي الأصل فيه استعماله بحسن نية و طرح الخصوم وقائعهم حقيقة بعيدا عن الكذب وتحريف الوقائع و الأحداث، فالتقاضي كآلية لحل النزاع أو الوصول إلى الحق أو حمايته، لم يكن ليستقيم لولا شحنه بمفهوم أخلاقي يتجاوز المعيار القانوني الصرف المتجرد و القائم على شكليات مضبوطة و آليات مسطرية تؤطره و تؤطر الذي يدور في هذا المدار ، فبغض النظر عن النظريات الفقهية التأصيلية و التفصيلية له، فهو مبدأ أخلاقي بامتياز يتمثل أساس في ذلك الشعور الأخلاقي الذي يحمله كل فرد في وجدانه كيفما كان مستواه التعليمي أو المعرفي وعلى ضوءه يتعين على كل متقاضي ممارسة حقه ولو كان صاحب حق، فهذا لا يشفع له في استعمال أساليب و طرق تقوم على سوء النية و لو كان من شأنها صيانة حقوقه و مصالحه، بمعنى أنه لا مجال للقول بكون الغاية تبرر الوسيلة، فإن لم تكن هذه الأخيرة مشروعة و أخلاقية، فلا يمكن الحديث عن الغاية و لو كانت مشروعة فما بالك لو كانت غير ذلك[7].و نظرا للمزايا التي يقدمها الذكاء الاصطناعي في مجال العدالة فيمكن التساؤل عن مدى إمكانية هذه الأنظمة توقع طبيعة سلوكيات و استراتيجيات الخصوم أثناء عملية التقاضي و ما إذا كانت ممارستهم لحقوقهم وواجباتهم الإجرائية تنم عن حسن نيتهم في اتخاذ الإجراء أو تعسفهم في استعمال حقوقهم الإجرائية؟

إن مقاربتنا لهذا الموضوع ستنطلق من خلال تسليط الضوء على البعد التقني لتحديد مفهوم سوء النية في التقاضي وأثر هذه الممارسة التقنية على عملية التقاضي.

أثر الذكاء الاصطناعي على تحديد مفهوم سوء النية في التقاضي:

يقصد بمفهوم سوء النية في التقاضي “عدم مراعاة الخصم للواجب القانوني والأخلاقي”، فكل شخص قصد الخروج عن أحكام الواجب القانوني إلا ويعد سيء النية.

وقد عرفه جانب من الفقه الإجرائي بأنه عدم مراعاة الخصوم والقاضي واجبات الأمانة والنزاهة عند مباشرة الإجراءات في الخصومة المدنية من أجل صيانة حقوق ومصالح الأفراد والجماعات.

ويعرف أيضا بأنه كل فعل أو عمل لا يتفق مع المقومات الأخلاقية المتمثلة بالنزاهة والثقة والأمانة، عند مباشرة الإجراء القضائي حتى ولو لم يتضمنها نص تشريعي[8].

و يعد سوء النية الإجرائية من الأمور الخاصة بأصحابها و التي من الصعب تقديرها، إلا بالرجوع إلى ذات الشخص الذي باشر الإجراء القضائي، و لذلك لا يمكن وصف شخص أنه سيء النية إلا إذا رجعنا لنفسية الشخص و لذاته و البحث في طبيعته النفسية الخاصة، فهو عنصر نفسي داخلي يستدل عليه بطريقتين إما بسلوكه للإجراء لدافع الغش أو التحايل أو بالقرائن و الدلائل التي تحيط بالعمل الإجرائي الذي قام به الشخص، فهو مبدأ لا يتصور وجوده إلا في الشخص نفسه وفي ظروف معينة، وهو يعني أن الاعتداد بقانونية أحد الخصوم وهو حسن النية يكون مقبولا بالنسبة لشخص معين وقد لا يكون بالنسبة لشخص آخر له دور في نفس الواقعة محل الخلاف، وذلك لأن تقدير سوء النية يجب ألا يغفل المعطيات الشخصية للغير، فهناك عناصر معينة تؤثر على هذا المفهوم من شخص لآخر، وهذا يعني أنه مبدأ نسبي يتغير من شخص لآخر وليس له معيار مطلق، يمكن تطبيقه على كل الأشخاص.[9]

ذلك وإن كان القاضي يحكم وفق القانون، إلا أنه في إطار سلطته التقديرية ينظر إلى ما وراء القانون، في إطار ما يمكن تسميته بروح القانون والأخلاقيات التي بني عليها القانون، ما يتيح له قراءة حسية للنص القانوني والأدلة الواردة في الدعوى القضائية لا يمكن تلمسها بالحس الخوارزمي، كونها تتلمس بالحس الإنساني الصرف، مما يجعل القول بأن الحكم القضائي حكم حسابي قائم على المعادلات والترجح واستنتاج في غير محله. فالتنبؤ كعلم قانوني لا ضير فيه بالمطلق، بل هو ظاهرة صحية و متبعة في فهم و تكوين فلسفة العدالة، طالما أنه التزام بالمعايير التي تراعي الخصوصية القانونية و الفلسفية في هذا القانون، غير أن هذا العلم التنبؤي يجب أن يراعي خصوصية العينة البحثية التي هي موضوع التنبؤ لصحته و موثوقيته، و هنا الإشكالية في التنبؤ الرقمي، فالقانون في أصله علم إنساني تأويلي تفسيري، ما يطرح إشكاليتين رئيسيتين على صدقية العدالة التنبؤية، الأولى تتعلق بفهم اللغة بشكل عام، و الثانية تتعلق بفهم اللغة القانونية بشكل خاص، ذلك أن فهم اللغة الصحيح ببعديه العام و الخاص أمر في غاية الأهمية لصحة التنبؤ القانوني و الخلاصة التي يفضي إليها، ففهم اللغة يرتبط بطبيعة الفهم الممكن منحه للذكاء الاصطناعي، الذي لا يتردد البعض في نفي صفة الذكاء عنه مستعيضا عنها بصفة ” الغباء الاصطناعي”، و ذلك نظرا لطبيعة الغموض الذي يكتنف مدخلاته و طريقة التعامل معها ، وصولا إلى مخرجاته التي تستند لرموز و شيفرات لا يعلمها المتلقي و لا يستطيع التأكد من صحتها و حياديتها، لا سيما في العلوم الإنسانية.

فإن كان الذكاء الاصطناعي يمكنه أن يحاكي حدود الذكاء الطبيعي في العلوم العلمية المرتبطة بالمنطق الرياضي المنظم، فمن العسير عليه أن يحاكي الذكاء الطبيعي في العلوم المرتبطة بالمنطق الإنساني الفلسفي، الذي يلعب فيها الدور التأويلي المصطلحي دوراً بارزاً، كما في القانون. فالذكاء الاصطناعي ليس علماً واحدا متجانسا، بل هو نتاج علمي لجملة من العلوم والتقانات كالرياضيات والإحصاء وعلوم الكمبيوتر وغيرها. الأمر الذي يشكل تحدياً كبيراً لجهة التأكد من صحة القراءات الخوارزمية لهذه اللغة.

ومن المعلوم أنه كلما كانت قواعد البيانات الضخمة مرتبطة فيما بينهما بمؤشرات معيارية موضوعية تأويلية، فالنتائج ستكون حتماً غير موثوقة وستتزايد الانحرافات اللوغارتماتية كلما كبرت العينة والقواعد هنا تغدو القاعدة الخوارزمية التي تقول إنه كلما زاد حجم العينة الإحصائية كلما قلت نسبة الانحرافات في النتائج وزادت الموثوقية في النتائج النهائية غير صحيحة بالمطلق في العلوم الإنسانية عموماً والقانونية خصوصاً. بمعنى إنها إن كانت صحيحة في العلوم الرياضية والهندسية وملحقاتها، فإنه أقل موثوقية في العلوم الإنسانية والاجتماعية، سيما منها التي لا تعتمد على مدخلات مفاهيمية بسيطة، وإنما مركبة تأويلية، كما في موضوع سوء النية، ما يجعل كبر حجم العينة أو المدخلات أكثر طعناً في مصداقية النتائج المتحصلة، الأمر الذي يوجب العمل على زيادة الكفاءة المهنية في المدخلات، وفي المعادلات الخوارزمية العاملة عليه. هنا الخوف على العدالة من الروابط الخوارزمية المضللة التي تزداد احتماليتها كلما زادت وكبرت العينة ، فالقانون مليء بالكثير من المصطلحات المعيارية التأشيرية، التي لا يمكن أن تحدد بشكل رقمي لاسيما مفهوم حسن النية وسوئها، كل ذلك يجعل من عملية التعامل مع المدخلات الرقمية في هذا المجال أمراً في غاية التعقيد، وبالتالي يجب على هذه البرامج أن تجيد التعامل مع مختلف هذه الأوصاف، وإلا فإنها وفي إطار اعتقادنا أنها لا تمنحنا إجابة قانونية موثوقة تدعم من الأمان واليقين القانوني، إنما تمنحنا معلومات واستنتاجات قانونية مغلوطة تهمش هذا اليقين القانوني . وهنا أكثر ما يخشى أن يقوم الذكاء الاصطناعي، وفق برامجه اللوغارتماتية ببناء ارتباطات وهمية، وفق النبوءة الخاصة لهذه الخوارزميات التي تتحقق وفق المدخلات المتواجدة فيها، والتي ستكون هي عنوان الحقيقة الرقمية، رغم مخالفتها لعنوان الحقيقة الفعلية أو عدم تطابقها معها، ما يجعل الموثوقية بهده النتائج موضع نظر كبير، ما يضع على الدولة والأجهزة العاملة مسؤولية كبرى في تدقيق هذه المدخلات والخوارزميات الناجمة عنها قبل اعتمادها ونشرها للجمهور. كما يجب أن تكون عرضة للمراجعة والتدقيق المستمر لاسيما في عصر القرصنة الرقمية وعمليات التلاعب بالبيئة الرقيمة، لاسيما بالنسبة لحالات العدالة التنبؤية الذاتية أو ذات الطبيعة الرقمية الخالصة، ما يجعل التدخل البشري والمراجعة الدورية ضرورة حتمية لا مناص منها[10].

أثر الذكاء الاصطناعي على ممارسة التقاضي:

لا يمكن أن ننكر ما للذكاء الاصطناعي من أهمية في مجال التقاضي، ذلك أن هذه التقنية تعمل على تخمين فرص نجاح المتقاضي وحساب مبالغ التعويض وتحديد الأحكام السابقة التي تتوافق على أفضل وجه مع الدعوى المعروضة على القاضي وتحديد الحجج القانونية الأكثر فعالية لهذه الدعوى أو أي نزاعات أخرى، كذلك تقييم فرص الحصول على طلب محدد وتقييم متوسط مدة الإجراء القضائي والحد من مخاطر أي إجراء قضائي من الممكن القيام به وغيرها من المعلومات التي تفيد المتقاضي.[11]

لكن إذا كانت هذه التقنية تحدد مسبقا نتيجة الدعوى بناء على السوابق القضائية، فهل يمكن اعتبار المتقاضي سيء النية إذا ما استعمل حقه في التقاضي بالرغم من معرفته فشل قضيته مسبقا؟

مبدئيا يعتبر حق التقاضي حرية، أي أن الشخص يكون حرا في أن يستعمل هذا الحق في الوقت المناسب له، و بالنسبة لمن يشاء من الأشخاص على قدم المساواة، و حق التقاضي حق عام، فالشخص له أن يستعمل جميع الوسائل و الأشكال القانونية المقررة له في استخدامه سواء عن طريق الدعوى أو غيرها، و حرية اللجوء إلى القضاء تتعلق بالنظام العام مما يلقي على القاضي أن يتمسك بها من تلقاء نفسه[12].

يمكن القول أنه في الوقت الحالي لازالت تقنية الذكاء الاصطناعي في مجال العدالة متشبتة بحق اللجوء إلى القضاء بالرغم من احتمالية فشل القضية بشكل كبير، إلا أنه لا يمكن أن نكون متيقنين أن هذه التقنية في المستقبل لن تضع لنا مفهوما جديدا لسوء النية في التقاضي يرتكز على معيار فشل القضية ، أي أنه كلما كانت نسبة فشل القضية كبير كلما كان الشخص سيء النية في لجوءه إلى القضاء.

خاتمة:

إذا كانت العدالة الخوارزمية ستعطينا حلولا استشرافية فإنها لن تلغي نظام السوابق القضائية، كذلك فإن الأحكام القضائية مهما بلغت شدة ترجيحها و تعليلها، فإنها إن لم تصبح موضع توافق اجتهادي موضوعي و إقرار اجتهادي قضائي من قبل محكمة النقض فقد لا يكون لها القدرة على البقاء، عليه لا يمكن للعدالة التنبؤية أن تقولب الاجتهاد القضائي، فالأصل في الاجتهاد القضائي الابتكار و القدرة على تكيف التشريع لمجاراة مختلف المتغيرات الاجتماعية و الاقتصادية في المجتمع، فالقاضي ليس نسخة مستنسخة عن زملائه ليعيد تكرار الأحكام السابقة التي اتخذت من قبل زملائه، بل هو ليس تكرارا لذاته في تجربته و عمره المهني حيث يمكنه هو في ضوء سلطته التقديرية و حيثيات الدعوى أمامه أن يصدر حكما مختلفا عما ذهب وحكم به في قضية مشابها و سبق و حكم بها[13]، و هذا ما ينطبق على تحديد مفهوم سوء النية في التقاضي ذلك أن هذه المسألة مازال يحوطها الغموض سواء في الفقه أو القضاء، و إذا تصفحنا موقف الفقه نجده يعالج هذه المسألة بحلول متفرقة تراعي ظروف كل حالة على حدة و أنه يتحاشى وضع معيار معين حيث لا يتقيد به في غيره من الحالات، مما يجعل من الصعب على القاضي الاصطناعي على غرار القاضي البشري التنبؤ و تحديد سوء نية الشخص في التقاضي[14].

فالعدالة التنبؤية غالبا ما تكون ناقصة و خالية من التفسير البشري، كون أنظمة الذكاء الاصطناعي تعمل على خوارزميات و قواعد محددة مسبقا كما أسلفنا الذكر، فهي إذ تتميز في معالجة كميات كبيرة من البيانات و تحديد الأنماط، قد تواجه صعوبات في الاستدلال القانوني و التفسير المعقد، و لا سيما أن القضايا القانونية قد تنطوي على تفاصيل دقيقة قد تتطلب خبرة بشرية، لذلك فإن الاعتماد الحصري على الذكاء الاصطناعي قد يؤدي إلى تجاهل عوامل مهمة و بالتالي إلى قرارات غير دقيقة[15].


[1] فاطمة عبد العزيز حسن أحمد بلال:” دور الذكاء الاصطناعي في تعزيز العدالة الناجزة أمام القضاء- دراسة مقارنة مع النظامين القانوني والقضائي في دولة قطر-، رسالة لنيل شهادة الماجستير في القانون الخاص-جامعة قطر- كلية القانون-، السنة الجامعية 2023، ص 1.

[2] منال فاضل البلوي/ هتاف عبد الهادي الصقير/ رانيا محمد السلمي/رغد مرزوق البلوي:” أثر الذكاء الاصطناعي في دعم التقاضي-محول الدردشة التوليدي المدرب مسبقا-“،مجلة البحوث المالية والتجارية- المجلد 24 العدد الثالث- يوليو 2023، ص 55.

[3] محمد حسن السحلي:” أساس المساءلة المدنية للذكاء الاصطناعي المستقل – قوالب تقليدية أم رؤية جديدة؟- كلية الحقوق -جامعة الإسكندرية-، سنة 2022، ص 10.

[4] محمد عرفان الخطيب:” العدالة التنبؤية و الدعوى القضائية -الفرص و التحديات- دراسة نقدية معمقة في الموقف الانكلوسكسوني واللاتيني”، مجلة الدراسات القانونية العدد 3، سنة 2019، ص 1.

[5] فاطمة عبد العزيز حسن أحمد بلال:” دور الذكاء الاصطناعي في تعزيز العدالة الناجزة أمام القضاء” ، م.س، ص 59.

[6] عمر عبد المجيد مصبح: ” توظيف خوارزميات” العدالة التنبؤية” في نظام العدالة الجنائية: الآفاق و التحديات”، المجلة الدولية للقانون، المجلد العاشر، العدد المنتظم الأول،2021، ص 238.

[7] يوسف أقصبي:” التقاضي بحسن النية آلية للرفع من النجاعة القضائية” مقال منشور بموقع https://www.mohamah.net/law، تاريخ الإطلاع: 28/09/2023 الساعة 22:00 .

[8] أحمد سمير محمد ياسين/ مروى عبد الجليل شنابة:” مبدأ حسن النية في قانون المرافعات المدنية (دراسة تحليلية مقارنة)، مجلة الدراسات المستدامة، السنة الثالثة المجلد الثالث العدد الثالث ملحق 1 لسنة 2021، ص 51.

[9] [9]”،أحمد سمير محمد ياسين/ مروى عبد الجليل شنابة:” مبدأ حسن النية في قانون المرافعات المدنية م. س، ص 53.

[10] محمد عرفان الخطيب:” العدالة التنبؤية و الدعوى القضائية…”، م.س، ص 11.

[11] فاطمة عبد العزيز حسن أحمد بلال:” دور الذكاء الاصطناعي في تعزيز العدالة الناجزة أمام القضاء” ، م.س، ص 59.

[12] عبد الله عيسى الرمح:” الجذور التاريخية و الفكرية للحق في التقاضي و التعسف و الكيدية في استعماله” مجلة كلية القانون الكويتية العالمية السنة 10- ملحق خاص- العدد 10، أبحاث المؤتمر السنوي 8- الجزء 1، نوفمبر 2021،ص 148.

[13] محمد عرفان الخطيب:” العدالة التنبؤية والعدالة القضائية..”، م. س، ص 22.

[14] إبراهيم أمين النفياوي:” مسؤولية الخصم عن لإجراءات- دراسة مقارنة في قانون المرافعات”، رسالة لنيل الدكتوراه في الحقوق-جامعة عين شمس-كلية الحقوق، ص 9.

[15] فاطمة خشاب درويش:” الذكاء الاصطناعي في نظام العدالة: تهديد أم فرصة”، منشور على موقع https://al-akhbar.com/، تاريخ الإطلاع 01/10/2023 على الساعة 22:00.