الذكاء الاصطناعي والمسؤولية القانونية

Intelligence Artificielle et Responsabilité Légale

الملخص

قدم المقال دراسة استشرافية لامكانية مساءلة الذكاء الاصطناعي, وذلك عبر مبحثين تناول الأول الاطار المفاهيمي للذكاء الاصطناعي من خلال ابراز ماهيته و أهميته في المجال القانوني في حين عرض الثاني للمسؤولية القانونية للذكاء الاصطناعي في ضوء الاعتبار الشخصي لهذا الذكاء وذلك بالتطرق الى قيام كل من المسؤولية المدنية والجنائية عن الأخطاء أو الجرائم التي قد يرتكبها.

وقد خلصت الدراسة الى عدم امكانية تطبيق أي من قواعد هذه المسؤولية على الذكاء الاصطناعي على اعتبار أنه لا يمكن مساءلته ذاتيا عن أفعاله,  حيث أن تقنيات الذكاء الاصطناعي تبقى بمعزل عن اسقاط قواعد المسؤولية عن الأفعال الشخصية والتي لها محدودية في التطبيق, مما يوحي أن القواعد التي خصا المشرع  المدني و الجنائي لكل من المسؤولية المدنية و الجنائية غير واضحة بالنسبة لتقنيات الذكاء الاصطناعي, لكونها توجه للشخص الطبيعي.

   L’article présente une étude exploratoire sur la possibilité de tenir l’intelligence artificielle responsable. Cela est accompli à travers deux sections. La première section abord le cadre conceptuel de l’intelligence artificielle en mettant en évidence sa nature et son importance dans le domaine juridique, la deuxième section de la responsabilité juridique de l’intelligence artificielle à la lumière de sa considération personnelle. Cela est réalisé en examinant la responsabilité civile et pénale pour les erreurs ou les crimes qu’elle pourrait commettre.

L’étude conclu qu’il n’est pas possible d’appliquer l’un de ces cadres de responsabilité à l’intelligence artificielle en raison de son incapacité à être responsable de ses actions. Les techniques d’intelligence artificielle restent distinctes de l’application des règles de responsabilité concernant les actions personnelles, qui sont limités en portée. Cela suggère que les règles définies par les législations civiles et pénales pour la responsabilité civile et pénale ne sont pas claires en ce qui concerne les techniques d’intelligence artificielle, car elles sont conçues pour les personnes physiques.        

مقدمة

شهد العالم تقدما علميا تكنولوجيا هائلا شمل جميع مناحي الحياة, ولعل الذكاء الاصطناعي من أهم اثار التكنولوجيا الحديثة. حيث أصبح اليوم يعيش مرحلة تغيير جذري على مستوى استغلال التكنولوجيا, بحيث نجد أن الفضاء الالكتروني قد تطور وانتقل من مرحلة تخزين البيانات ومعالجتها الى تحقيق الادراك و القرار الذاتي للتكنولوجيا بما يحاكي الذكاء الانساني عبر استخدام تكنولوجيا الذكاء الاصطناعي AI[1]. 

ويمثل أهم مخرجات الثورة الصناعية الرابعة لتعدد استخداماته في المجالات العسكرية و الصناعية والاقصادية و التقنية والتطبيقات الطبية و التعلمية و الخدمية, ويتوقع له أن يفتح الباب لابتكارات لا حدود لها وأن يؤدي الى مزيد من الثورات الصناعية  بما يحدث تغييرا جذريا في حياة الانسان.

ويقصد بالذكاء الاصطناعي, أنظمة كمبيوتر التي لها القدرة على القيام بذات المهام المطلوبة من الانسان البشري, ولكن بصورة أسرع من تلك التي يقوم بها الأخير, فالذكاء الاصطناعي يقوم على محاكاة الذكاء البشري في الالات المبرمجة للتفكير مثل البشر, وتقليد أفعالهم, بحيث تكون لتلك الأنظمة القدرة على اتخاذ الاجراءات المناسبة من تلقاء نفسها, ودون تدخل من العنصر البشري, وتشمل أهداف الذكاء الاصطناعي, التعلم, و الاستدلال, و الاستدراك[2].

ويعد الذكاء الاصطناعي جزءا لا يتجزأ من القانون, فالقانون هو اللبنة الأساس لحماية المجتمع, والقواعد القانونية هي الكفيلة بالسهر على تنظيم حياة الأفراد داخل المجتمع, ولذلك فالأنظمة الذكية لا يمكن تصورها بمعزل عن القواعد القانونية, فما دامت قد وجدت في دولة ما لها سيادة ولها قانون ينظمها, الا أنها تظل تحكم حتى الذكاء الاصطناعي الذي يراعى فيه بالأساس احترامه للنظام العام وعدم مخالفته له.

حيث أصبح الذكاء الاصطناعي واقعا مفروضا في حياة البشر لكونه يتدخل في جميع الانشطة الحياتة التي يقوم بها البشر, بل يتدخل أيضا في جميع فروع القانون كالقانون المدني و التجاري و الاجتماعي وغيره, ولذلك فان الموجة التكنولوجية التي تعتبر في تزايد مستمر ستوضح أنه لا يمكن للبشر الاستغناء عن خدمات الذكاء الاصطناعي, وعليه فالذكاء الاصطناعي تسعى خلفه جل الدول, ولا يمكن أن نجد في المستقبل القريب دولة بدون أنظمة ذكية, حتى وان كان الواقع العملي قد كشف عن وجود بعض التطبيقات الذكية لكل البيوت كالهواتف الذكية مثلا, وبالتالي لا يمكن أن نتصور هذه الأنظمة الذكية بمعزل عن المجال القانوني.         

ويثير الاعتماد على نظم الذكاء الاصطناعي تساءلات عديدة, وتتعلق بكيفية استيعاب القانون لمعالجة مشكلات المسؤولية الناتجة عن استخدام هذه النظم الذي يمكن أن يلحق أضرارا بالأفراد. فكل شخص طبيعي أو معنوي, يعد مسؤولا مدنيا وجنائيا عن تبعات أفعاله, واذا ما تم الاتفاق على الاعتراف بالذكاء الاصطناعي في جل الدول, فان التساءل يطرح حول من يتحمل المسؤولية القانونية عن أفعاله. 

اشكالية البحث

ومن ما تقدم فان الاشكالية المحورية للموضوع ستكون على الشكل التالي:

كيف يمكن تطوير اطار قانوني فعال لتحديد المسؤولية القانونية عن أخطاء الذكاء الاصطناعي, مع مراعاة تعقيدات تحديد المسؤول في ظل طبيعة ذكاء اصطناعي غير قائم على الكيان البشري ؟  

وتتفرع عن هذه الاشكالية جملة من التساءلات الفرعية نثيرها على الشكل التالي:

• ماهي الاثار الاقتصادية و الاجتماعية لتحديد المسؤولية القانونية للذكاء الاصطناعي؟
• هل يجب أن تكون هناك معايير أخلاقية أو توجيهات عالمية لتحديد المسؤولية القانونية للذكاء الاصطناعي  ؟
• وماهي المعايير التي يمكن استخدامها لتحديد مستوى تقصير الذكاء الاصطناعي وامكانية تطبيق المساءلة القانونية؟

المنهج المعتمد للدراسة

للاجابة ومناقشة الموضوع سندرج على اعتماد المنهج الوصفي و التحليلي اضافة الى المنهج المقارن, لعدم وجود تنظيم تشريعي وطني محكم ينظم ويقنن أنظمة الذكاء الاصطناعي في المغرب, وبالتالي سنتطرق للقواعد العامة للقانون المغربي مستأنسين بنصوص القانون المدني الأوروبي وغيرهما ممن وضعوا تشريعات منظمة لهذا المجال.

خطة البحث

وجدير بالاشارة في هذا السياق الى أن دراستنا هذه ستتم استنادا على المناهج المحددة التي ستتيح لنا السبيل ايجاد الحلول و الخروج في نهاية المطاف بحل لجميع التساءلات التي أثرناها أو سنثيرها فيما هو ات من الموضوع, حيث ارتأينا الاعتماد على تقسيم ثنائي للموضوع  كما يلي:

المبحث الأول: الاطار المفاهيمي للذكاء الاصطناعي

المبحث الثاني: الذكاء الاصطناعي و المسؤولية القانونية المترتبة

المبحث الأول: الاطار المفاهيمي للذكاء الاصطناعي

تلعب تكنولوجيا المعلومات والخوارزميات والاتصالات متمثلة بالذكاء الاصطناعي على تغيير دور المستهلك “المستخدم” من معزول تقنيا الى متواصل, ومن غير مدرك و لا فعال الى مستنير وفعال ونشط, ومن سلبي الى ايجابي, فهذه مجموعة العمليات الخاضعة للذكاء الاصطناعي تسمى بالتحول الرقمي, وهي تكنولوجيا جديدة تنقل المستهلك من واقع تقليدي الى واقع مطلع سريع للغاية[3], حيث تخطى العالم به عصر “تقنية المعلومات” التي يعتمد الانسان فيها على الحاسوب في عملية جمع البيانات واسترجاعها, بينما تتم عملية الاستدلال و الاستنتاج واتخاذ القرارات من جهة الانسان نفسه لا من جهة الحاسوب, ليتجاوز العالم اليوم هذه النقطة وتصير الحواسيب هي التي تجيد الحلول وتتخذ القرارات بدلا من الانسان, بناء على العديد من العمليات الاستدلالية التي تغذى بها, حتى صارت الحواسيب قادرة على محاكاة السلوك البشري المتسم بالذكاء[4].

المطلب الأول: تعريف الذكاء الاصطناعي

من خلال هذا المطلب سنقف عند تعريف الذكاء الاصطناعي من خلال التطرق الى ماهيته (الفقرة الأولى) ثم الاشارة الى أهمية الذكاء الاصطناعي في المجال القانوني (الفقرة الثانية).

الفقرة الأولى: ماهية الذكاء الاصطناعي

عند تتبع أدبيات الموضوع اتضح أنه يزخر بالعديد من التعريفات لمفهوم الذكاء الاصطناعي منها ما هو صادر عن منظمات ومنها ما هو اجتهاد فردي, وعليه سنعرض لبعض تلك التعريفات تباعا كما يلي:

يمكن تعريف الذكاء الاصطناعي على أنه:”مجموعة من التقنيات القادرة على التعلم, واستخدام المنطق, والتكيف, وأداء المهام بطرق مستوحاة من العقل البشري”[5].

كما أن هناك من عرفه على أنه علم الحاسوب المرتبط بعلوم أخرى كعلم النفس و المعرفة, والمهتم بجعل الحواسيب تؤدي المهام بكفاءة عالية تحاكي كفاءات البشر والسعي لجعلها تفكر بذكاء[6].      

في علم الحاسوب يشير مصطلح الذكاء الاصطناعي AI الى أي ذكاء شبيه بذكاء الانسان بواسطة الحاسوب أو الربوت أو أي جهاز اخر, وتعريف الذكاء الاصطناعي الشائع يشير الى قدرة الالات على محاكاة القدرات العقلية البشرية والتعلم من أمثلة و تجارب وتعرف على الأشياء وتعلم اللغات و الاستجابة لها واتخاذ قرارات وحل المشكلات والجمع بين هذه القدرات وغيرها لأداء وظائف قد يؤديها الانسان[7]. وقد عرف العلماء الذكاء الاصطناعي على أنه: “العلم المتعلق بصناعة الالات وتصميم البرمجيات التي تقوم بأنشطة ومهام تتطلب ذكاء اذا ما قام بها الانسان”[8], أو “أنه العلم الذي يهدف الى صناعة الالات وتطوير حواسيب وبرمجيات تكتسب صفة الذكاء, ويكون لها القدرة على القيام بمهام ما زالت الى عهد قريب حصرا على الانسان”[9] كما أن هناك من عرفه على أنه:”فرع من فروع علوم الهندسة المتعلق بفهم ما يسمى بسلوك الذكاء والعمل على تجسيد هذا السلوك اصطناعيا[10].

وتعريف اخر أورده على أنه تصرف الجهاز الذي لو عمله الانسان يكون تصرفا ذكيا[11], أيضا هو:”علم يهتم بصناعة الات بتصرفات يعتبرها الانسان تصرفات ذكية”[12].   

ويعرف أيضا بأنه:”مجال للعلم والتكنولوجيا يعتمد على علوم مثل: علم الحاسب والبيولوجي وعلم النفس واللغويات والرياضيات والهندسة, والهدف تقديم حاسبات الية قادرة على التفكير و الرؤية السمع و المشي و الحديث و الاحساس”[13].

وتتفق جميع التعاريف السابقة على أن الذكاء الاصطناعي عبارة عن تقنيات قادرة على التعلم وصنع القرار لذلك هي الات ذكية.

الفقرة الثانية: أهمية الذكاء الاصطناعي في المجال القانوني

يعد الذكاء الاصطناعي جزءا لا يتجزأ من القانون, فالقانون هو اللبنة الأساسية لحماية المجتمع, والقواعد القانونية هي الكفيلة بالسهر على تنظيم حياة الأفراد داخل المجتمع, ولذلك فالأنظمة الذكية لا يمكن تصورها بمعزل عن القواعد القانونية, فما دامت وجدت في دولة لها سيادة ولها قانون ينظمها, الا أن هذه القواعد تظل تحكم حتى الذكاء الاصطناعي الذي يراعى فيه بالأساس احترامه للنظام العام وعدم مخالفته له. فأصبح الذكاء الاصطناعي واقعا مفروضا في حياة البشر لكونه يتدخل في حياة جميع الأنشطة الحياتية التي يقوم بها البشر[14].    

تتعدد الفوائد المتعلقة باستخدام التكنولوجيا القانونية, حيث نجد أنه ثمة العديد من الفوائد المحتملة بحيث يمكن للمستخدمين التحقق من أي وثيقة فردية بشكل جزئي أو كلي تلقائي, وبخلاف ذلك فقد أصبحت العقود الذكية شائعة تقريبا, وتعرف بأنها اجراء التفاات و المعالات التجارية الكترونيا, وذلك بهدف تنفيذ شروط العقد رقميا, وأنها تتيح أداء المعاملات بمصداقية عالية و موثوقة, دون الحاجة الى أطراف ثالثة – حيث توجد تطبيقات أحدث في السوق يمكنها التعامل مع القضايا القانونية بشكل مستقل, وفي الوت الحال توجد برامج تقنية قانونية تتيح التعلم الالي, خاصة في مجال العقود, كما يتم استخدام هذه التكنولوجيا في قضايا تسوية المنازعات عبر الأنترنيت.

وفيما يتعلق بالاستخدام العام للتكنولوجيا القانونية, يضطلع القانون بدور رائد في الولايات المتحدة الأمريكية والعديد من الدول الأوروبية قامت الشرطة بتطبيق تقنية Big data التي تهدف الى مساعدتهم على التنبؤ بالجرائم المستقبلية, كما يتم استخدام اتكنولوجيا القانونية في النظام القضائي, فيعد اجراء تحصيل الديون الالي أول مثال بسيط في ألمانيا.

أما بخصوص التشريع المغربي – فقد بدأ يواكب التطورات الحديثة في مؤسساته- حيث نلاحظ أنه يتجه للاعتماد على تقنية الذكاء الاصطناعي من أجل تعزيز أدوار هذه المؤسسات, حتى وان كان اعتماده هذا مازال منعدما فيما يتعلق بجهاز الشرطة التنبئية, لما له من دور كبير في الاسهام في الكشف عن الجريمة, غير أنه في حالة ما اذا اعتمده مستقبلا ينبغي عليه تعديل مقتضيات القانون الجنائي التي لا تعاقب على المحاولة في بعض الجنح[15].

وتعمل تطبيقات الذكاء الاصطناعي في مجال القرارات الادارية على تحقيق التواصل الذكي بين المواطنين و الحكومات وبين الموظفين واداراتهم, كما تعمل على توفير زيادة التفاعل من خلال استخدام وسائل ذكية لاصدار قرارات ادارية من شأنها تعزيز جودة الخدمات التي تقدمها جهة ادارية[16].

المطلب الثاني: الأساس التشريعي للذكاء الاصطناعي

من خلال هذا المطلب سنتطرق الى الأساس التشريعي للذكاء الاصطناعي ما يستدعي من الوقوف عند التطور التاريخي للذكاء الاصطناعي (الفقرة الأولى) ثم التطور التشريعي (الفقرة الثانية).

الفقرة الأولى: التطور التاريخي للذكاء الاصطناعي

مع تطور العلوم و تقدم التقنية, اتجه النسان نحو الالة للاستفاذة منها في مساعدته عى انجاز المهام على نحو أكر اتقانا وسرعة ومرونة, وصارت التحسينات تجري على الالات وصارت تكتسب صفة الذكاء على نحو يحاول أن يحاكي القدرات الذهنية الفريدة عند الانسان وهو ما اصطلح عليه العلماء المختصون بالذكاء الاصطناعي Artificiel intelligence, وتتضمن أنظمة الذكاء الاصطناعي بعض الوظائف القابلة للبرمجة مثل التخطيط و التعلم والتفكير و حل المشكلات واتخاذ القرارات ببعض المجالات, ويتم تشغيل أنظمة الذكاء الاصطناعي بواسطة خوارزميات باستخدام تقنيات مثل التعلم الالي والتعلم العميق.

وقد تم أول عمل جوهري في مجال الذكاء الاصطناعي على يد عالم المنطق ورائد الكمبيوتر البريطاني “الان تورينج” في منتصف القرن العشرين حين أجرى ما سمي “باختبار تورينج” وهوطريقة للتحقيق في الذكاء الاصطناعي لتحديد ما اذا كان الكمبيوتر قادرا على التفكير كانسان أم لا, حيث يعد تورينج اضافة الى كل من مارفن مينسكي, ولايسن نيويل, وهوبرت سايمون, وجون مكارثي الاباء المؤسسين للذكاء الاصطناعي.

وبخصوص صياغة مصطلح “الذكاء الاصطناعي” على هذا النحو فقد كانت سنة 1955 حين تقدمت مجموعة من العلماء بطلب اقامة مؤتمرالى ادراة كلية دارتموث في الولايات المتحدة الأمريكية, وشكل ذلك المؤتمر الانطلاقة الحقيقية لأبحاث الذكاء الاصطناعي المتخصصة, وقاد العلماء الذين شاركوا فيه الأبحاث في هذا المجال خلال السنوات التالية.

أما النسبة للاتحاد الأورربي فقد عمد الى وضع العديد من التوصيات بشأن قواعد القانون المدني المطبقة على أنظمة الذكاء الاصطناعي وكان ذلك سنة 2017, كما أصدرت سنة 2019 مجموعة من الارشادات حول الكيفية التي يجب على الحكومات و الشركات اتباعها عند تطوير تطبيقات الذكاء الاصطناعي[17].

الفقرة الثانية: التطور التشريعي للذكاء الاصطناعي

يعتبر التنظيم القانوني ضروري في العالم الرقمي, لأن القانون يضطلع بوظيفة مجتمعية هامة والتي تتمثل في المقام الأول في خدمة الصالح العام وحماية الأقليات, وحيث تفتقر أجهزة الكمبيوتر الى فهم الأعراف الاجتماعية و اللغة, فانه ينبغي على المشرعين سد هذه الفجوات[18].

وقد بدأ الاهتمام بالذكاء الاصطناعي خلال العقدين الماضيين, وذلك بسبب الانجازات الكبيرة التي حققها في العديد من المجالات مثل الطب, واللوجستية, والصناعة, والاقتصاد, ومعالجة اللغات الطبيعية, وتداول الأسهم في الأسواق, والأنظمة الأمنية في تحليل الصور و الأصوات[19], حيث واكب المشرع الفرنسي و الأروبي التطور الهائل في مجال التكنولوجيا, وبذلك عمدت الكثير من التشريعات الى اصدار قوانين خاصة بالربوتات والذكاء الاصطناعي, حيث أصدر المشرع الأوروبي سنة 2017 قانونا خاصا بالربوتات ألغى فيه وصف “الشيء” بالنسبة للربوت, واستخدم مصطلح “النائب الالكتروني أو الانساني”, ثم أصدر الاتحاد الأوروبي سنة 2019 مجموعة ارشادات حول بيان كيفية تطوير تطبيقات الذكاء الاصطناعي, فيما يخص الولايات المتحدة الأمريكية فقد أصدرت “قانون مستقبل الذكاء الاصطناعي و افاقه في العالم”  وذلك سنة 2017, وهو أول قانون يتمحور حول نظم الذكاء الاصطناعي, أما بالنسبة لموقف المشرع البريطاني فقد فقد تم تعيين لجنة مختارة حول الذكاء الاصطناعي, من قبل مجل اللوردات سنة 2017 للنظر في الاثار الاقتصادية و الاجتماعية و الأخلاقية في مجال الذكاء الاصطناعي, في حين نجد أن البرلمان الأوروبي سنة 2018 اقترح على الدول الأعضاء في الاتحاد, وضع تشريع بشأن الجوانب القانونية لتطوير استخدام الربوت و الذكاء الاصطناعي, ثم أصدر الاتحاد الأوروبي نصوصا تكميلية للائحة الأوروبية العامة لحماية البيانات الشخصية, التي تضع اطارا للتدفق الحر للبيانات غير الشخصية في الاتحاد الأوروبي رقم 1807 لسنة [20]2018.

غير أن ما يعاب على التشريع المغربي هو أنه ولحدود اللحظة ما زال لم يستطع مسايرة التقدم التكنولوجي, مما يجعله متأخرا بشكل كبير في تنزيل هذه الأنظمة الذكية, مقارنة بالتجارب الدولية السابق ذكرها, وهو ما يؤدي و الحالة هذه الى غياب نصوص قانونية تؤطر هذه الأنظمة.  

المبحث الثاني: الذكاء الاصطناعي و المسؤولية القانونية المترتبة

اقتحمت أنظمة الذكاء الاصطناعي جميع مناحي حياة الانسان, وأصبحت هي التي تعمل وتفكر وتجد الحلول نيابة عن الانسان, وعليه فمهما بلغت درجة دقة وتطور الذكاء الاصطناعي لا من أن يرتكب خطأ, وبالتالي ارتكابه للجرائم, أو قد يقوم بأعمال قد يترتب عليها ضرر للغير, مما يستتبع العمل على تطوير أنظمة الذكاء الاصطناعي, مع أهمية الحفاظ على حقوق الانسان, وفائدة المستخدمين, بحيث تعطى الأولوية لزيادة رفاهية الانسان, وايجاد معايير أخلاقية لعمل أنظمة الذكاء الاصطناعي[21], وفي هذه الحالات يصعب تحديد المسؤول عن هذه الاضرار, و يقصد بالمسؤولية من الناحية اللغوية مجموعة من القواعد التي تضبط سلوك الشخص, وهي تنقسم بذلك الى مسؤولية مدنية تحكمها مقتضيات القانون المدني, ومسؤولية جنائية تخضع لمقتضيات القانون الجنائي.  فالمسؤولية القانونية للذكاء الاصطناعي, اما أن تكون مسؤولية مدنية تترتب عن الأضرار التي يسببها الذكاء الاصطناعي للغير, واما أن تكون مسؤولية جنائية تثار في حالة قيام الذكاء الاصطناعي بارتكاب جرائم ضد الغير.    

وبالتالي سنقتصر في هذا الجزء من الدراسة على ابراز تصورات حديثة للمسؤولية بعد بيان أحكامها في مجال الذكاء الاصطناعي.

المطلب الأول: المسؤولية المدنية عن أخطاء الذكاء الاصطناعي

يقصد بالمسؤولية “la responsabilité” عند اطلاق هذا المصطلح تحمل الشخص لنتائج وعواقب التقصير الصادر عنه أو عمن يتولى رقابته والاشراف عليه, أما بخصوص المعنى الدقيق لمصطلح المسؤولية في الميدان المدني فهي تعني المؤاخذة عن الأخطاء التي تضر بالغير وذلك بالزام المخطئ بأداء التعويض للطرف المضرور وفقا للطريقة و الحجم الذي يحددهما القانون[22].

وتعتبر المسؤولية القانونية للذكاء الاصطناعي تحديا قانونيا مطروحا, لكونه وصل لمرحلة يتخذ فيها قرارات مستقلة كليا عن ارادة البشر دون تدخل من هذا الأخير, وبالتالي فان منحه الشخصية القانونية سيمنحه جملة من الحقوق و الالتزامات ما سيجعله كالانسان تماما, حيث أن هذه النقطة تعتبر موضوع نقاش كبير في أغلب الدول. وبذلك تجدر بنا الاشارة هنا الى المسؤولية المدنية للذكاء الاصطناعي القائمة على الاعتبار الشخصي حتى يتسنى لنا معرفة مدى امكانية مساءلة الذكاء الاصطناعي عن أفعاله شأنه في ذلك شان الشخص الطبيعي, وعليه لا بد من التطرق لمدى قيام المسؤولية العقدية للذكاء الاصطناعي (الفقرة الأولى) ثم تحقق المسؤولية التقصيرية للذكاء الاصطناعي (الفقرة الثانية).

الفقرة الأولى: المسؤولية العقدية للذكاء الاصطناعي

تعتبر المسؤولية العقدية جزءا لا يتجزأ من المسؤولية المدنية عموما, فكلاهما يهدف الى تعويض الطرف المضرور عن الأضرار و الخسائر التي لحقت به سواء كان ذلك ناتجا عن الاخلال ببنود العقد أو التأخير في تنفيذه, فالمسؤولية العقدية لا تعدو أن تكون أثرا من اثار الاخلال بالالتزامات العقدية أو بتعبير اخر مجرد جزاء من جزاءات عدم تنفيذ الالتزام.

ويتحدد مفهوم المسؤولية العقدية في الحالة التي يخل فيها المتعاقد بالتزاماته اتجاه الطرف الاخر, ويؤخذ مصطلح الاخلال بمعناه الواسع بحيث يشمل حالات عدم تنفيذ الالتزام كلا أو بعضا, وكذا الحالات التي يتأخر فيها التنفيذ عن وقته المحدد العقد[23].

واذا ما تم استخدام الذكاء الاصطناعي على أساس رابطة عقدية, فان المسؤولية العقدية ستقوم هنا على أساس اخلال أحد الأطراف بالتزام عقدي ناشئ عن العقد, مما يستلزم معه توفر مجموعة من الشروط, حتى تنطبق المسؤولية العقدية للذكاء الاصطناعي, كأن يكون هذا العقد صحيحا, وأن يتم الاخلال بتنفيذه من جانب أحد المتعاقدين بالتزام عقدي, بالاضافة الى توفر أركان المسؤولية العقدية التي تتمثل في الخطأ والضرر وعلاقة سببية[24].

فالخطأ العقدي يتخذ أكثر من مظهر قانوني,يختلف باختلاف نوعية الاخلال الذي ارتكبه المدين, فهو قد يتمثل في امتناع أحد المتعاقدين عن الالتزامات التي تعهد بها, وقد يكون ذلك في شكل تأخر في التنفيذ, الأمر الذي يتسبب في الحاق الضرر بالطرف الدائن[25].

أما الضرر العقدي فهو الصورة الملموسة التي تتمثل فيها نتائج الخطا العقدي, وهذا يعني أن الخطأ اذا لم يترتب عنه ضرر فانه لا مجال لاعمال قواعد المسؤولية العقدية, فالضرر هو كل ما يلحق المتعاقد من خسارات مالية وتفويت لفرص الربح, بشرط أن يتصل ذلك اتصالا مباشرا بالفعل الموجب لهذه المسؤولية[26]. وبالتالي لا يكفي لقيام المسؤولية العقدية ان يكون هناك ضرر و خطأ, وانما يلزم الى جانب ذلك, أن يكون هذا الخطأ هو الذي تسبب في حدوث هذا الضرر, اي ان يكون الخطأ سببا مباشرا لحدوث الضرر, بحيث أن علاقة السببية بين الخطأ و الضرر مسألة لا غنى عنها, وأن لا تكون هناك أسباب خارجية, مما يعني أن عبئ اثبات هذه العلاقة يقع على الطرف المدعي أي الذي يطالب بالتعويض عن الأضرار التي لحقت عن عدم تنفيذ العقد.

وعليه فاذا كانت المسؤولية العقدية تقوم عند الاخلال التزام عقدي يختلف باختلاف ما اشتمل عليه العقد من التزامات, فان أحكامها الان أمام تحديات قانونية كبيرة لاسيما في ظل ما وصل اليه الذكاء الاصطناعي من قدرات اداركية هائلة.

ويتضح أن المسؤولية العقدية للذكاء الاصطناعي من الصعب اعمالها, لأنه في الغالب حتى وان اعتبرنا أن الذكاء الاصطناعي فائق الذكاء ومتخذا لقراراته بصورة مستقلة, ستبقى مسألة من يقف وراءه للاشراف على أعماله, مما يمكننا من أن نؤيد الاحتمال الأول بكون أنه في حالة حدوث الضرر يمكن للمتضرر أن يعود على من عينه لابرام هذا العقد, فتطبي المسؤولية العقدية على الذكاء الاصطناعي, لم يكن كافيا لمواجهة الاضرار التي يحدثها, فضلا على أنها توجه للشخص الطبيعي في حالة اخلاله بالعقد لا للذكاء الاصطناعي, بمعنى أن هذا الأخير حتى وان كان طرفا في العقد, لا يمكن أن نسائله مسؤولية عقدية, حتى وان افترضنا قيام الأطراف باضافة بنود في العقد لوصف قدرة الذكاء الاصطناعي ومخاطره, فان العقد لا يولد الا “التزام ببذل عناية لا بتحقيق نتيجة”.

الفقرة الثانية: المسؤولية التقصيرية للذكاء الاصطناعي

الأصل في المسؤولية التقصيرية أنها مسؤولية تقوم على خطأ واجب الاثبات يكمن في أن كل شخص ألحق بخطئه ضررا للغير لزمه جبره, فالقاعدة العامة تقضي بعدم الاضرار بالغير, وكل اخلال بهذا الواجب القانوني العام يعتبر خطأ يلزم مرتكبه تعويض ما لحق الطرف المضرور جراء ذلك الخطأ من ضرر في نفسه أو في ماله.

حيث نص المشرع المغربي في الفصل 77 من ق.ل.ع, الذي جاء فيه ما يلي: “كل فعل ارتكبه الانسان عن بينة واختيار, ومن غير أن يسمح به القانون, فأحدث ضررا ماديا أو معنويا للغير ألزم مرتكبه بتعويض هذا الضرر, اذا أثبت أن ذلك الفعل هو السبب المباشر في حصول الضرر”.

فالخطأ التقصيري هو الانحراف عن السلوك المألوف للشخص العادي الذي يصدر منه عن تميز وادراك, وهو ما نجد الشرع المغربي قد عرفه بأنه:”هو ترك ما كان يجب فعله أو فعل ما كان يجب الامساك عنه, وذلك من غير قصد لاحداث الضرر” أما المشرع الفرنسي فلم يقم بتعريف الخطأ[27]. والى جانب الخطأ ثمة الضرر الذي يعد شرطا جوهريا لقيام المسؤولية المدنية والسؤولية التقصيرية على وجه الخصوص وقد عرفه المشرع المغربي في اطار الفصل 98 من ق.ل.ع:”الضرر في الجرائم وأشباه الجرائم, هو الخسارة الت لحت المدعي فعلا و المصروفات الضرورية التي اضطر أو سيضطر الى انفاقها لاصلاح نتائج الفعل الذي ارتكب اضرارا به, وكذلك ما حرم منه من نفع في دائرة الحدود العادية لنتائج هذا الفعل…”, ويلزم في الضرر ماديا كان أو معنويا أن يكون محققا وأن يتعلق هذا الضرر بحق أو مصلحة مالية مشروعة للمدعي.

اضافة الى ركني الخطأ والضرر, يستلزم توفر العلاقة السببية بينهما, وأن يكون ناتجا عن الخطأ المنسوب للشخص المسؤول مباشرة. غير أن التساءل الذي يطرح نفسه هنا هو هل يمكن التسليم بفكرة امكانية قيام المسؤولية التقصيرية عن فعل الذكاء الاصطناعي؟

ان طبيعة الذكاء الاصطناعي من الصعب أن تتوافق معها المسؤولية الخطيئة, أي أنه ليس للمسؤولية القائمة على التمييز و الوعي أي فائدة في التطبيق على فعل الذكاء الاصطناعي, بالرغم من استقلاله وقدراته المعرفية[28]. وبالتالي فان تقنيات الذكاء الاصطناعي تبقى بمعزل عن اسقاط قواعد المسؤولية التقصيرية عن الأفعال الشخصية والتي لها محدودية في التطبيق, ذلك أنه حتى ولو افترضنا حدوث ضرر مادي لحق الشخص في ذمته المالية, فانه بالرجوع الى أركان المسؤولية التقصيرية وجدنا على أنه يشترط للحصول على التعويض أن يكون الخطأ وأن يكون الفاعل عالما ومدركا, وله نية في الحاق الضرر بالمتضرر[29].  

وعليه فسواء تعلق الأمر بالمسؤولية العقدية أو التقصيرية, تبقى فكرة المسؤولية المدنية القائمة على الاعتبار الشخصي, تستند لفكرة مسؤولية الشخص عن أفعاله فيما يمكن وصفه بالمسؤولية المباشرة عن الفعل الشخصي التي تقوم على أساس الخطأ الشخصي المباشر أو غير المباشر.  

المطلب الثاني: المسؤولية الجنائية عن جرائم الذكاء الاصطناعي

لم يعد الذكاء الاصطناعي مجرد حلم يراود البعض أوضرب من ضروب الخيال العلمي, بل أضحى حقيقة واقعية تحظى بتطبيقات عدة تحاكي الذكاء البشري حينا وتتفوق عليه أحيانا كثيرة, ولعل من أبرز ما يميز برامج الذكاء الاصطناعي عن غيرها من البرامج الأخرى هي قدرتها الفائقة على التعلم, الا أن نظام الذكاء الاصطناعي هو صورة من صور التطور التكنولوجي وأعلاها منزلة في العصر الراهن, وعلى الرغم من مزاياه الا أن اعتماد الادارة عليه في كافة الأنشطة التي تقوم بها وما يترتب عليه من مسؤولية وما يترتب عليه من اثار قانونية قد يكون محفوفا بالمخاطر بسبب الاخطاء التي قد تنجم عن الذكاء الاصطناعي, ومن تم يؤدي الى الاضرار بالمتعاملين, مما يستلزم ضرورة البحث عن التكييف القانوني الذي يتناسب مع معطيات العصر والنظر الى المسؤولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي من منظور جديد يتناسب مع التطور التكنولوجي المذهل في كافة المجالات[30], ويقصد بالمسؤولية الجنائية ذلك الأثر القانوني المترتب على الجريمة, وتقوم على أساس تحمل الفاعل للجزاء الذي تفرضه القواعد القانونية الجنائية, بسبب خرقه للأحكام التي تقررها هذه القواعد.

الفقرة الأولى: قيام المسؤولية الجنائية عن جرائم الذكاء الاصطناعي

تشكل الجريمة خطرا اجتماعيا, لأنها تشكل مساسا بحقوق أو مصالح جديرة بالحماية الجنائية, وهي تهدد الكيان البشري في أمنه واستقراره بل وحياته, وانطلاقا من الخطورة التي تتسم بها هذه الظاهرة, تجد علماء القانون وعلماء النفس يولون هذه الظاهرة اهتماما كبيرا من حيث الدراسة, فقيام أي جريمة كيفما كان نوعها, يتطلب فيها أن تتوفر على الأركان الأساسية الموجبة لذلك, بعد أن يتم احداث النشاط الاجرامي, اضافة الى أن الجريمة يتطلب حدوثها ضرورة ارتكابها من قبل فاعل سواء كان أصليا أو مساهما أو مشاركا.   

فالمسؤولية الجنائية عبارة عن ذلك الأثر المترتب عن الجريمة كواقعة قانونية, وتقوم على أساس تحمل الفاعل للجزاء الذي تفرضه القواعد القانونية الجنائية بسبب خرقه للأحكام التي تقررها هذه القواعد, بعبارة أخرى هي تحمل نتائج أعمالنا, وتتحدد هذه المسؤولية بوضوح ودقة في نطاق القواعد الجنائية, في الالتزام بتحمل ما ترتب عن النشاط المجرم, وعن تنفيذ الحكم بالادانة في واجب الالتزام بتنفيذ العقوبة.[31]

وتعد المسؤولية الجنائية بالنسبة لجرائم الذكاء الاصطناعي معقدة بعض الشيء, بحيث أن هناك أربعة أطراف ترتبط بهم المسؤولية الجنائية في هذا النوع من الجرائم, وهم المصنع لتقنية الذكاء الاصطناعي, والمالك, والذكاء الاصطناعي نفسه, أو طرف خارجي غير هؤلاء الأطراف الثلاثة, فارتكاب الذكاء الاصطناعي لجريمة من تلقاء نفسه بدون خطأ برمجي ونتيجة لحدوث تطور ذاتي في نظام الذكاء الاصطناعي الذي يعمل به أصبح أمرا ممكنا جدا في الوقت الحالي, فارتكاب الجريمة من قبل الذكاء الاصطناعي بنفسه دون خطأ برمجي من المصنع أو تدخل أي طرف, وذلك عن طريق تقنيات حديثة تمكن الذكاء الاصطناعي من التفكير واصدار قرارات ذاتية, يكون هو وحده المسؤول عن اصدارها ففي هذه الحالة من المفترض أن تكون المسؤولية الجنائية واقعة على الذكاء الاصطناعي وحده, حيث نجد أنفسنا هنا أمام اشكال هام يتمحور حول امكانية تويع عقوبة ذات طابع زجري على كيانات الذكاء الاصطناعي.[32]

ويمكن اعتبار الحديث عن ارتكاب الذكاء الاصطناعي لجريمة من تلقاء نفسه,  دون وجود خطأ برمجي في الوقت الحالي ضربا من الخيال, لكن ذلك قد يحدث في المستقبل القريب  وبالتالي يتعين وضع هذه الاحتمالية و التفكير بحلول لها, ويمكن القول أنه في الوقت الحالي ورغم التطور الذي وصلت اليه كيانات الذكاء الاصطناعي الا أنها لم تصل بعد الى الدرجة التي تمكنها من اتخاذ القرارات, ومن جعلها المسؤزلة الوحيدة عن الخطأ غير العمدي الناجم عن أعمالها – وذلك على اعتبار أنه لا يمكن تصور ارتكاب جرم من قبلها, دون اشتراك أطراف أخرى كالمصنع أو المالك أو المستخدم أو طرف خارجي اخر, الا انه يبقى غير بعيد أن يصل كيان الذكاء الاصطناعي الى هذه الاستقلالية بارتكاب الجريمة بذاته دون اشتراك أحد, فهي مسالة محتملة مرتبطة بما يفرزه التطور و الخيال العلمي-[33] .      

الفقرة الثانية: شروط قيام المسؤولية الجنائية عن جرائم الذكاء الاصطناعي

تعتبر المسؤولية الجنائية الأساس القانوني الذي ينبني عليه توجيه أصابع الاتهام بالجريمة الى شخص معين, ولذلك لا بد من وجود شروط تقوم عليها, – والغاية من ادراج هذه النقطة- هو معرفة مدى امكانية تطبيق الشروط المنصوص عليها في القانون الجنائي على تقنيات الذكاء الاصطناعي, ذلك أن المشرع المغربي نص في الفصل 132 من ق.ج, على أنه:” كل شخص سليم العقل قادر على التمييز يكون مسؤولا شخصيا عن الجرام التي يرتكبها..”, ويلاحظ من خلال هذا الفصل أن المشرع المغربي قد حاول أن يحدد الشروط الأساسية التي ينبغي أن تتوفر من أجل أن نسائل الشخص عن الجرائم التي يرتكبها, ولذلك فالمسؤول الجنائي حسب هذا الفصل – يجب أن يكون عاقلا- متمتعا بالارداة قادرا على التمييز, غير أنه في ظل غياب نصوص قانونية تحدد الشروط التي ينبغي أن تتوفر في الذكاء الاصطناعي من أجل أن نسائله, هل تعتبر هذه الأخيرة ملائمة لمساءلة الذكاء الاصطناعي؟[34]

كما أن المشرع المغربي اشترط لثبوت المسؤولية الجنائية ضرورة توفر شرط العقل, بمعنى أنه لا مسؤولية جنائية في حالة ثبوت اصابة الشخص للفعل الجرمي بخلل عقلي, وتعتبر الأمراض العقلية من المسائل الخفية الدقيقة التي يرجع الفصل فيها لذوي الخبرة من أهل الاختصاص, ويمكن للمحكمة أن تقرر بناء على الملاحظة المباشرة, كما أن المرض العقلي لا سيما عندما يكون في صيغة الجنون قد يكون متصلا أو متقطعا لذلك يصب اكتشافه بدون فحص طبي ن قبل المتخصصين في المجال, ولا يمكن القول فقط بانعدام مسؤولية الادعاء بوجود نقص أو خلل في الملكات الذهنية[35].   

وبالتالي فما دام المشرع المغربي قد نص صراحة على كون المسؤولية الجنائية تثار فقط في الحالة التي يكون فيها الشخص مدركا ما يفعله, حيث تنتفي في حقه المسؤولية الجنائية لغياب شرطها الأساسي المتمثل في الادراك و التمييز, حيث يثار التساءل حول كيفية اثبات عنصر الادراك و التمييز لدى تقنيات الذكاء الاصطناعي؟   

 لو افترضنا أن الذكاء الاصطناعي متمتع بالاستقلالية وقائم على نظام التعلم الالي, فانه في نهاية المطاف يظل مختلفا عن الانسان, فهذا الأخير يملك ملكة الفكر و الوعي والادراك و التمييز, في حين أن الذكاء الاصطناعي لا يملك عقلا مفكرا, ولذلك فحسب الفصل 132 من ق.ج أعلاه فالاتهام لا يوجه الا للشخص الطبيعي لأنه الوحيد المؤهل لتحمل المسؤولية الجنائية, فالأهلية القانونية تمنح لكل انسان من لحظة مولده لحين وفاته, فهو الكائن المؤهل لاكتساب الأهلية القانونية ببلوغه سن الرشد الجنائي المحدد في 18 سنة شمسية كاملة, ويعد هذا الأكثر منطقية واتفاقا مع مفهوم الجريمة التي ترتكب من قبل الانسان, باعتباره كائنا متمتعا بالارادة المطلوبة, كما لا مسؤولية عليه اذا ارتكب فعلا يشكل جريمة طالما انعدمت ارادته[36]. 

خاتمة

تظهر هذه الدراسة أن تحقي التوازن بين الذكاء الاصطناعي و المسؤولية القانونية في مجال الذكاء الاصطناعي يبقى تحديا معقدا. على الرغم من التقدم الهائل في تطوير تقنيات الذكاء الاصطناعي, يظل التحدي الأكبر هو تحديد الجهة المسؤولة في حالة حدوث أخطاء أو جرائم من الواضح أن الذكاء الاصطناعي يفتقر الى القدرة على التحمل الشخصي لأفعاله.

لذا قد تكون هناك حاجة لاعادة النظر في قواعد المسؤولية القانونية وتكييفه ليشمل تحديات الذكاء الاصطناعي, ويمكن أن تتضمن الاقتراحات المستقبلية تطوير قوانين وسياسات جديدة تلتقط تطورات التكنولوجيا وتوجهها نحو تحقيق توازن بين التقدم والمسؤولية. كما يجب على الأطراف المعنية – بما في ذلك القانونيين والمهندسين والمبتكرين – أن يتعاونوا لوضع ارشادات وضوابط تسهم في توجيه تطورات الذكاء الاصطناعي نحو الأهداف الأخلاقية والقانونية.

وخلاصة, يتطلب التعامل مع المسؤولية القانونية للذكاء الاصطناعي رؤية استباقية وتعاون مستمر بين القانونيين والمختصين التقنيين لضمان استفاذة مجتمعنا من التقنية المتقدمة بطريقة تلتزم بالقيم

الأخلاقية وتحمي حقوق الأفراد.

ــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ

لائحة المراجع

أولا: المؤلفات

• مصعب ثائر عبد الستار, المسؤولية التقصيرية المتعلقة بالذكاء الاصطناعي, المجلد العاشر- العدد الثاني- 2021 .
• د.عبد الله موسى, د.أحمد حبيب,  الذكاء الاصطناعي: ثورة في تقنيات العصر, ط. المجموعة العربية للتدريب والنشر- القاهرة, الطبعة الأولى 2019 م .
• مدخل الى عالم الذكاء الاصطناعي, د عادل عبد النور.
• عبد القادر العرعاري, مصادر الالتزامات الكتاب الثاني المسؤولية المدنية,  الطبعة الثالثة  2011
• محمد أبو مندور موسى عيسى, مدى كفاية القواعد العامة للمسؤولية المدنية في التعويض عن أضرار الذكاء الاصطناعي- دراسة تحليلية تأصيلية مقارنة- مجلة حقوق دمياط  للدراسات القانونية و الاقتصادية, ع 5 , يناير 2022,  جامعة دمياط مصر.
• عبد الواحد العلمي, شرح القانون الجنائي “القسم العام”, دون ذكر المطبعة, ط 9, السنة 2019 .
• سعيد الوردي, شرح القانون الجنائي العام المغربي – دراسة فهية وقضائية –  مطبعة الأمنية – الرباط, دون ذكر الطبعة.

ثانيا: الأطروحات و الرسائل الجامعية و الموسوعات

• أيوب البلغيتي, المسؤولية القانونية لربوتات الذكاء الاصطناعي, رسالة لنيل شهادة الماستر في القانون الخاص 2021/2022
• صابر الهدام, القانون في مواجهة الذكاء الاصطناعي دراسة مقارنة, رسالة لنيل دبلوم الماستر في القانون الخاص, 2021/2022 .

ثالثا: المقالات و المجلات

• عدد خاص بالملتقى الدولي المحكم حول: الاستثمار المالي و الصناعي في الذكاء الاصطناعي “التكنولوجيا المالية والثورة الصناعية الرابعة”, مركز جيل البحث العلمي سلسلة كتاب أعمال المؤتمرات العدد 34- أبريل -2022 .
• أحمد سعد علي البرعي, تطبيقات الذكاء الاصطناعي و الربوت, العدد الثامن و الأربعون
• محمد فتحي محمد ابراهيم, التنظيم التشريعي لتطبيقات الذكاء الاصطناعي, مجلة البحوث القانونية والاقتصادية, العدد 71 (سبتمبر 2022)  .
• كريم علي, الجوانب القانونية للذكاء الاصطناعي, مقال منشور في مجلة جيل الأبحاث القانونية العدد 54 .
• عبد الله أحمد مطر الفلاسي, المسؤولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي, المجلة القانونية ( مجلة متخصصة في الدراسات و البحوث القانونية).
• بن عودة حسكر مراد, اشكالية تطبيق أحكام المسؤولية الجنائية على جرائم الذكاء الاصطناعي, مجلة الحقوق و العلوم الانسانية, المجلد 15,  العدد 01/2022  .
• عادل كتيب, المسؤولية الجنائية للذكاء الاصطناعي و الربوتات, مقال منشور بمجلة القانون و الأعمال الدولية.

---

[1] – عدد خاص بالملتقى الدولي المحكم حول: الاستثمار المالي و الصناعي في الذكاء الاصطناعي “التكنولوجيا المالية والثورة الصناعية الرابعة”, مركز جيل البحث العلمي سلسلة كتاب أعمال المؤتمرات العدد 34- أبريل -2022 ص 7 .

[2] – أيوب البلغيتي, المسؤولية القانونية لربوتات الذكاء الاصطناعي, رسالة لنيل شهادة الماستر في القانون الخاص 2021/2022 .

[3] –  مصعب ثائر عبد الستار, المسؤولية التقصيرية المتعلقة بالذكاء الاصطناعي, المجلد العاشر- العدد الثاني- 2021, ص 391.

[4] – أحمد سعد علي البرعي, تطبيقات الذكاء الاصطناعي و الربوت, العدد الثامن و الأربعون, ص 23 .

[5] – تعرف مجلس صناعة تكنولوجيا المعلومات ITI .

[6] – تعريف سايمون ) SIMON 1995 (.                             

[7] –  عدد خاص بالملتقى الدولي المحكم حول: الاستثمار المالي و الصناعي في الذكاء الاصطناعي “التكنولوجيا المالية والثورة الصناعية الرابعة”,  م.س,  ص 87 .

[8] – د.عبد الله موسى, د.أحمد حبيب,  الذكاء الاصطناعي: ثورة في تقنيات العصر, ص 20 , ط. المجموعة العربية للتدريب والنشر- القاهرة, الطبعة الأولى 2019 م .

[9] – مدخل الى عالم الذكاء الاصطناعي, د عادل عبد النور ص 5 .

[10] – تعريف شابيرو (Shapiro, 1992) .

[11] – تعريف نيغفينسكي   (Negnevitsky, 2005).

[12] – تعريف عبد النور .

[13] – تعريف اللوزي.

[14] – صابر الهدام, القانون في مواجهة الذكاء الاصطناعي دراسة مقارنة, رسالة لنيل دبلوم الماستر في القانون الخاص, 2021/2022  ص 14 .

[15] – صابر الهدام, م.س, ص 40 .

[16] –  محمد فتحي محمد ابراهيم, التنظيم التشريعي لتطبيقات الذكاء الاصطناعي, مجلة البحوث القانونية والاقتصادية, العدد 71 (سبتمبر 2022)  ص 1036 .

[17] – كريم علي, الجوانب القانونية للذكاء الاصطناعي, مقال منشور في مجلة جيل الأبحاث القانونية العدد 54, ص 53 .

[18] – محمد فتحي محمد ابراهيم, م.س, ص 1052 .

[19] –   محمد فتحي محمد ابراهيم, م.س, ص 1026 .

[20] – كريم علي, م.س, ص 53 .

[21] – كريم علي, م.س, ص 53 .

[22] – عبد القادر العرعاري, مصادر الالتزامات الكتاب الثاني المسؤولية المدنية,  الطبعة الثالثة  2011 ص 9 .

[23] – عبد القادر العرعاري, م.س, ص 36 .

[24] – صابر الهدام, القانون في مواجهة الذكاء الاصطناعي دراسة  مقارنة, رسالة لنيل دبلوم الماستر في القانون الخاص, 2021/2022 .

[25] – عبد القادر العرعاري, م.س, ص 40 .

[26] – عبد القاد العرعاري, م.س, ص 50 .

[27] – صابر الهدام, م.س, ص 96 .

[28] – محمد أبو مندور موسى عيسى, مدى كفاية القواعد العامة للمسؤولية المدنية في التعويض عن أضرار الذكاء الاصطناعي- دراسة تحليلية تأصيلية مقارنة- مجلة حقوق دمياط  للدراسات القانونية و الاقتصادية, ع 5 , يناير 2022,  جامعة دمياط مصر, ص 277 .

[29] – صابر الهدام, م.س, ص 99 .

[30] – عبد الله أحمد مطر الفلاسي, المسؤولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي, المجلة القانونية ( مجلة متخصصة في الدراسات و البحوث القانونية), ص 2640 .

[31] – عبد الواحد العلمي, شرح القانون الجنائي “القسم العام”, دون ذكر المطبعة, ط 9, السنة 2019 , ص 325 .

[32] – بن عودة حسكر مراد, اشكالية تطبيق أحكام المسؤولية الجنائية على جرائم الذكاء الاصطناعي, مجلة الحقوق و العلوم الانسانية, المجلد 15,  العدد 01/2022  , ص 100 .

[33] – عادل كتيب, المسؤولية الجنائية للذكاء الاصطناعي و الربوتات, مقال منشور بمجلة القانون و الأعمال الدولية.

[34] – صابر الهدام, م.س, ص 132 .

[35] – سعيد الوردي, شرح القانون الجنائي العام المغربي – دراسة فهية وقضائية –  مطبعة الأمنية – الرباط, دون ذكر الطبعة, ص 133 .

[36] – صابر الهدام, م.س, ص 135 .