دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، إلى تطوير مقاربة قانونية ومؤسساتية جديدة تضمن مساءلة أنظمة الذكاء الاصطناعي، خاصة الأنظمة الوكيلة التي تزداد استقلالية وتعقيدا، معتبرة أن تحديد المسؤوليات المرتبطة بهذه التقنيات يمثل أحد أبرز التحديات القانونية خلال المرحلة المقبلة.
وجاءت دعوة الوزيرة خلال مشاركتها، أمس الثلاثاء بجنيف، في جلسة رفيعة المستوى حول حماية حقوق الإنسان وتعزيزها في ظل التطورات المتسارعة للذكاء الاصطناعي، وذلك ضمن أشغال الحوار العالمي حول حكامة الذكاء الاصطناعي.
وأوضحت السغروشني أن طبيعة أنظمة الذكاء الاصطناعي الوكيلة، القائمة على تفاعل مجموعة من الوكلاء المستقلين، تطرح إشكالات غير مسبوقة في مجال تحديد المسؤولية، بالنظر إلى غياب طرف بشري واحد يمكن تحميله بشكل مباشر تبعات القرار النهائي الصادر عن هذه الأنظمة.
وأبرزت أن تعقيد هذه النماذج يجعل من الصعب أحيانا تحديد مصدر الخلل أو توقيته أو توزيع المسؤوليات بين مختلف الأطراف المشاركة في العملية، خصوصا عندما تكون النتائج الناتجة عن تفاعل عدد كبير من المكونات والخوارزميات.
واستحضرت الوزيرة تجربة المغرب في مجال الرقمنة، مشيرة إلى أن معالجة حوالي 52 مليون معاملة إدارية سنويا تجعل مسألة تحديد مصدر أي خلل محتمل تحديا كبيرا، خاصة في ظل الاعتماد المتزايد على الحلول الرقمية والأنظمة الذكية في تدبير الخدمات العمومية.
وفي مواجهة هذه الإشكالات، دعت المسؤولة الحكومية إلى اعتماد آليات جديدة تقوم على تعزيز قابلية التتبع وفهم مسارات اتخاذ القرار داخل الأنظمة الذكية، من خلال تطوير مقاربات تسمح بإعادة بناء تسلسل الأفعال والعلاقات السببية بين مختلف مكونات هذه الأنظمة.
كما حددت ثلاثة مرتكزات أساسية لضمان مساءلة فعالة للذكاء الاصطناعي، تتمثل في توثيق سلاسل الوكلاء بشكل منظم لتحديد الأدوار والمسؤوليات، وتعيين مسؤول بشري واضح عن القرارات التي تمس حقوق الأفراد، وضمان حق المتضررين في الوصول إلى آليات إنصاف فعالة وفي آجال تتناسب مع سرعة عمل هذه التقنيات.
وأكدت السغروشني أن التطور التقني لا ينبغي أن يؤدي إلى فصل الخوارزميات عن الإطار القانوني، مشددة على أن “الاستقلالية التشغيلية للخوارزمية يجب ألا تتحول أبدا إلى استقلالية عن القانون”.
كما شددت على أهمية اعتماد حكامة استباقية للذكاء الاصطناعي ترتكز على احترام حقوق الإنسان، وتطوير أدوات عملية لتقييم المخاطر، وتعزيز التدقيق والرقابة البشرية، مع مراعاة الخصوصيات الوطنية واحتياجات التنمية لكل بلد.
وناقشت الجلسة، التي عرفت مشاركة عدد من الخبراء والمسؤولين الدوليين، قضايا مرتبطة بالشفافية والمساءلة والإشراف البشري على أنظمة الذكاء الاصطناعي، إضافة إلى حماية الفئات الهشة، خاصة الأطفال والنساء، من المخاطر المحتملة المرتبطة بالاستخدام المتزايد لهذه التقنيات.
و م ع
