الذكاء الاصطناعي المسؤول: أربعة مبادئ للحوكمة والثقة

حين يوصي نظامٌ آلي بتأجيل علاج مريضٍ أو باستبعاد متقدّمٍ لوظيفة، فمن نُحاسب؟ الآلة التي لا ضمير لها؟ أم المهندس؟ أم البيانات؟ أم المجتمع الذي أنتج هذه البيانات؟ هذا السؤال الذي يبدو تقنيًّا هو في حقيقته السؤال الأخلاقي الأكبر الذي يطرحه الذكاء الاصطناعي علينا.

في البرمجيات التقليدية يُتتبَّع الخلل إلى سطرٍ كتبه إنسان؛ أما في التعلّم الآلي فالسلوك ناشئٌ من البيانات لا مبرمَج، فقد يكون الاستنتاج صحيحًا إحصائيًّا وظالمًا أخلاقيًّا في آنٍ واحد. وهنا تتقاطع أربعة مبادئ في الأطر الدولية، منها مبادئ منظمة التعاون الاقتصادي والتنمية (OECD، وهي خمسة مبادئ قيمية، 2019، المحدّثة 2024) ومبادئ «سدايا» (سبعة مبادئ، الإصدار 2.0، 2023). والأربعة هنا تلخيصٌ للمحرّر لا عدٌّ رسمي.

العدالة: الخوارزمية لا تُولد محايدة

تتعلّم الأنظمة من بياناتٍ تاريخية هي سجلٌّ مثقل بتحيّزات من أنتجها. والمفارقة أنّ الآلة التي نلجأ إليها هربًا من تحيّز البشر قد تُلبِس الظلم ثوبًا علميًّا يصعب الطعن فيه. والعدالة هنا قيمةٌ تُصمَّم وتُقاس لا شعارٌ يُعلَّق؛ أما آليات التحيّز وأمثلته ومقاييس الإنصاف فتجدها في مقال «التحيّز الخوارزمي».

الشفافية: معضلة الصندوق الأسود

تتّخذ نماذج التعلّم العميق قراراتها عبر عملياتٍ رياضية متشابكة يعجز حتى مصمّموها أحيانًا عن تفسير نتيجةٍ بعينها. والمطالبة بشفافيةٍ مطلقة قد لا تكون واقعية، فالأدقّ في كثير من الحالات هو الأعسر تفسيرًا، وإن لم تكن هذه المقايضة قدَرًا في كل المجالات. والحلّ في أن نُعيد تعريف الشفافية: تبريرٌ معقولٌ يفهمه المتضرّر، لا كشفٌ كاملٌ لبنية الخوارزمية.

المساءلة: ألّا تتشتّت المسؤولية

تتوزّع المسؤولية في سلسلة طويلة من جامعي البيانات والمبرمجين والشركات، فلا يقع الوزر على أحد. ولذلك تدعو مبادئ المنظمة إلى مساءلة الفاعلين في دورة حياة النظام بحسب أدوارهم، مع قابلية تتبّع قراراته. والقاعدة التي ينبغي أن تبقى راسخة: المسؤولية لا تنتقل إلى الآلة؛ إذ لا معنى لمحاسبة كيانٍ لا يتألّم ولا يُردَع ولا يملك ضميرًا. ويلزم لذلك إشرافٌ بشريّ فاعل يملك حقّ النقض في القرارات المصيرية.

الأمان: حين يكلّف الخطأ حياةً

النظام الذي يقود مركبةً أو يشخّص مرضًا لا يُقاس خطؤه برقمٍ في جدول. والأمان يتجاوز الحماية من الاختراق إلى متانة النظام أمام المدخلات غير المتوقعة، وقدرته على الفشل بأمانٍ حين يفشل. وحيث يكون الضرر جسيمًا لا يُصلَح، فغياب اليقين العلمي لا يبرّر التأخّر في الأخذ بـ«مبدأ الحيطة».

المبادئ تتجاذب

السعي إلى أقصى أمانٍ قد يتطلّب بياناتٍ شخصية أكثر فيصطدم بالخصوصية، والإفراط في الشفافية قد يكشف ثغراتٍ للمتلاعبين. فالأخلاقيات فنّ موازنة، وليست قائمةً تُعلَّق على الجدار. وتُترجَم الموازنة إلى ممارسة بتدقيقٍ مستقل دوري كما تُدقَّق الحسابات المالية، وبفرقٍ متعدّدة الخلفيات والخبرات ترى ما لا يراه الفريق المتجانس، وبأخلاقياتٍ بالتصميم لا ملحقًا تجميليًّا بعد اكتمال المنتج.

سياقنا

في المملكة أصدرت «سدايا» مبادئ لأخلاقيات الذكاء الاصطناعي، وهو ما يتسق مع أنّ السيادة التقنية لا تكتمل دون سيادةٍ أخلاقية. وللعدل في موروثنا الإسلامي رسوخٌ يُثري النقاش العالمي حول العدالة الخوارزمية، فنكون مُسهمين فيه لا مستهلكين لمعاييرَ صيغت في سياقاتٍ مغايرة.

والأخلاقيات ليست عائقًا أمام التقدّم بل بوصلته؛ فالتقنية التي يفقد الناس ثقتهم بها يرفضونها مهما بلغت كفاءتها. وتبقى التقنية أمانةً بيد من يصنعها ويستعملها، وكلٌّ مسؤولٌ عمّا بين يديه.