الرياض تستضيف المنتدى العالمي لأخلاقيات الذكاء الاصطناعي في لحظة ينتقل فيها العالم من تطوير الآلة إلى تنظيم سلطتها وحماية الإنسان من قراراتها

إعداد وتحليل | إدارة الإعلام الاستراتيجي – وكالة BETH
إشراف: عبدالله العميره

الرياض | بث

لم يعد السؤال العالمي: ماذا يستطيع الذكاء الاصطناعي أن يفعل؟

لقد تجاوز قدرته على الكتابة والترجمة وتحليل الصور، ودخل الطب والتعليم والإعلام والقضاء والأسواق والخدمات الحكومية، وأصبح يشارك في قرارات قد تحدد من يحصل على وظيفة، أو قرض، أو علاج، أو فرصة تعليم، أو حتى يخضع للمراقبة والتحقيق.

ولهذا أصبح السؤال الأكثر إلحاحًا: ما الذي ينبغي السماح للذكاء الاصطناعي بفعله، ومن يتحمل المسؤولية عندما يخطئ؟

هنا تبدأ أخلاقيات الذكاء الاصطناعي؛ فهي ليست محاولة لإعطاء الآلة ضميرًا، لأن الآلة لا تملك ضميرًا ولا نية ولا شعورًا بالذنب، بل منظومة من القواعد والمعايير التي تضبط قرارات البشر والمؤسسات التي تصممها وتدربها وتستخدمها.

فالخوارزمية لا تتحمل المسؤولية الأخلاقية؛ المسؤول هو من منحها البيانات والصلاحية، ثم اعتمد قرارها.

ما الأخلاق هنا؟

تعني أخلاقيات الذكاء الاصطناعي ضمان أن تكون الأنظمة عادلة وآمنة وشفافة، وتحترم الخصوصية والكرامة الإنسانية، ولا تميز بين الناس، ولا تحل محل الإنسان في القرارات التي تمس حقوقه وحياته.

ولا يكفي أن يكون النظام دقيقًا من الناحية التقنية؛ فقد يقدم إجابة صحيحة إحصائيًا، لكنها ظالمة إنسانيًا أو مخالفة للقانون.

قد يرفض نظام آلي طلب شخص للحصول على وظيفة لأنه تعلّم من سجلات سابقة كانت تفضل فئة معينة. وقد يخفض أولوية مريض للعلاج لأن البيانات التي دُرّب عليها لم تمثل حالته جيدًا. وقد ينتج مادة إعلامية مقنعة لكنها مختلقة، أو يستخدم وجوه الناس وأصواتهم من دون موافقتهم.

لهذا لا تسأل الأخلاق عن قدرة النظام وحدها، بل عن الغرض من استخدامه، ونوعية بياناته، ومن يتأثر بقراره، وإمكان الاعتراض عليه وتصحيح نتائجه.

الإنسان أولًا

وضعت توصية اليونسكو لأخلاقيات الذكاء الاصطناعي، التي اعتمدتها الدول الأعضاء عام 2021، الكرامة الإنسانية وحقوق الإنسان في مركز الحوكمة.

وتقوم التوصية على قيم رئيسة تشمل العدالة، والتنوع والشمول، والشفافية، والاستدامة البيئية، والإشراف البشري، مع التأكيد أن المسؤولية النهائية لا يمكن نقلها من الإنسان إلى النظام الآلي. 

وهذا يعني أن العبارة الشائعة: «النظام اتخذ القرار» لا تصلح مبررًا عند وقوع الضرر.

فالنظام لم يختر هدفه، ولم يجمع بياناته، ولم يحدد حدود صلاحياته بنفسه. وفي كل مرحلة توجد جهة أو شخص اتخذ قرارًا، وينبغي أن يكون معروفًا وقابلًا للمساءلة.

انحياز يتعلم

لا يبدأ انحياز الذكاء الاصطناعي من الآلة بالضرورة؛ فقد يكون موجودًا أصلًا في المجتمع والبيانات.

إذا تدرب نظام توظيف على قرارات بشرية سابقة تضمنت تمييزًا، فقد يتعلم التمييز ويعيد إنتاجه بصورة أسرع وأوسع، من دون أن تظهر فيه عبارات عنصرية أو متحيزة صريحة.

وقد يأتي الانحياز من نقص التمثيل؛ فعندما تتدرب الأنظمة على بيانات لا تمثل النساء أو كبار السن أو ذوي الإعاقة أو لهجات ولغات معينة، تصبح أقل دقة في التعامل معهم.

والخطر أن القرار البشري المتحيز قد يؤذي فردًا، أما النظام المتحيز فيستطيع تكرار الخطأ آلاف المرات وتحويله إلى إجراء مؤسسي يبدو محايدًا لأنه صادر عن آلة.

ولهذا تتطلب العدالة اختبار النتائج بين الفئات المختلفة، لا الاكتفاء بقياس متوسط الدقة العام.

من أين جاءت الإجابة؟

ترتبط الثقة في الذكاء الاصطناعي بإمكان فهم الطريقة التي وصل بها إلى قراره.

ولا تعني الشفافية كشف الأسرار التجارية أو نشر ملايين الأسطر البرمجية، بل إبلاغ الشخص بأنه يتعامل مع نظام آلي، وشرح العوامل الأساسية المؤثرة في القرار، وتحديد مصدر البيانات وحدود الدقة، وتوفير طريق للاعتراض والمراجعة البشرية.

وتؤكد اليونسكو ضرورة تمكين من يتأثر قرار آلي بحقوقه من معرفة الأسباب وطلب التفسير والتصحيح.

وتزداد أهمية ذلك عندما يتعلق القرار بالتوظيف، أو الائتمان، أو التأمين، أو التعليم، أو الخدمات الحكومية، أو العدالة الجنائية.

كلما زاد أثر القرار في حياة الإنسان، ارتفع حقه في فهمه والاعتراض عليه.

الخصوصية ليست وقودًا مجانيًا

يحتاج الذكاء الاصطناعي إلى كميات هائلة من البيانات، لكن الحاجة التقنية لا تمنح حقًا مفتوحًا في جمع حياة الناس.

فالصورة والصوت والموقع والسجل الصحي والرسائل والعادات الشرائية ليست مواد خامًا بلا مالك؛ بل امتدادات لهوية الإنسان وخصوصيته.

وتبدأ الحماية من سؤال الضرورة: هل تحتاج الخدمة فعلًا إلى هذه البيانات؟ ثم تسأل عن الموافقة، والغرض، ومدة الاحتفاظ، ومن يستطيع الوصول إليها، وكيف تُحمى من التسرب أو إعادة الاستخدام.

وقد يقدم الفرد موافقته على استخدام بياناته في خدمة محددة، لكن ذلك لا يعني موافقته على تدريب نموذج تجاري بها أو مشاركتها مع أطراف أخرى.

والقاعدة الأخلاقية هنا واضحة: لا تجمع كل ما تستطيع جمعه؛ اجمع فقط ما تحتاج إليه، ولغرض يعرفه صاحبه.

الإشراف البشري

يبدو وضع إنسان في دائرة القرار حلًا مطمئنًا، لكنه قد يصبح إجراءً شكليًا إذا كان الموظف يوافق تلقائيًا على توصيات النظام.

فالإشراف الحقيقي يتطلب أن يمتلك المراجع الوقت والمعرفة والصلاحية لرفض قرار الآلة، وأن يفهم حدودها وأسباب الخطأ المحتمل فيها.

كما ينبغي تحديد القرارات التي لا يجوز تفويضها بالكامل إلى الذكاء الاصطناعي، بخاصة ما يتصل بالحياة والموت، والعقوبات، والحقوق الأساسية، والتشخيصات الحرجة.

وتنص توصية اليونسكو على أن الذكاء الاصطناعي لا يمكن أن يحل محل المسؤولية البشرية النهائية، وأن قرارات الحياة والموت، كقاعدة عامة، لا ينبغي إسنادها إلى الأنظمة الآلية.

من يدفع ثمن الخطأ؟

عندما يخطئ نظام ذكاء اصطناعي، قد تتوزع المسؤولية بين مطور النموذج، ومزود البيانات، والجهة التي اشترته، والمؤسسة التي استخدمته، والموظف الذي اعتمد النتيجة.

وقد يؤدي هذا التوزع إلى ضياع المسؤولية بين الجميع.

ولهذا تحتاج الحوكمة إلى تحديد واضح منذ البداية:

• من أجاز استخدام النظام؟
• من اختبره قبل التشغيل؟
• من يراقب أداءه بعد الإطلاق؟
• من يتلقى الشكاوى؟
• من يوقفه عند ظهور الضرر؟
• من يعوض المتضرر؟

فالأخلاق التي لا تحدد المسؤول لا تمنع الخطأ؛ بل تصفه بعد وقوعه فقط.

المخاطر ليست متساوية

لا يحتاج نظام يقترح قائمة موسيقية إلى مستوى الرقابة نفسه المطلوب لنظام يختار المرشحين للوظائف أو يساعد في تشخيص الأمراض.

ولهذا تتجه الحوكمة العالمية إلى تصنيف الأنظمة وفق مستوى مخاطرها.

يقسم قانون الذكاء الاصطناعي الأوروبي الاستخدامات إلى مستويات تبدأ بالمخاطر المنخفضة، وتمتد إلى الأنظمة عالية المخاطر، ثم الاستخدامات غير المقبولة التي تُحظر بسبب تهديدها للسلامة أو الحقوق.  

ولا تقوم الفكرة على إبطاء كل ابتكار، بل على زيادة المتطلبات كلما ارتفع حجم الضرر المحتمل.

فالنظام عالي المخاطر يحتاج إلى بيانات موثوقة، وتوثيق واختبارات مستقلة، وسجل للقرارات، وإشراف بشري، وآلية للإبلاغ عن الحوادث والتظلم.

الإعلام والحقيقة

يمثل الإعلام أحد أكثر المجالات تعرضًا لاختبار أخلاقيات الذكاء الاصطناعي.

فالأنظمة تستطيع إنتاج خبر وصورة وصوت وفيديو خلال ثوانٍ، وتقليد شخصيات حقيقية، وإغراق المنصات بمحتوى يصعب على الجمهور تمييزه.

ولا يقتصر الخطر على الأخبار الكاذبة؛ بل يمتد إلى إضعاف الثقة في كل شيء. فحين يصبح تزوير الصورة والصوت سهلًا، يستطيع المذنب الادعاء أن الدليل الحقيقي مزيف، كما يستطيع المزيف الظهور في هيئة دليل.

وتحتاج المؤسسات الإعلامية إلى قواعد واضحة تشمل التحقق من المحتوى، والإفصاح عن المواد المولدة، وعدم اختلاق الاقتباسات، وحماية الصور والأصوات، وبقاء المسؤولية التحريرية بيد صحفي معروف.

فالذكاء الاصطناعي يستطيع مساعدة الصحفي في البحث والتحليل والترجمة، لكنه لا يتحمل مسؤولية النشر، ولا يواجه المتضرر، ولا يميز دائمًا بين المعلومة الصحيحة والجملة التي تبدو مقنعة.

التعليم والعقل

يستطيع الذكاء الاصطناعي تخصيص التعلم، وشرح المواد بطرق مختلفة، ومساعدة المعلمين على تحليل احتياجات الطلاب.

لكنه قد يحول الطالب من باحث عن المعرفة إلى مستهلك لإجابات جاهزة، ويضعف قدرته على القراءة والكتابة والتحليل إذا استخدم بديلًا عن التفكير.

كما تثير مراقبة الطلاب وتحليل سلوكهم ووجوههم ومشاعرهم مخاطر تتعلق بالخصوصية والتصنيف الخاطئ.

ولهذا ينبغي ألا يكون السؤال في التعليم: هل استخدم الطالب الذكاء الاصطناعي؟

بل: كيف استخدمه، وما الجزء الذي أنجزه بعقله، وهل أصبح أقدر على الفهم أم أقدر على إخفاء أنه لم يفهم؟

الصحة.. قرار حساس

يستطيع الذكاء الاصطناعي اكتشاف أنماط قد لا يلاحظها الطبيب، وتحليل الصور والسجلات بسرعة، والمساعدة في التنبؤ بالمخاطر.

لكن الخطأ في الصحة لا ينتج نصًا رديئًا؛ بل قد يؤخر علاجًا أو يوصي بإجراء غير مناسب.

ولهذا تحتاج الأنظمة الطبية إلى بيانات تمثل مختلف الفئات، واختبارات سريرية، ومراقبة مستمرة، وحماية صارمة للمعلومات الصحية، مع بقاء القرار والمسؤولية لدى المختص.

ويجب أن يعرف المريض متى استُخدم الذكاء الاصطناعي في تقييم حالته، وما حدود دوره، ومن يستطيع مراجعة النتيجة.

العمل تحت الخوارزمية

قد يساعد الذكاء الاصطناعي الشركات على رفع الإنتاجية واكتشاف المهارات، لكنه يستطيع أيضًا مراقبة الموظفين وتقييمهم وإقصاءهم وفق مقاييس لا يفهمونها.

وتظهر المشكلة عندما تتحول الكفاءة إلى مراقبة دائمة، أو يصبح العامل مطالبًا بإثبات تفوقه على آلة لا تنام، أو يُرفض متقدم إلى وظيفة من دون معرفة سبب رفضه.

وتحتاج بيئة العمل إلى حق الموظف في معرفة متى يُقيّم آليًا، وما البيانات المستخدمة، وإمكان الاعتراض، ومنع تحويل المؤشرات الرقمية إلى حكم نهائي على الإنسان.

العربية ليست هامشًا

ترتبط الأخلاق أيضًا باللغة والثقافة.

فالأنظمة التي تتدرب أساسًا على محتوى بلغات وثقافات محددة قد تفهم العربية ولهجاتها وسياقاتها بصورة أقل دقة، أو تنقل تصورات ثقافية لا تعكس المجتمع الذي تُستخدم فيه.

وقد يؤدي ضعف المحتوى العربي الموثوق إلى إجابات أقل جودة، أو انحياز ضد الأسماء واللهجات والمفاهيم المحلية.

لذلك لا يكفي استيراد النماذج وترجمتها؛ بل ينبغي تطوير بيانات عربية عالية الجودة، وتمثيل التنوع المحلي، واختبار النماذج داخل السياق الذي ستعمل فيه.

فالعدالة اللغوية جزء من العدالة الرقمية؛ ومن لا يوجد في بيانات المستقبل قد لا يُفهم جيدًا في قراراته.

كلفة لا يراها المستخدم

تبدو إجابة الذكاء الاصطناعي غير مادية، لكنها تُنتج داخل مراكز بيانات تستهلك الطاقة والمياه والرقائق.

ومع توسع النماذج، تصبح الاستدامة جزءًا من أخلاقياتها: هل تتناسب الفائدة مع الموارد المستهلكة؟ وهل تُستخدم طاقة نظيفة؟ وهل تُقاس البصمة البيئية للنظام خلال التدريب والتشغيل؟

ولا تدعو الأخلاق هنا إلى وقف التطور، بل إلى تطوير نماذج أكثر كفاءة، واختيار الحجم المناسب للمهمة، وعدم استهلاك موارد ضخمة لإنجاز أعمال يمكن تنفيذها بأدوات أبسط.

من المبادئ إلى التشغيل

المشكلة العالمية ليست نقص وثائق الأخلاق؛ فهناك مبادئ أصدرتها اليونسكو والأمم المتحدة ودول ومؤسسات تقنية كثيرة.

المشكلة هي تحويل الكلمات إلى إجراءات داخل المؤسسات.

ويتطلب التشغيل الأخلاقي دورة مستمرة تبدأ قبل شراء النظام أو تطويره، وتشمل:

• تحديد الغرض والضرورة.
• تقييم الأثر في الحقوق والخصوصية.
• فحص مصادر البيانات وجودتها.
• اختبار التحيز والدقة والأمان.
• تحديد المسؤوليات والصلاحيات.
• توفير المراجعة والاعتراض.
• توثيق القرارات والحوادث.
• مراقبة النظام بعد تشغيله.
• إيقافه أو تعديله عند تجاوز الحدود المقبولة.

ويقترح إطار المعهد الوطني الأمريكي للمعايير والتقنية إدارة مخاطر الذكاء الاصطناعي عبر أربع وظائف مترابطة: الحوكمة، وفهم السياق، والقياس، وإدارة المخاطر؛ لأن الاختبار قبل الإطلاق لا يكفي أمام نظام قد يتغير أداؤه مع تغير البيانات والاستخدام. 

السعودية تبني الإطار

لا يبدأ اهتمام المملكة بأخلاقيات الذكاء الاصطناعي من استضافة المنتدى العالمي وحدها.

فقد وضعت الهيئة السعودية للبيانات والذكاء الاصطناعي مبادئ وضوابط لأخلاقيات الذكاء الاصطناعي، وأتاحت أداة للتقييم الذاتي تمكّن الجهات الحكومية والخاصة وغير الربحية من قياس مدى التزام نماذجها بالمعايير الأخلاقية. سدايا

وتكمن أهمية التقييم في نقل الأخلاق من إعلان عام إلى أسئلة يمكن فحصها: كيف جُمعت البيانات؟ وهل اختُبر الانحياز؟ ومن يراجع النتائج؟ وهل يستطيع المتضرر الاعتراض؟ وما مستوى الشفافية والأمان؟

لكن التحدي المقبل يتمثل في توحيد الممارسة بين القطاعات، وتأهيل مختصين في تدقيق الخوارزميات، ووضع متطلبات أشد للأنظمة المستخدمة في الصحة والتعليم والعمل والخدمات العامة.

الرياض تستضيف العالم

تستضيف الرياض، من 14 إلى 17 سبتمبر 2026، النسخة الرابعة من منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي، بتنظيم مشترك بين اليونسكو والمملكة، ممثلة في الهيئة السعودية للبيانات والذكاء الاصطناعي والمركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي.

ويعقد المنتدى تحت شعار «تحويل التعاون العالمي من أجل الحوكمة الأخلاقية للذكاء الاصطناعي»، ويجمع الحكومات والقطاع الخاص والباحثين والمجتمع المدني والمنظمات الدولية.

وتشمل موضوعاته الرقابة والمساءلة، والاستعداد المؤسسي، والإدارة العامة، والتعليم والصحة، والمساواة والشمول، والتنوع الثقافي واللغوي، وسلامة الذكاء الاصطناعي، والطاقة والاستدامة، والتعاون الدولي.

ولا تأتي الرياض إلى المنتدى بصفتها مستضيفة فقط؛ إذ إن اختيارها يعكس انتقال المملكة من الاستثمار في تقنيات الذكاء الاصطناعي إلى المشاركة في صياغة قواعد استخدامها عالميًا.

ويكتسب المنتدى أهمية خاصة لأنه يعقد بالتزامن مع القمة العالمية للذكاء الاصطناعي، ضمن أسبوع الذكاء الاصطناعي العالمي في المملكة؛ ما يجمع في مدينة واحدة بين من يطور التقنية ومن يسأل عن حدودها ومسؤوليتها.  

اهتمام مجلس الوزراء

أكد مجلس الوزراء، في جلسته التي رأسها خادم الحرمين الشريفين الملك سلمان بن عبدالعزيز، أن استضافة الرياض النسخة الرابعة من المنتدى تعكس المكانة المتقدمة للمملكة في دعم الحوار العالمي متعدد الأطراف حول التقنيات الناشئة.

كما عدّها تجسيدًا لالتزام المملكة بتعزيز الاستخدام المسؤول والأخلاقي للذكاء الاصطناعي، بما يسهم في بناء مستقبل رقمي أكثر شمولًا واستدامة.

وتمنح إشارة مجلس الوزراء الموضوع بعدًا يتجاوز تنظيم مؤتمر دولي؛ فهي تضع أخلاقيات الذكاء الاصطناعي داخل مسار الدولة لبناء اقتصاد تقني، وحماية المجتمع، والمشاركة في صياغة الحوكمة العالمية للتقنيات الناشئة.

تحليل BETH

لن تكون المنافسة المقبلة بين الدولة التي تمتلك أقوى نموذج والدولة التي تضع أكثر القيود.

المنافسة الحقيقية ستكون بين من يطور الذكاء الاصطناعي بسرعة من دون أن يملك ثقة الناس، ومن يستطيع الجمع بين الابتكار والثقة والمسؤولية.

فالأنظمة غير المنضبطة قد تحقق مكاسب سريعة، لكنها تنتج أخطاء وقضايا وخوفًا اجتماعيًا يبطئ استخدامها. أما الحوكمة الجيدة فلا تعطل الابتكار؛ بل تمنحه بيئة يمكن للمؤسسات والمواطنين الوثوق بها.

والأخلاق لا تبدأ عندما يخطئ النظام، بل قبل بنائه: عند اختيار المشكلة، وجمع البيانات، وتحديد من يملك القرار، ومن يستطيع الاعتراض عليه.

الخطر ليس أن تصبح الآلة أذكى من الإنسان فحسب؛ بل أن يتنازل الإنسان لها عن قراراته، ثم يدّعي أنه لم يعد مسؤولًا عنها.

منظور آخر

لا يحتاج الذكاء الاصطناعي إلى ضمير؛ لأنه لن يشعر بالندم إذا ظلم إنسانًا.

الذي يحتاج إلى الضمير هو المصمم الذي يدربه، والمؤسسة التي تستخدمه، والمسؤول الذي يسلّمه القرار، والمجتمع الذي يسمح للكفاءة بأن تتقدم على الكرامة.

كلما اقتربت الخوارزمية من حياة الإنسان، وجب أن يبقى الإنسان أقرب إلى قرارها.

فالمستقبل لن يُقاس فقط بما استطاعت الآلة أن تفعله، بل بما امتلك الإنسان من حكمة ليمنعها من فعل ما لا ينبغي.