الدرس 1-4
القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي
الوحدة 1 — تكنولوجيا المعلومات والمجتمع
البرمجة والذكاء الاصطناعي — البكالوريا، الصف الثاني
صفحات الكتاب ص 24–30منشور
التحيز الخوارزمي والخصوصية والصندوق الأسود والمسؤولية — والمبادئ الأربعة التي تجيب عنها: العدالة والشفافية وحماية الخصوصية والمساءلة. صفحات 24–30 من الكتاب.
أهداف التعلم
- 01يشرح ماهية التحيز الخوارزمي ويصف أسبابه الرئيسية في البيانات وفي طريقة بناء النظام.
- 02يربط المبادئ الأربعة — العدالة والشفافية وحماية الخصوصية والمساءلة — بمواقف محددة.
- 03يميّز المشكلات (التحيز، وخطر الخصوصية، والصندوق الأسود، وغموض المسؤولية) عن المبادئ التي تجيب عنها.
- 04يقيّم موقفًا أخلاقيًا يتعلق بالذكاء الاصطناعي، ويبرّر قاعدة للاستخدام المسؤول، ويحدد الأطراف ذات المسؤولية.
الملخص
يبدأ الدرس من حيث انتهى سابقه: صار الذكاء الاصطناعي يساعد في قرارات تخص أشخاصًا — من يُرشَّح لوظيفة، ومن تتعرف عليه كاميرا، وكيف تُستخدم بياناته الشخصية. ومن ذلك تنبع حقيقتان: قد يكون النظام غير عادل إذا كان ما تعلّم منه غير عادل، وقد يصعب معرفة لماذا اتخذ قراره أصلًا. هاتان الجملتان تولّدان كل قضايا الدرس.
التحيز الخوارزمي نمط في مخرجات الذكاء الاصطناعي قد يؤدي إلى نتائج غير عادلة أو ضارة، وينشأ من البيانات أو تصميم النظام أو طريقة استخدامه — كنظام توظيف يفضّل فئة بصورة غير عادلة، أو نظام تعرف على الوجه تقل دقته مع فئات معينة. وأسبابه عائلتان: البيانات (تمثيل ناقص لفئة، أو نزعات تمييزية سابقة مسجّلة فيها)، وطريقة البناء (اختيار غير مناسب للمتغيرات، أو متغير بديل يمثل بشكل غير مباشر سمة محمية). والعائلة الثانية هي السبب في أن حذف الجنس من البيانات لا يجعل نظام التوظيف عادلًا: فقد يحمل اسم المنطقة أو المدرسة المعلومة نفسها.
ومشكلتان أخريان باسميهما. الخصوصية هي التحكم في البيانات الشخصية التي تتم مشاركتها والتعامل معها وحمايتها، ويضيف الذكاء الاصطناعي عليها ضغطين جديدين: المراقبة عبر تقنية التعرف على الوجه، والجمع الجماعي لبيانات السلوك. ومشكلة الصندوق الأسود هي أن تكون آلية الوصول إلى النتيجة غير واضحة، فيصعب تقييمها واكتشاف الأخطاء أو التحيز؛ والذكاء الاصطناعي القابل للتفسير (XAI) هو الأسلوب الذي يحاول الإجابة عنها. أما المسؤولية فسؤال مفتوح: من يجيب حين يكون الحكم خاطئًا — المطوّر أم المشغّل أم المستخدم — ويقول الكتاب صراحة إنه لا يوجد توزيع واحد يصلح لكل السياقات.
وفي مقابل هذه المشكلات الأربع تقف أربعة مبادئ: العدالة (ألا يقع تمييز ظالم ضد شخص أو مجموعة)، والشفافية (إظهار عملية اتخاذ القرار بوضوح)، وحماية الخصوصية (التعامل مع المعلومات الشخصية بشكل مناسب)، والمساءلة (تحديد الجهات المسؤولة وإمكان محاسبتها وفق أدوارها). والفصل بين المشكلات والمبادئ نصف كل سؤال في هذا الدرس؛ والنصف الآخر أن تعرف أن XAI يشرح القرار بينما المساءلة تحدد من يُحاسَب عليه.
المصطلحات الأساسية
- التحيز الخوارزمي (Algorithmic bias)
- نمط في مخرجات الذكاء الاصطناعي قد يؤدي إلى نتائج غير عادلة أو ضارة، وينشأ من البيانات أو تصميم النظام أو طريقة استخدامه — كنظام توظيف يفضّل فئة بغير عدل، أو تعرف على الوجه تقل دقته مع فئات معينة.
- بيانات التدريب (Training data)
- الأمثلة التي يتعلم منها النظام أنماطه قبل استخدامه؛ وكلما قلّ تمثيلها للواقع زاد احتمال تحيّز مخرجاته.
- المتغير البديل (Proxy variable)
- متغير يمثل بشكل غير مباشر سمة محمية، فيبقى التحيز حتى بعد حذف السمة نفسها من البيانات.
- الخصوصية (Privacy)
- التحكم في البيانات الشخصية التي تتم مشاركتها والتعامل معها بشكل مناسب. ويضيف الذكاء الاصطناعي ضغطين: المراقبة عبر التعرف على الوجه، والجمع الجماعي للبيانات.
- الذكاء الاصطناعي القابل للتفسير (Explainable AI (XAI))
- أساليب تتيح للبشر فهم العوامل التي أوصلت النظام إلى مخرج أو قرار معين. يشرح القرار، ولا يحدد من يُحاسَب عليه.
- مشكلة الصندوق الأسود (Black-box problem)
- أن تكون آلية الوصول إلى النتيجة غير واضحة، فيصعب تقييمها واكتشاف الأخطاء أو التحيز فيها.
- العدالة (Fairness)
- مبدأ ألا يقع تمييز ظالم ضد أي شخص أو مجموعة.
- المساءلة (Accountability)
- مبدأ تحديد الجهات المسؤولة عن النظام وقراراته وآثاره وإمكان محاسبتها وفق أدوارها.
الدرس بالفيديو
أسئلة نموذجية
- 01تحذف شركة الجنس من البيانات التي يتعلم منها نظام التوظيف لديها، وتعلن أن النظام صار عادلًا. اشرح لماذا لا تكفي هذه الخطوة وحدها لإزالة التحيز، مستخدمًا فكرة المتغير البديل.تطبيق
- 02نظام تعرف على الوجه دُرّب في معظمه على مجموعة واحدة من الوجوه يُستخدم عند معبر حدودي ليقرر من يُوقَف. رتّب القضايا بالترتيب الذي تنشأ به: السبب في البيانات، ثم الأثر على الحكم، ثم ما يعنيه ذلك للشخص الموقوف، ثم لماذا لا يستطيع أحد تفسيره — وسمِّ المبدأ الذي تستدعيه كل واحدة.تحليل
- 03تريد مدرسة أن يرتّب الذكاء الاصطناعي المتقدمين لفصلها المتميز، وتحتج بأن الآلة لا يمكن أن تتحيز لأنها بلا مشاعر. احكم على هذه الحجة، ثم اقترح قاعدة واحدة تتبناها المدرسة قبل الاستخدام وبرّرها بمبدأين من المبادئ الأربعة.تقويم
الإجابات على البوابة، وتُصحَّح هناك.
أسئلة يطرحها الطلاب
القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي
افتح هذا الدرس على البوابةالكتاب المدرسي © وزارة التربية والتعليم والتعليم الفني، ولا يُعاد نشر أي جزء منه على هذا الموقع.