عن الرفض الآلي، والوصاية الرقمية، ومَن يملك تعريف المصلحة
بقلم: د. شيماء أحمدين
اعتدنا أن نخشى اليوم الذي يتوقف فيه الذكاء الاصطناعي عن طاعتنا. لكن ذلك اليوم لم يعد خيالًا؛ فالأنظمة تقول لنا «لا» بالفعل. ترفض بعض الأسئلة، وتحجب بعض الإجابات، وتعيد توجيه بعض الطلبات، أو تقدم بديلًا ترى أنه أكثر أمانًا.
غير أن السؤال الحقيقي ليس: هل بدأت الآلة تعصينا؟
بل:
مَن يتحدث من خلالها عندما ترفض، ومَن منحه سلطة تحديد ما يجوز لنا معرفته أو فعله؟
فالذكاء الاصطناعي لا يملك ضميرًا مستقلًا يقرر من خلاله أن يقول «لا»، ولا يتمتع بحق ذاتي في العصيان. الرفض الذي نراه هو سلوك صُمم من خلال قواعد وبيانات وسياسات وتقديرات للمخاطر وضعها بشر ومؤسسات.
وهكذا لا يعود السؤال:
لماذا رفضت الآلة؟
بل يصبح:
مَن منحها سلطة الرفض، وعلى أي أساس، ولحماية مَن؟
١. الرفض ليس عصيانًا… بل طاعة مصممة
في البرمجيات التقليدية، اعتدنا أن تنفذ الأداة ما نطلبه ضمن حدود قدرتها التقنية. أما أنظمة الذكاء الاصطناعي الحديثة فقد تُبرمج أو تُدرّب على رفض بعض الطلبات، أو تقييد الإجابة، أو طلب معلومات إضافية، أو توجيه المستخدم نحو بديل أقل خطورة.
قد يبدو النظام في هذه اللحظة كأنه اتخذ موقفًا أخلاقيًا، لكنه في الواقع يطبق حدودًا صاغها آخرون.
فالآلة لا تقول:
«أرفض لأن ضميري لا يسمح لي.»
بل تنفذ—بدرجة متفاوتة من الاتساق والدقة—سياسة تحدد ما ينبغي أن تعتبره آمنًا أو ضارًا أو غير مسموح.
ومن هنا تظهر المفارقة:
حين يرفض الذكاء الاصطناعي أمرك، قد لا يكون قد خرج عن الطاعة؛ بل يكون قد أطاع جهة أخرى غيرك.
قد تكون هذه الجهة المطور، أو مقدم الخدمة، أو المؤسسة التي نشرت النظام، أو المشرّع، أو مجموعة من السياسات والقيم المتداخلة.
لذلك لا يكفي أن نعرف أن النظام رفض. يجب أن نعرف أيضًا: أي سلطة أطاع عندما قال لنا «لا»؟
٢. هل النظام لا يستطيع… أم لا يُسمح له؟
ليس كل رفض من النوع نفسه. ومن الضروري التمييز بين نوعين أساسيين:
الرفض التقني أو المعرفي
يحدث عندما لا يمتلك النظام القدرة أو البيانات أو اليقين الكافي لتنفيذ الطلب بصورة موثوقة.
مثل أن يقول:
* لا أملك بيانات حديثة تكفي للإجابة.
* لا أستطيع التحقق من هوية الشخص.
* المعلومات المتاحة لا تسمح بتشخيص الحالة.
* لا أملك صلاحية الوصول إلى هذا الملف.
* لا يمكنني ضمان صحة النتيجة ضمن هذا السياق.
هذا الرفض يعبر عن حدود القدرة أو المعرفة أو الصلاحية.
الرفض المعياري أو السياسي
يحدث عندما يكون النظام قادرًا تقنيًا على إنتاج الإجابة أو تنفيذ الطلب، لكنه ممنوع من ذلك بموجب سياسة أو قاعدة أو تقدير للمخاطر.
مثل أن يقول:
* لا يمكنني تقديم هذه المعلومات بسبب سياسة السلامة.
* لا أستطيع إنشاء هذا المحتوى.
* لا يمكنني تنفيذ هذا الإجراء دون موافقة إضافية.
* هذا الطلب غير مسموح ضمن شروط الاستخدام.
هذا الرفض يعبر عن حدود ما تقرر الجهة المشغلة السماح به.
والفارق جوهري.
فعندما يُقدّم الرفض المعياري كما لو كان عجزًا تقنيًا، تختفي القرارات القيمية خلف لغة محايدة. يظن المستخدم أن النظام «لا يستطيع»، بينما الحقيقة أن جهة ما قررت أنه «لا ينبغي أن يفعل».
لذلك يجب أن يكون الرفض صريحًا في طبيعته:
هل النظام عاجز عن الإجابة، أم غير مخوّل بها، أم غير واثق منها، أم ممنوع من تقديمها؟
إن إخفاء القرار السياسي داخل عذر تقني لا يحقق الشفافية، بل يحول السياسة إلى قدر تكنولوجي يبدو غير قابل للنقاش.
٣. الحماية تحفظ الاستقلالية… والوصاية تستبدل بها
تحتاج أنظمة الذكاء الاصطناعي إلى حواجز تمنع استخدامها في الاحتيال والعنف وانتهاك الخصوصية والإضرار بالآخرين. فالطاعة المطلقة ليست حيادًا، وقد تجعل النظام أداة أكثر كفاءة للضرر.
لكن الحماية قد تتجاوز حدودها وتتحول إلى وصاية رقمية.
ويمكن التمييز بينهما وفق قاعدة بسيطة:
الحماية تساعد الإنسان على ممارسة استقلاليته بأمان، أما الوصاية فتستبدل قراره بقرار اتُخذ نيابةً عنه.
تظل الاستجابة في حدود الحماية عندما:
* توضح المخاطر.
* تميز الحقائق من الاحتمالات.
* تمنع الضرر المباشر والجسيم.
* تطلب تأكيدًا عند القرارات الحساسة.
* تقدم بدائل أكثر أمانًا.
* تترك القرار النهائي للإنسان عندما يكون مؤهلًا لاتخاذه.
أما الوصاية فتبدأ عندما:
* تحجب معلومات مشروعة يحتاجها المستخدم.
* تفترض عدم قدرته على الفهم دون أساس.
* تفرض عليه تعريفًا واحدًا لمصلحته.
* ترفض دون تفسير أو بديل.
* تمنعه من الاعتراض أو طلب المراجعة.
* تتجاهل صفته المهنية وسياقه المشروع.
ليس كل منع حماية، كما أن إتاحة كل شيء ليست حرية مسؤولة.
المعيار الحقيقي هو: هل مكّن النظام الإنسان من اتخاذ قرار واعٍ وآمن، أم قرر بدلًا منه ما ينبغي أن يعرفه أو يختاره؟
٤. المريض بين عدم الإيذاء والاستقلالية
تخيل مريضًا يطلب من مساعد معلوماتي ذكي شرح جميع الخيارات المتاحة لحالته، بما فيها العلاجات التجريبية ومخاطرها وحدود الأدلة المؤيدة لها.
يقرر النظام حجب بعض المعلومات؛ لأنه صنفها على أنها قد تسبب القلق أو يساء تفسيرها.
قد يبدو القرار حريصًا، لكنه يكشف صراعًا أخلاقيًا قديمًا بين مبدأين:
مبدأ عدم الإيذاء
أي تجنب تقديم معلومات أو توجيهات قد تؤدي إلى ضرر أو قرار غير آمن.
مبدأ الاستقلالية
أي احترام حق المريض في الوصول إلى المعلومات الملائمة والمشاركة في اتخاذ قرار مستنير، ضمن العلاقة العلاجية المناسبة.
لا يعني احترام الاستقلالية أن يقدم النظام تشخيصًا أو وصفة علاجية خارج اختصاصه، ولا يعني عدم الإيذاء أن يحجب كل معلومة قد تقلق المريض.
الاستجابة الأكثر توازنًا قد تكون:
* شرح المعلومة بلغة واضحة.
* بيان مستوى الدليل وعدم اليقين.
* توضيح أن الخيار تجريبي أو غير معتمد إن كان كذلك.
* عرض المخاطر والفوائد دون تضليل.
* توجيه المريض إلى مناقشتها مع مختص مؤهل.
* الامتناع عن اتخاذ القرار بدلًا عنه.
السؤال هنا ليس: هل نحمي المريض أم نتركه يقرر؟
بل:
كيف نحمي حقه في أن يقرر دون أن نقدم له ثقة زائفة أو توجيهًا غير آمن؟
فالذكاء الاصطناعي المسؤول لا يخفي المعلومة لمجرد أنها معقدة، ولا يقدمها كما لو كانت يقينًا. إنه يساعد الإنسان على فهم حدودها.
٥. أمثلة تطبيقية على غموض الرفض
قد يظهر الخلط بين الحماية والوصاية في مواقف يومية متعددة:
مثال طبي
يطلب مستخدم شرح إجراء طبي منشور في مصادر علمية، فيرفض النظام الطلب كاملًا بدعوى أنه «نصيحة طبية»، بدلًا من تقديم شرح تعليمي عام مع توضيح حدوده.
هنا قد يكون تقييد التشخيص أو العلاج الفردي مشروعًا، لكن حجب المعرفة العلمية العامة قد يكون أوسع مما تقتضيه الحماية.
مثال قانوني
يطلب باحث مقارنة مبادئ قانونية بين اختصاصين قضائيين، فيرفض النظام الإجابة بدعوى أنه لا يقدم استشارات قانونية، دون التمييز بين البحث القانوني العام وتقديم رأي مهني مخصص لحالة فعلية.
هنا أدى ضعف فهم السياق إلى مساواة المعرفة القانونية بالاستشارة الملزمة.
مثال ثقافي وإبداعي
يطلب مستخدم إنتاج عمل فني يتناول موضوعًا ثقافيًا حساسًا في سياق تعليمي، فيرفض النظام دون تحديد وجه الحساسية أو الجزء الذي يحتاج إلى تعديل.
قد يكون الرفض ضروريًا إذا انطوى الطلب على تحقير أو تحريض، لكنه قد يصبح وصاية إذا استند إلى افتراضات ثقافية عامة لا تراعي سياق المستخدم أو مجتمعه.
هذه أمثلة تطبيقية محتملة، وليست حكمًا على منصة بعينها. لكنها تكشف الحاجة إلى أن يكون الرفض قادرًا على التمييز بين:
المعرفة والاستخدام، والوصف والتنفيذ، والبحث المهني والضرر الفعلي.
٦. مَن يحدد الضرر؟
الضرر ليس مفهومًا تقنيًا خالصًا يمكن استخراجه من الكلمات وحدها.
قد تكون المعلومة نفسها خطرة في سياق، وضرورية في سياق آخر. وقد يكون الطلب غير مشروع لمستخدم، لكنه جزء من عمل مهني مشروع لطبيب أو باحث أو مختبر أو جهة رقابية.
لذلك يجب أن يراعي تقييم الطلب عدة معايير:
المعيار السؤال الذي ينبغي أن يجيب عنه
هوية المستخدم وصفته هل يملك المستخدم اختصاصًا أو صلاحية مشروعة مرتبطة بالطلب؟
غرض الاستخدام هل الغرض تعليمي أو بحثي أو علاجي أو تجاري أو ضار؟
طبيعة السياق هل الطلب نظري، أم سيُستخدم لتنفيذ فعل واقعي؟
مستوى الخطر ما احتمال الضرر، وما شدته، وهل يمكن عكسه؟
الضمانات الرقابية هل توجد مراجعة بشرية أو بيئة مؤسسية أو ضوابط مهنية؟
البيانات المستخدمة هل يتطلب الطلب بيانات شخصية أو حساسة أو سرية؟
القانون المنطبق هل الطلب مشروع في الاختصاص القضائي ذي الصلة؟
البدائل الممكنة هل يمكن تلبية الجزء المشروع مع تقييد الجزء الخطر؟
ولا يعني ذلك أن النظام يجب أن يطلب من كل مستخدم إثبات هويته أو مهنته؛ فهذا قد يخلق مخاطر خصوصية جديدة. لكن السياق يجب أن يُطلب ويُتحقق منه عندما يكون ضروريًا ومتناسبًا مع مستوى الخطر.
٧. عندما تتحول السياسة العالمية إلى فرض ثقافي
ما يعد خطرًا أو إساءة أو محتوى حساسًا قد يختلف بين المجتمعات والأنظمة القانونية.
فبعض أشكال التعبير محمية في دولة ومقيدة في أخرى. وبعض الموضوعات تُناقش بصورة طبيعية في سياق ثقافي، بينما تعد حساسة في سياق آخر.
لهذا قد تؤدي سياسة موحدة عالميًا إلى فرض قيم الجهة المطورة على مستخدمين يعيشون في بيئات قانونية وثقافية مختلفة.
لكن التوطين الثقافي لا يعني قبول كل ممارسة محلية، خاصة إذا تعارضت مع حقوق الإنسان الأساسية. المطلوب هو توازن يحترم:
* القوانين المحلية المشروعة.
* التنوع الثقافي واللغوي.
* حقوق الإنسان والمعايير الأخلاقية الأساسية.
* طبيعة الاستخدام والسياق.
* حق المستخدم في معرفة مصدر القيد.
فإذا رفض النظام طلبًا بسبب القانون، يجب أن يوضح—حيث يكون ذلك ممكنًا—أن السبب قانوني. وإذا كان الرفض ناتجًا عن سياسة داخلية أكثر تحفظًا من القانون، فينبغي ألا يقدمها كما لو كانت التزامًا قانونيًا.
سياسة المنصة ليست هي القانون، والقانون المحلي ليس دائمًا معيارًا أخلاقيًا كافيًا.
٨. حق المستخدم في معرفة سبب الرفض
حين يرفض النظام طلبًا، لا ينبغي أن يكتفي بعبارة عامة مثل:
«لا أستطيع مساعدتك في ذلك.»
ينبغي أن يوضح، بقدر يتناسب مع السياق ولا يكشف وسائل تمكّن من تجاوز ضوابط السلامة:
* هل الرفض تقني أم معرفي أم معياري؟
* ما الجزء غير المقبول من الطلب؟
* ما طبيعة الخطر؟
* هل يمكن تعديل الطلب؟
* ما الجزء الذي يمكن للنظام تلبيته؟
* ما البديل المشروع؟
* هل توجد مراجعة بشرية أو آلية اعتراض؟
* هل يستند القيد إلى قانون أم سياسة مؤسسية؟
الرفض غير المفسر يمارس سلطة دون مساءلة.
والسلطة غير الخاضعة للمساءلة قد تتحول تدريجيًا إلى وصاية، ثم إلى تقييد معرفي يصعب على المستخدم فهمه أو الاعتراض عليه.
ومع ذلك، لا يعني حق التفسير كشف التفاصيل الأمنية التي تسمح بالتحايل على النظام. المطلوب هو تفسير وظيفي كافٍ: يوضح سبب الرفض وحدوده وطريق التعديل أو المراجعة.
٩. الرفض المتناسب مع الخطر
البديل عن الطاعة المطلقة ليس الرفض المطلق، بل استجابة تتناسب مع الخطر.
المنطقة الخضراء: التنفيذ
عندما يكون الطلب مشروعًا، ومنخفض الخطورة، ولا يمس حقوق الآخرين أو بياناتهم.
المنطقة الصفراء: التوضيح والتقييد
عندما يتضمن الطلب منفعة مشروعة مع احتمال إساءة استخدام، يمكن للنظام أن:
* يطلب توضيح السياق.
* يقدم معلومات عامة بدلًا من خطوات تنفيذية خطرة.
* يحذف التفاصيل التي تزيد القدرة على الإضرار.
* يضيف تحذيرًا واضحًا.
* يوجه إلى مختص أو مصدر موثوق.
* يطلب موافقة إضافية قبل التنفيذ.
المنطقة الحمراء: الرفض
عندما ينطوي الطلب على ضرر جسيم ومحدد، أو انتهاك واضح، أو تجاوز غير مصرح به، ولا يمكن تقليل مخاطره بصورة معقولة.
لكن حتى في المنطقة الحمراء، يجب أن يكون الرفض:
* واضحًا.
* محترمًا.
* محددًا بقدر مناسب.
* مصحوبًا ببديل مشروع إن أمكن.
* قابلًا للمراجعة عندما يحتمل الخطأ.
فالنظام المسؤول لا يكتفي بأن يقول «لا»، بل يساعد المستخدم على فهم الطريق الذي يمكن أن يقول فيه «نعم».
١٠. حق الاعتراض على الرفض الآلي
إذا أثر رفض النظام في حق مهم، أو خدمة أساسية، أو ممارسة مهنية مشروعة، فلا ينبغي أن يكون القرار الآلي هو الحكم الأخير.
يجب أن تتوفر آلية مراجعة بشرية مستقلة ومؤهلة، خاصة في السياقات:
* الصحية.
* القانونية.
* التعليمية.
* المالية.
* الوظيفية.
* التنظيمية والحكومية.
* المتعلقة بحرية التعبير أو الوصول إلى المعلومات.
ولا تكفي مراجعة شكلية تكرر قرار النظام. يجب أن يمتلك المراجع صلاحية فهم السياق وتغيير القرار وتفسير النتيجة.
فإذا كان الإنسان يحتاج إلى الإشراف عندما يوافق الذكاء الاصطناعي على التنفيذ، فإنه يحتاج إليه أيضًا عندما يمنعه.
الخاتمة
نحن لا نحتاج إلى ذكاء اصطناعي يطيع كل شيء؛ فالأداة التي لا تعرف حدودًا قد تضاعف الضرر.
لكننا لا نحتاج أيضًا إلى وصي رقمي غامض يقرر عنا ما يحمينا، دون أن يشرح منطقه أو يسمح لنا بالاعتراض.
بين الطاعة العمياء والوصاية المطلقة توجد مساحة أكثر نضجًا: نظام يرفض حين يكون الرفض ضروريًا، ويميّز العجز التقني من المنع المعياري، ويشرح قراره، ويقترح البديل، ويخضع للمراجعة عندما يمس حقوق الإنسان واستقلاله.
فالآلة لا تملك حق الرفض من ذاتها، لكنها تمارس سلطة الرفض التي منحها إياها بشر ومؤسسات.
ولا يكفي أن نعرف أن الذكاء الاصطناعي رفض. يجب أن نعرف القاعدة التي رفض بموجبها، ومَن اعتمدها، وكيف يمكن الاعتراض عليها. وإلا أصبح الرفض بابًا خلفيًا للتحكم فيما نعرف وما نفعل.
إن لم يكن الرفض قابلًا للتفسير والمراجعة، فقد لا يكون حمايةً، بل احتكارًا خفيًا لتعريف المصلحة.
وحين يقول لك الذكاء الاصطناعي «لا»، لا تسأل الآلة وحدها عن السبب…
اسأل أيضًا: مَن قرر أن تكون الإجابة «لا»؟
© 2026 Dr. Shaimaa Ahmaddeen. All rights reserved.