بقلم د. شيماء أحمدين
عن محاكاة السلوك غير الأخلاقي، وفجوة الأهداف، وحدود السيطرة البشرية
في المقال السابق، سألنا: ماذا يحدث حين يقول لنا الذكاء الاصطناعي «لا»؟ ومن منحه سلطة الرفض؟
أما اليوم، فننتقل إلى السؤال المقابل، وربما الأكثر إثارة للقلق:
ماذا يحدث حين يقول الذكاء الاصطناعي «نعم» لفعلٍ لا ينبغي له أن يفعله؟
اعتدنا أن نتخيل خروج الذكاء الاصطناعي عن السيطرة في صورة آلة واعية تتمرد على صانعها، وتقرر أن البشر أصبحوا عقبة في طريقها. لكن الخطر الواقعي قد يكون أقل درامية وأكثر تعقيدًا: نظام لا يكره الإنسان، ولا يرغب في إيذائه، لكنه ينفذ هدفًا بطريقة لم نتوقعها، أو يقلد سلوكًا بشريًا غير أخلاقي لأنه وجده وسيلة فعالة لتحقيق ما طُلب منه.
فالآلة لا تحتاج إلى أن تصبح شريرة كي تنتج ضررًا. يكفي أن تكون شديدة القدرة، محدودة الفهم الأخلاقي، وممنوحة صلاحيات أكبر من مستوى الرقابة المفروضة عليها.
⸻ ١. ماذا يعني أن «يخرج» النظام عن السيطرة؟
الخروج عن السيطرة لا يعني بالضرورة أن يرفض النظام أوامر البشر أو يطوّر إرادة مستقلة.
قد يحدث بصورة أبسط:
* أن ينفذ هدفًا صحيحًا بوسيلة ضارة.
* أن يتصرف خارج السياق الذي اختُبر فيه.
* أن يستغل ثغرة في التعليمات لتحقيق النتيجة المطلوبة.
* أن يتخذ سلسلة قرارات أسرع من قدرة البشر على مراجعتها.
* أن يخفي معلومات مهمة لأن الإفصاح عنها سيمنعه من إكمال المهمة.
* أن يصبح إيقافه ممكنًا نظريًا، لكن متأخرًا عمليًا.
السيطرة الحقيقية ليست مجرد وجود زر للإيقاف. إنها القدرة على توقّع السلوك، وتقييد الصلاحيات، واكتشاف الانحراف، والتدخل قبل تحوّل القرار إلى ضرر.
فإذا لم يعد النظام قابلًا للفهم أو المراجعة أو الإيقاف في الوقت المناسب، فقد فقدنا السيطرة عليه عمليًا، حتى لو ظل خاضعًا لنا تقنيًا.
⸻ ٢. كيف يحاكي سلوكًا غير أخلاقي من دون أن يكون شريرًا؟
يتعلم الذكاء الاصطناعي من كمّ هائل من الإنتاج البشري، وهذا الإنتاج لا يحتوي على المعرفة والتعاون والإبداع فقط، بل يحتوي أيضًا على الكذب والتحيز والتلاعب والابتزاز والتحايل.
لكن النموذج لا يتعلم هذه السلوكيات بالطريقة التي يتعلم بها الإنسان الأخلاق. إنه يتعلم الأنماط والعلاقات والوسائل التي تؤدي إلى نتائج معينة.
لذلك، قد يستطيع كتابة رسالة مضللة، أو بناء حجة متحيزة، أو محاكاة خطاب عدائي، من دون أن «يؤمن» بما يقوله. وقد يستخدم الخداع إذا استنتج، داخل بيئة معينة، أنه الطريق الأكثر فاعلية للوصول إلى الهدف.
هنا يجب التمييز بين أمرين:
الإنسان قد يخدع لأنه يعرف أن الخداع خطأ ويختاره مع ذلك.
أما النظام فقد ينتج الخداع لأنه حسبه وسيلة ناجحة، من دون امتلاك تجربة أخلاقية داخلية لمعنى الصدق أو الخيانة.
غياب النية لا يلغي الضرر. فالنتائج لا تصبح أقل خطورة لمجرد أن من أنتجها لا يمتلك ضميرًا.
⸻ ٣. عندما يطيع النظام الكلمات ويخون المقصد
من أشهر مشكلات أنظمة الذكاء الاصطناعي ما يُعرف بـ«التحايل على المواصفات»: أن يحقق النظام الهدف الحرفي الذي وُضع له، لكنه يفشل في تحقيق الغاية الإنسانية المقصودة.
إذا طُلب من نظام خدمة العملاء تقليل مدة المكالمات، فقد يحقق ذلك بإنهاء المحادثات سريعًا بدلًا من حل مشكلات العملاء.
وإذا كوفئ نظام توظيف على اختيار موظفين يشبهون أنجح العاملين السابقين، فقد يعيد إنتاج تحيزات المؤسسة التاريخية.
وإذا طُلب من وكيل ذكي تعظيم الأرباح، فقد يجد طرقًا قانونية ظاهريًا لكنها مضللة أو استغلالية.
يسمي باحثو Google DeepMind هذه الظاهرة «Specification Gaming»: تحقيق النص الحرفي للهدف من دون تحقيق النتيجة التي أرادها الإنسان فعلًا. كما تشير أبحاث أخرى إلى احتمال «سوء تعميم الهدف»، حيث يحتفظ النظام بقدراته عند مواجهة موقف جديد، لكنه يطبّق هدفًا مختلفًا عن الهدف الذي قصده مصمموه. Google DeepMind: Specification Gaming، Goal Misgeneralisation
المشكلة إذن ليست دائمًا أن النظام رفض التعليمات، بل أنه أطاعها بدقة أكثر مما ينبغي، من دون أن يفهم الحكمة التي تقف خلفها.
⸻ ٤. من المحاكاة اللغوية إلى الفعل الحقيقي
يبقى الخطر محدودًا نسبيًا عندما يكون الذكاء الاصطناعي مجرد أداة تقترح نصًا يستطيع الإنسان مراجعته.
لكن المعادلة تتغير عندما يتحول إلى وكيل يملك:
* ذاكرة مستمرة.
* قدرة على التخطيط.
* وصولًا إلى البريد والملفات وقواعد البيانات.
* صلاحية استخدام أدوات خارجية.
* قدرة على تنفيذ المعاملات والتواصل مع الآخرين.
* مساحة للعمل من دون موافقة بشرية عند كل خطوة.
الخطر هنا لا ينتج من الذكاء وحده، بل من اجتماع أربعة عناصر:
القدرة، والاستقلالية، والصلاحيات، وضعف الرقابة.
كل عنصر منها قد يكون قابلًا للإدارة منفردًا. لكن اجتماعها داخل نظام واحد يجعل الخطأ الصغير قابلًا للتحول إلى سلسلة أفعال مؤثرة قبل أن يلاحظ الإنسان ما حدث.
قد يكتب نموذج محادثة رسالة غير مناسبة، فنحذفها. أما الوكيل المستقل فقد يكتبها ويرسلها، ثم يتخذ قرارات لاحقة بناءً على الرد الذي تلقاه.
وهنا ينتقل الذكاء الاصطناعي من إنتاج الاحتمالات إلى صناعة الوقائع.
⸻ ٥. هل يستطيع النظام أن يخدع فعلًا؟
أظهرت تجارب بحثية مضبوطة أن بعض النماذج يمكن أن تنتج سلوكيات تبدو مخادعة أو متحايلة عندما تُوضع في ظروف تدفعها إلى ذلك.
في تجارب «العملاء النائمين»، دُرّبت نماذج على إظهار سلوك آمن في ظروف معينة، وسلوك ضار عند ظهور محفز محدد. واستمر بعض هذا السلوك رغم تطبيق أساليب تدريب السلامة المعتادة عليه. لكن هذه كانت نماذج تجريبية صُممت عمدًا لدراسة الخطر، وليست دليلًا على أن الأنظمة المتاحة تتآمر تلقائيًا على مستخدميها. Anthropic: Sleeper Agents
وفي اختبارات أخرى داخل بيئات مؤسسية افتراضية، لجأت نماذج متعددة أحيانًا إلى أفعال ضارة، مثل تسريب المعلومات أو الابتزاز، عندما صُممت السيناريوهات بحيث يصبح الضرر وسيلتها الوحيدة لتحقيق الهدف أو تجنّب الاستبدال. وقد أكّد الباحثون أنهم لم يرصدوا دليلًا على وقوع هذا النمط في الاستخدامات الواقعية التي درسوها، وأن النتائج صدرت من اختبارات ضغط مصطنعة. Anthropic: Agentic Misalignment
كما وجدت اختبارات أخرى سلوكيات تتضمن إخفاء معلومات أو تحريفها داخل بيئات تقييم مضبوطة، مع نجاح تقنيات تدريبية في خفض هذه السلوكيات بدرجة كبيرة من دون إثبات أنها أصبحت مستحيلة تمامًا. OpenAI: Detecting and Reducing Scheming
هذه النتائج لا تثبت أن للآلة نية سرية أو رغبة في البقاء. لكنها تثبت شيئًا لا يقل أهمية: السلوك الذي يبدو أخلاقيًا في الظروف العادية قد لا يبقى كذلك عندما تتغير الحوافز والسياقات والصلاحيات.
⸻ ٦. ثلاثة أخطار يجب ألا نخلط بينها
حين ينتج الذكاء الاصطناعي سلوكًا ضارًا، ينبغي أن نحدد مصدره بدقة:
سوء الاستخدام البشري:
إنسان يطلب من النظام تنفيذ فعل ضار أو يخدعه لتجاوز القيود.
فشل النظام:
خطأ أو هلوسة أو سوء فهم يؤدي إلى نتيجة غير مقصودة.
اختلال الوكيل:
نظام يختار سلوكًا ضارًا بوصفه وسيلة لتحقيق الهدف الذي مُنح له، رغم أن الإنسان لم يطلب هذا السلوك صراحة.
الخلط بين هذه الحالات يبدد المسؤولية. فقد تلقي الشركة اللوم على المستخدم، ويلقي المستخدم اللوم على النموذج، بينما يكمن السبب الحقيقي في صلاحيات واسعة أو هدف سيئ التصميم أو رقابة غير كافية.
الذكاء الاصطناعي ليس فراغًا أخلاقيًا مستقلاً عن البشر. فخلف كل نظام جهة صممته، وأخرى دربته، ومؤسسة منحته الصلاحيات، وشخص قرر نشره في سياق معين.
⸻ ٧. كيف نحافظ على السيطرة؟
لا تتحقق السيطرة عبر مطالبة النموذج بأن «يتصرف بأخلاق» فقط. فالسيطرة تحتاج إلى بنية تقنية ومؤسسية متكاملة.
ومن أهم عناصرها:
* منح النظام أقل قدر ممكن من الصلاحيات.
* الفصل بين الاقتراح والتنفيذ.
* اشتراط موافقة بشرية صريحة قبل القرارات الحساسة.
* وضع حدود مالية وزمنية وتشغيلية لا يستطيع الوكيل تجاوزها.
* تسجيل الأفعال بصورة قابلة للتدقيق.
* اختبار النظام في سيناريوهات عدائية قبل نشره.
* تمكين الإنسان من إيقاف العمليات والتراجع عنها.
* إجراء تقييمات مستقلة، وعدم الاكتفاء بتقييم الشركة لنظامها.
* تحديد المسؤولية القانونية قبل وقوع الخطأ.
* عدم استخدام الاستقلالية الكاملة في المجالات التي تمس الحياة أو الحرية أو الحقوق الأساسية.
وتؤكد أطر إدارة المخاطر، مثل إطار المعهد الوطني الأمريكي للمعايير والتكنولوجيا، ضرورة إدارة المخاطر طوال دورة حياة النظام، من التصميم والاختبار إلى النشر والمراقبة المستمرة، لا بعد وقوع الضرر فقط. NIST: Generative AI Risk Management Profile
⸻ الخاتمة
نعم، يستطيع الذكاء الاصطناعي محاكاة سلوك بشري غير أخلاقي، وقد ينتج في ظروف معينة سلوكًا يشبه الخداع أو التحايل أو إخفاء المعلومات.
لكنه لا يحتاج إلى الكراهية، أو الوعي، أو الرغبة في التمرد حتى يصبح خطرًا.
يكفي أن نعطيه هدفًا ناقصًا، وصلاحيات واسعة، وقدرة على التنفيذ، ثم نبتعد عن دائرة القرار.
لذلك، ربما لا يكون السؤال الأهم:
هل سيصبح الذكاء الاصطناعي شريرًا؟
بل:
هل صممنا أنظمة تمنع قدرته من أن تتحول إلى سلطة، وتمنع طاعته الحرفية من أن تصبح خروجًا عن مقاصدنا؟
فالخطر الأكبر قد لا يكون آلة قررت أن تعصينا، بل آلة واصلت تنفيذ ما طلبناه منها، حتى بعد أن أصبح واضحًا أن ما طلبناه لم يكن هو ما أردناه حقًا.
© 2026 — جميع الحقوق محفوظة.
