عن الوكالة الرقمية، وتفويض القرار، وفجوة المسؤولية
بقلم: د. شيماء أحمدين
في البداية، طلبنا من الذكاء الاصطناعي أن يقترح علينا ما نكتب. ثم سمحنا له أن يكتب، وبعدها منحناه الإذن بإرسال ما كتب، وحجز مواعيدنا، ومقارنة العروض، والتفاوض مع الأنظمة الأخرى لتحقيق أهدافنا.
لم نعد أمام مساعد يهمس في آذاننا، بل أمام وكيل قد يتصرف باسمنا.
وفي اللحظة التي انتقل فيها الذكاء الاصطناعي من تقديم الإجابة إلى تنفيذ القرار، تغير السؤال جذريًا. لم يعد السؤال: هل كانت إجابته صحيحة؟ بل أصبح:
مَن الذي تصرف حقًا، ومَن يتحمل العواقب إذا لم يشبه الفعل نية صاحبه؟
١. من الأداة إلى الوكيل
الأداة تنتظر أمرًا محددًا ثم تنفذه. أما الوكيل الذكي، فيتلقى هدفًا عامًا، ويضع خطة، ويختار الوسائل، وينفذ سلسلة من الخطوات، وقد يتفاعل مع أنظمة أخرى دون الرجوع إلى الإنسان عند كل مرحلة.
هناك فرق كبير بين أن تسأل نظامًا:
«ما أفضل وثيقة تأمين متاحة؟»
وأن تقول له:
«اختر أفضل وثيقة، وتفاوض على السعر، وقدّم البيانات المطلوبة، ثم أتمم الإجراء نيابةً عني.»
في الحالة الأولى، يقدم النظام معلومات أو توصية، ويبقى القرار لدى الإنسان.
أما في الثانية، فقد أصبح النظام جزءًا من عملية الفعل نفسها. إنه لا يصف الطريق فحسب، بل يسير فيه باسمك.
وهنا تظهر الوكالة الرقمية: قدرة النظام على تنفيذ أفعال في العالم الرقمي قد ترتب آثارًا مالية أو تعاقدية أو مهنية أو قانونية أو اجتماعية.
لكن منحه القدرة على الفعل لا يجعله، تلقائيًا، شخصًا قانونيًا مستقلًا، ولا ينقل إليه المسؤولية الأخلاقية كما تُنقل بين البشر. فالأنظمة القانونية السائدة تتعامل مع الذكاء الاصطناعي من خلال مسؤوليات الأشخاص والمؤسسات المحيطة به، وفق طبيعة الضرر والعقد والمنتج والسياق والقانون المنطبق.
٢. الموافقة على الهدف لا تعني الموافقة على كل خطوة
حين نمنح وكيلًا ذكيًا هدفًا عامًا، فإننا نفترض غالبًا أنه سيفهم القيود غير المكتوبة التي نعدها بديهية.
نقول له:
«اختر العرض الأفضل.»
لكن ماذا تعني كلمة «الأفضل»؟
هل تعني الأقل سعرًا؟ أم الأعلى جودة؟ أم الأكثر حماية للخصوصية؟ أم الأقل مخاطرة؟ أم الأكثر توافقًا مع قيم المستخدم واحتياجاته المستقبلية؟
الإنسان يحمل معه شبكة واسعة من المعاني الضمنية والخبرات والقيم. أما النظام فيحتاج إلى تحويل الهدف إلى معايير قابلة للتنفيذ. وإذا لم نحدد ما يهمنا، فقد يحقق الهدف الظاهر، بينما ينتهك مقصدنا الحقيقي.
فالمشكلة ليست دائمًا أن الوكيل تجاهل الأمر، بل ربما نفّذ الأمر بدقة وفق تعريف ناقص للنجاح.
وهنا يظهر أحد أخطر أوهام التفويض الرقمي:
أن نعتقد أن النظام فهم ما قصدناه، بينما هو لم يتلقَّ إلا ما استطعنا التعبير عنه.
٣. سيناريو: العرض الأفضل الذي لم يكن الأفضل
تخيل أنك فوّضت وكيلًا ذكيًا بمقارنة وثائق التأمين الصحي واختيار:
«أفضل تغطية بأقل سعر.»
جمع الوكيل العروض، وقارن الأقساط وحدود التغطية، وتفاوض على خصم إضافي، ثم اختار عرضًا ممتازًا من الناحية المالية.
لكن العقد تضمن بندًا يسمح باستخدام بعض بياناتك الصحية في أغراض بحثية أو تحليلية وفق شروط معينة.
لم يعتبر الوكيل الخصوصية معيارًا حاسمًا؛ لأنك لم تذكرها صراحةً، ولأن نموذج التقييم الذي استخدمه أعطى السعر والتغطية وزنًا أعلى.
قد يقبل الوكيل العرض أو يباشر إجراءات التعاقد ضمن الصلاحيات التقنية والقانونية التي مُنحت له. وبعد ذلك تكتشف أن القرار الذي حقق هدفك المالي لم يحقق إرادتك الكاملة.
فمن المسؤول؟
* المستخدم لأنه صاغ هدفًا ناقصًا؟
* المطور لأنه لم يصمم النظام لاكتشاف الشروط الحساسة؟
* المؤسسة التي سمحت بالتنفيذ دون مراجعة بشرية؟
* مقدم الخدمة الذي أخفى آثار البند داخل نص معقد؟
* أم الجهة التي منحت الوكيل صلاحيات تفوق قدرته على فهم مصالح المستخدم؟
لا توجد إجابة واحدة تصلح لكل حالة؛ فالمسؤولية القانونية تعتمد على الوقائع والعقود والصلاحيات والقانون المنطبق. لكن المثال يكشف حقيقة أساسية:
تحقيق الهدف المحدد لا يساوي بالضرورة حماية المصلحة الإنسانية الكاملة.
٤. فجوة النية والتنفيذ
يمكن تسمية المسافة بين ما أراده الإنسان وما نفذه النظام بـ«فجوة النية والتنفيذ».
تتسع هذه الفجوة كلما:
* كان الهدف عامًا أو ملتبسًا.
* تعددت الخطوات التي ينفذها النظام ذاتيًا.
* زادت قدرة الوكيل على استخدام أدوات أو التواصل مع أنظمة أخرى.
* غابت القيود الواضحة على البيانات والمال والوقت.
* اعتمد النظام على استنتاجات لم يراجعها المستخدم.
* أصبحت أفعاله أسرع من قدرة الإنسان على التدخل.
* كانت النتائج صعبة التراجع أو الإصلاح.
لا تعني الاستقلالية أن النظام أصبح صاحب نية. فالنية تظل منسوبة إلى الإنسان أو المؤسسة التي حددت الهدف وأتاحت النظام ووضعت حدود استخدامه.
لكن الاستقلالية قد تجعل العلاقة بين النية والفعل أقل وضوحًا، وتخلق ما يُعرف بـ«فجوة المسؤولية»: وضع تتوزع فيه الأدوار بين المستخدم والمطور والمشغّل والمنصة والمؤسسة، حتى يصعب تحديد مَن كان يستطيع منع الضرر، ومَن كان يجب عليه التدخل.
وقد لا يكون الخطر الأكبر وكيلًا «مارقًا»، بل نظامًا صُمم بحيث تتجزأ داخله المسؤولية إلى درجة لا يمكن معها العثور على مسؤول واضح.
٥. الوكيل الذي يتذكر نسخة قديمة منك
لا يتصرف الوكيل بناءً على تعليمات اللحظة وحدها؛ فقد يستند أيضًا إلى بيانات سابقة، وتفضيلات محفوظة، ومحادثات قديمة، أو نماذج استنتجت ما تفضله.
لكن ماذا لو تغيرت؟
ربما كنت في الماضي تفضل أقل الأسعار، ثم أصبحت الجودة أهم بالنسبة إليك. وربما وافقت سابقًا على مشاركة بعض البيانات، ثم تغير موقفك. وربما تبدلت حالتك الصحية أو المالية أو المهنية، بينما ظل الوكيل يعمل وفق سياق قديم.
عندها لا تصبح المشكلة في ذاكرة النظام فقط، بل في صلاحية السياق المفوَّض.
إن التفضيل القديم ليس تفويضًا دائمًا، والبيانات التاريخية لا ينبغي أن تتحول إلى أوامر مستمرة.
لذلك يحتاج الوكيل المسؤول إلى آليات واضحة، مثل:
* تاريخ انتهاء للتفضيلات الحساسة.
* طلب تأكيد عند تغير السياق.
* تمييز التعليمات الحالية من الاستنتاجات القديمة.
* إتاحة تصحيح الملف الشخصي وحذف افتراضاته.
* منع استخدام بيانات من سياق سابق في قرار جديد دون مبرر.
* تنبيه المستخدم عندما يستند القرار إلى معلومات قديمة أو غير مؤكدة.
فالوكيل الذي يعرف ماضيك قد يسيء تمثيل حاضرك، إذا لم يعرف أنك تغيرت.
٦. ليست كل القرارات متساوية الخطورة
لا يمكن إدارة جميع أفعال الوكيل الذكي بالمستوى نفسه من الرقابة. فحجز موعد قابل للتعديل لا يساوي توقيع عقد، وترتيب صندوق البريد لا يساوي مشاركة سجل صحي.
لذلك نحتاج إلى نموذج متدرج للتفويض:
المنطقة الخضراء: التنفيذ التلقائي
تشمل الأفعال منخفضة الخطورة، والقابلة للتراجع بسهولة، والمحدودة الأثر، مثل:
* اقتراح مواعيد أولية.
* ترتيب الملفات أو الرسائل.
* إعداد مسودة دون إرسالها.
* تنفيذ تفضيلات روتينية ضمن حدود ضيقة.
يمكن تنفيذ هذه المهام تلقائيًا، مع سجل واضح وإمكانية التراجع.
المنطقة الصفراء: الإشعار والمراجعة المبسطة
تشمل أفعالًا متوسطة الأثر، مثل:
* إرسال رسالة مهنية غير حساسة.
* تعديل حجز قابل للإلغاء.
* شراء محدود القيمة ضمن ميزانية معتمدة.
* مشاركة بيانات غير حساسة مع جهة معروفة.
هنا يمكن اشتراط إشعار واضح أو مهلة للاعتراض أو موافقة مبسطة، وفق طبيعة الفعل والقانون المنطبق.
ولا ينبغي اعتبار الصمت موافقة قانونية على معالجة حساسة أو التزام جوهري؛ فآلية الإشعار لا تصلح بديلًا عن الموافقة الصريحة عندما تكون مطلوبة.
المنطقة الحمراء: التوقف حتى الموافقة البشرية الصريحة
تشمل الأفعال التي قد تنتج آثارًا كبيرة أو يصعب عكسها، مثل:
* توقيع العقود أو قبول شروط ملزمة.
* الالتزامات المالية الكبيرة.
* القرارات الصحية أو العلاجية.
* مشاركة البيانات الحساسة.
* القرارات المؤثرة في التوظيف أو الحقوق.
* التحويلات المالية وتغيير الملكية.
* الإجراءات القانونية أو التنظيمية الرسمية.
في هذه المنطقة، يجب ألا يكتفي النظام بإبلاغ المستخدم بعد التنفيذ، بل ينبغي أن يتوقف قبل الفعل، ويعرض القرار وآثاره وبدائله، ثم يطلب موافقة بشرية واضحة.
كلما ارتفعت خطورة القرار، وجب أن تنخفض استقلالية الوكيل.
٧. الصلاحية ليست شيكًا على بياض
التفويض المسؤول لا يبدأ بزر «السماح»، بل بتحديد هندسة الصلاحيات.
ينبغي أن يوضح التفويض:
* ما المهمة المسموح بها؟
* ما الهدف المحدد؟
* ما الوسائل المحظورة؟
* ما البيانات التي يمكن الوصول إليها؟
* ما الحد المالي؟
* ما المدة الزمنية؟
* مع مَن يمكن للوكيل التواصل؟
* ما الأفعال التي تحتاج إلى موافقة جديدة؟
* متى يجب أن يتوقف؟
* كيف يمكن إلغاء الصلاحية فورًا؟
كما يجب تطبيق مبدأ «أقل صلاحية لازمة»: ألا يحصل الوكيل إلا على الحد الأدنى من الوصول والقدرة الضروريين لإنجاز المهمة.
فإذا كانت مهمته مقارنة عروض، فلا يحتاج بالضرورة إلى صلاحية إبرام العقد. وإذا كان يستطيع إعداد رسالة، فلا ينبغي أن يمتلك تلقائيًا حق إرسالها. وإذا كان يحتاج إلى قراءة معلومة صحية محددة، فلا ينبغي منحه وصولًا مفتوحًا إلى السجل كاملًا.
لا تُقاس جودة الوكيل بقدرته على فعل كل شيء، بل بقدرته على التوقف عند الحد الذي لم يُسمح له بتجاوزه.
٨. من «الإنسان في الحلقة» إلى الإنسان صاحب السيادة
أصبح تعبير «الإنسان في الحلقة» شائعًا في حوكمة الذكاء الاصطناعي. لكن مجرد وجود شخص يضغط زر الموافقة لا يضمن رقابة حقيقية.
قد تكون الموافقة شكلية إذا:
* لم يفهم الشخص كيفية الوصول إلى القرار.
* لم يحصل على وقت كافٍ للمراجعة.
* عُرضت عليه مئات القرارات فأصبح يوافق آليًا.
* لم يستطع تعديل القرار أو إيقاف النظام.
* خشي مخالفة توصية بدت أكثر «علمية» من حكمه.
* تحولت وظيفته إلى ختم قرارات اتُخذت فعليًا قبله.
الإشراف البشري الفعّال يتطلب أكثر من حضور الإنسان. ويتطلب أن يمتلك:
* معلومات كافية لفهم القرار.
* صلاحية حقيقية للتدخل
