اختيار المهام المفيدة وتحديد الصلاحيات الآمنة للخدمات العامة في السعودية
وجهة نظر سُحب
ينبغي للقيادات الحكومية تقييم الذكاء الاصطناعي الوكيل بناءً على الأعمال الخدمية التي يستطيع إنجازها ضمن تفويض محدد. وغالباً ما تكون نقطة البداية الأكثر فائدة مهمة إدارية محدودة النطاق، مثل إعداد ملف معاملة، أو جمع معلومات ناقصة، أو تنسيق طلب صيانة معتمد. لهذه المهام نتائج يمكن ملاحظتها، ونقطة واضحة تبقى عندها صلاحية القرار بيد الموظف المختص.
تستطيع الأنظمة الوكيلة اختيار الإجراءات واستخدام الأدوات عبر خطوات متعددة. وتجعل هذه القدرة تصميم المهام، والوصول إلى الأنظمة، وقواعد التصعيد عناصر أساسية في قرار الاستثمار. فالمساعد الذي يصوغ المشورة والوكيل الذي يعدّل سجلاً حكومياً ينشئان مستويات مختلفة من التعرض للمخاطر، حتى لو استخدما النموذج الأساسي نفسه.
توصي سُحب باختيار الوكلاء للجهات الحكومية وفق النتيجة الخدمية والصلاحيات التي يمكن للجهة تفويضها بأمان. ويرتبط ذلك ببُعدَي «البنية المعمارية والمنصات للذكاء الاصطناعي» و«الذكاء الاصطناعي المسؤول والحوكمة والامتثال» في إطارنا المؤسسي. حالات الاستخدام الأربع التالية مقترحات تصميمية، وليست عرضاً لتطبيقات نفذتها جهات حكومية؛ وتُبقي كل منها مسؤولاً محدداً خاضعاً للمساءلة عن النتائج.
اختر مهمة تحتاج إلى وكيل
لا تضف تخطيطاً مستقلاً إلى عملية يمكن التنبؤ بخطواتها
يمكن لسير العمل التقليدي تنفيذ تسلسل معروف من الخطوات بموثوقية. ويصبح الوكيل مفيداً عندما تعتمد الخطوة التالية على معلومات تُكتشف أثناء التنفيذ، وتستطيع المؤسسة تقييد الخيارات المتاحة. وتميّز إرشادات Anthropic الهندسية بين مسارات العمل المحددة مسبقاً والأنظمة التي يوجّه فيها النموذج عمليته واستخدامه للأدوات. [1]
بالنسبة للجهة العامة، ينبغي أن يوجّه هذا التمييز اختيار حالة الاستخدام. فالتحقق من وجود حقل مطلوب يحتاج عادةً إلى قاعدة حتمية. أما التحقق من طلب خدمة غير مكتمل فقد يتطلب عدة عمليات بحث وخطوات استيضاح. وقد يبرر ذلك استخدام وكيل محدود النطاق، شريطة أن تكون كل أداة مخوّلة للمهمة وأن تكون النتيجة قابلة للتحقق.
قارن المرشحين وفق القيمة المقدمة للخدمة العامة
يفيد إعداد الطلبات عندما تختلف المتطلبات بحسب ظروف مقدم الطلب. ويمكن للوكيل الرجوع إلى الإرشادات المعتمدة، وطلب المستندات الناقصة، وتجميع ملخص للمعاملة موثق بالمصادر. ويجب ألا يستنتج الأهلية من غياب المستندات. قِس اكتمال الطلبات وتكرار طلب المعلومات، مع إبقاء قرار الأهلية بيد الموظف المختص.
أما البحث في السياسات فله حدود مختلفة. يستطيع الوكيل تتبع المراجع عبر التعاميم المعتمدة، ومقارنة تواريخ السريان، وتحديد الأحكام المتعارضة. ويكون مخرجه موجز أدلة مرتبطاً بالمصادر، مع إبراز التعارضات التي لم تُحسم. ويتولى مختص سياسات مخوّل تفسير المواد واعتماد المشورة. وتبرز أبحاث منظمة التعاون الاقتصادي والتنمية الحوكمة والبيانات والمهارات بوصفها عوامل تمكين للذكاء الاصطناعي الحكومي. [2]
في المشتريات الداخلية، يمكن للوكيل تجميع المواصفات والإشارة إلى المبررات الناقصة في السجلات المعتمدة. وتبقى صلاحية اختيار الموردين وإقرار الالتزامات لدى الموظفين المخوّلين. استخدم سير عمل تقليدياً عندما تكون الخطوة التالية معروفة مسبقاً؛ ولا يُبرر البحث الوكيل إلا عندما يغيّر ما يُكتشف مسار المهمة.
| المهمة المرشحة | المساهمة المسموح بها | حدود القرار البشري |
|---|---|---|
| إعداد الطلبات | تحديد المستندات الناقصة وإعداد ملخص للمعاملة. | تحديد الأهلية أو الموافقة على الطلب. |
| الطلبات البلدية | جمع التفاصيل واقتراح أمر عمل. | اعتماد الأولوية واستثناءات الإحالة للتنفيذ. |
| البحث في السياسات | تجميع مواد موثقة من مصادر معتمدة. | تفسير السياسات واعتماد المشورة. |
| دعم المشتريات الداخلية | جمع المواصفات وتحديد الأدلة الناقصة. | اختيار الموردين وإقرار الالتزامات. |
صمّم رحلة الخدمة
طلب صيانة بلدي بتنفيذ خاضع للضبط
تخيّل أن أحد السكان يبلّغ عن رصيف متضرر عبر قناة خدمة معتمدة. يتحقق الوكيل من أن الطلب يتضمن موقعاً ووصفاً صالحين للاستخدام، ويبحث في سجلات الصيانة المسموح له بالوصول إليها، ويطلب التوضيح عند نقص المعلومات. ثم يعدّ مسودة أمر عمل مع المراجع الداعمة.
ينبغي للنظام التحقق من أن الموقع يقع ضمن نطاق خدمة الجهة باستخدام خدمة جغرافية معتمدة. ويجب ألا يختلق إحداثيات من وصف ملتبس. وقد يشير فحص التكرار إلى أن بلاغين يتعلقان بالمشكلة نفسها، لكن الحالات غير المؤكدة يجب أن تبقى منفصلة إلى أن يراجعها موظف.
افصل الإعداد عن اعتماد التنفيذ
يجوز للوكيل جمع المعلومات وتنظيمها. ويمكن لخدمة قائمة على القواعد التحقق من الحقول الإلزامية وقواعد التوجيه. وفي الإصدار الأولي، يعتمد موظف مخوّل بإحالة الأعمال أمر العمل قبل وصوله إلى قائمة التنفيذ التشغيلية. ويجب ألا يغيّر الوكيل تصنيفات الاستعجال، أو ينشئ التزامات إنفاق، أو يغلق معاملة لأحد السكان خارج نطاق تفويضه.
بعد اعتماد الإجراء، استخدم معرّفاً للمعاملة وضابطاً يمنع تكرار أثر التنفيذ، بحيث لا تؤدي إعادة المحاولة إلى إنشاء أمر ثانٍ. وتحقق من النتيجة في النظام المستهدف قبل إبلاغ مقدم الطلب بأنه أُرسل. فنجاح استدعاء الأداة لا يكفي إذا رُفض السجل في مرحلة لاحقة.
أبقِ مقدم الطلب على اطلاع
اعرض حالة الطلب بلغة واضحة، والخطوة التالية المتوقعة، وطريقة للوصول إلى موظف. ويجب أن تميّز الخدمة بين المسودة والطلب المرسل وأعمال الصيانة المكتملة. وتجنب الردود الحوارية الواثقة أكثر من اللازم التي توحي بإنجاز العمل بينما لم يُنشأ سوى بلاغ.
تنجح الحالة البلدية عندما يصل أمر عمل مكتمل ومصرّح به إلى قائمة التنفيذ الصحيحة مرة واحدة فقط. راقب الطلبات المرفوضة، وأوامر العمل المكررة، ورسائل الحالة غير الدقيقة إلى جانب السرعة. وتختلف هذه الحالة عن إعداد الطلبات والبحث والمشتريات: فالوكيل يشارك في معاملة تشغيلية، ولذلك يكون التحقق في النظام المستهدف ضرورياً.
حدّد الصلاحيات عند واجهة الأداة
التوجيه النصي ليس آلية للتحكم في الوصول
حدّد قائمة بالإجراءات المسموح بها لكل دور يؤديه الوكيل. وينبغي أن توضح الصلاحيات السجلات التي يمكنه قراءتها، والحقول التي يمكنه اقتراح تعديلها، والتغييرات التي تتطلب موافقة. وطبّق هذه القواعد في ضوابط الهوية والتطبيقات والتكامل. فالعبارة الواردة في توجيه نصي لا تعوّض صلاحية يفرضها النظام.
تعامل مع رسائل المواطنين والمرفقات والمستندات المسترجعة بوصفها محتوى غير موثوق. ويجب ألا تكتسب تعليمة مخفية في مستند صلاحية تغيير المهمة، أو كشف سجلات محمية، أو استدعاء أداة أخرى. قيّد البيانات التي تُرجعها الأدوات، وتحقق من مدخلاتها وفق مواصفات الخدمة المتفق عليها.
احمِ البيانات عبر المسار الكامل
تميّز إرشادات سدايا لنظام حماية البيانات الشخصية بين جهات التحكم وجهات المعالجة، وتوضح أن الاستعانة بجهات خارجية لا تُسقط مسؤوليات جهة التحكم. [3] وفي الخدمة الوكيلة، ارسم مسار البيانات عبر قناة استقبال الطلب، وخدمة النموذج، ومخزن الاسترجاع، والسجلات، وطبقة التكامل، وإمكانية وصول الدعم. وتحقق مع الوظائف المسؤولة من الأساس النظامي للمعالجة، وترتيبات الاحتفاظ، ومتطلبات نقل البيانات المنطبقة.
يصف ملف NIST للذكاء الاصطناعي التوليدي مخاطر تشمل المخرجات غير الصحيحة وتكامل المكونات. [4] وفي هذا التصميم، افصل بين تلك المخاطر: تحقق من صحة المحتوى الوقائعي لملخص المعاملة، وتحقق بصورة مستقلة من أن الإجراء كان مسموحاً ونُفّذ على نحو صحيح.
اجعل التصعيد هو الخيار الافتراضي عندما يعجز الوكيل عن إثبات الصلاحية، أو حسم تعارض المصادر، أو التعافي من معاملة فاشلة. وحدّد عدد الخطوات والوقت المتاح للمهمة، حتى لا تستمر حلقة غير منتجة في استهلاك الموارد.
| فئة الإجراء | الضابط الأولي المقترح |
|---|---|
| قراءة إرشادات خدمة معتمدة | استرجاع يراعي الصلاحيات مع تسجيل المصادر. |
| قراءة سجل لأحد السكان | هوية متحقق منها وتفويض خاص بالمعاملة. |
| صياغة تحديث مقترح | التحقق قبل إجراء أي كتابة في النظام. |
| تنفيذ إجراء تشغيلي فعلي | موافقة من مسؤول محدد أو قاعدة تفويض ضيقة النطاق. |
| تغيير استحقاق أو فرض عقوبة | إبقاء القرار لدى الموظف المخوّل. |
أثبت جدوى حالة الاستخدام قبل التوسع
اختبر المهام كاملة بما فيها الاستثناءات الصعبة
قِس إتمام المهام المقبولة، والوقت اللازم لتسليمها بصورة صحيحة، والجهد، والمتابعة المطلوبة من المواطن. وقِس أيضاً محاولات الإجراءات غير المصرّح بها، والمعاملات المكررة، والحالات التي يُبلغ فيها الوكيل عن النجاح بصورة غير صحيحة. ويجب ألا يحل الرد السلس محل نتيجة خدمية تم التحقق منها.
ابنِ حالات تقييم واقعية
استخدم اختبارات منفصلة لكل خدمة ضمن القائمة المختصرة. ففي الطلبات، أدخل حالة مستند ناقص يجب ألا يُفسر غيابه على أنه عدم أهلية. وفي البحث في السياسات، قدّم تعميمين بتواريخ متعارضة. وفي المشتريات، اطلب التزاماً غير مصرّح به. وفي الطلبات البلدية، اختبر العناوين غير المكتملة، والصيغ العربية المختلفة، والبلاغات المكررة، وطلباً جرى سحبه.
راجع سجل التنفيذ وحاكِ عدم توفر النظام المستهدف. وينبغي أن يستطيع المشغّل تحديد المعلومات المستخدمة، والموافقات المستحصلة، والحالة النهائية دون كشف معلومات شخصية لا تتعلق بالمهمة. واحتفظ بالأدلة بقدر متناسب. ويجب أن تبقى المعاملة الفاشلة ظاهرة على أنها معلّقة أو فاشلة حتى تُسوّى حالتها، بدلاً من الإبلاغ عن اكتمالها.
ابدأ ضمن نطاق خدمة ضيق
ابدأ بفئة طلبات واحدة، وفريق تشغيل واحد، وجدول عمل واضح. وأبقِ مساراً يدوياً متاحاً، وحدّد من يستطيع إيقاف الوكيل مؤقتاً. ولا تتوسع إلا عندما تستوفي الحالات المعتادة والاستثناءات معيار الخدمة المتفق عليه، ويستطيع الفريق إدارة عبء التصعيد.
إذا كان الوكيل يقضي معظم وقته في اتباع تسلسل ثابت، فاستبدل ذلك الجزء بسير عمل تقليدي. وإذا كان يحتاج بانتظام إلى تفسير بشري واسع، فاجعل دوره إعداد الأدلة. فالغاية خدمة عامة موثوقة، لا تعظيم عدد الخطوات المستقلة.
عند المراجعة، اختر بين الإبقاء على النطاق، أو توسيع صلاحية محددة، أو تبسيط التصميم، أو إيقاف حالة الاستخدام. وسجّل الأدلة التي تبرر القرار التالي.
ابنِ محفظة تتمحور حول نتائج الخدمة
اختر حالة الاستخدام التالية استناداً إلى أدلة التشغيل
اجمع في ورشة الاختيار الأولى مديري الخدمات، وموظفي الصفوف الأمامية، وملاك البيانات، وفريق البنية المعمارية، وفرق الرقابة المعنية. واطلب من كل مجموعة وصف تأخير متكرر واحد وإخفاق واحد لا يمكن قبوله. فهذا ينتج قائمة مختصرة أكثر فائدة من البدء بكتالوج منتجات الوكلاء.
ينبغي أن يكون مخرج الاختيار موجزاً لكل مرشح يتضمن: النتيجة العامة المستهدفة، وسبب استخدام وكيل، والأدوات المسموح بها، وحدود القرار البشري، واختبارات القبول. وأعطِ الأولوية للمرشح الذي يقدم منفعة خدمية ملموسة وله حدود يستطيع فريق التشغيل فرضها. وتتمثل أول محطة فيه في إتمام المهمة بصورة متحقق منها ضمن تلك الحدود.
ناقش حالة الاستخدام الحكومية مع سُحب
شارك سُحب رحلة خدمة واحدة والأنظمة التي تمر بها. ومخرج التصميم المفيد هو خريطة للإجراءات المسموح بها، وآلية تسليم مختبرة للموظفين، ومجموعة تقييم مرتبطة بنتائج الخدمة. وتربط هذه العناصر البنية المعمارية والحوكمة بمهمة تستطيع الجهة تشغيلها.
الأدلة والمراجع الإضافية
[1] Anthropic | بناء وكلاء فعّالين
[2] منظمة التعاون الاقتصادي والتنمية | الحوكمة باستخدام الذكاء الاصطناعي: الملخص التنفيذي
[3] سدايا | دليل نظام حماية البيانات الشخصية لجهات التحكم وجهات المعالجة
[4] NIST | ملف الذكاء الاصطناعي التوليدي NIST AI 600-1
تحليل تحريري أصلي من سُحب. الأمثلة والأساليب المقترحة توضيحية، ولا تمثل نتائج معلنة لعملاء. تستند المناقشة إلى المصادر؛ ولا تحل المراجع الدولية محل المتطلبات السعودية المنطبقة.
