نعم، إذا كان الذكاء الاصطناعي يقترح والإنسان يقرّر. في مرصد، كل إجراء مقترح يعرض الأدلة التي بُني عليها، وينتظر اعتماد الشخص المخوّل باتخاذ هذا القرار، ثم يُسجَّل بعد تنفيذه في سجل قرارات مختوم لا يمكن العبث به، وكذلك حالات الرفض. تحصل على سرعة الأتمتة مع أثر كامل: من قرّر، وماذا، ولماذا.
لماذا يختلف السماح للذكاء الاصطناعي بالتنفيذ عن السماح له بالإجابة؟
الذكاء الاصطناعي الذي يجيب عن سؤال قد يخطئ، ويستطيع من يقرأ الإجابة أن يكتشف الخطأ. أما الذي ينفّذ، فيحدّث سجلاً أو يرسل طلباً أو يغيّر حالة في نظام تخطيط الموارد، فقد يرتكب أخطاء تنتشر قبل أن يلاحظها أحد. لذا تجد معظم الجهات نفسها بين خيارين سيئين:
- إبقاء الذكاء الاصطناعي للقراءة فقط وخسارة معظم قيمته، لأن أحدهم لا يزال ينفّذ العمل يدوياً.
- منحه استقلالية كاملة وقبول مخاطر لن يوافق عليها أي فريق تدقيق أو امتثال.
والتصميم الذي يُبقي الإنسان في الحلقة هو الخيار الثالث.
الضوابط الأربعة
الأدلة أولاً
كل توصية تأتي مع الحقائق التي بُنيت عليها: السجلات والأرقام والمستندات التي أطلقتها، وكل منها يشير إلى مصدره. ويمكن لمرصد أيضاً أن يعرض الحجج مع الإجراء المقترح وضده، وكيف انتهت قرارات مشابهة في الماضي. فالمعتمِد يحكم على قضية واضحة، لا يثق في صندوق أسود.
إجراءات محددة فقط
لا يستطيع الذكاء الاصطناعي فعل أي شيء. يقترح فقط إجراءات عرّفتها الجهة مسبقاً، بمدخلاتها وآثارها الواضحة. وما هو خارج هذه القائمة غير متاح له.
اعتماد من الشخص المخوّل
الإجراء المقترح ينتظر حتى يعتمده من يملك الصلاحية لذلك. والصلاحيات تحدد من يعتمد أي نوع من الإجراءات، فلا تصل توصية بدفعة كبيرة إلى موظف مبتدئ.
سجل لا يمكن تعديله خفيةً
حين يُتخذ القرار، اعتماداً أو رفضاً، يُختم في سجل القرارات: ما الذي اقتُرح، والأدلة، ومن قرّر، ومتى، وماذا حدث. والقيود موقّعة تشفيرياً ومتسلسلة، فأي عبث لاحق يمكن كشفه. ويستطيع المدققون والمديرون إعادة تتبع كيف اتُّخذ كل قرار بالضبط.
رحلة قرار واحد
- الإشارة: يرصد مراقبٌ موقفاً، مثل تأخر شحنات مورد رئيسي بينما لديه طلب كبير مفتوح.
- الأدلة: يجمع مرصد السجلات والمستندات المرتبطة ويصوغ إجراءً مقترحاً.
- صندوق القرارات: تصل التوصية إلى صندوق قرارات الشخص المسؤول.
- الاعتماد: يراجع الأدلة ثم يعتمد أو يعدّل أو يرفض.
- التنفيذ: إذا اعتُمد، يُنفَّذ الإجراء، في أودو مثلاً.
- السجل: تُختم الرحلة كاملة للتدقيق، حتى في حالة الرفض.
لماذا يبني ذلك الثقة مع الوقت؟
لأن كل قرار ونتيجته مسجّلان، تبني الجهة ذاكرة لما نجح. ومع الوقت يمكن للتوصيات أن تستند إلى السوابق («في المرات الثلاث الأخيرة التي حدث فيها هذا، هذا ما فعلناه وهكذا انتهى»)، وترى الفرق ما إذا كانت اقتراحات الذكاء الاصطناعي سليمة.
هذا هو جزء «التصرّف» في طبقة القرار بالذكاء الاصطناعي، ويكمّله إبقاء البيانات تحت سيطرتك. اطّلع على الذكاء الاصطناعي السيادي.
أسئلة شائعة
هل يستطيع مرصد التنفيذ دون اعتماد؟
الإجراءات التي تغيّر أنظمتك تُوجَّه لاعتماد الأشخاص المخوّلين بها. الذكاء الاصطناعي يقترح، ولا يقرّر وحده.
ماذا يحدث حين يرفض أحدهم توصية؟
يُسجَّل الرفض في السجل مع الأدلة، فتحتفظ الجهة بسجل القرارات التي لم تُتخذ كما تحتفظ بالتي اتُّخذت.
كيف يُحمى السجل من العبث؟
كل قيد موقّع تشفيرياً، والقيود متسلسلة ببعضها. وتغيير قيد قديم يكسر السلسلة ويُكتشف.
شاهد رحلة القرار من البداية إلى النهاية: اطلب عرضاً توضيحياً لمرصد.