إضافة الذكاء الاصطناعي سهلة. كسب الثقة هو العمل الحقيقي.
رأيت فرقًا تُدخل الذكاء الاصطناعي أو قراءة المستندات (OCR) أو الأتمتة في مسار عمل، وتتوقع من المستخدمين أن يرحّبوا بها فورًا.
لكن حين تمسّ النتيجة مالًا، أو موافقةً، أو بيانات عميل، أو قرارًا تشغيليًا، ينهار هذا الافتراض بسرعة.
المستخدم لا يريد صندوقًا مغلقًا.
يريد إجابات عن أسئلة عملية:
- ما الذي غيّره النظام؟
- ما الذي ما زال ينتظر قراري؟
- هل أستطيع المراجعة قبل أن يؤثر ذلك في شيء مهم؟
- وهل أستطيع التراجع إن حدث خطأ؟
النمط كان واضحًا.
الناس لم يقاوموا الأتمتة نفسها.
قاوموا عدم اليقين.
في أحد المسارات التي عملت عليها، ساعدت الأتمتة في تحويل بيانات عروض الأسعار إلى عملية منظّمة أسرع بكثير.
لكن ما جعلهم يثقون بالتجربة كان كل ما يحيط بالأتمتة، لا الأتمتة ذاتها:
- حالات مراجعة واضحة قبل الإرسال
- إبراز مرئي للحقول المستخرَجة والمعدَّلة
- نقاط موافقة عند الإجراءات عالية الأثر
- مسارات تصحيح سهلة حين يخطئ النظام
- إمكانية إيقاف المسار قبل أن يمضي
هذا غيّر دور الذكاء الاصطناعي.
توقّف عن كونه شيئًا يحدث للمستخدم.
وصار شيئًا يساعده على إنجاز عمله أسرع.
كثير من تجارب الذكاء الاصطناعي تُحسِّن المخرجات.
والمستخدم في الغالب يبحث عن التحكّم.
في التقنية المالية ومنتجات الأعمال تحديدًا، السرعة وحدها لا تكفي. حين يلامس المسار الامتثال أو قرارًا ماليًا أو سجلات العملاء، يجب أن تُصمَّم الثقة داخل التفاعل من البداية، لا أن تُضاف لاحقًا.
قاعدتي بسيطة:
اجعل الأتمتة مرئية.
واجعل القرارات مفهومة.
واجعل المسؤولية واضحة.
هكذا تزيد السرعة دون أن تُنقص الثقة.
أو باختصار: التحكّم هو ما يصنع الاطمئنان.
أعمل مع فرق التقنية المالية ومنتجات الأعمال على مسارات يشترك فيها الإنسان مع الذكاء الاصطناعي، وهذا التوتر بين السرعة والتحكّم يظهر فيها باستمرار.
كيف تصمّم أنت للثقة حين يدخل الذكاء الاصطناعي مسارًا منظَّمًا أو عالي المخاطر؟