Survei: Bank Berencana Serahkan Keputusan Kredit dan Risiko ke AI Tanpa Explainability Penuh

Riset baru FT Longitude, dikerjakan bersama SAS dan Microsoft, menemukan bank bergerak cepat menuju sistem AI yang tidak hanya memberi rekomendasi tetapi secara otonom mengambil keputusan kredit, treasury, dan risiko, sementara praktik tata kelola belum mengikuti laju adopsi. Studi itu melaporkan lebih dari 90% keputusan portofolio kredit retail di Tangerine sudah berbasis AI dengan keterlibatan manusia yang minim, sementara portofolio berisiko tinggi sengaja masih mempertahankan pengawasan manusia.

Temuan itu menyoroti kesenjangan yang melebar antara kecepatan penerapan keputusan berbasis AI dan kematangan kerangka explainability, auditability, dan pengawasan. Pengamat industri mencatat institusi yang mengadopsi keputusan otonom tanpa reason codes dan jejak audit berpotensi menghadapi risiko regulator, dan vendor yang mampu menawarkan explainability built-in lebih mudah melewati pemeriksaan pengawas. Riset ini didanai SAS dan Microsoft, serta mencakup bank global dan bukan pasar nasional tertentu.