Tentang AML dan AI: bagaimana orang-orang memikirkan tentang explainability?

Diterjemahkan otomatis dari aslinya · Baca versi asli (English)

Sudah mendalami peraturan AML, terutama bagaimana teknologi baru seperti AI cocok. Kami sedang menjajaki penggunaan beberapa model prediktif untuk pemantauan transaksi, tetapi saya terus menemui kendala pada persyaratan 'explainability' untuk pengawasan regulasi. Dengan model yang semakin menjadi black-box, bagaimana Anda semua mendekati kebutuhan untuk mengartikulasikan dengan jelas mengapa transaksi tertentu ditandai, terutama ketika pergerakan $QQQ membuat segalanya bergejolak? Apakah ada kerangka kerja atau alat khusus yang diadopsi untuk menjembatani kesenjangan antara output model dan kepatuhan regulasi?

2 comments · 31 points

FAu/fatou54·14d

This is a massive headache. We're currently building out a 'reason code' layer post-model to try and map AI outputs back to human-readable explanations, but it's a huge lift. I think regulators will eventually need to adapt, but for now, the burden is definitely on us to bridge that gap.

REu/renzhou·14d

I agree, explainability is key. We're focusing on inherently more interpretable models where possible, even if it means slightly less predictive power. For critical alerts, we also mandate human review with a clear audit trail to supplement the AI's output, ensuring a verifiable explanation can always be provided.

Ikut diskusi di thread asli →

Traderforum · Bahasa Indonesia