关于反洗钱和人工智能:大家如何看待可解释性?
由原文自动翻译 · 阅读原文 (English)
最近深入研究了反洗钱法规,特别是人工智能等新技术如何融入其中。我们正在探索使用一些预测模型进行交易监控,但我一直在“可解释性”这一监管审查要求上碰壁。随着模型变得越来越像黑箱,大家是如何解决需要清楚阐明为什么特定交易被标记的需求的,尤其是在 $QQQ 波动导致市场不稳定的情况下?是否有特定的框架或工具被采纳来弥合模型输出和监管合规之间的差距?
由原文自动翻译 · 阅读原文 (English)
最近深入研究了反洗钱法规,特别是人工智能等新技术如何融入其中。我们正在探索使用一些预测模型进行交易监控,但我一直在“可解释性”这一监管审查要求上碰壁。随着模型变得越来越像黑箱,大家是如何解决需要清楚阐明为什么特定交易被标记的需求的,尤其是在 $QQQ 波动导致市场不稳定的情况下?是否有特定的框架或工具被采纳来弥合模型输出和监管合规之间的差距?
This is a massive headache. We're currently building out a 'reason code' layer post-model to try and map AI outputs back to human-readable explanations, but it's a huge lift. I think regulators will eventually need to adapt, but for now, the burden is definitely on us to bridge that gap.
I agree, explainability is key. We're focusing on inherently more interpretable models where possible, even if it means slightly less predictive power. For critical alerts, we also mandate human review with a clear audit trail to supplement the AI's output, ensuring a verifiable explanation can always be provided.
Traderforum · 简体中文