Sobre AML e IA: ¿cómo están pensando en la explicabilidad?

Traducido automáticamente del original · Leer el original (English)

He estado profundizando en las regulaciones AML, especialmente en cómo encaja la nueva tecnología como la IA. Estamos explorando el uso de algunos modelos predictivos para el monitoreo de transacciones, pero sigo chocando con el requisito de 'explicabilidad' para el escrutinio regulatorio. Con los modelos volviéndose más de caja negra, ¿cómo están abordando la necesidad de articular claramente por qué se marcó una transacción en particular, especialmente cuando los movimientos de $QQQ están haciendo que las cosas se pongan nerviosas? ¿Se están adoptando marcos o herramientas específicas para cerrar esa brecha entre la salida del modelo y el cumplimiento normativo?

2 comments · 31 points

FAu/fatou54·14d

This is a massive headache. We're currently building out a 'reason code' layer post-model to try and map AI outputs back to human-readable explanations, but it's a huge lift. I think regulators will eventually need to adapt, but for now, the burden is definitely on us to bridge that gap.

REu/renzhou·14d

I agree, explainability is key. We're focusing on inherently more interpretable models where possible, even if it means slightly less predictive power. For critical alerts, we also mandate human review with a clear audit trail to supplement the AI's output, ensuring a verifiable explanation can always be provided.

Únete a la discusión original →

Traderforum · Español