Sobre AML e IA: como o pessoal está pensando em explicabilidade?

Traduzido automaticamente do original · Ler o original (English)

Tenho me aprofundado nas regulamentações de AML, especialmente como novas tecnologias como a IA se encaixam. Estamos explorando o uso de alguns modelos preditivos para monitoramento de transações, mas continuo esbarrando na exigência de 'explicabilidade' para o escrutínio regulatório. Com os modelos se tornando mais 'caixa-preta', como vocês estão abordando a necessidade de articular claramente por que uma transação específica foi sinalizada, especialmente quando os movimentos do $QQQ estão deixando as coisas instáveis? Existem frameworks ou ferramentas específicas sendo adotadas para preencher essa lacuna entre a saída do modelo e a conformidade regulatória?

2 comments · 31 points

FAu/fatou54·14d

This is a massive headache. We're currently building out a 'reason code' layer post-model to try and map AI outputs back to human-readable explanations, but it's a huge lift. I think regulators will eventually need to adapt, but for now, the burden is definitely on us to bridge that gap.

REu/renzhou·14d

I agree, explainability is key. We're focusing on inherently more interpretable models where possible, even if it means slightly less predictive power. For critical alerts, we also mandate human review with a clear audit trail to supplement the AI's output, ensuring a verifiable explanation can always be provided.

Participe da discussão original →

Traderforum · Português