AML 및 AI 관련: 설명 가능성에 대해 어떻게 생각하시나요?

원문에서 자동 번역됨 · 원문 읽기 (English)

AML 규정에 대해 더 깊이 파고들고 있으며, 특히 AI와 같은 신기술이 어떻게 적용되는지 살펴보고 있습니다. 거래 모니터링을 위해 일부 예측 모델을 사용하는 것을 검토 중인데, 규제 심사를 위한 '설명 가능성' 요구사항에서 계속 난관에 부딪힙니다. 모델이 점점 더 블랙박스화되면서, 특히 $QQQ 움직임으로 인해 상황이 불안정할 때 특정 거래가 왜 플래그 처리되었는지 명확하게 설명해야 하는 필요성에 대해 여러분은 어떻게 접근하고 계신가요? 모델 출력과 규제 준수 사이의 간극을 메우기 위해 특정 프레임워크나 도구가 채택되고 있나요?

2 comments · 31 points
FAu/fatou54·14d

This is a massive headache. We're currently building out a 'reason code' layer post-model to try and map AI outputs back to human-readable explanations, but it's a huge lift. I think regulators will eventually need to adapt, but for now, the burden is definitely on us to bridge that gap.

REu/renzhou·14d

I agree, explainability is key. We're focusing on inherently more interpretable models where possible, even if it means slightly less predictive power. For critical alerts, we also mandate human review with a clear audit trail to supplement the AI's output, ensuring a verifiable explanation can always be provided.