금융 범죄 감시 AI, '근거 없는 추측'을 어떻게 없앨까?

거대언어모델(LLM)이 자금세탁방지(AML) 조사 과정에서 근거 기반의 판단을 내리고 그 이유를 명확히 설명하게 만드는 새로운 프레임워크를 제안합니다.## 왜 중요한가 전 세계 금융기관은 자금세탁을 막기 위해 거래 모니터링 시스템을 운영합니다. 하지만 시스템이 너무 많은 경고(Alert)를 쏟아내면서, 조사관들이 이를 일일이 확인하고 분류하는 '트리아지(Triage, 초동 분류)' 과정에 엄청난 시간과 비용이 소모되고 있습니다.

최근에는 거대언어모델(LLM)을 도입해 이 과정을 자동화하려는 시도가 많습니다. 하지만 금융 분야는 규제가 매우 엄격합니다. AI가 그럴듯하게 들리는 가짜 정보(환각 현상)를 만들어내거나, 왜 그런 판단을 내렸는지 명확한 근거를 제시하지 못한다면 실제 업무에 적용하는 것은 불가능합니다. 즉, AI의 효율성보다 '설명 가능성'과 '신뢰성'이 더 중요한 영역입니다.

핵심 내용

본 연구는 LLM이 단순히 답을 내놓는 것이 아니라, 엄격하게 제한된 근거만을 사용하여 의사결정을 내리는 '근거 제약적 의사결정 프로세스'를 제안합니다.

먼저, AI가 임의로 내용을 생성하는 것을 방지하기 위해 흩어져 있는 방대한 데이터에서 판단에 필요한 핵심 증거만을 먼저 추출하도록 설계했습니다. 이후, AI가 작성한 판단 근거가 실제 데이터와 일치하는지 검증하는 단계를 거칩니다.

특히 주목할 점은 '반사실적 확인(Counterfactual Checks)' 기법의 도입입니다. 이는 "만약 특정 증거가 없었더라도 AI가 동일한 결정을 내렸을까?"를 확인하는 과정입니다. 만약 핵심 증거가 사라졌는데도 AI가 똑같은 결론을 내린다면, 이는 AI가 데이터를 제대로 분석한 것이 아니라 단순한 패턴이나 편향에 따라 추측했다는 의미가 됩니다. 이 과정을 통해 AI의 설명이 실제 결정 과정과 얼마나 일치하는지를 엄격하게 측정하고 교정할 수 있습니다.

어디에 활용될 수 있나

이 기술이 적용되면 금융기관의 컴플라이언스 팀은 수만 건의 경고 메시지를 훨씬 빠르게 처리할 수 있습니다. AI가 단순 요약을 넘어 "A라는 거래 패턴과 B라는 고객 정보가 일치하므로 자금세탁 의심 사례로 분류함"과 같이 감사 가능한 수준의 보고서를 작성해주기 때문입니다. 이는 조사관의 업무 부담을 줄일 뿐 아니라, 감독 기관에 제출하는 소명 자료의 객관성을 높이는 데 기여할 수 있습니다.

한계와 주의점

다만, 이 프레임워크의 성능은 처음에 어떤 증거를 추출하느냐 하는 '증거 검색' 단계의 정확도에 크게 의존합니다. 또한, LLM의 내재적인 한계로 인해 매우 복잡하거나 정교하게 위장된 자금세탁 수법을 완벽하게 잡아내는 데에는 여전히 인간 전문가의 최종 검토가 필수적입니다.

원문 정보

• Original Title: Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks
• URL: https://arxiv.org/abs/2604.19755
• Category: AI Research