리볼루트, 금융 거래 기록 학습한 인코더 기반 파운데이션 모델 'PRAGMA' 공개

디지털 뱅킹 플랫폼 리볼루트가 금융 거래 데이터를 기반으로 사전 학습된 파운데이션 모델 PRAGMA를 공개했다. 이 모델은 은행 사용자의 다중 소스 이력 데이터를 인코더 아키텍처로 처리하며, 대규모 금융 기록에 마스크 모델링 기법을 적용해 학습되었다.

금융 데이터 전용 파운데이션 모델의 등장

PRAGMA는 범용 언어 모델이나 비전 모델과 달리 금융 거래 기록이라는 특정 도메인에 특화된 파운데이션 모델이다. 리볼루트는 자사 플랫폼에서 생성되는 거래 이력, 계좌 활동, 결제 패턴 등을 학습 데이터로 활용한 것으로 알려졌다. 인코더 스타일 아키텍처는 입력 데이터의 표현을 학습하는 데 집중하며, 이는 분류, 이상 탐지, 사용자 세그먼트 분석 등 다운스트림 작업에 적합한 구조다.

마스크 모델링은 자연어 처리 분야에서 널리 사용된 사전 학습 기법이다. 입력 시퀀스의 일부를 가린 뒤 모델이 이를 예측하도록 학습시키는 방식으로, 데이터의 내재된 패턴과 문맥 정보를 포착할 수 있다. 금융 거래 데이터에 이 기법을 적용하면 사용자의 소비 습관, 거래 시간대, 카테고리 간 연관성 등을 모델이 학습할 수 있다.

금융 서비스 AI의 운영 맥락

금융 기관들은 이상 거래 탐지, 신용 평가, 개인화 추천, 고객 이탈 예측 등 다양한 작업에 머신러닝을 활용해왔다. 기존 접근 방식은 특정 작업을 위해 설계된 개별 모델에 의존하는 경우가 많았다. 파운데이션 모델 접근법은 하나의 대규모 사전 학습 모델을 여러 작업에 재사용할 수 있어 개발 효율성과 일관성을 높일 수 있다.

리볼루트는 2015년 설립 이후 유럽을 중심으로 성장한 디지털 뱅킹 플랫폼으로, 2024년 기준 전 세계 수천만 명의 사용자를 보유하고 있다. 이러한 규모의 사용자 기반은 파운데이션 모델 학습에 필요한 대규모 데이터셋을 확보하는 데 도움이 될 수 있다. 금융 데이터는 민감성과 규제 요건으로 인해 외부 공개가 어렵기 때문에, 자체 데이터를 보유한 금융 기관이 도메인 특화 모델 개발을 추진하기에 유리한 환경을 갖는 경우가 있다.

다중 소스 사용자 이력이라는 표현은 PRAGMA가 단순 거래 내역뿐 아니라 계좌 유형, 카드 사용 패턴, 송금 이력, 환전 기록 등 여러 데이터 스트림을 통합 처리할 수 있음을 시사한다. 이는 사용자의 금융 행동을 보다 입체적으로 이해하는 데 도움이 될 수 있으며, 단일 데이터 소스만 활용하는 모델보다 일반화 성능이 높을 가능성이 있다.

기술 아키텍처와 학습 방법론

인코더 모델은 입력 시퀀스를 고정 길이 벡터 표현으로 변환하는 데 특화되어 있다. 이러한 표현은 사용자 프로파일링, 리스크 평가, 행동 예측 등 다양한 분석 작업의 기초가 된다. 디코더 중심 생성 모델과 달리, 인코더 모델은 입력 데이터의 의미론적 구조를 압축된 형태로 학습하는 데 집중한다.

마스크 모델링 기법은 자기지도 학습의 한 형태로, 레이블이 없는 대규모 데이터에서 유용한 표현을 학습할 수 있다. 금융 거래 시퀀스에서 특정 거래를 마스킹하고 주변 맥락으로부터 이를 복원하도록 학습시키면, 모델은 거래 간 시간적 의존성, 금액 패턴, 카테고리 전환 규칙 등을 학습하게 된다. 이는 명시적 레이블 없이도 데이터의 구조적 특성을 포착하는 방법이다.

대규모 금융 기록을 활용한 사전 학습은 계산 비용과 인프라 요구 사항이 높지만, 학습된 표현은 여러 다운스트림 작업에 전이 학습 방식으로 적용될 수 있다. 이는 각 작업마다 처음부터 모델을 학습시키는 것보다 데이터 효율성과 성능 면에서 유리할 수 있다. 특히 레이블 데이터가 제한적인 작업에서 사전 학습된 표현의 활용도가 크다.

금융 AI 경쟁 구도와 전략적 함의

대형 금융 기관들도 자체 AI 역량 강화에 투자하고 있다. JP모건은 금융 특화 언어 모델 개발을 추진했고, 블룸버그는 BloombergGPT를 공개했다. 핀테크 기업들 역시 데이터 기반으로 도메인 특화 모델을 개발하는 추세다. PRAGMA는 이러한 흐름 속에서 리볼루트의 기술 전략을 보여주는 사례로 볼 수 있다.

파운데이션 모델 접근법은 개발 비용과 인프라 요구 사항이 높지만, 성공적으로 구축되면 여러 작업에 재사용 가능한 표현 학습 자산이 된다. 리볼루트가 PRAGMA를 통해 이상 거래 탐지 정확도 향상, 개인화 서비스 품질 개선, 운영 효율성 증대 등을 추진할 경우, 다양한 내부 업무에 활용될 수 있다.

금융 데이터의 특성상 외부 공개가 어렵기 때문에, 자체 플랫폼에서 생성되는 데이터를 보유한 기업이 모델 개발에서 이점을 가질 수 있다. 이는 데이터 네트워크 효과를 강화하며, 사용자 기반이 클수록 모델 품질이 향상될 가능성을 만든다. PRAGMA는 리볼루트의 사용자 규모가 기술 개발에 활용되는 사례로 해석할 수 있다.

불확실성과 제약 요인

공개된 정보만으로는 PRAGMA의 구체적인 모델 크기, 학습 데이터 규모, 성능 벤치마크, 실제 배포 계획 등을 확인할 수 없다. 논문 형태로 발표된 것으로 보이지만, 상용 서비스 적용 여부나 외부 공개 계획은 명시되지 않았다. 금융 데이터의 민감성을 고려할 때 모델 자체나 학습 데이터가 오픈소스로 공개될 가능성은 낮아 보인다.

또한 금융 규제 환경은 AI 모델 활용에 엄격한 요건을 부과한다. 유럽의 경우 GDPR과 같은 개인정보 보호 규정, 그리고 AI Act와 같은 AI 규제 프레임워크가 모델 개발과 배포에 영향을 미친다. 미국에서도 금융 소비자 보호 규정과 공정 대출 요건이 AI 모델의 설명 가능성과 편향 관리에 영향을 줄 수 있다. PRAGMA가 실제 금융 서비스에 통합되려면 이러한 규제 요건을 충족해야 한다.

인코더 모델의 특성상 PRAGMA는 생성형 작업보다는 분석과 예측 작업에 적합하다. 고객 응대나 콘텐츠 생성 같은 생성형 AI 활용 사례에는 별도의 디코더 또는 생성 모델이 필요할 수 있다. 따라서 PRAGMA는 리볼루트의 AI 인프라에서 특정 역할을 담당하는 구성 요소로 이해하는 것이 적절하다.

모델 성능은 학습 데이터의 품질과 다양성에 크게 의존한다. 리볼루트의 사용자 기반이 특정 지역이나 인구 집단에 편중되어 있다면, 모델의 일반화 능력에 한계가 있을 수 있다. 또한 금융 행동 패턴은 경제 환경, 규제 변화, 기술 발전 등에 따라 변화하므로, 모델의 지속적인 업데이트와 재학습이 필요하다.