금융산업의 패러다임 혁명, LLM

생성형 AI, 특히 LLM(Large Language Model, 대규모언어모델)의 금융회사 활용이 확대되면서, LLM이 금융산업에 미치는 영향도 빠르게 확대되고 있다. 인터넷과 모바일이 금융회사와 금융시장의 접근방식 즉, 채널을 바꿨다면, LLM은 금융회사 자체의 두뇌를 바꾸고 있다. 한마디로 생성형 AI는 2000년 초반의 인터넷 혁명을 뛰어넘는 패러다임 혁명이라 할 수 있다.

특히 LLM은 기존 AI인 머신 러닝이나 딥러닝 대비 활용과 경쟁력 측면에서 본질적인 차이가 있다는 게 시장 의견이다. 우선 첫째로, 머신 러닝과 딥러닝은 특정한 숫자를 넣고 해석한단 점에서 전문가들이 주로 활용하는 반면, LLM은 일상의 언어로 묻고 답하기 때문에, 거의 모든 산업의 사람들이 활용할 수 있다는 장점이 있다. 그만큼 다양한 산업으로의 활용과 확산 속도가 빠르단 얘기다.

둘째, LLM은 숫자와 같은 정형데이터는 물론, 언어와 문장의 맥락을 학습·추론하는 과정에서 비정형 빅데이터도 대규모로 구축할 수 있다. AI의 경쟁력은 빅데이터의 양과 질에 의해 결정된다고 보면, LLM 활용으로 AI 경쟁력이 머신 러닝, 딥러닝 때보다 훨씬 강력해질 것임을 예상할 수 있는 대목이다.

금융시장에서의 예를 봐도 효과의 차가 뚜렷하다고 한다. 예컨대 기존 AI를 활용한 신용평가모델은 연체율, 소득, 부채비율 같은 정형데이터를 중심으로 부실 가능성을 예측했다. 즉 인간이 미리 변수를 설정하고 AI는 그 변수 안에서 패턴을 찾았다. 반면 LLM은 인간이 변수를 정의하지 않아도 스스로 맥락과 연결 관계를 학습·추론해서 패턴을 찾는다. 특히 금융권이 거의 활용하지 못한 비정형 데이터를 활용·분석한다는 점이 결정적 차이다. SNS 반응, 기업공시, 뉴스, 음성, 이메일, 계약서 같은 방대한 데이터가 AI의 분석 대상이다. LLM 활용으로 신용평가모델의 정확도가 기존 AI 활용 대비 22% 이상 상승했다는 조사분석도 나와 있다.

글로벌 금융시장, 생성형 AI 경쟁 본격화

방아쇠를 처음 당긴 건 미국의 핀테크·빅테크 기업들이었다. 예컨대 2023년부터 LLM 기반의 고도화된 대안 신용평가 시스템을 전면 적용한 미국의 인공지능 핀테크 기업 업스타트(Upstart)와 2024년 자체 모바일 생태계의 비정형 행동 데이터를 LLM으로 분석한 애플(Apple)을 꼽을 수 있다. 이들은 LLM을 통해 thin filer 고객에게도 신용을 공급하고 있는데, 기존 금융권보다 승인률은 20~30% 높이면서도 연체율은 비슷한 수준을 유지해서, 금융권의 LLM 도입에 방아쇠 역할을 했다는 평가다.

글로벌 금융사로서 가장 적극적인 회사는 제이피모건 체이스다. 생성형 AI 전담 조직에만 수천 명의 인력을 투입했고, 투자액도 연 170억 달러를 상회한다고 한다. 또 골드만삭스는 생성형 AI를 통해 IPO 문서 작성과 기업분석 업무 자동화를 대폭 확대했다. 모건스탠리는 오픈AI의 챗GPT를 기반으로 자산관리 AI를 개발했는데, 수십 년간 축적된 리서치 자료 약 10만 건을 LLM에 학습시켜서 시장의 관심을 끌었다. 예컨대 PB가 고객과 상담할 때 ‘최근과 같은 금리인상기의 채권전략은?’이라고 질문하면 AI가 즉각 관련 리포트와 투자전략을 요약·제공한다고 한다. 과거 같으면 수십 분 걸리던 작업이 몇 초로 줄어든 셈이다.

이들이 LLM 구축에 적극적인 이유는 뭘까. 첫째는 생산성 혁신이다. 금융은 대표적인 지식서비스 산업으로 대부분 업무가 문서 기반이다. 따라서 언어로 묻고 답하는 생성형 AI야말로 이런 반복적 업무를 획기적으로 단축할 수 있음은 물론이다. 미국에서는 애널리스트 초안 작성 시간이 60~70% 감소했다는 조사도 나온다. 둘째, 데이터 경쟁 때문이다. 금융회사는 전 산업에서 정형·비정형 데이터를 가장 많이 보유하지만, 활용률은 낮았었다. 이제 LLM으로 비정형 데이터까지 활용할 수 있어, 데이터 보유량에 의해 금융회사의 가치 평가가 달라지고 있다. 셋째, 금융회사와 빅테크 간의 경쟁 때문이다. 아마존, 구글, 애플 같은 플랫폼 기업들이 금융시장에 진입하면서 기존 금융회사들도 AI 중심 경쟁력 확보를 서두르고 있다. 앞으로 금융 경쟁력은 자본 규모보다 AI의 활용 역량에서 갈릴 가능성이 높다. 결국 금융회사들은 AI를 선택이 아니라 생존 문제로 보고 있단 얘기다.

권역별로 간단히 살펴보자. 우선 은행권의 프론트 오피스(Front Office) 영역에선 AI 기반의 초개인화 자산관리와 자연어 상담이 대세로 자리 잡았다. 미국의 디지털 은행 소파이(SoFi)는 2024년 대화형 AI 어시스턴트를 도입, 고객의 급여일, 소비 습관, 공과금 납부 패턴 등 비정형 데이터를 실시간 분석해 자동 자금관리 서비스를 제공하고 있다. 또한 제이피모건 체이스가 2024년 본격 도입한 LLM 기반의 도크AI(DocuAI)는 고객의 투자 성향을 분석해 맞춤형 포트폴리오를 추천하는데, 기존 대비 고객 응대 시간을 40% 이상 단축하는 성과를 거두었다고 한다.

미들 오피스(Middle Office)에서는 자금세탁방지(AML)와 이상거래탐지(FDS) 시스템의 패러다임이 바뀌고 있다. 예컨대 2025년 씨티그룹(Citigroup)이 도입한 LLM 기반 FDS는 이상 거래 탐지 정확도를 기존 대비 35% 이상 제고했고, 불필요한 오탐률을 50% 이상 줄였다. 백오피스(Back Office)에서는 규제보고서 작성, 내부 감사, 계약 검토 자동화가 혁신을 이끌고 있다. 네덜란드계인 ING 은행은 2024년부터 법률 문서를 검토하는 컴플라이언스 전 과정에 LLM을 도입해서, 문서 검토 및 분석에 소요되던 시간을 평균 75% 절감했다. 글로벌 상업은행 업계는 이 같은 백오피스 자동화를 통해 컴플라이언스 관련 운영 비용을 연간 최대 20~30%까지 절감할 수 있을 것으로 기대하고 있다.

“애널리스트 보조” 넘어 판단까지…
AI 금융의 진화와 과제

금융권 가운데서도 증권업은 AI 도입과 변화가 가장 빠르게 진행되고 있다. 리서치센터 업무 자체가 바뀌고 있다. 애널리스트들은 과거 데이터를 찾고 보고서를 정리하는 데 시간을 썼지만, 이젠 AI가 자료조사와 초안 작성을 담당한다. 실제로 미국에서는 생성형 AI를 통해 기업 실적발표와 컨퍼런스 콜 수천 건을 실시간 분석해 투자 시그널을 제공하는 서비스가 등장했다. 보험업계 역시 AI 활용도가 높다. 보험금 청구서류 분석, 의료기록 검토, 보험사기 탐지 등에 LLM이 적극 활용된다. 중국의 핑안보험(Ping An Insurance)은 AI를 활용해 보험심사 시간을 기존 대비 30% 이상 단축한 것으로 알려져 있다.

물론 문제와 이슈도 적지 않다. LLM AI의 가장 큰 문제는 환각(hallucination)이다. 그럴듯하지만, 틀린 정보를 생성할 수 있다는 것이다. 금융은 작은 오류도 큰 손실로 이어질 수 있기 때문에, 자칫 브랜드와 명성(Reputation)에 치명적인 타격이 될 수 있다. 또 금융 데이터는 민감해서 개인정보와 보안 문제도 크다. AI 규제 문제도 중요한 문제 중 하나다. AI가 잘못된 대출 결정을 내렸을 때 책임은 누구에게 있는지, AI의 취약점 중 하나인 설명 가능성은 어떻게 확보할 것인지 등이 대표적이다. 특히 금융은 규제 산업이기 때문에 AI 혁신 속도가 규제 속도보다 너무 빠르다는 점도 간과할 수 없다. 초대형 LLM 구축에는 막대한 인프라 투자 비용과 컴퓨팅 운영 비용이 드는 점도 ‘중소 금융사 또는 벤처형 핀테크업체 배제’라는 측면에서 정책당국이 공동모델 개발 등 고려할 점이 있다는 지적이다.

국내 금융권 AI 전환의 현주소와 한계점

그렇다면 우리나라 금융권의 AI 경쟁력은 어느 수준일까. 국내 금융권도 변화의 흐름에 발맞춰 빠르게 움직이고 있다. KB국민은행, 신한은행, 하나은행 등 주요 금융회사들은 자체 생성형 AI 플랫폼 구축에 나서고 있다. 증권사와 보험사 역시 AI 기반 투자 상담, 리서치 자동화, 보험심사 효율화 프로젝트를 확대 중이다. 금융당국도 망분리 규제 완화와 금융 AI 활용 가이드라인 마련에 나서고 있다. 다만, 아직 글로벌 선도 금융회사들과 격차가 여전한 것은 사실이다.

여러 문제가 있지만, 현실적으로 가장 급한 문제는 클라우드 인프라 확장과 정제된 금융 데이터의 구축이다. 실제로 국내 주요 금융사들의 핵심 업무 내 SaaS(서비스형 소프트웨어) 및 퍼블릭 클라우드 채택률은 보안 규제 장벽에 가로막혀 여전히 10% 미만의 낮은 수준이라고 한다. 반면 대형 글로벌 금융사들은 인프라의 60% 이상을 유연한 클라우드로 전환해 AI 학습 속도를 더욱 빠르게 혁신하고 있다.

기본적이면서도 더 큰 장벽은 쓸 만한 데이터가 없다는 점이다. AI가 똑똑해지려면 양질의 데이터가 필수적이다. 글로벌 투자은행들은 LLM 학습을 위해 수십 년간 축적된 수백억 건의 이메일, 녹취록, 계약서 등 비정형 데이터를 머신 러닝이 가능한 형태(라벨링 및 토큰화)로 전면 재구축했다. 반면, 국내 금융권은 데이터 파편화와 엄격한 개인정보보호법 등으로 인해 당장 AI에 학습시킬 수 있는 고품질 금융 데이터가 글로벌 선도 기업의 20~30% 수준에 불과한 실정이다.

국내 금융권이 AI 두뇌 혁명에서 글로벌과의 격차를 좁히려면, 단순 AI 앱 도입을 뛰어 넘어야 한다. 고도화된 클라우드 인프라를 전면 수용하고, 규제 사각지대 속에서 잠들어 있는 방대한 금융 비정형 데이터를 자유롭게 연계·정제할 수 있는 소위 ‘국가 금융 데이터 댐’ 구축이 시급한 과제라 할 수 있다.