[한스경제=이성노 기자] 금융권이 업무 대부분 영역에 인공지능(AI) 기술을 도입하고 있는 가운데 AI 활용에 따른 전반적인 리스크 관리와 신뢰성과 안전성 제고가 당면과제로 꼽히고 있다.

세계적으로 금융권 AI 기술 도입이 가속화되고 있다. 금융사는 상품·서비스 개발·시장 분석·투자 전략 수립·고객 분석·분류·마케팅·고객 응대·내부 운영 및 리스크 관리 부문등 다양한 영역에 AI 기술을 적용해 기술 혁신과 생산성 향상을 도모하고 있다.

엔디비아(NVIDIA)가 조사한 바에 따르면, 글로벌 금융사의 80% 이상이 AI를 업무 자동화나 리스크 관리와 같은 내부 핵심 업무에 적극적으로 활용하고 있으며 이를 통해 비용 절감은 물론, 수익 창출 효과를 내고 있는 것으로 나타났다.

글로벌 컨설팅업체인 '맥킨지'가 조사한 16개 비즈니스 영역별 생성형 AI의 경제적 가치를 보면, 은행업은 하이테크 산업 다음으로 높은 경제적 효과가 예상된다. 은행권에서 생성형 AI를 전면적으로 도입할 경우에는 생산성 향상을 통해 2000억∼3400억달러(약 262조∼446조원) 규모의 가치가 창출될 것으로 전망된다.

관련 시장 규모 역시 빠르게 성장하고 있다. 2022년 글로벌 AI 시장의 규모는 1198억달러였으며, 연평균 38.1%가 성장해 2030년에는 1조 5910억달러에 달할 것으로 평가되고 있다.

국내 금융 AI 시장은 2019년 3000억원에서 2021년 6000억원으로 45.8%가 증가했으며, 2026년까지 연평균 38.2%가 성장해 3조 2000억원 규모의 시장을 형성할 것으로 전망되고 있다.

금융권 전반에 AI 활용이 급속도로 확대되면서 관련 위험 요인도 부각되고 있다.

대표적으로 △딥페이크나 AI로 생성된 가짜뉴스로 인한 시장조작 △AI를 활용한 자동화된 해킹 △ 인터넷, 소셜미디어 데이터를 학습한 모델은 내재된 편향(Bias) 반영 △자체 기술개발보다 외부 기술 의존에 따른 리스크 등이 거론되고 있다.

국제통화기금(IMF)는 보고서를 통해 'AI 활용이 금융업에 새로운 리스크의 온상이 될 수 있다'며 금융업의 AI 리스크로 △데이터 프라이버시 △내재된 편견 △금융인파라로서의 견고성·확실성 △설명책임 △사이버보안·악용리스크 △금융시스템의 안정성 등을 거론했다.

세부적으로 금융기관은 고객의 개인정보·기업비밀·임출금정보 등, 높은 기밀성을 요구하는 정보를 취급하며, 이러한 정보를 생성형 AI에 연결할 경우에는 민감한 정보가 누설되거나, 추측될 리스크가 있다고 봤다.

또한 학습하는 데이터가 편향되면 의사결정 판단에 바이어스가 생겨 금융배제나 사회적 신뢰 훼손으로 이어질 가능성도 높으며, AI가 사실과 다른 정보를 생성할 수 있고 이러한 잘못된 정보가 고객의 의사결정이나 금융기관의 리스크 관리에 잘못된 판단을 초래할 수 있다고 전망했다.

아울러 생성형 AI를 악용한 금융범죄나 딥페이크로 인한 금융시장 혼란, 그리고 알고리즘 조작 등을 우려했다.

이에 주요국 국제기구 등은보고서를 통해 금융서비스에 대한 AI 활용이 금융시스템 상 리스크가 될 수 있다고 평가하고, 이에 대한 대응책 마련에 분주히 움직이고 있다.

금융당국도AI 도입에 따른 불확실성을 완화하고 금융 서비스 전반의 신뢰성과 안정성을 높이기 위해 기존 규율체계 내에서 AI를 감독하거나, 필요한 경우 별도 지침이나 규제를 마련하는 등 다양한 방식으로 관련 위험에 대응하고 있다.

금융위원회는 금융권의 AI 활용을 지원하기 위해 '금융분야 인공지능 활용 활성화 및 신뢰확보 방안'을 발표했고, 후속 조치로 2023년에는 신뢰받는 인공지능 활용 환경을 구축하기 위해 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다.

'AI 기반 신용평가모형 검증체계'는 AI 특성을 고려해 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정하였는지 점검하고, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지 확인한다. 또한, 신용정보회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증한다.

'금융분야 AI 보안 가이드라인'은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고, AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공한다.

이와 더불어 금융위원회는 생성형 AI 등 급격한 기술 발전과 금융권 내부통제 강화 등 제도 변화에 따라 '금융분야 AI 가이드라인' 개정도 추진하고 있다.

이에 △최고경영자 포함한 경영진 역할·책임 분담 △AI 활용 전단계 금융·AI 등 관련 법규 준수 △최종 의사결정과 그에 따른 책임은 임직원이 수행 △AI 개발 과정에서 신뢰할 수 있는 데이터와 모델을 사용 △AI 설계·학습 등 전과정에서 금융 안정성 위험 최소화 △AI 활용 시 금융소비자 이익 최우선△AI활용 시 보안성 기준 및 점검·개선 체계 마련 등의 '금융 AI 7대 원칙안'을 마련했다.

최근에는 금융 특화 AI 개발을 지원하기 위해 금융 법규·가이드라인, 금융정책·제도 설명자료 등을 활용한 '금융 특화 한글 말뭉치' 제공을 시작했다. '금융 특화 한글 말뭉치'란 금융 분야의 다양한 전문지식들을 AI 모델이 가공·처리·분석할 수 있는 형태로 모은 대규모 한국어 언어자료 집합으로, 국내 금융권에 특화된 AI 서비스를 개발하기 위해서는 필수적인 요소이다.

오태준 우리금융경영연구소 수석연구원은 금융권에서 AI를 적극적으로 도입해 업무혁신을 이루고 효율성을 향상시키는 동시에, AI의 확산이 초래할 수 있는 리스크를 인식·이해하고 자체적인 대비·대응방안을 마련할 필요가 있다고 강조한다.

그는 "내부 데이터의 유출, 악용 방지뿐 아니라 외부의 AI모델과 트레이닝 데이터를 활용할 때에도 금융기관의 목적과 상황에 적합하고 편향이나 오염의 가능성이 없는지 항시 점검해야 한다"며 "생성형 AI를 중요한 업무에 높은 빈도로 투입할수록 결과물의 팩트체킹을 위한 인간의 점검빈도를 높이거나 별도의 외부 서비스를 활용하는 등, 할루시네이션 현상에 대비해야 한다"고 말했다.

이어서 "빅데이터 활용과 적시성 등 AI·알고리즘 트레이딩의 장점을 수용해 시장 대응력을 개선하는 한편, AI 트레이딩의 보편화가 초래할 수 있는 시장의 동조화와 변동성 확대에 대비해야 한다"고 덧붙였다.

홍지연 자본시장연구원 연구위원은 "AI 활용이 급격하게 확대되면서 딥페이크나 사이버공격과 같은 악의적 사용뿐 아니라 데이터 품질 저하 및 편향, AI에 대한 과신 등 복합적 리스크가 부각되고 있다"면서, "금융당국은 AI 플랫폼 구축, 금융 분야 특화 데이터 제공, 가이드라인 개정 등을 포함한 금융권 AI 활용 지원방안 마련해 AI 도입에 따른 불확실성을 완화하고 금융 서비스 전반의 신뢰성과 안정성을 높여야 한다"고 제언했다.