금감원, ‘금융분야 AI 위험관리 프레임워크’ 도입… “자율적 관리 유도”

[산업일보]
금융감독원이 금융권의 안전한 인공지능(AI) 활용을 위해 금융회사 스스로 위험을 관리할 수 있는 체계를 마련했다.

금융감독원은 16일 금융회사의 AI 관련 거버넌스와 위험평가, 위험통제 핵심 프로세스를 담은 ‘금융분야 AI 위험관리 프레임워크(AI RMF)’를 도입한다고 밝혔다. 이번 프레임워크는 금융권 의견수렴 등을 거쳐 ‘금융분야 AI 가이드라인’과 함께 올해 1분기 중 시행될 예정이다.

최근 금융권의 AI 활용은 크게 확대되는 추세다. 금감원 조사에 따르면, 지난해 4월 말 기준, 국내 118개 금융회사가 준비 중인 서비스를 포함해 총 653개의 AI 서비스를 운영하고 있는 것으로 나타났다. 업권별로는 은행이 299개로 가장 많았고, 보험 145개, 증권 143개, 카드 66개 순이었다.

그러나 금융회사의 위험관리 체계는 이에 못 미치는 실정이다. 조사 결과, 약 85퍼센트의 금융회사가 AI 윤리원칙이나 위험관리 기준을 마련하지 않았으며, 의사결정기구를 설치한 곳도 은행 5개(25퍼센트), 보험사 4개(7.5퍼센트), 증권사 1개(2.7퍼센트)에 불과했다.

이에 새롭게 도입될 ‘AI RMF’는 AI 시스템 도입부터 활용 전 주기에 걸친 위험 관리를 목표로 하며, 크게 세 가지 부문으로 구성된다.

거버넌스 부문에서는 AI 관련 사안을 심의·의결하는 의사결정기구와 함께, 개발 조직과 분리된 위험관리 전담 조직 운영을 명시하고 AI 윤리 기준에 기반한 내부 규정 마련을 권고했다.

위험평가 단계에서는 AI 서비스별 위험을 체계적으로 산정해 위험 등급을 부여하며, 위험통제 부문에서는 등급에 따라 관리 수준을 차등 적용한다. 특히 금융 안정성이나 소비자 보호에 중대한 영향을 미칠 수 있는 ‘초고위험 AI’는 출시 여부를 재검토하도록 했다.

금감원 관계자는 본보와의 전화 인터뷰에서 “회사마다 AI 도입 수준과 기술 역량이 천차만별이라 일괄적으로 도입을 강제하기는 쉽지 않은 상황”이라며 “가이드라인 제시만으로도 금융회사들이 상당한 부담을 느끼고 있어, 강요보다는 자연스러운 자율규제 체계로 유도하고자 한다”라고 설명했다.

현재 금융당국은 AI RMF 도입에 따른 별도의 인센티브나 미이행 시의 불이익을 검토하지 않고 있다. 금감원 측은 “AI RMF는 법적 강제력이 없는 자발적 지침으로, 각 회사의 규모나 인적·물적 자원, AI 활용 범위 등에 따라 선택적으로 적용할 수 있다”라고 설명했다.

금감원은 향후 설명회와 간담회를 통해 의견을 수렴하고, 도입 회사의 실태점검 등을 통해 이 체계가 금융권에 안착할 수 있도록 지원할 계획이다.