김주현 금융위원장은 "인공지능(AI)이 금융산업 경쟁력에 기여할 수 있도록 금융 데이터 관련 규제를 개선하겠다"고 밝혔다.

김 위원장은 17일 서울 명동 은행회관에서 열린 '금융산업의 인공지능 대응전략 세미나'에 참석해 "AI 신기술이 빠르게 발전하고 있으나 규제 불확실성 때문에 활용에 제약이 있다는 의견이 많다"며 이같이 말했다.

김 위원장은 "관련 제도와 규제가 금융권의 AI 활용을 저해하지 않도록 지속 보완하겠다"고 했다.

금융위는 결합한 데이터의 재사용을 규제 샌드박스를 통해 허용할 계획이다.

데이터 결합 시 시간·비용적 측면에서 효율성을 높이겠다는 취지다. 지금은 가명정보를 결합해 사용한 즉시 해당 데이터를 파기해야 한다.

김 위원장은 또 "금융분야 AI의 공정성·정확성 제고를 위해 금융 AI 테스트베드를 구축하겠다"고 밝혔다.

신용평가 AI, 금융사기 방지 AI, 금융보안 AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원 등을 제공할 예정이다. AI 모델의 작동원리, AI 의사결정의 근거 등을 금융 소비자들이 이해할 수 있도록 '설명 가능한 AI 안내서'도 마련할 계획이다.

특히 금융위는 소비자 보호를 위해 '설명 가능한 AI'를 뜻하는 'XAI(eXplainable AI)'에 대한 안내서도 마련할 방침이다.

김 위원장은 "양질의 빅데이터 확보를 지원하겠다"고도 했다. 이를 위해 "금융 AI 데이터 라이브러리를 차질없이 구축하고 데이터 결합 전문기관을 확대하겠다"고 밝혔다.

다만 김 위원장은 개인정보 침해, 사이버 보안, 윤리적 문제와 같은 금융 AI에 있어서의 다양한 리스크 우려도 제기되고 있는 점도 지적했다.

김 위원장은 "금융 분야의 경우 AI 오작동으로 소비자의 재산상 손실을 초래할 수 있을 뿐만 아니라 여러 금융회사가 특정 AI 모델을 활용할 경우 디지털 집중 리스크가 확대돼 금융 안정에도 영향을 미칠 수 있다"고 했다. 이같은 문제점에 대한  대응 방안 검토가 필요하다고 김 위원장은 짚었다.

소수의 AI 기술·모델이 시장을 지배하고 이를 기반으로 한 서비스들이 대거 출시될 경우 금융 시스템 내 동질성이 높아져 쏠림 현상이 심화할 수 있다고도 지적했다.

한편 이날 세미나에는 다양한 전문가들의 발제 및 발표도 이어졌다.

서정호 금융연구원 부원장은 AI 의사결정 확대에 대비한 영업행위 규제재정립, 금융소비자 피해 예방 및 손해배상 방안 등을 검토할 필요가 있다고 제언했다. 

옥일진 우리은행 부행장은 "금융권은 생성형 AI를 활용해 보다 발전된 초개인화 금융 서비스를 제공할 수 있으나, 생성형 AI는 답변의 정확도보다는 문장의 자연스러움, 대용량 데이터의 확보를 통한 학습을 중요시하기 때문에 금융업의 핵심 가치인 신뢰성과 상충하는 딜레마가 있다"고 밝혔다.

그러면서 "안전하고 효율적인 금융 분야 생성형 AI를 위해서는 양질의 학습 데이터 확보와 안전한 인프라 구축이 필수적이며, 정부, 금융회사, 기술기업사이 긴밀한 협력도 요구된다"고 덧붙였다.