- 체계적 제도 기반 마련으로 ‘AI 거버넌스’ 정교화

[디지털데일리 박기록기자] 금융권에서 AI의 윤리적 운영 노력이 확산되고 있는 가운데, 카카오뱅크(대표 윤호영, Daniel)가 AI 기술의 책임 있는 활용과 윤리적 운영을 위해 AI 윤리 활동을 전방위로 강화하고 있다고 30일 밝혔다.

앞서 카카오뱅크는 2023년 국내 금융권 최초로 ‘인공지능경영시스템 인증(ISO/IEC 42001)’을 획득하며 AI 경영 체계의 안전성, 윤리성, 효율성을 대외적으로 인정받았다.

2024년에는 AI 거버넌스를 본격 운영하고 조직의 역할과 책임, 윤리 원칙, 리더십, 위험수준평가, 생애주기별 준수 항목 평가 등 AI 관련 의사결정 전반에 있어 신뢰 기반의 토대를 완성했다. 현재 카카오뱅크는 내부 거버넌스 강화, 기술적 안전성과 투명성 확보 등 제도와 기술적 측면을 아우르는 한층 구체화된 AI 윤리 실천에 박차를 가하고 있다고 밝혔다.

◆ ‘AI 거버넌스’ 고도화 프로젝트 가동

카카오뱅크는 지난해 성공적으로 안착한 ‘AI 거버넌스’ 체계를 고도화하기 위해, 올해부터는 ‘AI 거버넌스 2.0' 프로젝트를 추진 중이다. ‘AI 거버넌스 2.0’은 금융권에서 AI 거버넌스를 선도해온 카카오뱅크의 경험을 바탕으로, 체계를 더욱 정교화하고 확장해 나가기 위한 전략적 과제다.

이 일환으로 카카오뱅크는 ▲컴플라이언스(‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응) ▲정책(AI 거버넌스 대상 범위 확대 추진) ▲조직(AI 윤리 관련 조직 추가 신설 검토) ▲프로세스(AI생애주기 준수절차 개선) 등 핵심 영역별 실행 과제를 도출하고, 선제적으로 이행해 ‘AI 거버넌스’ 리딩 은행으로서의 입지를 공고히 하고 있다고 밝혔다.

◆"기술로 실현하는 책임 있는 AI"

카카오뱅크는 기술 측면에서도 AI의 투명성과 신뢰성 강화에 적극 나서고 있다고 밝혔다. 관련하여 카카오뱅크는 ‘설명가능 인공지능(eXplainable AI, 이하 XAI)’ 기술을 이상거래탐지(FDS) 등 내부 분석 시스템에 적용하고 있다. ‘XAI’는 AI가 도출한 특정 결과의 작동 원리와 판단 근거를 사용자에게 명확히 제시하는 기술로, 결과에 대한 책임성과 해석 가능성을 높이는 데 기여한다.

카카오뱅크는 이를 통해 AI 기반 업무의 정확도를 제고하고, 서비스 전반의 신뢰도를 강화하고 있다.

이와 함께 KAIST ‘설명가능 인공지능센터(XAIC)’와 산학협력을 맺고 XAI 알고리즘을 상호 발전시켜 나가며 다양한 금융 분야에서의 기술 적용 가능성을 확장하고 있다.

아울러 카카오뱅크는 대규모언어모델(이하 LLM) 성능 평가 체계 ‘DUO’를 자체 구축해 운영하고 있다. ‘DUO’(A Diverse Understanding and Observation of LLMs)를 활용하면 다양한 LLM 가운데 금융 대화 역량, 계산 능력 등 카카오뱅크의 요구에 부합하는 모델을 신속하고 정확하게 평가할 수 있다.

또한 윤리·안전성(Safety), 진실성(Truthfulness) 기준에 따라 편향성과 환각(Hallucination) 가능성 등의 점검도 가능하다는 설명이다. 카카오뱅크는 ‘DUO’를 활용해 금융 산업 특성에 부합하는 신뢰도 높은 AI 모델을 선별하고, 실제 금융 서비스 적용이 가능한지 면밀히 검토하고 있다.

카카오뱅크는 앞으로도 제도적 기반과 기술적 실행력을 지속적으로 강화해, 금융 소비자가 안심하고 AI 기반 서비스를 이용할 수 있는 환경을 조성해 나간다는 방침이다.

이에 대해 카카오뱅크는 “AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소”라며 “금융 영역에 특화한 AI 전 생애주기 관리와 책임 있는 운영으로 고객 신뢰를 지켜 나가겠다”고 말했다.