- 생성형 AI로 투명성‧책임성‧공정성‧개인정보보호 등 위험들 등장

- 아시아태평양 규제당국, AI에 대한 규제책 고민 중

[IT전문 미디어 블로그=딜라이트닷넷]

생성형 인공지능(AI)이 금융산업 전반에 녹아들고 있다. 금융회사들은 AI 기술 혁신을 통해 소비자 경험을 강화하고 기업 이익을 확대하는 데 열중하고 있는데, 글로벌 회계법인 딜로이트는 이럴 때일수록 AI로 인한 위험과 규제에 철저히 대응해야 한다고 목소리를 높였다.

한국딜로이트그룹이 발간한 ‘아시아태평양 지역의 생성형 AI 적용 및 규제’ 보고서에 따르면 오픈AI ‘챗GPT’, 구글 ‘제미나이(구 바드)’ 등 AI 서비스 등장에 따라 아시아태평양 규제당국은 AI 규제체계를 마련하기 시작했다.

보고서는 지적재산 침해, 잠재적 편향 등 AI로 인한 여러 위험 요소를 고려하고 기술 혁신을 통한 이익과 소비자 안전 사이의 균형을 찾아야 한다는 것을 일관되게 강조하고 있다.

특히 개인정보의 유출, 재정적 위험 등 민감한 잠재 리스크를 가진 금융 서비스의 경우 규제 당국의 관심과 압박이 가시화될 수 있다는 것이 딜로이트의 판단이다. 딜로이트는 생성형 AI 시대의 금융산업은 중대한 변화와 혼란의 시기를 지나고 있다고 평가했다.

보고서에는 국가별로 AI 관련 위험을 해결하기 위해 어떤 접근방식을 취하고 있는지 소개됐다. 호주의 경우 책임감 있는 AI 솔루션을 안내하기 위한 ‘AI 윤리 프레임워크’를 만들어 AI 시스템 책임자가 시스템의 영향에 대해 책임을 지도록 했고, 일본은 AI 사용에 대한 상위 원칙 ‘AI 원칙에 대한 거버넌스 지침’을 마련한 상태다.

가이드라인 형태에서 국한되지 않고 입법으로도 이어지는 중이다. 중국은 중국 내 AI 사용을 규율하는 ‘인터넷 정보 서비스 알고리즘 추천 관리 규정법’을 만들었다. 국내에서도 AI를 위한 입법 절차가 이뤄지고 있다. 작년 2월 국회 과학기술정보방송통신위원회 법안소위를 통과한 (가칭)AI기본법이다. 필리핀, 베트남 등도 AI에 대한 직‧간접적인 입법 절차를 진행 중이다.

딜로이트는 금융업계가 AI 관련 위험을 식별 및 관리하기 위해 ▲향후 규제 준수와 위험 관리 지원을 위한 AI 거버넌스 프레임워크 개발 ▲고객 개인정보 등 데이터 보호 의무 준수 ▲지적 재산의 부주의한 노출이나 저작권 침해를 방지하기 위한 통제장치 구축 ▲생성형 AI 기술 관련 인재 확보 투자 및 기존 임‧직원 대상 AI 기술 교육 제공 등의 조치를 취해야 한다고 제시했다.

가령 보험금을 청구할 때 생성형 AI가 보고서를 만들 경우, 창구 담당자는 생성형 AI가 어떤 절차로 보험금을 산출하는지에 대해 설명하고, 그 처리 결과를 받아들이지 않을 수 있다는 점을 명확히 안내해야 한다. 신뢰할 수 있는 AI 프레임워크를 구축해야 한다는 의미다.

장형수 한국딜로이트그룹 금융산업통합서비스그룹 고객산업 리더는 “생성형AI 도입으로 업무 효율성 향상과 고객경험 최적화와 같은 업무성장동력을 확보하고 경쟁력 우위를 부각하려는 금융회사는 편향성과 지적 재산권 침해, 규제 위험에 직면할 수 있다”며 안전한 AI 활용을 위한 거버넌스 체계 확립의 중요성을 강조했다.

마쓰야마 아키히로 딜로이트 아시아태평양 리스크 자문 리더도 “AI 규제 및 법안은 아직 대부분의 국가에서 개발 또는 시행 초기 단계에 있지만 금융회사는 가능한 한 빠르게 자체 AI 거버넌스 프레임워크를 구축하고 AI 관련 위험에 대응하기 위한 조치를 준비하는 등 신중한 접근 방식이 필요하다”고 주문했다.