고학수 서울대 교수<사진>는 7일 서울 여의도 콘래드호텔에서 열린 금융정보보호컨퍼런스 ‘FISCON2019’에서 금융권에서의 AI 기술 활용과 문제점을 공유했다.

고 교수는 “금융영역에 AI 기술을 적용해 서비스 품질 향상, 효율성 제고, 비용 절감, 금융산업 혁신 을 꾀하고 있다“며 “하지만 공정성, 투명성, 시장 경쟁 제한 등의 문제가 발생할 수 있다”며 결국엔 기술의 신뢰성이 담보되어야 한다고 강조했다.

오늘날 AI 기술 구현의 핵심은 데이터다. 금융뿐만 아니라 다방면에서 활용되고 있다. 하지만 AI 분석이 언제나 정답을 제공하는 것은 아니다. 표본의 문제, 잘못된 학습 등으로 AI가 낳은 결과는 사회적으로 질타를 받을 때도 있다. 특히 금융영역에서는 ‘신용평가’와 관련된 민감한 문제가 발생할 수 있다.

고 교수는 “현재 국내에서는 신용정보원 등에서 세금, 고용 내역 등의 데이터를 분석해 개인의 신용평가를 하고 있다”며 “최근에는 신용평가 분석 데이터로 브라우징 정보, SNS 정보, 쇼핑스타일 등을 활용할 경우 정확한 판단을 할 수 있다는 제언도 이어지고 있다”고 전했다.

기존에 수집하던 데이터 외에도, 개인의 성향을 알 수 있는 데이터를 활용한다면 더욱 정확한 신용도를 판단할 수 있다는 취지다. 그러나 공정성 논란이 불거질 수 있다. 특히 대출 여부 결정, 마케팅 대상 결정 등 사회적인 문제로 번질 수 있다.

예를 들어 빅데이터 분석결과를 통해 특정 아파트 단지 거주자들의 신용카드 연체율이 현저히 낮다는 결과가 도출됐다. 이를 토대로 해당 아파트 단지 거주자들에게 신용카드 발급을 더 용이하게 하거나, 좋은 조건으로 발급할 수 있도록 할 경우 공정성 문제가 생길 수 있다.

문제가 될 수 있는 소지는 이 뿐만이 아니다. 금융사 간 경쟁이 제한될 수 있다. 여러 금융 기관이 비슷하거나 동일한 알고리즘을 이용할 경우, 경쟁이 제한되거나 시장이 집중되는 효과가 나타날 수 있다. 따라서 고 교수는 경쟁이 제한되지 않도록 이에 맞는 제도를 설계해야 한다고 제언했다.

시스템 리스크도 늘어날 수 있다. 알고리즘에 대한 거래가 늘어나면서 대규모 시장 교란이 발생할 수 있다. 또 해킹, 피싱 등 시스템 교란행위나 취약점 공격이 늘어날 수 있다.

따라서 최근에는 AI 의사결정에 대한 투명성, 설명 가능성 확보에 대한 사회적 요구가 높아지고 있다. AI가 왜 이런 결과를 도출했는지 정확한 설명이 필요하다는 요구다. 금융사도 마찬가지다. 고객의 신용점수 결과에 대해 설명을 하는 등 투명성 확보를 위한 대안을 마련해야 한다는 것이 고 교수의 의견이다.

고 교수는 “AI 의사결정 결과를 논리적으로 설명하는 것은 아직까지 제한될 수밖에 없다”며 “하지만 사회적인 요구가 늘어나는 만큼 관련 컨퍼런스, 논문 등을 통해 투명성 확보를 위한 대안이 논의되고 있다”고 밝혔다. 이어 “결국 새로운 비즈니스를 하기 위해서는 신뢰가 중요하다”며 “상품에 대한 신뢰를 가져야 활용할 수 있다”고 강조했다.

<홍하나 기자>hhn0626@ddaily.co.kr