[디지털데일리 김보민기자] "인공지능(AI) 기술을 기반으로 작동하는 의사결정 시스템을 도입할 때 우리는 '본질'을 직시해야 합니다. 이 시스템이 정말 우리가 원하는 일을 하고 있는지, 법과 규제를 위반하지 않는지 정확히 알고 있어야 하기 때문입니다."

레지 타운센드(Reggie Townsend) SAS 데이터윤리실천 부문 부사장은 19일(현지시간) 미국 라스베이거스에서 <디지털데일리>를 만나 '책임 있는 AI'에 대해 이렇게 밝혔다. 전 세계적으로 AI 돌풍이 본격화되고 있는 가운데, 무분별한 활용이 아닌 윤리 측면에서 기술을 다룰 필요가 있다는 취지였다.

그 일환으로 SAS는 글로벌 연례 행사 'SAS 이노베이트'에서 신규 제품 모델 카드(Model Cards)를 공개했다. 데이터 분석 플랫폼 'SAS 바이야'에서 제공되는 모델 카드는 AI 모델 정확도, 공정성, 모델 드리프트(조건 변화에 따른 성능 저하) 등을 보여주는 지표다. SAS 측은 이를 AI 특화 '영양 성분표'라고 소개했다.

타운센드 부사장은 "모델 성능표는 주요 산업에서, 특히 금융권에서 볼 때 아주 새로운 개념은 아니다"라면서도 "모델 카드는 다양한 분야에서 수집한 데이터를 기반으로 누가 모델을 만들었는지, 왜 만들었는지, 어디에 활용했는지 등을 종합적으로 볼 수 있는 완성 개념"이라고 설명했다.

특히 전 세계적으로 AI 법과 규제를 세우고 있는 상황 속에서 모델 카드가 결정적인 역할을 할 수 있을 것으로 내다봤다. 그는 "유럽연합(EU)이 추진하고 있는 AI법은 물론 미국, 중국, 한국에서도 AI에 대한 많은 대화를 나누고 있다"며 "망치로 못이 아닌 사람을 두들길 때를 대비해 안전 장치가 필요하듯, AI 또한 마찬가지"라고 부연했다.

모델 카드는 SAS 제품에서 콘텐츠를 가져와 등록 모델에 대한 카드를 자동 생성한다는 점에서 사용자 친화적이라는 평가가 나온다. SAS 바이야의 경우 오픈소스 관리를 위한 기존 아키텍처(구조)를 보유하고 있어, 파이썬 모델을 시작으로 오픈소스에도 모델 카드 적용이 가능하다. 타운센드 부사장은 "현장에서도 고무적인 기대감이 나오고 있다"고 분위기를 전했다.

그동안 SAS는 '책임 있는 AI'를 필두로 다양한 프로젝트를 전개해왔다. 지난해 글로벌 행사에서는 네덜란드 에라스무스대 의료센터, 델프트 기술공과대학교와 의료AI 분야에서 윤리 도구를 조성하기 위해 협력한다고 발표했고, 생태계 보전에서도 AI 기술을 활용할 수 있는 방안을 꾸준히 모색해왔다.

타운센드 부사장은 글로벌 단위에서 AI에 대한 논의가 더욱 뜨거워지고 있는 만큼, 이러한 노력이 주효할 것으로 전망했다. 그는 "현재 AI 분야에서 주요국은 대체로 합의된 접근 방식을 보이고 있다"고 말했다. 다만 "정부 논의는 빨라지고 있지만, 사회적인 시선에서 볼 때 'AI 리터러시(literacy)'는 아직 부족하다고 평가된다"고 말했다.

AI 리터러시는 단순 차기 기술에 대한 이해뿐만 아니라 윤리적인 측면에서 AI를 활용할 줄 아는 역량을 의미한다. 과거 아날로그 시대가 저물었을 당시 '디지털 리터러시'가 최대 과제로 떠올랐던 것처럼, 첨단 기술이 보편화되면서 개인 차원에서 AI 리터러시를 고도화할 수 있는 방안에 대한 논의가 더욱 많아져야 한다는 의견이 나오는 추세다.

타운센드 부사장은 "개인은 물론 기업 차원에서도 AI 리터러시가 중요해지는 상황"이라며 "AI를 도입하거나 활용할 때 허위 정보에 따른 파급력이 얼마나 강한지 모두가 이해해야 있다"며 "미국, 호주, 핀란드 등을 중심으로 관련 논의가 물살을 탄 만큼 글로벌 단위에서 혁신적인 대화가 더욱 탄력을 받을 필요가 있다"고 말했다.

한편 타운센드 부사장은 AI 발전에 있어 규제 또한 변화를 꾀해야 한다고 제언했다. 시대가 빠르게 변화하고 있는 만큼, 특성에 맞는 규제를 재편해야 할 필요가 있다는 취지였다. 그는 "1980년에는 타당했을 수 있지만 지금은 말이 되지 않는 규제가 존재할 수 있다"며 "오래되고 낡은 규제가 현대 사회에 맞지 않는다면 당연히 재평가돼야 한다"고 강조했다.

그러나 규제 자체가 사라지는 것은 지양해야 한다고 봤다. 그는 "전통적으로 볼 때 규제는 소외된 사람들을 위해 마련된 것"이라며 "규제에는 균형이 필요하고, 더 나은 대안이 될 수 있도록 작동돼야 한다"고 말했다.