- 정무경 랩장, “AI 인프라 효율성 극대화…국내 기업 최초”

[디지털데일리 윤상호기자] SK텔레콤이 인공지능(AI) 서비스뿐 아니라 하드웨어도 발을 디뎠다. 속도와 용량을 늘리는 솔루션을 상용화했다. 국내 처음이다. 해외까지 넓혀도 둘 다 하는 기업은 구글 정도다.

21일 SK텔레콤 서울 중구 삼화빌딩에서 기자간담회를 열고 ‘AI 가속 솔루션(AIX: AI Inference Accelerator)’을 발표했다.

SK텔레콤 소프트웨어개발원 머신러닝 인프라랩 정무경 랩장은 “하드웨어와 소프트웨어를 통합해 솔루션으로 개발했다”라며 “엄청난 규모 AI 서비스 인프라를 앞으로 구축해야 할 텐데 AI 인프라 효율성을 극대화하기 위한 것”이라고 밝혔다.

시장조사기관 트랙티카는 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러(약 73조원)에 이를 전망이다. ▲엔비디아 ▲인텔 ▲구글 ▲마이크로소프트(MS) 등 글로벌 기업도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.

정 랩장은 “솔루션 적용으로 SK텔레콤 AI 서비스 ‘누구’는 기존 대비 서비스 용량이 약 5배 늘어날 것으로 기대된다”라며 “국내에서 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화한 기업은 SK텔레콤이 최초”라고 설명했다.

SK텔레콤 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다. 그래픽처리장치(GPU) 방식 가속 솔루션 대비 전력 효율성이 16배 높다. 데이터센터 운용비 절감도 가능하다.

그는 “엔비디아나 인텔 등은 일반적 AI 대상 가속기를 만들지만 우리는 우리 서비스에 쓸 목적으로 만들기 때문에 최적화됐다고 보면 된다”라며 “자체 개발한 가속기를 자체 AI에 상용화한 것은 구글 외에는 알려진바 없다”고 SK텔레콤의 기술 수준이 세계적이라는 것을 강조했다.

SK텔레콤 AI ‘누구’ 월간 실 사용자(MAU: Monthly Active User)는 1분기 기준 300만명을 넘었다. 누구는 ▲스피커 ▲내비게이션 ▲키즈폰 ▲셋톱박스 등에 적용했다. AI 가속 솔루션 개발 배경이다. SK텔레콤은 자체 기술로 ▲하드웨어 및 소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

정 랩장은 “AI 서비스는 점점 복잡해진다. 고도화는 하드웨어 기술이 밑바탕이 돼야 한다”라며 “필요 없는 연산을 줄여 성능을 개선했다”고 전했다.

한편 SK텔레콤은 차세대 AI 가속 솔루션을 개발할 계획이다. 향후 AI 하드웨어 사업 전개 여부는 아직 확정치 못했다. 일단 SK텔레콤 AI 고도화와 효율화에 집중한다. 관련 기업 인수합병(M&A) 등 다양한 협력을 모색할 방침이다.

<윤상호 기자>crow@ddaily.co.kr