9월 24일 서울 양재동 엘타워에서 과학기술정보통신부가 주최하고 정보통신산업진흥원과 <디지털데일리>가 공동 주관한 ‘오픈 테크넷 서밋 2024’. 윤동영 LG전자 책임연구원이 ‘쿠버네티스 기반 머신러닝 옵스(MLOps)를 위한 오픈소스 도구’를 주제로 발표하고 있다. [ⓒ디지털데일리]

[디지털데일리 양민하 기자] "성공적인 머신러닝운영(MLOps) 구축을 위해서는 먼저 우리가 배포하려는 모델이 제공하는 '가치'를 명확히 이해하고, 그 가치를 실현하기 위해 필요한 적정 기술을 선정해야 합니다."

윤동영 LG전자 책임연구원은 24일 <디지털데일리>와 과학기술정보통신부, 정보통신산업진흥원이 함께 주최 및 주관한 '오픈 테크넷 서밋 2024'에서 쿠버네티스 기반 MLOps 구축 경험을 공유하며 이같이 강조했다.

인공지능(AI)이 빠르게 확산됨에 따라 기업들은 AI 모델을 더 효율적으로 운영하고 확장할 필요성에 직면하고 있다. 그러나 AI 모델 개발부터 배포, 관리까지의 전 과정은 복잡하고 많은 시간이 소요된다. 이때 쿠버네티스 기반의 MLOps는 이러한 과정을 자동화하고 쉽게 관리할 수 있는 강력한 도구로 주목받고 있다.

MLOps는 AI 모델을 개발하는 것뿐만 아니라, 이를 앱으로 패키징해 서비스에 배포하는 전체 프로세스를 포괄한다. 문제는 이 과정을 안정적으로 반복할 수 있는 순환적인 라이프사이클을 구축하는 것이 쉽지 않다는 점이다.

윤 연구원은 "실제 ML 시스템을 사내에 구축해 보니 알고리즘 자체는 전체 시스템의 10%도 되지 않는 작은 부분"이라며 "그렇기 때문에 머신러닝, 데브옵스(DevOps), 데이터 엔지니어링이 교차하는 MLOps가 중요한 역할을 하게 된다"고 설명했다.

기업들이 MLOps를 도입하려는 이유는 더 나은 품질의 모델을 빠르고 안정적으로 배포하기 위함이다. 이를 위해서는 인프라, 데이터, 알고리즘, 파이프라인, 앱, 서비스, 사용자를 포함한 다양한 구성원들이 협업해야 하며, 이를 가능하게 하는 표준화된 프로세스가 요구된다. 또한 데이터와 인프라의 표준화, 모델과 시스템의 확장성 확보도 필수적이다.

윤 연구원은 "MLOps 체계 구축에서 가장 중요한 과제는 다양한 구성원들이 협력할 수 있는 환경을 만드는 것"이라며 "각 구성원이 소속된 부서나 직책이 명확하지 않은 경우가 많기 때문에 협업이 어렵고, 이를 해결하는 것이 성공적인 MLOps 구축의 핵심"이라고 전했다.

이어 그는 MLOps 구축을 위해 기업이 우선적으로 기업이 제공할 모델의 가치를 명확히 파악하고, 그에 맞는 적정 기술을 찾는 것이 중요하다고 강조했다.

윤 연구원은 "광범위한 오픈소스 도구들을 모두 다 적용해 볼 수는 없다"며 "어떤 도구를 가져다 쓸 것인지 고민하기 전에 우리에게 맞는 기술 스택과 수준이 어느 정도인지 찾아야 한다"고 말했다.

MLOps 아키텍처를 설계할 때 고려해야 할 요소로는 ▲협업 ▲자동화 ▲지속적인 학습 및 모니터링 ▲재생산 ▲확장성 ▲데이터 수집 ▲거버넌스 등이 제시됐다.

LG전자는 MLOps 시스템을 구축한 후 현재 안정화를 위한 노력에 집중하고 있다. 윤 연구원은 "큐브플로우(Kubeflow)와 같은 대표적인 오픈소스 도구도 많은 발전을 이뤘지만, 여전히 안정화를 위한 고민은 지속되고 있다"며 "향후 오픈소스 시장의 변화와 문제 해결 방안을 지속적으로 모니터링할 필요가 있다"고 덧붙였다.