2023년 6월9일 한국을 찾았을 당시 샘 올트먼(오른쪽)과 이영 전 중기부 장관(왼쪽)

[디지털데일리 이종현기자] 오픈AI 최고경영자(CEO) 샘 올트먼(Sam Altman)이 다시 한국을 찾았다. 삼성전자와 SK하이닉스 최고경영진을 만나 인공지능(AI) 반도체를 위한 협력을 논의하기 위함인데, 이 ‘협력’이 어디까지 확장될지에 AI 산업계 관심이 집중되고 있다.

컴퓨팅을 위한 반도체는 크게 시스템 반도체와 메모리 반도체로 구분된다. 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 컴퓨터를 구성하는 핵심 부품이 시스템 반도체다. 최근에는 AI를 위한 특화된 신경망처리장치(NPU)도 개발되고 있다. 이와 달리 정보를 기록하는 데 초점을 둔 메모리 반도체는 램(RAM)이나 낸드플래시로 만들어진 솔리드스테이트드라이브(SSD) 등이 있다. 메모리 반도체는 한국을 ‘반도체 강국’이라고 불리게 만든 분야인데, 삼성전자, SK하이닉스가 전 세계 시장을 석권하고 있다.

올트먼이 한국을 찾은 것은 메모리 반도체에 대한 수요에 대해 논의하기 위함으로 전해진다. 현재 오픈AI는 엔비디아가 독점하다시피 한 AI 가속기(Al Accelerator) 시장의 다원화를 위해 자체 AI 반도체 생산을 검토 중인데, 여기에 필요한 메모리 반도체 수급을 위해 삼성전자와 SK하이닉스를 찾았다는 것이다.

현재 AI 가속기는 그래픽처리장치(GPU)가 전체 시장을 이끌고 있다. 다만 GPU는 그래픽 연산 전반에 특화된 프로세서로, AI를 위한 연산도 가능할 뿐 AI를 위해서만 개발된 것은 아니다. 높은 범용성이 장점이지만 동시에 비싸고 전력효율이 떨어진다는 것이 전문가들의 주장이다. 이에 대한 대안으로 AI 연산에 최적화된 NPU가 급부상하고 있다.

오픈AI는 현재 마이크로소프트(MS)와 협력해 엔비디아를 대체할 AI 가속기 개발에 착수한 상태다. 여기에는 시스템 반도체를 뒷받침할 고대역폭메모리(HBM) 등이 필수적이다. 아무리 높은 성능의 NPU를 사용한다 하더라도 메모리 반도체가 이를 뒷받침하지 못한다면 병목현상 탓에 제 성능을 낼 수 없다.

대규모언어모델(LLM) 및 이를 이용한 소프트웨어(SW)를 개발하는 오픈AI가 이처럼 AI 가속기에 관심을 보이는 이유는 여기에 기업의 지속가능성이 달려 있기 때문이다. AI 연산을 위한 가속기가 비싸고 전력 소모량이 클수록 서비스를 제공하기 위한 비용은 커질 수밖에 없다. ‘챗GPT’ 흥행에도, 오픈AI 적자는 커지고 있다는 데서 이를 알 수 있다.

막대한 에너지 소비도 걸림돌이다. 지난주 스위스 다보스에서 열린 세계경제포럼에서는 AI가 에너지 위기를 더욱 가속화할 것이라는 지적이 제기됐다. 올트먼에게도 관련 질의가 다수 쏟아졌는데, 이에 대해 그는 “세계의 가장 큰 두 현안은 AI와 에너지다. 특히 에너지는 획기적 돌파구를 마련하지 못하면 AI가 요구하는 수준을 맞출 수 없다”고 했다. 반도체 기업들이 계속해서 ‘저전력’을 강조하고 있는 배경이다.

반도체의 경우 설계(팹리스)와 생산(파운드리)이 분리돼 있다. 엔비디아 역시 전문적인 설계만 수행하고 생산은 전문 파운드리 기업에게 맡기고 있다. 오픈AI가 자체 AI 가속기를 개발할 경우 TSMC와 파운드리 시장을 양분 하고 있는 삼성전자가 수혜를 누릴 것으로 보인다.

올트먼 방한이 메모리 반도체 및 파운드리에 대한 협력에 그친다면 그 수혜는 삼성전자·SK하이닉스와 그 협력사들로 국한된다. 하지만 엔비디아에 맞설 AI 가속기를 위한 포괄적인 협력의 출발점이라면 현재 상용 제품을 내놓은 국산 NPU 기업 및 AI 생태계 전반에도 큰 기회가 될 수 있다.

AI 반도체 시장이 본격화될 경우 이를 이용하는 SW 기업들에게도 적잖은 영향을 미친다. 현재 NPU는 특정 작업에만 효율성을 보이는 탓에 활용이 제한적이다. SW 기업들로서는 번거로운 추가 작업을 해야 하는 셈인데, 시장이 충분히 성숙되지 않아 투자를 꺼리는 곳이 대부분이다.

그러나 오픈AI와 AI 반도체를 위한 ‘팀 한국’이 협력한다면 생태계는 급속도로 확산될 것으로 예상된다. 클라우드가 확산되면서 서비스형 소프트웨어(SaaS) 시장이 본격화된 것과 같다. NPU 제조부터 이에 특화된 SW를 개발하거나 호환되도록 하는 기술 등 파급 효과가 적지 않을 것이라는 전망이다.

올트먼은 당초 26일 방한해 6시간 남짓만 머무를 것으로 알려졌지만 25일 오후 입국한 뒤 1박2일의 일정을 소화했다. 일시적인 이벤트성 방문이 아니라 지속적인 협력을 위한 첫걸음이라는 해석이 지배적인 가운데 향후 오픈AI와 한국의 ‘AI 동맹’이 어떤 형태를 띨지에 이목이 집중되고 있다.