[디지털데일리 김문기 기자] “이렇게 심층적으로 협력한 적이 없다.”

4일 서울 코엑스에서 개최된 SK AI 서밋 ‘AI 반도체와 인프라의 진화’ 패널토의에 나선 모든 패널들이 공감한 문구다. 이 자리에는 개리 그라이더 로스알라모스국립연구소 리더를 사회로 모하메드 아와드 Arm 수석 부사장, 스티브 스콧 AMD 코퍼레이트 펠로우, 브라이언 블랙 치플렛즈 CEO, 이강욱 SK하이닉스 부사장이 함께 했다.

이번 서밋을 관통하는 단어는 ‘협력’이다. AI 잠재력을 실현하기 위한 진입장벽 해소로 전방위적인 협력의 중요성이 제기됐다. 패널토의 역시도 협력에 방점을 뒀다. 다만, 기존의 협력방식이 아닌 마이크로단위의 협력이 필요하다는 설명이다.

아와드 수석 부사장은 “최초의 구글 데이터센터는 기성제품들을 가져와서 모아두고 전원을 연결한 단순 공간이었다”라며, “하지만 AI 시대 데이터센터는 다르다. 구성요소 측면에서 최적화가 이뤄져야 한다. 발열에 따른 액침냉각, 더 큰 렉, 가용할 수 있는 전력량 등을 모두 고려해야 한다”고 지적했다.

이어, “지금의 데이터센터는 너무나 큰 변화다. 계속해서 스케일링할 수 있기는 하나 걸림돌이 있다. 각각의 요소를 최적화하면서 발전시켜야만 한다. 건물을 올릴 때도 코어 디자인이 중요하다. 이렇게까지 심층적인 접근이 있었던 적이 없다”고 덧붙였다.

단순하게 데이터센터만을 바라봐서는 안된다는 점도 분명히 했다. 그는 “AI 시대 가장 큰 임펙트는 데이터센터뿐만 아니라 전체 생태계에 걸쳐 투자가 이뤄진다는 것이다. 데이터센터가 데이터를 트레이닝하기 때문에 주목받고 있기는 하나 우리가 보면 센서에서부터 시작해서 데이터센터까지 전체 생태계 투자가 이뤄지고 있다”라며, “훨씬 더 수직 통합된 시스템 전체에 걸친 소유권이 나타나고 있는 것이다. 이전에는 볼 수 없는 수준이다”라고 강조했다.

광범위한 AI뿐만 아니라 엣지 온 디바이스 AI에 대해서도 설명했다. 아와드 수석 부사장은 “모바일 디바이스에 강력한 엔비디아 블랙웰은 필요하지 않다. 클라우드만 하더라도 이렇게까지 강력한 고성능 가속기를 추론에 쓸지를 판단해야 한다. 요구하는 컴퓨트 성능이 다르기 때문”이라며, “이 때문에 굉장히 다양한 아키텍처가 나올 것”이라고 설명했다.

스콧 펠로우는 “추론은 가벼운 저전력 엣지 디바이스에서부터 모바일, 노트북, 클라우드까지 다 필요하다”라며, “다양한 폼팩터 내에서 원하는 모습의 추론 디자인이 쓰일 것이고, 때에 따라서는 더 많은 메모리 대역폭을 요구할 수도 있다”고 말했다.

최근 무어의 법칙 한계로 인한 칩렛의 중요성에 대해서도 설파했다.

스콧 펠로우는 “가장 큰 어려움은 무어의 법칙이 한계에 다다랐기 때문이며, 트랜지스터를 계속해서 늘릴 수는 있지만 전력에는 도움이 안된다는 것”이라며, “전력이 현재 직면한 가장 큰 도전과제로 다양한 솔루션이 나올 것이라 기대하고 있으며, 칩렛 역시도 장점이 크다”고 강조했다.

아와드 수석 부사장 역시 이에 동의하며, “실리콘을 만드는 것은 경제성과 맞닿아 있다”라며, “맞춤형 실리콘을 만들고 싶다하는 이들을 위해 비용 효과적인 것들을 전달해 줄 수 있을 것”이라고 덧붙였다.

한편, 아와드 수석 부사장은 “전력효율성, 가속화 속도, 더 나아가 시스템 레벨 측면에서의 설계 등 공통된 주제에 대해 계속해서 얘기를 들었다. 정말 큰 문제다”라며, “하지만 우리가 공통의 문제를 인식하고 있다는 것 역시 중요하다. 원인을 정확히 알고 있으니 구석구석 손을 잡고 다양한 시도를 해야 한다. 우선 마구 배트를 휘둘러봐야 한다”고 소감을 밝혔다.