MS CEO 사티아 나델라, OpenAI와의 파트너십에 대해 언급
진행자 - 트럼프 대통령이 어제 미국 내 AI 인프라를 구축·성장시키기 위한 새로운 합작 투자 ‘Stargate’을 발표했습니다. OpenAI, SoftBank, 그리고 Oracle이 초기 1,000억 달러를, 그리고 향후 4년간 최대 5,000억 달러까지 투입할 가능성이 있다고 하는데요.
Microsoft도 이번 새로운 합작 투자의 파트너 중 하나로 이름을 올렸습니다. 지금 저희와 단독 인터뷰를 위해 Microsoft의 회장이자 CEO인 Satya Nadella가 함께합니다.
좋은 아침입니다.
사티아 나델라 - 감사합니다.
진행자 - 지금 이 시점에 말씀 나눌 수 있게 되어 정말 기쁩니다. 우리 모두 이것이 어떤 의미인지, 그리고 정말 5,000억 달러 규모로 갈 수 있을지, 특히 OpenAI와의 파트너십에 어떤 영향을 미치는지 궁금해하는 상황이거든요. 왜냐하면 그들은 그동안 Azure만 단독으로 사용해왔는데, 이제 분명 다른 플랫폼도 사용할 테니까요.
사티아 나델라 - 네, 우선 저희가 지원했고 사실상 시드 투자자로 참여했던 회사가 다른 곳에서 자금을 유치하게 되면 좋은 날이죠. OpenAI에 좋은 일이자 Microsoft와 저희 투자자들에게도 좋은 일입니다.
보세요, 저희의 파트너십은 계속됩니다. 저희도 Stargate의 기술 파트너가 될 것이고요. 하지만 더 중요한 건 OpenAI와의 파트너십입니다. 방금 독점성(exclusivity)에 대해 말씀하셨는데, 앞으로도 OpenAI의 API는 Azure에만 독점적으로 제공될 예정이라 아무 변화가 없습니다.
Microsoft는 계속 IP(지적 재산권)에 대한 접근 권한을 유지합니다. 사실, 이번 건으로 인해 IP가 더 늘어날 것이고, 따라서 저희도 혜택을 보게 되죠. 그리고 저희가 수익 분배(rev share) 합의도 훌륭하게 해놨습니다. 또한 OpenAI가 Azure 사용량(consumption)을 상당히 크게 늘리겠다고 약속해서 그 부분도 매우 기대가 큽니다. 그러니 전체적으로 봤을 때, 제가 보기에는 이번 일이 OpenAI의 모델 개발을 가속화하고, 그것이 곧 Microsoft가 그 모델들을 활용해 시장에 나갈 수 있는 속도를 높여서 비즈니스를 더 크게 성장시킬 수 있게 해줍니다.
-> OpenAI 모델 우선 독점권이 있기 때문에 MS Azure 클라우드 수요는 계속 늘 것. MS 측에선 나쁠게 없다는 이야기.
진행자 - 질문을 드리겠습니다. 오늘 아침에 경쟁사 대표 중 한 명인 Marc Benioff를 인터뷰했는데, 이 파트너십에 대해 매우 비판적이었습니다. 그가 지적한 내용 중 하나는, 장기적으로 보면 Microsoft가 자체적인 대규모 모델(frontier models)을 구축할 것이고, Sam Altman과 귀하가 영입한 Mustafa(*무스타파 슐레이만, 인플렉션ai로부터 MS로 옮긴 현 MS AI CEO) 간에 괴리가 있다는 점이라며, OpenAI와 Microsoft 간에 어떤 균열(fissure)이 존재한다는 듯한 이야기를 했습니다. 이에 대해 어떻게 말씀해주실 수 있을까요?
사티아 나델라 - 음, 저희에게 OpenAI와의 파트너십은 매우 중요한 파트너십입니다. 저희는 이 관계를 매우 좋아하고, 잘 작동하고 있으며, 우리에게 많은 가치를 창출해주고 있어요. 앞으로도 그대로 유지할 계획입니다. 물론 지금 Azure 상에 다른 모델들도 있습니다. 오픈소스 모델도 있고, Microsoft가 자체적으로 만든 소규모 언어 모델들도 있습니다. 그리고 앞으로도 계속 그렇게 할 겁니다. 결국 고객들은 다양한 선택지를 요구하기 마련이고, 저희는 그것을 지원할 것입니다. 하지만 Azure에 독점적으로 탑재된 선도적인 모델(leading model)을 보유하는 것은 저희에게도 큰 이점이고, 좋은 일이죠.
-> 샘 알트만과 무스타파 슐레이만 사이의 관계가 다소 원만하지 않다는 것을 부인하지 않음.
진행자 - 또 하나 묻고 싶은 것이 있는데요. 한 달 반 정도 전 Dealbook 행사에서 Sam Altman과 이야기했을 때, 그는 귀하의 말씀과 마찬가지로 “우리가 서로 갈라서고 있는 것(disentangling)은 아니라고 본다”고 했습니다. 그러면서 “오해나 도전 과제가 전혀 없다고는 말하지 않겠다. 물론 어느 정도는 있다. 하지만 전체적으로 보면 엄청나게 긍정적이라고 생각한다”고 말했어요. 그럼 양사 간에 정렬되지 않은 지점, 즉 어긋나는 부분은 무엇일까요? 제가 최근 Microsoft의 어떤 서류를 봤을 때, 경쟁 업체 목록에 OpenAI가 포함되어 있더군요. 이건 어쩌면 장기적으로 Microsoft가 추구하는 야망을 어느 정도 보여주는 게 아닐까 싶은데요.
(*다시 질문. OpenAI와 MS 사이가 틀어지는 것 아니냐)
사티아 나델라 - 네, 사실 그 점과 관련해서는 오히려 Stargate이 하나의 답안이라고 생각합니다. Sam은 계속해서 스케일링 법칙(scaling laws)을 추구해 더 많은 컴퓨팅 리소스를 확보하고, 더 큰 모델을 훈련하고 싶어 합니다. 저희에게 우선 교섭권(rofer, right of first refusal)이 있어서, 그가 먼저 우리에게 요청하면, 저희가 그 요구를 충족할 수 있는지를 검토합니다. 저희가 충분하다고 판단되면 계약을 진행하고, 아니면 Sam이 다른 공급자를 찾을 수 있게 됩니다. 결과적으로 Sam에게도, 저희에게도 유리한 방식이죠. 따라서 저희가 의도한 전략적 가치의 무결성을 지키면서, 동시에 Sam이 원하는 부분도 지원하기 위해 마련된 조정책이라고 보시면 됩니다.
-> 흥미로운 부분. 샘과 OpenAI는 우선적으로 필요한 컴퓨팅 리소스, 인프라를 MS측에 요구해야함. MS측이 그것을 검토한 후, 받아줄만 하다 싶으면 투자. 충분하지 않다고 반려하면 샘과 OpenAI는 타사를 찾아가야함. MS는 손해가 없다고 말하는 부분.
진행자 - 현재 Microsoft가 이미 800억 달러를 투자하고 계신다고 알고 있는데, 최종적으로는 얼마를 투자하실 생각이신가요? (더 늘릴 생각이 있는가?)
사티아 나델라 - 지금 Microsoft는 해마다 800억 달러의 자본 지출(capital)을 하고 있습니다. 올해도 투자하고 있고요. 구체적으로 그들이(다른 투자자들이) 얼마나 투자할지는 제가 디테일하게 알고 있는 건 아닙니다. (*스타게이트 출자기업들이 얼마나 어떻게 투자할지는 자세히 모른다는 이야기)
진행자 - 알겠습니다. 그렇다면 1,000억 달러 규모의 약속이나, 최대 5,000억 달러 투입 가능성에 대해선 어떻게 보세요? Elon Musk가 트위터에 이런 내용에 대해 “그들은 그만한 돈이 없다. 그런 돈은 존재하지 않는다”고 말하던데, 이게 정말 실현 가능한 이야기라고 보시나요? (*스타게이트 1천억 달러, 5천억 달러가 진짜 가능한 규모인가?)
사티아 나델라 - 글쎄요, 저는 제가 확실하게 말할 수 있는 건 저희는 매년 800억 달러를 투자한다는 것입니다. 저는 Azure를 구축하기 위해 800억 달러를 쓰고 있고, 고객들은 전 세계 어디서든지 Microsoft가 OpenAI 모델이든 다른 모델이든 잘 제공할 수 있다고 믿으셔도 좋습니다. 그게 제가 확실히 아는 전부입니다. (*모른다. 다만 MS는 기존에 하던대로 클라우드에 매년 800억 달러를 태울 뿐이다. OpenAI든 타 모델이든 그 클라우드를 쓰도록 하고 이득을 보면 된다는 스탠스)
진행자 - 다보스에서, 그리고 다보스 이전에도, 스케일링 법칙이라는 것이 정말 지금과 같은 속도로 지속될 수 있는지에 대한 논의가 있었습니다. Sam Altman은 이 스케일링 법칙이 계속 이어질 것이라고 공공연히 말해 왔고, Sundar Pichai는 생각보다 빨리 한계가 올 수도 있다는 뉘앙스를 내비치고 있죠. 귀하께서는 어떻게 보시나요?
사티아 나델라 - 두 관점 다 맞는 말이라고 생각합니다. 현실적으로 스케일을 키워나가는 과정이 결코 한계에 부딪히는 건 아니지만, 커질수록 어려워지는 면도 있거든요. 재미있는 건 사전 훈련(pre-training) 규모가 커질수록 난이도가 올라간다는 점인데, 그럼에도 불구하고 Sam과 팀이 GPT-01, 그리고 지금 GPT-03(가칭)에서 보여준 것은 추론 단계에서의 컴퓨팅(inference time compute) 능력입니다. 이 추론 능력의 향상이 스케일링 법칙을 사실상 가속시키고 있어요. 예전엔 6개월마다 두 배가 되던 것이, 이제는 3개월마다 두 배가 될 수도 있다는 얘기죠. 그래서 저는 스케일링 법칙이 충분히 건재하다고 봅니다. 이제 중요한 것은 이 모든 역량 구축을 어떻게 실제 AI 시스템 배포에 활용하느냐 하는 문제라고 생각합니다.
진행자 - 그렇다면 귀하께서 직접 개발 중인 자체적인 프런티어 모델들은 어느 정도 진척이 있나요? 분명 Mustafa를 영입하시고, 자체적으로도 여러 프로젝트를 진행 중이실 텐데요. 이것들이 언제쯤 공개될 수 있을까요? 그리고 이런 모델들이 결국 어떤 역할을 하게 될 거라고 보세요? OpenAI와의 협업 자체만으로도 엄청나게 성공적일 가능성이 커 보이는데, 이 AI 생태계가 어느 시점에서는 바뀌지 않을까요?
(*이는 MS가 OpenAI 외에도 자체 프론티어 모델을 개발할 생각이 있는가 하는 질문)
사티아 나델라 - 우선 아주 분명히 말씀드리자면, 저희는 OpenAI의 IP에 접근할 수 있습니다. 그러니 같은 일을 두 번 할 이유는 없습니다. 저희는 OpenAI와의 접근 권한에 매우 만족하고 있습니다. 다만 Microsoft가 개발한 다른 모델들도 존재합니다. 저희가 자체적으로 만든 공개 모델인 ‘PHY’라는 것이 있는데, 이것은 파라미터 수에 비해 최고 수준이라고 말할 수 있는 소규모 언어 모델(SLM)인 ‘PHY4’입니다. 또 다른 모델들도 있고요. 그러나 저에게 더 중요한 건 OpenAI 모델을 바탕으로 가치를 창출하는 겁니다. 저희는 사후 훈련(post-training) 스택에서 훌륭한 역량을 갖추고 있고, 여러 언어에 대한 미드 트레이닝(mid-training)도 이미 많이 해냈습니다. 저희는 그 부분에 집중하고 있습니다.
(*인터뷰 상으로는 그럴 계획이 없다, 오히려 OpenAI 모델의 우선 접근권이 있기 때문에 그걸 바탕으로 돈을 벌 것이다.)
진행자 - 스케일링 법칙 이야기를 하셨는데, 이 모든 것이 단순히 처리 능력(프로세싱 파워)의 문제라고 보십니까? 오늘날 엔비디아(NVIDIA) 칩을 충분히 살 수 있다면 누구나 뛰어난 대형 언어 모델(LLM)을 만들 수 있을까요? 지난 12개월 동안 Elon Musk가 이룬 걸 보면 놀라울 정도인데요. 많은 엔비디아 칩을 구해서 직접 모델을 구축했잖아요. 이게 단순히 하드웨어 문제인가요, 아니면 알고리즘도 한몫을 하나요?
사티아 나델라 - 결국 둘 다라고 봅니다. 컴퓨트(Compute)는 곧 인텔리전스(Intelligence)라고 할 수도 있죠. 하지만 그 위에 알고리즘적 돌파구도 필요합니다. 어느 정도 스케일링 법칙이 작동하는 이유 중 하나는 알고리즘적 개선, 그리고 데이터 활용 능력, 컴퓨트 효율성이 모두 합쳐져 있기 때문이죠. 그래서 우리가 스케일링 법칙이라고 말할 때, 단순히 컴퓨트만 얘기하는 게 아니라, 컴퓨트가 10배 늘면 능력은 100배가 된다는 식으로 실제 성능이 더 빨리 늘어납니다. 그 이유는 바로 소프트웨어 덕분이죠.