Anthropic CEO 다리오 아모데이, NBIM과의 인터뷰
노르웨이의 국부펀드 중 국제투자를 담당하는 노르웨이 은행 투자운영회(Norges Bank Investment Management, NBIM)의 CEO 니콜라이 탄겐(Nicolai Tangen)이 흥미로운 인터뷰를 진행했다. 최근 GPT-4o를 코딩에서 따돌리는데 성공한 Anthropic CEO 다리오 아모데이를 초청한 것이다.
니콜라이 : 당신은 얼마 전, 고급 AI 모델들이 어떻게 작동하는지 아직도 모른다고 언급하셨는데, 새로 발표한 모델로 어느정도 갈피를 잡을 수 있겠습니까?
다리오 아모데이 : 아직 어렵습니다. 이제 막 시작단계에 있어요. 우린 모델이 왜 작동하는지 이제야 3% 정도만 이해했다고 할 수 있을 겁니다. 세세하게 마지막까지 완전히 파악할 수 있을지는 모르겠습니다만, 진전은 빠르게 이루어지고 있습니다.
니콜라이 : 그럼 모델이 발전하면서 '더 복잡해지지' 않습니까? 우리가 이해하는 속도보다 그 복잡해지는 속도가 더 빠르진 않나요?
다리오 아모데이 : 좋은 질문입니다. 그것이 우리가 직면한 문제죠. 모델의 복잡성이 커지는 속도를 우리가 그 내부를 이해하는 속도가 따라잡을 수 있도록 하는 것이 우리의 도전입니다.
우리의 최신 모델을 개발하는 데 있어서 우리가 집중한 것은 '캐릭터'였습니다. 다른 모델들은 로봇같고 영감이 부족했다면 우리의 모델은 따뜻하고 인간적인 느낌을 받았다고들 하죠. 또 모델의 '품질'과 '속도와 비용' 사이에는 트레이드 오프 관계가 있어서 품질이 좋아지면 속도가 느려지고 비용이 높아지며 반대의 경우도 마찬가지입니다. 우리는 이 트레이드 오프 곡선의 최첨단을 확장해 갈 것입니다. 과거에는 가장 좋은 모델이 했던 작업을 이제는 적절히 싸고 빠른 모델들이 할 수 있도록 하는 것입니다.
코딩, 수학, 추론이 먼저 좋아질 것입니다. 제가 개인적으로 좋아하는 영역은 생물학과 의학입니다. 현 모델들은 학부생이나 인턴 수준에 불과한데 이를 대학원생 수준으로 끌어올리는 것이 목표입니다. 우리의 몇 달마다 이러한 경계를 확장하는 새로운 모델을 내는 것에 집중하고 있습니다.
니콜라이 : 새로운 모델을 출시할 때, 파라미터 수 등의 함수를 통해 그 새로운 성능을 미리 짐작할 수 있다고 들었습니다. 꽤 정확히 예측할 수 있죠?
다리오 아모데이 : 네 그렇습니다.
니콜라이 : 그렇다면 AGI에 도달하기까지 얼마나 남았나요? 인간보다 더 똑똑한 AI 말입니다.
다리오 아모데이 : 10년 전만해도 AGI는 공상과학처럼 여겨졌습니다. 저는 그때도 계속해서 AGI에 대해 말하곤 했었죠. AGI가 오는 시점은 '딱 이때다' 싶진 않을 겁니다. 시간이 지남에 따라 부드럽게 성능이 향상되는 지수곡선을 타고 있다고 생각해요. 인간 어린아이가 배우고 성장하듯이 점점 더 나아지고 더 똑똑해지고 더 많은 지식을 쌓아가는 겁니다.
정확히 표현하자면, 우리가 모델의 규모와 자금을 계속해서 늘린다면, 예를 들어 약 100억달러 규모로 커진다면, 그러면서도 알고리즘이 꾸준히 개선되고 칩의 개선도 지속된다면 그때쯤이면 대부분의 인간보다 모든 방면에서 더 작업을 잘하는 모델을 가질 가능성이 있다고 생각합니다.
니콜라이 : 그럼 내년에 100억달러 규모의 모델이 나올까요?
다리오 아모데이 : 2025년 어느 시점이면 100억 달러 규모의 모델 훈련이 시작될 수 있다고 생각합니다.
니콜라이 : 그 가격때문에라도 경주에 참여할 수 있는 곳은 많지 않겠네요.
다리오 아모데이 : 그렇죠. 다만 그보다 작은 하위생태계가 존재할 겁니다. Anthropic은 현재 80억달러 정도의 펀딩을 받았습니다.
니콜라이 : 엔비디아가 출시 주기를 2년에 1번이었던 것을 이제 매해 출시로 바꿨습니다. 이게 영향이 있을까요?
다리오 아모데이 : 칩이 매우 중요하다는 점을 모두 깨닫고 있는 것입니다. 엔비디아 혼자 독주하는 것이 아니라 이제 경쟁이 있을 겁니다. 구글은 기존부터 자체 칩이 있었고 아마존도 자체 칩을 개발하고 있습니다. 경쟁은 치열해지고 있으며 강력한 제품들이 많습니다.
---
다리오 아모데이 : 독재정권이 AI 기술을 선도하게 될 것에 대해서는 매우 염려하고 있습니다. 그렇게되면 위험할 것입니다.
니콜라이 : 그들이 얼마나 뒤쳐져있다고 보십니까?
다리오 아모데이 : 중국과 러시아에 칩과 장비 제한이 잘 이루어진다면 2~3년 정도 뒤쳐질 겁니다.
---
니콜라이 : 사회의 생산성은 얼마나 향상될까요?
다리오 아모데이 : 모두에게 가상의 비서가 생긴다고 생각해봅시다. 저는 물론 비서가 있지만 대다수 사람들은 비서가 없습니다. 모두에게 비서가 생긴다면 어떻게 될까요? 저는 경제학자가 아니기 때문에 정확한 수치를 말씀드리긴 어렵지만 현재 AI 회사들의 매출이 매년 10배씩 증가하고 있습니다. 2~3년 이면 수백억 달러에 도달할 것이고, 이후에는 매 년 매출만 수조 달러에 도달할 것입니다. 이는 어떤 회사도 도달하지 못한 규모죠.
니콜라이 : 만약 말입니다. 생물학이 더 발전해서 사람들이 은퇴시기가 10년 더 늦춰질 수 있다고 해봅시다. 그럼 대략 그것만 감안해도 경제의 1/6이 더 성장할 수 있다고 보는데 이런 생각은 어떤가요?
다리오 아모데이 : 정확한 예측은 불가능하지만 가능한 시나리오를 상상해본다면, 예를 들어 2~3년 후에 그러한 발견을 할 수 있는 AI 시스템이 개발될 수 있고, 5년 후에는 실제 그런 발견이 이뤄질 수 있으며, 규제나 절차를 통해 그로부터 5년후에는 실제 적용될 수 있겠죠. 도합 10년 이상의 시간이 걸릴 수 있습니다. 하지만 이는 제 추측에 불과하고 신약 개발이나 생물학에 대해 저는 깊이 알지 못합니다. 그리고 우스운 이야기지만 AI 스케일링에 대해 발견한 사람이면서도 그 스케일링에 대해서도 아직 잘 모릅니다. 예측은 대단히 어렵습니다.
니콜라이 : 그럼 AI로 인해 인플레이션에 미치는 영향은 어떨거라고 생각하십니까?
다리오 아모데이 : 제가 경제학자는 아니지만, AI로 인해 아주 큰 실질적인 생산량 향상이 나타난다면 디플레이션 압력으로 작용할 것입니다. 더 적은 비용으로 더 많은 것을 할 수 있게 되며, 달러의 가치가 더 높아지게 되는 것이죠. 방향적으로는 디스 인플레이션, 즉, 물가상승을 억제하는 방향으로 갈 것입니다. 하지만 그 규모에 대해선 잘 모릅니다. 오히려 니콜라이씨가 더 잘 아시겠죠.
역사적으로 강력한 기술이나 경제력은 힘을 집중시키는 경향이 있어왔습니다. AI는 강력한 기술이며 민주정부가 개입해서 기본적인 룰을 정해야합니다.
Anthropic은 실리콘밸리 회사이기 때문에 가장 열성적인 고객들 역시 실리콘 밸리의 회사들일 때가 많습니다. 때문에 AI회사인 저희가 AI 법률회사에게 서비스를 제공하고 이 AI 법률회사는 또 AI로 생산하는 회사를 지원하고, 그들은 또 다른 실리콘밸리 회사를 지원하는, 일종의 닫힌 루프가 만들어질 위험이 있습니다.
니콜라이 : 거기다 대다수가 고학력자죠.
다리오 아모데이 : 맞습니다. 그래서 AI가 더 사회 골고루 혜택을 주기 위해서는, 이러한 닫힌 루프가 깨져야하는데 어떻게 깰 수 있을까요? 제가 고민해본 결과, 생물학과 헬스케어 혁신이 이루어진다면 모두에게 적용되기 쉽겠다고 생각했습니다. 또 교육이나 정부 서비스 제공에 AI를 활용하는 것도 좋겠습니다. 미국에선 특히 정부의 공공서비스를 이용할 때마다 대다수가 나쁜 경험을 합니다. 이런 부문들을 AI로 대체하면 정부에 대한 회의감을 줄이는 데에도 도움을 줄겁니다.
니콜라이 : 10년 후 빈부 격차는 더욱 커질까요?
다리오 아모데이 : 우리가 신중히 대처한다면 빈부격차는 줄어들 것이며, 그렇지 않다면 더욱 커질 것입니다.
니콜라이 : AI로 가장 많은 돈을 버는 곳이 어디일까요? 칩 제조업체? 당신들 같은 모델 개발업체? 아니면 실생활에 적용시키는 업체나 소비자, 기업? 어디일까요?
다리오 아모데이 : 전체 파이가 매우 커질 것이기 때문에 어디가 1등이냐는 그렇게 중요하지 않을 겁니다. 아마 모든 이들에게 분배될 것입니다. 현재는 칩회사들이 가장 많은 돈을 벌고 있습니다. 이는 어찌보면 당연합니다. 모델이 '배포'되기 전 모델의 '훈련'이 먼저 일어나니까요.
그래서 저는 칩회사들의 매출이나 평가가 '선행지표'라고 생각합니다. 그리고 저희같은 AI 회사들이 '현재지표', 많은 하위 생태계는 '지연지표'라고 할 수 있겠네요. 이 파도는 결국 모두에게 도달할 것입니다. 예를 들어 엔비디아의 시가총액이 전체 AI 업계의 '선행지표' 중 하나라고 볼 수 있겠네요. 그 시가총액을 통해 AI의 잠재적 영향을 추산할 수 있으니까요. 물론 이 팟캐스트에서 주식 조언은 할 수 없겠습니다.
니콜라이 : 엔비디아의 시가총액이 약 3조 달러입니다. 왜 그런가요? 이는 세계에서 가장 큰 국부펀드의 거의 2배 사이즈입니다.
다리오 아모데이 : 예상수요 때문입니다. 사람들은 매우 큰 AI 클러스터를 구축하고 있어요. AI 모델을 만드는 회사들이 클러스터를 구축하면서 엔비디아에 비용을 지불하고, 그렇게 만든 AI가 나중에 더 큰 부를 가져다 줄거라 베팅하고 있는 것입니다. 하지만 아직 그 수익은 현재 존재하지 않습니다. 지금까지 보이는 현상은 '사람들이 더 많은 칩을 사려고 한다'는 것입니다.
물론 이 모든 것들이 실패할 수도 있습니다. 모델들이 생각보다 강력하지 않고 Anthropic 같은 기업들이 기대한만큼의 성과를 내지 못할 수 있어요. 하지만 저는 그렇게 되리라 생각하지 않습니다. 제 예측은 이런 모델들이 많은 수익을 창출할 것이고 그에 따라 더 칩에 대한 수요가 많아질 것이며 엔비디아와 AI 기업들의 가치가 더 상승할 것이라는 것입니다. 이것이 제가 예측하는 시나리오 입니다. 물론 정반대로 갈 수도 있습니다.
니콜라이 : 현재 가장 큰 제약은 어디서 발생합니까? 칩, 인재, 알고리즘, 전기?
다리오 아모데이 : 가장 큰 병목현상은 데이터입니다. 하지만 저와 다른 기업들 모두 합성데이터를 매우 열심히 연구하고 있으며 이 병목현상을 해결하리라 예상하고 있습니다.
니콜라이 : 합성데이터라는게 정확히 뭔가요?
다리오 아모데이 : 제가 좋아하는 예는 7년 전 구글의 자회사 딥마인드가 AlphaGo 모델을 만든 것입니다. 처음에는 인간의 기보로 학습한 후, 나중에는 모델끼리 계속해서 바둑을 두게하면서 학습시켰죠. 즉 바둑의 규칙만 가지고 모델끼리 계속 두게하면서 점점 더 발전해 나중에는 인간을 뛰어넘었습니다. 이런 모델들은 합성데이터로 훈련시킨 셈입니다.
니콜라이 : AI가 지정학에 미치는 영향에 대해서는 어떻게 생각하십니까?
다리오 아모데이 : 우린 순진하게 생각하면 안됩니다. 모두가 AI에 눈독을 들일 것입니다. 가능하면 세계 각국이 협력하길 원하지만, 불가능할 것입니다. 그런 경우 저는 자유민주주의 편에 서 있습니다. 민주국가들이 세계 무대에서 리드하고 우위를 점하길 바랍니다. 강력한 AI와 독재정권의 결합은 저를 매우 두렵게합니다. 그런 일이 일어나질 않기를 바랍니다.
니콜라이 : 각 나라가 자체 AI 모델을 구축해야 합니까?
다리오 아모데이 : 네
니콜라이 : 인구 500만인데요?
다리오 아모데이 : 국가 안보 관점에서 보면 각 나라가 언어모델을 가져야 할 겁니다. 하지만 세계의 민주주의를 지키기 위해 민주국가끼리 모여 자원을 한데 모아 소수의 언어모델을 만드는 것이 합리적일 수도 있습니다. 다만 탈중앙화를 하는 것이 더 나을수도 있습니다. 어느 쪽이 나은지에 대해서는 강한 의견을 갖고 있지 않습니다.
도발적인 비유일 수도 있겠습니다마는 AI는 핵무기와도 비슷합니다. 일부 국가들은 동맹국이 있음에도 독자적인 핵무기를 보유하고 있죠. 강력한 모델들은 이와 비슷할 것입니다.
니콜라이 : 마지막으로 젊은이들에게 조언을 하신다면요
다리오 아모데이 : 이 새로운 기술, AI에 익숙해지세요. 어떤 직업이 중요해질지, 어떤 직업이 그렇지 않을지에 대한 정확한 지침은 드리지 않겠습니다. 저희도 모르니까요. 그러나 앞으로는 이 기술을 사용하고 함께 작업해갈 것이라는 점은 안전하게 말씀드릴 수 있습니다. 기술을 이해하시기 바랍니다.
또 다른 조언을 드리자면, '정보에 대해 회의적인 태도'를 기르시기 바랍니다. AI가 더 많은 정보와 컨텐츠를 만들어감에 따라 그 정보를 구별하는 능력이 점점 더 중요해질 것입니다. AI가 이런 구별을 도와주길 바라지만 궁극적으로는 여러분 본인의 몫입니다. 호기심과 분별력을 갖추는 것이 중요합니다.