본문 바로가기

AI 인터뷰 및 최신 동향

(20)
Anthropic CEO 다리오 아모데이, NBIM과의 인터뷰 노르웨이의 국부펀드 중 국제투자를 담당하는 노르웨이 은행 투자운영회(Norges Bank Investment Management, NBIM)의 CEO 니콜라이 탄겐(Nicolai Tangen)이 흥미로운 인터뷰를 진행했다. 최근 GPT-4o를 코딩에서 따돌리는데 성공한 Anthropic CEO 다리오 아모데이를 초청한 것이다.  니콜라이 : 당신은 얼마 전, 고급 AI 모델들이 어떻게 작동하는지 아직도 모른다고 언급하셨는데, 새로 발표한 모델로 어느정도 갈피를 잡을 수 있겠습니까? 다리오 아모데이 : 아직 어렵습니다. 이제 막 시작단계에 있어요. 우린 모델이 왜 작동하는지 이제야 3% 정도만 이해했다고 할 수 있을 겁니다. 세세하게 마지막까지 완전히 파악할 수 있을지는 모르겠습니다만, 진전은 빠르게 이루..
2024년 미중 AI 대결의 현황 - Alexandr Wang Scale AI 서밋 현 시점 가장 눈여겨 봐야하는 기업 중 하나, Scale AI 가 미중간 AI 경쟁의 현황을 제시했다. 이에 대해 자세히 살펴보자. AI가 얼마나 앞서는지에 대해 살펴보려면 그 핵심 세 기둥을 살펴봐야한다. 1. 알고리즘, 2. 데이터, 3. 컴퓨팅이다. 먼저 알고리즘은 2022년 GPT-4가 처음 실험실에서 만들어졌을 때만 해도 중국은 미국을 한참 따라오지 못했다. 하지만 AI 슈퍼파워의 저자이자 전 구글 차이나 사장이던 리카이푸가 링이완우(零一萬物)라는 스타트업을 만들었고, 여기서 내놓은 모델이 바로 Yi-large 모델이다.  3번째에 위치한 것이 Yi-large 모델이다. 리카이푸의 스타트업이 만들어낸 중국의 모델로 전체 3위를 기록하고 있다.  화웨이의 Ascend 910B는 엔비디아 A100의..
Cohere 에이단 고메즈, "지능이 계속해서 기하급수로 증가하진 않을 것" 이번 인터뷰 및 에이단 고메즈의 추가설명을 통해 핵심을 정리하면 다음과 같다.2024년 7월 현재 및 직전의 모델들은 '이미' 인데이터와 합성데이터를 혼합해서 훈련시키고 있다. (이는 OpenAI의 샘 알트만의 최근 인터뷰를 통해서도 짐작할 수 있다. 샘은 다음 모델이 '처음으로' 합성데이터를 대량으로 훈련에 투입한 모델이 될 것이다고 언급)앞으로의 모델은 분명히 '자기개선'을 할 것이다.하지만 이 자기개선이 영원히 지속될 수는 없다. 스케일링이나 데이터에서 들인 노력과 마찬가지로 '선형적인 성능 증가'를 위해서도 '기하급수적인 노력'이 필요하고 동반될 것이다.때문에 어느 시점이 되면 AI가 자기개선을 시작해 인류를 압도할 것이라는 주장들처럼 되긴 어렵다. 이미 합성데이터의 모델 투입은 시작되었다. 최근..
'비합리적'으로 보이는 신념이 세상을 바꾼다. Steve Kovach (진행자) - 당신은 구글에서 인턴을 하면서 AI에 뛰어들기 시작했죠. 구글은 OpenAI에게 기습을 당했다고 생각합니다. 이에 대해 어떻게 생각하시는지요? Aidan Gomez - AI가 이렇게 성장하리라고 미래를 예측하기 위해서는 '비합리적일 정도의 신념'이 필요했을 겁니다. 이 모델을 더 크게 만들고, 더 많은 데이터로 학습시키고, 더 많은 컴퓨팅을 투입하면 이 모델들이 계속해서 똑똑해질 것이며, 그 개선 속도가 늦춰지지 않을 것이라는 강한 신념 말이죠.  - 당시에 우리가 훈련시키던 모델들은 지금보다 천 배 작은 모델을 훈련시키고 있었습니다. 그래서 모델을 천 배 더 키우려면 천 배 이상의 자본을 더 투입해야 하는 것이었기에 큰 위험을 감수하는 것이었습니다. 저는 우리가 이..