그건 작년 9~10월 내러티브이고요. 올초부터 판이 완전히 달라졌습니다.
토큰을 가벼운 마약에 비유하면 현재 상황이 잘 설명될 것 같습니다. 토큰에 중독되어 이제는 토큰 없이는 일을 할 수 없는 일부 그룹이 생겨났어요(개발자들). 문제는 이 소수의 헤비 유저 그룹이 소모하는 토큰 규모만으로도 현재 인프라 캐파가 턱없이 부족하다는 점입니다. 실제로 거의 매일 서비스 지연이나 다운이 발생하고 있죠(최근 Anthropic 데이터 센터가 그렇습니다).
구글 CEO가 AI 수요 때문에 컴퓨팅 용량을 1000배 확장해야 한다고 말했죠. 현재 개발자들의 폭발적인 수요와 향후 리테일 수요까지 감안하면, 실제 토큰 수요는 1만 배에서 10만 배 스케일로 더 필요할 것이라는 게 제 생각입니다. 물론 그사이 기술 개발을 통해 하드웨어가 1/10만 필요해지거나, 소프트웨어 알고리즘이 10배 이상 빨라지며 효율화가 일어나겠죠. 그렇게 하드웨어/소프트웨어 튜닝과 실제 수요 사이에서 타협점을 찾은 결과가 1000배일 것입니다. 즉, 1000배 확장은 과장이 아니라 최소 요구량이라는 뜻입니다.
AI 기술(Claude Opus 등)을 제대로 찍먹 해보지 않은 사람은 지금 이 수요층의 반응을 전혀 이해하지 못할 수 있습니다. 과거의 IT 트렌드처럼 현란한 마케팅 용어로 주가만 끌어올리는 단계가 아니기 때문입니다. 현재 AI 토큰 시장은 반대입니다. 공급자가 아니라 수요층에서 토큰 더 달라고 난리에요.
비유하자면, 마약을 안 먹어본 사람은 ‘그거 없이도 잘 사는데 왜 저러냐’ 하겠지만, 이미 맛을 본 사람은 10배의 생산성을 경험했기 때문에 ‘토큰 없이 비효율적으로 일하느니, 그냥 쉬다가 토큰 나오면 제대로 하자’는 마인드가 생깁니다. 실제로 토큰 없이 꾸역꾸역 일하는 사람보다, 90%의 시간을 대기하다가 토큰을 활용해 순식간에 끝내는 사람의 생산성과 결과물의 품질이 훨씬 더 낫습니다.
그렇다면 이 캐파를 1000배로 끌어올리기 위해 무엇을 해야 할까요? GPU, RAM, SSD, 전력, 전력망, 변압기, 보드 냉각, 노드 간 광통신 등 하드웨어 전반의 대대적인 업그레이드가 필수적입니다. 현재 첫 번째 병목이었던 GPU에 엄청난 투자가 몰리면서 NVIDIA 주가가 저렇게 움직인 것이고, 그 다음 병목으로 RAM과 HBM이 주목받으며 삼전과 하이닉스가 움직인 것이죠. 앞으로 전력망이나 냉각 등 다른 분야들이 순차적으로 미디어의 주목을 받게 될 겁니다. 사실 이미 그 분야들도 주가가 상당 부분 선반영되어 있긴 하지만, HBM에 대한 열기가 숨을 고르면 미디어는 다음 병목 구간들을 본격적으로 언급하기 시작할 것입니다.
중요한 건, 이 거대한 하드웨어 인프라 산업보다 훨씬 더 큰 규모의 AI 소프트웨어 및 애플리케이션 산업이 그 뒤에서 대기하고 있다는 점입니다. 도로를 까는 단계에서 도로 건설 비용이 많이 든다고 버블이라 해버리면, 그 도로 위를 달릴 자동차와 물류 시장은 영영 보지 못하는 셈입니다.
버블로 진단하셨다니 아쉽지만 숏 잘 쳐서 돈 많이 버시길 바래요.
