블로그6분 읽기

서버 랙 한 대가 250킬로와트를 먹습니다

a16z가 머신 에이지 펀드로 11억 달러를 하드웨어에 넣었습니다. H100에서 루빈으로 넘어오는 사이 랙 밀도가 28배 뛰었고, 3년 뒤에는 랙 한 대가 1메가와트를 씁니다.

서버 랙 한 대가 250킬로와트를 먹습니다 대표 이미지

5~10킬로와트면 충분하던 자리입니다. 랙을 줄줄이 세우고, 열은 공조로 빼고, 전기는 건물 인입선으로 받던 시절 숫자예요. 그 한 칸이 지금 100킬로와트를 넘게 먹습니다. 최상단은 250킬로와트예요.

H100에서 루빈으로 세대가 넘어오는 사이 랙 밀도가 28배 뛰었습니다. 3년 뒤 자리는 더 위입니다. 랙 한 대가 1메가와트를 쓰는 자리예요. 지금 최상단도 그 기준으로는 4분의 1입니다.

a16z가 여기에 11억 달러를 걸었습니다. 벤 호로위츠, 마틴 카사도, 라구 라그하람, 데이비드 울레비치, 데이비드 조지가 8월 28일 함께 발표한 머신 에이지 펀드입니다.

왜 지금 스로틀을 열까요?

발표문은 선언으로 열립니다. 스로틀을 열고 AI의 물리적 구축을 가속할 때다.

이유는 수요 모양이 바뀐 데 있습니다. 사람들이 챗봇에 말을 걸던 단계에서 추론 모델로 넘어갔고, 추론에서 코딩과 에이전트로 넘어갔어요. 단계가 하나 넘어갈 때마다 요청 하나가 태우는 토큰이 자릿수째 뜁니다.

발표문은 이 흐름을 기계 지능이 수직으로 간다고 적었습니다. 사용자가 늘어서 수요가 커지는 그림이 아닙니다. 같은 사용자가 삼키는 연산이 커지는 그림이에요. 앞 그림은 사람 수가 한계를 정해 줍니다. 뒤 그림에는 한계를 정해 주는 사람이 없어요.

이 차이가 발주서에 그대로 들어갑니다. 사용자 수가 두 배가 되려면 시장이 그만큼 커줘야 합니다. 요청 하나가 태우는 토큰은 모델 업데이트 한 번으로 뜁니다. 추론을 길게 두고, 에이전트가 스스로 여러 번 호출하게 두면 그만이에요.

a16z는 이 일을 회사 하나의 사업 기회로 부르지 않았습니다. 사회와 국가가 걸린 과제라고 적었어요. 벤처 펀드 발표문에서는 흔치 않은 크기의 단어입니다.

과장으로만 보기는 어렵습니다. 그 밀도가 현실이 되는 시점이 오면, 데이터센터를 어디에 어떻게 세울지가 전력망 계획과 붙습니다. 회사 회의실에서 끝나는 결정이 아니에요. 발표문이 국가를 끌어들인 자리가 바로 여기입니다.

펀드 자금은 어디로 갑니까?

투자 목록이 전부 하드웨어입니다. 칩, 메모리, 네트워킹, 스토리지. 그 위로 데이터센터, 로보틱스, 집 안에 놓이는 AI 기기까지. 소프트웨어 투자로 이름을 알린 곳이 반도체와 전력 설비를 정식 투자 항목에 올렸습니다.

숫자로도 이미 그쪽으로 기울어 있었습니다. a16z에 들어오는 딜 가운데 하드웨어 비중이 20%를 넘겼다고 밝혔어요. 펀드는 그 흐름을 공식 모션으로 승격시킨 조치입니다. 들어오는 물건이 바뀌었으니 파트너 구성과 심사 기준을 거기 맞춰 다시 짠 겁니다.

목록의 폭도 눈여겨볼 대목입니다. 칩에서 시작해 집 안 기기까지 한 줄로 이어 놨어요. 연산을 만드는 층, 그걸 담는 건물, 그 연산이 손에 닿는 물건. 세 층을 한 펀드가 같이 봅니다. 층 하나만 뚫려도 나머지가 멈춘다고 보면 자연스러운 구성입니다.

발표는 파운더를 부르는 문장으로 끝납니다. 이 층에서 회사를 세우는 사람을 찾는다는 말이에요. 돈을 모았다는 선언보다, 돈을 받을 사람이 아직 부족하다는 신호에 가깝습니다.

층마다 부딪히는 벽은 무엇입니까?

발표문에서 가장 냉정한 문장이 여기 있습니다. 이들은 전부 오늘날 공급망 능력의 벽, 그리고 물리와 컴퓨터과학의 한계에 부딪히고 있다.

세 가지를 한 문장에 붙여 놨습니다. 공급망, 물리, 컴퓨터과학. 돈과 아이디어는 목록에 없어요. 자본이 부족해서 못 짓는 국면이 아니라는 진단입니다.

랙 한 칸이 그 밀도로 올라가는 동안 전선도, 냉각도, 배전 설비도 같은 배수로 따라와야 합니다. 데이터센터 규모는 수십 메가와트에서 출발했습니다. 지금 기준선은 수백 메가와트고, 다음 단위로는 기가와트 캠퍼스가 거론됩니다.

컴퓨터과학이 목록에 같이 들어간 자리도 눈여겨볼 만해요. 전력만 끌어온다고 끝나지 않는다는 말입니다. 그 밀도를 실제로 돌리는 설계와 소프트웨어가 같이 와야 합니다.

벽이 층마다 따로 서 있다는 점도 중요합니다. 칩이 빨라져도 메모리와 네트워킹이 못 따라오면 랙은 놀아요. 랙이 준비돼도 건물이 그 열을 못 빼면 못 켭니다. 건물이 준비돼도 전기가 안 들어오면 빈 상자입니다. 한 층을 뚫는 데 성공한 회사가 바로 다음 층에서 막히는 구조예요.

공급망 성장 속도는 요구 속도와 얼마나 벌어져 있습니까?

발표문에서 가장 날이 선 문장은 따로 있습니다. 하드웨어 산업의 공급 측은 잘해야 연 20~30% 성장에 익숙하다, 지금 필요한 세 자릿수 성장이 아니라.

한쪽은 몸에 밴 속도, 다른 쪽은 요구되는 속도. 이 간극이 펀드의 논거 전부입니다.

숫자를 풀어 보면 감이 옵니다. 연 30%는 완만한 곡선이에요. 세 해를 모아도 2.2배에 그칩니다. 요구되는 쪽은 한 해에 두 배 이상입니다. 같은 기간이면 여덟 배를 넘겨요. 부족분을 돈으로 메꾸기에는 간격이 너무 큽니다.

간극이 남아 있는 동안에는 만드는 쪽이 값을 정합니다. 소프트웨어 세계가 익숙하게 쓰던 규모 확장 문법이 여기서는 안 통해요. 서버 인스턴스를 늘리는 일과 배전 설비를 늘리는 일은 걸리는 시간 단위가 다릅니다. 앞은 분 단위, 뒤는 해 단위예요.

투자자 입장에서는 여기가 오히려 자리입니다. 수요가 확실하고 공급이 늦는 구간에서 값이 오르니까요. 이 구간에 돈을 넣었다는 건, 시차가 몇 해는 간다고 봤다는 뜻입니다.

반대로 간극이 닫히는 그림도 생각해 볼 만합니다. 공급이 요구 속도로 따라붙으면 값은 내려가고, 그때부터는 만드는 쪽이 아니라 쓰는 쪽이 이깁니다. 다만 그 전환에 필요한 건 자본이 아니라 시간이에요. 공장과 변전 설비는 돈을 넣는다고 다음 분기에 나오지 않습니다.

인프라 논쟁의 다음 질문은 무엇입니까?

앞서 다룬 인프라 분석은 수요가 진짜냐를 다퉜습니다. 인터넷은 침투율 한 축으로 컸지만 AI는 침투율에 인당 토큰을 곱한다는 이야기였어요. 쓰는 양 자체가 계속 느니 2027~28년 빌드아웃은 버블이 아니라는 결론이었습니다.

그 결론을 받아들이면 질문이 자동으로 하나 남습니다. 그 수요를 받아낼 전기와 쇠가 제때 오느냐.

머신 에이지 펀드는 그 질문에 돈으로 답한 쪽입니다. 수요는 의심하지 않고, 공급을 병목으로 지목했어요. 같은 판을 보면서 한쪽은 버블이냐를 묻고, 다른 쪽은 제때 오냐를 묻습니다. 뒤 질문이 훨씬 물리적입니다.

두 질문은 답이 나오는 방식도 다릅니다. 버블이냐는 몇 년 뒤 결과로만 판정됩니다. 제때 오냐는 지금 확인할 수 있어요. 전력 계약, 변전 설비 공사, 장비 인도 일정. 전부 날짜가 붙는 항목입니다.

남는 생각

저는 액수보다 항목 구성이 더 큰 신호라고 봅니다.

소프트웨어로 돈을 벌어온 곳이 칩과 전력 설비를 정식 항목에 올렸다는 건, 앞으로 몇 년의 병목이 코드 바깥에 있다고 판정했다는 말입니다. 모델을 잘 만드는 문제가 아니라 전기를 끌어오는 문제라는 겁니다.

두 번째로는 시차를 읽습니다. 랙 밀도가 뛰는 속도와 공급망이 걷는 속도, 그 둘이 만나는 자리에서 컴퓨트 값이 정해져요. 에이전트를 하루 종일 굴려본 입장에서 체감하는 것도 그쪽입니다. 모델은 계속 좋아지는데, 마음 놓고 태울 만큼 싸지지는 않습니다.

세 번째로 시간 감각을 봅니다. 발표문에 기한이 못처럼 박혀 있어요. 지금 설계를 시작하지 않은 건물은 그 랙을 못 받습니다. 몇 달 단위로 방향을 틀던 소프트웨어 감각으로는 안 맞는 시계예요.

그래서 저는 이 발표를 투자 소식보다 일정표로 읽습니다. 랙 한 대가 삼킬 전력을 못 박은 문장이 이 펀드의 진짜 본문입니다. 나머지는 그 문장에 붙은 자금 조달 계획이에요.


원문·소스

FAQ

자주 묻는 질문

왜 지금 스로틀을 열까요?
수요 모양이 바뀌었기 때문입니다. 챗봇에서 추론 모델로, 추론에서 코딩과 에이전트로 단계가 넘어갈 때마다 요청 하나가 태우는 토큰이 자릿수째 뜁니다. 발표문은 이 흐름을 기계 지능이 수직으로 간다고 적었습니다.
펀드 자금은 어디로 갑니까?
칩, 메모리, 네트워킹, 스토리지에서 데이터센터, 로보틱스, 집 안에 놓이는 AI 기기까지 전부 하드웨어입니다. a16z는 들어오는 딜 가운데 하드웨어 비중이 20%를 넘겼다고 밝혔습니다.
층마다 부딪히는 벽은 무엇입니까?
발표문은 공급망 능력, 물리, 컴퓨터과학 세 가지를 벽으로 지목했습니다. 자본이 부족해서 못 짓는 국면이 아니라는 진단입니다. 데이터센터 규모 단위는 수십 메가와트에서 출발해 지금 수백 메가와트에 와 있습니다.
공급망 성장 속도는 요구 속도와 얼마나 벌어져 있습니까?
발표문은 하드웨어 공급 측이 잘해야 연 20~30% 성장에 익숙하다고 적었습니다. 지금 필요한 건 세 자릿수 성장입니다. 연 30%는 세 해를 모아도 2.2배에 그칩니다.
인프라 논쟁의 다음 질문은 무엇입니까?
수요가 진짜냐를 다투던 논쟁 다음에 오는 질문은 그 수요를 받아낼 전기와 쇠가 제때 오느냐입니다. 머신 에이지 펀드는 수요를 의심하지 않고 공급을 병목으로 지목했습니다. 앞 질문은 몇 년 뒤 결과로만 판정되고, 뒤 질문은 지금 확인할 수 있습니다.