여덟 편이 이어지는 하나의 고리
각 글은 서로 다른 질문을 던지지만, 늘어놓으면 하나의 사슬이 됩니다. 성능을 위해 연산을 늘리고, 연산은 메모리와 전력에 막히며, 그 투자는 매출로 회수돼야 합니다.
1 · 수요성능은 연산량을 따라간다2e29 FLOP2030년 가능한 학습 규모 (Epoch)The Bitter Lesson · Epoch AI
2 · 칩연산은 메모리에 막힌다50%+H100 제조원가 중 HBM 비중 추정 (SemiAnalysis)SemiAnalysis · Memory Wall
3 · 전력데이터센터는 전력에 막힌다945TWh2030년 데이터센터 전력 소비 (IEA)SemiAnalysis · IEA
4 · 회수투자는 매출로 돌아와야 한다$600BAI가 벌어야 할 연 매출 (Sequoia)Sequoia Capital
5 · 상단어디까지 갈 수 있나100GW2030년 단일 클러스터 전망 (Aschenbrenner)Situational Awareness · AI 2027
같은 단위로 놓고 본 전력 전망
글마다 전력을 다른 기준으로 말합니다. 국제에너지기구는 1년 소비량(TWh), SemiAnalysis는 데이터센터 IT 설비 용량, Situational Awareness는 학습 클러스터 하나의 전력입니다. 개념이 달라 정확히 비교할 수는 없지만, 소비량을 1년 평균 전력(GW)으로 바꿔 나란히 놓으면 전망의 폭이 보입니다.
전망별 전력 규모 (GW, 로그 눈금)
세계 데이터센터 전체데이터센터 IT 용량단일 학습 클러스터·캠퍼스
IEA 소비량은 ÷ 8,760시간으로 평균 전력으로 바꿨습니다(415TWh → 47GW, 945TWh → 108GW). 2030년 단일 클러스터 상단 시나리오(100GW)가 기준 전망의 세계 데이터센터 평균 전력(약 108GW)과 맞먹습니다.
글별 노트
각 노트는 출처, 한 줄 요약, 핵심 내용, 숫자, 재무기획 인사이트 순서입니다. 요약과 인사이트는 제 해석이며, 숫자는 원문 또는 원문을 인용한 공개 요약 기준입니다.
Rich Sutton개인 블로그 (incompleteideas.net)2019.3.13원문 →
The Bitter Lesson
70년 AI 연구의 쓴 교훈: 사람의 지식을 정교하게 넣은 방법보다, 계산이 늘수록 함께 좋아지는 일반적인 방법이 결국 이깁니다.
핵심 내용
- 체스, 바둑, 음성 인식, 컴퓨터 비전에서 사람의 지식을 넣은 방법은 단기적으로 앞서다가, 계산량을 늘린 탐색과 학습에 추월당했습니다.
- 연산 비용은 계속 싸지므로, 연산에 올라타는 방법이 장기적으로 유리합니다.
- 연구자는 사람이 생각하는 방식을 넣고 싶어 하지만, 그 유혹이 장기 성과를 막습니다.
재무기획 인사이트
- "연산을 늘리면 성능이 오른다"는 믿음이 AI 설비투자의 출발점입니다. 이 믿음이 흔들리면 수요가 가장 먼저 바뀝니다.
- 그래서 반도체 수요 전망에는 이 가정을 명시하고, 효율 개선으로 같은 성능에 필요한 연산이 줄어드는 시나리오를 함께 둡니다.
Leopold Aschenbrennersituational-awareness.ai2024.6원문 →
Situational Awareness: The Decade Ahead
연산과 알고리즘 효율의 증가를 "자릿수(OOM)"로 세면 2027년 무렵 사람 수준의 AI가 그럴듯하고, 이를 위해 조 달러 규모의 데이터센터 경쟁이 벌어진다는 긴 에세이입니다.
핵심 내용
- GPT-2에서 GPT-4까지의 발전을 실효 연산의 자릿수 증가로 설명하고, 같은 추세가 이어진다고 봅니다.
- 학습 클러스터가 2022년 약 10MW(약 5억 달러)에서 2026년 무렵 1GW, 2028년 10GW, 2030년 약 100GW·1조 달러로 커진다고 전망합니다. 2030년 수치는 미국 발전량의 20%가 넘는 규모입니다.
- 연구소 보안, 정렬(alignment), 국가 차원의 개입을 핵심 과제로 꼽습니다.
재무기획 인사이트
- 가장 공격적인 수요 시나리오입니다. 메모리·장비 수요의 상단을 잡을 때 기준점이 되고, 실제 투자 집행 속도를 이 경로와 비교해 보면 시장 기대가 어디쯤인지 보입니다.
- 저자도 제약을 전력과 칩 생산에서 찾습니다. 공급망 투자 판단은 "수요가 있나"보다 "어디가 막히나"에서 출발해야 합니다.
2026 클러스터 1GW2028 10GW2030 100GW · $1T
Dylan Patel 외SemiAnalysis2024.9원문 →일부 유료
The Memory Wall: Past, Present, and Future of DRAM
연산 성능은 빠르게 느는데 D램 집적도는 그만큼 따라오지 못해, 메모리가 AI 가속기의 병목이자 원가의 큰 몫이 됐다는 분석입니다.
핵심 내용
- D램 집적도는 지난 10년간 약 2배 늘어나는 데 그쳐, 과거의 빠른 미세화가 사실상 멈췄습니다.
- H100 제조원가의 50% 이상, Blackwell은 60% 이상이 HBM이라고 추정합니다.
- 연산 성능의 개선이 느려지고 있지만 메모리보다는 훨씬 빠르다는 점, 그리고 3D D램 같은 해법 후보를 다룹니다.
재무기획 인사이트
- 가속기 원가에서 메모리 비중이 크다는 것은 메모리 공급자의 가격 결정력으로 이어집니다. 삼성전자 2026년 상반기 메모리 평균판매가격 +220%, 이익의 97%가 DS 부문이라는 숫자와 같은 방향입니다.
- 미세화가 둔해지면 같은 비트를 늘리는 데 더 많은 설비가 필요합니다. 메모리 업체의 설비투자 ÷ 감가상각이 구조적으로 높아질 수 있습니다.
10년간 D램 집적도 약 2배H100 원가 중 HBM 50%+
Dylan Patel, Daniel Nishball, Jeremie Eliahou OntiverosSemiAnalysis2024.3.13원문 →일부 유료
AI Datacenter Energy Dilemma: Race for AI Datacenter Space
AI 데이터센터의 진짜 병목은 칩이 아니라 전력이며, 전력과 부지를 먼저 확보하는 경쟁이 시작됐다는 분석입니다.
핵심 내용
- 세계 데이터센터 IT 전력 수요가 2023년 49GW에서 2026년 96GW로 늘고, 그중 AI가 약 40GW를 차지한다고 봅니다.
- 데이터센터 전력 용량 증가율이 연 12~15%에서 25% 수준으로 빨라진다고 전망합니다.
- 2030년에는 데이터센터가 세계 발전량의 약 4.5%를 쓸 것으로 봅니다.
재무기획 인사이트
- 전력과 인허가가 증설의 리드타임을 정합니다. 반도체 사이클 모형에서 투자 시차가 길수록 사이클이 깊어지는 것과 같은 구조입니다.
- 병목이 전력으로 옮겨 가면 변압기, 냉각, 발전 설비 공급망이 다음 수혜자가 됩니다. 고객사 투자계획을 볼 때 전력 확보 여부를 함께 봅니다.
IT 전력 2023 49GW2026 96GW (AI 약 40GW)2030 세계 발전량의 4.5%
David CahnSequoia Capital2024.6.20원문 →
AI's $600B Question
AI 인프라에 들어간 돈을 회수하려면 AI가 연 6,000억 달러를 벌어야 하는데, 실제 매출과의 간극이 크다는 질문입니다.
핵심 내용
- 엔비디아 데이터센터 매출 전망(연환산)에 2를 곱해 데이터센터 총비용을 구하고(GPU는 총비용의 절반), 최종 사용자의 마진 50%를 감안해 다시 2를 곱합니다.
- 2023년 9월의 "2,000억 달러 질문"을 갱신한 글이며, 빅테크의 AI 매출을 넉넉히 잡아도 약 5,000억 달러의 간극이 남는다고 봅니다.
- 가격 결정력 부족, 다음 세대 칩이 나오면 빠르게 떨어지는 기존 칩의 가치(감가상각) 같은 위험을 짚습니다.
재무기획 인사이트
- 계산 방식이 투자 회수 분석 그대로입니다. 장비값을 총소유비용으로 바꾸고, 필요한 마진을 얹어 회수에 필요한 매출을 거꾸로 구합니다. 설비투자 키트의 회수기간·손익분기와 같은 질문입니다.
- 공급자는 이 위험을 선수금과 장기계약으로 고객에게 넘깁니다. 삼성전자의 계약부채가 14.0조원에서 23.6조원으로 늘어난 것이 그 흔적입니다.
필요 매출 $600B남는 간극 약 $500B
Jaime Sevilla 외Epoch AI2024.8원문 →
Can AI Scaling Continue Through 2030?
2030년까지 AI 학습 규모를 키울 수 있는지를 전력, 칩 생산, 데이터, 지연 네 가지 제약으로 나눠 계산한 보고서입니다. 결론은 2e29 FLOP 규모의 학습이 가능하다는 것입니다.
핵심 내용
- 2e29 FLOP은 GPT-4(약 2e25 FLOP 추정)의 약 1만 배입니다.
- 전력: 1~5GW 캠퍼스면 1e28~3e29 FLOP, 여러 지역에 나눈 2~45GW 네트워크면 2e28~2e30 FLOP까지 가능합니다.
- 칩: H100 환산 2천만~4억 개(1e29~5e30 FLOP)로 불확실성이 크고, 첨단 패키징과 HBM이 제약입니다. 데이터는 400조~2경 토큰, 지연은 3e30~1e32 FLOP에서 한계가 옵니다.
재무기획 인사이트
- 제약을 하나씩 숫자로 나눠 가장 빡빡한 것을 찾는 방식은 사업계획의 병목 분석과 같습니다. 생산능력 계획도 설비, 원재료, 인력, 전력 중 가장 작은 값이 상한입니다.
- 칩 생산 제약의 핵심이 패키징과 HBM이라는 점은 메모리·후공정 투자 확대의 근거입니다.
2030 학습 규모 2e29 FLOPGPT-4 대비 약 1만 배
International Energy AgencyEnergy and AI 보고서2025.4원문 →
Energy and AI
세계 데이터센터 전력 소비가 2030년까지 두 배 넘게 늘어난다는 국제기구의 기준 전망입니다.
핵심 내용
- 데이터센터는 2024년 세계 전력의 약 1.5%인 415TWh를 썼습니다.
- 2030년에는 약 945TWh로 늘어 지금의 일본 전체 소비와 비슷해진다고 봅니다. 증가를 이끄는 것은 AI용 가속 서버입니다.
- 2035년 기준 시나리오는 약 1,200TWh, 시나리오 범위는 700~1,700TWh로 불확실성이 큽니다.
재무기획 인사이트
- 공격적인 시나리오(Situational Awareness)와 기준 전망(IEA)을 나란히 놓으면 불확실성의 폭이 보입니다. 사업계획과 투자심의는 한 숫자가 아니라 범위와 시나리오로 세웁니다.
- 2035년 범위가 두 배 넘게 벌어진다는 것은, 장기 증설일수록 단계별 투자와 중단 조건이 중요하다는 뜻입니다.
2024 415TWh2030 약 945TWh2035 범위 700~1,700TWh
Daniel Kokotajlo, Scott Alexander 외AI Futures Project2025.4원문 →
AI 2027
2027년까지를 달 단위로 쓴 시나리오입니다. 가상의 선도 AI 기업이 코딩과 AI 연구 자체를 자동화하면서 발전 속도가 급격히 빨라지는 과정을 그립니다.
핵심 내용
- 가상의 회사 "OpenBrain"이 점점 강한 AI 에이전트를 만들고, AI가 AI 연구를 돕기 시작하면서 진전이 가속됩니다.
- 미국과 중국의 경쟁, 모델 유출, 정렬 실패 위험 같은 정책·안보 변수를 함께 다룹니다.
- 경쟁을 이어 가는 결말과 속도를 늦추는 결말, 두 갈래로 끝납니다.
재무기획 인사이트
- 정답을 맞히는 예측보다, 갈림길과 그 조건을 미리 적어 두는 시나리오 계획의 좋은 예입니다. 사업계획에서도 "무엇이 보이면 어느 시나리오로 가는가"를 정해 둡니다.
- 수출 통제 같은 정책 변수는 반도체 공급망의 수요와 가격을 단번에 바꿉니다. 고객별·지역별 매출 집중도를 함께 봅니다.
재무기획자의 정리
- 수요의 원천은 "연산이 곧 성능"이라는 믿음입니다.그 믿음을 흔드는 효율 개선 뉴스가 나오면 투자 속도가 먼저 바뀝니다. 수요 전망에는 이 가정을 드러내 두고, 효율 개선 시나리오를 따로 둡니다.
- 병목은 GPU에서 메모리와 패키징으로, 다시 전력으로 옮겨 갑니다.병목을 쥔 공급자가 가격을 정합니다. 2026년 삼성전자의 메모리 가격과 계약부채가 그 증거입니다.
- 고객의 설비투자는 공급망의 매출입니다.고객이 회수에 의문을 품으면 장비·부품 회사의 매출이 가장 크게 흔들립니다. 반도체 사이클 모형에서 설비투자가 매출보다 몇 배 크게 출렁인 이유입니다.
- 리드타임이 사이클의 깊이를 정합니다.전력·부지·인허가로 증설 시차가 길어지면, 호황기에 결정한 투자가 한꺼번에 들어오는 위험도 커집니다.
- 계획은 범위로 세웁니다.같은 2030년을 두고 전망이 몇 배씩 갈립니다. 기준 전망과 상단 시나리오를 나란히 두고, 어느 신호에서 어느 쪽으로 옮겨 갈지 미리 정해 둡니다.
출처
- Rich Sutton, "The Bitter Lesson", 2019.3.13. incompleteideas.net
- Leopold Aschenbrenner, "Situational Awareness: The Decade Ahead", 2024.6. situational-awareness.ai
- Dylan Patel 외, "The Memory Wall: Past, Present, and Future of DRAM", SemiAnalysis, 2024.9. newsletter.semianalysis.com
- Dylan Patel, Daniel Nishball, Jeremie Eliahou Ontiveros, "AI Datacenter Energy Dilemma – Race for AI Datacenter Space", SemiAnalysis, 2024.3.13. newsletter.semianalysis.com
- David Cahn, "AI's $600B Question", Sequoia Capital, 2024.6.20. sequoiacap.com
- Jaime Sevilla 외, "Can AI Scaling Continue Through 2030?", Epoch AI, 2024.8. epoch.ai
- International Energy Agency, "Energy and AI", 2025.4. iea.org
- Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean, "AI 2027", 2025.4. ai-2027.com
요약과 인사이트는 원문을 읽고 제 말로 다시 쓴 것이며, 원문 문장을 옮기지 않았습니다. SemiAnalysis 글은 일부가 유료라 공개된 부분과 공개 요약을 기준으로 정리했습니다. 숫자는 각 원문 또는 원문을 인용한 공개 자료 기준이고, 전력 비교 그래프의 GW 환산은 제가 계산했습니다. 각 저자의 견해이며 이 사이트의 투자 의견이 아닙니다.