AI era, HBM 다음 병목 찾기 (2024-10-08, 신영증권)
Memory
점점 더 큰 모델을 학습하려고 하니… 학습 방법은 또 신경망 간 반복연산이니…
GPU ↔︎ 메모리 대용량 데이터 전송 증가 → HBM 등장
Memory hierarchy (Source: 신영증권)
Network
GPU ↔︎ GPU / 서버 ↔︎ 서버 대용량 데이터 전송 증가 → network 장비 필요
AI datacenter server diagram (Source: 신영증권)
- System approach: DPU (Data Processing Unit)
- 단순 network 통신으로 인한 CPU 부하 해결
- NVIDIA (NASDAQ: NVDA), Broadcom (NASDAQ: AVGO)
- Physical approach: optical interconnect
- Optical ↔︎ electronic signal 전환 시 발열/전력 소모 해결
- Optical ↔︎ electronic 전환 구조 물리적 통합
- Silicon photonics
- Fabrinet (NYSE: FN), Coherent (NYSE: COHR), Lumentum (NASDAQ: LITE), Infinera (NASDAQ: INFN), Entegris (NASDAQ: ENTG), Fujikura (TSE: 5803), Furukawa (TSE: 5801)
- CPO (Co-Packaged Optics)
- Broadcom (NASDAQ: AVGO), TSMC (NYSE: TSM)
빅테크 CapEx 미리보기 (2024-10-29, 다올투자증권)
수익화가 안됐기 때문에 CapEx 증가
- 돈을 벌려면 돈을 부어야 함
2024년 $208 bn → 2025년 $231 bn (yoy +11%)
수익화는 단기에 어려우나 AI 기여가 증가하고 있는 양상이고
투자는 지속할 예정이며
중기적으로 AI 방향성은 지속될 예정
빅테크 4사 CapEx 언급 일정 및 CY3Q23 comment (Source: 다올투자증권)
- 빅테크 4사 CY1Q24, CY2Q24 comment (Source: 다올투자증권)
- 빅테크 CapEx trends (Source: 다올투자증권)
고조되는 AI 전장의 기운 (2024-10-31, 삼성증권)
Alphabet (NASDAQ: GOOGL)
가장 후달린다는 Gemini도 이정도로 잘나가는데 ChatGPT나 다른 model이 사용하는 cloud는 얼마나 사용량이 많을지…
AI 수요는 확실하다
지금은 돈을 못 벌어도 돈을 박아야 함
Alphabet 3Q24 earnings call comment (Source: 삼성증권)
Meta Platforms (NASDAQ: META)
AI로 day 1부터 수익이 나는건 digital advertisement인듯
AI optimization으로 app 체류시간, 광고 효율도 좋아지고 ASP도 올라감
Digital ads는 bidding으로 광고가 집행되니 AI optimization이 광고 효율을 높이고 높아진 효율이 수요를 불러와서 가격을 밀어 올렸다고 봐야
GanAI ads 도구는 어느정도 수준인지는 모르겠으나, prompt 넣어서 image creation 하는 정도라면 아직은 유의미하지 않을 수도 있음
Meta Platforms 3Q24 earnings call comment (Source: 삼성증권)
- Meta AI examples (Source: Meta)
- 이외에도 당연한 AI assistant (비서), 영상 실시간 번역, AI clone 만들어서 고객 응대 대신하기도 있음
- 아마 저 image generation (or edit) tool로 광고에 널리널리 사용하는 듯
- Meta AI는 아직 only in US
Microsoft (NASDAQ: MSFT)
Cloud가 타 사업부의 (상대적) 성장 부진을 만회하고 있음
Azure 기반에서 돌아가는 AI 서비스들이 당연히 또 밀어올렸겠지
CapEx는 그냥 시차의 문제 - 무조건 집행할 수 밖에 없음
Microsoft 1FQ25 earnings call comment (Source: 삼성증권)
- Hyperscaler CapEx trends (Source: 삼성증권)
- Backbone model을 가진 회사가 있을 것이고
- Infrastructure를 제공하는 회사가 있을 것이고
- Vertical로 이쁘게 tuning해서 SaaS 형태로 사업하는 회사들도 있을 것
- 상장사 투자하는 입장에서는 CapEx 크게 들어가서 leverage 효과가 커지는 infrastructure 회사 투자 밖에 방법이 없음
- 소위 Big Tech - Microsoft, Meta, Amazon, Alphabet, Tesla, NVIDIA
- 그렇다고 CSP (Cloud Service Provider) 회사들이 당장 돈을 왕창 벌 수 있냐는 물음표긴 함
- 반도체, 치열한 자리 다툼 (Source: 삼성증권)
- VR은 glass 수준의 편안함과 battery 문제가 해결되지 않으면 어렵지 않을까
- 머리에 거대한거 뒤집어 쓰고 무언가를 하는 모습은 UX적으로 절대 미래가 될 수 없음
- User friendly의 완전한 반대편
- Apple Intelligence timeline (Source: 삼성증권)
- 모델은 모델대로 개발하고
- 빅테크 돈 받아간 NVIDIA랑 TSMC가 가장 돈 많이 번 사이클이라고 요약 가능
- HBM으로 콩고물 받아먹은 SK하이닉스
- Commodity이던 반도체가 vertical로 세분화 되면서 (legacy DRAM, HBM)
- 잘나가는 제품 만드는 회사만 잘 나가는 반도체 사이클이 됨
- 장비도 잘 나가는 제품 만드는데 쓰는 장비만 잘나감
- legacy DRAM은 중국 수요로 장비가 버티고 있었는데, 이제 다 틀어막는 중 - 실적에도 찍히고 있음
- AI cycle scenario (Source: 삼성증권)
On device가 근 시일 내에 구축되기에는 agent 수준의 기능은 못하고, 여전히 SaaS에 머물러 있음
AI-driven tech cycle (2023-26) (Source: 삼성증권)
수요 약세가 아닌 일시적 공급 지연 (2024-11-01, 신한투자증권) - Microsoft (NASDAQ: MSFT)
1FQ25 Earnings Call - Microsoft (NASDAQ: MSFT)
- Azure AI growth contribution 12%p
- FY2Q25 AI-related ARR $10 bn 돌파 예상
- DB 사용량 늘어남
- Oracle에 좋은 소식일지도
- 기업들이 본격적으로 AI를 도입하는 단계
- Training < Inference에 집중
- Cloud로 migration, 자체 AI 구축, DB, CRM/ERP upgrade로 전부 연결
- AI 인프라 capacity 제약으로 수요 충족이 계속 밀리고 있음
- FY2Q25 guidance 낮췄으나 FY2H25 실적 성장에 자신감
공격적인 AI 투자 의지 (2024-11-01, 신한투자증권) - Meta Platforms (NASDAQ: META)
3Q24 Earnings Call - Meta Platforms (META)
광고 강세로 reality labs 손실 상쇄
AI로 정교한 타겟팅
AI 기반 피드 - 앱 체류 시간 증가 (Facebook +8%, instagram +6%)
3Q24에 서버 인도 받았지만 지불을 4Q24로 이연
- 4Q24 $15 bn 예상
- 2024년 CapEx guidance 상향 ($37 bn → $38 bn)
AI 기반 광고 생성 도구
- 100만명 이상 광고주가 AI로 지난 달 1,500만개 광고 제작
이미지 생성으로 비즈니스 전환율 7% 증가
쓰레드 - 매일 100만명 이상 신규회원
왓츠앱 - Click-to-message 광고, 유로 메세징 성장
Meta AI - 월간 활성 사용자 5억명 이상
2025년 상당한 CapEx 성장 예상
광고 ASP 올라가는건 성능이 좋아지거나 수요가 늘고 있다는 것
Meta 광고 노출 및 평균 가격 전년 대비 추이 (Source: 신한투자증권)
Disclaimer!
- 본 게시물은 단순 의견 및 기록 목적으로 작성되었으며 특정 투자상품의 매수·매도·보유 등 투자 권유를 의미하지 않습니다
- 본 게시물은 작성자 개인의 판단에 근거하여 작성되었고, 작성자 본인이 속한 기관의 의견을 대변하지 않습니다
- 본 게시물은 작성자 본인이 작성일 시점에 신뢰할 만하다고 판단하는 자료와 정보에 근거하였으나, 정확성이나 완전성, 신뢰성을 보장하지 않습니다
- 본 게시물은 그 어떠한 경우에도 증권, 파생상품 등 금융투자상품에 대한 투자조언으로 해석될 수 없습니다
- 본 게시물은 투자자의 투자 결과에 대해 어떠한 목적의 증빙자료로도 사용될 수 없습니다
- 본 게시물을 이용함으로써 발생하는 직·간접적 손실에 대해 어떠한 책임도 지지 않습니다