여러분 안녕하세요
오늘은 반도체 그 중에서도 HBM 이야기입니다
High bandwidth memory, 고대역폭 메모리를 말하더라고요
요즘 이 AI 인공지능이 잘 나가면서
핫 아이템이 된 바로 그 반도체 인데요 HBM이라고 하는게
특히 SK하이닉스가 이거 팔아서 돈 잘 벌고 있습니다
그런데 삼성은 오히려 곤욕을 치르고 있는 중이에요
얼마전에 로이터 통신이 엔비디아에 HBM 납품을 하기 위해서
삼성이 고전을 하고 있다 이런 기사가 나갔거든요
물론 삼성 측에서는 부인하고 있어요
그런데 삼성전자 주가를 보면 상당히 부진해요
그걸 보면 이 투자자들이
삼성이 지금 이 HBM과 관련해서 뭔가 문제가 있어
이렇게 받아들이고 있는 것 같아요
게다가 최근에 이 ds 부문 CEO까지 교체가 되어버렸잖아요
이거 분명히 HBM의 부진하고 무관하지 않다
이런 해석들이 많이 나오고 있습니다
반면에 이 SK하이닉스 주가는 꾸준히 오르고 있죠
TSMC라고 여러분 많이 들어보셨죠?
대만기업 반도체 위탁 제조업체잖아요
TSMC는 삼성하고 라이벌이에요
왜냐하면 삼성도 파운드리를 만들어 놓고 있잖아
그래서 삼성이 2030년쯤 되면
우리가 TSMC 를 넘어서겠다 선언도 하고 그랬거든요
지금 계획대로 안되고 있지만
그런데 SK하이닉스가 삼성의 라이벌인 TSMC 하고
서로 협력해서 HBM을 만들겠다 이런 계획을 발표를 한 거예요
SK하이닉스가 삼성하고 안하고
대만기업하고 협력을 하겠다 이렇게 발표를 한 거에요
그러니까 삼성으로서는 야 이게 뭐지?
이런 생각이 당연히 들 만한 거죠
반도체 시장에서 이렇게 복잡한 일들이 오고 가고 하다 보니까
주식 투자 좀 하신다면
HBM이라고 하는 거에 대해서 관심을 안 가질 수가 없는 거죠
특히 그 잘나가던 삼성이
왜 SK에 밀리게 됐는지 그 이야기입니다
자 먼저 HBM이 뭔지
제가 이해하는 수준에서 먼저 설명을 드리겠습니다
일단 외관은 바로 이 그림처럼 생겼더라고요
기존의 메모리 D램 메모리가 있지 않습니까
그게 이제 이렇게 보드 판으로 이렇게 되어 있는데
그 D램을 여러 장 쌓아 올려서 아래 위로 연결해 놓은 모양
그게 HBM인 겁니다
한꺼번에 많은 데이터들이 오갈 수 있도록 여러 장을 합쳐 놓고
이 데이터 통로도 넓혀놓은 그런 메모리를 HBM이라고 이야기를 한다
저는 그렇게 이해를 하고 있습니다
이 HBM 고대역폭 메모리는
인공지능 AI 서버용 GPU와의 관계에서 매우 중요한데요
참 단어가 어렵죠
AI는 인공지능이고 서버는 뭐냐면 서비스를 하는 겁니다
즉 사용자가 뭔가를 요청을 하면
거기에 대해서 응답을 하거나 반응을 해주거나 하는
그런 컴퓨터를 서버라고 하는 거죠
그래서 AI 인공지능용 서버 컴퓨터인 겁니다
이 AI 서버에는 GPU라고 하는 것
Graphics Processing Unit, 그래픽 처리 장치가 많이 필요한데
HBM이라고 하는 것은
AI 서버에 들어가 있는 그 GPU가 제 역할을 잘 하도록
보조해 주는 메모리 반도체다 이렇게 이해를 하시면 될 것 같아요
여전히 어렵죠
어떻게 하면 쉽게 이해할 수 있나고 여기저기 찾아봤더니
카이스트의 김정호 교수라고 하는 분이 나오더라고요
저하고 동명이인이에요
근데 이분을 HBM의 아버지다 뭐 이렇게 부르는 분들도 많더라고요
HBM을 만드는데 굉장히 큰 기여를 하신 분이에요
이분도 사실은 일반인들에게 HBM이라고 하는 것을
설명하는 게 쉽지가 않을 거 아닙니까
자기들은 그냥 다 이해를 하지만
그래서 이분이 비유를 이렇게 했더라고요
GPU라고 하는 것 안에는 수많은 작은 계산기들이 들어가 있다
그래서 계속 각각 계산을 한다는 거에요
계산을 했으면 계산한 결과를 어디다가 적어 놓고
필요하면 다시 꺼내 쓰고 해야 되는데
그걸 칠판에다가 적는다는 거죠
근데 칠판이 하나밖에 없으면
계산해서 수많은 계산 결과들이 나왔는데
칠판이 하나밖에 없고 쓰는 사람이 하나밖에 없으면
그걸 적어 놓는데 시간이 너무 오래 걸리지 않느냐
그렇게 되면 하나 계산하고 한참 서 있어야 된다
그 결과들을 다 써야 되기 때문에
그러니까 이 문제를 해결하려면 어떻게 해야 되느냐
계산기들이 계속해서 돌아가게 하려면
그러면 칠판을 여러 개를 두면 되지 않겠느냐
이런 비유인 겁니다
그래서 수많은 칠판들과 기록하는 기록원들
그것이 HBM에 해당되는 거다
뭐 이렇게 비유를 해 놨더라고요
다시 제 나름대로 해석해서 정리를 해보면
인공지능이라고 하는 것이 제대로 작동을 하려면
훈련을 시켜야 되는데 그것을 하려면 GPU
즉 그래픽 프로세서들이 수많은 데이터들을 받아들여서
그걸 가지고 인공지능을 훈련을 시켜야 되는 거예요
그 훈련을 시키는 과정이 바로 계산을 하는 과정인데
그렇게 계산을 한 후에 그 결과를 메모리
즉 D램에다가 저장을 하고
그것을 다시 불러다가 다시 계산을 하고
이런 과정을 거쳐야 되는데
이것이 시간이 너무 걸린다는 거죠
계산에 걸리는 시간보다 메모리에다가 기록을 하고
다시 불러오고 하는데 시간이 너무 걸린다
그러니까 이 메모리의 용량을 늘리자
그래서 여러 장을 쌓아놓고
메모리하고 데이터를 주고받는 그 통로들을 넓게 만들자
그걸 대역폭이라고 얘기하는 거죠
그래서 대역폭을 넓게 만들고 메모리를 여러 장을 쌓아놓고
이렇게 만들어 놓은 새로운 형태의 메모리가 바로 HBM이다
이렇게 저는 이해를 했어요
그러니까 우리나라 특히 삼성이 D램을 잘 만드는데
그 D램을 여러 장 쌓아놓고 데이터 통로를 넓혀놓은 거
그게 HBM이라고 하는 것이죠
그 HBM이 없으면 엔비디아가 만드는
그 GPU라고 하는 것도 제대로 속도를 낼 수가 없다
속도를 낼 수가 없게 되면 인공지능의 발전속도도 더뎌지게 된다
이렇게 해석을 할 수가 있는 거죠
그런데 이 D램이라고 하면 세계 최고의 강자가 누굽니까
삼성이었잖아요 삼성전자
그래서 삼성전자가 권호연 부회장 때부터 계속해서 이야기를 했던 게
초격차 이야기를 했잖아요
누구도 따라올 수 없는 격차를 만들어 놓는다
삼성전자는 D램 분야에서라면
누구도 따라올 수 없는 존재였던 겁니다
그런데 HBM은 뭐예요?
D램을 쌓아 놓은 거잖아요
그러면 제일 잘해야 되잖아요 삼성전자가
근데 이거는 SK하이닉스가 더 잘하는 거예요
오히려 삼성은 고전을 면치 못하고 있는 것이죠
자 삼성은 왜 맥을 못 추고 있는 것일까요?
왜 SK가 앞서 있을까요?
그것은 SK가 선견지명을 가져야 했을까요?
삼성이 오판을 했기 때문이었을까요?
뭐 그렇게 보는 사람들이 많지만 저는 그렇게 생각하지 않습니다
그러면 어떻게 생각하냐고요?
저는 SK가 운이 엄청 좋았다고 봅니다
삼성은 운이 없었다고 봐요
그 역사를 살펴보면 제 말씀이 무슨 말씀인지 이해가 될 겁니다
자 HBM을 처음 만든 회사는 ADM라고 하는 회사입니다
여러분 혹시 Fabless라고 들어보셨죠?
Fabless라고 하는 기업들을 들어보셨을지 모르겠는데
반도체 기업들이 보면요
크게 특히 프로세서를 만드는 기업들은 크게 세 종류로 나누어집니다
첫 번째는 IDM라고 하는 종합반도체 기업들이에요
설계도 자기가 하고 제조도 자기가 하는 기업들이죠
그 다음에 파운드리라고 하는 데가 있어요
이거는 뭐냐면 설계는 안하고
설계도를 가져오면 위탁 제조를 해주는 거예요
이게 대표적인 데가 TSMC입니다
그런데 이 TSMC가 있다는 얘기는 무슨 얘기냐면
설계만 하는 기업들이 있다는 얘기잖아요
그 설계만 하는 기업이 어디냐면
엔비디아고, ADM고, 퀄컴이고 뭐 이런데들이에요
애플도 설계만 하죠
그걸 다 제조해주는 데는 TSMC입니다
삼성도 삼성 파운드리를 만들어서 위탁 제조를 해주겠다고 했는데
별로 성공을 못하고 있는 거예요
고객들이 별로 없는 거죠
그래서 이 Fabless라고 하는데
이 설계만 하는 기업들 중에서
엔비디아하고 ADM라고 하는 이 두 기업은
주로 GPU라고 하는 것을 만드는 데 있어요
말하자면 컴퓨터 게임용 반도체를 설계하는 데
엔비디아가 제일 성공한 데고
ADM도 뭐 그거보다는 좀 못하지만 상당히 성공을 거둔 데인데
재미있는 것은 이 두 기업의 CEO가 모두 다 대만계라고 하는 거예요
사실은 친척인데요 둘이
엔비디아의 CEO는 젠슨 황이라고 하는 사람이잖아요
대만 사람입니다 어릴 때 미국으로 건너간거죠
ADM의 CEO는 리사 수라고 하는 사람인데
대만에서 출생을 해서 미국으로 건너간 사람들이고
둘 다 반도체로 굉장히 성공을 거둔 사람들인 거예요
자 그런데 2000년대 말에 2008년부터 본격적으로
이 ADM가 고민을 하기 시작합니다
아 이 반도체 이거 컴퓨터 게임용 그래픽 프로세서 유닛을 좀 잘하고 싶은데
이게 문제가 뭐냐면 데이터량이 굉장히 많기 때문에
빨리 돌아가다 보면 열이 많이 나는 거예요
속도도 좀 떨어지고
그래서 이 문제를 해결할 수 있는 방법이 뭐냐
여기서 지금 bottleneck, 병목 현상이 일어나는 데가
메모리인 거예요
메모리에다가 뭔가를 적어 놓고 다시 빼내고 하는
여기에 시간이 굉장히 많이 드는 거 거든요
이 문제를 해결할 수 없을까?
하다가 생각해낸 게 HBM인 거예요
그래서 개념 설계를 하게 되는 거고
D램 업체들을 찾아다니면서
이거 만들어 줄 수 없을까 하고 돌아다닌 거예요
그걸 하겠다고 나선 데가 SK하이닉스였던 거죠
그러니까 이 아이디어는 ADM에서 시작이 된 겁니다
왜냐하면 컴퓨터 게임용 그래픽 프로세서가
제대로 돌아가도록 메모리가 받쳐주는
그런 시스템을 만들고자 한 거죠
그렇게 해서 HBM이라고 하는 것이 시작이 됐고요
그래서 피지라고 하는 새로운 모듈을 만들게 된 거예요
그걸 가지고 컴퓨터 게임용 반도체를 내놨는데
이게 반응이 시원찮은 거예요
소비자들의 반응이
왜냐하면 성능이 조금 좋아지긴 했는데
그렇다고 해서 값이 올라간 만큼
그 가성비가 있는 건 아니었다는 것이죠
그래서 ADM가 여기에다가 투자를 꽤 했는데
아 이거는 성공한 투자가 아니었던 거예요
그래서 결국은 어떻게 됐느냐?
결국은 ADM는 HBM을 포기를 하고
다시 원래대로 그냥 D램 한 장씩 쓰는 그 D램
특히 그중에서 GDDR6라고 하는
이 D램으로 그냥 돌아간 거예요
그러니까 ADM 입장에서는 HBM 한다고 하면서
괜히 돈만 많이 날린 그런 셈이 되어버린 거죠
삼성의 경우도 HBM을 좀 뒤늦게 시작을 했는데
별로 쓸모가 없잖아
별로 시장도 없잖아 삼성도 ADM처럼 이걸 포기를 합니다
그래서 2019년에 중단을 하고 말았어요
수익성도 별로 높지 않고 앞으로 별로 희망도 안 보이고
뭐 그렇다고 판단을 했던 것이죠
그런데 뜻밖의 사건이 터진 겁니다
뭐냐? 그게 바로 챗GPT에요
2022년 11월 달에 챗GPT가 공개가 됐잖아요
사람들이 굉장히 충격을 받았죠
그런데 사실은 이것만큼 충격을 받았던 적이 또 있었어요
인공지능 때문에 그 알파고라고 하는 거 있잖아요
그때도 세계가 충격을 받았죠
그런데 알파고 때는요 그게 인공지능 시장의 확대로 이어지지 않았어요
그것 때문에 인공지능을 더 많이 쓰거나
그렇지 않았던 거예요
그런데 2022년 11월 달 그때 공개됐던 챗GPT
이거는 그 뒤로 실제 이용자들이 급격하게 늘어나게 됐던 겁니다
시장의 반응이 정말 뜨거운 거죠
그러다 보니까 야 이거 돈 되네
그래서 수많은 이 플랫폼 업체들
특히 구글, 마이크로소프트, 아마존, 네이버 이런 기업들이
이제 데이터 센터를 확장을 하기 시작했잖아요
AI에다가 투자를 하기 시작한 거 아닙니까?
그 AI에다가 투자를 하는데 제일 필요한 게 뭐에요?
그게 엔비디아가 공급하고 있던 GPU인 겁니다
그리고 엔비디아의 GPU가 제대로 돌아가기 위해서 필요한 것은
바로 SK하이닉스가 생산해 왔던 바로 그 HBM이었던 겁니다
그런데 SK하이닉스는 원래 HBM을 ADM를 위해서
즉 컴퓨터 게임용을 위해서 만들어냈잖아요
근데 컴퓨터 게임에는 별로 쓸모가 없었던 거예요
가성비가 안 맞았어요
그런데 인공지능용 서버가 등장을 하니까
거기에는 가성비가 맞는 거예요
그래서 엔비디아도 엄청 돈 벌고
SK하이닉스도 그 HBM 팔아서 엄청 돈 벌고
그야말로 빛을 발하기 시작했던 거죠
자 그런데 여기서 좀 황당한 데들이 있겠죠
어디에요? ADM 아닙니까
HBM을 만든 주역은 누구에요?
ADM가 만든 거에요
ADM가 투자를 해서 SK하이닉스도
그 많은 경험을 하게 됐던 거고
거기에서 엔비디아도 배우게 됐던 거고
그런데 돈은 누가 버느냐?
엔비디아가 벌고 SK하이닉스가 벌게 됐잖아요
그러니까 재주는 곰이 넘고 돈은 누가 번다고 했는데
재주를 넘은 것은 누굽니까?
그것은 ADM였는데 돈은 누가 벌었느냐?
엔비디아가 번거죠
물론 SK도 횡재를 했고요
챗GPT의 성공
그리고 그에 따른 인공지능 서버 데이터 센터들의 확장
이것은 정말 뜻밖의 사건이라고 봐요
인공지능이 이 정도까지 성공하리라고 하는 것은
거의 누구도 예상 못했다고 봅니다
주가가 말해주고 있어요
이게 지금 엔비디아하고 SK하이닉스 주가인데요
이거 보시면 패턴이 비슷하거든요
코로나 때 쫙 오르잖아요
왜냐하면 코로나 때 사람들이 다 재택근무하고 배달 시켜 먹고
이러니까 온라인 쇼핑하고 이렇게 되다가 보니까
이 온라인 쇼핑 그 인터넷과 관련된
산업들이 쫙 성장을 했던 거고
그때 뭐 다 반도체 기업들도 주가가 다 올랐거든요
그러다가 코로나가 주춤해지니까
2021년 말부터 이 주가들이 급격하게 떨어지기 시작합니다
코로나 때 사람들이 뭐 스마트폰도 다 새거로 바꾸고
컴퓨터도 좋은 걸로 바꾸고
또 물건도 많이 사 재어 놓고 다 그랬었는데
그런데 코로나가 끝나기 시작했잖아요
그러니까 뭐 더 이상 그걸 사야 될 이유가 없는 거예요
그래서 D램 값도 떨어지고 컴퓨터 값도 떨어지고
다 이렇게 됐던 것이죠
실리콘밸리에 있는 구글이라든가 아마존이라든가
이런데는 대량 해고가 이루어지고 그렇게 됐던 거죠
그러다가 이 주가를 보시면
2022년 말부터 급등세로 돌아서게 됐잖아요
그게 바로 11월 31일 날
챗GPT의 발표가 이루어진 그 다음부터라고 보시면 되는 겁니다
이 패턴은요 엔비디아, SK하이닉스뿐만이 아니고
구글의 알파벳, 아마존 뭐 이런 기업들이
다 똑같은 패턴을 지금 보이고 있는 거예요
저는 이것을 행운의 덕분이라고 봅니다
만약 엔비디아, SK하이닉스 이런 데들이
인공지능이 성공할 것 같아
인공지능 시장의 확장 이것을 내다보고
그것을 내다보고 GPU라든가 또는 HBM에 투자를 했다
이랬다면요 2021년 말부터 주가가 떨어질 때
가만히 있지 않았을 거예요
왜냐하면 1년 후면 여러분
인공지능이 진짜 성공한 인공지능이 나옵니다
제가 확신해요
그러니까 여러분 지금 투자를 줄이실 필요가 없습니다
이렇게 분명히 투자자들을 설득을 했을 거예요
그런 확신이 있었다면
그럼 주가도 이렇게 떨어지지 않았을 거예요
그런데 누구도 그런 설득을 하거나 누구도 그런 전망을 하지 않았어요
제일 그런 로직에 해당되는 데가 마이크로소프트 거든요
이 챗GPT를 만들어 놓은 그 오픈AI라고 하는 회사가 있잖아요
오픈AI에다가 가장 많은 투자를 한 기업이 어디입니까?
그게 마이크로소프트 잖아요
마이크로소프트는 어느 정도는 성공할 것을
예상을 하고 있었을지도 몰라요
하지만 그걸 입 밖으로 내지 않았어요
왜? 자신할 수 없었기 때문에 그랬겠죠
만약에 성공할 것을 알았다면
분명히 그것을 투자자들에게 설득을 했을 것이고
마이크로소프트의 주가 패턴은 다른 데들하고 달랐을 거예요
즉 2021년 말부터 2022년 말까지
그 1년 동안 이렇게 떨어지지 않았을 거라는 거예요
오히려 올랐겠죠
하지만 마이크로소프트도 주가 패턴은 똑같았습니다
오를 기미는 전혀 없었어요
그러니까 마이크로소프트조차도 인공지능 시장이
이렇게 형성될 거라고는 예상하지 못했다
이렇게 해석할 수밖에 없습니다
이렇게 본다면요
그 당시로서는 삼성의 판단이 더 합리적이었을 수도 있는 겁니다
왜냐하면 AMD조차도 HBM 대신에 GDDR6라고 하는
그냥 D램을 그냥 쓴 거거든요
왜냐하면 게임용으로 쓰는 데는 HBM이라고 하는 것이
가성비가 잘 안 맞았던 것이죠
그런데 뜻밖의 챗GPT라고 하는 것이 등장했고
소비자들이 거기에 대해서 폭발적으로 반응을 하게 된 거고
AI 인공지능 서버에 대한 수요가 폭발을 했고
GPU 수요가 폭발을 했고
그게 HBM 수요로 연결이 됐던 겁니다
이거는 정말 누구도 내다보지 못했던 폭발적인 시장의 성장이었다
저는 이렇게 봅니다
만약 이것이 아니었다면요
SK의 HBM 반도체는 그냥 사장 됐을 가능성이 굉장히 높아요
운이 매우 좋았다고 보시면 되는 거죠
물론 운도 실력이긴 합니다만
아무튼 그래서 메모리 반도체에서 SK가 삼성을 넘어서는
이런 일이 벌어진 겁니다
자 오늘 HBM 이야기는 여기서 마치겠습니다
시청해 주셔서 감사합니다