엔비디아 G100, GH200 슈퍼 컴퓨터 이해 및 성능 상세 안내

2023년 5월 말경에 대만 컴퓨텍스 행사에서 엔비디아가 슈퍼 컴퓨터 H100과 GH200을 공개했습니다. 이 공개로 인해 전 세계가 난리 나고 엔비디아 주가가 30% 폭등하여 미국 시총 5위로 뛰어오르게 되었습니다. 왜냐하면 이 제품으로 인해 4차 산업 AI 시대를 진정으로 진입할 수 있게 되고 최고 선두에서 지휘할 것이라는 것 때문인데요. 이 엄청난 제품에 대해 상세히 알아보겠습니다.

그림클릭-유튜브 영상바로가기

이 글은 월텍남 유튜버님의 글을 참조하여 작성했습니다. 그림을 클릭해 직접 방문해 보면 더욱 상세하고 생동감 있게 이해할 수 있으니 방문해 보시는 것을 추천합니다.

먼저 엔비디아에서 H100이라는 성능이 좋은 GPU를 만들었습니다. 그래픽카드 1위 회사이니 당연한 것이지요.

그런데 엔비디아에서 그레이스 CPU라는 세로인 제품을 또 또 만들었습니다. ARM 기반 코어 144개이며 TDP는 500W로 미친 성능의 CPU입니다.

 여기서 그레이스 CPU와 H100 GPU를 나란히 붙여서 그레이스 호퍼 슈퍼칩을 만들었습니다. 이게 대박이 난 것입니다.

기존 CPU를 PCI로 역어서 사용했기에 데이터 전송속도에 한계가 있었는데요. VNLINK라는 신기술로 CPU와 GPU를 나란히 놓고 연결해 버린 것입니다.

 그 결과 기존방법보다 4배나 빨라지게 된 것입니다. 놀라운 성능이 나온 것이지요.

그런데 여기서 더욱 놀라운 일이 벌어집니다. 그레이스 슈퍼 호퍼칩이 부피가 작다 보니 이것을 여러 개를 병렬적으로 합체를 합니다.

이렇게 포게서 묵어버리는 거죠. 부피도 엄청 작습니다. 

이 묶어둔 것을 또 크게 한번 묶어 버립니다. 일반 기업용 서버정도 되려나요??

 그런데 이것을 또 병렬적으로 묶어 버립니다. 256개가 들어가고 가격이 약 300억 할 것이라고 합니다. 비싸다고요?? 글쎄요.... 위 사진에 제이슨황 아저씨가 보이나요. 실물크기가 저 정도인데 성능은 현존하는 서버 슈퍼컴퓨터보다 성능이 5000배 좋다고 합니다. 

 연산능력이 1 엑사플롭스라고 합니다. 1 엑사플롭스는 1초에 100경 번 연산을 한다고 합니다. 7년 전 개발된 엔비디아 서버용 슈퍼컴퓨터가 170테라플로스라고 하는데, 7년전 모델보다 5000배 성능이 올랐다고 합니다.

쉽게 말해 작은 공간에 기존 슈퍼컴퓨터보다 5000배 성능이 좋아졌다고 보면 되겠습니다.

이 슈퍼컴퓨터로 인해 AI 기술에 혁신을 가져올 거라고 하네요. 영화 같은 일이 벌어 질지도 모르겠습니다.

그림클릭-유튜브 영상 바로가기

위 그림을 클릭하여 안될 공학님의 영상도 한번 보시기 바랍니다. 영상시간이 좀 길지만 성능에 관련하여 더욱 상세하게 확인이 가능합니다.