
(서울=민심뉴스) Citrini 분석가 Zephyr는 SanDisk가 투자자의 날 행사에서 공개한 HBF와 HBM 성능 비교에 파라미터 설정 편향이 존재한다고 지적한다. 그는 SanDisk가 해당 시연에서 HBM의 성능을 의도적으로 과소평가했을 가능성을 제기하며, Qwen3-480B-A35B 모델을 bfloat16 정밀도로 실행할 때 HBM과 HBF 모두의 총 대역폭을 12.8TB/s로 설정했다고 언급했다. 그러나 현재 모델 추론은 주로 FP4 또는 FP8을 사용하므로, 다양한 양자화 기법에 따라 모델에 필요한 용량은 약 240GB에서 480GB에 이른다고 Zephyr는 설명한다. 또한, SanDisk는 HBM의 GPU당 용량을 192GB로 고정했지만, 8개의 스택으로 구성된 16계층 HBM4E는 512GB 용량에 도달할 수 있으며, 이는 SanDisk가 시연에서 사용한 수치보다 약 세 배 높은 32TB/s의 대역폭을 제공한다고 덧붙였다. 이러한 파라미터 설정으로 인해 SanDisk가 주장한 "HBF는 1~4개의 GPU, HBM은 8개의 GPU가 필요하다"는 시연 결과가 고사양 HBM 구성의 실제 성능을 완전히 반영하지 못한다는 것이 Zephyr의 분석이다.
SanDisk 시연의 파라미터 설정…Citrini의 Zephyr는 SanDisk가 HBF와 HBM의 성능 비교 시 사용한 파라미터 설정에 의문을 제기했다. 그는 SanDisk가 HBM의 성능을 과소평가하도록 시연을 설계했다고 주장했다. Zephyr는 SanDisk가 Qwen3-480B-A35B 모델을 bfloat16 정밀도로 구동하면서 HBF와 HBM의 총 대역폭을 12.8TB/s, 즉 스택당 1.6TB/s로 설정했다고 지적했다. 하지만 현재 모델 추론은 주로 FP4 또는 FP8을 사용하며, 이 경우 해당 모델은 약 240GB에서 480GB의 용량을 필요로 한다고 Zephyr는 설명했다. 또한, SanDisk가 HBM의 GPU당 용량을 192GB로 고정했지만, 16계층 HBM4E는 8개의 스택으로 구성될 경우 512GB의 용량에 달할 수 있으며, 이는 약 32TB/s의 대역폭을 제공한다고 Zephyr는 언급했다. 이는 SanDisk가 시연에서 제시한 수치보다 세 배 높은 수준이다. 결과적으로, SanDisk가 HBF는 1~4개의 GPU, HBM은 8개의 GPU를 필요로 한다고 주장한 결과가 고사양 HBM 구성의 실제 성능을 제대로 보여주지 못한다는 것이 Zephyr의 분석이다.
기술 비교의 핵심…Zephyr는 SanDisk의 HBM 성능 시연에 사용된 파라미터가 실제 HBM의 역량을 정확하게 반영하지 못한다고 지적했다. 그는 SanDisk가 HBM의 GPU당 용량을 192GB로 제한했지만, 16계층 HBM4E는 8개의 스택을 통해 512GB까지 확장 가능하며, 이는 32TB/s의 대역폭을 제공한다고 밝혔다. 이는 SanDisk가 시연에서 사용한 수치보다 약 세 배 높은 수치다. 이러한 설정으로 인해 SanDisk의 시연 결과, 즉 HBF는 1~4개의 GPU, HBM은 8개의 GPU가 필요하다는 결론은 고사양 HBM 구성의 진정한 성능을 저평가한 것으로 분석된다. SanDisk는 Qwen3-480B-A35B 모델 구동 시 HBM과 HBF 모두 12.8TB/s의 총 대역폭을 사용한다고 제시했으나, Zephyr는 현재 모델 추론 방식에 따라 요구되는 용량이 240GB에서 480GB 사이임을 언급했다. 따라서 SanDisk의 시연 결과가 HBM의 실제 잠재력을 정확하게 보여주지 못한다는 주장이 제기되었다.
Citrini 분석가 Zephyr의 보고서는 SanDisk의 HBF와 HBM 성능 비교 시연에 대한 의문을 제기한다. SanDisk가 제시한 파라미터 설정이 HBM의 실제 성능을 과소평가했을 수 있다는 지적이다. SanDisk는 시연에서 HBM과 HBF의 총 대역폭을 12.8TB/s로 설정했으나, Zephyr는 HBM4E가 512GB 용량과 32TB/s 대역폭을 제공할 수 있다고 언급했다. 이는 SanDisk가 제시한 수치보다 세 배 높은 수치다. 이러한 간극은 SanDisk의 시연 결과가 HBM의 실제 성능을 완전히 나타내지 못할 수 있음을 시사한다. 공개된 자료 기준, SanDisk가 시연에서 사용한 파라미터와 HBM4E의 최대 성능 간의 정확한 관계에 대한 추가적인 확인은 이루어지지 않았다.
#Citrini #SanDisk #HBF #HBM #성능비교 #Zephyr #기술분석 #대역폭 #용량 #GPU #AI #모델추론 #양자화 #HBM4E #투자자의날 #반도체 #데이터센터 #서버 #컴퓨팅 #기술동향

