엔비디아(NVIDIA)가 2026년 7월 14일 공식 블로그에서 AI 인프라 효율을 가르는 최종 지표로 '와트당 성능(performance per watt)'을 제시했다. 같은 글에서 엔비디아는 그레이스 블랙웰 GB300 NVL72가 딥시크 V4 프로(DeepSeek V4 Pro)에서 이전 세대 호퍼(Hopper) 대비 와트당 최대 25배, GLM5.1에서 최대 20배, 키미 K2.6(Kimi K2.6)에서 최대 10배의 성능을 낸다고 밝혔다. 전력이 사실상 상한이 된 시대에 칩의 최고 속도가 아니라 같은 전기로 얼마나 많은 유효 연산을 뽑아내느냐가 경쟁의 잣대가 됐다는 주장이다.

와트당 성능을 '조작할 수 없는 지표'로 규정했다

엔비디아는 와트당 성능을 조작할 수 없고 실제 결과로만 얻어지는 지표라고 규정했다. 카탈로그상의 최고 연산량이나 초당 토큰 수는 특정 조건에 맞춰 부풀릴 여지가 있지만, 정해진 전력 예산 안에서 실제로 처리한 작업량은 시스템 전체가 함께 만들어 내는 값이기 때문이다. 엔비디아는 이 지표가 'AI 팩토리'의 토대라고 표현하며, GB300 NVL72가 딥시크 V4 프로에서 호퍼 대비 와트당 최대 25배, GLM5.1에서 최대 20배, 키미 K2.6에서 최대 10배의 성능을 기록했다고 제시했다. 세대 교체를 8개 GPU 도메인(호퍼)에서 72개 GPU 도메인(블랙웰 NVL72)으로의 확장으로 설명한 점도 함께 짚었다.

25배·20배·10배, 이 편차를 어떻게 읽을 것인가

세 모델에서 나온 25배, 20배, 10배라는 숫자는 성능 향상 폭이 워크로드에 따라 크게 갈린다는 사실을 그대로 보여준다. 가장 주목할 지점은 배수의 크기가 아니라 배수가 모델마다 다르다는 점이다. 같은 하드웨어라도 딥시크 V4 프로처럼 특정 연산 패턴에서는 25배까지 벌어지고, 키미 K2.6에서는 10배에 그친다. 이는 와트당 성능이 칩의 고정된 속성이 아니라 모델 구조와 추론 방식에 따라 달라지는 값임을 시사한다. 따라서 '최대 25배'라는 상단 수치 하나만 떼어내 일반화하면 실제 도입 환경에서 체감하는 이득을 과대평가할 위험이 있다. 도입을 검토하는 쪽이라면 자사가 실제로 돌리는 모델에 가까운 워크로드에서 배수를 다시 재는 편이 안전하다.

전력의 60퍼센트만 유효 연산이 된다는 지점

엔비디아는 전력망에서 끌어온 전기 가운데 약 60퍼센트만 실제 유효한 AI 연산으로 전환된다고 밝혔다. 나머지 40퍼센트가량은 연산 자체가 아니라 냉각, 전력 변환, 유휴 구간 등에 흩어진다는 뜻으로, 와트당 성능을 끌어올릴 여지가 칩 밖에도 크게 남아 있음을 드러낸다. 엔비디아가 함께 제시한 DSX MaxLPS는 같은 전력 예산 안에서 최대 40퍼센트 더 많은 GPU를 돌릴 수 있게 한다고 설명했다. 여기서 읽어야 할 함의는 명확하다. 성능 경쟁의 무게중심이 더 빠른 칩을 만드는 일에서 확보한 전력을 낭비 없이 연산으로 바꾸는 일로 옮겨가고 있다는 것이다. 전력이 고정 비용이자 확보 자체가 어려운 자원인 조건에서는, 유효 전환율 몇 퍼센트포인트가 곧 추가 설비 없이 얻는 처리량이 된다.

소프트웨어만으로 한 달 새 5배가 갈리는 이유

엔비디아는 딥시크 V4에서 소프트웨어 개선만으로 와트당 성능이 한 달 만에 최대 5배 향상됐다고 밝혔다. 하드웨어를 바꾸지 않고도 다이나모(Dynamo), 텐서RT LLM(TensorRT LLM), NVFP4 양자화, EAGLE3 추론 가속 같은 소프트웨어 계층의 최적화가 전력당 처리량을 크게 끌어올렸다는 것이다. 이 대목은 와트당 성능이 하드웨어 세대 교체만으로 결정되지 않는다는 점을 보여준다. 같은 GPU라도 추론 스택을 어떻게 구성하느냐에 따라 실효 효율이 몇 배로 벌어질 수 있다는 의미이며, 이는 인프라 투자에서 소프트웨어 운용 역량이 하드웨어 선택 못지않게 중요한 변수가 됐음을 시사한다. 다만 한 달에 5배라는 향상은 최적화 초기에 나타나는 급격한 개선일 가능성이 크고, 이후에도 같은 속도로 개선이 이어질지는 별개의 문제다.

한국 데이터센터와 실무자에게 남는 함의

전력망 여유가 크지 않고 데이터센터 부지와 계약 전력 확보 경쟁이 치열한 한국에서 와트당 성능은 특히 무겁게 다가온다. 도입 판단의 기준이 카탈로그상의 최대 연산량에서 계약 전력 대비 실제 처리량으로 옮겨갈수록, 같은 메가와트로 더 많은 서비스를 감당하는 쪽이 원가 경쟁에서 앞선다. 엔비디아가 제시한 60퍼센트 유효 전환율과 소프트웨어 5배 향상은 국내 사업자에게도 하드웨어 교체 이전에 냉각과 전력 변환, 추론 스택부터 점검할 여지가 크다는 신호로 읽을 수 있다. 다만 이번 수치는 모두 엔비디아 자체 측정값이며 '최대(up to)'라는 조건이 붙어 있다는 점은 함께 고려해야 한다. 벤더가 제시한 상단 수치가 자사 환경에서 그대로 재현되는지는 독립적인 검증이 필요하다.

출처: NVIDIA Blog, Why Performance per Watt Is the Ultimate Metric for AI Infrastructure Efficiency (2026-07-14)