엔비디아(NVIDIA)의 블랙웰(Blackwell) GB300 NVL72 플랫폼이 AI 에이전트용 하드웨어 성능을 측정하는 새 벤치마크 'AA-에이전트퍼프(AA-AgentPerf)'에서 1위를 기록했다. 아티피셜 애널리시스(Artificial Analysis)가 2026년 도입한 이 벤치마크는 실제 코딩 에이전트 작업을 재현해 전력당 처리 능력을 평가하며, 블랙웰은 이전 세대 호퍼(Hopper) 대비 메가와트당 약 20배 많은 AI 에이전트를 처리한 것으로 나타났다. AI 에이전트 시대에 '전력 효율'이 핵심 경쟁 지표로 떠올랐음을 보여준다.

벤치마크가 바뀐 자리에 주목한다

이번 결과에서 가장 눈에 띄는 지점은 순위 자체가 아니라 순위를 매기는 잣대다. 아티피셜 애널리시스가 공개한 AA-에이전트퍼프 첫 결과에서 블랙웰 GB300 NVL72가 최고 성능을 기록했고, 같은 평가에서 AMD의 MI355X를 앞섰다. 평가에 사용된 모델은 2026년 4월경 공개된 딥시크 V4 프로(DeepSeek V4 Pro)이며, 엔비디아는 블랙웰이 이전 세대 호퍼보다 메가와트당 약 20배 많은 에이전트를 처리했다고 밝혔다. 오래도록 하드웨어 비교의 왕좌를 지켜온 초당 토큰 수나 순수 연산량이 아니라, '메가와트당 에이전트 수'가 우열을 가른 것이다. 측정 대상이 칩의 최고 속도에서 시스템 전체의 지속 가능한 처리량으로 옮겨간 셈이다.

20배라는 숫자를 어떻게 읽을 것인가

메가와트당 약 20배라는 격차는 세대 간 성능 향상으로는 이례적으로 크다. 다만 이 숫자를 단일 칩의 성능 배수로 오해하면 곤란하다. AA-에이전트퍼프는 최대 200턴, 10만 토큰을 넘는 실제 코딩 에이전트 작업 흐름을 재생하고, 서비스 품질 기준(SLA)을 지키면서 한 시스템이 동시에 처리할 수 있는 에이전트 수를 측정하기 때문이다. 즉 20배는 칩 단품이 아니라 NVL72라는 랙 규모 시스템 전체가, 긴 문맥과 반복 추론이라는 에이전트 특유의 부하 아래에서 뽑아낸 값으로 읽어야 한다. 긴 대화가 쌓일수록 메모리와 대역폭 압박이 커지는 구간에서 세대 차가 증폭됐다고 해석하는 편이 자연스럽다.

에이전트 시대에는 왜 속도보다 전력이 문제인가

에이전트는 한 번의 질문이 아니라 수십에서 수백 번의 추론을 연쇄로 수행한다. 같은 결과를 내더라도 단발성 챗봇보다 훨씬 많은 연산과 전력을 소모한다는 뜻이다. 이 구조에서는 칩이 얼마나 빠른가보다 같은 전력으로 몇 개의 에이전트를 동시에 감당하느냐가 곧 단위 원가가 된다. 전력이 사실상 고정 비용이자 확보 자체가 어려운 자원인 상황에서, 메가와트당 처리량은 성능 지표를 넘어 사업성 지표에 가깝다. 벤치마크의 핵심 지표가 여기로 이동했다는 것은, 경쟁의 문법이 '누가 더 빠른가'에서 '누가 같은 전기로 더 오래 버티는가'로 넘어갔음을 보여준다.

한국 시장과 실무자에게 남는 함의

전력망 여유가 크지 않고 데이터센터 부지·전력 확보 경쟁이 치열한 한국에서 이 지표는 특히 무겁게 다가온다. 도입 결정의 무게중심이 카탈로그상의 최대 속도에서 계약 전력 대비 실제 에이전트 수용량으로 옮겨갈 가능성이 크다. 다만 한 가지 벤치마크가 전체를 대변하지는 않는다는 점은 유의할 만하다. 평가에 쓰인 모델과 워크로드가 딥시크 V4 프로 기반의 코딩 에이전트 흐름에 맞춰져 있어, 다른 모델이나 추론 패턴에서도 같은 격차가 재현될지는 별도의 검증이 필요하다. 실무자라면 자사 워크로드에 가까운 조건에서 메가와트당 처리량을 다시 재는 것이 안전하다.

---

출처: Artificial Analysis · NVIDIA Blog · Crypto Briefing