텐센트가 Hy4 프리뷰를 아파치 2.0으로 공개했다: 7,700억 파라미터에 활성 490억

텐센트(Tencent)는 2026년 8월 28일 Hy4 프리뷰(Hy4 preview)를 오픈소스로 공개하면서 가중치를 아파치 2.0 라이선스로 배포했다. Hy4 프리뷰는 전체 7,700억 파라미터 중 토큰당 490억만 활성화하는 전문가 혼합(MoE) 모델이며 컨텍스트 창은 100만 토큰을 넘는다. 텐센트가 사내 전문가 163명과 엔지니어링 과제 203건으로 매긴 자체 평가에서 4점 만점에 2.99점을 받아 GLM-5.3의 2.92점과 Kimi K3의 2.94점을 앞섰다고 밝혔다. API 가격은 입력 100만 토큰당 0.834달러, 출력 100만 토큰당 2.501달러, 캐시 적중 100만 토큰당 0.042달러다. ASAP은 텐센트 공식 발표와 허깅페이스 모델 카드를 1차 출처로 이 모델의 구조와 숫자를 갈라 정리한다.

7,700억 가운데 490억만 켜진다

Hy4 프리뷰의 설계 핵심은 전체 크기와 실제로 켜지는 크기를 갈라 놓은 구조다. 전체 파라미터는 7,700억이지만 토큰 하나를 처리할 때 활성화되는 파라미터는 490억이다. 층은 78개이고 층마다 라우팅 전문가 256개와 공유 전문가 1개를 두며, 토큰마다 라우팅 전문가 상위 8개가 선택된다. 은닉 차원은 6,144, 어휘 크기는 12만 832이다. 어텐션은 인덱스캐시(IndexCache)를 붙인 게이티드 딥시크 희소 어텐션(Gated DeepSeek Sparse Attention)을 쓴다고 모델 카드에 적혀 있다. 100만 토큰 컨텍스트를 감당하려면 어텐션을 조밀하게 계산할 수 없으므로, 희소 어텐션과 캐시 구조가 긴 컨텍스트를 떠받치는 축이다.

벤치마크는 코딩과 추론 쪽에 몰려 있다

모델 카드가 공개한 성적은 코딩과 과학 추론 축에 집중돼 있다. GPQA 다이아몬드(GPQA Diamond) 92.3%, SWE-벤치 다국어(SWE-bench Multilingual) 82.9%, SWE-벤치 프로(SWE Bench Pro) 65.7%, 딥 SWE(Deep SWE) 64.3%가 대표 수치다. 텐센트는 이 모델을 소프트웨어 엔지니어링과 문서 분석, 게임 개발, 과학 연구 분야의 사내 전문가와 함께 설계했다고 밝혔다. 가중치는 허깅페이스와 모델스코프(ModelScope), 깃코드(GitCode), CNB 네 곳에 올라와 있고, 제품 쪽으로는 워크버디(WorkBuddy), 코드버디(CodeBuddy), 위안바오(Yuanbao), ima에서 쓸 수 있으며 API는 텐센트 클라우드 토큰허브(Tencent Cloud TokenHub)와 오픈라우터(OpenRouter)로 열렸다.

무료 구간에 못이 박혀 있다

텐센트는 출시와 함께 워크버디와 코드버디에서 2주 동안 무료 접근을 열었다. 이전 세대인 Hy3의 무료 사용은 9월 30일까지 연장했다. 가격표는 입력 100만 토큰당 0.834달러, 출력 100만 토큰당 2.501달러이며 캐시 적중은 100만 토큰당 0.042달러다. 캐시 적중가가 입력가의 5%에 그친다는 점이 이 가격표에서 실무적으로 가장 큰 항목이다. 같은 문서를 반복해서 물고 들어가는 긴 컨텍스트 작업일수록 실제 청구액이 정가표와 크게 벌어진다는 뜻이기 때문이다.

자체 평가를 앞세운 선택을 어떻게 볼까

텐센트가 헤드라인 숫자로 공개 벤치마크가 아니라 사내 전문가 평가를 골랐다는 점이 이번 발표에서 가장 해석할 거리가 많은 대목이다. 전문가 163명이 엔지니어링 과제 203건을 4점 척도로 채점한 결과는 재현이 불가능하다. 외부에서 같은 조건으로 다시 돌려 볼 수 없고, 과제 구성과 채점 기준도 공개되지 않았다. 그럼에도 이런 선택이 늘어나는 배경은 짐작할 만하다. 공개 벤치마크는 상단이 포화됐고 오염 논란이 붙었으며, 무엇보다 실무자가 체감하는 품질과 점수가 자주 어긋난다. 사람이 매긴 점수는 그 간극을 겨냥한다. 다만 판정자와 제작자가 같은 회사일 때 이 지표는 마케팅 자료와 구분되지 않는다. 재현 가능한 SWE-벤치 계열 숫자를 함께 낸 것이 그나마 균형을 잡아 주는 장치다.

0.05점 차이를 순위표로 읽으면 안 되는 이유

2.99점과 2.94점, 2.92점의 간격을 보면 이 평가가 사실상 동률에 가깝다는 사실이 드러난다. Kimi K3와의 차이는 0.05점, GLM-5.3과의 차이는 0.07점이며 척도는 4점 만점이다. 표준편차도 신뢰구간도 공개되지 않았으므로 이 간격이 잡음을 넘어선다고 단정할 근거가 발표 안에 없다. 그런데도 이 표가 말해 주는 것이 있다. 중국 오픈 가중치 진영의 상위 세 모델이 사람이 채점한 엔지니어링 과제에서 구별되지 않는 구간에 함께 들어와 있다는 사실이다. 선택 기준이 성능에서 가격과 라이선스, 서빙 난이도로 옮겨 간다는 신호로 읽는 편이 실무에 가깝다.

한국 팀이 7,700억을 직접 돌릴 수 있나

국내 팀이 이 모델을 자체 인프라에 올리려 할 때 걸리는 것은 활성 490억이 아니라 전체 7,700억이다. MoE는 계산량을 줄이지만 가중치는 전부 어딘가에 올라가 있어야 한다. 파라미터당 1바이트로 잡는 8비트 양자화라면 산술만으로 770기가바이트 규모, 파라미터당 0.5바이트인 4비트라면 385기가바이트 규모가 필요하다는 계산이 나온다. 여기에 100만 토큰 컨텍스트를 쓰는 순간 KV 캐시가 별도로 붙는다. 가중치가 아파치 2.0으로 열려 있다는 사실과 그 가중치를 사내에서 서빙할 수 있다는 사실은 전혀 다른 문제다. 국내 대부분의 팀에게 현실적인 진입로는 토큰허브나 오픈라우터 API이고, 자체 서빙은 멀티노드 구성을 감당할 수 있는 조직의 선택지다. 그래도 아파치 2.0이 중요한 이유는 따로 있다. 파인튜닝한 파생 모델을 상업적으로 배포할 때 라이선스 검토 단계가 통째로 사라지기 때문이다.

프리뷰라는 이름표를 그대로 읽을 것

2026년 8월 28일 공개된 모델 이름에 붙은 프리뷰(preview)라는 꼬리표는 장식이 아니라 텐센트가 스스로 그은 유보선이다. 텐센트는 이 릴리스를 정식판이 아니라 미리보기로 내놓았고, 정식 버전의 시점이나 최종 성능이 이번 수치와 같을지는 발표에 없다. 사내 전문가 평가 2.99점은 외부 검증이 불가능하고, 공개된 벤치마크 수치도 텐센트가 직접 측정한 값이다. 100만 토큰 컨텍스트 역시 창의 크기이지 그 길이 전체에서 성능이 유지된다는 뜻은 아니며, 긴 컨텍스트 실효 성능을 재는 별도 결과는 이번 공개에 포함되지 않았다. 도입을 검토한다면 자체 과제로 재측정하는 단계를 건너뛰지 않는 편이 안전하다.

출처: 텐센트 'Tencent Releases and Open-Sources Tencent Hy4 preview' 공식 발표(2026년 8월 28일; 전체 7,700억·활성 490억 파라미터, 100만 토큰 초과 컨텍스트, 사내 전문가 163명·과제 203건 평가 2.99/4.00 대 GLM-5.3 2.92·Kimi K3 2.94, 입력 100만 토큰 0.834달러·출력 2.501달러·캐시 적중 0.042달러, 워크버디·코드버디 2주 무료 및 Hy3 무료 9월 30일 연장, 텐센트 클라우드 토큰허브·오픈라우터 제공)와 허깅페이스 tencent/Hy4-preview 모델 카드(아파치 2.0 라이선스, 78개 층·라우팅 전문가 256개·공유 전문가 1개·상위 8개 활성, 은닉 차원 6,144·어휘 12만 832, 게이티드 딥시크 희소 어텐션과 인덱스캐시, GPQA 다이아몬드 92.3%·SWE-벤치 다국어 82.9%·SWE-벤치 프로 65.7%·딥 SWE 64.3%, 허깅페이스·모델스코프·깃코드·CNB 배포) 기반 ASAP 정리.