엔비디아 네모트론이 IMO 2026에서 30점으로 금메달선을 넘고 제작 과정을 전부 공개했다

엔비디아 연구진은 2026년 9월 9일 arXiv에 올린 기술 보고서 'An Open Recipe for IMO Gold'에서 네모트론 3 울트라 체크포인트 3개로 구성한 시스템이 국제수학올림피아드(IMO) 2026에서 42점 만점에 30점을 받아 금메달 기준선인 29점을 넘었다고 밝혔다. 이 시스템은 형식 증명기와 외부 도구와 인터넷 접속을 쓰지 않고 자연어만으로 증명을 작성했으며, 제출한 증명은 모두 공식 IMO 채점관이 채점했다. ASAP은 보고서 본문에 적힌 수치와 설계 결정만으로 이 결과에서 실제로 새로운 부분이 무엇인지 정리한다.

시스템은 체크포인트 3개가 돌아가며 쓰고 채점하는 구조다

파이프라인의 뼈대는 생성과 검증과 개선을 반복하는 탐색이며 보고서는 딥시크매스-V2에서 영감을 받았다고 밝혔다. 생성에는 일반 공개 모델인 Nemotron-3-Ultra-GA와 지도 미세조정 특화본인 Nemotron-3-Ultra-SFT와 강화학습 특화본인 Nemotron-3-Ultra-RL이 함께 투입된다. 1라운드에서 각 체크포인트가 서로 다른 생성 프롬프트 8종에 대해 16번씩 표본을 뽑아 증명 384개를 만든다. 프롬프트는 보조정리 우선 분해와 경로 비교와 반례 탐색 같은 서로 다른 풀이 전략을 지시하며, 1라운드 생성의 상관성을 낮추는 것이 목적이다.

검증은 SFT와 RL 두 체크포인트가 맡는다. 각 체크포인트가 증명 하나마다 독립 판정 8건을 내고, 합쳐 16건의 동등한 판정이 만들어진다. 점수 기준은 셋이며 완전하고 올바른 증명이 1점, 사소한 오류나 누락이 있는 대체로 올바른 증명이 0.5점, 치명적 오류나 심각한 누락이 있는 증명이 0점이다. 수락 조건은 16건이 모두 유효하면서 전부 1점을 줄 때로 고정돼 있다. 보고서는 여기서 말하는 수락이 내부 검증 기준의 충족일 뿐 독립 채점이나 공식 채점에서의 정확성을 뜻하지 않는다고 명시했다.

수락된 증명이 없으면 개선 라운드가 돈다. 전체 증명 풀에서 상위 16개를 골라 각각에 대해 검증기 비평을 최대 8건 붙인 개선 프롬프트를 만들고, 이 프롬프트를 세 체크포인트 모두에 보내 각각 4개씩 출력을 받아 라운드당 192개의 개선 시도를 만든다. 탐색은 최대 8라운드까지 이어진다.

제출 직전에는 목적이 다른 단계가 하나 더 붙는다. 탐색 중 검증기는 개선을 이끄는 비평을 만드는 것이 목적이지만, 최종 선택 단계는 제출용 순위를 매기는 것이 목적이다. 최종 후보마다 세 체크포인트가 각각 16건씩 IMO식 채점을 내려 48건의 판정을 모으고, 48건의 평균으로 순위를 정하며 동점이면 더 짧은 증명을 택한다.

대회 기록은 76분 안에 대부분 끝났다는 사실을 보여 준다

공식 결과는 42점 만점에 30점이고 금메달 커트라인은 29점이었다. 1번과 2번과 4번과 5번 문제는 만점인 7점을 받았고 3번과 6번은 각각 1점을 받았다. 대회는 하루 4시간 30분씩 이틀간 진행됐으며, 각 날에 세 문제의 탐색이 동시에 돌면서 전체 GPU 할당을 나눠 썼다.

시간 분포가 이 기록에서 가장 눈에 띄는 부분이다. 만점을 받은 증명 네 건은 세션 시작 후 76분 안에 최종 선택 패널을 통과했고, 나머지 두 건도 100분 안에 통과했다. 그 이후로 탐색은 4시간 30분 마감까지 정체됐다.

자원 회계도 함께 공개됐다. 제출된 증명 여섯 건이 모두 확보되기까지 약 7억 700만 토큰과 GB200 기준 1,464 GPU시간이 들었고, 진행 중이던 라운드까지 마치자 대회 전체 실행은 약 23억 1,000만 토큰과 약 4,800 GPU시간에 이르렀다. 문제별 편차는 크다. 1번 문제는 제출 증명 확보까지 557만 토큰과 11.7 GPU시간으로 끝났지만, 6번 문제는 3억 1,200만 토큰과 612.9 GPU시간을 쓰고도 1점에 그쳤다.

마감 이후 실행 결과도 보고서에 포함됐다. 8라운드까지 총 8시간 25분을 돌린 시점에 6번 문제에서 새 풀이가 나왔고, 내부 검증기는 이를 수락하지 않았지만 점수는 대회 제출본보다 높았다. 여기에 6억 1,000만 토큰과 890 GPU시간이 추가로 들었다. 독립 수학자 패널이 이 풀이에 7점 만점에 4점을 줬고, 이 평가를 적용하면 총점은 33점이 된다. 다만 이 채점은 공식 채점 기준표 없이 이뤄졌고 공식 IMO 결과가 아니라고 보고서는 못 박았다.

공개 범위는 체크포인트와 데이터와 코드와 벤치마크까지다

엔비디아가 공개한 산출물은 허깅페이스 컬렉션 nvidia/nemotron-labs-imo-2026에 모여 있다. 후처리 학습된 체크포인트 두 개는 nvidia/Nemotron-3-Labs-Ultra-Math-SFT와 nvidia/Nemotron-3-Labs-Ultra-Math-RL로 공개됐고, 기반 모델과 같은 OpenMDW-1.1 라이선스를 따른다. 학습 데이터는 SFT 말뭉치와 RL 문제 집합이 각각 CC BY 4.0으로 공개됐다.

학습 구성도 수치까지 적혀 있다. SFT 말뭉치는 고유 문제 1만 5,818개에서 뽑은 41만 4,890개의 품질 필터링 예제로 이뤄지며, 증명 생성 기록 5만 8,543건과 개선 기록 6만 7,971건과 검증 기록 23만 6,360건과 메타 검증 기록 5만 2,016건으로 구성된다. 검증 기록이 절반 이상을 차지하는 구성은 이 모델이 증명을 쓰는 법만이 아니라 증명을 판정하는 법을 학습 목표로 삼았음을 보여 준다. SFT 학습에는 GB200 GPU 512장이 쓰였고, 최종 체크포인트는 IMO-ProofBench와 최근 대회에서 뽑은 증명 문제 133개의 평가 성적을 근거로 1,300 스텝 지점에서 선택됐다.

RL은 Nemotron-Math-Proofs-v1에서 문제를 가져오되 네모트론 3 울트라가 네 번 중 한 번에서 세 번 푸는 문제만 남겨 9,597개를 썼고, 이 판정은 DeepSeek-V3.2-Speciale이 맡았다. 학습에는 트레이너 노드 128개와 추론 노드 128개와 판정 노드 16개가 투입됐으며 각 노드에는 GB200 GPU 4장이 들어간다.

벤치마크는 별도 산출물로 나왔다. 올림피아드 문제 저자인 티투 안드레스쿠 교수와 함께 만든 네모트론-IMO-벤치는 이전에 출판된 적 없는 신규 올림피아드급 문제 200개로 구성되며 CC BY 4.0으로 공개됐다. 보고서의 실험은 이 중 20문제와 최근 대회 문제 10개를 합친 30문제 개발 세트에서 수행됐고, 개발 세트는 쉬움 3개와 보통 7개와 어려움 10개와 미해결 10개로, 분야로는 대수 6개와 조합 8개와 기하 8개와 정수론 8개로 구성된다.

이 결과에서 새로운 것은 금메달이 아니라 회계다

여기서부터는 ASAP의 해석이다. 자연어만으로 IMO 금메달 수준에 도달한 사건 자체는 2026년의 새 소식이 아니다. 보고서 본문이 직접 밝히듯 2025년에 제미나이 딥싱크와 오픈AI의 실험 모델이 이미 종단간 자연어 시스템으로 금메달 수준에 도달했고, 2024년에는 알파프루프와 알파지오메트리 2 조합이 금메달 기준선보다 1점 아래를 기록했다. 점수만 보면 이번 결과는 계보의 연장선이다.

이번 보고서가 앞선 사례들과 갈리는 지점은 사후 검증 가능성이다. 2025년의 두 금메달은 모델도 데이터도 파이프라인도 공개되지 않았고, 외부 연구자가 확인할 수 있는 것은 발표된 점수와 풀이뿐이었다. 반면 이번에는 후처리 학습 체크포인트 두 개와 학습 데이터와 학습 및 추론 코드와 제출 증명과 자원 회계까지 함께 나왔다. 같은 점수를 다른 팀이 재현하거나 반박할 수 있는 상태로 만들어 놓은 것이 이 보고서의 실제 기여다.

자원 회계를 본문에 넣은 선택도 같은 맥락이다. 금메달을 몇 토큰과 몇 GPU시간에 샀는지 밝힌 논문은 드물다. 7억 700만 토큰과 1,464 GPU시간이라는 숫자가 공개되면 이 성과는 더 이상 능력의 유무가 아니라 가격의 문제가 되고, 후속 연구는 같은 점수를 더 싸게 내는 경쟁으로 전환된다. 벤치마크 점수만 발표하는 관행에서 이 전환은 작지 않다.

검증기의 32점과 채점관의 30점 사이에 이 시스템의 한계가 있다

보고서에서 가장 솔직한 대목은 자기 검증이 어디서 틀렸는지를 밝힌 부분이다. 대회 마감 시점에 내부 검증기와 사후 분석용 독립 모델 심사단은 모두 약 32점을 매겼지만 공식 결과는 30점이었다. 차이는 전적으로 3번과 6번 문제에서 나왔고, 두 모델 기반 평가 모두 공식 채점관이 1점만 준 증명을 인정했다.

보고서가 이 차이에 붙인 진단이 중요하다. 탐색용 검증기에 국한된 잡음이 아니라 모델 기반 검증이 공유하는 맹점이라는 것이다. 서로 다른 모델 여러 개를 심사단으로 묶어도 같은 지점에서 함께 틀린다면, 심사단 규모를 키우는 방식으로는 이 오차를 지울 수 없다.

검증기 감사 결과도 같은 방향을 가리킨다. 연구진은 증명 300개를 대상으로 검증 규칙을 감사했고, 수락된 증명 25개 가운데 23개는 독립 심사단에게 7점을 받았다. 나머지 둘 중 하나는 사소한 한정사 형식 문제로 6점을 받았고, 다른 하나는 0점을 받았다. 0점 증명의 논거는 유효하지 않은 열 치환 대칭성에 기대고 있었고 명시적 반례가 주장된 최적값을 반박한다. 문제는 모든 체크포인트가 이 두 증명에 8건씩 만점 판정을 줬다는 사실이며, 이 24건의 판정 위에서는 어떤 만장일치 규칙으로도 두 오류를 걸러 낼 수 없었다고 보고서는 적었다.

거짓 수락과 거짓 기각의 비용이 다르다는 판단이 설계를 결정했다

검증기 설계의 근거로 제시된 논리는 정확도가 아니라 비대칭이다. 거짓 수락은 유효하지 않은 증명 위에서 탐색을 종료시키고, 그 뒤로는 새 후보를 만드는 단계가 없다. 거짓 기각은 지연만 낳는다. 기각된 증명은 높은 평균 점수를 유지한 채 상위 개선 후보로 남고, 끝까지 아무것도 수락되지 않으면 대체 제출본 자격도 유지한다. 그래서 탐색용 검증기는 선택적인 체크포인트 두 개만 쓰고 만장일치를 요구한다.

수치도 이 판단을 뒷받침한다. 수락 기준을 16표 만장일치에서 14표로 낮추면 거짓 수락률이 약 1%에서 17%로 뛴다. 완화된 규칙이 건져 내는 올바른 증명 하나마다 잘못된 증명 하나가 함께 들어온다는 뜻이다. 반대로 관대한 GA 체크포인트의 판정 8건을 패널에 더하는 것도 도움이 되지 않았고, 그 판정이 제거한 증명 두 개는 모두 올바른 증명이었다.

패널의 정밀도가 어디서 나오는지도 분해돼 있다. SFT 단독으로는 잘못된 증명 8개를 수락하는데, RL의 판정 8건이 그중 6개를 기각해 거짓 수락률이 4.5%에서 1.1%로 내려간다. 같은 자리에 GA를 넣으면 2개만 기각해 3.4%에 머문다. 만장일치 규칙에서는 판정 하나하나가 거부권이 되고, RL의 거부권이 SFT가 놓치는 자리에 떨어진다는 것이 이 설계의 핵심이다.

더 많이 뽑는 것보다 다른 모델로 뽑는 것이 이겼다

앙상블 설계의 근거가 된 실험은 1라운드 예산을 어디에 쓸지 비교한 것이다. RL 체크포인트로 128번 시도하면 개발 세트 30문제 중 13개가 수락되고 독립 심사단 점수는 수락분 기준 87점, 30문제 전체 기준 135점이 나온다. 같은 체크포인트로 시도를 256번으로 두 배 늘리면 수락 문제는 14개가 되고 점수는 92점과 139점이 된다. 반면 같은 토큰을 SFT 64회에 쓰면 수락 문제 15개에 98점과 159점으로 올라간다.

원인은 겹치지 않는 영역에 있다. RL 128회와 SFT 128회를 합쳐 수락된 18문제 가운데 6개는 두 체크포인트 모두에서, 7개는 RL에서만, 5개는 SFT에서만 수락됐다. RL 시도를 256회로 늘려도 SFT만 풀던 다섯 문제 중 하나만 회수된다.

이 결과를 일반화할 때 주의할 점이 있다. 세 체크포인트는 같은 기반 모델에서 갈라져 나왔고 후처리 학습 방식만 다르다. 그럼에도 서로 못 푸는 문제를 나눠 푼다는 사실은, 어려운 추론 과제에서 표본 수를 늘려 얻는 이득이 생각보다 빨리 포화하고 학습 이력이 다른 모델을 섞는 편이 낫다는 뜻이다. GA는 1라운드에서 새로 푸는 문제를 하나도 추가하지 못했지만, 후속 라운드의 개선 다양성을 위해 모든 라운드에 계속 투입됐다.

한국 팀이 이 보고서에서 가져갈 것은 검증 설계 쪽이다

국내 조직 대부분은 GB200 노드 272개를 쓸 일이 없지만, 이 파이프라인에서 규모와 무관하게 재사용되는 부분은 검증 설계다. 첫째, 두 종류의 오류를 같은 지표로 묶지 않는 습관이다. 자동 채점이나 자동 승인을 붙이는 시스템이라면 잘못 통과시키는 비용과 잘못 막는 비용이 대개 다르고, 어느 쪽이 되돌릴 수 없는지부터 정한 뒤 임계값을 정하는 것이 이 보고서의 방식이다.

둘째, 심사 모델을 섞되 관대한 모델을 만장일치 패널에 넣지 않는 판단이다. 다수결이 아니라 만장일치를 쓰는 순간 패널에 추가되는 모델은 성능이 아니라 거부권의 분포로 평가해야 한다. 관대한 모델은 거부권을 거의 쓰지 않으므로 정밀도를 올리지 못하고 올바른 결과만 깎는다.

셋째, 자기 채점의 상한을 인정하는 태도다. 이 시스템은 자기 검증으로 32점을 예측하고 실제로는 30점을 받았으며, 그 차이가 모델들이 공유하는 맹점에서 왔다는 사실을 보고서가 직접 적었다. AI 산출물을 AI가 검수하는 구조를 도입하는 팀이라면, 검수 결과와 외부 채점 결과의 차이를 주기적으로 측정하는 절차를 처음부터 함께 설계해야 한다.

이 보고서가 남긴 열린 질문은 세 가지다

엔비디아의 2026년 9월 보고서가 답하지 않은 항목은 크게 세 가지이며, 첫 번째는 비용 대비 성능의 비교 기준이다. 연구진은 앙상블 실행이 단일 체크포인트 실행과 연산량을 맞춘 비교가 아니라고 직접 밝혔고, 1라운드 예산 실험만 토큰 수를 맞춰 비교했다. 2025년의 제미나이 딥싱크나 오픈AI 실험 모델이 같은 점수를 내는 데 얼마를 썼는지는 공개된 적이 없으므로, 이 시스템이 더 싼지 더 비싼지는 아직 아무도 모른다.

두 번째는 3번과 6번 문제에서 막힌 원인이다. 두 문제 모두 1점에 그쳤고 마감 이후 추가 탐색에서도 3번은 개선되지 않았다. 보고서는 이를 자원 회계와 함께 보고하지만, 어떤 종류의 추론에서 막혔는지에 대한 분석은 없다. 개발 세트에 미해결 10문제가 포함돼 있다는 사실은 연구진도 이 경계를 알고 있다는 표시이며, 그 경계의 성격은 다음 보고서의 몫으로 남았다.

세 번째는 평가의 독립성이다. RL 학습 중 평가에는 GPT-5.5가 쓰였고, 절제 실험의 심사단은 GPT-5.5와 제미나이 3.1 프로와 클로드 오퍼스 4.8로 구성됐으며, RL 데이터 선별은 DeepSeek-V3.2-Speciale이 맡았다. 자사 모델 평가를 경쟁사 모델에 맡긴 구성은 자기 채점 편향을 줄이지만, 공식 채점관과 32 대 30으로 갈린 지점이 보여 주듯 모델 기반 채점 자체의 공통 맹점은 남는다.

정리하면 이번 결과의 핵심은 42점 만점에 30점이라는 숫자가 아니라, 그 숫자가 어떻게 만들어졌는지를 다른 팀이 뜯어볼 수 있게 놓아 둔 선택이다. 자연어 증명에서 금메달선은 2025년에 이미 넘겼고, 2026년에 새로 생긴 것은 체크포인트와 데이터와 토큰 회계가 붙은 재현 가능한 기준점이다.

출처: Ivan Moshkov 외 5인, 'An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics'(arXiv:2609.10712, 2026년 9월 9일) · 산출물은 허깅페이스 nvidia/nemotron-labs-imo-2026 컬렉션