UIUC와 하버드 연구진은 2026년 7월 29일 arXiv에 공개한 논문 "Explorative Modeling"에서 생성모델의 학습 루프를 쪼개는 방식으로 파라미터와 데이터에 이은 세 번째 사전학습 축을 제안했다. 핵심 방법은 학습 단계마다 모델 생성 결과와 데이터 사이의 후보 대응 K개를 탐색해 가장 가까운 것으로 학습하는 것이며, 저자들은 이 탐색이 FLOP 효율을 4.1배, 샘플 효율을 6.2배 높이고 파라미터 효율을 47% 개선한다고 보고했다. 이미지넷 256×256 이미지 생성에서는 가이던스 없이 FID 1.43을 기록했다. ASAP은 arXiv 2607.27372 원문을 1차 출처로 이 논문의 주장과 한계를 정리한다.

생성모델만 아직 종단 학습이 아니라는 문제 제기

arXiv 2607.27372 논문의 출발점은 알렉스넷(AlexNet)이 남긴 딥러닝의 역사적 교훈이다. 알렉스넷이 계층별 사전학습을 종단 학습으로 대체하면서 시작된 흐름은 이미지 분류와 객체 검출, 이미지 분할로 이어졌고, 손으로 설계한 파이프라인은 대체로 종단 신경망에 자리를 내줬다. 저자들은 생성모델이 이 흐름에서 예외로 남아 있다고 지적한다. 자기회귀 모델과 확산 모델은 한 스텝 예측을 학습하지만, 추론에서는 수백에서 수천 개의 토큰 또는 노이즈 제거 스텝에 걸쳐 순환 신경망처럼 쓰인다. 스텝마다의 오차가 다음 입력으로 들어가면서 입력이 학습 분포에서 멀어지고 오차가 누적된다.

왜 이렇게 됐는가에 대한 논문의 답은 다봉 분포다. 생성모델링은 본질적으로 봉우리가 여러 개인 확률분포를 다루는 일인데, 규모 있는 기존 방식들은 모두 생성 절차를 잘게 쪼개 각 스텝의 목표를 거의 단봉에 가깝게 만드는 방식으로 이 문제를 해결한다. 그래야 재구성 손실이 서로 다른 봉우리를 평균으로 뭉개지 않는다. 문제는 바로 이 분할이 종단 학습을 가로막는 요인이라는 점이다.

여기서 논문은 질문을 뒤집는다. 생성모델이 쪼갤 수 있는 대상은 생성 방식과 학습 방식 두 가지뿐이며, 생성 쪽 분할을 포기하기로 했다면 남은 것은 학습 루프다. 그래서 학습 단계마다 모델이 생성한 것과 데이터 사이의 가능한 대응 K개를 탐색하고 가장 가까운 것으로 학습한다. 탐색이 전부 학습 중에만 일어나기 때문에 다봉 분포를 포착하면서도 종단 생성이 가능해진다는 것이 저자들의 논리다.

4.1배와 6.2배, 47%가 나온 자리

논문이 제시한 효율 수치는 세 갈래다. 탐색은 FLOP 효율을 4.1배, 샘플 효율을 6.2배 개선하고 파라미터 효율을 47% 높인다. 이 값들은 표현 오토인코더(Representation Autoencoder, RAE) 기반 이미지 생성 레시피에 탐색을 얹은 설정에서 나왔다. RAE는 이 논문 공개 시점 기준 석 달 전까지 이미지넷 256×256 이미지 생성의 최고 성능 레시피였고, SD-VAE에서 표현 오토인코더로 표현 공간을 바꾼 것이 핵심이던 방법이다.

수렴 속도 비교는 이 개선이 누적된다는 점을 보여준다. 탐색을 적용한 XRAE는 RAE보다 6.2배 빠르게 수렴하고, RAE 자체는 SiT보다 47배 빠르게 수렴한다. 두 배수를 곱하면 XRAE는 표준 SiT 레시피 대비 거의 300배 빠르게 수렴한다는 계산이 나온다.

절대 성능도 함께 제시됐다. XL 규모 모델을 최대 2.2×10²¹ FLOP까지 학습한 결과, XM-2를 적용한 XDiT 계열 모델은 가이던스 없는 조건에서 FID 1.43을 기록해 같은 조건의 RAE 기준선 1.55보다 낮았다. 저자들이 주로 인용하는 지표인 FDr⁶에서도 4.42에서 3.91로 개선됐다. 다만 가이던스를 적용한 조건에서는 gFID가 1.16에서 1.19로 소폭 나빠졌는데, 저자들은 gFID가 이미 포화 상태라 표본 품질을 잘못 나타내는 경우가 많다는 점을 근거로 이 수치를 포화의 반영으로 해석했다.

규모가 커질수록 이득이 커진다는 주장의 구조

이 논문에서 실무적으로 가장 중요한 관찰은 절대 수치가 아니라 기울기다. 탐색의 이득은 데이터가 늘어남에 따라 7%에서 36%로, 모델이 커짐에 따라 13%에서 23%로 커졌고, 컴퓨트를 3배로 늘렸을 때 효율 이득은 두 배 이상이 됐다.

저자들은 이 현상을 세 가지 용량으로 설명한다. 파라미터는 모델이 표현할 수 있는 것을 제한하고, 데이터는 배울 수 있는 것을 제한하며, 생성 표현력(generative expressivity)은 생성할 수 있는 것을 제한한다. 앞의 두 가지는 규모를 키우면 완화되지만 생성 표현력은 학습 목적함수 자체가 결정하기 때문에 모델과 데이터가 아무리 커져도 고정된 채로 남는다. 소규모에서는 파라미터와 데이터가 먼저 병목이므로 이 고정값이 문제가 되지 않지만, 규모가 커질수록 생성 표현력이 병목의 자리로 올라온다. 탐색은 이 표현력을 직접 끌어올리므로 규모가 커질수록 효과가 커진다는 것이 논문의 가설이며, SiT 설정에서 3배 컴퓨트의 RAE 설정으로 옮겼을 때 효율 이득이 두 배 이상이 된 관측이 그 근거로 제시됐다.

이 설명이 흥미로운 이유는 검증 가능한 예측을 내놓기 때문이다. 만약 병목이 생성 표현력이라는 진단이 맞다면 탐색의 이득은 규모와 함께 계속 커져야 하고, 틀렸다면 특정 규모에서 꺾여야 한다. 논문이 다룬 범위는 XL 규모와 2.2×10²¹ FLOP까지이며, 프론티어 모델 규모에서 이 기울기가 유지되는지는 아직 데이터가 없다.

비용을 추론이 아니라 학습으로 옮기는 거래

Explorative Modeling이 제안하는 거래 조건은 명확하다. 탐색은 전적으로 학습 중에만 일어나므로 추론 비용은 변하지 않고, 추가 비용은 더 비싼 학습으로 나타난다. 저자들은 FAQ에서 이 점을 직접 답하며, Reverse XM의 경우 추가 학습 비용조차 대체로 무시할 만한 수준이라고 적었다.

이 거래의 의미는 종단 모델 실험에서 가장 선명하게 드러난다. 로봇 제어 과제에서 Explorative Policy는 신경망 순전파를 100회 수행하는 Diffusion Policy에 맞먹는 성능을 단 1회 순전파로 달성했고, Explorative World Model은 Diffuser 대비 함수 평가를 16배에서 256배 줄이면서 성능을 맞췄다. 논문의 해석은 각 방식이 무엇을 쪼갰는지에서 이 차이가 나온다는 것이다. 확산 모델은 생성 표현력의 값을 추론 시점의 생성 스텝으로 치르고, 종단 XM은 같은 값을 학습 시점의 탐색으로 치른다.

산업 관점에서 이 방향은 최근 몇 년의 흐름과 정확히 반대다. 추론 시점에 더 많은 계산을 쓰는 접근이 성능 향상의 주된 경로로 자리 잡은 상황에서, 이 논문은 같은 표현력을 학습 쪽으로 미리 당겨오면 추론을 한 번의 순전파로 끝낼 수 있다고 주장한다. 모델을 한 번 학습해 수없이 서빙하는 조직에게 이 거래는 산술적으로 유리하다. 다만 저자들이 이 결과를 하이퍼파라미터 조정을 거의 하지 않은 상태에서 얻었고 각 기준선의 아키텍처를 대체로 유지했다고 밝힌 점은 양날이다. 조정 없이 나온 수치라는 것은 방법 자체의 힘을 보여주지만, 동시에 기준선 쪽도 같은 정도로만 조정됐다는 뜻이므로 잘 조율된 실제 파이프라인에서의 격차는 다르게 나올 수 있다.

숫자를 신중히 읽어야 하는 지점

첫째, 개선 폭이 도메인마다 균일하지 않다. 논문은 탐색이 이미지와 영상, 언어에서 모두 성능을 단조롭게 개선한다고 보고하지만, 한계 절에서는 자기회귀 언어모델이 탐색으로 개선하기 가장 어려웠다고 명시한다. 이유로는 잠재변수를 주입하는 것이 덜 자연스럽고, 자기회귀 언어모델이 다른 모델만큼 생성 표현력에 병목이 걸려 있지 않다는 점이 제시됐다. 저자들이 이 영역에서 얻은 것은 데이터 효율 개선을 보여주는 초기 수준의 완만한 결과다. 즉 4.1배와 6.2배 같은 숫자를 대규모 언어모델 사전학습으로 그대로 옮겨 읽으면 안 된다. 이 수치들은 연속 도메인의 이미지 생성 레시피에서 나온 값이다.

둘째, 지표 비교의 전제가 바뀐다. 탐색은 학습 목적함수 자체를 바꾸므로 손실값을 탐색 수준이 다른 모델끼리 직접 비교할 수 없다. 저자들 스스로 이 때문에 FID와 FVD 같은 분포 지표와 정확도 같은 하류 지표가 더 중요해진다고 적었다. 학습 곡선의 손실을 비교 근거로 삼던 관행이 이 방법에서는 통하지 않는다는 뜻이다.

셋째, 가이던스와의 궁합이 아직 정리되지 않았다. 기존 가이던스 기법은 탐색을 염두에 두지 않고 설계됐기 때문에 이식이 균일하지 않았다. 오토가이던스는 괜찮게 작동했지만 무분류기 가이던스(CFG)는 기준 모델에서만큼 도움이 되지 않았고, 가이던스 없는 FID가 더 좋다는 점은 XM이 밀도 자체는 더 잘 포착한다는 것을 시사한다. 저자들은 탐색이 K개 후보와 그중 무엇이 최선이었는지라는 신호를 추가로 제공하므로, 이를 활용한 XM 전용 가이던스 설계를 가장 중요한 미해결 문제 중 하나로 꼽았다.

한계와 남은 문제

가장 큰 제약은 종단 XM이 봉우리가 매우 많은 분포를 다룰 때 나타난다. Forward XM은 K가 봉우리 수에 따라 커져야 하는데, 이미지 생성처럼 봉우리가 아주 많은 분포에서는 현재 비용이 감당되지 않는다. 저자들은 세계가 아직 컴퓨트 제약 아래 있는 동안에는 한 번의 모델 생성으로 임의로 많은 학습 데이터를 탐색할 수 있는 Reverse XM이 자연스러운 해법이라고 적었다.

Reverse XM에도 대가가 있다. 이 방식은 모드 탐색형이라 엔트로피 항이나 커버리지 제약이 없으면 붕괴한다. 논문은 Reverse XM 언어모델을 학습할 때 단순한 커버리지 제약이 이 엔트로피 항 역할을 했다고 밝혔다. 모델 자신의 생성물로 학습해 붕괴가 일어나지 않느냐는 질문에 대해서는, 학습 목표가 항상 실제 데이터이고 모델의 생성은 어떤 노이즈 입력이 어떤 데이터점과 짝지어질지만 정한다는 답이 제시됐다. Forward XM에서는 모든 데이터점이 학습 신호를 받으므로 데이터 분포의 어떤 부분도 누락될 수 없다.

적용 조건도 분명하다. 탐색은 모델이 탐색할 수 있는 잠재변수에 생성이 조건화돼 있을 때 도움이 된다. 확산 모델의 입력 노이즈가 그 예다. 연속 생성모델은 이미 노이즈에 조건화돼 있어 가장 쉽게 이득을 봤고, 마스크드 확산 언어모델(MDLM)은 탐색용 잠재변수 임베딩을 학습시켜 주자 이득을 봤다. K를 얼마로 잡을지에 대해서는 분포마다 봉우리 수가 다르므로 문제 의존적이며 파라미터와 데이터를 함께 어떻게 키울지를 연구해온 것처럼 더 연구가 필요하다는 것이 저자들의 입장이다.

논문의 코드는 github.com/alexiglad/XM에 공개돼 있다. 세 번째 축이라는 표현이 자리를 잡을지는 다른 연구진의 독립 재현과 더 큰 규모에서의 검증에 달려 있고, 특히 자기회귀 언어모델에서 의미 있는 이득이 나오는지가 이 방법의 적용 범위를 가르는 분기점이 된다.

출처: arXiv 2607.27372 "Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation"(Alexi Gladstone, Heng Ji, Yilun Du, 2026년 7월 29일 공개) 기반 ASAP 정리