큐빗 100개짜리 양자 푸리에 변환이 IBM 하드웨어에서 돌았다: 80큐빗 충실도 1.8%인데 정답이 나온 이유

큐컨트롤(Q-CTRL)이 2026년 8월 10일 공개한 실험 결과는 큐빗 100개 규모의 양자 푸리에 변환(QFT)을 156큐빗 IBM 헤론 r3 프로세서에서 실행해 정답 주파수를 최빈값으로 뽑아낸 것이다. 회사는 이를 지금까지 어떤 양자 하드웨어에서 수행된 QFT보다 두 배 큰 규모, 즉 레지스터 폭 기준 100% 증가라고 밝혔다. 핵심 기법은 보조 큐빗 하나를 쓰는 합성곱 QFT(Convolutional QFT) 컴파일 전략으로, n큐빗 QFT를 선형 최근접 이웃 위상에서 CX 게이트 n²-n+2개로 구현해 전연결 위상의 이론 최소치 n²-n에 근접했다. 50큐빗에서 유니터리 프로세스 충실도는 11.4%, 80큐빗에서는 1.8%였는데도 정답 비트열이 각각 8.4배와 7.5배 더 자주 나왔다. ASAP은 큐컨트롤 공식 발표와 저자들의 논문 arXiv 2608.05435를 1차 출처로 이 결과가 무엇을 증명했고 무엇은 증명하지 않았는지 나눈다.

정답이 최빈값으로 떠오른다는 것과 회로가 정확하다는 것은 다른 말이다

큐컨트롤이 보고한 성공 기준은 회로 전체의 정확도가 아니라 정답의 선택성이다. 50큐빗 실험에서 목표 비트열은 어떤 오답보다도 8.4배 자주 관측됐고, 같은 실험의 유니터리 프로세스 충실도는 11.4%였다. 80큐빗에서는 선택성이 7.5배로 소폭 낮아졌고 충실도는 1.8%로 떨어졌다. 100큐빗에서는 정답 정수 주파수가 배경 잡음 위로 뚜렷하게 솟은 유일한 최빈값으로 나타났다고 기술됐다.

두 지표가 이렇게 크게 어긋나는 이유는 측정하는 대상이 다르기 때문이다. 프로세스 충실도는 회로가 의도한 유니터리 변환을 얼마나 온전히 재현했는지를 재는 값이고, 선택성은 최종 측정 분포에서 정답이 오답을 얼마나 앞섰는지를 재는 값이다. 주기 추출처럼 답이 하나의 정수로 떨어지는 과제에서는 후자만 확보되면 답을 읽어낼 수 있다.

충실도 1.8%라는 값을 이 맥락에서 읽으면 다음과 같은 뜻이 된다. 회로를 통과한 양자 상태의 대부분은 잡음이지만, 남은 2% 미만의 신호가 특정 비트열 하나에 집중되어 있어서 나머지가 균등하게 흩어진 잡음보다 높이 솟는다. 답이 넓게 퍼지는 과제였다면 같은 충실도로는 아무것도 읽어내지 못했을 것이다.

하드웨어를 늘린 것이 아니라 컴파일을 바꾼 결과다

이번 기록의 출처는 새 프로세서가 아니라 회로를 기계에 옮겨 심는 방식이다. 논문 arXiv 2608.05435는 선형 최근접 이웃(LNN) 위상에서 n큐빗 QFT를 CX 게이트 n²-n개로 컴파일하는 방법을 제시하고, 합성곱 변형은 여기에 전체 두 개의 CX 게이트만 추가한다고 기술한다. 실행에 쓰인 장치는 156큐빗 IBM 헤론 r3이며, 100큐빗은 이 장치가 가진 큐빗의 3분의 2 수준이다.

합성곱 QFT의 구조는 보조 큐빗 한 개와 병진 대칭 커널 가젯의 조합이다. 큐컨트롤 설명에 따르면 회로 논리를 작은 커널로 압축한 뒤 이 커널이 큐빗 레지스터를 따라 순차적으로 이동하면서, 각 큐빗의 인과 이력에 들어가는 얽힘 게이트 수를 최소화한다. 게이트 수가 n²-n+2개라는 것은 전연결 위상에서만 도달 가능하다고 여겨지던 n²-n에 사실상 붙었다는 뜻이다. 실제 초전도 칩은 이웃끼리만 연결돼 있어 보통은 스왑 게이트가 추가로 필요하다는 점을 감안하면, 이 부분이 이번 결과의 기술적 핵심에 해당한다.

오류 억제는 네 갈래로 들어갔다. 커널이 레지스터를 따라 이동하는 동안 쉬고 있는 큐빗에는 끊김 없는 동적 결맞음 해제 시퀀스를 걸었고, QFT에서 각도가 가장 작은 회전들은 잘라내 알고리즘 합성 오차와 2큐빗 게이트 잡음 사이의 균형을 맞췄다. 여기에 알고리즘 연산과 오류 억제 시퀀스의 스케줄을 함께 최적화했고, 마지막으로 통계적 판독 오류 완화를 적용했다.

미세 회전을 잘라내는 결정이 규모를 열었다

가장 흥미로운 설계 선택은 QFT의 작은 회전들을 의도적으로 버린 대목이다. QFT의 회로에는 큐빗 간 거리가 멀어질수록 각도가 기하급수적으로 작아지는 제어 위상 회전이 들어간다. 수학적으로는 전부 필요하지만, 실제 장치에서 그 회전 하나를 구현하려면 2큐빗 게이트가 들어가고 그 게이트는 잡음을 싣는다.

여기서 교환 관계가 생긴다. 미세 회전을 남기면 알고리즘은 정확해지지만 잡음이 늘고, 잘라내면 알고리즘에 근사 오차가 생기지만 회로가 짧아진다. 큐빗 수가 늘어날수록 잡음 쪽 비용이 빠르게 커지므로 어느 지점부터는 잘라내는 편이 최종 결과를 낫게 만든다. 큐컨트롤이 밝힌 절단 기준은 이 균형을 맞추는 것이었다.

이 관점에서 보면 이번 실험은 양자 알고리즘 연구의 성격 변화를 보여주는 사례로 읽힌다. 교과서의 QFT를 그대로 하드웨어에 올리는 것이 목표가 아니라, 하드웨어의 잡음 구조를 알고 그에 맞춰 알고리즘을 깎는 것이 목표가 됐다. 고전 컴퓨팅에서 커널을 하드웨어 캐시 구조에 맞춰 다시 짜는 작업과 성격이 같다. 큐빗 수 경쟁으로 보도되는 분야에서 실제 진전의 상당 부분이 컴파일러 층에서 나오고 있다는 사실이 이번 결과에 잘 드러난다.

이 결과가 암호 해독과 얼마나 먼지 정확히 짚어야 한다

QFT가 쇼어 알고리즘의 핵심 부품이라는 사실 때문에 이런 소식은 흔히 암호 위협으로 번역되지만, 이번 결과와 RSA 해독 사이에는 최소 세 겹의 간격이 있다. 첫 번째는 회로의 나머지 부분이다. 쇼어 알고리즘에서 QFT는 마지막 주기 추출 단계이고, 그 앞에는 모듈러 지수화라는 훨씬 무거운 연산이 붙는다. 이번 실험은 그 앞 단계 없이 QFT 서브루틴만 따로 돌린 것이다.

두 번째는 오류 정정의 부재다. 보고된 방법은 동적 결맞음 해제와 판독 오류 완화 같은 오류 억제 기법이며, 논리 큐빗을 만들어 오류를 정정하는 층이 아니다. 프로세스 충실도가 80큐빗에서 1.8%까지 떨어졌다는 사실 자체가 이 회로가 정정되지 않은 물리 큐빗 위에서 돌았음을 보여준다.

세 번째는 성공 판정의 성격이다. 주기 추출은 정답이 최빈값으로만 나와도 성립하는 과제여서 낮은 충실도를 견디지만, 중간 결과를 다음 연산에 넘겨야 하는 구조에서는 같은 조건이 통하지 않는다. 다시 말해 이번 결과가 증명한 것은 폭이 넓은 회로를 실행해 통계적으로 읽을 수 있는 신호를 남길 수 있다는 것이지, 그 상태를 이어받아 계산을 계속할 수 있다는 것이 아니다.

한 가지 더 짚을 지점은 공개된 수치의 범위다. 프로세스 충실도는 50큐빗과 80큐빗에 대해서만 제시됐고, 기록의 주인공인 100큐빗에 대해서는 정답이 유일한 최빈값이었다는 서술만 있다. 규모가 커질수록 검증 자체가 어려워지는 것은 이 분야에서 자연스러운 일이지만, 100큐빗 결과를 앞의 두 수치와 같은 강도로 인용하면 과장이 된다.

국내에서 큐빗 수 발표를 읽을 때 확인할 것

국내 기업과 연구기관이 양자 컴퓨팅 발표를 검토할 때 이번 사례가 주는 실무적 시사점은 확인 항목의 순서를 바꾸라는 것이다. 첫 질문은 큐빗이 몇 개인가가 아니라 그 큐빗들이 하나의 회로에서 동시에 동작했는가가 되어야 한다. 156큐빗 장치에서 100큐빗을 한 회로에 묶었다는 진술과, 장치가 156큐빗을 탑재했다는 진술은 전혀 다른 정보다.

두 번째 질문은 성공을 무엇으로 정의했는지다. 프로세스 충실도 11.4%와 정답 선택성 8.4배가 같은 실험의 두 얼굴이라는 점은, 지표 하나만 인용된 발표를 그대로 믿기 어렵게 만든다. 발표문에 충실도가 없고 정답률만 있다면 어떤 과제에서 측정한 정답률인지 되물어야 한다.

세 번째는 하드웨어와 소프트웨어의 기여 분리다. 이번 기록은 IBM 장치 위에서 큐컨트롤의 컴파일과 오류 억제로 달성됐다. 도입을 검토하는 조직 입장에서 이는 하드웨어 조달만으로는 같은 결과가 나오지 않는다는 뜻이며, 제어 소프트웨어 층의 역량이 별도 평가 항목이 되어야 한다는 뜻이기도 하다. 양자 컴퓨팅 투자를 검토한다면 칩 사양표 옆에 컴파일 스택의 성능 근거를 나란히 요구하는 편이 실효적이다.

남은 조건과 검증되지 않은 부분

이 결과가 서 있는 첫 번째 조건은 과제의 성격이다. 실험이 다룬 것은 고차원 양자 상태의 주기를 추출하는 과제이며, 정답이 정수 하나로 떨어지기 때문에 최빈값 판정이 성립한다. 다른 유형의 QFT 응용에서 같은 규모가 재현된다는 보장은 이 실험만으로 나오지 않는다.

두 번째 조건은 장치 의존성이다. 합성곱 QFT는 선형 최근접 이웃 위상을 전제로 설계됐고 실행은 IBM 헤론 r3에서 이뤄졌다. 이온 트랩처럼 연결 구조가 다른 하드웨어에서는 게이트 수 이점의 크기가 달라진다.

세 번째는 비교 대상의 범위다. 지금까지의 최대 QFT 대비 두 배라는 표현은 실험적으로 수행된 QFT 벤치마크를 기준으로 한 것이며, 레지스터 폭이라는 한 축의 비교다. 회로 깊이나 정확도 같은 다른 축에서 기존 기록이 어떠했는지는 이 진술에 포함되지 않는다. 논문은 2026년 8월 5일 제출됐고 저자는 폴 쿠트와 마이클 비어척, 유발 바움이다. 동료 심사를 거친 게재본이 아니라는 점도 인용 시 함께 밝히는 편이 정확하다.

출처: 큐컨트롤 공식 발표 Breaking the 100-qubit barrier: Executing the Quantum Fourier Transform at scale on IBM hardware(2026-08-10)·논문 arXiv 2608.05435 Experimental demonstration of the Quantum Fourier Transform on up to 100 qubits using a convolutional compilation strategy(2026-08-05) 기반 ASAP 정리.