AI가 한국어 질문에 중국어를 섞는 것은 사고 과정이 새어 나온 결과다

추론 모델이 한국어 질문에 중국어를 섞어 답하는 현상에는 언어 혼합(language mixing)이라는 이름이 이미 붙어 있다. 딥시크는 R1 논문(arXiv:2501.12948)에서 R1-Zero가 하나의 사고 과정 안에 영어와 중국어를 섞었다고 적었고 기반 모델인 딥시크 V3의 학습 데이터가 대부분 중국어와 영어인 점을 원인 후보로 지목했다. 보쉬 AI 센터와 뮌헨대 연구진이 낸 후속 연구(arXiv:2505.14815)는 15개 언어와 7단계 난이도와 18개 주제에 걸쳐 이 현상을 체계적으로 조사한 첫 작업이다. ASAP은 두 논문 원문을 직접 열어 언어 혼합이 왜 생기는지와 증류가 그 습관을 어떻게 퍼뜨리는지를 2026년 기준으로 정리한다.

언어 혼합은 어떤 현상인가

언어 혼합은 모델이 답을 내기 전에 작성하는 사고 과정에 프롬프트와 다른 언어의 토큰이 섞여 들어가는 현상이다. arXiv:2505.14815 연구진은 이를 추론 언어 모델이 하나의 언어로 질문받고도 여러 언어가 섞인 추론 단계를 만들어 내는 것으로 규정했다.

핵심은 이 현상이 최종 답이 아니라 사고 과정에서 일어난다는 점이다. 추론 모델은 답하기 전에 스스로 긴 풀이를 만들어 내고 그 풀이를 근거로 답을 확정한다. 연구진이 논문 첫 그림에 실은 예시는 영어로 추론을 시작한 모델이 중간에 중국어로 넘어갔다가 다시 영어로 돌아와 답을 내는 장면이다. 사용자가 보는 최종 답은 멀쩡한데 그 뒤편이 여러 언어로 짜인 경우가 있다는 뜻이다.

딥시크 R1 논문은 같은 현상을 읽기 나쁨과 언어 혼합이라는 두 문제로 묶어 서술했다. 논문 표현으로 R1-Zero는 뛰어난 추론 능력을 보였지만 하나의 사고 사슬 응답 안에서 영어와 중국어를 이따금 결합하는 문제를 안고 있었다.

왜 하필 중국어와 영어가 섞이나

섞이는 언어가 중국어와 영어인 이유는 그 모델이 그 두 언어를 압도적으로 많이 봤기 때문이다. 딥시크 R1 논문은 딥시크 V3 베이스의 학습 데이터가 대부분 중국어와 영어이며 언어 일관성 보상이 없을 때 이것이 R1-Zero 언어 혼합의 원인일 수 있다고 명시했다.

이 설명은 아무 언어나 무작위로 튀어나온다는 인상과 다르다. 모델은 자기가 가장 익숙한 표현 공간으로 미끄러지고 그 공간이 어떤 언어로 채워져 있느냐는 학습 데이터가 결정한다. 중국 기업이 만든 모델에서 중국어가 새는 것은 국적의 문제라기보다 데이터 구성의 결과에 가깝다.

같은 논리는 방향을 바꿔도 성립한다. arXiv:2505.14815 연구진이 15개 언어를 대상으로 조사한 결과 혼합은 중국어와 영어 사이에서만 일어나는 일이 아니었다. 영어가 아닌 언어로 질문했을 때 모델이 추론 도중 영어로 넘어가는 사례도 관찰 대상에 포함됐다. 한국어로 물었을 때 영어가 섞여 나오는 경험이 같은 현상의 다른 얼굴이다.

AI 모델 증류란 무엇인가

AI 모델 증류는 큰 모델이 만들어 낸 사고 과정을 학습 데이터로 삼아 작은 모델을 가르치는 방법이다. DeepSeek-R1은 이 방식으로 작은 모델 6개를 만들어 공개했다. 딥시크는 더 낮은 에너지 비용으로 강력한 AI에 폭넓게 접근할 수 있도록 여러 작은 모델을 증류해 공개했다고 밝혔고 그 증류 모델들이 원래의 지시 조정 모델보다 나은 추론 성능을 보인다고 적었다.

무엇을 먹였는지가 중요하다. 논문은 증류에 쓴 데이터를 800K 지도 데이터로 부르며 R1의 1차 강화학습 체크포인트에서 거절 샘플링으로 추론 궤적을 뽑아 만들었다고 설명한다. 즉 작은 모델이 배운 것은 정답만이 아니라 정답에 이르는 사고 과정 자체다.

바탕이 된 모델 목록을 보면 이 이야기가 왜 남의 일이 아닌지 드러난다.

증류 모델	바탕 모델
DeepSeek-R1-Distill-Qwen-1.5B	Qwen2.5-Math-1.5B
DeepSeek-R1-Distill-Qwen-7B	Qwen2.5-Math-7B
DeepSeek-R1-Distill-Qwen-14B	Qwen2.5-14B
DeepSeek-R1-Distill-Qwen-32B	Qwen2.5-32B
DeepSeek-R1-Distill-Llama-8B	Llama-3.1-8B
DeepSeek-R1-Distill-Llama-70B	Llama-3.3-70B-Instruct

여섯 개 가운데 두 개는 메타의 라마를 바탕으로 한다. 알리바바 Qwen과 메타 Llama라는 서로 다른 계보의 모델이 딥시크 R1의 사고 과정을 학습 데이터로 받아 간 것이다.

여기서부터는 ASAP의 해석이다. 논문은 증류 모델이 언어 혼합을 물려받는다고 적지 않았다. 다만 증류가 사고 과정 자체를 베껴 학습시키는 방법이고 그 사고 과정에 영어와 중국어가 섞여 있었다면 언어 습관이 함께 옮겨 가는 경로가 구조적으로 열려 있다. 중국 기업 모델이 아닌데도 중국어가 보이는 사례를 이 경로로 설명해 볼 수 있다는 뜻이며 논문이 측정한 사실은 아니다.

언어 혼합을 막으면 성능이 떨어지나

딥시크는 언어 혼합을 줄이는 대가로 성능이 조금 떨어진다는 사실을 R1 논문(arXiv:2501.12948) 부록 B.6에 그대로 적었다. 딥시크가 도입한 언어 일관성 보상은 사고 과정에서 목표 언어 단어가 차지하는 비율로 계산되며 수식으로는 목표 언어 단어 수를 전체 단어 수로 나눈 값이다.

논문은 부록 B.6의 절제 실험에서 이런 정렬이 모델 성능의 미세한 저하를 낳는다는 것을 보였다고 밝히면서도 이 보상이 사람의 선호에 맞고 읽기 쉬워진다는 이유로 채택했다고 적었다. 성능을 조금 내주고 읽기 편한 답을 산 셈이다.

이 대목은 모델 개발이 순수한 성능 경쟁이 아니라는 점을 보여준다. 사용자가 이해할 수 없는 사고 과정은 더 정확하더라도 제품으로 성립하기 어렵다. 딥시크는 그 판단을 논문에 숨기지 않고 적어 두었다.

문자를 묶으면 정확도가 오른다는 연구는 앞의 결과와 무엇이 다른가

arXiv:2505.14815 연구진은 추론을 라틴 문자나 한자로 묶는 제약 디코딩이 정확도를 눈에 띄게 높인다고 보고했다. 앞선 딥시크 결과와 방향이 반대로 보이지만 두 실험이 강제한 대상이 서로 다르다.

개입	무엇을 강제했나	보고된 결과	출처
언어 일관성 보상	사고 과정의 단어를 프롬프트 언어에 맞춤	혼합 감소 · 성능 미세 저하	딥시크 R1 논문
제약 디코딩	사고 과정을 라틴 문자나 한자로 묶음	정확도 뚜렷한 향상	arXiv:2505.14815

딥시크는 질문한 언어가 무엇이든 그 언어로 생각하게 만들었고 연구진은 언어가 아니라 문자 체계 단위로 묶었다. 한국어 질문에 한국어로만 생각하라고 요구하는 것과 라틴 문자로 일관되게 생각하라고 요구하는 것은 모델에게 전혀 다른 제약이다. 두 결과를 모순으로 읽으면 안 되는 이유가 여기 있다.

연구진이 제시한 더 깊은 관찰은 사고 과정의 문자 구성이 모델 내부 표현의 문자 구성과 밀접하게 일치한다는 것이다. 논문은 이를 언어 혼합이 추론 언어 모델의 잠재된 처리 선호를 반영한다는 근거로 읽었다. 겉으로 실수가 샌 것이 아니라 안에서 그 문자로 굴러가던 것이 그대로 드러난 쪽에 가깝다는 해석이다.

한국어로 쓰는 사람이 지금 할 수 있는 것

한국어 사용자는 사고 과정을 통제하려 하기보다 최종 답의 언어만 지정하는 편이 낫다. 딥시크 R1 논문과 arXiv:2505.14815가 각각 보고한 결과가 그렇게 가리킨다. 두 논문의 결과를 합치면 사고 과정을 억지로 한 언어에 묶는 개입이 공짜가 아니기 때문이다.

최종 답변의 언어를 프롬프트에 명시한다. 사고 과정이 어떤 언어로 흐르든 답만 한국어로 받으면 실무에는 지장이 없다.
사고 과정에 다른 언어가 보여도 오작동으로 간주하지 않는다. 답이 맞는지를 기준으로 판단한다.
사고 과정을 그대로 사용자에게 노출하는 제품을 만든다면 언어 일관성을 별도로 처리한다. 딥시크가 성능을 내주고 읽기 쉬움을 택한 것과 같은 결정을 해야 한다.
증류 모델을 도입할 때는 어떤 모델의 사고 과정으로 학습됐는지 확인한다. 바탕 모델의 이름만으로는 그 모델이 무엇을 배웠는지 알 수 없다.

이 설명이 아직 닿지 않는 곳

arXiv:2501.12948과 arXiv:2505.14815가 관찰한 대상은 추론 모델이며 모든 모델에서 같은 비율로 언어 혼합이 일어난다고 말할 근거는 없다. 사고 과정을 길게 쓰는 구조 자체가 이 현상의 전제이기 때문이다.

증류가 언어 습관을 옮긴다는 설명도 아직 측정된 사실이 아니다. 딥시크 논문은 증류 방법과 바탕 모델 목록을 밝혔을 뿐 증류 모델의 언어 혼합 빈도를 따로 보고하지 않았다. 바탕 모델별로 혼합이 얼마나 다른지를 재는 작업은 남아 있는 숙제다.

ASAP이 이 글에서 직접 확인한 것은 두 논문의 원문이며 자체 측정은 하지 않았다. 참고로 웹 요약 도구 하나는 arXiv:2505.14815의 결론을 제약 디코딩이 정확도를 떨어뜨린다는 반대 방향으로 옮겨 놓았다. 초록 원문은 정확도를 눈에 띄게 높인다고 적혀 있다. 논문을 다루는 글에서 요약본만 보고 쓰면 결론이 뒤집힐 수 있다는 사례로 남겨 둔다.

출처는 딥시크 R1 논문(arXiv:2501.12948)과 Language Mixing in Reasoning Language Models(arXiv:2505.14815)이다.