챗GPT의 바탕이 된 연구를 만든 사람이 문자열을 버린 모델 Jev를 내놨다

TypeSafe AI는 2026년 9월 15일 문자열 대신 타입이 정해진 결정과 보정된 확률만 내놓는 모델 Jev를 얼리 액세스로 공개했다. 창업자 Diogo Almeida는 오픈AI(OpenAI)에서 언어 모델이 지시를 따르고 사람과 대화하게 만든 방법론을 함께 만들었고 그 작업이 챗GPT의 바탕이 된 연구로 이어졌다고 밝혔으며, 2년의 스텔스 기간을 거쳐 이번 모델을 내놨다. Jev의 입력 가격은 100만 토큰당 0.042달러이고 출력 토큰은 무료이며, 회사는 응답 시간을 70밀리초에서 500밀리초 사이로 제시했다. ASAP은 이 발표에서 새 모델의 성능보다 자동화의 병목을 어디로 옮겼는지를 먼저 본다.

문자열을 포기한 대가로 타입 오류를 없앴다

TypeSafe AI가 정의한 System One 모델의 핵심은 출력 형식을 미리 못 박는다는 데 있다. 가능한 출력과 구조가 사전에 정의되므로 모델은 타입 오류를 내지 않으며, 모든 답에는 보정된 확률과 확신도가 함께 붙는다. 회사는 Jev를 프론티어 지능을 담은 함수 호출로 설명하면서 비정형 상태를 넣으면 타입이 정해진 확률적 결정이 나온다고 적었다.

기존 LLM과의 대비는 회사가 표로 정리해 뒀다. 기존 모델은 사람의 선호를 최적화하는 RLHF와 검증 가능한 보상을 최적화하는 RLVR로 훈련되며 출력은 문자열이다. 문자열은 무엇이든 될 수 있어서 대화 응답과 코드뿐 아니라 환각과 거부, 나아가 타입이 맞는 구조값까지 나올 수 있고, 소프트웨어가 쓰려면 파싱과 검증을 거쳐야 하며 모델이 궤도를 이탈할 위험이 항상 남는다. Jev는 RLCD, 곧 보정된 결정을 위한 강화학습(Reinforcement Learning for Calibrated Decisions)으로 훈련되고 사전에 정의된 타입 안전 구조값만 내놓는다.

샘플링 방식도 갈린다. 기존 모델은 토큰을 하나씩 순차로 생성하며 각 토큰이 앞 토큰에 조건화된다. Jev는 단일 질의에서 모든 출력을 병렬로 생성한다. 회사는 이 병렬 샘플링을 속도와 비용 차이의 주된 원인으로 제시했고, 문자열을 포기한 것이 오히려 여러 이점을 준다고 적었다.

회사가 밝힌 한계도 같은 자리에 있다. Jev는 카디널리티 255까지 지원하며, 선택지가 그보다 많으면 독립적으로 점수를 매긴 뒤 명시적으로 고르는 2단계 방식을 쓴다. 위키레이싱 데모에서 이따금 속도가 떨어진 이유가 이 구조라고 회사는 설명했다.

자동화를 막던 것은 정확도가 아니라 모른다는 말을 못 하는 성질이었다

이번 발표에서 가장 논지가 뚜렷한 문장은 확신도에 관한 것이다. 회사는 모델이 확신도 추정을 요청받아도 과신하고 일관성이 떨어진다고 지적하면서, 어떤 작업을 95퍼센트 확률로 해내는 모델이 나머지 5퍼센트가 언제인지 말해 주지 못하면 그 작업은 자동화할 수 없다고 적었다.

이 문장이 겨누는 것은 모델의 지능이 아니라 소프트웨어의 구조다. 정확도 95퍼센트짜리 부품을 코드에 넣을 때 필요한 것은 나머지 5퍼센트를 없애는 일이 아니라, 그 5퍼센트를 식별해 사람에게 넘기는 경로다. 보정된 확률이 나오면 개발자는 임계값을 정해 언제 자동으로 실행하고 언제 검토를 요청할지 코드로 쓸 수 있다. 확률 없이 결정만 받으면 이 분기를 만들 재료 자체가 없다.

같은 이유로 환각과 타입 안전성이 하나의 문제로 묶인다. 회사는 후자가 자동화의 기본 요건이라고 보면서, 에이전트 안에서 환각된 도구 호출은 불편한 정도이지만 지연 시간을 보장해야 하는 시스템이나 의존 관계 몇 겹 아래에 묻힌 자리에서는 치명적이라고 적었다. 사람이 결과를 보는 자리에서는 이상한 출력이 눈에 띄지만, 자동화 파이프라인의 중간 단계에서는 잘못된 값이 조용히 아래로 흘러간다는 뜻이다.

444.6배라는 숫자를 어디까지 믿을지 회사가 먼저 적어 뒀다

TypeSafe AI 홈페이지의 헤드라인 수치는 193.6배 빠르고 444.6배 저렴하다는 것이다. 이 숫자의 출처와 한계를 회사가 직접 밝혀 놓았다는 점이 이번 발표의 특이한 대목이며, 그 단서를 빼고 헤드라인만 옮기면 정보가 절반쯤 사라진다.

회사가 적은 단서는 네 가지다. 첫째, 이 수치는 자사가 만든 워크플로 평가에서 나왔고 현실의 이득으로는 높은 쪽 끝에 해당한다고 회사 스스로 밝혔다. 둘째, 워크플로의 내용을 자사에 유리하게 고르거나 구성하지 않았고 훈련 분포에도 들어 있지 않지만, 자사 모델 역량 팀 구성원이 만들었으므로 편향이 있을 수 있다고 적었다. 셋째, 기준 정답을 GPT-6 Astra와 Fable 5.1의 평균으로 삼았기 때문에 답이 오픈AI와 앤스로픽(Anthropic) 모델 쪽으로 기울며, 자사와 딥시크(DeepSeek) 모델의 상대 성능은 과소평가됐을 것이라고 밝혔다. 넷째, 비교 대상 LLM은 자사의 System One LLM 래퍼로 구조화된 결정을 내도록 제약했으며 이 방식이 가장 정확하지만 더 느리고 비싸다고 적었다.

숫자 사이의 간격도 함께 봐야 한다. 회사가 공개한 사이드바이사이드 데모에서 TypeSafe 쪽은 0.000081달러에 0.114초, LLM 쪽은 0.013880달러에 8.566초로 표시된다. 이 두 쌍을 나누면 약 75배 빠르고 약 171배 저렴하다는 값이 나오며, 헤드라인의 193.6배와 444.6배와는 거리가 있다. 회사는 워크플로 평가의 호출이 데모보다 훨씬 복잡하고 실제 업무 자동화 부하에 가깝기 때문이라고 설명했다. 즉 두 숫자는 서로 다른 작업을 잰 값이며, 도입을 검토하는 쪽이 기대해야 할 값은 자기 워크플로의 복잡도에 달려 있다.

환각률 0퍼센트도 같은 방식으로 읽어야 한다. 회사는 이 값이 경험적으로 측정한 수치가 아니라 스키마 일치가 보장되므로 그래프에 0퍼센트를 넣을 수 있다는 뜻이라고 명시했다. 형식이 틀리지 않는다는 보장과 내용이 옳다는 보장은 다른 문제이며, 회사가 정직하게 구분해 둔 지점이다.

출력 토큰이 무료라는 가격표가 노리는 것

이번 가격표에서 눈에 띄는 항목은 출력 토큰이 무료라는 조항이다. 회사는 입력 100만 토큰당 0.042달러를 받고 출력은 계량하기에 너무 싸다고 적으면서, 기존 모델의 입력 가격 구간을 100만 토큰당 0.20달러에서 10달러로, 출력 가격을 입력의 약 5배로 제시했다. 홈페이지에는 클로드 Fable 5.1 대비 입력 가격이 238배 낮다고 적혀 있다.

출력을 무료로 두는 선택은 모델 구조와 맞물린다. 출력이 사전에 정의된 구조값과 확률이라면 길이가 입력에 비해 작고 상한도 정해진다. 문자열을 내놓는 모델에서 출력 토큰이 비싼 이유는 순차 생성이 그 자체로 연산이자 지연이기 때문인데, 병렬로 한 번에 내놓는 구조에서는 그 비용 구조가 성립하지 않는다. 가격표가 마케팅이 아니라 아키텍처의 그림자라는 뜻이다.

회사가 모델 이름을 고른 방식도 같은 방향을 가리킨다. 모델 클래스 이름은 대니얼 카너먼의 빠르고 직관적인 System 1 사고에서 왔고, 모델 이름 Jev는 윌리엄 스탠리 제번스에서 왔다. 회사는 증기기관의 효율 개선이 석탄 수요를 늘린 것처럼 지능 가격이 한 자릿수씩 떨어질 때마다 그만큼 더 많은 용례가 열린다고 적었다. 초당 10회 질의로 도는 Doom 데모가 시간당 약 7달러라는 계산이 이 주장의 예시로 제시됐다.

다만 지속성은 아직 증명되지 않았다. 회사는 가격을 투명하게 공개하지만 보조금이 아니라는 점은 증명할 수 없으며 장기적으로 확인해야 한다고 밝혔고, 가격이 내려가리라 기대한다고만 적었다. 얼리 액세스 단계의 가격표를 도입 결정의 고정 변수로 삼기 어려운 이유다.

국내 팀이 지금 재 볼 수 있는 것은 분류와 라우팅의 단가다

한국 서비스 기준으로 이 모델이 겨누는 작업은 분명하다. 회사가 제시한 용례는 분류와 라우팅, 점수화, 추출, 분기처럼 손으로 쓴 규칙이 너무 뻣뻣해지는 자리이며, 대규모 데이터를 특징과 통찰로 바꾸는 맵리듀스 작업과 100밀리초 수준의 실시간 응답이 필요한 자리, 그리고 LLM 프롬프트와 추론 흔적과 출력을 채점하고 판정하고 검증하고 탈옥을 탐지하는 자리다.

국내에서 이 목록과 가장 잘 겹치는 곳은 고객 문의 티켓 분류, 상품 카탈로그 정규화, 광고 소재 심사, 리뷰와 댓글 선별, 결제 이상 탐지처럼 건수가 많고 건당 판단이 짧은 업무다. 이런 업무의 비용은 건당 단가에 건수를 곱한 값이라 단가가 두 자릿수 배로 떨어지면 자동화 범위 자체가 달라진다. 지금까지 사람이 처리하던 구간이 경제성 때문에 남아 있었다면 그 경계선이 이동한다.

반면 이 모델로 대체할 수 없는 자리도 같은 정의에서 나온다. 문서 초안, 상담 응대, 코드 생성처럼 결과물이 문자열이어야 하는 작업은 대상이 아니다. 회사 스스로 기존 LLM의 용례로 사람이 중간에 확인하는 작업과 수학 증명이나 커널 최적화처럼 정답을 값싸게 검증할 수 있는 문제, 그리고 프로토타입을 꼽았다. 두 종류를 한 시스템 안에서 나눠 쓰는 설계가 현실적인 도입 형태이며, 판단이 필요한 곳에 LLM을 두고 반복되는 결정에 Jev를 두는 조합이 된다.

아직 답이 없는 항목

이번 공개에서 확인되지 않은 항목을 정리하면 판단의 여백이 분명해진다. 첫째, 매개변수 규모와 아키텍처의 구체적 형태는 공개되지 않았고 새 아키텍처와 새 샘플러라는 서술만 있다. 둘째, 공개 벤치마크 점수가 제시되지 않았으며 평가는 자사가 만든 워크플로 4개로 이뤄졌다. 셋째, 훈련 데이터의 출처는 자주 묻는 질문 항목으로만 걸려 있고 본문에서 설명되지 않았다. 넷째, 제공 형태가 얼리 액세스이고 대기자 명단 처리 속도는 밝혀지지 않았다.

그래서 지금 단계에서 유효한 검증 방법은 하나로 좁혀진다. 자기 업무에서 결정이 실제로 타입으로 표현되는지, 그리고 그 결정에 확률이 붙었을 때 자동 실행과 사람 검토를 가르는 임계값을 정할 수 있는지를 먼저 확인하는 일이다. 이 두 조건이 성립하지 않는 업무에서는 속도와 가격의 배수가 아무 의미를 갖지 못한다. 반대로 두 조건이 성립한다면 비교해야 할 대상은 기존 LLM의 API 가격이 아니라, 지금 그 판단을 처리하는 사람과 규칙 엔진의 비용이다.

출처: Introducing System One Models & Jev (TypeSafe AI, Diogo Almeida, 2026년 9월 15일)