지속형 AI 에이전트는 정확도가 중요하면 롱컨텍스트, 비용이 중요하면 사실 기반 메모리가 유리합니다. 2026년 3월 논문은 100k 토큰 기준 약 10턴이 지나면 메모리 방식이 더 저렴해진다는 손익분기점을 제시했습니다. ASAP은 이 논문을 원문 기준으로 정리합니다.

정확도: 사실 회상은 롱컨텍스트가 앞선다

사실 회상 정확도에서는 롱컨텍스트 GPT-5-mini가 LongMemEval과 LoCoMo 벤치마크에서 메모리 방식을 앞섭니다. 반면 Mem0 메모리 시스템은 PersonaMemv2에서 경쟁력을 보였고, 안정적인 사실 속성에 기반한 페르소나 일관성에서 강했습니다.

비용: 두 방식의 구조가 다르다

두 방식의 비용 구조는 롱컨텍스트의 증가형과 Mem0 메모리의 고정형으로 근본부터 다릅니다. 롱컨텍스트 추론은 캐싱을 켜도 컨텍스트가 길어질수록 턴당 비용이 늘어납니다. 메모리 시스템은 초기 쓰기 단계를 지나면 턴당 읽기 비용이 거의 고정됩니다.

손익분기: 100k 토큰에서 약 10턴

비용 손익분기는 100k 토큰 기준 약 10턴이 지나는 시점에서 발생합니다. 100k 토큰 기준으로 약 10번의 상호작용을 넘기면 메모리 시스템이 더 저렴해집니다. 그리고 컨텍스트가 길수록 이 손익분기점은 더 빨리 찾아옵니다.

의미: 선택 기준이 생겼다

롱컨텍스트와 Mem0 메모리 중 무엇을 쓸지 고를 구체적 기준을 이 논문이 제시합니다. 짧은 대화에서 높은 정확도가 필요하면 롱컨텍스트가 맞습니다. 길고 반복되는 운영에서 비용이 중요하면 사실 기반 메모리가 맞습니다.

정리

Beyond the Context Window 연구는 롱컨텍스트와 사실 기반 메모리의 정확도와 비용을 100k 토큰 기준으로 정량 비교했습니다. 핵심은 롱컨텍스트의 회상 우위, 메모리의 고정 비용, 100k 토큰에서 약 10턴이라는 손익분기입니다. 지속형 에이전트의 설계는 정확도와 비용의 절충에서 갈립니다.

출처: Beyond the Context Window: A Cost-Performance Analysis of Fact-Based Memory vs. Long-Context LLMs for Persistent Agents (arXiv:2603.04814, 2026년 3월 5일; Natchanon Pollertlam, Witchayut Kornsuwannawit) 기반 ASAP 정리.