AI 에이전트 메모리 총정리: 길어질수록 무너지는 이유와 해법

AI 에이전트 메모리는 세션과 턴을 넘어 사실·중간 상태를 저장·갱신·복원·합성하는 지속 메커니즘으로, 신뢰성을 좌우하는 핵심은 더 똑똑한 단발 추론이 아니라 진화하는 상태를 정확히 유지하면서 비용과 보안 공격면을 함께 다스리는 설계입니다.

ASAP의 결론

에이전트 메모리의 본질은 '더 똑똑한 한 번의 추론'이 아니라 '진화하는 상태를 끝까지 들고 가는 설계'입니다. 첫째, 짧고 정확도가 중요하면 롱컨텍스트, 길고 비용이 중요하면 사실 기반 메모리 — 손익분기는 약 100k 토큰·10턴입니다. 둘째, 긴 작업 실패의 절반 이상은 추론이 아니라 상태의 손실·손상에서 옵니다. 셋째, 메모리를 쌓을수록 능력과 공격면이 함께 커지므로 쓰기·검색 단계의 보안 방어가 필수입니다. 결국 후반 턴의 상태 검증과 자기 압축이 다음 경쟁축입니다.

연구 흐름

2026-02
'좀비 에이전트': 자가진화 AI 에이전트는 한 번의 주입으로 영구 탈취된다
자기진화 에이전트는 공격자가 웹에 심은 단 한 번의 간접 주입이 장기 메모리에 기록돼 세션을 넘나들며 되살아나 무단 툴 호출을 일으킬 수 있습니다. 세션 단위 필터링으론 못 막습니다.
2026-03
롱컨텍스트 vs 사실 기반 메모리: 지속형 AI 에이전트의 설계 갈림길
롱컨텍스트는 사실 회상 정확도가 높지만 턴마다 비용이 늘어, 100k 토큰에서 약 10턴을 넘으면 사실 기반 메모리(Mem0)가 더 저렴해지는 손익분기가 생깁니다.
2026-06-19
AI 에이전트는 왜 11번째 단계에서 무너지나: 화려한 데모 뒤의 상태추적 벽
실제 캐글 노트북 68개(2,225턴, 평균 의존거리 11.3턴) 벤치마크에서 정확도가 후반에 약 47점 떨어졌고, 실패의 52~69%가 상태의 손실·손상에서 왔습니다. 최고 모델도 평균 48.45%에 그쳤습니다.
2026-06-22 · 최신
자기 압축 에이전트: LLM이 스스로 컨텍스트를 줄여 장기 작업을 버틴다
자기 압축 에이전트는 추론 시점 요약과 경량 루브릭만으로(파인튜닝 없이) 수학 최대 +18.1점, 검색 +5~9점을 올리면서 토큰을 30~70% 줄였습니다(6개 벤치마크·7개 모델).

아직 논쟁 중

정확도(롱컨텍스트)와 비용(사실 기반 메모리) 사이의 트레이드오프는 100k 토큰·약 10턴이라는 손익분기로만 정리될 뿐, 단일 정답은 없습니다.
메모리를 더 쌓을수록 에이전트는 똑똑해지지만 동시에 좀비 에이전트처럼 영구 탈취되는 공격면도 넓어집니다 — 능력과 안전이 정면으로 충돌합니다.
에이전트가 자신의 맥락이 언제 '썩었는지' 스스로 판단하지 못한다는 점과, 긴 작업에서 상태를 끝까지 못 들고 가는 붕괴는 아직 풀리지 않은 근본 한계입니다.

그래서 지금 뭘? 지속형 에이전트는 짧고 정확도가 중요한 작업엔 롱컨텍스트, 길고 비용이 중요한 작업엔 사실 기반 메모리를 쓰되, 메모리 쓰기·검색 단계의 보안 방어와 후반 턴의 상태 검증을 반드시 함께 넣으십시오.

갱신 로그
2026-06-29 · AI 에이전트 메모리 총정리 최초 빌드 — 4편 종합