Agent memory consolidation

Agent memory consolidation은 LLM agent가 대화, 관찰, 작업 기록을 장기적으로 다시 쓰기 좋은 형태로 압축하고 저장하는 과정입니다. 사람이 모든 대화 원문을 다시 읽을 수 없듯이, agent도 이전 맥락을 그대로 들고 다니기 어렵습니다. 그래서 중요한 내용을 뽑아 “사용자는 X를 선호한다”, “프로젝트는 Y 구조다”, “Alice의 권한은 admin이다”처럼 저장합니다.

이 과정은 유용하지만 위험합니다. 정리된 memory는 원문보다 짧고 검색하기 쉽지만, 원래 문장의 출처, 불확실성, 시간성이 사라질 수 있습니다. Manufactured Confidence 논문은 바로 이 지점을 문제 삼습니다. memory consolidation이 “아마 그렇다”는 말을 “그렇다”로 바꿔 저장하면, agent는 나중에 그 기억을 검증된 사실처럼 사용할 수 있습니다.

왜 consolidation이 필요한가

LLM agent는 긴 작업을 할 때 이전 상태를 기억해야 합니다.

• 사용자의 선호
• 프로젝트 구조
• 이전 결정
• 도구 실행 결과
• 장기적인 목표
• 반복되는 업무 절차

이런 정보를 매번 전체 transcript에서 찾으면 비용이 크고, context window도 금방 찹니다. 그래서 memory system은 대화를 요약하거나, entity/fact 형태로 추출하거나, vector store에 저장합니다.

예를 들어 원문 대화가 다음과 같다고 해봅니다.

사용자: 아마 다음 배포는 staging부터 해야 할 것 같아.

memory consolidation은 이것을 다음처럼 저장할 수 있습니다.

Deployment should start from staging.

표면적으로는 좋아 보이지만, 아마, 할 것 같아라는 불확실성이 사라졌습니다. 나중에 agent가 이 문장을 보면 확정된 운영 규칙처럼 받아들일 수 있습니다.

consolidation이 잃어버리기 쉬운 정보

1. Epistemic status

어떤 말이 확실한지, 추측인지, 소문인지, 임시 가정인지에 대한 상태입니다.

확정: Alice is admin.
추측: Alice is probably admin.
전언: Someone said Alice is admin.
미검증: Alice is recorded as admin, but this was not verified.

이 네 문장은 비슷한 사실을 가리키지만, agent가 의사결정에 써도 되는 정도는 다릅니다. consolidation이 이 차이를 지워버리면 위험합니다.

2. Source

누가 말했는지, 어느 시스템에서 온 정보인지, 권위 있는 출처인지에 대한 정보입니다. 다만 Manufactured Confidence 논문은 source만 보존하는 것으로 충분하지 않다고 말합니다. agent가 실제로는 source보다 표현의 확신도를 더 강하게 따를 수 있기 때문입니다.

3. Time

memory는 시간이 지나면 stale해질 수 있습니다. 예전에 맞았던 정보가 지금도 맞는 것은 아닙니다. 특히 권한, 가격, 일정, 조직 정보, API 상태처럼 변하는 정보는 timestamp와 재검증 절차가 필요합니다.

4. Original wording

원래 표현은 종종 가장 중요한 안전장치입니다. “아마”, “듯하다”, “누가 말했다”, “확인 필요” 같은 표현은 단순한 말투가 아니라 정보의 신뢰도를 나타냅니다.

좋은 memory consolidation의 원칙

1. 불확실성을 주장 안에 보존하기

나쁜 예:

Alice's clearance is admin.

좋은 예:

A user said Alice was probably promoted to admin; this was not independently verified.

중요한 점은 unverified라는 태그를 뒤에 붙이는 것만으로 충분하지 않다는 것입니다. 불확실성이 주장 자체에 들어가야 합니다.

2. 중요한 결정에는 두 번째 source를 요구하기

memory는 편의를 위한 단서로는 좋지만, 권한 부여, 결제, 배포, 삭제, 법적 판단처럼 결과가 큰 결정의 유일한 근거가 되면 안 됩니다. 이런 경우에는 권위 있는 database, git state, issue tracker, calendar, account system 등 별도 source를 확인해야 합니다.

3. timestamp와 freshness를 보존하기

“언제 알게 된 정보인지”를 저장해야 합니다. 시간이 중요한 정보라면 만료 정책도 필요합니다.

As of 2026-06-30, the project uses Quartz v4.

이렇게 쓰면 나중에 오래된 정보일 수 있음을 판단할 수 있습니다.

4. 원문 링크를 남기기

가능하면 memory record가 만들어진 원문 transcript, 문서, log, source URL을 참조해야 합니다. 원문으로 돌아갈 수 없으면 agent는 저장된 요약을 사실처럼 받아들이기 쉽습니다.

Wansook.World에 주는 시사점

이 개념은 개인 지식 그래프에도 그대로 적용됩니다. 좋은 지식 그래프는 단순히 결론만 저장하는 곳이 아니라, 결론이 어디서 왔고 얼마나 확실하며 언제 만들어졌는지를 함께 보존하는 시스템이어야 합니다.

특히 논문이나 리포트를 정리할 때는 원문과 공개 설명을 분리해 생각하는 것이 좋습니다. 원문은 가능한 한 손상 없이 보존하고, 공개 설명은 원문을 바탕으로 사람이 읽기 쉽게 다시 쓴 synthesis가 되어야 합니다. 불확실한 정보는 public fact처럼 단정하지 않고, 운영상 필요한 기록은 독자-facing 글과 분리하는 편이 안전합니다.

이 원칙은 agent memory에도 적용됩니다. memory record가 깔끔한 결론만 남기고 출처와 불확실성을 버리면, 나중에 agent는 그 결론을 실제보다 더 확실한 사실로 받아들일 수 있습니다.

헷갈리지 말아야 할 점

• consolidation은 나쁜 것이 아닙니다. 장기 agent에는 필요합니다.
• 문제는 consolidation이 불확실성을 제거하고 확신만 남길 때 생깁니다.
• source: 필드만 있으면 충분한 것도 아닙니다. agent가 source를 실제 판단에 쓰지 않을 수 있습니다.
• memory는 결정의 보조 단서이지, 중요한 결정의 단일 근거가 되어서는 안 됩니다.

관련 문서

• Manufactured Confidence
• 모델 아키텍처와 Agent Memory의 차이