같은 지시를 어제도 했고 오늘도 한다. 에이전트가 어제 저지른 실수를 오늘 똑같이 반복하기 때문이다. 세션이 끝나는 순간, 방금 배운 맥락도, 방금 받은 교정도 전부 사라진다. 흔한 처방은 두 가지다. “컨텍스트 창을 더 키우자”, 아니면 “지난 대화를 전부 검색해서 넣자.” 둘 다 기억처럼 보이지만 기억이 아니다. 기억의 진짜 난점은 읽는 쪽이 아니라 쓰는 쪽에 있다.
컨텍스트 창은 기억이 아니다
컨텍스트 창은 작업대이지 서랍이 아니다. 세션이 끝나면 판이 통째로 치워진다. 그래서 많은 팀이 대안으로 채팅 로그를 벡터로 넣고, 요청이 오면 비슷한 대화를 끌어와 컨텍스트에 붙인다. 이건 로그 위의 RAG일 뿐이다. 어제 "이 고객은 세금계산서를 PDF로만 받는다"고 열 번을 말해도, 그 열 번의 원문이 검색될 뿐 하나의 사실로 굳지 않는다. 모순된 발언이 섞여 있으면 최신본이 이기지도 않는다. 읽어 올 데이터는 쌓이는데, 정작 '무엇이 참인지’는 아무도 정하지 않은 상태다.
기억은 세 종류다
인지과학은 오래전에 기억을 세 갈래로 나눴다(Tulving, 1972). 에이전트에 그대로 대응된다. 일화 기억(episodic)은 겪은 사건이다 — “지난주 이 배포는 마이그레이션에서 깨졌다.” 의미 기억(semantic)은 굳은 사실이다 — “이 고객의 청구 주기는 매월 1일.” 절차 기억(procedural)은 하는 법이다 — “환불은 이 순서로 처리한다.” 2025년 이후 상용 프레임워크가 놀랄 만큼 이 셋으로 수렴한 이유가 있다. 세 기억은 저장·갱신·인출 규칙이 서로 다르기 때문이다. 일화는 시점과 함께 쌓이고, 의미는 덮어써서 하나로 유지하고, 절차는 성공한 경로를 강화한다. 이걸 한 통에 몰아넣고 "메모리"라 부르면, 갱신 규칙이 충돌해 오래된 사실과 새 사실이 나란히 검색된다.
어려운 건 검색이 아니라 '쓰기’다
그래서 설계의 무게중심은 쓰기 경로로 옮겨간다. 쓰기에는 세 가지 결정이 매번 필요하다. 무엇을 저장할 것인가(대화 전체가 아니라 굳힐 만한 사실만), 어떻게 갱신할 것인가(새 사실이 옛 사실과 충돌하면 덮을지 합칠지 지울지), 언제 버릴 것인가(더는 참이 아닌 것을 잊는 것도 기능이다). Mem0는 대화에서 저장할 후보만 뽑아 추가·수정·삭제 중 하나로 정리하는 파이프라인을 둔다. MemGPT의 계보를 잇는 Letta는 아예 컨텍스트를 가상 메모리처럼 다뤄, 무엇을 상주시키고 무엇을 서랍으로 내릴지 모델이 직접 페이징하게 한다. 방향은 같다 — 읽기 전에 쓰기에서 정제한다. Anthropic도 2025년 9월 파일 기반 메모리 도구를 붙였고, 2026년 4월엔 세션을 넘어 학습이 이어지는 관리형 에이전트 메모리를 열며 쓰기마다 감사 로그를 남기게 했다. 회사가 밝힌 내부 에이전트 검색 평가에서 메모리와 컨텍스트 편집을 함께 쓰자 성능이 39% 올랐다. 읽어 오는 양을 늘려서가 아니라, 남길 것을 잘 남겨서다.
창업자를 위한 결정 규칙
혼자 사업을 자동화하는 사람에게 메모리는 곧 신뢰도다. 규칙 셋.
(1) '기억’을 만들기 전에 묻는다 — 이건 일화인가, 의미인가, 절차인가. 종류가 다르면 저장 통과 갱신 규칙도 달라야 한다. 하나로 뭉치지 마라.
(2) 읽기 경로부터 만들지 말고 쓰기 규칙부터 정한다. 무엇을 저장하고, 충돌 시 무엇이 이기고, 언제 지우는지. 이게 없으면 검색은 모순을 더 빨리 퍼올릴 뿐이다.
(3) 잊기를 기능으로 넣는다. 폐지된 정책, 떠난 고객, 바뀐 가격이 계속 검색되면 그건 기억이 아니라 오염이다.
에이전트를 똑똑하게 만드는 건 더 큰 컨텍스트도, 더 많은 로그도 아니다. 무엇을 남기고 무엇을 버릴지 매번 정하는 쓰기 설계다. 사람의 기억도 다 담아서가 아니라 잘 버려서 쓸모가 있다.