어제 고쳐준 내용을 에이전트가 오늘 다시 틀린다면 저장된 정보를 확인할 필요가 있다. 새 세션에 그 내용이 전달되지 않았을 수도 있고, 전달됐지만 오래된 지시와 섞였을 수도 있다. 대화 로그가 남아 있다는 것만으로 필요한 기억이 유지되는 것은 아니다.
로그 검색은 도움이 된다. 다만 “이 고객은 이제 PDF 대신 전자 세금계산서를 받는다”는 변경이 생겼을 때, 이전 대화와 새 대화를 함께 찾아주는 것만으로는 부족하다. 현재 적용할 사실이 무엇인지 구분해야 한다.
사건, 사실, 절차는 다르게 저장한다
업무에서 기억할 내용은 성격에 따라 나눠볼 수 있다. 배포가 특정 단계에서 실패했다는 내용은 날짜가 있는 사건이다. 고객의 현재 청구 주기는 갱신되는 사실이다. 환불 처리 순서는 따라야 할 절차다.
사건은 과거 기록으로 보존할 수 있다. 현재 사실은 변경 근거와 적용 시점을 남기며 갱신한다. 절차는 성공한 실행뿐 아니라 예외와 실패 조건도 반영해야 한다. 세 가지를 같은 방식으로 누적하면 과거 기록과 현재 지시를 구분하기 어려워진다.
반드시 별도 데이터베이스 세 개가 필요한 것은 아니다. 파일을 쓰더라도 기록의 종류와 적용 시점이 명확하면 작은 규모에서 시작할 수 있다.
저장할 때 결정해야 할 것
무엇을 장기 기억으로 남길지 먼저 정한다. 사용자가 확인한 선호, 반복해서 필요한 업무 규칙, 검증된 결과가 후보가 된다. 모델이 추정한 내용을 사용자에게 확인한 사실처럼 저장하면 다음 작업에서도 그 추정이 반복된다.
새 정보가 기존 정보와 충돌할 때의 처리도 필요하다. 최신 발언이라고 무조건 덮어쓸 수는 없다. 어느 대상에 대한 이야기인지, 일시적인 예외인지, 기존 규칙을 바꾸는 결정인지 함께 확인해야 한다.
Mem0 연구는 대화에서 중요한 정보를 추출하고 기존 기억과 비교해 갱신하는 접근을 다룬다. 제품마다 구현은 다르지만, 원문을 저장하는 단계와 다시 사용할 사실을 정리하는 단계를 구분한다는 점을 참고할 수 있다.
기억을 꺼낼 때도 범위를 정한다
장기 기억을 매번 전부 넣으면 관련 없는 내용이 현재 작업에 섞인다. 필요한 항목만 가져오고 원문이나 근거로 돌아갈 수 있게 하는 편이 낫다. Anthropic의 컨텍스트 설계 글도 외부 저장소에 정보를 유지하고 필요할 때 불러오는 방식을 설명한다.
삭제와 만료도 운영에 포함된다. 폐지된 정책은 역사로 남길 수 있지만 현재 지시로 계속 검색돼서는 안 된다. 더 이상 보관할 필요가 없는 개인정보와 일시적인 작업 정보는 보존 기간에 맞춰 정리한다.
메모리 기능을 점검할 때는 “저장됐는가” 다음까지 봐야 한다. 새 세션에서 필요한 사실을 찾는지, 변경된 규칙을 적용하는지, 폐기된 내용을 다시 꺼내지 않는지를 확인한다. 이 과정이 있어야 대화가 쌓이는 만큼 반복 설명도 줄어든다.