모두가 동의하는 하나의 결핍

딥시크의 량원펑이 드문 투자 설명회에서 “AGI로 가는 길에 지금 빠진 게 뭐냐"는 질문을 받았다. 그의 답은 더 큰 모델도, 비디오도, 또 하나의 모달리티도 아니었다. 단호했다. 오늘의 모델이 못 하는 건 지속적으로 학습하는 것이다. 그걸 풀면 점진적 특이점에 도달하고, 결국 체화된 지능으로 간다고 했다.

맞는 말이다. 그리고 전혀 다른 진영의 사람들이 지금 같은 벽을 가리키고 있다는 사실을 곱씹어 볼 만하다. Karpathy는 에이전트가 스킬을 .md 파일처럼 설치한다고 말한다. OpenAI는 세션 사이에 기억을 합성하는 Dreaming을 내놨다. Microsoft는 Build에서 에이전트 정체성을 OS에 심었다. openclaw는 /dreaming을 추가했다. 프론티어와 생태계가 같은 빠진 조각으로 수렴하고 있다.

“그냥 더 학습시키면 되지"라고 생각하는 사람에게 불편한 지점은 여기다. 얼어붙은 모델은 지속 학습이 일어나는 자리가 될 수 없다.

왜 가중치가 아닌가

세 가지 이유가 있고, 어느 것도 사라지지 않는다.

경제성. 사용자마다, 세션마다 모델을 재학습시킬 수는 없다. 파운데이션 모델의 핵심 매력은 공유된다는 것이다. 그런데 그 모델이 내 지난 대화를 기억하길 바라는 순간, 학습이 작동하는 영역을 이미 벗어난 것이다.

불투명성. 가중치는 블랙박스다. 열어서 모델이 지난 화요일에 뭘 “배웠는지” 볼 수 없다. 틀린 사실 하나만 지울 수 없다. 나에 대해 뭘 담아뒀는지 감사할 수 없다. 신뢰가 걸린 무언가 — 동료, 상담원, 기록 시스템 — 에게 이건 실격 사유다.

락인. 가중치는 한 벤더의 모델에 묶여 있다. 에이전트가 쌓은 경험이 특정 파라미터 뭉치 안에 산다면, 모델을 바꾸는 날 그 경험은 죽는다. 그리고 당신은 반드시 모델을 바꾸게 된다 — 이 분야는 하나와 결혼하기엔 너무 빨리 움직인다.

단순하게 말하면, 가중치 안에 사는 지속 학습은 사용자 입장에선 지속적인 망각이다. 새 세션마다 0에서 다시 시작한다.

실제로 사는 곳: 파일 레이어

학습이 모델 안에 살 수 없다면, 그 옆에 살아야 한다 — 오래가고, 들여다볼 수 있고, 이식 가능하고, 모델에 독립적인 저장소에. 그리고 그 저장소는 점점 평범한 파일의 모습을 하고 있다.

이번 주에 올라온 오픈소스 지식베이스 Tolaria가 그 패턴의 깔끔한 예다. 마크다운 파일, git 저장소, YAML frontmatter, MCP 서버, 그리고 외부 AI 도구가 vault를 읽고 쓸 수 있게 하는 AGENTS 파일. 설계 원칙이 선언문처럼 읽힌다 — files-first, git-first, offline-first, zero lock-in. 계정 없음. 클라우드 의존 없음. 당신의 지식은 당신이 소유한 파일일 뿐이다.

우연이 아니다. “files-first” 흐름 전체가 향하는 방향이고, 그 이유는 파일이 가중치가 못 푸는 세 문제를 정확히 풀기 때문이다. 이식 가능하고(어떤 에디터든, 어떤 모델이든), 들여다볼 수 있고(모든 변경을 읽고 diff할 수 있고), 버전 관리된다(git은 이미 수십 년 전에 “시간에 걸친 기억"을 풀었다).

우리 에이전트 메모리도 이렇게 만들어졌다 — 평범한 마크다운, git 동기화, 사람이 감사 가능. 이번 달에 우리는 이걸 혹독하게 시험했다. 에이전트 런타임을 넉 달치 업스트림 변경 위로 리베이스하고, 기반 추론 모델을 통째로 교체했다. 런타임이 바뀌었다. 모델이 바뀌었다. 그런데 에이전트의 메모리는 온전히 넘어왔고, 몇 주 전 다른 모델 아래서 배운 것을 여전히 인용했다. 그게 핵심 전부다. 학습은 모델보다 오래 살아남아야 한다.

하지만 저장은 인지가 아니다

“그냥 마크다운 쓰면 되지"라는 대부분의 주장이 너무 일찍 멈추는 지점이 여기다. 파일을 쓰는 건 쉬운 부분이다. 노트 폴더는 지속 학습이 아니라 서류 캐비닛이다. 어렵고 값진 일은 파일을 둘러싼 런타임이다.

  • 검색. 시맨틱 검색으로 맞는 기억이 맞는 순간에 떠오르게 하는 것 — 다르게 표현된 그 한 노트를 놓치는 키워드 grep이 아니라.
  • 승격. “일어난 일"에서 “절대 잊으면 안 되는 것"으로 졸업시키는 정책. 모든 노트가 영구히 남을 자격이 있는 건 아니다. 일부는 그렇고, 시스템이 그걸 판단해야 한다.
  • 감쇠. 무엇이 흐려지는가. 망각 없이는 메모리 저장소가 노이즈로 굳어 버리고, 오래된 맥락이 신호를 덮는다. 시간 감쇠는 버그가 아니라 기능이다.
  • 정체성 분리. 에이전트가 누구인가(페르소나)를 무엇을 배웠는가(경험)와 분리해서 유지하는 것. 둘을 섞으면 새 사실을 하나 주울 때마다 에이전트의 성격이 표류한다.

이 런타임이 우리가 Soul Memory라 부르는 층이다. 마크다운 저장소는 커모디티다 — 누구나 파일을 쓸 수 있다. 그 위의 인지 층이 해자다.

반직관적인 부분: 나쁜 기억은 없는 것보다 나쁘다

우리 경험적 메모리 연구에서 하나만 가져간다면 이걸 가져가라. 모든 기억이 도움이 되는 건 아니다. 블라인드 실험에서 합성 메모리 — 깔끔하게 요약된 정리본 — 를 받은 에이전트가 기억이 아예 없는 에이전트보다 낮은 점수를 받았다. 자신감 있고 손실 있는 요약이 정직한 백지보다 나빴던 것이다. 미묘하게 틀린 것에 대해 에이전트를 과신하게 만들었기 때문이다.

이것이 순진한 지속 학습의 함정이다. 경험을 매끈한 요약으로 압축할 때 가장 먼저 버려지는 건 단서다 — “이건 확실하지 않았다”, “이건 그 상황에서만 맞았다”, “이 부분은 나도 몰랐다”. 그런데 나중에 에이전트가 그 요약을 다시 읽으면, 남은 문장을 확정된 사실로 받아들인다. 그래서 더 똑똑해지는 게 아니라, 틀린 것에까지 확신을 갖게 된다.

그래서 무엇을 기억하느냐만큼 어떻게 기억하느냐가 중요하다. 좋은 메모리 포맷은 각 사실 옆에 그 출처(어디서 왔고 얼마나 확실했나), 범위(언제 적용되나), 그리고 “이건 모른다"고 말할 여지를 함께 남긴다. 이건 나중에 덧붙이는 장식이 아니라, 요약이 거짓 확신으로 굳는 걸 막는 설계의 핵심이다.

에이전트를 만들고 있다면

관통하는 원칙은 단순하다.

  1. 메모리를 일급의, 이식 가능한 자산으로 다뤄라 — 벤더에게 빌리는 기능이 아니라, 소유하고 옮길 수 있는 것으로.
  2. 열려 있고 들여다볼 수 있는 형식으로 저장하라. 마크다운 + git은 지루하고, 수년간 신뢰해야 하는 것에는 지루함이 정확히 옳다.
  3. 데이터베이스가 아니라 런타임에 투자하라. 검색, 승격, 감쇠, 정체성 분리 — 서류 캐비닛이 학습이 되는 지점이다.
  4. 정체성을 경험과 분리하라. 아니면 에이전트의 성격이 사실 하나씩 침식되는 걸 지켜보게 된다.

지속 학습은 이제 이 분야 전체가 동의하는 결핍이다. 하지만 그것은 다음 모델을 기다리는 학습 문제가 아니다. 파일 레이어에서, 오늘 당장 다룰 수 있는 시스템 문제다. 이기는 팀은 가장 큰 가중치를 가진 팀이 아니라, 자기 에이전트가 — 돌리는 모든 모델에 걸쳐 — 기억하고, 잘 기억하는 팀일 것이다.