Are we solving LLM memory by remembering more, when the real problem is knowing what to forget?[D]

Reddit이 자동 수집을 막아(OAuth 키 없음, Wayback 스냅샷 없음) RSS 피드에 실린 본문을 기준으로 옮겼어요. 댓글과 글에 달린 이미지·영상은 읽지 못했어요.

문제 제기

작성자 u/Prestigious-Tip6030은 이제 긴 컨텍스트 모델이 수십만, 수백만 토큰을 다루지만, 우리가 회상(recall)에만 집중하고 정보가 바뀔 때 일어나는 일은 소홀히 하는 것 아니냐고 물어요.

예시

코딩 에이전트가 API 타임아웃이 30초라고 읽었는데, 나중에 문서가 5초로 바뀌었어요. 두 버전 모두 컨텍스트에 있지만 에이전트는 계속 30을 써요. 잊은 게 아니라 아는 걸 갱신하지 않은 거예요.

구조별 차이

• Transformer와 RAG: 옛 정보와 새 정보가 함께 있고, 읽을 때 모델이 충돌을 풀어야 해요.
• 단순 선형 어텐션: 연관이 공유 상태에 쌓여서, 새것을 써도 기존 것이 꼭 지워지지 않아요.
• DeltaNet: 예측 오차 기반 갱신으로 이를 다루려 해요.
• BDH(Dragon Hatchling): 헤브식 시냅스 가소성으로 다른 길을 가요.

그래도 언제 갱신하고 언제 유지할지, 관련 없는 기억을 망치지 않으려면 어떻게 할지는 여전히 문제래요.

평가에 대한 질문

대부분 긴 컨텍스트 평가는 정보를 찾을 수 있는지만 봐요. 작성자는 대신 새롭고 모순되는 증거가 주어졌을 때 답을 바꾸면서도 이전에 참이던 것을 기억하는지 시험하자고 제안해요. 이게 기억 저장·갱신의 문제인지, 충돌 정보를 추론하는 문제인지, 그리고 이를 겨냥한 벤치마크가 있는지 물어요.