AI 채팅에서 압축이란 뭘까요?
압축은 AI 시스템이 대화의 앞부분을 요약해서 그 요약으로 바꿔 넣는 거예요. 컨텍스트 윈도우에 공간이 생겨서 대화를 이어갈 수 있어요.
압축은 대화가 컨텍스트 한도에서 끝나게 두는 대신, 오래된 턴을 요약으로 압축하고 거기서부터 이어가요. Anthropic의 API 문서는 이 방식을 간단히 설명해요. 입력 토큰이 기준치에 닿으면 시스템이 이를 감지해 요약을 만들고, 그 이전의 모든 콘텐츠 블록을 버려요. Claude Code는 같은 아이디어를 직접 실행할 수 있는 명령어로 제공해요.
일반 소비자용 앱들은 이걸 제각각으로 처리하고, 이게 혼란의 주된 원인이에요. Claude는 유료 요금제에서 자동 컨텍스트 관리를 하지만, 코드 실행이 켜져 있을 때만 해요. Gemini 앱은 알려주지 않고 서버에서 슬라이딩 윈도우 압축을 해요. ChatGPT는 대신 분기 기능을 제공해서, 앞의 메시지에서 갈라져 새 예산을 가진 대화로 이어갈 수 있게 해요. 아무것도 안 하고 그냥 멈추는 비서도 여럿 있어요.
압축은 본질적으로 손실이 있어요. 뭐가 남을지는 전적으로 요약의 품질에 달려 있는데, 요약은 모델이 생각할 여유가 가장 적은 순간에 만들어져요. 그래서 직접 쓴 인수인계 메모가 자동 요약보다 중요한 걸 더 많이 지키는 경우가 많아요.
folk에서는 이렇게 작동해요
Folk는 구조화된 인수인계 요약으로 자동 압축해요. 가장 최근 턴은 지키고 아직 해결 안 된 일은 계속 추적해서, 긴 대화가 이음새를 느낄 틈 없이 이어져요.
자주 묻는 질문
ChatGPT는 대화를 자동으로 압축해요?
Claude Code 같은 방식으로는 아니에요. ChatGPT는 한도에서 대화를 멈추고, 대신 앞의 메시지에서 분기하는 기능을 제공해요. 그 시점까지의 기록을 가지고 새 대화를 시작하는 거죠.
압축하면 정보가 손실돼요?
네. 세부 사항은 설계상 버려지고, 요약은 모델이 쓸 수 있는 컨텍스트가 가장 적을 때 만들어져요. 압축 전에 중요한 숫자와 결정을 그대로 복사해두면 지킬 수 있어요.
압축을 직접 실행할 수 있어요?
Claude Code 같은 개발자 도구에선 네, compact 명령어로 할 수 있어요. 대부분의 소비자용 채팅 앱엔 직접 실행하는 기능이 없어서, 인수인계 요약을 써달라고 한 뒤 새 채팅에 붙여넣는 게 우회 방법이에요.