오픈AI, 'GPT-6.1 솔' 컨텍스트 길이 50만 토큰으로 대폭 상향

AI타임스 기사(박찬 기자)를 옮겼어요.

무엇이 바뀌었나

오픈AI가 '코덱스'와 '챗GPT 워크'에서 쓰는 GPT-6.1 솔의 기본 컨텍스트 길이를 27만 2천 토큰에서 50만 토큰으로 늘렸어요. 약 80% 확대예요. 오래 걸리는 작업에서 맥락 압축을 줄이고 복잡한 작업의 세부를 더 오래 유지하려는 조치예요.

티보 소티오 오픈AI 제품 책임자가 12일(현지시간) 공개했고, 오픈AI가 진행 중인 28일 연속 코덱스 개선 이벤트의 7일 차 업데이트예요.

We have increased default context length for GPT-6.1 Sol to 500k when used through Codex & Work, up from 272k or an ~ 80% increase.

왜 중요한가

컨텍스트 길이는 모델이 한 번에 참고하고 처리하는 정보의 양이에요. 길어지면 큰 코드베이스, 긴 대화, 여러 단계 작업에서 앞선 정보와 세부 조건을 더 많이 유지해요.

핵심은 압축(compaction) 빈도를 줄이는 거예요. 정보가 한도를 넘으면 기존 내용을 요약해 공간을 만들어야 하는데, 이때 중요한 세부나 미묘한 맥락이 빠질 수 있어요. 기본값이 커지면 압축이 덜 일어나 긴 작업의 연속성과 정확성이 좋아져요.

설정과 앞으로

소티오는 새 기본값이 충분히 시험한 끝에 "대부분 사용자에게 가장 적합한 지점"으로 정했고, 앞으로 더 늘릴 계획이라고 했어요. 사용자는 필요하면 더 높이거나, 자원을 아끼려고 낮출 수 있어요. GPT-6.1 솔의 최대 컨텍스트는 100만 토큰이에요.

여러 파일, 변경 이력, 복잡한 요구사항을 동시에 봐야 하는 대규모 프로젝트나 장시간 코딩에서 맥락을 반복 요약하거나 다시 입력하는 부담을 줄여 줄 것으로 기사는 봐요.