Przejdź do treści
promptowy.com / AI 용어 사전 / 컨텍스트 윈도우 (문맥 창)
기술

컨텍스트 윈도우 (문맥 창)

컨텍스트 윈도우란 인공지능 모델이 한 번에 기억하고 처리할 수 있는 대화와 데이터의 최대 텍스트 용량을 뜻합니다.

컨텍스트 윈도우(Context Window, 문맥 창)는 거대언어모델(LLM)이 한 번의 작업에서 머릿속에 담아두고 동시에 처리할 수 있는 텍스트의 총량을 뜻합니다. 사용자가 입력한 질문과 지시사항, 첨부한 문서, 지금까지 나눈 대화 기록, 그리고 인공지능이 앞으로 생성할 답변까지 모두 이 문맥 창 안에 들어가야 합니다.

쉽게 말해 인공지능의 '작업대 크기'나 '단기 기억 용량'과 같습니다. 작업대 위에 올려놓지 못한 서류는 인공지능의 시야에서 완전히 벗어나기 때문에, 문맥 창을 벗어난 이전 대화나 자료는 인공지능이 전혀 인지하지 못합니다.

컨텍스트 윈도우가 작동하는 방식

인공지능은 글자 수가 아니라 토큰(Token)이라는 작은 언어 단위로 정보를 계산합니다. 한국어의 경우 어절, 조사, 형태소 등에 따라 토큰이 쪼개지며, 컨텍스트 윈도우는 이 토큰의 최대 허용치를 기준으로 작동합니다.

사용자와 인공지능이 대화를 길게 이어가면 화면에는 과거 내용이 그대로 남아 있는 것처럼 보이지만, 실제로는 매 질문마다 이전 대화 기록 전체를 다시 묶어서 모델에 전달합니다. 대화가 누적되어 토큰 한도를 초과하면 시스템은 대화의 가장 오래된 앞부분부터 잘라내거나 버립니다. 긴 상담을 이어가다 보면 인공지능이 처음에 했던 요청이나 설정을 갑자기 잊어버리는 이유가 바로 여기에 있습니다.

판교 스타트업과 동네 세무사의 실무 사례

컨텍스트 윈도우의 크기는 실제 업무 생산성에 결정적인 차이를 만듭니다.

예를 들어 종로에서 개인사업자 기장 대리를 맡고 있는 세무사 사무소에서 부가가치세 신고를 준비한다고 가정해 보겠습니다. 문맥 창이 좁은 모델을 쓰면 1년 치 영수증 내역이나 거래처별 전자세금계산서 목록을 수십 장씩 쪼개서 넣어야 하며, 앞서 입력한 거래처 정보를 기억하지 못해 매번 같은 지침을 다시 입력해야 합니다. 반면 문맥 창이 넓은 모델을 사용하면 수백 쪽에 달하는 복잡한 매입매출 장부와 소명 자료 전문을 한 번에 입력해 단번에 누락 항목이나 중복 공제를 찾아낼 수 있습니다.

판교 테크노밸리의 한 소프트웨어 기업에서도 개발팀이 방대한 오픈소스 라이브러리와 사내 시스템 코드를 하나의 문맥 창에 통째로 넣고 시스템 간 충돌을 점검하는 방식으로 개발 주기를 크게 단축하고 있습니다.

크기만 크면 무조건 좋을까: 검색 품질의 함정

최근에는 책 한 권 분량이나 수 시간 분량의 대화록을 한꺼번에 담을 수 있을 만큼 문맥 창의 크기가 급격히 커졌습니다. 그러나 문맥 창이 넓다고 해서 항상 완벽한 결과가 나오는 것은 아닙니다.

긴 글의 정중앙에 중요한 단서를 숨겨둘 경우, 모델이 시작 부분과 끝부분에 비해 중간에 놓인 정보를 제대로 포착하지 못하고 지나치는 현상이 자주 발생합니다. 방대한 정보를 다룰 때 작업 품질을 높이려면 다음과 같은 원칙을 지키는 것이 유리합니다.

  • 핵심 지침 배치: 가장 중요한 요구사항이나 역할 부여는 문서의 맨 앞이나 맨 뒤에 명확하게 적습니다.
  • 사전 요약 활용: 관련성이 떨어지는 원문 전체를 밀어 넣기보다는 불필요한 서식을 제거하고 요약본을 먼저 구성해 입력합니다.
  • 새 세션 시작: 주제가 바뀌거나 작업 단계가 달라졌다면 기존 대화창을 비우고 새 창을 여는 것이 환각 현상을 줄이는 지름길입니다.

자주 하는 오해와 주의할 점

많은 사용자가 '화면에 스크롤이 되니 인공지능도 예전 내용을 다 기억하고 있겠지'라고 착각합니다. 하지만 웹 브라우저 화면에 보이는 대화 내역은 인터페이스가 보여주는 시각적 기록일 뿐이며, 인공지능 내부의 문맥 창 한도를 넘는 순간 이전 문맥은 완전히 단절됩니다.

또한 문맥 창이 크면 클수록 한 번에 읽고 연산해야 하는 토큰의 양이 급격히 증가하므로, 응답 속도가 눈에 띄게 느려질 수 있습니다. 무조건 거대한 문맥 창에 모든 자료를 쏟아붓기보다는, 지금 해결해야 하는 과제에 꼭 필요한 핵심 정보만 압축해 전달하는 습관이 훨씬 경제적이고 정확한 답변을 얻는 방법입니다.

자주 묻는 질문

컨텍스트 윈도우가 크면 답변 품질도 무조건 향상되나요?

그렇지 않습니다. 한 번에 수용하는 문서가 너무 방대하면 중간에 있는 세부 정보를 놓치거나 엉뚱한 내용을 지어내는 환각이 나타날 확률도 함께 높아집니다.

대화가 길어지면 인공지능이 왜 처음 지시를 잊어버리나요?

대화가 누적되어 모델의 문맥 창 용량을 초과하면, 시스템이 가장 오래된 대화 기록부터 잘라내어 버리기 때문에 초기 요청을 인식하지 못하게 됩니다.

문맥 창 크기는 글자 수와 같은 개념인가요?

아닙니다. 문맥 창은 단순 글자 수가 아닌 '토큰'이라는 단위로 측정되며, 언어 구조에 따라 한 글자가 여러 개의 토큰으로 쪼개질 수 있습니다.

← AI 용어 사전 전체 보기

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›