정의
컨텍스트 윈도우(Context window)은(는) AI 모델이 한 번에 읽고 처리할 수 있는 텍스트의 최대 길이입니다. 이 한도를 넘는 문서는 잘리거나 일부만 선택되어 모델에 전달됩니다.
더 설명하면
AI 검색이 긴 문서를 읽을 때 전체를 통째로 넣지 않고 관련 있는 조각만 골라 넣는 이유가 여기에 있습니다.
그래서 답이 문서 뒤쪽에 묻혀 있으면 선택되지 않을 수 있습니다. 질문에 대한 답을 앞에 두는 구성이 유리한 기술적 이유입니다.
실무에서 문제가 되는 순간
긴 매뉴얼이나 통합 가이드 페이지에서 뒤쪽 내용이 AI 답변에 전혀 안 나오는 현상의 기술적 배경입니다. 한 페이지에 다 넣는 것이 사용자에게는 편할 수 있지만, 기계가 읽을 때는 앞쪽만 선택될 수 있습니다.
자주 하는 오해
- 모델의 최대 길이가 늘어났으니 긴 문서도 괜찮다고 보는 경우가 있는데, 검색이 모델에 넣는 것은 문서 전체가 아니라 골라낸 조각입니다.