토큰 · 컨텍스트 윈도우 Token · Context Window

알아둘 점

검색해 온 문서를 전부 읽지 못하고 앞부분이나 일부 조각만 넣는 경우가 많습니다. 핵심을 앞에 둬야 하는 기술적 이유입니다.

예시

이해를 돕기 위한 가상의 예입니다.

• 일부만 읽힘검색해 온 문서 다섯 개 중 앞부분 조각만 넣고 답함
• 핵심이 뒤에 있음결론이 글 끝에 있으면 읽히지 않은 채 답이 만들어질 수 있음
• 토큰한국어 한 글자가 토큰 하나가 아닐 수 있어, 같은 분량도 언어마다 차지하는 양이 다름

흔한 오해

• ✕창이 크면 문서를 다 읽는다

  ✓검색 시스템이 미리 조각을 골라 넣는 경우가 많습니다. 핵심을 앞에 둡니다