컨텍스트 엔지니어링은 프롬프트 작성과 무엇이 다른가요?
프롬프트 엔지니어링이 현재 요청을 어떻게 표현할지에 초점을 둔다면, 컨텍스트 엔지니어링은 모델이 답할 때 보게 되는 전체 재료를 다룹니다. 시스템 지침, 도구 정의, 검색 문서, 대화 기록이 모두 대상입니다.
예를 들어 긴 작업에서 검색 로그를 계속 쌓으면 정답 근거보다 실패 기록이 더 많은 공간을 차지할 수 있습니다. 이때 필요한 것은 “더 집중해”라는 문장이 아니라 로그를 요약하고, 결정 사항은 남기고, 필요할 때 원문을 다시 여는 흐름입니다.
저장소가 강조하는 progressive disclosure도 같은 원리입니다. 처음에는 스킬 이름과 설명만 보여 주고, 현재 작업에 필요한 상세 파일만 읽게 해 토큰과 주의력 사용을 줄입니다.
프롬프트를 고치는 일은 여전히 필요하지만, 문제가 정보 배치에 있다면 문장 표현만 바꿔도 효과가 제한됩니다. 시스템 지침이 대화 초반에만 있고 수십 개 도구 출력 뒤에 묻혔다면 핵심 제약을 다시 가까운 위치에 제공하거나 불필요한 출력을 제거해야 합니다. 반대로 필요한 원문이 검색되지 않았다면 요약을 더 잘하는 것보다 retrieval 후보와 근거 연결을 고쳐야 합니다.
컨텍스트를 늘리는 것도 기본 해법이 아닙니다. 더 긴 창은 더 많은 자료를 넣을 수 있게 하지만 오래된 오류, 중복 로그와 서로 충돌하는 지시까지 함께 보존합니다. 모델이 볼 수 있는 양과 실제로 중요한 항목을 안정적으로 사용하는 능력을 분리해 평가해야 합니다.