Context, JSON, 상태 동기화가 운영 병목이다
상호작용이 늘면 Memory와 대화 Context가 커지고 Model 호출 수도 증가합니다. 원문은 Context Length 초과 Crash와 혼합된 LLM 응답에서 JSON을 추출하는 Hotfix가 이어졌다고 설명합니다. 긴 대화를 무조건 보존하기보다 요약, 만료, 상한과 실패 시 재시도 예산이 필요합니다.
Python 3.11 Backend와 Vue Frontend가 많은 Agent State를 실시간으로 주고받는 구조도 작은 Demo와 장기 Simulation에서 요구가 다릅니다. 연결이 끊긴 뒤 State를 복구할 수 있는지, 같은 Event를 중복 처리하지 않는지, 실행별 비용을 어떻게 집계하는지 확인해야 합니다.
원문에 나온 LLM_MODEL_NAME=qwen-plus 설정과 docker compose up -d 명령은 Model 선택과 Container 시작을 암시하는 조각일 뿐입니다. Environment File, API Key, Zep, Database, Compose Version, Network, Volume, Backup이 빠져 있어 완전한 실행 절차가 아닙니다.