도입 전에는 같은 백테스트를 통과시킨다
먼저 대표 시계열을 안정형, 강한 계절형, 간헐형, 구조 변화형으로 나눕니다. 각 집단에서 동일한 시점 분할과 동일한 예측 길이를 적용해 TimesFM, 계절 반복값, 현재 운영 모델을 나란히 비교합니다. 평균 오차만 보지 말고 피크 구간, 결측 직후, 긴 예측 구간에서 실패가 커지는지도 확인해야 합니다.
평균 MAE가 좋아도 재고가 부족한 peak를 반복해서 놓치면 업무 결과는 나빠질 수 있습니다. 과소 예측과 과대 예측의 비용이 다르면 그 가중치를 반영한 metric을 추가합니다. 전체 평균과 함께 series별 승률, 가장 나쁜 5~10%의 오차와 현재 model보다 크게 악화된 항목 수를 봅니다.
그다음 추론 시간과 메모리, 배치 처리량까지 기록합니다. Transformer의 계산비가 단순 기준선보다 큰 만큼, 정확도 차이가 작은 저가치 시계열에는 기존 방식이 더 합리적일 수 있습니다. 분위수의 실제 포함률도 확인해야 예측 구간을 의사결정에 쓸 수 있습니다.
예컨대 90% 구간을 제시했다면 충분한 rolling window에서 실제값이 그 안에 약속한 비율로 들어오는지 확인합니다. 전체 포함률이 맞아도 저판매 상품에서는 너무 넓고 고판매 상품에서는 좁을 수 있으므로 규모, 계절, horizon별 calibration을 나눕니다. 구간이 넓기만 해서 포함률을 맞춘 model은 의사결정에 유용하지 않으므로 평균 폭도 함께 기록합니다.