모델 경량화, Pruning, Quantization, Distillation 중 무엇부터 해야 할까?
모델 경량화를 pruning, quantization, distillation로 나눠 지연, peak memory, 파일 크기 병목과 재학습 가능성, 실제 장치 측정으로 선택하는 방법입니다.
모델 경량화를 pruning, quantization, distillation로 나눠 지연, peak memory, 파일 크기 병목과 재학습 가능성, 실제 장치 측정으로 선택하는 방법입니다.
TensorFlow 1.13.1 다중 출력 모델을 Java SavedModel과 TensorFlowSharp C# frozen PB로 나눠 내보내고 tensor 이름, shape, 결과 순서를 검증합니다.
LightGBM과 XGBoost의 tree 복잡도, 행열 sampling, learning rate, 반복 횟수를 같은 검증 조건에서 맞추고 과적합과 시간을 비교하는 튜닝 순서입니다.
PyTorch Lightning의 DataModule, LightningModule, Trainer 책임을 GAN 예제로 구분하고 optimizer, device, callback, multi-GPU 오류를 단계별로 진단합니다.
JAX의 jit, grad, vmap을 NumPy와 비교할 때 첫 컴파일, 비동기 실행, 장치 이동을 분리하고 결과 shape, 수치 일치를 검증하는 방법입니다.
PyTorch 멀티 GPU가 느릴 때 DataLoader, AMP, DataParallel, DDP의 병목을 분리하고 프로세스별 batch, sampler, checkpoint 중복을 점검합니다.
얼굴 검출, landmark 정렬, crop, FaceNet embedding, 거리 threshold를 단계별로 점검하고 같은 사람, 다른 사람 분포와 거부 조건을 설명합니다.
JSON과 Protocol Buffers를 사람 가독성, 스키마 계약, 과거 데이터 호환성으로 비교하고 Python 주소록의 round-trip 검증과 실패 조건을 설명합니다.
Detectron2 데모의 config, weight, input, CUDA build를 분리하고 ROI CUDA 오류, class metadata와 속도 측정을 단계별로 진단하는 방법입니다.
벡터, 기저, 고유값, 공분산을 연결해 PCA의 분산 보존과 LDA의 클래스 분리 목적, 차원 선택 기준, 전처리와 대표 실패 조건의 차이를 설명합니다.