이미지 편집 모델이 요청한 부분은 바꾸면서 배경까지 훼손한다면, 실행 정확도와 원본 보존을 따로 평가하는 FIRM-Edit 같은 보상 구조가 필요합니다. 단일 점수가 높다는 이유만으로 두 조건을 모두 만족했다고 볼 수 없기 때문입니다.
FIRM 논문 자료는 이미지 편집과 생성에서 보상 모델이 그럴듯한 결과에 높은 점수를 주거나, 생성 모델이 평가기의 허점을 반복 이용하는 문제를 다룹니다. 핵심은 더 큰 판정기를 붙이는 것이 아니라 평가 과정을 작업에 맞는 작은 질문으로 분해하는 데 있습니다.
FIRM-Edit는 먼저 원본과 편집본의 차이에 집중합니다. 요청한 대상이 실제로 바뀌었는지를 보는 execution과, 바꾸지 말아야 할 배경, 정체성, 구조가 남았는지를 보는 consistency를 분리합니다. 약 37만 개의 편집 데이터를 사용한 8B 모델이라는 것이 원문에 제시된 범위입니다.
두 점수를 단순 평균하면 큰 훼손이 작은 실행 이득에 가려질 수 있습니다. CME(Consistency-Modulated Execution)는 일관성이 기준 아래로 내려가면 실행 보상을 억제하고, 기준을 넘을 때만 이득을 주는 방식입니다. 임계값은 안전장치이면서 동시에 민감한 조절점입니다. 너무 높으면 유효한 편집도 거부하고, 너무 낮으면 보상 해킹을 다시 허용합니다.
FIRM-Gen은 “빨간 컵이 파란 책 왼쪽에 있다” 같은 요청을 객체, 속성, 공간 관계로 나눠 확인합니다. 먼저 평가 계획을 만들고 각 조건의 충족 여부를 점검하므로, 전체 인상만으로 높은 점수를 주는 오류를 줄이려는 설계입니다. QMA(Quality-Modulated Alignment)는 품질이 기준에 못 미치면 텍스트 정렬 점수의 보상을 제한합니다.
프로젝트가 소개한 전체 데이터 규모는 약 66만 개입니다. FIRM-Bench와 강화학습 곡선은 분해된 보상이 학습 안정성에 어떤 영향을 주는지 보여 줍니다. 다만 이 결과는 논문이 정한 생성기, 데이터, 평가 절차의 조합에서 나온 것이며 모든 스타일과 편집 도메인에 그대로 옮겨지는 보장은 없습니다.
먼저 서비스에서 금지해야 할 실패를 정의해야 합니다. 얼굴 정체성 변경, 상품 로고 훼손, 배경 문구 변형처럼 비용이 큰 사례를 모아 execution과 consistency를 따로 기록합니다. 그런 다음 임계값을 바꿨을 때 승인률과 치명적 오탐이 어떻게 움직이는지 봅니다. 모델이 준 설명도 근거 영역과 대조하지 않으면 새로운 환각 통로가 될 수 있습니다.
실제 운영 비용도 남습니다. 8B 평가기를 원본, 결과, 지시와 함께 호출하면 생성 한 번의 지연과 메모리가 늘어납니다. 데이터에 없던 예술 스타일, 미세한 글자, 주관적 품질은 임계값으로 해결하기 어렵습니다. 따라서 프로젝트 페이지의 결과를 출발점으로 삼되, 고위험 편집은 사람 검수와 원본 비교를 유지하는 편이 안전합니다.
편집 지시마다 반드시 바뀌어야 할 요소와 절대 바뀌면 안 되는 요소를 표시합니다. 예를 들어 셔츠 색을 바꾸는 작업에서는 대상 색이 execution이고 얼굴, 로고, 배경 글자와 구도가 consistency가 됩니다. 두 영역이 겹치거나 지시가 모호하면 평가 전에 사용자 의도를 다시 확인해야 합니다.
실패 표에는 미편집, 과소 편집, 대상 밖 훼손, 정체성 변경, 텍스트 변형을 따로 기록합니다. 실행 점수가 높지만 배경 훼손이 큰 사례와 보존은 완벽하지만 요청을 수행하지 않은 사례를 모두 포함해야 합니다. 모델이 두 극단 사이에서 어떤 선택을 하는지 봐야 단순 평균의 문제를 확인할 수 있습니다.
사람이 편집 성공과 허용 불가 훼손을 판정한 세트를 만들고 consistency 임계값을 바꿔 승인률과 오탐을 계산합니다. 임계값 하나로 모든 작업을 묶지 말고 얼굴, 상품 이미지, 배경 변경처럼 실패 비용별로 나눕니다. 검증 세트에서 좋은 값도 새 스타일과 해상도에서 다시 보정해야 합니다.
경계 점수의 결과는 자동 승인하지 않고 사람 검토로 보낼 수 있습니다. 점수 차이가 작은데 보상이 급격히 바뀌는 구간이 있다면 학습 안정성도 살펴야 합니다. 모델 버전과 데이터 분포가 바뀔 때 이전 임계값을 그대로 유지하지 말고 동일한 사람 판정 세트로 회귀 평가합니다.
FIRM-Gen의 계획이 프롬프트의 객체, 속성, 관계를 모두 포함하는지 먼저 검사합니다. 긴 지시에서 작은 부정 조건이나 객체 수가 빠지면 이후 채점은 누락된 계획을 정확히 수행할 뿐입니다. 사람이 만든 정답 계획을 넣은 조건과 모델이 만든 계획을 넣은 조건을 비교하면 계획 오류와 시각 판정 오류를 나눌 수 있습니다.
공간 관계가 모호하거나 서로 충돌하는 프롬프트는 단일 정답으로 강제하지 않는 편이 좋습니다. 품질도 해상도, 왜곡, 텍스트 가독성처럼 항목을 분리할 수 있습니다. 계획 문장이 길다는 사실보다 실제 요구를 빠짐없이 평가 가능한 조건으로 바꿨는지가 중요합니다.
생성 모델이 평가기가 선호하는 색, 구도나 텍스트 표현을 반복해 점수를 높일 수 있습니다. 사람이 보기에는 부자연스럽지만 평가 점수만 높은 결과, 원본을 거의 복사해 consistency만 지키는 결과를 모읍니다. 보상 모델과 다른 평가기, 사람 블라인드 판정을 함께 사용하면 한 평가기의 허점에 맞춘 최적화를 찾기 쉽습니다.
학습 중 보상은 계속 오르는데 다양한 프롬프트의 성공률이나 시각 다양성이 내려가는지도 확인합니다. 보상 모델의 설명이 있다면 실제 차이 영역과 맞는지 대조합니다. 설명이 그럴듯하다는 이유로 잘못된 점수를 신뢰해서는 안 됩니다.
데이터 규모는 학습 재료의 양을 보여 주지만 작업별 분포와 라벨 정확도를 대신하지 않습니다. 얼굴, 제품, 합성 그래픽, 예술 스타일이 얼마나 포함됐는지와 실행, 일관성 오류의 균형을 봐야 합니다. 유사한 원본, 편집 쌍이 훈련과 평가에 함께 들어가면 성능이 과대평가될 수 있습니다.
자체 도메인에서는 사람 판정 샘플로 보상 점수의 상관을 확인합니다. 공개 결과가 좋은 모델도 특수 로고, 작은 글자와 내부 제품 이미지에서는 다른 오류를 낼 수 있습니다. 데이터 수치를 일반적인 신뢰도 백분율로 읽지 않는 것이 중요합니다.
모든 생성 단계마다 평가하면 비용이 크므로 최종 후보만 검사하거나 저비용 규칙을 먼저 통과한 결과에 적용할 수 있습니다. 고위험 편집은 원본과 결과를 FIRM에 넣고, 낮은 위험의 창작 생성은 표본 평가로 제한하는 식으로 라우팅할 수 있습니다. 실패 결과를 재생성할 때 최대 횟수와 비용 상한을 둡니다.
로그에는 생성 모델, 프롬프트, 원본, 결과 식별자, FIRM 점수와 최종 사람 판정을 연결합니다. 승인된 결과 중 실제 오류와 거부됐지만 사람이 통과시킨 사례를 모아 임계값을 다시 보정합니다. 평가기를 추가하는 목적은 점수 하나를 더 만드는 것이 아니라 실패를 더 일찍 발견하는 것입니다.
보상 모델이 일시적으로 실패하거나 시간 제한을 넘긴 경우의 기본 동작도 정해야 합니다. 고위험 편집을 평가 없이 통과시키기보다 보류하거나 사람 검토로 보내고, 낮은 위험의 창작 요청은 명시된 정책에 따라 재시도할 수 있습니다. 평가 실패와 생성 실패를 같은 오류로 합치지 말고 모델, 입력 크기, 처리 시간을 남겨 운영 병목을 찾습니다.
배포 전에는 보상 모델을 사용하지 않은 기준선, 결과 필터링에만 쓴 구성, 강화학습에 사용한 구성을 구분합니다. 필터링 이득과 학습 자체의 변화를 섞으면 추가 단계가 어디에서 효과를 냈는지 알기 어렵습니다. 같은 생성 후보 수와 사람 평가 예산으로 비교해야 비용 대비 가치가 선명해집니다.
보장되지 않습니다. 실행과 일관성 점수를 따로 보고 서비스에서 금지할 훼손 사례에서 오탐을 측정해야 하며 고위험 편집은 사람 검토가 필요합니다.
그렇지 않습니다. 얼굴, 상품, 예술 스타일처럼 허용할 변화와 실패 비용이 다르므로 자체 검증 세트에서 승인률과 치명적 오탐의 균형을 맞춰야 합니다.
이 글의 근거만으로 고정 수치를 말할 수 없습니다. 원본, 결과, 지시를 8B 평가기에 넣는 메모리와 지연, 반복 평가와 재생성 비용을 목표 하드웨어에서 측정해야 합니다.
←→ 키와 좌우 스와이프를 지원합니다. 읽던 페이지는 이 기기에 저장됩니다.