Skip to main content
베이스라인 은 모든 것을 비교하는 버전. 보통 현재 배포 버전이지만 특정 비교에 어느 버전이든 베이스라인으로 고정 가능.

기본 베이스라인

기본으로 비교는 Flow 의 현재 배포 버전 을 베이스라인으로 사용. 말이 됨 — “이 변경이 출시 가치 있나?” 를 묻는 것.

커스텀 베이스라인

특정 버전을 베이스라인으로 고정할 때:
  • 공통 참조에 대해 여러 후보 비교 — 하나 고정, 나머지 평가.
  • 역대 최고 수위 에 대해 테스트 — “우리 v12 가 역대 최고 품질; 그 아래로 회귀 말자.”
  • 하나의 변경 효과 격리 — 중간 버전 고정해서 “이 변경 전” vs. “이 변경 후” 비교.

베이스라인 설정

시뮬레이션 폼에서: Baseline → 버전 선택 (또는 절대 결과 원하면 “none”). 또는 CLI:

참조 베이스라인

일부 워크스페이스는 한 버전을 영구 참조 베이스라인 으로 고정:
  • 모든 CI 시뮬레이션이 그에 대해 실행.
  • 회귀율이 그에 대해 계산.
  • 새 버전이 “vs. reference: +/-X%” 라벨.
Flow settings → Reference baseline 에서 설정. 한 번에 하나. 확인된 개선을 출시하면서 롤 포워드.

베이스라인 드리프트

참조 베이스라인이 오래되면 현재 배포 동작이 갈라짐. 참조가 90일 이상 오래됐으면 Nora 가 baseline drift 경고 표시. 참조를 현재 배포 버전으로 롤 포워드.

비용 측정용 베이스라인

비용 베이스라인도 유용. 참조 베이스라인이 $0.03/실행에 출시됐으면, 새 변경 비교가 실행 비용 궤적 제공:
  • “v18: 베이스라인 대비 -$0.005”
  • “v19: 베이스라인 대비 +$0.012”
  • “v20: 베이스라인 대비 -$0.001”
이걸 시간에 걸쳐 관찰하면 비용 크리프가 가시적.

”베이스라인 없음” 모드

가끔 원본 절대 숫자 원함 — 몇 개 통과, 얼마 비용 — 비교 없이. 베이스라인을 none 으로 설정. 비교할 것 없는 최초 시뮬레이션에 유용.

개선별 고정

모든 개선 후보는 암시적 베이스라인 가짐 (개선 적용 전 상태). 그 후보의 시뮬레이션이 기본으로 암시적 베이스라인 사용. 다른 것에 대해 개선 테스트하고 싶으면 오버라이드 — 예: 가상 “no-op improvement” 에 대해 변경이 가치 있는지 체크.

베이스라인과 데이터셋

베이스라인은 데이터셋과 별개. 단일 데이터셋이 여러 베이스라인과 사용 가능; 단일 베이스라인이 여러 데이터셋과 사용 가능. 시뮬레이션의 전체 컨텍스트는 (타겟, 베이스라인, 데이터셋). 세 개 모두 매 실행에 기록되어 몇 달 후에도 결과 해석 가능.