여섯 스텝의 플로우
- 진단 — 클러스터 (또는 시그널) 선택. Nora 가 근본 원인 위치 파악.
- 제안 — Nora 가 근본 원인 타겟한 1-3 후보 수정 생성.
- 레버 선택 — 시스템의 어느 부분을 바꿀지 결정: 프롬프트·도구·리트리벌·메모리 등.
- 시뮬레이션 — 모든 후보가 데이터셋에 실행. Before/after 숫자.
- 승인 — 승자 선택. 옵션 게이트 (사람 리뷰, 코드 리뷰, 테스트).
- 배포 — 변경이 Draft 에 적용; 배포 (또는 설정되면 자동 배포).
페이지
실패 진단
근본 원인 식별.
개선 제안
후보 수정과 그 diff.
어느 레버 튜닝
프롬프트 vs. 도구 vs. 리트리벌 vs. 메모리 vs. 룰.
승인·배포
사람 게이트와 롤아웃.
개선 이력
모든 개선, 결과, 상태.
자동 vs. 수동
전체 플로우가 저위험 변경에는 자동 실행 가능 — 임계값 설정하면 Nora 가 여러분 깨우지 않고 수정 출시. 또는 매 스텝 사람 승인 요구 가능. 권장: 강한 시뮬레이션 결과 있는 잘 이해된 레버 (작은 프롬프트 조정, 룰 추가) 는 자동. 모델 스왑, 도구 설정, 메모리 구조 관련은 수동. Flow 별 설정: Flow settings → Improvement automation.재현성
모든 개선이 유지:- 시드한 클러스터.
- 고려된 제안.
- 시뮬레이션 결과 (타겟 vs. 베이스라인).
- 승인자.
- 배포 타임스탬프.
개선과 버전
배포된 모든 개선이 개선 노트가 있는 새 Flow 버전 생성. 롤백이 전체 개선을 원자적으로 롤백. 어느 버전에든 붙은 개선 확인 가능 — “v18 이 클러스터 #142 (결제 환각) 를 고치려 배포됨.”개선이 자동이 아닐 때
최적화는 변경 을 제안하지만 일부 수정은 최적화가 하지 않는 것들 필요:- 지식에 새 문서 추가 — 여러분이 업로드.
- 새 도구 빌드 — 여러분이 빌드.
- 깨진 상류 API 수정 — 여러분이 수정.