Skip to main content
가장 흔한 리트리벌 질문: “이 문서에 답이 있는 걸 아는데 왜 Agent 가 못 찾지?” Diagnostics 도구는 파이프라인을 역방향으로 걸어 무엇이 잘못됐는지 찾습니다.

Diagnostics 열기

두 진입점:
  • 트레이스에서 — 리트리벌 스텝 어디서든 “Diagnose retrieval” 클릭. 사용된 정확한 쿼리와 프리셋 로드.
  • 문서에서 — 지식의 청크 우클릭 → “Test retrievability”. 그것을 찾아야 할 쿼리 시뮬레이션.

Diagnostics 가 보여주는 것

주어진 쿼리와 기대 청크에 대해 Diagnostics 가 답하는 것:
  1. 청크가 인덱스에 있나? — 정상 확인. 없으면 파이프라인 보기 (Clean 중 필터됐나? 청커가 스킵했나?).
  2. 필터가 배제하나? — 필터 세트와 청크가 통과하는지 표시.
  3. 벡터 점수는? — 쿼리와 청크의 코사인 유사도. 낮은 점수 (< 0.2) 는 시맨틱 불일치 — 청크가 쿼리와 “의미가 다름”.
  4. 키워드 점수는? — BM25 점수. 낮은 점수는 쿼리에 청크 안 단어가 없다는 뜻 (동의어 추가 고려).
  5. 융합 순위는? — 청크가 top 50 에서 어디 랭크됐는지.
  6. 리랭커가 드롭했나? — 리랭킹이 켜져 있었고 top K 밖으로 떨어졌나.
  7. 그라운딩이 드롭했나? — 그라운딩이 켜져 있었고 청크가 그래프와 충돌했나.

흔한 실패와 해결

대규모 수정

진단이 여러 쿼리에서 같은 근본 원인을 계속 가리키면, 그것이 시그널. 개선 플로우 (최적화 참고) 가 반복되는 리트리벌 미스를 새 태그·프리셋 변경·청커 조정 제안으로 전환할 수 있음.

리트리버빌리티 테스트

“기대되는” 청크-쿼리 쌍 세트를 Retrievability test 로 저장. CI (또는 수동) 에서 실행. top-K 가 예전에 포함하던 청크를 더 이상 포함 안 하면 실패. 좋은 패턴: “X 를 왜 못 찾지” 이슈를 고칠 때마다 수정이 회귀하지 않도록 리트리버빌리티 테스트 추가.