인과 그래프 개요

인과 그래프 는 도메인의 변수와 그 사이 인과 엣지의 다이어그램입니다. 네트워크처럼 보임 — 노드는 측정 가능한 것 (요율·온도·가격), 엣지는 그 사이의 인과 연결. 세 가지에 사용:

1. 에이전트 추론 설명 — “Agent 가 X 를 추천한 이유는 A 가 B 를 일으키고 B 가 X 를 일으켜서.”
2. 에이전트 답변 검증 — 그래프와 모순되는 출력 플래그.
3. 개입 분석 — “X 를 바꾸면 Y 는 어떻게 될까?”

​

인과 그래프를 언제 만드는가

• Agent 가 틀리면 결과가 있는 질문에 답 — 금융·의료·공학.
• 도메인이 잘 이해된 원인-결과 를 캡처할 수 있음.
• Agent 가 상관관계가 아니라 메커니즘을 인용 하길 원함.

도메인이 모호하거나 도메인 전문성이 암묵적이면 지식·메모리로 시작. 구조를 확신할 때만 인과 그래프 추가.

​

그래프 모양

• 노드는 변수: 연속 (혈압), 이산 (부서), 이진 (사기 예/아니오).
• 엣지는 인과: A 에서 B 로의 화살표는 “A 의 변화가 B 의 변화를 일으킴”.
• 그래프는 DAG (directed acyclic). 사이클은 거부됨 — 인과적 의미 없음.

​

그래프 구축

두 주요 경로: 대부분 워크스페이스는 섞음: 추출로 시드, 손으로 정제.

​

그래프 사용

​

Draft·배포

그래프는 버전 관리됨. Draft 에서 편집 (스테이지된 변경이 대기로 표시), 준비되면 배포. 배포된 그래프만 검증에 사용. 롤백은 즉시.

​

인과 그래프가 아닌 것

• 지식의 대체품이 아님. 문서 유지.
• 심볼릭 AI 시스템이 아님. Agent 는 여전히 LLM 사용; 그래프는 체크지 추론자가 아님.
• 일반 지식 그래프가 아님. 인과 관계에만 특화. 일반 엔티티 관계가 필요하면 메모리 그래프 사용.