표현
무엇을 어떤 구조로 기억하고 사람이 고칠 수 있는가?
지식 그래프와 LLM 실전
Chapter 2 · 사람의 판단을 지키는 KG·LLM 지능형 자문 시스템
KG와 LLM을 함께 넣는 것보다 먼저, 세 책임의 주체를 분리해야 합니다.
무엇을 어떤 구조로 기억하고 사람이 고칠 수 있는가?
규칙의 결론, 예측, 생성한 후보를 어떻게 구분하는가?
누가 행동을 승인하고 피드백을 지식으로 승격하는가?
한 문장 결론 — KG에는 검증 가능한 지식, LLM에는 언어·패턴 해석, 사람에게는 최종 판단을 맡깁니다.
개념 → 차이 → 추론 → 운영 → 목적의 다섯 질문으로 이동합니다.
표현·추론·최종 결정권
KG와 LLM, 연역과 귀납
검증 게이트와 CRISP-DM
발표의 약속 — “둘을 같이 쓰자”가 아니라 어떤 상태를 누가 책임질지 판단하는 기준을 가져갑니다.
SECTION 01
표현과 추론을 나누고 최종 결정권의 위치를 정한다
01무엇을 기록했는지가 나중에 만들 수 있는 질문과 결론의 범위를 정합니다.
KNOWLEDGE REPRESENTATION
REASONING
오해 금지 — 정보가 많다고 저절로 지능적인 것도, 좋은 엔진이 빠진 지식을 보충하는 것도 아닙니다.
자동화의 양이 아니라 사람 승인 없이 현실 행동으로 이어지는지를 봅니다.
| 관점 | 자율 시스템 | 자문 시스템 · IAS |
|---|---|---|
| 출력 | 결정과 실행 | 통찰·선택지·권고 |
| 사람의 위치 | 목표·제약·감독 | 맥락 보완·최종 판단 |
| 실패 비용 | 오류가 즉시 현실에 반영 | 그럴듯한 권고가 판단을 왜곡 |
| 핵심 통제 | 안전 제약·중단·복구 | 근거·불확실성·승인 기록 |
정의만으로 안전하지 않다 — 사용자가 검토 없이 수용하면 자문도 운영상 자동 결정처럼 작동할 수 있습니다.
한 축이 빠지면 똑똑해 보이는 데모는 되어도 운영 가능한 시스템은 되기 어렵습니다.
사용자가 실제로 내려야 할 결정
근거 확인·반대 선택·피드백
데이터·관찰·이력의 상태 관리
도구·위험·품질·수명주기 연결
책의 구현 범위 — 사람을 돕는 IAS, 정립된 지식 베이스, 경험에서 배우는 피드백에 집중합니다.
하이브리드의 복잡성은 부품 수보다 출력 상태와 다음 단계의 계약에서 생깁니다.
SECTION 02
KG의 명시적 장부와 LLM의 암묵적 언어 패턴을 구분한다
02같은 “지식”이라는 말이 접근·갱신·설명 방식까지 같다는 뜻은 아닙니다.
RAG 경계 — 외부 최신 문서를 붙이는 것은 근거 공급이지 모델 내부의 특정 사실을 부분 수정한 것이 아닙니다.
비정형 문서는 LLM·NLP가 후보로 구조화하고, KG 검증 경로가 사실 여부를 결정합니다.
| 관점 | KG | LLM |
|---|---|---|
| 표현 | 개체·관계·속성·규칙 | 분산된 통계 파라미터 |
| 접근 | 경로·출처를 직접 조회 | 출력으로 간접 관찰 |
| 갱신 | 노드·관계 부분 수정 | 내부는 추가 학습 등 필요 |
| 강점 | 통합·제약·규칙 추론 | 언어·모호한 맥락 처리 |
| 위험 | 스키마·유지 비용 | 근거 불투명·유창한 오류 |
한쪽의 비용도 보존 — KG는 준비가 무겁지만 사람이 읽고 부분 수정할 수 있다는 유연성으로 보상받습니다.
명시적 구조와 암묵적 패턴을 같은 “메모리”로 부르더라도 통제 방법은 다릅니다.
SECTION 03
연역·귀납과 LLM의 확률적 출력을 같은 확실성으로 다루지 않는다
03둘은 경쟁 관계가 아니라 서로 다른 증거와 불확실성을 다루는 역할입니다.
DEDUCTION
모든 회원은 배지가 있다 + 민수는 회원이다 → 민수는 배지가 있다.
INDUCTION
본 버스가 세 번 늦었다 → 이 노선은 자주 늦을 것이라고 예측.
분리해서 보기 — 논리적으로 맞다는 것과 현실의 입력 사실이 맞다는 것은 다릅니다.
교재의 “확률적 추론” 표현을 쓰되 연역·귀납과 같은 층위의 보장으로 읽지 않습니다.
| 층위 | 방식 | 결론의 성격 | 운영 상태 |
|---|---|---|---|
| 형식 구분 | 연역 | 전제·규칙이 참이면 보장 | 조건부 논리 결론 |
| 귀납 | 일반화하지만 오답 가능 | 예측·신뢰도 | |
| 작동 특성 | LLM 확률적 출력 | 맥락적 후보·설명, 보장 없음 | 권고 후보 |
확률 오해 금지 — 다음 토큰 확률과 모델의 확신 표현은 진단 확률이나 교정된 정답 확률이 아닙니다.
연역의 보장은 완전하고 정확한 전제에 조건부이고, 귀납의 예측은 오답 가능성을 남깁니다.
교재의 Claude 3.5 Sonnet 사례는 제품 순위가 아니라 익숙한 패턴이 조건을 압도할 수 있음을 보여 준 역사적 스냅숏입니다.
단순화한 농부·양 문제에 익숙한 원형 절차를 끌어와 불필요한 단계를 생성.
어느 정도 추상 능력을 보였지만 반사실적 변형은 기본 조건 대비 성능이 저하.
KG+LLM도 인간 수준 상식과 직관적 도약을 본질적으로 보장하지 않음.
강도 보존 — “LLM은 추론을 못 한다”도 “유창하니 폭넓게 추론한다”도 원자료보다 강한 주장입니다.
SECTION 04
권고 후보·사람 결정·환경 관찰·검증된 사실을 분리한다
04교재 그림 2.10의 관찰→새 지식 사이에 ds4th 실무 보강인 검증 게이트를 둡니다.
각 구성요소가 맡길 일과 맡기지 않을 일을 먼저 고정합니다.
| 주체·상태 | 맡길 일 | 금지할 일 | 통제 |
|---|---|---|---|
| KG·규칙 | 사실·관계·제약·출처 | 모호한 의도 임의 해석 | 스키마·버전·이력 |
| ML·LLM | 예측·질문 해석·후보 | 사실 확정·조치 승인 | 근거·평가·불확실성 |
| 사람 | 맥락·판단·예외 검토 | 모든 오류를 기억으로 교정 | 승인 UI·감사 로그 |
| 새 관찰 | 후보 영역에서 평가 | 자동으로 KG에 덮어쓰기 | 게이트·격리·롤백 |
피드백 ≠ 정답 — 사용자가 권고를 따랐다는 사실은 그 권고가 옳았다는 증거가 아닙니다.
SECTION 05
모든 데이터를 모으지 말고 필요한 결정을 먼저 정한다
05데이터 통합·카탈로그 자체가 목적이면 상향식이 유효할 수 있지만, IAS는 필요한 결정에서 거꾸로 설계합니다.
비즈니스 이해 → 데이터 이해 → KG 요구사항 → 모델링 → 평가 → 배포로 순환합니다.
사용자·목표·위험
소스·스키마·검증
모델링·평가·롤백
스키마리스 오해 금지 — 저장 구조는 유연하게 확장해도 의미 스키마·식별 규칙·검증 계약은 유지합니다. 이것이 Chapter 3의 온톨로지로 이어집니다.
대표 질문에서 목표·상태·사람 통제·운영 가능성을 함께 봅니다.
GOOD SIGNAL
STOP SIGNAL
발표자 종합 — 근거 충실도·고위험 오류·보류 이유·사실 승격 오류·검토 시간을 함께 측정합니다.
용어를 외우기보다 우리 시스템의 실제 경계를 말할 수 있어야 합니다.
우리 시스템에서 지식 표현과 추론에 해당하는 것은 무엇인가?
권고 후보·사람 결정·환경 관찰·검증된 사실을 어디에 나누어 저장할까?
사용자 피드백을 지식으로 승격하기 전에 필요한 최소 증거는 무엇인가?
다음 장 연결 — 저장이 유연해도 공유할 의미 계약은 필요하므로 Chapter 3에서 온톨로지를 설계합니다.
KEY TAKEAWAYS
KG의 명시적 지식과 LLM의 암묵적 패턴은 통제 방식이 다릅니다.
논리 결론·예측·권고 후보를 같은 확실성으로 취급하지 않습니다.
사람이 결정하고 검증된 피드백만 다음 지식으로 승격합니다.
Q&A