ds4th studySTUDY PRESENTATION

지식 그래프와 LLM 실전

지능형 시스템: 하이브리드 접근

Chapter 2 · 사람의 판단을 지키는 KG·LLM 지능형 자문 시스템

발표자
수경
학습 범위
Chapter 2
일시
2026-07-25
ds4th study

누가 무엇을 기억하고, 추론하고, 결정해야 할까?

KG와 LLM을 함께 넣는 것보다 먼저, 세 책임의 주체를 분리해야 합니다.

01

표현

무엇을 어떤 구조로 기억하고 사람이 고칠 수 있는가?

02

추론

규칙의 결론, 예측, 생성한 후보를 어떻게 구분하는가?

03

결정

누가 행동을 승인하고 피드백을 지식으로 승격하는가?

한 문장 결론 — KG에는 검증 가능한 지식, LLM에는 언어·패턴 해석, 사람에게는 최종 판단을 맡깁니다.

ds4th study

표현과 추론을 해부한 뒤 책임 루프를 설계한다

개념 → 차이 → 추론 → 운영 → 목적의 다섯 질문으로 이동합니다.

01

지능·IAS

표현·추론·최종 결정권

02

습득·추론

KG와 LLM, 연역과 귀납

03

운영·목적

검증 게이트와 CRISP-DM

발표의 약속 — “둘을 같이 쓰자”가 아니라 어떤 상태를 누가 책임질지 판단하는 기준을 가져갑니다.

SECTION 01

지능과 IAS

표현과 추론을 나누고 최종 결정권의 위치를 정한다

01
ds4th study

지식 표현은 정리 규칙이고, 추론은 그 기록을 쓰는 판단이다

무엇을 기록했는지가 나중에 만들 수 있는 질문과 결론의 범위를 정합니다.

KNOWLEDGE REPRESENTATION

도서관의 분류·기록 규칙

  • 무엇을 어느 칸에 적는가
  • 어떤 관계와 출처를 남기는가
  • 사람이 찾아보고 고칠 수 있는가

REASONING

기록과 규칙을 쓰는 판단

  • 무엇을 전제로 삼는가
  • 어떤 규칙·패턴을 적용하는가
  • 결론의 확실성은 무엇인가

오해 금지 — 정보가 많다고 저절로 지능적인 것도, 좋은 엔진이 빠진 지식을 보충하는 것도 아닙니다.

ds4th study

자율과 자문을 가르는 질문은 “누가 행동을 확정하는가?”다

자동화의 양이 아니라 사람 승인 없이 현실 행동으로 이어지는지를 봅니다.

관점자율 시스템자문 시스템 · IAS
출력결정과 실행통찰·선택지·권고
사람의 위치목표·제약·감독맥락 보완·최종 판단
실패 비용오류가 즉시 현실에 반영그럴듯한 권고가 판단을 왜곡
핵심 통제안전 제약·중단·복구근거·불확실성·승인 기록

정의만으로 안전하지 않다 — 사용자가 검토 없이 수용하면 자문도 운영상 자동 결정처럼 작동할 수 있습니다.

ds4th study

좋은 IAS는 목표·경험·지식·오케스트레이션을 함께 설계한다

한 축이 빠지면 똑똑해 보이는 데모는 되어도 운영 가능한 시스템은 되기 어렵습니다.

의미 있는 목표GOAL

사용자가 실제로 내려야 할 결정

지능적 경험EXPERIENCE

근거 확인·반대 선택·피드백

지식 생성·갱신KNOWLEDGE

데이터·관찰·이력의 상태 관리

오케스트레이션CONTROL

도구·위험·품질·수명주기 연결

책의 구현 범위 — 사람을 돕는 IAS, 정립된 지식 베이스, 경험에서 배우는 피드백에 집중합니다.

ds4th study

지식 베이스와 추론 엔진은 여러 개가 순차·병렬로 협력할 수 있다

하이브리드의 복잡성은 부품 수보다 출력 상태와 다음 단계의 계약에서 생깁니다.

데이터 환경 전문가가 지식 습득으로 들어가 여러 지식 베이스와 추론 엔진이 사용자 질문을 처리하며 사용자 판단과 검증된 피드백이 순환하는 IAS 아키텍처
그림 1지식 베이스 ×N · 추론 엔진 ×N최종 사용자는 질문·판단·승인을 담당리포트 근거

SECTION 02

지식 습득

KG의 명시적 장부와 LLM의 암묵적 언어 패턴을 구분한다

02
ds4th study

KG는 장부처럼 찾아 고치고, LLM은 독해 습관처럼 분산해 배운다

같은 “지식”이라는 말이 접근·갱신·설명 방식까지 같다는 뜻은 아닙니다.

EXPLICIT · KG

표시된 칸과 관계

  • 노드·관계·속성을 직접 조회
  • 특정 사실을 부분 수정
  • 스키마·식별자 준비 비용
IMPLICIT · LLM

분산된 통계 패턴

  • 언어·맥락을 유연하게 처리
  • 사실 위치를 직접 가리키기 어려움
  • 모델 내부 갱신은 추가 학습 필요

RAG 경계 — 외부 최신 문서를 붙이는 것은 근거 공급이지 모델 내부의 특정 사실을 부분 수정한 것이 아닙니다.

ds4th study

지식 습득의 차이가 하이브리드 역할 분담을 결정한다

비정형 문서는 LLM·NLP가 후보로 구조화하고, KG 검증 경로가 사실 여부를 결정합니다.

관점KGLLM
표현개체·관계·속성·규칙분산된 통계 파라미터
접근경로·출처를 직접 조회출력으로 간접 관찰
갱신노드·관계 부분 수정내부는 추가 학습 등 필요
강점통합·제약·규칙 추론언어·모호한 맥락 처리
위험스키마·유지 비용근거 불투명·유창한 오류

한쪽의 비용도 보존 — KG는 준비가 무겁지만 사람이 읽고 부분 수정할 수 있다는 유연성으로 보상받습니다.

ds4th study

KG와 LLM은 입력·전문가 개입·갱신 단위가 다르다

명시적 구조와 암묵적 패턴을 같은 “메모리”로 부르더라도 통제 방법은 다릅니다.

KG는 스키마 매핑과 전문가 검증으로 명시적 구조를 만들고 LLM은 텍스트의 자기지도 학습으로 암묵적 통계 패턴을 만드는 비교
그림 2KG: 조회·부분 수정 가능한 장부LLM: 파라미터에 분산된 언어 패턴리포트 근거

SECTION 03

추론의 경계

연역·귀납과 LLM의 확률적 출력을 같은 확실성으로 다루지 않는다

03
ds4th study

연역은 전제에 기대어 보장하고, 귀납은 관찰을 넘어 일반화한다

둘은 경쟁 관계가 아니라 서로 다른 증거와 불확실성을 다루는 역할입니다.

DEDUCTION

일반 → 구체

모든 회원은 배지가 있다 + 민수는 회원이다 → 민수는 배지가 있다.

  • 전제·규칙이 참이면 결론 보장
  • 빠지거나 틀린 전제에는 취약

INDUCTION

관찰 → 일반

본 버스가 세 번 늦었다 → 이 노선은 자주 늦을 것이라고 예측.

  • 새 사례에 일반화 가능
  • 성급한 일반화·오답 가능

분리해서 보기 — 논리적으로 맞다는 것과 현실의 입력 사실이 맞다는 것은 다릅니다.

ds4th study

LLM 출력은 제3의 형식 추론이 아니라 검증을 기다리는 후보다

교재의 “확률적 추론” 표현을 쓰되 연역·귀납과 같은 층위의 보장으로 읽지 않습니다.

층위방식결론의 성격운영 상태
형식 구분연역전제·규칙이 참이면 보장조건부 논리 결론
귀납일반화하지만 오답 가능예측·신뢰도
작동 특성LLM 확률적 출력맥락적 후보·설명, 보장 없음권고 후보

확률 오해 금지 — 다음 토큰 확률과 모델의 확신 표현은 진단 확률이나 교정된 정답 확률이 아닙니다.

ds4th study

연역과 귀납은 지식 베이스를 만드는 방식과 결과 상태가 다르다

연역의 보장은 완전하고 정확한 전제에 조건부이고, 귀납의 예측은 오답 가능성을 남깁니다.

연역 엔진은 전제 규칙이 참일 때 조건부 결론을 보장하고 귀납 엔진은 관찰을 일반화해 오답 가능한 예측을 만드는 정보 흐름
그림 3연역: 조건부 논리 보장귀납: 일반화와 오답 가능성리포트 근거
ds4th study

유창함은 실제 조건 읽기와 상식 추론을 보장하지 않는다

교재의 Claude 3.5 Sonnet 사례는 제품 순위가 아니라 익숙한 패턴이 조건을 압도할 수 있음을 보여 준 역사적 스냅숏입니다.

01

당시 실행

단순화한 농부·양 문제에 익숙한 원형 절차를 끌어와 불필요한 단계를 생성.

02

Wu 등 연구

어느 정도 추상 능력을 보였지만 반사실적 변형은 기본 조건 대비 성능이 저하.

03

하이브리드 한계

KG+LLM도 인간 수준 상식과 직관적 도약을 본질적으로 보장하지 않음.

강도 보존 — “LLM은 추론을 못 한다”도 “유창하니 폭넓게 추론한다”도 원자료보다 강한 주장입니다.

SECTION 04

하이브리드 운영

권고 후보·사람 결정·환경 관찰·검증된 사실을 분리한다

04
ds4th study

피드백은 자동 학습 재료가 아니라 검증을 기다리는 관찰이다

교재 그림 2.10의 관찰→새 지식 사이에 ds4th 실무 보강인 검증 게이트를 둡니다.

사용자 요청이 하이브리드 추론 엔진의 권고 후보가 되고 사람이 결정한 뒤 환경 관찰은 ds4th 검증 게이트를 통과해야 지식 베이스 사실로 승격되는 루프
그림 4시스템: 권고 후보 생성사람: 행동 결정 · 게이트: 지식 상태 결정리포트 근거
ds4th study

하이브리드는 엔진의 수가 아니라 상태와 책임의 분리다

각 구성요소가 맡길 일과 맡기지 않을 일을 먼저 고정합니다.

주체·상태맡길 일금지할 일통제
KG·규칙사실·관계·제약·출처모호한 의도 임의 해석스키마·버전·이력
ML·LLM예측·질문 해석·후보사실 확정·조치 승인근거·평가·불확실성
사람맥락·판단·예외 검토모든 오류를 기억으로 교정승인 UI·감사 로그
새 관찰후보 영역에서 평가자동으로 KG에 덮어쓰기게이트·격리·롤백

피드백 ≠ 정답 — 사용자가 권고를 따랐다는 사실은 그 권고가 옳았다는 증거가 아닙니다.

SECTION 05

목적 주도 설계

모든 데이터를 모으지 말고 필요한 결정을 먼저 정한다

05
ds4th study

저자들의 경험상 IAS 목적의 상향식은 흔히 실패한다

데이터 통합·카탈로그 자체가 목적이면 상향식이 유효할 수 있지만, IAS는 필요한 결정에서 거꾸로 설계합니다.

저자들의 경험상 IAS 목적의 상향식은 모든 데이터를 모으다 실패하기 쉽고 목적 주도 방식은 사용자 결정과 비즈니스 이해에서 필요한 데이터와 KG를 설계하는 비교
그림 5상향식: 목적 없이 수집·통합목적 주도: 사용자 결정 → 데이터 → KG → 평가리포트 근거
ds4th study

LLM은 각 단계의 보조자이고, 사용자 목표가 프로젝트를 이끈다

비즈니스 이해 → 데이터 이해 → KG 요구사항 → 모델링 → 평가 → 배포로 순환합니다.

01

결정

사용자·목표·위험

02

지식

소스·스키마·검증

03

운영

모델링·평가·롤백

스키마리스 오해 금지 — 저장 구조는 유연하게 확장해도 의미 스키마·식별 규칙·검증 계약은 유지합니다. 이것이 Chapter 3의 온톨로지로 이어집니다.

ds4th study

첫 실험은 답변 데모가 아니라 책임 루프를 검증해야 한다

대표 질문에서 목표·상태·사람 통제·운영 가능성을 함께 봅니다.

GOOD SIGNAL

확장할 조건

  • 반복되는 고비용 판단이 분명
  • 관계·출처와 언어 처리가 모두 병목
  • 사실·예측·후보·결정 상태를 분리
  • 근거 확인·거절·롤백 가능

STOP SIGNAL

중단·재설계할 조건

  • “AI를 써 보자” 외 목표가 없음
  • 생성 결과를 곧바로 사실로 저장
  • 사람 승인이 형식적 클릭에 그침
  • 책임자·경보·복구 경로가 없음

발표자 종합 — 근거 충실도·고위험 오류·보류 이유·사실 승격 오류·검토 시간을 함께 측정합니다.

ds4th study

세 질문으로 상태와 책임을 다시 확인한다

용어를 외우기보다 우리 시스템의 실제 경계를 말할 수 있어야 합니다.

Q1

우리 시스템에서 지식 표현과 추론에 해당하는 것은 무엇인가?

Q2

권고 후보·사람 결정·환경 관찰·검증된 사실을 어디에 나누어 저장할까?

Q3

사용자 피드백을 지식으로 승격하기 전에 필요한 최소 증거는 무엇인가?

다음 장 연결 — 저장이 유연해도 공유할 의미 계약은 필요하므로 Chapter 3에서 온톨로지를 설계합니다.

ds4th studyWRAP UP

KEY TAKEAWAYS

사람의 결정을 중심에 두고 표현·추론·피드백을 설계한다

01

표현

KG의 명시적 지식과 LLM의 암묵적 패턴은 통제 방식이 다릅니다.

02

추론

논리 결론·예측·권고 후보를 같은 확실성으로 취급하지 않습니다.

03

운영

사람이 결정하고 검증된 피드백만 다음 지식으로 승격합니다.

Q&A