LLM Knowledge Bases (LLM-curated personal wikis)

Definition

LLM 을 활용해 지속적으로 누적·구조화되는 개인 또는 팀 지식 베이스를 유지하는 패턴. 매 query 마다 처음부터 합성하는 RAG 와 달리, 정리·교차참조·유지보수 자체를 LLM 이 수행하여 지식이 페이지에 영구화됨.

대표 구현: Karpathy LLM-wiki gist — markdown 파일 트리 + ingest/query/lint 워크플로우.

Why It Matters

• 본 시스템의 메타-원리. CLAUDE.md 가 이 패턴의 구체적 적용.
• RAG 의 근본 한계 ("매 질의마다 재발견, 누적 없음") 해결 시도
• Vannevar Bush 의 1945 Memex 구상 — "누가 유지보수하나" 문제를 LLM 이 풀이

State of the Art (2026)

• Karpathy 의 LLM-wiki gist (2026-04) — 3-layer (Raw sources / Wiki / Schema), markdown + frontmatter, ingest/query/lint 사이클
• Karpathy 자신: "a large fraction of my recent token throughput is going less into manipulating code, and more into manipulating [knowledge]"
• 도구 생태계: Obsidian (그래프 뷰), Marp (슬라이드), qmd (로컬 BM25+vector+rerank 검색)

Architecture (Karpathy 패턴)

Layer 1 — Raw Sources (불변)

• 원문 article/PDF/data 스냅샷
• LLM 은 읽기만 함

Layer 2 — The Wiki (살아있는 markdown)

• Entity, concept, model, person, paper, trend 페이지
• 상호 참조 (wikilink) 자동 관리

Layer 3 — The Schema (운영 규칙)

• CLAUDE.md 같은 schema 문서에 위키 구조·작성 규칙 정의
• LLM 이 매 작업 시 참조

Workflows:

• Ingest — 새 소스 추가 → 관련 페이지 10-15개 동시 갱신
• Query — index 읽기 → 관련 페이지 read → 답변 (좋은 답변은 새 페이지로 저장)
• Lint — 모순/고아/dead link 점검

Why This Project Uses It

이 ai-trend-notifier 자체가 LLM-wiki 패턴의 적용. AI 트렌드 추적이라는 도메인에 맞춰:

• entities/models/concepts/people/papers/trends 6개 카테고리로 위키 구조화
• ingest 매일 / lint 매주 / synthesize 매분기
• 일일 산출물 (briefs/daily/) 은 별도지만 위키와 cross-link

Sub-concepts / Related

• Vannevar Bush Memex 페이지 TBD
• Obsidian / PKM (Personal Knowledge Management) 일반론 TBD

Open Problems

• 모순 자동 해소 — LLM 이 어디까지 자율 결정? 어디서부터 user 결정 필요?
• Schema drift — 토픽 다양해질수록 schema 가 깨질 수 있음
• Information half-life — 오래된 페이지의 stale 판정 기준
• Token cost — 위키 전체 read 비용 증가 추세 vs index-driven selective read 의 정확도 트레이드오프

Key Sources

• Karpathy gist — 원전
• people/karpathy — 원안자
• Memex (Vannevar Bush, 1945) — Wikipedia

Related Concepts

• Agents (LLM Agents) (간접 — knowledge management agent 형태)
• RAG (대안 패턴), PKM (포괄 개념) TBD

Notable Quote

"the LLM is rediscovering knowledge from scratch on every question. There's no accumulation." "the wiki is a persistent, compounding artifact"

— Karpathy, LLM-wiki gist

Personal Significance

이 페이지의 존재 자체가 시스템의 self-reference. 본 시스템이 자기 자신의 운영 원리를 위키로 추적함으로써 메타 일관성 확보.