LLM Wiki 설정 가이드: 개념과 필요성부터 프롬프트 6개로 시작하는 나만의 지식 관리
LLM Wiki를 시작하기 전에, 모아 둔 자료를 어떻게 쓰는지 떠올려 보세요. 좋은 글과 유튜브 자막, 보고서를 모아도 정작 필요할 때는 근거를 다시 찾습니다. AI에게 질문할 때도 같은 자료와 업무 배경을 다시 설명합니다.
자료를 모으는 것만으로는 다음 작업에 바로 쓰기 어렵습니다.
LLM Wiki는 AI가 자료를 읽어 주제별 지식 페이지를 만들고, 새 자료가 들어오면 기존 페이지도 갱신하는 방식입니다. 정리한 내용은 파일로 남깁니다. 다음 질문에도 이 파일을 사용합니다.
강의에서 사용하는 LLM Wiki 설정 가이드의 요청문 6개를 원문 그대로 실었습니다. 1~4번으로 기본 운영을 시작합니다. 5~6번은 1~4번에 익숙해진 뒤 위키가 제대로 답하는지 검수할 때 씁니다. 2번부터는 제가 실제로 보낸 요청도 함께 적었습니다.
1. LLM Wiki는 무엇인가요?
LLM은 대규모 언어 모델입니다. LLM Wiki에서는 Claude Code나 Codex처럼 파일을 읽고 쓰는 AI 에이전트가 위키를 관리합니다. 내용은 Markdown 파일에 저장합니다. Markdown은 제목, 본문, 링크를 텍스트로 작성하는 문서 형식입니다.
원본 자료와 정리한 지식은 따로 보관합니다.
‘사내 AI 도입’ 보고서 두 개를 모았다고 가정하겠습니다. 첫 번째 보고서는 교육의 필요성을, 두 번째 보고서는 교육만 진행했을 때의 한계를 다룹니다.
자료별로 요약하면 각 보고서의 내용은 따로 남습니다. LLM Wiki에서는 두 자료를 읽고 ‘AI 도입 교육’ 페이지를 갱신합니다. 교육이 필요한 이유와 업무에 적용할 때 더 필요한 것을 함께 정리합니다. 결론이 다르면 대상과 조건이 어떻게 다른지 기록합니다. 주요 주장에는 원본을 확인할 수 있는 출처를 붙입니다.
새 자료를 넣으면 기존 지식도 바뀝니다. 다음 질문에 쓸 수 있도록 관련 내용을 연결하고 갱신합니다.
2. 왜 필요한가요?
자료를 매번 처음부터 읽는 일을 줄입니다
AI와 대화할 때는 자료를 넣고 답을 받으면 작업이 끝나기 쉽습니다. 다른 대화에서 비슷한 질문을 하려면 자료를 다시 주거나 앞선 결론을 설명해야 합니다.
LLM Wiki는 검토한 내용을 파일로 남겨 관리합니다. 다음 질문에는 관련 페이지를 찾아 읽고 답하게 합니다. 필요하면 원본도 확인합니다.
서로 다른 자료의 관계를 유지합니다
보고서 A와 보고서 B를 따로 요약하면 일치하는 내용과 다른 내용을 비교하기 어렵습니다. LLM Wiki는 같은 개념을 기존 페이지에 모으고 관련 페이지를 연결합니다.
새 근거로 기존 내용이 바뀌면 관련 페이지도 확인합니다. 주장이 충돌하면 어느 조건에서 결론이 달라지는지 남깁니다.
정리와 유지보수의 부담을 AI와 나눕니다
개인 위키를 관리하려면 목차와 링크를 갱신하고, 중복 페이지와 낡은 주장도 확인해야 합니다. 자료가 쌓일수록 관리할 것도 늘어납니다.
LLM Wiki에서는 사람이 목적을 정하고 자료를 고릅니다. AI가 규칙에 따라 정리하고 갱신하면, 사람이 결과와 근거를 검토합니다.
참고 영상도 대화와 지시 파일만으로는 재사용할 지식을 쌓기 어렵다는 문제를 짚습니다. 목적을 가진 자료 수집과 원본을 위키로 정리하고 갱신하는 흐름을 설명합니다. AI에게 한 번 답을 받는 데서 더 나아가, 모은 지식을 계속 관리하게 하는 흐름입니다. 특정 도구 조합이 보편적 표준이 됐다는 뜻은 아닙니다.
RAG와는 무엇이 다른가요?
RAG는 외부 자료를 검색하고 그 결과를 바탕으로 답변을 만드는 방식입니다. LLM Wiki는 자료를 넣을 때 주제별 지식을 정리해 다음 작업에서도 쓸 수 있게 남깁니다.
검색과 지식 정리는 함께 사용할 수 있습니다. 위키가 커지면 페이지 검색 기능을 붙일 수도 있습니다. LLM Wiki가 RAG를 대체하거나 검색의 정확성을 보장하는 것은 아닙니다. 작은 위키부터 운영하며 놓치는 근거가 있는지 확인합니다.
3. 시작 전에 준비할 것
시작할 때 준비할 것은 세 가지입니다.
- 파일을 읽고 쓸 수 있는 AI 에이전트를 준비하세요.
- 위키를 둘 작업 폴더를 만드세요.
- 반복해서 묻고 싶은 질문과 첫 자료 한 개를 준비하세요.
실습은 AI 에이전트를 이미 사용할 수 있다는 전제로 진행합니다. 계정 가입과 에이전트 설치는 다루지 않습니다. 아래 요청문은 에이전트에게 주는 작업 지시입니다. 붙여넣기만 하면 설정과 검증이 끝나는 것은 아닙니다. 각 단계의 확인 기준까지 살펴봐야 합니다.
Obsidian은 Markdown 페이지와 링크를 확인할 때 쓰는 선택 도구입니다. 필수는 아닙니다. 벡터 DB, 그래프 DB, 자동 수집 기능도 처음부터 준비할 필요는 없습니다.
설정에 쓰는 두 자료는 역할이 다릅니다.
- 카파시의 LLM Wiki 원문은 설계 의도를 설명합니다.
- Astro-Han 저장소는 이를 운영할 기본 스킬과 실행 절차를 제공합니다.
원문의 선택 사항을 전부 구현할 필요는 없습니다. 강의 가이드도 기본 요청문 4개로 운영해 본 뒤, 자료가 쌓이면 질문 20개로 검수하는 순서입니다.
4. LLM Wiki 설정과 기본 운영: 설정 → 수집 → 질문 → 점검
목적을 정하고 자료를 넣은 뒤, 질문의 근거를 확인하고 위키를 점검합니다.
1단계. 목적을 정하고 기본 위키 설정하기
첫 번째 요청문은 처음 설정할 때 씁니다. 에이전트에서 작업 폴더를 열고 요청문을 실행합니다. 목적과 넣을 자료를 물으면 답합니다.
목적은 ‘AI 공부’보다 ‘사내 AI 활용 교육안을 만들 때 근거를 찾기’처럼 구체적으로 정합니다. 첫 질문 5개도 업무에서 다시 물을 내용으로 고릅니다. 교육안을 만드는 위키라면 이런 질문을 정할 수 있습니다.
- 비개발자에게 먼저 가르칠 AI 활용 방식은 무엇인가?
- 교육에서 실습할 업무는 어떤 기준으로 고를 것인가?
- 교육 효과를 확인할 근거는 무엇인가?
- 도입이 잘 안 된 사례에는 어떤 조건이 있었는가?
- 우리 조직에 적용하기 전에 추가로 확인할 내용은 무엇인가?
질문이 정해지면 넣을 자료와 제외할 자료를 판단하기 쉬워집니다.
복사할 요청문 — 가이드 원문
이 폴더에 나만의 LLM Wiki를 설정해 줘.
먼저 아래 카파시 글의 본문을 읽어 설계 의도를 이해해:
https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
실행 절차는 Astro-Han 저장소의 현재 README와 SKILL.md를 확인해:
https://github.com/Astro-Han/karpathy-llm-wiki
나에게 목적, 넣을 자료, 반복해서 묻고 싶은 질문을 먼저 물어봐. 첫 질문 5개와 포함·제외 범위를 함께 정하자. 링크를 읽지 못하면 읽었다고 가정하지 말고 본문을 요청해.
기존 파일과 스킬을 확인한 뒤 현재 에이전트에 맞게 설정해. 기존 설치를 중복 설치하거나 내 파일을 덮어쓰지 마. 원본은 raw/, 정리한 지식은 wiki/로 구분하고, 페이지별 한 줄 설명이 있는 목차와 변경 로그를 준비해. 파일명은 가져온 스킬의 규약을 따라.
합의한 구조·출처 표기·수집·질문·점검 규칙을 AGENTS.md 또는 CLAUDE.md에 남겨 다음 대화에서도 읽게 해. 두 참고 자료의 선택 사항을 전부 구현하지 마. 서로 다른 규칙은 차이를 설명하고 이 프로젝트에서 쓸 규칙 하나를 정해. 아직 검색 엔진·스킬 분리·자동 수집은 만들지 마. 설정을 확인할 방법도 알려 줘.완료 확인: 새 대화에서도 에이전트가 운영 규칙을 찾고 원본, 위키, 목차의 위치를 설명할 수 있어야 합니다. 첫 대화에서만 구조를 안다면 설정이 끝났다고 보기 어렵습니다.
2단계. 자료 한 개를 넣고 지식 갱신하기
처리 절차는 1단계에서 설정한 스킬에 들어 있습니다. 요청에는 자료와 넣는 이유만 적습니다. 자료를 첨부하거나 링크를 붙이고, 이유는 한 줄이면 됩니다.
처음에는 자료를 하나씩 넣습니다. 한꺼번에 많이 처리하면 잘못 읽거나 합친 부분을 확인하기 어렵습니다.
첫 자료의 처리 결과를 읽고 같은 주제의 두 번째 자료를 넣습니다. 새 페이지가 생겼는지와 함께 기존 페이지의 어떤 주장이 바뀌었는지 확인합니다. 새 지식이 없다면 중복 페이지를 만들지 않아도 됩니다.
복사할 요청문 — 가이드 원문
이 자료를 위키에 넣어 줘. 넣는 이유: 실제 기록: 2026-08-18 · “(링크) … 이 글의 내용을 확인해서 wiki-ingest 해줘. 이 내용이 참 좋더라.” 결과를 읽은 뒤 “2축 분류를 별도 개념 페이지로 빼줘. 나는 에이전트 설계에 아주 핵심적인 개념이라 생각해.”라고 이어서 요청했습니다. wiki-ingest는 제 위키에서 자료 수집을 맡는 스킬 이름입니다.
완료 확인: 바뀐 주요 주장에서 원본을 찾을 수 있어야 합니다. 두 번째 자료가 기존 페이지에도 반영되어야 합니다.
3단계. 질문하고 근거 확인하기
검색하고 인용하는 방법도 스킬에 들어 있습니다. 요청에는 질문만 적습니다. 처음 정한 질문부터 사용합니다. 요청문 마지막의 질문: 뒤에 실제 질문을 붙입니다.
답변에 링크가 있어도 내용을 열어봐야 합니다. 인용한 내용이 답변을 뒷받침하는지, 원본의 조건을 빼고 결론만 가져오지는 않았는지 확인합니다.
복사할 요청문 — 가이드 원문
위키를 근거로 답해 줘. 위키에 없는 내용은 없다고 말해 줘.
질문: 실제 기록: 2026-09-14 · “… 방대한 회사 내 정보를 리더들이 ai 에이전트를 통해서 정리해서 보고자 하는 시도들이 어떤게 있었는지 알려줘.” 질문만 적었습니다.
완료 확인: 답변의 근거 페이지를 열 수 있어야 합니다. 위키에 없는 내용은 없다고 말해야 합니다.
근거를 찾지 못했다면 원인을 구분해야 합니다. 필요한 자료가 없을 때는 수집할 자료를 정합니다. 자료가 있는데 답변에서 놓쳤다면 검색 과정과 목차를 확인합니다.
다시 쓸 만한 답이면 내용을 검토한 뒤 “위키에 저장해 줘”라고 요청합니다. 검토하지 않은 해석이 다음 답변의 근거가 되는 일을 줄이기 위해서입니다.
4단계. 위키를 점검하고 문제 고치기
위키 전체를 점검하는 일은 답변 하나를 검토하는 일과 다릅니다. 자료가 쌓이거나 답변의 근거가 이상하면 점검을 따로 요청합니다.
점검 항목도 스킬에 들어 있습니다. 스킬은 끊어진 링크와 목차에서 빠진 페이지를 찾습니다. 충돌하는 주장, 새 자료로 낡아진 주장, 근거 없는 숫자와 인용도 확인합니다. 검사 도구가 찾은 문제도 원본과 대조해 판단해야 합니다.
복사할 요청문 — 가이드 원문
위키를 점검해 줘. 그다음 내가 더 채워야 할 자료를 알려 줘.실제 기록: 2026-10-28 · “… 전체적으로 린트 해줘. 그런 다음에 llm-wiki의 품질 개선을 위해서 내가 뭘 해야 하는지 알려줘.” 린트(lint)는 스킬에서 점검 작업을 부르는 이름입니다.
완료 확인: 발견한 문제를 근거와 함께 설명해야 합니다. 수정 후에는 실제로 고친 항목과 아직 해결하지 못한 항목을 나눠 확인합니다.
현재 Astro-Han의 운영 규칙은 일부 목차와 링크 문제를 자동으로 고칩니다. 사실과 판단이 걸린 문제는 고치지 않고 보고만 합니다. 보고를 읽고 고칠 항목을 골라 요청합니다.
5. 검수: 질문 20개로 확인하고 코멘트로 고치세요
에이전트가 만든 질문과 답을 직접 읽고, 고칠 곳에 코멘트를 남깁니다.
1~4번에 익숙해지고 자료가 쌓이면 위키가 제대로 답하는지 검수합니다. 에이전트가 만든 질문과 답을 직접 읽고 코멘트를 남깁니다. 그 코멘트로 위키를 고칩니다.
5단계. 질문 20개로 위키 검수하기
검색 수치가 좋아져도 답이 좋아졌는지는 알 수 없습니다. 그래서 에이전트에게 내 목적에 맞는 질문 20개와 답을 만들게 하고, 그 답을 직접 읽습니다. 그중 3개는 위키로 답하기 어려운 질문으로 고르게 합니다. 위키가 비어 있는 곳이 질문 단위로 드러납니다.
요청문을 실행하면 HTML 문서가 만들어집니다. HTML 문서는 브라우저로 여는 웹 페이지 파일입니다. 문항마다 평가와 코멘트를 남긴 뒤 코멘트 파일을 내려받습니다. 모든 문항을 평가하지 않아도 됩니다.
복사할 요청문 — 가이드 원문
내 위키를 근거로, 내 목적에 맞게 내가 궁금해할 만한 질문 20개를 뽑고 답해 줘.
그중 3개는 위키로 답하기 어려운 질문으로 골라 줘. 답마다 근거 페이지를 붙여 줘.
문항마다 평가와 코멘트를 달 수 있는 HTML 문서로 만들고, 코멘트를 파일로 내려받을 수 있게 해 줘.실제 기록: 2026-10-28 · “새로 업데이트 된 위키 기반으로 핵심 질문 20개와 그에 대한 답도 뽑아봐. 내가 보고 평가할게.” 이어서 “댓글로 각 문항의 응답에 대한 코멘트 달 수 있게 만들어줘.”라고 요청했습니다.
완료 확인: 문항마다 근거 페이지가 열려야 합니다. 코멘트를 파일로 내려받을 수 있어야 합니다.
6단계. 코멘트로 위키 고치기
코멘트도 내 기록입니다. 코멘트를 원본으로 먼저 저장한 뒤 위키에 반영합니다. 그래야 고친 내용의 근거가 남습니다.
내려받은 코멘트 파일을 첨부하고 요청문을 실행합니다. 에이전트가 고칠 페이지 목록을 먼저 보여 주면, 확인한 뒤 진행하라고 답합니다. 내 판단이 위키에 남고, 다음 질문부터 고친 내용으로 답합니다.
복사할 요청문 — 가이드 원문
첨부한 검수 코멘트를 내 기록으로 위키에 넣어 줘.
코멘트를 틀린 내용·설명 부족·관점 차이로 나누고, 고칠 페이지를 먼저 보여 줘.실제 기록: 2026-10-29 · 코멘트 파일을 대화에 첨부했습니다. 그 코멘트로 답 5개를 고쳤고, 2026-10-30에 위키 8개 페이지와 답변 기준을 갱신했습니다.
완료 확인: 코멘트마다 고친 곳이나 고치지 않은 이유를 보여 줘야 합니다.
6. 설정이 잘됐는지 판단하는 기준
설정을 마쳤다면 실제 질문에 근거를 찾아 답하는지 확인합니다. 새 자료를 반영하는지도 살펴봐야 합니다. 폴더나 그래프가 생겼다는 것만으로는 충분하지 않습니다.
5단계에서 답을 읽고 코멘트할 때는 이 네 가지를 봅니다.
모든 문항을 평가하지 않아도 됩니다. 틀린 내용·설명 부족·관점 차이는 6단계에서 고칠 곳을 나누는 기준이 됩니다. 검색 기능은 5단계 검수에서 위키에 있는 내용을 못 찾은 답이 반복될 때만 보강합니다.
다른 PC에서 쓸 때는 원본, 위키, 운영 규칙을 동기화합니다. 작업을 시작하기 전에 최신 상태를 먼저 받습니다. 뒤처진 사본으로 답하면 이미 들어온 내용을 없다고 답할 수 있습니다.
자동 수집은 수동 절차를 먼저 확인한 뒤 만듭니다. 자료를 넣고 갱신하는 작업이 반복해서 맞아야 합니다. 잘못된 절차를 자동화하면 같은 오류가 반복됩니다.
7. 3개월 동안 실제로 한 일
강의 가이드는 제가 2026-08-04부터 운영한 위키의 기록에서 나왔습니다. 그중 다섯 장면을 골랐습니다.
8. 오늘은 질문과 자료부터 준비하세요
LLM Wiki에서는 새 자료로 기존 지식을 갱신하고, 다음 질문에 그 결과를 사용합니다.
작업 폴더에서 첫 번째 요청문을 실행하고 에이전트와 첫 질문 5개를 정합니다. 자료 한 개를 넣어 결과를 읽고, 같은 주제의 두 번째 자료가 기존 페이지를 어떻게 바꾸는지 확인합니다.
그다음 실제 질문에 답하게 하고 근거를 열어봅니다. 자료가 쌓이면 질문 20개로 검수하고, 코멘트로 위키를 고칩니다.
참고 자료
- LLM Wiki 설정 가이드 — 일잘러 장피엠: 제작 순서, 요청문 6개, 단계별 확인 기준과 실제 기록의 기준 자료입니다. 요청문은 원문 그대로 수록했습니다.
- 카파시의 LLM Wiki로 나만의 AI 세컨드 브레인 만들기 — Brian's Brain Trinity: 개념, 필요성, 큰 흐름을 참고했습니다. 개념 설명은 약 01:34~12:43, 목적 있는 수집의 강조는 약 51:52~52:20을 확인했습니다. 영상의 영어 제공 자막을 참고했으며, 영상의 설치 절차는 이 글의 실습에 사용하지 않았습니다.
- Andrej Karpathy — LLM Wiki 원문: 개념과 설계 의도를 확인했습니다.
- Astro-Han — karpathy-llm-wiki, SKILL.md: 기본 구조와 실행 규칙을 대조했습니다.
자료 확인일: 2026년 10월 28일. 요청문과 검수 단계는 2026년 11월 4일 개정한 설정 가이드에 맞췄습니다. 저장소의 설치 방법과 운영 규칙은 이후 바뀔 수 있습니다.
