사내 규정 문서를 RAG(Retrieval-Augmented Generation, 검색 증강 생성)에 태우려는데 외부 API로 데이터를 보낼 수 없는 상황을 가정해 봅니다. 금융, 의료, 국방처럼 규제가 강한 환경에서는 문서 한 줄도 망 밖으로 내보낼 수 없습니다. 이 제약을 해결하는 방법이 완전 오프라인 로컬 RAG입니다.이 글은 Ollama 임베딩 모델, ChromaDB 로컬 벡터 데이터베이스, Ollama LLM을 묶어 인터넷 연결 없이 동작하는 파이프라인을 단계별로 만듭니다. 모델을 한 번 내려받은 이후에는 망을 끊어도 검색과 응답 생성이 모두 로컬에서 돌아갑니다. 에어갭(air-gapped, 망 분리) 환경에 그대로 적용할 수 있는 구성입니다.왜 완전 오프라인 RAG인가일반적인 RAG는 임베딩과..
