배경
사내에는 그룹웨어, Jira, Confluence 등 다양한 시스템에 정보가 분산되어 있었습니다. 직원들이 필요한 정보를 찾기 위해 여러 시스템을 돌아다녀야 하는 비효율이 있었고, 이를 해결하기 위해 RAG 기반의 통합 지식정보 시스템을 구축했습니다.
아키텍처
주요 구성요소
- LLM 서빙: vLLM 기반 온프레미스 서버
- 임베딩: 사내 데이터 특화 임베딩 모델
- 벡터DB: 100만 건 이상의 사내 데이터 통합
- 접근제어: 사용자 질의 유형 분류 및 권한 관리
성과
- 100만 건 이상의 사내 데이터 통합 제공
- 외부 API 의존성 없이 내부망 독립 운영 체계 확립
마치며
이 글은 사내 Confluence 문서를 기반으로 외부 공개용으로 재구성한 글입니다.
이 블로그의 글은 실무 경험을 기반으로 작성됩니다. 질문이나 피드백은 언제든 환영합니다.