WeDataLab · XcruzAI
XcruzAI RAG
LLM RAG의 벡터 유사도와 검색 결과를 시각화하고 알람을 제공해 답변 정확도 변화와 검색 오류 가능성을 관리하는 AI 솔루션입니다.
XcruzAI 도입 문의AI 컨설팅 보기
XcruzAI RAG
핵심 기능
01
벡터 유사도·거리 시각화
유사 벡터 거리의 일별/월별 추이를 시각화하고 알람을 제공합니다.
- 답변 정확도 변화 파악
- 검색 오류 가능성 확인
02
질의·문서 ID 로깅
질의와 검색된 문서 ID를 기록하고 정확도가 낮은 질의와 문서를 알람으로 알려줍니다.
- 문서 전처리와 내용 추가로 정확도 향상
03
동적 문서 수(k) 결정
문서 검색 유사도에 따라 검색 문서 수(k)를 동적으로 결정합니다.
- 불필요한 문서 유입 최소화
EZIS for LLM RAG
RAG 평가 · 모니터링 · 관리
RAG의 정확도 평가로 품질 관리와 모니터링을 강화해 신뢰성과 성능을 높입니다.
Evaluation
LLM RAG 정확도 평가
검색 정확도와 답변 연관성 평가, 환각 가능성 탐지 및 통보, 튜닝 가이드 제공.
Vector DB
벡터 DB 모니터링
Vector DB 성능 지표와 문서 검색 상태를 실시간 확인하고 하이퍼 파라미터 최적화를 지원.
Management
LLM RAG Management
LangChain API·서버 CPU/메모리, 접속 사용자, 요청 수, 평균 응답시간, 에러 비율 추적.
Reference
위데이터랩 LLM RAG 구축 사례
Reference
휴니버스
PHIS 기준정보 매뉴얼 기반 RAG 챗봇
- 유사도를 측정해 문맥 기반 답변과 참고 매뉴얼 링크 제공
- 정확도가 낮은 질의는 답변하지 않도록 제어
- 기간·병원·호출 경로별 토큰 사용량 확인
Reference
건설산업정보원
운영 정보·노하우 기반 RAG 챗봇
- HNSW 인덱싱으로 고차원 벡터 검색 성능 확보
- FastAPI 프레임워크로 응답 속도 보장
- LLM 자연어 처리와 검색 모듈 결합