안녕하세요. 회사에서 사내 문서 기반 질문답변 챗봇을 만들려고 하는데, 파인튜닝과 RAG 중 어떤 걸 먼저 도입하는 게 좋은지 조언 부탁드립니다.
도메인이 특수해서 일반 LLM으로는 부족하고, 문서는 약 1만 페이지 정도 됩니다. 현재는 GPT-4o API를 쓰고 있고요.
RAG로 시작해서 부족한 부분만 파인튜닝하는 게 표준적인 접근일까요? 아니면 문서량이 많은 경우 처음부터 파인튜닝을 하는 게 나을까요? 비용이나 인프라쪽 부담도 괜찮으니 실제 경험 있으신 분들의 의견을 듣고 싶습니다.