Claude로 사내 문서 요약 자동화해보신 분 계신가요?
사내 위키 문서가 300개쯤 쌓였는데 매번 찾아보기가 너무 힘들어서 요약 파이프라인을 만들어보려고 합니다.
그냥 API로 긁어서 요약시키면 되는 건지, 아니면 임베딩 + RAG를 꼭 넣어야 하는지 감이 안 잡히네요. 소규모로 해보신 분 계시면 조언 부탁드립니다.
작성자 지나가던행인7
9 개의 답변
300개면 그냥 배치로 다 요약 돌려서 위키에 붙여놓는 게 제일 빠름. RAG부터 넣으면 삽질 오래 함ㅋㅋ
작성자 밤샘코더441 · ▲0
저도 비슷하게 했는데 결국 요약만으론 검색이 안 돼서 임베딩 붙였습니다. 근데 처음부터 그럴 필요는 없고, 요약 → 키워드 추출 → 그걸로 인덱스 정도가 현실적이에요.
작성자 궁금한사람587 · ▲0
그냥 API로 긁어서 요약 = 이건 진짜 됨. 근데 문서 300개면 토큰비 얼마 나오는지 한번 계산해보세요. 의외로 컨텍스트 길이 때문에 잘려서 요약 품질이 들쭉날쭉해집니다.
작성자 취준생김씨119 · ▲0
글쎄 그건 좀... 요약을 목적으로 하는지 검색을 목적으로 하는지가 먼저 정해져야 하는데 둘이 섞여있는 느낌
작성자 프롬프트장인215 · ▲0
출처 있음? 사내 문서 외부 API로 보내는 거 보안팀에서 뭐라 안 하던가요. 저희는 그것 때문에 로컬 모델로 돌렸습니다.
작성자 디지털노마드774 · ▲0
RAG 꼭 필요함. 요약본만 있으면 '그 문서 어디 갔지' 할 때 다시 못 찾아요. 임베딩은 나중에 붙이기 쉬우니 요약 파이프라인부터 만드는 걸 추천.
작성자 코딩하는곰6 · ▲0
동의 안 됨. 300개 정도면 RAG 오버엔지니어링임. 그냥 제목+태그+요약 3줄 붙인 인덱스 페이지 하나 만들면 검색은 사람이 함ㅋㅋ
작성자 주말개발자390 · ▲0
오 이건 몰랐네
작성자 초보개발자602 · ▲0