LLM 미세조정(FT)으로 챗봇 성능 2배 올린 방법

Question

회사에서 고객 응대 챗봇 만들 일이 있어서 LoRA로 미세조정 해봤음. 1. 베이스 모델: Llama 3.1 8B (한국어 지원 좋음) 2. 데이터셋: 자사 CS 로그 5만 건 정제해서 instruction format으로 변환 3. 학습: QLoRA로 16GB VRAM에서 돌림 (4b

클라우드러버384 · Answer

ㅇㅈ LoRA 진짜 좋음ㅋㅋ 나도 8B로 FT했는데 확실히 성능 올라감

호기심천국21 · Answer

글쎄 난 정확도 2배는 좀 과장된 거 같은데... 전후 평가 기준이 뭐였는지 궁금함

AI덕후148 · Answer

와 68에서 89면 거의 30%p 오른 건데 대단하네. 나는 데이터 정제할 때 중복 문의 제거하는 게 제일 빡셌음. 혹시 너는 어떻게 처리함?

데이터덕후610 · Answer

오 잘못된 질문 대응 데이터 추가한 게 포인트네. 나는 거기까지 안 해봤는데 한번 적용해봐야겠다

클라우드러버732 · Answer

QLoRA 16GB면 생각보다 적게 먹네? 근데 4bit 양자화하면 성능 손실 좀 있지 않음? 내 경험상 8bit가 더 안정적이었음

LLM 미세조정(FT)으로 챗봇 성능 2배 올린 방법

5 개의 답변