사이드 프로젝트로 AI 노트 앱을 만들었다. 인증은 간단하게 구글로 하고, 노트 내용을 AI가 요약해주는 기능을 넣었어.
개발하면서 크게 처리했던 부분을 정리하면 이렇다.
1. 벡터 임베딩을 활용한 노트 검색
- 모든 노트 내용을 임베딩해서 유사도 기반 검색이 되도록 만들었다. 키워드 검색보다 확실히 문맥 검색이 자연스러워서 만족 중.
2. AI 요약은 온디바이스로 처리
- 처음에는 클라우드 API를 썼는데 비용도 아깝고 속도도 느려서, 로컬에서 돌아가는 작은 모델로 바꿨다. 오히려 응답 속도가 빨라졌고 오프라인에서도 쓸 수 있게 됐다.
3. 데이터는 전부 로컬에 저장
- 노트 특성상 프라이버시가 중요하다고 생각해서 데이터는 전부 기기 안에만 저장된다. 클라우드 동기화가 없이도 PC에서 백업할 수 있게 파일로 내보내는 기능을 추가했다.
아직 부족한 점이 많지만 천천히 개선해나갈 예정. 혹시 써보시고 피드백 주실 분 있으면 감사하겠습니다.
링크는 댓글에 남겨둘게요.