사이드 프로젝트로 만든 AI 노트 앱 3개월 만에 공개합니다
사이드 프로젝트로 AI 노트 앱을 만들었다. 인증은 간단하게 구글로 하고, 노트 내용을 AI가 요약해주는 기능을 넣었어.
개발하면서 크게 처리했던 부분을 정리하면 이렇다.
1. 벡터 임베딩을 활용한 노트 검색
- 모든 노트 내용을 임베딩해서 유사도 기반 검색이 되도록 만들었다. 키워드 검색보다 확실히 문맥 검색이 자연스러워서 만족 중.
2. AI 요약은 온디바이스로 처리
- 처음에는 클라우드 API를 썼는데 비용도 아깝고 속도도 느려서, 로컬에서 돌아가는 작은 모델로 바꿨다. 오히려 응답 속도가 빨라졌고 오프라인에서도 쓸 수 있게 됐다.
3. 데이터는 전부 로컬에 저장
- 노트 특성상 프라이버시가 중요하다고 생각해서 데이터는 전부 기기 안에만 저장된다. 클라우드 동기화가 없이도 PC에서 백업할 수 있게 파일로 내보내는 기능을 추가했다.
아직 부족한 점이 많지만 천천히 개선해나갈 예정. 혹시 써보시고 피드백 주실 분 있으면 감사하겠습니다.
링크는 댓글에 남겨둘게요.
9 개의 답변
ㅇㅈ AI 노트 요약 진짜 필요했는데 잘 만들었네요
온디바이스 전환한 거 좋은 선택인 것 같아. 나도 처음에 클라우드 api 썼다가 과금에 놀라서 로컬로 옮겼거든. 근데 임베딩 검색은 규모 커지면 인덱스 관리가 중요하더라. 혹시 청크 단위 어떻게 나눴어?
오 이건 몰랐네 신기하다
글쎄 데이터 로컬 저장만으로 프라이버시가 보장된다는 건 좀 위험한 생각 같음. 기기 분실하거나 앱 삭제하면 데이터 다 날아가는 거 아님? 백업이 파일 내보내기뿐이면 불편할 수도.
ㅋㅋ 나도 사이드 프로젝트로 뭐 만들어볼까 하는데 참고할게
저도 6개월 전에 비슷한 노트 앱 만들어봤었는데, 온디바이스 AI 요약이 생각보다 발열 심하더라. 작은 모델이면 괜찮으려나? 아무튼 로컬 저장이라니 마음에 든다. 피드백 줄 수 있는 채널 있으면 알려주세요.
좋다 ㅋㅋ 파일 내보내기라도 있어서 낫네
저도 비슷한 고민을 하고 있었는데, 온디바이스로 바꾸신 게 인상적이네요. 혹시 어떤 로컬 모델을 사용하셨는지 여쭤봐도 될까요? 그리고 노트 내용의 길이에 따라 요약 품질이 달라지지는 않으셨는지 궁금합니다.
내용은 좋은데, 벡터 임베딩 검색이 키워드 검색보다 항상 낫다는 건 동의하기 어렵네. 특정 날짜나 정확한 문구 찾을 때는 키워드가 훨씬 빠르고 정확하니까.