🤖 [Project] Smart Shopper AI: 파인튜닝된 Llama 3.2로 노트북 가성비 종결자 만들기
안녕하세요! 오늘은 최근 Meta에서 공개한 Llama 3.2 3B 모델을 직접 노트북 도메인에 맞춰 파인튜닝하고, 이를 활용해 실시간 가성비 분석 서비스를 구축한 프로젝트를 소개합니다.
🌟 프로젝트 개요
수많은 노트북 스펙과 널뛰는 가격 속에서 "지금 이 가격에 살만한가?"라는 질문에 답하기 위해 시작했습니다. 단순한 스펙 나열이 아닌, AI가 직접 하드웨어 점수와 가격을 계산하여 최적의 구매 선택지를 제안합니다.
- 주요 목적: 실시간 쇼핑 데이터 기반 노트북 가성비 분석 및 리포트 생성
- 핵심 기술: Llama 3.2 3B Fine-tuning, Flask, Selenium, llama-cpp-python
🛠 주요 기술 스택 및 도전 과제
1. 하이브리드 파인튜닝 전략 (Colab & Kaggle)
로컬 하드웨어(i7-10510U, RAM 16GB, MX250)의 한계를 극복하기 위해 구글 코랩과 캐글의 GPU 자원을 하이브리드로 활용했습니다.
- Unsloth 라이브러리를 적용하여 학습 속도를 2배 이상 높였으며, QLoRA 기법으로 메모리 효율을 극대화했습니다.
- 약 150여 건의 정제된 직접 생성 데이터셋을 활용해 노트북 도메인 지식을 주입했습니다.
2. 실시간 데이터 스크래핑 & 스펙 파싱 엔진
다나와, 쿠팡 등의 복잡한 상세 스펙 페이지에서 SSD, RAM, CPU 정보를 정확하게 추출하기 위한 Robust Spec Parsing 엔진을 직접 구현했습니다.
3. AI 할루시네이션(환각) 방지 로직
AI가 가격 정보를 임의로 지어내지 못하도록 실시간 데이터 강제 매핑(Prompt Engineering) 기술을 적용하여 분석의 신뢰도를 확보했습니다.
🎯 핵심 기능 (Key Features)
✅ Dual Best Selection: 가성비 지수 기반의 'AI BEST'와 절대적 최저가 기준의 'LOWEST' 모델 동시 추천
✅ Premium Tech UI: 글래스모피즘(Glassmorphism) 스타일의 다크 테마로 사용자 경험 극대화
✅ Direct Local Inference: GGUF 양자화 모델을 사용하여 로컬 환경에서도 지연 없는 빠른 추론 성능
🤝 AI와 함께한 "Vibe Coding"
이 프로젝트는 Google DeepMind의 강력한 AI 코딩 어시스턴트인 Antigravity와 페어 프로그래밍을 통해 진행되었습니다. 단순히 코드를 짜는 것을 넘어, 아키텍처 설계와 하드웨어 제약 조건 해결을 함께 고민하며 완성도를 높였습니다.
🔗 관련 링크
- GitHub: DragonAscendsToHeaven/smart-shopper-llm
- Hugging Face: desert-fox-rommel/laptop-expert-llama-3.2-3b
마치며
로컬 환경의 제약을 클라우드 자원과 효율적인 알고리즘으로 극복하는 과정이 매우 즐거웠습니다. 앞으로 더 많은 데이터와 정교한 평가 지표를 도입해 나갈 예정입니다. 궁금하신 점은 댓글로 남겨주세요!