도구별 실전 가이드 · 공식 정보 확인 2026-08-20

Soup Apache-2.0 오픈소스 조건과 시작 절차

작성: gentive · 편집·검수 책임: 신유빈 · 지원 환경: CLI · 페이지 갱신: · 운영·편집 기준

하나의 YAML로 로컬 GPU에서 LLM을 LoRA·QLoRA 방식으로 미세조정하고 내보낸다.

하나의 YAML로 로컬 GPU에서 LLM을 LoRA·QLoRA 방식으로 미세조정하고 내보낸다. Soup의 첫 실전 과제는 “작은 공개 데이터셋으로 저용량 테스트 학습을 실행한다”이며, 이 흐름을 직접 통제할 사람에게 맞습니다.

이럴 때 맞습니다

  • “고객지원 예시 500건으로 8B 모델 LoRA 1 epoch 학습” 같은 입력으로 Soup의 핵심 기능을 시험하려는 사람
  • 학습·검증 손실, VRAM 사용량과 출력 어댑터가 기록되고 베이스라인보다 과적합하지 않았는지 본다. 기준으로 Soup 결과를 직접 검수할 수 있는 경우
  • CLI 환경에서 Apache-2.0 코드를 직접 설치·관리하려는 작업

이럴 때는 멈추세요

  • CLI 설치·모델 준비·업데이트를 관리하지 않고 즉시 완성된 서비스를 원하는 경우
  • 다음 위험을 사람이 확인할 수 없는 작업: 개인정보·저작권 자료를 학습에 넣으면 모델이 이를 재생산하며 GPU 과열이나 긴 비용도 발생할 수 있다.

참고 시작점

팩트시트 · 작업 근거 확인 필요: 아래 문구는 공식 제품 사실을 정리한 참고 시작점이며, 성공 결과를 보장하는 검증 절차가 아닙니다.

한 YAML로 저용량 QLoRA 실험을 정의한다

500개 공개 예시와 8B 모델을 한 epoch만 학습하는 재현 가능한 설정이 생긴다.

참고 시작점: 고객지원 공개 예시 500건으로 8B 모델의 QLoRA를 1 epoch 돌릴 YAML을 만들어 줘.

  1. YAML에 베이스 모델·데이터 경로·학습/검증 분할·시드와 1 epoch를 명시한다.
  2. QLoRA의 낮은 rank와 작은 batch를 선택하고 출력 어댑터 폴더를 빈 경로로 둔다.
  3. GGUF 내보내기는 학습 검증 뒤로 미루고 설정 파일에 데이터 라이선스 출처를 적는다.

4GB GPU에서 손실과 메모리를 지켜본다

메모리 한도를 넘지 않은 어댑터와 학습·검증 지표가 남는다.

참고 시작점: 4 GB laptop GPU에서 이 QLoRA를 실행하고 loss와 VRAM 피크를 스텝별로 기록해 줘.

  1. 4 GB laptop GPU에서 QLoRA 학습을 시작해 첫 스텝의 VRAM과 예상 완료 시간을 확인한다.
  2. 학습 loss와 검증 loss가 벌어지면 조기 중단하고 마지막 정상 어댑터를 보관한다.
  3. 통과한 어댑터만 GGUF 시험본으로 내보내고 모델·양자화 정보가 기록됐는지 확인한다.

학습 데이터 암기 여부를 시험한다

개인정보 없이 일반화하는지 확인된 모델 카드와 폐기 기준이 생긴다.

참고 시작점: 학습 예시와 유사한 질문, 전혀 다른 질문을 각각 넣어 문장 복제와 과적합을 검사해 줘.

  1. YAML 데이터 목록에서 개인정보·권리 불명 자료가 없는지 다시 확인하고 검증 예시를 분리한다.
  2. 4 GB laptop GPU에서 GGUF 시험본에 학습 문장 일부와 새로운 질문을 차례로 입력한다.
  3. 긴 문장 복제나 검증 성능 하락이 보이면 어댑터를 배포하지 않고 데이터·시드·loss를 모델 카드에 남긴다.

무료 조건과 주의점

Apache-2.0 오픈소스 소프트웨어는 횟수 제한 없이 실행 가능. 연결한 모델 API·서버·GPU 비용은 별도

Apache-2.0 오픈소스 소프트웨어는 횟수 제한 없이 실행 가능. 연결한 모델 API·서버·GPU 비용은 별도

Apache-2.0 저장소 코드는 상업적으로 사용할 수 있지만, 모델 가중치·입력 자료·생성물·번들 자산의 권리는 각각 따로 확인해야 합니다.

개인정보·저작권 자료를 학습에 넣으면 모델이 이를 재생산하며 GPU 과열이나 긴 비용도 발생할 수 있다.

직접 대안과 비교

  • unsloth — Unsloth도 작은 공개 데이터셋과 8B 모델로 저용량 LoRA 학습을 실행하고 VRAM·손실·어댑터를 확인할 수 있다.

공식 근거와 확인일

Soup 가이드의 주장별 공식 출처
확인 항목확인한 내용공식 출처·확인일
제품 정보하나의 YAML로 로컬 GPU에서 LLM을 LoRA·QLoRA 방식으로 미세조정하고 내보낸다.Soup 공식 사이트
무료 조건Apache-2.0 오픈소스 소프트웨어는 횟수 제한 없이 실행 가능. 연결한 모델 API·서버·GPU 비용은 별도공식 무료 정책·요금 안내
공식 코드 라이선스오픈소스 코드의 사용·수정·재배포 조건공식 코드 라이선스
공식 제품 페이지하나의 YAML로 로컬 GPU에서 LLM을 LoRA·QLoRA 방식으로 미세조정하고 내보낸다.공식 제품 페이지