로컬 AI 실전 가이드 · 공식 문서 확인 2026-08-17

Ollama 사용법: 내 PC에서 AI를 돌리는 가장 단순한 입구

Ollama는 하나의 AI 모델이 아니라 여러 오픈 모델을 내 컴퓨터에서 실행하고 채팅 앱, 코딩 도구, 자동화에 연결하는 로컬 AI 런타임입니다.

누구에게 맞나요?

회사 문서나 소스 코드를 외부 AI에 올리고 싶지 않은 사람, VS Code·RAG·개인 앱에 로컬 API를 붙일 사람에게 잘 맞습니다. 설치 없이 최고 품질의 답변이 필요한 사람에게는 맞지 않습니다.

내 PC에서 돌아갈까요?

Windows 10 22H2 이상, macOS 14 이상, Linux를 지원합니다. 모델 파일 외에도 운영체제와 컨텍스트용 메모리가 필요하므로 16GB 안팎에서는 qwen3.5:4b 같은 작은 모델부터 시작하는 편이 안전합니다.

로컬과 Cloud는 다릅니다

로컬 모델은 계정 없이 내 하드웨어에서 무제한 실행되고 프롬프트가 기기를 떠나지 않습니다. 이름에 -cloud가 붙은 모델은 Ollama Cloud에서 처리되며 계정과 별도 사용량 제한이 있습니다.

API 보안

기본 로컬 API 주소는 http://localhost:11434/api이며 인증이 없습니다. 0.0.0.0으로 인터넷에 직접 노출하지 말고, 외부 접속에는 VPN 또는 인증을 갖춘 프록시를 사용해야 합니다.

무료와 라이선스

Ollama 프로그램은 MIT 라이선스지만 실행하는 모델은 각각 별도 라이선스가 적용됩니다. 상업 이용 전 모델 상세 페이지의 라이선스를 확인해야 합니다.