Ollama — 로컬 대규모 언어 모델

Ollama를 사용하면 Mac에서 오픈소스 LLM을 완전히 로컬로 실행할 수 있습니다. API 비용이 없으며 데이터가 기기 외부로 절대 나가지 않습니다.

NOTE

Ollama는 Apple Silicon(M1/M2/M3/M4) Mac에서 최고의 성능을 발휘하며 오프라인 상태에서도 완벽하게 동작합니다.

---

1단계 — Ollama 설치

터미널에서 Homebrew를 통해 간편하게 설치할 수 있습니다:

brew install ollama

또는 ollama.com/download에서 macOS 앱을 다운로드할 수 있습니다.

설치 후 서비스를 시작합니다:

ollama serve

---

2단계 — 모델 다운로드

원하는 오픈소스 모델을 다운로드합니다:

# 균형 잡힌 다목적 모델 (약 2 GB)
ollama pull llama3.2

# 다국어(한국어/중국어/일본어) 성능이 뛰어난 모델 (약 5 GB)
ollama pull qwen2.5

---

3단계 — DuRT에 Ollama 연동

1. DuRT의 설정 ➔ 서비스로 이동합니다.
2. ＋ 서비스 추가를 누르고 Ollama를 선택합니다.
3. Base URL에 다음 주소를 입력합니다:

   http://localhost:11434

4. 모델 이름에 다운로드한 모델명(예: qwen2.5 또는 llama3.2)을 입력합니다.
5. API Key 입력란은 비워둔 채 저장을 누릅니다.