Ollama

Ollama
오픈 모델로 빌드를 시작하세요. 완전한 프라이버시를 유지하면서 최신 릴리스를 로컬 또는 클라우드에서 이용할 수 있습니다.

다운로드
macOS
curl -fsSL https://ollama.com/install.sh | sh
또는 수동으로 다운로드

Windows
irm https://ollama.com/install.ps1 | iex
또는 수동으로 다운로드

Linux
curl -fsSL https://ollama.com/install.sh | sh
수동 설치 안내

Docker
공식 Ollama Docker 이미지 ollama/ollama는 Docker Hub에서 이용할 수 있습니다.

라이브러리

ollama-python
ollama-js

커뮤니티

Discord
𝕏 (Twitter)
Reddit

시작하기
ollama

모델을 실행하거나, Ollama를 Claude Code, OpenClaw, OpenCode, Codex, Copilot 등 기존 에이전트나 애플리케이션에 연결하라는 안내가 표시됩니다.

코딩
특정 통합을 실행하려면:

ollama launch claude

지원되는 통합에는 Claude Code, Codex, Copilot CLI, DeepSeek Harness, Droid, OpenCode가 포함됩니다.

AI 어시스턴트
OpenClaw를 사용하면 Ollama를 WhatsApp, Telegram, Slack, Discord 등에서 사용할 수 있는 개인 AI 어시스턴트로 바꿀 수 있습니다:

ollama launch openclaw

모델과 채팅하기
Gemma 4를 실행하고 채팅하세요:

ollama run gemma4

전체 목록은 ollama.com/library에서 확인하세요.

자세한 내용은 빠른 시작 가이드를 참고하세요.

REST API
Ollama에는 모델을 실행하고 관리하기 위한 REST API가 있습니다.

curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'

모든 엔드포인트는 API 문서를 참고하세요.

Python
pip install ollama

from ollama import chat

response = chat ( model = 'gemma4' , messages = [
{
'role' : 'user' ,
'content' : 'Why is the sky blue?' ,
},
])
print ( response . message . content )
JavaScript
npm i ollama

import ollama from "ollama" ;

const response = await ollama . chat ( {
model : "gemma4" ,
messages : [ { role : "user" , content : "Why is the sky blue?" } ] ,
} ) ;
console . log ( response . message . content ) ;
지원되는 백엔드

Georgi Gerganov가 창립한 llama.cpp 프로젝트.

문서

CLI 레퍼런스
REST API 레퍼런스
모델 가져오기
Modelfile 레퍼런스
소스에서 빌드하기

커뮤니티 통합

프로젝트를 추가하고 싶으신가요? 풀 리퀘스트를 열어주세요.

채팅 인터페이스
웹

Open WebUI - 확장 가능한 셀프 호스팅 AI 인터페이스
Onyx - 연결형 AI 워크스페이스
LibreChat - 멀티 프로바이더를 지원하는 향상된 ChatGPT 클론
Lobe Chat - 플러그인 생태계를 갖춘 현대적인 채팅 프레임워크 ( docs )
NextChat - 크로스 플랫폼 ChatGPT UI ( docs )
Perplexica - AI 기반 검색 엔진, 오픈소스 Perplexity 대안
big-AGI - 전문가를 위한 AI 제품군
Lollms WebUI - 멀티 모델 웹 인터페이스
ChatOllama - 지식 베이스를 갖춘 챗봇
Bionic GPT - 온프레미스 AI 플랫폼
Chatbot UI - ChatGPT 스타일 웹 인터페이스
Hollama - 미니멀 웹 인터페이스
Chatbox - 데스크톱 및 웹 AI 클라이언트
chat - 팀을 위한 채팅 웹 앱
Ollama RAG Chatbot - RAG를 사용해 여러 PDF와 채팅
Tkinter 기반 클라이언트 - Python 데스크톱 클라이언트

데스크톱

Dify.AI - LLM 앱 개발 플랫폼
AnythingLLM - Mac, Windows, Linux용 올인원 AI 앱
Maid - 크로스 플랫폼 모바일 및 데스크톱 클라이언트
Witsy - Mac, Windows, Linux용 AI 데스크톱 앱
Cherry Studio - 멀티 프로바이더 데스크톱 클라이언트
Ollama App - 데스크톱 및 모바일용 멀티 플랫폼 클라이언트
PyGPT - Linux, Windows, Mac용 AI 데스크톱 어시스턴트
Alpaca - Linux 및 macOS용 GTK4 클라이언트
SwiftChat - iOS, Android, Apple Vision Pro를 포함한 크로스 플랫폼
Enchanted - 네이티브 macOS 및 iOS 클라이언트
RWKV-Runner - 멀티 모델 데스크톱 러너
Ollama Grid Search - 모델 평가 및 비교
macai - Ollama 및 ChatGPT용 macOS 클라이언트
AI Studio - 멀티 프로바이더 데스크톱 IDE
Reins - 파라미터 튜닝 및 추론 모델 지원
ConfiChat - 선택적 암호화를 지원하는 프라이버시 중심
LLocal.in - Electron 데스크톱 클라이언트
MindMac - Mac용 AI 채팅 클라이언트
Msty - 멀티 모델 데스크톱 클라이언트
BoltAI for Mac - Mac용 AI 채팅 클라이언트
IntelliBar - macOS용 AI 기반 어시스턴트
Kerlig AI - macOS용 AI 글쓰기 어시스턴트
Hillnote - 마크다운 우선 AI 워크스페이스
Perfect Memory AI - 화면 및 회의 기록으로 개인화되는 생산성 AI

모바일

Ollama Android Chat - Android에서 원클릭 Ollama

위에 나열된 SwiftChat, Enchanted, Maid, Ollama App, Reins, ConfiChat은 모바일 플랫폼도 지원합니다.

코드 에디터 및 개발

Cline - 멀티 파일/전체 저장소 코딩을 위한 VS Code 확장
Continue - 모든 IDE를 위한 오픈소스 AI 코드 어시스턴트
Void - 오픈소스 AI 코드 에디터, Cursor 대안
Copilot for Obsidian - Obsidian용 AI 어시스턴트
twinny - Copilot 및 Copilot 채팅 대안
gptel Emacs 클라이언트 - Emacs용 LLM 클라이언트
Ollama Copilot - Ollama를 GitHub Copilot으로 사용
Obsidian Local GPT - Obsidian용 로컬 AI
Ellama Emacs 클라이언트 - Emacs용 LLM 도구
orbiton - Ollama 탭 완성을 갖춘 설정 없는 텍스트 에디터
AI ST Completion - Sublime Text 4 AI 어시스턴트
VT Code - Tree-sitter를 갖춘 Rust 기반 터미널 코딩 에이전트
QodeAssist - Qt Creator용 AI 코딩 어시스턴트
AI Toolkit for VS Code - Microsoft 공식 VS Code 확장
Open Interpreter - 컴퓨터를 위한 자연어 인터페이스
oxi - 에디터, Git 패널, 터미널을 갖춘 네이티브 Rust 데스크톱 코딩 에이전트

라이브러리 및 SDK

LiteLLM - 100개 이상의 LLM 프로바이더를 위한 통합 API
Semantic Kernel - Microsoft AI 오케스트레이션 SDK
LangChain4j - Java LangChain ( example )
LangChainGo - Go LangChain ( example )
Spring AI - Spring 프레임워크 AI 지원 ( docs )
LangChain 및 LangChain.js ( example )
Ollama for Ruby - Ruby LLM 라이브러리
any-llm - Mozilla의 통합 LLM 인터페이스
OllamaSharp for .NET - .NET SDK
LangChainRust - Rust LangChain ( example )
Agents-Flex for Java - Java 에이전트 프레임워크 ( example )
Elixir LangChain - Elixir LangChain
Ollama-rs for Rust - Rust SDK
LangChain for .NET - .NET LangChain ( example )
chromem-go - Ollama 임베딩을 갖춘 Go 벡터 데이터베이스 ( example )
LangChainDart - Dart LangChain
LlmTornado - 여러 추론 API를 위한 통합 C# 인터페이스
Ollama4j for Java - Java SDK
Ollama for Laravel - Laravel 통합
Ollama for Swift - Swift SDK
LlamaIndex 및 LlamaIndexTS - LLM 앱을 위한 데이터 프레임워크
Haystack - AI 파이프라인 프레임워크
Firebase Genkit - Google AI 프레임워크
Ollama-hpp for C++ - C++ SDK
PromptingTools.jl - Julia LLM 툴킷 ( example )
Ollama for R - rollama - R SDK
Portkey - AI 게이트웨이
Testcontainers - 컨테이너 기반 테스팅
LLPhant - PHP AI 프레임워크

프레임워크 및 에이전트

AutoGPT - 자율 AI 에이전트 플랫폼
crewAI - 멀티 에이전트 오케스트레이션 프레임워크
Strands Agents - AWS의 모델 기반 에이전트 구축
Cheshire Cat - AI 어시스턴트 프레임워크
any-agent - Mozilla의 통합 에이전트 프레임워크 인터페이스
Stakpak - 오픈소스 DevOps 에이전트
Hexabot - 대화형 AI 빌더
Neuro SAN - 멀티 에이전트 오케스트레이션 ( docs )

RAG 및 지식 베이스

RAGFlow - 깊은 문서 이해 기반 RAG 엔진
R2R - 오픈소스 RAG 엔진
MaxKB - 바로 사용할 수 있는 RAG 챗봇
Minima - 온프레미스 또는 완전 로컬 RAG
Chipper - Haystack RAG를 갖춘 AI 인터페이스
ARGO - Mac/Windows/Linux에서의 RAG 및 심층 리서치
Archyve - RAG 지원 문서 라이브러리
Casibase - RAG 및 SSO를 갖춘 AI 지식 베이스
BrainSoup - RAG 및 멀티 에이전트 자동화를 갖춘 네이티브 클라이언트

봇 및 메시징

LangBot - 에이전트와 RAG를 갖춘 멀티 플랫폼 메시징 봇
AstrBot - RAG와 플러그인을 갖춘 멀티 플랫폼 챗봇
Discord-Ollama Chat Bot - TypeScript Discord 봇
Ollama Telegram Bot - Telegram 봇
LLM Telegram Bot - 역할극용 Telegram 봇

터미널 및 CLI

aichat - Shell Assistant, RAG, AI 도구를 갖춘 올인원 LLM CLI
oterm - Ollama용 터미널 클라이언트
gollama - Go 기반 Ollama 모델 관리자
tlm - 로컬 셸 코파일럿
tenere - LLM용 TUI
ParLlama - Ollama용 TUI
llm-ollama - Datasette의 LLM CLI용 플러그인
ShellOracle - 셸 명령 제안
LLM-X - LLM용 프로그레시브 웹 앱
cmdh - 자연어를 셸 명령으로 변환
VT - 미니멀 멀티모달 AI 채팅 앱

생산성 및 앱

AppFlowy - AI 협업 워크스페이스, 셀프 호스팅 가능한 Notion 대안
Screenpipe - AI 기반 검색을 갖춘 24/7 화면 및 마이크 녹화
Vibe - 회의 전사 및 분석
Page Assist - AI 기반 브라우징을 위한 Chrome 확장
NativeMind - 프라이빗 온디바이스 브라우저 AI 어시스턴트
Ollama Fortress - Ollama용 보안 프록시
1Panel - 웹 기반 Linux 서버 관리
Writeopia - Ollama 통합을 갖춘 텍스트 에디터
QA-Pilot - GitHub 코드 저장소 이해
Raycast extension - Raycast에서의 Ollama
Painting Droid - AI 통합을 갖춘 페인팅 앱
Serene Pub - AI 역할극 앱
Mayan EDMS - Ollama 워크플로를 갖춘 문서 관리
TagSpaces - AI 태깅을 갖춘 파일 관리

관측성 및 모니터링

Opik - LLM 애플리케이션 디버그, 평가, 모니터링
OpenLIT - Ollama 및 GPU를 위한 OpenTelemetry 네이티브 모니터링
Lunary - 분석 및 PII 마스킹을 갖춘 LLM 관측성
Langfuse - 오픈소스 LLM 관측성
HoneyHive - 에이전트를 위한 AI 관측성 및 평가
MLflow Tracing - 오픈소스 LLM 관측성

데이터베이스 및 임베딩

pgai - 벡터 데이터베이스로서의 PostgreSQL ( guide )
MindsDB - Ollama를 200개 이상의 데이터 플랫폼과 연결
chromem-go - Go용 임베디드 벡터 데이터베이스 ( example )
Kangaroo - AI 기반 SQL 클라이언트

인프라 및 배포
클라우드

Google Cloud
Fly.io
Koyeb
Harbor - Ollama를 기본 백엔드로 사용하는 컨테이너화된 LLM 툴킷

패키지 관리자

Pacman
Homebrew
Nix package
Helm Chart
Gentoo
Flox
Guix channel