langfuse

Langfuse Cloud
·

셀프 호스팅
·

데모

문서 ·
버그 신고 ·
기능 요청 ·
변경 로그 ·
로드맵 ·

Langfuse는 오픈 소스 LLM 엔지니어링 플랫폼입니다. 팀이 협업하여
AI 애플리케이션을 개발, 모니터링, 평가, 디버깅할 수 있도록 돕습니다. Langfuse는 몇 분 만에 셀프 호스팅할 수 있으며 실전에서 검증되었습니다 . ClickHouse 오픈 소스 데이터베이스로 자랑스럽게 만들었습니다 .

🧑‍💻 채용 중
Langfuse는 빠르게 성장하고 있습니다(지난 6개월 동안 팀 규모가 두 배로 늘었습니다) - 2026년 1월부터 ClickHouse의 일원이 되었으며, EU 전역에서 하이브리드 엔지니어링 인재를 채용하고 있습니다.
오픈 소스와 뛰어난 개발자 경험을 사랑하는 엔지니어를 채용합니다.
채용 공고 보기 →

✨ 핵심 기능

LLM 애플리케이션 관측성 : 앱을 계측하고 트레이스를 Langfuse로 수집하기 시작하여 LLM 호출과 검색, 임베딩, 에이전트 액션 등 앱의 기타 관련 로직을 추적하세요. 복잡한 로그와 사용자 세션을 검사하고 디버깅하세요. 실제 동작을 확인하려면 대화형 데모를 사용해 보세요.

프롬프트 관리는 프롬프트를 중앙에서 관리하고, 버전을 제어하며, 협업으로 반복 개선할 수 있도록 돕습니다. 서버와 클라이언트 측의 강력한 캐싱 덕분에 애플리케이션에 지연을 추가하지 않고도 프롬프트를 반복 개선할 수 있습니다.

평가는 LLM 애플리케이션 개발 워크플로의 핵심이며, Langfuse는 여러분의 요구에 맞춰 적응합니다. LLM-as-a-judge, 코드 평가자, 사용자 피드백 수집, 수동 라벨링, API/SDK를 통한 맞춤형 평가 파이프라인을 지원합니다.

데이터셋은 LLM 애플리케이션을 평가하기 위한 테스트 세트와 벤치마크를 제공합니다. 지속적인 개선, 배포 전 테스트, 구조화된 실험, 유연한 평가, 그리고 LangChain 및 LlamaIndex 같은 프레임워크와의 원활한 통합을 지원합니다.

LLM 플레이그라운드는 프롬프트와 모델 구성을 테스트하고 반복 개선하는 도구로, 피드백 루프를 단축하고 개발을 가속화합니다. 트레이싱에서 좋지 않은 결과를 발견하면 바로 플레이그라운드로 이동하여 반복 개선할 수 있습니다.

포괄적인 API : Langfuse는 API를 통해 Langfuse가 제공하는 빌딩 블록을 사용하면서 맞춤형 LLMOps 워크플로를 구동하는 데 자주 사용됩니다. OpenAPI 명세, Postman 컬렉션, Python, JS/TS용 타입 지정 SDK를 사용할 수 있습니다.

📦 Langfuse 배포

Langfuse Cloud
Langfuse 팀이 관리하는 배포로, 넉넉한 무료 티어를 제공하며 신용카드가 필요하지 않습니다.

Langfuse 셀프 호스팅
자체 인프라에서 Langfuse를 실행하세요:

로컬 (docker compose) : Docker Compose를 사용하여 5분 만에 자신의 머신에서 Langfuse를 실행하세요.

# 최신 Langfuse 저장소 복사본 가져오기
git clone --depth=1 https://github.com/langfuse/langfuse.git
cd langfuse

# langfuse docker compose 실행
docker compose up

VM : Docker Compose를 사용하여 단일 가상 머신에서 Langfuse를 실행하세요.

Kubernetes (Helm) : Helm을 사용하여 Kubernetes 클러스터에서 Langfuse를 실행하세요. 선호되는 프로덕션 배포 방식입니다.

Terraform 템플릿: AWS , Azure , GCP

아키텍처와 구성 옵션에 대해 자세히 알아보려면 셀프 호스팅 문서를 참조하세요.

Docker 로그 로테이션
기본 docker-compose.yml은 Docker 데몬의 로깅 구성을 상속합니다 . Docker의 기본 json-file 드라이버는 구성하지 않는 한 로그를 로테이션하지 않으므로 디스크 공간이 고갈될 수 있습니다. max-size 및 max-file 옵션을 설정하거나, 선택한 로깅 백엔드를 유지하고 그곳에서 보존 정책을 구성하세요. Docker가 관리하는 JSON 로그 파일을 외부 도구로 로테이션하거나 잘라내지 마세요.

데몬 로깅 기본값을 변경한 후에는 Docker를 재시작하고 기존 컨테이너를 다시 생성하여 적용하세요. 컨테이너만 재시작하는 것으로는 충분하지 않습니다. 중단에 대비하고 데이터 볼륨을 보존하세요. 이 설정은 컨테이너의 stdout/stderr에 적용되며, 데이터베이스 데이터 볼륨이나 ClickHouse의 내부 로그 파일에는 적용되지 않습니다.

팁

Langfuse를 셀프 호스팅하시나요? 셀프 호스팅 업데이트 목록을 구독하여 오픈 소스 Langfuse의 중요한 기능과 새 릴리스에 대한 이메일을 받아보세요 — 셀프 호스팅 업데이트만 발송하며 마케팅은 없습니다.

🔌 통합

주요 통합:

통합
지원
설명

SDK
Python, JS/TS
SDK를 사용한 수동 계측으로 완전한 유연성을 제공합니다.

OpenAI
Python, JS/TS
OpenAI SDK의 드롭인 대체를 사용한 자동 계측.

Langchain
Python, JS/TS
콜백 핸들러를 Langchain 애플리케이션에 전달하여 자동 계측.

LlamaIndex
Python
LlamaIndex 콜백 시스템을 통한 자동 계측.

Haystack
Python
Haystack 콘텐츠 트레이싱 시스템을 통한 자동 계측.

LiteLLM
Python, JS/TS (프록시 전용)
모든 LLM을 GPT의 드롭인 대체로 사용하세요. Azure, OpenAI, Cohere, Anthropic, Ollama, VLLM, Sagemaker, HuggingFace, Replicate 사용(100개 이상의 LLM).

Vercel AI SDK
JS/TS
React, Next.js, Vue, Svelte, Node.js로 AI 기반 애플리케이션을 구축하는 데 도움을 주도록 설계된 TypeScript 툴킷.

Mastra
JS/TS
AI 에이전트와 멀티 에이전트 시스템을 구축하기 위한 오픈 소스 프레임워크.

API

공개 API를 직접 호출하세요. OpenAPI 명세를 사용할 수 있습니다.

Langfuse와 통합된 패키지:

이름
유형
설명

Instructor
라이브러리
구조화된 LLM 출력(JSON, Pydantic)을 얻기 위한 라이브러리

DSPy
라이브러리
언어 모델 프롬프트와 가중치를 체계적으로 최적화하는 프레임워크

Mirascope
라이브러리
LLM 애플리케이션 구축을 위한 Python 툴킷.

Ollama
모델 (로컬)
자신의 머신에서 오픈 소스 LLM을 쉽게 실행하세요.

Amazon Bedrock
모델
AWS에서 파운데이션 모델과 파인튜닝된 모델을 실행하세요.

AutoGen
에이전트 프레임워크
분산 에이전트 구축을 위한 오픈 소스 LLM 플랫폼.

Flowise
채팅/에이전트 UI
맞춤형 LLM 플로우를 위한 JS/TS 노코드 빌더.

Langflow
채팅/에이전트 UI
LangChain을 위한 Python 기반 UI로, react-flow로 설계되어 플로우를 손쉽게 실험하고 프로토타이핑할 수 있습니다.

Dify
채팅/에이전트 UI
노코드 빌더를 갖춘 오픈 소스 LLM 앱 개발 플랫폼.

OpenWebUI
채팅/에이전트 UI
셀프 호스팅 및 로컬 모델을 포함한 다양한 LLM 러너를 지원하는 셀프 호스팅 LLM 채팅 웹 UI.

Promptfoo
도구
오픈 소스 LLM 테스트 플랫폼.

LobeChat
채팅/에이전트 UI
오픈 소스 챗봇 플랫폼.

Vapi
플랫폼
오픈 소스 음성 AI 플랫폼.

Inferable
에이전트
분산 에이전트 구축을 위한 오픈 소스 LLM 플랫폼.

Gradio
채팅/에이전트 UI
채팅 UI 같은 웹 인터페이스를 구축하기 위한 오픈 소스 Python 라이브러리.

Goose
에이전트
분산 에이전트 구축을 위한 오픈 소스 LLM 플랫폼.

smolagents
에이전트
오픈 소스 AI 에이전트 프레임워크.

CrewAI
에이전트
에이전트 협업과 도구 사용을 위한 멀티 에이전트 프레임워크.

🚀 빠른 시작
앱을 계측하고 트레이스를 Langfuse로 수집하기 시작하여 LLM 호출과 검색, 임베딩, 에이전트 액션 등 앱의 기타 관련 로직을 추적하세요. 복잡한 로그와 사용자 세션을 검사하고 디버깅하세요.

1️⃣ 새 프로젝트 생성

Langfuse 계정 생성 또는 셀프 호스팅
새 프로젝트 생성
프로젝트 설정에서 새 API 자격 증명 생성

2️⃣ 첫 LLM 호출 기록
@observe() 데코레이터를 사용하면 모든 Python LLM 애플리케이션을 쉽게 트레이싱할 수 있습니다. 이 빠른 시작에서는 Langfuse OpenAI 통합을 사용하여 모든 모델 파라미터를 자동으로 캡처합니다.

팁

OpenAI를 사용하지 않으시나요? 다른 모델과 프레임워크를 기록하는 방법은 문서를 참조하세요.

pip install langfuse openai
LANGFUSE_SECRET_KEY= " sk-lf-... "
LANGFUSE_PUBLIC_KEY= " pk-lf-... "
LANGFUSE_BASE_URL= " https://cloud.langfuse.com " # 🇪🇺 EU 리전
# LANGFUSE_BASE_URL="https://us.cloud.langfuse.com" # 🇺🇸 US 리전
from langfuse import observe
from langfuse . openai import openai # OpenAI 통합

@ observe ()
def story ():
return openai . chat . completions . create (
model = "gpt-4o" ,
messages = [{ "role" : "user" , "content" : "What is Langfuse?" }],
). choices [ 0 ]. message . content

@ observe ()
def main ():
return story ()

main ()
3️⃣ Langfuse에서 트레이스 확인
Langfuse에서 언어 모델 호출과 기타 애플리케이션 로직을 확인하세요.

Langfuse의 공개 예시 트레이스

💭 지원
질문에 대한 답 찾기:

문서는 답을 찾기 시작하기에 가장 좋은 곳입니다. 포괄적이며, 유지 관리에 상당한 시간을 투자하고 있습니다. GitHub를 통해 문서에 대한 수정을 제안할 수도 있습니다.
가장 흔한 질문에 대한 답변이 있는 Langfuse FAQ.
" Ask AI "를 사용하여 질문에 대한 즉각적인 답변을 받으세요.

지원 채널:

GitHub Discussions의 공개 Q&A에서 어떤 질문이든 하세요. 질문을 이해하는 데 도움이 되도록 가능한 한 많은 세부 정보(예: 코드 스니펫, 스크린샷, 배경 정보)를 포함해 주세요.
GitHub Discussions에서 기능을 요청하세요.
GitHub Issues에서 버그를 신고하세요.
시간에 민감한 문의는 인앱 채팅 위젯을 통해 알려주세요.

🤝 기여
여러분의 기여를 환영합니다!

GitHub Discussions에서 아이디어에 투표하세요.
Issues 를 제기하고 댓글을 남기세요.
PR을 열어주세요 - 개발 환경 설정 방법에 대한 자세한 내용은 CONTRIBUTING.md를 참조하세요.

🥇 라이선스
이 저장소는 ee 폴더를 제외하고 MIT 라이선스입니다. 자세한 내용은 LICENSE와 문서를 참조하세요.

종속성
이 코드베이스는 Linux Alpine 이미지 ( source )를 기반으로 하는 Docker 컨테이너에 배포됩니다. Dockerfile은 web/Dockerfile 및 worker/Dockerfile에서 확인할 수 있습니다.

⭐️ 스타 히스토리

❤️ Langfuse를 사용하는 오픈 소스 프로젝트
Langfuse를 사용하는 상위 오픈 소스 Python 프로젝트를 스타 순으로 정렬했습니다( Source ):

저장소
스타

langflow-ai / langflow
116251

open-webui / open-webui
109642

abi / screenshot-to-code
70877

lobehub / lobe-chat
65454

infiniflow / ragflow
64118

firecrawl / firecrawl
56713

run-llama / llama_index
44203

FlowiseAI / Flowise
43547

QuivrHQ / quivr
38415

microsoft / ai-agents-for-beginners
38012

chatchat-space / Langchain-Chatchat
36071

mindsdb / mindsdb
35669

danny-avila / LibreChat
33142

BerriAI / litellm
28726

onlook-dev / onlook
22447

NixOS / nixpkgs
21748

kortix-ai / suna
17976

anthropics / courses
17057

mastra-ai / mastra
16484

langfuse / langfuse
16054

Canner / WrenAI
11868

promptfoo / promptfoo
8350

The-Pocket / PocketFlow
8313

OpenPipe / ART
7093

topoteretes / cognee
7011

awslabs / agent-squad
6785

BasedHardware / omi
6231

hatchet-dev / hatchet
6019

zenml-io / zenml
4873

refly-ai / refly
4654

coleam00 / ottomator-agents
4165

JoshuaC215 / agent-service-toolkit
3557

colanode / colanode
3517

VoltAgent / voltagent
3210

bragai / bRAG-langchain
3010

pingcap / autoflow
2651

sourcebot-dev / sourcebot
2570

open-webui / pipelines
2055

YFGaia / dify-plus
1734

TheSpaghettiDetective / obico-server
1687

MLSysOps / MLE-agent
1387

TIGER-AI-Lab / TheoremExplainAgent
1385

trailofbits / buttercup
1223

wassim249 / fastapi-langgraph-agent-production-ready-template
1200

alishobeiri / thread
1098

dmayboroda / minima
1010

zstar1003 / ragflow-plus
993

openops-cloud / openops
939

dynamiq-ai / dynamiq
927

xataio / agent
857

plastic-labs / tutor-gpt
845

trendy-design / llmchat
829

hotovo / aider-desk
781

opslane / opslane
719

wrtnlabs / autoview
688

andysingal / llm-course
643

theopenconversationkit / tock
587

sentient-engineering / agent-q
487

NicholasGoh / fastapi-mcp-langgraph-template
481

i-am-alice / 3rd-devs
472

AIDotNet / koala-ai
470

phospho-app / text-analytics-legacy
439

inferablehq / inferable
403

duoyang666 / ai_novel
397

strands-agents / samples
385

FranciscoMoretti / sparka
380

RobotecAI / rai
373

ElectricCodeGuy / SupabaseAuthWithSSR
370

souzatharsis / tamingLLMs
323

aws-samples / aws-ai-ml-workshop-kr
295

weizxfree / KnowFlow
285

zenml-io / zenml-projects
276

wxai-space / LightAgent
275

Ozamatash / deep-research-mcp
269

sql-agi / DB-GPT
241

guyernest / advanced-rag
238

bklieger-groq / mathtutor-on-groq
233

plastic-labs / honcho
224

OVINC-CN / OpenWebUI
202

zhutoutoutousan / worldquant-miner
202

iceener / ai
186

giselles-ai / giselle
181

ai-shifu / ai-shifu
181

aws-samples / sample-serverless-mcp-servers
175

celerforge / freenote
171

babelcloud / LLM-RGB
164

8090-inc / xrx-sample-apps
163

deepset-ai / haystack-core-integrations
163

codecentric / c4-genai-suite
152

XSpoonAi / spoon-core
150

chatchat-space / LangGraph-Chatchat
144

langfuse / langfuse-docs
139

piyushgarg-dev / genai-cohort
135

i-d…