mlflow

에이전트, LLM 및 모델을 위한 오픈 소스 AI 엔지니어링 플랫폼

MLflow는 에이전트, LLM 및 ML 모델을 위한 가장 큰 오픈 소스 AI 엔지니어링 플랫폼입니다. MLflow를 통해 모든 규모의 팀이 프로덕션 품질의 AI 애플리케이션을 디버깅, 평가, 모니터링 및 최적화하는 동시에 비용을 제어하고 모델 및 데이터에 대한 접근을 관리할 수 있습니다. 월 6천만 건 이상의 다운로드를 기록하며, 수천 개의 조직이 매일 MLflow를 신뢰하고 AI를 프로덕션에 배포하고 있습니다.

에이전트 및 LLM 애플리케이션을 위한 MLflow의 포괄적인 기능에는 프로덕션급 관측성, 평가, 프롬프트 관리, 프롬프트 최적화, 그리고 비용 및 모델 접근 관리를 위한 AI Gateway가 포함됩니다. 자세한 내용은 MLflow for LLMs and Agents에서 확인하세요.

웹사이트 ·
데모 체험 ·
문서 ·
뉴스 ·
이벤트

3가지 간단한 단계로 시작하기
몇 분 만에 제로에서 풀스택 LLMOps까지. 복잡한 설정이나 큰 코드 변경이 필요하지 않습니다. 시작하기 →

가장 빠른 시작 — MLflow 설정 마법사로 트레이싱 설정하기

curl -LsSf https://mlflow.org/wizard/setup.sh | sh
Claude Code, Codex 또는 OpenCode가 설치된 프로젝트의 Git 저장소에서 이 명령을 실행하세요. 마법사가 MLflow 서버 또는 Databricks 워크스페이스 연결을 안내한 다음, 코딩 에이전트를 실행하여 앱에 트레이싱을 추가합니다. 직접 설정하는 것을 선호하시나요? 아래 세 단계를 따르세요.

1. MLflow 서버 시작

uvx mlflow server
2. 로깅 활성화

import mlflow

mlflow . set_tracking_uri ( "http://localhost:5000" )
mlflow . openai . autolog ()
3. 코드 실행

from openai import OpenAI

client = OpenAI ()
client . responses . create (
model = "gpt-5.4-mini" ,
input = "Hello!" ,
)
http://localhost:5000 의 MLflow UI에서 트레이스와 메트릭을 살펴보세요.

LLM 및 에이전트
MLflow는 프로덕션 품질의 LLM 애플리케이션과 AI 에이전트를 구축, 디버깅, 평가 및 배포하는 데 필요한 모든 것을 제공합니다. Python, TypeScript/JavaScript, Java 및 기타 모든 프로그래밍 언어를 지원합니다. MLflow는 OpenTelemetry 및 MCP와도 기본적으로 통합됩니다.

관측성

LLM 애플리케이션과 에이전트의 완전한 트레이스를 캡처하여 심층적인 동작 인사이트를 확보하세요. OpenTelemetry 기반으로 구축되어 모든 LLM 제공자와 에이전트 프레임워크를 지원합니다. 프로덕션 품질, 비용 및 안전성을 모니터링하세요.

시작하기 →

데모 체험 →

평가

체계적인 평가를 실행하고, 시간 경과에 따른 품질 메트릭을 추적하며, 프로덕션에 도달하기 전에 회귀를 포착하세요. 50개 이상의 내장 메트릭과 LLM 판정자 중에서 선택하거나 직접 정의할 수 있습니다.

시작하기 →

데모 체험 →

프롬프트 및 최적화

전체 계보 추적과 함께 프롬프트를 버전 관리, 테스트 및 배포하세요. 최신 알고리즘으로 프롬프트를 자동 최적화하여 성능을 향상시키세요.

시작하기 →

데모 체험 →

AI Gateway

모든 LLM 제공자를 위한 통합 API 게이트웨이. OpenAI 호환 인터페이스를 통해 요청을 라우팅하고, 속도 제한을 관리하고, 폴백을 처리하고, 비용을 제어하세요. 내장된 자격 증명 관리, 가드레일, A/B 테스트를 위한 트래픽 분할 기능을 제공합니다.

시작하기 →

모델 학습
머신러닝 및 딥러닝 모델 개발을 위해 MLflow는 ML 라이프사이클을 관리하는 완전한 도구 모음을 제공합니다:

실험 추적 — 실험 전반에 걸쳐 모델, 파라미터, 메트릭 및 평가 결과 추적
모델 평가 — 실험 추적과 통합된 자동화된 평가 도구
모델 레지스트리 — ML 모델의 전체 라이프사이클을 협업으로 관리
배포 — Docker, Kubernetes, Azure ML, AWS SageMaker 등에서 배치 및 실시간 스코어링을 위한 모델 배포

자세한 내용은 MLflow for Model Training에서 확인하세요.

통합
MLflow는 모든 에이전트 프레임워크, LLM 제공자, 도구 및 프로그래밍 언어를 지원합니다. 60개 이상의 프레임워크에 대해 한 줄 자동 트레이싱을 제공합니다. 전체 통합 목록을 확인하세요.

OpenTelemetry

OpenTelemetry

에이전트 프레임워크 (Python)

LangChain

LangGraph

OpenAI Agent

DSPy

PydanticAI

Google ADK

Microsoft Agent

CrewAI

LlamaIndex

AutoGen

Strands

LiveKit Agents

Agno

Bedrock AgentCore

Smolagents

Semantic Kernel

DeepAgent

AG2

Haystack

Koog

txtai

Pipecat

Watsonx

에이전트 프레임워크 (TypeScript)

LangChain

LangGraph

Vercel AI SDK

Mastra

VoltAgent

에이전트 프레임워크 (Java)

Spring AI

Quarkus LangChain4j

모델 제공자

OpenAI

Anthropic

Databricks

Gemini

Amazon Bedrock

LiteLLM

Mistral

xAI / Grok

Ollama

Groq

DeepSeek

Qwen

Moonshot AI

Cohere

BytePlus

Novita AI

FireworksAI

Together AI

게이트웨이

Databricks

LiteLLM Proxy

Vercel AI Gateway

OpenRouter

Portkey

Helicone

Kong AI Gateway

PydanticAI Gateway

TrueFoundry

도구 및 노코드

Instructor

Claude Code

Opencode

Langfuse

Arize / Phoenix

Goose

Langflow

MLflow 호스팅
MLflow는 로컬 환경, 온프레미스 클러스터, 클라우드 플랫폼 및 관리형 서비스를 포함한 다양한 환경에서 사용할 수 있습니다. 오픈 소스 플랫폼인 MLflow는 벤더 중립적입니다 — AI 에이전트, LLM 애플리케이션 또는 ML 모델을 구축하든 MLflow의 핵심 기능을 활용할 수 있습니다.

Databricks

Amazon SageMaker

Azure ML

Nebius

Red Hat OpenShift AI

셀프 호스팅

💭 지원

MLflow 사용에 관한 도움말이나 질문(예: "X는 어떻게 하나요?")은 문서를 참조하세요.
문서에서 AI 기반 챗봇에게 질문할 수 있습니다. 오른쪽 하단의 "Ask AI" 버튼을 클릭하세요.
오피스 아워 및 밋업과 같은 가상 이벤트에 참여하세요.
버그를 보고하거나, 문서 이슈를 제출하거나, 기능 요청을 제출하려면 GitHub 이슈를 열어주세요.
릴리스 공지 및 기타 논의 사항은 메일링 리스트( [email protected] )를 구독하거나
Slack에서 함께하세요.

🤝 기여
MLflow에 대한 기여를 환영합니다!

버그 보고 및 기능 요청 제출
good-first-issues 및 help-wanted에 기여
MLflow에 대해 글을 쓰고 경험 공유

MLflow 기여에 대해 자세히 알아보려면 기여 가이드를 참조하세요.

⭐️ 스타 히스토리

✏️ 인용
연구에서 MLflow를 사용하는 경우, GitHub 저장소 페이지 상단의 "Cite this repository" 버튼을 사용하여 인용해 주세요. APA 및 BibTeX를 포함한 인용 형식을 제공합니다.

👥 핵심 멤버
MLflow는 현재 수백 명의 뛰어난 커뮤니티 멤버들의 상당한 기여와 함께 다음 핵심 멤버들에 의해 유지 관리되고 있습니다.

Ben Wilson
Corey Zumar
Daniel Lok
Gabriel Fu
Harutaka Kawamura
Humair Khan
Joel Robin P
Matthew Prahl
Pat Sukprasert
Serena Ruan
Tomu Hirata
Weichen Xu
Yuki Watanabe