agentops

AI 에이전트를 위한 관측성 및 DevTool 플랫폼

agentops_demo.mp4

AgentOps는 개발자가 AI 에이전트를 구축, 평가, 모니터링할 수 있도록 돕습니다. 프로토타입부터 프로덕션까지.

오픈 소스
AgentOps 앱은 MIT 라이선스 하에 오픈 소스입니다. app 디렉터리 에서 코드를 살펴보세요 .

주요 통합 🔌

📊 리플레이 분석 및 디버깅
단계별 에이전트 실행 그래프

💸 LLM 비용 관리
LLM 파운데이션 모델 제공업체와의 지출 추적

🤝 프레임워크 통합
CrewAI, AG2 (AutoGen), Agno, LangGraph 등과의 네이티브 통합

⚒️ 셀프 호스팅
자체 클라우드에서 AgentOps를 실행하고 싶으신가요? 준비되어 있습니다

빠른 시작 ⌨️
pip install agentops
단 두 줄의 코드로 세션 리플레이
AgentOps 클라이언트를 초기화하면 모든 LLM 호출에 대한 분석을 자동으로 얻을 수 있습니다.

API 키 받기

import agentops

# 프로그램 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

...

# 프로그램 종료 부분
agentops . end_session ( 'Success' )
모든 세션은 AgentOps 대시보드에서 확인할 수 있습니다

셀프 호스팅
자체 머신에서 전체 AgentOps 앱(대시보드 + API 백엔드)을 실행하고 싶으신가요? app/README.md 의 설정 가이드를 따르세요 :

앱 및 백엔드 실행 (대시보드 + API)

에이전트 디버깅

세션 리플레이

요약 분석

최고 수준의 개발자 경험
최소한의 코드로 에이전트, 도구, 함수에 강력한 관측성을 추가하세요: 한 줄씩.

문서 를 참고하세요

# 세션 스팬 생성 (다른 모든 스팬의 루트)
from agentops . sdk . decorators import session

@ session
def my_workflow ():
# 여기에 세션 코드 작성
return result
# 에이전트 작업 추적을 위한 에이전트 스팬 생성
from agentops . sdk . decorators import agent

@ agent
class MyAgent :
def __init__ ( self , name ):
self . name = name

# 여기에 에이전트 메서드 작성
# 특정 작업 추적을 위한 operation/task 스팬 생성
from agentops . sdk . decorators import operation , task

@ operation # 또는 @task
def process_data ( data ):
# 데이터 처리
return result
# 다중 작업 워크플로 추적을 위한 워크플로 스팬 생성
from agentops . sdk . decorators import workflow

@ workflow
def my_workflow ( data ):
# 워크플로 구현
return result
# 적절한 스팬 계층을 위한 데코레이터 중첩
from agentops . sdk . decorators import session , agent , operation

@ agent
class MyAgent :
@ operation
def nested_operation ( self , message ):
return f"Processed: { message } "

@ operation
def main_operation ( self ):
result = self . nested_operation ( "test message" )
return result

@ session
def my_session ():
agent = MyAgent ()
return agent . main_operation ()
모든 데코레이터는 다음을 지원합니다:

입력/출력 기록
예외 처리
Async/await 함수
제너레이터 함수
사용자 정의 속성 및 이름

통합 🦾
OpenAI Agents SDK 🖇️
도구, 핸드오프, 가드레일을 갖춘 멀티 에이전트 시스템을 구축하세요. AgentOps는 Python과 TypeScript 모두를 위한 OpenAI Agents SDK와 네이티브로 통합됩니다.

Python
pip install openai-agents

Python 통합 가이드
OpenAI Agents Python 문서

TypeScript
npm install agentops @openai/agents

TypeScript 통합 가이드
OpenAI Agents JS 문서

CrewAI 🛶
단 두 줄의 코드로 관측성을 갖춘 Crew 에이전트를 구축하세요. 환경에 AGENTOPS_API_KEY를 설정하기만 하면 크루가 AgentOps 대시보드에서 자동 모니터링됩니다.

pip install ' crewai[agentops] '

AgentOps 통합 예제
공식 CrewAI 문서

AG2 🤖
단 두 줄의 코드로 AG2(이전 AutoGen) 에이전트에 완전한 관측성과 모니터링을 추가하세요. 환경에 AGENTOPS_API_KEY를 설정하고 agentops.init()를 호출하세요.

AG2 관측성 예제
AG2 - AgentOps 문서

Camel AI 🐪
완전한 관측성으로 CAMEL 에이전트를 추적하고 분석하세요. 환경에 AGENTOPS_API_KEY를 설정하고 AgentOps를 초기화하여 시작하세요.

Camel AI - 고급 에이전트 커뮤니케이션 프레임워크
AgentOps 통합 예제
공식 Camel AI 문서

설치
pip install " camel-ai[all]==0.2.11 "
pip install agentops
import os
import agentops
from camel . agents import ChatAgent
from camel . messages import BaseMessage
from camel . models import ModelFactory
from camel . types import ModelPlatformType , ModelType

# AgentOps 초기화
agentops . init ( os . getenv ( "AGENTOPS_API_KEY" ), tags = [ "CAMEL Example" ])

# 추적을 위해 AgentOps 초기화 후 툴킷 가져오기
from camel . toolkits import SearchToolkit

# 검색 도구로 에이전트 설정
sys_msg = BaseMessage . make_assistant_message (
role_name = 'Tools calling operator' ,
content = 'You are a helpful assistant'
)

# 도구 및 모델 구성
tools = [ * SearchToolkit (). get_tools ()]
model = ModelFactory . create (
model_platform = ModelPlatformType . OPENAI ,
model_type = ModelType . GPT_4O_MINI ,
)

# 에이전트 생성 및 실행
camel_agent = ChatAgent (
system_message = sys_msg ,
model = model ,
tools = tools ,
)

response = camel_agent . step ( "What is AgentOps?" )
print ( response )

agentops . end_session ( "Success" )
멀티 에이전트 시나리오를 포함한 더 많은 예제는 Camel 통합 가이드 를 확인하세요.

Langchain 🦜🔗
AgentOps는 Langchain을 사용하여 구축된 애플리케이션과 원활하게 작동합니다. 핸들러를 사용하려면 Langchain을 선택적 종속성으로 설치하세요:

설치
pip install agentops[langchain]
핸들러를 사용하려면 다음을 가져와 설정하세요

import os
from langchain . chat_models import ChatOpenAI
from langchain . agents import initialize_agent , AgentType
from agentops . integration . callbacks . langchain import LangchainCallbackHandler

AGENTOPS_API_KEY = os . environ [ 'AGENTOPS_API_KEY' ]
handler = LangchainCallbackHandler ( api_key = AGENTOPS_API_KEY , tags = [ 'Langchain Example' ])

llm = ChatOpenAI ( openai_api_key = OPENAI_API_KEY ,
callbacks = [ handler ],
model = 'gpt-3.5-turbo' )

agent = initialize_agent ( tools ,
llm ,
agent = AgentType . CHAT_ZERO_SHOT_REACT_DESCRIPTION ,
verbose = True ,
callbacks = [ handler ], # 에이전트를 기록하려면 콜백 핸들러를 전달해야 합니다
handle_parsing_errors = True )
Async 핸들러를 포함한 자세한 내용은 Langchain 예제 노트북 을 확인하세요.

Cohere ⌨️
Cohere(>=5.4.0)에 대한 최고 수준의 지원. 이것은 지속적으로 발전하는 통합이므로 추가 기능이 필요하면 Discord로 메시지를 보내주세요!

AgentOps 통합 예제
공식 Cohere 문서

설치
pip install cohere
import cohere
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )
co = cohere . Client ()

chat = co . chat (
message = "Is it pronounced ceaux-hear or co-hehray?"
)

print ( chat )

agentops . end_session ( 'Success' )
import cohere
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

co = cohere . Client ()

stream = co . chat_stream (
message = "Write me a haiku about the synergies between Cohere and AgentOps"
)

for event in stream :
if event . event_type == "text-generation" :
print ( event . text , end = '' )

agentops . end_session ( 'Success' )

Anthropic ﹨
Anthropic Python SDK(>=0.32.0)로 구축된 에이전트를 추적하세요.

AgentOps 통합 가이드
공식 Anthropic 문서

설치
pip install anthropic
import anthropic
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

client = anthropic . Anthropic (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "ANTHROPIC_API_KEY" ),
)

message = client . messages . create (
max_tokens = 1024 ,
messages = [
{
"role" : "user" ,
"content" : "Tell me a cool fact about AgentOps" ,
}
],
model = "claude-3-opus-20240229" ,
)
print ( message . content )

agentops . end_session ( 'Success' )
스트리밍

import anthropic
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

client = anthropic . Anthropic (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "ANTHROPIC_API_KEY" ),
)

stream = client . messages . create (
max_tokens = 1024 ,
model = "claude-3-opus-20240229" ,
messages = [
{
"role" : "user" ,
"content" : "Tell me something cool about streaming agents" ,
}
],
stream = True ,
)

response = ""
for event in stream :
if event . type == "content_block_delta" :
response += event . delta . text
elif event . type == "message_stop" :
print ( " \n " )
print ( response )
print ( " \n " )
Async

import asyncio
from anthropic import AsyncAnthropic

client = AsyncAnthropic (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "ANTHROPIC_API_KEY" ),
)

async def main () -> None :
message = await client . messages . create (
max_tokens = 1024 ,
messages = [
{
"role" : "user" ,
"content" : "Tell me something interesting about async agents" ,
}
],
model = "claude-3-opus-20240229" ,
)
print ( message . content )

await main ()

Mistral 〽️
Mistral Python SDK(>=0.32.0)로 구축된 에이전트를 추적하세요.

AgentOps 통합 예제
공식 Mistral 문서

설치
pip install mistralai
동기

from mistralai import Mistral
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

client = Mistral (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "MISTRAL_API_KEY" ),
)

message = client . chat . complete (
messages = [
{
"role" : "user" ,
"content" : "Tell me a cool fact about AgentOps" ,
}
],
model = "open-mistral-nemo" ,
)
print ( message . choices [ 0 ]. message . content )

agentops . end_session ( 'Success' )
스트리밍

from mistralai import Mistral
import agentops

# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
agentops . init ( < INSERT YOUR API KEY HERE > )

client = Mistral (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "MISTRAL_API_KEY" ),
)

message = client . chat . stream (
messages = [
{
"role" : "user" ,
"content" : "Tell me something cool about streaming agents" ,
}
],
model = "open-mistral-nemo" ,
)

response = ""
for event in message :
if event . data . choices [ 0 ]. finish_reason == "stop" :
print ( " \n " )
print ( response )
print ( " \n " )
else :
response += event . text

agentops . end_session ( 'Success' )
Async

import asyncio
from mistralai import Mistral

client = Mistral (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "MISTRAL_API_KEY" ),
)

async def main () -> None :
message = await client . chat . complete_async (
messages = [
{
"role" : "user" ,
"content" : "Tell me something interesting about async agents" ,
}
],
model = "open-mistral-nemo" ,
)
print ( message . choices [ 0 ]. message . content )

await main ()
Async 스트리밍

import asyncio
from mistralai import Mistral

client = Mistral (
# 이것이 기본값이며 생략할 수 있습니다
api_key = os . environ . get ( "MISTRAL_API_KEY" ),
)

async def main () -> None :
message = await client . chat . stream_async (
messages = [
{
"role" : "user" ,
"content" : "Tell me something interesting about async streaming agents" ,
}
],
model = "open-mistral-nemo" ,
)

response = ""
async for event in message :
if event . data . choices [ 0 ]. finish_reason == "stop" :
print ( " \n " )
print ( response )
print ( " \n " )
else :
response += event . text

await main ()

CamelAI ﹨
CamelAI Python SDK(>=0.32.0)로 구축된 에이전트를 추적하세요.

CamelAI 통합 가이드
공식 CamelAI 문서

설치
pip install camel-ai[all]
pip install agentops
#의존성 가져오기
import agentops
import os
from getpass import getpass
from dotenv import load_dotenv

#키 설정
load_dotenv ()
openai_api_key = os . getenv ( "OPENAI_API_KEY" ) or "<your openai key here>"
agentops_api_key = os . getenv ( "AGENTOPS_API_KEY" ) or "<your agentops key here>"

사용 예제는 여기 에서 확인할 수 있습니다! .

LiteLLM 🚅
AgentOps는 LiteLLM(>=1.3.1)을 지원하여 다음을 가능하게 합니다 …