웹을 탐색하고, 코드를 작성하며, 다단계 작업을 계획하는 로컬 프라이빗 AI 어시스턴트

README 링크에서 발견 · 2 days ago

음성, 브라우징, 코딩 기능을 갖춘 완전 로컬 Manus 스타일 에이전트를 실행하세요

What they did

AgenticSeek 리포지토리를 클론하고 자신의 머신에 완전히 로컬이고 음성 지원이 되는 에이전트 스택을 구축했습니다. 클라우드 API를 가리키는 대신, 어시스턴트를 llama.cpp를 통해 서빙되는 로컬 추론 모델에 연결하여 모든 파일, 검색 쿼리, 대화를 온디바이스에 유지했습니다. Python 3.10 환경을 구성하고 의존성을 설치한 뒤 웹 UI를 실행했습니다. 그다음 에이전트의 핵심 루프를 시험했습니다. 자율적으로 웹을 탐색하고(검색, 페이지 읽기, 정보 추출), Python 및 다른 언어로 코드를 작성하고 실행하며, 더 큰 요청을 전문화된 서브 에이전트들이 처리하는 다단계 계획으로 분해하도록 요청했습니다. 또한 스마트 에이전트 선택 기능을 사용해 시스템이 각 하위 작업을 적합한 에이전트로 자동 라우팅하도록 했고, 음성-텍스트 음성 인터페이스도 실험했습니다. 이 전체 실습의 목적은 Manus 같은 호스팅 에이전트 제품에 대한 프라이빗한 제로 클라우드 대안을 검증하고, 로컬 모델이 데이터를 기기 밖으로 유출하지 않으면서 실제 멀티 툴 워크플로를 어디까지 수행할 수 있는지 확인하는 것이었습니다.

How it went

스택이 기동되어 브라우징, 코딩, 플래닝 작업을 클라우드 호출 없이 엔드투엔드로 처리했으며, 이는 프라이버시에 민감한 작업에서 가장 큰 성과입니다. 품질은 로컬 모델을 따라갑니다. 작은 모델은 긴 플랜과 도구 라우팅에서 흔들리는 반면, 큰 모델은 더 안정적으로 동작합니다. 음성은 기능하지만 여전히 진행 중으로 표시되어 있으며, 프로젝트 자체가 로드맵이나 펀딩이 없는 사이드 프로젝트이므로 완성도 높은 제품보다는 거친 부분과 수동 트러블슈팅을 예상해야 합니다.

Worth knowing

실제 하드웨어가 필요합니다. 즉, 성능 좋은 GPU와 선택한 로컬 모델을 위한 충분한 VRAM이 있어야 하며, Python 3.10.x와 Git도 필요합니다. 모델 선택은 신뢰성에 크게 영향을 미칩니다. 성능이 약한 모델은 망가진 계획과 실패한 도구 호출을 만들어냅니다. 음성 기능은 불완전합니다. 공식 로드맵이나 지원이 없으므로, 설정 문제는 대부분 스스로 해결해야 합니다. 웹 브라우징과 코드 실행은 에이전트에게 실질적인 영향력을 부여하므로, 민감한 파일이나 자격 증명을 향하게 하기 전에 샌드박스에서 실행하거나 그 동작을 검토하세요.

Wiring

순서가 중요합니다: 먼저 Git과 Python 3.10.x를 설치하고, 저장소를 클론한 다음, 가상 환경을 생성하고 활성화하여 Python 의존성을 설치합니다. 다음으로 llama.cpp를 통해 로컬 추론 모델을 서빙하고(llama.cpp 빌드, GGUF 모델 다운로드, 로컬 포트에서 서버 시작), AgenticSeek의 구성을 클라우드 제공자가 아닌 해당 로컬 엔드포인트를 가리키도록 설정합니다. AgenticSeek 앱/UI를 실행한 다음 에이전트 루프를 검증합니다: 플래너가 요청을 분해하고, 라우터가 브라우징, 코딩 또는 기타 특화된 에이전트를 선택하며, 도구가 로컬에서 실행됩니다. 모델 서버는 한 프로세스에서, 에이전트는 다른 프로세스에서 계속 실행되도록 유지하고, 아웃바운드 API 키가 구성되지 않았는지 확인하여 트래픽이 온디바이스에 머무르도록 합니다.

Try it yourself

# AgenticSeek 로컬 에이전트 설정 가이드

## 1단계: 사전 요구사항 확인

```bash
python3 --version   # 3.10.x 여야 함
git --version
```

- Python이 3.10.x가 아니면 AgenticSeek가 요구하는 버전과 맞지 않아 의존성 설치 단계에서 실패할 수 있습니다. `pyenv` 또는 시스템 패키지로 3.10.x를 맞춰두세요.
- Git이 없으면 먼저 설치합니다.

## 2단계: 가상환경 생성 및 의존성 설치

```bash
git clone <AgenticSeek-repo-url>
cd AgenticSeek
python3.10 -m venv .venv
source .venv/bin/activate        # Windows: .venv\Scripts\activate
pip install --upgrade pip
pip install -r requirements.txt
```

- 설치 중 `torch`, `transformers`, `selenium` 등 무거운 패키지가 포함될 수 있습니다. GPU가 있으면 CUDA 빌드 여부를 확인하세요.
- 일부 패키지는 컴파일이 필요할 수 있으므로 `build-essential`(Linux) 또는 Xcode Command Line Tools(macOS)가 필요할 수 있습니다.

## 3단계: llama.cpp 로컬 모델 서버 구동 및 설정 연결

```bash
# llama.cpp 빌드 (예시)
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp && make
# 모델 서버 실행 (OpenAI 호환 엔드포인트)
./server -m /path/to/model.gguf --host 127.0.0.1 --port 8080 -c 8192
```

AgenticSeek 설정 파일(예: `config.ini` 또는 `config.py`)에서 다음 값을 로컬 서버로 지정합니다:

```ini
[provider]
backend = llama.cpp
base_url = http://127.0.0.1:8080/v1
model = <your-model-name>
```

**하드웨어에 맞춰 반드시 조정할 값:**
- `-c` (context size): VRAM/RAM에 맞춰 4096~8192로 조정. 너무 크면 OOM.
- `-ngl` (GPU 레이어 수): GPU VRAM에 따라 조정. CPU 전용이면 0.
- 모델 크기: 7B~13B 양자화 모델이 일반 소비자 하드웨어에 적합.
- `--threads`: CPU 코어 수에 맞춤.

## 4단계: 웹 UI 실행 및 로딩 확인

```bash
python main.py   # 또는 프로젝트 문서에 명시된 실행 명령
```

브라우저에서 `http://localhost:<port>` 접속하여 UI가 정상 로드되는지 확인합니다.

## 5단계: 스모크 테스트

| 테스트 | 내용 | 예상 결과 |
|---|---|---|
| A. 웹 브라우징 리서치 | "최신 X에 대해 조사해줘" 형태의 쿼리 | 브라우저 에이전트가 검색 후 요약 반환 |
| B. Python 코딩 태스크 | "피보나치 수열 출력 스크립트 작성 후 실행" | 코드 생성 → 실행 → 출력 반환 |
| C. 2단계 라우팅 플랜 | "먼저 A를 조사하고, 그 결과로 B 스크립트 작성" | 플래너가 에이전트 라우팅 후 순차 수행 |

각 테스트의 통과 여부는 실제 실행 결과에 따라 달라지므로, 실행 후 로그를 확인해 통과/실패를 기록하세요.

## ⚠️ 외부로 데이터가 나갈 수 있는 지점 (반드시 확인)

1. **웹 브라우징 에이전트**: 검색 쿼리와 방문 URL이 외부 검색엔진/사이트로 전송됩니다. 완전 로컬을 원하면 이 에이전트를 비활성화하거나 로컬 검색 백엔드(SearxNG 등)로 교체하세요.
2. **원격 LLM 폴백**: 설정에 원격 API 키(OpenAI 등)가 남아 있으면 로컬 서버 실패 시 원격으로 요청이 나갈 수 있습니다. `backend`를 로컬로 고정하고 원격 키를 제거하세요.
3. **패키지 설치/텔레메트리**: `pip install` 및 일부 라이브러리의 텔레메트리, 모델 다운로드 시 외부 통신이 발생합니다.
4. **검색/스크래핑 도구**: `selenium`, `requests` 기반 도구가 외부 사이트에 접근합니다.
5. **모델 자체**: llama.cpp 로컬 서버는 외부 통신 없음 — 이 부분은 안전합니다.

## 요약 체크리스트

- [ ] Python 3.10.x, Git 확인
- [ ] venv + requirements 설치 완료
- [ ] llama.cpp 서버 구동, `base_url`/`model`/`-c`/`-ngl` 하드웨어 맞춤
- [ ] 웹 UI 로드 확인
- [ ] 스모크 테스트 A/B/C 실행 및 결과 기록
- [ ] 원격 API 키 제거, 브라우징 에이전트 정책 결정

Source

English