triton-deploy
CommunityTriton Inference Server 배포 자동화
Authorjiunbae
Version1.0.0
Installs0
System Documentation
What problem does it solve?
NVIDIA Triton 서버의 배포, 운영, 모니터링을 자동화하여 모델 서빙 파이프라인의 안정성과 확장성을 높입니다.
Core Features & Use Cases
- 서버 실행: GPU 설정이 포함된 Docker 컨테이너 시작
- 모델 관리: 모델 레포지토리 마운트 및 로드
- 상태 모니터링: 헬스체크 및 모델 상태 확인
- 포트 관리: 주요 포트 자동 설정
- 프로파일 지원: 개발/프로덕션 환경에 맞춘 설정
Quick Start
예: "langdetector 모델로 triton 서버 시작해줘"
Dependency Matrix
Required Modules
dockerlsofjq
Components
scriptsreferences
💻 Claude Code Installation
Recommended: Let Claude install automatically. Simply copy and paste the text below to Claude Code.
Please help me install this Skill: Name: triton-deploy Download link: https://github.com/jiunbae/agent-skills/archive/main.zip#triton-deploy Please download this .zip file, extract it, and install it in the .claude/skills/ directory.
Agent Skills Search Helper
Install a tiny helper to your Agent, search and equip skill from 223,000+ vetted skills library on demand.