Internal Platform Cluster (k3s)

☁ Cloudflare Tunnel — 공개 엔드포인트 (사내 도메인)

cloudflared(토큰 기반 원격관리형 터널)가 내부 서비스를 외부 호스트로 노출. 라우팅 목록은 대시보드 관리 → 아래는 주요 호스트. 그 외는 내부 직접 접속.

docs.*

docs — 백엔드 가이드·CHANGELOG

chat.*

open-webui — 사내 LLM 채팅

agent.*

에이전트 오케스트레이션

rancher.*

Rancher — 클러스터 관리 UI

errors.*

GlitchTip — 에러 추적

bi.*

Metabase — 분석 대시보드(BI)

registry.*

OCI 이미지 레지스트리

assistant.*

사내 마케팅 어시스턴트

app · api · auth · keycloak.* (customer demo)

Product B (prod/데모) — 앱·API·인증

노드별 역할 · 배치 (4 nodes)

Control Node ~12 pods

컨트롤 플레인 + 경량 공용 서비스 · CI/CD 러너 등록 노드

GitHub Actions Runner

self-hosted 러너. FE/BE 워크플로·deploy-k3s 실행

PostgreSQL · Redis

중앙 DB(pgvector)·캐시

Secret Manager

시크릿 중앙 관리

Aurora Tunnel (dev/prod)

사내→AWS Aurora SSH 터널

docs

문서 사이트

docs.*

agent orchestration · dashboard

에이전트 오케스트레이션·관리

agent.*

Worker Node 1 ~42 pods

Dev 검증 스택 + 사내 앱 + 보조 인프라

product-b-dev (≈26 pods)

출시 전 검증 풀스택 + rag·비식별 GPU (노드 핀)

사내망 IP 직접 접속 (ip-direct, 터널·도메인 없음)

internal-assistant + worker

사내 마케팅 어시스턴트

assistant.*

Metabase

분석 대시보드(BI)

bi.*

GlitchTip

에러 추적

errors.*

OCI Registry

사내 OCI 이미지 레지스트리

registry.*

open-webui

사내 LLM 채팅 UI

chat.*

GPU Node 1 GPU ~32 pods

Product B prod 운영본 전담 — 고객 배송본과 동일 매니페스트를 사내에서 라이브 구동

product-b (prod ≈26 pods)

제품 전체 스택 (app·auth·worker·DB) + rag·data-redaction-sync GPU 워크로드 (노드 핀)

app.* (customer demo)

GPU Node 2 GPU · 대용량 ~40 pods

대형 LLM 추론 + 모니터링 + 양 인스턴스의 GPU 워크로드

vLLM (대형 오픈 LLM · 35B급)

사내 대형 LLM 추론 서버

LiteLLM Proxy

OpenAI 호환 래퍼

Prometheus · Grafana · Alertmanager · Rancher

모니터링 스택 + 클러스터 관리 콘솔 (전부 이 노드 상주)

rancher.*

Velero · Secret Operator

백업·시크릿 동기화

admin-analytics-refresh (CronJob)

nodeSelector 없어 스케줄러가 배치하는 경량 배치잡 (양 인스턴스)

클러스터 전역(DaemonSet/관리). DCGM Exporter · node-exporter 는 전 노드에 배포(GPU·노드 메트릭) · Longhorn 분산 스토리지 PVC 백엔드 · Cloudflared 터널 데몬.
모니터링·관리 플레인(Prometheus·Grafana·Alertmanager·Rancher)은 GPU Node 2 상주(컨트롤 노드엔 operator·adapter 경량 컨트롤러만).