Deployment Architecture

為金融與企業而生的地端 K8s 部署

身份、權限、API、任務、稽核全部留在地端 K8s;必要時才走專線呼叫雲端模型與物件儲存。 敏感資料不出地端,仍能享受最前沿的 LLM 能力。

Deployment Modes

兩種交付形態,由你決定資料邊界

預設混合雲,需要時可全部下放地端。地端服務代碼完全一致。

Hybrid

混合雲

地端為主,必要時呼叫雲端模型與物件儲存。網路、身份、稽核都在企業內部,敏感資料不出地端。

  • 地端 K8s 跑核心服務
  • Vertex AI / Bedrock 走專線
  • BYO KMS 自管金鑰
On-Prem

完整地端 K8s HA

完整下放企業機房或法遵區,模型亦可改用地端推論。為金融、政府、受監管產業設計。

  • 資料完全不出地端
  • 對接 AD / OIDC / SAML
  • 符合 BCP 雙活與災備
Hybrid Data Flow

一張圖看懂資料流向

身份 / 政策 / 稽核留地端;模型 / 物件儲存按需呼叫雲端,全程走私有專線。

企業使用者 / 內部 App
內網 · VPN · SSO
On-Prem K8s HA
MetalLB
VIP
Nginx Ingress
HTTPS
SSO
AD / OIDC
cert-manager
企業 CA
Aegis Console
Aegis Backend
Celery Worker
Runtime Sandbox
PostgreSQL HA
主資料
Redis HA
Cache / Broker
ClickHouse
Audit Log
Prometheus
Loki / OTel
Private Egress · VPN · 專線
Cloud Services (按需呼叫)
LLM / Model API
Vertex AI / Bedrock
Object Storage
GCS / S3 / Blob

第一階段地端不導入 Vector DB / KB Indexing;KB 走 Vertex AI Search 雲端服務,僅傳脫敏內容。

On-Prem Components

地端 K8s 四層元件

入口、應用、資料、維運 — 每一層皆為金融場景而選型。

入口層

Edge
MetalLB
VIP / L4 LB
Nginx Ingress
HTTPS 終端
cert-manager
憑證自動化
SSO Bridge
AD / OIDC / SAML

應用層

Workloads
Aegis Console
管理後台
Aegis Backend
API Gateway
Celery Worker
背景任務
Runtime Sandbox
Agent 執行隔離

資料層

Stateful
PostgreSQL HA
Patroni / CNPG
Redis HA
Sentinel / Cluster
ClickHouse
Audit / 稽核留存
Object Store
MinIO / Ceph (選配)

維運層

Observability
Prometheus
指標監控
Loki / EFK
集中日誌
OpenTelemetry
分散式追蹤
Velero
備份 / 還原演練
Reference Sizing

最小可用 HA 規格

實際規模依使用量與災備需求擴展。

Control-plane
× 3
8C / 32GB / 200GB SSD
Worker
× 2+
32C / 128GB / 2TB NVMe
資料節點
× 3
16C / 64GB / 4TB NVMe
Data Boundary

資料分級,邊界清楚

預設不出地端 vs. 可上雲,由治理政策強制,不靠人為自律。

預設留地端

  • 使用者 PII / 員工資料
  • 客戶與交易資料
  • 原始 Prompt / Response 全文
  • 稽核 Log / Trace
  • 企業憑證 / Secret

可上雲 (脫敏後)

  • 經 DLP 脫敏的模型呼叫內容
  • 非敏感系統產物 / 報表
  • Celery 任務結果檔
  • 低敏 Agent Artifact
  • 匯出附件 (受 KMS / Bucket Policy 保護)

上雲流量強制走 KMS 加密、Private Endpoint / VPN、Bucket Policy 與 Access Log 留存;超出分級的內容由 Gateway 政策層直接攔截。

Trust & Compliance

為金融場景設計的四道防線

資料主權

敏感資料、Prompt、Response、PII、交易資料預設不出地端,僅以脫敏 metadata 與雲端模型互動。

零信任入口

全程 TLS、SSO 強制、RBAC + Tenant Isolation、Secret 走 Vault / External Secrets、Image 簽章與掃描。

稽核留存

ClickHouse 集中存放 request / policy / gateway trace,符合金管會內控與資安治理留存年限。

高可用

3 Control-plane + 多 Worker、PostgreSQL HA、Redis HA、PDB / HPA、etcd 與 DB 定期備份還原演練。

想看你的環境怎麼落地?

我們可以依你的機房、IdP、合規框架,提供客製化部署藍圖與 PoC 計畫。

聯繫架構顧問