為金融與企業而生的
地端 K8s 部署
身份、權限、API、任務、稽核全部留在地端 K8s;必要時才走專線呼叫雲端模型與物件儲存。
敏感資料不出地端,仍能享受最前沿的 LLM 能力。
兩種交付形態,由你決定資料邊界
預設混合雲,需要時可全部下放地端。地端服務代碼完全一致。
混合雲
地端為主,必要時呼叫雲端模型與物件儲存。網路、身份、稽核都在企業內部,敏感資料不出地端。
- 地端 K8s 跑核心服務
- Vertex AI / Bedrock 走專線
- BYO KMS 自管金鑰
完整地端 K8s HA
完整下放企業機房或法遵區,模型亦可改用地端推論。為金融、政府、受監管產業設計。
- 資料完全不出地端
- 對接 AD / OIDC / SAML
- 符合 BCP 雙活與災備
一張圖看懂資料流向
身份 / 政策 / 稽核留地端;模型 / 物件儲存按需呼叫雲端,全程走私有專線。
第一階段地端不導入 Vector DB / KB Indexing;KB 走 Vertex AI Search 雲端服務,僅傳脫敏內容。
地端 K8s 四層元件
入口、應用、資料、維運 — 每一層皆為金融場景而選型。
入口層
Edge應用層
Workloads資料層
Stateful維運層
Observability最小可用 HA 規格
實際規模依使用量與災備需求擴展。
資料分級,邊界清楚
預設不出地端 vs. 可上雲,由治理政策強制,不靠人為自律。
預設留地端
- 使用者 PII / 員工資料
- 客戶與交易資料
- 原始 Prompt / Response 全文
- 稽核 Log / Trace
- 企業憑證 / Secret
可上雲 (脫敏後)
- 經 DLP 脫敏的模型呼叫內容
- 非敏感系統產物 / 報表
- Celery 任務結果檔
- 低敏 Agent Artifact
- 匯出附件 (受 KMS / Bucket Policy 保護)
上雲流量強制走 KMS 加密、Private Endpoint / VPN、Bucket Policy 與 Access Log 留存;超出分級的內容由 Gateway 政策層直接攔截。
為金融場景設計的四道防線
資料主權
敏感資料、Prompt、Response、PII、交易資料預設不出地端,僅以脫敏 metadata 與雲端模型互動。
零信任入口
全程 TLS、SSO 強制、RBAC + Tenant Isolation、Secret 走 Vault / External Secrets、Image 簽章與掃描。
稽核留存
ClickHouse 集中存放 request / policy / gateway trace,符合金管會內控與資安治理留存年限。
高可用
3 Control-plane + 多 Worker、PostgreSQL HA、Redis HA、PDB / HPA、etcd 與 DB 定期備份還原演練。