AIGW / 多租戶 AI + API 閘道器

多個部門共用 AI,如何把呼叫和用量歸到人?

當多個部門共用一個 AI 應用時,上游通常只看到應用的訪問金鑰。AIGW 將呼叫身份和組織關係帶入治理流程,依據策略處理請求,並按使用者、部門與應用檢視用量。需要可信歸賬時,應用應接入簽名身份契約;僅傳入自報使用者欄位只能用於統計歸因,不能當作已驗證身份。

工作流程

  1. 接入應用與可信身份
  2. 按訂閱、許可權和內容策略檢查
  3. 路由至模型或 HTTP 後端
  4. 分別記錄 AI 用量與 API 訪問賬
01

先分清自報資訊與可驗證身份

應用接入時明確呼叫者來自哪裡,以及員工、部門、應用之間如何對映。僅提交使用者名稱或未簽名請求頭屬於自報資訊,可用於統計歸因;需要可信歸賬時,由可信服務端按身份契約簽名,再由閘道器驗證。不能把前端傳來的名字直接當作已核實的人員身份。

02

把訂閱、訪問與內容策略放到呼叫過程裡

平臺人員按租戶和應用配置訪問許可權、訂閱及相應策略,並選擇內容稽核的觀察或攔截方式。正式使用前確認稽核服務、詞庫和策略範圍;命中記錄與呼叫歸因一起檢視。一次請求獲准轉發,只說明滿足當時配置的規則;內容風險判斷仍取決於所用稽核策略和服務能力。

03

按對應資料面轉發,保留各自的治理邊界

AI 請求結合模型別名、上游池、健康與容量資訊進行路由。普通 HTTP API 按已釋出目錄、後端與訂閱策略處理,其資料面預設關閉、按需啟用。接入時分別確認兩類流量的路徑與許可權,不把啟用 API 治理理解為替代既有閘道器的全部接入職責。

04

用正確的計量口徑檢視與分配使用量

AI 呼叫記錄 Token 等用量,普通 API 記錄位元組、時延和訪問情況,兩類賬分開檢視。組織快照保留請求發生時的組織關係,鎖賬用於封存已確認的結算期;結合這些記錄按使用者、部門或應用核查。共建各方的資源使用分攤與金額計價按租戶配置確定。缺少可信身份或計量依據的記錄需要單獨核查。

接入與歸賬核查要點

  • 可信身份簽名由可信服務端產生,組織對映與實際部門關係一致。
  • 內容策略、上游選擇與許可權符合應用範圍,普通 API 是否啟用有明確約定。
  • AI Token 賬與 API 訪問賬分開核查,統計標籤與可信身份不混用。

適合誰

建設 AI 應用的政企單位、平臺團隊、算力共建方,以及需要向內部或合作方開放 API 的機構。

部署與邊界

支援私有化交付。AI 與通用 API 資料面共用控制面;通用 API 功能預設關閉、按需啟用。接入前確認身份來源、上游服務、內容策略、計量方式和叢集需求。

內容稽核效果取決於策略與稽核服務,不保證識別全部風險。通用 API 治理並非承諾替代現有閘道器的所有職責;實驗室壓測結果不能直接外推為客戶生產表現。

AIGW · 瞭解產品 →

HONGCHUANGDA TECHNOLOGY

聯絡諮詢

三個獨立產品,可分別部署;跨產品整合按專案範圍確認。

聯絡諮詢