聯繫我們
 課程時長 21 時間:

課程簡介

AI系統的架構基礎

  • 層次、邊界及關注點分離
  • 將端口與適配器模式應用於AI組件
  • AI功能的品質屬性場景
  • 作為治理手段的架構決策記錄

演進現有應用程式

  • 選擇漸進式現代化而非重寫
  • 在現有 монолит(巨石應用)旁置AI服務
  • 絞殺者模式(Strangler)及反腐層模式
  • 針對現有API及資料的整合接縫

LLM整合架構模式

  • 將模型网关作為抽象邊界
  • 同步、非同步及串流整合
  • 回退、降級及供應商故障切換
  • 將提示詞及模型設定視為版本化資產

契約、API與資料交換

  • 結構化輸出架構及驗證
  • 冪等性、重試及速率限制
  • 延遲預算及超時協調
  • 將每次請求的成本視為架構約束

端到端RAG架構

  • 攝取、分塊及嵌入管線
  • 索引、檢索、重排序及生成階段
  • 檢索相對於應用程式服務的放置位置
  • 每個階段的權衡與失敗模式

向量資料庫與檢索設計

  • 託管式與自託管向量儲存
  • 密集、稀疏及混合搜尋
  • 中繼資料過濾及租戶隔離
  • 模型變更時的重新嵌入策略

檢索品質、事實依據與評估

  • 從真實查詢中構建評估集
  • 檢索及回答品質指標
  • 引用、事實依據及幻覺抑制
  • 回饋循環回傳至索引

代理架構

  • 代理循環與工具調用
  • 確定性工作流與自主規劃器的對比
  • 代理並非最佳解決方案的情境
  • 界定代理的職責與狀態

多代理系統與協調

  • 監督者及協調者拓撲結構
  • 交接協定與訊息契約
  • 共享記憶與上下文管理
  • 基於架構層面的框架比較

服務通訊與工具協定

  • 事件驅動及基於隊列的協調
  • 透過標準協定暴露工具
  • 長程事務(Sagas)、補償與長Running交易
  • 跨服務跳轉的可觀測性

開發工作流中的AI代理

  • 交付管線中的編碼代理
  • 規格驅動開發與審查門檻
  • 測試生成與自動化品質檢查
  • 維持架構控制力的護欄

治理與軟體品質

  • AI功能設計審查
  • 模型與提示詞變更管理
  • 作為管線階段的迴歸評估
  • 所有權、政策與核准路徑

安全性、隱私與資料治理

  • 提示詞注入與縱深防禦
  • 機密資訊、存取控制及最小特權
  • 資料留存地、個人資料與保留政策
  • 可審計性與人在迴路(Human-in-the-loop)控制

可擴展性、成本與可觀測性

  • 跨代理鏈的追蹤
  • Token與成本遙測
  • 快取與延遲最佳化
  • AI服務的服務等級與事故回應

結業專案:AI驅動方案的架構

  • 上下文、組件及部署視圖
  • 檢索與代理協調設計
  • 安全性、治理與成本計畫
  • 同儕審查、批評及遷移路線圖

最低要求

  • 具備生產級軟體系統的設計與維護經驗
  • 熟悉REST API及服務整合
  • 熟悉關係型資料庫及資料建模
  • 對基於LLM的工具或API有基本接觸經驗

受眾對象

  • 軟體架構師
  • 技術主管及高級工程師
  • 負責架構決策的工程經理

客戶評論 (1)

即將到來的課程

課程分類