感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
LLM 應用架構與設計
- 用於助手、協作程式及工作流程自動化的常見 OpenAI 應用模式。
- 為滿足業務需求、可靠性及使用者體驗，選擇適當的架構。
- 從原型代碼過渡至可維護的應用設計。
提示詞、上下文與結構化輸出
- 構造系統、使用者及開發者指令，以確保行為的可預測性。
- 設計提示詞以確保一致性、任務控制及更清晰的回應。
- 使用結構化輸出來支援下游應用邏輯。
- 管理上下文視窗、對話狀態及回應品質。
工具使用與工作流程編排
- 使用函式呼叫及具備工具功能的工作流程與外部服務整合。
- 驗證輸入與輸出，處理錯誤並套用備援行為。
- 為實際業務任務設計多步驟流程。
檢索與知識錨定
- 識別何時適合使用檢索增強生成。
- 準備文件並將內容分塊以利於有效檢索。
- 檢索相關上下文，並將回應建立在可信來源上。
評估、安全網與營運準備度
- 定義品質標準，並根據預期結果測試工作流程。
- 減少幻覺現象，並處理不安全、不相關或模糊的請求。
- 監控使用情況、延遲、令牌消耗及成本。
- 準備應用以進行部署、支援及持續改進。
實作工作坊
- 建置小型端到端 OpenAI 應用，結合提示詞、結構化輸出、工具使用及檢索功能。
- 審查設計決策、常見問題及生產環境使用的實際後續步驟。
最低要求
- 熟悉大型語言模型概念及基於 API 的應用開發。
- 具備使用 REST API、JSON 及提示驅動型應用工作流程的經驗。
- 具備 Python、JavaScript 或類似語言的中階程式設計經驗。
目標受眾
- 開發 LLM 驅動應用的軟體工程師。
- 設計基於 OpenAI 解決方案之 AI 工程師與技術主管。
- 負責生產環境 AI 功能之產品團隊與解決方案架構師。
7 小時
