感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 7 時間:
課程簡介
從文本生成到類型化決策
- 決策模型回傳的內容
- 系統一決策與推理型LLM的對比
- 有界決策的成本與延遲特徵
開源權重決策模型全景
- 來自AWS Labs的Strands Decider 2B
- JEV和GEV開源權重系列
- Pplx-Decider、Liquid D1和Clef
- 授權與部署差異
深入決策模型內部
- 無語言建模頭的LLM軀幹
- 在候選選項上進行打分的指針頭
- 置信度得分的來源
運行首次決策
- 在CPU和消費級GPU上的本地設置
- 措辭問題與選項集
- 在一次傳播中詢問多個問題
- 閾值與回退行為
判斷決策質量
- JevBench及決策基準測試
- 準確率與校準的對比
- Brier分數及置信度可靠性
- 決策模型不適合的任務場景
最低要求
- 對大型語言模型及基於提示的應用有基本了解。
- 熟悉命令列和Python腳本。
- 無需機器學習訓練經驗。
受眾
- 評估代理工作流中決策模型的AI工程師
- 使用有界決策取代LLM調用的軟體開發人員
- 設計代理架構的解決方案與平台架構師
- 評估決策模型選項的技術產品經理