AI Agent 的基本 design pattern: “LLM Call” ⮂ “Environment” 透過 “LLM Call”,採取 “Action”,影響 “Environment”, 根據 “Environment” 的變化,LLM 自行決定是否繼續採取新的 “Action” 或決定停下來。 AI Agent 有幾個特性: 1. closed-loop ( “LLM Call” ⮂ “Environment”) 2. unpredictable path: 無法確定 Agent 會採取哪些行動, 因此也較難預測需要花多久完成任務 3. unpredictable output: 結果的品質較難預期 4. unpredictable costs: 較難預測需要花費的運算成本 因此需要: 1. “Monitor” AI Agent 執行的過程 2. “Guardrail”: 確保 Agent 的行為是安全的, 有一致性的, 在設定的限制範圍內的 基於上述因素,AI Agent 一般來說,較適合運作在 Sandboxed Environments. Building effective agents (Anthropic) https://www.anthropic.com/engineering/building-effective-agents AI Engineer Agentic Track: The Complete Agent and MCP Course, Ed Donner
