AI Agent 的 Design Pattern 與特性

AI Agent 的基本 design pattern:
“LLM Call” ⮂ “Environment”

透過 “LLM Call”,採取 “Action”,影響 “Environment”,
根據 “Environment” 的變化,LLM 自行決定是否繼續採取新的 “Action” 或決定停下來。

AI Agent 有幾個特性:
1. closed-loop ( “LLM Call” ⮂ “Environment”)
2. unpredictable path: 無法確定 Agent 會採取哪些行動, 因此也較難預測需要花多久完成任務
3. unpredictable output: 結果的品質較難預期
4. unpredictable costs: 較難預測需要花費的運算成本

因此需要:
1. “Monitor” AI Agent 執行的過程
2. “Guardrail”: 確保 Agent 的行為是安全的, 有一致性的, 在設定的限制範圍內的

基於上述因素,AI Agent 一般來說,較適合運作在 Sandboxed Environments.

Building effective agents (Anthropic)
https://www.anthropic.com/engineering/building-effective-agents

AI Engineer Agentic Track: The Complete Agent and MCP Course, Ed Donner