節點:認識五種積木
上一課講了「圖」的概念。這課來認識圖上的積木——節點。
你開一間店,要處理線上訂單。粗略拆一下,會碰到這些角色:有人負責理解客戶要什麼、有人去資料庫查庫存、有人根據條件決定走哪條路、有人做最後核准、有個地方存過程記錄。
在 Graph Engineering 裡,這些角色對應五種節點。
五種節點
Agent(LLM 呼叫)
需要理解、生成、判斷的工作。輸入和輸出都不是確定的——同一個問題可能得到不同回答。
電商例子:分析客戶評論的情緒、撰寫商品描述、判斷退貨理由是否合理。
Tool(確定性函式)
給同樣的輸入,永遠得到同樣的輸出。不需要 LLM,跑程式就好。
電商例子:查詢訂單狀態、計算折扣金額、呼叫金流 API。
Router(條件路由)
不做事,只做決定——根據條件把流程導向不同路徑。
電商例子:客戶意圖分類(退貨走退貨流程、查單走查單流程)、訂單金額超過門檻走人工審核。
Gate(人工審核)
流程在這裡暫停,等人類確認才繼續。
電商例子:大額退款需要主管核准、AI 生成的行銷文案需要品牌審核。
Memory(儲存層)
不處理資料,只存取。可以是向量資料庫、知識圖譜、快取、或一個簡單的狀態檔。
電商例子:客戶歷史對話紀錄、商品知識庫、購物車暫存。
怎麼判斷一個步驟是哪種節點
問三個問題:
- 需要 LLM 嗎? 不需要 → Tool 或 Memory
- 有確定性的輸出嗎? 有 → Tool;沒有(需要 LLM 判斷)→ Agent 或 Router
- 它做事,還是只做決定? 做事 → Agent;只分流 → Router
Gate 比較特殊:任何需要人類 approve/reject 的中斷點都是 Gate。
為什麼分類重要
因為不同類型的節點有不同的特性:
| 類型 | 延遲 | 成本 | 可靠性 | 需要 Edge Contract |
|---|---|---|---|---|
| Agent | 高(秒級) | 高(token) | 不確定 | 必須 |
| Tool | 低(毫秒) | 低 | 確定 | 建議 |
| Router | 視實作 | 低 | 視實作 | 建議 |
| Gate | 極高(等人) | 無 | 確定 | 必須 |
| Memory | 低 | 低 | 確定 | 建議 |
Agent 和 Gate 是圖裡最「貴」的節點——一個燒 token,一個燒人的時間。設計圖的時候,盡量讓 Tool 和 Memory 承擔能確定的工作,把 Agent 留給真正需要判斷的步驟。
AI 協作:學了這個,跟 AI 怎麼配合?
當你要請 AI 幫你設計工作流時,先把每個步驟標上節點類型,AI 就能更精準地建議架構。
你的人類優勢:
- 判斷哪些步驟「真的需要 LLM」vs「可以用確定性函式取代」——這決定成本
- 判斷哪裡需要 Gate(人工審核)——這是業務風險決策,AI 不該替你做
可以這樣跟 AI 說:
我有一個商品上架流程,步驟是:1) 讀取供應商提供的商品資料 2) 生成商品描述 3) 檢查描述有沒有違規詞 4) 主管審核 5) 上架到資料庫。幫我標出每個步驟是 Agent、Tool、Router、Gate 還是 Memory,並說明為什麼。
挑戰任務
以下電商工作流的每個步驟,分別屬於哪種節點類型?
- 客戶上傳退貨照片
- AI 判斷照片中商品的損壞程度
- 系統查詢該訂單的退貨政策
- 根據損壞程度和退貨政策決定走「全額退款」或「部分退款」或「拒絕退貨」
- 退款金額超過 5000 元時,需要主管核准
- 將退貨記錄寫入資料庫