跳轉到

Prompt Engineering 核心技術:Chaining、CoT 與 Loop

摘要

單一 Prompt 能解決的問題有限。當任務變複雜,需要引入三種核心技術:

技術 核心概念 控制方
Prompt Chaining 拆解任務為多個有序步驟 工程師設計固定流程
Chain of Thought 引導模型顯示推理步驟 模型自主推導
Loop Engineering 循環執行直到目標達成 模型 + 工程師共同設計

三者可以組合使用——例如「用 Chaining 分工、用 CoT 處理推理步驟、用 Loop 反覆優化」。


Prompt Chaining:拆解複雜任務

原理

把一個複雜任務切分為多個有序的 Prompt,前一步的輸出作為下一步的輸入。每個 Prompt 只做一件事,角色與職責明確。

Prompt Chaining 流程圖

適用時機

  • 任務太複雜,一次 Prompt 容易失焦或超出 context 限制
  • 需要對中間結果做驗證、過濾或人工審核
  • 不同步驟需要不同的指令風格(例如:摘要→翻譯→潤稿)

實作要點

1. 每個 Prompt 職責單一

不好的做法:「幫我分析這份報告、寫摘要、翻譯成英文、再建議改善方向。」
好的做法:拆成四個獨立 Prompt,逐步傳遞。

2. 定義清晰的輸入輸出格式

步驟之間的「接口」越明確,錯誤越不容易傳播。考慮使用 JSON 或固定 Markdown 格式作為中間輸出。

3. 在關鍵節點插入驗證

若步驟 2 的輸出不符合預期,不應繼續到步驟 3。在 pipeline 中加入格式檢查或品質判斷。

主要風險:錯誤傳播。 前段的錯誤會被帶入後續所有步驟。設計時要考慮每個 Prompt 的失敗模式。


Chain of Thought:讓模型推理出來

原理

要求模型在給出最終答案前,先「顯示思考過程」。這個簡單的改變對推理類問題的準確率提升顯著。

Chain of Thought 推理模式對比

兩種使用方式

Zero-shot CoT:只需在 Prompt 末尾加上一句話。

請解決以下問題,並逐步說明你的推理過程。

Few-shot CoT:提供帶有推理過程的範例,讓模型學習格式。

問題:小明有 3 個蘋果,給了小華 1 個,又買了 5 個。請問小明現在有幾個?

思考過程:
1. 初始:3 個蘋果
2. 給出 1 個:3 - 1 = 2 個
3. 買入 5 個:2 + 5 = 7 個

答案:7 個

---

問題:[你的問題]
思考過程:

適用時機

  • 數學計算、邏輯推理
  • 多步驟決策(例如:投資分析、診斷排查)
  • 需要可審核的推理過程(避免「說對了但理由是錯的」)

限制

CoT 對事實性問題幫助有限。若模型本身沒有相關知識,推理步驟也會建立在幻覺之上。CoT 改善的是推導過程,不是知識本身。


Loop Engineering:循環執行到收斂

原理

模型不只生成一次回應——它執行動作、觀察結果、評估是否達成目標,再決定繼續或停止。這是現代 AI Agent 的基本控制結構。

Agentic Loop 執行週期

四個核心步驟

步驟 內容
① 規劃 根據目標選定行動策略,決定呼叫哪個工具或生成什麼內容
② 執行 實際呼叫工具(搜尋、計算、寫程式)或生成回應
③ 觀察 讀取工具回傳的結果,解析環境的當前狀態
④ 評估 判斷目標是否達成;若未達成,調整策略並重新規劃

兩種常見變體

基本 Agentic Loop(工具使用)
適用於需要外部工具的任務:網路搜尋、執行程式碼、讀寫資料庫。每輪根據工具回傳結果更新行動。

Reflection Loop(自我反思)
模型生成初稿 → 扮演評審角色批評初稿 → 根據批評修改 → 重複直到品質達標。不需要外部工具,純語言層面的迭代改善。

終止條件設計

Loop 必須有明確的退出條件,否則會無限執行:

  • 最大迭代次數max_iterations = 10,超過即強制停止
  • 完成訊號:讓模型輸出結構化的 {"done": true} 旗標
  • 成本上限:監控 Token 用量,超過預算即中止
  • 收斂檢測:若連續兩輪輸出差異低於閾值,視為收斂

適用時機

  • 程式除錯(執行 → 讀取錯誤訊息 → 修正 → 再執行)
  • 資料蒐集與彙整(反覆搜尋直到資訊足夠)
  • 文件優化(反覆潤稿直到評分達標)

三技術比較

Prompt Chaining Chain of Thought Loop Engineering
核心概念 拆解任務 顯示推理 循環執行
控制方 工程師(固定流程) 模型自主 模型 + 工程師
流程形狀 線性 線性(展開) 循環
適合任務 多步驟複雜任務 推理 / 計算 動態 / 不確定性高
主要風險 錯誤傳播 幻覺推理 無限迴圈 / 成本失控
可組合 ✓ 與 CoT、Loop ✓ 與 Chaining ✓ 與 Chaining、CoT

三種技術並非互斥。實務上,一個完整的 AI 系統往往同時用到:Chaining 定義整體流程、CoT 處理每個步驟中的推理、Loop 讓某個步驟反覆嘗試直到成功。


延伸閱讀:AI Agent Harness Engineering 實作指南