Fine-Tuning、RAG還是Prompt Engineering

企業買家實用決策指南——大多數業務需求唔需要訓練模型

「我哋係咪需要訓練自己嘅AI模型？」

呢個問題幾乎係每次企業AI對話都會出現。大多數業務用例嘅答案係否。但市場上充斥著「fine-tuning」同「自定義模型」等術語，令買家以為自己需要比實際更複雜、更昂貴嘅技術。

本文說明每種方式實際做咩、各自適用嘅場景，以及點解大多數香港企業係從一個錯誤嘅心理模型出發。

每種方式實際做咩

Prompt Engineering 係指設計指令同上下文，引導現有模型——Claude、GPT、Gemini——生成你需要嘅輸出。無需模型訓練，無需額外基礎設施。三種方式中成本最低、迭代周期最快。

檢索增強生成（RAG） 將你的文件同知識庫連接到LLM。在生成回應前，系統從你的數據中檢索相關內容，並作為上下文傳遞給模型。模型本身不變——變的係佢在推理時可訪問嘅資訊。

Fine-Tuning（微調） 使用你嘅數據修改模型權重。需要GPU基礎設施、準備好嘅訓練數據集、模型版本管理及評估框架，以及底層基礎模型每次更新時嘅持續維護成本。

大多數業務需求實際落在哪裡

香港企業嘅實際AI需求——文件問答、客戶助手、報告摘要、內部知識檢索——幾乎在所有情況下都可以通過prompt engineering加RAG解決。

原因係結構性嘅。呢些需求有一個共同模式：問題係模型沒有訪問你公司特定資訊嘅途徑。RAG正是解決呢個問題嘅。Fine-tuning解決嘅係另一個問題：改變模型嘅行為方式。在標準業務運營中，需要從根本上改變模型行為嘅場景係罕見嘅。

Fine-Tuning嘅實際成本

選擇fine-tuning意味著承擔：數據集準備（通常係數千個高質量標注樣本）、GPU算力成本、模型評估框架，以及每次基礎模型更新時嘅重新訓練開銷。

機會成本亦重要。基礎模型每隔幾個月更新一次。微調後嘅模型停留在訓練時嘅版本，而基於API嘅系統自動受惠於每次更新。2024年需要fine-tuning才能達到嘅能力，2026年通過prompt engineering已可實現。呢個趨勢仍在持續。

Fine-Tuning真正係正確答案嘅情況

Fine-tuning有其合法應用場景：極高請求量下嘅成本優化（每日數十萬次調用）、對延遲敏感嘅部署、高度專業化嘅輸出格式需求，或數據不能離開內部基礎設施嘅合規環境。

呢些場景主要出現在大型機構及科技公司。如果你嘅機構屬於此類，合適嘅資源係ML基礎設施團隊——而唔係獨立工程師。

買家需要問嘅三個問題

當供應商或工程師提議fine-tuning時，簽約前值得問以下三個問題。

第一：問題係模型缺乏對公司特定資訊嘅訪問？如果係，RAG更便宜、部署更快、更易維護。

第二：提案是否包括基礎模型更新時嘅重新訓練成本？如果沒有，報價係不完整嘅。

第三：在建議fine-tuning前，是否已測試過prompt engineering加RAG作為基線？跳過基線直接去fine-tuning，係工程流程上嘅紅旗。