AI輔助研究的幻覺識別

引用核實與信源追蹤方法

AI在研究輔助場景中帶來的最大效率提升，同時也帶來了特有的準確性風險：AI生成的錯誤信息往往以可信的形式出現，外觀上與準確資訊難以區分。在一般對話中容易察覺的錯誤，在研究輸出中反而更難被識別——因為研究者通常不具備快速驗證所有細節的前置知識。

關於AI幻覺在生產系統中的責任歸屬問題，可參考LLM幻覺與生產系統問責。在研究工具選擇上，Perplexity與Claude的定位差異對比了帶引用的實時檢索與推理合成兩種不同取向。

研究場景中的三類幻覺

事實幻覺：AI陳述了錯誤的數字、日期、人名或事件細節，且這些陳述聽起來完全合理。例如引用了一個真實機構發布的報告，但數字是錯的；或描述了一個真實作者的研究，但研究結論是被誤述的。

識別信號：數字過於精確（例如帶多位小數的百分比）；多個聲明恰好完美支持一個論點而沒有任何例外或限定；AI對不常見細節的陳述語氣過於確定。

引用捏造：AI生成了看起來正規的學術或新聞引用——作者名、期刊名、年份、卷期、頁碼——但這個引用實際不存在。期刊名和作者名可能是真實的，只是這篇文章從未存在。這是研究場景中最危險的一類錯誤，因為引用格式的完整性掩蓋了內容的虛構性。

識別信號：高度具體的引用資訊（DOI、頁碼、卷期）反而是警示——具體並不代表準確。任何未在對話中提供原始材料的引用，都需要獨立核實。

信源失聯：引用存在、文章存在，但文章實際內容並不支持AI所聲稱的觀點。引用「指向」正確的信源，但聲明被曲解、過度外延或斷章取義。哥倫比亞大學新聞學院Tow Center 2025年3月的研究顯示，在測試的AI工具中，Perplexity的引用錯誤率即使是最低的，絕對值仍達37%——其中大部分屬於此類：引用存在但不支持聲明。

引用核實工作流程

任何AI生成的研究引用，在納入最終輸出之前，應執行以下核實步驟：

首先，確認引用的基本存在：以作者名+文章標題在Google Scholar、PubMed（學術）或LexisNexis（新聞/法律）直接搜索。若無法找到，以DOI在doi.org直接查詢。引用不存在即停止，此引用應完全捨棄。

其次，確認AI聲明與原文的對應：找到原文後，定位AI聲稱來自該文的具體聲明。原文是否實際包含這個觀點？聲明的數字是否一致？研究結論是否與AI的陳述相符？這一步驟最為耗時，但也最為關鍵——引用存在不等於引用支持聲明。

最後，確認引用的適用性：原文研究對象是否與AI的使用場景相符？樣本範圍、時間、地域、方法論是否適用於當前論述？AI有時會用範圍有限的研究支持更廣泛的聲明。

信源追蹤實踐

在使用AI進行研究的工作流程中，建立明確的信源溯源機制比事後核實更有效：

在提示中要求AI區分「訓練知識」（可能過時）與「用戶提供文件」（可以引用原文）。對於需要引用的聲明，要求AI標注信息來源類型，並在無法確定出處時明確說明，而非自動生成引用格式。

使用AI對用戶提供的實際文件進行摘要和分析，優於讓AI從訓練知識中自由生成引用。前者的引用基礎可驗證，後者的引用基礎無法驗證。

對需要可靠引用的研究任務，Perplexity等帶實時搜尋的工具可提供有出處的初步資料，但正如前述，引用存在≠引用準確，仍需要人工的第二步核實。

AI研究輔助的有效使用框架

AI在研究流程中的合理定位：用於概念理解與背景建立（不需要引用精確性）；用於整理和合成用戶已提供的文件；用於識別需要進一步搜索的方向和關鍵詞；用於草稿結構生成（由用戶填充經核實的引用）。

不適合直接依賴AI的任務：需要精確引用的最終報告；需要最新數據的研究（訓練截止日期限制）；高風險場景中的核心依據（法律、醫療、學術論文）。

小結

AI研究輔助的準確性風險不在於AI「通常出錯」，而在於錯誤以可信的外觀出現，使識別成本高於預期。核實不是可選步驟，而是使用AI研究工具的系統性組成部分——尤其是引用核實（引用是否存在）和信源確認（引用是否支持聲明）兩個環節。

延伸閱讀：用AI研究移民選項：信息收集的正確方式與風險邊界