在人工智慧領域的浪潮中，大型語言模型（LLMs）以其驚人的生成能力顛覆了傳統範式，為自然語言處理（NLP）帶來劃時代的變革。然而，如同所有革命性技術，LLMs的潛力並非沒有限制。它們在知識即時更新、解釋性、資料安全及訓練成本等方面的固有挑戰，促使我們必須尋求更精巧的解決方案。檢索增強生成（Retrieval-Augmented Generation, RAG）系統的崛起，正是在此背景下應運而生的一項關鍵技術。它將LLMs的強大生成力與外部知識庫的精準檢索能力無縫結合，猶如為LLM配備了一部隨時可查閱的「開卷筆記」，極大地提升了生成內容的準確性、時效性與可信度。
RAG系統的核心價值，在於其能夠突破LLMs固有的知識邊界，確保輸入LLMs的資訊不僅豐富，更重要的是「高品質」。這不僅關乎如何找到相關的知識片段，更是一門關於如何「準備」知識、如何「智慧」檢索，以及如何「優化」整個資訊流的藝術與科學。本篇文章將深入剖析RAG系統中「資料準備」與「召回環節」的關鍵技術，揭示如何透過精妙的文本切塊、向量化模型選擇與應用、多策略融合的檢索智慧，以及中繼資料的精準過濾，共同建構一個高效、可靠且可解釋的RAG系統，確保每一次LLM的生成都能基於最堅實、最精確的知識基石。
資料切塊的藝術與科學：為精準召回奠定基石
RAG系統的基石，始於對原始文本的精妙處理，其中「資料切塊」無疑是一門兼具藝術與科學的學問。長篇文件若直接送入向量化模型，會因資訊壓縮而損失大量細節語義；反之，若切分過短，又可能破壞文本的連貫性與主題完整性，導致LLM難以進行有效總結。精準的切塊策略，是確保召回內容與使用者查詢意圖高度相關的先決條件。
文本切塊的挑戰性在於，我們必須在「保留細粒度語義」與「維護上下文完整性」之間取得微妙的平衡。當文本塊過長時，即使是先進的向量化模型也難免在將其壓縮為單一向量時，丟失關鍵的細節資訊，進而降低召回的精確度。此外，過長的文本塊也會限制RAG系統向LLM輸入的上下文數量，即便LLM的上下文視窗再大，冗餘資訊的增加也可能稀釋核心內容的影響力。另一方面，文本塊若切分過短，雖然有利於保留單句或短語的細粒度語義，卻極易導致段落甚至文件層面的主題資訊流失，割裂跨段落的上下文關係。LLM在接收這些碎片化的資訊時，將難以理解文件的整體脈絡，生成連貫且富有深度的回答。這正是為何切塊策略並無普適的最佳實踐，而是必須根據具體的應用場景、文本內容特性、向量化模型的性能，以及LLM可接受的輸入長度進行量身定制。
在實踐中，固定大小文本切塊是最為直觀的方法。然而，單純的硬性截斷往往會破壞句子或段落的語義完整性。例如，LangChain的RecursiveCharacterTextSplitter便優化了這一缺陷，透過定義一系列分隔符（如段落符、句號等），在不超過預設塊大小的前提下，優先按照語義邊界進行切分，並引入塊間重疊（chunk_overlap）以緩解上下文丟失問題。這種策略旨在最大程度地保留段落或句子間的上下文資訊，同時確保文本塊長度可控。它體現了在機械分割中融入對語義連續性的考量，是通用文本處理的推薦方法。
對於具有特殊結構的文本，如HTML、Markdown、LaTeX或各類程式碼，簡單的通用切塊方法會效率低下甚至破壞結構。這類文本的結構資訊本身就是重要的上下文線索，切塊時應充分利用其內在的層級關係和語法規則。例如，Markdown文件可以按照標題層級進行切分，Python程式碼可以按照函數或類定義進行切分。LangChain提供了針對這些特殊格式的切塊方法，它們通常在內部預設了特定的分隔符列表，並進一步調用RecursiveCharacterTextSplitter，在維護結構完整性的同時進行精細分割。這不僅提高了切塊的準確性，也使得向量化模型能更好地捕捉這些結構化文本的特有語義。
更為進階的切塊策略則引入了深度學習模型，以實現語義感知而非僅基於字元或結構的切分。例如，基於BERT的樸素文本切分方法，透過訓練模型判斷相鄰句子間的語義關係強度，將語義關係較弱的點作為切分點。進一步地，Cross-Segment模型和SeqModel利用BERT或LSTM同時處理多個句子向量，一次性預測每個句子是否為分段邊界，從而更好地利用長上下文資訊，提升切分效率和準度。這些方法將切塊從被動的規則驅動轉變為主動的語義理解，為RAG系統輸入的文本塊帶來更高的語義連貫性。然而，這類方法需要額外的模型訓練和計算資源，其複雜度和成本相對較高。
資料切塊的精髓在於，它不僅僅是物理上的分割，更是對知識結構的重塑。一個設計得當的切塊策略，能夠將複雜的知識體系分解為既獨立又相互關聯的語義單元，從而使得向量化模型能夠以更高的保真度對其進行編碼，為後續的精準召回奠定堅實的基礎。這項工作雖然細微，卻是決定RAG系統最終性能的關鍵一步。
向量化模型的選擇與應用：建構語義橋樑
在RAG系統的召回環節中，「向量化模型」扮演著至關重要的角色，它負責將文本內容轉化為高維向量空間中的數值表示，為語義相似性檢索建構起一座精密的橋樑。選擇合適的向量化模型，是確保RAG系統能夠精準捕捉使用者意圖並召回相關資訊的核心。這些模型可大致分為稠密向量檢索模型與稀疏向量檢索模型兩大類，各自擁有獨特的優勢與應用場景。
稠密向量檢索模型，如SimCSE、SBERT、CoSENT等，通常基於BERT或Transformer的編碼器結構，擅長捕捉文本的深層語義資訊。它們將文本中的字詞序列映射到一個低維度的連續向量空間，使得語義相似的文本在向量空間中距離相近。SimCSE以其對比學習（Contrastive Learning）的訓練方式而備受關注。其核心思想是「拉近相似樣本，推開不相似樣本」，透過將原始文本在不同dropout遮罩下生成的向量視為正例，或將標註資料中的查詢與正例文本視為正例，並將批次內的其他樣本視為負例，訓練模型學習更具區分度的語義表示。這種方法不僅使得模型具備了強大的內容抽象能力，也天然契合了RAG系統中「問題與答案在語義上匹配」的需求，對於提升召回的對齊性與均勻性效果顯著。SBERT雖然也採用BERT主幹模型並進行平均池化，但因訓練與推理計算邏輯的不一致性，其效果常不及SimCSE。而CoSENT則透過設計排序損失函數，確保了訓練與推理均使用餘弦相似度，使模型學習到的向量表示在語義匹配上更為精準。此外，WhiteBERT針對Transformer模型產出句向量存在的「各向異性」問題，提出透過線性變換將句向量映射到標準常態分布，使得向量在空間中分布更均勻，提高了不同語義文本的區分度。即便在Transformer解碼器結構的模型中，如SGPT，也透過加權求和的方式來獲得句向量，旨在捕捉更多上下文資訊。這些模型通過對語義深度的挖掘，使得RAG系統能夠在面對多義詞、複雜句式或非精確匹配的查詢時，依然能做出智能判斷。
相較之下，稀疏向量檢索模型，以TF-IDF和BM25為代表，則更側重於捕捉文本中的「關鍵詞」資訊。這些模型將文本表示為高維、稀疏的向量，其中每個維度對應一個詞彙表中的詞，數值通常表示該詞在文本中的頻率或重要性。樸素詞袋模型是最基礎的形式，僅統計詞頻，但忽略了文本長度與常見詞權重。TF-IDF在此基礎上進行了改進，透過「詞頻」（Term Frequency, TF）與「逆文件頻率」（Inverse Document Frequency, IDF）的乘積，評估一個詞在單篇文件中的重要性及其在整個文件集合中的普遍程度。它有效解決了常見詞權重過高和文本長度影響的問題，使高頻且具區分度的詞獲得更高的權重。BM25則可以視為TF-IDF的進一步優化，它在計算相似度時引入了詞頻飽和度機制，避免了高頻詞無限提高相關性分數的問題，並考量了文件長度與平均文件長度的相對關係。稀疏模型雖然在語義理解上不如稠密模型，但其對關鍵詞的敏感性使其在處理特定、精確的術語查詢時表現出色，且計算成本相對較低。
在實際的RAG系統建構中，選擇向量化模型需綜合考量多方面因素。首先是召回任務的類型：是對稱檢索（尋找相似句子）還是非對稱檢索（問題尋找答案）。RAG場景下通常是非對稱檢索，這要求模型能將問題和答案映射到同一語義空間，因此需要經過大量問答資料訓練的模型支援。其次是計算資源的限制，稠密模型通常對算力要求更高，但效果也更佳；稀疏模型則輕量高效。最後，也是最關鍵的，是模型在目標領域的性能表現。通用領域的SOTA模型如BGE、M3E、GTE等，在各類榜單上表現優異，通常可作為良好的基礎模型。但對於特定產業或企業知識庫，往往需要將基礎模型在自己的領域資料上進行微調（如對比學習），才能最大程度地提升模型在該領域的召回精準度與魯棒性。透過這些模型的精心選擇與應用，RAG系統得以在龐大的知識海洋中，迅速而準確地捕撈到與使用者查詢意圖高度契合的語義珍珠。
智慧召回：多策略融合提升準度
在RAG系統的召回環節中，僅依賴單一向量檢索模型往往難以滿足複雜的使用者查詢需求。向量化過程中不可避免的資訊損失，以及單純距離計算無法全面捕捉語義精微之處，導致召回結果可能存在不精準、不全面的問題。為此，「智慧召回」的核心思想便是透過多策略融合，將多種檢索技術與優化方法有機結合，從多維度提升召回的精準度與魯棒性。這不僅僅是疊加多個檢索器，更是一套系統性地克服檢索固有缺陷的精巧工程。
首先，針對單一文本塊可能缺乏全域上下文的問題，實施「短文本全域資訊增強」策略至關重要。當長文本被切分為短文本塊進行向量化時，局部語義得以保留，但其所屬長文本的主旨或篇章結構資訊可能隨之流失。為彌補此缺陷，可將長文本的前幾句話、標題、關鍵詞甚至由LLM生成的主旨句，拼接到每個短文本塊之前。例如，DAPR論文中提及的三種全域資訊增強方式，都能有效提升短文本塊的語義完備性，使其在向量空間中更好地表徵其原始上下文，從而提高召回相關內容的機率。
其次，「召回內容上下文擴充」策略打破了「召回內容必須與輸入LLM內容相等」的僵化約束。向量化模型可能需要短文本以維持細粒度語義，但LLM在生成答案時，往往需要更長、更連貫的上下文來進行深入理解和總結。LangChain的ParentDocumentRetriever便是一個經典範例：它將父文本切分為子文本進行向量化和檢索，但最終輸入LLM的卻是子文本所屬的完整父文本。類似地，LlamaIndex的SentenceWindow-NodeParser透過維護文本塊在全文中的位置關係，允許在召回某個短文本後，自動將其前後相鄰的N個短文本一併作為上下文輸入LLM。這種「小塊檢索，大塊閱讀」的模式，巧妙地兼顧了向量檢索的效率和LLM對上下文完整性的需求。
再者，「文本多向量表示」策略為同一段文本生成多種「補充向量」，從不同角度捕捉其語義特徵。例如，除了原始文本的向量，還可以生成其摘要、關鍵詞或甚至「假設性問題」的向量。這些補充向量在召回時提供多元線索，一旦任一補充向量被召回，最終輸入LLM的仍然是原始文本內容。特別是「用問題召回問題」的思路，透過LLM為文件生成潛在的假設性問題，由於問題與問題之間的語義相似度通常比問題與答案之間更高，這大大提升了檢索的命中率。LangChain的MultiVectorRetriever提供了實現此功能的介面，將不同粒度和形式的文本表示與原始文本進行連結，豐富了檢索維度。
面對使用者查詢時，原始提問常帶有口語化、語義模糊或冗餘內容，這對向量化模型的理解能力構成挑戰。「查詢內容優化」旨在透過LLM的力量，對使用者查詢進行改寫和擴充。LangChain的MultiQueryRetriever能夠將單一查詢改寫成多種不同的提問方式，然後同時進行多路召回並取併集，有效克服基於距離的相似性搜索的局限。而HyDE（Hypothetical Document Embedding）則更為巧妙，它讓LLM根據使用者問題生成「假答案」，再將假答案與原始問題一併向量化，將非對稱檢索近似轉化為對稱檢索，顯著提升了召回效果。在多輪對話場景中，LLM對歷史對話的總結（Query Rewriting），將當前缺乏上下文的提問補全為語義完整的查詢，更是不可或缺的優化環節。
此外，「召回文本重排序」是提升召回精度的關鍵一環。向量檢索雖然高效，但精度有限。透過引入計算成本較高但效果更佳的重排序模型（如基於Transformer編碼器的交叉編碼器），在初步召回的少量候選文本中進行二次精選，可以顯著提高最終輸入LLM的文本品質。這種多階段排序的思路在業界被廣泛應用。LangChain的ContextualCompressionRetriever提供了LLM驅動的壓縮器（如LLMChainFilter判斷相關性，LLMChainExtractor提取關鍵句），使LLM能夠作為智能篩選器，對召回內容進行深度審核與提煉。
最後，「多檢索器融合」則將不同特性的檢索器整合，實現取長補短的效果。最常見的融合模式是將稀疏檢索器（如BM25）和稠密（向量）檢索器結合，前者擅長關鍵詞匹配，後者擅長語義匹配，兩者互補。融合演算法可採用加權求和或「倒數排序融合」（Reciprocal Rank Fusion, RRF），後者透過對各檢索器排序位置進行加權，更公平地融合不同檢索源的結果。LangChain的EnsembleRetriever便提供了RRF的實現。這種融合策略，旨在建構一個更加全面且富有彈性的檢索系統，以應對多變的使用者查詢和異構的知識庫。
這些智慧召回策略的融合運用，將RAG系統的召回環節從單純的相似性搜索，昇華為一個多維度、自適應的語義理解與資訊篩選過程，為LLM提供最精準、最豐富的知識養分。
中繼資料：精準過濾與個人化召回的智能鑰匙
在RAG系統的精準召回之旅中，「中繼資料」扮演著一把智能鑰匙的角色，它超越了純粹的文本內容匹配，為向量檢索增加了精準的過濾能力和個人化的維度。中繼資料是指描述資料的資料，例如文件的作者、日期、主題標籤、來源、密級，甚至於地理位置等。當這些結構化的標籤與非結構化的文本向量一同儲存在向量資料庫中時，RAG系統便能實現更具智慧和效率的召回機制。
在實踐中，結合中繼資料召回最直接的應用，體現在對檢索範圍的精準限定。當使用者查詢一個特定問題時，如果能事先知道該問題可能關聯的某些屬性（例如：只查詢「水果店1」的葡萄價格，而非所有水果店），那麼便可利用中繼資料先行過濾出向量資料庫中的相關子集，然後再在該子集中進行向量相似度搜索。這種「先過濾再搜索」的模式，極大地縮小了搜索空間，不僅提高了召回的效率，更重要的是提升了結果的精準度，避免了從不相關的文件中召回誤導性資訊。現代向量資料庫，如Milvus、Weaviate、Qdrant，以及大模型應用開發框架LangChain，均已深度整合了中繼資料的寫入與召回過濾功能，使得開發者可以輕鬆地為每個文本塊添加豐富的上下文標籤。
中繼資料的另一個深遠影響在於實現「個人化」與「時效性」的召回。在某些應用場景下，例如金融資訊、新聞推薦或個人知識管理，資訊的「新鮮度」和「個人偏好」是衡量召回品質的重要指標。透過在中繼資料中記錄文本的「上次被召回時間」或「使用者互動頻率」，並結合特定的演算法，RAG系統可以動態調整檢索結果的排序。LangChain的TimeWeightedVectorStoreRetriever便是一個經典示例，它在相似度分數的基礎上，額外引入一個與時間相關的修正項。如果某個文本距離上次被召回的時間越短，修正項分值越大，從而提升其在召回列表中的排序名次。這種機制有效確保了召回的文本不僅與查詢語義相關，還能兼顧其時效性，避免使用者總是看到過時或不變的資訊。對於個人化應用，中繼資料則可以包含使用者的閱讀偏好、歷史互動記錄，甚至其所屬部門或權限等級，從而實現高度定制化的資訊召回。
然而，中繼資料的生成與管理本身也存在挑戰。人工為海量的文本資料進行精細的中繼資料標註，其成本高昂且效率低下。此時，LLM的智能輔助能力便能大顯身手。利用LLM的「函數呼叫」（function calling）能力，我們可以定義中繼資料的結構模板（包含屬性名稱、資料型別、描述），然後讓LLM根據文本內容自動提取並生成相應的中繼資料。例如，LangChain的create_metadata_tagger介面，便能借助LLM實現這一功能，將非結構化的文本智能地轉化為帶有結構化標籤的知識單元。這不僅大幅降低了中繼資料的生成成本，也提高了標註的一致性與準確性，為更精細的檢索控制提供了可能。
從根本上說，中繼資料將RAG系統的召回能力從單純的「語義匹配」提升到「語義匹配 + 條件過濾 + 偏好排序」的多維度綜合判斷。它使得RAG系統能夠從龐大的知識庫中，不僅找到語義上「相似」的內容，更能找到在特定「時間」、「地點」、「使用者」、「主題」等維度上都「最相關」且「最有價值」的資訊。中繼資料就像是為每一份知識檔案貼上的智能標籤，它們共同建構了精準召回的智能過濾網，讓RAG系統的每次檢索都更接近使用者的真實意圖和個人化需求。
強化RAG系統：從挑戰到精準智能的飛躍
RAG系統的演進，是一部持續對抗LLM固有挑戰的創新史。從最初的簡單檢索生成框架，到如今融合多重智慧的先進系統，每一次進步都源於對提升資訊品質與模型可靠性的不懈追求。這場變革的核心，是將「資料準備」與「召回環節」從被動的資訊提取，轉化為主動、智慧且具有前瞻性的策略佈局，最終確保LLM能夠接收到最高品質的知識輸入。
RAG系統的發展路徑，正是從解決基礎問題出發，逐步走向複雜情境的精準化處理。在RAG誕生之初，面對LLM知識時效性不足、生成結果不可解釋及訓練成本高昂等痛點，基礎RAG提供了直接而有效的解決方案。它透過將外部知識庫切塊、向量化並儲存，在使用者查詢時檢索相關片段作為LLM的上下文，極大地提升了答案的準確性和可解釋性。然而，隨著應用場景的深化，基礎RAG的局限性也逐漸顯現：語義歧義導致的召回不精準、粒度不匹配造成的資訊錯位、冗餘與重複內容對生成品質的影響，以及模型過度依賴檢索結果而缺乏洞察等問題，都成為進一步優化的驅動力。
針對這些挑戰，RAG系統的進化之路呈現出多維度的優化策略。在資料準備環節，從最初的簡單切塊，演變為融合語言學規則、文件結構特點甚至深度學習模型的「語義感知切塊」，確保文本塊在長度可控的同時，最大限度地保留語義連貫性。向量化模型從最初的通用模型，發展到針對特定領域微調，甚至能夠處理非對稱檢索任務的專業模型，確保了語義匹配的深度與廣度。檢索策略不再是單純的相似度搜索，而是融入了「上下文擴充」、「多向量表示」、「查詢優化」等智慧手段。例如，透過檢索子文本而輸入LLM父文本，或為文件生成摘要及假設性問題來豐富檢索線索，以及LLM改寫使用者查詢以消除歧義，這些都極大地提升了召回的覆蓋率和相關性。此外，多檢索器融合（如稀疏與稠密模型的結合）及重排序模型的使用，則在召回效率與精準度之間取得了最佳平衡，確保LLM接收的上下文既相關又精煉。中繼資料的引入，更是為召回增添了精準過濾、個人化推薦及時效性考量的能力，將檢索從單純的語義匹配提升到多條件綜合判斷的層次。
RAG系統的未來，正走向一個由LLM主導的「智能代理」（Agent）範式。在這個新範式中，LLM不再是被動地接收上下文，而是成為具備自主決策能力的「推理引擎」。它能夠根據使用者問題的複雜度，主動判斷何時需要召回外部知識、如何建構最佳查詢，甚至在多跳問題中，能夠分解任務、迭代召回，並在必要時調用計算器等外部工具進行推理。FLARE和Self-RAG等框架的出現，正預示著這一趨勢：LLM可以自主決定何時觸發檢索，並評估召回文本與生成答案的品質，實現自我反思與迭代優化。這不僅克服了傳統RAG在長文本生成中易產生幻覺的問題，也使得RAG系統能夠處理更為複雜、需要多步驟推理的使用者問題，從而極大地擴展了其應用邊界。
這場RAG系統的進化，不僅是技術細節的堆疊，更是一種思維範式的轉變。它從最初的「將知識餵給LLM」，轉變為「讓LLM智慧地管理知識」，最終目標是讓每一次LLM的生成，都能基於堅實、即時且精準的知識基礎，為使用者提供更可靠、更深入、更具解釋性的答案。
最終，RAG系統的精準召回能力，是實現LLMs在現實世界中廣泛應用並產生實質價值的關鍵。從資料準備到檢索策略再到系統優化，每一個環節的精進，都將共同鑄就一個更強大、更智慧的RAG系統，推動人工智慧應用邁向一個全新的高度。這不僅僅是技術上的勝利，更是人類智慧與機器智能深度融合的必然趨勢。
精準召回的藝術與科學，是RAG系統的核心生命力，也是每個AI應用落地者必須掌握的關鍵技能。展望未來，RAG系統將持續演進，從文本走向多模態，從單次召回走向主動、迭代的智能決策。掌握這些精妙的技術，不僅能建構出更可靠、更高效的LLM應用，更將開啟通向真正智慧代理的大門。因此，深入理解並精通RAG的資料準備與召回環節，已成為當今AI開發者不可或缺的知識資產。你是否已準備好，在這場由RAG引領的智能變革中，成為引領未來趨勢的實踐者？
