人工智慧（AI）正在以前所未有的速度滲透到醫療保健領域，從輔助診斷、藥物研發到個人化治療建議，它描繪了一幅充滿希望的未來藍圖。許多人相信，AI將成為解決醫療資源不均、提升診斷效率的萬靈丹。然而，在這片樂觀的聲浪中，一個潛在的致命弱點卻鮮少被提及：當我們要求AI提供攸關性命的醫療建議時，它所依賴的「知識來源」本身，可能就是一帖毒藥。如果AI讀到的醫學文獻是過時的、甚至是相互矛盾的，它會給出什麼樣的答案？這個問題不僅是技術上的挑戰，更是關乎整個AI醫療產業能否建立信任的基石。
近期一項深入研究揭示了這個令人不安的真相。研究人員模擬了一個常見的場景：讓AI扮演醫療顧問，回答關於藥物使用的問題。但他們設計了一個巧妙的陷阱。他們不讓AI僅僅依賴其內部儲存的龐大、但可能過時的知識庫，而是採用了一種目前被視為能大幅提高準確性的先進技術——「檢索增強生成」（Retrieval-Augmented Generation, RAG）。
AI的「開卷考試」失靈了？揭開RAG技術的真相
要理解這個問題的嚴重性，我們首先需要了解什麼是RAG。您可以將傳統的AI模型想像成一個博學但記憶力有限的學生，他只能憑藉腦中記住的知識來回答問題。這種模式的缺點是，知識無法即時更新，而且AI有時會「一本正經地胡說八道」，也就是所謂的「幻覺」。
RAG技術的出現，就是為了解決這個問題。它相當於給了AI一場「開卷考試」（Open-book Exam）。當使用者提出問題時，系統會先從一個外部的、權威的資料庫（例如醫學文獻資料庫PubMed）中，搜尋出最相關的文件，然後將這些文件作為「參考資料」一併交給AI，要求它根據這些最新的資料來生成答案。理論上，這能確保答案的即時性與準確性，因為AI不再是單憑記憶，而是有憑有據。這就像要求一位醫師在開藥前，必須先查閱最新的臨床指南和研究報告一樣。
然而，這次的研究卻殘酷地戳破了這個美好的泡泡。研究人員讓包含Mixtral、Med-LLaMA3在內的多個主流AI模型，在三種不同的「參考資料」情境下回答問題：
1. 最相關情境：提供給AI的醫學文獻摘要，在主題上最為貼近，內容也相對一致。
2. 最矛盾情境：刻意挑選內容相互衝突的文獻。例如，一篇文獻說某藥物對兒童安全，另一篇則警告有嚴重副作用。
3. 最少矛盾情境：提供的文獻雖然主題相關，但盡量排除了明顯的矛盾點。
結果令人震驚。當AI拿到內容一致、最相關的參考資料時，表現確實不錯。但一旦進入「最矛盾情境」，所有模型的表現都出現了災難性的下滑。根據一項關鍵的客觀評分指標，AI生成答案的準確性平均下降了超過18%。更可怕的是，AI並不會主動警示使用者「資料來源存在矛盾，請謹慎參考」，而是會嘗試整合這些矛盾的資訊，最終生成一個看似合理、實則可能包含錯誤或誤導性資訊的答案。這在醫療領域，一個18%的準確度下降，可能就意味著生與死的差別。這場本應萬無一失的「開卷考試」，因為參考書本身的問題，徹底失靈了。
矛盾的根源：為何越新的醫療研究，問題可能越多？
更深入的數據分析揭示了一個違反直覺的現象：內容上的矛盾，在越新的醫學文獻中反而越普遍。一般人會認為，科學日新月異，最新的研究應該最可靠。但事實恰恰相反。研究顯示，2000年以前的文獻，內容一致性相對較高；而進入21世紀後，尤其是在2010年之後發表的文獻中，高矛盾分數的文獻比例急遽上升。
這背後的原因其實反映了現代醫學研究的本質。首先，全球生物醫學研究的數量呈爆炸性增長，不同的研究團隊、採用不同的方法、針對不同的病患群體，得出不一致甚至完全相反的結論，是很正常的現象。其次，醫療知識本身就是一個不斷演進、推翻過去共識的過程。今天被奉為圭臬的治療方案，明天可能就被新的大型臨床試驗證明無效或有害。例如，過去數十年關於膽固醇、阿斯匹靈預防性使用的指南，都經歷了多次重大修正。
科學的進步正是在這種不斷的質疑與矛盾中發生的。但對於AI來說，它缺乏人類專家的批判性思維和權衡不同證據的能力。它無法判斷一篇發表在頂級期刊、由數萬人參與的大型隨機對照試驗，其證據等級遠高於一篇只有幾十個案例的小型觀察性研究。對AI而言，這些都只是被輸入的「文本資料」。因此，當AI在最新的文獻海洋中檢索時，它撈起的很可能是一個充滿矛盾與不確定性的漁網，而它卻試圖將這一切編織成一張看似完美的答案之網。
美國巨頭的困境，台日廠商的機會與警惕
這個問題對全球AI產業，特別是正在積極佈局的台灣與日本企業，帶來了深刻的啟示。
目前，引領大型語言模型發展的主要是美國科技巨頭，如Google（其Gemma模型參與了此次測試）、Meta（其Llama模型是Med-LLaMA3的基礎），以及法國的Mistral AI（其Mixtral模型在測試中表現相對較好，但也同樣在矛盾情境下大幅退步）。這些公司擁有龐大的資源來訓練模型，但它們同樣面臨著這個「垃圾進、垃圾出」的根本性難題。當AI應用的場景從聊天、寫文案等低風險領域，轉向金融、法律、醫療等高風險領域時，這種處理矛盾資訊能力的匱乏，將成為它們最大的商業風險與技術瓶頸。
相比之下，日本和台灣雖然在通用大型模型的規模上不及美國，但兩地都擁有世界頂尖的製造業與醫療產業基礎。日本的NTT、軟銀（SoftBank）正積極開發自家語言模型，並著重於與社會應用結合，特別是應對高齡化社會的醫療照護需求。台灣方面，不僅有國家級的「TAIDE」模型，科技巨頭如聯發科（MediaTek）也投入自主研發，而台灣人工智慧實驗室（Taiwan AI Labs）的「福爾摩沙大模型」更是本土化的重要成果。更重要的是，像華碩（ASUS）、廣達（Quanta）等企業早已深耕智慧醫療領域。
這對台日企業而言，既是警惕也是機會。警惕在於，當我們發展自己的醫療AI應用時，絕不能盲目地複製美國的技術路徑。如果只是簡單地將開源模型拿來，接上一個外部醫學資料庫，那麼我們也將繼承同樣的致命缺陷。這不僅無法在市場上建立差異化，一旦發生醫療疏失，更可能摧毀使用者對整個品牌的信任。
機會則在於，誰能率先解決這個「矛盾辨識與處理」的問題，誰就能在高階AI醫療市場上建立起真正的護城河。這不再是單純比拼模型參數大小的遊戲，而是關乎資料治理、證據等級評估、邏輯推理與風險控制的綜合能力。台灣擁有高品質的全民健保資料庫與卓越的臨床醫療體系，這為建立一個更乾淨、更經過驗證的「權威知識庫」提供了得天獨厚的條件。如果台灣的AI廠商能與頂尖醫院合作，不僅僅是導入AI工具，而是共同打造一套能夠辨識、標記甚至解決資訊矛盾的「AI品管系統」，那麼這將成為我們在全球AI醫療競賽中的獨特優勢。
不只是技術問題：投資者與專業人士該如何看待？
最後，這個議題也為投資者與第一線的專業人士提供了新的評估視角。
對於投資者而言，在評估一家AI醫療公司時，不應再只關注其演算法多麼先進、模型規模多麼龐大。更應該深入探問：它的RAG系統所連接的知識庫是什麼？資料的更新頻率與品質控管機制為何？該公司是否有處理矛盾資訊的策略？一個無法回答這些問題的團隊，其產品的穩健性與可靠性必然要打上一個大大的問號。
對於醫師、藥師等醫療專業人士來說，這項研究結果再次印證了「人機協作」的重要性。AI可以作為一個強大的輔助工具，快速整理、摘要大量資訊，但絕不能取代專業人員的最終判斷。當使用AI輔助診斷系統時，必須抱持著批判性的態度，追問AI答案的證據來源，並利用自身的專業知識去辨識其中潛在的矛盾與不確定性。
總結來說，AI在醫療領域的應用潛力無窮，但RAG技術在面對矛盾資訊時的脆弱性，如同一顆潛伏的定時炸彈。這個問題的根源，是科學知識本身的不斷進化與內在矛盾，這也意味著單純靠擴大模型、增加資料量無法解決。未來的AI醫療系統，必須從一個天真的「資訊整合者」，進化為一個能權衡證據、理解不確定性、並在必要時承認「我不知道」的智慧夥伴。解決這個信任危機，將是決定AI究竟是成為下一代醫療革命的引擎，還是淪為高科技風險製造機的關鍵。
