人工智慧的浪潮正以驚人的速度重塑全球科技版圖,從晶片設計到軟體應用,無一不被這股力量所驅動。然而,當市場的目光大多聚焦在NVIDIA、AMD等巨擘推出的下一代GPU性能如何強大、運算速度如何驚人時,一個潛在的、卻可能決定未來AI發展天花板的巨大瓶頸正悄然浮現:資料傳輸的「交通堵塞」。當數萬、甚至數十萬個強大的GPU核心需要像一個超級大腦般協同工作時,它們之間的溝通效率,便成為了限制整體性能的關鍵。這不僅僅是速度問題,更是功耗、延遲與成本的綜合挑戰。
為了解決這個AI時代最核心的物理限制,一場圍繞著「光」的技術革命正在資料中心內部醞釀。這場革命的主角,是一種被稱為「共封裝光學」(Co-Packaged Optics, CPO)的顛覆性技術。最新產業動態顯示,AI晶片的絕對領導者NVIDIA,極有可能在其預計於2027年推出的次世代架構中,正式導入CPO技術。這一步棋不僅將重新定義AI超級電腦的建構方式,更將引發一場全球光通訊供應鏈的權力轉移與價值重估。對於長期在全球電子產業中扮演關鍵角色的台灣與日本供應商而言,這既是千載難逢的黃金機遇,也是一場不容有失的技術卡位戰。
AI巨獸的「交通堵塞」:當前的資料中心瓶頸
要理解CPO技術的重要性,首先必須了解現今AI資料中心面臨的困境。我們可以將一個大型AI運算叢集想像成一座由數千棟摩天大樓(GPU)組成的超級城市。這些大樓各自擁有強大的處理能力,但它們的價值在於能否高效地交換資訊,共同完成一項複雜的任務,例如訓練一個龐大的語言模型。
目前,連接這些「大樓」的主要是傳統的「可插拔光學模組」(Pluggable Optics)。這就像是在每棟大樓外牆上安裝一個獨立的通訊收發站,再透過光纖纜線連接到其他大樓。這種設計雖然靈活,便於維修更換,但在AI運算規模爆炸性增長的今天,其缺點也日益凸顯:
1. 能源消耗巨大:可插拔模組距離核心晶片(GPU或交換器晶片)較遠,訊號需要經過一段印刷電路板(PCB)才能轉換成光訊號。這段「電」的路徑會造成顯著的訊號衰減,需要消耗大量電力來增強訊號,導致資料中心整體功耗居高不下,電費與散熱成本驚人。
2. 物理空間限制:隨著傳輸速率從400G、800G邁向1.6T甚至更高,可插拔模組的體積和散熱需求也越來越大,使得伺服器面板的空間捉襟見肘,限制了單一系統的總傳輸頻寬。
3. 延遲問題:訊號在電路板上的傳輸速度遠不及在光纖中,這段從晶片到光學模組的電氣路徑,成為了拖慢整體反應時間的元兇之一。對於需要即時反應的AI應用來說,每一奈秒的延遲都至關重要。
這些問題在「橫向擴展」(Scale-out,連接不同伺服器機櫃)和「縱向擴展」(Scale-up,在單一伺服器機櫃內部連接大量GPU)的場景中都存在,但在後者中尤為致命。NVIDIA的超級運算節點(如DGX SuperPOD)內部動輒需要連接數百個GPU,這種高密度的內部互連,正是傳統技術最難以應付的痛點。
NVIDIA的解方:CPO技術為何是2027年的關鍵一步?
面對這場不可避免的「交通危機」,NVIDIA的解決方案,就是將高速公路的入口直接建在摩天大樓的「地基」上。這就是CPO技術的核心思想:將負責光電訊號轉換的光學引擎(Optical Engine)與核心的交換器晶片(Switch ASIC)或運算晶片(GPU)封裝在同一個基板上。
這種作法帶來的好處是革命性的:
- 功耗顯著降低:由於光學引擎緊鄰晶片,訊號傳輸的電氣路徑被縮短到極致,從數十公分縮短到幾公分甚至更短。這大幅減少了訊號衰減和所需的驅動功率,據估計,CPO相較於傳統可插拔方案,可節省約30%至50%的互連功耗。
- 傳輸密度大幅提升:將光學元件整合進封裝,釋放了寶貴的伺服器面板空間,使得單一晶片能夠支援更高的頻寬密度,讓資料傳輸不再是瓶頸。
- 延遲更低:更短的電氣路徑意味著更快的訊號傳輸,進一步降低了整個系統的通訊延遲。
- 住友電氣工業(Sumitomo Electric Industries):作為全球光通訊元件的巨擘,住友在CPO所需的「連續波雷射器」(CW Laser)領域擁有強大的技術實力。CW雷射器是CPO系統的「心臟」,負責提供穩定、高品質的光源。這好比為數百條光纖高速公路提供動力的中央發電廠。住友的技術累積,使其成為NVIDIA等系統大廠不可或缺的合作夥伴。
- 京瓷(Kyocera)與村田製作所(Murata):CPO需要將電子晶片和光學元件封裝在同一塊高密度基板上,這對基板的材料特性、散熱能力和製造精度提出了極高要求。京瓷在陶瓷封裝基板領域的領導地位,以及村田在高頻電子元件和模組化技術上的專長,都使其成為CPO封裝鏈中極具競爭力的參與者。
- 上詮(Browave):這家公司在光纖陣列單元(FAU)的精密對位與耦合技術上深耕多年。在CPO架構中,需要將數十甚至上百根微米級的光纖,精準地對接到光學引擎上,這個過程被稱為「Shuffle」。上詮的技術正好切中了這個關鍵製程。他們的角色,就像是為超級高速公路系統建造複雜、精密的交流道閘口,確保每一輛車(光訊號)都能順利進入正確的車道。
- 台積電(TSMC)與日月光(ASE):CPO的終極形態,是將矽光子晶片與邏輯晶片透過先進封裝技術(如台積電的CoWoS)整合在一起,這被稱為「光學I/O」(OIO)。這正是台灣半導體產業的核心優勢所在。未來,當NVIDIA的GPU不僅內建記憶體,還直接內建光學收發器時,台積電等晶圓代工廠和日月光等封測廠將扮演實現這一切的終極推手。
- 鴻海(Foxconn)與廣達(Quanta):作為全球最大的伺服器代工廠,這些系統整合商最終將負責把搭載CPO技術的晶片、主機板和散熱系統組裝成完整的AI伺服器。他們雖然不直接生產光學元件,但其對系統設計、散熱管理和生產良率的掌控能力,將決定CPO技術能否順利、大規模地導入市場。
產業情報顯示,NVIDIA計畫在其2027年左右推出的「Rubin Ultra」GPU平台版本中,針對高密度的「縱向擴展」(Scale-up)場景,例如在單一機櫃內連接多達576個GPU的超級節點,率先導入CPO技術。這並非空穴來風,事實上,Google早已在其TPU v7 AI加速器中採用了類似的光學電路交換(OCS)技術,證明在超大規模部署中,光學技術前移的可行性與巨大效益。NVIDIA的跟進,意味著CPO將從一個前瞻性的概念,正式轉變為主流AI硬體架構的標準配備。
產業鏈大風吹:台日供應商的黃金入場券
CPO技術的導入,絕非僅僅是NVIDIA一家的事,它將徹底攪動全球高科技供應鏈的格局。過去由美系廠商主導的可插拔光學模組市場將面臨衝擊,而新的價值鏈將圍繞著CPO的關鍵零組件和封裝技術展開。在這場變革中,擁有深厚精密製造與半導體實力的台灣和日本企業,正迎來絕佳的切入點。
日本的精密大師:關鍵光源與材料的提供者
日本企業在精密材料、光學元件和半導體設備領域長期處於世界領先地位,這使其在CPO供應鏈中扮演著「軍火庫」的關鍵角色。
整體而言,日本企業的角色更像是高技術門檻的「特種部隊」,提供最核心、最上游的關鍵零組件,其價值在於技術深度與材料科學的領先。
台灣的整合專家:高效製造與封裝的實踐者
相較於日本在單點核心技術上的突破,台灣的優勢在於強大的半導體生態系、高效的系統整合能力以及靈活的製造彈性。
台灣供應鏈的角色更像是一個高效的「總承包商」與「系統整合師」,擅長將來自各方的先進技術進行整合、封裝、測試,並以兼具成本與品質優勢的方式大規模生產。
前景與挑戰:CPO並非萬靈丹
儘管CPO的前景一片光明,但通往成功的道路依然充滿挑戰。首先,技術成熟度與可靠性仍是首要考量。將光學元件與電子晶片封裝在一起,意味著任何一方出現故障,都可能導致整個昂貴的模組報廢,維修成本極高。這種「強耦合」的設計,對供應鏈每個環節的品質控制都提出了前所未有的要求。
其次,標準化進程將影響其普及速度。目前各大雲端服務商和硬體巨擘都有自己的發展路徑,如何形成統一的產業標準,是降低成本、擴大生態系的關鍵。
最後,傳統的可插拔光學模組並不會立刻消失。在對靈活性和成本敏感度較高的「橫向擴展」市場,以及1.6T以下的傳輸速率中,可插拔方案仍將保有其市場地位。CPO的初期應用,將會集中在對性能、功耗和密度要求最為嚴苛的頂級AI運算叢集。
總結而言,由AI算力需求驅動的資料中心內部互連革命,已經箭在弦上。CPO技術的崛起,是應對功耗與頻寬瓶頸的必然趨勢。NVIDIA在2027年的關鍵佈局,將正式吹響這場變革的號角。對於投資者而言,這不僅僅是一次零組件的升級,而是一次深刻的架構性轉變。在這場浪潮中,能夠精準卡位、提供核心技術的日本企業,以及能夠高效整合、實現大規模製造的台灣企業,都將迎來巨大的成長動能。未來AI硬體競賽的勝負,將不僅僅取決於晶片的運算力,更取決於誰能更高效地駕馭「光」的力量。


