在當今急速演進的科技浪潮中，計算能力已成為推動各行各業創新的核心驅動力。從大規模的科學模擬到複雜的深度學習模型訓練，再到即時的數據分析，對更高效能、更強處理能力的渴求似乎永無止境。然而，這股追求效能的浪潮，也同時伴隨著對空間、能源及散熱的嚴峻考驗。傳統的伺服器設計，往往在強調單一處理器效能的同時，犧牲了機櫃內的空間利用率，導致資料中心 REITs（房地產投資信託）成本居高不下，並對能源供應和散熱系統帶來巨大壓力。
正是在這樣的背景下，「高效能」與「高密度」不再是獨立的兩個追求目標，而是相互依存、協同發展的關鍵要素。高效能的計算任務需要更多的處理單元，而要將這些處理單元塞入有限的物理空間，就必須極致地提升密度。這之間的平衡，如同一個精密的蹺蹺板，任何一端的傾斜都會影響整體系統的穩定與效率。傳統的解決方案，例如僅僅堆疊更多的標準伺服器，早已無法滿足當前及未來AI、HPC（高性能計算）的指數級增長需求。此刻，結合兩者優勢的「混合型解決方案」應運而生，成為了當代運算基礎設施設計的必然趨勢。本文將深入探討這類混合型解決方案的關鍵技術、應用場景，並透過實際案例，展示其在實際部署中如何有效地解決高效能與高密度之間的挑戰。
一、 混合型解決方案的核心要素：整合與突破
高效能與高密度的結合，並非簡單的將多個零組件拼湊在一起，而是需要對整個系統架構進行一次深刻的重塑。這涉及到從晶片設計、封裝技術，到電源管理、散熱系統，乃至於連接和布線的每一個環節的創新與協同。混合型解決方案的精髓在於「整合」，將原本分散的功能或組件，以一種更緊密、更高效的方式結合起來，從而實現超越各個單一部件總和的效益。
1. 整合式GPU與CPU架構
傳統的伺服器，CPU與GPU通常是獨立的晶片，通過PCIe匯流排進行通信。這種架構雖然成熟，但在處理高度依賴GPU加速的AI和HPC工作負載時，PCIe匯流排的頻寬限制和延遲會成為瓶頸。混合型解決方案則致力於打破這一限制，透過更先進的整合技術，將GPU與CPU更緊密地捆綁在一起，甚至在同一封裝內融合。
1.1. NVLink™技術的演進與應用
NVIDIA的NVLink™技術便是實現GPU與GPU之間、GPU與CPU之間高頻寬、低延遲連接的關鍵。在最新的NVIDIA HGX™ Rubin NVL8平台上，仁寶推出的SG231-2-L1系統，便完美體現了這一點。該系統在2U機箱內集成了8顆Rubin GPUs，並通過NVLink™ 6技術，實現了高達28.8 TB/s的GPU互連頻寬。這對於大規模的AI模型訓練，尤其是對記憶體頻寬要求極高的MoE（Mixture of Experts）模型，至關重要。高密度的GPU部署，加上超高速的GPU互連，使得在有限的物理空間內，能夠獲得前所未有的AI訓練效能。
1.2. 異質整合與小晶片（Chiplet）策略
隨著摩爾定律的放緩，單一巨大晶片的設計與製造難度與成本不斷攀升。因此，將不同功能、不同製程的晶片，透過先進的封裝技術結合在一起，成為了提升效能與密度的另一條重要路徑。Arm在2026年的預測中，就強調了3D堆疊與小晶片整合的重要性。透過將CPU、GPU、網絡控制器、甚至記憶體等功能，切割成獨立的小晶片，再將它們進行高密度、高效能的堆疊與互連，不僅能提升整體效能，更能優化功耗和製造成本。技鋼的自研GPU/CPU/網路/液冷板一體化封裝，便是這種趨勢的具體實踐，它將多個關鍵組件整合到一個模組中，直接支持日本量子-HPC融合平台，實現「設計即生產」的理念。
2. 電源與冷卻系統的革命
高密度、高效率的伺服器，意味著單位空間內消耗的能量更多，產生的熱量也更為集中。若電源供應和散熱系統無法跟上，再強大的計算能力也將是鏡花水月。傳統的交流供電和風冷散熱，在高功率密度下顯得力不從心。
2.1. 800VDC電源架構的優勢
光寶在NVIDIA GTC 2026展覽上推出的800 VDC解決方案，正是為了解決AI伺服器高功率密度需求而設計。相較於傳統的交流或低壓直流供電，800VDC架構能顯著降低電流，從而減小線纜的尺寸和重量，減少線損，並提高能源轉換效率。這對於擁有數千上萬台伺服器的AI資料中心而言，能節省大量的能源成本，並對供電線路的整體負載有所緩解。高電壓直流供電，加上整合的高效率電源模組和直流配電單元，為高密度伺服器提供了穩定、高效、彈性的能源基礎。
2.2. 液冷技術的進階應用
隨著晶片功耗日益增長，傳統的風冷散熱方式，尤其是對於密度極高的伺服器，已經難以為繼。葉片旋轉的風扇，不僅能耗巨大，其散熱效率也受限於空氣的導熱能力。液冷技術，尤其是直接液冷（Direct Liquid Cooling, DLC），以其優異的導熱性能，成為了解決高密度伺服器散熱問題的關鍵。技鋼的GPU/CPU/網路/液冷板一體化封裝，就預先整合了液冷板，確保核心發熱組件能夠得到即時、高效的冷卻。光寶的800 VDC解決方案中，也強調了液冷技術的整合，顯示出電源與散熱系統正在朝向更緊密的協同發展。
3. 儲存與連接的高密度化
除了計算單元本身的密度，數據的存取和傳輸，也是影響整體系統效能的關鍵。高密度的伺服器，需要更高頻寬、更低延遲的儲存接口和網絡連接。
3.1. 3.5D/3D封裝與HBM4的發展
半導體產業在2026年的趨勢中，高度關注CoWoS+SoIC等3.5D/3D混合封裝技術的進一步發展。這類技術能夠將多個晶片，以更緊密的三維結構堆疊，大幅縮減封裝佔用的空間，並縮短晶片之間的傳輸路徑，從而提升頻寬和降低功耗。與此同時，高頻寬記憶體（HBM）的迭代，特別是HBM4的發展，將進一步提升記憶體頻寬密度，滿足AI和HPC工作負載對記憶體的需求。Intel的Foveros Direct和三星的X-Cube等先進封裝技術，都在朝著這個方向努力。
3.2. CPO與高速連接器的演進
在數據中心傳輸方面，傳統的銅纜在高頻寬、長距離傳輸時面臨訊號衰減和功耗問題。共封裝光學（Co-Packaged Optics, CPO）技術，將光學收發模組直接整合到封裝內，或緊鄰處理器，能夠以更低的功耗實現更高的頻寬。Molex在2026年的連接趨勢中，就特別強調了CPO與48V電源技術的重要性。CPO技術能夠解決AI數據中心高頻寬密度和功率尖峰問題，並積極支持OCP（Open Compute Project）的ORV3標準，推動資料中心的互連標準化與效率提升。48V電源技術，則能為高密度計算設備提供更高效、更穩定的電源供應，應對CPU、GPU等高功耗組件的功率尖峰需求。
二、 混合型解決方案的應用領域：AI訓練的加速器
高效能與高密度的結合，最直接、也最迫切的需求，便來自於當前最炙手可熱的AI領域，尤其是大規模的AI模型訓練。訓練一個具有龐大參數量的深度學習模型，動輒需要數百甚至數千個GPU協同工作數週或數月，這不僅對計算能力提出了極高的要求，也對數據的傳輸、儲存以及系統的穩定性提出了嚴峻考驗。混合型解決方案，正是為了解決這些痛點而設計。
1. 大規模MoE模型訓練的挑戰
MoE模型，例如Google的Pathways Language Model (PaLM) 或Mistral AI的Mixtral模型，透過將一個大型模型拆分成多個「專家」網絡，並在每次推理時僅激活其中的一部分，從而能夠在保持較低計算量的前提下，大幅提升模型的表現。然而，這樣的架構也意味著模型需要更龐大的記憶體來存放所有專家網絡，同時需要高效的機制在各個專家之間進行路由和協調。
1.1. 仁寶GTC 2026高密度AI伺服器實例
仁寶推出的SG231-2-L1系統，正是為了解決MoE模型訓練的挑戰而生。其在2U的緊湊機箱內，集成了8顆NVIDIA Rubin GPUs，並通過NVLink™ 6實現了超高頻寬的GPU互連。這意味著，在一個標準的伺服器機櫃中，可以部署成百上千倍的GPU計算能力，大幅縮短MoE模型的訓練時間。大量的GPU緊密排列，加上高速互連，確保了模型訓練過程中，數據能夠在GPU之間快速流轉，最小化通訊延遲，最大化計算效率。
1.2. 記憶體頻寬密度的關鍵性
MoE模型需要將龐大的模型參數載入記憶體，並在訓練過程中頻繁地讀取和寫入。因此，記憶體頻寬密度成為了訓練效能的關鍵瓶頸之一。3D堆疊技術，如HBM4的發展，能夠將多層DRAM堆疊並通過高密度互連與GPU連接，極大地提升了記憶體頻寬。這種記憶體與處理器的高密度整合，是混合型解決方案能夠支撐Jumbo-scale AI模型訓練的基石。
2. HPC & AI融合平台的架構考量
高性能計算（HPC）和人工智能（AI）在現代科學研究和工程應用中，正日益融合。許多需要大量計算的科學模擬，例如氣候模擬、藥物發現、材料科學等，都可以從AI的加速中獲益，反之，AI模型也越來越複雜，需要GPU驅動的HPC資源進行訓練和推理。
2.1. 技鋼日本量子-HPC融合平台案例
技鋼的自研高密度GPU模組，能與傳統的HPC架構無縫集成，為HPC與AI融合平台提供強大的支持。其一體化封裝設計，不僅提升了計算單元的密度，還將網路和液冷板整合在內，簡化了系統整合的複雜度。這種預先優化、高度整合的模組，能夠快速部署到日本的量子-HPC融合平台，加速科學研究的進程。對於需要同時進行大規模模擬和AI分析的場景，這種高密度、高性能的融合平台至關重要。
2.2. 垂直創新與效率的提升
技鋼的「設計即生產」理念，強調了在早期設計階段就考慮到封裝、散熱和系統整合。這種垂直創新的思維，能夠在晶片設計之初就優化互連、功耗，並預留液冷接口，從而最大化單個模組的效能和密度。這種精準的設計，能夠有效提升整個HPC & AI融合平台的能源效率和整體效能。
三、 混合型解決方案的能源與散熱優化：邁向綠色資料中心
隨著AI和HPC需求的爆炸性增長，資料中心的能源消耗和熱量排放也呈現指數級增長。傳統的資料中心設計，已難以應對這種挑戰。混合型解決方案，通過引入更先進的電源管理和散熱技術，為構建更高效、更環保的綠色資料中心提供了可能。
1. 電源效率的提升與配電優化
AI伺服器對電源的要求極高，不僅需要極大的功率，還需要極高的轉換效率和穩定性。然而，傳統的交流供電和低壓直流轉換，會在數據轉換的過程中產生能量損耗。
1.1. 光寶800 VDC解決方案的節能效應
光寶的800 VDC解決方案，通過提高供電電壓，顯著降低了電流。低電流意味著更小的線纜尺寸、更低的線損，以及更低的電阻發熱。從整體的資料中心來看，這種效率的提升，即使是幾個百分點，累積起來也是巨大的節能效應。此外，800VDC架構還簡化了電源架構，減少了中間環節的能量轉換損耗。這不僅節省了能源成本，也降低了發熱量，進一步緩解了散熱壓力。
1.2. 48V電源技術的應用
在更細粒度的伺服器内部，Molex提出的48V電源技術，能夠為CPU、GPU等核心部件提供高效率、高功率密度的電源解決方案。相較於傳統的12V系統，48V可以在相同功率下使用更小的線纜，並提供更穩定的電壓，有效應對瞬間的功率峰值，保護敏感的電子元件。這種優化，對於承載高密度計算設備的伺服器而言，是提升整體可靠性和穩定性的關鍵。
2. 液冷技術在 densified 部署中的作用
當伺服器密度不斷提升，並搭載越來越多高功耗的晶片時，風冷技術往往會達到其物理極限。空氣的導熱係數遠低於液體，使得風扇需要高速旋轉，才能勉強帶走熱量，但同時也帶來巨大的噪音和能耗。
2.1. 整合式液冷技術的優勢
技鋼將液冷板整合到GPU/CPU/網路模組的設計中，就是一種極為高效的液冷應用方式。這種「冷卻板」（cold plate）緊貼發熱量最大的組件，能夠將熱量直接傳導到流動的冷卻液中。與之相比，傳統的風冷需要通過金屬散熱片間接散熱，效率大打折扣。液冷系統能夠在較低的流速下，實現遠超風冷的散熱效率，這意味著更低的風扇能耗，更安靜的工作環境，以及更高的組件散熱能力，從而允許CPU和GPU以更高的頻率運行，釋放更多效能。
2.2. 散熱彈性與部署靈敏性
光寶的800VDC解決方案中，也強調了對液冷技術的支援，這反映了電源與散熱系統的緊密協同。當伺服器性能不斷提升，功耗密度增大時，彈性的散熱解決方案變得尤為重要。液冷技術不僅能提供卓越的散熱性能，還能根據實際需求進行配置，例如直接液冷、浸沒式液冷等，為不同類型的伺服器和應用場景提供客製化的散熱解決方案。這種靈活性，對於追求快速部署和彈性擴展的資料中心而言，至關重要。
四、 混合型解決方案的未來趨勢：走向模組化與標準化
為了進一步加速混合型解決方案的普及，並降低部署和管理的複雜度，模組化和標準化將成為未來發展的關鍵方向。這意味著，將複雜的功能分解成標準化的模組，並允許不同廠商的模組之間進行互操作，從而構建更具彈性和擴展性的基礎設施。
1. 3D堆疊與小晶片整合的標準化
Arm在2026年的預測中，對3D堆疊和小晶片整合的強調，也暗示了未來對這些技術標準化的需求。目前，Intel的Foveros、三星的X-Cube等都展現了各自在3D封裝上的技術實力，但要實現廣泛的互操作性，需要業界共同制定相關的標準，包括封裝接口、通訊協定等。
1.1. Chiplet 生態系的建立
隨著越來越多的半導體廠商採用Chiplet策略，建立一個繁榮的Chiplet生態系將是必然趨勢。這類似於PC行業中的CPU插槽標準，允許不同廠商的CPU與主板進行兼容。在AI和HPC領域，建立類似的Chiplet標準，將允許伺服器廠商自由組合來自不同供應商的CPU、GPU、I/O等Chiplet，打造高度客製化、高效能的解決方案，進一步推動效能密度的提升。
1.2. CoWoS+SoIC等技術的普及化
CoWoS（Chip-on-Wafer-on-Substrate）和SoIC（System-on-Integrated-Chip）等先進的3D封裝技術，將從過去的高端封裝廠獨有，逐漸走向更廣泛的應用。隨著技術的成熟和製造成本的降低，這些技術將成為實現高效能、高密度晶片整合的標準方法，並推動整個硬體產業的創新。
2. 連接標準化與開放架構
在數據中心互連方面，標準化與開放架構將變得越來越重要，以支持各種混合型解決方案的部署。
2.1. OCP ORV3標準的重要性
Molex在2026年連接趨勢中，強調了對OCP ORV3標準的支持，這顯示了行業對開放架構的重視。OCP（Open Compute Project）是一個旨在推動資料中心硬體標準化和開放設計的組織。ORV3（Open Rack Version 3）是其新一代的伺服器機架和電源架構標準，旨在提高能源效率、改善熱管理，並提供更高密度的部署能力。支持ORV3標準，意味著更多的設備能夠在這個開放的框架下協同工作，減少廠商鎖定，並加速創新。
2.2. CPO技術的互通性與部署
共封裝光學（CPO）技術的發展，也需要考慮到其互通性和部署的便利性。未來的CPO模組，不僅需要具備高頻寬、低功耗的特性，還需要能夠與標準的光纖接口、伺服器主板以及其他網路設備進行無縫連接。隨著CPO技術的成熟，相關的標準將會陸續制定，以確保不同廠商的CPO解決方案能夠互相兼容，推動光通信在資料中心內部得到更廣泛的應用。
五、 結論：混合型解決方案，驅動運算界的下一場革命
從仁寶的GTC 2026高密度AI伺服器，到光寶的800VDC電源解決方案，再到技鋼的整合式GPU模組，以及半導體產業在3D堆疊和小晶片整合方面的顯著進展，我們可以看到一條清晰的發展脈絡：高效能與高密度不再是彼此衝突的目標，而是通過創新的混合型解決方案，實現了完美的融合。
這些解決方案的核心，在於對傳統架構的顛覆和對系統整合的極致追求。從物理上，將更多的計算單元、更強的電源管理、更有效的散熱系統，壓縮到更小的物理空間內；在邏輯上，通過高速互連技術，如NVLink™，打破晶片之間的通訊瓶頸；在能源效率上，採用800VDC、48V電源架構，以及先進的液冷技術，降低能耗、提升效率。
AI模型的指數級增長，尤其是對MoE架構的需求，以及HPC與AI的融合趨勢，是推動這些混合型解決方案快速發展的最主要動力。仁寶的伺服器，為大規模AI模型的訓練提供了前所未有的算力密度；技鋼的模組，則為HPC與AI融合平台注入了新的活力。
更重要的是，這些技術的發展並非孤立的。半導體產業在3D堆疊和Chiplet技術上的突破，為創建更高密度、更高效能的計算單元奠定了基礎。Molex等廠商在連接技術上的創新，如CPO和48V電源，則確保了數據中心的基礎設施能夠跟上計算能力的步伐。
展望未來，隨著3D堆疊、小晶片整合的標準化，以及OCP等開放架構的推廣，混合型解決方案將走向更廣泛的應用和更深入的整合。這不僅會為AI和HPC領域帶來更強大的算力，還將推動資料中心向著更節能、更環保的綠色化方向發展。混合型解決方案，正以前所未有的力量，驅動著運算界的下一場革命，為我們開啟一個充滿無限可能的新時代。
FAQs
1. 什麼是高效能與高密度的結合混合型解決方案？
高效能與高密度的結合混合型解決方案是指將高效能和高密度兩種解決方案結合在一起，以達到更有效率和更節省空間的效果。
2. 這種解決方案的應用案例有哪些？
這種解決方案可以應用在各種領域，包括資訊科技、製造業、物流和運輸等，以提高生產效率和節省空間成本。
3. 這種解決方案的優勢是什麼？
高效能與高密度的結合混合型解決方案可以同時提高工作效率和節省空間，使企業在有限的空間內達到更大的生產力。
4. 這種解決方案的實際應用效果如何？
實際應用效果顯示，這種解決方案可以大幅提高生產效率，同時節省大量的空間成本，為企業帶來顯著的經濟效益。
5. 如何選擇適合企業的高效能與高密度的結合混合型解決方案？
選擇適合企業的解決方案需要根據企業的實際需求和空間限制進行評估，可以諮詢專業的解決方案供應商以獲得更專業的建議。
