算電協(xié)同、高密液冷、國產(chǎn)芯片……算力黑科技與創(chuàng)新應(yīng)用一覽
當(dāng)前，人工智能技術(shù)及生態(tài)迭代加快，大模型產(chǎn)品及應(yīng)用層出不窮，對智能算力提出更強(qiáng)性能、更大規(guī)模、更低成本的需求。作為關(guān)鍵環(huán)節(jié)與核心底座，以智算中心為代表的智能算力基礎(chǔ)設(shè)施，呈現(xiàn)哪些創(chuàng)新技術(shù)與趨勢，多模態(tài)大模型發(fā)展如何，本文帶你一覽。
大模型不斷迭代創(chuàng)新
今年7月，中國信息通信研究院發(fā)布《全球數(shù)字經(jīng)濟(jì)白皮書（2024年）》顯示，全球人工智能大模型共1328個。人工智能在很多領(lǐng)域里正在釋放潛力，可以應(yīng)用到工業(yè)、醫(yī)療、能源、城市、交通等領(lǐng)域中。
從文字生成到圖片生成、視頻生成，大模型不斷迭代，由單模態(tài)像多模態(tài)發(fā)展，極大增加了智能算力需求，也給AI賦能千行百業(yè)帶來變革。
就在當(dāng)?shù)貢r間12月9日，OpenAI推出最新版本的視頻生成大模型Sora-Turbo。新版Sora可生成最高1080p分辨率、最長20秒、寬屏、豎屏或方形的視頻，用戶可以利用資源進(jìn)行擴(kuò)展、remix、融合，也可基于文本生成全新的內(nèi)容。OpenAI開發(fā)了全新的UI界面，并提供故事板工具讓用戶可以精準(zhǔn)地指定每個幀的輸入。目前新版Sora的單視頻平均生成價格約0.4美元，該公司CEOSam Altam表示“大家可以將Sora看作視頻版的GPT-1”。
業(yè)內(nèi)人士認(rèn)為，視頻生成模型在今年有了長足進(jìn)展，因此Sora-Turbo上線相比首次發(fā)布時帶來的沖擊較弱。本次迭代上線在基礎(chǔ)模型能力上并沒有太多亮點，生成速度在分鐘級左右，估算相關(guān)算力成本并沒有降低。有大模型從業(yè)者表示，僅看技術(shù)指標(biāo)，國內(nèi)現(xiàn)有視頻生成模型并不比sora差。
智算崛起背后的用電挑戰(zhàn)
智算帶來驚人的能源消耗，帶來高額成本，更讓企業(yè)想不到的是，有一天“電從哪里來”成為新挑戰(zhàn)。
據(jù)中國信通院測算，截至2023年底，全球算力基礎(chǔ)設(shè)施總規(guī)模達(dá)到910EFLOPS（FP32），同比增長40%。美國、中國算力基礎(chǔ)設(shè)施規(guī)模位列前兩名，算力占比分別為32%、26%。高算力背后是高電力。擁GPT4.0訓(xùn)練需要經(jīng)過三個月，使用2.5萬塊GPU芯片，僅一次訓(xùn)練就消耗了2.4億度電。在推理階段，大模型的耗電量同樣不容小覷。
為滿足新增能源需求及成本要求，美國科技企業(yè)盯上了核能直接向數(shù)據(jù)中心供電：
今年10月，谷歌宣布著手與核電企業(yè)簽署協(xié)議，爭取截至2030年起通過核電站實現(xiàn)快速安全供電，“這項協(xié)議將提供500兆瓦全天候無碳電力”。
日前，Mate發(fā)布征求建議書，表示計劃在2030年代初新增1-4GW的核能發(fā)電能力，并就此向有關(guān)核開發(fā)商尋求合作，以支持?jǐn)?shù)據(jù)中心及其周邊供電的電網(wǎng)增長需求。
然而，這樣核電站直連數(shù)據(jù)中心供電的趨勢，已經(jīng)引發(fā)一些美國電網(wǎng)公司反彈，并被美能源部門“重點關(guān)注”。
今年11月初，美國“核電廠+數(shù)據(jù)中心”的標(biāo)桿性交易——被美國聯(lián)邦能源管理委員會否決，該交易涉及6.5億美元以上，能源公司Talen出售核電站旁的數(shù)據(jù)中心園區(qū)（960MW）給亞馬遜，并長期供應(yīng)核電。
電力賣方直接與買方進(jìn)行電力交易，無需通過電網(wǎng)，這種交易行為被形象的稱為“隔墻售電”。在中國，這樣的數(shù)據(jù)中心用電方式，正在被鼓勵。
8月6日，國家發(fā)展改革委、國家能源局和國家數(shù)據(jù)局聯(lián)合印發(fā)《加快構(gòu)建新型電力系統(tǒng)行動方案（2024～2027年）》提到：數(shù)據(jù)中心通過建設(shè)配套可再生能源電站、與可再生能源發(fā)電企業(yè)直接開展電力交易等方式，降低運營成本，實現(xiàn)能源消費結(jié)構(gòu)優(yōu)化及東、西部電力資源互補(bǔ)和優(yōu)化配置。
11月28日，國家能源局發(fā)布《關(guān)于支持電力領(lǐng)域新型經(jīng)營主體創(chuàng)新發(fā)展的指導(dǎo)意見》，指出“新型經(jīng)營主體原則上可豁免申領(lǐng)電力業(yè)務(wù)許可證，明確提出支持“隔墻售電”等新型電力交易模式。
綠色節(jié)能除了液冷還有這些
隨著GPU芯片快速演進(jìn)，功率快速攀升，傳統(tǒng)的風(fēng)冷模式很難滿足散熱需求，更高換熱效率的液冷正逐漸被數(shù)據(jù)中心和大模型企業(yè)接受。
這一背景下，成本與實施難度更低的冷板式液冷最先被IDC企業(yè)等接受，而由于GPU芯片的迅猛發(fā)展，散熱效率更高的浸沒式液冷也一改過去的“冷遇”，產(chǎn)業(yè)鏈上游、中游持續(xù)推出浸沒式液冷服務(wù)器、冷卻液等新品。
與此同時，在液冷之外，數(shù)據(jù)中心還開展了更精密空調(diào)、無水等綠色節(jié)能探索。
傳統(tǒng)數(shù)據(jù)冷卻系統(tǒng)采用水蒸發(fā)冷卻方式降低能源需求，微軟云服務(wù)部門此前介紹了下一代“0水蒸發(fā)數(shù)據(jù)中心設(shè)計”，采用新型芯片級冷卻解決方案，配備更高效水冷機(jī)，支持更高運行水溫，整體冷卻系統(tǒng)采用閉環(huán)水路，可實現(xiàn)服務(wù)器和冷卻器之間的冷卻水流循環(huán)，一旦在建設(shè)過程中填充完畢就無需新鮮水源填充。這樣的數(shù)據(jù)中心每年可節(jié)約1.25億升用水。
在自然資源適合的“東數(shù)西算”集群，亦有數(shù)據(jù)中心采用全變頻氟泵自然冷精密空調(diào)進(jìn)行更節(jié)能的制冷。通過智慧控制系統(tǒng)，實施監(jiān)測各參數(shù)性能，動態(tài)調(diào)整制冷模式，智能適應(yīng)四季變化，實現(xiàn)最佳節(jié)能匹配。同時采用無水化設(shè)計，通過高效風(fēng)側(cè)自然冷技術(shù)消除水資源的消耗。
更多技術(shù)創(chuàng)新與應(yīng)用實踐，盡在IDCC2024【算力技術(shù)創(chuàng)新與應(yīng)用論壇】
