一升迷你主機(jī)跑百億級(jí)大模型？英特爾酷睿Ultra可能比你想象的更強(qiáng)大

　　在很多人的印象里，想要在本地運(yùn)行百億級(jí)別的大模型，至少是需要一臺(tái)配備了足夠大顯存顯卡或者計(jì)算卡才能夠做到的事情，畢竟這些模型要跑起來(lái)，顯存的壓力往往要比算力的壓力要大上不少，輕薄本和迷你主機(jī)這種輕小、便攜的產(chǎn)品則往往只能夠勉強(qiáng)運(yùn)行7B乃至更小的模型，盡管對(duì)于日常的使用來(lái)說(shuō)已經(jīng)基本夠用，但是對(duì)于很多有著更高需求的用戶來(lái)說(shuō)依舊有些捉襟見(jiàn)肘。

　　不過(guò)，當(dāng)一臺(tái)配備酷睿Ultra 9 285H處理器和96GB內(nèi)存，但是體積僅有1升的迷你主機(jī)在萬(wàn)眾矚目之下流暢運(yùn)行1200億參數(shù)的大模型時(shí)，相信整個(gè)行業(yè)仿佛聽(tīng)到了一個(gè)新時(shí)代開(kāi)啟的轟鳴。英特爾通過(guò)系統(tǒng)性創(chuàng)新，將昔日遙不可及的數(shù)據(jù)中心級(jí)算力，成功植入個(gè)人計(jì)算設(shè)備的深刻變革。上周在重慶舉辦的2025英特爾技術(shù)創(chuàng)新與產(chǎn)業(yè)生態(tài)大會(huì)上，英特爾在AI新技術(shù)與軟件創(chuàng)新論壇上的分享，為業(yè)界展現(xiàn)了在當(dāng)下的邊緣算力下，端側(cè)AI實(shí)用化程度的重要進(jìn)展。

　　內(nèi)存架構(gòu)的革命性突破，是英特爾此次技術(shù)展示的基石。長(zhǎng)期以來(lái)，集成顯卡的顯存配置如嚴(yán)重制約了大型模型在端側(cè)設(shè)備上的運(yùn)行潛力，即使一些設(shè)備能夠在BIOS當(dāng)中調(diào)整顯存分配，但是繁瑣的設(shè)置過(guò)程以及固定分配對(duì)于系統(tǒng)內(nèi)存的占用都影響著使用體驗(yàn)。而英特爾推出的“共享GPU內(nèi)存覆蓋”技術(shù)，徹底打破了這一桎梏。用戶可通過(guò)英特爾顯卡控制面板，在5%至95%的寬泛區(qū)間內(nèi)，自由調(diào)節(jié)系統(tǒng)內(nèi)存分配給顯存的比例。這種動(dòng)態(tài)調(diào)配能力意味著，在128GB系統(tǒng)內(nèi)存的豪華配置下，高達(dá)120GB的空間可轉(zhuǎn)化為顯存，在96GB配置上也能釋放出90GB的龐大顯存資源。更具革命性的是其獨(dú)特的并行訪問(wèn)機(jī)制，CPU與集成顯卡能夠同時(shí)訪問(wèn)這片共享內(nèi)存區(qū)域，既確保了大模型對(duì)顯存的渴求，又保障了系統(tǒng)多任務(wù)處理的流暢性，這種精妙的平衡設(shè)計(jì)，展現(xiàn)了英特爾在系統(tǒng)架構(gòu)優(yōu)化上的深厚功力。正是這一“大顯身手”的創(chuàng)新，讓千億模型在輕薄本和迷你主機(jī)上運(yùn)行成為可能。

　　現(xiàn)場(chǎng)演示環(huán)節(jié)展示了Ultra 9 285H處理器搭配96GB內(nèi)存配置在從20B到120B參數(shù)規(guī)模模型在端側(cè)設(shè)備上運(yùn)行的實(shí)際效果，面對(duì)“小李未吃早飯跑步暈倒”的同一問(wèn)題時(shí)，GPT-OSS-20B模型給出了簡(jiǎn)潔的基礎(chǔ)性回答；Qwen3-30B模型則展現(xiàn)出多角度的分析能力，提供了多條原因與建議；而當(dāng)挑戰(zhàn)升級(jí)至GPT-OSS-120B模型時(shí)，其回答不僅縝密全面，更以結(jié)構(gòu)化表格形式呈現(xiàn)，并附上詳細(xì)的解釋與防范措施。67GB的顯存占用，直觀印證了大內(nèi)存配置對(duì)于承載頂尖智能的必要性。更具震撼力的是長(zhǎng)上下文處理能力的驗(yàn)證，當(dāng)《紅樓夢(mèng)》前五章超過(guò)30K的復(fù)雜文本被輸入80B模型，并被要求以“劉姥姥與賈寶玉滴血認(rèn)親”的創(chuàng)意方向續(xù)寫第六章時(shí)，系統(tǒng)不僅深刻理解了古典文學(xué)的語(yǔ)境與風(fēng)格，更融合了現(xiàn)代網(wǎng)絡(luò)敘事元素，生成了長(zhǎng)達(dá)1500字、情節(jié)跌宕起伏的全新章節(jié)。這一壯舉證明，端側(cè)AI在深度理解以及更多需要?jiǎng)?chuàng)造能力的領(lǐng)域展現(xiàn)實(shí)力。

　　英特爾為端側(cè)AI帶來(lái)的改變不僅如此，端側(cè)AI還從單純的思考者，進(jìn)化為具備聽(tīng)、看、說(shuō)等全方位感知能力的行動(dòng)者。在視覺(jué)感知領(lǐng)域，DeepSeek OCR技術(shù)的本地化部署展現(xiàn)了卓越實(shí)力。不同于傳統(tǒng)基于CNN的OCR，這款Transformer架構(gòu)的模型，不僅能精準(zhǔn)識(shí)別復(fù)雜版式文檔中的文字與排版，更能將表格數(shù)據(jù)直接轉(zhuǎn)換為規(guī)范的Markdown格式，為日常辦公的數(shù)字化流程提供了高效、私密的解決方案。在聽(tīng)覺(jué)與表達(dá)層面，TTS聲音克隆技術(shù)在端側(cè)的實(shí)現(xiàn)同樣令人矚目。該系統(tǒng)支持FastSpeech2、GPT-Sovits等主流模型，不僅能生成高度自然的個(gè)性化語(yǔ)音，還能模擬雙人對(duì)話場(chǎng)景。更重要的是，本地化處理完全規(guī)避了聲音數(shù)據(jù)上傳云端的隱私風(fēng)險(xiǎn)，帶來(lái)更安全，更靈活的端側(cè)使用體驗(yàn)。

　　最具沖擊力，也最吸引人的展示，莫過(guò)于多種AI應(yīng)用融合的自動(dòng)化工作流。面對(duì)“制作康熙與洪承疇野史短片”的復(fù)雜任務(wù)，英特爾展示了從信息搜集到視頻生成的全鏈條自動(dòng)化處理。當(dāng)網(wǎng)絡(luò)爬蟲(chóng)遇到無(wú)法抓取的頁(yè)面時(shí)，DeepSeek OCR迅速介入，將圖像化的信息轉(zhuǎn)化為可處理文本；隨后，大模型對(duì)信息進(jìn)行分解，通過(guò)模型上下文協(xié)議（MCP）調(diào)用后續(xù)工具生成口播腳本；TTS技術(shù)擬合出指定聲音，最終由Wan2.2模型生成視頻。整個(gè)流程僅需數(shù)小時(shí)，而過(guò)去完成同樣工作，一個(gè)工作室可能需要耗費(fèi)數(shù)天甚至一周時(shí)間。這一生動(dòng)案例，淋漓盡致地展現(xiàn)了端側(cè)AI在重塑生產(chǎn)力方面的巨大潛能，它將復(fù)雜的創(chuàng)作過(guò)程壓縮，讓個(gè)體能力得到前所未有的放大。

　　為了持續(xù)突破算力邊界，英特爾在硬件創(chuàng)新上同樣持續(xù)向前。與知名主控廠商群聯(lián)PHISON聯(lián)合開(kāi)發(fā)的aiDAPTIV+技術(shù)，開(kāi)創(chuàng)性地提出了“以存代算”的理念。該技術(shù)通過(guò)將大模型推理過(guò)程中消耗算力最嚴(yán)重的預(yù)處理階段所產(chǎn)生的KV Cache，持久化存儲(chǔ)于PCIe Gen5 AI SSD中。當(dāng)用戶遇到相似問(wèn)題時(shí)，系統(tǒng)無(wú)需重新計(jì)算，可直接從高速SSD中調(diào)用緩存，從而極大加速響應(yīng)。在實(shí)際測(cè)試中，針對(duì)RAG系統(tǒng)和代碼生成場(chǎng)景，這項(xiàng)技術(shù)實(shí)現(xiàn)了驚人的7-8倍首token時(shí)間提升，為實(shí)時(shí)性要求嚴(yán)苛的應(yīng)用鋪平了道路。

　　英特爾還借助雷電互聯(lián)技術(shù)構(gòu)建本地高效算力集群。利用雷電接口高達(dá)40Gb/s的帶寬和僅為5G以太網(wǎng)1/3-1/5的超低時(shí)延，兩臺(tái)酷睿Ultra 9 285H設(shè)備可通過(guò)張量并行方式，協(xié)同運(yùn)行高達(dá)235B參數(shù)的龐大模型。盡管當(dāng)前6-7 tokens/s的輸出速度尚有提升空間，但這一分布式架構(gòu)為預(yù)算有限卻渴求更大算力的應(yīng)用場(chǎng)景，提供了極具吸引力的新選擇，其在優(yōu)化之后的潛力令人充滿期待。

　　英特爾的端側(cè)AI布局，已從最初的工作站，游戲本逐漸擴(kuò)展到輕薄本以及迷你主機(jī)。除此之外，英特爾還展示了配備單卡或雙卡ARC B60的小型工作站以及采用至強(qiáng)W處理器加四張ARC B60的部門級(jí)工作站，英特爾構(gòu)建了層次分明的產(chǎn)品矩陣，無(wú)論是賦能智能座艙、智能家居的AI Box，還是提升車載智能與NAS功能的解決方案，酷睿Ultra的算力正無(wú)處不在。

　　而展望未來(lái)，英特爾在端側(cè)AI上的征程正邁向一個(gè)更加激動(dòng)人心的新階段。明年年初，代號(hào)為Panther Lake的第三代酷睿Ultra處理器將基于Intel 18A這一英特爾最先進(jìn)的半導(dǎo)體制程工藝進(jìn)入大規(guī)模量產(chǎn)。作為首款采用Intel 18A制程打造的客戶端SoC，Panther Lake將引入可擴(kuò)展的多芯粒架構(gòu)，并配備多達(dá)16個(gè)全新的性能核與能效核，實(shí)現(xiàn)CPU性能超過(guò)50%的飛躍。其集成的全新英特爾銳炫GPU，擁有最多12個(gè)Xe核心，圖形性能提升同樣超過(guò)50%。更重要的是，其更出色的XPU設(shè)計(jì)將平臺(tái)AI性能推向前所未有的180 TOPS高峰，這將為端側(cè)運(yùn)行更龐大、更復(fù)雜的模型，以及實(shí)現(xiàn)更沉浸、更流暢的AI生成體驗(yàn)提供源源不斷的動(dòng)力。

　　支撐這一飛躍的，正是新一代Intel 18A制程革命性的技術(shù)實(shí)力。作為英特爾研發(fā)和制造的首個(gè)2納米級(jí)節(jié)點(diǎn)，Intel 18A相較于前代實(shí)現(xiàn)了每瓦性能提升高達(dá)15%，芯片密度提升約30%。其關(guān)鍵創(chuàng)新包括全新的RibbonFET晶體管架構(gòu)，實(shí)現(xiàn)了更高效的開(kāi)關(guān)控制，以及突破性的PowerVia背面供電技術(shù)，優(yōu)化了電力傳輸與信號(hào)完整性。結(jié)合先進(jìn)的Foveros 3D封裝技術(shù)，Intel 18A將作為核心技術(shù)平臺(tái)，支撐英特爾未來(lái)至少三代客戶端與服務(wù)器產(chǎn)品的研發(fā)與生產(chǎn)，為端側(cè)AI的持續(xù)進(jìn)化奠定堅(jiān)不可摧的基石。