您的位置:首頁 > 設(shè)計(jì)應(yīng)用 > 正文

解構(gòu)天璣9400:揭秘頂級SoC芯片設(shè)計(jì)精髓

時(shí)間:2024-10-12 15:58:30 瀏覽:26

10月9日,聯(lián)發(fā)科技(MediaTek)發(fā)布旗艦5G智能體AI芯片——天璣9400。這款芯片備受業(yè)界矚目。

天璣9400沿用了CPU全大核架構(gòu)設(shè)計(jì)方向:1個(gè)超超大核+3個(gè)超大核共同組成性能核心,配以4個(gè)超大核能效核心。其中的1個(gè)超超大核,是由其前代芯片4個(gè)超大核中的1個(gè)升級而來。

1.png

大量的用機(jī)經(jīng)驗(yàn)告訴我們,參數(shù)不能代表體驗(yàn)。顯然,天璣9400同樣“不唯參數(shù)論”,聯(lián)發(fā)科技認(rèn)為,參數(shù)最好看,并不一定等于性能最強(qiáng),更不等于體驗(yàn)最佳。 性能最終要為體驗(yàn)服務(wù),因此性能并非核心重點(diǎn),體驗(yàn)才是。對于天璣芯片的設(shè)計(jì)思考,聯(lián)發(fā)科技高管在媒體會(huì)上表示,要先確定(用戶)要什么,然后再去選擇怎么做,想要同時(shí)有低能耗和性能領(lǐng)先,但不去追求極致的IP頻率,這個(gè)目標(biāo)要靠新的CPU全大核架構(gòu)實(shí)現(xiàn)。在這種設(shè)計(jì)思路引導(dǎo)下的天璣9400,整體性能升幅很可觀,能效表現(xiàn)更是驚艷。這種平衡性,對端側(cè)AI極為有利:天璣9400在端側(cè)AI方面的技術(shù)水平因此達(dá)到了驚人的程度:擺脫此前必須依賴云側(cè)訓(xùn)練的過程,在端側(cè)就能完成全部訓(xùn)練,這對C端用戶的應(yīng)用體驗(yàn)而言,進(jìn)步巨大。這樣的技術(shù)成就,并非僅限于技術(shù)本身所具有的意義,更涉及到聯(lián)發(fā)科技的智能化深度布局。通過做端側(cè)訓(xùn)練,帶給消費(fèi)者“越來越懂你”的智能化體驗(yàn),也是聯(lián)發(fā)科技智能化布局的一部分。

何以主頻非頂級?

何以主頻非頂級?天璣9400采用臺(tái)積電第二代3nm制程工藝,CPU則采用第二代全大核架構(gòu):用了1個(gè)超超大性能核心,再配以3個(gè)超大核性能核心和4個(gè)超大能效核心,頻率也做了程度不等的升級。什么是超超大核?本代旗艦芯片的CPU,將天璣9300的4個(gè)超大性能核心中的一個(gè),升級成Arm今年最新推出的Cortex-X925核心(主頻3.62GHz),另外又配置了3個(gè)Cortex-X4超大核(3.3GHz),以及4個(gè)Cortex-A720大核(2.4GHz),單核性能相較天璣9300提升35%,多核性能提升28%。這些都是大核,其中的Cortex-X925因?yàn)橹黝l為3.62GHz,IPC(每時(shí)鐘周期指令數(shù))達(dá)到PC級,故而可稱之為超超大核。 Cortex-X925主頻雖然有3.62GHz,但與高通即將推出的驍龍8 Gen 4的CPU超大核主頻相比,有所不如。沒人會(huì)懷疑聯(lián)發(fā)科技的芯片設(shè)計(jì)能力,故而,聯(lián)發(fā)科技為什么這么設(shè)計(jì)?華爾街見聞了解到,聯(lián)發(fā)科技在做芯片設(shè)計(jì)時(shí),對于CPU的IP選擇,并不是“非最強(qiáng)不用”。聯(lián)發(fā)科技實(shí)行了“以果為因”的倒推策略,即以終端用戶需求為導(dǎo)向,比如在重載場景、中載場景或輕載場景中,用戶的最優(yōu)體驗(yàn)應(yīng)用需求是什么,以此選擇合適的IP和定頻,優(yōu)化性能和功耗。所謂IP,在芯片領(lǐng)域,特指具有特定功能、可重復(fù)使用的IC設(shè)計(jì)模塊。這些模塊已經(jīng)過驗(yàn)證,設(shè)計(jì)方能直接用在芯片設(shè)計(jì)工作中,從而縮短設(shè)計(jì)周期,降低研發(fā)成本,提高設(shè)計(jì)成功率。Cortex-X925是Arm新近推出的、具有強(qiáng)悍性能的旗艦IP,是一款基于Arm v9.2-A架構(gòu)的高性能(最高提升150%)、低功耗(最高提效30%)處理器核心。在Geekbench 6.2基準(zhǔn)測試中,Cortex-X925實(shí)現(xiàn)了15%的IPC性能提升,達(dá)到了PC級水準(zhǔn),適用于高性能和異構(gòu)計(jì)算場景,尤其適合AI、高清視頻處理等資源密集型任務(wù)。對于此次天璣9400為何沒有將頻率推升到非常高,聯(lián)發(fā)科技表示,只要實(shí)現(xiàn)與終端需求能匹配的性能,CPU的內(nèi)核主頻本身不是重點(diǎn);若有個(gè)很好的(CPU)架構(gòu),即使采用相對低頻的內(nèi)核(好處是功耗更低),照樣能實(shí)現(xiàn)能滿足需求的性能。自從摩爾定律放緩,IC性能就開始存在高度冗余,俗稱性能過剩。因此,如何實(shí)現(xiàn)兼顧性能和功耗的平衡,達(dá)成優(yōu)異體驗(yàn)的設(shè)計(jì)目標(biāo),與芯片設(shè)計(jì)者對“用戶要什么”的洞察和理解密切相關(guān)。天璣9400沿用的全大核CPU架構(gòu)設(shè)計(jì),除了Cortex-X925超超大核(核心是PC級的IPC性能提升),其余IP沒有全部采用Arm全新推出的產(chǎn)品,比如沒有采用最新的A725,反而繼續(xù)搭載了老的A720,也是出于同樣的思考。 什么是美?和諧就是美,協(xié)調(diào)就是美。同樣,什么是好的體驗(yàn)?這需要適當(dāng)?shù)娜∩?,合適的、高度匹配的取舍組合——天璣9400采用“大底”、適合的頻率和低壓,這些就是好體驗(yàn)的本源。事實(shí)也是如此,沒有采用極高IP主頻的天璣9400,采用的CPU全大核架構(gòu)和提升IP的IPC性能,故而竟在CPU、AI(NPU)、GPU、Modem和Connectivity(連接)等方面,都實(shí)現(xiàn)了架構(gòu)層級的性能提升。

實(shí)現(xiàn)完全端側(cè)訓(xùn)練的意圖

實(shí)現(xiàn)完全端側(cè)訓(xùn)練的意圖性能更強(qiáng),功耗更低,對智能手機(jī)未來的體驗(yàn)革新——端側(cè)AI應(yīng)用,極為有利。聯(lián)發(fā)科技對天璣9400的官方定義是“旗艦5G智能體AI芯片”,AI性能和能效有顯著提升:大語言模型(LLM)的提示詞處理性能提升80%,功耗節(jié)省35%。在天璣9300實(shí)現(xiàn)極速端側(cè)AI大模型終端無延遲優(yōu)異體驗(yàn)的基礎(chǔ)上,天璣9400將傳統(tǒng)AI應(yīng)用程序升級到體驗(yàn)更好的智能體AI應(yīng)用,同時(shí)也為萬千AI創(chuàng)新應(yīng)用構(gòu)建了面向未來的智能計(jì)算底座。作為聯(lián)發(fā)科技推出的第二款旗艦AI芯片,天璣9400的AI訓(xùn)練成功擺脫了對云側(cè)的依賴,實(shí)現(xiàn)完全的端側(cè)訓(xùn)練,而無需聯(lián)網(wǎng),C端用戶的應(yīng)用體驗(yàn),因此會(huì)有極為明顯的良好感受。這能凸顯AI手機(jī)與傳統(tǒng)智能手機(jī)的巨大差異,以及突破這種市場缺憾的核心要素。天璣9400搭載了生成式AI引擎:聯(lián)發(fā)科技第八代NPU 890,擁有出色的生成式AI性能:支持端側(cè)LoRA訓(xùn)練和端側(cè)高畫質(zhì)視頻生成,兩者都是業(yè)界首發(fā)。


2.png


其中,對于用戶來說,前者帶來的直接好處,是能保護(hù)個(gè)人隱私,因?yàn)閭€(gè)人數(shù)據(jù)不必上傳到云端;后者得益于全新時(shí)域張量(TemporalTensor)硬件加速技術(shù)和全新高畫質(zhì)Diffusion Transformer(DiT)模型的技術(shù)能力,實(shí)現(xiàn)了從生成圖到視頻的巨大跨越。華爾街見聞注意到,天璣9400集成MediaTek天璣AI智能體化引擎(Dimensity Agentic AI Engine),能將傳統(tǒng)AI應(yīng)用程序升級為更先進(jìn)的智能體化AI應(yīng)用。比如,利用用戶晚上睡覺的6個(gè)小時(shí),通過天璣9400 NPU的訓(xùn)練能力,可以讓手機(jī)去做一些低功耗訓(xùn)練;當(dāng)用戶睡醒時(shí),手機(jī)就會(huì)更懂用戶一些。長期如此,用戶的手機(jī)就會(huì)變成他的個(gè)人智能體。智能體化AI技術(shù)能力,這是天璣9400帶來的生成式AI技術(shù)能力的進(jìn)化。聯(lián)發(fā)科技在發(fā)布會(huì)現(xiàn)場,演示了搭載天璣9400的終端設(shè)備,用天璣AI智能體化引擎完成KFC的自動(dòng)點(diǎn)餐功能。這就與以往的傳統(tǒng)AI能力不同,這相當(dāng)于智能終端變成了個(gè)人AI智能體——智慧化的AI助手。當(dāng)然,要實(shí)現(xiàn)更多的即時(shí)功能,滿足用戶對于衣食住行和娛樂等多方面的需求,需要天璣生態(tài)支持。但在技術(shù)角度,聯(lián)發(fā)科技展現(xiàn)了構(gòu)成個(gè)人AI智能體必要的技術(shù)能力,這是未來天璣AI生態(tài)的基礎(chǔ)。 目前,聯(lián)發(fā)科技正在積極與開發(fā)者合作,為 AI智能體、第三方應(yīng)用程序和大模型之間提供統(tǒng)一的標(biāo)準(zhǔn)接口,實(shí)現(xiàn)AI跨應(yīng)用串聯(lián),從而高效地運(yùn)行邊緣AI計(jì)算和云服務(wù),最終目的是縮短AI產(chǎn)品的開發(fā)周期,有利于加速構(gòu)建應(yīng)用更豐富、體驗(yàn)更出色的天璣AI生態(tài)。


3.png


與亮點(diǎn)頻閃的天璣9400技術(shù)能力相比,更重要的是聯(lián)發(fā)科技設(shè)計(jì)SoC芯片的技術(shù)策略。天璣9400實(shí)現(xiàn)完全的端側(cè)訓(xùn)練,也是出于這樣的考慮:提升用戶體驗(yàn)。更深層的著眼點(diǎn),這展現(xiàn)了聯(lián)發(fā)科技在洞察了用戶的AI需求之后,做出的個(gè)人智能體化的深度布局。這也許就是生成式AI的真正意義,也是AI手機(jī)存在的真正價(jià)值:高度理解用戶,每臺(tái)手機(jī)都代表了高度的個(gè)人化和個(gè)性化,具有不可通用性和無可替代性價(jià)值。當(dāng)智能手機(jī)向智能體發(fā)展的趨勢如潮涌動(dòng),聯(lián)發(fā)科技選擇了一條難而正確的路,就像發(fā)布會(huì)聯(lián)發(fā)科技所講的,路雖遠(yuǎn),行則將至,而這種更堅(jiān)定的長期價(jià)值,才是手機(jī)行業(yè)發(fā)展的源動(dòng)力。