隨著人工智能大模型持續(xù)演進(jìn)，受制于數(shù)據(jù)安全與實(shí)時(shí)性等要求，云端架構(gòu)已難以完全滿足應(yīng)用需求，AI正加速?gòu)脑贫讼蚨藗?cè)遷移。據(jù)QYR測(cè)算，2023年中國(guó)AI終端市場(chǎng)銷售收入為344.11億元，預(yù)計(jì)2030年將達(dá)到14812.30億元，年復(fù)合增長(zhǎng)率達(dá)37.33%。這一趨勢(shì)對(duì)端側(cè)產(chǎn)品在算力性能、能效比與本地智能處理能力方面提出了更高要求。
憶芯科技是國(guó)內(nèi)較早從事高性能SSD主控芯片研發(fā)的企業(yè)，依托10年在主控芯片研發(fā)與智能數(shù)據(jù)處理領(lǐng)域的積累，憶芯科技不僅在為數(shù)據(jù)中心等云端提供兼具高速傳輸、超大容量與超低延遲的存儲(chǔ)解決方案，也在邊緣端、端側(cè)存儲(chǔ)領(lǐng)域持續(xù)發(fā)力，積極探索數(shù)據(jù)驅(qū)動(dòng)的智能算力新范式。
存算融合 憶芯用“芯”激活數(shù)據(jù)價(jià)值 隨著AI模型的推理能力不斷增強(qiáng)，數(shù)據(jù)不再只是存儲(chǔ)的對(duì)象，更成為可實(shí)時(shí)調(diào)用、實(shí)時(shí)計(jì)算的智能資源。 近日，在第九屆集微半導(dǎo)體大會(huì)端側(cè)AI技術(shù)與應(yīng)用創(chuàng)新論壇圓桌對(duì)話中，憶芯科技首席科學(xué)家薛立成博士受邀出席，并圍繞“數(shù)據(jù)存儲(chǔ)與端側(cè)AI融合趨勢(shì)”發(fā)表觀點(diǎn)。 薛立成博士提到，憶芯科技早期專注于SSD控制芯片的研發(fā)，在持續(xù)演進(jìn)中逐步將AI能力引入核心產(chǎn)品架構(gòu)，實(shí)現(xiàn)算力與存儲(chǔ)的深度融合。在上一代PCIe 4.0 SSD產(chǎn)品中，憶芯科技已在SSD主控芯片中集成具備8 TOPS算力的NPU單元，實(shí)現(xiàn)高性能存算一體芯片STAR2000的研發(fā)及應(yīng)用，支持本地完成數(shù)據(jù)壓縮、結(jié)構(gòu)化處理與視頻檢索等智能計(jì)算任務(wù)，使存儲(chǔ)設(shè)備在滿足容量需求的同時(shí)，也具備初步的推理與加速能力，為邊緣智能場(chǎng)景提供更高效的系統(tǒng)級(jí)解決方案。 這種融合方案不僅提升了系統(tǒng)效率，更大幅降低了傳統(tǒng)“存儲(chǔ)+GPU”組合的部署成本，尤其適用于對(duì)數(shù)據(jù)處理時(shí)延和能效比有高要求的場(chǎng)景，如智能邊緣服務(wù)器、視頻安防終端和嵌入式數(shù)據(jù)庫(kù)等。
底層突圍 打破架構(gòu)桎梏，走出中國(guó)芯路線 面對(duì)先進(jìn)制程限制與產(chǎn)業(yè)鏈壓力，國(guó)產(chǎn)芯片企業(yè)正以“非對(duì)稱創(chuàng)新”尋找突破口。在薛立成博士看來(lái)，唯有跳出馮·諾依曼架構(gòu)的框架，才可能在端側(cè)芯片設(shè)計(jì)上實(shí)現(xiàn)跨代躍遷。 “我們不能照搬傳統(tǒng)的數(shù)據(jù)和計(jì)算分離的模式。即便像HBM這樣提高了帶寬，但結(jié)構(gòu)本身依然存在瓶頸。憶芯選擇存算一體的路線，從控制器芯片入手，在數(shù)據(jù)源頭完成更多智能計(jì)算，從而減少傳輸延遲，提升整體效率。” 他進(jìn)一步提到，憶芯科技正持續(xù)探索包括SRAM、DRAM，以及新型相變存儲(chǔ)器在內(nèi)的多種“存算融合”形態(tài)，力圖找到適配國(guó)產(chǎn)工藝的最優(yōu)解，構(gòu)建符合中國(guó)場(chǎng)景、具備可落地性的端側(cè)AI芯片架構(gòu)。
架構(gòu)融合 在異構(gòu)協(xié)同中尋找整體設(shè)計(jì)最優(yōu)解 在談及“計(jì)算與存儲(chǔ)的邊界與平衡”話題時(shí)，薛立成博士指出，隨著端側(cè)芯片形態(tài)愈發(fā)豐富，異構(gòu)計(jì)算已成為行業(yè)共識(shí)，但如何“協(xié)同融合”仍需系統(tǒng)性設(shè)計(jì)。 他認(rèn)為，在端側(cè)系統(tǒng)中，通常集成有CPU、GPU以及NPU等多種異構(gòu)計(jì)算單元。針對(duì)具體的任務(wù)類型與場(chǎng)景需求，如何進(jìn)行計(jì)算資源的合理分配與協(xié)同調(diào)度，并不存在統(tǒng)一解法，需要結(jié)合應(yīng)用特性進(jìn)行系統(tǒng)層面的整體架構(gòu)設(shè)計(jì)。 他進(jìn)一步解釋，像憶芯科技自研的高性能存算一體芯片，擅長(zhǎng)處理對(duì)數(shù)據(jù)敏感、帶寬要求高的計(jì)算任務(wù)；但也存在適用邊界。例如在大模型推理過(guò)程中，一些如平方、開(kāi)方、三角函數(shù)等復(fù)雜計(jì)算，并不適合由存算芯片承擔(dān)。
云端協(xié)同 以混合模式激活更廣泛的AI場(chǎng)景 在談及端側(cè)AI未來(lái)的發(fā)展路徑時(shí)，薛立成博士認(rèn)為，端與云并非對(duì)立，而是融合發(fā)展的兩個(gè)維度。 “端側(cè)能力畢竟有限，不可能承擔(dān)所有AI任務(wù)。未來(lái)的趨勢(shì)是把敏感數(shù)據(jù)或低時(shí)延任務(wù)留在端側(cè)，復(fù)雜計(jì)算交由云端處理，構(gòu)建一種更加高效、安全、個(gè)性化的混合架構(gòu)。”這一觀點(diǎn)也契合當(dāng)前AI大模型部署的實(shí)際挑戰(zhàn)——即在保障數(shù)據(jù)隱私與實(shí)時(shí)性體驗(yàn)的前提下，實(shí)現(xiàn)智能體驗(yàn)的平衡與優(yōu)化。 作為一家成立10年的國(guó)產(chǎn)自研主控芯片及存儲(chǔ)盤研發(fā)廠商，憶芯科技持續(xù)在融合架構(gòu)、產(chǎn)品落地與生態(tài)協(xié)同等層面不斷探索突破之道。無(wú)論是在SSD主控中引入AI計(jì)算能力，推動(dòng)存算一體方案的實(shí)際應(yīng)用，還是在芯片底層架構(gòu)上持續(xù)優(yōu)化能效比與靈活性，憶芯始終致力于為海量信息提供最優(yōu)的存儲(chǔ)、計(jì)算與傳輸解決方案。 正如薛立成博士在圓桌中提到： “端側(cè)AI的未來(lái)，不在于單點(diǎn)突破，而在于系統(tǒng)思維、融合發(fā)展和技術(shù)長(zhǎng)期主義。憶芯科技會(huì)繼續(xù)在這條存算融合之路上，一步一個(gè)腳印地走下去。”
京公網(wǎng)安備 11010802038911號(hào)