2023年11月30日-12月1日,2023甲子引力年終盛典在京舉行,憶芯科技副總裁孫唐應(yīng)邀出席「奇點(diǎn)已來」“AI與元宇宙”專場,以“探索AI軟硬件適配之路,共創(chuàng)算力服務(wù)新未來”為主題,與多位行業(yè)專家一起,就大模型時代機(jī)遇、AI算力與存儲需求、軟硬件生態(tài)建設(shè)等焦點(diǎn)問題深入交流,共同探討產(chǎn)業(yè)發(fā)展趨勢和未來方向。

「奇點(diǎn)已來」“AI與元宇宙”專場 圓桌現(xiàn)場
當(dāng)前,隨著大模型等人工智能技術(shù)的發(fā)展,算力需求呈現(xiàn)指數(shù)級增長,全球各地算力布局正在不斷加速,然而,算力的發(fā)展離不開存力和運(yùn)力的相互協(xié)同,存力的發(fā)展同樣具有極高的戰(zhàn)略價值,值得高度關(guān)注。

憶芯科技副總裁 孫唐
在圓桌現(xiàn)場,孫唐介紹道,大模型時代海量數(shù)據(jù)為存力的提升帶來了廣闊的空間。舉例來說,單張GPU卡的故障率雖然僅為萬分之幾,但考慮到大規(guī)模的千卡萬卡集群,故障頻率實則較高。此外,平均故障時間不到兩天,這對運(yùn)行效率產(chǎn)生了很大影響。
為了解決這一問題,當(dāng)前是引入了超算中心常用的DDN技術(shù)。通過不斷記錄和存儲快照,并在出現(xiàn)錯誤時回滾,實現(xiàn)相關(guān)錯誤修復(fù),從而確保大模型的運(yùn)行效率。這一技術(shù)帶來了存儲領(lǐng)域的革命性突破,數(shù)據(jù)增長幅度高達(dá)20倍以上,對存力的需求呈現(xiàn)出爆發(fā)級上升態(tài)勢。
近日,我國六部委聯(lián)合發(fā)布了關(guān)于算力和存力共同發(fā)展的指導(dǎo)性意見,要求到2025年,智能算力占比達(dá)到35%,先進(jìn)存儲容量占比達(dá)30%以上。此次政策導(dǎo)向有利于進(jìn)一步推動企業(yè)級存儲市場的發(fā)展,也為存儲行業(yè)帶來巨大的發(fā)展機(jī)遇。

憶芯科技作為國內(nèi)領(lǐng)先的高端PCIe SSD主控芯片和成品盤供應(yīng)商,本身就專注于高性能企業(yè)級存儲領(lǐng)域,旨在取代超算中心如DDN等存儲單柜。同時,憶芯科技在芯片內(nèi)部集成了數(shù)據(jù)庫向量加速功能,這對于整個智算中心而言具有極高的價值。隨著政策推動智算中心建設(shè)不斷加速,憶芯科技的產(chǎn)品和解決方案在未來市場上具有較好的發(fā)展前景和預(yù)期。
孫唐認(rèn)為,對于當(dāng)前AI算力領(lǐng)域,我們需關(guān)注的不只是技術(shù)創(chuàng)新,更要關(guān)注整個生態(tài)系統(tǒng)的建設(shè),以確保我國AI算力領(lǐng)域的長遠(yuǎn)發(fā)展和全球競爭力。企業(yè)在面對挑戰(zhàn)時應(yīng)強(qiáng)調(diào)合作與協(xié)同,以構(gòu)建更加完整、先進(jìn)、安全、可靠的生態(tài)系統(tǒng)。英偉達(dá)CUDA生態(tài)的成功,得益于長達(dá)十年的持續(xù)投入。國內(nèi)市場要想脫穎而出,關(guān)鍵是實現(xiàn)能力協(xié)同。具體來說,首先,要力求在不侵犯專利的前提下,實現(xiàn)CUDA生態(tài)的兼容;其次,針對我國大模型產(chǎn)業(yè)現(xiàn)狀,確保數(shù)據(jù)安全性、隱私性,并滿足政府主管部門監(jiān)管要求,實現(xiàn)算力與存力的共同協(xié)調(diào)發(fā)展。
關(guān)于未來3-5年內(nèi)我國AI算力行業(yè)面臨的挑戰(zhàn)與機(jī)遇,孫唐表示,當(dāng)前大模型落地應(yīng)用日益受到關(guān)注,但能否實現(xiàn)盈利仍存在不確定性。然而,可以預(yù)見的機(jī)遇同樣巨大,未來或許不僅僅是GPU的市場,存算融合和存算一體技術(shù)有望開辟更大的盈利空間。從落地方向來看,可分為兩部分:一是當(dāng)前的海量推理市場,重點(diǎn)在于如何降低成本、提高效率;二是新興的具身智能領(lǐng)域,即機(jī)器人市場。我們將繼續(xù)關(guān)注這一領(lǐng)域,探索更多市場拓展可能性。

憶芯科技作為國內(nèi)領(lǐng)先的高端PCIe SSD主控芯片和成品盤供應(yīng)商,業(yè)務(wù)方向覆蓋消費(fèi)級、工業(yè)級和企業(yè)級,為各行業(yè)的信息化發(fā)展提供高質(zhì)量芯片級底層保障。在“主控+存儲芯片+固件+算法+模組”的完整國產(chǎn)生態(tài)鏈戰(zhàn)略布局下,積極推動技術(shù)與產(chǎn)品的創(chuàng)新迭代,以更好地應(yīng)對內(nèi)外市場環(huán)境,實現(xiàn)穩(wěn)健的發(fā)展與突破。

憶芯科技高性能可計算SSD STAR2000D
STAR2000D核心特性
支持存算融合
盤內(nèi)512GB~16TB存儲,并提供最大8 TOPS NPU算力
性能比單主機(jī)計算提升50%~370%
在功耗/算力/成本遠(yuǎn)小于常規(guī)GPU的前提下,數(shù)據(jù)檢索/比對的效率與GPU基本持平
支持多推理框架
支持Caffe、TensorFlow、PyTorch、Onnx、Paddlepaddle 等深度學(xué)習(xí)框架
支持 int16、int8 定點(diǎn)推理
支持多神經(jīng)網(wǎng)絡(luò)
支持檢測網(wǎng)絡(luò): mobilenet_ssd、yolo系列、MTCNN、faceboxes等
支持分類網(wǎng)絡(luò): GoogleLenet、Alexnet、VGG16、Mobilenet系列、Restnet、SqueezeN-et、caffenet、Dense-Net、ResNext等
支持pose網(wǎng)絡(luò): openpose、mobilenet-pose yolo-pose等
面對我國算力存儲發(fā)展現(xiàn)狀、機(jī)遇及挑戰(zhàn),憶芯科技致力于成為賦能大數(shù)據(jù)應(yīng)用的芯片全球領(lǐng)導(dǎo)者,未來,憶芯科技將積極響應(yīng)智算中心算力與存力協(xié)同發(fā)展的需求,貢獻(xiàn)更多存算一體化的業(yè)務(wù)解決方案,攜手共建更智能、更完善的產(chǎn)業(yè)生態(tài)。