10月16日-18日,首屆灣區(qū)半導(dǎo)體產(chǎn)業(yè)生態(tài)博覽會在深圳舉行。

本次展會是在深圳市政府指導(dǎo)和深圳市發(fā)展和改革委員會支持下,由深圳市半導(dǎo)體與集成電路產(chǎn)業(yè)聯(lián)盟攜手深圳市重大產(chǎn)業(yè)投資集團有限公司共同主辦,以“半導(dǎo)體重大項目集群和最大增量市場”為基礎(chǔ),邀請來自灣區(qū)、全國及全球的半導(dǎo)體產(chǎn)業(yè)鏈上下游頭部企業(yè)參加。

作為AI芯片領(lǐng)域代表企業(yè),云天勵飛受邀出席“AI芯片與高性能計算應(yīng)用論壇”,分享國產(chǎn)邊緣AI芯片架構(gòu)創(chuàng)新思路。

云天勵飛副總裁、芯片產(chǎn)品線總經(jīng)理李愛軍在演講中說道,過去一年半,大模型經(jīng)歷了從語言到多模態(tài)的轉(zhuǎn)變,并且正快速向物理世界演進;大模型落地應(yīng)用也從云端逐漸走向邊緣端,而大模型在邊緣端的應(yīng)用給AI芯片帶來了全新的挑戰(zhàn)。

邊緣端場景具有“多且碎”的特點,不同場景應(yīng)用對算力、內(nèi)存、帶寬的要求也不盡相同。如何通過更靈活的芯片架構(gòu)設(shè)計,盡可能讓AI芯片滿足不同場景的需求,是業(yè)界共同思考的問題。

在此背景下,云天勵飛提出了“算力積木”AI芯片架構(gòu),讓芯片能夠像搭積木一樣靈活組建、靈活擴展。

以云天勵飛基于“算力積木”打造的國內(nèi)首顆國產(chǎn)工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個標(biāo)準(zhǔn)化的大模型計算單元打造,可實現(xiàn)1.8B大模型的實時高效推理。

通過D2D Chiplet技術(shù)、C2C Mesh技術(shù)和C2C Mes Torus技術(shù),云天勵飛將標(biāo)準(zhǔn)計算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應(yīng)用,可實現(xiàn)7B、14B、130B等不同參數(shù)量大模型在邊緣端的高效推理。

目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構(gòu)的主流模型,并在機器人、邊緣網(wǎng)關(guān)、服務(wù)器等領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。

隨著大模型進一步深入行業(yè)和場景,市場對邊緣AI芯片的需求將越來越大,而目前全球邊緣AI芯片市場仍處于萌芽階段。未來云天勵飛將堅持走自主研發(fā)路線,通過架構(gòu)創(chuàng)新,在國產(chǎn)工藝上實現(xiàn)芯片性能的突破,為行業(yè)帶來更好用、更高性價比的國產(chǎn)AI芯片產(chǎn)品。