記者昨天從麒麟科創(chuàng)園獲悉,南京智算中心攜手寒武紀(jì),用國(guó)產(chǎn)芯片、國(guó)產(chǎn)算力設(shè)備運(yùn)行大模型DeepSeek并賦能零售業(yè)務(wù)場(chǎng)景,標(biāo)志著國(guó)產(chǎn)芯片與AI大模型的協(xié)同適配取得實(shí)質(zhì)性進(jìn)展,助力構(gòu)建自主可控的人工智能技術(shù)生態(tài)。
“我家客廳面積40平方米,想買一臺(tái)噪聲小、節(jié)能、美觀的空調(diào),求推薦?!贝蜷_一個(gè)網(wǎng)購(gòu)客戶端,進(jìn)入“搜索助手”,僅需數(shù)秒,空調(diào)品牌、能效等級(jí)、價(jià)格等信息便彈出屏幕,幫助消費(fèi)者快速選購(gòu)心儀產(chǎn)品。
“DeepSeek發(fā)布后,我們利用春節(jié)假期加班加點(diǎn),不僅讓國(guó)產(chǎn)算力加速適配DeepSeek,還將其與零售場(chǎng)景融合,大大提升了供應(yīng)鏈物流決策分析、內(nèi)容營(yíng)銷和智能客服導(dǎo)購(gòu)等場(chǎng)景應(yīng)用能力。”南京智算中心運(yùn)營(yíng)公司(中科逆熵)運(yùn)營(yíng)總監(jiān)洪晨曦介紹,國(guó)產(chǎn)化適配后的DeepSeek模型與網(wǎng)購(gòu)大模型深度協(xié)作,基于網(wǎng)購(gòu)平臺(tái)零售場(chǎng)景,打造的“搜索助手”實(shí)現(xiàn)了零售場(chǎng)景的智能化轉(zhuǎn)型,是全國(guó)產(chǎn)芯DeepSeek吸引上下游企業(yè)合作、完善產(chǎn)業(yè)鏈生態(tài)的創(chuàng)新舉措。
DeepSeek刷屏全網(wǎng),激活了整個(gè)人工智能產(chǎn)業(yè)鏈。目前,華為云、騰訊云、阿里云、百度云等廠商均陸續(xù)在其云服務(wù)平臺(tái)上線了DeepSeek大模型,華為昇騰、沐曦、海光信息等AI芯片廠商也均適配DeepSeek,多家算力企業(yè)宣布與DeepSeek完成適配。
南京智能計(jì)算中心搶占先機(jī)上線全國(guó)產(chǎn)芯DeepSeek,其運(yùn)行的硬件環(huán)境搭載在智算中心的國(guó)產(chǎn)智算卡上。該中心由7280塊搭載國(guó)產(chǎn)芯片的AI智能加速卡提供智能算力,采用全國(guó)產(chǎn)化硬件和軟件體系,算力達(dá)到每秒180億億次(八進(jìn)制下的1800Pops)。“上線以來(lái)非?;穑刻於加猩先f(wàn)次的訪問(wèn)量?!焙槌筷卣f(shuō),全國(guó)產(chǎn)芯DeepSeek與各類應(yīng)用場(chǎng)景都可以適配,可賦能芯片設(shè)計(jì)、在線零售等各類行業(yè)場(chǎng)景。
記者了解到,DeepSeek目前使用的GPU(圖形處理器)主要來(lái)源于英偉達(dá)。春節(jié)前后,國(guó)產(chǎn)芯片密集適配DeepSeek,適配成功可實(shí)現(xiàn)深度學(xué)習(xí)框架與國(guó)內(nèi)自主硬件的深度融合,充分發(fā)揮國(guó)內(nèi)GPU算力優(yōu)勢(shì),提升DeepSeek模型訓(xùn)練和推理的計(jì)算效率,減少對(duì)國(guó)外硬件平臺(tái)的依賴,從而降低技術(shù)風(fēng)險(xiǎn)和成本,提升國(guó)產(chǎn)GPU在AI領(lǐng)域的影響力。