國(guó)產(chǎn)GPU鼎力支持!摩爾線程快速部署DeepSeek
DeepSeek V3、R1系列開源AI大模型在多語(yǔ)言理解、復(fù)雜推理任務(wù)中展現(xiàn)了卓越性能,不僅推動(dòng)了AI技術(shù)的普及與發(fā)展,更是對(duì)開源社區(qū)的極大貢獻(xiàn)。
2025-02-05 09:39:56
來源:快科技??

快科技2月4日消息,DeepSeek V3、R1系列開源AI大模型在多語(yǔ)言理解、復(fù)雜推理任務(wù)中展現(xiàn)了卓越性能,不僅推動(dòng)了AI技術(shù)的普及與發(fā)展,更是對(duì)開源社區(qū)的極大貢獻(xiàn)。

目前,各家科技巨頭都已紛紛開始支持、部署DeepSeek,國(guó)產(chǎn)硬件也在加速支持。

作為國(guó)產(chǎn)全功能GPU創(chuàng)新企業(yè),摩爾線程快速實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型推理服務(wù)的高效部署,可讓更多開發(fā)者基于摩爾線程全功能GPU,進(jìn)行AI應(yīng)用創(chuàng)新。

一鍵體驗(yàn)地址:

https://playground.mthreads.com

此外,用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡,進(jìn)行DeepSeek-R1蒸餾模型的推理部署。

其實(shí)早在1月28日,就已經(jīng)有B站UP主在摩爾線程MTT S80上手動(dòng)完成實(shí)踐:

https://www.bilibili.com/video/BV18YfQYEEs2

通過DeepSeek提供的蒸餾模型,能夠?qū)⒋笠?guī)模模型的能力遷移至更小、更高效的版本,在國(guó)產(chǎn)GPU上實(shí)現(xiàn)高性能推理。

摩爾線程基于自研全功能GPU,通過開源與自研雙引擎方案,快速實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型的推理服務(wù)部署。

開源框架適配:

基于Ollama開源框架,摩爾線程完成DeepSeek-R1-Distill-Qwen-7B蒸餾模型的部署,并在多種中文任務(wù)中展現(xiàn)了優(yōu)異的性能,驗(yàn)證摩爾線程自研全功能GPU的通用性與CUDA兼容性。

自研引擎加速:

通過摩爾線程自主研發(fā)的高性能推理引擎,結(jié)合軟硬件協(xié)同優(yōu)化技術(shù),通過定制化的算子加速和內(nèi)存管理,顯著提升了模型的計(jì)算效率和資源利用率。

這一引擎不僅支持DeepSeek蒸餾模型的高效運(yùn)行,還為未來更多大規(guī)模模型的部署提供了技術(shù)保障。 

最后,摩爾線程即將開放自主設(shè)計(jì)的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸餾模型的分布式部署。

夸娥集群集成先進(jìn)推理技術(shù)與分布式計(jì)算框架,將確保大規(guī)模模型的高效穩(wěn)定運(yùn)行,助力開發(fā)者快速實(shí)現(xiàn)業(yè)務(wù)落地。

最新文章
1
科技行業(yè)超“級(jí)”玩家誕生 Vidda兩大新品助力年輕人享受科技樂趣
2
創(chuàng)維G7F Pro,為什么能“超越”O(jiān)LED?
3
康佳G9W新品全球首發(fā),全網(wǎng)最具性價(jià)比的Mini AI-LED壁紙電視
4
創(chuàng)維Mini LED電視G7F Pro震撼上市|極致體驗(yàn)超越OLED
5
培生集團(tuán)與亞馬遜云科技宣布 為全球數(shù)百萬(wàn)人開啟AI賦能的個(gè)性化學(xué)習(xí)
6
空調(diào)子品牌2025很活躍:格力用晶弘打天下,美的系華凌求變化
7
第35屆中國(guó)家電交易會(huì)電商新渠道選品會(huì):創(chuàng)新引領(lǐng)趨勢(shì),賦能行業(yè)發(fā)展
8
100英寸Mini LED類紙屏!京東定制創(chuàng)維JD100 Mini開售:國(guó)補(bǔ)后8999元
9
2月中國(guó)電視市場(chǎng)海信出貨量第一!索尼、夏普等外資品牌繼續(xù)承壓
10
中國(guó)彩電出口創(chuàng)歷史新高,美加征關(guān)稅下能否持續(xù)增長(zhǎng)?
11
315關(guān)注:國(guó)檢曝光網(wǎng)購(gòu)家電質(zhì)量問題,平臺(tái)莫縱容偽劣家電泛濫
12
新款小鵬G6/G9最高降價(jià)近8萬(wàn),何小鵬很想再贏一次
13
蘋果帶頭干掉實(shí)體卡槽,eSIM終于要普及了?
14
憑借輕薄外觀與軟件優(yōu)化,OPPO Find N5備受女性用戶青睞
15
可搭桌面5090、內(nèi)置全套水冷,重量達(dá)10斤 你管這玩意叫筆記本?
16
TCL發(fā)布“第四代液晶電視”,前三代液晶電視分別什么樣?
17
中低端空調(diào)變天?格力子品牌晶弘將入場(chǎng) 華凌、Leader迎強(qiáng)力挑戰(zhàn)
18
平板電腦市場(chǎng),華為=小米+榮耀+聯(lián)想
19
康佳新品G9W體驗(yàn):新品優(yōu)惠疊加國(guó)補(bǔ),目前全網(wǎng)性價(jià)比最高的Mini LED壁紙電視
20
零跑B10想做13萬(wàn)級(jí)智駕平權(quán)“屠夫”,憑什么?
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512