8月2日,私募巨頭幻方量化官微宣布,其探索AGI(通用人工智能)的新組織“深度求索(DeepSeek)”啟用上下文硬盤緩存技術(shù),把預(yù)計(jì)未來(lái)會(huì)重復(fù)使用的內(nèi)容,緩存在分布式的硬盤陣列中。在大模型API的使用場(chǎng)景中,如果輸入存在重復(fù),則重復(fù)的部分只需要從緩存讀取,無(wú)需計(jì)算。緩存命中的部分,DeepSeek費(fèi)用為0.1元每百萬(wàn)tokens。
幻方量化旗下大模型廠商DeepSeek啟用硬盤緩存技術(shù)
界面快報(bào) · 來(lái)源:界面新聞
幻方量化
910
- 幻方量化:向海南捐贈(zèng)100萬(wàn)元支持臺(tái)風(fēng)受災(zāi)地區(qū)
- 幻方量化旗下DeepSeek發(fā)布第二代MoE模型
評(píng)論
暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!
熱門排行September 17
- “失意”名導(dǎo),在短視頻平臺(tái)“重啟人生”
- 阿里云盤能看陌生人照片,官方回復(fù):已修復(fù)
- 這個(gè)千元價(jià)格帶的法國(guó)品牌在中國(guó)逆勢(shì)擴(kuò)張
- 瑞士制表業(yè)大佬呼吁“必須減產(chǎn)!”
- 閑魚(yú)試水“奧萊”模式
- 人口“小普查”提前一個(gè)月進(jìn)入準(zhǔn)備階段,有何深意?
- 中國(guó)駐英國(guó)使館發(fā)言人就英美戰(zhàn)略對(duì)話聯(lián)合聲明涉華錯(cuò)誤言論答記者問(wèn)
- 德國(guó)恢復(fù)所有陸地邊界管控措施,以限制非法移民入境
- 德國(guó)科隆市中心發(fā)生爆炸
- 特朗普再遭暗殺未遂,疑似嫌犯想為烏克蘭戰(zhàn)死