幻方量化旗下大模型廠商DeepSeek啟用硬盤緩存技術(shù)

8月2日,私募巨頭幻方量化官微宣布,其探索AGI(通用人工智能)的新組織“深度求索(DeepSeek)”啟用上下文硬盤緩存技術(shù),把預(yù)計(jì)未來會重復(fù)使用的內(nèi)容,緩存在分布式的硬盤陣列中。在大模型API的使用場景中,如果輸入存在重復(fù),則重復(fù)的部分只需要從緩存讀取,無需計(jì)算。緩存命中的部分,DeepSeek費(fèi)用為0.1元每百萬tokens。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

幻方量化

1.3k
  • 幻方量化市場總監(jiān)李橙確在協(xié)助調(diào)查,其“勸贖言論”曾引起熱議
  • 幻方量化旗下DeepSeek上線推理模型R1-Lite預(yù)覽版

評論

暫無評論哦,快來評價(jià)一下吧!