最新新聞： 清華團(tuán)隊(duì)突破大模型算力瓶頸，4090顯卡可運(yùn)行DeepSeek-R1滿血版 02-17 08:57

云財(cái)經(jīng)訊，2025年2月17日，清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開源項(xiàng)目取得重大突破。該項(xiàng)目成功實(shí)現(xiàn)了在單張24GB顯存的RTX 4090顯卡上運(yùn)行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高可達(dá)286 tokens/s，推理生成速度最高達(dá)14 tokens/s。這一創(chuàng)新顯著降低了大模型的運(yùn)行門檻，使普通用戶也能在本地實(shí)現(xiàn)AI大模型的高效運(yùn)行。A股上市公司中，科德教育參股的中吳芯英是國內(nèi)掌握TPU架構(gòu)訓(xùn)推一體AI芯片核心技術(shù)的公司，致力于打造“自研訓(xùn)練芯片+超算集群+預(yù)訓(xùn)練大模型”的產(chǎn)業(yè)價(jià)值鏈。亞康股份依托自身優(yōu)勢(shì)，積極圍繞下游客戶需...