企業(yè) AI 正開(kāi)始遭遇一個(gè)難題:支撐模型訓(xùn)練的基礎(chǔ)設(shè)施,未必適合推理規(guī)模化;隨著企業(yè)從實(shí)驗(yàn)走向生產(chǎn)部署,這一差異開(kāi)始變得至關(guān)重要。從實(shí)驗(yàn)到生產(chǎn),變化的不只是規(guī)模,還有工作負(fù)載行為。訓(xùn)練以并行計(jì)算為主(GPU 的強(qiáng)項(xiàng)),而...
有關(guān)英偉達(dá)即將收購(gòu)Groq的傳聞一度引發(fā)市場(chǎng)震動(dòng)。媒體援引消息,今年9月領(lǐng)投Groq融資的投資機(jī)構(gòu)Disruptive CEO Alex Davis透露,英偉達(dá)同意以200億美元現(xiàn)金收購(gòu)AI芯片初創(chuàng)公司Groq,且交易進(jìn)...