企業(yè) AI 正開始遭遇一個難題:支撐模型訓(xùn)練的基礎(chǔ)設(shè)施,未必適合推理規(guī)模化;隨著企業(yè)從實驗走向生產(chǎn)部署,這一差異開始變得至關(guān)重要。從實驗到生產(chǎn),變化的不只是規(guī)模,還有工作負(fù)載行為。訓(xùn)練以并行計算為主(GPU 的強(qiáng)項),而...
有關(guān)英偉達(dá)即將收購Groq的傳聞一度引發(fā)市場震動。媒體援引消息,今年9月領(lǐng)投Groq融資的投資機(jī)構(gòu)Disruptive CEO Alex Davis透露,英偉達(dá)同意以200億美元現(xiàn)金收購AI芯片初創(chuàng)公司Groq,且交易進(jìn)...