核心要點邊緣 AI 的性能看的是低延遲 + 功耗效率,不是峰值 TOPS。內存帶寬與數據搬運,現在比算力更限制邊緣 AI。成功的邊緣 AI 需要硬件、軟件、快速模型更新三者平衡。圓桌專家訪談(精華)如今的芯片架構師在設計邊緣 AI 處理器時,必須在快速演進的 AI 模型下,同時兼顧速度與效率。邀請來自 Arm、Cadence、Expedera、Mixel、Quadric、Rambus、西門子 EDA、新思科技的專家共同探討。以下為討論節選。1. 如何定義邊緣 AI 的 “快” 與 “高效”?McNiven