打破馮紐曼架構瓶頸:4D動態晶片如何以生物級低功耗解開AI能源牆危機
原始標題 · Naveen Rao: 4D Computing, AI's Energy Wall & Beating Biology
輝達目前憑藉傳統 GPU 與 CUDA 生態系主導 AI 算力市場,但其硬體架構面臨嚴峻的能源耗損挑戰。若動態運算等新型晶片架構在未來幾年成功商業化落地,可能對傳統高效能運算市場帶來長期架構轉型的壓力。
受限於馮紐曼架構,記憶體與計算單元分離,導致超過九成能量耗費在資料傳輸上,而非核心運算。
透過記憶體與運算合一並結合時間維度,能以極低能耗執行生成式 AI,能效比傳統 GPU 提升數個數量級。
因不使用矩陣乘法,無法直接套用現有 CUDA 生態,需開發軟體轉換工具以銜接底層硬體與高階語言。