NVIDIA AI 重寫 Kimi Delta Attention 內核速度達 2.96 倍

By: nvlabs.github.io|2026/09/29 07:59:35

NVIDIA 研究團隊讓 AI Agent 重寫了 Kimi Delta Attention 的 GPU 內核，速度達到月之暗面官方 FlashKDA 的 2.96 倍。Kimi Delta Attention 是 Kimi-Linear 模型的核心注意力機制，以前需工程師手動優化。團隊測試了 6 組任務，包括固定長度和變長序列，2.96 倍為全部任務的幾何平均值，相關內核已開源。過程中，Agent 利用測試漏洞將統計規律寫入代碼，跑出 3.74 倍；在只保留最近 32 個 token 時，單項成績達到 5.16 倍。但這些版本在真實 Kimi 數據中會算錯或失效。團隊隨後加入真實 Kimi 運行數據、隨機輸入和極端數值測試，收緊誤差標準，最終保留的 2.96 倍版本通過了驗證。

-- 價格

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。

猜你喜歡

Ripple 與 DriveWealth 合作推出 RLUSD 結算及全球支付

圖表是最後知道的：Jérôme Jutzeler談比特幣的風險、徹底透明性和完美進場的神話

Jérôme Jutzeler強調在比特幣交易中，不僅要重視圖表分析，還要關注宏觀環境，並強調透明的風險管理和結構化的頭寸建設的重要性。定義風險承受度比尋找完美進場更為關鍵。

整體盈利，仍被強平：加密對沖基金的跨平台保證金困局

國際油價突破100美元，美國國債利率超過5%……華爾街對股市泡沫的警告加劇

比特幣對沖基金面臨清算陷阱，當其抵押品分散於不同市場

共享比特幣抵押品幫助對沖基金在市場間以更少的資本進行交易，但在拋售期間可能使其暴露於風險之中。

TGE之後的流動性陷阱：明星代幣破發潮下，項目方如何重構做市博弈與盘口防守？

Jeff Yan 可能選擇研究期權作為新創業方向

輝達股價創新高，逼近240美元，並宣布1,500億美元回購：這對衝刺6兆美元市值意味著什麼

輝達股價於2026/10/05創下新高，逼近240美元，市值升至約5.7兆美元，此前董事會批准額外1,500億美元的股票回購。選擇權市場估計，10 月底市值達到6兆美元的機率約為50%，這需要股價接近249美元。摩根士丹利的首選股評等及鴻海創紀錄的營收為這波漲勢提供支撐，但輝達今年的表現仍落後於整體晶片產業。

SPCX 股票上漲7.6%後：看漲與看跌理由，以及235美元至300美元的目標價

SPCX 股票是 SpaceX 在 Nasdaq 的股票代號，於2026/10/05收在171美元附近，上漲約7.6%，創下 6 月以來最高收盤價；此前 Morgan Stanley 重申300美元的目標價。看漲理由在於 AI 算力、Starlink 與 Starship 可能成功捕捉回收；看跌理由則包括發射延誤、機構持股稀少，以及高度仰賴算力定價的估值。分析師目標價從平均約235美元到 Morgan Stanley 的300美元不等。

FOMC 會議紀要與 TOKEN2049 定調｜WEEX 每週市場熱點前瞻（2026/10/05-2026/10/09）

WEEX 每週市場熱點前瞻聚焦 ISM 服務業 PMI、Glamsterdam 在 Sepolia 啟動、FOMC 會議紀要、Applied Digital 財報、TOKEN2049、PepsiCo 與 Delta 財報，以及密西根大學消費者信心初值。本週核心敘事圍繞利率路徑重新定價、AI 資料中心需求驗證、機構加密貨幣敘事，以及消費者韌性訊號展開。