微軟推出Windows 11設備端AI語言模型”Mu"
6月24日,微軟公司今日正式宣布為Windows 11系統推出內置小型語言模型"Mu",這是繼Phi-Silica后,微軟在設備端人工智能領域的又一重要突破。這款專為NPU優(yōu)化的3.3億參數模型,將顯著提升系統設置中的自然語言搜索體驗,標志著Windows操作系統向智能化交互邁出關鍵一步。
據微軟技術博客披露,Mu采用創(chuàng)新的編碼器-解碼器架構,相較傳統解碼器模型實現三大技術突破:1. 首token延遲降低47%;2. 解碼速度提升4.7倍;3. 支持每秒超100個token的處理能力。通過權重共享技術,模型在保持3.3億參數規(guī)模的同時,計算效率達到Phi-3.5-mini的十倍。該模型在Azure機器學習平臺上基于NVIDIA A100 GPU完成訓練,特別優(yōu)化了對多詞復雜查詢的理解能力。
目前Mu模型已面向Windows預覽體驗計劃的開發(fā)頻道用戶開放測試,主要功能包括:智能解析”清理磁盤空間”等自然語言指令;精準關聯系統設置中的深層選項;保留傳統關鍵詞搜索的兼容性。值得注意的是,該功能現階段僅限配備40 TOPS算力NPU的Copilot+PC設備使用,凸顯微軟"端云協同"的AI戰(zhàn)略布局。
微軟Windows產品負責人表示,未來將通過Windows DirectML API開放Mu模型能力,供第三方開發(fā)者調用。隨著秋季Windows 11 24H2更新的臨近,設備端AI有望成為各大OEM廠商的新賣點。