微軟推出英特爾神經處理器單元 (NPU) 支援 DirectML API 的預覽版

英特爾於 2023 年 12 月首次推出基於「Meteor Lake」的Core Ultra 晶片。它們包括整合的 NPU（神經處理器單元）晶片，可幫助硬體加速人工智慧應用程式的效能。今天，微軟宣布發布了 DirectML API 的開發者預覽版，增加了對 NPU 的支持，特別是 Intel Core Ultra CPU 中的 NPU。

微軟在部落格文章中表示，DirectML 1.13.1 和 ONNX Runtime 1.17 的預覽版將支援配備 Intel Core Ultra CPU 的 PC 中的 NPU 加速。該公司不僅與英特爾合作，還與三星合作，幫助提高使用 DirectML 的人工智慧應用程式的效能。

在另一篇關於這項進展的部落格文章中，英特爾表示，三星在其最近發布的配備英特爾酷睿 Ultra 晶片的三星 Galaxy Book 4 筆記型電腦中使用了微軟的 DirectML 及其英特爾 AI Boost 技術。英特爾表示，三星使用微軟的 DirectML API，將其Gallery Windows 應用程式上的臉部和物件分類功能卸載到帶有 NPU 的英特爾酷睿 Ultra CPU 上。英特爾聲稱這加快了該專案的開發時間。

由於這是預覽版。 Microsoft 指出此版本的 DirectML 在基於 Intel Core Ultra 的 PC 上存在一些限制：

• DirectML 中的 NPU 支援目前僅與目標支援的機器學習模型的子集相容。某些模型可能根本無法運行，或者可能存在高延遲或低準確度。我們正在努力提高未來更多型號的兼容性和性能。
• 功能正常但未選擇用於此開發人員預覽的模型可能存在一些穩定性和可靠性問題。我們正在繼續擴大適用於 NPU 的其他型號的覆蓋範圍。