小米MiLM線下測試,展示終端AI能力的未來”

小米MiLM線下測試,展示終端AI能力的未來”

小米 MiLM 離線測試 – 設備端 AI

小米推出了令人印象深刻的 MiLM-6B 語言模型,在推進人工智能能力方面邁出了一大步。此次發布,標誌著小米首次同時入圍兩大AI模型評測榜單C-Eval和CMMLU,彰顯了小米在AI領域創新的決心。

MiLM-6B是小米開發的大規模預訓練語言模型,參數規模達到驚人的64億。這一令人印象深刻的壯舉為人與機器之間更細緻、更具有情境意識的交互鋪平了道路。根據該項目 GitHub 頁面上共享的信息,該模型的能力不僅限於基於雲的使用。

今天,小米通過線下演示測試視頻展示了MiLM的能力。該視頻提出了一個關鍵問題:“人工智能是否仍然可以在沒有網絡信號的情況下工作?” 小米通過展示該機型的離線功能給出了有力的答案。

小米 MiLM 端側 AI 演示

視頻展示了小米 MiLM 在移動端運行,利用本地 NPU 算法並訪問本地數據以驚人的速度和效率生成文本。這一突破能夠以最小的功耗實現高速文本生成。

離線演示的主要測試結果包括:

  • 文本生成速度:11.2字/秒
  • CPU使用率:11.0%
  • 內存使用:2798.0MB

在某些情況下,端側大模型的性能甚至可以與基於雲的模型相媲美,這體現了小米對提供卓越用戶體驗的承諾。小米MiLM在線下場景的部署提供了增強隱私和數據安全的潛力,標誌著人工智能時代向前邁出了重要一步。

小米對用戶隱私和數據安全的重視至關重要。公司認識到保護用戶信息的重要性,並通過實施端側大模型來解決這一問題。小米的成就不僅僅是技術上的勝利,更是解決人工智能時代數據安全的重要解決方案。

來源

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *