聯發科天璣 9300 集成 Llama 2 用於設備端生成 AI
聯發科天璣 9300 搭載設備端生成式 AI
領先的芯片製造商聯發科和高通都宣布計劃將設備上的生成式人工智能功能集成到其旗艦智能手機中，從而在增強用戶體驗和數據隱私方面邁出了一大步。這一發展是為了滿足對生成人工智能任務本地處理日益增長的需求，最大限度地減少對雲計算的依賴並保護用戶數據。
上個月，高通公佈了與 Meta 的 Llama 2 大語言模型 (LLM) 的合作，以在其旗艦手機上實現設備端生成式 AI，預計將於 2024 年首次亮相。設備生成人工智能能力。目前，大多數生成式人工智能處理都依賴於雲計算，但聯發科技使用 Llama 2 模型為直接在設備上執行生成式人工智能應用程序打開了大門。
設備端生成式人工智能的優勢是多方面的。開發人員和用戶都將受益於無縫性能、更高的隱私性、更高的安全性、更低的延遲以及在低連接環境中運行的能力。此外，這種方法還可以節省成本，減少對大量雲基礎設施的需求。
為了有效實施設備端生成式人工智能，邊緣設備製造商必須採用高計算、低功耗的人工智能處理器，並建立更快、更可靠的連接。聯發科技是半導體行業的知名企業，正在積極努力在搭載其即將推出的旗艦處理器（預計為天璣 9300）的手機上支持 Llama 2 LLM。
聯發科即將推出的旗艦芯片組計劃於今年晚些時候推出，準備採用專門優化的軟件堆棧來運行 Llama 2。該芯片組還將配備配備 Transformer 主幹加速的升級版人工智能處理單元 (APU)。這一戰略設計旨在提高LLM和AIGC（AI圖形計算）性能，同時優化內存和帶寬使用等資源。
聯發科預計將發布支持 Llama 2 的生成式 AI 應用程序，預計搭載下一代芯片組的手機將於 2023 年底上市。這一發展符合聯發科按時向用戶提供尖端技術的承諾。
聯發科和 Meta 之間的合作代表了科技行業的積極趨勢，解決了對數據隱私的擔憂，並強調了本地處理人工智能任務的重要性。通過減少將用戶數據發送到外部服務器進行推理的需要，設備上的生成人工智能標誌著朝著保護用戶隱私和數據完整性邁出了關鍵的一步。
隨著市場期待聯發科天璣 9300 芯片組的到來，有關其激進設計的傳言也引發了人們的興奮。該芯片組結合了 Arm 的 Cortex-X4 和 A720 CPU 內核以及 Immortalis-G720 GPU，預計將在 Vivo X100 系列中首次亮相，為用戶提供令人驚嘆的處理能力和效率。
發佈留言