AI大模型領域近來依舊熱鬧非凡。最新報道，谷歌或將于今年秋季推出Gemini大模型，重新爭奪AI頭把交椅位置。meta則在7月份推出Llama 2，并有條件地開源使用。OpenAI亦推出網絡爬蟲工具GPTBot，籌謀GPT-5的訓練。然而，在“吃瓜”一眾AI大廠在“云端拼殺”的同時，也不得不對另外一個趨勢給予關注——大模型正加速涌向設備端。

大模型向設備端延伸

年初，高通就在MWC 2023大會上發布了全球首個運行在Android手機上的Stable Diffusion終端側演示。Stable Diffusion模型參數超過10億，高通利用其AI軟件棧對模型進行量化、編譯和硬件加速優化，使其成功在搭載第二代驍龍8 移動平臺的手機上運行。Arm也于日前推出Arm智能視覺參考設計，推進了AI大模型在終端與邊緣側的應用。參考設計不僅包括Arm Corstone-1000、Arm Corstone-300、Arm Mali-C55 圖像信號處理器，還集成了安謀科技開發的玲瓏VPU和周易NPU，并由安謀科技將Arm IP與安謀科技自研IP進行集成和驗證。

手機廠商方面，彭博社爆料，蘋果正在籌劃“AppleGPT”。在第二財季財報電話會議中，蘋果CEO庫克承認，AI潛力巨大，但如何使用AI技術，需要深入思考。庫克說，蘋果已經將AI技術整合進了產品和服務，未來也將繼續這一進程。在近日舉辦的小米年度演講上，小米集團創始人、董事長兼CEO雷軍表示，大模型是重大技術革命，小米必須全面擁抱。小米AI大模型最新一個13億參數大模型已在手機本地跑通。小米旗下人工智能助手小愛同學開始升級AI大模型能力，在發布會當天開啟邀請測試。

未來部署的重要趨勢

云端部署是當前大模型的主流方案，但模型推理成本較高限制了其大規模推廣。邊緣計算相較云端計算實現了計算資源和服務的下沉，能夠有效降低交互延遲、緩解數據傳輸的帶寬壓力，因此未來AIGC技術將呈現從云端向邊緣端延伸的趨勢。類似高通這樣混合式AI為代表的計算模式通過云端和邊緣端協同完成AI計算，較云端計算在能耗、性能、成本、隱私性等方面存在優勢，是未來大模型部署的重要發展方向。

事實上，早在生成式AI、大模型技術爆發之前，AI需求已經呈現出向邊緣側設備端轉移的趨勢。比如在智能家居領域，邊緣人工智能可以讓智能家居設備在本地處理用戶的語音指令和數據，實現更快速、高效的家居自動化。在工業物聯網領域，將AI應用到工業設備中，可以實現智能監控、預測性維護等功能，提高工業生產效率和安全性。邊緣人工智能甚至在醫療設備中開始得到應用，進行實時健康監測和智能診斷，提供更加個性化的醫療服務。相比局限于云端，邊緣設備市場有著更廣闊的想象空間。

軟硬生態將迎重塑

隨著AI大模型浪潮涌向設備端，從手機、筆記本電腦，到AR/VR、汽車和物聯網終端等，都會因為這場變革迎來重塑，進而加速AI的規模化落地。首先從硬件上看，終端側算力將是AI大模型應用落地不可或缺的一部分。由于云端算力不可能承載持續無限增長的龐大計算需求，就需要讓更多算力需求“外溢”到終端，依靠終端算力來緩解這一問題。因此，更高的性能與低功耗將成為設備端芯片的需求。

大模型的出現將促使AI對芯片算力的需求變得更加強烈，這需要從提高算力密度和算力集成度等多個角度同時解決問題。芯片高功耗導致的散熱等問題，也是芯片算力提升的主要障礙，導致大模型訓練與推理的成本巨大。此外，以Transformer為代表的網絡模型成為主流，大模型技術算法正有趨同的發展趨勢。定制化的AI芯片難以滿足AI產業的發展，通用性和可編程性變得越來越重要。

當然，軟件上的變革也非常重大，通過改變人機交互的方式，大模型將重塑包括娛樂、內容創作、生產力在內的移動應用。總之，隨著大模型加速涌向設備端，終端側的生態亦將隨之而變。