1106
作者 |??程茜，編輯?|??漠影
一手算力，一手生態(tài)，聯(lián)發(fā)科已率先布局端側生成式AI。
生成式AI席卷消費級市場，移動生態(tài)迎來新機遇，生成式AI正重構智能手機。
智東西5月16日報道，上周，在聯(lián)發(fā)科天璣開發(fā)者大會（MDDC）上，聯(lián)發(fā)科聯(lián)動百川智能、vivo、OPPO、小米、moto面向全球開發(fā)者，共啟“天璣AI先鋒計劃”，并發(fā)布了生成式AI端側部署的解決方案、天璣9300+旗艦5G生成式AI移動芯片，為生成式AI在端側加速落地添了一把旺火。可以看出，智能手機已被深度卷入生成式AI浪潮，站上全球手機芯片出貨量第一的聯(lián)發(fā)科已然走在這一產(chǎn)業(yè)變革的前列。
同期，聯(lián)發(fā)科與全球市場調研機構Counterpoint攜手阿里云通義千問、百川大模型、虎牙、酷狗、vivo等生態(tài)伙伴聯(lián)合發(fā)布的《生成式AI手機產(chǎn)業(yè)白皮書》（以下簡稱《白皮書》）提到，生成式AI手機將在未來幾年保持高速成長，存量規(guī)模將在2027年突破10億大關。
面對端側生成式AI落地熱潮，智能手機的核心優(yōu)勢是什么？芯片玩家在其中扮演了什么樣的重要角色？頭部芯片玩家聯(lián)發(fā)科在生成式AI手機的飛速發(fā)展中將產(chǎn)生什么影響？帶著這些問題，從生成式AI與智能手機的結合、聯(lián)發(fā)科的AI布局出發(fā)，本文將剖析聯(lián)發(fā)科如何為生成式AI手機發(fā)展注入新活力，構建天璣移動生態(tài)，并引領新一輪的終端創(chuàng)新周期。
01.AI手機熱潮下，尋找芯片廠商的“新角色”
生成式AI正向消費級市場普及，AI手機已經(jīng)成為其中的典型代表。這與智能手機與生成式AI相結合的天然優(yōu)勢有關。
首先手機擁有最多最強的端側能力。聯(lián)發(fā)科技董事、總經(jīng)理暨營運長陳冠州談道，根據(jù)估算，2027年，全球智能手機端側整體AI算力會達到50000 EOPS以上。端側算力的優(yōu)勢在于用戶使用AI應用可不受網(wǎng)絡限制、數(shù)據(jù)無需上傳云端可保證隱私安全、可高效率運行較小規(guī)模的AI應用。
其次，手機有最大的用戶規(guī)模和靈活度。智能手機在全世界有接近50億人的用戶體量，其黏稠度、使用范圍都更高，使得智能手機成為AI普及最天然的載體。最后為手機擁有完整的應用生態(tài)，目前手機上的APP高達893萬個，與用戶的衣食住行、辦公等諸多場景。要創(chuàng)造新的生成式AI生態(tài)鏈，最好的方法應該是在既有基礎上做升級，將這893萬個APP與AI能力做到無縫串聯(lián)。這決定了智能手機在生成式AI時代正迸發(fā)出新的生命力。那么，生成式AI手機到底是什么？《白皮書》給出了明確的定義，生成式AI手機是利用大規(guī)模、預訓練的生成式AI模型，實現(xiàn)多模態(tài)內容生成、情境感知，并具備不斷增強的類人能力。
未來，伴隨用戶與AI大語言模型的實時交互與反饋，生成式AI手機將重塑操作系統(tǒng)底層和形態(tài)，成為讓用戶暢享豐富生成式AI應用和體驗的移動智能體。
具體拆解來看，第一就是支持大模型的本地部署，通過云端協(xié)同的方式執(zhí)行復雜的生成式AI任務。生成式AI手機本身就具備強大的AI算力，無須完全依賴云端服務器。第二為具備多模態(tài)能力，可以處理文本、圖像、語音等多種形式的內容輸入，以生成各種形式的輸出。第三為設備能夠以自然而直觀的交互方式，快速響應用戶的請求。第四是擁有實現(xiàn)上述特征的硬件規(guī)格，包括但不限于基于領先工藝和先進架構設計的移動計算平臺，擁有集成或者獨立的神經(jīng)網(wǎng)絡運算單元（如APU/NPU/TPU）等。
由此看出，生成式AI的諸多特性背后繞不開手機、大模型、芯片玩家這三者，其中的芯片玩家也成為大模型在端側部署落地的重要支撐。
一方面，對于大模型玩家而言，想要直接將云端訓練好的模型放到手機端，往往會面臨運行效率不夠快、內存占用過高兩大痛點，并且還需考慮如何讓模型在端側運行更為高效、速度更快、部署更容易，突破這些痛點的底層關鍵變量之一就是芯片的性能。
另一方面，手機廠商關注的是大模型有沒有在終端之上的新服務、新應用，這些與模型玩家合作誕生的新應用最終都會體現(xiàn)在芯片能力之上。因此，端側芯片的AI性能在端側生成式AI的競爭格局中尤為關鍵。聯(lián)發(fā)科技無線通信事業(yè)部生態(tài)發(fā)展資深總監(jiān)章立談道，以聯(lián)發(fā)科為例，他們正在為大模型打造生態(tài)土壤，提供好的硬件平臺、開發(fā)者工具，讓大模型在此之上順利落地。
開發(fā)者、芯片廠商、手機廠商三者的最大共同點就是，都正在為這一擁有無限潛力的AI市場做充分的準備。值得注意的是，芯片與大模型的發(fā)展可謂形影相伴。2017年，孕育今年大模型盛景的Transformer論文神作發(fā)布，同年，芯片設計公司已經(jīng)開始商用SoC中加入獨立神經(jīng)網(wǎng)絡運算單元，如今聯(lián)發(fā)科、高通均已發(fā)布多款支持多模態(tài)大模型端側部署的移動計算平臺。時至今日，移動芯片玩家已經(jīng)在AI領域積淀了豐富經(jīng)驗，為生成式AI手機的大規(guī)模商用鋪平了道路。
02.聯(lián)發(fā)科搶先布局端側AI領域AI已成芯片基因
不置可否，2023年Q4拿下全球出貨量份額第一的聯(lián)發(fā)科已經(jīng)成為其中的重要玩家，實際上，根據(jù)市場調研機構Counterpoint公布的數(shù)據(jù)，聯(lián)發(fā)科手機芯片出貨量全球第一已持續(xù)三年有余，擁有非常可觀的邊緣AI設備基礎。聯(lián)發(fā)科在AI領域的優(yōu)勢已逐漸凸顯，這得益于其長達7年的積累與布局。
聯(lián)發(fā)科技無線通信事業(yè)部副總經(jīng)理李彥輯透露，聯(lián)發(fā)科對于AI的投入始于2017年，與Transformer架構提出同期，并是首個將擁有AI能力的硬件處理器搭載于芯片上的玩家。
事實上，聯(lián)發(fā)科對于AI的思考更早，他補充說，2015、16年，AlphaGo戰(zhàn)勝頂尖棋手，讓人驚覺新的AI科技洪流已來，聯(lián)發(fā)科就開始思考端側是否有能力搭上這一波技術浪潮。在他們看來，Transformer架構出現(xiàn)意味著AI發(fā)展的分水嶺到來，因此，在持續(xù)投入傳統(tǒng)計算光學所需的分析式AI之外，他們開始布局新的算法、算子以應對未來可能出現(xiàn)的新AI應用。這有一個背景是，當時這些對于AI發(fā)展的期待都處于未知狀態(tài)，聯(lián)發(fā)科憑借開放式的心態(tài)入局，并始終堅定對AI技術的投入和決心。事實證明，其當年對于行業(yè)技術發(fā)展趨勢的判斷以及AI技術投入的積累是正確的。
如今，為了推動生成式AI在端側落地，聯(lián)發(fā)科已經(jīng)率先發(fā)布了一系列旗艦、次旗艦產(chǎn)品。天璣9300已搶先支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川大模型、阿里云通義千問、vivo藍心大模型BlueLM、OPPO AndesGPT等諸多全球先進的AI大模型。此外，聯(lián)發(fā)科還將生成式AI能力引入天璣8000系列，成為同級產(chǎn)品中率先支持生成式AI的芯片，天璣8300最高可支持端側運行100億參數(shù)規(guī)模AI大語言模型。面向未來，李彥輯也十分堅定，聯(lián)發(fā)科在芯片的能力布局上不會放慢，將持續(xù)在旗艦、次旗艦上推出新的產(chǎn)品。早已融入聯(lián)發(fā)科研發(fā)基因的AI，正在生成式AI新時代展現(xiàn)出旺盛的生命力。
03.算力支撐+生態(tài)建設筑起端側生成式AI堅實底座
去年開始，生成式AI在手機端的應用已經(jīng)開始展露頭腳，李彥輯認為，今年生成式AI在手機端的落地將從萌芽走向起飛階段。作為重要的芯片玩家，聯(lián)發(fā)科在其中既是重要的算力提供方，又是連接各路玩家的生態(tài)建設者。如今，其芯片布局開始加速。聯(lián)發(fā)科最新發(fā)布的天璣9300+旗艦5G生成式AI移動芯片，延續(xù)全大核架構設計，八核CPU包含4個Cortex-X4超大核，最高頻率可達3.4GHz，還有4個主頻為2.0GHz的Cortex-A720大核，在保證卓越性能的同時，功耗大幅降低。天璣9300+內置了生成式AI引擎APU 790，率先在端側支持AI推測解碼加速技術，性能提升達10%，同時支持端側雙LoRA融合的天璣AI LoRA Fusion 2.0技術、AI框架ExecuTorch，能夠在端側為用戶提供更加個性化的AI體驗。目前，天璣9300+已支持阿里云通義千問大模型、百川智能百川大模型、百度文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2和Llama 3等前沿主流大模型。這也是業(yè)界首款實現(xiàn)更高速Llama 2 7B端側運行的芯片，李彥輯透露，Llama 2 7B運行速度可以達到22 tokens/秒。
在生成式AI手機浪潮下，一方面，聯(lián)發(fā)科要做好“本職工作”，也就是為端側設備提供強大的算力；另一方面，正如前文所述，手機、模型、芯片玩家缺一不可，一個健康、高效的生態(tài)系統(tǒng)也至關重要，能力越大責任越大。為此，聯(lián)發(fā)科聯(lián)合阿里云、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米啟動了“天璣AI先鋒計劃”，面向全球開發(fā)者，整合聯(lián)發(fā)科與產(chǎn)業(yè)生態(tài)伙伴資源的同時，為開發(fā)者提供開發(fā)資源、技術支持和商業(yè)機會。
面對端側生成式AI的三大關鍵環(huán)節(jié)，聯(lián)發(fā)科提出了涵蓋芯片、模型、應用的天璣AI生態(tài)戰(zhàn)略，為這一產(chǎn)業(yè)的發(fā)展筑起堅實的軟硬件技術底座。在應用領域，聯(lián)發(fā)科的“天璣AI開發(fā)套件”集開發(fā)、應用技術之大成，其包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優(yōu)化技術和Neuron Studio一站式視覺化開發(fā)環(huán)境等四大模塊，展現(xiàn)了其“快、全、強、易”的四大能力。
其中，GenAI最佳實踐通過模型量化、模型編譯和模型推理技術可以將大模型的終端部署時間從數(shù)周加速到一天。GenAI Model Hub適配了Llama系列等諸多主流大模型。天璣AI開發(fā)套件還支持推測解碼加速、LoRA Fusion等先進的GenAI優(yōu)化技術；Neuron Studio集成開發(fā)環(huán)境為開發(fā)者提供了一站式可視化的開發(fā)環(huán)境。章立談道，對于開發(fā)者而言其最關注的是芯片本身的能力以及解決方案和服務能力。天璣AI開發(fā)套件就是一大解法，他補充說，這些開發(fā)者套件是聯(lián)發(fā)科長期與開發(fā)者交流過程中，基于其核心需求從而研制的開發(fā)者工具。除了AI，聯(lián)發(fā)科在游戲領域的技術優(yōu)勢也實現(xiàn)了全面升級。借助自適應技術軟件開發(fā)套件和硬件光線追蹤技術，星速引擎可以通過精準的性能管理、光線追蹤效果優(yōu)化、網(wǎng)絡質量監(jiān)測等關鍵技術，使得開發(fā)者打造畫面更逼真、流暢，觸控和網(wǎng)絡響應速度更快，續(xù)航更持久的體驗。
聯(lián)發(fā)科作為端側生成式AI落地的先鋒，正將多年來的AI布局與積累轉變?yōu)槎藗壬墒紸I新生態(tài)發(fā)展的原動力。
04.結語：每年賦能20億智能終端聯(lián)發(fā)科加速端側生成式AI變革
聯(lián)發(fā)科在端側生成式AI領域的一系列布局，無不顯示出其對于加速這一產(chǎn)業(yè)變革的決心與信心。正如聯(lián)發(fā)科技董事、總經(jīng)理暨營運長陳冠州所言，生成式AI徹底革新了終端應用的使用價值，智能終端是生成式AI普及的關鍵載體。2024年生成式AI普及到端側設備上的潛力正在被放大，目前，智能手機正在作為一個起點，撬動端側生成式AI的變革。
在這背后，聯(lián)發(fā)科憑借其每年賦能20億智能終端設備的經(jīng)驗，為生成式AI在端側的人機交互、生產(chǎn)力、娛樂體驗等方面帶來革新，以生成式AI手機為切入點，全方位重塑端側市場的用戶體驗。面向未來，端側將成為生成式AI大規(guī)模應用落地的重要載體，聯(lián)發(fā)科與生態(tài)合作伙伴的聯(lián)手正在加速這一進程。
下載ECAD模型
