大模型加速“上手機” 聯發科與阿里通義千問實現芯片級適配

大模型加速“上手機” 聯發科與阿里通義千問實現芯片級適配

《科創板日報》3月28日訊(記者 黃心怡)《科創板日報》記者獲悉,智能手機芯片廠商聯發科,已成功在天璣9300等旗艦芯片上部署通義千問18億、40億參數大模型,實現大模型在手機芯片端深度適配,讓通義千問在離線情況下依然可以運行多輪AI對話。未來,雙方還將基於天璣芯片適配70億等更多尺寸的大模型。

目前,聯發科是全球智能手機芯片出貨量最高的半導體公司。Canalys最新數據顯示,其2023年第4季度出貨超1.17億部,蘋果以7800萬出貨量位居第二,高通以6900萬出貨量位居第三。而通義千問是阿里雲自研的基礎大模型,迄今已推出千億參數的2.0版本以及開源的720億、140億、70億、40億、18億、5億參數等尺寸,以及視覺理解模型Qwen-VL、音頻大模型Qwen-Audio等多模態大模型。

在MWC2024期間,聯發科攜多款人工智能應用亮相展會,其中就包括天璣9300和8300兩款芯片。據瞭解,天璣9300芯片已在國外實現支持Meta Llama 2的70億參數大模型應用,國內在vivo X100系列手機上落地端側70億參數大語言模型,並在端側實驗環境跑通130億參數模型。

不爽被咬出販毒…他開2槍殺死藥腳棄屍防風林 賠錢和解判17年定讞

此次聯發科和阿里雲的合作,則是首次實現通義大模型的芯片級軟硬適配。阿里巴巴通義實驗室業務負責人徐棟介紹:“端側AI是大模型應用落地的重要場景之一,但面臨軟硬件難適配、開發環境不完備等諸多挑戰。阿里雲與聯發科此次完成了大量底層適配及上層開發的系列技術及工程難題,真正把大模型‘裝進’手機芯片中,探索端側AI的Model-on-Chip部署新模式。”

除了聯發科外,高通也積極推動大模型落地手機終端。3月18日,高通宣佈推出第三代驍龍8s移動平臺,支持100億參數級別的大語言模型,也能夠支持多模態生成式AI模型,包括目前的Baichuan-7B、Gemini Nano、Llama 2和智譜ChatGLM等來自百川智能、谷歌、META等公司的大語言模型。據悉,小米Civi 4 Pro將首發搭載驍龍8s移動平臺。

新北树林线预计2031年完工 可转乘3线缩短通勤时间

一名消費電子行業分析師對《科創板日報》記者表示,此次阿里雲和聯發科的合作,意味着國內手機廠商有了百度以外的選擇。

記者瞭解到,榮耀、三星此前都宣佈了與百度文心一言的合作。比如,三星最新旗艦手機Galaxy S24系列集成了文心大模型的多項能力,包括通話、翻譯、智能摘要等。另有消息源透露,蘋果方面正在和百度進行接觸,希望使用百度的人工智能技術,且雙方已進行初步會談。

上海人工智能實驗室領軍科學家林達華表示,隨着雲端大模型規模的指數級成長,端側即將迎來黃金增長期。雲端協同將成爲未來的重要趨勢,由雲側計算建立天花板,端側計算將支撐用戶使用大規模放量。

根據諮詢機構IDC的預測,2024年中國智能手機市場出貨量將達到2.77億臺,同比增長2.3%。其中AI手機出貨量將會達到3660萬,同比增幅超過3位數。手機端AI大模型的應用將更爲廣泛。

倾世医妃要休夫

世界僅3處!台南龍崎「惡地」地質公園地目竟還是工業區

《台湾关系法》45周年 赖清德:印太及台湾安全定海神针