當(dāng)前熱門(mén)：生成式AI既需要云，也需要數(shù)十億網(wǎng)聯(lián)終端

高通公司總裁兼CEO 安蒙

生成式AI的創(chuàng)新和發(fā)展速度前所未有，而這僅僅是一個(gè)開(kāi)始。人們使用這項(xiàng)技術(shù)的方式、場(chǎng)景和原因?qū)?huì)非常廣泛，甚至超乎想象。初步估計(jì)顯示，生成式AI市場(chǎng)規(guī)模將達(dá)到1萬(wàn)億美元。

生成式AI不僅有望改變?nèi)藗兯阉骱蛣?chuàng)作內(nèi)容的方式，還能夠改善日常生活。借助生成式AI，智能手機(jī)能夠成為真正的數(shù)字助手，讓用戶自然地溝通交流，并獲得貼切的回答。PC用戶可以利用這項(xiàng)技術(shù)閱讀或撰寫(xiě)電子郵件、起草文檔和自動(dòng)創(chuàng)建演示文稿。在駕乘汽車時(shí)，對(duì)話式車內(nèi)助手可以對(duì)汽車充電、購(gòu)買停車券或在回家途中預(yù)訂晚餐提供建議。商店的AI服務(wù)臺(tái)和智能購(gòu)物車能夠根據(jù)每周特惠、預(yù)算金額和家庭偏好，幫助消費(fèi)者擬定食譜。

(資料圖片)

為了釋放這項(xiàng)技術(shù)的全部潛能并滿足日益增長(zhǎng)的需求，生成式AI既需要云，也需要數(shù)十億能夠以低功耗進(jìn)行高性能AI計(jì)算的網(wǎng)聯(lián)終端，如智能手機(jī)、PC和汽車。這就是混合AI。混合AI計(jì)算架構(gòu)在云端和終端進(jìn)行分布式處理，能夠優(yōu)化效率并提升整體用戶體驗(yàn)。

生成式AI處理可以直接在終端側(cè)運(yùn)行，也可以按需發(fā)送到云端，或者將兩者相結(jié)合——無(wú)論采取何種方式，對(duì)用戶而言都是無(wú)縫實(shí)現(xiàn)的。

用戶期望擁有與傳統(tǒng)搜索類似的體驗(yàn)，那就是能夠瞬間顯示搜索結(jié)果。要滿足這樣的期望，還要保證服務(wù)質(zhì)量，僅利用云端處理的成本太高，尤其是在需求高峰期，因此難以實(shí)現(xiàn)規(guī)?；?。

數(shù)據(jù)中心能耗高且價(jià)格昂貴。據(jù)估計(jì)，每一次基于生成式AI的網(wǎng)絡(luò)搜索查詢（query），其成本是傳統(tǒng)搜索的10倍。以每天超過(guò)100億次查詢計(jì)算，每年的增量成本可能達(dá)到數(shù)十億美元。網(wǎng)絡(luò)搜索只是生成式AI變革多個(gè)行業(yè)的眾多方式之一。

除成本外，在云端進(jìn)行全部推理處理還面臨隱私、可靠性和性能方面的挑戰(zhàn)。當(dāng)請(qǐng)求進(jìn)入云端、數(shù)據(jù)離開(kāi)終端時(shí)，就會(huì)產(chǎn)生潛在的安全問(wèn)題。事實(shí)上，由于收集和存儲(chǔ)個(gè)人數(shù)據(jù)等監(jiān)管和合規(guī)問(wèn)題導(dǎo)致模型被禁用或暫時(shí)禁用的情況已經(jīng)出現(xiàn)。

混合AI勢(shì)不可擋。隨著人們不斷探尋使用生成式AI的新方式，對(duì)云基礎(chǔ)設(shè)施的需求將激增。混合AI處理將是計(jì)算的下一次轉(zhuǎn)型，正如我們所看到的從大型主機(jī)演進(jìn)到臺(tái)式機(jī)，再到今天云和我們手中的終端相結(jié)合的模式一樣。

利用高性能、低功耗終端的處理能力，將能夠高效推動(dòng)生成式AI的規(guī)?；瘮U(kuò)展。云端和終端將協(xié)同工作，通過(guò)強(qiáng)大、高效且高度優(yōu)化的AI功能，打造下一代用戶體驗(yàn)。

關(guān)鍵詞：