四川新聞網(wǎng)

首頁(yè) > shouye > 中新網(wǎng)四川

當(dāng)AI“住進(jìn)”終端,端側(cè)智能如何讓機(jī)器更懂人?
2025年07月01日 14:50 來(lái)源:中新網(wǎng)四川 編輯:曹惠君

  中新網(wǎng)四川新聞7月1日電 (湯雁)近日,一場(chǎng)以“端側(cè)覺(jué)醒,AI的下一場(chǎng)突圍?”為主題的深度對(duì)話在新網(wǎng)銀行和清華大學(xué)經(jīng)濟(jì)管理學(xué)院直播間同步呈現(xiàn)。清華大學(xué)經(jīng)濟(jì)管理學(xué)院中國(guó)金融研究中心副主任黃張凱對(duì)話面壁智能聯(lián)合創(chuàng)始人、CEO李大海,共同討論端側(cè)智能“以小博大”,以及端側(cè)智能背后的技術(shù)突破與系統(tǒng)級(jí)創(chuàng)新,探索“小模型”如何重塑產(chǎn)業(yè)未來(lái)。

直播海報(bào)。新網(wǎng)銀行供圖

  從云端到終端:以端側(cè)智能重構(gòu)AI應(yīng)用新范式

  在AI浪潮中,AI模型已經(jīng)不再“以大為美”。隨著AI技術(shù)的進(jìn)步,用戶對(duì)各類AI的依賴性與日俱增。但在各類AI模型滲透進(jìn)用戶的生活、學(xué)習(xí)和工作時(shí),AI的一些痼疾也逐漸展露出來(lái):隱私泄露、斷網(wǎng)秒變“人工智障”,這些仿佛成了云端AI難以逾越的障礙。正因如此,人們對(duì)AI的需求也日漸多元化。隱私保護(hù)、離線使用的需求痛點(diǎn)一直亟待得到真正的滿足。

  如果將AI從互聯(lián)網(wǎng)的“牢籠”里解救出來(lái)呢?這或許是一條未曾設(shè)想的道路,但面壁智能這家公司正走在這條名為“端側(cè)智能”的道路上。有關(guān)這個(gè)名詞,李大海解釋,“關(guān)于端側(cè)智能,簡(jiǎn)單來(lái)說(shuō)就是把智能推理的能力做到了終端上,利用終端本地的算力,在不需要依賴于網(wǎng)絡(luò)的情況下,實(shí)現(xiàn)本地的智能推理。”

  李大海認(rèn)為端側(cè)智能目前有三大優(yōu)勢(shì),這些優(yōu)勢(shì)有如大衛(wèi)用于對(duì)抗歌利亞的石子一樣,能夠直擊用戶痛點(diǎn):首先是隱私保護(hù),智能推理僅發(fā)生在本地終端,從根源上杜絕了用戶隱私泄露的風(fēng)險(xiǎn)。其次則是對(duì)安全、快速響應(yīng)、可靠性要求較高的場(chǎng)景比較友好,例如汽車駕駛領(lǐng)域。此外,在高帶寬場(chǎng)景下,運(yùn)用本地推理的端側(cè)智能比使用云端的經(jīng)濟(jì)成本要低很多。

  因此,端側(cè)智能的發(fā)展有著廣闊的前景,這也正是面壁智能目前發(fā)力的重點(diǎn)。之所以選擇走這條路,是因?yàn)?023年面壁智能在進(jìn)行戰(zhàn)略聚焦時(shí),發(fā)現(xiàn)自己最大的優(yōu)勢(shì)就是能夠做出知識(shí)密度很高的模型,足以做到以小博大。

  面壁智能目前一直在做的端側(cè)模型MiniCPM系列模型,有一個(gè)很形象的稱呼叫面壁小鋼炮,寓意著“以小博大”的個(gè)性。據(jù)李大海介紹,6月份剛剛發(fā)布的MiniCPM4-8B在以僅22%的訓(xùn)練開(kāi)銷的前提下,整體水平上可以對(duì)標(biāo)Qwen3,甚至超越模型參數(shù)更大的Gemma-3-12B,因此這個(gè)版本的小鋼炮也被借用科幻小說(shuō)《三體》里的說(shuō)法被稱為“前進(jìn)四”。

  李大海介紹,長(zhǎng)文本內(nèi)容的推理速度提升一向是面壁智能的優(yōu)勢(shì),而且在同行們動(dòng)輒用20T、30T高質(zhì)量數(shù)據(jù)訓(xùn)練出模型的時(shí)候,面壁智能經(jīng)常只用不到10T的數(shù)據(jù)就能訓(xùn)練出非常好的模型。在如此強(qiáng)大的模型能力加持下,端側(cè)智能的應(yīng)用場(chǎng)景將變得無(wú)比寬廣,也可以為AI進(jìn)行更好的個(gè)性化服務(wù)賦能。

  從“遷就”到“同頻”:端側(cè)智能如何讓AI更懂用戶?

  “過(guò)去整個(gè)計(jì)算機(jī)發(fā)展的歷史是從人去遷就計(jì)算機(jī),逐步地變成計(jì)算機(jī)來(lái)遷就人!崩畲蠛H绱嗽u(píng)價(jià)AI時(shí)代中,人與計(jì)算機(jī)的關(guān)系。在AI更大滲透入人類世界的今天,更加人性化的AI已經(jīng)日漸成為AI行業(yè)未來(lái)發(fā)展的新方向。

  在上下文連接的基礎(chǔ)上,AI模型形成記憶,構(gòu)建了記憶后的機(jī)器才會(huì)更像人、更懂人。在這個(gè)觀念的引導(dǎo)下,面壁智能在端側(cè)智能領(lǐng)域不斷深入探索:“在本地要能去感知世界,能去跟世界互動(dòng),基于超長(zhǎng)的記憶去感知去做決策!崩畲蠛UJ(rèn)為端側(cè)智能的優(yōu)勢(shì)正在于此。

  在他看來(lái),未來(lái)類似于機(jī)器人和機(jī)器狗一類的產(chǎn)品會(huì)同時(shí)具備云端和端側(cè)兩類分工,而不會(huì)在失去網(wǎng)絡(luò)連接時(shí)變成一個(gè)完全不能動(dòng)的產(chǎn)品。

  在應(yīng)用場(chǎng)景層面,端側(cè)智能可以為汽車的智能座艙進(jìn)行賦能:“能夠通過(guò)艙內(nèi)艙外的攝像頭去感知環(huán)境的變化,基于環(huán)境變化去給用戶第一時(shí)間的關(guān)懷跟呵護(hù)!倍藗(cè)智能可以對(duì)車內(nèi)車外情況進(jìn)行感知,再進(jìn)行進(jìn)一步分析。例如智能座艙可識(shí)別夏天被遺落在車內(nèi)的兒童,并做到及時(shí)提醒和預(yù)警,有效預(yù)防悲劇的發(fā)生。如今,面壁科技正在與國(guó)內(nèi)頭部車企公司進(jìn)行緊密合作。

  同時(shí),因?yàn)槎藗?cè)智能的離線屬性,可以做到Always On(總是開(kāi)啟),因此可以獲得更多的隱私密度。換言之,在隱私層面的信息處理時(shí),既可以讓用戶免受隱私信息泄露的困擾,也可在保證隱私的基礎(chǔ)上更加了解用戶的數(shù)據(jù),讓AI和用戶同頻,做到讓機(jī)器比用戶更懂用戶,甚至在滿足用戶的實(shí)用需求以外,可以更加注重情緒價(jià)值。

  未來(lái)的AI行業(yè)格局會(huì)走向何方?

  當(dāng)科技企業(yè)尋求融資時(shí),投資人們最愛(ài)問(wèn)的一個(gè)問(wèn)題就是:“你覺(jué)得未來(lái)大模型的格局會(huì)是怎樣?”面對(duì)這個(gè)問(wèn)題,李大海給出的回復(fù)是3+X。3指的是未來(lái)會(huì)有三家以大模型本身為商業(yè)模式的龍頭企業(yè),他們會(huì)在未來(lái)轉(zhuǎn)化為云企業(yè);X指的是未來(lái)會(huì)有X家將大模型與行業(yè)深度融合的垂直領(lǐng)域企業(yè),通過(guò)高知識(shí)密度模型,在如汽車、手機(jī)、電腦、具身智能、教育等端側(cè)場(chǎng)景中提供更加智能、便捷、個(gè)性化的服務(wù)。

  例如,去年面壁智能與國(guó)內(nèi)頂尖高校合作研發(fā)了學(xué)生AI成長(zhǎng)助手以及AI智能課堂等產(chǎn)品,為學(xué)生配備具有智能問(wèn)答、智能伴學(xué)功能的專屬智能助手以及全面智能化、個(gè)性化AI課堂,有效助力學(xué)生成長(zhǎng)與生活。同樣,在金融領(lǐng)域背調(diào)等環(huán)節(jié),AI也已經(jīng)有了較多的應(yīng)用場(chǎng)景。

  在展望前景時(shí),李大海認(rèn)為日新月異的社會(huì)更需要兩種能力,第一種是構(gòu)建事業(yè)的基礎(chǔ)能力,如邏輯思維能力、親和力、團(tuán)隊(duì)凝聚力等,第二種能力是人文關(guān)懷。李大海認(rèn)為,在科學(xué)飛速發(fā)展的時(shí)刻,科學(xué)技術(shù)更會(huì)向人文思潮靠近!半m然未來(lái)的科技會(huì)越來(lái)越強(qiáng),但我們?nèi)匀恍枰嘧硕嗖实娜宋娜ヘS富我們的精神世界。”

  新網(wǎng)銀行最新打造的“AI構(gòu)造力”直播欄目,緊跟國(guó)家科技創(chuàng)新戰(zhàn)略,聚焦AI領(lǐng)域技術(shù)突破與創(chuàng)新應(yīng)用,解讀AI大模型如何重構(gòu)金融及行業(yè)生態(tài)。通過(guò)直播訪談、線下交流、內(nèi)容聯(lián)動(dòng)等形式,搭建銀行科技、AI公司創(chuàng)始人、高校教授與財(cái)經(jīng)媒體人之間的交流互動(dòng)平臺(tái)。(完)

中國(guó)新聞網(wǎng)·四川新聞版權(quán)與免責(zé)聲明:

① 凡本網(wǎng)注明"來(lái)源:本網(wǎng)或中國(guó)新聞網(wǎng)·四川新聞"的所有作品,版權(quán)均屬于中新社,未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明"來(lái)源:中國(guó)新聞網(wǎng)·四川新聞"。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。 ② 凡本網(wǎng)注明"來(lái)源:XXX(非本網(wǎng))"的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。 ③ 如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)?0日內(nèi)進(jìn)行。 聯(lián)系方式:中國(guó)新聞網(wǎng)·四川新聞采編部 電話:+86-28-62938795