把大模型装进手机,总共分几步?

发布日期:2024-11-13 24:17

来源类型:三九养生堂 | 作者:Wandelt

阅读提醒: 图片来源@视觉中国 文 | 脑极体 年初ChatGPT爆火的时候,我去上海参加华为春季新品发布会,用一页keynote提到了大模型技术与手机硬件的结合。虽然只有短短的一两分钟...
【二四六香港资料期期中准】 【2024新澳正版挂牌之全扁】 【新奥资料免费精准大全】 【新澳门精准免费资资大全】 【新2024年澳门天天开好彩】 【新澳免费资料库大全app】 【澳门六开彩天天免费查询】 【新澳资料免费最新】 【澳门一码一肖一待一中四不像】 【澳门单双期期准】 【新澳天天开奖资料大全最新54期】 【2024年新澳门精准免费大全】 【2024年新澳门夭夭好彩最快开奖结果】

图片来源@视觉中国

文 | 脑极体

年初ChatGPT爆火的时候,我去上海参加华为春季新品发布会,用一页keynote提到了大模型技术与手机硬件的结合。虽然只有短短的一两分钟,但我专门发了一条朋友圈,看好自然语言交互能力在手机上的应用。

当时我就有预感,大语言模型跟手机结合,应该会很快。

时间拉回到现在,苹果、三星,以及“华米OV”国产手机厂商,都先后宣布了落地大模型。对手机来说,有没有大模型,已经不是一道选择题了,而是一道必答题。

提起这段故事,不是想说我们预判有多准,做科技观察不是玄学算命,一切都是有规律可循的。2023即将尾声,但大模型手机的热闹方兴未艾,是时候总结性地聊一聊,手机和大模型结合的深层逻辑,目前各家的差异化打法和挑战是什么,以及未来会如何发展。

2023,手机大模型的基建元年

首先有必要解释一下,为什么我们会预判,大模型与手机的结合,是一种必然?

了解手机市场近况的读者应该知道,在辉煌了十余年之后,移动智能终端已经陷入了某种瓶颈,增长低迷、缺少亮点,厂商创新如同挤牙膏,开发者巧妇难为无米之炊,可施展的创意空间有限。与此同时,一个用户身边至少环绕着三四个移动设备,每天要为繁琐交互,付出大量的隐形劳动,甚至有人不胜其烦,开始尝试“数字戒断”。

可以说,移动数字服务的供需双方,都在期待一种新的变革技术,可以让移动智能终端生态化繁为简、重塑体验。而在今天的技术世界中,大模型是最佳选项。

大语言模型的强大理解和生成能力,各种功能用同一个模型基座和自然语言交互来获取,可以改变手机的多个基本能力,说是重新定义手机,也不为过。

让大模型跑在手机上,成了手机厂商的必争之地,开发者所需要的机会窗口,也是重新点燃用户热情的一种必然选项。

大家今年都听说了“百模大战”,但跟主要在云端训练、web调用的通用大语言模型不同,高度集成化的手机,端侧算力、OS操作系统、应用并发、UI交互等一系列软硬件,都有自身的特性,也给大模型落地带来了不少限制。

结合华米OV等头部厂商的行动方略来看,我们预判,2023将是手机大模型的基建元年。

大模型落地手机,基建工程刚刚开始,后面会有更多好戏可看。具体来说,厂商必须搞定:

1.三座基建。

2.一个入口。

3.一群人。

我们就从这三个层面,来看看目前,各家的情况都怎么样?有哪些共同挑战和差异化思路?

第一步 端侧部署,三个基建

大语言模型的参数量动辄百亿、千亿,其训练和推理过程,需要耗费大量计算资源,对于手机这样的移动智能终端来说,SoC芯片的算力是远远达不到数据中心万卡集群的规模的,怎么支撑大模型的端侧运算呢?

就算勉强带起来了,大模型占据过多的手机工作内存,抢占其他应用的资源,会不会出现卡顿或快速掉电?

本地计算不足,引入云计算又会产生很多问题,比如大模型在云上分析处理个人数据,会不会暴露我的隐私啊?

要在端侧部署,手机和大模型都要进行一番改造。

首先,模型层。

目前主要有两条路线。

一是把大模型做小,也就是在端侧引入轻量级大模型,通过量化、剪枝、蒸馏等压缩技术,调整模型结构和参数大小,以适配端侧芯片的内存和算力特点,没网也能用,以荣耀、小米为代表。

荣耀Magic6搭载的,是自研的7B端侧AI大模型(即70亿参数规模),雷军在2023年度演讲宣布“小米全面拥抱大模型”,主攻的是轻量化和本地部署,目前训练出1.3B和6B参数规模的大模型。

二是把大模型做多,提供不同参数量级的大模型,来支撑不同场景、不同任务,云端协同,以vivo、OPPO为代表。

11月vivo发布的自研AI大模型矩阵,其中包括十亿、百亿、千亿三个不同参数量级的5款大模型。其中,10亿量级模型是主要面向端侧场景打造的专业文本大模型,70亿模型是面向手机打造的端云两用模型,700亿模型是面向云端服务的主力模型。

同样采用矩阵方式的,还有OPPO的安第斯大模型(AndesGPT),包括从10 亿至千亿多种不同参数规模的模型。

我在VDC大会,实地体验了基于蓝心大模型的“vivo看见”,可以在完全没有网络的情况下,为视障群体提供物品实时识别,辨认出植物、二维码、公交卡等物体,响应很及时,手机的发热和续航也在可接受范围内,确实能解决视障群体出行在外时感知外界环境的实际需求。

这个功能让我很受触动,还特地发了条朋友圈分享。

不过,产品人员也直言,这种完全断网、本地计算的大模型应用,对手机芯片的性能要求很高,目前只能在部分旗舰机型上落地。

其次,芯片层。

大模型再小,也是“大”模型,一味压缩可能会降低模型性能和输出质量,导致识别精准度、生成内容下降。所以,大模型落地,硬件的升级,尤其是手机移动芯片,是必不可少的先决条件。

根据目前得到的信息,vivo和联发科、高通等都有联合研发合作,来加速优化手机端侧的AI推理性能,小米也透露,再跟芯片公司(高通和联发科)共同推动端侧大模型的落地。此外,今年麒麟芯片回归,与华为鸿蒙操作系统、盘古大模型可以实现深度的协同优化。

必须承认,大模型应用才刚刚开始,与移动芯片的协同调校也才迈出了第一步,未来手机要承载视频、图像类AIGC任务,绝大多数用户应该是都不愿意上传到云端的,所以本地AI计算硬件的优化调校,接下来会是手机厂商的竞争力之一。

然后,系统层。

最终,高效可用的大模型应用,一定是端云协同的,来兼顾体验与隐私。这就带来了一些问题,比如数据和业务上云,如何保障用户的隐私和数据安全?基于大模型的AI应用,是否会影响手机性能、续航等使用感?要解决这个问题,必须从底层操作系统上下功夫。

其中,华为旗舰手机通过HarmonyOS 4系统接入盘古大模型,鸿蒙系统作为底层源代码全部自己写出来的OS,加上微内核架构,将核心的操作系统服务和安全服务分离,以及安全芯片和隔离技术,从软硬件全方位的安全保障机制。

此外,OPPO的ColorOS,小米澎湃OS,vivo蓝心大模型与其手机系统OriginOS 4,也都成为自研大模型的落地土壤。

而大模型能否与操作系统深度融合,以及操作系统自身的流畅、安全、智能,决定了大模型后续表现的关键。

据vivo的一位工作人员分享,除了基座模型本身的性能质量之外,大量的工程化细节也是必不可少的。要让操作系统快速执行用户的指令,不仅需要大模型对输入的语音/文本,通过思维链进行目标拆解,而且需要大模型深入理解手机技能,对几百个技能进行智能编排,自动选择和调用相应的API,这样才能自动执行复杂任务,把复杂留给自己,把简单交给用户。

不难看出,底层模型、芯片、操作系统,是大模型端侧部署,必不可少的三座基础设施。同时也应该看到,下一阶段的手机市场,是高技术、高难度、高投入、高风险的,需要扎扎实实的“硬功夫”,竞争将变得严酷,玩家也会变得更少。

第二步 触达用户,一个入口

大模型火了一整年,大厂、媒体和创业者心心念念的超越ChatGPT、对标GPT4,到了普通读者那里,似乎还是不明就里:大模型究竟怎么改变我的生活呢?

那么,把智能手机变成“阿拉丁神灯”怎么样?

看过童话故事的读者知道,灯中乾坤大,藏着无数资源和宝藏,但不需要阿拉丁费心琢磨,他只需要说出愿望,都有“灯神”为他将一切事务安排妥当。大模型的理解、创造能力,赋能给手机语音助手,就将它们变成了一个个“灯神”。

接入大模型能力的语音助手,是手机厂商触达用户的直接路径。

目前来看,大模型到手机,就干三件事:一是利用大语言模型的自然对话能力,改变终端交互体验;二是利用大模型的理解能力,提供个性化的服务,熟悉用户的日常偏好、习惯,更懂用户;三是借助大模型的创造能力,进行摘要提取、文案生成、图像制作,提高生产力……

而上述能力,基本都是通过语音助手来一步直达的。

比如华为的智慧助手小艺,接入盘古大模型的底层能力,在智慧交互、高效生产力提升和个性化服务三个方向上获得增强。

vivo蓝心大模型与手机系统OriginOS 4结合,打造了首款全局智能辅助“蓝心小V”,可以通过自然交流,帮用户完成很多复杂任务,化繁为简。

基于OPPO安第斯大模型的新小布助手,以及升级了小米AI大模型的小爱同学,也都上线了测试版、体验版。

万物智联时代,智能终端用户会面临设备大爆炸、信息大爆炸、服务大爆炸,如果一切都需要用户自己进行查找,犹如大海捞针,这对每一个人的耐心、时间、数字信息素养等,都提出了很高的要求。而大模型与智能助手的融合,就是解药。

智能助手可以调度手机、耳机、汽车、平板、智慧屏、电脑PC、智能家居等物联网设备,是用户和AIoT之间的最短路径。

而依靠大模型的加持,智能助手的分析理解能力、知识水平、记忆水平、生成能力,都大大得到了提升,让手机厂商说了多年的“千人千机”真的可实现、可感知。

但很长一段时间以来,用户并没有觉得智能助手是不可或缺的,有的人还会觉得跟智能助手对话很尴尬、人工智障等,甚至觉得有点鸡肋。

毫不夸张地说,大模型好不好用,普通用户不一定关心,但智能助手好不好用,一句对话就能试出差距,将是接下来手机厂商的竞争焦点。

总结一下,仅有大模型还不够,智能助手才是触达用户的最短路径,也是手机厂商的必争之地。

第三步 应用繁荣,一群开发者

在手机和用户已经具备了接入大模型的前提条件之后,下一步就是如何让开发者真正走入大模型的世界。

今天,在华为、vivo、OPPO等厂商的发布会上,我看到的基于大模型的AI应用已经不少,但都偏向于示范,比如自然语言的智慧搜索、一句话生成图像、AI作曲等。这些功能对于大众用户来说,还是太过于基础了。

就拿火爆的AIGC应用来说,生成最美证件照、为宠物作画、制作漫画头像、写一段小红薯分享文案、赛博菩萨、拍图做数学题、生成智能手表壁纸……都是需求极为细分的。手机厂商不能,也不应该,将这些AI应用都全部自己干了,这就必须引入千千万万开发者,去发挥创意,去基于大模型做无数小而美的AI应用。

但是,从开发端到市场端,大模型AI应用的路看似很有诱惑力,但对于开发者来说,还是面临着技术、学习成本、市场压力等各种顾虑,需要厂商强有力的技术体系、工具平台、赋能方案以及商业势能的加持。

目前,我们能看到几种生态策略:

鸿蒙的技术之路。为全场景智慧的市场空间,以及鸿蒙分布式系统的产业容纳能力,对开发者的吸引力还是很大的。华为已经准备开启全新的HarmonyOS NEXT,全面启动鸿蒙原生应用。

vivo的开源之路。Vivo走上了一条开源共建之路,70亿蓝心大模型成为业界首个中文开源大模型,开源的好处是可以吸引群体智慧,更适合在技术探索期,进行广泛、不设边界的探索,从而催生出更多更新更好的创意应用。vivo也发布了对应的微调框架以及大模型开发套件BlueKit,为开发者提供全方位的支持。

OPPO的伙伴之路。此前OPPO公布了2023 OPPO开发者大会的内容前瞻,其中潘塔纳尔系统能力向开发者全面开放,支持一次开发、多形态多模态多入口的快速适配,并提供相应的工具资源,帮助开发者快速接入泛在服务,吸引更多合作伙伴来提供多元化的智能服务。

可以肯定,接下来大模型越来越多、手机基础软硬件逐步成熟、平台能力工具接口更加完善,基于大模型的移动AI应用会变得越来越普及,这时候各家应用生态能拉开差距的,就只有开发者的数量和质量——开发者能释放出多少精彩的想象力,手机的使用价值就有多大。

开发者生态,是移动互联时代的护城河,这一定律在AI大模型时代也同样适用。

对于手机厂商来说,幸运的是,大模型手机才刚刚开始,应用开发者不希望错过机遇窗口,还有时间积攒筹码。

总结一下,2023是大模型手机的修炼之年,三座基建、一个入口、一群人,都逐渐汇聚在端侧,变化或许在瞬息之间。

当大模型的杀手级应用步入手机,让用户发出“哇”的尖叫。这个大模型手机的“aha时刻”,说明移动互联网的下一个春天,真的来临了。

【新澳论坛免费资料】 【2024正版资料免费提拱】 【新澳天天开奖资料大全旅游攻略】 【新奥彩资料免费提供】 【六盒大全经典全年资料2024年版】 【澳门准六肖期期准免费公开】 【2024新澳资料免费资料大全】 【澳门管家婆四肖选一肖期期准】 【新澳免费资料大全精准版】 【2024年天天彩免费资料】 【2024澳门正版资料大全】 【新澳门彩历史开奖记录走势图】 【新澳免费资料】 【2024新澳免费资料大全】
【7777788888澳门开奖2023年一】 【2024全年資料免費】 【新澳2024最新资料】 【正版澳门天天彩】 【7777788888马会传真】 【澳门正版资料免费,公开】 【新澳门资料大全正版资料六肖】 【新澳2024年正版资料】 【新奥天天免费资料公开】 【新澳资料大全正版资料2024年免费】 【新澳特精准资料】 【新澳门彩历史开奖结果走势图表】 【2024年新澳正版资料免费大全】 【澳门新三码必中一免费】

下载中心

视频封面

视频名称:重磅!6万亿元!全国人大常委会审议通过近年来力度最大化债举措

大小: 4.3GB 下载:(657023) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:超强台风”银杏"将登陆或擦过菲律宾沿海 之后移入南海海面拍唐伯虎时,向华强让巩俐和周星驰先好好玩,殊不知他别有用心!

大小: 3.3GB 下载:(664759) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:科技视讯30人报道团队现身!直击第十五届中国珠海航展人参果要削皮吃吗?要放冰箱保存吗?分享人参果的吃法和储存技巧

大小: 2.9GB 下载:(599896) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:从主客旅游视角观察真实性,可以将真实性分成三个维度()。

大小: 2.6GB 下载:(121516) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:智库要览丨扩大消费的重点应放在发展型消费

大小: 6.9GB 下载:(88345) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“短视频说书”各显神通 成了年轻人“蹲更新”的读书搭子

大小: 2.5GB 下载:(965323) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:震荡上行趋势逐步形成,大A这波牛市真的稳了

大小: 2.2GB 下载:(350576) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:共话文化遗产保护传承 2024中华文化天府论坛开幕

大小: 1.1GB 下载:(703927) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:从17999元跌至4138元,100倍变焦+55W,从高端市场跌至低端市场炖牛肉:怎样炖鲜嫩不老硬?大厨教你5个小窍门,肉嫩味鲜还不腥

大小: 8.5GB 下载:(432222) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:古力娜扎穿搭再惹争议,真空上阵放飞自我,重开评论区表示要面对

大小: 5.8GB 下载:(680319) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:武刚任农业银行首席风险官 曾任该行审计局局长

大小: 8.1GB 下载:(568900) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:方正证券:大资金挽救大盘于危难,2760点基本可确定为阶段低点,盘中震荡还会加剧夫妻相有多重要?看清黄轩女友的长相,才知道黄轩黄晓明审美差距

大小: 1.8GB 下载:(444550) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:交个朋友,不需要罗永浩了?

大小: 9.4GB 下载:(230496) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:怎么样的生活才配得上你自己一路的颠沛流离?

大小: 8.8GB 下载:(77119) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:姜锋:消除中欧隔阂需要定力和时间

大小: 9.5GB 下载:(931131) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:不当面跟任何人发生冲突,即使不喜欢的人,明面上也要保持和气

大小: 3.6GB 下载:(690359) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:进博会成全球新品入华首站,电商、服务平台助力展品变商品

大小: 7.1GB 下载:(837831) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:正式批准10万亿,政府化债到底是个啥意思?

大小: 8.6GB 下载:(996904) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:麦琳好妻子人设被拆穿!张泉灵抛出一个问题,直接让她暴露真面目厨房里一个调料,顿顿少不了,却导致中国人死亡率全球第一

大小: 5.3GB 下载:(834386) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《明朝那些事儿》:在自己的节奏里,过好这一生

大小: 2.1GB 下载:(798120) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:黄磊现场玩梗:饭不是我做的放心吃 喊话台下何炅,何老师别吃啊

大小: 6.4GB 下载:(866925) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:老人买药摔倒,家属称错过最佳抢救时间,律师:药店无需担责

大小: 7.5GB 下载:(140698) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:火影忍者十大幻术排行,最后一种玄乎到看不懂

大小: 6.3GB 下载:(315656) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:发挥双层经营体制优势建设农业强国

大小: 6.4GB 下载:(146349) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:黄金一夜大涨50美元 互联网券商高管有望竞争美国SEC主席 环球市场

大小: 4.5GB 下载:(787150) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:叮咚买菜翻红,但下结论还有点早3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 5.8GB 下载:(645305) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:A股全线飘红!创业板指、科创50指数大涨超4%,北证50放量飙涨812%,军工股大涨!机构解读

大小: 2.2GB 下载:(446316) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特斯拉市值重上1万亿美元!马斯克身家超3000亿美元

大小: 1.9GB 下载:(996707) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:学者解析中非地方合作机遇:分享人才培养经验,中企创造就业

大小: 7.2GB 下载:(514234) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:免票,优惠!发型师晓华爆火,怀化文旅的宠粉福利来了!情满九道弯:杨母死也想不到,拼命撮合的赵亚静,其实是朵白莲花

大小: 8.7GB 下载:(319186) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:卫生巾长度被曝“缺斤少两实测调查多家品牌踩着国家标准下限生产

大小: 2.9GB 下载:(348022) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看89条评论

李彦明

1秒前

2023即将尾声,但大模型手机的热闹方兴未艾,是时候总结性地聊一聊,手机和大模型结合的深层逻辑,目前各家的差异化打法和挑战是什么,以及未来会如何发展。

Courteau

2分钟前

这个大模型手机的“aha时刻”,说明移动互联网的下一个春天,真的来临了。

张新宇

4天前

这些功能对于大众用户来说,还是太过于基础了。

发表您的评论: