端侧AI经过两年多的发展,大模型正向更轻量化方向演进 。当前 ,3B模型正逐步取代7B模型,成为端侧AI应用的主流选择。
在2025 vivo开发者大会上,vivo发布了专为端侧智能体打造的3B多模态推理大模型 ,该模型具备128K长上下文处理能力,极限出词速度超过每秒200个token。OpenAI也持续布局轻量化,不久前推出的轻量语音模型GPT-realtime-mini ,适用于移动端与边缘设备 。
展望未来,手机AI与操作系统的深度融合,将为用户打造高度“个人化 ”的服务体验。然而,实现这一愿景也对手机的算力、内存和功耗提出了更高要求。此外 ,端侧AI还需进一步融入日常刚性场景,并解决安全授权等行业标准不完善等问题 。
端侧大模型从7B走向3B
vivo AI全球研究院院长周围在接受《科创板日报》采访时表示,今年vivo重点聚焦于3B模型上进行各种多模态的实现和聚合。相较13B和7B模型 ,3B模型所占用的内存更少,对高端机性能影响更小。
“去年我们做了13B和7B端侧模型的实现,发现其实只有7B勉强能上线 ,但是7B模型在手机上跑得不太理想,因为占的内存比较大。直到今年发现3B端侧模型效果不错,我们把内存做到只占2G ,并大幅度增强推理能力,几乎可以用于做意图中控和任务拆解的中台 。”
除了3B模型外,vivo还在探索更低功耗的1B模型。“3B的模型在运行时要750毫安(功耗)。而端侧大模型对手机的应用远比我们想象要广得多 ,需要一个大模型24小时都在线,实现对本机的实时监测和记忆,这可以交给1B模型 。”
周围透露,vivo正在推动图像识别 、声音识别 ,包括同传、方言识别等全部端侧化,这对于手机内存提出了更高的要求。“端侧化有一个问题,就是平台的算力要够 ,内存配置要够,至少达到8G以上的配置。如果4G内存的中低端手机,用户可能用的是云端功能 ,而云端功能在某种意义上是要消耗大量的成本 。 ”
模型参数量与性能指标如何取得平衡?
一名手机业内人士表示,大模型落地到端侧,最关键的难点在于模型的参数量与性能指标之间的平衡。“手机端的硬件资源非常有限 ,包括芯片算力、内存都很有限。而手机的功耗也是非常重要的指标 。模型参数量越大,就意味着消耗的计算量越大,对功耗也就越高。”
“如何平衡模型效果与手机上的这些体验指标 ,是一大问题。如果把模型参数量选的非常大,那么计算量就很高,直接带来的问题是速度变慢,用户体验的延迟就会非常久 。另外 ,内存占用也会很大,比如7B模型的内存占用可能在 3-4GB 左右,这会导致系统的流畅性会受到一些影响 ,功耗随之升高,手机掉电非常快,发热也会变严重。”上述业内人士称。
《科创板日报》注意到 ,为了推动AI落地,苹果最新发布的iPhone 17系列的Air 、Pro、Pro Max三款机型升级至12GB,以实现更强大的端侧AI支持。
IDC中国研究经理郭天翔表示 ,手机厂商这几年已逐渐从最开始的7B端侧模型,转换到3B模型,原因就在于该量级的模型对算力的要求、功耗 、输出速度等可以获得更好的均衡 。
AI与操作系统逐步融合
除了vivo外 ,OPPO、荣耀等厂商也在积极推动端侧AI的落地。荣耀在今年7月发布的Magic V5是搭载了阿里通义大模型和飞猪旅行、高德地图等AI智能体手机。
周围认为,端侧AI的终局是Agent(智能体) 。vivo希望进一步深化AI和操作系统的融合,深度理解用户个人情景和偏好,创造“个人化 ”服务体验。
vivo AI产品总经理关岩冰透露 ,目前正在与高德、百度 、支付宝、飞猪等互联网企业在智能体方面开展合作,未来一个月原系统 6(OriginOS 6)会有大量智能体逐步上线。
不过,智能体在安全授权方面仍存在权责界定不清的问题 ,尤其在用户隐私保护、数据使用规范以及权限边界划分等方面尚缺乏明确标准,相关行业规范仍有待逐步建立与完善 。
“当智能体,特别是手机智能体要做任务的时候 ,如果只做厂商自己的功能和应用,比如说秀一下是否流畅 、调一下亮度、连接一下Wi-Fi。都没有问题,但是想跨应用 ,那么安全授权的标准仍有待探讨。我们作为终端厂商,也在积极推动行业标准的建立 。”周围说。
此外,关岩冰也坦言 ,智能体在响应用户需求方面,尚未能有效解决用户的实际问题。“我们正将资源和精力集中于为用户解决问题的场景上,并持续加大投入 。”
郭天翔认为,端侧模型的应用将主要通过Agent来体现 ,但是对于消费者来说使用感知依然不是特别明确,并没有完全融入到日常的刚性使用场景中。他表示,未来手机AI 将与 OS完全融合 ,由一个经过训练的个性化的私人Agent作为手机使用者的助手,可以给使用者主动提出建议,执行多重复杂任务。
(文章来源:科创板日报)
股市配资app官网下载安装:股票开户那个手续费低-A股利好传来!AI大牛股集中发布业绩!
新手开户可以买什么股票:如何网上开户买股票-AI医疗重磅!华为+瑞金医院宣布 开源核心模型 概念股曝光
公司杠杆率:手机炒股票需要下载什么软件-为机器人改筋骨换皮肉 塑料企业扎堆布局具身智能“轻量化”已小批量供货
股市配资行情:股票开户哪家手续费低-官宣!华为、苹果将连放大招!iPhone17亮点预测 库克凌晨发文!余承东剧透新款三折叠手机外观细节
正规配资平台开户:股票炒股软件手机app下载-美宣布对建材、家具等征收新关税 外交部:关税战、贸易战没有赢家
开户买股票佣金是多少:好用的股票软件排名-从智能眼镜到具身智能 AI全面走向端侧
汇盈策略-汇盈策略官网-股票配资哪家好提示:文章来自网络,不代表本站观点。
汇盈策略-汇盈策略官网-股票配资哪家好㉖股票配资平台应定期向投资者披露投资运作情况和风险状况。
宏观要闻市场监管总局发布《公平竞争审查条例实施办法》市场监管总局发布《公平竞争审查条例实施办法》,将于4...
央行公告,为保持银行体系流动性充裕,更好满足不同参与机构差异化资金需求,自本月起中期借贷便利(MLF)将采用固定数量、利...
淳厚现代服务业A(基金代码:011349)是淳厚基金旗下的一只股票型基金,成立于2021年8月24日。现任基金经理薛莉丽...
在乡村振兴的时代浪潮中,棕榈生态城镇发展股份有限公司(简称 “棕榈股份”)积极响应国家号召,不断探索创新发展路径。4月1...
界面新闻记者| 杜萌4月7日,全球市场迎来“黑色星期一”。以亚洲市场为例,当日上证指数下跌7.34%,...
界面新闻编辑|江怡曼近日,多家中小银行近期纷纷宣布下调部分存款产品利率。部分银行5年期存款利率跌至2.5%以...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出,国内经济正处于复苏通道,市场大幅...
记者辛圆给补贴、建平台,为了吸引更多高层次人才,各地纷纷放出“大招”。据央广网周一发布消息,湖...