天富注册智能工业设备设计有限公司欢迎您!  客服热线:18637890085
离线智能:何时能跨越云端实现设备端的深度智

离线智能:何时能跨越云端实现设备端的深度智

作者:admin    来源:未知    发布时间:2025-07-28 07:13    浏览量:

  傲世皇朝注册在人工智能(AI)领域,过去两年里,关于云端与端侧模型的讨论热度不减。一个理想化的愿景是,随着轻量化模型能力的增强,AI将不再依赖云端,实现每台设备的永不离线智能。然而,现实却呈现出另一番景象:尽管AI玩具和眼镜等新产品层出不穷,其核心智能功能仍高度依赖云端。

  然而,在今年的世界人工智能大会(WAIC)上,一家名为RockAI的公司展示了其在端侧智能领域的突破性进展。RockAI致力于推动真正的离线智能,他们选择了一条少有人走的路,通过大胆舍弃主流的Transformer架构,成功在端侧部署了高性能的AI模型。

  RockAI的联合创始人邹佳思在接受采访时表示,实现离线智能面临两大挑战:算力和功耗。大模型在设备上运行需要高算力配置,而大多数智能设备并不具备这样的条件。功耗问题也是一大障碍,尤其是在手机上部署大模型时,设备发热严重,影响用户体验。

  邹佳思进一步解释,Transformer架构之所以在云端表现出色,是因为其革命性的注意力机制。但这种机制在端侧设备上却显得水土不服,因为它需要全局计算,导致算力需求极高。为了解决这个问题,RockAI重新设计了一种更适合端侧设备的架构,称为Yan架构。

  Yan架构的核心创新在于抛弃了Transformer的高耗能注意力机制,转而采用更轻的特征提取和分区激活机制。这种架构不仅降低了算力需求,还显著降低了功耗。Yan架构还实现了多模态能力,能够在本地实现真正的“记忆”,动态调整权重,长期保留并更新用户偏好。

  邹佳思指出,离线智能的必要性体现在多个方面。首先,它提供了绝对的隐私安全,用户的敏感数据无需上传云端。其次,离线智能能够实现极致的实时交互,满足毫秒级延迟需求。从成本角度来看,云端API的价格虽然不断下降,但海量设备部署的成本依然高昂。而离线智能则能够显著降低后续使用成本。

  对于AI眼镜和玩具等热门领域,邹佳思表示,虽然市场对这些设备充满了想象力,但硬件的物理现实却极为残酷。目前市面上的主流方案在算力上无法满足AI模型的需求。因此,他们正在探索两条路径:一是通过手机算力辅助眼镜实现AI功能;二是与有魄力的合作伙伴一起,尝试在下一代眼镜上采用更强大的芯片。

  邹佳思还提到,海外市场对离线智能的需求更为迫切。这主要源于文化上的隐私执念、客观存在的网络鸿沟以及更高的人力成本催生的效率需求。因此,RockAI选择通过赋能中国出海企业,将技术带给全球用户。

  面对未来硬件性能的提升,邹佳思表示,他们并不担心“小而美”的优势会消失。相反,他们相信随着硬件底座的增强,Yan架构大模型同样能够发挥出更大的潜力。而他们的护城河则在于对端侧智能的深刻理解和持续创新。

  RockAI的故事告诉我们,尽管端侧智能面临诸多挑战,但只要有足够的创新和坚持,就能够找到破局之道。随着技术的不断进步和市场的逐步成熟,离线智能的未来值得期待。

  IT之家 7 月 27 日消息,今日在 2025 世界人工智能大会期间的商汤大模型论坛上,商汤科技正式发布日日新 V6.5大模型以及“悟能”具身智能平台。 据悉,日日新 V6.5 大模型在推理方面有较大程度…

  7月27日,在“大爱无疆•模塑未来”WAIC 2025大模型论坛上,商汤科技重磅发布「悟能」具身智能平台。 「悟能」具身智能平台以商汤具身世界模型为核心引擎,依托商汤大装置提供端侧和云侧算力支持,能够为机器人…

  WAIC 2025:京东JoyAI大模型升级,全方位展现智能化解决方案新高度

  京东在现场官宣全新升级大模型品牌JoyAI,并全方位展示了京东在多场景的智能化解决方案。在今年WAIC上,全新升级的京东JoyAI大模型,从调度万亿级供应链的智能体,到服务百万商家的AI应用,京东正在用实践经…

  WAIC 2025:京东JoyAI大模型升级,全方位展示智能化解决方案新高度

  京东在现场官宣全新升级大模型品牌JoyAI,并全方位展示了京东在多场景的智能化解决方案。在今年WAIC上,全新升级的京东JoyAI大模型,从调度万亿级供应链的智能体,到服务百万商家的AI应用,京东正在用实践经…

  赵翔指出,当下已进入第四次人工智能浪潮的深水区,随着多模态、长链推理等关键技术持续突破,大模型能力不断拔高,但更值得关注的是,大模型如何与产品深度结合,服务真实场景,创造看得见的用户价值。 他指出,随着AI…

  天翼云以自主可控的基础软硬件为核心,基于紫金算力架构国产化硬件、自研操作系统CTyunOS、自研分布式云操作系统TeleCloudOS一体化融合体系,构建了高性能、高算效、高稳定性的全国产化算力底座,推动…

  中国信息通信研究院最新发布的《云计算蓝皮书(2025年)》显示,随着大模型技术的突破性进展,云计算已从单纯的基础设施升级为“智能生产力引擎”,在全球范围内掀起新一轮技术融合与产业变革浪潮。这一增速背后,是“中…

  人工方式,因对使用者在专利预审专业技能方面的要求相对高,所以人工方式仅适用于专业人士,对于非专业人士不友好;而大数据人工智能方式,因对使用者在专利预审专业技能方面的要求相对低,所以大数据人工智能方式适用于所…

  华为展台全方位展现昇腾算力底座的创新能力、训练及推理解决方案、开源开放的软硬件生态,以及在互联网、运营商、金融、能源、教育科研等千行万业的丰富实践,向全球人工智能产业伙伴充分展示昇腾持续取得从底层技术创新到全…

  阿里开源Qwen3-Coder,AI编程能力媲美Claude4,新手一天顶资深一周

  荣耀X70评测:耐用新标杆,IP69K防水抗摔,8300mAh电池续航无忧

  阿里开源480B参数编程模型Qwen3-Coder,超越Kimi K2,强化学习训练细节公开

  谷歌发布Gemini for Education:免费AI工具助力全球教育创新与公平

  华为鸿蒙5.1系统7月31日升级:Pura80领衔,30余款设备迎新体验

  WAIC 2025:京东JoyAI大模型升级,全方位展现智能化解决方案新高度

  WAIC 2025:京东JoyAI大模型升级,全方位展示智能化解决方案新高度

  本网站LOGO小熊标志受版权保护,版权登记号:鲁作登字-2015-F-025467,未经ITBEAR官方许可,严禁使用。

相关新闻推荐

在线客服 :

服务热线:18637890085

电子邮箱: 天富平台注册

公司地址:东莞市天富智能工业设备公司

天富平台注册 智能工业设备设计有限公司创建于2006年,位于中国制造业名城东莞长安。工厂占地面积2000平方米, 天富注册 平台是一家专业从事各类五金...

友情链接:
Copyright © 2022-2029 天富注册智能工业设备设计有限公司 版权所有 sitemap地图 rss地图 baidumap地图