AI资讯

后摩智能生态大会上,五位一线操盘手谈端侧 AI 商业化:安全、私域、体验是三道真实门槛

来源极客公园查看原文

速览

  • 端侧 AI 商业化由安全隐私、私域专属和体验三大需求驱动。
  • 养老场景要求数据本地处理、24 小时值守且设备静音。
  • 企业客户希望 AI 成为内部数字员工,核心数据不出边界。
  • 党政央企因涉密数据不能上互联网,本地部署是硬性前提。
  • 端侧算力面临算力、带宽、功耗的「不可能三角」。
  • 后摩 M50 已量产,可本地运行 35B 大模型。
  • 生态适配和 Day 0 模型支持是软件商的核心诉求。
  • 成本控制决定端侧 AI 能否规模化,多数企业无巨额预算。
  • 刘学鹏判断中国 AI 落地将「端侧为主,云端为辅」。
  • 工程交付的「最后一百米」是客户付费的关键。

10 月 14 日,后摩智能在北京举办生态合作伙伴大会,极客公园创始人兼 CEO 张鹏主持圆桌,与麒麟软件副总经理姚翎、聊趣智能科技创始人兼 CEO 黄隽实、罗格数据 CTO 刘学鹏、寅谱计算 CMO 陈展凌、后摩智能 AI 系统总工程师陈仲铭,围绕端侧 AI 商业化展开讨论。嘉宾们认为,客户愿意为端侧 AI 买单的核心原因集中在安全隐私、私域化专属和体验三点:养老场景要求数据本地处理且设备安静,企业客户要求 AI 成为内部数字员工而非云端服务,党政央企则因涉密数据绝对不能上互联网而必须本地部署。同时,端侧 AI 仍面临算力、带宽、功耗的「不可能三角」,以及生态适配、成本控制和规模化交付等挑战。后摩智能表示将通过开源软件、开放接口和 API 来构建生态,并规划了提升算力的 M 系列和提升带宽的新工艺路线。

关键事实

  • 10 月 14 日,后摩智能在北京举办生态合作伙伴大会,极客公园创始人兼 CEO 张鹏主持圆桌对话。
  • 圆桌嘉宾包括麒麟软件副总经理姚翎、聊趣智能科技创始人兼 CEO 黄隽实、罗格数据 CTO 刘学鹏、寅谱计算 CMO 陈展凌、后摩智能 AI 系统总工程师陈仲铭。
  • 聊趣智能在上海一家养老机构落地「数字家人」场景,因隐私敏感和 24 小时值守需求,采用后摩芯片实现本地算力。
  • 罗格数据今年落地多家央企和上市公司客户,财税场景中发票、财报和订单数据必须专属化处理。
  • 麒麟软件客户多为党政、央企关键岗位,姚翎强调涉密数据绝对不能部署在互联网上,本地安全是前提。
  • 后摩智能已量产 M50 芯片,可在本地跑通 35B 大模型;下一代 A20 和 M60 芯片正在规划中。

本站视角

这场圆桌透露出的关键信号是:端侧 AI 的买单逻辑已经具体到场景,而非泛泛的「隐私保护」。对做行业解决方案的团队来说,养老、财税、党政办公是三个已被验证的付费场景,但每个场景的门槛不同——养老要静音和 24 小时稳定,财税要数据打通和精准计算,党政要绝对本地隔离。这意味着通用型端侧方案很难通吃,必须针对场景做工程优化。对后摩智能这类芯片公司而言,真正的考验不是跑通 35B 模型,而是能否做到刘学鹏提出的「Day 0 适配」——模型发布当天就能在硬件上跑起来。目前国内端侧芯片的生态适配速度远落后于云端,这是软件商观望的主要原因。另外,黄隽实提到「绝大多数企业没有巨额专项资金」,成本控制直接决定商业化成败,而后摩下一代 A20 和 M60 能否在提升算力的同时控制成本,需要观察。刘学鹏「端侧为主、云端为辅」的判断带有明显的立场——他所在的公司做端侧数据工程,但这一判断忽略了云端在知识流动和协作上的不可替代性,更可能的情况是端云协同,而非主辅之分。

背景与影响

端侧 AI 指在本地设备上运行 AI 模型,而非依赖云端。过去几年行业热衷比拼模型参数和算力,但实际落地时客户更关心数据安全、响应速度和设备体验。在中国,党政央企对涉密数据有严格管控,企业也希望核心业务数据留在内部,这为端侧 AI 创造了需求。后摩智能是一家专注于存算一体技术的芯片公司,其 M 系列芯片面向端侧 AI 推理。此次生态大会旨在联合操作系统、应用、数据工程和整机集成等伙伴,推动端侧 AI 从技术演示走向规模化商业落地。这意味着端侧 AI 的竞争正从单一芯片性能转向生态协同和工程交付能力,但规模化仍需克服成本、适配和稳定性等挑战。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明