查看所有洞察

设备端 AI 会改变什么、不会改变什么

推理在设备上完成,不等于 App 的数据不会离开设备。本地处理到底解决了什么、没解决什么,以及评估任何工具时该向厂商问的五个问题。

设备端 AI 会改变什么、不会改变什么

评估一款销售用的 AI 工具时,第一件要确认的事是推理在哪里执行。

在此之前,先把三件经常被混为一谈的事分开:

需要区分的内容
1. 推理的执行位置AI 的分析处理是在设备上完成,还是在外部服务器上完成
2. App 整体的数据处理方式包括保存、同步、备份、使用情况统计在内的完整数据流向
3. 内容是否会到达第三方云端 LLM被分析的内容是否会发送到外部的模型服务

第 1 项在设备上完成,并不意味着第 2 项也止于设备。

经常能看到这样的说法:「因为是设备端 AI,所以数据不会外流」。这句话并不准确:推理的位置,和 App 的数据设计,是两件不同的事。

下面说明本地处理解决了什么、没解决什么,以及在决定之前该向厂商确认些什么。


为什么这个区分比功能更早需要确认

越来越多的企业,由信息部门、法务或合规部门制定了生成式 AI 的使用规范。其中不少会限制把敏感信息——客户名称、谈判内容、报价条件——输入外部服务。

在这种情况下,评估一款工具的标准会从功能转向前置条件:再好用的工具,如果公司的规范不允许,它根本进不了比较的名单。

所以,在评估功能之前,先要知道被分析的信息会去哪里。

两点提醒:

  • 规范因企业而异:推理在本地完成,不代表使用就自动被允许;
  • 各地区的数据保护制度也不同,而评估合规的是使用者所在的组织,不是工具的提供方。

云端 LLM 推理 vs 设备端推理

第三方云端 LLM设备端模型
被分析的内容发送到外部服务在设备上处理
网络需要连接推理本身不需要
推理成本通常按 token 计费该推理路径不产生 token 计费
模型规模大受限于设备能运行的规模
可处理的范围广取决于模型规模与设计用途
更新由服务方更新取决于操作系统与模型的提供情况

设备端处理并不是在所有方面都更好。模型规模有限,能处理的任务也有限。这是一个有取舍的选择。


Apple Foundation Models 是什么

Apple Foundation Models 是让 App 访问设备上运行的语言模型的机制,该模型是 Apple Intelligence 的核心。它随 iOS 26 推出,可调用一个约 30 亿参数规模的语言模型。

这个模型有明确的设计用途:摘要、信息提取、文本理解与改写、简短对话。它不是作为通用知识问答助手设计的。

使用有前提条件:

  • 设备支持 Apple Intelligence;
  • 设备上已启用 Apple Intelligence;
  • 操作系统版本符合要求;
  • 该模型当前处于可用状态。

也就是说,并不是任何一台 iPhone 都能无条件使用。App 需要先确认可用性,再提供相应功能。

设备与系统的要求会随苹果的发布情况变化,且不同地区的提供状况可能不同。最新条件请以苹果官方文档为准。


最容易被误解的一点:推理位置不决定数据处理方式

这是本文最重要的部分。

App 处理数据的路径不止推理一条。至少下面四条需要分别确认:

路径内容由设备端推理决定吗
推理AI 分析在哪里执行是
保存输入的信息保存在哪里否
同步与备份是否有多设备同步或云端备份否
统计与崩溃报告是否发送使用情况数据或崩溃日志否

「AI 分析在设备端执行」这句话,说的是第一行。对后面三行,它什么也没说。

因此,下面这些说法不成立:

  • ❌ 是设备端 AI,所以数据完全不会外流
  • ❌ 因为是本地处理,所以合规有保障
  • ❌ 不用云端,所以信息泄露风险为零

成立的,是有明确范围限定的说法:

  • ✅ 相关的 AI 分析处理可以由设备上的模型完成
  • ✅ 该处理可以不发送给第三方云端 LLM
  • ✅ 它支持一种减少不必要外部传输、注重隐私的架构

「注重隐私」不等于「合规」。 是否符合适用的法规与公司内部规范,需要每个组织自行评估。


向厂商提问的五个问题

由上可知,评估任何一款带 AI 的销售工具时,起决定作用的不是宣传文案,而是厂商能不能回答这五个问题。

1. AI 推理在哪里执行?所有功能都是吗? 可能只有部分功能在本地,其余仍在云端。需要确认「支持设备端」这句话的实际覆盖范围。

2. 输入的信息保存在哪里? 仅在设备上,还是在开发方的服务器上,或是云端存储。

3. 有没有多设备同步或备份?如果有,数据经过哪里? 同步很方便,同时也增加了数据流经的路径。两件事都要问:有没有,以及经过哪里。

4. 使用情况统计和崩溃报告中,会发送哪些信息? 几乎所有 App 都会采集某些指标。要点在于这些上报中是否可能包含客户信息。

5. 以上内容是否写在公开文档里? 口头说明不够,应当在隐私政策或产品文档中有明确记载。

对这五个问题给不出清晰回答的工具,无论功能多好,都很难通过公司内部的审核。


本地处理实际带来了什么

上面谈的都是局限。在正确理解这个区分之后,好处也是实在的。

被分析的内容不会到达第三方 LLM 服务。 谈判记录、参与人的姓名、他们提出的顾虑——处理这些信息时,可以不发送给外部模型。而公司内部规范争议的焦点,往往正是这条路径。

该推理路径不产生按量计费。 调用云端 LLM 的接口通常按 token 计费,设备端推理不产生这笔费用。这不等于使用 AI 是免费的,而是说这一条路径上没有 token 计费。

不依赖网络连接。 推理本身不需要联网。这会影响出差途中、或信号不稳定的场所的使用体验。

同时也有限制。 模型规模受限于设备能运行的范围。需要一次性处理很长的上下文,或者进行高度专业的推理时,云端大模型可能更合适。此外,没有支持的设备,功能本身就无法使用。


VINEQRA 的定位

VINEQRA 是一款面向销售个人的 iOS AI CRM,适合负责周期长、涉及多个关键人的项目的销售。

在支持的设备与地区,相关 AI 分析可以通过 Apple Foundation Models,在设备端由系统语言模型完成。这是一种可以不把该处理发送给第三方云端 LLM 的设计。

被分析的内容是商机的上下文:

跟进记录 + 关键人 + 决策节点 + 卡点 → 下一步最佳行动(Next Best Action)

(VINEQRA Opportunity Context Model)

这个结构在销售工作中怎么用,见++CRM 与商机推理++。

基本原则

VINEQRA 负责建议,决定权在销售。

无论在哪里执行,AI 的输出都是值得考虑的候选项,不是结论。


常见问题

如果 AI 是本地运行的,是否符合我们公司的 AI 使用规范? 无法一概而论,因为规范各不相同。很多规范关注的是信息是否发送到外部服务,但也有一些会规定数据保存在哪里,甚至规定 App 本身能否使用。建议先对照本文的五个问题,再向公司相应部门确认。

信息泄露的风险会消失吗? 不会。只是少了一条路径。设备丢失、账号认证的管理、保存位置的设置,都是另外的路径,各有各的风险。

性能会不会比云端 AI 差? 取决于用途。本地模型规模有限,在需要广泛知识或超长上下文时,云端大模型更有优势。而对有限上下文做摘要、提取和理解,正是设备端模型的设计用途。

是不是不支持的设备就用不了? 使用 Apple Foundation Models 的功能,需要设备支持 Apple Intelligence 并已启用。由于要求可能变化、且各地区的提供状况可能不同,请以苹果官方文档为准。

「注重隐私的架构」到底保证了什么? 它不保证任何事,只是描述一种以减少不必要外部传输为目标的设计取向。是否符合法规或公司规范,要由使用的组织自行评估。对含糊其辞地宣称「安全」的说明,应当保持警惕。


要确认的是「在哪里推理」,以及除此之外的一切

设备端 AI 在处理商业信息时是一个有意义的选项。但它解决的是推理路径上的问题,而不是数据处理的全部。

一个产品有没有把这个区分讲清楚,本身就是判断其可信度的指标。用含糊的说法宣称「安全」的解释,可能正掩盖着应该被问出来的问题。

VINEQRA 在支持的设备与地区,通过 Apple Foundation Models 在设备端执行相关 AI 分析,并从商机上下文中提示未满足的条件与值得考虑的行动。

在自己的设备上试试商机推理。 → 前往 App Store 下载 VINEQRA