设备端 AI 会改变什么、不会改变什么
评估一款销售用的 AI 工具时,第一件要确认的事是推理在哪里执行。
在此之前,先把三件经常被混为一谈的事分开:
| 需要区分的 | 内容 |
|---|---|
| 1. 推理的执行位置 | AI 的分析处理是在设备上完成,还是在外部服务器上完成 |
| 2. App 整体的数据处理方式 | 包括保存、同步、备份、使用情况统计在内的完整数据流向 |
| 3. 内容是否会到达第三方云端 LLM | 被分析的内容是否会发送到外部的模型服务 |
第 1 项在设备上完成,并不意味着第 2 项也止于设备。
经常能看到这样的说法:「因为是设备端 AI,所以数据不会外流」。这句话并不准确:推理的位置,和 App 的数据设计,是两件不同的事。
下面说明本地处理解决了什么、没解决什么,以及在决定之前该向厂商确认些什么。
为什么这个区分比功能更早需要确认
越来越多的企业,由信息部门、法务或合规部门制定了生成式 AI 的使用规范。其中不少会限制把敏感信息——客户名称、谈判内容、报价条件——输入外部服务。
在这种情况下,评估一款工具的标准会从功能转向前置条件:再好用的工具,如果公司的规范不允许,它根本进不了比较的名单。
所以,在评估功能之前,先要知道被分析的信息会去哪里。
两点提醒:
- 规范因企业而异:推理在本地完成,不代表使用就自动被允许;
- 各地区的数据保护制度也不同,而评估合规的是使用者所在的组织,不是工具的提供方。
云端 LLM 推理 vs 设备端推理
| 第三方云端 LLM | 设备端模型 | |
|---|---|---|
| 被分析的内容 | 发送到外部服务 | 在设备上处理 |
| 网络 | 需要连接 | 推理本身不需要 |
| 推理成本 | 通常按 token 计费 | 该推理路径不产生 token 计费 |
| 模型规模 | 大 | 受限于设备能运行的规模 |
| 可处理的范围 | 广 | 取决于模型规模与设计用途 |
| 更新 | 由服务方更新 | 取决于操作系统与模型的提供情况 |
设备端处理并不是在所有方面都更好。模型规模有限,能处理的任务也有限。这是一个有取舍的选择。
Apple Foundation Models 是什么
Apple Foundation Models 是让 App 访问设备上运行的语言模型的机制,该模型是 Apple Intelligence 的核心。它随 iOS 26 推出,可调用一个约 30 亿参数规模的语言模型。
这个模型有明确的设计用途:摘要、信息提取、文本理解与改写、简短对话。它不是作为通用知识问答助手设计的。
使用有前提条件:
- 设备支持 Apple Intelligence;
- 设备上已启用 Apple Intelligence;
- 操作系统版本符合要求;
- 该模型当前处于可用状态。
也就是说,并不是任何一台 iPhone 都能无条件使用。App 需要先确认可用性,再提供相应功能。
设备与系统的要求会随苹果的发布情况变化,且不同地区的提供状况可能不同。最新条件请以苹果官方文档为准。
最容易被误解的一点:推理位置不决定数据处理方式
这是本文最重要的部分。
App 处理数据的路径不止推理一条。至少下面四条需要分别确认:
| 路径 | 内容 | 由设备端推理决定吗 |
|---|---|---|
| 推理 | AI 分析在哪里执行 | 是 |
| 保存 | 输入的信息保存在哪里 | 否 |
| 同步与备份 | 是否有多设备同步或云端备份 | 否 |
| 统计与崩溃报告 | 是否发送使用情况数据或崩溃日志 | 否 |
「AI 分析在设备端执行」这句话,说的是第一行。对后面三行,它什么也没说。
因此,下面这些说法不成立:
- ❌ 是设备端 AI,所以数据完全不会外流
- ❌ 因为是本地处理,所以合规有保障
- ❌ 不用云端,所以信息泄露风险为零
成立的,是有明确范围限定的说法:
- ✅ 相关的 AI 分析处理可以由设备上的模型完成
- ✅ 该处理可以不发送给第三方云端 LLM
- ✅ 它支持一种减少不必要外部传输、注重隐私的架构
「注重隐私」不等于「合规」。 是否符合适用的法规与公司内部规范,需要每个组织自行评估。
向厂商提问的五个问题
由上可知,评估任何一款带 AI 的销售工具时,起决定作用的不是宣传文案,而是厂商能不能回答这五个问题。
1. AI 推理在哪里执行?所有功能都是吗? 可能只有部分功能在本地,其余仍在云端。需要确认「支持设备端」这句话的实际覆盖范围。
2. 输入的信息保存在哪里? 仅在设备上,还是在开发方的服务器上,或是云端存储。
3. 有没有多设备同步或备份?如果有,数据经过哪里? 同步很方便,同时也增加了数据流经的路径。两件事都要问:有没有,以及经过哪里。
4. 使用情况统计和崩溃报告中,会发送哪些信息? 几乎所有 App 都会采集某些指标。要点在于这些上报中是否可能包含客户信息。
5. 以上内容是否写在公开文档里? 口头说明不够,应当在隐私政策或产品文档中有明确记载。
对这五个问题给不出清晰回答的工具,无论功能多好,都很难通过公司内部的审核。
本地处理实际带来了什么
上面谈的都是局限。在正确理解这个区分之后,好处也是实在的。
被分析的内容不会到达第三方 LLM 服务。 谈判记录、参与人的姓名、他们提出的顾虑——处理这些信息时,可以不发送给外部模型。而公司内部规范争议的焦点,往往正是这条路径。
该推理路径不产生按量计费。 调用云端 LLM 的接口通常按 token 计费,设备端推理不产生这笔费用。这不等于使用 AI 是免费的,而是说这一条路径上没有 token 计费。
不依赖网络连接。 推理本身不需要联网。这会影响出差途中、或信号不稳定的场所的使用体验。
同时也有限制。 模型规模受限于设备能运行的范围。需要一次性处理很长的上下文,或者进行高度专业的推理时,云端大模型可能更合适。此外,没有支持的设备,功能本身就无法使用。
VINEQRA 的定位
VINEQRA 是一款面向销售个人的 iOS AI CRM,适合负责周期长、涉及多个关键人的项目的销售。
在支持的设备与地区,相关 AI 分析可以通过 Apple Foundation Models,在设备端由系统语言模型完成。这是一种可以不把该处理发送给第三方云端 LLM 的设计。
被分析的内容是商机的上下文:
跟进记录 + 关键人 + 决策节点 + 卡点 → 下一步最佳行动(Next Best Action)
(VINEQRA Opportunity Context Model)
这个结构在销售工作中怎么用,见++CRM 与商机推理++。
基本原则
VINEQRA 负责建议,决定权在销售。
无论在哪里执行,AI 的输出都是值得考虑的候选项,不是结论。
常见问题
如果 AI 是本地运行的,是否符合我们公司的 AI 使用规范? 无法一概而论,因为规范各不相同。很多规范关注的是信息是否发送到外部服务,但也有一些会规定数据保存在哪里,甚至规定 App 本身能否使用。建议先对照本文的五个问题,再向公司相应部门确认。
信息泄露的风险会消失吗? 不会。只是少了一条路径。设备丢失、账号认证的管理、保存位置的设置,都是另外的路径,各有各的风险。
性能会不会比云端 AI 差? 取决于用途。本地模型规模有限,在需要广泛知识或超长上下文时,云端大模型更有优势。而对有限上下文做摘要、提取和理解,正是设备端模型的设计用途。
是不是不支持的设备就用不了? 使用 Apple Foundation Models 的功能,需要设备支持 Apple Intelligence 并已启用。由于要求可能变化、且各地区的提供状况可能不同,请以苹果官方文档为准。
「注重隐私的架构」到底保证了什么? 它不保证任何事,只是描述一种以减少不必要外部传输为目标的设计取向。是否符合法规或公司规范,要由使用的组织自行评估。对含糊其辞地宣称「安全」的说明,应当保持警惕。
要确认的是「在哪里推理」,以及除此之外的一切
设备端 AI 在处理商业信息时是一个有意义的选项。但它解决的是推理路径上的问题,而不是数据处理的全部。
一个产品有没有把这个区分讲清楚,本身就是判断其可信度的指标。用含糊的说法宣称「安全」的解释,可能正掩盖着应该被问出来的问题。
VINEQRA 在支持的设备与地区,通过 Apple Foundation Models 在设备端执行相关 AI 分析,并从商机上下文中提示未满足的条件与值得考虑的行动。
在自己的设备上试试商机推理。 → 前往 App Store 下载 VINEQRA