FoundationModels:设备端 LLM(iOS 26)
使用 FoundationModels 框架将苹果的设备端语言模型集成到应用中的模式。涵盖文本生成、使用 @Generable 的结构化输出、自定义工具调用以及快照流式传输——全部在设备端运行,以保护隐私并支持离线使用。
何时启用
- 使用 Apple Intelligence 在设备端构建 AI 功能
- 无需依赖云端即可生成或总结文本
- 从自然语言输入中提取结构化数据
- 为特定领域的 AI 操作实现自定义工具调用
- 流式传输结构化响应以实现实时 UI 更新
- 需要保护隐私的 AI(数据不离开设备)
核心模式 — 可用性检查
在创建会话之前,始终检查模型可用性:
核心模式 — 基础会话
指令的关键点:
- 定义模型的角色("你是一位导师")
- 指定要做什么("帮助提取日历事件")
- 设置风格偏好("尽可能简短地回答")
- 添加安全措施("对于危险请求,回复'我无法提供帮助'")
核心模式 — 使用 @Generable 进行引导式生成
生成结构化的 Swift 类型,而不是原始字符串:
1. 定义可生成类型
2. 请求结构化输出
支持的 @Guide 约束
.range(0...20)— 数值范围.count(3)— 数组元素数量description:— 生成的语义引导
核心模式 — 工具调用
让模型调用自定义代码以执行特定领域的任务:
1. 定义工具
2. 创建带工具的会话
3. 处理工具错误
核心模式 — 快照流式传输
使用 PartiallyGenerated 类型为实时 UI 流式传输结构化响应:
SwiftUI 集成
关键设计决策
最佳实践
- 在创建会话之前始终检查
model.availability——处理所有不可用的情况 - 使用
instructions来引导模型行为——它们的优先级高于提示词 - 在发送新请求之前检查
isResponding——会话一次处理一个请求 - 通过
response.content访问结果——而不是.output - 将大型输入分块处理——4,096 个令牌的限制适用于指令、提示词和输出的总和
- 对于结构化输出使用
@Generable——比解析原始字符串提供更强的保证 - 使用
GenerationOptions(temperature:)来调整创造力(值越高越有创意) - 使用 Instruments 进行监控——使用 Xcode Instruments 来分析请求性能
应避免的反模式
- 未先检查
model.availability就创建会话 - 发送超过 4,096 个令牌上下文窗口的输入
- 尝试在单个会话上进行并发请求
- 使用
.output而不是.content来访问响应数据 - 当
@Generable结构化输出可行时,却去解析原始字符串响应 - 在单个提示词中构建复杂的多步逻辑——将其拆分为多个聚焦的提示词
- 假设模型始终可用——设备的资格和设置各不相同
何时使用
- 为注重隐私的应用进行设备端文本生成
- 从用户输入(表单、自然语言命令)中提取结构化数据
- 必须离线工作的 AI 辅助功能
- 逐步显示生成内容的流式 UI
- 通过工具调用(搜索、计算、查找)执行特定领域的 AI 操作


