2026年7月9日
Xin Liu，高级研究科学家，以及 Daniel McDuff，职员研究科学家，Google Research
我们提出了 SensorFM，这是一个面向可穿戴健康数据的基础模型，基于来自五百万人的超过一万亿分钟传感器数据进行了预训练。通过协同扩展模型规模和数据量，SensorFM 学习到了人类生理学的通用表征，该表征可迁移至 35 项健康预测任务，支持标签高效的自适应和数据填充，并能作为个人健康代理（Personal Health Agent）的底层基础工具。
快速链接
Quick links
- 论文
- 代码
引言
据估计，目前有数十亿台可穿戴设备在使用中，它们精确地追踪着心率、运动、皮肤温度、血氧水平和睡眠，时间跨度从数天、数周到数月不等。这种连续、纵向的生理与行为数据流，为预防性、个性化的健康管理提供了最有前景的原始素材之一。然而，将这些低层次信号转化为有意义的洞察仍然困难重重。首先，不同个体的基线生理状况、生活方式和健康状况差异巨大，因此，对一个人预示风险的信号，对另一个人可能毫无意义。其次，训练模型所需的标签——确诊诊断、实验室结果、经过验证的问卷——成本高昂、收集缓慢，并且基本上无法回顾性地获取。因此，大多数可穿戴健康模型都是逐个结果构建的，采用定制的、有监督的流程，针对狭窄的终点，难以泛化到人类健康的广泛领域。
在《Towards a General Intelligence and Interface for Wearable Health Data》一文中，我们采取了不同的方法。我们引入了 SensorFM，一个大型传感器基础模型（Large Sensor Foundation Model），它直接从大规模人群的无标签可穿戴数据中学习。SensorFM 在来自五百万名同意参与者的超过一万亿分钟的多模态传感器信号上进行了预训练，学习了一个单一的、可复用的感知人类生理学表征——该表征可跨心血管、代谢、睡眠和心理健康，以及生活方式和人口统计学因素进行迁移。据我们所知，这是迄今为止用于训练模型的最大、最多样化的可穿戴数据集。
从一万亿分钟的传感器数据中学习
Learning from a trillion minutes of sensor data
为了构建预训练语料库，我们从五百万名同意将其数据用于健康与保健研究的人员中采样了去标识化数据，这些数据采集于 2024 年 9 月至 2025 年 9 月之间。该数据集涵盖超过 100 个国家、美国所有 50 个州以及超过 20 种 Fitbit 和 Pixel Watch 设备型号。我们从每个人身上抽取了数周的数据，产生了超过 20 亿小时——即超过一万亿分钟——的分钟级分辨率信号。
SensorFM 接收来自五种传感器模态的 34 个一分钟聚合特征：光电容积脉搏波（PPG）、加速度计、皮肤电活动（EDA）、皮肤温度和高度计。这些特征共同捕捉了在完整 24 小时窗口内的心率和心率变异性、血氧饱和度、睡眠阶段、运动和步数、皮肤电导以及温度。
SensorFM 并非依赖标签，而是通过自监督重建进行学习，其基础是 LSM-2 方法及其自适应与继承掩码（AIM）框架。这是一个关键的设计选择，因为对于可穿戴设备而言，数据缺失和碎片化（例如，一段时间内数据不可用）是常态，其原因多种多样，如传感器电源循环、设备脱离手腕、省电运行模式以及传感器开关等。传统的自监督方法假设输入是完整、不间断的，因此要么被迫填补空白（这可能会引入偏差），要么丢弃不完整的窗口（这会丢弃有价值的数据）。AIM 不走这两条路：它将现实世界中的数据缺失视为一种自然现象，并直接从不完整的记录中学习，将继承自真实数据缺失的令牌与为重建目标而人工掩码的令牌结合起来，并将两者视为等价。结果是一个在构建时就具备缺失感知能力的表征。SensorFM 不仅容忍碎片化数据，还能有效地利用它，如下面的生成结果所示。
SensorFM 通过缺失感知掩码重建，在超过一万亿分钟的多模态传感器数据上进行预训练。
模型与数据的协同扩展带来回报
Scaling model and data together pays off
任何基础模型的核心问题都是规模是否能转化为能力。我们进行了一系列系统的扩展实验，涵盖了预训练数据量（从大约 200 万到 20 亿传感器小时）和模型大小（从 10 万到 1 亿参数）四个数量级的变化。
结果是一个清晰、令人鼓舞的信号：预训练损失随着数据和容量的增长而可预测地下降，并且——关键的是——这些收益会传递到下游健康任务。最大的模型（SensorFM-B）在完整的五百万人群语料库上训练，其重建损失比最小的变体降低了 31%，并在分类任务上平均提升了 9% 的性能（AUC），在回归任务上平均提升了 21% 的性能（皮尔逊系数）。
最大的改进来自于同时扩展这两个维度。按比例增加数据和容量会在生成式预训练和判别式下游性能方面产生近乎线性的增益——而且曲线没有显示出饱和的迹象。在所有模型变体中，SensorFM-B 在 35 项任务中的 33 项上胜出。
将数据和模型容量协同扩展数个数量级，可在预训练和下游性能方面带来增益，且没有饱和迹象。
一个表征，多个健康领域
One representation, many health domains
为了测试所学表征的通用性，我们评估了 SensorFM 在 35 项判别式健康任务上的表现，这些任务来自三项独立的、经机构审查委员会批准的前瞻性研究，共有 13,985 名参与者。这些任务涵盖六个类别：心血管健康、代谢风险、心理健康、睡眠、人口统计学和生活方式。
为了直接探究嵌入的质量，我们冻结了 SensorFM 编码器，仅在其上训练一个轻量级的线性分类头——然后与基于工程化特征训练的有监督基线进行比较。以下是我们的发现：
- 广泛泛化：在 SensorFM 嵌入上的线性探针在 35 项任务中的 34 项上优于基于工程化特征的有监督基线，且无需任何任务特定的架构。
- 隐式学习生理学：添加人口统计学特征（年龄、性别等）带来适度提升——但随着模型规模扩大，这种提升会缩小，这表明更大的模型在预训练期间隐式地捕捉了生理学相关特征。
- 在难以测量的状况中表现强劲：大规模的预训练对于抑郁症和焦虑症等状况尤其有价值，这些状况因人而异，在传感器数据中只留下微弱的痕迹。SensorFM 似乎能够学习到通常掩盖此类信号的个体差异，并挑选出跨人群携带的模式。
- 标签效率：仅使用一小部分标记示例，SensorFM 就能迅速超越仅基于人口统计学和基于工程化特征的基线——这在医疗保健领域是一个重要特性，因为高质量标签非常稀缺。
在冻结的 SensorFM 嵌入上进行线性探针，在判别式健康任务上的相对性能提升。
用于构建预测头的“智能体课堂”
A “classroom” of agents to build prediction heads
一个通用的嵌入的价值，取决于使其适应新任务所需付出的努力。传统上，将嵌入转化为每个新终点的强预测器需要手动特征工程、架构选择和超参数调优——这是一项繁琐的工作，随着任务数量的增加而变得更加困难。
为了实现自动化，我们构建了一个智能体“课堂”：一组协作和竞争的 LLM 智能体，它们迭代地生成、测试和完善可执行代码，以在 SensorFM 嵌入之上构建预测头。在我们的实验中，该系统探索了超过 30,000 个候选解决方案。
智能体设计的预测头在 20 个分类任务中的 16 个和 15 个回归任务中的 12 个上击败了简单的线性探针。有两个模式很突出：解决方案的质量在搜索过程中单调提升，并且它随着底层 LLM 的能力而扩展——能力更强的模型（例如更新版本的 Gemini）能产生更好的解决方案，而智能体之间的协作有助于能力较弱的模型缩小差距。
一个由 LLM 智能体组成的“课堂”迭代地编写、测试和完善代码，以在 SensorFM 嵌入上构建预测头，并随时间推移改进解决方案。
为个人健康代理提供基础
Grounding a Personal Health Agent
最后，我们探究了 SensorFM 在端到端场景中是否有用——作为将 AI 健康教练锚定在个人自身生理数据上的工具。我们将 SensorFM 集成到一个个人健康代理中，并比较了三种从 31 个真实参与者档案生成健康摘要的条件：
- 人口统计学数据 + 每日可穿戴指标 + SensorFM 预测
- 人口统计学数据 + 每日可穿戴指标 + 真实测量值
- 仅有人口统计学数据 + 每日可穿戴指标（基线）
一组临床医生在不知晓条件的情况下，根据五个评估维度——上下文、相关性、可证明性、个性化和潜在危害——对生成的摘要进行评分，在超过 40 小时的专家评估中产生了 1,860 个评分。结果令人瞩目。添加 SensorFM 预测后，在每一个评估维度上，响应都显著优于基线。而且，将代理锚定在 SensorFM 预测与锚定在真实测量值之间没有统计学上的显著差异——这意味着模型的推断对代理的帮助几乎与真实标签一样好。
使用 SensorFM 作为个人健康代理的工具，改善了临床医生评分的响应质量。
结论
Conclusion
SensorFM 指向了可穿戴健康研究的一个转变：从许多定制的、单一结果模型，转向一个单一的、通用的人类生理学表征，该表征可以灵活、高效且大规模地进行适配。通过从超过一万亿分钟的无标签传感器数据中学习，它能够泛化到心血管、代谢、睡眠和心理健康领域；支持标签高效的自适应和稳健的日常指标估计；可以通过智能体课堂自动进行特化；并能将个人健康代理锚定在个人的自身信号上。
致谢
Acknowledgements
我们感谢来自 Google Research、Google DeepMind 和学术界的合著者和合作者对本工作的贡献。
其他相关文章
Other posts of interest
- 2026年6月30日：介绍 TabFM：一种用于表格数据的零样本基础模型
- 2026年6月26日：利用冻结的多令牌预测在 Pixel 上加速 Gemini Nano 模型
- 2026年6月24日：思考以回忆：推理如何解锁 LLM 中的参数化知识