devgo.cn核心观点
- SensorFM 在超过一万亿分钟的五百万参与者多模态传感器数据上预训练，学习通用人体生理表示，可迁移至35项健康预测任务。
- 采用缺失感知掩码重建（AIM）框架，直接利用真实世界中的不完整数据，无需插补或丢弃，使模型天然具备缺失感知能力。
- 模型与数据共同扩展：最大变体 SensorFM-B 在35个任务中赢得33个，预训练损失和下游性能随规模线性提升，未见饱和。
- 冻结编码器的线性探针在34/35任务上超越手工特征监督基线，尤其在抑郁、焦虑等个体差异大的难测量条件上表现突出，且标签效率高。
- SensorFM 可集成至个人健康代理，临床医生评估显示其预测与真实测量在生成健康摘要时无统计显著差异，有效接地生理信号。
内容精讲
可穿戴设备已普及至数十亿台，持续追踪心率、运动、皮肤温度、血氧和睡眠等信号，为预防性和个性化健康提供了宝贵原料。然而，将低层信号转化为有意义洞察面临两大障碍：个体间生理和生活方式差异巨大，同一模式在不同人身上意义不同；用于训练模型的标签（确诊、化验结果、问卷）昂贵且难以回顾性收集。因此，现有模型多为针对单一结局的定制监督管道，泛化能力有限。
SensorFM 另辟蹊径，直接从无标签可穿戴数据中学习。其预训练语料来自五百万名同意参与研究的用户，数据采集于2024年9月至2025年9月，覆盖100多个国家、美国所有50州以及超过20种 Fitbit 和 Pixel Watch 设备型号。每人抽取数周数据，总计超过20亿小时（即超过一万亿分钟）的分钟级信号。模型输入为34个一分钟聚合特征，源自五种传感器模态：光电容积脉搏波（PPG）、加速度计、皮肤电活动（EDA）、皮肤温度和高度计，共同捕获24小时窗口内的心率、心率变异性、血氧饱和度、睡眠阶段、运动步数、皮肤电导和温度。
SensorFM 通过自监督重建学习，基于 LSM-2 的 Adaptive and Inherited Masking（AIM）框架。这是一个关键设计：可穿戴数据普遍存在缺失和碎片化（传感器断电、设备取下、省电模式等）。传统自监督方法要求完整输入，要么插补缺失（引入偏差），要么丢弃不完整窗口（浪费数据）。AIM 两条路都不走：它将真实缺失视为自然伪影，与为重建目标而人工掩码的 token 同等对待，使模型直接从不完整记录中学习，构建出天然缺失感知的表示。SensorFM 不仅容忍碎片化数据，还能高效利用它。
扩展实验系统考察了数据量和模型大小的影响，覆盖四个数量级：数据量从约200万到20亿传感器小时，模型参数从10万到1亿。结果清晰：预训练损失随规模增大而可预测地下降，且收益传递到下游任务。最大模型 SensorFM-B（全五百万数据训练）相比最小变体重建损失降低31%，分类任务 AUC 平均提升9%，回归任务 Pearson 系数平均提升21%。同时扩展数据和容量产生近线性增益，曲线未见饱和。在全部35个任务中，SensorFM-B 赢得33个。
为测试表示通用性，在三个独立前瞻性研究（共13985名参与者）的35个判别任务上评估，涵盖心血管、代谢风险、心理健康、睡眠、人口统计和生活方式六大类。冻结 SensorFM 编码器，仅训练线性头，与基于手工特征的监督基线比较。结果：线性探针在34/35任务上超越基线，无需任务特定架构。添加人口统计特征（年龄、性别等）带来小幅提升，但随模型规模增大而缩小，表明大模型在预训练中已隐式捕获生理相关特征。在抑郁、焦虑等个体差异大、信号微弱的条件下，规模预训练尤其有价值，SensorFM 似乎学到了通常淹没此类信号的个体差异，并提取跨人群的模式。标签效率方面，仅用少量标注样本，SensorFM 即可迅速超越仅人口统计和手工特征基线。
为自动构建预测头，设计了 LLM 代理“教室”：多个协作与竞争的代理迭代生成、测试、优化代码。系统探索了超过30000个候选方案。代理设计的头在16/20分类和12/15回归任务上优于简单线性探针。两个模式突出：解决方案质量随搜索单调提升，且随底层 LLM 能力增强而提升；代理协作可帮助较弱模型缩小差距。
最后，将 SensorFM 集成到个人健康代理，比较三种条件从31个真实参与者资料生成健康摘要：仅人口统计+日常指标（基线）、加上 SensorFM 预测、加上真实测量。临床医生盲评五个维度（上下文、相关性、可证明性、个性化、潜在危害），共1860评分，超过40小时专家评估。结果：SensorFM 预测显著改善基线所有维度，且与真实测量之间无统计显著差异——模型推断为代理提供的信息与真实标签几乎一样好。
SensorFM 标志着可穿戴健康研究的转变：从众多定制单结局模型转向单一通用生理表示，可灵活、高效、规模化适应，通过代理教室自动专业化，并作为个人健康代理的生理信号接地工具。
阅读价值
适合可穿戴健康研究人员、AI医疗从业者、基础模型研究者。读完获得大规模传感器基础模型的设计思路与预训练策略、缺失数据处理方法（AIM）、跨任务迁移能力验证，以及将模型集成到个人健康代理的实践案例。
内容与图片版权归原作者所有 · 原文: https://research.google/blog/sensorfm-towards-a-general-intelligence-and-interface-for-wearable-health-data/