一文读懂RuView架构:从WiFi信号到128维嵌入向量的技术路径
一文读懂RuView架构:从WiFi信号到128维嵌入向量的技术路径
【免费下载链接】ruview项目地址: https://ai.gitcode.com/hf_mirrors/ruv/ruview
RuView是一款革命性的WiFi感知模型,能够将普通WiFi信号转化为空间智能。它可以在没有摄像头的情况下,穿墙、在黑暗中检测人员、测量呼吸和心率、估计姿势、跟踪运动并监控房间,仅依靠无线电物理原理即可实现。
核心功能解析:WiFi信号的智能转化
WiFi信号遇到人体时会发生反射。当人呼吸时,胸部的运动会微妙地改变WiFi信号;当人行走时,这种变化会更大。RuView的模型正是从9美元的ESP32芯片中学会读取这些变化,实现了多种强大的感知功能。
其感知能力包括:
- 姿势估计:达到92.9% PCK@20(17个COCO关键点),部署时无需摄像头
- 人员存在检测:准确率100%,无需摄像头
- 活动状态判断:能区分打字、行走和站立等状态,无需可穿戴设备
- 呼吸率监测:6-30 BPM,非接触式,无需胸带
- 心率监测:40-120 BPM,可穿透衣物,无需智能手表
- 人数统计:1-4人,通过子载波图分析,无需计数摄像头
- 穿墙能力:可穿透干墙、木材、织物,无需视线
- 睡眠质量监测:深度/浅度/快速眼动/清醒状态分类,无需床垫传感器
- 跌倒检测:<2秒警报,无需 Pendant设备
技术架构详解:从信号到向量的转化之路
整体流程概览
RuView的技术架构实现了从WiFi信号到128维嵌入向量的完整转化过程:WiFi signals -> ESP32-S3(9美元)-> 8维特征@1Hz -> 编码器 -> 128维嵌入向量。这个128维嵌入向量是后续各种感知功能的基础。
WiFlow姿势模型架构
WiFlow姿势模型的架构如下: CSI幅度[35, 20](ruvector选择的子载波)经过TCN:2个扩张因果卷积块(k=3,d=[1,2]),从35通道变为32通道再到32通道,然后经过Flatten [640] -> FC [256] -> FC [34] -> Sigmoid,最终输出17个COCO关键点[x, y],范围在[0, 1]之间。
该模型在wiflow-v1/wiflow-v1.json文件中,大小为974 KB,是摄像头监督的姿势模型,达到92.9% PCK@20,具有17个COCO关键点。
对比感知模型架构
对比感知模型的架构则是在获取128维嵌入向量后,通过不同的头部实现各种感知功能:
- 存在头部(阈值0.3):判断有无人员
- 活动头部:判断静止/行走/打字状态
- 生命体征提取:获取呼吸BPM、心率BPM
相关模型文件包括:
- model.safetensors:48 KB,完整的对比编码器(128维嵌入)
- model-q4.bin:8 KB,推荐使用,4位量化,8倍压缩
- model-q2.bin:4 KB,超紧凑,适用于ESP32边缘推理
- model-q8.bin:16 KB,高质量8位
- presence-head.json:2.6 KB,存在检测头部(100%准确率)
- node-1.json:21 KB,房间/节点1的LoRA适配器
- node-2.json:21 KB,房间/节点2的LoRA适配器
- config.json:586 B,模型配置
性能基准:高效转化的技术保障
RuView架构在实现从WiFi信号到128维嵌入向量转化的过程中,表现出了优异的性能:
- 推理速度:0.008 ms,比实时快125,000倍
- 吞吐量:164,183 emb/sec,一台笔记本电脑可处理1,600+个传感器
- 模型大小(姿势):974 KB,WiFlow lite,189K参数
- 模型大小(感知):8 KB(4位量化),可放入ESP32 SRAM
- 训练时间(姿势):19分钟,5分钟数据收集+轻量训练
- 训练时间(感知):12分钟,在Mac Mini M4 Pro上,无需GPU
- 硬件成本:9美元,单个ESP32-S3
快速上手:体验WiFi信号到嵌入向量的转化
要体验RuView从WiFi信号到128维嵌入向量的转化过程,可按照以下步骤操作:
# 下载所有模型 pip install huggingface_hub huggingface-cli download ruv/ruview --local-dir models/ # 使用RuView感知 pipeline git clone https://gitcode.com/hf_mirrors/ruv/ruview cd RuView # 刷写ESP32-S3(亚马逊/阿里巴巴上9美元) python -m esptool --chip esp32s3 --port COM9 --baud 460800 \ write_flash 0x0 bootloader.bin 0x8000 partition-table.bin \ 0xf000 ota_data_initial.bin 0x20000 esp32-csi-node.bin # 训练自己的姿势模型(5分钟数据+19分钟训练) python scripts/collect-ground-truth.py --duration 300 --preview python scripts/record-csi-udp.py --duration 300 node scripts/align-ground-truth.js --gt data/ground-truth/*.jsonl --csi data/recordings/*.csi.jsonl node scripts/train-wiflow-supervised.js --data data/paired/*.jsonl --scale lite训练自己的姿势模型:定制化转化路径
摄像头仅在一次性5分钟的训练过程中需要。之后,模型仅依靠CSI运行——部署时无需摄像头。训练步骤如下:
- 收集数据:同时运行collect-ground-truth.py和record-csi-udp.py 5分钟
- 对齐数据:align-ground-truth.js按时间戳将摄像头关键点与CSI窗口配对
- 训练模型:train-wiflow-supervised.js使用课程学习和骨骼约束训练WiFlow
- 部署模型:加载wiflow-v1.json并仅在CSI上运行推理
通过以上步骤,你可以定制自己的WiFi信号到128维嵌入向量的转化模型,实现更符合特定场景需求的感知功能。
RuView架构通过创新的技术路径,将普通的WiFi信号转化为富含信息的128维嵌入向量,开启了无摄像头环境下的智能感知新时代。无论是家庭监控、健康监测还是智能空间管理,都展现出了巨大的应用潜力。
【免费下载链接】ruview项目地址: https://ai.gitcode.com/hf_mirrors/ruv/ruview
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考