返回信息流
新闻事件
Meta AI (FAIR)
1 个来源

重新构想独立:Meta的AI模型助力匹兹堡大学变革辅助机器人技术

Meta的AI模型正被匹兹堡大学用于推进辅助机器人技术,旨在增强残障人士的独立性。这一合作利用Meta的人工智能研究,改善机器人在日常任务中的辅助能力。

SynthePulse Insight · AI 深度解读

边缘智能与开放模型:Meta AI如何为匹兹堡大学辅助机器人注入实时感知能力

版本 1 · 1 个来源

在ARPA-H 4150万美元资助下,匹兹堡大学HERL实验室与Meta合作,将DINOv3和SAM等开源视觉模型部署于边缘设备,构建新一代辅助移动平台RAMMP,目标是在真实动态环境中实现可靠、低延迟的物体识别与导航辅助。

  • RAMMP项目获ARPA-H最高4150万美元资助,旨在通过AI与机器人技术改善美国约550万轮椅使用者的独立性与安全性。
  • 项目集成Meta开源视觉模型DINOv3和SAM,在电池供电的边缘设备上实现实时物体检测与分割,不依赖网络连接。
  • 感知系统基于RF-DETR检测模型,使用DINOv2嵌入微调,并由SAM自动标注训练数据,覆盖多种角度、高度、背景和光照条件。
  • 工程权衡:为满足边缘设备实时性要求,有时需牺牲少量边界精度或特征细节,以换取速度和稳定性。
  • 原型已集成基于DINO的查询功能,可检测自动门按钮、杯子、路缘等,下一步将加入语音和触摸输入。
展开章节目录项目背景与资金规模

项目背景与资金规模

匹兹堡大学人类工程研究实验室(HERL)领导的RAMMP项目,获得美国卫生高级研究计划局(ARPA-H)最高4150万美元资助。ARPA-H是美国专注于变革性生物医学突破的研究资助机构。项目合作伙伴包括辅助技术公司ATDev。

美国约有550万轮椅使用者,每年超过10万起与轮椅相关的伤害在急诊室接受治疗,多由绊倒和跌倒引起。项目旨在通过集成先进机器人、新型操作系统和数字孪生技术,解决当前辅助移动平台设计的不足。

Meta开源模型的核心作用

RAMMP集成了Meta的多个开源AI视觉模型,包括DINO(自监督视觉Transformer)和Segment Anything Model(SAM)。DINO擅长从无标注数据学习视觉表征,适用于标注数据稀缺的场景;SAM能以最少提示识别并勾勒图像或视频中的任意物体。

DINOv3作为紧凑高效的“视觉大脑”,可叠加轻量级任务模块(如物体检测、运动跟踪),实现视觉数据复用和功耗节约。SAM则用于自动标注训练数据,使团队能快速生成覆盖各种角度、高度、背景和光照条件的高质量标注。

感知系统基于RF-DETR轻量检测模型,使用DINOv2嵌入微调,并通过SAM自动标注数据。结合数据增强和多视角策略,系统实现了实时360度环境感知和自适应物体检测。

边缘部署的工程挑战与权衡

在电池供电、尺寸和重量受限的硬件上部署DINOv3和SAM面临显著工程挑战,包括电池寿命、散热、网络连接不可靠等。项目采用边缘计算,直接在设备上处理摄像头图像和传感器数据,确保即时响应。

工程师通过降低内存占用、使用低精度推理、部署适合实际条件的格式来优化模型。在实用分辨率和高效批处理下,模型在紧凑硬件上保持快速可靠,有时需牺牲少量边界精度或特征细节以换取速度和稳定性。

RAMMP项目参谋长Sivashankar Sivakanthan表示:“对于辅助机器人,性能不是由基准准确率衡量的,而是系统能否在日常生活的不可预测性中可靠运行。在设备上运行DINOv3和SAM,才能实现用户可信赖的实时感知,无需依赖连接或牺牲安全。”

原型功能与用户交互

原型已集成基于DINO的工具,可查询机器人图像传感器以检测自动门按钮、杯子和路缘/地面,用于导航辅助。工程师正专注于语音和触摸输入,让用户选择和交互周围物体。

自然语言与图像数据结合,允许用户以更自然的方式查询环境和发出指令,直接降低认知负荷和上下文切换成本。例如,用户只需说“捡起桌上的杯子”即可操作。

当前挑战包括确保模型输出的准确性和时间一致性,以及跨用户提示和输入的鲁棒性和可预测性。

合作模式与未来展望

HERL领导项目,凭借生物医学工程和用户中心研究的深厚专业知识设定愿景;ATDev提供工程视角,将转化研究变为现实设备。两者结合学术领导力与技术创新的优势。

项目强调用户中心设计,目标是让辅助技术反映真实世界的复杂性,增强用户信心、独立性和物理安全。

可信度边界

本文信息主要来源于Meta AI官方博客,属于第一方来源。项目资金、模型能力、工程细节等均有明确出处。部分关于用户交互效果的描述(如降低认知负荷)为项目方观点,尚未经独立验证。

核心结论

Meta的开源视觉模型DINOv3和SAM通过边缘部署,正在将先进的AI感知能力带入辅助机器人领域,但实时性与精度的工程权衡、以及跨用户输入的鲁棒性仍是实际应用中的关键挑战。

主报道

Meta AI (FAIR)

主报道来源