Orbeez-SLAM


  • Description:Orbeez-SLAM 论文笔记 (读 arXiv 全文后所写) — ORB-SLAM2 跟踪 + Instant-NGP 建图,无需预训练、实时、产稠密辐射场地图的视觉 SLAM
  • Paper:Chung, C.-M., Tseng, Y.-C., Hsu, Y.-C., Shi, X.-Q., Hua, Y.-H., Yeh, J.-F., Chen, W.-C., Chen, Y.-T., & Hsu, W. H. (2022). Orbeez-SLAM: A Real-time Monocular Visual SLAM with ORB Features and NeRF-realized Mapping. ICRA 2023. arXiv:2209.13274
  • K2E-B ID:[K2E-B-G5-5]
  • Max3 PDF[K2E] SLAM/[K2E-B-G] Geometry & Rendering/[K2E-B-G5] NeRF SLAM/[K2E-B-G5-5][2022] Orbeez-SLAM ORB Features and NeRF-realized Mapping.pdf
  • Notion ID:(待创建)
  • Created:2024-03-31
  • Updated:2026-06-02
  • License转载欢迎 — 请署名 Yu Zhang 并链回 yuzhang.io 原文

Table of Contents


1. 概述

Orbeez-SLAM (Chung et al. 2022, 台大, ICRA 2023) — 单目实时视觉 SLAM,结合:

  • ORB-SLAM2 前端跟踪 (特征点 + BA) — 见 ORB-SLAM2 那篇
  • Instant-NGP NeRF 建图 (稠密辐射场) — 见 Instant-NGP (G6-2)

卖点:无需预训练实时 (上一代如 iMAP 需深度且慢),单目即可产稠密地图。

本笔记读 arXiv 全文整理。

2. 架构 — ORB 跟踪 + NeRF 建图

两线程协作:

  • 跟踪线程 (ORB-SLAM2):ORB 特征匹配 → 位姿估计 → local BA → 关键帧 + 稀疏地图点
  • 建图线程 (Instant-NGP):用关键帧位姿 + RGB 图像做光度 L2 损失训练辐射场;稀疏地图点仅用于初始化密度栅格 (引导采样),不监督 NeRF

ORB-SLAM2 的 BA 优化好的位姿 → 喂给 NeRF,避免 NeRF 自己估位姿的不稳定。

3. 稀疏地图点初始化密度栅格

关键 (论文原文 "our NeRF is never supervised by GT depth"):ORB-SLAM2 三角化的稀疏地图点不监督 NeRF,而是用来初始化 Instant-NGP 的占据/密度栅格 (不需 RGB-D 深度相机)。

  • 稀疏地图点所在体素 → 提高其密度栅格采样计数器 → 标记为可能表面
  • 引导自适应采样:表面附近多采、跳过空白区 → 收敛快
  • 位姿仅由重投影误差优化 (不靠光度/深度反传)
  • NeRF 本身仅由光度 L2 损失训练 → 纯单目即得稠密辐射场,无需深度传感器或预训练

4. 对比 iMAP/NICE-SLAM

iMAP / NICE-SLAM Orbeez-SLAM
输入 RGB-D (需深度) 单目 RGB
跟踪 隐式场反传位姿 ORB-SLAM2 (成熟、鲁棒)
建图后端 MLP / 特征网格 (慢) Instant-NGP (快)
预训练 NICE 需预训练解码器 不需要

把成熟稀疏 SLAM (ORB-SLAM2) 当跟踪、Instant-NGP 当建图 — 是 "经典 SLAM + 神经渲染" 拼装范式的代表 (GO-SLAM 走类似但用 DROID)。

References

  • Chung, C.-M., et al. (2022). Orbeez-SLAM: A Real-time Monocular Visual SLAM with ORB Features and NeRF-realized Mapping. ICRA 2023. arXiv:2209.13274 — 论文 (本笔记读 arXiv 全文整理)
  • 跟踪后端见 ORB-SLAM2;渲染后端见 Instant-NGP (G6-2);类似范式见 GO-SLAM