ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪( 二 )


为了简化将输入点云坐标 映射到输出相似变换 的学习问题 , 我们将前一帧位姿估计 的逆变换与输入点云 相乘 , 得到位姿正规化点云
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片
作为模型输入 , 令模型输出 中部件 的位姿, 再间接计算。
由时序连续性 , 可以推出
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片
, 这意味着 中部件 总是接近正规位姿(canonical pose) ,接近恒等变换 , 原问题的输入与输出被同时正规化 , 从而大大降低了网络预测位姿的难度 。
旋转回归网络(RotationNet)
以位姿正规化的点云 为输入 , 我们训练旋转回归网络 , 直接对 进行回归 , 再计算原始旋转
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片
总在恒等变换附近 , 直接回归就能实现准确估计 。
坐标预测网络(CoordinateNet)
由于点云 不完整 , 存在平移与尺寸上的歧义(举例来说 , 当一支铅笔的一端被遮住时 , 铅笔的长度无法确定 , 其中心的平移也无法确定) , 直接回归 和 仍然很困难 。我们转而训练坐标预测网络 , 从 预测部件在归一化坐标系下的坐标, 这一稠密的预测目标要求网络能捕捉到类级别的物体几何先验知识 , 包含了更为准确的有关物体平移、物体尺寸的信息 。
基于归一化坐标 与原始点云 的对应关系与旋转回归网络的预测, 我们解析地计算物体的平移与尺寸 。在位姿正规化模块的帮助下 , 我们预测的 相当准确 , 无需 RANSAC 就能达到高精度的位姿估计 , 从而实现一个快速、端到端可微 , 能直接以 9DoF 位姿准确度为优化目标的计算框架 。
3
结果展示
我们的方法在类级别刚性物体位姿估计数据集 NOCS-REAL275 [1]、基于 SAPIEN [3] 的类级别带关节物体位姿估计数据集、BMVC [4] 上均超过了已有方法 , 以下展示部分定性结果 , 详细实验设定与定量结果请参见论文 。
刚性物体位姿追踪
我们在 NOCS-REAL275 真实世界数据集上与类级别刚性物体追踪算法 6-PACK 进行比较 , 使用三维包围盒表示九自由度位姿估计 , 绿色表示追踪误差≤5o5cm , 红色表示追踪误差>5o5cm 。我们产生的追踪结果更加准确 。
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片
图3. NOCS-REAL275上的类级别刚性物体位姿追踪
带关节物体位姿追踪
由于没有现成的类级别带关节物体位姿追踪数据集 , 我们基于 SAPIEN [3] 生成了一个合成数据集 , 并在其上对比我们的方法与类级别带关节物体位姿估计算法 ANCSH [2] 。我们的追踪结果更加准确、平滑 , 对自遮挡更加鲁棒 。
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片
图4. SAPIEN合成数据集上的类级别带关节物体位姿追踪
我们进一步在真实世界的带关节物体数据上测试我们的模型 。在 BMVC [4] 数据集的笔记本电脑序列、我们采集的剪刀序列、机械臂操纵抽屉序列上 , 我们仅在合成数据上训练的模型均能成功泛化 , 达到对物体的准确追踪 。
ICCV 2021 Oral | 基于点云的类级别刚体与带关节物体位姿追踪
文章图片

文章图片