物体6自由度(6D,6DoF)位姿估计是机器人视觉、增强现实、自动驾驶、具身智能等领域的核心技术。本书分层次介绍了有纹理物体、低纹理物体,以及反光低纹理物体位姿估计的先进机器视觉理论、方法及关键技术,其中以最具挑战性的反光低纹理物体为重点。
全书包含8章,第1章为绪论,介绍视觉6D位姿估计的基本概念、研究现状,及现有技术面临的挑战;第2章介绍视觉6D位姿估计的基础知识;第3章介绍适用于有纹理物体的基于图像特征点匹配的方法;第4章介绍适用于低纹理物体的判别式神经网络方法;第5章~第8章介绍适用于反光低纹理物体的理论、方法及数据集,其中,第5章和第6章分别为基于低层和高层几何特征的理论与方法,第7章介绍基于“特征_图像”的生成式深度神经网络理论与方法,第8章介绍构建的大型反光低纹理物体图像数据集RT-Less。
更多科学出版社服务,请扫码获取。
发表第一/通讯作者SCI期刊论文36篇(含在线发表),其中权威期刊论文22篇(占61.1%):包括中科院1区论文10篇、中科院2区及浙大TOP期刊论文12篇。
目录
前言
第1章 绪论 1
1.1 物体6D位姿估计的基本概念 1
1.2 物体6D位姿估计的研究现状 2
1.2.1 传统6D位姿估计方法 3
1.2.2 基于深度学习的6D位姿估计方法 4
1.3 反光低纹理物体位姿估计的挑战 8
1.4 本书的主要内容与结构 9
参考文献 12
第2章 视觉6D位姿估计基础 15
2.1 空间几何变换 15
2.1.1 齐次坐标 15
2.1.2 射影变换 16
2.1.3 仿射变换 17
2.1.4 欧式空间刚体变换 17
2.2 相机模型 19
2.2.1 像素坐标系到图像坐标系的转换 19
2.2.2 图像坐标系到相机坐标系的转换 20
2.2.3 相机坐标系到世界坐标系的转换 22
2.3 相机标定及校正 22
2.3.1 相机内外参标定 23
2.3.2 相机畸变校正 25
2.3.3 相机内参标定实例 26
2.4 “手眼”标定及坐标转换 30
2.4.1 手眼标定 30
2.4.2 坐标转换 31
2.5 PnP问题和RANSAC算法 32
2.5.1 PnP 问题 33
2.5.2 随机采样一致性 34
2.6 位姿估计方法的有效性评价 35
2.6.1 鲁棒性评价指标:正确率 35
2.6.2 精度评价指标:旋转与平移误差 36
参考文献 36
第3章 基于图像特征点匹配的6D位姿估计 38
3.1 图像特征与特征匹配 38
3.1.1 图像特征(点) 38
3.1.2 图像特征点提取——以SIFT和LIFT特征点为例 39
3.1.3 图像特征点匹配 43
3.2 基于图像特征点匹配的6D位姿估计方法 44
3.2.1 通过求解相对位姿计算绝对位姿 44
3.2.2 通过求解PnP问题直接求解绝对位姿 46
3.3 图像特征点误匹配剔除 47
3.3.1 误匹配带来的挑战 47
3.3.2 传统的误匹配去除方法 48
3.3.3 基于三角拓扑与概率采样的误匹配去除方法 49
3.4 位姿估计实例 51
参考文献 53
第4章 基于判别式网络的低纹理物体6D位姿估计 54
4.1 基于多模态表征的6D位姿初始估计方法 54
4.1.1 单目提升融合网络架构 55
4.1.2 3D几何表征回归模块 55
4.1.3 2D几何表征回归模块 57
4.1.4 损失函数和2D-3D匹配 60
4.1.5 位姿估计实验分析 61
4.2 基于长短程感知配准网络的位姿精细估计方法 63
4.2.1 区域级关键点热力图构建 64
4.2.2 目标级初始位姿渲染图构建 65
4.2.3 全局级像素位置编码 66
4.2.4 基于长短程感知配准网络的位姿精细估计网络设计 66
4.2.5 分割引导的域特征自适应编码 68
4.2.6 基于偏移门控机制的域特征长程感知配准 69
4.2.7 基于关键点潜在区域短程感知的位姿求解 71
4.2.8实验验证 72
参考文献 77
第5章 基于低层几何特征的反光低纹理物体6D位姿估计 79
5.1 基于空间圆锥求交的椭圆特征6D位姿估计 79
5.1.1 基于轮廓梯度分类的椭圆检测 79
5.1.2 基于圆锥求交的椭圆位姿估计 85
5.1.3位姿估计实验 91
5.2 基于频域相关性分析的一般平面特征位姿估计 96
5.2.1 基于先验水平集的平面图形检测 97
5.2.2 基于相关性分析的位姿初始估计 100
5.2.3 基于LM算法的位姿迭代求解 102
5.2.4位姿估计实验 104
参考文献 106
第6章 基于高层几何特征的反光低纹理物体6D位姿估计 108
6.1 基于直线族特征的6D位姿估计 108
6.1.1 基于规整化直线检测子的无纹理零件特征提取 108
6.1.2 基于对比度不变线束描述子的无纹理零件边缘轮廓匹配 113
6.1.3 基于直线族特征的零件位姿估计 121
6.1.4 位姿估计实验 123
6.2 基于虚拟几何点匹配的6D位姿估计 133
6.2.1 基于区域融合的多光源几何特征增强 133
6.2.2 基于虚拟几何点匹配的位姿估计 138
6.2.3 位姿估计实验 142
参考文献 148
第7章 基于生成式观察空间的反光低纹理物体6D位姿估计 150
7.1 观察空间——机器人视觉系统的构型空间 151
7.1.1 观察空间的定义 151
7.1.2 观察空间的界定与估计方法 154
7.1.3 观察空间的工业场景应用 159
7.2 生成式观察空间与“特征_图像”模式识别方法 161
7.2.1 生成式观察空间模型 162
7.2.2 “特征-图像”模式识别方法 165
7.2.3 观察空间的主观位姿表达方式 167
7.3 基于VAE生成式观察空间的单目标6D位姿估计方法 172
7.3.1 面向6D位姿估计的变分自编码器 173
7.3.2 基于VAE的反光低纹理物体生成式观察空间 175
7.3.3 基于“特征-图像”方法的6D位姿估计 183
7.3.4 实验验证 193
7.4 透视误差与多目标场景的6D位姿估计 199
7.4.1 “透视误差”现象 200
7.4.2 局部观察空间 211
7.4.3 基于“监督式生成模型”的位姿估计算法 213
7.4.4 实验验证 217
参考文献 223
第8章 反光低纹理金属零件6D位姿估计数据集构建 227
8.1 均匀化视角分布的全自动图像采样系统 228
8.1.1 基于黄金分割策略的均勻化图像采样方法 228
8.1.2 多设备联动协同自动化拍摄控制系统设计 232
8.2 基于ArUco靶标的快速全自动精确真值标注方法 233
8.3 RT-Less数据集内容及测试 237
8.3.1 RT-Less的训练集 238
8.3.2 RT-Less的测试集 239
8.3.3 数据集使用方法 240
8.3.4 RT-Less数据集测试实验及结果分析 241
参考文献 244
彩图