留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

多视点立体视觉测量网络组网方法

乔玉晶 贾保明 姜金刚 王靖怡

乔玉晶, 贾保明, 姜金刚, 王靖怡. 多视点立体视觉测量网络组网方法[J]. 红外与激光工程, 2020, 49(7): 20190492. doi: 10.3788/IRLA20190492
引用本文: 乔玉晶, 贾保明, 姜金刚, 王靖怡. 多视点立体视觉测量网络组网方法[J]. 红外与激光工程, 2020, 49(7): 20190492. doi: 10.3788/IRLA20190492
Qiao Yujing, Jia Baoming, Jiang Jingang, Wang Jingyi. Networking method of multi-view stereo-vision measurement network[J]. Infrared and Laser Engineering, 2020, 49(7): 20190492. doi: 10.3788/IRLA20190492
Citation: Qiao Yujing, Jia Baoming, Jiang Jingang, Wang Jingyi. Networking method of multi-view stereo-vision measurement network[J]. Infrared and Laser Engineering, 2020, 49(7): 20190492. doi: 10.3788/IRLA20190492

多视点立体视觉测量网络组网方法

doi: 10.3788/IRLA20190492
基金项目: 国家自然科学基金(51675142)
详细信息
    作者简介:

    乔玉晶(1972-),女,教授,硕士生导师,主要从事机器视觉等方面的研究工作。Email:qiaoy.j@hrbust.edu.cn

    通讯作者: 贾保明(1994-),男,硕士生,主要从事机器视觉等方面的研究工作。Email:chiabm@163.com姜金刚(1982-),男,教授,博士生导师,主要从事机器人技术等方面的研究。Email:jiangjingang@hrbust.edu.cn
  • 中图分类号: TH741

Networking method of multi-view stereo-vision measurement network

  • 摘要: 立体视觉组网测量是三维测量得以实现的核心技术,在测量过程中,为了保证三维重构的全覆盖和重构精度,需要摄像机进行密集拍摄,因此产生了三维测量的速度慢,计算量较大等问题。针对上述问题,提出了一种多视点立体视觉测量网络组网方法。首先,通过SFM技术(运动恢复结构)获得待测物模型,建立椭球体基准坐标,估计相机与待测物的最佳距离,布置初始视点位置;然后,基于可视化约束条件对初始视点进行聚类分析和循环迭代,筛选出最少的相机数目实现全覆盖三维成像;最后,进行测量实验,布置以灯罩为待测物的椭球形测量网络,并在不同景深下进行相机数目、覆盖率和测量精度与球形测量网络的对比分析。实验结果表明:通过该方法最终迭代筛选出了22个视点,使得覆盖率达到100%,测量精度的标准差均值稳定到1.1 mm,测量效率较球形网络有明显提升,经三维重建出的灯罩效果图能够还原出待测物原貌,验证了所提出方法的可行性。
  • 图  1  视觉测量网络模型

    Figure  1.  Visual measurement network model

    图  2  相机位姿布置示意图

    Figure  2.  Camera position layout diagram

    图  3  三角区的法向量示意图

    Figure  3.  Schematic diagram of the normal vector of the triangle

    图  4  视点仿真结果分布图

    Figure  4.  Viewpoint simulation result distribution diagram

    图  5  实验平台及实拍图

    Figure  5.  Experimental platform and real shot

    图  6  灯罩点云及椭球体初始测量网络

    Figure  6.  Shade point cloud and ellipsoid initial measurement network

    图  7  三个视点位置的图像

    Figure  7.  Image of three viewpoint positions

    图  8  光圈f/1.4、f/2.0、f/2.8、f/4.0的测量网络

    Figure  8.  Measurement network for aperture f/1.4,f/2.0,f/2.8,f/4.0

    图  9  覆盖率对比图

    Figure  9.  Coverage comparison chart

    图  10  灯罩三维重建图

    Figure  10.  Three-dimensional reconstruction of the lampshade

    表  1  约束公式及说明

    Table  1.   Constraint formula and description

    Constraint formulaDescription
    ${D_{ {\rm{scale} } } } = \dfrac{ { {D_0}f\sqrt k } }{ {q{s_p}{\sigma _i} } }$$k$:Number of images taken per viewpoint (take a picture of one of the viewpoints in this article) ;${s_p}$:Specified precision quantity; ${\sigma _i}$:Image error; $q$:Design factor (0.4-0.7),(set to 0.6 in this article) ;${D_0}$:Maximum length of object to be measured
    ${D_{ {\rm{resolution} } } } = \dfrac{ {f{D_{ {\rm{tos} } } }\sin (\theta )} }{ { {I_{ {\rm{res} } } }{D_{ {\rm{tis} } } } } }$${D_{{\rm{tos}}}}$:Size of object to be measured (the minimum distance between two points on the object to be measured is designed by the operator in this article); ${D_{{\rm{tis}}}}$:Image size of the object to be measured (the minimum distance between two points in the image is 1 pixel in this article); ${I_{{\rm{res}}}}$:pixel $\theta $:Angle between the optical axis and the object to be measured (that is, the table point of the object to be measured),the parameter is set to 90 °
    ${D_{ {\rm{FOV} } } } = \dfrac{ { {D_0}\sin (\alpha + \theta )} }{ {2\sin (\alpha )} }$ $\alpha = {\arctan}\left(\dfrac{ {0.9{d_0} } }{ {2f} }\right)$$\alpha $:Half the angle of view ;${d_0}$:Minimum number of frames in an image; $f$:Focal length
    下载: 导出CSV

    表  2  相机${c_1}$${c_2}$${c_3}$${c_4}$的标定结果

    Table  2.   Camera ${c_1}$,${c_2}$,${c_3}$,${c_4}$calibration results

    Image${\rm{Camera } }\;{c_1}$${\rm{Camera } }\;{c_2}$${\rm{Camera } }\;{c_3}$${\rm{Camera } }\;{c_4}$
    $\begin{array}{l} {\rm{Camera }} \\ {\rm{internal }} \\ {\rm{parameter }} \\ {\rm{matrix}}(K) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} {681.12}&0&{665.31}\\ 0&{682.26}&{520.75}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {698.84}&{ - 0.98}&{575.79}\\ 0&{649.04}&{510.23}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {670.41}&0&{615.31}\\ 0&{662.23}&{512.4}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {670.41}&0&{615.31}\\ 0&{662.23}&{512.4}\\ 0&0&1 \end{array}} \right]$
    $\begin{array}{l} {\rm{Rotation}} \\ {\rm{matrix}}(R) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} { - 0.990\;4}&{0.052\;7}&{ - 0.149\;0}\\ {0.0056}&{ - 1.063\;9}&{ - 0.307\;8}\\ { - 0.138\;4}&{ - 0303\;5}&{1.053\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$
    $\begin{array}{l} {\rm{Translation }} \\ {\rm{vector}}(T) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} {390.31}\\ {2.71}\\ {1.06} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {101.54}\\ {250.36}\\ {201.13} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {289.23}\\ {160.76}\\ {111.13} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {289.23}\\ {160.76}\\ {111.13} \end{array}} \right]$
    下载: 导出CSV

    表  3  相机数目对比表

    Table  3.   Camera number comparison

    Aperturef/1.4f/2f/2.8f/4f/11f/16
    Spherical network844230303030
    Ellipsoidal network683022222222
    Quantity difference16128888
    Efficiency improvement rate19%28%26.7%26.7%26.7%26.7%
    下载: 导出CSV

    表  4  精度数据对比分析表

    Table  4.   Comparative analysis of precision data

    Aperturef/1.4f/2.0f/2.8f/4.0f/11f/16
    Spherical network1.389 11.352 01.358 41.309 81.328 61.330 4
    Ellipsoidal network1.115 61.102 31.136 51.111 01.153 01.154 1
    Accuracy difference0.273 50.249 70.221 90.198 80.175 60.176 3
    Accuracy improvement rate20%18.5%16.3%15.2%13.2%13.3%
    下载: 导出CSV
  • [1] Li Peng, Zhang Yangyang. Stereo vision localization for mobile robot based on auxiliary target [J]. Infrared and Laser Engineering, 2019, 48(S1): S117006. (in Chinese)
    [2] He Baofeng, Ding Siyuan, Wei Cui'e, et al. Review of measurement methods for areal surface roughness [J]. Optics and Precision Engineering, 2019, 27(1): 78−93. (in Chinese) doi:  10.3788/OPE.20192701.0078
    [3] Ma Guoqing, Liu Li, Yu Zhenglin, et al. Application and development of three-dimensional profile measurement for large and complex surface [J]. Chinese Optics, 2019, 12(2): 214−228. (in Chinese) doi:  10.3788/co.20191202.0214
    [4] Mason S. Expert system-based design of close-range photogrammetric networks [J]. Isprs Journal of Photogrammetry & Remote Sensing, 1995, 50(5): 13−24.
    [5] Olague G, Mohr R. Optimal camera placement to obtain accurate 3D point positions[C]// International Conference on Pattern Recognition, 2002.
    [6] Chen S Y, Li Y F. Automatic sensor placement for model-based robot vision [J]. Systems Man & Cybernetics Part B Cybernetics IEEE Transactions on, 2004, 34(1): 393−408.
    [7] Alsadik B S, Gerke M, Vosselman G. Optimal camera neywork design for 3D modeling of cultural heritage [J]. ISPRS Annals of Photogrammetry, 2012, I-3(1): 8−11.
    [8] Jiang G W. Research on the camera measurement method of camera chain pose transmission and hull deformation measurement[D]. Changsha: National University of Defense Science and Technology, 2010. (in Chinese)
    [9] Qiao Yujing, Tan Shizhen, Jiang Jingang. A multi - vision measurement network planning strategy [J]. Acta Optica Sinica, 2018, 38(5): 216−223. (in Chinese)
    [10] Xue Shan, Lv Nanfang, Shen Yuying , et al. Identification method for machine workpiece based on laser 3D point cloud [J]. Infrared and Laser Engineering, 2019, 48(4): 0442002. (in Chinese) doi:  10.3788/IRLA201948.0442002
  • [1] 宋晓凤, 李居朋, 陈后金, 李丰, 万成凯.  多场景下结构光三维测量激光中心线提取方法 . 红外与激光工程, 2020, 49(1): 0113004-0113004(8). doi: 10.3788/IRLA202049.0113004
    [2] 刘晓利, 何懂, 陈海龙, 蔡泽伟, 殷永凯, 彭翔.  结构光三维传感器测量网相关技术 . 红外与激光工程, 2020, 49(3): 0303007-0303007-10. doi: 10.3378/IRLA202049.0303007
    [3] 王玉伟, 陈向成, 王亚军.  改进的双频几何约束条纹投影三维测量方法 . 红外与激光工程, 2020, 49(6): 20200049-1-20200049-7. doi: 10.3788/IRLA20200049
    [4] 张月, 苏云, 高鹏, 王旭, 董士奎, 张学敏, 赵号.  运动物体大气扰流的可视化光学监测方法 . 红外与激光工程, 2020, 49(8): 20190535-1-20190535-9. doi: 10.3788/IRLA20190535
    [5] 魏鹏轩, 黄智, 郑晓, 刘海涛, 吴湘, 万勇健.  多鸽巢自适应排序的快速相位展开方法 . 红外与激光工程, 2020, 49(8): 20200032-1-20200032-7. doi: 10.3788/IRLA20200032
    [6] 汪侃, 龚俊, 魏敬和, 朱策, 刘凯.  邻图配对式运动恢复结构的欧式三维重建 . 红外与激光工程, 2020, 49(6): 20200078-1-20200078-8. doi: 10.3788/IRLA20200078
    [7] 吴庆阳, 黄浩涛, 陈顺治, 李奇锋, 陈泽锋, 卢晓婷.  基于结构光标记的光场三维成像技术研究 . 红外与激光工程, 2020, 49(3): 0303019-0303019-6. doi: 10.3378/IRLA202049.0303019
    [8] 孙鸣捷, 张佳敏.  单像素成像及其在三维重建中的应用 . 红外与激光工程, 2019, 48(6): 603003-0603003(11). doi: 10.3788/IRLA201948.0603003
    [9] 张珂殊, 吴一戎.  距离向扫描合成孔径激光雷达目标三维重建 . 红外与激光工程, 2019, 48(3): 330001-0330001(7). doi: 10.3788/IRLA201948.0330001
    [10] 丁忠军, 赵子毅, 张春堂, 潘文超, 刘雨萌.  载人潜水器的深海地貌线结构光三维重建 . 红外与激光工程, 2019, 48(5): 503001-0503001(9). doi: 10.3788/IRLA201948.0503001
    [11] 杨洪飞, 夏晖, 陈忻, 孙胜利, 饶鹏.  图像融合在空间目标三维重建中的应用 . 红外与激光工程, 2018, 47(9): 926002-0926002(8). doi: 10.3788/IRLA201847.0926002
    [12] 龚肖, 史金龙, 廖芳.  点特征柔性物体三维运动恢复方法 . 红外与激光工程, 2018, 47(9): 917009-0917009(7). doi: 10.3788/IRLA201847.0917009
    [13] 许幸芬, 曹益平, 付光凯, 陈澄, 王亚品.  归一化等相面的在线三维测量像素匹配方法 . 红外与激光工程, 2017, 46(7): 717004-0717004(9). doi: 10.3788/IRLA201746.0717004
    [14] 洪汉玉, 范艳, 邓哲煜, 时愈.  动目标多视角观测图像的三维去模糊方法 . 红外与激光工程, 2016, 45(2): 228001-0228001(8). doi: 10.3788/IRLA201645.0228001
    [15] 林丽媛, 侯春萍, 王凯, 周志远.  基于动态随机点立体图的立体视觉深度运动特性分析 . 红外与激光工程, 2015, 44(4): 1365-1369.
    [16] 刘国忠, 李萍.  光学相干层析技术微流场三维可视化测速方法 . 红外与激光工程, 2015, 44(1): 273-278.
    [17] 贾同, 周忠选, 高海红, 王炳楠.  基于红外编码结构光的深度测量方法 . 红外与激光工程, 2015, 44(5): 1628-1632.
    [18] 王颖, 张瑞.  管道内表面圆结构光视觉三维测量系统 . 红外与激光工程, 2014, 43(3): 891-896.
    [19] 杨宇, 阚凌雁, 于佳, 王姣姣, 元光, 王金城.  基于激光扫描的人脸三维重建方法 . 红外与激光工程, 2014, 43(12): 3946-3950.
    [20] 都琳, 李迎春, 郭惠超, 范有臣.  互相关法实现距离选通远距离目标的三维重建 . 红外与激光工程, 2013, 42(7): 1725-1729.
  • 加载中
图(10) / 表(4)
计量
  • 文章访问数:  1003
  • HTML全文浏览量:  1181
  • PDF下载量:  10
  • 被引次数: 0
出版历程
  • 收稿日期:  2020-02-03
  • 修回日期:  2020-03-10
  • 网络出版日期:  2020-04-29
  • 刊出日期:  2020-07-25

多视点立体视觉测量网络组网方法

doi: 10.3788/IRLA20190492
    作者简介:

    乔玉晶(1972-),女,教授,硕士生导师,主要从事机器视觉等方面的研究工作。Email:qiaoy.j@hrbust.edu.cn

    通讯作者: 贾保明(1994-),男,硕士生,主要从事机器视觉等方面的研究工作。Email:chiabm@163.com姜金刚(1982-),男,教授,博士生导师,主要从事机器人技术等方面的研究。Email:jiangjingang@hrbust.edu.cn
基金项目:  国家自然科学基金(51675142)
  • 中图分类号: TH741

摘要: 立体视觉组网测量是三维测量得以实现的核心技术,在测量过程中,为了保证三维重构的全覆盖和重构精度,需要摄像机进行密集拍摄,因此产生了三维测量的速度慢,计算量较大等问题。针对上述问题,提出了一种多视点立体视觉测量网络组网方法。首先,通过SFM技术(运动恢复结构)获得待测物模型,建立椭球体基准坐标,估计相机与待测物的最佳距离,布置初始视点位置;然后,基于可视化约束条件对初始视点进行聚类分析和循环迭代,筛选出最少的相机数目实现全覆盖三维成像;最后,进行测量实验,布置以灯罩为待测物的椭球形测量网络,并在不同景深下进行相机数目、覆盖率和测量精度与球形测量网络的对比分析。实验结果表明:通过该方法最终迭代筛选出了22个视点,使得覆盖率达到100%,测量精度的标准差均值稳定到1.1 mm,测量效率较球形网络有明显提升,经三维重建出的灯罩效果图能够还原出待测物原貌,验证了所提出方法的可行性。

English Abstract

    • 机器视觉测量技术通过单个视点相机只能得到待测物的部分信息,难以满足观测需要。多视点立体视觉测量网络在三维重建中表现良好,能够满足高精度和密集型测量场合的需要[1]。该测量网络在待测物周围不同位置布置观测相机(或利用单摄像机多站位移动拍摄),然后拍摄待测物各角度图像,进行参数标定、特征匹配等图像信息处理,最后通过三维重建[2-3]实现待测物三维信息的获取。

      针对多视觉组网三维测量,国内外的机构和学者进行了深入而广泛的研究。Mason率先研发出了CONSENS系统,该系统基于专家知识,将待测物模型转换成基本几何基元,然后利用四台相机的测量组网对每个平面成像[4];继Mason的研究之后,Olague开发了EPOCA系统,该系统能够自动为测量系统设计一个合适的测量组网。Olague与Chen及Li忽略了与距离相干的约束条件,仅考虑采用最小化函数的视场模型,基于相机景深及遮挡区域设置可见性约束函数等方式破解该测量难题,但测量方案的精确性并不高[5-6]。Alsadik考虑了可见性约束条件、覆盖率,对测量相机做了分类和筛选过程,再利用惩罚函数不断优化筛选,得出最优的视觉测量网络[7]。该测量网络在遮挡区域和观测精确度的影响上未做考虑,不具有完备的普适性。国内,于起峰和姜广文等人研究船体变形的测量难题,提出了一种视觉测量组网方法,先定义基准并布置多个相机间的位姿,然后设置了各相机视点和定义基准之间数学物理模型,最后通过相机视点来估计定义基准与待测物间的位姿和变形量[8]。在测量网络的优化上,哈尔滨理工大学乔玉晶等人研究了一种多视觉测量组网规划策略,该策略基于遗传算法,以测量网络的覆盖率与待测点云的三维不确定度为验证指标,综合考虑观测的约束条件,不断对测量组网进行优化,优化趋于稳定即得到最优组网,最后通过测量实验证实了组网策略的可行性[9]。上述视觉组网均汇聚在分析测量视点的约束条件,包括可见性约束、景深约束、视场约束及分辨率等,而所有这些技术都需要一个良好的初始网络专家(即先验知识)。但仅凭经验而无理论支撑的布置相机网络无法保证测量的全覆盖和精确性,因此多视点立体视觉测量方法要综合考虑待测物模型的定义、视点相机的位姿布置、观测约束条件等因素,设计出测量网络,满足全覆盖和高精度的要求。

      综上所述,文中提出了一种多视点立体视觉测量网络组网的优化方法,实现最佳多视觉传感网络布局。通过获得待测物模型,生成初始候选视点位姿,然后根据可视化约束条件对视点进行迭代筛选,设定了覆盖率和精确度来保证立体视觉测量网络的可行性,最后优化出需要最少数量相机的最优多视点测量网络。

    • 为了使用立体视觉测量网络获取待测物的三维信息,并结合测量精度、覆盖率以及最少相机数的要求,来考虑立体视觉测量网络的所有可能的约束条件,找到合适的相机成像位姿。为简化初始网络几何模型,Chen和Li等采用网络几何模型为球形[6],如图1(a)所示,由于球形网络中的测量节点距离被测物中心半径相等,这种球形网络几何模型没有考虑被测物本身的几何形状,在不同方向上其尺寸不同,所以文中设计了多视觉测量网络初始几何模型为椭球模型,并以马鞍模型为例,其初始化测量网络如图1(b)所示,图中的圆圈代表视觉传感器所处的测量网络节点的位置。

      图  1  视觉测量网络模型

      Figure 1.  Visual measurement network model

      图中将被测物模型中心定义为三维坐标系原点;x轴的正方向:从三维坐标系原点指向距离原点最远的点,大小为两点之间的距离,定义为椭球体的第一个赤道半径,记为ay轴正方向:过原点作x轴的垂线,指向距离原点最远的点,大小为两点之间的距离,定义为椭球体的第二个赤道半径,记为bz轴的正方向遵循空间向量的右手定则,定义极半径c为物点距离xoy平面的最远距离。

    • 相机光轴垂直于待测物感兴趣区域时能够得到清晰图像,同时三维重构过程中所涉及的覆盖率和重构精度与相机位置及其他限制条件有关。在设定坐标系和拟合的椭球体模型后,视点距离待测物最远${D_{\max }}$和最近${D_{\min }}$的可能距离可以计算为:

      $${D_{\max }} = \min (D_{{\rm{resolution}}}^i,D_{{\rm{scale}}}^i,{D_{{\rm{workspace}}}})$$ (1)
      $${D_{\min }} = \max (D_{{\rm{FOV}}}^i)$$ (2)

      式中:i=camera1、camera2、camera3、…。其他限制条件参数:相片大小、分辨率、视场的计算过程如表1所示。

      表 1  约束公式及说明

      Table 1.  Constraint formula and description

      Constraint formulaDescription
      ${D_{ {\rm{scale} } } } = \dfrac{ { {D_0}f\sqrt k } }{ {q{s_p}{\sigma _i} } }$$k$:Number of images taken per viewpoint (take a picture of one of the viewpoints in this article) ;${s_p}$:Specified precision quantity; ${\sigma _i}$:Image error; $q$:Design factor (0.4-0.7),(set to 0.6 in this article) ;${D_0}$:Maximum length of object to be measured
      ${D_{ {\rm{resolution} } } } = \dfrac{ {f{D_{ {\rm{tos} } } }\sin (\theta )} }{ { {I_{ {\rm{res} } } }{D_{ {\rm{tis} } } } } }$${D_{{\rm{tos}}}}$:Size of object to be measured (the minimum distance between two points on the object to be measured is designed by the operator in this article); ${D_{{\rm{tis}}}}$:Image size of the object to be measured (the minimum distance between two points in the image is 1 pixel in this article); ${I_{{\rm{res}}}}$:pixel $\theta $:Angle between the optical axis and the object to be measured (that is, the table point of the object to be measured),the parameter is set to 90 °
      ${D_{ {\rm{FOV} } } } = \dfrac{ { {D_0}\sin (\alpha + \theta )} }{ {2\sin (\alpha )} }$ $\alpha = {\arctan}\left(\dfrac{ {0.9{d_0} } }{ {2f} }\right)$$\alpha $:Half the angle of view ;${d_0}$:Minimum number of frames in an image; $f$:Focal length

      要达到较高的覆盖率需要将相机放置与待测物的最远距离,但此处测量得到的点云精度低;保证精度较高的点云数据需要将相机放置与待测物的最近距离,但此时覆盖率又会降低。实验表明,将相机布置在最远与最近距离的平均值处可以获得最佳的成像效果,故取二者的平均值作为视点分布最佳距离估计${D_{\rm{optimum}}}$[10],如公式(3)所示:

      $$ {D_{{\rm{optimum }}}} = {D_{{\rm{average }}}} = \left( {{D_{\max }} + {D_{\min }}} \right)/2 $$ (3)
    • 合理的视点位姿将使立体视觉测量网络能够精准的测量待测物的点云数据。结合相机姿态参数、被测物点云的椭球体参数($ a,b,c$)和最佳距离估计,对视点位姿的布置分以下三步进行:(1) 根据椭球体坐标系定位视点分布的基线中心;(2) 在基线中心布置视点相机;(3) 为每一个布置的相机设定位姿。据椭球体设置的基线中心计算公式(4)所示:

      $$ \left\{ \begin{aligned} & {X_i} = (a + {D_{{\rm{optimum}}}})\cos ({\alpha _i})\cos \left( {{\beta _i}} \right)\\ & {Z_i} = (c + {D_{{\rm{optimum}}}})\sin ({\alpha _i})\cos ({\beta _i})\\ & {Y_i} = (b + {D_{{\rm{optimum}}}})\sin ({\beta _i}) \end{aligned} \right. $$ (4)

      式中:${X_i}$${Y_i}$${Z_i}$表示各视点的基线中心坐标,轨道角计算如下:${\alpha _i} = {\alpha _{i - 1}} + \Delta \alpha $${\beta _i} = {\beta _{i - 1}} + \Delta \beta $,每一个轨道角$\Delta \alpha $$\Delta \beta $都有一个基线坐标,基线坐标要综合相机视点距离、视点之间的重叠区域,然后在初始已知视点位姿的基础上进一步获取每个视点在基准坐标系的位姿。该方法将每个视点相机的光轴设置为朝向基准坐标系原点,即椭球体的中心位置O。若待测物形状严重不规则,可以适当改变光轴朝向,能够使每个视点尽可能覆盖更大观测区域为宜。相机位姿布置如图2所示,为直观显示,仅布置了椭球体赤道一周。

      图  2  相机位姿布置示意图

      Figure 2.  Camera position layout diagram

    • 通过SFM技术获取的待测物点云,由于实验光线不佳以及特征匹配不准等因素会出现离群点,需要对点云数据进行去噪滤波。该方法采用统计学的方法,计算每个点到相邻点距离的均值,该值不在设定区间内则为离群点,予以剔除,进一步提高点云数据的准确性。

      经初始化的每个相机要测试可以覆盖哪些点,该方法将生成的点云中相邻三个点进行连线,构成三角区域,然后计算出每个三角区域的法向量,再通过各三角区的法向量计算相机对三角平面的可见性,最终确定每个相机对每个点的可见性。马鞍模型的三角区的法向量示例如图3所示。

      图  3  三角区的法向量示意图

      Figure 3.  Schematic diagram of the normal vector of the triangle

      在使用SfM技术获得待测物的三角网格模型验证每个点的可见性之后,需要考虑可视化约束条件,来优化椭球模型初始立体视觉测量网络。该方法主要考虑的约束条件有可见性约束、入射角约束和视场约束,具体约束条件的表述形式参见参考文献[9]。

      文中研究的目的是在最佳立体视觉测量网络中找到最小的相机数目,既保证覆盖范围又保证高精度。将椭球体模型表面布局好的视觉传感器依据覆盖率分为冗余相机和非冗余相机[6],并通过循环迭代逐步过滤掉冗余相机,达到相机最少的目的。

      视点的迭代筛选详细步骤如下:

      (1)总结归纳相机规划问题的影响因素,使用运动恢复软件(Visual SFM)获取稠密的待测物点云数据,确定相机的可见性约束条件;

      (2)根据可见性约束条件,通过MeshLab软件在待测物点云中生成三角区域,计算法向量,验证相机对三角平面的可见性,进一步得出相机对每个点的可见性;

      (3)通过相机对点的可见性,将相机进行聚类分析,对点云中每个点进行划分,分为全覆盖点和过覆盖点。实验表明,三个相机已能够完整覆盖一个点,因此将同时出现在三个相机中的点定义为全覆盖点,出现在多于三个相机中的点定义为过覆盖点;依据覆盖点对相机进行分类,观测到全覆盖点的相机定义为合理相机,观测到过覆盖点的相机定义为冗余相机,若同时观测到全覆盖点和过覆盖点仍定义为合理相机;

      (4)对上述分类相机作统计,按照相机的覆盖率排序,删除覆盖率低的冗余相机,持续更新测量组网。重复步骤(2)、(3)、(4),直到没有冗余相机;

      (5)最终待测物点云的所有点均有且仅有三个相机覆盖,停止更新相机网络。

      经过迭代筛选后的相机视点马鞍仿真分布如图4所示。

      图  4  视点仿真结果分布图

      Figure 4.  Viewpoint simulation result distribution diagram

    • 该测量实验以灯罩为测量对象,基于张正友标定法进行相机标定,对比已有方法球形测量网络,将优化后所需相机数目、观测覆盖率和测量精度作为评估指标,验证该方法的可行性。相机数目和覆盖率均可直接获得,精度可利用光束法平差计算优化所得到的点云的均方根误差判定。

    • 为降低试验成本,该实验利用Motoman机械臂夹持单摄像机多站位移动拍摄,为保持在待测物周围不同位置布置观测相机的测量方式精度一致,在每个站位点均需要进行一次标定,实验以如图5所示的灯罩为测量实验对象,将灯罩圆周表面按照英文字母A-K标记一周,两个标记点间隔四个空格。首先使用SFM技术获取灯罩的点云数据,获取点云共包括6 800个待测物点,并生成椭球体初始测量网络,如图6所示。再使用Meshlab软件生成灯罩点云数据的三角区域,计算法向量,验证相机对每个点的可见性。

      图  5  实验平台及实拍图

      Figure 5.  Experimental platform and real shot

      图  6  灯罩点云及椭球体初始测量网络

      Figure 6.  Shade point cloud and ellipsoid initial measurement network

      立体视觉测量组网实验中使用的相机型号为大恒${\rm{MER - 130 - 30UM}}$,相机焦距为$3.5\;{\rm{mm}}$,拍摄分辨率为$1\;280\;({\rm{H}}) \times 1\;024\;({\rm{V}})$,像素尺寸大小为5.2 μm × 5.2 μm。

      该实验对椭球测量网络和球形测量网络中的相机(即大恒${\rm{MER - 130 - 30UM}}$)进行标定,固定标定板,确保实验过程中位置不会变动,在每个视点位姿下各采集10幅标定板图像,方便挑选。图7仅给出一组经挑选后三个视点位置拍摄的图像。

      图  7  三个视点位置的图像

      Figure 7.  Image of three viewpoint positions

    • 由于实验光线、噪声等不良条件的作用,需要对标定图像预处理。在Windows系统上通过Matlab软件对图像进行去噪滤波,再进行角点检测,最终得到观测相机的内外参数。文中以光圈f/2.8相机测量为例,给出了椭球体测量网络四个相机的内外参数,如表2所示。

      表 2  相机${c_1}$${c_2}$${c_3}$${c_4}$的标定结果

      Table 2.  Camera ${c_1}$,${c_2}$,${c_3}$,${c_4}$calibration results

      Image${\rm{Camera } }\;{c_1}$${\rm{Camera } }\;{c_2}$${\rm{Camera } }\;{c_3}$${\rm{Camera } }\;{c_4}$
      $\begin{array}{l} {\rm{Camera }} \\ {\rm{internal }} \\ {\rm{parameter }} \\ {\rm{matrix}}(K) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} {681.12}&0&{665.31}\\ 0&{682.26}&{520.75}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {698.84}&{ - 0.98}&{575.79}\\ 0&{649.04}&{510.23}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {670.41}&0&{615.31}\\ 0&{662.23}&{512.4}\\ 0&0&1 \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {670.41}&0&{615.31}\\ 0&{662.23}&{512.4}\\ 0&0&1 \end{array}} \right]$
      $\begin{array}{l} {\rm{Rotation}} \\ {\rm{matrix}}(R) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} { - 0.990\;4}&{0.052\;7}&{ - 0.149\;0}\\ {0.0056}&{ - 1.063\;9}&{ - 0.307\;8}\\ { - 0.138\;4}&{ - 0303\;5}&{1.053\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} { - 0.951\;9}&{ - 0.046\;4}&{ - 0.253\;1}\\ {0.083\;8}&{ - 0.881\;9}&{0.092\;2}\\ { - 0.294\;9}&{0.082\;4}&{0.843\;3} \end{array}} \right]$
      $\begin{array}{l} {\rm{Translation }} \\ {\rm{vector}}(T) \\ \end{array} $$ \left[ {\begin{array}{*{20}{c}} {390.31}\\ {2.71}\\ {1.06} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {101.54}\\ {250.36}\\ {201.13} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {289.23}\\ {160.76}\\ {111.13} \end{array}} \right]$$ \left[ {\begin{array}{*{20}{c}} {289.23}\\ {160.76}\\ {111.13} \end{array}} \right]$

      根据上文标定结果,实验中相机的理论值与实际值大致相差1 pixel,通过光束法平差,据标定结果得到的相机内外参数来计算理论物方坐标,再与真实物方坐标进行运算,得出两坐标的均方根误差。

      文中采用控制变量法,对比该方法优化下的椭球形测量网络和已有方法球形测量网络,在椭球形测量网络和球形测量网络中使用同一型号的大恒MER-130-30UM相机。依据上述参数和公式(1)~(3)分别计算出测量视点的三个距离:

      $$ \begin{aligned} &{D_{\min }} = 198\;{\rm{mm}};\\ &{D_{\max }} = 297\;{\rm{mm}};\\ &{D_{{\rm{average}}}} = 247.5\;{\rm{mm}} \end{aligned} $$

      在椭球形测量网络中,椭球体的两个赤道半径和极半径分别为a = 136 mm,b = 105 mm,c = 101 mm;而在球形测量网络中,各半径相等即a = b = c = 136 mm。相机成像受景深影响较大,故视觉测量网络会受较大影响,而景深主要受光圈、镜头焦距、与拍摄物的距离三个要素的影响,此次实验中焦距和距离不变,故只考虑光圈的影响。实验设置了不同光圈(景深)下灯罩在椭球形测量网络和球形测量网络中成像效果对比,如图8所示。

      图8可知,椭球形和球形测量网络在不同光圈(景深)下,经过该方法迭代筛选后相机数目均会明显减少,并且椭球形测量网络在各光圈(景深)下都比球形网络需要更少的相机数目。在此次实验中,在光圈f/2.8后,两测量网络下的相机数目均趋于稳定,椭球形网络需要22台相机,球形网络需要30台相机,即测量效率提高了26.7%。在光圈f/2.0下,观测效率虽提升到了28%,但是仍需要较多相机,且未趋于稳定,故不做选择。测量网络相机数目对比如表3所示。

      表 3  相机数目对比表

      Table 3.  Camera number comparison

      Aperturef/1.4f/2f/2.8f/4f/11f/16
      Spherical network844230303030
      Ellipsoidal network683022222222
      Quantity difference16128888
      Efficiency improvement rate19%28%26.7%26.7%26.7%26.7%

      图  8  光圈f/1.4、f/2.0、f/2.8、f/4.0的测量网络

      Figure 8.  Measurement network for aperture f/1.4,f/2.0,f/2.8,f/4.0

    • 将特征点均匀地贴在待测物表面,总数记为${w_{\rm{all}}}$,通过迭代筛选后立体视觉测量组网来观测特征点数目来反映组网的覆盖率。利用相机筛选的方法,若一个特征点同时被组网中的三个相机拍摄,标记该特征点,记录总数为${w_{\rm{visual}}}$,覆盖率记为$p$,那么覆盖率即为标记特征点数和总特征点数的商,如公式(5)所示:

      $$ p = \frac{{{w_{{\rm{visual}}}}}}{{{w_{{\rm{all}}}}}} \times 100\%, \;({w_{{\rm{all}}}} > {w_{{\rm{visual}}}}) $$ (5)

      覆盖率实验仍然设置了不同光圈(景深)下灯罩表面特征点在优化后的椭球形测量网络和球形测量网络对比,如图9所示。在光圈f/2.8后,两测量网络均达到了100%的全覆盖率,在f/1.4、f/2.0虽未全覆盖,但椭球形网络仍具有比球形网络更高的覆盖率。

      图  9  覆盖率对比图

      Figure 9.  Coverage comparison chart

    • 为了评估优化后立体视觉测量网络的测量精确度,采用光束法平差的整体算法,计算点云的协方差矩阵${Q_{XX}}$,如公式(6)所示:

      $$ {Q_{XX}} = \sigma _0^2{\left( {{A^{\rm{T}}}PA} \right)^{ - 1}} $$ (6)

      式中:$A$是协方差中的设计矩阵;$P$是点云观测值的权值;$\sigma _0^2$是单位权值。该实验中已知相机拍摄的外方位元素$\left( {{{{X}}_S},{{{Y}}_S},{{{Z}}_S},\omega ,\phi ,\kappa } \right)$和像点坐标$(x,y)$,仅物方点坐标为待求值。据$\left( {{{{X}}_S},{{{Y}}_S},{{{Z}}_S},\omega ,\phi ,\kappa } \right)$$(x,y)$即可求得相对于物方点坐标的传播误差。

      精度分析实验设置在不同光圈(景深)下对椭球形测量网络和球形测量网络的数据对比,如表4所示(数据单位为mm)。数据表明,在不同景深下,椭球形网络相比球型网络测量精度均有明显提升,主要原因在于球形网络中一些相机未能处于观测的最佳距离上,而椭球形网络相机通过最佳距离估计,使相机排布在最佳距离的位置上,测量精度得到提升。

      表 4  精度数据对比分析表

      Table 4.  Comparative analysis of precision data

      Aperturef/1.4f/2.0f/2.8f/4.0f/11f/16
      Spherical network1.389 11.352 01.358 41.309 81.328 61.330 4
      Ellipsoidal network1.115 61.102 31.136 51.111 01.153 01.154 1
      Accuracy difference0.273 50.249 70.221 90.198 80.175 60.176 3
      Accuracy improvement rate20%18.5%16.3%15.2%13.2%13.3%
    • 为了能够更直观的验证文中提出的多视点立体视觉测量网络组网方法的精确度和合理性,对灯罩模型按照椭球形网络和球形网络分别进行筛选迭代,利用两测量网络迭代结果进行三维重建,如图10所示,图(a)为球形测量网络重建图,图(b)为椭球形测量网络重建图。

      图  10  灯罩三维重建图

      Figure 10.  Three-dimensional reconstruction of the lampshade

      图10中可以直观的看出,在上文所述覆盖率和精度的评估标准下,球形测量网络和椭球形测量网络均能够完整的还原待测物基本三维全貌,待测物表面粘贴的标志点也能清晰显示。但受限于当前三维重建算法不够精确,对于部分特征点未能完全匹配,导致待测物表面部分线条不连贯,而且实验室测量装置条件有限,无法完全满足视觉传感器采集图像信息的要求,致使重建待测物三维形貌不完善,但实验结果仍能够表明,椭球形测量网络相较于球形网络在所需相机数目和测量效率上仍具有较大优势。在后续的研究工作中,将会以三维重建为重点,进一步优化重建算法,考虑更全面的约束条件,使测量装置达到采集要求,为立体视觉测量组网技术提供研究支撑。

    • 针对机器视觉三维测量,提出一种多视点立体视觉测量组网方法,在保证覆盖率和高精度的情况下,使测量所需相机数目达到最小化。相对于传统的SFM三维测量方法,所提出方法能够实现全覆盖测量,精度较高且成本较低。在验证实验中,与球形网络进行对比,该方法优化下的椭球形测量网络在相机数目、覆盖率和测量精度上均明显优于已有方法。最后据优化结果进行了三维重建,与实物图相比,基本还原了待测物全貌。在所提出多视点立体视觉测量组网方法的基础上,后续应进一步考虑待测物模型获取方法与约束条件,以实现组网方法的泛化性。

参考文献 (10)

目录

    /

    返回文章
    返回