留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

掩膜版调制关联成像的发展及应用(特邀)

李珮明 蒋文杰 赵海潇 孙宝清

李珮明, 蒋文杰, 赵海潇, 孙宝清. 掩膜版调制关联成像的发展及应用(特邀)[J]. 红外与激光工程, 2021, 50(12): 20210738. doi: 10.3788/IRLA20210738
引用本文: 李珮明, 蒋文杰, 赵海潇, 孙宝清. 掩膜版调制关联成像的发展及应用(特邀)[J]. 红外与激光工程, 2021, 50(12): 20210738. doi: 10.3788/IRLA20210738
Li Peiming, Jiang Wenjie, Zhao Haixiao, Sun Baoqing. Development and application of mask modulated correlated imaging (Invited)[J]. Infrared and Laser Engineering, 2021, 50(12): 20210738. doi: 10.3788/IRLA20210738
Citation: Li Peiming, Jiang Wenjie, Zhao Haixiao, Sun Baoqing. Development and application of mask modulated correlated imaging (Invited)[J]. Infrared and Laser Engineering, 2021, 50(12): 20210738. doi: 10.3788/IRLA20210738

掩膜版调制关联成像的发展及应用(特邀)

doi: 10.3788/IRLA20210738
基金项目: 山东省自然基金联合项目(ZR2019LLZ003-1);山东大学青年交叉项目
详细信息
    作者简介:

    李珮明,女,博士生,主要从事单像素成像、计算成像等方面的研究

    孙宝清,男,教授,博士,主要从事量子成像、单像素成像、计算成像方面的研究

    通讯作者: 蒋文杰,男,博士生,主要从事单像素成像、计算成像等方面的研究。
  • 中图分类号: O438

Development and application of mask modulated correlated imaging (Invited

  • 摘要: 关联成像作为一种新型的计算成像技术,使用不具备空间分辨能力的单像素探测器,结合空间光场调制技术,运用关联算法重构出目标的二维空间信息,成为近二十多年来广泛关注的研究课题。单像素探测器和结构光调制器作为关联成像中的两个核心要素,其性能直接决定了关联成像的各项指标。单像素探测器往往具有极高的光谱响应范围和工作带宽,但结构光调制器却少有与之匹配的性能。因此在一定程度上,结构光调制器的更新历程决定了关联成像技术的发展史。到目前为止,在关联成像中常用的结构光调制器有毛玻璃、空间光调制器、LED阵列以及掩膜版。其中,掩膜版作为一款有着悠久历史的结构光调制器,目前依旧是关联成像中空间调控的重要手段,并发挥着不可替代的作用。以关联成像的基本概念和发展历程为铺垫,着重介绍了一些基于掩膜版调制关联成像技术的工作原理及应用前景,并对非光学波段的掩膜版关联成像工作进行了简要的总结。
  • 图  1  (a)尼普科夫盘示意图[47];(b) 20世纪70年代光谱相机中使用的掩膜版示意图[61]

    Figure  1.  (a) Schematic diagram of the Nipkow disk[47]; (b) Schematic diagram of the mask used in spectroscopic cameras in the 1970s[61]

    图  2  (a)杨氏双缝干涉实验原理图;(b) Hanbury Brown-Twiss星体干涉仪的原理图

    Figure  2.  (a) Schematic diagram of Young's double slit interference experiment; (b) Schematic diagram of the Hanbury Brown-Twiss stellar interferometer

    图  3  关联成像原理图[65]

    Figure  3.  Schematic diagram of correlation imaging[65]

    图  4  单像素探测器的高速运动目标成像原理图[68]

    Figure  4.  Schematic diagram of imaging high-speed moving target based on single-pixel detector[68]

    图  5  鬼式细胞分选仪示意图[69]

    Figure  5.  Schematic diagram of ghost cytometry[69]

    图  6  推扫式鬼成像雷达原理图[70]

    Figure  6.  Schematic diagram of ghost imaging LiDAR using push-broom scanning[70]

    图  7  旋转掩膜版的关联成像实验装置图[16]

    Figure  7.  Experimental setup of correlation imaging based on a rotating mask[16]

    图  8  Hayasaki等实验中使用的掩膜版示意图[51]

    Figure  8.  Schematic diagram of the mask used in the experiment of Hayasaki et al[51]

    图  9  (a) Hahamovich等实验中使用的基于循环S矩阵掩膜版的示意图;(b) Hahamovich等人实验的部分结果[52]

    Figure  9.  (a) Schematic diagram of the mask based on cyclic S matrix used in the Hahamovich et al experiment; (b) Part results of the experiment by Hahamovich et al[52]

    图  10  Vallés等实验中使用的掩膜版示意图[50]

    Figure  10.  Schematic diagram of the mask used in the experiment of Vallés et al[50]

    图  11  图(a)和(b)为Jiang等实验中使用的掩膜版示意图; (c)模拟和实验结果[16]

    Figure  11.  Fig. (a) and Fig. (b) are schematic diagrams of masks used in the experiment of Jiang et al; (c) Simulation and experimental results[16]

    图  12  Jiang等的多光谱成像实验结果图

    Figure  12.  Experimental results of multispectral imaging by Jiang et al

  • [1] Stantchev R I, Yu X, Blu T, et al. Real-time terahertz imaging with a single-pixel detector [J]. Nature Communications, 2020, 11(1): 1-8. doi:  10.1038/s41467-019-13993-7
    [2] Stantchev R I, Sun B, Hornett S M, et al. Noninvasive, near-field terahertz imaging of hidden objects using a single-pixel detector [J]. Science Advances, 2016, 2(6): e1600190. doi:  10.1126/sciadv.1600190
    [3] Watts C M, Shrekenhamer D, Montoya J, et al. Terahertz compressive imaging with metamaterial spatial light modulators [J]. Nature Photonics, 2014, 8(8): 605-609. doi:  10.1038/nphoton.2014.139
    [4] Radwell N, Mitchell K J, Gibson G M, et al. Single-pixel infrared and visible microscope [J]. Optica, 2014, 1(5): 285-289. doi:  10.1364/OPTICA.1.000285
    [5] Gibson G M, Sun B, Edgar M P, et al. Real-time imaging of methane gas leaks using a single-pixel camera [J]. Optics Express, 2017, 25(4): 2998-3005. doi:  10.1364/OE.25.002998
    [6] Pelliccia D, Rack A, Scheel M, et al. Experimental X-ray ghost imaging [J]. Physical Review Letters, 2016, 117(11): 113902. doi:  10.1103/PhysRevLett.117.113902
    [7] Yu H, Lu R, Han S, et al. Fourier-transform ghost imaging with hard X-rays [J]. Physical Review Letters, 2016, 117(11): 113901. doi:  10.1103/PhysRevLett.117.113901
    [8] Zhang A X, He Y H, Wu L A, et al. Tabletop x-ray ghost imaging with ultra-low radiation [J]. Optica, 2018, 5(4): 374-377. doi:  10.1364/OPTICA.5.000374
    [9] Schori A, Shwartz S. X-ray ghost imaging with a laboratory source [J]. Optics Express, 2017, 25(13): 14822-14828. doi:  10.1364/OE.25.014822
    [10] Khakimov R I, Henson B M, Shin D K, et al. Ghost imaging with atoms [J]. Nature, 2016, 540(7631): 100-103. doi:  10.1038/nature20154
    [11] Hodgman S S, Bu W, Mann S B, et al. Higher-order quantum ghost imaging with ultracold atoms [J]. Physical Review Letters, 2019, 122(23): 233601. doi:  10.1103/PhysRevLett.122.233601
    [12] Kingston A M, Myers G R, Pelliccia D, et al. Neutron ghost imaging [J]. Physical Review A, 2020, 101(5): 053844. doi:  10.1103/PhysRevA.101.053844
    [13] He Y H, Huang Y Y, Zeng Z R, et al. Single- pixel imaging with neutrons [J]. Science Bulletin, 2021, 66(2): 133-138. doi:  10.1016/j.scib.2020.09.030
    [14] Li S, Cropp F, Kabra K, et al. Electron ghost imaging [J]. Physical Review Letters, 2018, 121(11): 114801. doi:  10.1103/PhysRevLett.121.114801
    [15] Trimeche A, Lopez C, Comparat D, et al. Ion and electron ghost imaging [J]. Physical Review Research, 2020, 2(4): 043295. doi:  10.1103/PhysRevResearch.2.043295
    [16] Jiang W, Jiao J, Guo Y, et al. Single-pixel camera based on a spinning mask [J]. Optics Letters, 2021, 46(19): 4859-4862. doi:  10.1364/OL.431848
    [17] Rousset F, Ducros N, Peyrin F, et al. Time-resolved multispectral imaging based on an adaptive single-pixel camera [J]. Optics Express, 2018, 26(8): 10550-10558. doi:  10.1364/OE.26.010550
    [18] Bian L, Suo J, Situ G, et al. Multispectral imaging using a single bucket detector [J]. Scientific Reports, 2016, 6(1): 1-7. doi:  10.1038/s41598-016-0001-8
    [19] Li Z, Suo J, Hu X, et al. Efficient single-pixel multispectral imaging via non-mechanical spatio-spectral modulation [J]. Scientific Reports, 2017, 7: 41435. doi:  10.1038/srep41435
    [20] Jin S, Hui W, Wang Y, et al. Hyperspectral imaging using the single-pixel Fourier transform technique [J]. Scientific Reports, 2017, 7: 45209. doi:  10.1038/srep45209
    [21] Magalhães F, Araújo F M, Correia M, et al. High-resolution hyperspectral single-pixel imaging system based on compressive sensing [J]. Optical Engineering, 2012, 51(7): 071406. doi:  10.1117/1.OE.51.7.071406
    [22] Gattinger P, Kilgus J, Zorin I, et al. Broadband near-infrared hyperspectral single pixel imaging for chemical characterization [J]. Optics Express, 2019, 27(9): 12666-12672. doi:  10.1364/OE.27.012666
    [23] Sun B, Edgar M P, Bowman R, et al. 3 D computational imaging with single-pixel detectors [J]. Science, 2013, 340(6134): 844-847. doi:  10.1126/science.1234454
    [24] Salvador-Balaguer E, Latorre-Carmona P, Chabert C, et al. Low-cost single-pixel 3 D imaging by using an LED array [J]. Optics Express, 2018, 26(12): 15623-15631. doi:  10.1364/OE.26.015623
    [25] Zhang Z, Zhong J. Three-dimensional single-pixel imaging with far fewer measurements than effective image pixels [J]. Optics Letters, 2016, 41(11): 2497-2500. doi:  10.1364/OL.41.002497
    [26] Zhang Z, Jiao S, Yao M, et al. Secured single-pixel broadcast imaging [J]. Optics Express, 2018, 26(11): 14578-14591. doi:  10.1364/OE.26.014578
    [27] Chen W, Chen X. Marked ghost imaging [J]. Applied Physics Letters, 2014, 104(25): 251109. doi:  10.1063/1.4879843
    [28] Chen W, Chen X. Ghost imaging for three-dimensional optical security [J]. Applied Physics Letters, 2013, 103(22): 221106. doi:  10.1063/1.4836995
    [29] Yang Z, Zhao L, Zhao X, et al. Lensless ghost imaging through the strongly scattering medium [J]. Chinese Physics B, 2015, 25(2): 024202.
    [30] Li F, Zhao M, Tian Z, et al. Compressive ghost imaging through scattering media with deep learning [J]. Optics Express, 2020, 28(12): 17395-17408. doi:  10.1364/OE.394639
    [31] Dutta R, Manzanera S, Gambín-Regadera A, et al. Single-pixel imaging of the retina through scattering media [J]. Biomedical Optics Express, 2019, 10(8): 4159-4167. doi:  10.1364/BOE.10.004159
    [32] Zhao J, Dai J, Braverman B, et al. Compressive ultrafast pulse measurement via time-domain single-pixel imaging [J]. Optica, 2021, 8(9): 1176-1185. doi:  10.1364/OPTICA.431455
    [33] Pian Q, Yao R, Sinsuebphon N, et al. Compressive hyperspectral time-resolved wide-field fluorescence lifetime imaging [J]. Nature Photonics, 2017, 11(7): 411-414. doi:  10.1038/nphoton.2017.82
    [34] Ota K, Hayasaki Y. Complex-amplitude single-pixel imaging [J]. Optics Letters, 2018, 43(15): 3682-3685. doi:  10.1364/OL.43.003682
    [35] Liu Y, Suo J, Zhang Y, et al. Single-pixel phase and fluorescence microscope [J]. Optics Express, 2018, 26(25): 32451-32462. doi:  10.1364/OE.26.032451
    [36] Hu X, Zhang H, Zhao Q, et al. Single-pixel phase imaging by Fourier spectrum sampling [J]. Applied Physics Letters, 2019, 114(5): 051102. doi:  10.1063/1.5087174
    [37] Li X, Sun Y, He Y, et al. Quantitative imaging for optical field via a single-pixel detector [J]. Signal Processing, 2021: 108173.
    [38] Musarra G, Lyons A, Conca E, et al. Non-line-of-sight three-dimensional imaging with a single-pixel camera [J]. Physical Review Applied, 2019, 12(1): 011002. doi:  10.1103/PhysRevApplied.12.011002
    [39] Junek J, Žídek K. Fluorescence lifetime imaging via spatio-temporal speckle patterns in a single-pixel camera configuration [J]. Optics Express, 2021, 29(4): 5538-5551. doi:  10.1364/OE.413650
    [40] Vinu R V, Chen Z, Singh R K, et al. Ghost diffraction holographic microscopy [J]. Optica, 2020, 7(12): 1697-1704. doi:  10.1364/OPTICA.409886
    [41] Pittman T B, Shih Y H, Strekalov D V, et al. Optical imaging by means of two-photon quantum entanglement [J]. Physical Review A, 1995, 52(5): R3429. doi:  10.1103/PhysRevA.52.R3429
    [42] Bennink R S, Bentley S J, Boyd R W. “Two-photon” coincidence imaging with a classical source [J]. Physical Review Letters, 2002, 89(11): 113601. doi:  10.1103/PhysRevLett.89.113601
    [43] Valencia A, Scarcelli G, D’Angelo M, et al. Two-photon imaging with thermal light [J]. Physical Review Letters, 2005, 94(6): 063601. doi:  10.1103/PhysRevLett.94.063601
    [44] Shapiro J H. Computational ghost imaging [J]. Physical Review A, 2008, 78(6): 061802. doi:  10.1103/PhysRevA.78.061802
    [45] Futia G, Schlup P, Winters D G, et al. Spatially-chirped modulation imaging of absorbtion and fluorescent objects on single-element optical detector [J]. Optics Express, 2011, 19(2): 1626-1640. doi:  10.1364/OE.19.001626
    [46] Shen H, Gan L, Newman N, et al. Spinning disk for compressive imaging [J]. Optics Letters, 2012, 37(1): 46-48. doi:  10.1364/OL.37.000046
    [47] Ma Y, Grant J, Saha S, et al. Terahertz single pixel imaging based on a Nipkow disk [J]. Optics Letters, 2012, 37(9): 1484-1486. doi:  10.1364/OL.37.001484
    [48] Higley D J, Winters D G, Bartels R A. Two-dimensional spatial-frequency-modulated imaging through parallel acquisition of line images [J]. Optics Letters, 2013, 38(11): 1763-1765. doi:  10.1364/OL.38.001763
    [49] Winters D G, Bartels R A. Two-dimensional single-pixel imaging by cascaded orthogonal line spatial modulation [J]. Optics Letters, 2015, 40(12): 2774-2777. doi:  10.1364/OL.40.002774
    [50] Vallés A, He J, Ohno S, et al. Broadband high-resolution terahertz single-pixel imaging [J]. Optics Express, 2020, 28(20): 28868-28881. doi:  10.1364/OE.404143
    [51] Hayasaki Y, Sato R. Single-pixel camera with hole-array disk [J]. Optical Review, 2020: 1-6.
    [52] Hahamovich E, Monin S, Hazan Y, et al. Single pixel imaging at megahertz switching rates via cyclic Hadamard masks [J]. Nature Communications, 2021, 12(1): 1-6. doi:  10.1038/s41467-020-20314-w
    [53] Grant D M, Elson D S, Schimpf D, et al. Optically sectioned fluorescence lifetime imaging using a Nipkow disk microscope and a tunable ultrafast continuum excitation source [J]. Optics Letters, 2005, 30(24): 3353-3355. doi:  10.1364/OL.30.003353
    [54] Yin S, Lu G, Zhang J, et al. Kinoform-based nipkow disk for a confocal microscope [J]. Applied Optics, 1995, 34(25): 5695-5698. doi:  10.1364/AO.34.005695
    [55] Golay M J E. Multi-slit spectrometry [J]. JOSA, 1949, 39(6): 437-444. doi:  10.1364/JOSA.39.000437
    [56] Golay M J E. Static multislit spectrometry and its application to the panoramic display of infrared spectra [J]. JOSA, 1951, 41(7): 468-472. doi:  10.1364/JOSA.41.000468
    [57] Ibbett R N, Aspinall D, Grainger J F. Real-time multiplexing of dispersed spectra in any wavelength region [J]. Applied Optics, 1968, 7(6): 1089-1093. doi:  10.1364/AO.7.001089
    [58] Decker J A, Harwitt M O. Sequential encoding with multislit spectrometers [J]. Applied Optics, 1968, 7(11): 2205-2209. doi:  10.1364/AO.7.002205
    [59] Gottlieb P. A television scanning scheme for a detector-noise- limited system [J]. IEEE Transactions on Information Theory, 1968, 14(3): 428-433. doi:  10.1109/TIT.1968.1054164
    [60] Decker J A. Hadamard –transform image scanning [J]. Applied Optics, 1970, 9(6): 1392-1395. doi:  10.1364/AO.9.001392
    [61] Swift R D, Wattson R B, Decker J A, et al. Hadamard transform imager and imaging spectrometer [J]. Applied Optics, 1976, 15(6): 1595-1609. doi:  10.1364/AO.15.001595
    [62] Harwit M. Spectrometric imager [J]. Applied Optics, 1971, 10(6): 1415-1421. doi:  10.1364/AO.10.001415
    [63] Moharir P S. Two-dimensional encoding masks for Hadamard spectrometric imager [J]. IEEE Transactions on Electromagnetic Compatibility, 1974(2): 126-130.
    [64] Brown R H, Twiss R Q. A Test of a New Type of Stellar Interferometer on Sirius[M]. Boston: Harvard University Press, 2013: 8-12.
    [65] Bromberg Y, Katz O, Silberberg Y. Ghost imaging with a single detector [J]. Physical Review A, 2009, 79(5): 053840. doi:  10.1103/PhysRevA.79.053840
    [66] Xu Z H, Chen W, Penuelas J, et al. 1000 fps computational ghost imaging using LED-based structured illumination [J]. Optics Express, 2018, 26(3): 2427-2434. doi:  10.1364/OE.26.002427
    [67] Zhao W, Chen H, Yuan Y, et al. Ultrahigh-speed color imaging with single-pixel detectors at low light level [J]. Physical Review Applied, 2019, 12(3): 034049. doi:  10.1103/PhysRevApplied.12.034049
    [68] Jiang W, Li X, Peng X, et al. Imaging high-speed moving targets with a single-pixel detector [J]. Optics Express, 2020, 28(6): 7889-7897. doi:  10.1364/OE.387024
    [69] Ota S, Horisaki R, Kawamura Y, et al. Ghost cytometry [J]. Science, 2018, 360(6394): 1246-1251. doi:  10.1126/science.aan0096
    [70] Ma S, Liu Z, Wang C, et al. Ghost imaging LiDAR via sparsity constraints using push-broom scanning [J]. Optics Express, 2019, 27(9): 13219-13228. doi:  10.1364/OE.27.013219
    [71] Chan W L, Charan K, Takhar D, et al. A single-pixel terahertz imaging system based on compressed sensing [J]. Applied Physics Letters, 2008, 93(12): 121105. doi:  10.1063/1.2989126
    [72] Duan P, Wang Y, Xu D, et al. Single pixel imaging with tunable terahertz parametric oscillator [J]. Applied Optics, 2016, 55(13): 3670-3675. doi:  10.1364/AO.55.003670
    [73] Miao J, Charalambous P, Kirz J, et al. Extending the methodology of X-ray crystallography to allow imaging of micrometre-sized non-crystalline specimens [J]. Nature, 1999, 400(6742): 342-344. doi:  10.1038/22498
    [74] Thibault P, Dierolf M, Menzel A, et al. High-resolution scanning X-ray diffraction microscopy [J]. Science, 2008, 321(5887): 379-382. doi:  10.1126/science.1158573
    [75] Chapman H N, Barty A, Bogan M J, et al. Femtosecond diffractive imaging with a soft-X-ray free-electron laser [J]. Nature Physics, 2006, 2(12): 839-843. doi:  10.1038/nphys461
    [76] Klein Y, Schori A, Dolbnya I P, et al. X-ray computational ghost imaging with single-pixel detector [J]. Optics Express, 2019, 27(3): 3284-3293. doi:  10.1364/OE.27.003284
    [77] He Y H, Zhang A X, Li M F, et al. High-resolution sub-sampling incoherent X-ray imaging with a single-pixel detector [J]. APL Photonics, 2020, 5(5): 056102. doi:  10.1063/1.5140322
  • [1] 孙帅, 杜隆坤, 李东, 李月刚, 林惠祖, 刘伟涛.  极弱光关联成像研究进展及展望(特邀) . 红外与激光工程, 2021, 50(12): 20210819-1-20210819-18. doi: 10.3788/IRLA20210819
    [2] 廖兆琨, 王汉, 陈文, 孙鸣捷.  紧凑双光路单像素成像系统(特邀) . 红外与激光工程, 2021, 50(12): 20210723-1-20210723-7. doi: 10.3788/IRLA20210723
    [3] 黄见, 时东锋, 孟文文, 查林彬, 孙宇松, 苑克娥, 胡顺星, 王英俭.  光谱编码计算关联成像技术研究 . 红外与激光工程, 2021, 50(1): 20200120-1-20200120-8. doi: 10.3788/IRLA20200120
    [4] 谭威, 黄贤伟, 蒋腾, 付芹, 南苏琴, 邹璇彭凡, 白艳锋, 傅喜泉.  复杂环境下含噪信号光对关联成像的影响研究(特邀) . 红外与激光工程, 2021, 50(12): 20210657-1-20210657-17. doi: 10.3788/IRLA20210657
    [5] 李美萱, 王红, 刘小涵, 刘明, 宋立军.  基于相位调制的运动目标多光谱关联成像研究 . 红外与激光工程, 2021, 50(7): 20210184-1-20210184-8. doi: 10.3788/IRLA20210184
    [6] 程永强, 王宏强, 曹凯程, 刘康, 罗成高.  微波关联成像研究进展及展望(特邀) . 红外与激光工程, 2021, 50(12): 20210790-1-20210790-21. doi: 10.3788/IRLA20210790
    [7] 孙宝清, 江山, 马艳洋, 蒋文杰, 殷永凯.  单像素成像在特殊波段及三维成像的应用发展 . 红外与激光工程, 2020, 49(3): 0303016-0303016-16. doi: 10.3788/IRLA202049.0303016
    [8] 范斌, 刘彦丽, 赵海博, 徐婧, 孙权森, 王旭.  新型深空高光谱衍射计算成像探测技术(特约) . 红外与激光工程, 2020, 49(5): 20201005-20201005-6. doi:  10.3788.IRLA20201005
    [9] 李美萱, 张斯淇, 李宏, 李楠, 任雨轩, 田嘉龙.  基于单次曝光多光谱关联成像系统带通滤波器的研究 . 红外与激光工程, 2020, 49(9): 20200169-1-20200169-7. doi: 10.3788/IRLA20200169
    [10] 刘正君, 耿勇, 谭久彬.  基于柱透镜多旋转测量的计算成像 . 红外与激光工程, 2019, 48(6): 603016-0603016(5). doi: 10.3788/IRLA201948.0603016
    [11] 刘正君, 郭澄, 谭久彬.  基于多距离相位恢复的无透镜计算成像技术 . 红外与激光工程, 2018, 47(10): 1002002-1002002(16). doi: 10.3788/IRLA201847.1002002
    [12] 时东锋, 黄见, 苑克娥, 王英俭, 谢晨波, 刘东, 朱文越.  空间编码复用散斑多信息融合关联成像(特邀) . 红外与激光工程, 2018, 47(5): 502001-0502001(8). doi: 10.3788/IRLA201847.0502001
    [13] 张家民, 时东锋, 黄见, 王英俭.  全Stokes偏振关联成像技术研究 . 红外与激光工程, 2018, 47(6): 624001-0624001(8). doi: 10.3788/IRLA201847.0624001
    [14] 张家民, 时东锋, 黄见, 吕申龙, 王英俭.  前向调制散斑偏振关联成像技术研究 . 红外与激光工程, 2018, 47(10): 1041001-1041001(7). doi: 10.3788/IRLA201847.1041001
    [15] 安晓峰, 李艳秋, 马海钰, 桑爱军.  Hadamard编码调制关联成像的阈值处理研究 . 红外与激光工程, 2018, 47(10): 1041002-1041002(6). doi: 10.3788/IRLA201847.1041002
    [16] 梁振宇, 樊祥, 程正东, 朱斌, 陈熠.  任意阶运动目标强度关联成像 . 红外与激光工程, 2017, 46(8): 824002-0824002(8). doi: 10.3788/IRLA201746.0824002
    [17] 赵惠, 魏静萱, 庞志海, 刘美莹.  波前编码超分辨成像技术 . 红外与激光工程, 2016, 45(4): 422003-0422003(10). doi: 10.3788/IRLA201645.0422003
    [18] 刘子伟, 许廷发, 王洪庆, 申子宜, 饶志涛.  深度成像理论与实现 . 红外与激光工程, 2016, 45(7): 726001-0726001(5). doi: 10.3788/IRLA201645.0726001
    [19] 施展, 樊祥, 程正东, 朱斌, 陈熠.  关联成像的点扩散函数分析法 . 红外与激光工程, 2016, 45(11): 1124001-1124001(6). doi: 10.3788/IRLA201645.1124001
    [20] 施展, 樊祥, 程正东, 朱斌, 张宏伟.  热光关联成像的均方收敛无偏估计方法 . 红外与激光工程, 2016, 45(4): 424003-0424003(6). doi: 10.3788/IRLA201645.0424003
  • 加载中
图(12)
计量
  • 文章访问数:  93
  • HTML全文浏览量:  38
  • PDF下载量:  32
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-07-20
  • 修回日期:  2021-09-25
  • 网络出版日期:  2022-01-06
  • 刊出日期:  2021-12-31

掩膜版调制关联成像的发展及应用(特邀)

doi: 10.3788/IRLA20210738
    作者简介:

    李珮明,女,博士生,主要从事单像素成像、计算成像等方面的研究

    孙宝清,男,教授,博士,主要从事量子成像、单像素成像、计算成像方面的研究

    通讯作者: 蒋文杰,男,博士生,主要从事单像素成像、计算成像等方面的研究。
基金项目:  山东省自然基金联合项目(ZR2019LLZ003-1);山东大学青年交叉项目
  • 中图分类号: O438

摘要: 关联成像作为一种新型的计算成像技术,使用不具备空间分辨能力的单像素探测器,结合空间光场调制技术,运用关联算法重构出目标的二维空间信息,成为近二十多年来广泛关注的研究课题。单像素探测器和结构光调制器作为关联成像中的两个核心要素,其性能直接决定了关联成像的各项指标。单像素探测器往往具有极高的光谱响应范围和工作带宽,但结构光调制器却少有与之匹配的性能。因此在一定程度上,结构光调制器的更新历程决定了关联成像技术的发展史。到目前为止,在关联成像中常用的结构光调制器有毛玻璃、空间光调制器、LED阵列以及掩膜版。其中,掩膜版作为一款有着悠久历史的结构光调制器,目前依旧是关联成像中空间调控的重要手段,并发挥着不可替代的作用。以关联成像的基本概念和发展历程为铺垫,着重介绍了一些基于掩膜版调制关联成像技术的工作原理及应用前景,并对非光学波段的掩膜版关联成像工作进行了简要的总结。

English Abstract

    • 图像是人类记录和认识世界最为直接也最为重要的工具。在目前的生产生活中,最普遍的成像方式,是利用面阵光电探测器,例如电荷耦合器件(CCD)和互补金属氧化物半导体(CMOS),直接测量光学系统像面的光强分布。随着半导体领域研究的深入,面阵探测器向着高空间分辨率、高时间分辨率和低成本化迅猛发展,客观上促进了传统光学成像系统在成像质量上的提高和应用范围的扩大。但是,传统成像方式并不能完全满足目前所有的成像需求,例如特殊波段下的低成本高质量图像获取等等,这就使得人们必须寻找新的成像方式来解决这些亟待解决的问题。

      关联成像(Correlated imaging),又被称为鬼成像或者单像素成像,作为一种新兴的成像方式,在近年来得到了广泛的研究关注。由于关联成像使用桶探测器而非面阵探测器,大大降低了对探测器的要求,因此在某些特殊波段的应用中,关联成像相比于传统光学成像系统更具有优势。到目前为止,关联成像已经实现了在太赫兹波段[1-3]、红外波段[4-5]、X射线波段[6-9]、甚至于原子[10-11]、中子[12-13]、电子[14-15]成像。同时,也可以实现多光谱[16-19]、高光谱[20-22]成像。除二维成像外,关联成像还可以对物体实现三维重构[23-25]。此外,关联成像在光学加密[26-28]、透过散射介质成像[29-31]、超快成像[32-33]、相位成像[34-37]、非视域成像[38]、荧光寿命成像[33,39]、显微成像[4,40]等诸多领域也展示出了广阔的应用前景。关联成像的历史,可追溯到1995年马里兰大学的史砚华团队利用纠缠光子对首次实现的量子鬼成像[41]。后来,罗彻斯特大学的Boyd团队[42]和马里兰大学的Alejandra Valencia等人[43]分别利用经典光源和赝热光源实现了关联成像,将关联成像从量子领域引入经典领域,并证明了关联成像的基础是光场的二阶相关性而非必须量子纠缠。到了2008年,麻省理工学院的Shapiro团队发表计算鬼成像相关的工作[44]。他们首次使用空间光调制器(Spatial Light Modulator)取代旋转毛玻璃,将一系列利用计算机设计的具有特定空间结构的图案加载到空间光调制器上,入射光经空间光调制器调制后形成结构光场对目标进行空间编码。这种利用空间光调制器产生结构光场的方法大大降低了关联成像系统的光路复杂度,也有效地提高了重构图像质量,因而成为了一种被广泛采用的关联成像方式。

      尽管使用空间光调制器是目前计算关联成像中的主流选择,但在某些特殊应用场景中也会使用掩膜版来进行光场调制[16,45-52]。这是因为空间光调制器存在波长响应范围以及调制速度的限制,而掩膜版却在这些方面具有独特的优势。实际上,掩膜版的使用可以追溯到19世纪末。1884年,尼普科夫发明了尼普科夫盘,如图1(a)所示,通过旋转来对投影于盘表面的物体图像进行空间编码,利用一个光敏元件以及一个与编码端同步转动的尼普科夫盘,就可以实现对编码后图像信息的传输和再现。尼普科夫盘后来被广泛运用到机械电视机中[53-54],但是由于其能量转换效率的低下以及再现图像信噪比的不理想,这种方式逐渐被淘汰。到了20世纪40年代末,研究人员开始逐渐将掩膜版应用于光谱探测中[55-58]。Golay通过在光谱仪的输入或输出端设置掩膜版实现对光谱仪的输出光进行编码,相比于传统的顺序扫描光谱仪,这种使用掩膜版的光谱仪能够以更高的速率以及更大的信噪比获得光谱信息[55]。1968年,Gottlieb将一种二值正交序列的掩膜版用于图像编码中,并提出了一种通过一维掩膜版实现二维图像编码的方法,这种方法提高了再现图像的信噪比并降低了掩膜版制造难度[59]。20世纪70年代,利用掩膜版实现图像编码与重构的技术得到了广泛地使用[60-63]。由于当时掩膜制造工艺的限制以及实现掩膜编码的繁琐性,随着其他成像技术的发展,利用掩膜版进行图像编码再现的方式逐渐淡出了人们的视野。至21世纪,关联成像技术的兴起为掩膜版提供了良好的应用平台,而掩膜版的使用也弥补了空间光调制器性能上的不足,使得关联成像适用于更多场景下的应用。

      图  1  (a)尼普科夫盘示意图[47];(b) 20世纪70年代光谱相机中使用的掩膜版示意图[61]

      Figure 1.  (a) Schematic diagram of the Nipkow disk[47]; (b) Schematic diagram of the mask used in spectroscopic cameras in the 1970s[61]

    • 光的一阶相干性表征了光场与光场之间的干涉能力,这里用杨氏双缝干涉实验来进一步说明。图2(a)为杨氏双缝干涉实验的原理图,光经过小孔$ {S}_{1} $$ {S}_{2} $后在干涉屏表面P点的振幅分布为:

      图  2  (a)杨氏双缝干涉实验原理图;(b) Hanbury Brown-Twiss星体干涉仪的原理图

      Figure 2.  (a) Schematic diagram of Young's double slit interference experiment; (b) Schematic diagram of the Hanbury Brown-Twiss stellar interferometer

      $$ \begin{array}{c}E\left(\overrightarrow{r},{t}\right)={K}_{1}E\left(\overrightarrow{{r}_{1}},{t}_{1}\right)+{K}_{2}E\left(\overrightarrow{{r}_{2}},{t}_{2}\right)\end{array} $$ (1)

      式中:$ E\left(\overrightarrow{{r}_{1}},{t}_{1}\right) $表示在$ {t}_{1} $时刻通过小孔$ {S}_{1} $的光在P点的振幅分布;$ E\left(\overrightarrow{{r}_{2}},{t}_{2}\right) $表示在$ {t}_{2} $时刻通过小孔$ {S}_{2} $的光在P点的振幅分布。P点的强度分布为:

      $$ \begin{split} {I}\left(\overrightarrow{r},{t}\right)=&{\left|{K}_{1}\right|}^{2}\left\langle{{\left|E(\overrightarrow{{r}_{1}},{t}_{1})\right|}^{2}}\right\rangle+{\left|{K}_{2}\right|}^{2}\left\langle{{\left|E(\overrightarrow{{r}_{2}},{t}_{2})\right|}^{2}}\right\rangle+\\ &2Re\left[{K}_{1}^{\mathrm{*}}{K}_{2}\left\langle{{E}^{\mathrm{*}}\left(\overrightarrow{{r}_{1}},{t}_{1}\right)E\left(\overrightarrow{{r}_{2}},{t}_{2}\right)}\right\rangle\right] \end{split} $$ (2)

      其中,$ {(\cdot )}^{\mathrm{*}} $表示求复共轭,等号右边第三项为干涉项,为了更方便地描述干涉特性,定义一阶相干函数为:

      $$ \begin{array}{c}{G}^{\left(1\right)}\left(\overrightarrow{{r}_{1}},\overrightarrow{{r}_{2}};{t}_{1},{t}_{2}\right)=\left\langle{{E}^{\mathrm{*}}\left(\overrightarrow{{r}_{1}},{t}_{1}\right)E\left(\overrightarrow{{r}_{2}},{t}_{2}\right)}\right\rangle\end{array} $$ (3)

      二阶相干函数表征的是光场强度之间的干涉特性,其可以表示为:

      $$ {G}^{\left(2\right)}\left(\overrightarrow{{r}_{1}},\overrightarrow{{r}_{2}};{t}_{1},{t}_{2}\right) =\left\langle{{E}^{\mathrm{*}}\left(\overrightarrow{{r}_{1}},{t}_{1}\right)E\left(\overrightarrow{{r}_{1}},{t}_{1}\right){E}^{\mathrm{*}}\left(\overrightarrow{{r}_{2}},{t}_{2}\right)E\left(\overrightarrow{{r}_{2}},{t}_{2}\right)}\right\rangle$$ (4)

      20世纪50年代中期,曼彻斯特大学的Hanbury Brwon和Twiss为了测量双星的角半径,设计了一个光强干涉实验[64],如图2(b)所示,该实验就是著名的HBT实验。在HBT实验之前,所有的干涉仪都是基于相干光场的干涉现象,也即光场的一阶相干性。而HBT星体干涉仪利用了二阶相干性,其测量方式是对两个光强信号进行关联运算,从关联运算结果获取所要测量的星体角半径。

    • 关联成像对于参考光与单像素探测器在信号光路收集的一系列光强做关联运算,得到物体的振幅及相位的空间分布信息,这是一种利用光场的二阶相干性对目标物体实现重构的过程。基于赝热光调制和空间光调制器调制的关联成像原理分别如图3(a)和图3 (b)所示。

      图  3  关联成像原理图[65]

      Figure 3.  Schematic diagram of correlation imaging[65]

      在赝热光关联成像系统中,如图3(a)所示,激光经旋转毛玻璃调制产生的赝热光被分束器分成两束,一束经过距离L被CCD探测,得到赝热光强度的空间分布I(x,y),这一路被称为参考光路;另一束经过相同的距离L照射在物体表面,物体的透射光由收集透镜会聚后被没有空间分辨能力的桶探测器接收。桶探测器探测到的光强可表示为:

      $$ \begin{array}{c}y=\displaystyle\iint I\left(x,y\right)\cdot O\left(x,y\right){\rm{d}}x{\rm{d}}y\end{array} $$ (5)

      式中:${O}({x},{y})$为物体的透过率空间分布。

      当毛玻璃旋转时,其调制的结构光场也在不断变化,不同时刻CCD拍摄到的结构光场强度分布可表示为$ {I}_{t}(x,y) $, 与每一结构光场对应的光强测值为:

      $$ \begin{array}{c}{y}_{t}=\iint {I}_{t}\left(x,y\right)\cdot O\left(x,y\right){\rm{d}}x{\rm{d}}y\end{array} $$ (6)

      故,参考光路结构光场与信号光路单像素探测器收集到的光强值的二阶关联为:

      $$ \begin{array}{c}{G}^{\left(2\right)}\left(x,y\right)=\left\langle{{I}_{t}\left(x,y\right){y}_{t}}\right\rangle\end{array} $$ (7)

      一次完整的关联成像过程,需要CCD多次拍摄结构光场,多个结构光场的强度分布可用向量进行表示,记为$ \overrightarrow{{I}_{t}}(x,y) $,同样地,桶探测器探测的一系列探测值也可记为$ \overrightarrow{{y}_{t}} $。则二阶关联为:

      $$ \begin{array}{c}\overrightarrow{{G}^{\left(2\right)}}\left(x,y\right)=\left\langle{\overrightarrow{{I}_{t}}\left(x,y\right)\overrightarrow{{y}_{t}}}\right\rangle\end{array} $$ (8)

      对结构光场$ \overrightarrow{{I}_{t}}(x,y) $和探测值$ \overrightarrow{{y}_{t}} $进行零均值化处理,可以降低串扰项的影响,故物体${O}({x},{y})$的重构图像$ \overrightarrow{{G}^{\left(2\right)}}\left(x,y\right) $可以表示为:

      $$ \overrightarrow{{G}^{\left(2\right)}}\left(x,y\right)=\left\langle{\overrightarrow{{[I}_{t}}\left(x,y\right)-\left\langle{\overrightarrow{{I}_{t}}\left(x,y\right)}\right\rangle]\cdot [\overrightarrow{{y}_{t}}-\left\langle{\overrightarrow{{y}_{t}}}\right\rangle]}\right\rangle $$ (9)

      相较于传统的成像技术,关联成像作为一种新型的成像技术,利用一个单像素探测器即可完成图像的重构,在特殊波段、弱光成像等领域有着显著的优势。

    • 从文中可以看出,关联成像的必要条件之一是实现光场强度的涨落。为了实现这种涨落,研究人员设计了利用旋转毛玻璃产生赝热光场或利用调制器件产生变化的结构照明光场等多种方法。

      由于热光场具有强度随机涨落的性质,满足经典关联成像的需要,因此在最开始时,科研人员考虑使用热光源实现关联成像。但是,热光是由原子或分子自发辐射产生,其相干时间远小于光电探测器的响应时间,探测器一般无法探测到热光的涨落。随着研究深入,Martienssen和Spiller发明了赝热光源,其既可以模拟热光场的涨落性质,又具有较长的相干时间,可以被探测器测量。常用的产生赝热光场的办法之一是用激光光束照射旋转的毛玻璃。国防科技大学陈平形课题组证明了激光照射旋转毛玻璃产生的赝热光场符合热光场强度随机涨落的统计特性,也具有满足探测器测量要求的相干时间。由于旋转毛玻璃产生的赝热光场是未知的,因此在进行关联运算时,仍需设置参考光路来探测赝热光场的强度空间分布信息,这使得整个系统光路较为复杂,且成像信噪比较低。

      随着科学技术的不断进步,数字微镜阵列(DMD)、液晶空间光调制器和LED阵列问世,为关联成像提供了更多思路。将激光光束入射至DMD、SLM等调制器件表面可以产生特定的、已知的结构光场,从而省略了参考光路,提高了重构图像的信噪比。由关联成像的成像机制可知,空间光调制器件的刷新速率决定了成像速度,但目前,此类器件中最快的刷新速率也只有22.7 kHz,远达不到对于高速运动物体的成像需求。为了进一步提升成像速度,破除现有光场调制器件对关联成像速度限制的问题,北京航空航天大学孙鸣捷课题组提出了一种基于LED阵列的高速空间结构光场调制方法及成像系统。LED阵列的调制速率达到了2.5 MHz,成像速度达到了5 kHz[66-67]。但基于LED阵列的关联成像也有其固有缺点,LED的发光波长已然是确定的,失去了关联成像与任何光源的兼容优势。

      虽然LED阵列及DMD等空间光调制器的使用在很大程度上优化了关联成像系统,但是上述器件自身的缺陷仍局限着关联成像的适用范围,因此,人们也在不断地探究其他结构光场调制方式。早在20世纪70年代,基于哈达玛变换光学就利用掩膜版实现了空间复用成像。之后随着光电调制器件的诞生,掩膜版由于调制精度与调制速率的限制逐渐被放弃。如今,由于掩膜版加工工艺的进步,掩膜版已经具有了相当良好的调制精度,并且,掩膜版在光谱响应方面的优势一直不能被其他调制器件替代。利用掩膜版与待成像物体之间的相对运动就可以实现关联成像所必需的“涨落”条件,所以,基于掩膜版调制的关联成像近些年来又正在兴起,包括笔者课题组在内的许多研究人员针对基于掩膜版调制的关联成像作了进一步的研究。

    • 基于单一固定光学掩膜板的光场调制与DMD的调制相同之处在于,两种调制方式都需要空间光调制图案与物体之间的相对变化;而不同之处在于,对物体的动态编码不是由空间光调制器刷新产生变化的结构光以进行,而是利用运动物体在固定掩膜板上的相对运动进行的。以被动光场调制为例,物体通过光学成像系统被成像到像平面上(即传统相机中探测器靶面所处的平面),根据光路可逆原理,在像平面上,放置一个固定的长条形的光学掩膜板(通常为二值型振幅掩膜版),即可在物平面上产生一副静止的结构光照明。假设物体所成图像的尺寸远小于掩膜板面积。当物体运动时,其在光学掩膜板上所成的像也会随之发生位移。不同时刻,像处于不同的位置,而掩膜板的结构是随机的,因此当像移动到不同位置处时,所受到的“局部光场调制”,即物体图像所重合的掩膜板的局部结构,会发生变化,这种机制就产生了关联成像所需要的“变化的光场调制”。如果采取一定措施,能将物体在照明结构上的实时位置记录下来,同时通过单像素探测器探测相应的物光强度,就可以提取出一组照明结构与对应的单像素探测值,进而可以实现关联成像。

    • 受制于关联成像的成像机制,之前大部分关联成像的相关工作都是针对静止目标或准静止目标的。直到Jiang等提出的基于单像素探测器的高速运动目标成像方案[68],打破了以往关联成像对运动目标,特别是高速运动目标的恐惧。该方案不仅保留了已经被广泛验证过的关联成像在光谱等方面的优势,还把关联成像发展向了快速成像领域,并且在对高速运动目标的成像上,更具有超过现有昂贵的面阵高速相机的能力。

      图4所示为Jiang等提出的高速成像方案。不同于传统的关联成像依靠不断刷新编码图案去完成空间编码,在该方案中,编码是利用运动目标本身的位移特性,自主地在单一固定的矩形图案上完成的。矩形编码图案放置在运动目标的路径上,且长边方向和运动方向保持一致。目标运动过程中,相对图案移动一个编码像素便实现了一次空间采样,当目标掠过整个矩形图案时就完成了一次关联成像的完整采样。由于矩形图案是预先设计好的,能被简单的数值化并提取出编码矩阵,再提取单像素探测器记录的信号,便能完成一次关联重构。

      图  4  单像素探测器的高速运动目标成像原理图[68]

      Figure 4.  Schematic diagram of imaging high-speed moving target based on single-pixel detector[68]

      Jiang等在实验上验证了提出的基于单像素探测器对高速运动目标成像的可行性,证明了该方案对运动目标的捕获能力完全取决于单像素探测系统的工作带宽和采样速度。另外,为了尽可能的减少采样率,即矩形编码图案的长度,压缩感知算法和深度学习算法分别被用来重构。实验表明深度学习算法表现更优,在6%的采样率下就能实现良好的重构效果。不得不提及的是,Jiang实验中的目标是匀速直线运动的,但是基于此方案的高速关联成像不仅仅适用于这种限制比较大的情况。当目标是非匀速直线或者是非匀速非直线运动时,补充相应的辅助探测系统,该方案依旧是适用的。

    • 2018年日本科研人员Ota等在《Science》期刊上介绍了一种新式的细胞分选平台,称为Ghost Cytometry[69]。该技术在原理上和上面介绍的基于单像素探测器的高速运动目标成像非常相似,只不过他们的工作重点放在了鉴定和分选血液中各类细胞,以便用来确诊患者血液中异常细胞的种类和数量。

      鬼式细胞分选仪的工作原理如图5所示。首先,大量待测细胞流经预设好的矩形图案编码区域,由光电倍增管记录下编码后的细胞荧光强度信号。然后,来自光电倍增管的电信号传输至FPGA电路板,其根据得到的信号并结合通过机器学习预先训练好的异常细胞判别依据,来判别是否发出一个脉冲信号去驱动压电致动器(PZT)进行异常细胞的分离。在整个细胞分选过程中,不需要对细胞进行成像,而是直接利用机器学习以信号的形式来判别。最终,鬼式细胞分选仪能在极低的错误率下,以每秒一万个细胞左右的速率鉴定和分离细胞。

      图  5  鬼式细胞分选仪示意图[69]

      Figure 5.  Schematic diagram of ghost cytometry[69]

      该工作以单一固定掩膜版的调制方式,利用单像素探测器的高带宽优势,在不重构图像的情况下,利用机器学习以探测信号的形式来鉴定异常细胞,并实现了对异常细胞的分离。该工作不仅验证了关联成像在高速成像、显微成像、医学诊断等方面的应用潜力,还开发了一套可广泛使用的产品,为关联成像走向实际应用迈出了重要的一步。

    • 2019年,Ma等首次提出了推扫式鬼成像雷达[70]。尽管在成像的过程中也是使用单一固定的掩膜版作为调制器件,但具体的空间采样形式又和上两种的成像方式有一些不同。推扫式鬼成像雷达的空间采样不是利用目标在编码区域的自主运动,而是将掩膜版和探测器放置在运动平台上,依靠平台相对场景的运动来实现编码图案的切换从而完成采样的。推扫式鬼成像雷达的原理如图6所示。地面场景由光学成像系统成像到掩膜版上,掩膜版后放置一个柱状透镜和线阵探测器,柱状透镜将透过掩膜版每一列的光场分别会聚于线阵探测器上一点。假设掩膜版的分辨率大小是m×n,且移动平台沿着n方向运动,则线阵探测器的有效像素数为n个,垂直运动方向上每一列的m个掩膜版像素能独立完成一次空间采样,其编码信号由线阵探测器上的一个有效像素记录。当平台移动时,场景中垂直运动方向的m个像素依次被推扫式采样,当这m个像素移动过一个掩膜版的距离后,总共进行n次空间采样过程。利用线阵探测器上n个有效像素分别记录的信号值,就可以完成重构。

      图  6  推扫式鬼成像雷达原理图[70]

      Figure 6.  Schematic diagram of ghost imaging LiDAR using push-broom scanning[70]

      这种推扫式的鬼成像雷达拓宽了关联成像的工作模式。传统关联成像中,只用到一个单像素探测器,所有的编码图案的信号都是由这一个单像素探测器采集的。而在这种推扫式鬼成像雷达中,用到了线阵探测器,线阵探测器中的每一个探测像素都和一个一维的确定的编码图案绑定。虽然每一个探测像素只服务于一个固定的编码图案,但是整个成像过程是平行扫描运行的,完全没有浪费探测资源。另外,推扫式鬼成像雷达不仅仅是关联成像的一种新的实现形式,而且极具实际应用价值。在大多数光学成像系统中,分辨率由衍射极限决定,但在红外、太赫兹等特殊波段或单光子等特殊类型的雷达成像中,由于探测器技术发展尚不成熟,阵列规模较低,导致成像分辨率受到探测器像素规模的制约。因此,对于这些雷达成像系统来说,成像分辨率的提高往往需要依赖于成像像素规模的提高。在目前很难有效增加特殊波段相机像素规模的情况下,推扫式鬼成像雷达能以目前低分辨的线阵探测器完成高分辨雷达成像。

    • 文中介绍了以结构光编码相对静止、物体运动或者物体静止、结构编码和探测器推扫为例的编码形式,解释了单一固定光学掩膜板光场调制的原理。在关联成像过程中,只需要物体与结构光照明之间有“相对运动”即可实现连续变化的调制。为了实现物体与固定掩膜版结构光照明之间的相对运动,另一种有效的实现方式是将掩膜版制作成环形形状,并放置于可以旋转的转轮上。当转轮以一定的速度匀速转动时,即可通过一定的光路实现对待成像区域的连续、周期性的光场调制。到目前为止,已经有多种基于旋转掩膜版的关联成像技术被提出,有的只用单个单像素探测器采集重构出单幅图像,有的用多个探测器完成了多波长同时采集,一次采集能重构多幅图像,实验装置如图7所示。

      图  7  旋转掩膜版的关联成像实验装置图[16]

      Figure 7.  Experimental setup of correlation imaging based on a rotating mask[16]

    • 正交编码是指关联成像中用正交矩阵的每一行依次作为调制矩阵去编码目标的空间信息。常用的正交矩阵有哈达玛矩阵和傅里叶基矩阵等。其中,哈达玛矩阵的组成元素是二值的,能方便地用空间光调制器表达出来,在关联成像中更受欢迎。当关联成像采用迭代算法重构时,需要随机编码的数量远超图像分辨率的调制次数,而正交编码只需一倍成像分辨率编码次数即可完成一次高质量重构。且在不考虑噪声的情况下,重构出的图像是完美的。正交编码的引入大大减少了一次关联成像过程的编码次数,提高了关联成像的速度,推动关联成像进一步走向实际应用。在此之前,已经有大量基于空间光调制器的正交编码关联成像被验证和研究,文中将介绍基于掩膜版的正交编码关联成像能否实现。

    • 2020年,Hayasaki等就在基于掩膜版的关联成像中使用了正交哈达玛矩阵编码[51]。如图8所示,直接将哈达玛矩阵中提取的每一个编码图案按照环形分布印刷在掩膜版上。掩膜版由一个电机驱动,在转动时,每个编码图案依次经过视场,完成一次空间编码。通过实验验证了该方案在4×4空间分辨率下多光谱成像的可行性。总的来看,课题组的工作中虽然使用了哈达玛正交矩阵作为编码图案,但每个编码图案在空间上是独立分布的,这使得在掩膜版有限的环形区域能够印刷的编码图案数量有限的。又因为关联成像中编码图案的数量是随着成像分辨率的提高而增加,因而该方案很难实现较高分辨率的关联成像,只能适用于空间分辨率要求不高的应用场景。

      图  8  Hayasaki等实验中使用的掩膜版示意图[51]

      Figure 8.  Schematic diagram of the mask used in the experiment of Hayasaki et al[51]

    • 文中介绍了掩膜版作为调制器时采用正交编码的方式来完成关联成像。但该方案中编码图案之间是独立分布的,导致掩膜版上可印刷的编码图案数量有限,不能进行高分辨的关联成像,很难有广泛的应用前景。基于掩膜版的连续分布式正交编码策略,规避了上一种方案中关联成像分辨率低的问题。

      除了常规的正交矩阵外,还存在着一种特殊的矩阵,即循环S矩阵。该矩阵虽然失去了严格的正交性,但该矩阵作为编码矩阵也能在不考虑噪声的情况下,实现对目标无失真的重构。2021年,以色列Hahamovich等利用该矩阵完成了基于转动掩膜版的高质量关联成像[52]。其实,循环S矩阵的使用可以追溯到20世纪70年代的哈达玛变换相机和成像光谱仪。循环S矩阵构造方法为:将n维哈达玛矩阵的第一行以及第一列移除,再将形成的n−1维方阵中的所有1元素替换为0,所有的−1元素替换为1,形成S矩阵,取S矩阵中的任一行作为目的矩阵的第一行,循环右移(或左移)n−2次生成循环S矩阵。循环S矩阵在关联成像中作为测量矩阵时,可以通过快速哈达玛变换从探测值中恢复出目标空间信息。更重要的是,如图9所示,循环S矩阵能被连续的印刷在掩膜版上。当掩膜版转动时,每移动一个掩膜版像素即可刷新一张编码图案。这是因为循环S矩阵独特的构造使得相邻编码图案在空间分布上只有一列之差。

      图  9  (a) Hahamovich等实验中使用的基于循环S矩阵掩膜版的示意图;(b) Hahamovich等人实验的部分结果[52]

      Figure 9.  (a) Schematic diagram of the mask based on cyclic S matrix used in the Hahamovich et al experiment; (b) Part results of the experiment by Hahamovich et al[52]

      再次回顾Hahamovich等人的工作,该课题组不仅将遗忘多年的循环S矩阵重新应用到关联成像中,还搭建了高精度的实验系统,完成了高质量的成像。首先,在技术上通过相机标定的手段,解决了掩膜版在转动时,由马达主轴跳动和掩膜版安装位置不准确造成的漂移问题,这为整个成像过程中能够按照预设的编码矩阵完成空间编码提供了保障。然后,还讨论了掩膜版上每个调制像素为六边形或正方形时的成像效果。此外,结合传统成像中使用的亚像素移动的策略,实现了三倍调制分辨率的超分辨成像。

    • 在关联成像中,常用的重构算法有两种:一种是迭代重构算法;另一种是压缩感知重构算法。其中,压缩感知在花费更多计算力的代价下,能以较低的采样率完成关联成像。压缩感知的成像理论是依托于物体在特定变换域能量集中分布,呈现一定稀疏性的特点来实现压缩采样。其重建过程旨在寻找当前变换域的稀疏解,即重建当前变换域中能量集中的部分,具有较高的普适性。因此,基于压缩感知重构的关联成像一经提出,就引起了广泛的关注和研究。

    • 2012年Shen等[46]以及2020年Vallés等[50]都用了如图10所示的掩膜版,分别在红外和太赫兹波段利用压缩感知算法来完成关联成像。这种掩膜版在空间分布上没特别的设计,掩膜版上的每一个像素都是正方形的,亮暗是随机分布的。以被动成像为例,在成像过程中,需要选择一个固定且大小适配掩膜版的窗口作为编码区域,也就是成像视场。目标场景通过光学系统成像到此区域,由于掩膜版的转动,该窗口的编码图案不断刷新,每转动一个小角度,都相当于对目标图像完成了一次空间编码。编码后的光场强度由单像素探测器记录。关联成像的重构过程需要探测矩阵与探测信号对应,但是上述两个工作中掩膜版的编码方式,很难做到让探测矩阵和探测信号对应,这主要是因为掩膜版的编码图案很难准确的数字化。当掩膜版转动时,不同半径处的线速度不一样,就会造成成像窗口内的编码像素的倾斜,或者窗口边沿上像素的不完整。在这种情况下,窗口内的编码图案只能以近似的方式得到字数矩阵,这会给重构引入极大的误差,从而降低重构图像的质量。总的来说,这种图案分布的掩膜版,虽然在设计和加工上简单一些,但在重构过程比较麻烦,还会降低图像重构质量,不是一个完美的选择。

      图  10  Vallés等实验中使用的掩膜版示意图[50]

      Figure 10.  Schematic diagram of the mask used in the experiment of Vallés et al[50]

    • 最近,Jiang等[16]提出的基于转动掩膜版的关联成像在掩膜版图案分布上进行了全新的设计。该工作的灵感来源于课题组的上一个工作[68]。如图11所示,首先确定了一个已知随机分布的长方形图案作为关联成像的编码矩阵,假设其分辨率大小为a×b,其中a远小于b,则能从这个长方形图案中划分出b-a+1个分辨率为a×a的子图案,并将这些子图案作为关联成像中每一次空间编码的图案。当这个长方形图案相对目标沿着同一方向移动时,便实现了关联成像中不同编码图案的切换。课题组上一个工作通过运动目标本身相对于掩膜版的运动实现了编码过程,但在该工作中,编码过程是靠掩膜版的转动来完成的。为实现工作中的编码方式,首先需要把这个长方形图案变成环形。在变成环形之前,需在长方形图案的后面填加了一段等宽的全零矩阵作为标志位,此举是为了方便重构过程中找到探测信号对应的编码矩阵。接着,对这个添加了标志位的长矩阵进行上采样,通过极坐标变换的方式,将长方形图案变成圆环状图案。最后,以此圆环为图纸加工成掩膜版,并将掩膜版安装在马达上,在马达的转动下完成连续的空间编码。该掩膜版如图11(b)所示,此时掩膜版上每个调制像素是扇形的,且大小随着半径变化,半径越大扇形面积越大。在这种情况下,即使掩膜版转动时不同半径处的线速度不一致,也会保证不同半径处的每个调制像素是同时切换的。这样一来,重构时编码矩阵是确定的,不需要去做近似,从而避免了不必要的误差。Jiang等分别通过模拟仿真和物理实验的方式验证了方案的可行性。图11(c)是该课题组的成像结果,其中,左上第一张是模拟数据的原图,左下第一张是模拟的传统关联成像结果图。左上第二张和第三张分别是直接重构的模拟和实验结果,它们下方是对应的矫正后的图像。

      图  11  图(a)和(b)为Jiang等实验中使用的掩膜版示意图; (c)模拟和实验结果[16]

      Figure 11.  Fig. (a) and Fig. (b) are schematic diagrams of masks used in the experiment of Jiang et al; (c) Simulation and experimental results[16]

      该课题组以实验验证了所设计的掩膜版可行性之后,又通过新的实验展示了基于掩膜版调制关联成像在成像谱段方面的优势。掩膜版作为一个空间光调制器,其光谱响应范围取决于掩膜版的制作材料,实验中所使用的掩膜版是由石英玻璃上镀铬制作的。相比于常见的空间光调制器,该掩膜版在200~2 000 nm的光谱范围内都能完成较高效率的结构光调制。在实验上利用两个二向色镜和三个不同的单像素探测器完成了光谱范围从紫外到短波红外的多光谱同时成像。图12是实验的成像结果。首先成像了在空间不同位置放置的三个单色LED,这三个LED的发光波长分别是365 nm、520 nm和1 064 nm。来自不同探测器信号重构出的图像中只显示了该探测器探测波段内LED的像。然后,又以打印的“S、P、I”三个字母作为成像目标,其中字母“S”未作任何处理,字母“P”上涂了一层防晒霜,而字母“I”上涂了一层油画染料。对这三个字母进行紫外到短波红外的同时成像,来自紫外探测器信号重构出的图像中只有字母“S”,这是因为防晒霜和油画染料能阻碍了紫外光照射到后面的字母;由可见光探测器信号重构出的图像中有字母“S”和“P”,这是因为防晒霜对可见光没有阻隔作用,而可见光依旧不能透过油画染料;来自红外探测器信号重构出的图像中三个字母都能看到,这是因为红外光不仅能透过防晒霜也能透过油画染料。这一多光谱的实验不仅证明了基于掩膜版调制的关联成像有着出色的宽光谱成像能力,还生动地体现出了宽光谱成像的广泛应用场景。另外,该课题组搭建的成像系统还达到了100 fps的成像速度,实现了对燃烧火焰的多光谱动态成像。

      图  12  Jiang等的多光谱成像实验结果图

      Figure 12.  Experimental results of multispectral imaging by Jiang et al

      综上所述,Jiang等提出的方案极大地解决了掩膜版调制关联成像中调制图案数字化的问题。另外,课题组的工作还突出了基于掩膜版调制关联成像的两个优势:一个是在成像速度上超过了基于空间光调制器的关联成像;另一个是实现了现有面阵相机不可能实现的从紫外到红外谱段的同时成像。

    • 掩膜版调制关联成像不仅适用于光学波段。实际上,在非光学波段的关联成像系统中也会广泛地使用掩膜版,掩膜版调制相对于其他非光学波段的调制方式在系统复杂度等方面具有显著的优势。

    • 在关联成像被提出之前,太赫兹波段成像大多是通过点扫面成像或面阵探测器成像实现的,但是这两种成像方式分别在成像时间以及探测灵敏度和成像成本等方面具有固有的缺陷。随着关联成像的发展,2008年,莱斯大学的Chan等首次提出了太赫兹关联成像系统,并结合压缩感知算法,实现了空间分辨率为32×32 pixel、压缩比约为30%的太赫兹成像[71]。Chan等利用印制在印刷电路板(PCB)上的铜制掩膜版实现了对太赫兹波段场的调制。一张PCB上印制了600个不同的铜制随机二值图案,每个图案都为32×32 pixel,每个像素的大小为1 mm×1 mm。逐次移动PCB可以实现不同图案的切换,从而完成空间采样过程,最终重构出了物体的图像。然而,这种逐次移动切换采样图案的方式需要精确的运动控制平台以实现每次切换后的图案保持在同一位置,使得系统较为复杂。2016年,天津大学的Duan等提出了另一种单一掩膜版的太赫兹关联成像系统[72],该系统不是将一套图案分别印制在掩膜版的不同位置,而是直接构造了一个随机二值的长方形掩膜版,其长宽分别为99 pixel和20 pixel,利用一维平移台将掩膜版每沿长边移动一个像素的距离,就可以切换一次采样图案,这样就形成了80个20×20 pixel的采样图案,再结合压缩感知算法,最终实现了空间分辨率为20×20 pixel、压缩比为20%的太赫兹成像。

      上述基于矩形掩膜版的工作诚然成功地实现了太赫兹波段的关联成像,在一定程度上弥补了原有太赫兹成像方式的缺陷,但是矩形掩膜版的各掩膜图案之间的切换仍旧是一个耗时较长的过程。为了提高成像速度,太赫兹关联成像系统中也会使用旋转掩膜版进行调制。利用旋转掩膜版进行太赫兹波段的关联成像是在2012年时由Shen等首次实现的[46],一直到近些年,这种简洁高效的调制方式仍会被许多课题组采用,例如VALLÉS等在2020年发表的工作[50]。这两个工作所采用的掩膜版设计方案都是直接将随机二值矩阵加载于圆盘上,以方形像素实现调制。Shen等利用印制在圆盘形PCB上的铜制掩膜版进行关联成像,每一掩膜图案的空间分辨率为32×32 pixel,最终得到空间分辨率为32×32 pixel的重构图像,并结合压缩感知算法,使得压缩比达到约16%。但是,PCB的衬底材料对1 THz以上频率的入射太赫兹波有强烈的吸收,因此,这一系统仅能对1 THz以下频率的太赫兹波进行有效成像。而VALLÉS等采用的是不锈钢板直接穿孔形成的掩膜版,以此来避免不希望的吸收,使得这一系统能够在整个太赫兹频段(3~13 THz)实现关联成像,并且结合了亚像素算法,以空间分辨率为32×32 pixel的掩膜图案实现了空间分辨率为1 200×1 200 pixel的高像素分辨重构结果。此外,VALLÉS等还完成了这一系统在可见光(532 nm)以及近红外(1 510 nm)波段的成像实验,进一步验证了系统的宽谱段成像能力。

    • X射线成像具有较长的穿透深度和极高的空间分辨率,因而在材料学、生物医学以及国防军工等诸多领域有着广泛的应用需求。但与光学波段不同的是,X射线波段成像需要面对两大难题,一是这一波段缺乏高质量的元件对X射线束进行分束、聚焦、反射等操作;二是传统X射线成像技术要求X射线源具有高度的相干性以及亮度[73-75],这在实际应用中是难以实现的。因此,利用低相干源的无透镜X射线成像方案亟待被实现。

      考虑到关联成像在低相干源条件下的适用性,2016年,Yu等提出了一种使用空间非相干源的无透镜关联成像方案,首次实现了X射线波段的关联成像[7]。利用带有位置随机分布的圆孔的金箔对X射线进行空间调制,圆孔直径小于1 μm,深度为2.7 μm。这种多孔金箔起到了掩膜版的作用,X射线穿过多孔金箔后可以形成结构照明,并且由于圆孔随机分布,结构照明会随着X射线入射位置的改变而改变。每次测量时,需将金箔固定,将物体移出光路并用CCD测量结构照明的空间分布,然后将物体放入光路测量此时强度信息,完成一次测量后,将金箔横向移动形成下一个结构照明,重复之前的过程再次测量。Yu等利用这种方法获取了目标物体的高分辨率傅里叶变换衍射图,并成功地通过傅里叶变换恢复了物体在空间域的振幅和相位分布,实现了无透镜非相干照明的非晶体样品X射线成像,并且,这一工作还为费米子(如中子和电子)等没有强相干源的无透镜衍射成像提供了可行的解决方案。

      Yu等所使用的掩膜版类似于关联成像中的旋转毛玻璃,其图案分布未知,需要通过CCD测量得到结构照明的空间分布。2019年,Klein等[76]利用已知掩膜图案的掩膜版进行了X射线关联成像,直接得到了目标物体的图像。通过数值模拟设计出所使用的随机二值图案,然后利用激光在金箔及铜箔上刻蚀,形成在实验中使用的掩膜版,测量过程中,平移掩膜版即可实现不同掩膜图案的切换。又通过关联运算重构出了50 μm和80 μm狭缝的图像,实现了在降低对X射线源要求的条件下的高分辨率成像。2020年,He等[77]提出了一种另一种掩膜版X射线关联成像的方式,将一组hadamard基采样图案直接刻蚀与金箔的不同位置制成掩膜版,并将其安装于二维电动平台上,通过移动掩膜版位置使得X射线入射到不同的采样图案上,完成测量过程。此外,还利用了多级小波卷积神经网络(CH-MWCNN)算法,以18.75%的压缩率实现了对目标物体的高分辨率重构。

    • 文中归纳了近年来主要使用的两类掩膜版调制的关联成像方案,着重介绍了它们各自的工作原理,并进一步分析了它们各自的特点以及在未来的应用前景,同时,也对于非光学波段的掩膜版关联成像工作进行了简要的总结和阐述,证明了掩膜版关联成像在宽谱段范围的应用潜力。首先以量子鬼成像为始介绍了关联成像的发展历程,然后从物理和数学两个角度解释了关联成像的成像机理,其间引入了一些关于掩膜版起源与早期应用的例子。对近些年来关联成像中使用掩膜版的相关工作进行了总结,根据成像过程中掩膜版的工作状态,把这些工作分为两大类:基于单一固定掩膜版调制的关联成像和基于转动掩膜版调制的关联成像。其中,对三项基于单一固定掩膜版调制的关联成像工作进行了介绍,它们都是利用目标和掩膜版之间的相对位移来实现对目标的连续空间编码。这种空间编码模式打破了传统关联成像中空间光调制器刷新速率对成像速度的限制,使得关联成像的成像速度仅限制于单像素探测系统的工作带宽和采样速率。因此,在这种成像模式适用的场景下,关联成像捕获高速运动目标的能力远超现有的超快面阵相机。此外还介绍了四项基于转动掩膜版调制的关联成像工作,它们之间的主要区别在掩膜版设计上,按照调制效率从低到高的顺序对他们分别进行了详细的介绍。其中,Hahamovich等人和Jiang等人提出的最新式转动掩膜版不仅完美适配关联成像的工作模式,还能完成高分辨、高质量以及宽光谱的成像。最后,为了特别说明掩膜版调制在特殊波段成像的适用性,介绍了太赫兹波段和X射线波段中典型的掩膜版关联成像工作。实践证明,掩膜版可以对非光学波段光束进行高效调制,从而实现了关联成像,这使得非光学波段单像素探测器在技术实现难度、灵敏度及造价等方面的优势能够应用于成像领域,并为特殊波段的高质量成像提供了一种简洁易行的方案,解决了其他成像系统中对光源或其他元件要求过高的问题,同时,随着压缩感知或深度学习算法的引入,降低了采样次数,进一步缩短了成像时间。

      综上所述,掩膜版作为一个结构光调制器件被应用于关联成像中,并且,与其他常用的调制器件相比有着固有的优势。首先,掩膜版的调制光谱范围较广,从X射线波段到太赫兹波段都已被验证,这是其他调制器所不具备的。其次,掩膜版相比于空间光调制器和旋转的毛玻璃,能实现更高的调制效率。最后,掩膜版在加工制作上还有着低成本、低技术壁垒的优势,能被广泛地推广应用。总之,随着关联成像技术的进一步发展,掩膜版必定会在常用的结构光调制器件中占有一席之地,并发挥不可替代的作用。

参考文献 (77)

目录

    /

    返回文章
    返回