留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

单像素成像理论与方法(特邀)

翟鑫亮 吴晓燕 孙艺玮 石剑虹 曾贵华

翟鑫亮, 吴晓燕, 孙艺玮, 石剑虹, 曾贵华. 单像素成像理论与方法(特邀)[J]. 红外与激光工程, 2021, 50(12): 20211061. doi: 10.3788/IRLA20211061
引用本文: 翟鑫亮, 吴晓燕, 孙艺玮, 石剑虹, 曾贵华. 单像素成像理论与方法(特邀)[J]. 红外与激光工程, 2021, 50(12): 20211061. doi: 10.3788/IRLA20211061
Zhai Xinliang, Wu Xiaoyan, Sun Yiwei, Shi Jianhong, Zeng Guihua. Theory and approach of single-pixel imaging (Invited)[J]. Infrared and Laser Engineering, 2021, 50(12): 20211061. doi: 10.3788/IRLA20211061
Citation: Zhai Xinliang, Wu Xiaoyan, Sun Yiwei, Shi Jianhong, Zeng Guihua. Theory and approach of single-pixel imaging (Invited)[J]. Infrared and Laser Engineering, 2021, 50(12): 20211061. doi: 10.3788/IRLA20211061

单像素成像理论与方法(特邀)

doi: 10.3788/IRLA20211061
详细信息
    作者简介:

    翟鑫亮,男,博士生,主要从事计算成像等方面的研究

    曾贵华,男,教授,博士生导师,博士,主要从事量子通信、量子感知与成像等方面的研究

    通讯作者: 吴晓燕,女,助理研究员,硕士生导师,博士,主要从事计算成像、新型光电器件等方面的研究。
  • 中图分类号: O439

Theory and approach of single-pixel imaging (Invited)

  • 摘要: 单像素成像技术是一种可通过无空间分辨能力的单像元探测器来获取目标图像信息的新型成像技术,与传统“所见即所得”的光学成像技术相比具有高灵敏、抗干扰和高分辨等一系列优点,在遥感探测、国防军事和生物医学等领域有着广阔的应用前景。近年来,随着计算能力的提升和光电器件的发展,单像素成像受到越来越多学者们的关注。简要回顾了单像素成像的发展历程,详细介绍了单像素成像的基本原理、调制矩阵设计、图像恢复算法等方面的研究进展,并对其应用场景和未来发展趋势进行了总结和展望。
  • 图  1  两种不同的成像结构示意图。(a)单像素成像;(b)计算鬼成像

    Figure  1.  Two different imaging architecture. (a) Single-pixel imaging; (b) Computational ghost imaging

    图  2  使用随机散斑的单像素成像结果

    Figure  2.  Single-pixel imaging result with random pattern

    图  3  利用旋转毛玻璃产生随机散斑

    Figure  3.  Random speckle generated by spinning diffuser

    图  4  哈达玛基及其在20%压缩率下的仿真成像结果

    Figure  4.  Hadamard basis and simulating imaging result under 20% compression

    图  5  傅里叶基及其在10%压缩率下的仿真成像结果

    Figure  5.  Fourier basis and simulating imaging result under 10% compression

    图  6  基于CNN模型(a)所产生的掩膜图案(b)及其在4%压缩率下的成像结果(c)[8]

    Figure  6.  CNN based model (a) generated mask patterns (b) and imaging result under 4% compression(c)[8]

    图  7  快速首达光子鬼成像原理图[71]

    Figure  7.  Schematic of fast first-photon ghost imaging[71]

    图  8  基于未训练神经网络的计算鬼成像算法示意图[106]

    Figure  8.  Framework of computational ghost imaging based on an untrained neural network[106]

    表  1  单像素成像中常见调制器的性能比较

    Table  1.   Performance comparison of modulation devices in single-pixel imaging

    DeviceModulation rateComplexityPattern
    Spinning diffuserHighRandom
    Spinning maskHighControllable
    DMD~22 kHzLowControllable
    LED~1 MHzLowControllable
    LC-SLM<1 kHzLowControllable
    OPA~55 kHzHighRandom
    AOM~1.6 MHzHighControllable
    下载: 导出CSV
  • [1] Bromberg Y, Katz O, Silberberg Y. Ghost imaging with a single detector [J]. Physical Review A, 2009, 79(5): 053840. doi:  10.1103/PhysRevA.79.053840
    [2] Duarte M F, Davenport M A, Takbar D, et al. Single-pixel imaging via compressive sampling [J]. IEEE Signal Processing Magazine, 2008, 25(2): 83-89. doi:  10.1109/MSP.2007.914730
    [3] Sen P, Chen B, Garg G, et al. Dual photography [J]. ACM Transactions on Graph, 2005, 24(3): 745-755. doi:  10.1145/1073204.1073257
    [4] Shapiro J H. Computational ghost imaging [J]. Phyical Review A, 2008, 78(6): 061802.
    [5] Edgar M P, Gibson G M, Padgett M J. Principles and prospects for single-pixel imaging [J]. Nature Photonics, 2019, 13(1): 13-20. doi:  https://doi.org/10.1038/s41566-018-0300-7
    [6] Sun M J, Zhang J M. Single-pixel imaging and its application in three-dimensional reconstruction [J]. Infrared and Laser Engineering, 2019, 48(6): 0603003. (in Chinese) doi:  10.3788/IRLA201948.0603003
    [7] Graham M G, Steven D J, Miles J P. Single-pixel imaging 12 years on: A review [J]. Optics Express, 2020, 28(19): 28190-28208. doi:  10.1364/OE.403195
    [8] Catherine F H, Roderick M, Miles J P, et al. Deep learning for real-time single-pixel video [J]. Scientific Report, 2008, 8(1): 2369.
    [9] Jiang W J, Jiao J P, Guo Y, et al. Single-pixel camera based on a spinning mask [J]. Optics Letters, 2021, 46(19): 4859-4862. doi:  10.1364/OL.431848
    [10] Shi D, Huang J, Wang F, et al. Enhancing resolution of single-pixel imaging system [J]. Optical Review, 2015, 22(5): 802-808. doi:  10.1007/s10043-015-0136-z
    [11] Pradeep Sen. On the relationship between dual photography and classical ghost imaging [J]. arXiv preprint, 2013: 1309.3007.
    [12] Pittman T B, Shih Y H, Strekalov D V, et al. Optical imaging by means of two-photon quantum entanglement [J]. Physical Review A, 1995, 52(5): R3429-R3432. doi:  10.1103/PhysRevA.52.R3429
    [13] Bennink R S, Bentley S J, Boyd R W. "Two-photon" coincidence imaging with a classical source [J]. Physical Review Letters, 2002, 89(11): 113601. doi:  10.1103/PhysRevLett.89.113601
    [14] Gatti A, Brambilla E, Bache M, et al. Correlated imaging: quantum and classical [J]. Physical Review A, 2004, 70(1): 13801-13802. doi:  10.1103/PhysRevA.70.013801
    [15] Valencia A, Scarcelli G, D' Angelo M, et al. Two-photon imaging with thermal light [J]. Physical Review Letters, 2005, 94(6): 063601. doi:  10.1103/PhysRevLett.94.063601
    [16] Zhai Y H, Chen X H, Zhang D, et al. Two-photon interference with true thermal light [J]. Physical Review A, 2005, 72(4): 043805. doi:  10.1103/PhysRevA.72.043805
    [17] Scarcelli G, Berardi V, Shih Y. Phase-conjugate mirror via two-photon thermal light imaging [J]. Applied Physics Letters, 2006, 88(6): R3429.
    [18] Shapiro J H, Boyd R W. Response to "The physics of ghost imaging—nonlocal interference or local intensity fluctuation correlation?" [J]. Quantum Information Processing, 2012, 11(4): 1003-1011. doi:  10.1007/s11128-012-0399-2
    [19] Chen Z P, Shi J H, Li Y, et al. Super-resolution thermal ghost imaging based on deconvolution [J]. The European Physical Journal-Applied Physics, 2014, 67(1): 10501. doi:  10.1051/epjap/2014140122
    [20] Chen Z P, Shi J H, Zeng G H. Thermal light ghost imaging based on morphology [J]. Optics Communications, 2016, 381(15): 63-71.
    [21] Chan K W, O'Sullivan M N, Boyd R W. High-order thermal ghost imaging [J]. Optics Letters, 2009, 34(21): 3343-3345. doi:  10.1364/OL.34.003343
    [22] Bai Y F, Han S S. Ghost imaging with thermal light by third-order correlation [J]. Physical Review A, 2007, 76(4): 043828. doi:  10.1103/PhysRevA.76.043828
    [23] Li H, Shi J H, Chen Z P, et al. Detailed quality analysis of ideal high-order thermal ghost imaging [J]. Journal of the Optical Society of America A, 2012, 29(11): 2256-2262. doi:  10.1364/JOSAA.29.002256
    [24] Li Hu, Chen Z P, Xiong J, et al. Periodic diffraction correlation imaging without a beam-splitter [J]. Optics Express, 2012, 20(3): 2956-2966. doi:  10.1364/OE.20.002956
    [25] Li H, Zhang Y Z, Shi J H, et al. Experimental realization of reflection-type periodic diffraction correlation imaging [J]. Applied Physics Letters, 2013, 102(20): 201901. doi:  10.1063/1.4807441
    [26] Li H, Shi J H, Zhu Y C, et al. Periodic diffraction correlation imaging through strongly scattering mediums [J]. Applied Physics Letters, 2013, 103(5): 051901. doi:  10.1063/1.4816836
    [27] Shi D F, Hu S X, Wang Y J. Polarimetric ghost imaging [J]. Optics Letters, 2014, 39(5): 1231-1234. doi:  10.1364/OL.39.001231
    [28] Zhu Yongchao, Shi Jianhong, Yang Ying, et al. Polarization difference ghost imaging [J]. Applied Optics, 2015, 54(6): 1279-1284. doi:  10.1364/AO.54.001279
    [29] Liu Y X, Shi J H, Zeng G H. Single-photon-counting polarization ghost imaging [J]. Applied Optics, 2016, 55(36): 10347-10351. doi:  10.1364/AO.55.010347
    [30] Chen Z P, Li H, Li Y, et al. Temporal ghost imaging with a chaotic laser [J]. Optical Engineering, 2013, 52(7): 076103. doi:  10.1117/1.OE.52.7.076103
    [31] Baraniuk R. Compressive radar imaging[C]//IEEE Radar Conference, 2007: 128-133.
    [32] Ma Shuang, Liu Zhentao, Wang Chenglong, et al. Ghost imaging LiDAR via sparsity constraints using push-broom scanning [J]. Optics Express, 2019, 27(9): 13219-13228. doi:  10.1364/OE.27.013219
    [33] Howland G A, Dixon P B, Howell J C. Photon-counting compressive sensing laser radar for 3 D imaging [J]. Applied Optics, 2011, 50(31): 5917-5920. doi:  10.1364/AO.50.005917
    [34] Joel G, Kalyani K, David B. Compressive single-pixel snapshot x-ray diffraction imaging [J]. Optics Letters, 2014, 39(1): 111-114. doi:  10.1364/OL.39.000111
    [35] Yu H, Lu R, Han S, et al. Fourier-transform ghost imaging with hard X rays [J]. Physical Review Letters, 2016, 117(11): 113901. doi:  10.1103/PhysRevLett.117.113901
    [36] Zhang A X, He Y H, Wu L A, et al. Tabletop X-ray ghost imaging with ultra-low radiation [J]. Optica, 2018, 5(4): 374-377. doi:  10.1364/OPTICA.5.000374
    [37] Chan W L, Charan K, Takhar D, et al. A single-pixel terahertz imaging system based on compressed sensing [J]. Applied Physics Letters, 2008, 93(12): 121105. doi:  10.1063/1.2989126
    [38] Shrekenhamer D, Watts C M, Padilla W J. Terahertz single pixel imaging with an optically controlled dynamic spatial light modulator [J]. Optics Express, 2013, 21(10): 12507-12518. doi:  10.1364/OE.21.012507
    [39] Hornett S M, Stantchev R I, Vardaki M Z, et al. Subwavelength terahertz imaging of graphene photoconductivity [J]. Nano Letters, 2016, 16(11): 7019-7024. doi:  10.1021/acs.nanolett.6b03168
    [40] Studer V, Bobin J, Chahid M, et al. Compressive fluorescence microscopy for biological and hyperspectral imaging [J]. Proceedings of the National Academy of Sciences, 2012, 109(26): E1679-E1687. doi:  10.1073/pnas.1119511109
    [41] Welsh S S, Edgar M P, Edgar S S, et al. Fast full-color computational imaging with single-pixel detectors [J]. Optics Express, 2013, 21(20): 23068-23074. doi:  10.1364/OE.21.023068
    [42] Jin S L, Hui W W, Wang Y L, et al. Hyperspectral imaging using the single-pixel Fourier transform technique [J]. Scientific Reports, 2017, 7(1): 45209. doi:  https://doi.org/10.1038/srep45209
    [43] Bian L, Suo J, Situ G H, et al. Multispectral imaging using a single bucket detector [J]. Scientific Reports, 2016, 6(1): 24752. doi:  10.1038/srep24752
    [44] Pan L, Deng C Z, Bo Z, et al. Experimental investigation of chirped amplitude modulation heterodyne ghost imaging [J]. Optics Express, 2020, 28(14): 20808-20816. doi:  10.1364/OE.399006
    [45] He Y H, Huang Y Y, Zeng Z R, et al. Single-pixel imaging with neutrons [J]. Science Bulletin, 2021, 66(2): 133-138. doi:  10.1016/j.scib.2020.09.030
    [46] Sun B Q, Edgar M P, Bowman R, et al. 3D computational imaging with single-pixel detectors [J]. Science, 2013, 340(6134): 844-847. doi:  10.1126/science.1234454
    [47] Yu W K, Yao X R, Liu X F, et al. Three-dimensional single-pixel compressive reflectivity imaging based on complementary modulation [J]. Applied Optics, 2015, 54(3): 363-367. doi:  10.1364/AO.54.000363
    [48] Sun M J, Edgar M P, Gibson G M, et al. Single-pixel three-dimensional imaging with time-based depth resolution [J]. Nature Communications, 2016, 7(1): 12010. doi:  10.1038/ncomms12010
    [49] Zhang Z, Zhong J. Three-dimensional single-pixel imaging with far fewer measurements than effective image pixels [J]. Optics Letters, 2016, 41(11): 2497-2500. doi:  10.1364/OL.41.002497
    [50] Zhang Z B, Liu S J, Peng J Z, et al. Simultaneous spatial, spectral, and 3D compressive imaging via efficient Fourier single-pixel measurements [J]. Optica, 2018, 5(3): 315-319. doi:  10.1364/OPTICA.5.000315
    [51] Wang M, Sun M J, Huang C. Single-pixel 3D reconstruction via a high-speed LED array [J]. Journal of Physics: Photonics, 2020, 2(2): 025006. doi:  10.1088/2515-7647/ab83e5
    [52] Ma Y Y, Yin Y K, Jiang S, et al. Single pixel 3D imaging with phase-shifting fringe projection [J]. Optics and Lasers in Engineering, 2021, 140: 106532. doi:  10.1016/j.optlaseng.2021.106532
    [53] Candès E J, Romberg J K, Tao T. Stable signal recovery from incomplete and inaccurate measurements [J]. Communications on Pure and Applied Mathematics, 2006, 59(8): 1207-1223. doi:  https://doi.org/10.1002/cpa.20124
    [54] Donoho D L. Compressed sensing [J]. IEEE Transactions on Information Theory, 2006, 52(4): 1289-1306. doi:  10.1109/TIT.2006.871582
    [55] Wakin M B, Laska J N, Duarte M F, et al. An architecture for compressive imaging[C]//International Conference on Image Processing, 2006: 1273–1276.
    [56] Candès E J, Tao T. Near-optimal signal recovery from random projections: Universal encoding strategies? [J]. IEEE Transactions on Information Theory, 2006, 52(12): 5406-5425. doi:  10.1109/TIT.2006.885507
    [57] Katz O, Bromberg Y, Silberberg Y. Compressive ghost imaging [J]. Applied Physics Letters, 2009, 95(13): 739.
    [58] Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks [J]. Communications of the ACM, 2017, 60(6): 84-90.
    [59] Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition [J]. arXiv preprint, 2014: 1409.1556.
    [60] Szegedy C, Liu W, Jia Y, et al. Going deeper with convolutions[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2015: 1-9.
    [61] He K M, Zhang X, Ren S, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2016: 770-778.
    [62] Lyu M, Wang W, Wang H, et al. Deep-learning-based ghost imaging [J]. Scientific Reports, 2017, 7(1): 17865. doi:  10.1038/s41598-017-18171-7
    [63] Pratt W K, Kane J, Andrews H C. Hadamard transform image coding[C]//Proceedings of the IEEE, 1969, 57: 58–68.
    [64] Sloane N J, Harwit M. Masks for Hadamard transform optics, and weighing designs [J]. Applied Optics, 1976, 15: 107-114. doi:  10.1364/AO.15.000107
    [65] Thibault P, Dierolf M, Menzel A, et al. High-resolution scanning X-ray diffraction microscopy [J]. Science, 2008, 321(5887): 379-382. doi:  10.1126/science.1158573
    [66] Scarcelli G, Berardi V, Shih Y H. Can two-photon correlation of chaotic light be considered as correlation of intensity fluctuations? [J]. Physical Review Letters, 2006, 96(6): 063602. doi:  10.1103/PhysRevLett.96.063602
    [67] Zhao C Q, Gong W L, Chen M L, et al. Ghost imaging lidar via sparsity constraints [J]. Applied Physics Letters, 2012, 101(14): 141123. doi:  10.1063/1.4757874
    [68] Hayasaki Y, Sato R. Single-pixel camera with hole-array disk [J]. Optical Review, 2020, 27(2): 252-257.
    [69] Vallés A, He J H, Ohno S, et al. Broadband high-resolution terahertz single-pixel imaging [J]. Optics Express, 2020, 28(20): 28868-28881. doi:  10.1364/OE.404143
    [70] Radwell N, Mitchell K J, Gibson G M, et al. Single-pixel infrared and visible microscope [J]. Optica, 2014, 1(5): 285-289. doi:  10.1364/OPTICA.1.000285
    [71] Liu X L, Shi J H, Wu X, et al. Fast first-photon ghost imaging [J]. Scientific Reports, 2018, 8(1): 1-8.
    [72] Xu Z H, Chen W, Penuelas J, et al. 1000 fps computational ghost imaging using LED-based structured illumination [J]. Optics Express, 2018, 26(3): 2427-2434. doi:  10.1364/OE.26.002427
    [73] Komatsu K, Ozeki Y, Nakano Y, et al. Ghost imaging using integrated optical phased array[C]//Optical Fiber Communication Conference. IEEE, 2017: 4.
    [74] Li L J, Chen W, Zhao X Y, et al. Fast optical phased array calibration technique for random phase modulation LiDAR [J]. IEEE Photonics Journal, 2018, 11(1): 1-10.
    [75] Wang Y M, Zhou G Y, Zhang X S, et al. 2D broadband beamsteering with large-scale MEMS optical phased array [J]. Optica, 2019, 6(5): 557-562. doi:  10.1364/OPTICA.6.000557
    [76] Liu X L, Braverman B, Zeng G H, et al. Using an acousto-optic modulator as a fast spatial light modulator[C]//Photonics North, IEEE, 2020.
    [77] Liu X L, Shi J H, Sun L, et al. Photon-limited single-pixel imaging [J]. Optics Express, 2020, 28(6): 8132-8144. doi:  10.1364/OE.381785
    [78] Pratt W K, Kane J, Andrews H C. Hadamard transform image coding [J]. Proceedings of the IEEE, 1969, 57(1): 58-68. doi:  10.1109/PROC.1969.6869
    [79] Geadah Y A, Corinthios M J. Natural, dyadic, and sequency order algorithms and processors for the Walsh-Hadamard transform [J]. IEEE Transactions on Computers, 1977, 26(5): 435-442.
    [80] Vaz P G, Amaral D, Ferreira L R, et al. Image quality of compressive single-pixel imaging using different Hadamard orderings [J]. Optics Express, 2020, 28(8): 11666-11681. doi:  10.1364/OE.387612
    [81] Yu X, Yang F, Gao B, et al. Deep compressive single pixel imaging by reordering Hadamard basis: a comparative study [J]. IEEE Access, 2020, 8: 55773-55784. doi:  10.1109/ACCESS.2020.2981505
    [82] Zhang Z B, Wang X Y, Zheng G A, et al. Hadamard single-pixel imaging versus Fourier single-pixel imaging [J]. Optics Express, 2017, 25(16): 19619-19639. doi:  10.1364/OE.25.019619
    [83] Sun M J, Meng L, Edgar M P, et al. Russian dolls ordering of the Hadamard basis for compressive single-pixel imaging [J]. Scientific Reports, 2017, 7(1): 3464. doi:  10.1038/s41598-017-03725-6
    [84] Yu W K. Super sub-Nyquist single-pixel imaging by means of cake-cutting Hadamard basis sort [J]. Sensors, 2019, 19(19): 4122. doi:  10.3390/s19194122
    [85] Yu W K, Liu Y M. Single-pixel imaging with origami pattern construction [J]. Sensors, 2019, 19(23): 5135. doi:  10.3390/s19235135
    [86] Zhang Z B, Ma X, Zhong J G. Single-pixel imaging by means of Fourier spectrum acquisition [J]. Nature Communications, 2015, 6(1): 1-6.
    [87] Zhang Z B, Wang X Y, Zheng G A, et al. Fast Fourier single-pixel imaging via binary illumination [J]. Scientific Reports, 2017, 7(1): 12029. doi:  10.1038/s41598-017-12228-3
    [88] Radwell N, Johnson S D, Edgar M P, et al. Deep learning optimized single-pixel lidar [J]. Applied Physics Letters, 2019, 115(23): 231101. doi:  10.1063/1.5128621
    [89] Cheng Y F, Strachan M, Weiss Z, et al. Illumination pattern design with deep learning for single-shot Fourier ptychographic microscopy [J]. Optics Express, 2019, 27(2): 644-656. doi:  10.1364/OE.27.000644
    [90] Dai Q Q, Li F, Cossairt O, et al. Adaptive illumination based depth sensing using deep learning [J]. arXiv preprint, 2021: 2103.12297.
    [91] Ferri F, Magatti D, Lugiato L A, et al. Differential ghost imaging [J]. Physical Review Letters, 2020, 104(25): 253603.
    [92] Sun B Q, Welsh S S, Edgar M P, et al. Normalized ghost imaging [J]. Optics Express, 2012, 20(15): 16892-16901. doi:  10.1364/OE.20.016892
    [93] Kirmani A, Venkatraman D, Shin D, et al. First-photon imaging [J]. Science, 2014, 343(6166): 58-61.
    [94] Liu X L, Shi J H, Chen H C, et al. First-photon ghost imaging at low light level[C]//CLEO: Applications and Technology. Optical Society of America, 2017: AM4 B. 6.
    [95] Liu X L, Sun Y W, Shi J H, et al. Photon efficiency of computational ghost imaging with single-photon detection [J]. Journal of the Optical Society of America A, 2018, 35(10): 1741-1748. doi:  10.1364/JOSAA.35.001741
    [96] Candès E J, Wakin M B. An introduction to compressive sampling [J]. IEEE Signal Processing Magazine, 2008, 25(2): 21-30. doi:  10.1109/MSP.2007.914731
    [97] Takha D, Laska J N, Wakin M B, et al. A new compressive imaging camera architecture using optical-domain compression[C]//Proceedings of SPIE, Computational Imaging IV. International Society for Optics and Photonics, 2006, 6065: 606509.
    [98] Buades A, Coll B, Morel J M. A review of image denoising algorithms, with a new one [J]. Multiscale Modeling & Simulation, 2005, 4(2): 490-530.
    [99] Chen Z P, Shi J H, Zeng G H. Object authentication based on compressive ghost imaging [J]. Applied Optics, 2016, 55(30): 8644-8650. doi:  10.1364/AO.55.008644
    [100] Shimobaba T, Endo Y, Nishitsuji T, et al. Computational ghost imaging using deep learning [J]. Optics Communications, 2018, 413: 147-151. doi:  10.1016/j.optcom.2017.12.041
    [101] He Y C, Wang G, Dong G X, et al. Ghost imaging based on deep learning [J]. Scientific Reports, 2018, 8(1): 6469. doi:  10.1038/s41598-018-24731-2
    [102] Wang F, Wang H, Wang H C, et al. Learning from simulation: An end-to-end deep-learning approach for computational ghost imaging [J]. Optics Express, 2019, 27(18): 25560-25572. doi:  10.1364/OE.27.025560
    [103] Shang R B, Hoffer-Hawlik K, Wang F, et al. Two-step training deep learning framework for computational imaging without physics priors [J]. Optics Express, 2021, 29(10): 15239-15254. doi:  10.1364/OE.424165
    [104] Wu H, Wang, R Z, Zhao G P, et al. Deep-learning denoising computational ghost imaging [J]. Optics and Lasers in Engineering, 2020, 134: 106183. doi:  10.1016/j.optlaseng.2020.106183
    [105] Hoshi I, Shimobaba T, Kakue T, et al. Single-pixel imaging using a recurrent neural network combined with convolutional layers [J]. Optics Express, 2020, 28(23): 34069-34078. doi:  10.1364/OE.410191
    [106] Liu S P, Meng X F, Yin Y K, et al. Computational ghost imaging based on an untrained neural network [J]. Optics and Lasers in Engineering, 2021, 147: 106744. doi:  10.1016/j.optlaseng.2021.106744
    [107] Boyde A. Stereoscopic images in confocal (tandem scanning) microscopy [J]. Science, 1985, 230(4731): 1270-1272. doi:  10.1126/science.4071051
    [108] Lazaros N, Sirakoulis G C, Gasteratos A. Review of stereo vision algorithms: from software to hardware [J]. International Journal of Optomechatronics, 2008, 2(4): 435-462. doi:  10.1080/15599610802438680
    [109] Woodham R J. Photometric method for determining surface orientation from multiple images [J]. Optical Engineering, 1980, 19(1): 191139.
    [110] Howland G A, Lum D J, Ware M R, et al. Photon counting compressive depth mapping [J]. Optics Express, 2013, 21(20): 23822-23837. doi:  10.1364/OE.21.023822
    [111] Wang C L, Mei X D, Pan L, et al. Airborne near infrared three-dimensional ghost imaging lidar via sparsity constraint [J]. Remote Sensing, 2018, 10(5): 732. doi:  10.3390/rs10050732
    [112] Wu D X, Luo J, Huang G, et al. Imaging biological tissue with high-throughput single-pixel compressive holography [J]. Nature Communications, 2021, 12(1): 4712 . doi:  10.1038/s41467-021-24990-0
    [113] Hahamovich E, Monin S, Hazan Y, et al. Single pixel imaging at megahertz switching rates via cyclic Hadamard masks [J]. Nature Communications, 2021, 12(1): 4516. doi:  10.1038/s41467-021-24850-x
    [114] Ludwig S, Pedrini G, Peng X. Single-pixel scatter-plate microscopy [J]. Optics Letters, 2021, 46(10): 2473-2476. doi:  10.1364/OL.420593
    [115] Deng H X, Wang G, Li Q, et al. Transmissive single-pixel microscopic imaging through scattering media [J]. Sensors, 2021, 21(8): 2721. doi:  10.3390/s21082721
    [116] Zhang C G, Han B N, He W Q, et al. A novel compressive optical encryption via single-pixel imaging [J]. IEEE Photonics Journal, 2019, 11(4): 7801208.
    [117] Yuan S, Liu X M, Zhou X, et al. Multiple-image encryption scheme with a single pixel detector [J]. Journal of Modern Optics, 2016, 63(15): 1457-1465. doi:  10.1080/09500340.2016.1154196
    [118] Yuan S, Yang Y R, Liu X M, et al. Optical image transformation and encryption by phase-retrieval-based double random-phase encoding and compressive ghost imaging [J]. Optics and Lasers in Engineering, 2018, 100: 105-110. doi:  10.1016/j.optlaseng.2017.07.015
    [119] Liu W T, Sun S, Hu H K, et al. Progress and prospect for ghost imaging of moving objects [J]. Laser & Optoelectronics Progress, 2021, 58(10): 1011001. (in Chinese)
    [120] Li H, Xiong J, Zeng G H. Lensless ghost imaging for moving objects [J]. Optical Engineering, 2011, 50(12): 127005. doi:  10.1117/1.3662429
    [121] Sun S, Hu H K, Xu Y K, et al. Single-pixel tracking and imaging under weak illumination [J]. arXiv preprint, 2012: 2012.06091.
    [122] Ota S, Horisaki R, Kawamura Y, et al. Ghost cytometry [J]. Science, 2018, 360(6394): 1246-1251. doi:  10.1126/science.aan0096
    [123] Deng Q W, Zhang Z B, Zhong Z J. Image-free real-time 3-D tracking of a fast-moving object using dual-pixel detection [J]. Optics Letters, 2020, 45(17): 4734-4737. doi:  10.1364/OL.399204
    [124] Shi Dongfeng, Yin K X, Huang J, et al. Fast tracking of moving objects using single-pixel imaging [J]. Optics Communications, 2019, 440: 155-162. doi:  10.1016/j.optcom.2019.02.006
    [125] Zha L B, Shi D F, Huang J, et al. Single-pixel tracking of fast-moving object using geometric moment detection [J]. Optics Express, 2021, 29(19): 30327-30336. doi:  10.1364/OE.436348
    [126] Zhai X, Cheng Z D, Wei Y, et al. Compressive sensing ghost imaging object detection using generative adversarial networks [J]. Optical Engineering, 2019, 58(1): 013108.
    [127] Li Y H, Shi J H, Sun L, et al. Single-pixel salient object detection via discrete cosine spectrum acquisition and deep learning [J]. IEEE Photonics Technology Letters, 2020, 32(21): 1381-1384. doi:  10.1109/LPT.2020.3026472
    [128] Chen H C, Shi J H, Liu X L, et al. Single-pixel non-imaging object recognition by means of Fourier spectrum acquisition [J]. Optics Communications, 2018, 413: 269-75. doi:  10.1016/j.optcom.2017.12.047
    [129] Zhu Y, Shi J H, Wu X Y, et al. Photon-limited non-imaging object detection and classification based on single-pixel imaging system [J]. Applied Physics B, 2020, 126(1): 1-8. doi:  10.1007/s00340-019-7344-3
  • [1] 郑培霞, 刘亦辰, 刘宏超.  单像素成像与超表面成像(特邀) . 红外与激光工程, 2021, 50(12): 20211058-1-20211058-12. doi: 10.3788/IRLA20211058
    [2] 廖兆琨, 王汉, 陈文, 孙鸣捷.  紧凑双光路单像素成像系统(特邀) . 红外与激光工程, 2021, 50(12): 20210723-1-20210723-7. doi: 10.3788/IRLA20210723
    [3] 张赛文, 邓亚琦, 王冲, 冷潇泠, 张光富, 文兵, 邓杨保, 谭伟石, 田野, 李稳国.  基于多测量矢量压缩感知的超分辨荧光显微成像研究 . 红外与激光工程, 2021, 50(11): 20210484-1-20210484-8. doi: 10.3788/IRLA20210484
    [4] 刘震涛, 胡晨昱, 童智申, 褚春艳, 韩申生.  中国科学院上海光学精密机械研究所鬼成像理论研究的若干进展(特邀) . 红外与激光工程, 2021, 50(12): 20211059-1-20211059-18. doi: 10.3788/IRLA20211059
    [5] 刘瑞丰, 赵书朋, 李福利.  单像素复振幅成像(特邀) . 红外与激光工程, 2021, 50(12): 20210735-1-20210735-16. doi: 10.3788/IRLA20210735
    [6] 姜宏志, 李宇曦, 赵慧洁.  单像素成像在三维测量中的应用 . 红外与激光工程, 2020, 49(3): 0303017-0303017-9. doi: 10.3788/IRLA202049.0303017
    [7] 孙宝清, 江山, 马艳洋, 蒋文杰, 殷永凯.  单像素成像在特殊波段及三维成像的应用发展 . 红外与激光工程, 2020, 49(3): 0303016-0303016-16. doi: 10.3788/IRLA202049.0303016
    [8] 石峰, 余大权, 林子韬, 杨书宁, 苗壮, 杨晔, 张闻文.  基于自适应对焦窗口的计算鬼成像目标深度估计方法 . 红外与激光工程, 2020, 49(3): 0303020-0303020-8. doi: 10.3378/IRLA202049.0303020
    [9] 李明飞, 阚宝玺, 霍娟, 阎璐, 刘院省.  水平大气环境34 km单像素成像实验 . 红外与激光工程, 2019, 48(9): 925002-0925002(6). doi: 10.3788/IRLA201948.0925002
    [10] 张子邦, 陆天傲, 彭军政, 钟金钢.  傅里叶单像素成像技术与应用 . 红外与激光工程, 2019, 48(6): 603002-0603002(19). doi: 10.3788/IRLA201948.0603002
    [11] 邓超, 索津莉, 张志利, 戴琼海.  单像素成像中的光信息编码与解码 . 红外与激光工程, 2019, 48(6): 603004-0603004(11). doi: 10.3788/IRLA201948.0603004
    [12] 孙鸣捷, 张佳敏.  单像素成像及其在三维重建中的应用 . 红外与激光工程, 2019, 48(6): 603003-0603003(11). doi: 10.3788/IRLA201948.0603003
    [13] 袁影, 王晓蕊, 吴雄雄, 穆江浩, 张艳.  多孔径压缩编码超分辨率大视场成像方法 . 红外与激光工程, 2017, 46(8): 824001-0824001(7). doi: 10.3788/IRLA201746.0824001
    [14] 王中阳, 周燕飞, 张小伟, 沈灏, 李恩荣, 韩申生, 宓现强, 田立君, 彭玉峰.  基于随机采样的超高分辨率成像中快速压缩感知分析 . 红外与激光工程, 2017, 46(2): 201002-0201002(7). doi: 10.3788/IRLA201746.0201002
    [15] 张玉发, 孙晓泉, 雷鹏, 余大斌.  基于离焦方式的光电成像设备激光隐身技术 . 红外与激光工程, 2015, 44(8): 2268-2273.
    [16] 韩申生, 龚文林, 陈明亮, 李恩荣, 薄遵望, 李望, 张惠, 高昕, 邓陈进, 梅笑东, 王成龙.  基于稀疏和冗余表象的鬼成像雷达研究进展 . 红外与激光工程, 2015, 44(9): 2547-2555.
    [17] 张天然, 孟照魁, 孙鸣捷.  纯相位物体的鬼成像 . 红外与激光工程, 2014, 43(9): 3105-3109.
    [18] 王志臣, 王斌, 梁晶, 孙继明.  相位差异散斑成像技术验证实验 . 红外与激光工程, 2013, 42(12): 3428-3432.
    [19] 谭歆, 冯晓毅, 王保平.  稀疏带状测量矩阵在压缩感知ISAR成像中的应用 . 红外与激光工程, 2013, 42(11): 3137-3143.
    [20] 陈春利, 谢红梅, 彭进业, 王志成, 王保平.  压缩感知机动目标ISAR成像新方法 . 红外与激光工程, 2013, 42(8): 2269-2274.
  • 加载中
图(8) / 表(1)
计量
  • 文章访问数:  171
  • HTML全文浏览量:  59
  • PDF下载量:  70
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-09-13
  • 修回日期:  2021-11-03
  • 网络出版日期:  2022-01-06
  • 刊出日期:  2021-12-31

单像素成像理论与方法(特邀)

doi: 10.3788/IRLA20211061
    作者简介:

    翟鑫亮,男,博士生,主要从事计算成像等方面的研究

    曾贵华,男,教授,博士生导师,博士,主要从事量子通信、量子感知与成像等方面的研究

    通讯作者: 吴晓燕,女,助理研究员,硕士生导师,博士,主要从事计算成像、新型光电器件等方面的研究。
  • 中图分类号: O439

摘要: 单像素成像技术是一种可通过无空间分辨能力的单像元探测器来获取目标图像信息的新型成像技术,与传统“所见即所得”的光学成像技术相比具有高灵敏、抗干扰和高分辨等一系列优点,在遥感探测、国防军事和生物医学等领域有着广阔的应用前景。近年来,随着计算能力的提升和光电器件的发展,单像素成像受到越来越多学者们的关注。简要回顾了单像素成像的发展历程,详细介绍了单像素成像的基本原理、调制矩阵设计、图像恢复算法等方面的研究进展,并对其应用场景和未来发展趋势进行了总结和展望。

English Abstract

    • 光学成像技术作为人类感知和记录世界的重要手段,一直以来都是备受关注的研究领域。早在公元前400年,中国古代著作《墨经》中就已记载了小孔成像现象。直至1839年,达盖尔发明了人类历史上第一台感光胶片照相机。到20世纪中后期,随着光电转换与集成技术的发展,基于电容耦合器件 (Charge Coupled Device, CCD) 和互补金属氧化物半导体(Complementary Metal-Oxide Semiconductor, CMOS) 器件的数码相机快速发展。如今,分辨率达到百万甚至千万像素以上的智能拍照手机和专业数码照相机在日常生活中随处可见。但是传统的光学成像系统由于受到信息获取方式的限制,不可避免地会在信号采集方面存在光场信息的缺失,如相位、偏振、频率等,使其在很多应用场景中的有着难以克服的局限性。近年来,随着计算机硬件运算性能的提升以及光电器件的快速发展,利用光场调制矩阵和单像元探测光强度来进行图像重建计算的单像素成像技术得到越来越多的关注。

      与传统的面阵探测成像方式相比,单像素成像的标志性特点是只使用一个没有空间分辨率的单像素探测器来记录图像信息[1-2]。早在2005年,Sen等人就提出一种使用单个光电探测器来捕获图像的双摄影(Dual Photography)方法[3]。具体来说,通过一系列掩膜图案调制目标,并用一个单像素探测器记录其总光强,最后将一系列总光强值与对应的掩膜图案做关联运算,就可以重建出目标图像。这其实就是单像素成像的机理,因此从某种意义上来讲双摄影就是单像素成像的一个雏形。而单像素成像这一名词最早是在莱斯大学的Baraniuk课题组于2008年发表的一项与压缩感知相结合的工作中提出的[2]。同年,Shapiro基于热光强度关联提出了计算鬼成像(Computational Ghost Imaging, CGI)的理论模型[4],这也成为单像素成像的另外一种实现方案。

      早期的单像素成像与计算鬼成像的区别主要在于成像系统中对光信号进行空间调制的位置不同[5-7]。如图1(a)所示,早期概念上的单像素成像是在探测端将经过目标物体反射或透射的光信号进行空间调制,再经过透镜后被单像素探测器接收。这是一种后调制策略,一些文献中也称这种方式为结构化探测(Structured detection),单像素相机[8]便是基于这一方式实现的,例如孙宝清课题组最近提出的基于旋转掩膜板的单像素相机方案[9];而计算鬼成像的成像系统结构如图1(b)所示,是在光源端将入射光先经过空间调制,然后再照射到目标物体上,经过反射或透射后的光信号被单像素探测器接收。这是一种前调制策略,也被称为结构化照明。虽然关于单像素成像与计算鬼成像两者之间的区别存在一些讨论[10-11],但是两者的成像原理和图像重建算法是可以通用的,因此文中对于这两者不加以区分,均纳入单像素成像技术范畴。

      图  1  两种不同的成像结构示意图。(a)单像素成像;(b)计算鬼成像

      Figure 1.  Two different imaging architecture. (a) Single-pixel imaging; (b) Computational ghost imaging

      在单像素探测下的鬼成像技术的发展中,史砚华研究组早期使用双光子纠缠方法实现了鬼成像(Ghost Imaging)[12]。他们利用激光通过非线性晶体发生参量下转换的效应产生纠缠双光子对作为光源,然后将其分成两路即信号光和闲置光,最后用符合测量的方式进行实验探测并对目标成像。随后,Boyd研究组发现使用经典光源利用光场二阶关联同样可以实现鬼成像[13],从而掀起了学者们对鬼成像本质的深入讨论和研究[14-18]。在经典光源成像基础上,笔者所在课题组提出基于解卷积[19]和形态学[20]的热光鬼成像方案,结果表明其可有效提升成像的分辨率和信噪比。在成像机理上,有学者提出高阶关联鬼成像[21-22]的方案,课题组比较了传统高阶强度关联热光成像和高阶强度涨落关联热光关联的性能,对高阶关联算法进行了详细的质量分析[23]。为了简化高阶关联成像的系统结构,课题组提出了周期衍射关联成像机制[24-26],该机制无需使用分束器就能够产生出多个参考光束。另外,在成像环境存在干扰的环境下,成像质量会受到很大影响,因此课题组在偏振关联成像 [27]的基础上提出了偏振差分关联成像[28]和基于单光子计数的偏振关联成像[29]。除了以上所述的空间关联成像外,课题组也研究了利用时间关联特性实现时域关联成像[30]

      单像素成像与传统的多像素面阵成像相比,其优势在于:(1)单像素探测的能量收集效率更高,适用于极弱光和远距离的场景;(2)探测灵敏度高,在不可见光波段和非常规成像方面的优势明显且成本很低,已被应用到激光成像雷达[31-33]、X射线成像[34-36]、太赫兹成像[37-39]、荧光成像[40]及复合波长[41-43]成像中,如韩申生课题组所实现的外差探测下的啁啾调幅鬼成像[44],而近几年又扩展到了粒子领域,如吴令安课题组最近提出的中子单像素成像[45];(3)时间分辨率高,可用于物体的三维成像[46-52]。然而,单像素成像的缺陷也很明显,即需要多次测量才能成像。理论上来说,当要捕获一个具有$ N $个像素点目标的图像时,至少需要$ N $个掩膜图案进行调制,也就是至少需要$ N $次测量,这大大限制了单像素成像应用的发展。幸运的是,由于自然界图像信号具有稀疏性,可以应用压缩感知(Compressive Sensing, CS)算法[53-56]来降低测量次数。2008年,Duarte等人以及Katz等人先后提出基于压缩感知的单像素成像[2]和压缩感知鬼成像[57],这为单像素成像的发展打开了新的大门,使得大量基于压缩感知理论的单像素成像应用不断涌现。近五年以来,计算机计算能力的飞跃式提升驱动了机器学习尤其是深度学习[58-61]等人工智能算法的快速发展,研究人员们开始探索应用机器学习进行单像素成像的可能性。2017年,司徒国海研究组提出基于深度学习的鬼成像[62],他们使用CS重建的图像当作真实标签来训练卷积神经网络进行成像,该方法可以实现比CS更快的成像速度。

      由上述研究进展可见,单像素成像技术在国防民生各个应用领域均有着重要的应用潜力和发展前景,已成为光学成像研究领域的热点问题之一。文中首先介绍了单像素成像的基础理论,然后深入讨论了各种光场调制方案和当前的单像素成像算法,最后对现有的单像素成像应用进行了简要总结和展望。

    • 文中首先为单像素成像的过程建立数学模型。假设某物体的二维图像$ {\boldsymbol{I}} \in \mathbb{R}^{ n_{1} \times n_{2}}$,共包含$ N $个像素点,其中$ N=n_{1} \times n_{2} $。为了获取该图像,一系列具有空间分辨率的调制掩膜图案会被加载到DMD上。对于调制掩膜序列$ {\boldsymbol{P}}=\left[{\boldsymbol{P}}_{1}, {\boldsymbol{P}}_{2}, \cdots, {\boldsymbol{P}}_{M}\right] \in \mathbb{R}^{M \times n_{1} \times n_{2}} $,其中$ {\boldsymbol{P}}_{i} \in $$ \mathbb{R}^{n_{1} \times n_{2}} $表示第$ i $帧调制掩膜,$ M $表示调制掩膜个数,与物体作用后得到对应$ M $个总光强值${\boldsymbol{s}}=\left[s_{1}, s_{2}, \cdots, s_{M}\right] \in $$ \mathbb{R}^{{M}}$被单像素探测器捕获。为了便于表示,笔者将二维图像$ {\boldsymbol{I}} $展开成向量形式,即$ {\boldsymbol{I}} \in \mathbb{R}^{N} $;同样,将调制掩膜序列表示成二维矩阵形式,即$ {\boldsymbol{P}} \in \mathbb{R}^{M \times N} $,其中每一行表示一帧掩膜。可以得到:

      $$ {\boldsymbol{PI}}={\boldsymbol{s}} $$ (1)

      单像素成像就是利用已知的调制掩膜矩阵$ {\boldsymbol{P}} $和探测得到的测量信号序列$ {\boldsymbol{s}} $来解算出目标图像$ {\boldsymbol{I}} $的一种计算成像方法。这个问题似乎很简单,只需将公式(1)两端分别乘上$ {\boldsymbol{P}} $的逆矩阵便可以得到图像,即:

      $$ {\boldsymbol{I}}={\boldsymbol{P}}^{-1} {\boldsymbol{s}} $$ (2)

      但是需要指出的是,公式(2)成立的前提是调制矩阵个数$ M=N $,并且矩阵必须保证正交性,如哈达玛基矩阵[63-64]等,这样才能保证该式有唯一解。

      在经典的计算鬼成像中,经常采用基于迭代的方式来重构图像。通过多次测量,不断迭代单像素探测值和对应调制掩膜的关联结果,逐步获取物体的空间强度分布,从而逐步提升重构图像的质量。其数学表达如下:

      $$ {\boldsymbol{I}}=\frac{1}{M} \sum_{i=1}^{M}\left(s_{i}-\bar{s}\right)\left({\boldsymbol{P}}_{i}-\overline{{\boldsymbol{P}}}\right) $$ (3)

      理论上,重建$ N $个像素的图像需要$ M=N $个不同模式的掩膜。然而,如果该掩膜序列不是由正交模式组成或在探测过程中受到噪声的影响,则需要$ M \gg N $次采样以提升重构图像的信噪比。如图2所示,在随机二值掩膜图案调制下,采用公式(3)进行图像重构,所得到的图像信噪比将随着采样次数的增加而逐步提升。

      图  2  使用随机散斑的单像素成像结果

      Figure 2.  Single-pixel imaging result with random pattern

    • 对于图1所示的两种单像素成像系统,用于前调制(结构化照明)和后调制(结构化探测)的调制技术均有多种方案可供选择,此节从调制器件选取和调制矩阵设计两个方面进行介绍。

    • 在单像素成像系统中,对光场调制器件的选取中常采用的方案有旋转毛玻璃[65-66]、旋转掩膜版[67-69]、数字微镜器件(Digital Micromirror Device, DMD)[70-71]、发光二极管(Light-Emitting Diode,LED)阵列[72]、液晶空间光调制器(Liquid Crystal Spatial Light Modulator, LC-SLM)[1, 4]、光学相控阵(Optical Phased Array,OPA)[73-75]以及声光调制器(Acousto-Optic Modulator)[76]等。Graham等人[7]较为详细地介绍了不同调制设备的原理,表1列出了以上调制器件的性能比较。

      表 1  单像素成像中常见调制器的性能比较

      Table 1.  Performance comparison of modulation devices in single-pixel imaging

      DeviceModulation rateComplexityPattern
      Spinning diffuserHighRandom
      Spinning maskHighControllable
      DMD~22 kHzLowControllable
      LED~1 MHzLowControllable
      LC-SLM<1 kHzLowControllable
      OPA~55 kHzHighRandom
      AOM~1.6 MHzHighControllable
    • 利用单像素探测进行成像最简单的方式是按照点扫描的方式逐像素地进行信息获取。但是点扫描对光照的利用率很低,只可以应用于光照强度高的情况,在弱光甚至极弱光环境[77]中很难成像。单像素成像往往采用一系列掩膜矩阵来调制目标光场。研究人员围绕掩膜矩阵设计开展了许多研究,相继提出将哈达玛基、傅里叶基和小波基等模式的掩膜图案引入到单像素成像中,替代之前的随机掩膜图案。这是因为自然图像在特定变换域中具有稀疏性,例如哈达玛域、傅里叶域和小波域等,可以通过对采集系数进行相应的逆变换来复原图像。

      (1)随机散斑矩阵调制

      随机散斑顾名思义是以某种方式生成服从某种统计分布的矩阵序列,具有随机性。最开始的经典光源鬼成像实验就是通过激光光束穿过旋转的毛玻璃来生成随机散斑[16]。如图3所示,当作为散射器的毛玻璃进行旋转时,出射光场随时间变化,生成散斑序列。为了避免毛玻璃旋转一周后的掩膜重复,可以在毛玻璃后面再加一种散射介质进行随机化。这种通过机械手段旋转散射器而产生随机散斑的方式操作复杂,并且需要额外的参考光路和探测器来捕获散斑矩阵。另外一种产生随机散斑的方式是利用计算机产生服从设定统计分布的伪随机数作为掩膜矩阵,并将其加载到DMD、LED阵列等设备上模拟随机散斑,生成的散斑图如图2(右上)所示。

      图  3  利用旋转毛玻璃产生随机散斑

      Figure 3.  Random speckle generated by spinning diffuser

      需要指出的是,随机散斑矩阵因为不满足正交性,往往需要$ M\gg N $次采样才能恢复出清晰图像,这大大增加了成像时间。但是,基于随机散斑矩阵调制的单像素成像系统对噪声不敏感,对于噪声影响较大的场景较为适用,同时可以结合压缩感知技术降低采样率以提升成像效率。

      (2)哈达玛矩阵调制

      哈达玛矩阵(图4)是由哈达玛变换基(Hadamard Transform Basis)构成的二值正交矩阵[78],是广义傅里叶变换的一种形式。基于哈达玛矩阵的单像素成像被称为哈达玛单像素成像(Hadamard Single-pixel Imaging,HSI)。哈达玛矩阵$ {\boldsymbol{H}}_{k} $是一个大小为$ 2^{k} \times 2^{k} $的正交矩阵,其元素只包含$ +1 $$ -1 $。定义$ 1 \times 1 $的哈达玛矩阵$ {\boldsymbol{H}}_{0}=[1] $,那么可以用递归的方式定义$ k>0 $时的哈达玛矩阵:

      $$ {\boldsymbol{H}}_{k}=\left[\begin{array}{cc} {\boldsymbol{H}}_{{k}-1} & {\boldsymbol{H}}_{{k}-1} \\ {\boldsymbol{H}}_{{k}-1} & -{\boldsymbol{H}}_{{k}-1} \end{array}\right] $$ (4)

      图  4  哈达玛基及其在20%压缩率下的仿真成像结果

      Figure 4.  Hadamard basis and simulating imaging result under 20% compression

      哈达玛矩阵可以当作一组完备的正交基,而在HSI中所探测到的桶信号可以看作在哈达玛基下的系数。所以在$ M=N $时,用桶信号加权对应测量基并且进行累积便可恢复出原图像信息。值得关注的是,由于哈达玛矩阵的正交性,$ {\boldsymbol{H}}_{k} $的逆就是其本身乘一个缩放系数$ 2 k $,即$ {\boldsymbol{H}}_{k}={\boldsymbol{H}}_{k}^{\rm{T}}=2 k \cdot {\boldsymbol{H}}_{k}^{-1} $,这意味着公式(2)可以被简化为:

      $$ {\boldsymbol{I}}={\boldsymbol{H}} {\boldsymbol{s}} $$ (5)

      在图像恢复过程中,上式中的自然顺序哈达玛基与向量相乘的过程可以用快速沃尔什-哈达玛变换(Fast Walsh-Hadamard Transform, FWHT)来替代,以大幅度提升计算速度[79]。由于DMD上只能显示+1和0,而−1却无法显示,所以为了保证哈达玛矩阵的正交性,通常需要进行差分测量,因此为了恢复$ N $个像素值的图像,需要$ 2 N $次探测。

      另外,HSI可以采用特定的采样顺序来获取系数,这样做的目的是让更重要的系数排在前面以使实时获取目标图像的绝大部分信息[80-81]。如图4所示,取排序后的系数(桶探测值)的前20%进行成像(根据公式(3)),其结果已经比较接近原图,这是因为绝大部分信息已经被提取。采样顺序是与成像目标的特点有关的,所以如何在目标先验未知的情况下尽可能地优化采样顺序呢?为此,Zhang等人研究了HSI 中使用的锯齿形、方形和圆形采样顺序[82]。此外,其他采样顺序如俄罗斯套娃(Russian Doll)[83]、蛋糕切割(Cake Cut)[84]和折纸(Origami)[85]等都具有比自然顺序更好的表现。

      (3)傅里叶矩阵调制

      傅里叶分析理论指出,任何连续信号都可以表示成傅里叶基的线性组合,二维图像信号可以用二维傅里叶变换表示成空间频率的形式。2015年,Zhang等人提出傅里叶单像素成像(Fourier Single-pixel Imaging, FSI) [86-87],通过获取目标图像的傅里叶频谱来重构高质量的图像。FSI采用相移的方式产生结构光照明进行频谱采集,然后对得到的频谱进行傅里叶反变换得到重构图像。对于由$ N $个像素组成大小为$ n_{1} \times n_{2} $的矩形图像,令$ u $$ v $分别表示图像$ x $维度和$ y $维度的空间频率,则产生的傅里叶矩阵可以表示为:

      $$ P_{\phi}(u, v)=\cos \left(2 \pi\left(\frac{u x}{n_{1}}+\frac{v y}{n_{2}}\right)+\phi\right) $$ (6)

      式中:$ \phi $表示相位。具体来说,为了获取傅里叶系数,在相同的频率下需要设置不同的相位值才能解算出频谱。根据从$0{\sim }2{\text{π }}$之间使用的等距的相位个数,可以将FSI的实现分为四步相移法和三步相移法两种。

      四步相移法需要使用四个不同相位相同空间频率的掩膜矩阵$ {\boldsymbol{P}}_{0} $$ {\boldsymbol{P}}_{\pi /2} $$ {\boldsymbol{P}}_{\pi } $以及$ {\boldsymbol{P}}_{3\pi /2} $调制目标图像,对应的四个单像素探测值表示为$ {D}_{0} $$ {D}_{\pi /2} $$ {D}_{\pi } $$ {D}_{3\pi /2} $,则空间频率$ (u,v) $对应的傅里叶系数可表示为:

      $$ F(u, v)=\left(D_{\pi}-D_{0}\right)+j\left(D_{{3\pi /2}}-D_{{\pi /2}}\right) $$ (7)

      这意味着对于$ N $个像素的图像,如果要完全恢复其图像信息,则需要$ 4 N $次采样。公式(7)的详细推导过程可以参考文献[86]。

      与四步相移法相比,三步相移法仅需要三个不同相位的掩膜矩阵$ {\boldsymbol{P}}_{0} $${\boldsymbol{P}}_{2\pi /3}$以及$ {\boldsymbol{P}}_{4\pi /3} $来调制目标图像。同样,对应的三个单像素探测值表示为$ {D}_{0} $$ {D}_{2\pi /3} $以及$ {D}_{4\pi /3} $,则该空间频率$ (u,v) $对应的傅里叶系数可表示为:

      $$ F(u, v)=\left(2 D_{0}-D_{{2\pi /3}}-D_{{4\pi /3}}\right)+j \sqrt{3}\left(D_{{2\pi /3}}-D_{{4\pi /3}}\right) $$ (8)

      由此可知:对于$ N $个像素的图像,需要$ 3 N $次采样即可完全恢复其图像信息,采样次数相比与四步相移法降低了25%,因此三步相移法也被称为快速FSI。公式(8)的详细推导过程可以参考文献[87]。

      对比HSI和FSI,笔者发现这两种方法都是通过测量图像在某组完备正交基下的系数来恢复图像的,不同点在于HSI使用哈达玛正交基而FSI则使用的是傅里叶正交基。另外,哈达玛基是一个二值矩阵,而傅里叶基的元素是灰度值。对于哈达玛基,可以通过优化采样顺序来降低采样次数。而对于傅里叶基,可以利用自然图像的频谱分布特性作为先验知识来减少采样次数。由于自然图像的大部分能量都集中在低频区域,所以可以通过仅采样低频系数而忽略高频系数来达到大幅度降低采样率的目的,如图5所示。

      图  5  傅里叶基及其在10%压缩率下的仿真成像结果

      Figure 5.  Fourier basis and simulating imaging result under 10% compression

      (4)深度学习矩阵调制

      以深度学习为代表的机器学习算法已经被证明在视觉、语音、文本等领域中都具有优异的表现。而单像素成像从图像恢复角度来讲也是一类图像处理问题,所以自然而然也可以采用深度学习的方法来进行调制矩阵的优化。根据前面的介绍知道,与使用傅里叶基和哈达玛基等结构化掩膜矩阵相比,使用随机掩膜矩阵进行采样的效率要低得多,往往需要大量的采样才能恢复出清晰图像。而深度学习以数据驱动的方式来构建不同于结构化掩膜矩阵的高效采样基,可以实现利用极少的测量次数来得到目标图像的有效恢复。

      基于深度学习矩阵的单像素成像方案在2018年由Catherine等人提出[8],如图6所示,他们把深度学习中的自编码器应用到单像素成像中,将编码器当作调制掩膜矩阵,该矩阵会在训练的过程中不断被优化。这种方法可以实现以4%的采样率重构图像,对于恢复128$ \times $128 pixel的视频,其帧率可达15 frame/s。后来,Radwell等人将类似的方法应用在单像素三维成像中[88],将深度学习优化得到的掩膜图案投影到场景中实现了三维成像。由于深度学习掩膜矩阵具有良好的自适应能力,能够不断自我优化,近期已被应用于显微成像[89]和成像雷达[90]中。

      图  6  基于CNN模型(a)所产生的掩膜图案(b)及其在4%压缩率下的成像结果(c)[8]

      Figure 6.  CNN based model (a) generated mask patterns (b) and imaging result under 4% compression(c)[8]

    • 单像素成像依据单像素探测信号序列与调制掩膜图案序列的关联性重建二维物体图像,相当于编解码的过程。这与传统相机的成像方式是不同的,所以需要为单像素成像设计专门的成像及后处理算法。随着单像素成像的发展,从CGI开始,出现了众多算法来提高成像效率和成像质量,如差分鬼成像(Differential Ghost Imaging, DGI)、标准化鬼成像(Normalized Ghost Imaging, NGI)、首达光子单像素成像算法(First Photon Ghost Imaging, FPGI)、基于压缩感知理论的单像素成像算法以及基于深度学习的单像素成像算法等。

    • 2008年,Shapiro提出鬼成像可以借助空间光调制器在单光路中实现[4],并且可以通过关联计算重建物体图像,以此产生了计算鬼成像。CGI是通过迭代的方法来恢复图像的,为了与CGI的一般描述统一,笔者重写公式(3),则CGI算法可以表示为:

      $$ {\boldsymbol{I}}=\left\langle\left(s_{i}-\langle s\rangle\right)\left({\boldsymbol{P}}_{i}-\langle{\boldsymbol{P}}\rangle\right)\right\rangle $$ (9)

      式中:$ \left\langle{\cdot }\right\rangle $表示系综平均。公式(9)表明,可以将每次测量的$ {s}_{i} $作为权重并加权到对的应调制掩膜上累加进行图像重建。这个算法的缺点也很明显,由于图像重建对权重$ \mathrm{值}{s}_{i} $的大小非常依赖,因此容易受到光场波动的影响。这些波动可能由光源功率的变化或光场调制器件的不稳定性引起。

      为了解决这个问题,Ferri等人提出DGI算法[91],利用一个额外的桶探测器探测参考信号总光强,该信号以差分的方式对原始加权项进行调整,DGI表达式如下:

      $$ {\boldsymbol{I}}_{D C I}=\left\langle\left(s_{i}-\frac{\langle s\rangle}{\langle r\rangle} r_{i}\right)\left({\boldsymbol{P}}_{i}-\langle{\boldsymbol{P}}\rangle\right)\right\rangle $$ (10)

      式中:$ r $表示参考信号的桶探测值。与DGI类似,Sun等人后续又提出NGI[92]。与DGI类比,NGI可以表示为:

      $$ {\boldsymbol{I}}_{N A I}=\left\langle\left(\frac{s_{i}}{r_{i}}-\frac{\langle s\rangle}{\langle r\rangle}\right)\left({\boldsymbol{P}}_{f}-\langle{\boldsymbol{P}}\rangle\right)\right\rangle $$ (11)

      DGI和NGI根据参考光的额外探测信号$ {r}_{i} $的变化对信号光路的探测信号$ {s}_{i} $进行调整,以达到应对光场波动的目的。图2展示了在随机掩膜下DGI算法的成像结果,相比于CGI可以明显看出提升效果。

    • 2014年,Kirmanni等人提出首达光子成像(First-Photon Imaging, FPI)技术[93],该技术在单光子相机扫描成像配置的基础上,利用每个像素上第一个检测到的光子来恢复图像,实现了在每像素光子数(Photon per Pixel, PPP)为1的情况下成像。基于FPI技术,笔者所在课题组提出了首达光子鬼成像技术[94],根据低通量测量的统计学原理,利用每帧第一个返回光子对应的脉冲数的倒数作为该帧的强度值。随后,在FPGI的基础上进一步改进提出快速首达光子鬼成像(FFPGI)[71]技术,如图7所示,该技术通过设置脉冲阈值来筛选高权重的调制矩阵进行图像恢复,而丢弃无用帧。FFPGI的重建算法可以表示为:

      $$ {\boldsymbol{I}}_{F F P G I}=\frac{1}{K} \sum_{j=1}^{K}\left({\boldsymbol{P}}_{j}-\overline{\boldsymbol{P}}\right) $$ (12)

      式中:$ K $表示测量矩阵被选为有效帧的个数。该方法在PPP少于0.1的情况下可以通过不超过1000个首达光子数据来重构96$ \times $128 pixel的图像,并且应用该方案实施了远距离(100 km)单脉冲首达光子鬼成像实验 [77]。此外,笔者所在课题组从理论上对单光子探测下首达光子鬼成像的成像质量进行了详细分析[95],给出了该系统中光子效率、成像质量和系统各参量之间的关系。

      图  7  快速首达光子鬼成像原理图[71]

      Figure 7.  Schematic of fast first-photon ghost imaging[71]

    • 单像素成像由于只用单个探测器对物体进行探测成像,所以需要很长的采用时间,这是一个以时间换空间的过程。根据前面对不同光场调制矩阵设计的介绍,笔者可以得出结论:如果采用随机散斑矩阵进行调制,往往需要数倍于像素数$ N $的采样次数才能恢复出较高信噪比的图像;如果采用正交掩膜矩阵如哈达玛基、傅里叶基等进行采样,也至少需要$ N $次采样来恢复图像。如此高的采样率使得单像素成像的成像时间很长,这大大限制了其应用。基于压缩感知[2, 31]的单像素成像算法利用自然场景的稀疏性先验信息,使单像素成像系统可以用远小于奈奎斯特采样定理的采样次数实现对图像的重建,这大大降低了系统采集、传输和存储图像所需的时间和存储空间。

      假设图像${\boldsymbol{ I}} \in \mathbb{R}^{N} $可以在某组基$ {\boldsymbol{\varPsi}} $下稀疏表示,即:

      $$ {\boldsymbol{I}}={\boldsymbol{\varPsi}} {\boldsymbol{\theta}} $$ (13)

      式中:$ \boldsymbol{\theta } $是图像在该基下的系数,其元素只有少部分非零;${\boldsymbol{\varPsi}} $可以选取为任意可以稀疏表示该图像的基,如小波基、傅里叶基、离散余弦基等,但采样基$ \boldsymbol{P} $应该尽量保证与${\boldsymbol{\varPsi}}$不相关。此时公式(1)可以表示为:

      $$ {\boldsymbol{s}}={\boldsymbol{P I}}={\boldsymbol{P}} {\boldsymbol{\varPsi}} {\boldsymbol{ \theta }} $$ (14)

      当采样次数${{M}} < {{N}}$时,公式(14)有无穷多个解,但是压缩感知理论指出,如果测量次数适当,则最稀疏的解是可以包含全部原始信号的。这可以通过最小化L1-norm来表示:

      $$ \min _{{\boldsymbol{\theta}}}\|{\boldsymbol{\theta}}\|_{1} \quad \mathrm{s} . \mathrm{t} . \quad {\boldsymbol{s}}={\boldsymbol{P}} {\boldsymbol{\varPsi}} {\boldsymbol{\theta}} $$ (15)

      理论上,为了重建$ \boldsymbol{I} $,所需要的测量次数为:

      $$ M \geqslant C \cdot \mu^{2} \cdot\|{\boldsymbol{\theta}}\|_{0} \cdot \log N $$ (16)

      式中:$ C $是一个正的常数;$\|{\boldsymbol{\theta}}\|_{0} $表示向量$ \boldsymbol{\theta } $中非零元素的个数;μP$ {\boldsymbol{\varPsi}} $的互相关系数,是一个介于0和1之间的常数。从公式(16)可以看出,测量次数与稀疏度$\|{\boldsymbol{\theta}}\|_{0} $呈线性关系,而与图像的像素数则呈对数相关,这是压缩感知能够在低采样率下进行单像素成像的原因[56, 96-97]图2展示了在随机掩膜下压缩感知算法的成像结果。在实际应用中,常见的压缩感知图像优化方法有TV (Total Variation)和TC (Total Curvature)等[98],它们分别对应对像素之间一阶导数和二阶导数的最小化。笔者所在课题组提出一种基于压缩感知的关联成像[99]的目标认证方法,利用压缩感知的性能优势,仅用2%奈奎斯特极限的采样数就可以实现对重构图像的目标认证。

    • 基于深度学习的单像素成像是近几年所产生的新的研究领域,机器学习特别是深度学习技术被证明在单像素成像速度和成像精度方面具有一定优势。这类方法使用卷积神经网络 (Convolutional Neural Network, CNN)[59]来进行端到端成像或者对经典方法的成像结果进行改善。CNN 利用图形处理器单元 (Graphics Processor Units, GPU)进行计算成像,可以实现比传统CPU处理器更快的计算速度。

      很多研究人员陆续提出通过训练一个CNN网络来进行端到端成像的方法。Lyu等人把深度学习应用在计算鬼成像中提出的基于深度学习的关联成像算法(GIDL)上[62],通过使用传统CGI重建图像和对应的真实清晰图像来有监督地训练神经网络,然后依靠此网络来提升图像重建质量。GIDL本质上是一种图像后处理算法,但是该方法可以在极低采样率下恢复图像。类似GIDL的方法还有很多,它们的共同点是先用CGI、DGI等方法重建图像然后再对图像进行质量提升[100-101]。另外一种基于深度学习的单像素成像方法直接以单像素探测信号序列作为神经网络的输入,以图像重建结果[102-105]作为神经网络的输出。需要指出的是,这些方法在训练时都需要清晰的图像来作为标签,这限制了其应用场景。与之不同的是,Liu等人提出一种基于未训练神经网络的计算鬼成像方法[106],如图8所示,该方法将测量信号先变换成二维形式,然后输入到神经网络中得到输出图像,根据输出图像的桶探测估计值与实际桶探测值的差异迭代地更新网络参数,无需真实标签。虽然该方案泛化能力有限,但为深度学习在单像素成像方面的应用提供了全新的思路。

      图  8  基于未训练神经网络的计算鬼成像算法示意图[106]

      Figure 8.  Framework of computational ghost imaging based on an untrained neural network[106]

    • 与像素阵列探测器相比,单像素探测器具有相对较低的暗噪声、高灵敏度、大带宽和价格便宜等优势。另外,单像素成像提供了一种可以用单一探测器和大视场照明进行成像的方案,这使得一些在探测和照明技术不成熟的成像需求成为可能。

    • 单像素成像从二维成像扩展到三维成像主要有两种方式。第一种方式是使用不同角度的二维图像来估计深度信息[107-109]。Sun等人使用光度立体技术(Photometric Stereo Technique)和多个位于不同位置的单像素探测器来进行三维重建[46]。每个单像素探测器所捕获的光强序列与对应结构化掩膜序列关联重建二维图像,由于每个二维图像是可以看作是物体不同角度的成像结果,所以通过像素配准就可以重建三维图像。另外一种更直接的方法是记录单像素探测器每次探测的时间,即通过光飞行时间来体现深度信息[110],单像素成像雷达是利用光飞行时间进行三维成像的代表性应用[33, 67],2008年,韩申生课题组在机载近红外三维单像素成像激光雷达系统[111]中实现了高分辨率成像。为了获取高精度的深度信息,这类方法要求探测器要具有较高的时间分辨率。

    • 最近,Wu等人提出一种高通量单像素压缩全息技术来成像生物组织[112],他们对来自小鼠尾巴的染色切片和来自小鼠大脑的未染色切片等生物组织进行了成像,分辨率可以达到$5.8\;\text{μ}\mathrm{m}\times 4.31\;\text{μ}\mathrm{m}$。该工作的研究人员指出,这项技术有希望为广谱范围内的各种生物组织提供高分辨率复值图像,进而推动多光谱成像发展。Hahamovich等人使用旋转掩膜版实现了高达2.4 MHz的调制速率,并对线虫活体进行了成像[113]。此外,最近单像素成像技术在显微成像领域也取得了一定进展[114-115]

    • 单像素成像可以被应用在图像加密领域[99,116-118],这是由其成像机理自然推广而来的应用。图像作为当今社会一种常用的信息载体,其传输过程中的安全性是无法忽视的问题。类比“加密-传输-解密”这一经典安全传输模式,大家很自然地可以把调制掩膜序列当作密钥,将调制后的信息当作加密信息进行传输,在接收端应用和发送端同样的掩膜序列进行图像恢复以实现解密过程。Yuan等人提出一种基于双随机相位编码和压缩鬼成像技术的光学图像加密方案[117]。该方案首先使用基于相位恢复的双随机相位编码技术将待加密图像转换为二值模式,然后根据鬼成像技术用一系列随机掩膜进行编码,在接收端采用压缩感知等操作恢复图像。

    • 运动目标探测成像中,目标物体与成像系统的相对运动会导致图像质量退化,如何实现运动目标的清晰成像是实际应用中无法回避的重要问题[119]。2011年,笔者所在课题组提出无透镜运动的目标鬼成像,并定量分析了为了避免运动模糊的物体运动速度上限[120]。最近,刘伟涛课题组提出了弱照明下的单像素跟踪成像技术,利用桶信号的时间相关性获取目标的速度,然后对照明光束进行控制,可以同时得到物体的运动轨迹和清晰的图像[121]

      另外,Ota等人提出基于单像素探测的无成像超快速细胞分类技术[122],他们操控细胞使其从固定的掩膜板前流过,单像素探测器记录一个一维时序信号,根据此信号进行细胞分类,并依据类别信息进行细胞分流控制。随后,Deng等人又提出基于双单像素探测的快速运动物体的无成像三维追踪技术[123]。他们使用6帧单周期的傅里叶掩膜从水平和垂直的角度照射一个做螺旋下降运动的金属小球,然后由放置在水平和垂直两个方向的两个单像素探测器各捕获6个信号,依据傅里叶基变换原理解算出金属小球的三维空间坐标。另外,许多方法都利用单像素成像来进行目标定位[124-125]和目标检测[126]等高级别图像分析。笔者所在课题组最近提出基于单像素成像的显著性目标检测方案[127],利用二值离散余弦基散斑和深度神经网络可以在低压缩率下达到高精度的检测结果。而在某些特定任务中,如目标分类和定位跟踪等,往往不需要先进行成像再对图像进行分析,而可以直接利用单像素探测序列进行分析。对此,笔者所在课题组陆续提出基于傅里叶谱的单像素无成像目标识别[128]以及在少光子情况下的无成像目标探测和分类[129]

    • 文中对单像素成像的理论和方法进行了简要回顾和总结。从单像素成像的基础理论出发,介绍了随机散斑、哈达玛基、傅里叶基、深度学习矩阵等不同的调制掩膜图案和不同调制器件,并结合笔者自身理解浅析了不同调制矩阵设计的优缺点和适用场景。成像算法方面,介绍了传统计算鬼成像算法(如CGI、DGI、NGI等)、首达光子单像素成像算法、基于压缩感知理论的单像素成像算法以及近年来出现的基于深度学习的单像素成像算法,并对其中的典型算法和相关工作进行了详细介绍;最后,介绍了现阶段单像素成像的一些应用。需要再次指出的是,文中并未将计算鬼成像和单像素成像加以区分,这是因为二者在成像机理和成像算法方面是互通的,并且成像系统也极为相似,所以近年来这两个概念已经融合在一起,相互借鉴,共同发展。

      目前单像素成像技术还不成熟,尤其是在可见光波段的成像性能与经典阵列探测相比还有一定差距。但是,在一些特定领域具有明显优势,如激光成像雷达、太赫兹成像、X射线成像等。另外,单像素探测器的时间分辨率大大优于阵列探测器,而且系统简单,价格低廉。随着自动驾驶、生物医学、航空航天等众多领域对成像精度和速度的需求日益提高,越来越多的问题和挑战逐渐涌现,这将会推动单像素成像技术进入一个新的发展阶段。

参考文献 (129)

目录

    /

    返回文章
    返回