微扫描红外成像超分辨重建
王新华1,2, 欧阳继红1, 张广2, 何阳2
1.吉林大学 计算机科学与技术学院,长春 130012
2.中国科学院长春光学精密机械与物理研究所 应用光学国家重点实验室,长春 130033
通讯作者:欧阳继红(1964-),女,教授,博士生导师.研究方向:空间推理与数据挖掘.E-mail:ouyj@jlu.edu.cn

作者简介:王新华(1984-),男,助理研究员,博士研究生.研究方向:计算光学成像技术.E-mail:xinhuajlu@163.com

摘要

为了通过低分辨率红外探测器获取高质量的图像信息,对基于微扫描成像的序列图像获取方法和超分辨图像重建算法进行了研究。首先,阐述了微扫描红外成像系统工作模式和软硬件构成。然后,提出了一种基于电机驱动的光学微扫描序列图像获取方法。最后,提出了一种基于字典学习的凸集投影算法用于超分辨图像重建。采用数值仿真和实际拍摄两种方式来验证本文算法的有效性,结果均表明本文方法能够有效地重建图像边缘细节并对噪声有较好的抑制作用。

关键词: 计算机应用; 微扫描; 凸集投影; 超分辨图像重建
中图分类号:TP391.4 文献标志码:A 文章编号:1671-5497(2017)01-0235-07
Super-resolution reconstruction of infrared images based on micro-scanner
WANG Xin-hua1,2, OUYANG Ji-hong1, ZHANG Guang2, HE Yang2
1.College of Computer Science and Technology, Jilin University, Changchun 130012, China
2. State Key Laboratory of Applied Optics, Changchun Institute of Optics, Fine Mechanics and Physics, Chinese Academy of Sciences, Changchun 130033, China
Abstract

In order to acquire high quality image information through infrared detector with low resolution, a method for acquiring image sequence through a Micro-scanner Imaging (MSI) system and Super-resolution Image Reconstruction (SRIR) algorithm was investigated. First, the working mode, hardware and software composition of the MSI system were elaborated. Then, the method for acquiring the image sequence from the MSI system based on motor drive was extracted. Finally, an algorithm of Projections onto Convex Sets (POCS) based on dictionary learning was presented, which was used for SRIR. To validate the proposed method, low resolution image sequence was acquired from digital simulation and real shooting. Experimental results indicate that the proposed method could effectively restore the edge information of an image and suppress noise.

Keyword: computer application; micro-scanner; projections onto convex sets(POCS); super-resolution image reconstruction(SRIR)

决定红外成像系统分辨率的核心器件是焦平面探测器, 但由于其制造工艺异常复杂, 从硬件角度想提高探测器空间分辨率难度极大, 通过微扫描成像技术可以在不增加探测器像素尺寸和规模的条件下明显提高成像系统的分辨率[1]。目前, 大多采用空域法用于实现微扫描序列图像的超分辨重建, 该方法基于线性观测模型, 与频域法相比更易于引入问题的先验信息, 且重建效果更好[2]。比较典型的方法包括凸集投影(POCS)法[3, 4, 5]、迭代反投影法(IBP)[6, 7, 8]和最大后验概率(MAP)法等[9, 10, 11, 12]

本文针对传统红外成像系统分辨率低且容易受噪声干扰等问题, 通过微扫描成像方式获取低分辨率图像序列, 采用基于字典学习的POCS算法重建序列图像分辨率。该方法可以明显提升传统红外成像系统的分辨率, 还能明显改善图像边缘质量, 并对噪声有较好的抑制作用。

1 红外微扫描超分辨成像原理

红外微扫描成像技术在不增加探测器像素尺寸和规模的条件下, 通过增大成像系统的空间采样频率减少了图像的频率混叠效应, 从而提高成像系统的分辨力, 该技术就是从多幅相互之间有微小位移的时间序列低分辨率图像重建出高分辨率图像。

1.1 微扫描成像系统的工作模式

红外微扫描成像技术通过对同一场景进行多次采样, 从多幅相互之间有亚像素位移的时间序列低分辨率图像复原重建出高分辨率图像。红外微扫描成像系统主要采取1× 1、2× 2和3× 3这三种工作模式[13], 如图1所示。微扫描模式决定了探测器上图像的位移周期和微扫描轨迹。每种微扫描模式都有不同的扫描轨迹以及扫描步数, 随着微扫描步数的增加, 微扫描系统的空间分辨力也会随之提高。

图1 微扫描成像系统工作模式Fig.1 Working mode of micro-scanner imaging system

采用数值分析方法可以分析微扫描模式与调制传递函数(MTF)之间的关系, 从而得到微扫描成像质量评价结果。

1.2 微扫描成像系统软硬件构成

实际红外微扫描超分辨成像系统涉及光、机、电、算、软等部分组成, 其系统组成如图2所示。

图2 微扫描超分辨成像系统构成Fig.2 Architecture of micro-scanner imaging system

从图2可知, 微扫描超分辨成像系统主要由图像采集硬件系统和软件处理系统两部分构成。本文主要描述微扫描超分辨成像硬件部分微位移序列图像获取方法和软件部分超分辨率图像重建算法。

2 微扫描序列图像获取方法
2.1 光学微扫描图像获取方法

红外微扫描成像系统的光学微位移机构可实现相对于成像器件焦平面探测器的微位移。现有的光学微扫描实现方式归结起来主要分为机械平移法、平板旋转法和摆镜法。其中机械平移透镜主要采用压电陶瓷驱动和电机驱动的方式。机械平移透镜微扫描原理如图3所示。

图3 机械平移透镜微扫描原理Fig.3 Principle of micro-scanner based on mechanics translation lens

由于透镜的离轴位移量很小, 因此产生的像差很小并且无像旋。此外, 微扫描透镜和二轴微扫描位移台的质量可能会对系统性能产生影响, 设计质量轻的单片透镜作为微扫描透镜是解决该问题的办法之一。

2.2 红外微扫描光学系统设计

由于需要精确移动的微位移很小(亚像素), 其微扫描幅度为μ m级, 小于对应探测器的探测元间距, 需要很高的精度, 主要有两个方面的难点[14, 15]:需要保证将图像从一个位置移到下一个位置时间上的精确性和微位移自身的精确性。

通过采用数值分析方法分析得到微扫描模式与调制传递函数(MTF)之间的关系, 发现2× 2微扫描模式对MTF的贡献率最大, 实用价值最高, 故通过电机驱动在2× 2模式下每次移动半个像元。其中, 探测器有效像素为320× 256, 像元间距离为30 μ m, 像面大小为9.6 mm× 7.68 mm。

红外微扫描光学系统设计结构如图4所示, 其中总长为391 mm, F数=2, 焦距f=240 mm; 第6片透镜偏心扫描, 幅度为25 μ m, 质量约为9.66 g。因为要旋转微位移驱动控制器, 前、后空间分别为22 mm和30 mm。

图4 微扫描成像光学系统设计Fig.4 Optical system design of micro-scanner imaging

利用光学设计软件CODE V对微扫描光学子系统的MTF进行评价, 结果如图5所示。

图5 微扫描成像光学系统MTFFig.5 MTF of micro-scanner imaging system

此外, 选取像方不同视场下的121个位置, 通过计算扫描幅值均控制在半个像元(即15 μ m)以内, 幅值变化情况如图6所示。

图6 不同视场成像位置扫描幅值Fig.6 Scan amplitude of image space of different field

3 微扫描成像超分辨重建算法
3.1 图像退化观测模型构建

如果低分辨图像序列间存在亚像素位移关系, 并能够确定或估计低分辨率序列图像与重建后的高分辨率图像之间的关系, 就可以建立观测模式进行超分辨重建[16]。光电成像系统实际成像时由于受像差、衍射极限等因素的影响造成图像的退化, 整个退化模型的构建如图7所示[17]

图7 图像退化模型的构建Fig.7 Construction of image deterioration model

在图7中, 假设理想目标高分辨率图像的大小为N=L1N1× L2N2, 每幅低分辨率图像的大小为M=N1× N2, 其中L1 和L2 表示观测模型中水平方向和垂直方向的欠采样算子, 则在高于奈奎斯特频率处从一连续带宽限制信号里采样得到的理想非退化图像的向量表示形式为x=[x1, x2, …, xN ]T, 第k幅低分辨率图像的向量表示形式为 yk=[yk, 1, yk, 2, , yk, M]T, 这里k∈ [1, P], 图像退化模型经空间域离散化后, 对于同一场景下的k幅序列低分辨率图像, 可由一幅高分辨图像经过几何形变、模糊、欠采样和噪声等一系列的降质或者退化过程产生, 这样可以用如下表达式表述观测模型:

yk=DBkMkx+nk, 1kp(1)

式中:Mk表示大小为L1N1L2N2× L1N1L2N2 的畸变矩阵; B_k 表示大小为L1N1L2N2× L1N1L2 N2 的模糊矩阵; nk表示图像噪声。

3.2 POCS算法实例化观测模型

POCS算法是目前超分辨率复原重建中应用最为广泛的算法之一, 该算法基于集合理论。采用POCS方法进行图像的超分辨重建需要解决3个问题:把关于解的若干限制条件解释为包含解的凸集 Ci; 确定每个凸集的投影算子 Pi; 为投影算子选择合适的松弛参数 λi进行迭代投影。

首先, 设待复原重建的高分辨率图像 f是Hilbert空间H中的一个元素, 对于m个已知的约束信息, 就存在m个对应的闭凸集Ci, 其中i∈ [1, m], 所求的f需要满足以下条件:

fC0=i=1mCi(2)

然后, 把P0 个Pi标记为投影算子分别投影到凸集C_0 和C_i, 封闭的凸集与它们各自的投影算子Pi产生投影序列如下:

f(k+1)=PmPm-1P1f(k), k[1, m](3)

最后, 为了加速算法的收敛速度, 引入松弛算子 λi将式(3)表述为以下形式:

f(k+1)=TmTm-1T1f(k), k[1, m](4)

式中:

利用POCS算法将式(1)实例化为如下形式:

gl(m1, m2)=(n1, n2)f(n1, n2)hl(m1, m2; n1, n2)+ηl(m1, m2)(6)

式中:gl(m1, m2)表示第l帧低分辨率图像; f(n_1, n_2)表示原始高分辨率图像; hl(m1, m2; n1, n2)表示第l帧图像的PSF; η l(m1, m2)表示第l帧图像的噪声。

利用微扫描多帧序列低分辨率图像重建高分辨图像, 可以定义数据一致性约束集合如下:

Cm1, m2, l={f(n1, n2, k)|r(f)(m1, m2, l)|δ0(m1, m2, l)}(7)

式中:

r(f)(m1, m2, l)g(m1, m2, l)-(n1, n2)f(n1, n2)hl(m1, m2; n1, n2)(8)

r(f)(m1, m2, l)代表和约束集合中任意一点f相关的残差; δ 0(m1, m2, l)表示先验界限, 代表统计置信水平。

高分辨率图像任意一点 x(n1, n2, k)在集合 Cm1, m2, l上投影 pm1, m2, l[x(n1, n2, k)]定义为式(9):

pm1, m2, l[x(n1, n2, k)]=x(n1, n2, k)+[r(x)(m1, m2, l)-δ0(m1, m2, l)]×[x1y1h2(m1, m2; x1, y1)]-1×  h(m1, m2; n1, n2, l), r(x)(m1, m2, l)>   δ0(m1, m2, l)x(n1, n2, k),   -δ0(m1, m2, l)  r(x)(m1, m2, l)δ0(m1, m2, l)x(n1, n2, k)+[r(x)(m1, m2, l)+δ0(m1, m2, l)]×[x1y1h2(m1, m2; x1, y1)]-1× h(m1, m2; n1, n2, l),  r(x)(m1, m2, l)< -δ0(m1, m2, l)(9)

基于POCS超分辨图像重建算法的流程为:

(1)对超分辨率图像进行预估计完成参考帧构造, 利用式(9)投影算子重复进行投影迭代, 就可以求解超分辨率图像的估计值。

(2)利用运动估计算法估计相对参考帧的运动补偿参数。

(3)对参考帧进行不断修正直到获得可以接受的重建结构, 当达到最大迭代次数或者两次迭代之间的误差小于设定的阈值终止迭代, 所得到的迭代解为POCS方法的最优估计解。

3.3 基于改进POCS的超分辨图像重建算法

为了最大限度地保留低分辨原始图像边缘细节信息, 在降低噪声干扰的同时保留有价值的高频信号, 提出一种改进的POCS复原重建算法。

算法具体步骤如下:

Step1构造参考帧。输入第一幅待分辨率图像, 利用双线性插值法构造一帧高分辨率图像Ref。

Step2设置初始参数。手动设置迭代次数 N, 初始值为0。

Step3运动参数估计。利用四参数仿射变换模型(10)计算低分辨率序列图像间的运动参数。

x'y'=xy+ kcos(α)sin(α)-sin(α)kcos(α)xy+d1d2(10)

式中:(x', y')和(x, y)表示图像像素点位置; k表示图像缩放系数; α 表示图像旋转角度; d1表示水平位移; d2表示垂直位移。

Step4投影和灰度修正。利用基于边缘检测的PSF算子修正参考帧的像素值。

Step4.1利用POCS投影算子(9), 通过PSF将低分辨率序列图像中像素点投影到参考帧上。

Step4.2基于边缘检测的PSF算子(11), 计算参考帧图像中像素点的灰度估计值。

PSF=exp(-λd)PSF0(11)

式 中:λ 表示约束正则化系数, 可以用于调节exp(-λ d)的数值衰减速率; d表示像素点到图像边缘的空间距离; PSF0=exp[-(x-x0)2+(y-y0 )2/2]。

Step4.3与序列低分辨率图像中的相同区域位置的实际灰度值进行比较, 若超出误差范围, 则对参考帧像素点的灰度值进行修正。

Step5判断是否满足迭代终止条件。若满足, 则退出迭代步骤; 否则返回Step4。

Step6采用基于K-SVD字典学习方法[18]对POCS估计图像进行去噪声处理。

4 实验验证
4.1 实验测试环境

实验测试采用的操作系统为Windows 7旗舰版64位SP1; 处理器为Intel Core i7-4790K @4.00 GHz四核; 内存为16 GB(DDR3 1333 MHz); 算法开发工具为Matlab Primer R2015a。

4.2 实验测试方案及结果

仿真实验采用大小为480× 480像素的原始高分辨图像, 如图8(a)所示。首先, 经过加入随机噪声和模糊、降采样因子为2的处理, 得到4幅240× 240像素的低分辨率序列图像。低分辨率序列图像的位移差为0.1, 角度差为0.005, 以此来模拟附有噪声的低分辨率图像序列。然后, 分别采用不同的算法进行序列图像的超分辨率重建, 结果如图8(b)(c)(d)(e)所示。

图8 模拟图像退化SRIR实验结果Fig.8 SRIR experimental results of simulating of image deterioration process

从图8可以看出, 双线性插值法难以对图像噪声进行处理, 一般POCS算法虽然对噪声有一定抑制作用但图像边缘处仍然有明显的梯度效应, 本文算法对噪声有明显抑制作用并较好地复原出图像边缘细节信息。为了更客观地评价重建图像质量, 采用PSNR和SSIM两个指标对不同算法的实验结果进行对比, 如表1所示。

表1 模拟图像退化过程SRIR实验数据对比 Table 1 Data comparison of SRIR based simulating

表1中结果表明:本文算法具有更好的图像重建效果。为了进一步验证算法在实际拍摄中能否取得较好的效果, 采用非制冷红外成像仪在2× 2微扫描工作模式下每次移动半个像元, 采集获得原始、水平和垂直位置的4幅微位移低分辨率序列图像, 图像大小为320× 256像素。分别采用不同的重建算法对序列图像进行超分辨率重建, 由于实际拍摄的图像没有理想高分辨率图像作参考, 为了更直观地比较超分辨重建结果,

图9 实际拍摄红外图像SRIR实验结果Fig.9 SRIR experimental results of real infrared images

将图像放大4倍进行显示。从图9中可以看出, 本文算法重建图像的边缘细节更为清晰。

如图10所示, 通过分析低分辨图像和本文算法重建的高分辨图像二维频谱可以看出, 本文算法对噪声也起到了较好的抑制作用。

图10 高、低分辨率图像二维频谱对比Fig.10 Comparison of two-dimensional spectra beween high and low resolution image

5 结束语

本文对微扫描红外成像超分辨重建方法的可行性进行了原理性验证, 阐述了基于电机驱动光学透镜的微扫描图像获取方法。针对POCS算法对图像边缘细节保留能力差且易受噪声干扰等问题, 提出一种基于字典学习的POCS重建算法。采用数值仿真和实际拍摄两种方式来验证本文算法的有效性, 结果均表明本文方法能够有效保持图像的边缘细节并对噪声有较好的抑制作用。

The authors have declared that no competing interests exist.

参考文献
[1] 张东晓, 鲁林, 李翠华, . 基于亚像素位移的超分辨率图像重建算法[J]. 自动化学报, 2014, 40(12): 2851-2861.
Zhang Dong-xiao, Lu Lin, Li Cui-hua, et al. Super-resolution image reconstruction algorithm based on sub-pixel shift[J]. Acta Automatica Sinica, 2014, 40(12): 2851-2861. [本文引用:1]
[2] Kim S P, Su W Y. Recursive high-resolution reconstruction of blurred multi-frame images[J]. IEEE Transactions on Image Processing, 1993, 2(4): 534-539. [本文引用:1]
[3] Pand a S S, Prasad M S R S, Jena G. POCS based super-resolution image reconstruction using an adaptive regular-ization parameter[J]. International Journal of Computer Science Issues, 2011, 8(5): 155-158. [本文引用:1]
[4] 陈健, 王伟国, 刘廷霞, . 基于梯度图的快速POCS超分辨率复原算法研究[J]. 仪器仪表学报, 2015, 36(2): 327-338.
Chen Jian, Wang Wei-guo, Liu Ting-xia, et al. Research on fast POCS super-resolution restoration algorithm based on gradient image[J]. Chinese Journal of Scientific Instrument, 2015, 36(2): 327-338. [本文引用:1]
[5] 陈健, 王伟国, 陈长青, . 基于区域选择的快速POCS超分辨率复原算法研究[J]. 电子测量与仪器学报, 2015, 29(6): 804-815.
Chen Jian, Wang Wei-guo, Chen Chang-qing, et al. Research on fast POCS super-resolution restoration algorithm based on region selection[J]. Journal of Electronic Measurement and Instrumentation, 2015, 29(6): 804-815. [本文引用:1]
[6] Zhang Xiang-jun, Wu Xiao-lin. Image interpolation by adaptive 2-D autoregressive modeling and soft-decision estimation[J]. IEEE Transactions on Image Processing, 2008, 17(6): 887-896. [本文引用:1]
[7] 宋佳伟, 徐煜明, 肖贤建. 基于小波变换和迭代反向投影的超分辨率算法[J]. 计算机技术与发展, 2015, 25(2): 74-77.
Song Jia-wei, Xu Yu-ming, Xiao Xian-jian. A super resolution algorithm based on wavelet transform and iterative back projection[J]. Computer Technology and Development, 2015, 25(2): 74-77. [本文引用:1]
[8] 吴宣沛, 谢勤岚. 基于迭代反投影的彩色图像超分辨率重建[J]. 计算机与数字工程, 2015, 43(6): 1113-1117.
Wu Xuan-pei, Xie Qin-lan. Super-resolution of color images based on iterative back projection[J]. Computer & Digital Engineering, 2015, 43(6): 1113-1117. [本文引用:1]
[9] Mudenagudi U, Banerjee S, Kalra P K. Space-time super-resolution using graph-cut optimization[J]. IEEE Transactionson Pattern Analysis and Machine Intelligence, 2011, 33(5): 995-1008. [本文引用:1]
[10] Chantas G K, Galatsanos N P, Woods N A. Super-resolution based on fast registration and maximum a posteriori recon-struction[J]. IEEE Transactions on Image Processing, 2007, 16(7): 1821-1830. [本文引用:1]
[11] 张地, 何家忠. 基于特征空间的人脸超分辨率重构[J]. 自动化学报, 2012, 38(7): 1145-1152.
Zhang Di, He Jia-zhong. Feature space based face super-resolution reconstruction[J]. Acta Automatica Sinica, 2012, 38(7): 1145-1152. [本文引用:1]
[12] 绍乐图, 陈晨, 张红刚, . 改进的混合MAP-POCS超分辨率图像复原算法研究[J]. 电光与控制, 2015, 22(2): 41-45.
Shao Le-tu, Chen Chen, Zhang Hong-gang, et al. An improved hybrid MAP-POCS algorithm for super-resolution image restoration research[J]. Electronics Optics & Control, 2015, 22(2): 41-45. [本文引用:1]
[13] 杨登全, 姜伟, 黄江平, . 红外凝视成像系统中的微扫描器控制[J]. 红外技术, 2014, 36(7): 556-561.
Yang Deng-quan, Jiang Wei, Huang Jiang-ping, et al. Micro-scanner control in staring infrared imaging systems[J]. Infrared Technology, 2014, 36(7): 556-561. [本文引用:1]
[14] 黄燕, 沈飞, 黄整章, . 压电式高精度位移微扫描控制系统设计[J]. 光学精密工程, 2016, 24(10s): 454-460.
Huang Yan, Shen Fei, Huang Zheng-zhang, et al. Micro-scanning control system design for piezoelectric high-precision displacement[J]. Optics and Precision Engineering, 2016, 24(10s): 454-460. [本文引用:1]
[15] 徐明飞, 庞武斌, 徐象如, . 高数值孔径投影光刻物镜的光学设计[J]. 光学精密工程, 2016, 24(4): 740-746.
Xu Ming-fei, Pang Wu-bin, Xu Xiang-ru, et al. Optical design of high-numerical aperture lithographic lenses[J]. Optics and Precision Engineering, 2016, 24(4): 740-746. [本文引用:1]
[16] 孙玉宝, 韦志辉, 肖亮, . 多形态稀疏性正则化的图像超分辨率算法[J]. 电子学报, 2010, 38(12): 2898-2903.
Sun Yu-Bao, Wei Zhi-Hui, Xiao Liang, et al. Multimorphology sparsity regularized image super resolution[J]. Acta Electronica Sinica, 2010, 38(12): 2898-2903. [本文引用:1]
[17] 翟海天, 李辉, 李彬. 基于区域划分的红外超分辨率重建[J]. 光学精密工程, 2015, 23(10): 2989-2996.
Zhai Hai-tian, Li Hui, Li Bin. Infrared super resolution reconstruction based on region division[J]. Optics and Precision Engineering, 2015, 23(10): 2989-2996. [本文引用:1]
[18] Yang J, Wright J, Huang T, et al. Image super-resolution via sparse representation[J]. IEEE Transactions on Image Processing, 2010, 19(11): 2861-2873. [本文引用:1]