作者简介:王新华(1984-),男,助理研究员,博士.研究方向:计算成像技术.E-mail:xinhuajlu@163.com
为了在精简光学镜头结构的情况下获取高像质图像,提出了基于简单透镜计算成像的图像复原重建方法。首先,通过分析光学系统点扩散函数空间变化特性,提出了基于空间变化的点扩散函数获取及测量方法。然后,采用基于自适应稀疏先验信息的空间变化点扩散函数图像分块复原算法,对简单透镜模糊成像进行复原重建。为了验证本文算法的有效性,采用数字仿真模拟和实际拍摄两种方式获取简单透镜成像结果。结果表明:本文算法能够有效地抑制图像边缘的振铃效应并较好地保留图像的细节。
In order to obtain high quality image information under the condition of compact optical lens structure, an approach for image restoration and reconstruction based on simple lenses computational imaging was proposed. First, by analyzing the characteristics of the Space Variant Point Spread Function (SVPSF) of the optical system, the method of SVPSF acquisition and measurement was presented. Then, the image sectioned restoration algorithm with SVPSF based adaptive sparse prior information was developed, which was used successfully in the restoration of blurry images through simple lenses. To validate the algorithm, the imaging results were obtained from through simple lenses imaging by the digital simulation and real images. Experimental results indicate that the algorithm can efficiently suppress the ringing effect and preserve the details of the images.
传统光学成像系统一般通过增加光学元件数量、引入非球面甚至自由曲面来消除系统像差, 提高成像质量[1, 2]。影响像面清晰度的像差有球差、彗差、场曲、象散和色差, 光学设计问题主要是通过优化光学结构来控制像差, 同时保证系统的制造公差和制造成本在可接受的范围内[3]。如何在保证像质的前提下使得具有复杂光学结构的相机简单化、小型化和轻量化成为光学系统设计近年来的研究热点[4]。随着数字图像技术的发展, 越来越多的研究关注于将数字图像处理过程作为整个图像获取系统的一部分, 使得高质量图像的获取不再唯一依赖高质量的硬件镜头[5]。计算成像技术通过将光学设计与计算消像差相结合的方式来获取高像质图像, 它突破了传统仅仅依靠复杂化光学系统来获取高像质图像的思维方式, 其明显优势在于能够用简单的光学系统获取像质与复杂镜头相媲美的图像, 达到了精简镜头结构、降低成本的目的, 从而为光学系统设计指明了一个全新的研究方向[6, 7]。
简单透镜成像系统由于存在严重像差不可避免地会导致图像产生一定程度的模糊, 其中形成模糊图像的过程可理解为清晰场景与系统点扩散函数(Point spread function, PSF)的卷积再加上一定的噪声, 那么图像去模糊就是一个去卷积的过程[8]。理想图像复原重建算法大多认为光学系统的点扩散函数空间不变, 即整幅图像利用一个PSF进行去卷积, 而实际光学系统物空间各点的退化随着空间位置的改变而改变, 其复原重建过程涉及到多个甚至海量PSF的提取、存储和运算, 目前大多采用空间变化PSF(Space-variant point spread function, SVPSF)图像复原技术, 它比空间不变PSF图像复原技术要复杂、困难得多, 比较典型的方法包括空间坐标转换法、等晕区分块复原法和直接复原法, 研究方向包括:图像的分割和拼接、PSF提取、噪声情况分析以及如何减少数据存储量、运算量并加快算法收敛速度等[9]。
本文提出一种基于自适应稀疏先验信息的空间变化点扩散函数图像分块复原算法用于简单透镜模糊成像复原重建。首先, 对光学系统PSF空间变化特性进行分析, 提出SVPSF获取及测量方法。然后, 将模糊图像分成m× n个大小相等、具有重叠矩形的图像块, 采用基于自适应稀疏先验SVPSF去卷积算法进行复原重建。最后, 搭建实验平台, 采用数字仿真与实际拍摄两种方式验证了简单透镜计算成像复原算法的有效性。结果表明:本文算法能够较好地复原及保留图像边缘细节信息。
传统的成像光学系统结构一般都比较复杂, 简单透镜成像技术的目的是利用简单光学系统来代替复杂的光学系统(见图1), 同时能够获得与复杂光学系统相媲美的成像质量。根据赛德尔像差理论[10]可知, 简单透镜成像系统要获得高质量图像所面临的主要挑战是像差。
如上所述, 图像去模糊的过程就是一个去卷积的过程。首先, 通过对镜头点扩散函数进行分层、分区域的提取, 采用去卷积算法可以有效去除单色像差, 消除离焦模糊达到增加光学系统景深的作用。其次, 通过对多通道的PSF进行处理还能消透镜除材料色散特性给图像带来的色差, 从而降低图像质量对镜头的依赖[11]。简单透镜成像技术的基本过程如图2所示。
简单透镜成像技术的核心是计算成像, 即利用图像复原技术重建出高质量图像。图像复原技术是指利用退化现象的某种先验知识重建被退化的图像, 并最终达到改善给定图像质量的目的。因而, 图像复原重建技术就是将图像退化过程模型化, 并采用一个逆过程进行处理, 以便复原出原始的清晰度较好的高质量图像。
图像的退化模型通常近似为线性、空间不变系统, 当图像退化不是很严重的情况下, 应用线性不变系统复原图像会有比较好的效果, 同时可以降低计算复杂度并缩短复原时间。简单透镜计算成像过程可以被模型化为一个退化函数再加上一定的噪声。对一幅输入图像f(x, y)进行处理, 产生一幅退化图像g(x, y), 图像的退化模型如图3所示。
此过程可以表达为如下形式:
式中:g(x, y)为光学系统获得的模糊图像; f(x, y)为源图像; PSF为光学系统对应的点扩散函数; n为成像过程中引入的噪声。
PSF包含了单色像差以及色差的信息, 单透镜计算成像就是在去除噪音n(x, y), 已知g(x, y)和PSF的基础上采用去卷积的方法矫正像差, 复原出图像f(x, y)。噪音可以表示为:
在噪音未知的情况下, 希望找到一个f(x, y)使得f(x, y)VPSF近似于g(x, y), 因此去卷积的过程转化为一个无约束的优化问题:
此时, f(x, y)的解可以表达成如下形式:
为了使用更多的先验信息, 常常附加约束条件来提高图像复原精度, 令L为f(x, y)的线性算子, 复原问题可以转化为函数‖ Lf(x, y))‖ 服从式(5)约束条件的最小值问题:
再运用拉格朗日算子求解式(6):
此解最终可以表达成如下形式:
对于图像退化较严重的非线性系统, 其PSF具有空间变化的特性, 本文利用分块复原的思想处理空间变化的模糊情况, 将模糊图像分为m× n块, 每一个子图像块再分别利用相应的PSF进行图像复原, 采用式(7)对各子图像块进行复原重建。这一过程对于整幅模糊图像而言PSF是空间变化的, 对于每个子图像块而言PSF是空间不变的[12]。
CODEV光学设计软件仿真成像符合简单透镜成像的退化过程, 仿真图像是通过原图像与点扩散函数卷积得到的。图4为SVPSF的特征。在计算SVPSF时, 将图像划分为11× 11的网格, 但图像最外一圈只有半个网格, 计算得到的PSF也是不完整的, 需要对其进行预处理。
对于PSF预处理方法, 本文首先对不完整的点扩散函数信息进行判断; 然后将其去掉并只保留中间9× 9完整的PSF, 将这81个PSF存储到集合{hi}中, hi表示第i个图像块的PSF, 每一个hi都是一个小的矩阵数组, 且它的尺寸大小(行和列)为奇数, 这样可以保证它只有一个中心点。该方法适合于验证去卷积算法的有效性, 而实际系统的PSF由于受镜头加工、装调等因素的影响, 需采用实验测量的方法获取精确SVPSF。
线扩散函数(Line spread function, LSF)和调制传递函数(Modulation transfer function, MTF)都是评价光学系统成像质量的重要参数。PSF、LSF和MTF存在一定的数学关系, 若已知LSF和MTF, 通过数学方法可计算得到PSF, 如图5所示。
根据如上所述PSF、LSF和MTF三者之间的关系, 测量PSF的具体步骤如下:
(1)通过PSF测量仪获得线扩散函数曲线。
(2)对LSF进行傅里叶变换得到一维MTF。
(3)对一维MTF进行矢量运算获得二维MTF。
(4)对二维MTF运行傅里叶逆变换获得PSF。
要计算PSF首先需测量系统的LSF, 光学传递函数测量仪采用数字傅里叶分析法可以测量不同视场的LSF和MTF。若已知光学系统的焦距f0, 探测器对角线的一半长度为h, 那么即可取得光学系统的半视场角为:
在图6中, 将探测器成像区域分为5× 5个子块, 设探测器尺寸大小为a× b; O为探测器成像中心视场点; O1和O2为子块成像中心视场; OA表示探测器对角线一半长度h。
首先, 根据三角形比例关系可以得到式(9):
然后, 根据式(9)可以得到OO2的长度为:
最后, 根据式(8)即可求得O2视场大小, 再利用光传递函数测量仪测得O2视场的LSF, 可以计算出O2视场的PSF。
利用上述方法可以求出其他子图像块的PSF, 但需要频繁调节光学传递函数测量仪测量不同视场LSF和MTF。为了简化操作过程, 可以先测量几个视场的LSF和MTF计算求得PSF, 其余视场的PSF通过插值的方法计算获得。
在去卷积的过程中加入先验性约束可以有效地抵制图像边缘振铃效应和恢复图像细节[13]。在已知模糊图像y和点扩散函数PSF的条件下, 通过去卷积的方法估计得到清晰图像x的过程在贝叶斯框架下可以表达为如下形式:
条件概率P(x|y)∈ (0, 1), 当P(x|y)越接近于1时, 重构出来的图像就越接近原图像。在去卷积过程中, 假设噪声是高斯噪声, 其方差为η , 则最大相似度可以表示为:
式中:Cf为n× n卷积矩阵。
为了更符合图像梯度分布, 引入梯度图像先验性约束进行描述:
根据式(11)(12)(13), 将贝叶斯后沿最大概率求解x转化为求解:
式中:w=2α η 为权重因子; Ñ 表示取图像梯度; 等式右边第1项为误差项; 第2项‖ Ñ x‖ λ 为正则化项; λ 的取值不同, 对复原图像的平滑程度也不同。当λ =1时, 即为经典的全变分TV模型, 该模型能够保持更多的图像细节; 当λ =2时, 为Tikhonov正则化约束, 该约束容易导致复原结果过于平滑, 丢失过多图像细节; 当0< λ < 1时, 为hyper-Laplacian先验约束, 符合自然图像梯度分布, 能够保持尖锐的边缘信息。
稀疏先验约束条件能够带来更好的复原效果, 许多学者利用稀疏先验在图像复原过程中进行约束, 稀疏正则化的公式为[14]:
式中:参数d用来控制梯度分布形状。
Levin等[15]将参数d取为固定值0.8, 而在实际的图像复原迭代过程中, 随着图像清晰度的提高, 重构图像的方差逐渐增大, 其对数梯度分布的稀疏度会随之减小。根据图像复原过程中梯度分布的变化特点, 提出改进的稀疏先验正则化方法, 将控制图像梯度分布形状的参数d设置为变量, 即为可变参数的稀疏先验约束正则化算法, 那么改进的正则化约束项可写为:
式中:μ k表示第k次迭代时控制重构图像梯度分布稀疏度的参数, 它在迭代的过程中是逐渐增加的, 并且每次迭代的增加量与当前重构图像的方差有关, 其表达式如下:
式中:var(· )为求方差的函数; t为一个常数, 取值范围一般为(250, 350)。
关于初始值μ 0的选取, 因为稀疏分布的参数d满足的取值范围为(0, 1), 所以μ k的取值范围为(1, 2), 由于μ k在迭代过程中是逐步增大的, 因此通常选较小一点的值作为μ 0的取值, 实验中一般的取值为(0.8, 1.5)。
假设函数ρ 表示稀疏分布函数, 表达形式为ρ (z)=|z|λ , 本文中λ 是一个可变参数。式(14)可以表达成如下形式[16, 17]:
稀疏先验约束选择了图像的少数像素进行求导, 而大部分像素保持常数, 这样有利于保持图像边缘, 抑制图像振铃效应。
稀疏先验约束使图像复原重建问题变成非凸问题, 可以使用迭代重加权最小二乘算法(IRLS)进行复原重建后的优化[18, 19]。此外, 由于透镜的色散作用, 会导致不同波长光线在相同空间位置产生不同的PSF。对于给定3个颜色通道SVPSF的情况下, 在每个颜色通道去卷积的过程中可加入信号幅值投影算子对图像信号幅值进行约束, 表达式如下:
式中:a和b为幅值约束的下限和上限; P为信号幅值投影算子; g(x, y)为图像初始灰度值。
综上, 稀疏先验自适应图像复原算法流程如下所示。
Step1 输入独立RGB颜色通点扩散函数f{1, 2, 3}和模糊图像y{1, 2, 3}。
Step2 对单一颜色通道的模糊图像采用自适应稀疏先验分块复原法。
Step2.1 将输入的模糊图像分成m× n个大小相等、具有重叠矩形的图像块, 得到图像块集合{yi}。
Step2.2 对不同图像块提取相应的局部空间不变PSF, 得到PSF集合{fi}。
Step2.3 对模糊图像块yi和相应的fi采用稀疏先验自适应去卷积算子(18)复原清晰图像集合{xi}。
Step2.4 利用迭代重加权最小二乘算法优化重构得到整幅高质量图像g{1, 2, 3}。
Step3 加入幅值投影算子, 得到约束重构图像
Step4 将不同颜色通道图像进行融合, 得到最终清晰彩色图像。
为了验证简单透镜成像复原重建算法的有效性, 采用数字仿真与实际拍摄相结合的方式。实验测试操作系统为Windows 7(64位); 处理器为Intel Core i7-4790K; 内存为16 GB; 光学软件为CODEV; 算法开发软件为MATLAB R2015a。
采用CODEV软件设计由三片透镜组成的简单光学系统, 技术指标如下:探测器对角线为8.59 mm; 光学系统的焦距为100 mm; F数为4.0。简单透镜成像系统二维光路如图7所示。
通过选取不同场景下的图像细节, 将本文算法与传统单一PSF去卷积算法进行对比, 结果如图8和图9所示。
实验结果表明, 与传统算法相比, 采用本文算法能够有效保留图像细节信息。采用峰值信噪比(PSNR)和结构自相似度(SSIM)两种客观评价方式评价图像复原质量, 结果如表1所示。
为了测试算法稳定性, 测验了20组图像, 其平均PSNR为31.3 dB, 平均SSIM为0.9587。
此外, 采用不同数量的图像块进行图像复原, 所得到的复原结果也不一样。表2给出了采用不同数量PSF处理图像不同颜色通道的PSNR和SSIM结果。
从表2可知:由于PSF是空间变化的, 图像块数量较少时, 在图像复原过程中估计的PSF会与真实的PSF有较大差距。而采用更多图像块进行图像去卷积复原会提高复原质量, 但重建时间过长。
图10为简单透镜成像实验测试平台。简单透镜成像系统SVPSF测量及图像复原的实验条件为:①光学传递函数测量仪; ②可见光条件下; ③30 cm长的导轨以及两个滑动底座; ④一片平凸透镜:厚度为4.2 mm、焦距为100 mm、直径为30 mm; ⑤镜头固定架:直径为30 mm, 通光孔径为25 mm; ⑥黑色的遮光绒布, 用来代替镜筒, 消除杂光影响; ⑦CMOS探测器:对角线长为8.35 mm, 像元尺寸为3.75 μ m× 3.75 μ m, 像元数为1937× 1097; ⑧计算机。
单透镜成像图像复原重建的具体实验方案及步骤如下所示。
Step1 利用光学传递函数测量仪测得单透镜部分视场的LSF和MTF。
Step2 通过LSF、MTF、PSF三者之间的关系, 计算得到上述各视场的PSF。
Step3 利用插值计算的方法, 获取其他视场的PSF, 最终得到单透镜成像系统空间变化的PSF。
Step4 搭建实验光路, 获取单透镜所拍摄到的模糊图像。
Step5 利用自适应稀疏先验分块去卷积算法对实验拍摄得到的模糊图像进行分块复原。
图11为实拍图像复原重建结果。由于实际拍摄的图像没有理想高分辨率图像作参考, 只能通过主观评价的方式来判断复原图像质量。图12为实拍细节复原重建结果。从图12中可以看出, 复原之后的图像细节信息更加清晰, 从而进一步验证了本文算法的有效性。
基于光学系统设计与图像复原重建算法相结合的计算光学成像技术能够在有效降低光学系统设计复杂度的情况下同时获取与复原光学系统相媲美的高像质图像。通过数字仿真模拟和搭建实验平台测试两种方式获取简单透镜成像的结果, 采用基于自适应稀疏先验的图像分块复原去卷积算法对成像进行复原重建。实验结果表明, 本文算法能够有效地重建图像的边缘细节并对振铃效应有很好的抑制作用。
The authors have declared that no competing interests exist.
[1] |
|
[2] |
|
[3] |
|
[4] |
|
[5] |
|
[6] |
|
[7] |
|
[8] |
|
[9] |
|
[10] |
|
[11] |
|
[12] |
|
[13] |
|
[14] |
|
[15] |
|
[16] |
|
[16] |
|
[17] |
|
[16] |
|