CN106815812A - 图像处理装置以及图像处理方法 - Google Patents
图像处理装置以及图像处理方法 Download PDFInfo
- Publication number
- CN106815812A CN106815812A CN201610906736.4A CN201610906736A CN106815812A CN 106815812 A CN106815812 A CN 106815812A CN 201610906736 A CN201610906736 A CN 201610906736A CN 106815812 A CN106815812 A CN 106815812A
- Authority
- CN
- China
- Prior art keywords
- image
- eye
- processing
- unit
- treatment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/40—Analysis of texture
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种图像处理装置以及图像处理方法。本发明的课题在于,减轻伴随着平滑化处理在图像产生的弊端。摄像装置(100)具备:平滑化部(5b),对图像包含的人的面部区域实施平滑化处理;区域确定部(5d),在人的面部区域内确定特定的区域;以及锐化部(5e),对确定出的特定的区域实施用于减轻平滑化处理的效果的处理。
Description
本申请要求以2015年12月1日申请的日本专利申请特愿2015-234702为基础的优先权,并在本申请中援引该基础申请的全部内容。
技术领域
本发明涉及图像处理装置以及图像处理方法。
背景技术
以往,为了使图像包含的人的面部看上去更美,已知有例如像日本特开2009-70260号公报那样实施平滑化处理而使皮肤的斑点、皱纹不明显的技术。
然而,当像上述专利文献那样对面部区域实施平滑化处理时,睫毛、眼睛的轮廓等本来对比度强的区域也会变得模糊。此外,当为了减轻眼部周围的模糊感等而对平滑化处理前的图像实施强调边缘的处理时,存在头发等面部区域的周边部分的边缘也被强调的问题。
发明内容
本发明是鉴于这样的问题而完成的,本发明的课题在于,减轻伴随着平滑化处理在图像产生的弊端。
本发明的一形态涉及一种图像处理装置,其特征在于,具备处理器,所述处理器对图像包含的人的面部区域实施平滑化处理,在所述人的面部区域内确定特定的区域,对确定出的所述特定的区域实施用于减轻平滑化处理的效果的处理。
本发明的另一形态涉及一种图像处理方法,使用了图像处理装置,所述图像处理方法的特征在于,包括:对图像包含的人的面部区域实施平滑化处理的处理;在所述人的面部区域内确定特定的区域的处理;以及对确定出的特定的区域实施用于减轻平滑化处理的效果的处理的处理。
结合以下的说明和附图,本发明的上述以及其它目的、新颖的特征将更加清楚。应注意,附图仅用于对本发明进行例示,本发明不限定于此。
附图说明
当结合以下的附图来考虑以下的详细的记载时,能够更深入地理解本申请。
图1是示出应用了本发明的一个实施方式的摄像装置的概略结构的框图。
图2是示出由图1的摄像装置进行的眼睛强调处理涉及的动作的一个例子的流程图。
图3是继续示出图2的眼睛强调处理的流程图。
图4A~图4D是用于说明图2的眼睛强调处理的图。
图5A~图5D是用于说明图2的眼睛强调处理的图。
图6A~图6D是用于说明图2的眼睛强调处理的图。
具体实施方式
以下,使用附图对本发明的具体的方式进行说明。但是,发明的范围不限定于图示例。
图1是示出应用了本发明的一个实施方式的摄像装置100的概略结构的框图。
如图1所示,本实施方式的摄像装置100具体具备:中央控制部1、存储器2、摄像部3、信号处理部4、图像处理部5、显示部6、图像记录部7、以及操作输入部8。
此外,中央控制部1、存储器2、摄像部3、信号处理部4、图像处理部5、显示部6以及图像记录部7经由总线9连接。
中央控制部1对摄像装置100的各部分进行控制。具体地,虽然省略了图示,但是中央控制部1具备CPU(Central Processing Unit:中央处理单元)等,并按照摄像装置100用的各种处理程序(省略图示)进行各种控制动作。
存储器2例如由DRAM(Dynamic Random Access Memory:动态随机存取存储器)等构成,并临时地保存由中央控制部1、图像处理部5等处理的数据等。
摄像部3对被摄体进行摄像。具体地,摄像部3具备镜头部3a、电子摄像部3b、以及摄像控制部3c。
镜头部3a例如由变焦透镜、聚焦透镜等多个透镜构成。
电子摄像部3b例如由CCD(Charge Coupled Device:电荷耦合器件)、CMOS(Complementary Metal-Oxide Semiconductor:互补金属氧化物半导体)等图像传感器构成。而且,电子摄像部3b将通过了镜头部3a的各种透镜的光学像变换为二维的图像信号。
摄像控制部3c例如具备定时发生器、驱动器等。而且,摄像控制部3c通过定时发生器、驱动器对电子摄像部3b进行扫描驱动,使得电子摄像部3b每隔规定周期将通过了镜头部3a的光学像变换为二维的图像信号,从该电子摄像部3b的摄像区域一个画面一个画面地读出帧图像并输出到信号处理部4。
信号处理部4对从电子摄像部3b转发的帧图像的模拟值的信号实施各种图像信号处理。具体地,信号处理部4对从电子摄像部3b转发的帧图像的模拟值的信号按RGB的每个颜色成分适当地进行增益调整,然后用取样保持电路(省略图示)进行取样保持并用A/D变换器(省略图示)变换为数字数据,并通过彩色过程电路(省略图示)进行包括像素插补处理和γ修正处理的彩色过程处理,生成RGB数据。
此外,信号处理部4将生成的RGB数据输出到作为缓冲存储器使用的存储器2。
图像处理部5具备:图像获取部5a、平滑化部5b、第一图像生成部5c、区域确定部5d、锐化部5e、以及第二图像生成部5f。
另外,图像处理部5的各部分例如由规定的逻辑电路构成,但是该结构只是一个例子,并不限于此。
图像获取部5a获取眼睛强调处理(后面说明)的处理对象的图像。
即,图像获取部5a例如在由摄像部3对被摄体进行摄像时从存储器2获取由信号处理部4生成的静止图像的图像数据(RGB数据)。
平滑化部(平滑化单元)5b作为人的面部区域而对肤色区域实施平滑化处理。
即,平滑化部5b获取由图像获取部5a获取到的静止图像的图像数据的副本,并使用规定的平滑化滤波器(例如,双边滤波器等)进行该静止图像整体的各像素的像素值的加权平均,从而进行平滑化。由此,静止图像包含的人的面部区域也成为被进行了平滑化的状态。
第一图像生成部5c生成人的肤色区域被进行了平滑化的第一合成图像I1(参照图4D)。
即,第一图像生成部5c获取由平滑化部5b实施了平滑化处理的图像数据(RGB数据),并进行变换为亮度信号Y和色差信号Cb、Cr的显影处理,生成平滑化图像Ia(参照图4A)的YUV数据。然后,第一图像生成部5c对生成的平滑化图像Ia的图像数据实施检测肤色成分的肤色检测处理,生成将检测出的肤色成分用8位[0~255]的灰度表示的皮肤用α图Ma(参照图4B)。
在此,皮肤用α图Ma例如具有用8位[0~255]的灰度表示的像素值,通过该像素值来规定透过率。即,透过率(像素值)例如表示与皮肤用α图Ma对应的平滑化图像Ia的各像素的、对背景用图像Ib(参照图4C,后面说明)进行α混合时的权重。
另外,由于面部检测处理、肤色检测处理是公知的技术,因此在此省略详细的说明。此外,第一图像生成部5c也可以对平滑化图像Ia进行面部检测处理,并从检测出的面部区域内检测肤色成分。
此外,第一图像生成部5c获取由图像获取部5a获取到的静止图像的图像数据(RGB数据)的副本,并进行变换为亮度信号Y和色差信号Cb、Cr的显影处理,生成未被实施平滑化处理的背景用图像Ib(参照图4C)的YUV数据。然后,第一图像生成部5c使用规定了透过率的皮肤用α图Ma将平滑化图像Ia与背景用图像Ib进行合成,生成第一合成图像I1。
具体地,第一图像生成部5c例如对平滑化图像Ia的各像素进行如下的α混合,即,对于皮肤用α图Ma规定的透过率为“0”的像素,使其相对于背景用图像Ib进行透过,对于透过率为“255”的像素,用平滑化图像Ia所对应的像素的像素值来重写背景用图像Ib的像素,进而,对于透过率为“1”~“254”的像素,根据该透过率将平滑化图像Ia的像素的像素值与背景用图像Ib所对应的像素的像素值进行混合。
由于上述的α混合是公知的技术,因此在此省略详细的说明。此外,在图4D所示的第一合成图像I1中,用虚线示意性地表示由后面说明的区域确定部5d确定的眼睛区域E。
另外,皮肤用α图Ma的透过率例如也可以用二值来表示是否使平滑化图像Ia相对于背景用图像Ib进行透过。
此外,在由第一图像生成部5c进行的平滑化图像Ia、背景用图像Ib的显影处理中,例如可以进行强调边缘的锐化处理,但以比由后面说明的锐化部5e进行的锐化处理的处理强度要弱的处理强度来进行。
区域确定部(确定单元)5d在人的面部区域内确定包含眼睛的眼睛区域E。在此,用语“眼睛”至少包含用语“虹膜(iris)和/或瞳孔(pupil)”。
即,区域确定部5d获取由第一图像生成部5c生成的第一合成图像I1的图像数据的副本,并进行眼睛检测处理,分别确定左右两只眼睛的虹膜(黑眼球)的中心坐标。然后,区域确定部5d以确定出的各虹膜的中心坐标为基准而在纵向和横向上分别确定规定的像素数的范围来作为眼睛区域(特定的区域)E(参照图4D)。在此,眼睛区域E是由后面说明的锐化部5e实施用于减轻平滑化处理的效果的锐化处理的特定的区域。即,区域确定部5d在由第一图像生成部5c生成的第一合成图像I1的被实施了平滑化处理的人的面部区域内确定作为应实施锐化处理的特定的区域的眼睛区域E。
另外,由于眼睛检测处理是公知的技术,因此在此省略详细的说明。此外,区域确定部5d也可以对第一合成图像I1进行面部检测处理,并从检测出的面部区域内检测眼睛。
锐化部5e对眼睛区域E实施锐化处理。
即,锐化部5e对由区域确定部5d确定出的各眼睛区域E进行强调边缘的锐化处理。具体地,锐化部5e从第一合成图像I1之中切取由区域确定部5d确定出的各眼睛区域E并分别生成眼睛区域图像Ea(参照图5A)。然后,锐化部5e对生成的各眼睛区域图像Ea分别生成副本,并使用规定的大小的滤波器执行例如对眼睛的轮廓、黑眼球与白眼球的边界部分、睫毛等亮度、颜色急剧变化的部分(边缘)进行强调的锐化处理,从而分别生成各眼睛区域E的边缘被强调后的强调眼睛区域图像Eb(参照图5B)。在此使用的滤波器例如是将处理对象设为纵×横:17×17像素的区域的大小的滤波器,例如是能够将比在显影处理中使用的滤波器(例如,纵×横:5×5像素)更宽的范围作为处理对象的眼睛区域E专用的滤波器。另外,也可以使滤波器的大小本身与在显影处理中使用的滤波器的大小相同,并且使滤波器系数(加权)不同。
在该强调眼睛区域图像Eb中,成为对包含眼睛区域E的第一合成图像I1实施的平滑化处理的效果被减轻的状态。即,锐化部5e作为减轻处理单元,对于第一合成图像I1包含的眼睛区域E,作为用于减轻平滑化处理的效果的、与该平滑化处理不同的其它处理而实施强调边缘的锐化处理。
此外,锐化部5e也可以对由区域确定部5d确定出的左右眼睛区域E、E的每一个而根据光学像的对焦程度来使锐化处理的处理强度不同。
即,例如在人的面部朝向侧方或者从倾斜的角度进行摄影而使得到左右眼睛的距离不同等情况下,有时存在对焦的眼睛、未对焦的眼睛。在该情况下,锐化部5e例如可以使用左右眼睛区域E、E的对比度信息,相对于对焦的一方而使锐化处理的处理强度比未对焦的一方的锐化处理的处理强度相对更强。此时,锐化部5e可以根据由摄像部3得到的多域AF的结果利用到各眼睛区域E的距离,例如在左右眼睛均未对焦的情况下,可以算出对焦的部分与各眼睛的距离之差,并且使得距离之差越小,锐化处理的处理强度相对越强。
另外,虽然图5A和图5B以及后述的图5C和图5D是用于说明对第一合成图像I1内的人的右眼(在图4D中,面对的左侧的眼睛)的处理的图,但是对于左眼也进行大致同样的处理。
第二图像生成部5f生成眼睛区域E的边缘被强调后的第二合成图像I2(参照图6A)。
即,第二图像生成部5f例如获取保存在规定的保存单元(例如,存储器2等)中的眼睛用α图Mb(参照图5C)。
在此,眼睛用α图Mb例如具有用8位[0~255]的灰度表示的像素值,通过该像素值来规定透过率。即,透过率(像素值)例如表示与眼睛用α图Mb对应的强调眼睛区域图像Eb的各像素的、对眼睛区域图像Ea进行α混合时的权重。
此外,第二图像生成部5f进行使获取到的眼睛用α图Mb的大小、形状与强调眼睛区域图像Eb的大小、形状匹配的处理。具体地,第二图像生成部5f例如使眼睛用α图Mb的像素值(透过率)为“255”的像素所构成的区域的大小与强调眼睛区域图像Eb内的眼睛的大小大致一致。此外,第二图像生成部5f例如根据强调眼睛区域图像Eb的眼睛的纵横比使眼睛用α图Mb的像素值为“0”以外的像素所构成的区域的形状变形,使得从强调眼睛区域图像Eb内的眼睛的中心到周边,眼睛用α图Mb的像素值(透过率)减小。例如,在眼睛的形状为横向长的情况下,第二图像生成部5f设为将由像素值为“255”的像素构成的区域作为中心且像素值朝向端部减小的、横向长的椭圆形状的眼睛用α图Mb(参照图5C)。
在此,例如在静止图像内人的面部于侧倾(Roll)方向旋转的情况下,第二图像生成部5f可以确定连结从第一合成图像I1检测出的左右两只眼睛的虹膜(黑眼球)的中心坐标的直线的斜率,并配合确定出的线的斜率来调整眼睛用α图Mb的像素值为“0”以外的像素所构成的区域的方向(特别是,椭圆形的长轴的延伸方向等)。
另外,保存在规定的保存单元(例如,存储器2等)中的眼睛用α图Mb例如可以是大小与切取的眼睛区域E的大小对应的眼睛用α图Mb,也可以保存有在纵向和横向上被四等分后的任一者,并且在被第二图像生成部5f获取后展开,使得成为四倍的大小。此外,眼睛用α图Mb可以对左右两只眼睛共同使用,也可以使用左眼用、右眼用这样的各眼睛专用的α图。
进而,眼睛用α图Mb的透过率例如也可以用二值来表示是否使强调眼睛区域图像Eb相对于眼睛区域图像Ea进行透过。
并且,第二图像生成部5f使用规定了透过率的眼睛用α图Mb将由锐化部5e生成的各强调眼睛区域图像Eb分别与眼睛区域图像Ea进行合成,分别生成眼睛合成图像Ec(参照图5D)。
具体地,第二图像生成部5f例如对各强调眼睛区域图像Eb的各像素进行如下的α混合,即,对于眼睛用α图Mb规定的透过率为“0”的像素,使其相对于眼睛区域图像Ea进行透过,对于透过率为“255”的像素,用强调眼睛区域图像Eb所对应的像素的像素值来重写眼睛区域图像Ea的像素,进而,对于透过率为“1”~“254”的像素,根据该透过率将强调眼睛区域图像Eb的像素的像素值和眼睛区域图像Ea所对应的像素的像素值进行混合。由此,第二图像生成部5f生成使得用于减轻平滑化处理的效果的锐化处理的处理强度不同的眼睛合成图像Ec,即,生成锐化处理的处理强度从眼睛合成图像Ec内的眼睛的中心到周边而减弱的眼睛合成图像Ec。在此,第二图像生成部5f与锐化部5e一同构成减轻处理单元,该减轻处理单元对由区域确定部5d确定出的特定的区域实施用于减轻平滑化处理的效果的处理,使得处理强度从该特定的区域的中心到周边而减弱。
此后,第二图像生成部5f将生成的各眼睛合成图像Ec分别合成到第一合成图像I1所对应的各个位置,即,分别合成到第一合成图像I1内的各眼睛区域图像Ea被切取的位置,从而生成第二合成图像I2(参照图6A)。
显示部6将图像显示于显示面板6a的显示画面。
即,例如在静止图像、运动图像的摄影模式中,显示部6一边以规定的再生帧频对由摄像部3摄像被摄体而生成的多个帧图像依次进行更新,一边将实时取景图像显示于显示面板6a的显示画面。
另外,显示面板6a例如由液晶显示面板、有机EL(Electro-Lumines cence:电致发光)显示面板等构成,但这只是一个例子,并不限定于此。
图像记录部7例如由非易失性存储器(闪速存储器)等构成,对由图像处理部5以规定的压缩形式(例如,JPEG形式、MPEG形式等)编码后的静止图像、运动图像的记录用的图像数据进行记录。
另外,图像记录部7例如可以是如下结构,即,构成为可自由装卸记录介质(省略图示),控制从安装的记录介质读出数据、对记录介质写入数据。
操作输入部8用于进行该摄像装置100的规定操作。具体地,操作输入部8具备:被摄体的摄影指示涉及的快门按钮;摄影模式、再生模式、功能等的选择指示涉及的选择决定按钮;以及变焦量的调整指示涉及的变焦按钮等(均省略图示)。
而且,当由用户操作了各种按钮时,操作输入部8将与被操作的按钮对应的操作指示输出到中央控制部1。中央控制部1按照从操作输入部8输出而输入的操作指示使各部分执行规定的动作(例如,对被摄体进行摄影等)。
<眼睛强调处理>
接着,参照图2~图6D来说明由摄像装置100进行的眼睛强调处理。
图2和图3是示出眼睛强调处理涉及的动作的一个例子的流程图。此外,图4A~图6D是用于说明眼睛强调处理的图。
如图2所示,首先,基于由用户进行的操作输入部8的快门按钮的规定操作,摄像部3将摄像到被摄体的记录用的帧图像输出至信号处理部4,信号处理部4生成被摄体的静止图像的图像数据(RGB数据)并输出到存储器2(步骤S1)。然后,图像处理部5的图像获取部5a作为该眼睛强调处理的处理对象的图像从存储器2获取静止图像的图像数据(步骤S2)。
接着,平滑化部5b对由图像获取部5a获取到的静止图像的图像数据的副本进行平滑化处理,进行该静止图像整体的各像素的像素值的加权平均(步骤S3)。接下来,第一图像生成部5c获取由平滑化部5b实施了平滑化处理的图像数据(RGB数据),进行变换为亮度信号Y和色差信号Cb、Cr的显影处理,生成平滑化图像Ia(参照图4A)的YUV数据(步骤S4)。
此后,第一图像生成部5c对生成的平滑化图像Ia的图像数据实施肤色检测处理,生成将检测出的肤色成分用8位[0~255]的灰度表示的皮肤用α图Ma(参照图4B)(步骤S5)。
接着,第一图像生成部5c进行将由图像获取部5a获取到的静止图像的图像数据的副本变换为亮度信号Y和色差信号Cb、Cr的显影处理,生成未实施平滑化处理的背景用图像Ib(参照图4C)的YUV数据(步骤S6)。
接下来,第一图像生成部5c使用皮肤用α图Ma将平滑化图像Ia与背景用图像Ib进行合成(α混合),生成第一合成图像I1(参照图4D)(步骤S7)。
接着,区域确定部5d对第一合成图像I1进行眼睛检测处理,并确定左右眼睛区域E、E(步骤S8)。具体地,区域确定部5d对由第一图像生成部5c生成的第一合成图像I1的图像数据的副本进行眼睛检测处理,分别确定左右两只眼睛的虹膜的中心坐标,然后,以确定出的各虹膜的中心坐标为基准而在纵向和横向上分别确定规定的像素数的范围来作为眼睛区域E(参照图4D)。
接着,如图3所示,锐化部5e指定由区域确定部5d确定出的左右眼睛区域E、E中的任一个眼睛区域E(例如,与右眼对应的眼睛区域E等)(步骤S9)。
然后,锐化部5e从第一合成图像I1之中切取被指定出的眼睛区域E并生成眼睛区域图像Ea(参照图5A)(步骤S10)。接下来,锐化部5e对生成的眼睛区域图像Ea的副本进行例如强调眼睛的轮廓等亮度、颜色急剧变化的部分(边缘)的锐化处理,生成强调眼睛区域图像Eb(参照图5B)(步骤S11)。
接着,第二图像生成部5f例如从规定的保存单元(例如,存储器2等)获取眼睛用α图Mb(参照图5C),并配合强调眼睛区域图像Eb的大小、形状来调整所获取到的眼睛用α图Mb的大小、形状(步骤S12)。
接下来,第二图像生成部5f使用眼睛用α图Mb将由锐化部5e生成的强调眼睛区域图像Eb与眼睛区域图像Ea进行合成(α混合),生成眼睛合成图像Ec(参照图5D)(步骤S13)。
此后,第二图像生成部5f判定是否生成了左右双方的眼睛合成图像Ec(步骤S14)。
在此,当判定未生成左右双方的眼睛合成图像Ec时(步骤S14;否),锐化部5e指定左右眼睛区域E、E中的另一个眼睛区域E(例如,与左眼对应的眼睛区域E等)(步骤S15),并使处理返回到步骤S10。然后,关于被指定出的另一个眼睛区域E,与上述大致同样地进行步骤S10~S13的各处理,生成眼睛合成图像Ec。
当在步骤S14中判定生成了左右双方的眼睛合成图像Ec时(步骤S14;是),第二图像生成部5f将左右的眼睛合成图像Ec分别合成到第一合成图像I1内的各眼睛区域图像Ea被切取的位置,生成第二合成图像I2(参照图6A)(步骤S16)。
此后,图像处理部5以规定的压缩形式(例如,JPEG形式等)对由第二图像生成部5f生成的第二合成图像I2的图像数据进行编码,然后输出到图像记录部7,图像记录部7对输入的第二合成图像I2的图像数据进行记录(步骤S17)。
在此,参照图6B~图6D对眼睛强调处理的效果进行说明。
图6B是将图6A所示的第二合成图像I2中的用虚线围绕的矩形区域A放大示出的图。此外,图6C是将仅实施了平滑化处理的第一比较图像J1中的、与矩形区域A对应的部分放大示出的图。此外,图6D是将在平滑化处理前对图像整体实施了锐化处理的第二比较图像J2中的、与矩形区域A对应的部分放大示出的图。
如图6C所示,在第一比较图像J1中,因为未实施锐化处理,所以睫毛、眼睛的轮廓等也变得模糊,整体也成为印象模糊的图像。另一方面,如图6D所示,在第二比较图像J2中,除眼部周围以外,头发等面部区域的端部部分的边缘也被强调,成为感觉头发粗糙的不自然的图像。
相对于此,如图6B所示,在第二合成图像I2中,即便实施了平滑化处理,通过此后实施对眼睛区域E的边缘进行强调的锐化处理,从而也会强调睫毛、眼睛的轮廓等眼部周围的边缘,而且,关于眼睛区域E的周边部分,面部区域的肤色的部分被平滑化使得斑点、皱纹变得不明显,头发的部分成为边缘未被强调的更自然的图像。
另外,虽然在上述的眼睛强调处理中将左右双方的眼睛区域E、E作为处理对象,但是,例如在任一只眼睛被头发等覆盖或者人的面部朝向侧方而有一只眼睛看不到的情况下,也可以仅将包含露出的另一只眼睛的眼睛区域E作为处理对象。
如上所述,根据本实施方式的摄像装置100,对静止图像包含的人的面部区域实施平滑化处理,对人的面部区域内的眼睛区域(特定的区域)E实施用于减轻平滑化处理的效果的锐化处理,因此,关于人的面部区域内的眼睛区域E,不会产生例如睫毛、眼睛的轮廓等变模糊的情况,能够减轻伴随着平滑化处理在图像产生的弊端。
特别是,在实施了平滑化处理的人的面部区域内确定应实施用于减轻平滑化处理的效果的锐化处理的眼睛区域E,并对确定出的眼睛区域E实施锐化处理,从而能够更有效地减轻伴随着平滑化处理在图像产生的弊端。即,例如在先进行锐化处理的情况下,皱纹等会被强调,存在即使此后进行使皱纹不明显的平滑化处理也无法得到充分的效果的问题。此外,在对眼睛区域E进行遮挡处理而对眼睛区域E以外进行平滑化处理的情况下,无法强调睫毛、眼睛的轮廓等眼部周围的边缘,当此后进行锐化处理时,存在面部区域的端部部分(例如,头发等)的边缘会被强调之虞。
进而,在进行平滑化处理之后,作为与该平滑化处理不同的其它处理而进行用于减轻平滑化处理的效果的锐化处理,从而能够进行考虑平滑化处理的结果使锐化处理的内容不同的控制。具体地,能够考虑平滑化处理的结果使该锐化处理的处理强度增强或者减弱,与仅调整该平滑化处理的处理强度的情况相比,能够细致地调整平滑化处理的效果的减轻程度,能够更有效地减轻伴随着平滑化处理在图像产生的弊端。
此外,对在人的面部区域内确定出的眼睛区域(特定的区域)E实施锐化处理,使得处理强度从该眼睛区域E的中心到周边而减弱,从而能够使眼睛区域E的边缘的强调程度变得自然,能够作为不易使观赏者产生不协调感的表现方式。特别是,对确定出的多个眼睛区域E的每一个实施锐化处理,使得处理强度根据光学像的对焦程度而变得不同,从而能够使各眼睛区域E的边缘的强调程度更加自然。
另外,本发明不限定于上述实施方式,可以在不脱离本发明的宗旨的范围内进行各种改良以及设计的变更。
例如,虽然在上述实施方式中作为特定的区域而例示了包含眼睛的眼睛区域E,但这只是一个例子,并不限于此,能够适当地、任意地变更为包含鼻子的鼻部区域、包含口的口部区域等。在该情况下,可以对确定出的每个特定的区域而使得用于减轻平滑化处理的效果的处理的内容不同。即,例如,当以鼻部区域为例进行说明时,对于与眼睛的轮廓、黑眼球与白眼球的边界部分、睫毛等相比边缘不清楚的鼻梁等,优选使用如更低的低频成分被强调那样的大小、滤波器系数(加权)的滤波器来进行锐化处理。
此外,虽然在上述实施方式中作为用于减轻平滑化处理的效果的处理而例示了锐化处理,但这只是一个例子,并不限于此,只要是不同于平滑化处理的其它处理且能够减轻平滑化处理的效果的处理即可,能够适当地、任意地进行变更。
进而,虽然在上述实施方式中将平滑化图像Ia和背景用图像Ib进行合成来生成面部区域内的肤色的部分被平滑化的第一合成图像I1,但这只是一个例子,并不限于此,例如也可以仅对未实施平滑化处理的背景用图像Ib内的面部区域进行平滑化。
此外,虽然将由强调眼睛区域图像Eb与眼睛区域图像Ea合成而成的眼睛合成图像Ec合成到第一合成图像I1来生成第二合成图像I2,但这只是一个例子,并不限于此,例如,也可以将强调眼睛区域图像Eb合成到第一合成图像I1。
此外,虽然在上述实施方式中在对面部区域进行平滑化处理之后对眼睛区域E(特定的区域)进行了用于减轻平滑化处理的效果的处理(锐化处理),但这只是一个例子,并不限于此,例如,也可以对特定的区域实施用于减轻平滑化处理的效果的锐化处理,此后,对于针对特定的区域实施了用于减轻平滑化处理的效果的处理的人的面部区域,来实施平滑化处理。即,用于减轻平滑化处理的效果的处理可以对未被平滑化的特定的区域进行,也可以对被进行了平滑化的特定的区域进行。
此外,关于摄像装置100的结构,上述实施方式例示的只是一个例子,并不限于此。进而,虽然作为图像处理装置而例示了摄像装置100,但是不限于此,是否具备摄像功能可以适当地、任意地进行变更。
即,在不具备摄像功能的图像处理装置的情况下,图像获取部5a也可以从图像记录部7获取记录在图像记录部7中的静止图像的图像数据来作为眼睛强调处理的处理对象的图像。此时,对于左右眼睛区域E、E的每一个,可以根据光学像的对焦程度使锐化处理的处理强度不同,例如可以利用被建立了对应的到各眼睛区域E的距离来作为Exif(Exchangeable Image File Format:可交换图像文件格式)信息。
除此之外,虽然在上述实施方式中设为在中央控制部1的控制下平滑化部5b、区域确定部5d、锐化部5e进行驱动来实现作为平滑化单元、确定单元、减轻处理单元的功能的结构,但是不限于此,也可以设为通过由中央控制部1的CPU执行规定的程序等来实现的结构。
即,在程序存储器(省略图示)中记录包含平滑化处理程序、确定处理程序、减轻处理程序的程序。并且,可以通过平滑化处理程序使中央控制部1的CPU实现对图像包含的人的面部区域实施平滑化处理的功能。此外,可以通过确定处理程序使中央控制部1的CPU实现在人的面部区域内确定特定的区域的功能。此外,可以通过减轻处理程序使中央控制部1的CPU实现对确定出的特定的区域实施用于减轻平滑化处理的效果的处理的功能。
进而,作为保存了用于执行上述的各处理的程序的计算机可读取的介质,除了ROM、硬盘等以外,还能够应用闪速存储器等非易失性存储器、CD-ROM等移动式记录介质。此外,作为经由规定的通信线路来提供程序的数据的介质,可应用载波(carrier wave)。
对本发明的几个实施方式进行了说明,但是本发明的范围不限定于上述的实施方式,包括权利要求书记载的发明的范围和与其等同的范围。
Claims (10)
1.一种图像处理装置,其特征在于,具备处理器,
所述处理器:
对图像包含的人的面部区域实施平滑化处理;
在所述人的面部区域内确定特定的区域;
对确定出的所述特定的区域实施用于减轻平滑化处理的效果的处理。
2.根据权利要求1所述的图像处理装置,其特征在于,
所述处理器:
在实施了所述平滑化处理的人的面部区域内确定应实施用于减轻所述平滑化处理的效果的处理的特定的区域;
对确定出的所述特定的区域实施减轻所述平滑化处理的效果的处理。
3.根据权利要求1所述的图像处理装置,其特征在于,
所述处理器:
在所述平滑化处理之前对确定出的所述特定的区域实施用于减轻该平滑化处理的效果的处理;
对针对所述特定的区域实施了用于减轻所述平滑化处理的效果的处理的所述人的面部区域,来实施所述平滑化处理。
4.根据权利要求1所述的图像处理装置,其特征在于,
所述处理器将包含眼睛的区域确定为所述特定的区域。
5.根据权利要求1所述的图像处理装置,其特征在于,
所述处理器作为用于减轻所述平滑化处理的效果的处理而进行强调边缘的锐化处理。
6.根据权利要求1所述的图像处理装置,其特征在于,
所述处理器根据实施了所述平滑化处理的结果来进行使得用于减轻该平滑化处理的效果的处理的内容不同的控制。
7.根据权利要求6所述的图像处理装置,其特征在于,
所述处理器根据实施了所述平滑化处理的结果对确定出的所述特定的区域实施用于减轻所述平滑化处理的效果的处理,使得处理强度从该特定的区域的中心到端部而减弱。
8.根据权利要求6所述的图像处理装置,其特征在于,
在确定出的特定的区域为多个的情况下,所述处理器对该确定出的每个区域进行使得用于减轻所述平滑化处理的效果的处理的内容不同的控制。
9.根据权利要求8所述的图像处理装置,其特征在于,
对于确定出的多个所述特定的区域的每一个区域,所述处理器实施用于减轻所述平滑化处理的效果的处理,使得处理强度根据光学像的对焦程度而不同。
10.一种图像处理方法,使用了图像处理装置,所述图像处理方法的特征在于,包括:
对图像包含的人的面部区域实施平滑化处理的处理;
在所述人的面部区域内确定特定的区域的处理;以及
对确定出的特定的区域实施用于减轻平滑化处理的效果的处理的处理。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015234702A JP2017102642A (ja) | 2015-12-01 | 2015-12-01 | 画像処理装置、画像処理方法及びプログラム |
| JP2015-234702 | 2015-12-01 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN106815812A true CN106815812A (zh) | 2017-06-09 |
Family
ID=58777224
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201610906736.4A Pending CN106815812A (zh) | 2015-12-01 | 2016-10-18 | 图像处理装置以及图像处理方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20170154437A1 (zh) |
| JP (1) | JP2017102642A (zh) |
| CN (1) | CN106815812A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108391111A (zh) * | 2018-02-27 | 2018-08-10 | 深圳Tcl新技术有限公司 | 图像清晰度调节方法、显示装置及计算机可读存储介质 |
| CN109102467A (zh) * | 2017-06-21 | 2018-12-28 | 北京小米移动软件有限公司 | 图片处理的方法及装置 |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107798654B (zh) * | 2017-11-13 | 2022-04-26 | 北京小米移动软件有限公司 | 图像磨皮方法及装置、存储介质 |
| CN110276809A (zh) * | 2018-03-15 | 2019-09-24 | 深圳市紫石文化传播有限公司 | 用于人脸图像处理的方法和装置 |
| JP6908013B2 (ja) * | 2018-10-11 | 2021-07-21 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
| CN110796617B (zh) | 2019-10-24 | 2022-09-02 | 北京小米智能科技有限公司 | 面部图像的增强方法及装置、电子设备 |
| CN112634247B (zh) * | 2020-12-29 | 2022-04-12 | 浙江德源智能科技股份有限公司 | 基于图像分离的搬运对象识别方法及装置 |
| TWI835041B (zh) * | 2021-12-24 | 2024-03-11 | 瑞昱半導體股份有限公司 | 訊號處理裝置、連接裝置以及轉接線 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006019930A (ja) * | 2004-06-30 | 2006-01-19 | Canon Inc | 画像処理装置及び方法 |
| JP2006177937A (ja) * | 2004-11-26 | 2006-07-06 | Denso It Laboratory Inc | 距離計測装置及び距離計測方法 |
| CN1881234A (zh) * | 2005-06-14 | 2006-12-20 | 佳能株式会社 | 图像处理设备、图像处理方法、计算机程序和存储介质 |
| WO2012153661A1 (ja) * | 2011-05-06 | 2012-11-15 | シャープ株式会社 | 画像補正装置、画像補正表示装置、画像補正方法、プログラム、及び、記録媒体 |
| US20140341442A1 (en) * | 2013-05-14 | 2014-11-20 | Google Inc. | Image masks for face-related selection and processing in images |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000276591A (ja) * | 1999-03-23 | 2000-10-06 | Konica Corp | 画像処理方法及び画像処理装置 |
| JP2002074351A (ja) * | 2000-08-30 | 2002-03-15 | Minolta Co Ltd | 歪み補正装置およびその方法ならびに歪み補正プログラムを記録したコンピュータ読み取り可能な記録媒体 |
| JP4461789B2 (ja) * | 2003-03-20 | 2010-05-12 | オムロン株式会社 | 画像処理装置 |
| JP2005086516A (ja) * | 2003-09-09 | 2005-03-31 | Canon Inc | 撮像装置、印刷装置、画像処理装置およびプログラム |
| JP2005142891A (ja) * | 2003-11-07 | 2005-06-02 | Fujitsu Ltd | 画像処理方法及び画像処理装置 |
| JP2008219289A (ja) * | 2007-03-01 | 2008-09-18 | Sanyo Electric Co Ltd | 映像補正装置、映像表示装置、撮像装置および映像補正プログラム |
| JP4054360B1 (ja) * | 2007-03-30 | 2008-02-27 | 三菱電機株式会社 | 画像処理装置およびプログラム記録媒体 |
| WO2010070732A1 (ja) * | 2008-12-16 | 2010-06-24 | パイオニア株式会社 | 画像処理装置、表示装置、画像処理方法、そのプログラム、および、そのプログラムを記録した記録媒体 |
| JP6060552B2 (ja) * | 2012-08-02 | 2017-01-18 | 株式会社ニコン | 画像処理装置、撮像装置および画像処理プログラム |
| JP6414681B2 (ja) * | 2013-11-21 | 2018-10-31 | フリュー株式会社 | 写真シール作成装置、画像処理方法、およびプログラム |
| US9785860B2 (en) * | 2014-07-16 | 2017-10-10 | The Cleveland Clinic Foundation | Real-time image enhancement for X-ray imagers |
-
2015
- 2015-12-01 JP JP2015234702A patent/JP2017102642A/ja active Pending
-
2016
- 2016-09-28 US US15/278,850 patent/US20170154437A1/en not_active Abandoned
- 2016-10-18 CN CN201610906736.4A patent/CN106815812A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006019930A (ja) * | 2004-06-30 | 2006-01-19 | Canon Inc | 画像処理装置及び方法 |
| JP2006177937A (ja) * | 2004-11-26 | 2006-07-06 | Denso It Laboratory Inc | 距離計測装置及び距離計測方法 |
| CN1881234A (zh) * | 2005-06-14 | 2006-12-20 | 佳能株式会社 | 图像处理设备、图像处理方法、计算机程序和存储介质 |
| WO2012153661A1 (ja) * | 2011-05-06 | 2012-11-15 | シャープ株式会社 | 画像補正装置、画像補正表示装置、画像補正方法、プログラム、及び、記録媒体 |
| US20140341442A1 (en) * | 2013-05-14 | 2014-11-20 | Google Inc. | Image masks for face-related selection and processing in images |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109102467A (zh) * | 2017-06-21 | 2018-12-28 | 北京小米移动软件有限公司 | 图片处理的方法及装置 |
| CN108391111A (zh) * | 2018-02-27 | 2018-08-10 | 深圳Tcl新技术有限公司 | 图像清晰度调节方法、显示装置及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20170154437A1 (en) | 2017-06-01 |
| JP2017102642A (ja) | 2017-06-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106815812A (zh) | 图像处理装置以及图像处理方法 | |
| KR101446975B1 (ko) | 얼굴 검출 기능을 사용한 얼굴 및 피부의 자동 미화 | |
| US8520089B2 (en) | Eye beautification | |
| JP4752941B2 (ja) | 画像合成装置及びプログラム | |
| CN109639960B (zh) | 图像处理装置、图像处理方法及记录介质 | |
| US9135726B2 (en) | Image generation apparatus, image generation method, and recording medium | |
| JP2008234342A (ja) | 画像処理装置及び画像処理方法 | |
| CN108337450B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
| CN109639959B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
| CN107945106B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
| JP6859611B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP6432399B2 (ja) | 画像処理装置および画像処理方法 | |
| JP6904788B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| CN111526279B (zh) | 图像处理装置、图像处理方法和记录介质 | |
| CN104935805B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
| JP2019070870A (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP2018032442A (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP7279741B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| CN115222607B (zh) | 眼部图像的处理方法、装置、电子设备和存储介质 | |
| JP7015009B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP2021175036A (ja) | 画像処理装置及び方法、プログラム、記憶媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20170609 |
|
| WD01 | Invention patent application deemed withdrawn after publication |