[go: up one dir, main page]

CN109672810B - 图像处理设备、图像处理方法和存储介质 - Google Patents

图像处理设备、图像处理方法和存储介质 Download PDF

Info

Publication number
CN109672810B
CN109672810B CN201811209221.4A CN201811209221A CN109672810B CN 109672810 B CN109672810 B CN 109672810B CN 201811209221 A CN201811209221 A CN 201811209221A CN 109672810 B CN109672810 B CN 109672810B
Authority
CN
China
Prior art keywords
color saturation
level correction
saturation level
image
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811209221.4A
Other languages
English (en)
Other versions
CN109672810A (zh
Inventor
大森广崇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN109672810A publication Critical patent/CN109672810A/zh
Application granted granted Critical
Publication of CN109672810B publication Critical patent/CN109672810B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/066Adjustment of display parameters for control of contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

本发明提供一种图像处理设备、图像处理方法和存储介质。参数获得电路获得用于确定拍摄图像的颜色饱和度的调节程度的颜色饱和度参数。校正参数计算电路基于颜色饱和度参数和拍摄图像中所包括的像素的位置来计算用于确定饱和度水平校正处理的程度的颜色饱和度水平校正参数。校正处理电路根据颜色饱和度水平校正参数来对拍摄图像进行颜色饱和度水平校正处理。

Description

图像处理设备、图像处理方法和存储介质
技术领域
本发明涉及一种用于校正图像的颜色饱和度的技术。
背景技术
近年来,已经使用能够在大范围内进行监视和摄像的全方位照相机(例如,具有180度以上的水平和垂直视角的镜头的照相机)。在这种全方位照相机中,成像圈的外边缘的一部分包括在摄像元件的摄像范围内。因此,从全方位照相机的摄像元件输出的图像将在接收光的成像圈的区域和不接收光的区域之间具有边界。
此外,在由数字静态照相机、数字摄像机或监视照相机所拍摄的图像中,可以在视觉上识别被称为“条纹(fringe)”的色模糊。条纹是产生看起来好像轮廓部分被蓝色或紫色镶边的色模糊的现象。这在拍摄图像中包括具有大亮度差的轮廓的情况下发生。在(诸如由如上所述的全方位照相机所拍摄的图像的)图像在接收光的成像圈的区域和不接收光的成像圈的区域之间具有边界的情况下(也就是说,在颜色突然变化并且亮度值大的边界处),特别容易产生条纹。
条纹的产生是由摄像传感器、透镜和图像处理操作等引起的,并且一般提出了用于解决该问题的各种方法。例如,日本特开2003-60983公开了用于预先测量透镜的特性、将校正数据存储在存储器中并且在摄像时使用校正数据执行校正处理的方法。此外,日本特开2011-211329公开了用于多次进行摄像以在不同摄像条件下获得不同图像并合成这些图像以校正条纹的方法。
然而,在如日本特开2003-60983中公开的用于测量透镜的特性并在存储器中存储用于色模糊的校正数据的方法中,设备的存储容量需求增加并且调节处理的次数增加。因此,设备的结构变得复杂,并且难以精确地校正透镜的所有不利影响。此外,在日本特开2011-211329公开的技术中,尽管不需要预先存储用于色模糊的校正数据,但是要求进行至少两次摄像,因此处理量增加。因此,迄今为止,针对条纹的解决方案导致了存储需求的增加和/或处理需求的增加。
发明内容
根据本发明的一个方面,一种图像处理设备,包括:获得单元,其被配置为获得用于确定拍摄图像的颜色饱和度的调节程度的颜色饱和度参数;计算单元,其被配置为基于所述颜色饱和度参数和所述拍摄图像中所包括的像素的位置,来计算用于确定颜色饱和度水平校正处理的程度的颜色饱和度水平校正参数;以及处理单元,其被配置为根据所述颜色饱和度水平校正参数来对所述拍摄图像进行所述颜色饱和度水平校正处理,其中,在所述拍摄图像中,成像圈的外边缘的至少一部分包括在摄像元件的摄像范围的内部,以及所述计算单元被配置为计算颜色饱和度水平校正参数,该颜色饱和度水平校正参数针对接收向着所述摄像元件的光的区域,能够用于随着所述像素的位置与所述摄像元件的摄像面的中心的分离而降低所述颜色饱和度水平校正处理的程度。
根据本发明的另一方面,一种图像处理方法,包括:获得用于确定拍摄图像的颜色饱和度的调节程度的颜色饱和度参数;基于所述颜色饱和度参数和所述拍摄图像中所包括的像素的位置来计算用于确定颜色饱和度水平校正处理的程度的颜色饱和度水平校正参数;以及根据所述颜色饱和度水平校正参数来对所述拍摄图像进行所述颜色饱和度水平校正处理,其中,所述拍摄图像中,成像圈的外边缘的至少一部分包括在摄像元件的摄像范围的内部,以及针对接收向着所述摄像元件的光的区域,所述颜色饱和度水平校正参数能够用于随着所述像素的位置与所述摄像元件的摄像面的中心的分离而降低所述颜色饱和度水平校正处理的程度。
根据本发明的又一方面,一种计算机可读存储介质,其存储程序,所述程序用于使计算机执行上述的图像处理方法。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。以下所述的本发明的各实施例可以单独实现,或者作为多个实施例的组合实现。此外,可以根据需要或者在来自各个实施例的元素或特征组合在一个实施例中是有益的情况下,对来自不同实施例的特征进行组合。
附图说明
图1是示意性地示出根据实施例的摄像系统的结构的示例的图。
图2是示意性地示出根据实施例的摄像设备的内部结构的示例的图。
图3是示出图像处理电路的结构的示例的框图。
图4是示出显像处理电路的结构的示例的框图。
图5是示出颜色饱和度水平校正处理电路的结构的示例的框图。
图6是根据第一实施例的颜色饱和度水平校正参数的计算的流程图。
图7是示出摄像元件、成像圈和要进行颜色饱和度水平校正处理的像素之间的关系的图。
图8是颜色饱和度水平校正参数与像高位置之间的关系的图。
图9是示出颜色饱和度水平校正参数和像高位置的多个变化点的图。
图10是根据第二实施例的颜色饱和度水平校正参数的计算的流程图。
图11A和11B是示出根据第二实施例的在添加颜色成分时的颜色饱和度水平校正的图。
图12是示出使用全方位图像来生成全景图像的示例的图。
图13是根据第三实施例的颜色饱和度水平校正参数的计算的流程图。
图14A和14B是示出根据第三实施例的在添加显示模式时的颜色饱和度水平校正的图。
具体实施方式
在下文中,将参考附图详细描述本发明的优选实施例。
图1是示意性地示出根据本实施例的摄像系统的结构的示例的图。
图1所示的摄像系统包括:监视照相机101,其用作用于进行运动图像的拍摄和根据本实施例的图像处理的图像处理设备;以及客户端设备102,其通过IP网络以可通信的方式连接到监视照相机101。客户端设备102例如包括个人计算机和显示装置。尽管在本实施例中描述了监视照相机101具有图像处理设备的功能的情况作为示例,但是根据本实施例的图像处理可以由客户端设备102进行。此外,在本实施例中,假设监视照相机101是能够在观察大范围的同时进行监视和摄像的(包括具有180度以上的水平和垂直视角的镜头的)全方位照相机。尽管在本实施例中描述了包括监视照相机101和客户端设备102的系统作为示例,但是该系统可以包括摄像时由用户保持的全方位数字静态照相机、摄像机或智能电话。此外,镜头的视角可以不是180度以上。如果在从摄像元件输出的图像中包括接收光的成像圈的区域和不接收光的成像圈的区域之间的边界,则该系统至少包括与小于180度的角度相对应的广角镜头。
图2是示意性地示出根据本实施例的监视照相机101的内部结构的示例的图。
包括变焦透镜、调焦透镜、模糊校正透镜、光圈和快门的摄像光学系统201收集从被摄体等发出的光,并在摄像传感器202的摄像元件的摄像面(传感器面)上形成被摄体等的光学图像。在本实施例中,摄像光学系统201具有水平和垂直视角为180度以上的镜头。摄像传感器202包括用于将摄像光学系统201在摄像面上形成的光学图像转换成电流值的摄像元件。由于在摄像元件的摄像面上设置有滤色器,因此摄像传感器202还获得R、G和B的颜色信息。此外,摄像传感器202能够针对摄像元件的所有像素设置任意曝光时间。
中央处理单元(CPU)203进行对各种组件的处理和整体控制。CPU 203连续读取和解释存储在只读存储器(ROM)204或随机存取存储器(RAM)205中的指示,并根据解释结果来进行各种处理和控制。摄像系统控制电路206在CPU 203的控制下对摄像光学系统201进行包括调焦控制、快门打开/关闭控制和光圈调节控制的各种摄像控制。控制电路207根据客户端设备102发出的指示进行控制。模拟/数字(A/D)转换电路208将从摄像传感器202提供的摄像信号转换为数字信号的图像数据。图像处理电路209对从A/D转换电路208提供的图像数据进行根据本实施例的图像处理,并且下面将说明处理的详细描述。编码器210进行用于将在图像处理电路209所进行的图像处理之后获得的图像数据转换为所谓的MotionJpeg或H264的文件格式的转换处理(编码处理)。将经过编码器210所进行的编码处理的图像数据输出到例如客户端设备102。
图3是示意性地示出根据本实施例的图像处理电路209的内部结构的示例的框图。图像输入电路301获得已经由上述摄像传感器202获得并且已经过A/D转换电路208进行的数字转换的图像数据。预处理电路302进行由摄像传感器202引起的固定模式噪声的去除和诸如校正由透镜引起的像差等的校正处理。显像处理电路303对已经过预处理电路302进行的校正处理的图像数据进行显像处理。后处理电路304使用空间方向上的NR滤波器和时间方向上的NR滤波器来对已经过显像处理电路303进行的显像处理的图像进行滤波,以进行用于降低随机生成的噪声的处理。图像输出电路305将从后处理电路304提供的图像数据输出到图1的编码器210。注意,预处理电路302、后处理电路304和图像输出电路305仅是照相机组件的一般示例,并且在本发明中可以不需要。
图4是示出显像处理电路303的内部结构的示例的框图。
显像处理电路303包括去马赛克处理电路401、白平衡处理电路402、颜色饱和度水平校正处理电路403和伽玛处理电路404。去马赛克处理电路401对从预处理电路302提供的图像数据进行去马赛克处理。如果输入图像数据具有拜尔阵列,则可能无法计算各个像素的颜色饱和度。因此,可以通过去马赛克处理利用所有颜色成分对各个像素进行插值来计算各个像素的颜色饱和度。白平衡处理电路402对已经过去马赛克处理的图像数据进行白平衡处理。尽管在下文中将详细描述颜色饱和度水平校正处理电路403,但是颜色饱和度水平校正处理电路403进行颜色饱和度差异水平校正处理以抑制色模糊。伽玛处理电路404对从颜色饱和度水平校正处理电路403提供的图像数据进行伽玛处理。此后,将从伽玛处理电路404输出的图像数据提供给图3的后处理电路304。
颜色饱和度水平校正处理
在下文中,将描述根据第一实施例的颜色饱和度水平校正处理电路403的结构和颜色饱和度水平校正处理。颜色饱和度水平校正处理电路403是所有实施例的结构中的最重要特征,并且其它电路可以用任何设备代替。例如,在全方位照相机的内部进行直到白平衡处理为止的处理,并且包括颜色饱和度水平校正处理电路403的平板个人计算机(PC)或边缘计算机接收已经过白平衡处理的图像。在将平板PC或边缘计算机中所包括的颜色饱和度水平校正处理电路403处理后的图像数据传送到云的情况下,平板PC或边缘计算机对应于本发明的图像处理设备。
图5是示意性地示出根据第一实施例的颜色饱和度水平校正处理电路403的结构的示例的图。根据第一实施例的颜色饱和度水平校正处理电路403对运动图像信号的各帧的图像进行颜色饱和度水平校正。颜色饱和度水平校正处理电路403包括输入信号获得电路501、参数获得电路502、校正参数计算电路503和校正处理电路504。
图6是根据第一实施例的颜色饱和度水平校正处理电路403执行的颜色饱和度水平校正处理的流程图。在下文中,将参考图6的流程图来描述根据第一实施例的颜色饱和度水平校正处理的流程。在下面的描述中,将图6的流程图的处理中的处理步骤S601至S604简称为S601至S604。可以通过硬件结构来执行图6的流程图中的处理,或者可以通过软件结构来实现处理的一部分,并且可以通过硬件结构来实现剩余部分。在通过软件结构来执行处理的情况下,例如在CPU 203等执行存储在ROM 204中的根据本实施例的图像处理的程序的情况下实现处理。根据本实施例的程序可以预先设置在ROM 204中,从可拆卸的半导体存储器等读取,或者从未示出的诸如因特网等的网络下载。这同样适用于下面描述的其它流程图。
在S601中,输入信号获得电路501获得根据本实施例的作为全方位照相机的监视照相机101拍摄的运动图像信号中的帧的图像(下文中称为“全方位图像”)。诸如RAM等的输入信号获得电路501接收图像数据,临时存储图像数据,并将图像数据输出到参数获得电路502。输入信号获得电路501可以用外部接收图像数据的输入端子代替。
在S602中,参数获得电路502获得用于确定输入图像的颜色饱和度(颜色浓度)的强调程度的颜色饱和度参数(下文中称为“颜色饱和度强调处理参数”)。例如,在监视照相机的情况下,用户通过客户端设备102输入指示以调节颜色饱和度的强调程度。在下文中,将用于调节颜色饱和度的处理称为“颜色饱和度水平校正处理”。具体地,例如,可以由用户选择的颜色饱和度水平校正处理的调节范围在0到100的范围内,并且如果用户指定颜色饱和度水平校正处理的与“50”相对应的程度,则参数获得电路502获得值“50”作为颜色饱和度强调处理参数。注意,值“50”是作为颜色饱和度强调处理参数的标准值,并且与用户未发出任何指定时默认设置的颜色饱和度水平相同。注意,如果采用诸如数字静态照相机或摄像机等的全方位照相机来代替监视照相机,则可以根据用户设置的或者在分析场景后自动设置的摄像模式来获得颜色饱和度强调处理参数。
随后,在S603中,校正参数计算电路503基于颜色饱和度强调处理参数和拍摄图像中的像素的位置来计算颜色饱和度水平校正参数。
当计算出颜色饱和度水平校正参数时,获得拍摄图像中的像素的位置作为表示距拍摄图像的摄像面的中心的距离的像高或者坐标位置。如果可靠地指定了成像圈的中心,则可以获得距成像圈的中心的距离作为像素的位置。颜色饱和度水平校正参数与用于校正基于镜头特性的像差的校正参数不同,并且独立于用于校正像差的参数而设置。根据本实施例的颜色饱和度水平校正参数不用于校正像差,而是用于强调图像的锐度,因此,不考虑与成像圈的外边缘有关的信息之外的镜头特性。此后,在S604中,校正处理电路504对输入信号获得电路501获得的拍摄图像执行根据S603中计算的颜色饱和度水平校正参数的颜色饱和度水平校正处理。具体地,如果图像数据包括R、G和B的颜色成分,则校正处理电路504通过校正R和B的信号电平来进行颜色饱和度水平校正处理,使得R的信号电平与G的信号电平之间的差以及B的信号电平和G的信号电平之间的差发生改变。可选地,校正处理电路504可以通过在图像数据中将亮度成分和色差成分彼此分离并校正色差成分的信号电平以使得色差成分的信号电平的绝对值发生改变,来执行颜色饱和度水平校正处理。
在下文中,将参考图7至9以及下面的表达式(1)和(2)来详细描述在S603中进行的颜色饱和度水平校正参数的计算处理。
图7是示意性地示出摄像传感器202中包括的摄像元件的摄像范围700和由摄像光学系统201形成的成像圈701的图。这里,要经过颜色饱和度水平校正处理的目标像素702的坐标位置由(x,y)表示,摄像元件的摄像面的中心(下文中称为画面中心703)的坐标位置由(X,Y)表示,并且从成像圈701的中心到外边缘的距离由R表示。注意,画面中心703与成像圈701的中心一致,并且在监视照相机101或客户端设备102中预先提供成像圈701的中心的位置信息(画面中心703的位置信息)和与距离R有关的信息。在监视照相机101存储成像圈701的中心的位置信息和与距离R有关的信息的情况下,将该信息从监视照相机101发送到客户端设备102。在这种情况下,根据下面的表达式(1)来计算表示从画面中心703到目标像素702的距离的像高指标M(x,y)。
M(x,y)={(X-x)2+(Y-y)2}/R2 表达式(1)
进行如下假设:例如在像高指标M(x,y)是0.0至1.0范围内的值的情况下,目标像素702包括在成像圈701中。另一方面,进行如下假设:例如在像高指标M(x,y)是大于1.0的范围内的值的情况下,目标像素702在成像圈701之外。
此外,将针对坐标位置(x,y)的目标像素702的颜色饱和度水平校正参数表示为校正参数N(x,y)。这里假设颜色饱和度水平校正处理的调节范围在0到100的范围内,并且S602中获得的颜色饱和度强调处理参数是50。在这种情况下,可以使用表达式(1)所计算出的表示距画面中心703的距离的像高指标M(x,y),根据下面的表达式(2)来计算校正参数N(x,y)。
Figure BDA0001832002190000091
图8是示出由表达式(1)表示的像高指标M(x,y)与由实线800表示的校正参数N(x,y)之间的关系的示例的图。在图8中,纵轴表示校正参数N,以及横轴表示像高指标M。如图8中的实线800所示,校正参数N(x,y)被设置为颜色饱和度水平随着位置更靠近成像圈的外边缘而降低。在成像圈的中心部拍摄用户的监视目标的可能性高,因此,颜色饱和度水平校正处理的程度与用户确定的颜色饱和度强调处理参数一致。在图8的示例的情况下,随着位置更靠近成像圈的中心部,校正参数N(x,y)的值更接近颜色饱和度强调处理参数的50。因此,在校正处理电路504中执行使用校正参数N(x,y)的颜色饱和度水平校正处理的情况下,随着位置更靠近成像圈的外边缘,颜色饱和度水平降低。因此,与在外边缘中执行颜色饱和度水平处理之前所获得的颜色饱和度相比,颜色饱和度水平降低,并且条纹的颜色从蓝色或紫色变为非彩色,使得色模糊得到抑制(变得不显著)。另一方面,在图8中,校正参数N(x,y)被设置为使得在位于成像圈外部并且不接收光的区域(像高指标M大于1.0的区域)内,在S604中颜色饱和度水平变为0。可选地,校正处理电路504可以仅对摄像元件中的接收光的区域执行颜色饱和度水平校正处理,并且可以不对不接收光的区域执行颜色饱和度水平校正处理。
注意,校正参数N不限于根据表达式(1)和(2)所计算出的值,并且例如可以采用如下方法:在如图9的实线900所示那样设置多个变化点901的情况下,平滑地计算校正参数N的变化。在图9中,与图8的情况相同,纵轴表示校正参数N,以及横轴表示像高指标M。此外,校正参数N不限于颜色饱和度水平校正处理的程度,并且可以采用诸如针对颜色成分的增益等的校正参数。
在第一实施例中,由于如上所述那样设置校正参数N,因此可以在中心部中实现用户期望的颜色饱和度的同时,抑制成像圈的外边缘中的条纹的产生。具体地,在根据本实施例的颜色饱和度水平校正处理电路403中,可以对运动图像的图像数据进行上述图6中的S601至S604的处理,因此,可以以简单结构和小的处理量来抑制输入图像中的色模糊的产生。
尽管在第一实施例中在监视照相机101中执行颜色饱和度水平校正处理,但是要经过颜色饱和度水平校正处理的对象不受限制。在使用鱼眼镜头的情况下,在成像圈的外边缘的部分包括在摄像元件的摄像范围内部的广角镜头的情况下,或在图像的四个角产生渐晕的情况下,也可以执行相同的处理。
第二实施例的颜色饱和度水平校正处理
在上述第一实施例中,在图6的S603中描述了由校正参数计算电路503执行的用于根据颜色饱和度强调处理参数和像素的位置(像高或坐标)来计算颜色饱和度水平校正处理参数的方法。在下面的第二实施例中,校正参数计算电路503除了颜色饱和度强调处理参数和像素的位置之外,还考虑与颜色成分有关的信息来计算颜色饱和度水平校正参数。注意,与第二实施例中的图像处理相关联的结构与第一实施例的结构相同,因此省略其图示和描述。将与第一实施例的附图标记相同的附图标记分配给第二实施例中的与第一实施例的组件相同的组件,并且省略其描述。
图10是根据第二实施例的校正参数计算电路503进行的颜色饱和度水平校正处理中的参数计算处理的流程图。在下文中,将参考图10的流程图来描述根据第二实施例的颜色饱和度水平校正处理的流程。
在S1001中,为了获得颜色成分,如下面的表达式(3)所示,校正参数计算电路503将输入信号的R、G和B值转换为亮度(Y)成分和颜色(UV)成分。
Y(x,y)=0.299×R(x,y)+0.587×G(x,y)+0.114×B(x,y)
U(x,y)=-0.169×R(x,y)-0.331×G(x,y)+0.500×B(x,y)
V(x,y)=0.500×R(x,y)-0.419×G(x,y)-0.081×B(x,y) 表达式(3)
这里,表达式(3)中的R(x,y)、G(x,y)和B(x,y)分别表示坐标位置(x,y)中的R、G和B的信号电平,并且Y(x,y)、U(x,y)和V(x,y)分别表示Y、U和V的信号电平。注意,颜色信号不限于根据表达式(3)所计算出的值,并且可以采用通过Lab转换所获得的a和b值、或者通过YCbCr转换所获得的Cb和Cr值。
随后,在S1002中,校正参数计算电路503获得从成像圈的外边缘到画面中心的各个像高的U和V成分的值,并将所获得的值归一化为0.0到1.0范围内的值。通过归一化U和V成分的值而获得的值被称为“UV强度O(x,y)”。
此外,在S1003中,校正参数计算电路503使用根据表达式(1)获得的像高指标M(x,y)、颜色饱和度强调处理参数L和S1002中所获得的UV强度O(x,y),根据表达式(4)来计算校正参数N(x,y)。
Figure BDA0001832002190000111
图11A和11B是示出在根据表达式(4)计算校正参数N的情况下的UV强度O、像高指标M和校正参数N之间的关系的图。图11A是示出摄像元件的摄像范围1100和成像圈1101的图。假设如图11A所示,在成像圈1101中,具有高U和V成分的大量被摄体分布在包括画面中心的区域C1(大UV强度O的区域)中,并且大量的非彩色被摄体分布在中间位置的区域C2(小UV强度O的区域)中。另一方面,具有高U和V成分的相对大量的被摄体分布在成像圈1101的外边缘部分的区域C3中。图11B是示出根据第二实施例的由实线1111表示的像高指标M和校正参数N之间的关系的示例的图。与上述图8的情况相同,纵轴表示校正参数N,以及横轴表示像高指标M。
如图11A和11B所示,在包括诸如区域C1和C3等的大量颜色成分(大U和V成分)的区域中,使用颜色饱和度水平校正参数的颜色饱和度水平校正处理的强度的变化是缓和的。例如,在画面中心的包括大量U和V成分(大UV强度O)的区域C1中,通过减小颜色饱和度水平校正参数的变化来减小颜色饱和度的变化。此外,在相对大量的U和V成分分布在成像圈的外边缘的区域C3中,通过减小颜色饱和度水平校正参数的变化来抑制颜色饱和度的不均匀。另一方面,在中间位置的作为几乎非彩色区域的区域C2中,通过显著改变颜色饱和度水平校正参数来增加颜色饱和度的变化。
以这种方式,根据第二实施例,在考虑UV强度O(x,y)的情况下计算颜色饱和度水平校正处理参数,使得即使在不同的像高位置处以不同的强度进行颜色饱和度水平校正处理的情况下也可以缓和各个像高中的颜色饱和度之间的差异。
此外,校正参数N不限于根据表达式(4)获得的值,并且例如可以采用根据表达式(5)来计算校正参数N的方法。
Figure BDA0001832002190000121
在根据表达式(5)获得颜色饱和度水平校正参数的情况下,即使当对成像圈的外边缘中的颜色成分大的被摄体执行颜色饱和度水平校正处理时,也可以实现用户所期望的颜色饱和度。注意,可以采用用于通过根据像高位置将使用表达式(4)和表达式(5)的方法相互组合来计算颜色饱和度水平校正参数的方法。
如上所述,根据第二实施例,可以在抑制由颜色饱和度水平校正处理引起的不同像高的颜色饱和度之间的差异的同时,抑制在成像圈的外边缘中产生色模糊。
第三实施例中的颜色饱和度水平校正处理
在第三实施例中,将描述校正参数计算电路503除了颜色饱和度强调处理参数和像素的像高或坐标之外还考虑显示模式来计算颜色饱和度水平校正参数的情况作为示例。注意,与第三实施例中的图像处理相关联的结构与第一实施例的结构相同,因此省略其图示和描述。将与第一实施例的附图标记相同的附图标记分配给第三实施例中的与第一实施例的组件相同的组件,并且省略其描述。
这里,在根据本实施例的摄像系统中,用户可以任意地设置用于在客户端设备102的显示设备中显示图像的显示方法。例如,当用户从多个显示模式中选择期望的显示模式时,设置显示方法。作为显示模式,可以采用如下模式(全景模式):通过用户在由全方位照相机拍摄的图像中指定任意区域并且对具有失真的全方位图像进行失真校正来显示全景图像,从而使得显示全景图像。
图12是示出摄像元件的摄像范围1200和成像圈1201的图。成像圈1201的全方位图像可以被划分为以全景模式显示的区域P1和没有以全景模式显示的区域P2。在以全景模式进行显示的情况下,从成像圈1201的全方位图像中提取区域P1中的图像,并且在显示全景图像1210之前对图像进行失真校正。如图12所示,在用户期望显示全景图像的情况下,例如,在排除全方位图像的中心部分的情况下使用区域P1来生成全景图像1210。这里,如图12所示,由于成像圈1201的部分区域没有以全景模式显示,因此颜色饱和度水平校正处理的效果没有反映在例如用户监视的图像中的特定区域上。具体地,由于根据显示模式在特定区域上没有反映颜色饱和度水平校正处理的效果,因此在根据第三实施例的校正参数计算处理中计算与显示模式相对应的颜色饱和度水平校正参数。
图13是根据第三实施例的校正参数的计算的流程图。在下文中,将参考图13的流程图来描述根据第三实施例的颜色饱和度水平校正处理的流程。
在S1301中,校正参数计算电路503获得例如用户通过客户端设备102所选择的显示模式。
随后,在S1302中,校正参数计算电路503基于根据表达式(1)获得的像高指标M(x,y)、颜色饱和度强调处理参数L、以及S1301中所获得的显示模式来计算颜色饱和度水平校正参数。
图14A和图14B是示出根据第三实施例的在选择全景模式作为显示模式的情况下像高指标M与颜色饱和度水平校正参数(校正参数N)之间的关系的图。图14A是示出摄像元件的摄像范围1400和成像圈1401的图。如图14A所示,在成像圈1401中,没有以全景模式显示包括画面中心的区域P2,而以全景模式显示其它区域P1。图14B是示出根据第三实施例的由实线1411表示的像高指标M和校正参数N之间的关系的示例的图。与上述图8的情况相同,纵轴表示校正参数N,以及横轴表示像高指标M。
在第三实施例中,如图14A和14B所示,在没有以全景模式显示的区域P2中,设置与通过颜色饱和度强调处理参数所获得的值等效的饱和度水平校正参数。此外,在成像圈1401中,在除了区域P2之外的以全景模式显示的区域P1中,与根据第一实施例的图8的情况相同,颜色饱和度水平校正参数被设置为使得颜色饱和度水平校正处理的程度根据像高指标M而逐渐减小。
如上所述,根据第三实施例,可以根据用户通过计算适合于显示模式的颜色饱和度水平校正处理参数而选择的显示模式来适当地执行颜色饱和度水平校正处理。
注意,尽管在第三实施例中描述了除了第一实施例中描述的颜色饱和度强调处理参数和像素的位置(像高或坐标)之外、还使用与显示模式有关的信息来计算颜色饱和度水平校正处理参数的情况作为示例,但是也可以使用第二实施例中描述的与颜色成分有关的信息来附加地计算颜色饱和度水平校正处理参数。
如上所述,根据第一实施例至第三实施例,对成像圈(成像范围)的外边缘的一部分包括在摄像元件的摄像范围内的图像适当地进行颜色饱和度水平校正处理,以使得抑制色模糊的产生。根据第一实施例至第三实施例,可以在能够拍摄全方位图像的监视照相机中,实现用于抑制拍摄图像中的色模糊的产生(特别是在成像圈的外边缘区域中的条纹的产生)的颜色饱和度水平校正处理。
其它实施例
本实施例的图像处理设备不限于监视照相机。本实施例的图像处理设备适用于包括能够在大视角范围内拍摄图像的数字静态照相机、数字摄像机以及具有照相机功能的智能电话和平板终端的各种移动终端,并且还适用于工业照相机、车载照相机和医疗照相机等。
本发明可以通过以下处理来实现:通过网络或存储介质向系统或设备提供实现前述实施例中的至少一个功能的程序,并且通过包括在系统或设备的计算机中的至少一个处理器读取和执行该程序。此外,本发明可以通过实现至少一个功能的电路(专用集成电路(ASIC))来实现。
前述实施例仅是用于实施本发明的具体示例,并且本发明的技术范围不受这些实施例的限制。具体地,在不脱离本发明的范围和主要特征的情况下,本发明可以以各种形式实现。
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不局限于所公开的典型实施例。

Claims (7)

1.一种图像处理设备,包括:
获得单元,其被配置为获得用于确定全方位拍摄图像的成像圈的内部的颜色饱和度的参数;
计算单元,其被配置为基于所述参数和所述成像圈中所包括的像素的位置来计算颜色饱和度水平校正参数,所述颜色饱和度水平校正参数用于确定颜色饱和度水平校正处理对颜色饱和度的降低程度;以及
处理单元,其被配置为进行所述颜色饱和度水平校正处理,以将所述全方位拍摄图像的颜色饱和度降低至与所述颜色饱和度水平校正参数相对应的颜色饱和度,
其中,所述全方位拍摄图像是所述成像圈的外边缘的至少一部分包括在摄像元件的摄像范围的内部的图像,以及
所述计算单元被配置为计算能够用于降低像素的颜色饱和度以使得位于相对靠近所述成像圈的内部的外边缘的位置处的像素比位于相对靠近所述成像圈的内部的中心的位置处的像素减少得更多的颜色饱和度水平校正参数。
2.根据权利要求1所述的图像处理设备,其中,所述计算单元被配置为计算具有多个变化点的颜色饱和度水平校正参数。
3.根据权利要求1所述的图像处理设备,其中,所述计算单元被配置为计算针对所述摄像元件的没有接收光的区域不执行所述颜色饱和度水平校正处理的颜色饱和度水平校正参数。
4.根据权利要求1所述的图像处理设备,其中,所述计算单元被配置为除了使用所述参数和所述像素的位置之外,还使用所述全方位拍摄图像中的颜色成分的量来计算所述颜色饱和度水平校正参数。
5.根据权利要求1所述的图像处理设备,其中,所述计算单元被配置为除了使用所述参数和所述像素的位置之外,还使用与在以全景视角显示图像时所采用的显示方法有关的信息来计算所述颜色饱和度水平校正参数。
6.一种图像处理方法,包括:
获得用于确定全方位拍摄图像的成像圈的内部的颜色饱和度的参数;
基于所述参数和所述成像圈中所包括的像素的位置来计算颜色饱和度水平校正参数,所述颜色饱和度水平校正参数用于确定颜色饱和度水平校正处理对颜色饱和度的降低程度;以及
进行所述颜色饱和度水平校正处理,以将所述全方位拍摄图像的颜色饱和度降低至与所述颜色饱和度水平校正参数相对应的颜色饱和度,
其中,所述全方位拍摄图像是所述成像圈的外边缘的至少一部分包括在摄像元件的摄像范围的内部的图像,以及
在所述计算中,计算能够用于降低像素的颜色饱和度以使得位于相对靠近所述成像圈的内部的外边缘的位置处的像素比位于相对靠近所述成像圈的内部的中心的位置处的像素减少得更多的颜色饱和度水平校正参数。
7.一种计算机可读存储介质,其存储程序,所述程序用于使计算机执行根据权利要求6的图像处理方法。
CN201811209221.4A 2017-10-17 2018-10-17 图像处理设备、图像处理方法和存储介质 Active CN109672810B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017201144A JP7051365B2 (ja) 2017-10-17 2017-10-17 画像処理装置、画像処理方法、及びプログラム
JP2017-201144 2017-10-17

Publications (2)

Publication Number Publication Date
CN109672810A CN109672810A (zh) 2019-04-23
CN109672810B true CN109672810B (zh) 2021-07-30

Family

ID=63915185

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811209221.4A Active CN109672810B (zh) 2017-10-17 2018-10-17 图像处理设备、图像处理方法和存储介质

Country Status (4)

Country Link
US (1) US10861194B2 (zh)
EP (1) EP3474532B1 (zh)
JP (1) JP7051365B2 (zh)
CN (1) CN109672810B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111246051B (zh) * 2018-11-09 2021-06-29 浙江宇视科技有限公司 自动检测条纹并抑制的方法、装置、设备及存储介质
JP7016835B2 (ja) 2019-06-06 2022-02-07 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003060983A (ja) 2001-08-10 2003-02-28 Olympus Optical Co Ltd 撮像装置
JP2004088408A (ja) * 2002-08-27 2004-03-18 Minolta Co Ltd デジタルカメラ
JP4196845B2 (ja) * 2003-03-31 2008-12-17 セイコーエプソン株式会社 画像処理装置
US7576767B2 (en) 2004-07-26 2009-08-18 Geo Semiconductors Inc. Panoramic vision system and method
JP4770154B2 (ja) 2004-11-08 2011-09-14 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5018052B2 (ja) 2006-12-08 2012-09-05 株式会社ニコン 画像の色を補正する画像処理装置、および画像処理プログラム
JP5683882B2 (ja) * 2009-10-15 2015-03-11 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP5378283B2 (ja) 2010-03-29 2013-12-25 富士フイルム株式会社 撮像装置およびその制御方法
JP5971207B2 (ja) * 2012-09-18 2016-08-17 株式会社リコー 画像調整装置、画像調整方法およびプログラム
US10032280B2 (en) * 2014-09-19 2018-07-24 Brain Corporation Apparatus and methods for tracking salient features

Also Published As

Publication number Publication date
EP3474532B1 (en) 2021-12-08
JP7051365B2 (ja) 2022-04-11
JP2019075716A (ja) 2019-05-16
CN109672810A (zh) 2019-04-23
US20190114806A1 (en) 2019-04-18
EP3474532A1 (en) 2019-04-24
US10861194B2 (en) 2020-12-08

Similar Documents

Publication Publication Date Title
CN111986129B (zh) 基于多摄图像融合的hdr图像生成方法、设备及存储介质
KR101263888B1 (ko) 화상처리장치 및 화상처리방법과 컴퓨터·프로그램
US9581436B2 (en) Image processing device, image capturing apparatus, and image processing method
US9288392B2 (en) Image capturing device capable of blending images and image processing method for blending images thereof
TWI621099B (zh) 具有基於特徵的重影去除的陣列照相機影像組合
US8018520B2 (en) Imaging device, imaging method, display control device, display control method, and program
US8982234B2 (en) Information processing apparatus and method
US8351776B2 (en) Auto-focus technique in an image capture device
US20140184853A1 (en) Image processing apparatus, image processing method, and image processing program
CN109672810B (zh) 图像处理设备、图像处理方法和存储介质
CN111835968B (zh) 图像清晰度还原方法及装置、图像拍摄方法及装置
JP5455728B2 (ja) 撮像装置、画像処理装置、及び画像処理方法
JP7442989B2 (ja) 撮像装置、該撮像装置の制御方法、及びプログラム
JP2019016893A (ja) 画像処理装置およびその制御方法及びプログラム
JP2022086311A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
CN107979715B (zh) 摄像装置
JP6415330B2 (ja) 画像処理装置、撮像装置、画像処理方法
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP7263018B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2017182668A (ja) データ処理装置、撮像装置、及びデータ処理方法
JP7134666B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2017173920A (ja) 画像処理装置、画像処理方法、画像処理プログラム、および記録媒体
JP2016201600A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2010239493A (ja) 撮像装置および映像信号の補正処理方法
JP2025035240A (ja) 画像処理装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant