CN101567973A - 构图确定装置、构图确定方法以及程序 - Google Patents
构图确定装置、构图确定方法以及程序 Download PDFInfo
- Publication number
- CN101567973A CN101567973A CNA2009101369192A CN200910136919A CN101567973A CN 101567973 A CN101567973 A CN 101567973A CN A2009101369192 A CNA2009101369192 A CN A2009101369192A CN 200910136919 A CN200910136919 A CN 200910136919A CN 101567973 A CN101567973 A CN 101567973A
- Authority
- CN
- China
- Prior art keywords
- subject
- composition
- theme
- image
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Geometry (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Processing (AREA)
Abstract
本发明涉及构图确定装置、构图确定方法以及程序。构图确定装置,包括:主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;实际主题尺寸检测单元,被配置成为所述主题检测单元检测的每个主题检测能够视为与实际测量等效的实际尺寸;主题区分单元,被配置成基于对所述实际主题尺寸检测单元检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
Description
技术领域
本发明涉及构图确定装置、其方法以及该装置执行的程序,该装置是一种被配置成对图像数据的图像内容具有的构图进行确定的装置。
背景技术
与对鉴赏者产生良好印象的照片的拍摄技术有关的一个示例要素是构图设置。在此所使用的术语“构图(composition)”也称为“取景(framing)”,是指将主题(subject)放置在构成例如照片的图像框(frame)内的状态。
尽管存在几种通用的进行良好构图的基本技术,但是构图良好的照片的拍摄对于普通摄像机用户来说绝非容易的技艺,除非用户具有足够的有关摄影的知识和技巧。因此,需要一种使得用户能够以容易且简单的方式拍摄具有良好构图的照片的技术。
例如,日本待审专利申请公报59-208983公开了一种与自动跟踪装置有关的技术,其中确定以预时序间间隔的图像之差,计算这些图像之差的重心,利用重心的运动量和方向来检测主题图像相对于成像屏面(screen)的运动量和方向,然后对成像设备进行控制,从而将主题图像设定在成像屏面的基准区内。
此外,日本待审专利申请公报2001-268425公开了一种与自动跟踪装置有关的技术,其中在自动跟踪人时,执行跟踪使得人面孔位于屏面的中央,而且面孔的区域是屏面上主题图像的整个区域的20%以上,从而在跟踪的同时以可靠方式拍摄人面孔。
从确定构图的角度来说,这些技术方案使得能够自动跟踪主题(是人),并以某种设定的构图将主题定位在成像屏面中。
此外,日本待审专利申请公报2007-282118公开了一种配置,将相对于要识别的主题的基准主题距离的容许范围内包含的主题距离的主题指定为与要识别的主题一起的主要主题,以及一种配置,将其检测的面孔区域尺寸具有某个阈值或更大的主题指定为与要识别的主题一起的主要主题。
发明内容
已经实现需求,在对某个主题执行构图确定的情况下,能够只对期望的相关主题执行构图确定,而适当排除应当被处理成对构图确定无关的主题以使这种主题不会作为对象而被包括进来。
根据本发明一个实施例,提供一种构图确定装置,包括:主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;实际主题尺寸检测单元,被配置成为所述主题检测单元检测的每个主题检测能够视为与实际测量等效的实际尺寸;主题区分单元,被配置成基于对所述实际主题尺寸检测单元检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
根据本发明一个实施例,提供一种构图确定装置,包括:主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;主题尺寸检测单元,被配置成为所述主题检测单元检测的每个主题检测所述图像内尺寸;主题区分单元,被配置成基于对所述主题尺寸检测单元检测的所述图像内尺寸是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
根据本发明一个实施例,提供一种构图确定装置,包括:主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;主题距离检测单元,被配置成为所述主题检测单元检测的每个主题检测主题距离;主题区分单元,被配置成基于对所述主题距离检测单元检测的主题距离是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
根据以上配置,对从图像数据检测的每个主题来检测区分参数(实际尺寸、图像内尺寸或主题距离),然后确定这些区分参数是否是对应于相关主题的合适值。基于确定结果,从主题检测单元检测的主题中区分出相关主题,然后仅以所区分出的相关主题为对象来执行构图确定。这样,根据本发明,仅对被判断为相关主题的检测主题执行构图确定处理,而排除被判断为无关主题的那些主题。
这样,根据本发明,可以仅对相关主题执行精确的构图确定,而适当排除对构图确定无关的主题。
附图说明
图1是例示与本发明第一实施例相对应的构图确定的基本结构示例框图;
图2是例示与第一实施例相对应的构图确定的另一基本结构示例框图;
图3是例示根据第一实施例的构图确定块执行的处理过程示例的流程图;
图4是例示图3的主题区分处理的过程示例的流程图;
图5A到5D是示意性地例示作为第一实施例的根据主题区分算法的构图确定有关的实际示例的图;
图6A到6D是示意性地例示作为第一实施例的根据主题区分算法的构图确定有关的另一实际示例的图;
图7是例示与第二实施例相对应的构图确定的基本结构示例框图;
图8是例示与第一实施例相对应的构图确定的另一基本结构示例框图;
图9是例示根据第二实施例的构图确定块执行的处理过程示例的流程图;
图10是例示图9的主题区分处理的过程示例的流程图;
图11是例示图9的主题区分处理的另一过程示例的流程图;
图12是示意性地例示作为第二实施例的根据主题区分算法的构图确定有关的实际示例的图;
图13是示意性地例示作为第二实施例的根据主题区分算法的构图确定有关的另一实际示例的图;
图14是例示与第三实施例相对应的构图确定的基本结构示例框图;
图15是例示与第三实施例相对应的构图确定的另一基本结构示例框图;
图16是例示根据第三实施例的构图确定块执行的处理过程示例的流程图;
图17是例示图16的主题区分处理的过程示例的流程图;
图18是例示图16的主题区分处理的另一过程示例的流程图;
图19是例示图16的主题区分处理的又一过程示例的流程图;
图20A到20D是示意性地例示作为第三实施例的根据主题区分算法的构图确定有关的实际示例的图;
图21A到21D是示意性地例示作为第三实施例的根据主题区分算法的构图确定有关的实际示例的图;
图22是示意性地例示根据第三实施例的上阈值Kmax和下阈值Kmin的特定值示例,图像框尺寸与主题图像内尺寸之间的关系示例图;
图23是示意性地例示在第三实施例中执行反映成人/儿童判定结果的主题选择处理的情况的图;
图24是例示构成根据实施例的成像系统的数字静态摄像机和平台的图,根据实施例对其应用构图确定块;
图25A和25B是示意性地例示安装到平台的数字静态摄像机在摇摄(pan)方向和倾斜(tilt)方向的运动示例图,作为根据实施例的成像系统的操作;
图26是例示根据实施例的成像系统的内部系统结构示例的框图;
图27是例示图24到26的成像系统执行的成像记录的处理示例流程图;
图28是例示根据实施例的成像系统的另一内部系统结构示例的框图;
图29是例示根据实施例的成像系统的另一内部系统结构示例的框图;
图30是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图31是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图32是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图33是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图34是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图35是例示根据实施例的除成像系统以外的构图确定块的应用示例的框图;
图36是例示根据实施例的构成成像系统的数字静态摄像机的内部结构示例的框图;
图37是例示根据实施例的构成成像系统的平台的内部结构示例的框图;
图38A和38B是与如何检测个别主题的具体方法一起描述如何获得检测到的个别主题的重心和多个主题的总主题中心的示例的图;
图39是描述在成像图像数据的图像框内设定的原点坐标的图;
图40是示意性地例示在检测的主题的数量是1的情况下,第一构图控制示例的构图控制示例的图;
图41A和41B是示意性地例示在检测的主题的数量是2的情况下,第一构图控制示例的构图控制示例的图;
图42是示意性地例示在检测的主题的数量是3的情况下,第一构图控制示例的构图控制示例的图;
图43是例示第一构图控制示例的处理过程示例的流程图;
图44是示意性地例示在检测的主题的数量是3的情况下,第二构图控制示例的构图控制示例的图;以及
图45是例示第二构图控制示例的处理过程示例的流程图。
具体实施方式
现在将参照附图描述本发明优选实施例。在以下描述中,将使用术语“构图(composition)”、“图像框(image frame)”、“场角(field angle)”以及“成像视角(imaging view angle)”。“构图”也称为取景,是指将主题放置在图像框内的状态。“图像框”是等效于一个屏面的区域范围,例如,图像看起来固定于其中,并且“图像框”通常是垂直或水平延长的矩形。“场角”也称为变焦角,是指成像设备的光学系统中的变焦透镜的位置确定的配合到图像框中的范围,用角度来表示。通常,这是成像光学系统的焦距和成像面(成像传感器或胶卷)的大小确定的,但是在这里,能够与聚焦距离相对应地变化的要素称为场角。“成像视角”是指配合到图像框中的图像范围,通过使用设定在预定位置的成像设备进行成像而获得,并且除了上述“场角”以外还由摇摄(水平)方向的摇摄角和倾斜(垂直)方向的角度(仰角和俯角)来确定。例如,图像的构图是指将主题放置在图像视角确定的图像框内的状态。
本实施例涉及配置成执行构图确定的装置或系统。在描述本实施例的结构之前,让我们考虑对通过例如成像而获得的主题执行自动构图调节。注意,主题是人。例如,假设从通过成像获得的图像中检测主题,即一定数量的人。此时,在构图确定处理中,确定一种最优配置,使得这些主题适当放置在图像框内,所有检测的主题配合到图像框中。
使用上述构图确定处理,可以将例如面孔检测技术应用于人的主题检测。然而,仅采用面孔检测技术会导致如下问题。例如,考虑如下情况:在通过成像获得的图像的图像框中,其中不仅存在作为真实的人的主题,而且附近存在面孔照片等。在此情况下,仅通过面孔检测来执行主题检测会导致不仅将真实的人而且将面孔照片部分检测为将要作为构图确定对象(object)的主题。
在此情况下,期望的最优构图确定是考虑排除面孔照片,而仅将作为真实的人的主题适当地配合在图像框内。然而,在实际中,得到的构图确定结果考虑不仅将面孔照片而且将真实的人适当地配合在图像框内。
而且,让我们考虑对坐在餐馆的某个桌子旁的作为主题的两个人执行构图确定的情况。在此情况下,应当排除附近的无关的人员(例如,坐在其他桌子旁的人、站在餐馆中的雇员等)作为构图确定的对象,即使他们是真实的人。然而,仅通过面孔检测执行主题检测将导致将这些附近的无关人员检测为将要作为构图确定对象的主题,因此,可能不会获得期望的构图。
因此,根据下述本实施例提出一种技术方案,使得即使在对于构图确定无关的主题与有关的主题共存的情况下,能够仅使用有关的主题作为对象执行精确的构图确定。
图1是例示与作为第一实施例的构图确定有关的基本结构示例的图。该图例示作为执行构图确定的部分的构图确定块200。构图确定块200获取图像数据并执行构图确定,并且包括主题检测处理单元201、主题距离检测单元202A以及构图确定处理单元203,如图所示。
主题检测处理单元201是利用所获取的图像数据并执行主题检测处理的部件。在此使用的主题检测处理是首先将作为人的主题从图像数据的图像内容中区分开的处理,使用的信息是以下获得的检测结果(检测到的个别主题信息):作为人的主题的数量、每个主题(个别主题)在图像框内的位置信息(其可以通过例如图像框内的位置的像素矩阵中的x坐标和y坐标表示)、个别主题在图像(图像框)中的尺寸(所占空间),等等。
可以采用面孔检测技术作为主题检测处理的具体技术。尽管存在根据现有技术的几种面孔检测方法和技术,但是本实施例并不限于使用任何特定方法或技术,而是可以在考虑检测精度、设计难度等的情况下选择合适的方法。
主题检测处理单元201在此情况下输出所检测到的个别主题检测信息的集合组成的信息,作为检测主题信息。而且,主题检测处理单元201执行的主题检测处理可以通过图像信号处理来实现。在例如DSP(数字信号处理器)执行图像信号处理的配置的情况下,可以通过提供给DSP的程序和指令来实现主题检测处理。
主题距离检测单元202A是为主题检测处理单元201检测到的个别主题(检测到的个别主题)检测主题距离、并输出其检测信息(主题距离信息)的部件。
在此使用的主题距离是指输入到主题检测处理单元201的图像被成像并被成像设备获得时,从成像光被输入到成像设备的光学系统的位置到主题的直线距离。更精确地,可以将其视为,例如,从成像设备的光学系统(透镜)的前主点(front principal point)起的直线距离。
在实际中,可以将采用成像设备的自动聚焦调节控制(自动聚焦控制)配置用于主题距离检测单元202A。
顺便指出,根据现有技术,存在自动聚焦控制的对比度方法和距离测量方法。对比度方法涉及移动例如聚焦透镜的位置,然后寻找成像获得的图像中的主题部分区域的亮度水平差(对比度)达到峰值时的聚焦透镜位置。所找到的聚焦透镜位置对应于焦点状态。可以根据聚焦透镜的位置获得本实施例中的主题距离。
而且,根据现有技术,存在距离测量方法的有源方法和无源方法。
根据有源方法,将光从测量装置端投射到主题端,并检测由此获得的反射光的入射位置,并基于该检测信息来测量到主题的距离。注意,至于照射在主题端的光,除了可见光以外,可以采用红外线。此外,除了光以外,还可以采用超声波、无线电波等。
此外,对于无源方法,相差检测方法例如涉及使用多个光学系统在相互不同的水平位置形成主题的图像。在形成主题图像的每个位置设置线传感器,然后从这些线传感器获得对应于图像形成光的信号。相应地,这些线传感器也沿着同一水平轴放置。这些线传感器检测例如视野内的某个高度的一条水平线的图像形成光,然后输出检测信号。基于从这些线传感器获得的信号,检测与各光学系统相对应的图像的相互相位差。利用从这些线传感器获得的信号,使相位差检测经受预定计算(相关计算)。由此基于检测结果来测量到主题的距离。
根据本实施例,可以采用上述任一方法来在实际中配置主题距离检测单元202A。
作为一个示例,如果基于对比度方法,主题距离检测单元202A将被配置成具有基于对比度方法的自动聚焦控制的机构单元和信号处理单元。也就是说,它将被配置成具有:成像设备中的聚焦透镜和用于驱动聚焦透镜的驱动机构单元、对采用成像设备成像获得的图像数据(成像图像数据)检测对比度的信号处理功能、以及能够根据例如检测结果对驱动聚焦透镜的驱动机构单元来执行控制的控制功能。
于是,输入到主题检测处理单元201的图像数据此时被作为利用成像设备成像获得的成像图像数据,然后主题距离检测单元202A输入成像图像数据,与来自主题检测处理单元201的检测主题信息一起。
主题距离检测单元202A首先识别与输入的检测图像信息表示的每个检测个别主题的位置相对应的部分图像区域。执行驱动以按合适时序将聚焦透镜移动到预定范围,同时检测此时获得的每个部分图像区域的对比度,然后对每个部分图像区域获得所检测的对比度为峰值时的聚焦透镜位置的信息。为由此获得的每个聚焦透镜位置获得了主题距离。注意,可以从聚焦透镜位置毫无疑义地获得主题距离。这样,主题检测处理单元201可以获得每个检测个别主题的主题距离信息。
在此情况下构图确定处理单元203获取并输入从主题检测处理单元201输出的检测主题信息,和从主题距离检测单元202A输出的每个检测个别主题的主题距离的信息(主题距离信息)。利用这些信息,并最终执行构图确定,其中仅使用意图与构图确定有关的主题(相关主题)作为确定对象来确定最优构图。
注意,构图确定处理单元203执行的构图确定处理可以由例如执行程序的CPU(中央处理器)来实现,即通过软件来实现。可以在此使用的另一示例配置是对软件和/或硬件(合适的话)实现的图像信号处理的级联使用。
图2例示作为第一实施例的构图确定块200的基本结构示例。可以将图中示出的结构视为基于图1所示的第一示例的配置,其中图1的构图确定处理单元203执行的区分相关主题的处理被提取作为主题区分处理单元204。
也就是说,在此情况下,如图1况那样,首先主题检测处理单元201基于输入的图像数据来执行主题检测处理,并输出检测主题信息,并且主题距离检测单元202A还对主题检测处理单元201检测的每个主题(检测到的个别主题)的主题距离执行检测,然后输出主题距离检测信息。
于是,在此情况下,将检测主题信息和主题距离检测信息输入给主题区分处理单元204。主题区分处理单元204利用检测主题信息和主题距离检测信息,从主题检测处理单元201检测到的个别主题中排除与构图确定无关的主题(无关主题),然后执行区分相关主题的处理(区分处理)。主题区分处理单元204然后将通过主题区分处理而区分为相关主题的个别主题属性的检测到的个别主题信息输出给构图确定处理单元203。
构图确定处理单元203基于从主题区分处理单元204输出的与被区分为相关主题的个别主题有关的检测到的个别主题信息,执行构图确定处理。也就是说,结果,仅使用相关主题作为对象来执行构图确定处理。
图3所示流程图例示上述图1和2所示的构图确定块200执行的处理过程示例。应当指出,这些图所示的处理过程示例仅是示例,图4所示的构图确定块200执行的处理过程绝不限于此。只要基于来自主题检测处理单元201的检测主题信息和来自主题距离检测单元202A(对参数区分的检测单元)的主题检测信息(区分参数的信息),构图确定处理单元203最终仅使用相关主题作为对象而确定最优构图,图4所示的配置就可以实现其期望的功能。对于后述第二实施例和第三实施例也是如此。
此外,图1和2所示的块结构与图3的流程图的步骤之间的关联仅是直接想到的示例,也可以想到并采用其他关联。这对于相应框图与流程图之间的后述关联也是如此。
首先,在步骤S101,主题检测处理单元201获取(输入)图像数据。
步骤S102和S103是主题检测处理单元201执行的过程。
主题检测处理单元201在步骤S102执行上述主题检测处理,然后在步骤S103输出作为其检测结果的检测主题信息。
步骤S104是如下处理:主题距离检测单元202A检测主题检测处理单元201检测到的每个个别主题(检测个别主题)的主题距离,然后输出主题距离检测信息。检测每个个别检测主题的主题距离的配置示例如上所述。
在步骤S105,执行主题区分处理,即从检测到的个别主题中区分相关主题的处理。主题区分处理由具有对应于图1的结构的构图确定处理单元203和对应于图2的结构的主题区分处理单元204执行。
图4例示上述步骤S105的主题区分处理的过程示例。
在步骤S201,首先,将1作为初值代入变量n,变量n表示被检测的个别主题被当成区分对象的顺序。
在步骤S202,确定当前变量n是否超过个别主题的总数。现在,个别主题的总数是主题检测处理单元201检测到的个别主题(检测到的个别主题)的总数,并且可以根据从主题检测处理单元201输入的检测主题信息而得知。
在步骤S202获得否定确定结果的情况下,意味着仍然存在剩余的尚未对其执行区分的检测的主题。在此情况下,本流程进行到步骤S203。
在步骤S203,对关于第n个主题检测的主题距离Dn、预设下限Dmin以及上限Dmax,来确定条件(条件表达式)Dmin<Dn<Dmax是否成立。
现在,在步骤S203获得肯定确定结果的情况下,意味着第n个检测个别主题处于适合被成像为作为确定构图的主要实体的有效主题的距离范围,而不是距离成像设备成像的位置(成像位置)太近或太远。在此,我们将处于这种合适的主题距离范围的被检测到的个别主题处理为相关主题。就是说,将满足条件Dmin<Dn<Dmax的被检测的主题判断为相关主题。
在步骤S203获得肯定确定结果的情况下,本流程进行到步骤S204,并将第n个检测个别主题设定为相关主题,即将要作为构图确定对象的主题。在实际中,该处理是通过输出构图确定处理单元203执行的构图确定处理的,与第n个检测个别主题有关的检测个别主题信息来执行。
随后,在步骤S205,将变量n递增然后本流程进行到步骤S202。
此外,在步骤S203获得否定确定结果的情况下,这意味着第n个检测个别主题位于比距离成像设备一定距离更远的距离(Dn≥Dmax),或者位于某个近距离内(Dmin≥Dn)。
主题位于比距离成像设备一定距离更远的距离意味着该主题距离太远,以至于不能被处理成在构图中充当主要实体的主题。
作为具体示例,在餐馆等,与期望的主题作为就餐者所就坐的桌子不同的其他桌子旁就座的就餐者,站在后面的员工等,被检测为个别主题,这些主题被确定为位于比距离成像位置的一定距离更远的距离。
此外,主题位于距离成像位置的一定近距离内意味着该主题距离太近,以至于不能被处理成在构图中充当主要实体的主题。
可以作为示例而给出的这样的情况是例如在成像视野中位于比期望的主题近得多的位置处的面孔照片。在此情况下,将检测的与面孔照片相对应的个别主题确定为位于距离成像位置一定近距离内。
按此方式获得否定确定结果的情况下,本流程跳过步骤S204然后进行到步骤S205。因此,此时的第n个检测个别主题不被设定为相关主题(对象个别主题)。也就是说,不将其检测个别主题信息输出给构图确定处理单元203用于构图确定处理。在步骤S205,将变量n递增,然后本流程返回到步骤S202。
这样,根据图4所示的主题区分处理,确定每个检测个别主题是否具有合适范围内的主题距离,然后将位于合适范围内的那些主题设定(区分)为相关主题,即作为对象个别主题。
当对作为对象的所有检测到的个别主题的区分处理结束时,在步骤S202获得肯定确定结果,离开该图所示的处理,然后本流程进行到图3的步骤S105。注意,存在主题检测处理单元201的检测结果是没有检测到一个主题的情况。在此情况下,第一次就在步骤S202获得肯定确定结果,然后本流程进行到图3的步骤S105。此时,作为结果,对象个别主题的设定数量是0。
现在返回到图3进行描述。在步骤S105执行主题区分处理之后,执行步骤S106等的过程。在此可以将步骤S106和步骤S107的过程视为构图确定处理单元203执行的。
在步骤S106,基于个别区分处理输出的检测个别主题信息,确定作为主题区分处理的结果而设定的对象个别主题的数量是一个还是多个。
在这里获得否定确定结果的情况下,意味着不存在作为构图确定对象的个别主题,因此本流程返回到步骤S101。
另一方面,在获得肯定确定结果的情况下,意味着存在作为构图确定对象的个别主题,因此本流程进行到步骤S107。
然后,构图确定处理单元203执行步骤S107的处理。在步骤S107,利用上述步骤S106设定的对象个别主题的检测主题信息,采用预定算法来执行构图确定处理。稍后将描述构图确定算法的示例、构图确定结果的使用示例等。
图5A到6D示意性示出作为第一实施例的根据主题区分算法的构图确定实际示例。
首先,图5A到5D例示如下情况:主题检测处理检测的多个主题(个别对象)中,在比距离成像位置的一定距离更远的距离存在主题。
这里,图5A的虚线表示检测框300A。检测框300A是与从主题检测处理单元201输出的图像数据的图像相对应的框。假设主题检测处理单元201具有位于检测框300A内的检测的主题(个别主题)1、2以及3。注意,这里这些主题是以与例如基于面孔检测而获得的检测框相对应的矩形框来表示的。
而且,基于对比度方法检测的主题1、2以及3的相应主题距离D1、D2以及D3分别如图5B到5D所示。这些图例示对比度的变化,通过对检测到主题1、2以及3的每个部分图像区域移动聚焦透镜而检测,作为纵轴。横轴表示根据聚焦透镜的位置而确定的主题距离。
现在,对于图5A到5D,假设主题1的主题距离D1等于或大于上限Dmax,并且主题2和3的主题距离D2和D3在大于下限Dmin但是小于上限的合适范围内。
在此情况下,通过主题区分处理将主题2和3区分为对象主题(相关主题)。
在随后的构图确定处理中,仅以主题2和3作为对象而排除主题1来执行构图确定。例如,在图5A中,通过确定的构图图像框300B与主题1、2以及3之间的关系示出构图确定的结果。所确定的构图图像框300B是作为构图确定的结果而获得的图像框。
在所确定的构图图像框300B中,将主题2和3设置成大约位于中间,意味着将主题2和3处理为对象进行了构图确定。另一方面,在该图中,例如,主题1的仅仅一部分交叠在所确定的构图图像框300B,意味着已经将主题1排除,不作为构图确定对象。
然后,图6A到6D例示主题位于距离成像位置的一定近距离内的情况。如图6A所示,这里,同样,在检测框300A内检测到主题1、2以及3。而且,基于对比度方法检测的主题1、2以及3的相应主题距离D1、D2以及D3分别如图6B到6D所示。
在此情况下,假设主题1的主题距离D1等于或小于下限Dmin,并且主题2和3的主题距离D2和D3在大于下限Dmin但是小于上限的合适范围内。在此情况下,同样,通过主题区分处理将主题2和3区分为对象主题(相关主题),因此在排除主题1并且仅以主题2和3为对象执行构图确定处理。
在图6A,通过确定的构图图像框300B与主题1、2以及3之间的关系示出构图确定的结果。在此情况下,同样,在所确定的构图图像框300B中,将主题2和3设置成大约位于中间。另一方面,主题1几乎在所确定的构图图像框300B外。
注意,这些图5A到6D中的构图确定之后的图像框(所确定的构图图像框300B)中的主题的布置、尺寸等只是例示使用被区分为构图确定对象的主题来执行构图确定。稍后将描述具体构图确定算法等。
而且,仅作为示例,考虑实际使用的实际值,可以想到下限Dmin是约30cm并且上限Dmax是约5m的设置。
图7例示作为第二实施例的构图确定的基本结构示例。该图中的构图确定块200由主题检测处理单元201、主题尺寸检测单元202B以及构图确定处理单元203构成。可以将该结构视为例如将图1的与第一实施例相对应的主题距离检测单元202A替换成主题尺寸检测单元202B。
在该结构中,同样,按与第一实施例相同的方式,主题检测处理单元201利用获得的图像数据来执行图像检测处理,然后输出检测主题信息。
主题尺寸检测单元202B从主题检测处理单元201读取检测主题信息,然后检测每个检测个别主题的图像的尺寸。
注意,如后所述,在主题检测处理单元201的主题检测处理是例如基于面孔检测的情况下,可以在主题检测处理的状态获得每个检测个别主题的图像的尺寸。在此情况下,可以考虑将主题尺寸检测单元202B包括在主题检测处理单元201中。替换地,可以想到如下的结构:主题尺寸检测单元202B从主题检测处理单元201输入的被检测主题信息提取并获得每个检测个别主题的尺寸信息。
当然,在例如不能获得检测个别主题的图像尺寸的主题检测处理算法的情况下,将进行如下配置:主题尺寸检测单元202B输入例如图像数据,然后检测每个检测个别主题的尺寸。此时,如果在主题尺寸检测单元202B进行尺寸检测时存在必须为每个检测个别主题从外部获得关于其的信息的位置,可以使用被检测主题信息中的每个检测个别主题的位置信息。
在任何情况下,主题尺寸检测单元202B都获得主题检测处理单元201检测的每个个别主题在屏面中的尺寸信息(主题尺寸信息),并将其输出给构图确定处理单元203。
在此情况下,构图确定处理单元203获取并输入来自主题检测处理单元201的检测主题信息以及来自主题尺寸检测单元202B的主题尺寸信息,然后利用这些信息以便最终仅以对象个别主题(相关主题)作为确定对象执行构图确定处理。
图8例示作为第二实施例的与构图确定块200有关的另一基本结构示例。可以将该图所示的结构视为将在以上图7中由构图确定处理单元203执行的区分相关主题的处理提取出来,成为主题区分处理单元204。
在此情况下的主题区分处理单元204输入来自主题检测处理单元201的检测主题信息和来自主题尺寸检测单元202B的主题尺寸信息。从检测到的个别主题中区分出与相关主题相对应的对象个别主题,然后将与这些对象个别主题中的每一个相对应的检测个别主题信息输出给构图确定处理单元203。
构图确定处理单元203然后基于从主题区分处理单元204输出的每个对象个别主题的检测个别主题信息,仅以对象个别主题(相关主题)为对象来执行构图确定处理。
图9的流程图例示与以上图7或图8所示的第二实施例相对应的构图确定块200执行的处理过程示例。
在步骤S301到S303,按与图3的步骤S101到S103相同的方式,主题检测处理单元201获取图像数据并执行主题检测处理,然后输出检测主题信息。
如下所述,步骤S304是这样的处理:获得每个检测个别主题的图像内的尺寸信息,然后由主题尺寸检测单元202B输出主题尺寸信息。
在步骤S305,执行主题区分处理。主题区分处理也由与图7相对应的构图确定处理单元203和与图8相对应的主题区分处理单元204执行。
图10例示以上步骤S305的主题区分处理的过程示例。
以与前面图4的步骤S201相同的方式,步骤S401是这样的过程:将1代入到变量n,变量n表示检测个别主题被当成区分对象的顺序。在步骤S402,确定当前变量n是否超过个别主题的总数。在这里获得否定确定结果的情况下,本流程进行到步骤S403。
在步骤S403,对与第n个检测个别主题有关的检测尺寸Sn和下限K1,确定条件(条件表达式)Sn>K1是否成立。
在此,基于太小以至于不能被判断为相关主题的主题尺寸来确定下限K1。因此,在条件表达式Sn>K1成立并且获得肯定确定结果的情况下,意味着第n个个别主题具有可以被处理为相关主题的量级的尺寸。因此,在此情况下,本流程图进行到步骤S404,然后将第n个检测个别主题设定为对象个别主题(相关主题),并输出其检测个别主题信息以用于构图确定。在步骤S404之后,在步骤S405将变量n递增,然后本流程返回到步骤S402。
此外,在步骤S403获得否定确定结果的情况下,意味着第n个检测个别主题不具有可以被处理为相关主题的量级的尺寸。在此情况下,本流程跳过步骤S404,然后进行到步骤S405,然后返回到步骤S402。当在步骤S402获得肯定确定结果时,退出本图所示的处理。
根据图10所示的主题区分处理,确定每个检测个别主题的图像内尺寸,然后确定每个检测个别主题是否具有可以被处理为相关主题的量级的图像内尺寸,并将它们设定(区分)为相关主题,即,对象主题。
现在将回到图9进行描述。在步骤S305执行主题区分处理之后,执行步骤S306的过程,在某些情况下还执行步骤S307的过程。以与图3的步骤S106和S107相同的方式,构图确定处理单元203执行步骤S306和步骤S307的过程。
图12示意性地例示作为上述第二实施例的根据主题区分算法的构图确定的实际示例。
如图12所示,假设通过主题检测处理在检测图像框300A中检测到3个主题1、2以及3。而且,对个别主题检测的主题1、2以及3的图像尺寸分别示出为S1、S2以及S3。在此,假设主题1的尺寸S1等于或小于下限K1,主题2和3的尺寸S2和S3超过下限K1。
在此情况下,主题区分处理仅将主题2和3区分为对象主题(相关主题)。排除主题1,仅以主题2和3作为对象执行构图确定处理。
通过图12确定的构图图像框300B与主题1、2以及3之间的关系来示出构图确定的结果。在确定的构图图像框300B中,主题2和3被设置成大约位于中间,主题1位于所确定的构图图像框300B外部。也就是说,主题1、2以及3中,以主题2和3作为对象进行构图确定。
现在,在图10所示的主题区分处理中,将检测个别主题的尺寸Sn仅与下限K1进行比较,而不与上限进行比较。这是因为大的检测个别主题尺寸不会有问题,因此应当被处理为相关主题。
然而,在某些情况下,可能存在如下情形:在屏面(图像框)中存在某个尺寸或更大尺寸的主题的情况下,优选的是将这种主题从相关主题中排除。因此,图11例示被配置成将具有某个尺寸或更大尺寸的检测到的个别主题从相关主题中排除的处理示例,作为步骤S305的主题区分处理。
图11的步骤S501、S502、S504以及S505与图10的步骤S401、S402、S404以及S405相同。
在步骤S503,对第n个检测个别主题尺寸Sn和上限K2(K1<K2),确定条件(条件表达式)Sn<K2是否成立。基于太大以至于不能被处理(判断)为相关主题的主题尺寸来设定上限K2。
现在,在以上Sn<K2成立、获得肯定确定结果的情况下,第n个检测个别主题尺寸Sn是在可以被判断为相关主题的某个尺寸之内的合适尺寸,因此本流程进行到步骤S504。相反,在这里获得否定确定结果的情况下,对第n个检测个别主题,跳过步骤S504,然后本流程进行到步骤S505。
图13示意性例示根据以上图11所示的主题区分算法的构图确定的实际示例。在图13中,假设通过主题检测处理在检测图像框300A中已经检测到两个主题1和2。将主题1和2的图像尺寸分别示出为S1和S2。
在此,假设主题1的尺寸S1等于或大于上限K2,尺寸S2小于上限K2。在此情况下,通过主题区分处理,仅将主题2区分为对象个别主题,并且排除主题1,仅以主题2作为对象执行构图确定处理。
通过图13确定的构图图像框300B与主题1和2之间的关系来示出构图确定的结果。在确定的构图图像框300B中,主题2被设置成大约位于中间。另一方面,主题1位于所确定的构图图像框300B外部。也就是说,在主题1和2中,仅以主题2作为相关主题进行构图确定。
应当指出,在图13中,检测图像框300A与所确定的构图图像框300B的尺寸不同。这意味着与对检测图像框300A成像时相比,使场角变窄(增大变焦倍率(zoom power))。
此外,可以作出如下配置:将小于下限K1的主题和大于上限K2的主题都从相关主题中排除,作为基于主题尺寸的主题区分处理。也就是说,例如图11中的步骤S503中的括号()所示,可以安排为:对第n个检测个别主题尺寸、下限K1以及上限K2,确定条件K1<Sn<K2是否成立,在获得肯定确定结果的情况下,本流程进行到步骤S504,在获得否定确定结果的情况下,跳过步骤S504,然后本流程进行到步骤S505。根据这种区分处理,可以在区分相关主题时从检测到的个别主题中排除太小和太大以至于不能被判断为主题的那些。
此外,实际成像设备通常具有改变场角(变焦倍率)的变焦透镜。改变场角也会改变通过成像获得的图像的图像框内的主题尺寸。因此,可以想到如下安排:根据例如图10和11的步骤S403和S503的改变后的场角,改变下限K1和上限K2。
作为具体示例,在步骤S403和S503进行确定处理时,相应于基准场角(变焦倍率值(power value)=1)设定下限K1和上限K2。通过转换成变焦倍率值Z,获得通过变焦控制所获得的场角的信息,在步骤S403确定条件表达式Sn>K1·Z是否成立,在步骤S503确定条件表达式Sn<K2·Z是否成立。此外,可以安排为:在步骤S403中条件表达式为Sn/Z>K1,在步骤S503中条件表达式为Sn/Z<K2。如可从此理解的,可以将利用变焦倍率值Z的这些条件表达式视为对根据变焦的图像内尺寸Sn变化执行校正,使得与所述阈值(下限K1和上限K2)的比较是合适的。
图14例示作为第三实施例的构图确定的基本结构示例。将该图所示的构图确定块200配置成具有主题检测处理单元201、主题距离检测单元202A、主题尺寸检测单元202B、构图确定处理单元203以及实际主题尺寸计算单元205。
在主题检测处理单元201,执行与上述实施例相同的主题检测处理,并将检测主题信息输出给主题距离检测单元202A、主题尺寸检测单元202B以及构图确定处理单元203中的每一个。
以与上述第一和第二实施例相同的方式,主题距离检测单元202A检测每个检测个别主题的主题距离,然后输出主题距离信息。此外,以与上述第一和第二实施例相同的方式,主题尺寸检测单元202B检测图像内尺寸并输出主题尺寸信息。
实际主题尺寸计算单元205获得从主题距离检测单元202A和主题尺寸检测单元202B输出的每个检测个别主题的主题距离信息和主题尺寸信息,获得与每个检测个别主题相对应的“实际尺寸”,然后输出每个检测个别主题的实际尺寸信息(实际主题尺寸信息)。
现在,如下所述,尽管实际主题尺寸计算单元205也可以获得检测个别主题实际具有的实际测量尺寸的近似精确值,但是可以例如基于检测个别主题的主题距离和尺寸,获得可被视为等效于实际测量值但是可以容易处理的值。
构图确定处理单元203在此情况下获取并输入来自主题检测处理单元201的检测主题信息和来自实际主题尺寸计算单元205的实际主题尺寸信息,并利用这些信息,仅以检测到的个别主题(相关主题)为确定对象,最终执行构图确定处理。
图15例示作为第三实施例的与构图确定块200有关的另一基本结构示例,其具有如下结构:其中将以上图14的构图确定处理单元203执行的区分相关主题的处理提取出来,作为主题区分处理单元204。
主题区分处理单元204在此情况下输入来自主题检测处理单元201的检测主题信息和来自实际主题尺寸计算单元205的实际主题尺寸信息,利用这些信息从所检测到的个别主题区分出对象主题(相关主题),然后将与这些检测到的每一个主题相对应的检测个别主题信息输出给构图确定处理单元203。构图确定处理单元203基于来自主题区分处理单元204的每个对象主题的检测个别主题信息,仅以检测到的个别主题(相关主题)作为确定对象来执行构图确定处理。
图16的流程图例示与以上图14或图15所示的第三实施例相对应的构图确定块200执行的处理过程示例。
在步骤S601到S603,按例如与图3等的步骤S101到S103相同的方式,主题检测处理单元201获取图像数据,然后执行主题检测处理,并输出检测主题信息。
在步骤S604,主题距离检测单元202A检测每个检测个别主题的主题距离,然后输出主题距离信息。
在步骤S605,主题尺寸检测单元202B获得图像的每个检测个别主题的尺寸,然后将其输出为主题尺寸信息。
注意,尽管由于流程图中标注的原因,将步骤S604和S605例示为顺序处理,但是可以将这些步骤视为与图14和15相对应地同时且并行执行的处理。
步骤S606是如下处理:实际主题尺寸计算单元205计算并获得每个检测个别主题的实际尺寸。如上所述,可以获得被处理成与实际测量尺寸等效的值(简单值)作为实际尺寸。以下是如何获得实际尺寸作为该简单值的示例。
实际主题尺寸计算单元205获取在步骤S604获得的主题距离信息和在步骤S605获得的主题尺寸信息。在主题距离信息中表示了每个检测个别主题的主题距离,在主题尺寸信息中表示了每个检测个别主题的图像内尺寸信息。而且,这里的图像内尺寸信息是采用检测到所检测的个别主题的部分图像区域中的垂直像素的数量来表示。也就是说,图像内尺寸不是检测到所检测的个别主题的部分图像区域的面积,而是等效于沿一维方向的长度的量。注意,可以采用水平像素的数量来代替垂直像素的数量。
现在,实际主题尺寸计算单元205可以通过
Srn=Dn·Fyn ...表达式(1)
来获得第n个检测个别主题的实际尺寸Srn,其中Dn是相同的第n个检测个别主题的主题距离,Fyn是尺寸(垂直像素的数量)。
根据以上表达式(1)获得的实际尺寸Srn是主题距离与作为尺寸的垂直像素数量的乘积,从而获得与所检测的真实个别主题的实际测量尺寸毫无疑义地对应的数值Srn。也就是说,获得了被处理为等效于实际测量尺寸的值(简单值)。而且,也可以将根据以上表达式(1)获得的实际尺寸Srn视为如下的计算,即,按照图像内尺寸(垂直像素数量)以设定为基准的主题距离(例如1m),对成像时获得的检测到的个别主题进行归一化。
注意,也可以通过
Srn=sqrt(Dn^2·Sn) ...表达式(2)
来获得实际尺寸Srn,其中Dn表示对第n个检测个别主题所检测的主题距离,Sn表示第n个检测个别主题的被检测为面积的图像内尺寸。此外,sqrt表示平方根,^表示幂。
同样,如上所述,可获得与所检测的真实个别主题的实际测量尺寸近似对应的实际尺寸Srn。为此,假设场角固定以简化描述,利用成像图像的垂直像素数量py,成像图像与设定为基准的主题距离(例如1m)相对应的在图像框的垂直方向的实际尺寸Sy,与主题距离Dn(m)和尺寸(垂直像素数量)Fyn一起作为参数,可以通过例如以下计算来获得Srn。
Srn=Sy·{(Dn·Fyn)/py} ...表达式(3)
步骤S607是主题区分处理。主题区分处理由与图14相对应的构图确定处理单元203执行,并且由与图15相对应的主题区分处理单元204执行。
图17例示以上步骤S607的主题区分处理的过程示例。在该图中,步骤S701、S702、S704以及S705与例如图4的步骤S201、S202、S204以及S205相同。
在步骤S703,针对在步骤S606获得的第n个检测个别主题的实际尺寸Srn、上限Kmax以及下限Kmin,来区分条件
Kmax>Srn>Kmin
是否成立。
现在,考虑太大以至于作为正常主题是不切实际的实际尺寸的情况下,设定上限Kmax,并且在考虑太小以至于作为正常主题是不切实际的实际尺寸的情况下,设定下限Kmin。
因此,实际尺寸Srn满足条件Kmax>Srn>Kmin的情况下,可以说实际尺寸Srn在可以被视为正常主题的合适范围内。这意味着可以将与实际尺寸Srn相对应的检测个别主题判断为相关主题。
因此,根据本实施例,在步骤S703获得肯定确定结果的情况下,在步骤S704将第n个检测个别主题设定为对象个别主题。
另一方面,在实际尺寸Srn不满足条件Kmax>Srn>Kmin的情况下,这是Srn≥Kmax或Srn≤Kmin之一成立的情况。也就是说,实际尺寸Srn具有比可被认为是普通主题的范围更小或更大的值。这意味着不应当将与实际尺寸Srn相应的检测个别主题判断为相关主题。
因此,在步骤S703获得否定确定结果的情况下,跳过步骤S704,然后本流程进行到步骤S705。
这样,根据图17所示的主题区分处理,将具有在可被判断为相关主题的合适范围内的实际尺寸的每个检测到的个别主题设定(区分)为对象主题(相关主题)。
在执行步骤S607的主题区分处理之后,执行步骤S608的过程,并且在某些情况下执行步骤S609的过程。按与图3的步骤S106和S107相同的方式,步骤S608和步骤S609的过程由构图确定处理单元203执行。
图20A到21D示意性地例示根据以上图16和17所示的主题区分算法的构图确定的实际示例。
首先,图20A到20D例示执行构图确定的示例,其排除将实际尺寸太小以至于不能被判断为相关主题的主题。
在图20A,假设在检测图像框300A中已经检测到3个主题1、2以及3。假设对主题1、2以及3中的每一个检测的图像内尺寸由例如与基于面孔检测而检测的主题相对应的矩形检测框中的垂直像素数量来表示。将主题1的根据垂直像素数量的尺寸示为Fy1,将主题2的示为Fy2,将主题3的示为Fy3。此外,在图20B到20D分别示出主题1、2以及3的基于对比度方法而检测的相应主题距离D1、D2以及D3。
首先,我们假设对各主题1、2以及3检测的主题距离D1、D2以及D3在可被视为大约相同值的范围内。
另一方面,对于尺寸,我们假设主题2和3的尺寸Fy2和Fy3是与其主题距离D2和D3相比较可以被判断为相关主题的合适尺寸,主题1的尺寸Fy1是太小以至于与其主题距离D1相比较不能被判断为相关主题的尺寸。
然后我们假设在图17的步骤S703后,如图20A到20D所示对各主题1、2以及3获得的实际尺寸Sr1、Sr2以及Sr3的确定结果是,对于实际尺寸Sr1,Sr1≤Kmin成立,而Kmax>Sr1>Kmin不成立,因此获得了否定确定结果。另一方面,对于实际尺寸Sr2,Kmax>Sr2>Kmin成立,对于实际尺寸Sr3,Kmax>Sr3>Kmin也成立。在此情况下,将主题2和3区分为相关主题(对象主题),而排除主题1,作为主题区分处理的结果。排除主题1并且仅以主题2和3作为对象执行构图确定处理。
通过图20A确定的构图图像框300B与主题1、2以及3之间的关系示出构图确定的结果。主题2和3位于确定的构图图像框300B的中间附近。另一方面,主题1在确定的构图图像框300B之外。
此外,图21A到21D例示执行构图确定的示例,其排除将其实际尺寸太大以至于不能被判断为相关主题的主题。
在图21A,同样,假设在检测图像框300A中已经通过主题检测处理检测到3个主题1、2以及3。同样,这里对主题1、2以及3中的每一个检测的图像内尺寸由例如基于面孔检测而检测的主题的矩形检测框中的垂直像素数量来表示。将主题1的根据垂直像素数量的图像内尺寸示为Fy1,将主题2的示为Fy2,将主题3的示为Fy3。此外,在图21B到21D分别示出主题1、2以及3的基于对比度方法而检测的相应主题距离D1、D2以及D3。
这里,同样,首先我们假设对各主题1、2以及3检测的主题距离D1、D2以及D3在可以被视为大约相同值的范围内。
同样,对于尺寸,我们假设主题2和3的尺寸Fy2和Fy3是与其主题距离D2和D3相比较可以被判断为相关主题的合适尺寸,主题1的尺寸Fy1是太大以至于与其主题距离D1相比较不能被判断为相关主题的尺寸。
然后我们假设在图17的步骤S703之后,如图21A到21D所示对各主题1、2以及3获得的实际尺寸Sr1、Sr2以及Sr3的确定结果是,对于实际尺寸Sr1,Sr1≥Kmax成立,而Kmax>Sr1>Kmin不成立,因此获得了否定确定结果。另一方面,对于实际尺寸Sr2,Kmax>Sr2>Kmin成立,对于实际尺寸Sr3,Kmax>Sr3>Kmin也成立。在此情况下,将主题2和3区分为相关主题(对象主题),而排除主题1,作为主题区分处理的结果。排除主题1并且仅以主题2和3作为对象执行构图确定处理。
通过图21A确定的构图图像框300B与主题1、2以及3之间的关系示出构图确定的结果。主题2和3位于确定的构图图像框300B的中间附近。另一方面,主题1在确定的构图图像框300B之外。还应当指出,在图21A,同样,检测图像框300A与所确定的构图图像框300B的尺寸不同。这意味着,与图13一样,与对检测图像框300A进行成像时相比,使场角变窄(增大变焦倍率)。
现在,将给出步骤S703的处理使用的上限Kmax和下限Kmin的具体示例。注意,将假设与场角相对应的变焦倍率是固定的,以便于进行简单且容易理解的描述。
我们假设图22中的(a)和(b)都是通过在1m的主题距离上对主题1和2成像而获得的图像。我们假设图像的图像框300在垂直方向具有240px,并且在水平方向具有320px。对图像框300中的主题1和2的图像内尺寸(垂直像素数量)的比较表明主题1较大,具有160px,主题2较小,具有40px。现在,首先我们假设1m的主题距离是基准值。因此,我们将把在1m的基准主题距离上成像的具有160px或更大以及具有40px或更小的主题图像内尺寸的主题从相关主题排除。
这些主题是当在1m的基准主题距离上成像时垂直方向的尺寸在图像中占2/3(即160/240)或更大的主题,和垂直方向的尺寸在图像中占1/6(即40/240)或更小的主题。这些主题落在相关主题的合适实际测量尺寸范围之外,并且它们是照片、海报等的概率很高,因此被处理成应当从相关主题排除的主题。
据此,将Kmax=160和Kmin=40分别设定为上限Kmax和下限Kmin的具体值。在此情况下,步骤S703的条件表达式Kmax>Srn>Kmin实际上是160>Srn>40。
如上所述,将实际尺寸Srn表示为例如主题距离Dn(m)与图像内尺寸(垂直像素数量)Fyn之积,即(Dn·Fyn)。
根据以上条件表达式,主题1的实际尺寸Sr1是D1·Fy1=1×160=160,因此在步骤S703,获得否定确定结果。也就是说,将其从相关主题排除。此外,主题2的实际尺寸Sr2是D2·Fy2=1×40=40,因此在步骤S703,在此同样获得否定确定结果,因此将其从相关主题排除。
这样,通过设定上限Kmax=160和下限Kmax=40,根据“将在1m的基准主题距离下成像的具有160px或更大、以及40px或更小的图像内尺寸的那些主题从相关主题排除”的规则,获得步骤S703的处理结果。
此外,图22(c)例示在主题距离=2m,使用与图22(a)相同的上限Kmax,相应地通过对主题1进行成像而获得的图像。在此情况下的主题距离是图22的(a)的情况的两倍,因此在图像框300内主题1的图像内尺寸(垂直像素数量)是80px,其为图22(a)的160px的1/2。
此外,图22(d)例示在主题距离=2m,使用与图22(b)相同的下限Kmin,相应地通过对主题2进行成像而获得的图像。在此情况下,在图像框300内主题2的图像内尺寸(垂直像素数量)是20px,其为图22(b)的40px的1/2。
根据在此设定的规则,即“将在1m的基准主题距离下成像的具有160px或更大以及40px或更小的图像内尺寸的那些主题从相关主题排除”的规则,将把在2m的基准主题距离下成像的如图22(c)所示的具有80px或更大的图像内尺寸、或如图22(d)所示的具有20px或更小的图像内尺寸的主题从相关主题排除。
例如,在步骤S703要对图22(c)所示主题1进行确定的情况下,对于实际尺寸Sr1,获得Sr1=D1·Fy1=2×80=160。同样,在步骤S703要对图22(d)所示主题2进行确定的情况下,对于实际尺寸Sr2,获得Sr2=D2·Fy2=2×20=40。
可以根据通过以上计算获得的主题1和2的实际尺寸Srn理解,在实际中通过步骤S703的处理,具有比图22(c)所示主题1更大的尺寸的主题和具有比图22(d)所示主题2更小的尺寸的主题都会得到否定确定结果,因此根据所设定的规则,这些主题将被从相关主题排除。
此外,在该第三实施例中,如第二实施例的情况那样,在主题区分处理时,对于检测到的个别主题使用图像内尺寸的信息。因此,对于第三实施例的主题区分处理,同样可以想到与成像设备的场角(变焦倍率)的变化相对应的算法,成像设备用于成像并获得从主题检测处理单元201输入的图像数据。
图18的流程图示出与成像设备的场角(变焦倍率)相对应的主题区分处理。以与图17相同的方式,图示的处理也作为图16的步骤S607被执行。
在图18,步骤S801,S802,S804以及S805是与步骤S701,S702,S704以及S705相同的处理。
在步骤S803,确定条件Kmax>Srn/Z>Kmin是否成立,该条件包括根据此时在成像设备中设定的场角而获得的变焦倍率Z的值。注意,与1x的变焦倍率(即,Z=1)相应地设定此情况下的上限Kmax和下限Kmin。
根据该条件表达式,无论变焦倍率如何变化,都将实际尺寸校正为变焦倍率Z=1的值,并且可以将其与上限Kmax和下限Kmin适当比较。因此,还可以将使用该主题区分算法的构图确定应用于使用具有变焦(场角变化)功能的成像设备。
此外,注意上述条件表达式可以是Kmax·Z>Srn>Kmin·Z。
此外,根据目前的情况,面孔识别技术的进展已经使得能够根据诸如被检测为面孔的部分图像区域中的特征量之类的信息,以相当高的精度来确定作为主题的人是成人还是儿童(或婴儿)。
通常,成人与儿童之间面孔尺寸是不同的。即使在同一主题距离,作为主题时,所检测的图像尺寸也将显著不同。因此,在区分参数中包括图像内尺寸要素时,如第二实施例或第三实施例那样,通过考虑成人/儿童的确定结果来执行主题区分,甚至可以进一步提高主题区分的精度。
现在,将描述如下情况的结构示例:将应用成人/儿童确认结果的主题区分算法应用于第三实施例。
首先,图14或图15的主题检测处理单元201被配置为在执行主题检测时遵循执行预定成人/儿童判定算法的处理,确定每个检测个别主题是成人还是儿童,作为其属性(属性信息)。然后主题检测处理单元201基于成人/儿童判定结果,提供每个检测个别主题的检测个别主题信息,该信息带有表示是成人还是儿童的属性信息(成人/儿童属性信息)。
至于图14和15中与属性确定相对应的块配置形式,可以安排,例如,与主题检测处理单元201分离地提供用于属性确定的块(属性确定处理单元)。在此情况下,例如,属性确定处理单元对来自主题检测处理单元201的检测主题信息所指示的每个个别主题,对输入的图像数据中检测到面孔的部分图像区域执行属性确定处理,例如识别是成人还是儿童。可以想到出如下配置:根据所述识别结果,生成表示是成人还是儿童的属性信息,然后将该信息添加到检测主题信息中的检测个别主题信息中。
于是,例如,图14和15所示的第三实施例的构图确定块200中的构图确定处理单元203执行图19的流程图所示的处理。在该图中,步骤S901,S902,S905以及S906与例如图17的步骤S701,S702,S705以及S706相同。
在此情况下,在步骤S902获得否定确定结果的情况下,执行步骤S903的过程。
在步骤S903,查询与第n个检测个别主题相对应的检测个别主题信息中的成人/儿童属性信息,以识别是成人还是儿童,然后基于该识别结果来设定属性系数An。
注意,属性系数An具有根据是成人还是儿童而预先设定的不同值。对于儿童,为属性系数An设定与成人属性系数An相比更大的值。
在以下步骤S904,利用图16的步骤S606获得的实际尺寸Srn和在步骤S903获得的属性系数An来确定条件(条件表达式)
Kmax>Srn·An>Kmin
是否成立,并且在成立的情况下,在步骤S905将第n个检测个别主题设定为相关主题(对象个别主题),但是在获得否定确定结果的情况下,跳过步骤S905的过程,然后本流程进行到步骤S906。
现在,作为最简单的示例,假设与成人相对应的属性系数An=1,并且与儿童相对应的属性系数An=1.5。这假设如下理由:平均来说,将儿童面孔的检测框的上下(垂直)尺寸和侧向(水平)尺寸各自乘以1.5会得到与成人面孔的检测框的尺寸相等的尺寸。
在此情况下,条件表达式Kmax>Srn·An>Kmin对于成人来说成为Kmax>Srn>Kmin,而对于儿童来说成为Kmax>1.5·Srn>Kmin。也就是说,在此情况下,通过输入儿童面孔的实际尺寸并将其转换为成人面孔的实际尺寸,通过对在步骤S904使用的条件表达式的项Srn·An规范化(normalize),可以使用相同的上限Kmax和下限Kmin。因此,可以将步骤S904使用的条件表达式(通用表达式)写成Kmax/An>Srn>Kmin/An。
如根据以上描述可以理解的那样,步骤S904的条件表达式与对应于成人的情况下的图17中相同,因此略去对其的描述,而描述对应于儿童的情况。
利用与作为儿童的第n个检测个别主题相对应的条件表达式Kmax>1.5·rn>Kmin,首先,在获得1.5·Srn≥Kmax并且获得否定确定结果的情况下,作为儿童的检测个别主题的实际尺寸大于通常预期的尺寸。这可以认为是如下情况:例如,被显著放大的面孔照片或海报等被检测为个别主题。
而且,在获得1.5·Srn≤Kmin并且获得获得否定确定结果的情况下,作为儿童的检测个别主题的实际尺寸小于通常预期的尺寸。这可以认为是如下情况:如成人情况那样,例如,将非常小的儿童面孔照片检测为个别主题。
这样,在步骤S904,即使在将不同尺寸的儿童和成人检测为共存的个别主题的情况下,基于与其相对应的实际尺寸来适当执行主题区分处理。
图23例示作为第三实施例在考虑成人/儿童判定结果的情况下的主题区分以及对应的构图确定的示意性示例。注意,在本说明书中,本描述中使用以上图22给出的上限Kmax和下限Kmin的具体值。也就是说,已经设定上限Kmax=160和下限Kmin=40。此外,与上述情况相同,对于成人,将属性系数An设定为1,对于儿童,设定为1.5。在该图中,首先,在检测图像框300A中检测到两个主题1和2。在此情况下检测图像框300A分别具有320px的水平尺寸和240px的垂直尺寸。
假设根据检测个别主题信息的成人/儿童属性信息,表明主题1是儿童。另一方面,根据检测个别主题信息的成人/儿童属性信息,表明主题2是成人。
此外,假设对主题1和2检测的主题距离都是1m。此外,假设对于主题1和2检测的图像内尺寸(垂直像素数量)都是120px。
在此情况下,主题1和2都位于同一主题距离,但是分别是成人和儿童,因此其图像内尺寸应当实际上不同,与实际尺寸不同相一致(两者都是真实的人)。然而,检测的图像内尺寸都是120px,并且具有相同的图像内尺寸。现在,例如当在真实成人的情况下对一般真实测量主题成像时,获得120px的尺寸,其为图像框垂直尺寸240px的1/2。这意味着作为儿童的主题1对于真实的人来说异常地大。在此,我们可以说这是因为主题1是例如显著放大的照片等。应当将这种照片主题从相关主题排除。
这种情况下,首先,在步骤S904确定主题1时,
Sr1·An=D1·Fy1·An=1×120×1.5=180
成立。这意味着项1.5·Srn具有值180,其大于上限值Kmax=160,因此在步骤S904获得否定确定结果。也就是说,例如被判断为儿童等的照片的主题1不被设定为相关主题(对象个别主题),而是将其排除。
相反,接下来,在步骤S904确定主题2时,
Sr2·An=D2·Fy2·An=1×120×1=120
成立,并且Kmax>Srn·An>Kmin成立,因此获得肯定确定结果。因此,将成人主题1设定为相关主题(对象个别主题),并用于构图确定处理。
在图23通过确定的构图图像框300B与主题1和2之间的位置关系来示出此时的构图确定处理结果。如图所示,所确定的构图图像框300B中,将作为成人的主题2定位成大约位于中央,由于具有合适的图像内尺寸。另一方面,作为儿童的主题1在确定的构图图像框300B以外,因为它已从构图确定排除。
在此情况下,同样,已经将变焦倍率设定为很高以增大主题2的图像内尺寸,因此,将该图的确定的构图图像框300B示出为比检测图像框300A相对较小。
注意,实际检测图像框300A和确定的构图图像框300B的尺寸都是320px×240px。此外,主题2在确定的构图图像框300B中的尺寸(垂直像素数量)是比120px更大的根据变焦倍率的预定值。
此外,尽管略去通过流程图等中的例示方式的描述,但是还可以将使用属性系数An的主题区分应用于考虑变焦倍率的主题区分,其示于图18。在此情况下,可以配置为:在例如图18的步骤S803的处理之前,根据成人/儿童判定结果来设定属性系数An,在步骤S803中,确定Kmax>Srn·An/Z>Kmin(其中Z为变焦倍率)是否成立。
注意,还可以将考虑成人/儿童判定结果的主题区分处理应用于仅使用图像内尺寸作为区分参数的第二实施例。
也就是说,在此情况下,同样,在使用主题检测处理单元201进行主题检测处理时,对每个检测个别主题执行成人/儿童属性确定,然后将成人/儿童属性信息包括在每个检测个别主题信息中。此外,在例如图10的步骤S403的处理之前,根据成人/儿童判定结果来获得属性系数An。在步骤S403,对于以面积表示的尺寸Sn,确定Sn>K1·An^2(其中^表示幂)是否成立。注意在要使用垂直(或水平)像素数量的Fyn、而不使用根据面积的尺寸Sn的情况下,确定Fyn>K1·An是否成立。图11的步骤S503的情况也是如此。
尽管以上示例中描述对成人/儿童的两个选项进行确定,以简化并便于本说明书的理解,但是目前可以确定其他选项,如成人、儿童以及婴儿。因此,根据本实施例,可以安排为:对例如成人、儿童以及婴儿的三个选项进行确定,然后根据确定结果来设定3个不同的属性系数An,以执行主题区分处理。
此外,在以上示例中,仅将人作为对象,但是可以安排为:在主题检测处理的状态下对主题进行检测,例如不仅区分人,而且还区分诸如狗、猫等的动物,在主题检测处理中使用为人和动物类型等设定的属性系数An,对人和动物的每一个执行相关主题的区分处理。因此可以说,对于这些主题存在的情况,根据属性系数An确定的主题属性与实际测量中的尺寸差异相关联。
利用根据至此描述的第一示例到第三示例的构图确定块200的结构,也就是说,利用根据本实施例的基本构图确定结构,利用检测个别主题的主题距离、图像内尺寸以及实际尺寸之一来执行相关主题区分。注意,还将主题距离、图像内尺寸以及实际尺寸总称为“区分参数”。
这样,基于如上所述的作为区分参数的主题距离、图像内尺寸以及实际尺寸,对主题的区分处理排除了例如主题距离过近或过远、具有超过正常范围的图像内尺寸、或者实际尺寸太大或太小的主题。因此,可以说利用区分参数执行的主题区分是确定作为区分参数而获得的值是否在对相关主题适当设定的值(范围值)之内。
根据上述主题区分处理,仅对合适的并且适合作为相关主题的主题进行精确区分,因此,可以提供例如一种构图确定装置,其在能力和使用简易性方面优于现有技术的构图确定装置。
可以将至此描述的根据本实施例的构图确定配置应用于很多类型的装置、系统等。因此,接下来将描述几种装置示例和根据本实施例的构图确定配置的应用的系统配置示例。
首先,将描述根据本实施例的构图确定在由数字静态摄像机和该数字静态摄像机所安装到的平台构成的成像系统上的应用。与本实施例相应的成像系统使得能够根据通过构图确定而确定的构图来执行静态图像成像和记录。
图24例示根据本实施例的从正面观察的成像系统的外部结构示例。如图所示,根据本实施例的成像系统由数字静态摄像机1和平台10构成。
数字静态摄像机1基于使用提供给主单元前端面板的透镜单元3成像而获得的成像光,生成静态图像数据,并且可以将其存储在内部安装的存储介质中。也就是说,数字静态摄像机1具有将拍摄成照片的图像存储并保存在存储介质中作为静态图像数据的功能。在手动执行这种摄影成像的情况下,用户按压设置于主单元上表面的快门(释放)按钮。
平台10可以安装数字静态摄像机1,使得数字静态摄像机1固定于平台10。也就是说,数字静态摄像机1和平台10都具有使得能够相互接合的机械部分。平台10具有沿摇摄方向(水平方向)和倾斜方向移动所安装的数字静态摄像机1的摇摄/倾斜机构。
例如图25A和25B示出平台10的摇摄/倾斜机构所允许的数字静态摄像机1的摇摄方向和倾斜方向的运动。图25A和25B是安装于平台10的数字静态摄像机1的从平面和侧面方向的视图。
首先,对于摇摄方向,在数字静态摄像机1的侧向方向与图25A的线X1是作为基准的相同方向的位置状态,以转动轴Ct 1为转动中心沿转动方向+α旋转,提供向右方向的摇摄运动。此外,沿转动方向-α旋转,提供向左方向的摇摄运动。
接下来,对于倾斜方向,在数字静态摄像机1的垂直方向与线Y1是作为基准的相同方向的位置状态,以转动轴Ct 2为转动中心沿转动方向+β旋转,提供向下方向的摇摄运动。此外,沿转动方向-β旋转,提供向上方向的摇摄运动。
尽管未具体提及图25A和25B中±α方向和±β方向的最大转动角,但是可以说,如果考虑到增大捕获主题的机会,则期望最大转动角尽可能地大。
图26内部例示根据本实施例的成像系统,作为与每个功能操作相对应的块结构。
在图26,数字静态摄像机1包括成像块61、构图确定块62、摇摄/倾斜/变焦控制块63、以及通信控制处理块64。
成像块61是输出通过成像获得的图像作为图像信号数据(成像图像数据)的部件,并且包括用于成像的光学系统、成像装置(图像传感器)、用于根据从成像装置输出的信号生成成像图像数据的信号处理电路,等等。
构图确定块62获取并输入从成像块61输出的成像图像数据,然后基于成像图像数据执行进行构图确定的处理。对于构图确定块62,可以采用前面在第一到第三实施例的图1、2、7、8、14以及15示出的任一构图确定块200。也就是说,构图确定块62可以对成像图像数据的图像中存在的主题中的仅作为对象的相关主题,执行构图确定。
摇摄/倾斜/变焦控制块63执行获得某个成像视角的摇摄/倾斜/变焦控制(构图控制),以获得从构图确定块62输入的构图确定结果的信息所指示的成像图像构图。
也就是说,获得平台10的摇摄/倾斜机构的运动量,数字静态摄像机1必须移动该运动量,使得成像方向符合构图结果所表示的构图,然后生成摇摄/倾斜/变焦控制信号以根据所获得的运动量来指示运动。
此外,获得变焦位置以获得某个场角,以获得构图结果所表示的成像图像构图,然后控制成像块61的变焦机构以达到该变焦位置。
通信控制块64是根据预定通信协议与设置于平台10侧的通信控制块71执行通信的部件。通过通信控制块64执行的通信,将摇摄/倾斜/变焦控制块63生成的摇摄/倾斜控制信号发送给平台10的通信控制块71。如图所示,例如,平台10具有通信控制块71和摇摄/倾斜控制处理块72。通信控制块71是与数字静态摄像机1侧的通信控制块64通信的部件,并且在接收上述摇摄/倾斜控制信号的情况下,将摇摄/倾斜控制信号输出给摇摄/倾斜控制处理块72。
摇摄/倾斜控制处理块72对应于平台10侧的微型计算机等(未示出)执行的控制处理中的执行与摇摄/倾斜控制有关的处理机构。摇摄/倾斜控制处理块72根据输入的摇摄/倾斜控制信号来控制在此未示出的摇摄驱动机构单元和倾斜驱动机构单元。相应地,执行根据所确定的构图来获得水平视角和垂直视角的摇摄和倾斜操作。
此外,在构图确定块62未检测到主题的情况下,摇摄/倾斜/变焦控制块63例如可以根据命令来执行搜索主题的摇摄/倾斜/变焦控制。
利用具有图26所示结构的数字静态摄像机1和平台10构成的成像系统,可以安排为:将人处理成构图确定的主题(以下简称为“主题”),对主题进行搜索,并且在检测到存在主题的情况下,激活平台10的摇摄/倾斜机构以获得(取景)包括该主题的图像的最优构图(最优构图)。在获得最优构图时,可以将此时的成像图像数据记录(成像记录)在存储介质中。
图27是例示利用以上图26所示的成像系统进行成像记录的过程示例流程图。
根据该图,首先,通信控制处理块64在步骤S1001获得成像图像数据。
在下一步骤S1002,构图确定块62执行区分参数的主题检测处理检测,以及主题区分处理。根据需要,如在以上第一到第三实施例描述的那样,这些处理由主题检测处理单元201、主题距离检测单元202A、主题尺寸检测单元202B、实际尺寸检测单元205、主题区分处理单元204、构图确定处理单元203等来执行。
在步骤S1003,构图确定块62的构图确定处理单元203确定是否存在对象个别主题(相关主题),作为步骤S1002的主题区分处理结果。
构图确定处理单元203读取区分检测的主题的检测个别主题信息,根据步骤S1002的主题区分处理进行输出,然后如果其结果是不存在有效的检测个别主题信息,则意味着没有剩余的对象个别主题(真实主题)。另一方面,如果存在有效的检测个别主题信息,意味着存在对象个别主题。
现在,在步骤S1003获得否定确定结果的情况下,本流程返回到步骤S1001,因为需要再次执行主题检测,在此情况下构图确定块62在步骤S1008指示摇摄/倾斜/变焦控制,然后返回到步骤S1001。也就是说,在此情况下步骤S1001到S1003的过程基于主题搜索时获得的成像图像数据来执行主题检测。
相反,在获得肯定确定结果,即在步骤S1003检测到至少一个个别主题的情况下,本流程进行到步骤S1004的过程。
在步骤S1004,基于构图确定处理单元203从主题区分处理单元211输入的对象个别主题的检测个别主题信息,执行构图确定处理,然后将其确定结果的信息发送给摇摄/倾斜/变焦控制块63。
步骤S1005是摇摄/倾斜/变焦控制块63执行的处理。也就是说,摇摄/倾斜/变焦控制块63执行控制以使成像视野符合要获得的构图确定结果,即,进行构图匹配的摇摄/倾斜/变焦控制。
在启动步骤S1005的构图匹配控制之后,在步骤S1006确定是否可认为此时实际获得的成像图像数据的图像的构图处于与步骤S1004确定的构图相同的状态(例如,是否具有一定程度或更高的相似性)(构图是否OK)。注意,例如,所述确定可以通过对构图确定处理单元203输出构图确定结果之后获得的对象个别主题的检测个别主题信息的位置信息的变化进行检测来实现。
现在,尽管已经执行了充分的摇摄/倾斜/变焦运动和驱动,但是由于某种原因构图仍然不成功的情况下,在步骤S1006输出否定确定结果。在此情况下,本流程通过步骤S1008返回到步骤S1001,从而恢复主题搜索。
相反,在步骤S1006获得构图成功的确定结果的情况下,在步骤S1007指示释放操作,即,指示执行将此时获得的成像图像数据记录成静态图像的操作。这里,例如也可以将释放指示理解成由构图确定处理单元203执行。
注意,根据例如图26所示的结构,在用于构图的摇摄/倾斜/变焦控制完成时,对成像记录的指示(对释放操作的指示)可以从摇摄/倾斜/变焦控制块63到诸如成像块61的合适部件来执行。替换地,在确定成像图像数据的图像中获得的实际构图与所确定的最优构图之间的相似度达到某个程度或更高时,释放指示可以利用构图确定块62执行。
按此方式,使用图26的成像系统,在使用数字静态摄像机摄影时,首先,对搜索主题判定(确定)最优构图,然后自动执行摄影和记录。因此,即使用户未确定构图和拍摄画面,也可以获得相当高质量的照片图像。此外,利用这种系统,无需任何人手持摄像机并进行拍摄,因此场景中的所有人都可以是主题。此外,即使不必所有主题都试图位于摄像机的视角范围内的情况下,可以获得所有主题都在画面中的照片。也就是说,以更自然的状态拍摄到摄影时的场景中的人的机会更大,因此可以获得许多迄今为止不易获得的自然的照片。
上述系统执行根据上述第一和第二实施例的构图确定,因此可以对具有合适构图的图像执行成像记录,仅将相关主题当作对象,排除位于期望被当作主题(如面孔照片)的主题附近的不期望被当作主题的其他对象。
图28例示根据图26所示的本实施例的成像系统的修改例。
在该图中,在数字静态摄像机1,将成像块61获得的成像图像数据从通信控制处理块64发送到平台10侧的通信处理控制块71。
在该图中,将平台10示为包括通信控制块71、摇摄/倾斜控制处理块72以及构图确定块73。
将通信控制处理块71接收的成像图像数据输出给构图确定块73。前面在图1、图2、图7、图8、图14、图15中所示作为第一到第三实施例的任一构图确定块200都可以作为构图确定块72,以能够基于输入的成像图像数据仅对相关主题执行构图确定处理。在此情况下,基于构图确定结果,获得摇摄机构单元和倾斜机构单元的运动量,使得拍摄方向与所确定的构图相匹配,例如图26的摇摄/倾斜/变焦控制块63的情况那样,然后生成根据所获得的运动量来指示运动的摇摄/倾斜控制信号,并将该信号输出给摇摄/倾斜控制处理块72。相应地,执行摇摄和倾斜从而可以获得构图确定块73确定的构图。
这样,将图28所示的成像系统配置成将成像图像数据从数字静态摄像机1发送到平台10侧,在平台10侧使用获得的成像图像数据执行构图确定,然后还由平台10执行对应的摇摄/倾斜控制(构图控制)。此外,根据图28所示的结构,控制成像视角(构图控制)时不执行变焦(场角)控制,这表示根据本实施例,对于构图控制而言,摇摄/倾斜/变焦中的每一个并非不可缺少。例如,根据条件或情况,可以仅通过摇摄控制、仅通过倾斜控制、或者仅通过变焦控制,实现根据确定构图的构图控制。
图29例示根据本实施例的成像系统的另一修改例的结构示例。注意,以相同标号表示该图中与图28的那些组件相同的组件,因此将略去对其的描述。
系统具有位于平台10侧的成像块75。按与例如图26和28所示的成像块相同的方式,成像块75由光学系统、用于成像的成像装置(图像传感器)(其被配置成基于成像光来获得信号(图像信号))、以及用于根据成像信号生成成像图像的信号处理单元构成。
将成像块75生成的成像图像数据输出给构图确定块73。注意,优选配置是使成像块75输入成像光的方向(成像方向)与安装在平台10的数字静态摄像机1的成像方向尽可能地匹配。
在此情况下构图确定块73和摇摄/倾斜控制处理块72执行按与图28相同方式的构图确定,以及根据构图确定结果驱动控制摇摄/倾斜机构。
应当指出在此情况下构图确定块73根据数字静态摄像机1执行释放动作的时序(对来自成像块75的成像图像数据的图像已经获得确定构图的时序),将释放指示信号经由通信控制处理块71发送到数字静态摄像机1。数字静态摄像机1响应于接收的释放指示信号而执行释放操作,然后基于此时成像块75获得的成像图像数据来执行图像数据的成像记录。根据其他实施例,与构图确定和构图控制有关的所有控制和处理可以在平台10侧执行,除涉及释放操作本身的操作以外。
注意根据以上描述,通过控制平台10的摇摄/倾斜机构的运动,执行摇摄控制和倾斜控制,但是可以想到出另一配置,其中将从反射镜反射的成像光输入到例如数字静态摄像机1的光学系统21,而不是平台10,然后移动反射镜使得为基于成像光而获得的图像获得摇摄/倾斜结果。
此外,可以通过沿水平方向和垂直方向移动数字静态摄像机1的成像装置(成像传感器22)作为图像获取有效成像信号的像素区域,获得与执行摇摄/倾斜等效的结果。在此情况下,不必准备除了数字静态摄像机1以外的用于摇摄/倾斜的装置,如平台10或等效装置,因此只在数字静态摄像机1内就可以完成本实施例的构图控制。
此外,对于场角控制(变焦控制),同样可以安排为:通过执行裁剪成像图像数据的部分图像区域的图像处理来实现场角控制,而不必驱动变焦透镜。
此外,数字静态摄像机1可以配备有能够沿水平和垂直方向改变数字静态摄像机1的光学系统的透镜的光轴的机构,使得可以通过控制该机构的运动来执行摇摄和倾斜。
接下来,将描述根据本实施例(第一到第三实施例)的构图确定配置应用到除上述成像系统以外的示例。
首先,图30例示根据本实施例的构图确定在诸如数字静态摄像机等的独立成像设备的应用,其中例如根据检测结果在某个时刻显示通知用户在摄影模式下通过成像设备成像的图像获得了合适的构图。
在此示出为此目的成像设备应当具有的结构,包括构图确定块81、通知控制处理块82以及显示单元83。对于构图确定块81,可以使用先前在图1,2,7,8,14,以及15所示的根据第一到第三实施例的任一构图确定块200。
例如,假设用户已将成像设备设定为摄影模式,将成像设备把持在手上,并且处于可以在任何时间执行释放操作(快门按钮操作)以记录成像图像的状态。在这种状态下,构图确定块81首先获取此时通过成像获得的成像图像数据,根据本实施例执行一系列构图确定处理,然后确定最优构图。
此外,此时构图确定块81获得此时实际获得的成像图像数据的图像内容的构图与所确定的最优构图之间的匹配度和/或相似度。如果例如相似度达到一定水平或更高,确定此时实际获得的成像图像数据的图像内容的构图已达到最优构图。在实际实践中,可以想到出如下安排:准备算法以在达到一定程度或更高的相似度,从而可认为成像图像数据的图像内容的构图与最优构图已经匹配时,确定已经达到最优构图。可以想到出很多种确定匹配度或相似度的算法,因此这里不对其具体示例进行具体讨论。
将关于成像图像数据的图像内容的效果已经达到最优构图的确定结果的信息输出给通知控制处理块82。通知控制处理块82根据输入的信息执行显示控制,以通过在显示单元83上执行预定形式的显示控制,来通知用户当前成像图像是最优结构。注意,通知控制处理块82是通过成像设备包括的微型计算机(CPU)等的显示控制功能和对显示单元83实现图像显示的显示图像处理功能等实现的。还可以可听地(如电子声音、合成语音或任何其他种类的声音)执行将关于已实现最优构图的效果给用户的通知。
此外,显示单元83例如对应于根据本实施例的数字静态摄像机1的显示单元33,其常常配置成使得显示板位于成像设备的预定位置,此时成像图像显示在其上。还将处于摄影模式的这种图像称为“直通图像(through image)”。相应地,在实际实践中,利用成像设备,将达到最优构图效果的图像重叠显示在显示单元83的直通图像上。当显示通知达到最优构图时,用户执行释放操作。因此,不甚了解摄影或者摄影技巧不高的用户也可以容易地以良好构图拍摄照片。
此外,与上述图30的情况一样,图31示出根据本实施例的构图确定在诸如数字静态摄像机1的独立成像设备的应用结构。
首先,根据该图所示的结构,构图确定块81执行基于输入的成像图像数据来确定最优构图的处理,并确定在后续时序获得的成像图像数据的图像内容是否为最优构图。
当确定构图是最优构图时,将该效果通知给释放控制处理块84。
释放控制处理块84是执行记录成像图像数据的控制的部件,并且通过例如成像设备的微型计算机执行的控制来实现。已经接收到上述通知的释放控制处理块84执行图像信号处理和记录控制处理,从而将此时获得的成像图像数据记录在例如记录介质中。
根据这种配置,可以提供如下成像设备:其中例如根据最优构图的图像被成像时,自动执行其记录。
可以将以上图30和31所示结构应用于具有例如图1所示结构的数字静态摄像机,也可以应用于落在例如静态摄像机的范围内的摄像机,包括所谓的银盐摄像机(其将成像图像记录在银盐胶卷)等。在此情况下,将为银盐摄像机提供,例如对通过光学系统获得的成像光进行分割的图像传感器,和从图像传感器输入并处理信号的数字图像信号处理单元,等等。
图32是将根据本实施例的构图确定结构应用于诸如数字静态摄像机的成像设备的结构示例。图32所示的成像设备100具有构图确定块101、元数据创建处理块102以及文件创建处理块103。我们假设构图确定块101具有上述第一到第三实施例在图1、图2、图7、图8、图14、图15的任何一个例示的构图确定块200的结构。
利用未示出的成像块通过成像获得的成像图像数据输入给成像设备100的构图确定块101和文件创建处理块103。注意,输入给成像设备100的成像图像数据是由于释放操作等而将要记录在记录介质中的成像图像数据,并且成像图像数据是基于未示出的成像块通过成像获得的成像信号来生成的。
首先,构图确定块101在排除了无关主题(静态主题)以相关主题为对象来执行构图确定。此外,在此情况下的构图确定处理包括在其上执行如下处理:基于构图确定结果,根据预定垂直-水平比(最优构图的图像部分),确定输入的成像图像数据的整个图像区域中的哪个部分是获得了所确定的最优构图的图像部分。然后将表示最优构图的所识别出的图像部分的信息输出给元数据创建处理块102。
在元数据创建处理块102,基于输入信息来创建由根据对应的成像图像数据来获得最优构图的信息组成的元数据(构图编辑元数据),然后将其输出给文件创建处理块103。构图编辑元数据的内容例如是位置信息,可以表示要剪裁(trim)对应的成像图像数据的哪个图像区域部分,等等。
利用该图所示的成像设备100,将成像图像数据记录在记录介质中以作为预定格式的静态图像文件来管理。相应地,文件创建处理块103将成像图像数据转换成静态图像格式(即,根据该格式来创建静态图像文件)。
文件创建处理块103首先对输入的成像图像数据执行与图像文件格式相对应的图像压缩编码,然后创建由成像图像数据组成的文件主体部分。此外,将从元数据创建处理块102输入的构图编辑元数据存储在预定存储位置,以创建由头部、添加信息块等组成的数据部分。将文件主体部分、头部、添加信息块用于创建静态图像文件,然后输出文件。如图32所示,要记录在记录介质中的静态图像文件具有包括成像图像数据和元数据(构图编辑元数据)的结构。
图33例示对图32所示的装置创建的静态图像文件执行编辑的编辑装置的结构示例。图33所示的编辑装置110获取静态图像文件的数据,然后首先将其输入给元数据分离处理块111。元数据分离处理块111从静态图像文件中分离出与文件主体部分等效的成像图像数据,以及元数据。元数据分离处理块111然后将通过分离获得的元数据输出给元数据分析处理块112,并且将成像图像数据输出给剪裁处理块113。
元数据分析处理块112是执行分析输入元数据的处理的部件。在此对构图编辑元数据执行的分析处理至少包括:从作为构图编辑元数据的内容的用于获得最优构图的信息中,识别出要在对应的成像图像数据上对其执行剪裁的图像区域。然后将指示剪裁所识别的图像区域的剪裁指示信息输出给剪裁处理块113。
按与前面描述的图32的剪裁处理块91相同的方式,剪裁处理块113执行图像处理以从元数据分离处理块111侧输入的成像图像数据裁剪由从元数据分析处理块112输入的剪裁指令信息所表示的图像部分,然后输出裁剪后的图像部分作为编辑成像图像数据,其为独立的图像数据。
利用以上图32和33所示的成像设备和编辑装置构成的系统,可以在不进行图像处理的情况下保存通过例如摄影而获得的期望的静态图像数据(成像图像数据),然后可以利用元数据从期望的静态图像数据执行编辑以裁剪出作为最优构图的图像。此外,自动判断要裁剪与这种最优构图相对应的哪个图像部分,使得对于用户来说编辑非常容易。
注意可以想到出如下安排:例如,通过安装在个人计算机中的编辑图像数据的应用、管理图像数据的应用中的图像编辑功能等来实现图33所示的编辑装置的功能。
图34例示将根据本实施例的构图确定结构应用于诸如视频摄像机的能够拍摄并记录运动图像的成像设备的示例。将运动图像数据输入到图34所示的成像设备120。基于成像设备120具有的成像单元执行成像而获得的成像信号来生成运动图像数据。将运动图像数据输入给成像设备120所包括的构图确定块122和运动图像记录处理块124。
在此情况下构图确定块122基于以上图1、图2、图7、图8、图14、图15的任何一个图示的构图确定块200的结构,通过仅对其输入的运动图像数据的图像中的相关主题来执行构图确定,获得最优构图。于是,构图确定块122通过对运动图像数据的图像的实际构图与所确定的最优构图之间的差异进行比较来进行检查。在例如稍后描述的构图确定的具体示例中执行的处理中,通过构图确定来获得与最优构图相对应的参数,如对象个别主题在图像内占据的百分比(尺寸)、主题之间的距离等。因此,在实际比较过程中所要做的只是将与最优构图相对应的这些参数与运动图像数据的图像当前表明的参数进行比较。
作为比较结果而确定这些参数具有一定程度或更高相似度的情况下,确定构图是良好的,在相似度低于所述一定水平的情况下,确定构图不好。
如上所述构图确定块122确定对运动图像数据获得了良好构图的情况下,构图确定块122向元数据创建处理块123输出关于以上对其已经确定获得良好构图的图像部分(良好构图图像部分)在何处的信息(良好构图图像部分指示信息)。“良好构图图像部分”例如是表示诸如良好构图图像部分在运动图像数据中的开始位置和结束位置等的信息。
在此情况下元数据创建处理块123生成元数据,其由后述运动图像记录处理块124使用以将运动图像数据作为文件记录在记录介质中。当从构图确定块122输入良好构图图像部分指示信息时,元数据创建处理单元123生成元数据,其表示输入的良好构图图像部分指示信息所表示的图像部分是良好构图,然后将其输出给运动图像记录处理块124。
运动图像记录处理块124执行控制以将输入的运动图像数据记录在记录介质中,以作为预定格式的运动图像文件来管理。在元数据创建处理块123输出元数据的情况下,运动图像记录处理块124执行控制使得该元数据被包括在附加到运动图像文件的元数据中。
因此,记录在记录介质中的运动图像文件具有内容,其中表示已获得良好构图的图像部分的元数据被附加到通过成像获得的运动图像数据。
注意,上述元数据表示的已经获得良好构图的成像部分可以是具有一定程度的时间跨度的运动图像中的图像部分,或者可以是从运动图像数据提取出的静态图像中。可以想到出另一种安排,即生成获得良好构图的图像部分的运动图像数据或静态图像数据,而非上述元数据,然后将这种运动图像数据或静态图像数据记录成二次图像数据,其附加到运动图像文件(或者与运动图像文件独立的文件)。
此外,利用成像设备120具有如图34所示的构图确定块122的结构,可以想到出如下配置:仅将运动图像的由构图确定块122确定为良好构图图像部分的部分记录为运动图像文件。此外,可以想到出如下安排:将与构图确定块122确定为良好构图的图像部分相对应的图像文件通过数据接口等向外输出到外部装置。
此外,除了图33所示的编辑装置以外,还可以将图35所示打印装置130想到成与图32所示成像设备100相对应的装置的示例。在此情况下,将打印装置130配置成获取静态图像文件作为要打印的图像。静态图像文件包括例如成像设备100生成的静态图像文件,并且具有的结构包括作为静态文件的实际图像数据和如图所示的元数据。因此,元数据包括图32和33所示的静态图像文件的等效内容的构图编辑元数据。
将如此输入获得的文件输入给元数据分离处理块131。按与图33的元数据分离处理块111相同的方式,元数据分离处理块131从静态图像文件数据中将与文件主体部分等效的图像数据与附到图像数据的元数据分离。将分离后获得的元数据输出给元数据分析处理块132,然后将图像数据输出给剪裁处理块133。
元数据分析处理块132按与图33的元数据分离处理块111相同的方式对输入的元数据执行分析处理,然后将剪裁指示信息输出给剪裁处理块133。
按与图33的剪裁处理块相同的方式,剪裁处理块133执行图像处理,从自元数据分离处理块131输入的图像数据中裁剪出元数据分析处理块132输入的剪裁指示信息所表示的图像部分。然后将根据剪裁图像部分生成的具有某种打印格式的图像数据输出给打印控制处理块134,作为打印图像数据。打印控制处理块134利用输入的打印图像数据来执行控制使未示出的打印机构进行操作。
由于这种操作,利用打印装置130,将获得最优构图的图像部分自动从输入的图像数据的图像内容中裁剪出来,然后打印成单个图像。
然后,将描述应用根据本实施例的构图确定的装置和系统的更具体结构示例。在此将给出关于数字静态摄像机1和平台10构成的具有通过先前图24到26所例示和描述的系统结构的成像系统的示例。
首先,在图36示出与数字静态摄像机1有关的实际内部结构示例框图。在图36,光学系统21由例如包括多个成像透镜(如变焦透镜、聚焦透镜等)的成像透镜组和光圈等组成,并且将入射光作为成像光成像在图像传感器22的光接收面。
光学系统21还具有驱动变焦透镜、聚焦透镜、光圈等的驱动机构。驱动机构的操作是通过例如控制单元27执行的所谓摄像机控制来控制的,如变焦(场角)改变控制、自动聚焦调节控制、自动曝光控制等。
图像传感器22执行所谓的光电转换,其中将在光学系统21获得的成像光转换成电信号。因此,将图像传感器22配置成在光电转换装置的光接收面接收来自光学系统21的成像光,然后按预定时序顺序输出根据所接收的光强度而累积的信号电荷。这会输出与成像光相对应的电信号(成像信号)。注意,在目前状态,用作图像传感器22的光电转换装置(成像装置)的示例可以包括CMOS传感器或CCD(电荷耦合器件)等,但是并不受具体限制。此外,在使用CMOS传感器的情况下,可以将与后述A/D转换器23等效的A/D转换器包括在该结构中,作为与图像传感器22等效的装置(部件)。
从图像传感器22输出的成像信号输入到A/D转换器23,由此将其转换成数字信号并输入给信号处理单元24。信号处理单元24例如以等效于单个静态图像(帧图像)的单位输入从A/D转换器23输出的成像信号,然后使以静态图像为单位的输入图像信号受到预定信号处理,从而生成成像图像数据(成像静态图像数据),其是与单个静态图像等效的图像信号数据。
在信号处理单元24生成的成像图像数据作为图像信息记录在作为记录介质(记录介质装置)的存储器卡40中的情况下,将与例如单个静态图像相对应的成像图像数据从信号处理单元24输出给编码/解码单元25。
编码/解码单元25使从信号处理单元24输出的以静态图像为单位的成像图像数据经受根据预定静态图像压缩编码方法的压缩编码处理,根据例如控制单元27的控制来添加头部,然后转换成根据预定格式压缩的成像图像数据格式。按此方式生成的成像图像数据传送给介质控制器26。介质控制器26按照控制单元27的控制将传送给它的成像图像数据写入并记录在存储器卡40。在此情况下存储器卡40是具有卡外形的根据例如预定标准的存储介质,并且其中具有诸如闪速存储器的非易失性半导体存储装置。注意用于存储图像数据的存储介质并不限于以上存储卡,而是可以具有其他类型、格式等。
此外,根据本实施例的信号处理单元24可以利用上述获得的成像图像数据来执行主题检测的图像处理。稍后将描述根据本实施例的主题检测处理是什么。
此外,数字静态摄像机1可以利用信号处理单元24获得的成像图像数据并在显示单元33显示图像,以显示所谓的“直通图像”,其为当前正在被成像的图像。例如,信号处理单元24获得从A/D转换器23输出的成像信号,然后如上所述生成等效于一个静态图像的成像图像数据,持续地执行该处理,从而顺序地生成与运动图像的帧图像等效的成像图像数据。在控制单元27的控制下,将由此顺序地生成的成像图像数据传送给显示驱动器32。这样显示了直通图像。
在显示驱动器32,基于如上所述从信号处理单元24输入的成像图像数据来生成驱动显示单元33的驱动信号,然后将其输出给显示单元33。因此,在显示单元33顺序地显示基于以静态图像为单位的成像图像数据的图像。用户由此可以在显示单元33动态查看此时正在成像的图像,即显示了直通图像。
此外,数字静态摄像机1可以播放记录在存储器卡40中的成像图像数据,并将图像显示在显示单元33。例如,控制单元27指定成像图像数据,并命令介质控制器26从存储器卡40读出数据。响应于命令,介质控制器26访问存储器卡40的记录有指定成像图像数据的地址,然后读出该数据,然后将已读出的数据传送给编码/解码单元25。
编码/解码单元25在例如控制单元27的控制下从介质控制器26传送的成像图像数据中提取出作为压缩静态图像数据的实际数据,对与压缩静态图像数据有关的压缩编码数据执行解码处理,然后获得与单个静态图像相对应的成像图像数据。然后将成像图像数据传送给显示驱动器22。因此,通过在显示单元33进行显示来播放记录在存储器卡40中的成像图像数据的图像。
此外,还可以在显示器单元33与成像图像数据的上述监视器图像或播放图像一起显示用户界面图像。在此情况下,控制单元27根据例如此时的操作状态生成作为用户界面图像的显示图像数据,然后将其输出给显示驱动器32。相应地,在显示单元33显示用户界面图像。注意,可以将用户界面图像与成像图像数据的监视器图像或播放图像分开显示在显示单元33的显示屏面,例如特定菜单屏面的情况那样,或者显示成与成像图像数据的一部分监视器图像或播放图像部分重叠或合成。
在实际实践中,控制单元27包括例如CPU(中央处理器)以及ROM 28,RAM 29等,构成微型计算机。ROM 28例如作为控制单元27存储CPU的程序以执行,以及与数字静态摄像机1的操作有关的各种类型的设置信息等。RAM 29是CPU的主存储装置。
此外,在此情况下将闪速存储器30配置成用于存储各种类型的设置信息等的非易失性存储区,这些设置信息将根据例如用户操作、操作例示等被更新(改写)。注意,使用诸如闪速存储器等的非易失性存储器作为ROM 28的情况下,可以使用ROM 28的部分存储区来代替闪速存储器30。
操作单元31包括提供给数字静态摄像机1的各种类型的操作元件,以及操作信息信号输出部件,所述操作信息信号输出部件用于根据在操作元件执行的操作来生成操作信息信号,然后将其输出给CPU。控制单元27根据从操作单元31输入的操作信息信号来执行预定处理。由此,数字静态摄像机1根据用户操作来执行操作。
平台兼容通信单元34是按照预定通信格式在平台10侧与数字静态摄像机1侧之间执行通信的部件,并且由以下结构构成:物理层结构,其使得在将数字静态摄像机1安装到平台10的情况下在数字静态摄像机1与平台10的通信单元之间交换有线或无线通信信号;和上层结构,用于实现与其相对应的通信处理。
图37是例示平台10的结构示例的框图。如上所述,平台10具有摇摄/倾斜机构,摇摄机构单元53、摇摄电机54、倾斜机构单元56以及倾斜电机57与摇摄/倾斜机构相对应。
摇摄机构单元53的结构具有为安装到平台10的数字静态摄像机1提供图25A所示的沿摇摄(水平)方向运动的机构,并且该运动是通过沿正反方向转动摇摄电机54而获得的。按相同的方式,倾斜机构单元56的结构具有为安装到平台10的数字静态摄像机1提供图25B所示的沿倾斜(垂直)方向运动的机构,并且该运动是通过沿正反方向转动倾斜电机57而获得的。
控制单元51配置成具有例如CPU,ROM,RAM等的组合形成的微型计算机,并且控制摇摄机构单元53和倾斜机构单元56的运动。在控制单元51控制摇摄机构单元53的运动时,将与摇摄机构单元53的运动量和运动方向相对应的控制信号输出给摇摄驱动单元55。摇摄驱动单元55生成与输入的控制信号相对应的电机驱动信号,然后将生成的电机驱动信号输出给摇摄电机54。电机驱动信号使得摇摄电机54按预定转动角度沿预定转动方向转动,因此,也驱动摇摄机构单元53以沿对应的运动方向移动对应的运动量。
按相同的方式,在控制单元51控制倾斜机构单元56的运动时,将与倾斜机构单元56的运动量和运动方向相对应的控制信号输出给倾斜驱动单元58。倾斜驱动单元58生成与输入的控制信号相对应的电机驱动信号,然后将生成的电机驱动信号输出给倾斜电机57。电机驱动信号使得倾斜电机57按预定转动角度沿预定转动方向转动,因此,也驱动倾斜机构单元56以沿对应的运动方向移动对应的运动量。
通信单元52是根据预定通信格式与设置在安装到平台10的数字静态摄像机1内的平台兼容通信单元34执行通信的部件,并且以与平台兼容通信单元34相同的方式,由以下结构组成:物理层结构,其使得能够与另一侧的通信单元交换有线或无线通信信号;和上层结构,用于实现与其相对应的通信处理。
现在,图26所示的成像系统的结构与图36和37所示的数字静态摄像机1和平台10的结构之间的关联例如如下。注意,应当将下述关联理解成仅仅是一个简单构思的示例,还可以构思并使用其他关联。
图26的数字静态摄像机1的成像块61对应于例如图36中的光学系统21、图像传感器22、A/D转换器23以及信号处理单元24部分,直到获得成像图像数据的阶段。
图26的数字静态摄像机1的构图确定块62对应于与预定处理相对应的图像信号处理功能,预定处理例如是主题检测(也包括属性确定处理,诸如本文的成人/儿童判定)、静态检测、主题区分、掩盖等,以及例如图36的信号处理单元24,以及与其控制单元(CPU)27执行的构图确定有关的处理功能。
如前所述,光学系统27具有变焦透镜和驱动它的驱动机构单元。将控制单元27配置成从光学系统21获得表示变焦透镜的当前位置的变焦位置信息以用于变焦控制。在将变焦倍率值Z提供给以上第二和第三实施例中的主题区分处理中的条件表达式的情况下,可以从控制单元27如上所述地获得的变焦位置信息来获得变焦倍率值Z。
图26的数字静态摄像机1的摇摄/倾斜/变焦控制块63对应于图36的控制单元27为了摇摄/倾斜/变焦控制而执行的处理功能。
图26的通信控制处理块64对应于例如图36的平台兼容通信单元34,并且对应于图36的控制单元27为了通信而使用平台兼容通信单元34执行的处理功能。
图26的平台10的通信控制块71对应于例如图37的通信单元52,并且对应于控制单元51为了通信而使用通信单元52执行的处理。
图26的摇摄/倾斜控制处理块72对应于与例如图37的控制单元51执行的摇摄/倾斜控制有关的处理的执行功能,并且向摇摄驱动单元55和倾斜驱动单元58输出信号,用于根据输入的控制信号来控制摇摄机构单元53和倾斜机构单元56的运动。
接下来,将描述根据到此为止的实施例的成像系统(数字静态摄像机1和平台10)执行的构图确定处理和构图匹配(构图控制)的更具体示例。应当指出在此给出的示例仅是示例。这是因为可以想到很多种实际构图确定算法和控制。
首先,将参照图38A和38B来描述主题检测处理单元201执行的主题检测处理的具体示例。注意在此将基于面孔检测执行主题检测。
现在,假设主题检测处理单元201已经输入具有图38A所示的图像内容的成像图像数据。这里的成像图像数据的图像内容是位于已经成像的图像中的单个人主题。注意,图38A和38B被示出为被分割成矩阵形式的图像,示意性地例示作为成像图像数据的图像是预定数量的水平和垂直像素构成的。
通过使图38A所示的成像图像数据的图像内容受到主题检测(面孔检测),检测到该图所示的一个个别主题SBJ的面孔。也就是说,通过面孔检测处理检测的一张面孔意味着已经检测到一个个别主题。此外,获得个别主题的数量、取向、位置以及图像内尺寸的信息作为检测个别主题的结果。
可以根据通过例如面孔检测而检测的面孔数量来获得个别主题的数量。对于图38A的情况,检测的面孔的数量是1个,从而获得个别主题的数量也是1个的结果。
此外,每个个别主题的位置信息是如上所述的成像图像内位置信息或绝对位置信息,位置信息具体表示个别主题SBJ的重心。
例如,如前所述,将成像图像的图像框中的个别主题SBJ的重心G表示为(X,Y)。注意成像图像数据的屏面的X、Y坐标系的原点坐标(0,0)(其在此情况下充当重心G(X,Y)的基准)是例如与屏面尺寸相对应的X轴方向(水平方向)的宽度(水平图像尺寸)Cx和与屏面尺寸相对应的Y轴方向(垂直方向)的高度(垂直图像尺寸)Cy的中点的交点,如图39所示。
此外,对于重心G,可以将根据现有技术的主题重心检测方法应用于个别主题的图像内的位置定义。
此外,可以将每个个别主题的尺寸取为例如通过面孔检测处理被识别并且检测为面孔位置的部分区域中沿水平方向或垂直方向的像素数量。
替换地,可获得等于对应于水平像素数量×垂直像素数量的面积的值。注意,根据本实施例,该尺寸将由主题尺寸检测单元202B的功能获得。
此外,如前所述,例如基于面孔检测处理,将每个个别主题的面孔取向检测为面向左或右之一。
此外,还可以例如使用面孔识别技术,通过获得检测的面孔的特征来执行成人/儿童判定,获得成人/儿童属性信息。
此外,在输入图38B所示的成像图像数据并且主题检测处理单元201执行主题检测处理时,首先,面孔检测处理识别出存在两张面孔,得到存在两个个别主题的结果。在此,在这两个个别主题中,将左侧的主题识别为个别主题SBJ0,将右侧的主题识别为个别主题SBJ1,以使其可识别。此外,对个别主题SBJ0和SBJ1确定的重心坐标是G0(X0,Y0)和G1(X1,Y1)。
此外,在按此方式检测到多个个别主题的情况下,获得总的主题重心Gt(Xg,Yg),其为多个个别主题的组(总主题)的重心。
尽管可以想到如何设定总主题重心Gt的各种设置,但是这里例示其最简单的示例,其中在最左侧的主题的重心与最右侧的主题的重心之间绘制一条线,并将该线的中点取为多个检测个别主题的总主题重心Gt。总主题重心Gt是可以在例如上述构图控制中使用的信息,并且是可以通过计算获得的信息,只要为每个个别主题获得重心信息。因此,尽管可以由主题检测处理单元201获得总主题重心Gt,并作为检测信息而输出,但是可以安排为:构图确定块62利用作为检测信息获得的与最左侧和最右侧的主题重心有关的具有表示个别主题的重心位置的信息,获得总主题重心Gt。
可以想到的另一设置方法示例是为多个个别主题的每一个提供根据其尺寸的加权系数,并利用这些加权系数来获得总主题重心Gt,使得总主题重心Gt例如更靠近尺寸大的个别主题。
此外,可以将个别主题的尺寸取为个别主题SBJ0和SBJ1的每一个的根据各自面孔占据的面积的像素数量。
根据本实施例,可以对上述检测到的个别主题(检测个别主题)在相关主题与无关主题(静态主题)之间执行区分,将被区分为相关主题的那些主题设定为作为构图确定对象的对象个别主题。
接下来,将参照图40到42描述通过本实施例的第一示例的构图控制获得的构图。
注意在此使用的“构图控制”是表示如下控制处理的术语,即,其中执行构图确定处理和实现构图确定处理所确定的最优构图的构图匹配。
图40例示如下情况:作为主题检测处理和主题区分处理的结果,在成像图像数据的图像框内检测到单个对象个别主题SBJs0。
注意,图40所示的图像框内可以实际存在被检测为无关主题的其他主题,但是已经从该图略去这些无关主题以方便对该图的理解。
此外,根据本实施例,在按正常状态将数字静态摄像机1安装到平台10的布置中,将数字静态摄像机1的取向设定为使得对风景画面进行成像。相应地,根据构图控制的该第一示例和后述第二示例,我们将假设通过成像获得风景画面。
如图40所示检测到单个对象个别主题的情况下,首先,改变对象个别主题的尺寸,使得对象个别主题SBJs0在成像图像数据的图像中占据的百分比是被视为最优的预定值。例如,检测到对象个别主题时,如果对象个别主题在图像中占据的百分比小于上述预定值,则通过执行变焦控制来缩小场角,使得该对象个别主题的百分比被提高到所述预定值,如果对象个别主题在图像中占据的百分比大于上述预定值,则通过执行变焦控制来扩大场角,使得对象个别主题的百分比被降低到所述预定值。存在一个对象个别主题的情况下,这种变焦控制使得主题尺寸对于构图来说是最优的。也就是说,为主题确定最优尺寸,并执行构图匹配,使得该主题具有最优尺寸。
接下来,存在一个对象个别主题的情况下,如下所述执行对主题在屏面的位置(主题位置)的调节。
至于确定构图确定中的主题位置,使用检测的面孔方向信息。
在图40的情况,已经将对象个别主题SBJs0的面孔的方向检测为面向左侧。此时,实际查看图40所示的图像内容的屏面时,查看者看到对象个别主题SBJs0在屏面中好像它面向左侧。顺便指出,作为对象个别主题SBJs0的实际人实际上面向右侧,其中面对执行成像的成像设备的方向是其前方。
此外,设定假想的图像区域划分线Ld,作为进行主题位置调节的基准。图像区域划分线Ld是与穿过图像的原点坐标P(0,0)的垂直线相匹配的直线,即匹配Y轴线。
一旦在此情况下检测到面孔方向朝左,确定如下形式的最优构图:将对象个别主题SBJs0的重心G从与图像区域划分线Ld相对应的位置(X=0)移动到右侧位置(水平移位位置),移动量为水平偏移量Δx。执行构图匹配使得重心G位于该位置。因此,执行控制以驱动平台10的摇摄机构,使得重心G位于该水平移位位置。
通常,将主题位于中心的构图视为典型的不良构图。相反,将主题的位置根据某种规则从重心移开的构图视为良好构图,例如,尤其使用三分之一规则和黄金分割规则作为这种规则。对于本实施例,根据这种构图确定技术,首先将个别主题SBJ(重心G)的位置沿屏面的水平方向相对于屏面中心移动一定量(水平偏移量Δx)。
因此,对于本实施例,如果如图40那样对象个别主题的面孔面对方向是左侧,则将重心G在水平方向的位置定位在通过沿Y轴线的图像区域划分线Ld将屏面分割成两个区域而获得的图像区域(划分区域)的右侧图像区域,使得面孔位于与面孔面对的“左侧”方向相反的“右”侧图像区域,从而获得个别主题SBJ的面孔所面对的位于屏面左侧的空间。
这种构图使得可以获得与如下构图相比更好的构图:例如其面孔面向左侧的对象个别主题SBJs的重心G位于与屏面在水平方向的中心相对应(相匹配)的主题位置,或者在图像区域划分线Ld的左侧的图像区域中。
使用本实施例可以想到各种确定水平偏移量Δx的实际值的算法。在此,使用所谓的“三分之一规则”作为基础。三分之一规则是最基本的构图设置技术之一,旨在通过将主题定位在水平和垂直地把方形屏面划分成3个的假想线上,来获得良好的构图。
例如,在图40,将水平偏移量Δx设定为使得重心G位于屏面的将水平图像框尺寸Cx等分成3段的沿垂直方向的两条假想线中的右侧的假想线上。因此,可以根据个别主题的面孔方向获得对于水平方向的主题位置来说最优的构图。
此外,尽管从图中略去,在检测到一个对象个别主题SBJs0的面孔的方向沿右侧方向的情况下,将对象个别主题SBJs的重心G沿水平方向的位置定位成相对于图40所示的位置关于图像区域划分线Ld线性对称。也就是说,在此情况下的水平偏移量Δx设定为与图40所示的实际值带有相反的符号,然后基于该水平偏移量Δx来执行摇摄控制。
此外,如图41A那样检测到两个对象主题SBJs0和SBJs1的情况下,构图控制执行的第一件事情是要对对象主题SBJs0和SBJs1组构成的总主题图像部分的尺寸(例如,还可以将其理解成这些主题图像部分在整个屏面中占据的百分比)执行调节(变焦控制),根据对象主题数量为2来将其设定(确定)为最优值。
可以想到定义总主题图像部分并获得其尺寸的几种方法,例如,其中一种方法是将多个检测的对象个别主题的每一个的图像部分的尺寸相加。另一方法是获得被绘制成包围所有所述多个检测个别主题的假想线内的图像部分的尺寸。
确定所述两个对象个别主题SBJs0和SBJs1在水平方向的主题位置时,使用关于所述两个对象个别主题SBJs0和SBJs1的面孔方向的信息。
图41A示出将所述两个对象个别主题SBJs0和SBJs1的面孔方向检测为都朝向左侧的情况。也就是说,所述两个对象个别主题的面孔方向是相同的,向左。
在此情况下,按与图40所示的单个对象个别主题SBJs的情况相同的方式,将对象个别主题SBJs0和SBJs1构成的总主题图像部分定位于图像区域划分线Ld的右侧,其与面孔方向表示的“左侧”相反,使得屏面左侧形成有空间。也就是说,在此情况下,该主题位置确定为最优构图。为此,例如设定水平偏移量Δx以向右侧移位预定量,如图所示。于是,执行摇摄控制使得总主题重心Gt(即,两个对象个别主题SBJs0和SBJs1构成的总主题图像部分的重心)位于从经过原点坐标P(0,0)的垂直线(Y轴线)(其为图像区域划分线Ld)移位水平偏移量Δx的位置。
此外,尽管在图中未示出,在两个对象个别主题SBJs0和SBJs1的面孔方向都朝右的情况下,将这两个对象个别主题SBJs0和SBJs1的总主题重心Gt定位成相对于图41A所示的在此情况下被确定为最优构图的位置关于图像区域划分线Ld线性对称(以与水平偏移量Δx的绝对值相对应的量移位到充当基准的Y轴线的左侧的位置),然后执行摇摄控制以实现该状态。
应当指出尽管存在多个对象个别主题,在对象个别主题是1个的情况下获得的水平偏移量Δx如果应用于本情况,会趋于导致主题太靠右(或左)。因此,在如图41A所示的存在两个对象个别主题的情况下,根据预定规则,将水平偏移量Δx设定(确定)为比对象个别主题数量是1个的图40的情况更小的值(绝对值)。
此外,图41B示出两个对象个别主题SBJs0和SBJs1的面孔方向不同(即,一个朝右,一个朝左)的情况。这是对象个别主题数量是两个并且面孔方向不相同的情况的示例。
在此情况下,对于总主题图像部分在水平方向的位置,确定最优构图处于两个对象个别主题SBJs0和SBJs1的总重心Gt如图所示位于图像区域划分线Ld上的状态,然后执行调节(摇摄控制)以达到该状态。
根据由此获得的配置,两个对象个别主题SBJs0和SBJs1构成的总主题图像部分位于屏面的沿水平方向的大约中间。然而,在存在多个主题并且这些主题不朝着同一方向的情况下,即使总主题图像部分位于中间,其构图也是合适的。
此外,图42示出检测到3个对象个别主题SBJs0,SBJs1,以及SBJs2的情况。对于在此情况下的构图控制,同样,第一件事情是要对对象个别主题SBJs0,SBJs1以及SBJs2构成的总主题图像部分的尺寸执行调节(变焦控制),以将其设定为对于对象个别主题数量为3来说最优的尺寸。
在此情况下,同样,在确定总主题图像部分在水平方向的主题位置时使用与每个对象个别主题的面孔方向有关的信息。图42示出3个对象个别主题SBJs0,SBJs1以及SBJs2的面孔方向全部被检测为朝向左侧的情况。
在此情况下,如图41A的情况那样,将对象个别主题SBJs0,SBJs1,以及SBJs2构成的总主题图像部分定位在图像区域划分线Ld的右侧的图像区域中,为此设定移位到右侧的图像区域的水平偏移量Δx,然后执行摇摄控制,使得总主题重心Gt位于由此确定的特定位置。
此外,在3个对象个别主题SBJs0,SBJs1以及SBJs2的面孔方向全都朝向右侧的情况下,执行摇摄控制从而将总主题重心Gt定位成相对于图42所示的位置关于图像区域划分线Ld在水平方向线性对称。此外,将水平偏移量Δx设定为比图41A的对象主题数量是2个的绝对值更小的绝对值。因此,水平方向的主题位置对于对象主题数量例如是3个来说是最优的,并且可以获得良好构图。
此外,在根据本第一示例的构图控制中,在3个对象个别主题SBJs0,SBJs1以及SBJs2的面孔方向不全部相同的情况下,获得如下构图:根据图41B,总主题重心Gt位于图像区域划分线Ld(Y轴线)的位置。
根据至此的描述,可以理解首先将根据第一示例的构图控制中的沿水平方向的位置调节与为每个对象个别主题检测的面孔方向相关联。也就是说,作为最基本的控制,在对象个别主题的数量是1个的情况下,将重心G定位成根据为对象个别主题检测的面孔方向是朝右还是朝左,按预定量移位到图像区域划分线Ld(Y轴线)的右侧区域或左侧区域,即对重心G执行水平移位,以在图像中在主题面对的方向形成空间。
在对于构图控制来说对象个别主题数量是多个(两个或更多个)并且所有对象个别主题的面孔方向都相同的情况下,按与上述位置调节相同的方式执行总主题重心Gt的水平偏移,但如果不是都相同,则不执行水平偏移,而是将总主题重心Gt设置为具有与图像区域划分线Ld相对应的X坐标,使得总主题图像区域在屏面(图像框)的中间附近。
因此,执行总主题重心Gt(或者,在个别主题的数量是1个的情况下是重心G)的水平偏移时,如参照图42到44所描述的,根据对象个别主题的数量来改变水平偏移量Δx。相应地,考虑总主题图像部分在屏面的水平位置,使得可以根据对象个别主题的数量来获得最优位置。
图43例示构图确定块62和摇摄/倾斜/变焦控制块63根据以上参照图40到42所描述的第一示例的构图控制来执行的过程示例。应当注意,可以将图43所示的过程应用于图29、32以及34所示的结构中的任何一个。可以将图43所示处理视为通过作为DSP的信号处理单元24和控制单元27的CPU执行的程序而实现。
此外,以下流程图中,术语“总主题重心(Gt)”和“总主题图像部分”不再只用于检测个别主题的数量是两个或更多个,还用于检测个别主题的数量是1个的情况。即,例如可以将图40所示的重心G称为“在检测个别主题的数量是1个的情况下的个别主题重心Gt”,可以将图40中仅一个个别主题SBJ构成的图像部分称为“在检测个别主题的数量是1个的情况下的总主题图像部分”。
首先,步骤S1101到S1106是搜索并检测主题然后执行主题区分的过程,主要由主题检测处理单元201执行。
在步骤S1101,输入并获取基于来自图像传感器22的成像信号的成像图像数据。在步骤S1102,使用在步骤S1101获取的成像图像数据执行主题检测处理和主题区分处理。这里的主题检测处理由如前所述的主题检测处理单元201执行。此外,主题检测处理还包括检测每个检测个别主题的面孔方向,并获得其信息,如前所述。此外,根据前面的描述,主题区分处理由主题区分单元211执行。
在步骤S1103,作为步骤S1102的主题检测处理和主题区分处理的结果,确定是否存在作为构图确定对象的相关主题,即是否存在(区分出)对象个别主题。在这里获得否定确定结果因此不存在对象个别主题的情况下(即,区分出的对象个别主题数量是零),本流程进行到步骤S1104,然后根据主题搜索处理来执行将场角加宽到预定场角(水平/垂直角)的变焦透镜移动控制(拉远(zoom out)控制)。如此加宽场角使得可以对更宽范围成像,意味着可以容易得多地捕获主题。此外,在步骤S1105,执行摇摄/倾斜控制以移动平台10的摇摄/倾斜机构,以进行主题搜索。该控制是主题检测处理单元201使通信控制处理块64对发送到平台10的通信单元52的用于摇摄/倾斜控制的控制信号进行处理来执行的。例如,应当以允许有效执行搜索的模式来移动平台10的摇摄/倾斜机构,作为主题搜索的摇摄/倾斜控制。
此外,在步骤S1106,将模式标记f设定为0(f=0),然后本流程返回到步骤S1101。
这样,重复步骤S1101到S1106的过程,直到在成像图像数据的图像内容中检测到至少一个个别主题。此时,数字静态摄像机1和平台10构成的系统处于沿摇摄方向和倾斜方向移动数字静态摄像机1以用于主题搜索的状态。
在步骤S1103给出肯定确定结果因此存在对象个别主题的情况下,本流程图进行到步骤S1107的过程并继续。
在步骤S1107,确定当前设定给模式标记f的值。
在确定f=0成立的情况下,这表示应当执行初始粗略主题捕获模式作为构图控制,因此如图43所示执行从步骤S1108开始的过程。
在步骤S1108,确定总主题重心Gt是否位于成像图像数据的屏面(显示成像图像数据的屏面内容时获得的屏面)中的原点坐标P(0,0)(见图39)。现在,在获得否定确定结果因此总主题重心Gt尚未位于原点坐标的情况下,在步骤S1109执行控制以移动平台10的摇摄/倾斜机构,使得总主题重心Gt位于原点坐标,然后本流程返回到步骤S1101。这样,在检测到存在个别主题的状态下,在作为初始构图控制过程的捕获模式下,对平台10的摇摄/倾斜机构进行控制,使得总主题重心Gt位于作为初始基准位置的原点坐标,以将示出检测的对象个别主题的图像区域显示在屏面中间。
现在示出在步骤S1109用于执行摇摄/倾斜控制的算法的示例。在模式标记f=0的状态检测到个别主题的状态下,主题检测处理单元201执行以下表达式(4)所示的计算,以获得摇摄方向运动量Span和倾斜方向运动量Stilt,它们是必须执行的运动的运动量。在以下表达式(4)中,n表示区分出的对象个别主题的数量,p(Xi,Yi)表示第0到第n-1对象个别主题(或者更具体来说是被分配0到n-1号码的对象个别主题)中的第i对象个别主题的重心的X-Y坐标。注意,如图39所示,在此情况下的原点坐标(0,0)是屏面的水平方向的中心点与其垂直方向的中心点的交点。
(表达式4)
在例如步骤S1108,确定运动量Span,Stilt的绝对值是否在预定值(更精确地说是0,但是可以是大于0的值)之内,从而可以确定总主题重心Gt是否等效于位于原点坐标P。在步骤S1109,执行摇摄/倾斜控制,使得运动量Span,Stilt的绝对值在所述预定值内。在摇摄/倾斜控制时摇摄机构单元53和倾斜机构单元56的速度可以是恒定速度,或者例如在运动量Span,Stilt很大的情况下可以被设置为更快。这种设置使得即使摇摄或倾斜运动的量很大,也可以在相对短的时间内使总主题重心Gt靠近原点坐标。
在步骤S1108作出肯定确定结果因此总主题重心Gt位于原点坐标的情况下,在步骤S1110,将模式标记设定为1(f=1),然后本流程返回到步骤S1101。在步骤S1110将模式标记f设定为1的状态表示作为构图控制的初始过程的捕获模式已经结束,因此应当执行下一第一调节控制(构图调节模式)。
在模式标记是f=1并且应当执行第一构图调节模式的情况下,本流程从步骤S1107进行到步骤S1111。第一构图调节模式用于执行变焦(场角)调节和摇摄控制,以根据检测个别主题的数量和个别主题的面孔方向的组合来获得最优构图。注意,场角调节和摇摄控制会导致个别主题在屏面(图像框)中的尺寸和个别主题的位置的变化。
在步骤S1111,确定当前设定多少个对象个别主题,在1个的情况下,执行从步骤S1112开始的过程。
在步骤S1112,根据检测对象个别主题的数量为1个来设定目标主题尺寸。这里的目标主题尺寸是屏面的总主题图像部分尺寸被视为对构图来说最优的尺寸,在例如与图40相对应的情况下,该尺寸等效于“所述(一个)对象个别主题SBJs0在成像图像数据中占据的百分比被视为最优的预定范围值”。
在步骤S1113,确定对象个别主题的尺寸是否合适。对象个别主题的尺寸合适的状态是对象个别主题的尺寸是在步骤S1112设定的目标主题尺寸的状态。在步骤S1113获得否定确定结果的情况下,本流程进行到步骤S1114,执行变焦透镜驱动控制(变焦控制),使得对象个别主题的尺寸是目标主题尺寸,然后本流程返回到步骤S1101。
注意此时执行变焦控制,使得对总主题重心Gt在水平方向(左右方向)的位置,保持与在步骤S1109设定的X坐标(X=0)相对应的位置。因此,可以保持对象个别主题位于水平方向的中间附近的状态。此外,在执行主题搜索操作时,在步骤S1104执行拉远控制,因此对步骤S1114的变焦控制可能将执行拉近(zoom in)控制。然而,此时检测个别主题的尺寸由于某种原因而大于目标主题尺寸因此在步骤S1113获得否定确定结果的情况下,在步骤S1114执行拉远以执行控制,使得实际对象个别主题尺寸变成目标主题尺寸。
在步骤S1113获得肯定确定结果的情况下,本流程进行到步骤S1115的过程然后继续。
在步骤S1115,设定水平偏移量Δx。在此,在根据本实施例的第一示例的构图控制中,通过以下表达式(5)来获得水平偏移量Δx。
Δx=D×(Cx/6)/n 表达式(5)
在表达式(5)中,D表示系数,基于面孔方向或多个面孔方向组合(关系)将该系数设定为+1,-1,或0之一。Cx表示水平图像尺寸。项Cx/6对应于基于三分之一规则获得的垂直方向的假想线的X坐标。此外,n表示已经区分出(设定)的对象个别主题数量。
在本流程到达步骤S1115的情况下,这里n=1,因为所检测的对象个别主题是1个。此外,面孔方向是向左或向右。如果面孔方向向左,则系数D是+1,如果面孔方向向右,则系数D是-1,
相应地,已区分的一个对象个别主题的面孔方向是向左的情况下,Δx=-Cx/6成立,表示垂直线的位置从经过原点坐标P(0,0)的垂直线(其为图像区域划分线Ld(Y轴线))起向右移动Cx/6的量。所述垂直线的位置与三分之一规则的两条假想线中的右侧假想线相同。
另一方面,已区分的一个对象个别主题的面孔方向是向右的情况下,水平偏移量Δx=Cx/6成立,表示垂直线的位置从经过原点坐标P(0,0)的垂直线(其为图像区域划分线Ld(Y轴线))起向左移动Cx/6的量。所述垂直线的位置与三分之一规则的两条假想线中的左侧假想线相同。
在步骤S1116,确定总主题重心Gt(在此情况下图40的重心G与总主题重心Gt相同,因为只有一个对象个别主题)是否位于与以上在步骤S1115设定的水平偏移量Δx相对应的X坐标。在此得到否定确定结果的情况下,本流程进行到步骤S1117。
在步骤S1117,执行摇摄控制使得总主题重心Gt位于与水平偏移量Δx相对应的X坐标,然后本流程返回到步骤S1101。
在总主题重心Gt位于与水平偏移量Δx相对应的X坐标的情况下,由于步骤S1117的控制,在步骤S1116获得肯定确定结果。在步骤S1116获得肯定确定结果的情况下,根据其面孔方向,对象个别主题(SBJ)的重心位于从图像区域划分线Ld向左或向右移动水平偏移量Δx的位置,如图40所示。
在步骤S1116获得肯定确定结果的情况下,本流程进行到步骤S1118,将模式标记f设定为2,然后本流程返回到步骤S1101。如从以下描述将显而易见的那样,模式标记是f=2的状态是如下状态:第一构图调节已结束,因此应当执行下一第二构图调节模式,然后应当执行释放操作。
此外,在步骤S1111确定对象个别主题的数量是两个或更多个的情况下,执行从步骤S1119开始的过程。在步骤S1119,执行设定目标主题尺寸的处理。在对象个别主题的数量是两个或更多个的情况下,例如,根据对象个别主题的数量,获得最优构图的目标主题尺寸会不同。因此,在步骤S1119,根据步骤S1102检测的对象个别主题的数量设定预定目标主题尺寸。此外,应当指出,在对象个别主题的数量是两个或更多个的情况下,目标主题尺寸涉及所有检测个别主题构成的总主题图像部分。
在步骤S1120,确定对象个别主题的尺寸是否合适。也就是说,此处,确定从与对象个别主题有关的检测信息获得的总主题图像部分的尺寸是否与以上步骤S1120设定的目标主题尺寸相同。
在步骤S1120获得否定确定结果的情况下,本流程进行到步骤S1121。在步骤S1121,以与步骤S1114相同的方式,执行变焦透镜驱动控制(变焦控制),使得此时检测的对象个别主题的总主题图像部分的尺寸是步骤S1119设定的目标主题尺寸,然后本流程返回到步骤S1101。
另一方面,在步骤S1120获得肯定确定结果的情况下,本流程进行到步骤S1122。
在步骤S1122,确定为多个对象个别主题中的每一个检测的面孔方向是否全部相同。
首先,在步骤S1122获得肯定确定结果的情况下,执行步骤S1123的过程然后继续。在步骤S1123,利用上述表达式(5)设定水平偏移量Δx。
在此情况下,根据已经检测的相同面孔方向是朝左还是朝右,将+1或-1代入表达式(5)的系数D。此外,根据检测的对象个别主题的数量,将2或更大的数字代入n。
如可以从此理解到的,利用表达式(5),对象个别主题的数量越多,水平偏移量Δx的绝对值就越小。也就是说,如参照图40、41A以及42所描述的,随着对象个别主题数量的增加,总主题图像部分从图像区域划分线Ld向左或向右的偏移量会变小。
另一方面,在步骤S1122获得否定确定结果的情况下,在步骤S1124设定水平偏移量Δx=0。
还应当指出,此处还可以在步骤S1124通过执行表达式(5)的计算设定Δx=0。也就是说,在步骤S1122获得否定确定结果的情况下,即,在多个面孔方向不全部相同的情况下,在步骤S1124,将算法配置成将0代入系数D,然后执行表达式(5)的计算。
在执行步骤S1123或步骤S1124的过程之后,本流程进行到步骤S1125的过程然后继续。
在步骤S1125,S1126和S1127,按与步骤S1116到S1118的处理相同的方式,执行摇摄控制,直到总主题重心Gt位于与步骤S1123或S1124设定的水平偏移量Δx相对应的X坐标。作为该控制的结果,所述多个对象个别主题的面孔方向全部相同的情况下,这意味着已经达到总主题图像部分(总主题重心Gt)已经向左或向右方向移动与对象个别主题数量相对应的水平偏移量Δx的状态。达到该状态时,在步骤S1125获得肯定确定结果,在步骤S1127将模式标记f设定为2,然后本流程返回到步骤S1101。
在将模式标记f设定为2的状态下,已经完成如下过程:根据对象个别主题数量的尺寸调节,以及根据每个对象个别主题或其组合的面孔方向的沿水平方向的位置调节,参照图40到42描述,作为构图控制。因此,在步骤S1107确定模式标记f为2的情况下,在步骤S1128的过程执行第二构图调节模式然后继续。
例如,尽管以上参照图40到42的构图控制的描述中未描述如何设定对象主题的重心沿屏面垂直方向的位置,在实际实践中,可能存在通过从屏面中心垂直移动(偏移)一定量来获得更好构图的情况。因此,通过根据本实施例的构图控制的实际应用,还为总主题重心Gt设定垂直方向偏移量,使得可以获得更好的最优构图。为此的过程是接下来描述的步骤S1128和步骤S1129执行的第二构图调节模式。
在步骤S1128,确定总主题重心Gt(在对象个别主题数量是1个的情况下是对象个别主题的重心G)的位置是否从经过屏面原点坐标P的水平线(X轴)偏移了垂直偏移量Δy(即,重心偏移是否合适)。
在步骤S1128获得否定确定结果的情况下,在步骤S1129,执行倾斜控制,使得平台10的倾斜机构移动以将重心偏移所设定的垂直偏移量Δy,然后本流程返回到步骤S1101。在步骤S1128获得肯定确定结果时,这意味着总主题图像部分的位置在水平方向和垂直方向都符合最优构图,而且总主题图像部分的尺寸也符合最优构图。也就是说,已经实现最优构图。
对于步骤S1128和S1129,可以想到几种如何设定垂直偏移量Δy的实际值的技术,因此,本实施例并不具体限于任一技术。最简单的一种设置方式是例如,基于三分之一规则,给出从垂直方向的中心位置起与垂直图像尺寸Cy的1/6相等的长度值。当然,可以想到如下配置:例如,基于对象个别主题的数量、面孔方向以及其组合来设定不同的值。
在步骤S1128获得肯定确定结果的情况下,执行与从步骤S1130开始的释放动作相应的处理过程。在此描述的释放动作是将此时获得的成像图像数据作为静态图像数据存储在存储介质(存储器卡40)中的动作,如稍后描述的那样。也就是说,这对应于如下情况:用户正在执行手动快门操作,然后响应于快门操作将此时获得的成像图像数据作为静态图像数据存储在记录介质中。
在步骤S1130,确定当前是否满足用于执行释放动作的条件。这些条件例如可以包括是否处于聚焦状态(自动聚焦控制被设定为打开的情况下)、平台10的摇摄/倾斜机构是否处于静止状态等。
在步骤S1130获得否定确定结果的情况下,本流程返回到步骤S1101,然后等待满足执行释放动作的状态条件。另一方面,在步骤S1130获得肯定确定结果的情况下,在步骤S1131执行释放动作。这样,根据本实施例,可以将具有最优构图的成像图像数据记录成静态图像数据。
当释放动作结束时,在步骤S1132对某些参数执行初始化设置。在该处理中,将模式标记f的初值设定为0,还将变焦透镜位置返回到预先设定的初始位置。
在执行步骤S1132之后,本处理返回到步骤S1101。将处理从步骤S1132返回到步骤S1101意味着自动重复执行如下动作:搜索主题,根据通过搜索检测的对象个别主题朝向的方向和对象个别主题的数量来获得最优构图,然后执行成像记录(释放动作)。
上述图43的情况中的释放动作是从成像图像将静态图像记录到记录介质的操作,但是在更宽泛的意义上,根据本实施例的释放动作涵盖例如从成像图像获得合适的静态图像数据,包括将静态图像记录在记录介质中。因此,在释放动作中还包括如下动作:例如,通过根据本实施例的数字静态摄像机1从成像图像获得静态图像数据,经由数据接口等将其传送给另一记录装置等。
根据至此描述的图43的过程,首先,在步骤S1108和S1109,执行摇摄/倾斜控制以进行捕获,其中基于在步骤S1108和S1109利用以上表达式(4)获得的运动量Span,Stilt,将一个或更多个对象个别主题的总主题重心Gt定位在屏面的原点坐标P。在下一阶段,基于对象个别主题的数量和为每个对象个别主题检测的面孔方向的关系,获得水平偏移量Δx,然后执行摇摄控制,其中以经过原点坐标P的垂直线(其为图像区域划分线Ld(Y轴线))为基准,将总主题重心Gt沿左或右方向移动与水平偏移量Δx相对应的量。进而,执行倾斜控制,其中以经过原点坐标P的水平线为基准,将总主题重心Gt向上或向下移动与垂直偏移量Δy相对应的量。
根据以上教导,可以说图43的过程的摇摄/倾斜控制包括:首先通过下式来获得运动量Span,Stilt,
表 达式(6)
然后对摇摄机构执行控制以获得与运动量Span相对应的屏面内运动量,并对倾斜机构执行控制以获得与运动量Stilt相对应的屏面内运动量。
接下来,将描述根据本实施例的第二示例的构图控制。图44示出第二示例的构图控制对应的情况,例示了区分出3个对象个别主题SBJs0,SBJs1以及SBJs2的状态。这些对象个别主题中,为对象个别主题SBJs0和SBJs2检测的面孔方向是朝左,为对象个别主题SBJs1检测到的面孔方向是朝右。在此情况下,这些对象个别主题的面孔方向并不全部相同,因此根据第一构图控制示例,如参照图41B和其他图所描述的,将构图设置成使得总主题重心Gt被设定在经过原点坐标P的垂直线(其为图像区域划分线Ld(Y轴线))。
然而,所述三个对象个别主题中的大多数,即两个对象个别主题SBJs0和SBJs2面对同一方向(面孔方向相同)的事实,可能让我们想到如果这些对象个别主题正在看什么重要东西的话,那么它在所述两个对象个别主题SBJs0和SBJs2面对的方向的可能性大于它在所述一个对象个别主题SBJs1面对的方向的可能性。基于这一思想,我们可以说在所述两个对象个别主题SBJs0和SBJs2面对的区域中留下空间使得获得良好构图的可能性更大。在此情况下,所述两个对象个别主题SBJs0和SBJs2被检测为面对左侧,因此将这3个对象个别主题SBJs0,SBJs1,以及SBJs2构成的总主题图像部分的总主题重心Gt移动到屏面的图像区域划分线Ld的右侧图像区域,以获得良好构图。
相应地,利用第二示例的构图控制,在相同面孔方向的数量以预定百分比占对象个别主题的全部数量的大多数的情况下,对于为多个个别主题的每一个检测的面孔方向的区域,将该相同面孔方向作为基准面孔方向。也可以说该基准面孔方向表示在屏面中全部的多个对象个别主题组整体面对的方向。基于该基准面孔方向来获得并设定水平偏移量Δx。在图44所示的情况,由于这种构图控制获得如下构图:将总主题重心Gt设定到经过原点坐标P的垂直线的右侧。
此外,尽管在此未示出,在未获得足够的相同面孔方向以按预定百分比占大多数的情况下,即,在基准面孔方向不确定的情况下,本实施例的思想是优选地设定如下构图:总主题图像部分定位在沿水平方向的中间附近。因此,在此情况下,将水平偏移量Δx设定为0。
图45例示根据上述第二示例的由图5A到5D所示的主题检测处理单元201、构图确定块62以及通信控制处理块64执行的过程示例。
在图45所示的过程中,除了步骤S1221-1和S1222-2以外,从步骤S1201到S1232的过程均与图43的从步骤S1101到S1132的过程相同。
插入步骤S1221-1和随后的步骤S1222-2,作为在步骤S1222获得否定确定结果的情况下执行的过程。也就是说,在对象个别主题数量是多个,并且在已经完成总主题图像部分的尺寸调节的阶段,为每个对象个别主题检测的面孔方向的关系不全部是相同面孔方向的情况下,执行步骤S1221-1和S1222-2。
在步骤S1222-1,执行处理以确定基准面孔方向。为此,如上所述,例如,对多个对象个别主题和面孔方向的关系,确定具有相同面孔方向的一组对象个别主题是否是由足够大数量的对象个别主题组成,该数量足以按某个百分比或更高的百分比占已检测的对象个别主题的总数量的大多数。在存在这种对象个别主题组的情况下,确定该对象个别主题组的面孔方向是有效的基准面孔方向。另一方面,在不存在这种对象个别主题组的情况下,确定不存在基准面孔方向。
对于以上预定百分比,在实际实践中,应当在考虑对象个别主题的数量和对象个别主题的面孔方向的关系的情况下,适当确定要实际设定什么类型的值。尽管可以基本设定一个固定值,但是可以作出如下安排:例如,根据确定的对象个别主题数量来设定不同的预定值。
此外,除了以上算法以外,还可以想到其他用于基准面孔方向检测处理的算法。例如,可以作出如下安排:例如,将具有相同面孔方向的最大组的对象个别主题的面孔方向直接当成值基准面孔方向,而不考虑其相对于对象个别主题总数的百分比。在此情况下,如果具有不同面孔方向的每个组的对象个别主题的数量相同,则确定不存在基准面孔方向。
在步骤S1222-2,确定是否作为步骤S1222-1的面孔方向确定处理结果已确定了有效的基准面孔方向。
现在,在获得肯定确定结果的情况下,本流程进行到步骤S1223。在此情况下,在步骤S1223,基于步骤S1222-1中确定的基准面孔方向来确定系数D,然后确定并设定水平偏移量Δx。
另一方面,在步骤S1222-2获得否定确定结果的情况下,这意味着在前一步骤S1222-1未确定有效的基准面孔方向,无论是向右还是向左。在此情况下,本流程进行到步骤S1224,由此将水平偏移量Δx设定为0。这样,插入步骤S1222-1和S1222-2实现根据第二示例的如参照图44所述的构图控制。
注意,图43和45所示的过程以混合方式包括可以视为构图确定处理的过程,和用于根据确定结果来控制构图匹配的过程(构图控制),而一些步骤同时执行构图确定和构图匹配。这是因为图43和45所示过程是根据实际实践而具体例示的。应当将本实施例的基本构思视为对例示为至此描述的构图确定块200、构图确定块62等的构图确定的配置的应用。也就是说,可以将根据本实施例的成像系统视为,根据对象个别主题数量,确定并判定被视为最优的构图,然后适当执行变焦控制和摇摄/倾斜控制,使得实际获得(反映)所确定构图的成像图像数据。
此外,根据从图38A和38B起的图描述的构图确定和构图控制的具体示例,已经描述面孔方向检测是左或右两级,但是在实际中,可以作出如下配置:除了左和右以外,面孔方向检测处理还包括面对正前方。在此情况下,同样,可以有效地应用本发明实施例的构图控制。
例如,在如图40那样检测到单个对象个别主题,并且面孔被检测为面对正前方的情况下,可以想到如下安排:将主题位置沿水分方向定位在屏面中间附近,使得重心G大致在图像区域划分线Ld(Y轴)上。然而,这种构图通常被当作典型的不良构图示例。因此,可以想到如下安排:在检测的单个主题的数量是1个并且面孔方向朝正前方的情况下,设定水平偏移量Δx使得获得图40的构图,或者相对于图40的构图关于图像区域划分线Ld线性对称的构图。这使得可以根据三分之一规则来获得良好构图。
此外,在检测到两个或更多的对象个别主题,并且所有对象个别主题的面孔方向朝正前方或者基准面孔方向朝正前方的情况下,可以想到如下安排:在将表达式(4)的系数D设定为0之后设定水平偏移量Δx,以获得该构图。
此外,在可以检测到垂直面孔方向的情况下,可以根据垂直方向的面孔方向检测结果来执行本发明实施例的构图控制。在此情况下,以水平方向的图像区域划分线Ld(例如经过原点坐标的水平线(X轴)就可以)作为基准在垂直方向移动总主题重心Gt。
此外,在可以检测到对角面孔方向的情况下,可以根据对角方向(其为水平方向与垂直方向的合成)的面孔方向检测结果来执行本发明实施例的构图控制。在此情况下,将跨过屏面的与所检测的对角面孔方向正交的线(例如经过原点坐标的水平线)设定为图像区域划分线Ld,然后将总主题重心Gt移动到该图像区域划分线Ld分割出的图像区域之一。
此外,在例如面孔检测方向在水平方向或垂直方向具有2级或3级或更多级的情况下,可以想到使用如下算法的安排:水平偏移量Δx(或垂直偏移量Δy)可以根据由此检测的方向级数而变化。
此外,如图39所示,在此情况下,将基准线经过的基准点描述成屏面的原点坐标,但是例如可以将基准点的位置设定到除原点坐标以外的其他位置,以获得更好构图。
此外,应当指出,先前参照图24到35描述的示例是部分示例,可以想到应用根据本发明的构图确定的其他装置、系统、应用软件等。
此外,至此为止的实施例的描述中,将主题(对象个别主题)描述为人,但是本发明也可以应用于除人以外的主题的情况,如动物。
此外,根据本发明实施例确定的构图(最优构图)并不一定限制于通过将诸如三分之一规则的构图设置技术应用于多个对象个别主题中的要素而确定的构图。甚至通常被认为很差的构图也可能被用户觉得很有趣或者甚至更好,这取决于如何对构图进行设定。相应地,根据本发明实施例确定的构图(最优构图)在实际使用中并不受到具体限制,而是可以在考虑可用性、娱乐要素等的情况下来可选地设定。
此外,根据上述第一到第三实施例,将例如作为面孔照片的主题或不在正常主题距离范围或尺寸(图像内尺寸或实际尺寸)范围内的主题视为无关主题并排除掉,而将在正常主题距离范围或尺寸范围内的主题视为相关主题。
然而,根据至此的描述,不言自明,可以作出如下配置:将在先前描述的第一到第三实施例中被处理为无关主题的主题区分为构图确定的对象,视为相关主题。这是因为在第一到第三实施例中对相关主题的区分处理意味着,可以视为已对在第一到第三实施例中被处理为无关主题的主题进行了区分。这种配置也可以应用到基于本发明实施例的构图确定配置,并且根据其应用是有用的。
此外,与此相关联,可以将基于本发明实施例的构图确定配置成例如使得可以根据用户操作、或基于预定装置操作状况等的判定,被当作构图确定对象的主题在相关主题与无关主题之间切换。
此外,如上所述,可通过执行程序的CPU或DSP来实现本发明实施例的至少一部分配置。
可以将这种程序在制造时写入并存储在例如ROM中,或者可以存储在可移动存储介质中并从存储介质安装(包括更新),以存储在与DSP或闪速存储器30相对应的非易失性存储区等中。此外,可以想到如下安排:可以通过从另一主机装置控制经由诸如USB或IEEE1394等的数据接口来安装该程序。此外,可以想到如下配置:将程序存储在网络上诸如服务器的存储装置中,然后配备有网络连接功能的数字静态摄像机1可以通过下载从服务器获得该程序。
本发明包含与2008年4月25日在日本专利局提交的日本在先专利申请JP 2008-115298公开主题有关的主题,通过引用将其全部内容并入于此。
本领域技术人员应当理解,根据设计要求和其他因素,可以想到各种修改、组合、子组合以及变更,只要它们落在所附权利要求书及其等同物的范围内。
Claims (17)
1、一种构图确定装置,包括:
主题检测装置,被配置成基于获得的图像数据来检测图像中的主题;
实际主题尺寸检测装置,被配置成针对所述主题检测装置检测的每个主题检测能够视为与实际测量等效的实际尺寸;
主题区分装置,被配置成基于对所述实际主题尺寸检测装置检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述主题检测装置检测的主题中区分出相关主题;以及
构图确定装置,被配置成仅以所述主题区分装置区分出的相关主题为对象来确定构图。
2、根据权利要求1所述的构图确定装置,还包括:
主题距离检测装置,被配置成针对所述主题检测装置检测的每个主题检测主题距离;和
主题尺寸检测装置,被配置成针对所述主题检测装置检测的每个主题检测图像内尺寸,所述图像内尺寸是主题在所述图像内的尺寸;
其中所述实际主题尺寸检测装置通过至少利用所述主题距离和所述图像内尺寸获得所述实际尺寸,来检测所述主题检测装置检测的每个主题的实际尺寸。
3、根据权利要求2所述的构图确定装置,其中所述主题区分装置被配置成执行如下确定:至少利用所述主题距离和所述图像内尺寸获得的所述实际尺寸是否是与相关主题相对应的利用成像设备中设定的变焦倍率值进行校正之后的合适值,所述成像设备被配置成通过成像获得所述图像数据。
4、根据权利要求2或3所述的构图确定装置,其中所述主题检测装置被配置成,在实际测量中,确定与每个检测主题的尺寸差异有关的预定属性;
并且其中所述主题区分装置被配置成,确定至少利用所述主题距离和所述图像内尺寸获得的所述实际尺寸是否是与相关主题相对应的利用对应于所确定属性的系数进行校正之后的合适值。
5、一种构图确定方法,包括:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题,检测能够视为与实际测量等效的实际尺寸的第二检测步骤;
基于对所述第二检测步骤中检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
6、一种使构图确定装置执行以下动作的程序:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题,检测能够视为与实际测量等效的实际尺寸的第二检测步骤;
基于对所述第二检测步骤中检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
7、一种构图确定装置,包括:
主题检测装置,被配置成基于获得的图像数据来检测图像中的主题;
主题尺寸检测装置,被配置成针对所述主题检测装置检测的每个主题检测图像内尺寸;
主题区分装置,被配置成基于对所述主题尺寸检测装置检测的所述图像内尺寸是否是对应于相关主题的合适值的确定,从所述主题检测装置检测的主题中区分出相关主题;以及
构图确定装置,被配置成仅以所述主题区分装置区分出的相关主题为对象来确定构图。
8、根据权利要求7所述的构图确定装置,其中所述主题区分装置被配置成执行如下确定:所述图像内尺寸是否是与相关主题相对应的利用成像设备中设定的变焦倍率值进行校正之后的合适值,所述成像设备被配置成通过成像获得所述图像数据。
9、根据权利要求7或8所述的构图确定装置,其中所述主题检测装置被配置成,在实际测量中,确定与每个检测主题的尺寸差异有关的预定属性;
并且其中所述主题区分装置被配置成,确定所述图像内尺寸是否是与相关主题相对应的利用对应于所确定属性的系数进行校正之后的合适值。
10、一种构图确定方法,包括:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题,检测图像内尺寸的第二检测步骤;
基于对所述第二检测步骤中检测的所述图像内尺寸是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
11、一种使构图确定装置执行以下动作的程序:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题检测图像内尺寸的第二检测步骤;
基于对所述第二检测步骤中检测的所述图像内尺寸是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
12、一种构图确定装置,包括:
主题检测装置,被配置成基于获得的图像数据来检测图像中的主题;
主题距离检测装置,被配置成针对所述主题检测装置检测的每个主题检测主题距离;
主题区分装置,被配置成基于对所述主题距离检测装置检测的主题距离是否是对应于相关主题的合适值的确定,从所述主题检测装置检测的主题中区分出相关主题;以及
构图确定装置,被配置成仅以所述主题区分装置区分出的相关主题为对象来确定构图。
13、一种构图确定方法,包括:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题检测主题距离的第二检测步骤;
基于对所述第二检测步骤中检测的主题距离是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
14、一种使构图确定装置执行以下动作的程序:
基于获得的图像数据检测图像中的主题的第一检测步骤;
对所述第一检测步骤中检测的每个主题检测主题距离的第二检测步骤;
基于对所述第二检测步骤中检测的主题距离是否是对应于相关主题的合适值的确定,从所述第一检测步骤中检测的主题中区分出相关主题;以及
仅以所述第一检测步骤中区分出的相关主题为对象来确定构图。
15、一种构图确定装置,包括:
主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;
实际主题尺寸检测单元,被配置成为所述主题检测单元检测的每个主题检测实际尺寸,所述实际尺寸能够视为与实际测量等效;
主题区分单元,被配置成基于对所述实际主题尺寸检测单元检测的实际尺寸是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及
构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
16、一种构图确定装置,包括:
主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;
主题尺寸检测单元,被配置成为所述主题检测单元检测的每个主题检测图像内尺寸;
主题区分单元,被配置成基于对所述主题尺寸检测单元检测的所述图像内尺寸是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及
构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
17、一种构图确定装置,包括:
主题检测单元,被配置成基于获得的图像数据来检测图像中的主题;
主题距离检测单元,被配置成为所述主题检测单元检测的每个主题检测主题距离;
主题区分单元,被配置成基于对所述主题距离检测单元检测的主题距离是否是对应于相关主题的合适值的确定,从所述主题检测单元检测的主题中区分出相关主题;以及
构图确定单元,被配置成仅以所述主题区分单元区分出的相关主题为对象来确定构图。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008115298 | 2008-04-25 | ||
| JP2008115298A JP5206095B2 (ja) | 2008-04-25 | 2008-04-25 | 構図判定装置、構図判定方法、プログラム |
| JP2008-115298 | 2008-04-25 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN101567973A true CN101567973A (zh) | 2009-10-28 |
| CN101567973B CN101567973B (zh) | 2012-02-15 |
Family
ID=40823568
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN2009101369192A Expired - Fee Related CN101567973B (zh) | 2008-04-25 | 2009-04-24 | 构图确定装置以及构图确定方法 |
Country Status (6)
| Country | Link |
|---|---|
| US (2) | US8594390B2 (zh) |
| EP (1) | EP2120210B1 (zh) |
| JP (1) | JP5206095B2 (zh) |
| CN (1) | CN101567973B (zh) |
| BR (1) | BRPI0900750A2 (zh) |
| RU (1) | RU2009115762A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102196177A (zh) * | 2010-03-12 | 2011-09-21 | 索尼公司 | 图像处理设备、图像处理方法、程序以及成像设备 |
| CN105744148A (zh) * | 2014-12-24 | 2016-07-06 | 佳能株式会社 | 变焦控制装置和变焦控制装置的控制方法 |
| CN106416303A (zh) * | 2014-05-26 | 2017-02-15 | 雅马哈株式会社 | 连接确认系统、连接确认程序、连接确认方法和连接检测设备 |
| CN109165557A (zh) * | 2018-07-25 | 2019-01-08 | 曹清 | 景别判断系统及景别判断方法 |
| CN109743493A (zh) * | 2018-08-27 | 2019-05-10 | 幻想动力(上海)文化传播有限公司 | 自动摄影构图方法、装置、自动摄影设备、电子装置及计算机可读存储介质 |
Families Citing this family (30)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5347802B2 (ja) * | 2009-07-27 | 2013-11-20 | ソニー株式会社 | 構図制御装置、撮像システム、構図制御方法、プログラム |
| JP5434339B2 (ja) * | 2009-07-29 | 2014-03-05 | ソニー株式会社 | 撮像制御装置、撮像システム、撮像方法、プログラム |
| JP5434338B2 (ja) | 2009-07-29 | 2014-03-05 | ソニー株式会社 | 撮像制御装置、撮像方法、プログラム |
| EP2502203A4 (en) * | 2009-11-20 | 2017-05-17 | Hewlett-Packard Development Company, L.P. | Determining a visual balance of an image |
| US8605158B2 (en) | 2009-12-28 | 2013-12-10 | Sony Corporation | Image pickup control apparatus, image pickup control method and computer readable medium for changing an image pickup mode |
| JP2011217229A (ja) * | 2010-04-01 | 2011-10-27 | Victor Co Of Japan Ltd | 撮像装置および表示方法 |
| JP5594791B2 (ja) * | 2010-06-30 | 2014-09-24 | Necソリューションイノベータ株式会社 | 属性判定方法、属性判定装置、プログラム、記録媒体および属性判定システム |
| US9715751B2 (en) | 2011-07-13 | 2017-07-25 | Apple Inc. | Zooming to faces depicted in images |
| WO2013042766A1 (ja) | 2011-09-22 | 2013-03-28 | オリンパス株式会社 | 画像処理装置、画像処理システム、及び画像読出し装置 |
| JP5809906B2 (ja) * | 2011-09-22 | 2015-11-11 | オリンパス株式会社 | 画像読出し装置及び画像処理システム |
| US20130205201A1 (en) * | 2012-02-08 | 2013-08-08 | Phihong Technology Co.,Ltd. | Touch Control Presentation System and the Method thereof |
| CN104160243B (zh) * | 2012-03-01 | 2017-03-01 | 日产自动车株式会社 | 距离测量装置和距离测量方法 |
| JP6436761B2 (ja) | 2014-12-24 | 2018-12-12 | キヤノン株式会社 | ズーム制御装置、撮像装置、ズーム制御装置の制御方法、及びズーム制御装置の制御プログラム |
| JP6107844B2 (ja) * | 2015-01-28 | 2017-04-05 | カシオ計算機株式会社 | 検出装置、検出制御方法、及びプログラム |
| JP6478777B2 (ja) * | 2015-04-13 | 2019-03-06 | キヤノン株式会社 | 制御装置及びその制御方法、プログラム |
| JP6702736B2 (ja) * | 2016-01-26 | 2020-06-03 | キヤノン株式会社 | 撮像制御装置および撮像装置の制御方法、プログラム |
| CN108206910B (zh) * | 2016-12-20 | 2021-04-06 | 北京小米移动软件有限公司 | 图像拍摄的方法及装置 |
| KR102666977B1 (ko) | 2017-01-09 | 2024-05-20 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 영상 촬영 방법 |
| US10218901B2 (en) * | 2017-04-05 | 2019-02-26 | International Business Machines Corporation | Picture composition adjustment |
| JP6885896B2 (ja) * | 2017-04-10 | 2021-06-16 | 富士フイルム株式会社 | 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム |
| US10321069B2 (en) * | 2017-04-25 | 2019-06-11 | International Business Machines Corporation | System and method for photographic effects |
| JP6897442B2 (ja) * | 2017-09-12 | 2021-06-30 | 株式会社Jvcケンウッド | 車両用装置、キャリブレーション結果判定システム、および、キャリブレーション結果判定方法、ならびに、プログラム |
| CN108896961B (zh) * | 2018-06-29 | 2022-03-01 | 天津大学 | 一种基于信号功率估计的提高可见光定位精度的方法 |
| US11070717B2 (en) * | 2019-04-23 | 2021-07-20 | Adobe Inc. | Context-aware image filtering |
| CN110533637B (zh) * | 2019-08-02 | 2022-02-11 | 杭州依图医疗技术有限公司 | 一种检测对象的方法及装置 |
| US11825212B2 (en) * | 2021-10-18 | 2023-11-21 | International Business Machines Corporation | Automatic creation of a tiled image based on user interests |
| CN114419143A (zh) * | 2022-01-18 | 2022-04-29 | 浙江吉利控股集团有限公司 | 深度测量方法、深度测量设备及存储介质 |
| KR102758479B1 (ko) * | 2022-08-30 | 2025-01-23 | 삼성전자주식회사 | 카메라 제어 장치 및 방법 |
| JP7802647B2 (ja) * | 2022-11-15 | 2026-01-20 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
| JP2024071836A (ja) | 2022-11-15 | 2024-05-27 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
Family Cites Families (37)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0614698B2 (ja) | 1983-05-13 | 1994-02-23 | 株式会社日立製作所 | 自動追尾カメラ |
| JP2001268425A (ja) | 2000-03-16 | 2001-09-28 | Fuji Photo Optical Co Ltd | 自動追尾装置 |
| JP2003179811A (ja) | 2001-12-10 | 2003-06-27 | Cta Co Ltd | 画像合成装置 |
| JP3970046B2 (ja) * | 2002-02-19 | 2007-09-05 | オリンパス株式会社 | カメラ |
| TW523635B (en) | 2002-03-28 | 2003-03-11 | Asia Optical Co Inc | Camera with ranging function |
| JP4196714B2 (ja) * | 2003-04-15 | 2008-12-17 | 株式会社ニコン | デジタルカメラ |
| JP2005033508A (ja) | 2003-07-14 | 2005-02-03 | Minolta Co Ltd | 撮像装置 |
| EP1653279B1 (en) | 2003-07-15 | 2019-02-06 | Omron Corporation | Object decision device and imaging device |
| JP4428159B2 (ja) * | 2003-11-05 | 2010-03-10 | セイコーエプソン株式会社 | 画像データ生成装置、画質補正装置、画像データ生成方法および画質補正方法 |
| JP2005167517A (ja) | 2003-12-01 | 2005-06-23 | Olympus Corp | 画像処理装置、画像処理装置のキャリブレーション方法及び画像処理プログラム |
| JP4489608B2 (ja) | 2004-03-31 | 2010-06-23 | 富士フイルム株式会社 | ディジタル・スチル・カメラ,画像再生装置および顔画像表示装置ならびにそれらの制御方法 |
| JP2006253805A (ja) * | 2005-03-08 | 2006-09-21 | Olympus Corp | 撮影装置及び撮影方法 |
| JP4687451B2 (ja) * | 2005-12-27 | 2011-05-25 | カシオ計算機株式会社 | 撮像装置、及びスルー画像表示方法 |
| JP4554529B2 (ja) * | 2006-02-06 | 2010-09-29 | 富士フイルム株式会社 | 撮像装置 |
| JP4864502B2 (ja) * | 2006-03-23 | 2012-02-01 | 富士フイルム株式会社 | 撮像装置および撮像条件案内方法 |
| US8306280B2 (en) * | 2006-04-11 | 2012-11-06 | Nikon Corporation | Electronic camera and image processing apparatus |
| JP2007282118A (ja) | 2006-04-11 | 2007-10-25 | Nikon Corp | 電子カメラおよび画像処理装置 |
| JP4207980B2 (ja) | 2006-06-09 | 2009-01-14 | ソニー株式会社 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
| JP4682097B2 (ja) * | 2006-06-29 | 2011-05-11 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム及び記憶媒体 |
| JP4894712B2 (ja) | 2007-10-17 | 2012-03-14 | ソニー株式会社 | 構図判定装置、構図判定方法、プログラム |
| JP5115139B2 (ja) | 2007-10-17 | 2013-01-09 | ソニー株式会社 | 構図判定装置、構図判定方法、プログラム |
| JP4508257B2 (ja) | 2008-03-19 | 2010-07-21 | ソニー株式会社 | 構図判定装置、構図判定方法、プログラム |
| JP4640456B2 (ja) | 2008-06-25 | 2011-03-02 | ソニー株式会社 | 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム |
| JP4983784B2 (ja) | 2008-12-18 | 2012-07-25 | ソニー株式会社 | 撮像システム、画像提示方法、制御装置、プログラム |
| JP2011009929A (ja) | 2009-06-24 | 2011-01-13 | Sony Corp | 可動機構部制御装置、可動機構部制御方法、プログラム |
| JP5453953B2 (ja) | 2009-06-24 | 2014-03-26 | ソニー株式会社 | 可動機構部制御装置、可動機構部制御方法、プログラム |
| JP5359645B2 (ja) | 2009-07-23 | 2013-12-04 | ソニー株式会社 | 構図判定装置、撮像システム、構図判定方法、プログラム |
| JP5347802B2 (ja) | 2009-07-27 | 2013-11-20 | ソニー株式会社 | 構図制御装置、撮像システム、構図制御方法、プログラム |
| JP5446546B2 (ja) | 2009-07-28 | 2014-03-19 | ソニー株式会社 | 撮像制御装置、撮像制御方法、プログラム、撮像システム |
| JP5407640B2 (ja) | 2009-07-29 | 2014-02-05 | ソニー株式会社 | 画像対応装置、動作設定方法、プログラム |
| JP5434338B2 (ja) | 2009-07-29 | 2014-03-05 | ソニー株式会社 | 撮像制御装置、撮像方法、プログラム |
| JP5434339B2 (ja) | 2009-07-29 | 2014-03-05 | ソニー株式会社 | 撮像制御装置、撮像システム、撮像方法、プログラム |
| US8605158B2 (en) | 2009-12-28 | 2013-12-10 | Sony Corporation | Image pickup control apparatus, image pickup control method and computer readable medium for changing an image pickup mode |
| JP2011139231A (ja) | 2009-12-28 | 2011-07-14 | Sony Corp | 画像処理装置、画像処理方法、プログラム |
| JP2011188065A (ja) | 2010-03-05 | 2011-09-22 | Sony Corp | 撮像制御装置、被写体検出方法、プログラム |
| JP5533048B2 (ja) | 2010-03-08 | 2014-06-25 | ソニー株式会社 | 撮像制御装置、撮像制御方法 |
| JP5577900B2 (ja) | 2010-07-05 | 2014-08-27 | ソニー株式会社 | 撮像制御装置、撮像制御方法、プログラム |
-
2008
- 2008-04-25 JP JP2008115298A patent/JP5206095B2/ja not_active Expired - Fee Related
-
2009
- 2009-04-14 US US12/423,150 patent/US8594390B2/en not_active Expired - Fee Related
- 2009-04-22 BR BRPI0900750-4A patent/BRPI0900750A2/pt not_active IP Right Cessation
- 2009-04-23 EP EP09158642A patent/EP2120210B1/en not_active Not-in-force
- 2009-04-24 RU RU2009115762/09A patent/RU2009115762A/ru not_active Application Discontinuation
- 2009-04-24 CN CN2009101369192A patent/CN101567973B/zh not_active Expired - Fee Related
-
2013
- 2013-10-24 US US14/062,599 patent/US9679394B2/en not_active Expired - Fee Related
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102196177A (zh) * | 2010-03-12 | 2011-09-21 | 索尼公司 | 图像处理设备、图像处理方法、程序以及成像设备 |
| CN106416303A (zh) * | 2014-05-26 | 2017-02-15 | 雅马哈株式会社 | 连接确认系统、连接确认程序、连接确认方法和连接检测设备 |
| CN105744148A (zh) * | 2014-12-24 | 2016-07-06 | 佳能株式会社 | 变焦控制装置和变焦控制装置的控制方法 |
| US10701274B2 (en) | 2014-12-24 | 2020-06-30 | Canon Kabushiki Kaisha | Controlling zoom magnification based on image size |
| US11172133B2 (en) | 2014-12-24 | 2021-11-09 | Canon Kabushiki Kaisha | Zoom control device, control method of zoom control device, and recording medium |
| CN109165557A (zh) * | 2018-07-25 | 2019-01-08 | 曹清 | 景别判断系统及景别判断方法 |
| CN109743493A (zh) * | 2018-08-27 | 2019-05-10 | 幻想动力(上海)文化传播有限公司 | 自动摄影构图方法、装置、自动摄影设备、电子装置及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20090268943A1 (en) | 2009-10-29 |
| JP5206095B2 (ja) | 2013-06-12 |
| JP2009267787A (ja) | 2009-11-12 |
| BRPI0900750A2 (pt) | 2010-07-20 |
| US20140119601A1 (en) | 2014-05-01 |
| RU2009115762A (ru) | 2010-10-27 |
| EP2120210A3 (en) | 2011-01-12 |
| EP2120210A2 (en) | 2009-11-18 |
| US9679394B2 (en) | 2017-06-13 |
| EP2120210B1 (en) | 2013-01-02 |
| US8594390B2 (en) | 2013-11-26 |
| CN101567973B (zh) | 2012-02-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN101567973B (zh) | 构图确定装置以及构图确定方法 | |
| JP5115139B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
| CN101540844B (zh) | 构图确定设备和构图确定方法 | |
| JP4894712B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
| CN102428707B (zh) | 立体视用图像对位装置和立体视用图像对位方法 | |
| JP4553346B2 (ja) | 焦点調節装置及び焦点調節方法 | |
| CN104243800B (zh) | 控制装置和存储介质 | |
| JP2010010936A (ja) | 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム | |
| CN107690649A (zh) | 数字拍摄装置及其操作方法 | |
| JP4663700B2 (ja) | 撮影装置、及び撮影方法 | |
| KR20170000311A (ko) | 디지털 촬영 장치 및 그 동작 방법 | |
| JP2006162991A (ja) | 立体画像撮影装置 | |
| JP5440588B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
| JP5098917B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
| JP2010217915A (ja) | 撮像装置及びその制御方法 | |
| JP2016036081A (ja) | 画像処理装置、方法及びプログラム並びに記録媒体 | |
| JP2012027302A (ja) | 投影機能付き撮像装置 | |
| JP2018042092A (ja) | 画像処理装置、撮像装置、制御方法およびプログラム | |
| JP2011061857A (ja) | 画像処理装置、画像処理方法、プログラム、撮像装置 | |
| JP2009302665A (ja) | 撮像装置および撮像装置用プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120215 Termination date: 20150424 |
|
| EXPY | Termination of patent right or utility model |