[go: up one dir, main page]

JP4946332B2 - Information processing program and information processing apparatus - Google Patents

Information processing program and information processing apparatus Download PDF

Info

Publication number
JP4946332B2
JP4946332B2 JP2006273040A JP2006273040A JP4946332B2 JP 4946332 B2 JP4946332 B2 JP 4946332B2 JP 2006273040 A JP2006273040 A JP 2006273040A JP 2006273040 A JP2006273040 A JP 2006273040A JP 4946332 B2 JP4946332 B2 JP 4946332B2
Authority
JP
Japan
Prior art keywords
subject
image
event
information
procedure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006273040A
Other languages
Japanese (ja)
Other versions
JP2008090730A (en
Inventor
啓一 新田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2006273040A priority Critical patent/JP4946332B2/en
Publication of JP2008090730A publication Critical patent/JP2008090730A/en
Application granted granted Critical
Publication of JP4946332B2 publication Critical patent/JP4946332B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、情報処理プログラム、および情報処理装置に関する。   The present invention relates to an information processing program and an information processing apparatus.

次のような自動アルバム作成方法が知られている。この方法は、被写体を撮像して得られた画像に付加されている音声データに基づいて撮影時のイベントを判定し、画像をイベントごとに区分してアルバムを作成するものである(例えば、特許文献1)。   The following automatic album creation methods are known. In this method, an event at the time of shooting is determined based on audio data added to an image obtained by imaging a subject, and an album is created by dividing the image into events (for example, patents). Reference 1).

特開2003−85190号公報JP 2003-85190 A

しかしながら、従来の方法によれば、撮影時のイベントは、アルバムを作成する際に画像を区分するためにしか使用しておらず、イベントを十分に活用できていなかった。   However, according to the conventional method, an event at the time of shooting is used only for dividing an image when creating an album, and the event cannot be fully utilized.

請求項1に記載の情報処理プログラムは、コンピュータに、取得された画像の特徴量を算出し、算出した特徴量に基づいて、前記画像内に写っている被写体の特徴を特定する特徴特定手順、イベントに対応付けて被写体の特徴を記憶するイベント記憶手段を参照して、前記特徴特定手順で特定された前記被写体の特徴に対応するイベントを設定するイベント設定手順、前記イベント設定手順で設定されたイベントを基に、前記イベントに関連する特定対象となる被写体を記憶する被写体記憶手段を参照して特定対象の被写体を決定し、この特定対象の被写体の特徴量と前記特徴特定手順で算出された画像の特徴量とを比較して前記画像内に含まれる被写体を特定する被写体特定手順、前記イベント設定手順で設定したイベントを表すイベント情報、および前記被写体特定手順で特定した被写体を表す被写体情報を前記画像に関連付けて記憶する画像記憶手順を実行させる。The information processing program according to claim 1, wherein the information processing program calculates a feature amount of the acquired image to a computer, and specifies a feature of a subject in the image based on the calculated feature amount, An event setting procedure for setting an event corresponding to the feature of the subject specified by the feature specifying procedure with reference to an event storage means for storing the subject's feature in association with the event, set by the event setting procedure Based on the event, the subject storage means for storing the subject to be identified related to the event is determined to determine the subject to be identified, and the feature amount of the subject to be identified and the feature identification procedure are calculated. An event that represents an event set in the event setting procedure and the event setting procedure that compares the feature quantity of the image to specify a subject included in the image Distribution, and the object information representative of the identified object in the object specifying step to execute the image storing procedure for storing in association with said image.
請求項8に記載の情報処理装置は、取得された画像の特徴量を算出し、算出した特徴量に基づいて、前記画像内に写っている被写体の特徴を特定する特徴特定手段と、イベントに対応付けて被写体の特徴を記憶するイベント記憶手段を参照して、前記特徴特定手段で特定された前記被写体の特徴に対応するイベントを設定するイベント設定手段と、前記イベント設定手段で設定されたイベントを基に、前記イベントに関連する特定対象となる被写体を記憶する被写体記憶手段を参照して特定対象の被写体を決定し、この特定対象の被写体の特徴量と前記特徴特定手段で算出された画像の特徴量とを比較して前記画像内に含まれる被写体を特定する被写体特定手段と、前記イベント設定手段で設定したイベントを表すイベント情報、および前記被写体特定手段で特定した被写体を表す被写体情報を前記画像に関連付けて記憶する画像記憶手段とを備えることを特徴とする。The information processing apparatus according to claim 8 calculates a feature amount of the acquired image, and based on the calculated feature amount, specifies a feature of a subject in the image, and an event Event setting means for setting an event corresponding to the feature of the subject specified by the feature specifying means, and an event set by the event setting means with reference to event storage means for storing the feature of the subject in association with each other Based on the above, the subject storage means for storing the subject to be identified relating to the event is determined to determine the subject to be identified, and the feature amount of the subject to be identified and the image calculated by the feature identification means A subject specifying means for specifying a subject included in the image by comparing with a feature amount of the event, event information indicating an event set by the event setting means, and Characterized in that it comprises an image storage means for storing in association with the subject information to the image representing the subject identified in Utsushitai specifying means.

本発明によれば、イベント情報を被写体情報と共に画像に関連付けて記憶することで、十分に活用することができる。   According to the present invention, event information is stored in association with an image together with subject information, so that it can be fully utilized.

―第1の実施の形態―
図1は、第1の実施の形態における情報処理装置の一実施の形態の構成を示すブロック図である。情報処理装置100としては、例えばパーソナルコンピュータ(パソコン)が用いられる。情報処理装置100は、入力装置101と、外部インターフェース102と、制御装置103と、HDD(ハードディスクドライブ)104と、モニタ105とを備えている。
-First embodiment-
FIG. 1 is a block diagram illustrating a configuration of an information processing apparatus according to an embodiment of the first embodiment. For example, a personal computer (personal computer) is used as the information processing apparatus 100. The information processing apparatus 100 includes an input device 101, an external interface 102, a control device 103, an HDD (Hard Disk Drive) 104, and a monitor 105.

入力装置101は、キーボードやマウスなど、使用者によって操作される種々の入力部材を含んでいる。外部インターフェース102は、後述する処理対象の画像をデジタルカメラなどの外部機器から取り込むためのインターフェースであり、例えばUSBインターフェースや無線LANインターフェースが用いられる。HDD104は、外部インターフェース102を介して取り込んだ画像データや後述するように制御装置103で実行される情報処理プログラムなど種々のデータが記録される。モニタ105は、情報処理装置100を操作するための操作画面やHDD104に記録されている画像などを表示する。なお、HDD104へのデータの記録、およびモニタ105への表示は、制御装置103によって制御される。   The input device 101 includes various input members operated by a user such as a keyboard and a mouse. The external interface 102 is an interface for capturing an image to be processed, which will be described later, from an external device such as a digital camera. For example, a USB interface or a wireless LAN interface is used. The HDD 104 records various data such as image data captured via the external interface 102 and an information processing program executed by the control device 103 as will be described later. The monitor 105 displays an operation screen for operating the information processing apparatus 100, an image recorded in the HDD 104, and the like. The recording of data on the HDD 104 and the display on the monitor 105 are controlled by the control device 103.

制御装置103は、CPU、メモリ、およびその他の周辺回路で構成され、イベント設定部103aと、被写体特定部103bと、記憶制御部103cと、画像検索部103dと、表示制御部103eとを機能的に備えている。   The control device 103 includes a CPU, a memory, and other peripheral circuits, and includes an event setting unit 103a, a subject specifying unit 103b, a storage control unit 103c, an image search unit 103d, and a display control unit 103e. In preparation.

イベント設定部103aは、外部インターフェース102を介して取り込まれた画像を1枚ずつ読み込んで画像の特徴量を算出し、算出した画像の特徴量に基づいて、画像の撮影時のイベントを設定する。すなわち、各画像がどのようなイベントで撮影されたものかを特定し、特定したイベントを画像の撮影時のイベントとして設定する。例えば、画像が結婚式で撮影されたものである場合には、画像の撮影時のイベントとして「結婚式」を設定する。また、画像が花撮影旅行中に撮影されたものである場合には、画像の撮影時のイベントとして「花撮影旅行」を設定する。   The event setting unit 103a reads images captured via the external interface 102 one by one, calculates image feature values, and sets an event at the time of image capture based on the calculated image feature values. That is, the event at which each image was captured is specified, and the specified event is set as an event at the time of image capture. For example, if the image was taken at a wedding, “wedding” is set as an event when the image was taken. If the image was taken during a flower photography trip, “flower photography trip” is set as an event when the image was taken.

被写体特定部103bは、画像内に写っている被写体の内、イベント設定部103aで設定した画像の撮影時のイベントに応じた被写体のみを特定する。   The subject specifying unit 103b specifies only the subject corresponding to the event at the time of shooting the image set by the event setting unit 103a among the subjects appearing in the image.

記憶制御部103cは、イベント設定部103aで設定した画像の撮影時のイベントを表すイベント情報、および被写体特定部103bで特定した画像の撮影時のイベントに関連する被写体を示す被写体情報を画像に関連付けてHDD104へ記憶する。本実施の形態では、記憶制御部103cは、イベント情報と被写体情報とを画像ファイル内に含めて記憶することによって、イベント情報と被写体情報とを画像に関連付ける。この場合、例えば、画像ファイルの保存形式としてExif形式を採用し、画像ファイル内のExif情報にイベント情報と被写体情報とを含めればよい。   The storage control unit 103c associates, with an image, event information indicating an event at the time of shooting the image set by the event setting unit 103a and subject information indicating a subject related to the event at the time of shooting of the image specified by the subject specifying unit 103b. And stored in the HDD 104. In the present embodiment, the storage control unit 103c associates event information and subject information with an image by storing event information and subject information in an image file. In this case, for example, the Exif format may be adopted as the image file storage format, and event information and subject information may be included in the Exif information in the image file.

以下、図2に示すフローチャートに沿って、イベント設定部103a、被写体特定部103b、および記憶制御部103cによる処理の具体例について説明する。なお、図2では、イベント設定部103aが画像の撮影時のイベントとして「結婚式」と「花撮影旅行」のいずれかを設定する場合について説明する。この図2に示す処理は、外部インターフェース102を介して画像の取り込みが行なわれると起動する情報処理プログラムとして、103a〜103cの各部によって実行される。   A specific example of processing by the event setting unit 103a, the subject specifying unit 103b, and the storage control unit 103c will be described below with reference to the flowchart shown in FIG. Note that FIG. 2 illustrates a case where the event setting unit 103a sets either “wedding” or “flower photography trip” as an event at the time of image shooting. The processing shown in FIG. 2 is executed by each unit 103a to 103c as an information processing program that is activated when an image is captured via the external interface 102.

ステップS10において、イベント設定部103aは、外部インターフェース102を介して取り込まれた画像内に写っている被写体の種類を特定する。具体的には、イベント設定部103aは、画像の特徴量を算出し、算出した特徴量を基づいて、画像内に写っている被写体の種類を特定する。   In step S <b> 10, the event setting unit 103 a identifies the type of subject that is captured in the image captured via the external interface 102. Specifically, the event setting unit 103a calculates the feature amount of the image, and identifies the type of the subject appearing in the image based on the calculated feature amount.

例えば、イベント設定部103aは、画像のヒストグラムを生成することで得られる色情報を画像の特徴量として算出する。あるいは、画像内のエッジを抽出することで得られる被写体の形状を画像の特徴量として算出する。その他、画像の明るさ、所定領域内の各方向の空間周波数、画像内に含まれる文字情報、および画像に付加されて記憶されている音声情報などを画像の特徴量として用いても良い。また、被写体に花を含む場合には、花びらの枚数を特徴量として算出してもよく、被写体に人物の顔を含む場合には、目、鼻、口の位置や顔の輪郭などの顔の特徴を示す値を特徴量として算出してもよい。   For example, the event setting unit 103a calculates color information obtained by generating a histogram of an image as an image feature amount. Alternatively, the shape of the subject obtained by extracting the edge in the image is calculated as the feature amount of the image. In addition, the brightness of the image, the spatial frequency in each direction within the predetermined area, the character information included in the image, the sound information added to the image and stored, and the like may be used as the image feature amount. If the subject includes flowers, the number of petals may be calculated as a feature amount. If the subject includes a person's face, the facial features such as the eyes, nose, mouth position, and facial contours may be calculated. A value indicating a feature may be calculated as a feature amount.

そして、イベント設定部103aは、画像内で画像の特徴量が近似する領域を併合することで同一の被写体が写っている領域(被写体領域)を特定する。そして、被写体領域ごとの画像の特徴量に基づいて、その被写体領域内に含まれている被写体の種類を特定する。   Then, the event setting unit 103a identifies a region (subject region) in which the same subject is captured by merging regions in the image where the feature amount of the image approximates. Then, based on the feature amount of the image for each subject area, the type of the subject included in the subject area is specified.

例えば、取り込んだ画像が、図3に示すように自動車3aを被写体として含む画像である場合には、イベント設定部103aは、まず、画像の特徴量として算出した色情報に基づいて、同一の色成分を有する領域を併合する。これによって、自動車3aを含む領域は、自動車3aの色を有する領域として併合される。そして、イベント設定部103aは、画像の特徴量として算出した形状に基づいて、併合した領域内の被写体の形状を抽出し、抽出した形状をあらかじめHDD104に記憶されている被写体の形状パターンと比較して、被写体の種類を特定する。これによって、自動車3aを含む領域では、被写体の種類は「自動車」と特定される。   For example, when the captured image is an image including the automobile 3a as a subject as shown in FIG. 3, the event setting unit 103a first uses the same color based on the color information calculated as the feature amount of the image. Merge regions with components. Thereby, the area including the automobile 3a is merged as an area having the color of the automobile 3a. Then, the event setting unit 103a extracts the shape of the subject in the merged area based on the shape calculated as the feature amount of the image, and compares the extracted shape with the shape pattern of the subject stored in the HDD 104 in advance. To identify the type of subject. As a result, in the area including the automobile 3a, the type of subject is specified as “automobile”.

ステップS20〜S40では、イベント設定部103aは、図4に示すイベントテーブルを参照して、特定した被写体の種類がイベント「結婚式」に対応付けられたものであるか否かを判断する。なお、イベントテーブルとは、あらかじめHDD104に記憶されており、イベントを特定するための画像の特徴をイベントに対応付けて記憶したものである。なお、図4に示すイベントテーブルにおいては、特定した被写体の種類とイベントとを対応付けているが、被写体ごとの画像の特徴量とイベントとを対応付けるようにしてもよい。   In steps S20 to S40, the event setting unit 103a refers to the event table shown in FIG. 4 and determines whether or not the identified subject type is associated with the event “wedding”. The event table is stored in advance in the HDD 104, and stores image characteristics for specifying an event in association with the event. In the event table shown in FIG. 4, the type of the identified subject and the event are associated with each other, but the image feature amount and the event for each subject may be associated with each other.

すなわち、ステップS20では、イベント設定部103aは、画像の撮影時のイベントが「結婚式」であるか否かを判断するために、被写体の種類が「ウェディングドレス姿の女性」であるか否かを判断する。被写体の種類が「ウェディングドレス姿の女性」ではないと判断した場合には、後述するステップS80へ進む。これに対して、被写体の種類が「ウェディングドレス姿の女性」であると判断した場合には、ステップS30へ進む。   That is, in step S20, the event setting unit 103a determines whether or not the type of the subject is “female in a wedding dress” in order to determine whether or not the event at the time of image capturing is “wedding”. Judging. If it is determined that the subject type is not “women in wedding dress”, the process proceeds to step S80 described later. On the other hand, if it is determined that the type of subject is “female in a wedding dress”, the process proceeds to step S30.

ステップS30では、イベント設定部103aは、画像の撮影時のイベントが「結婚式」であるか否かを判断するために、被写体の種類が「タキシード姿の男性」であるか否かを判断する。被写体の種類が「タキシード姿の男性」ではないと判断した場合には、後述するステップS80へ進む。これに対して、被写体の種類が「タキシード姿の男性」であると判断した場合には、ステップS40へ進む。   In step S30, the event setting unit 103a determines whether or not the type of the subject is “a man in a tuxedo” in order to determine whether or not the event at the time of shooting the image is “wedding”. . If it is determined that the subject type is not “a man in a tuxedo”, the process proceeds to step S80 described later. On the other hand, if it is determined that the type of subject is “a man in a tuxedo”, the process proceeds to step S40.

ステップS40では、イベント設定部103aは、画像の撮影時のイベントが「結婚式」であるか否かを判断するために、被写体の種類が「正装した人物」であるか否かを判断する。被写体の種類が「正装した人物」ではないと判断した場合には、後述するステップS80へ進む。これに対して、被写体の種類が「正装した人物」であると判断した場合には、ステップS50へ進む。   In step S <b> 40, the event setting unit 103 a determines whether the subject type is “person dressed up” in order to determine whether the event at the time of image capture is “wedding”. If it is determined that the subject type is not “person in full dress”, the process proceeds to step S80 described later. On the other hand, if it is determined that the subject type is “person in full dress”, the process proceeds to step S50.

ステップS50では、イベント設定部103aは、画像内には、イベントが「結婚式」である場合に画像内に含まれる可能性が高い被写体の種類を全て含んでいることから、この画像の撮影時のイベントは「結婚式」であると判断する。すなわち、当該画像の撮影時のイベントとして「結婚式」を設定する。その後、ステップS60へ進む。   In step S50, the event setting unit 103a includes all types of subjects that are likely to be included in the image when the event is “wedding”. It is determined that the event is “wedding”. That is, “wedding” is set as an event at the time of shooting the image. Thereafter, the process proceeds to step S60.

ステップS60では、被写体特定部103bは、画像内に写っている被写体の内、イベント設定部103aで設定した画像の撮影時のイベントに関連する被写体のみを特定する。このために、被写体特定部103bは、あらかじめHDD104に記憶されているイベントに関連する被写体を特定するために用いる情報を記憶した被写体テーブルを参照して、イベントに応じた被写体を特定する。   In step S60, the subject specifying unit 103b specifies only the subject related to the event at the time of shooting the image set by the event setting unit 103a among the subjects appearing in the image. For this purpose, the subject specifying unit 103b specifies a subject corresponding to the event with reference to a subject table storing information used for specifying a subject related to the event stored in advance in the HDD 104.

被写体テーブルの具体例を図5に示す。被写体特定部103bは、まず、図5に示す被写体テーブルを参照して、画像の撮影時のイベントに関連する被写体を特定する。すなわち、被写体特定部103bは、画像の撮影時のイベント5aに対して○が設定されている被写体5bのみを、画像の撮影時のイベントに関連する被写体として特定する。ここでは、イベント5aが「結婚式」である場合の被写体5bとして「Aさん」、「Bさん」、「Cさん」が特定対象となる。   A specific example of the subject table is shown in FIG. First, the subject specifying unit 103b refers to the subject table shown in FIG. 5 and specifies the subject related to the event at the time of image capture. That is, the subject specifying unit 103b specifies only the subject 5b for which the circle is set for the event 5a at the time of image capture as the subject related to the event at the time of image capture. Here, “Mr. A”, “Mr. B”, and “Mr. C” are specified as subjects 5b when the event 5a is “wedding”.

そして、被写体特定部103bは、イベント設定部103aで算出された各被写体の画像の特徴量と、被写体テーブルに記憶されている「Aさん」、「Bさん」、「Cさん」の特徴量5cとをそれぞれ比較して、画像内に含まれる個人を特定する。例えば、イベント設定部103aは被写体の種類として「ウェディングドレス姿の女性」は「Aさん」であると特定する。また、「タキシード姿の男性」は「Bさん」であると特定する。また、「正装した人物」は「Cさん」であると特定する。   The subject specifying unit 103b then calculates the feature amount of each subject image calculated by the event setting unit 103a and the feature amounts 5c of “Mr. A”, “Mr. B”, and “Mr. C” stored in the subject table. Are identified to identify individuals included in the image. For example, the event setting unit 103a specifies that “the woman in the wedding dress” is “Mr. A” as the type of subject. Further, the “male in a tuxedo” is identified as “Mr. B”. Further, the “person in full dress” is identified as “Mr. C”.

このように、画像の撮影時のイベントに関連する被写体のみを詳細に特定することによって、イベントに関連しない被写体は特定を行なう必要がなくなり、画像内に存在する全ての被写体を特定する場合よりも処理の負荷を低減することができる。例えば、画像の撮影時のイベントが「結婚式」である場合に、画像内に「花」(被写体の種類)が写っていても、この「花」の具体的な品種(被写体)は「結婚式」というイベントには直接関係がないため、被写体の特定は行なう必要がない。本発明によれば、画像の撮影時のイベントが「結婚式」である場合には、画像内に含まれる「花」の品種は特定しないため、無駄な処理を省いて処理の負荷を低減できる。   In this way, by specifying in detail only the subject related to the event at the time of image capture, it is not necessary to specify the subject not related to the event, rather than specifying all subjects present in the image. The processing load can be reduced. For example, if the event at the time of shooting an image is “wedding”, even if “flower” (type of subject) is shown in the image, the specific variety (subject) of this “flower” is “marriage” Since there is no direct relationship with the event “expression”, it is not necessary to specify the subject. According to the present invention, when the event at the time of shooting an image is “wedding”, the type of “flower” included in the image is not specified, and therefore it is possible to reduce useless processing and reduce processing load. .

その後、ステップS70へ進み、記憶制御部103cは、イベント設定部103aで設定した画像の撮影時のイベントを表すイベント情報、および被写体特定部103bで特定した画像の撮影時のイベントに関連する被写体を示す被写体情報を画像に関連付けてHDD104へ記憶して、処理を終了する。なお、本実施の形態では、記憶制御部103cは、イベント情報と被写体情報とを画像ファイル内に含めて記憶することによって、イベント情報と被写体情報とを画像に関連付ける。この場合、例えば、画像ファイルの保存形式としてExif形式を採用し、画像ファイル内のExif情報にイベント情報と被写体情報とを含めればよい。   Thereafter, the process proceeds to step S70, and the storage control unit 103c selects event information indicating an event at the time of shooting the image set by the event setting unit 103a, and a subject related to the event at the time of shooting the image specified by the subject specifying unit 103b. The subject information shown is stored in the HDD 104 in association with the image, and the process is terminated. In the present embodiment, the storage control unit 103c associates the event information and the subject information with the image by storing the event information and the subject information in the image file. In this case, for example, the Exif format may be adopted as the image file storage format, and event information and subject information may be included in the Exif information in the image file.

次に、ステップS80以降の処理について説明する。ステップS80では、上述したイベントが結婚式である場合に画像内に含まれる可能性が高い被写体の種類うち、少なくとも1つを含んでいないことから、イベント設定部103aは、画像の撮影時のイベントは「結婚式」ではないと判断する。そして、図4に示すイベントテーブルを参照して、認識した被写体の種類がイベント「花撮影旅行」に対応付けられたものであるか否かを判断する。すなわち、被写体の種類が「花」であるか否かを判断する。   Next, the process after step S80 is demonstrated. In step S80, when the event described above is a wedding, the event setting unit 103a does not include at least one of the types of subjects that are highly likely to be included in the image. Judge that is not a "wedding". Then, with reference to the event table shown in FIG. 4, it is determined whether or not the recognized subject type is associated with the event “flower photography trip”. That is, it is determined whether or not the type of subject is “flower”.

被写体の種類が「花」ではないと判断した場合には、後述するステップS130へ進む。一方、被写体の種類が「花」であると判断した場合には、ステップS90へ進む。ステップS90では、イベント設定部103aは、画像内の花が存在する領域に画像撮影時のAFエリアが重なっているか否かを判断する。なお、画像撮影時のAFエリアに関する情報は画像ファイル内、例えばExif情報内に記憶されている。画像内の花が存在する領域にAFエリアが重なっていないと判断した場合には、後述するステップS130へ進む。これに対して、画像内の花が存在する領域にAFエリアが重なっていると判断した場合には、ステップS100へ進む。   If it is determined that the subject type is not “flower”, the process proceeds to step S130 described later. On the other hand, if it is determined that the subject type is “flower”, the process proceeds to step S90. In step S90, the event setting unit 103a determines whether or not the AF area at the time of image capturing overlaps with the area where the flower exists in the image. Information about the AF area at the time of image shooting is stored in an image file, for example, Exif information. If it is determined that the AF area does not overlap the area where the flower exists in the image, the process proceeds to step S130 described later. On the other hand, if it is determined that the AF area overlaps the area where the flower exists in the image, the process proceeds to step S100.

ステップS100では、イベント設定部103aは、画像内には、イベントが「花撮影旅行」である場合に画像内に含まれる可能性が高い被写体の種類を含んでおり、かつその被写体にAFエリアが重なっていることから、この画像の撮影時のイベントは「花撮影旅行」であると判断する。すなわち、当該画像の撮影時のイベントとして「花撮影旅行」を設定する。その後、ステップS110へ進む。   In step S100, the event setting unit 103a includes, in the image, the type of subject that is likely to be included in the image when the event is “flower photography trip”, and an AF area is included in the subject. Since they overlap, it is determined that the event at the time of shooting this image is “flower shooting trip”. That is, “flower photography trip” is set as an event at the time of photographing the image. Then, it progresses to step S110.

ステップS110では、被写体特定部103bは、図5に示した被写体テーブルを参照して、「花撮影旅行」に応じた被写体のみを特定する。ここでは、イベント5aが「花撮影旅行」である場合の被写体5bとして「バラ」、「桜」、「チューリップ」が特定対象となる。   In step S110, the subject specifying unit 103b refers to the subject table shown in FIG. 5 and specifies only the subject corresponding to the “flower photography trip”. Here, “rose”, “cherry blossom”, and “tulip” are specified as subjects 5b when the event 5a is “flower photography trip”.

そして、被写体特定部103bは、イベント設定部103aで算出された各被写体の画像の特徴量と、被写体テーブルに記憶されている「バラ」、「桜」、「チューリップ」の特徴量5cとをそれぞれ比較して、画像内に含まれる花の品種を特定する。例えば、イベント設定部103aは画像内に含まれる花は「チューリップ」であると特定する。これによって、画像の撮影時のイベントが「花撮影旅行」である場合には、画像内に人物が写っていても、この人物が誰であるかは「花撮影旅行」というイベントには直接関係がないため被写体の特定は行なう必要がないことを加味して、処理の負荷を低減することができる。   Then, the subject specifying unit 103b uses the feature amount of each subject image calculated by the event setting unit 103a and the feature amount 5c of “rose”, “sakura”, and “tulip” stored in the subject table, respectively. In comparison, the type of flower contained in the image is specified. For example, the event setting unit 103a specifies that the flower included in the image is “tulip”. As a result, if the event at the time of image shooting is “flower shooting trip”, even if a person is shown in the image, who this person is is directly related to the event “flower shooting trip” In view of the fact that there is no need to specify the subject, there is no need to specify the subject, and the processing load can be reduced.

その後、ステップS70へ進み、記憶制御部103cは、イベント設定部103aで設定した画像の撮影時のイベントを表すイベント情報、および被写体特定部103bで特定した画像の撮影時のイベントに関連する被写体を示す被写体情報を画像に関連付けてHDD104へ記憶して、処理を終了する。   Thereafter, the process proceeds to step S70, and the storage control unit 103c selects event information indicating an event at the time of shooting the image set by the event setting unit 103a, and a subject related to the event at the time of shooting the image specified by the subject specifying unit 103b. The subject information shown is stored in the HDD 104 in association with the image, and the process is terminated.

また、ステップS120では、イベント設定部103aは、画像の撮影時のイベントが「結婚式」でも「花撮影旅行」でもない場合のその他のイベントの設定を行う。例えば、イベントテーブルに他のイベントを設定するためのデータが記憶されている場合には、イベント設定部103aはそのイベントを設定する。その後、ステップS130へ進み、被写体特定部103bは、イベント設定部103aで設定されたイベントに関連した被写体の特定を行う。   In step S120, the event setting unit 103a sets other events when the event at the time of image shooting is neither “wedding” nor “flower shooting trip”. For example, when data for setting another event is stored in the event table, the event setting unit 103a sets the event. Thereafter, the process proceeds to step S130, and the subject specifying unit 103b specifies a subject related to the event set by the event setting unit 103a.

また、画像に音声データが付加されている場合などは、ステップS120において、イベント設定部103aは、音声データからイベントを特定するようにしてもよい。例えば、イベント設定部103aは、音声データを読み込んで音声認識処理を行い、その音声が電車の音であると判断した場合には、画像の撮影時のイベントは「電車撮影会」であると判断する。そして、この場合、被写体特定部103bは、ステップS130において、画像内には「電車」が被写体として写っていると判断する。   Further, when audio data is added to the image, the event setting unit 103a may identify an event from the audio data in step S120. For example, when the event setting unit 103a reads voice data and performs voice recognition processing and determines that the voice is a train sound, the event setting unit 103a determines that the event at the time of shooting the image is a “train photo session”. To do. In this case, the subject specifying unit 103b determines in step S130 that “train” is shown as a subject in the image.

その後、上述したステップS70へ進み、記憶制御部103cは、イベント設定部103aで設定した画像の撮影時のイベントを表すイベント情報、および被写体特定部103bで特定した画像の撮影時のイベントに関連する被写体を示す被写体情報を画像に関連付けてHDD104へ記憶して、処理を終了する。   Thereafter, the process proceeds to step S70 described above, and the storage control unit 103c relates to event information indicating an event at the time of shooting the image set by the event setting unit 103a and an event at the time of shooting the image specified by the subject specifying unit 103b. The subject information indicating the subject is stored in the HDD 104 in association with the image, and the process ends.

本実施の形態における情報処理装置100では、使用者は、画像に関連付けて記憶されているイベント情報、または被写体情報を画像を検索するための検索条件として指定して、画像の検索を行なうことができる。すなわち、使用者によって入力装置101が操作され、画像の検索が指示されると、画像検索部103dは、モニタ105上に検索条件を入力するための入力画面を表示し、使用者からの検索条件の入力を受け付ける。   In information processing apparatus 100 according to the present embodiment, a user can search for an image by specifying event information or subject information stored in association with the image as a search condition for searching for the image. it can. That is, when the user operates the input device 101 and instructs to search for an image, the image search unit 103d displays an input screen for inputting search conditions on the monitor 105, and the search conditions from the user are displayed. Accepts input.

そして、使用者によって検索条件としてのイベント情報が入力されると、画像検索部103dは、HDD104に記憶されている画像ファイルの中から、検索条件に合致するイベント情報が関連付けて記憶されている画像ファイルを検索結果として抽出する。また、使用者によって検索条件として被写体情報が入力されると、画像検索部103dは、HDD104に記憶されている画像ファイルの中から、検索条件に合致する被写体情報が関連付けて記憶されている画像ファイルを検索結果として抽出する。   When event information as a search condition is input by the user, the image search unit 103d displays an image in which event information that matches the search condition is stored in association with the image file stored in the HDD 104. Extract files as search results. Further, when subject information is input as a search condition by the user, the image search unit 103 d displays an image file in which subject information that matches the search condition is stored in association with the image file stored in the HDD 104. Is extracted as a search result.

そして、表示制御部103eは、画像検索部103dによる検索結果をモニタ105へ表示する。このとき、表示制御部103eは、画像検索部103dによって抽出された画像ファイルに含まれる画像(抽出された画像)と、HDD104に記憶されているその他の画像ファイルに含まれる画像(その他の画像)とを区別してモニタ105に表示する。例えば、表示制御部103eは、抽出された画像のみをモニタ105に表示する。   Then, the display control unit 103e displays the search result by the image search unit 103d on the monitor 105. At this time, the display control unit 103e displays an image (extracted image) included in the image file extracted by the image search unit 103d and an image (other image) included in another image file stored in the HDD 104. And are displayed on the monitor 105. For example, the display control unit 103e displays only the extracted image on the monitor 105.

あるいは、表示制御部103eは、図6(a)に示すように、モニタ105上に表示する画像の表示領域を2つに分割して、一方の領域6aに抽出された画像を表示し、他方の領域6bにその他の画像を表示するようにしてもよい。あるいは、図6(b)に示すように、HDD104に記憶されている全ての画像をモニタ105に表示し、抽出された画像のみを枠6cで囲って表示するようにしてもよい。また、他の方法によって抽出された画像とその他の画像とを区別して表示してもよい。なお、モニタ105には、画像は所定の表示順序、例えば撮影日時順に表示されるものとする。   Alternatively, as shown in FIG. 6A, the display control unit 103e divides the display area of the image displayed on the monitor 105 into two, and displays the extracted image in one area 6a. Other images may be displayed in the area 6b. Alternatively, as shown in FIG. 6B, all the images stored in the HDD 104 may be displayed on the monitor 105, and only the extracted images may be displayed surrounded by a frame 6c. Further, an image extracted by another method may be displayed separately from other images. It should be noted that the images are displayed on the monitor 105 in a predetermined display order, for example, in order of shooting date and time.

使用者は、モニタ105に表示された画像の中から任意の画像を選択して、その画像に関連付けて記憶されているイベント情報を変更することができる。例えば、イベント設定部103aによって自動的に設定されたイベントが誤っている場合に、使用者は正しいイベントを画像の撮影時のイベントとして設定し直すことができる。使用者によってイベント情報の変更が指示された場合には、記憶制御部103cは、選択された画像のイベント情報を変更するための変更画面をモニタ105に表示し、使用者によるイベント情報の変更を受け付ける。   The user can select any image from the images displayed on the monitor 105 and change the event information stored in association with the image. For example, when the event automatically set by the event setting unit 103a is incorrect, the user can reset the correct event as an event at the time of image capturing. When the change of the event information is instructed by the user, the storage control unit 103c displays a change screen for changing the event information of the selected image on the monitor 105, and the event information is changed by the user. Accept.

使用者によってイベント情報が変更されると、記憶制御部103cは、変更後のイベント情報を画像に関連付けて上書き保存する。このとき、記憶制御部103cは、上述した被写体テーブルを参照して、画像に関連付けられている被写体情報が変更後のイベント情報に対応したものであるか否かを判断する。そして、画像に関連付けられている被写体情報が変更後のイベント情報に対応したものである場合には、その被写体情報をそのまま画像に関連付けて記憶する。一方、画像に関連付けられている被写体情報が変更後のイベント情報に対応したものでない場合には、記憶制御部103cは、画像に関連付けられている被写体情報を削除する。すなわち、変更後のイベント情報に対応する被写体情報のみを画像に関連付けてHDD104に記憶する。   When the event information is changed by the user, the storage control unit 103c overwrites and saves the changed event information in association with the image. At this time, the storage control unit 103c refers to the subject table described above, and determines whether or not subject information associated with the image corresponds to the changed event information. If the subject information associated with the image corresponds to the changed event information, the subject information is directly associated with the image and stored. On the other hand, if the subject information associated with the image does not correspond to the changed event information, the storage control unit 103c deletes the subject information associated with the image. That is, only subject information corresponding to the changed event information is stored in the HDD 104 in association with the image.

図7は、第1の実施の形態における画像の検索、表示、およびイベント情報の変更の各処理を示すフローチャートである。図7に示す処理は、使用者によって画像の検索が指示されると起動する情報処理プログラムとして、記憶制御部103c、画像検索部103d、および表示制御部103eによって実行される。   FIG. 7 is a flowchart showing each process of image search, display, and event information change in the first embodiment. The processing shown in FIG. 7 is executed by the storage control unit 103c, the image search unit 103d, and the display control unit 103e as an information processing program that is activated when an image search is instructed by the user.

ステップS210において、画像検索部103dは、使用者によって検索条件としてイベント情報、または被写体情報が入力されたか否かを判断する。検索条件が入力されたと判断した場合には、ステップS220へ進む。ステップS220では、画像検索部103dは、HDD104に記憶されている画像ファイルの中から、検索条件に合致するイベント情報、または被写体情報が関連付けて記憶されている画像ファイルを検索結果として抽出する。その後、ステップS230へ進む。   In step S210, the image search unit 103d determines whether event information or subject information is input as a search condition by the user. If it is determined that the search condition has been input, the process proceeds to step S220. In step S220, the image search unit 103d extracts, from the image files stored in the HDD 104, an event file that matches the search condition or an image file that is stored in association with subject information as a search result. Thereafter, the process proceeds to step S230.

ステップS230では、表示制御部103eは、画像検索部103dによる検索結果をモニタ105へ表示する。このとき、表示制御部103eは、上述したように、画像検索部103dによって抽出された画像とその他の画像とを区別してモニタ105へ表示する。その後、ステップS240へ進み、記憶制御部103cは、使用者によっていずれかの画像に関連付けて記憶されているイベント情報が変更されたか否かを判断する。イベント情報が変更されていないと判断した場合には、処理を終了する。   In step S230, the display control unit 103e displays the search result obtained by the image search unit 103d on the monitor 105. At this time, as described above, the display control unit 103e distinguishes and displays the image extracted by the image search unit 103d and other images on the monitor 105. Thereafter, the process proceeds to step S240, and the storage control unit 103c determines whether or not the event information stored in association with any image has been changed by the user. If it is determined that the event information has not been changed, the process ends.

これに対して、イベント情報が変更されたと判断した場合には、ステップS250へ進む。ステップS250では、記憶制御部103cは、変更後のイベント情報を画像に関連付けて保存し、ステップS260へ進む。ステップS260では、記憶制御部103cは、上述した被写体テーブルを参照して、画像に関連付けられている被写体情報が変更後のイベント情報に対応したものであるか否かを判断する。被写体情報が変更後のイベント情報に対応したものであると判断した場合には、処理を終了する。これに対して、被写体情報が変更後のイベント情報に対応したものではないと判断した場合には、ステップS270へ進む。ステップS270では、記憶制御部103cは、画像に関連付けられている被写体情報を削除して、処理を終了する。   On the other hand, if it is determined that the event information has been changed, the process proceeds to step S250. In step S250, the storage control unit 103c stores the changed event information in association with the image, and proceeds to step S260. In step S260, the storage control unit 103c refers to the subject table described above and determines whether the subject information associated with the image corresponds to the changed event information. If it is determined that the subject information corresponds to the changed event information, the process ends. In contrast, if it is determined that the subject information does not correspond to the changed event information, the process proceeds to step S270. In step S270, the storage control unit 103c deletes the subject information associated with the image and ends the process.

以上説明した第1の実施の形態によれば、以下のような作用効果を得ることができる。
(1)画像の撮影時のイベントを設定して、そのイベントに関連した被写体を特定し、イベントを表すイベント情報と被写体を表す被写体情報とを画像に関連付けて記憶するようにした。これによって、画像を記憶した後にイベント情報と被写体情報を十分に活用することができる。また、画像に関連付けて記憶される被写体情報は、画像の撮影時のイベントに関するもののみとなり、イベントに無関係な被写体情報が画像に関連付けて記憶されることを防ぐことができる。
According to the first embodiment described above, the following operational effects can be obtained.
(1) An event at the time of shooting an image is set, a subject related to the event is specified, and event information representing the event and subject information representing the subject are stored in association with the image. As a result, the event information and subject information can be fully utilized after the image is stored. Further, the subject information stored in association with the image is only related to the event at the time of shooting the image, and it is possible to prevent subject information irrelevant to the event from being stored in association with the image.

(2)検索条件として被写体情報の入力を受け付け、受け付けた被写体情報が関連付けられている画像を検索して表示するようにした。これによって、使用者は、被写体ごとに画像を閲覧することができ、利便性が向上する。 (2) An input of subject information is accepted as a search condition, and an image associated with the accepted subject information is retrieved and displayed. Thus, the user can browse the image for each subject, and convenience is improved.

(3)画像に関連付けて記憶されているイベント情報の変更を受け付け、変更後のイベント情報に対応しない被写体情報が画像に関連付けて記憶されている場合には、当該被写体情報を削除するようにした。これによって、イベント情報が変更された場合に、そのイベントに関連しない被写体が画像にそのまま関連付けられて記憶されてしまうことを防ぐことができる。 (3) A change in event information stored in association with an image is accepted, and when subject information that does not correspond to the changed event information is stored in association with an image, the subject information is deleted. . As a result, when the event information is changed, it is possible to prevent a subject that is not related to the event from being stored in association with the image as it is.

(4)指定された検索条件で画像を検索したときは、検索結果として抽出された画像とその他の画像とを区別して表示するようにした。これによって、使用者は検索結果を容易に把握することができる。 (4) When an image is searched under the specified search condition, the image extracted as the search result is displayed separately from other images. As a result, the user can easily grasp the search result.

―第2の実施の形態―
上述した第1の実施の形態では、被写体特定部103bは、画像内に写っている被写体の中から、イベント設定部103aで設定したイベントに関連する被写体のみを特定するようにし、記憶制御部103cは、イベント情報と被写体情報とを画像に関連付けて記憶する例について説明した。これに対して、第2の実施の形態では、被写体特定部103bは、イベント設定部103aで設定したイベントに関わらず、画像内に写っている全ての被写体を特定する。そして、記憶制御部103cは、イベント情報と被写体特定部103bで特定した全ての被写体を表す被写体情報とを画像に関連付けて記憶する。
-Second embodiment-
In the first embodiment described above, the subject specifying unit 103b specifies only the subject related to the event set by the event setting unit 103a from the subjects in the image, and the storage control unit 103c. Explained an example of storing event information and subject information in association with an image. On the other hand, in the second embodiment, the subject specifying unit 103b specifies all subjects appearing in the image regardless of the event set by the event setting unit 103a. The storage control unit 103c stores event information and subject information representing all subjects specified by the subject specifying unit 103b in association with images.

なお、第2の実施の形態では、図1に示したブロック図、図3に示した被写体の種類の特定方法を示す図、図4に示したイベントテーブルの具体例を示す図、図5に示した被写体テーブルの具体例を示す図、および図7に示した画像の検索、表示、およびイベント情報の変更の各処理を示すフローチャートについては、第1の実施の形態と同様のため説明を省略する。   In the second embodiment, FIG. 1 is a block diagram, FIG. 3 is a diagram illustrating a method for specifying the type of subject, FIG. 4 is a diagram illustrating a specific example of an event table, and FIG. A diagram showing a specific example of the shown subject table and a flowchart showing each processing of image search, display, and event information change shown in FIG. 7 are the same as those in the first embodiment, and thus description thereof is omitted. To do.

図8は、第2の実施の形態におけるイベント設定部103a、被写体特定部103b、および記憶制御部103cによる処理の具体例を示すフローチャートである。なお、図8では、図2に示した第1の実施の形態における処理と同一の処理については同じステップ番号を付与して説明を省略し、相違点を中心に説明する。   FIG. 8 is a flowchart illustrating a specific example of processing by the event setting unit 103a, the subject specifying unit 103b, and the storage control unit 103c in the second embodiment. In FIG. 8, the same processes as those in the first embodiment shown in FIG.

ステップS50、S100、およびS120のいずれかで、イベント設定部103aによって画像の撮影時のイベントが設定された場合には、ステップS61へ進む。ステップS61では、被写体特定部103bは、画像内に含まれる全ての被写体を特定する。すなわち、被写体特定部103bは、図5に示す被写体テーブルを参照して、画像の撮影時のイベント5aに対する○の有無に関わらず、全ての被写体5bを特定対象とする。そして、被写体特定部103bは、イベント設定部103aで算出された各被写体の画像の特徴量と、被写体テーブルに記憶されている全ての被写体5bの特徴量5cとをそれぞれ比較して、画像内に含まれる全ての被写体を特定する。   If an event at the time of shooting an image is set by the event setting unit 103a in any of steps S50, S100, and S120, the process proceeds to step S61. In step S61, the subject specifying unit 103b specifies all the subjects included in the image. That is, the subject specifying unit 103b refers to the subject table shown in FIG. 5 and specifies all subjects 5b as specific targets regardless of the presence or absence of the circle for the event 5a at the time of image capture. Then, the subject specifying unit 103b compares the feature amount of each subject image calculated by the event setting unit 103a with the feature amount 5c of all the subjects 5b stored in the subject table, and compares them in the image. Identify all included subjects.

ステップS70では、イベント情報と、画像内に含まれる全ての被写体の被写体情報とを画像に関連付けてHDD104に記憶する。このように、全ての被写体の被写体情報を画像に関連付けて記憶した場合には、使用者が被写体情報を検索条件として検索を行った場合に、その被写体情報が関連付けられている様々なイベントの画像が検索されてしまう。このため、使用者が望まない画像も検索されてしまう可能性がある。   In step S70, the event information and the subject information of all subjects included in the image are stored in the HDD 104 in association with the image. As described above, when subject information of all subjects is stored in association with images, when a user performs a search using subject information as a search condition, images of various events with which the subject information is associated. Will be searched. For this reason, an image that the user does not want may be searched.

例えば、使用者によって被写体情報として「バラ」が関連付けられている画像の検索が指示された場合について考える。この場合、使用者は「バラ」が主要被写体として写っている画像、例えば「花撮影旅行で撮影したバラの画像」を検索して閲覧したいと考えているものと推測される。しかしながら、被写体情報として「バラ」が関連付けられた画像を無条件に抽出してしまうと、「花撮影旅行で撮影したバラの画像」以外に「結婚式で撮影したバラが写っている画像」も抽出されてしまう。   For example, consider a case where the user has instructed to search for an image associated with “rose” as subject information. In this case, it is presumed that the user wants to search and browse an image in which “rose” is captured as a main subject, for example, “an image of a rose taken on a flower photography trip”. However, if an image associated with “roses” is extracted unconditionally as subject information, “an image of a rose taken at a wedding” in addition to a “rose image taken at a flower photography trip” It will be extracted.

そこで、本実施の形態では、次の(A)、(B)のいずれかの方法でこのような問題を回避する。   Therefore, in this embodiment, such a problem is avoided by any one of the following methods (A) and (B).

(A)第1の方法
第1の方法では、画像検索部103dは、図7のステップS220において、検索条件として設定された被写体情報に応じて、検索対象とするイベント情報を決定する。そして、検索条件として設定された被写体情報、および検索対象とするイベント情報が関連付けられている画像のみを検索結果として抽出する。例えば、使用者によって検索条件として「バラ」が設定された場合には、「花撮影旅行」のみを検索対象のイベント情報として決定し、「結婚式」は検索対象としない。これによって、「花撮影旅行で撮影したバラの画像」のみを抽出することができ、使用者が望む画像のみを検索することができる。なお、検索条件として設定された被写体情報に応じて、どのイベント情報を検索対象とするかは、各被写体情報ごとにあらかじめ設定されているものとする。
(A) First Method In the first method, the image search unit 103d determines event information to be searched according to subject information set as a search condition in step S220 of FIG. Then, only the image associated with the subject information set as the search condition and the event information to be searched is extracted as the search result. For example, when “rose” is set as a search condition by the user, only “flower photography trip” is determined as event information to be searched, and “wedding” is not a search target. As a result, it is possible to extract only the “rose image taken during the flower photography trip” and to search only the image desired by the user. It should be noted that which event information is to be searched according to the subject information set as the search condition is set in advance for each subject information.

(B)第2の方法
第2の方法では、画像検索部103dは、図7のステップS220において、検索条件として設定された被写体情報が関連付けられている画像を全て検索する。表示制御部103eは、図7のステップS230において、検索条件として設定された被写体情報に応じて、優先して表示するイベント情報を決定する。そして、表示制御部103eは、優先して表示するイベント情報が関連付けられている画像を区別してモニタ105へ表示する。なお、検索条件として設定された被写体情報に応じて、どのイベント情報を優先して表示するかは、各被写体情報ごとにあらかじめ設定されているものとする。
(B) Second Method In the second method, the image search unit 103d searches all images associated with subject information set as a search condition in step S220 of FIG. In step S230 of FIG. 7, the display control unit 103e determines event information to be preferentially displayed according to the subject information set as the search condition. Then, the display control unit 103e distinguishes and displays on the monitor 105 images associated with event information to be displayed with priority. It is assumed that which event information is preferentially displayed according to the subject information set as the search condition is set in advance for each subject information.

例えば、表示制御部103eは、図6に示したように、モニタ105上に表示する画像の表示領域を2つに分割して、一方の領域6aに優先して表示するイベント情報が関連付けられている画像を表示し、他方の領域6bにその他の画像を表示するようにしてもよい。あるいは、図6(b)に示すように、優先して表示するイベント情報が関連付けられている画像のみを枠6cで囲って表示するようにしてもよい。ここで、モニタ105には、画像は所定の表示順序、例えば撮影日時順に表示されるものとする。   For example, as shown in FIG. 6, the display control unit 103e divides the display area of the image displayed on the monitor 105 into two, and event information to be displayed with priority given to the one area 6a is associated. The other image may be displayed in the other area 6b. Alternatively, as shown in FIG. 6B, only an image associated with event information to be preferentially displayed may be displayed surrounded by a frame 6c. Here, it is assumed that images are displayed on the monitor 105 in a predetermined display order, for example, in order of shooting date and time.

なお、第1の方法と第2の方法のいずれか一方を用いるようにしてもよいし、使用者がいずれか一方を選択できるようにしてもよい。   Note that either the first method or the second method may be used, or the user may select either one.

以上説明した第2の実施の形態によれば、次のような作用効果を得ることができる。
(1)画像検索部103dは、検索条件として設定された被写体情報に応じて、検索対象とするイベント情報を決定し、検索条件として設定された被写体情報、および検索対象とするイベント情報が関連付けられている画像のみを検索結果として抽出するようにした。これによって、検索条件に応じて使用者が望んでいる可能性が高い画像のみを抽出することができる。
According to the second embodiment described above, the following operational effects can be obtained.
(1) The image search unit 103d determines event information to be searched according to the subject information set as the search condition, and associates the subject information set as the search condition and the event information to be searched. Only images that are included are extracted as search results. Thereby, it is possible to extract only images that are highly likely to be desired by the user according to the search conditions.

(2)画像検索部103dは、検索条件として設定された被写体情報が関連付けられている画像を全て検索するようにし、表示制御部103eは、優先して表示するイベント情報が関連付けられている画像を区別して表示するようにした。これによって、検索条件に応じて使用者が望んでいる可能性が高い画像を優先的に表示することができる。 (2) The image search unit 103d searches all the images associated with the subject information set as the search condition, and the display control unit 103e selects the images associated with the event information to be displayed with priority. Differently displayed. As a result, it is possible to preferentially display an image that is likely to be desired by the user according to the search condition.

―変形例―
なお、上述した実施の形態の情報処理装置は、以下のように変形することもできる。
(1)上述した第1および第2の実施の形態では、情報処理装置100としてパソコンを用い、外部インターフェース102を介して取り込まれた画像を読み込んで処理の対象とする例について説明した。しかしながら、情報処理装置100を画像を取得する画像取得手段を備えたカメラに適用し、画像取得手段で取得した画像を処理の対象とするようにしてもよい。
-Modification-
Note that the information processing apparatus of the above-described embodiment can be modified as follows.
(1) In the first and second embodiments described above, an example in which a personal computer is used as the information processing apparatus 100 and an image captured through the external interface 102 is read and processed is described. However, the information processing apparatus 100 may be applied to a camera including an image acquisition unit that acquires an image, and the image acquired by the image acquisition unit may be the target of processing.

(2)上述した第1および第2の実施の形態では、イベント情報と被写体情報とを画像ファイル内に記憶することで、イベント情報と被写体情報とを画像に関連付けて記憶する例について説明した。しかしながら、画像ファイル名にイベント情報と被写体情報と対応付けてHDD104に記憶することで、イベント情報と被写体情報とを画像に関連付けて記憶するようにしてもよい。 (2) In the above-described first and second embodiments, the event information and the subject information are stored in the image file, and the event information and the subject information are stored in association with the image. However, the event information and subject information may be stored in association with the image by storing the event information and subject information in the image file name in association with the HDD 104.

(3)上述した第1および第2の実施の形態では、表示制御手段103eは、画像を撮影日時順に並べてモニタ105へ表示する例について説明した。しかしながら、撮影日時順ではなく、他の並び順となるように画像を表示してもよい。例えば、検索条件として被写体情報が設定された場合には、表示制御手段103eは、各画像における該当する被写体の画像内における大きさ、フォーカス合致具合、または背景のぼけ具合などの被写体の写り具合を判定し、被写体の写りが良い画像から順番に表示するようにしてもよい。 (3) In the first and second embodiments described above, the display control unit 103e has been described as an example in which images are displayed on the monitor 105 in order of shooting date and time. However, the images may be displayed not in order of shooting date but in other order of arrangement. For example, when subject information is set as a search condition, the display control means 103e determines the subject's reflection such as the size of the corresponding subject in the image, the degree of focus match, or the background blur. It may be determined and displayed in order from an image with a good subject image.

(4)上述した第1および第2の実施の形態では、表示制御手段103eは、図6に示したようにモニタ105上に複数枚の画像(サムネイル画像)を表示する例について説明した。しかしながら、モニタ105に画像を1枚ずつ表示するようにしてもよい。すなわち、画像検索手段103dによって複数枚の画像が検索された場合には、表示制御手段103eは、そのうち1枚の画像をモニタ105に表示し、使用者によって次の画像の表示が指示されたときに次の画像をモニタ105に表示すればよい。 (4) In the first and second embodiments described above, the display control unit 103e has described the example in which a plurality of images (thumbnail images) are displayed on the monitor 105 as shown in FIG. However, images may be displayed on the monitor 105 one by one. That is, when a plurality of images are retrieved by the image retrieval unit 103d, the display control unit 103e displays one of the images on the monitor 105, and when the user is instructed to display the next image. The next image may be displayed on the monitor 105.

(5)上述した第1および第2の実施の形態では、図2に示すフローチャートでステップS20〜S40の全てが肯定判定された場合に、画像の撮影時のイベントが「結婚式」であると判断する例について説明した。しかしながら、少なくともいずれか1つ以上のステップが肯定判定された場合に、画像の撮影時のイベントが「結婚式」であると判断するようにしてもよい。 (5) In the first and second embodiments described above, when all of steps S20 to S40 are affirmed in the flowchart shown in FIG. 2, the event at the time of image shooting is “wedding”. An example of determination has been described. However, when an affirmative determination is made in at least one of the steps, it may be determined that the event at the time of image capture is “wedding”.

(6)上述した第1及び第2の実施の形態では、使用者は、モニタ105に表示された画像の中から任意の画像を選択して、その画像に関連付けて記憶されているイベント情報を変更することができる例について説明した。しかしながら、記憶制御部103cが自動的にイベント情報の誤りを修正できるようにしてもよい。例えば、同日に撮影された複数枚の画像がある場合に、記憶制御部103cは、最も撮影時刻が早い画像(最初の画像)に関連付けられているイベント情報(最初のイベント情報)を特定する。そして、最も撮影時刻が遅い画像から撮影時刻が早い画像に向けて順番に各画像に関連付けられているイベント情報と最初のイベント情報とを比較する。 (6) In the first and second embodiments described above, the user selects an arbitrary image from the images displayed on the monitor 105, and stores the event information stored in association with the image. The example which can be changed was demonstrated. However, the storage control unit 103c may be able to automatically correct an error in event information. For example, when there are a plurality of images shot on the same day, the storage control unit 103c identifies event information (first event information) associated with the image with the earliest shooting time (first image). Then, the event information associated with each image is compared with the first event information in order from the image with the latest shooting time to the image with the earliest shooting time.

記憶制御部103cは、最初のイベント情報と同じイベント情報が関連付けられている画像を見つけた場合には、その画像を最後の画像として、最初の画像から最後の画像までは全て同じイベントで撮影された画像であると判断する。そして、記憶制御部103cは、最初の画像から最後の画像までの間に、異なるイベント情報が関連付けられている画像がある場合には、その画像のイベント情報を最初の画像(または最後の画像)に関連付けられているイベント情報に変更する。   When the storage control unit 103c finds an image associated with the same event information as the first event information, the storage control unit 103c takes the image as the last image, and the first image to the last image are all taken at the same event. It is determined that it is an image. Then, if there is an image associated with different event information between the first image and the last image, the storage control unit 103c displays the event information of the image as the first image (or the last image). Change to event information associated with.

記憶制御部103cは、この処理を、上述した最後の画像の次の画像を新たな最初の画像として繰り返すことによって、全ての画像に関連付けられているイベント情報を自動的に修正することができる。このとき、記憶制御部103cは、上述した第1および第2の実施の形態と同様に、画像に関連付けられている被写体情報が変更後のイベント情報に対応したものでない場合には、画像に関連付けられている被写体情報を削除すればよい。   The storage control unit 103c can automatically correct the event information associated with all the images by repeating this process as a new first image after the image after the last image. At this time, as in the first and second embodiments described above, if the subject information associated with the image does not correspond to the changed event information, the storage control unit 103c associates with the image. What is necessary is just to delete the subject information.

なお、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。   Note that the present invention is not limited to the configurations in the above-described embodiments as long as the characteristic functions of the present invention are not impaired.

情報処理装置の一実施の形態の構成を示すブロック図である。It is a block diagram which shows the structure of one Embodiment of information processing apparatus. 第1の実施の形態におけるイベント設定部103a、被写体特定部103b、および記憶制御部103cによる処理の具体例を示すフローチャート図である。It is a flowchart figure which shows the specific example of the process by the event setting part 103a in 1st Embodiment, the to-be-specified part 103b, and the memory | storage control part 103c. 被写体の種類の特定方法を示す図である。It is a figure which shows the identification method of the kind of to-be-photographed object. イベントテーブルの具体例を示す図である。It is a figure which shows the specific example of an event table. 被写体テーブルの具体例を示す図である。It is a figure which shows the specific example of a to-be-photographed table. モニタ105上への画像の表示例を示す図である。6 is a diagram illustrating an example of an image displayed on a monitor 105. FIG. 画像の検索、表示、およびイベント情報の変更の各処理を示すフローチャート図である。It is a flowchart figure which shows each process of a search of an image, a display, and a change of event information. 第2の実施の形態におけるイベント設定部103a、被写体特定部103b、および記憶制御部103cによる処理の具体例を示すフローチャート図である。It is a flowchart figure which shows the specific example of the process by the event setting part 103a in 2nd Embodiment, the to-be-specified part 103b, and the memory | storage control part 103c.

符号の説明Explanation of symbols

100 情報処理装置、101 入力装置、102 外部インターフェース、103 制御装置、103a イベント設定部、103b 被写体特定部、103c 記憶制御部、103d 画像検索部、103e 表示制御部、104 HDD、105 モニタ DESCRIPTION OF SYMBOLS 100 Information processing apparatus, 101 Input device, 102 External interface, 103 Control apparatus, 103a Event setting part, 103b Subject identification part, 103c Storage control part, 103d Image search part, 103e Display control part, 104 HDD, 105 Monitor

Claims (13)

コンピュータに、
取得された画像の特徴量を算出し、算出した特徴量に基づいて、前記画像内に写っている被写体の特徴を特定する特徴特定手順、
イベントに対応付けて被写体の特徴を記憶するイベント記憶手段を参照して、前記特徴特定手順で特定された前記被写体の特徴に対応するイベントを設定するイベント設定手順、
前記イベント設定手順で設定されたイベントを基に、前記イベントに関連する特定対象となる被写体を記憶する被写体記憶手段を参照して特定対象の被写体を決定し、この特定対象の被写体の特徴量と前記特徴特定手順で算出された画像の特徴量とを比較して前記画像内に含まれる被写体を特定する被写体特定手順、
前記イベント設定手順で設定したイベントを表すイベント情報、および前記被写体特定手順で特定した被写体を表す被写体情報を前記画像に関連付けて記憶する画像記憶手順を実行させるための情報処理プログラム。
On the computer,
A feature specifying procedure for calculating the feature amount of the acquired image and specifying the feature of the subject in the image based on the calculated feature amount;
An event setting procedure for setting an event corresponding to the feature of the subject specified by the feature specifying procedure with reference to an event storage means for storing the feature of the subject in association with the event;
Based on the event set in the event setting procedure, the specific target subject is determined with reference to the subject storage means for storing the specific target subject related to the event, and the feature amount of the specific target subject A subject identification procedure for identifying a subject included in the image by comparing the feature amount of the image calculated in the feature identification procedure;
An information processing program for executing an image storing procedure for storing event information representing an event set in the event setting procedure and subject information representing a subject specified in the subject specifying procedure in association with the image.
請求項1に記載の情報処理プログラムにおいて、
前記被写体特定手順は、前記特定対象の被写体として決定された特定対象の被写体のみの特徴量と前記特徴特定手順で算出された画像の特徴量とを比較して前記画像内に含まれる前記被写体を特定することを特徴とする情報処理プログラム。
The information processing program according to claim 1,
The subject specifying procedure compares the feature amount of only the target subject determined as the target subject with the feature amount of the image calculated by the feature specifying procedure, and determines the subject included in the image. An information processing program characterized by specifying.
請求項1〜2いずれか一項に記載の情報処理プログラムにおいて、
コンピュータに、
前記画像を検索するための検索条件として、前記被写体情報の入力を受け付ける入力手順、
前記検索条件として受け付けた前記被写体情報が関連付けられている前記画像を検索する画像検索手順、
前記画像検索手順による検索結果を表示する表示手順をさらに実行させるための情報処理プログラム。
The information processing program according to claim 1,
On the computer,
An input procedure for receiving input of the subject information as a search condition for searching for the image,
An image search procedure for searching for the image associated with the subject information received as the search condition;
An information processing program for further executing a display procedure for displaying a search result by the image search procedure.
請求項1〜3いずれか一項に記載の情報処理プログラムにおいて、
コンピュータに、
前記画像に関連付けて記憶されている前記イベント情報を変更するイベント変更手順、
前記イベント情報が変更された場合に、変更後のイベント情報に対応しない被写体情報が前記画像に関連付けて記憶されている場合には、当該被写体情報を削除する削除手順をさらに実行させるための情報処理プログラム。
In the information processing program according to any one of claims 1 to 3,
On the computer,
An event change procedure for changing the event information stored in association with the image;
Information processing for further executing a deletion procedure for deleting the subject information when the event information is changed and subject information not corresponding to the changed event information is stored in association with the image. program.
請求項に記載の情報処理プログラムにおいて、
前記画像検索手順は、前記被写体記憶手段を参照して、前記入力手順より検索条件として受け付けた前記被写体情報に関連するイベント情報が関連付けられている画像を検索することを特徴とする情報処理プログラム。
The information processing program according to claim 3 ,
The image search procedure refers to the subject storage means, and searches for an image associated with event information related to the subject information received as a search condition from the input procedure.
請求項3または請求項5に記載の情報処理プログラムにおいて、
前記表示手順は、前記画像検索手順で検索された画像と、それ以外の画像とを区別して表示することを特徴とする情報処理プログラム。
In the information processing program according to claim 3 or claim 5 ,
In the information processing program, the display procedure distinguishes and displays an image searched in the image search procedure and other images.
請求項1〜6いずれか一項に記載の情報処理プログラムにおいて、
前記特徴特定手順は、前記画像内に写っている被写体の特徴に基づいて第1の被写体の種類を特定し、
前記イベント設定手順は、前記特徴特定手順で特定された前記第1の被写体の種類に対応するイベントを設定し、
前記被写体特定手順は、前記イベントに関連する特定対象となる被写体として第2の被写体を特定し、
前記画像記憶手順は、前記イベント設定手順で設定したイベントを表すイベント情報、および前記被写体特定手順で特定した第2の被写体を表す被写体情報を前記画像に関連付けて記憶することを特徴とする情報処理プログラム。
In the information processing program according to any one of claims 1 to 6,
The feature specifying procedure specifies the type of the first subject based on the feature of the subject in the image,
The event setting procedure sets an event corresponding to the type of the first subject specified in the feature specifying procedure,
The subject specifying procedure specifies a second subject as a subject to be specified related to the event,
In the image storage procedure, event information representing an event set in the event setting procedure and subject information representing a second subject specified in the subject specifying procedure are stored in association with the image. program.
取得された画像の特徴量を算出し、算出した特徴量に基づいて、前記画像内に写っている被写体の特徴を特定する特徴特定手段と、
イベントに対応付けて被写体の特徴を記憶するイベント記憶手段を参照して、前記特徴特定手段で特定された前記被写体の特徴に対応するイベントを設定するイベント設定手段と、
前記イベント設定手段で設定されたイベントを基に、前記イベントに関連する特定対象となる被写体を記憶する被写体記憶手段を参照して特定対象の被写体を決定し、この特定対象の被写体の特徴量と前記特徴特定手段で算出された画像の特徴量とを比較して前記画像内に含まれる被写体を特定する被写体特定手段と、
前記イベント設定手段で設定したイベントを表すイベント情報、および前記被写体特定手段で特定した被写体を表す被写体情報を前記画像に関連付けて記憶する画像記憶手段とを備えることを特徴とする情報処理装置。
A feature specifying means for calculating a feature amount of the acquired image and specifying a feature of a subject in the image based on the calculated feature amount;
Event setting means for setting an event corresponding to the feature of the subject specified by the feature specifying means with reference to an event storage means for storing the feature of the subject in association with the event;
Based on the event set by the event setting means, the subject storage means for storing the subject to be identified related to the event is determined, the subject to be identified is determined, and the feature amount of the subject to be identified Subject identification means for identifying a subject included in the image by comparing the feature amount of the image calculated by the feature identification means;
An information processing apparatus comprising: event information representing an event set by the event setting means; and image storage means for storing subject information representing a subject specified by the subject specifying means in association with the image.
請求項8に記載の情報処理装置において、
前記被写体特定手段は、前記特定対象の被写体として決定された特定対象の被写体のみの特徴量と前記特徴特定手段で算出された画像の特徴量とを比較して前記画像内に含まれる前記被写体を特定することを特徴とする情報処理装置。
The information processing apparatus according to claim 8,
The subject specifying unit compares the feature amount of only the specific target subject determined as the target subject with the feature amount of the image calculated by the feature specifying unit, and determines the subject included in the image. An information processing apparatus characterized by specifying.
請求項8〜9いずれか一項に記載の情報処理装置において、
前記画像に関連付けて記憶されている前記イベント情報を変更するイベント変更手段と、
前記イベント情報が変更された場合に、変更後のイベント情報に対応しない被写体情報が前記画像に関連付けて記憶されている場合には、当該被写体情報を削除する削除手段とを備えることを特徴とする情報処理装置。
The information processing apparatus according to any one of claims 8 to 9,
Event changing means for changing the event information stored in association with the image;
And deleting means for deleting the subject information when subject information that does not correspond to the changed event information is stored in association with the image when the event information is changed. Information processing device.
請求項8〜10いずれか一項に記載の情報処理装置において、
前記画像を検索するための検索条件として、前記被写体情報を入力する入力手段と、
前記被写体記憶手段を参照して、前記入力手段より検索条件として受け付けた前記被写体情報に関連するイベント情報が関連付けられている画像を検索する画像検索手段と、
前記画像検索手段による検索結果を表示する表示手段とを備えることを特徴とする情報処理装置。
In the information processing apparatus according to any one of claims 8 to 10,
An input means for inputting the subject information as a search condition for searching for the image;
Image search means for searching for an image associated with event information related to the subject information received as a search condition from the input means with reference to the subject storage means;
An information processing apparatus comprising: display means for displaying a search result obtained by the image search means.
請求項11に記載の情報処理装置において、
前記表示手段は、前記画像検索手段で検索された画像と、それ以外の画像とを区別して表示することを特徴とする情報処理装置。
The information processing apparatus according to claim 11,
The information processing apparatus, wherein the display means distinguishes and displays an image searched by the image search means and other images.
請求項8〜12いずれか一項に記載の情報処理装置において、
前記特徴特定手段は、前記画像内に写っている被写体の特徴に基づいて第1の被写体の種類を特定し、
前記イベント設定手段は、前記特徴特定手段で特定された前記第1の被写体の種類に対応するイベントを設定し、
前記被写体特定手段は、前記イベントに関連する特定対象となる被写体として第2の被写体を特定し、
前記画像記憶手段は、前記イベント設定手段で設定したイベントを表すイベント情報、および前記被写体特定手段で特定した第2の被写体を表す被写体情報を前記画像に関連付けて記憶することを特徴とする情報処理装置。
The information processing apparatus according to any one of claims 8 to 12,
The feature specifying means specifies the type of the first subject based on the feature of the subject in the image,
The event setting means sets an event corresponding to the type of the first subject specified by the feature specifying means,
The subject specifying means specifies a second subject as a subject to be specified related to the event,
The image storage means stores event information representing an event set by the event setting means and subject information representing a second subject specified by the subject specifying means in association with the image. apparatus.
JP2006273040A 2006-10-04 2006-10-04 Information processing program and information processing apparatus Expired - Fee Related JP4946332B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006273040A JP4946332B2 (en) 2006-10-04 2006-10-04 Information processing program and information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006273040A JP4946332B2 (en) 2006-10-04 2006-10-04 Information processing program and information processing apparatus

Publications (2)

Publication Number Publication Date
JP2008090730A JP2008090730A (en) 2008-04-17
JP4946332B2 true JP4946332B2 (en) 2012-06-06

Family

ID=39374785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006273040A Expired - Fee Related JP4946332B2 (en) 2006-10-04 2006-10-04 Information processing program and information processing apparatus

Country Status (1)

Country Link
JP (1) JP4946332B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5232109B2 (en) * 2009-09-09 2013-07-10 富士フイルム株式会社 Image management apparatus, image management method and program, and imaging apparatus
JP6513009B2 (en) * 2015-09-30 2019-05-15 富士フイルム株式会社 IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, PROGRAM, AND RECORDING MEDIUM

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10301953A (en) * 1997-04-28 1998-11-13 Just Syst Corp Image management device, image search device, image management method, image search method, and computer-readable recording medium storing a program for causing a computer to execute the methods
JP2001297090A (en) * 2000-04-13 2001-10-26 Konica Corp Image data retrieval method, image display method, data retrieval system, image editing device and computer readable storage medium
US6810146B2 (en) * 2001-06-01 2004-10-26 Eastman Kodak Company Method and system for segmenting and identifying events in images using spoken annotations
JP2003091715A (en) * 2001-09-18 2003-03-28 Nikon System:Kk Image processing device and method, recording medium, and program
JP3973462B2 (en) * 2002-03-18 2007-09-12 富士フイルム株式会社 Image capture method
JP2004213129A (en) * 2002-12-27 2004-07-29 Fuji Photo Film Co Ltd Method, device and program for classifying picture
JP2004214759A (en) * 2002-12-27 2004-07-29 Fuji Photo Film Co Ltd Method and apparatus of classifying image, and program
JP4315344B2 (en) * 2003-11-27 2009-08-19 富士フイルム株式会社 Image editing apparatus and method, and program
JP2005275847A (en) * 2004-03-25 2005-10-06 Fuji Photo Film Co Ltd Image storage method and image storage device

Also Published As

Publication number Publication date
JP2008090730A (en) 2008-04-17

Similar Documents

Publication Publication Date Title
JP6012310B2 (en) Image processing apparatus, image processing method, and program
US7716157B1 (en) Searching images with extracted objects
US9245195B2 (en) Apparatus, method and program for image search
JP5993642B2 (en) Information processing apparatus, control method thereof, and program
US8743410B2 (en) Method, apparatus, and program for laying out images
JP6071289B2 (en) Image processing apparatus, image processing method, and program
US7636450B1 (en) Displaying detected objects to indicate grouping
US11256904B2 (en) Image candidate determination apparatus, image candidate determination method, program for controlling image candidate determination apparatus, and recording medium storing program
JP6009481B2 (en) Image processing apparatus, important person determination method, image layout method, program, and recording medium
US20100289924A1 (en) Imager that adds visual effects to an image
US7813526B1 (en) Normalizing detected objects
EP2053843B1 (en) Camera and Image Recording Program Product
JP2003150932A (en) Image processing device and program
JP6031278B2 (en) Information processing apparatus, control method thereof, and program
JP5869805B2 (en) Information processing apparatus, imaging apparatus, control method therefor, program, and storage medium
US20110305437A1 (en) Electronic apparatus and indexing control method
JP2015053541A (en) Image processing apparatus, image processing method, and program
JP2018124782A (en) Information processing apparatus, display control method, and program
JP2017037618A (en) Image processing apparatus, image processing method, and program
JP2010086221A (en) Image editing method and device, and computer readable recording medium storing program for implementing the method
JP2003150617A (en) Image processing device and program
JP6168928B2 (en) Image processing apparatus, image processing method, and program
US20110304644A1 (en) Electronic apparatus and image display method
JP2002342743A (en) Image processing apparatus and image processing method
US20100289925A1 (en) Imager that adds visual effects to an image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090924

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110830

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111031

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20111031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4946332

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees