JP2001005822A - Image display method and apparatus and search service using the same - Google Patents
Image display method and apparatus and search service using the sameInfo
- Publication number
- JP2001005822A JP2001005822A JP17360599A JP17360599A JP2001005822A JP 2001005822 A JP2001005822 A JP 2001005822A JP 17360599 A JP17360599 A JP 17360599A JP 17360599 A JP17360599 A JP 17360599A JP 2001005822 A JP2001005822 A JP 2001005822A
- Authority
- JP
- Japan
- Prior art keywords
- search
- image
- keyword
- symbol
- feature amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
(57)【要約】
【課題】 任意の検索方法による画像検索の大量の結果
画像を検索者へ把握しやすいように一覧表示すること。
【解決手段】 あらかじめキーワードと特徴量との対応
付けを統計処理によって行っておき、任意の画像検索に
よる検索画像において、個々の画像の違いを効果的に表
現するキーワードの特徴量を検索毎にダイナミックに自
動選択し表示の軸に用いる。また、その軸によって作ら
れる表示空間上の特徴量に応じた座標へ画像を配置す
る。さらに、検索結果の画像群全体を表現するキーワー
ドの特徴量を検索毎にダイナミックに自動選択し、その
キーワードを検索者へ提示する。
(57) [Summary] [Problem] To display a large number of result images of an image search by an arbitrary search method in a list so that a searcher can easily grasp the images. Kind Code: A1 A keyword is previously associated with a feature amount by statistical processing, and in a search image obtained by an arbitrary image search, a feature amount of a keyword that effectively represents a difference between individual images is dynamically determined for each search. Automatically selected and used for the axis of display. Further, the image is arranged at coordinates according to the feature amount in the display space formed by the axis. Further, the feature amount of a keyword expressing the entire image group of the search result is dynamically and automatically selected for each search, and the keyword is presented to the searcher.
Description
【0001】[0001]
【発明の属する技術分野】本発明は、画像群を検索結果
として出力する任意の検索システムにおいて、画像表示
方法および装置およびこれを利用した検索サービスに関
する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image display method and apparatus in an arbitrary search system that outputs an image group as a search result, and a search service using the same.
【0002】[0002]
【従来の技術】近年、マルチメディアコンテンツの増大
に伴い、キーワードや画像特徴量などさまざまなデータ
によって画像データベースにアクセスして画像検索をす
る技術が出現してきた。2. Description of the Related Art In recent years, with the increase in multimedia contents, a technique for accessing an image database using various data such as keywords and image feature amounts and performing an image search has appeared.
【0003】しかし、その検索が、検索者の意図が正確
にシステムに伝えられ検索結果に反映されたものとなる
とは限らないため、少数の検索結果の表示では検索者の
望む画像に辿り着けるとは限らない。また、検索意図が
あいまいな検索者がさまざまな画像にアクセスしつつ検
索意図を固めていくという過程も必要な場合がある。そ
のような状況の下では、検索結果の画像をなるべく多く
検索者へ提示し、検索者が検索意図に対応した画像に容
易に到達できるようにすることが検索者によって望まれ
ている。[0003] However, since the search is not always the one in which the intention of the searcher is accurately conveyed to the system and reflected in the search result, it is difficult to display a small number of search results to reach the image desired by the searcher. Not necessarily. In some cases, a searcher who has ambiguous search intentions needs to have a process of consolidating search intentions while accessing various images. Under such a situation, it is desired by a searcher to present as many search result images as possible to the searcher so that the searcher can easily reach an image corresponding to the search intention.
【0004】たとえば、整然と検索結果の画像の一覧を
効果的に検索者へ提示する方法として、特開平5−26
6092や特開平6−96185などがある。これら
は、ページめくりの時間や画像サイズを検索結果数など
に応じて変更する方法である。しかしながら、検索結果
の多くの画像を単純に一覧表示しようとすると、ページ
数が増えたりあるいは1ページに秩序なく非常に多くの
画像が一覧されたりすることによって、検索者が検索結
果の個々の画像を把握することが困難になり、一覧の効
果が薄れてくる。For example, Japanese Patent Laid-Open No. 5-26 discloses a method for effectively presenting a list of images of search results to a searcher effectively.
6092 and JP-A-6-96185. These methods change the page turning time and the image size according to the number of search results. However, when simply trying to list many images in the search results, the number of pages increases, or a large number of images are unordered on one page, so that a searcher cannot search for individual images in the search results. And the effect of the list is diminished.
【0005】そこで、検索された画像自身の性質に従っ
てその配置を決めることにより、検索結果の画像群の特
徴あるいは傾向を把握しやすくする方法が考えられる。
このような工夫のなされたものとして、例えば、特開平
5−282375、特開平8−249352がある。前
者は、画像特徴量のうち2次元の属性情報を持つ情報を
選択し、選択した2次元情報の範囲を指定することで検
索を行い、その2軸上で構成される空間上において特徴
量に従った座標値に画像を配置して表示するものであ
る。このアイデアは、画像の配置自体は改善されたもの
となるが、2次元情報を持った特徴量によってのみ表示
するため、表示に使用できる特徴量の制約が非常に大き
い。後者は、画像から直接抽出される物理特徴量や人間
の感性を学習させた感性特徴量から2次元を選択し、距
離の近いものから順に出力することで検索を行い、その
2軸の特徴量に従って軸に沿って、画像を整然と重なり
合うことなく密に並べて一覧表示するものである。これ
は、2軸の特徴量傾向は把握できるが、画像間の特徴量
の量的な関係を無視している。しかも、結局整然とした
一覧表示しているため似た傾向の画像が多く検索されて
しまうと、一覧表示の画面の多くの面積を似た画像が占
めることになって、効果的な表示が行えない。[0005] Therefore, a method is conceivable in which the arrangement of the retrieved images is determined in accordance with the properties of the retrieved images themselves, so that the characteristics or tendency of the retrieved image group can be easily understood.
For example, JP-A-5-282375 and JP-A-8-249352 disclose such measures. In the former, information having two-dimensional attribute information is selected from image feature amounts, a search is performed by designating a range of the selected two-dimensional information, and the feature amount is determined in a space formed on the two axes. An image is arranged and displayed at the coordinate values according to the coordinates. In this idea, the arrangement of the image itself is improved. However, since the image is displayed only by the feature amount having two-dimensional information, the limitation of the feature amount usable for display is very large. The latter performs a search by selecting two dimensions from the physical features directly extracted from the image or the kansei features learned from human sensibility and outputting them in order from the one with the shortest distance. The images are displayed in a list along the axis in a densely arranged order without overlapping. In this method, although the tendency of the feature amount of two axes can be grasped, the quantitative relation of the feature amount between images is ignored. In addition, if many images with similar tendencies are searched because the list is displayed in an orderly manner, similar images occupy a large area of the screen of the list display, and effective display cannot be performed. .
【0006】またいずれの方法も、検索に用いた特徴量
を直接表示にも用いているため、データベース内におけ
るその検索結果の画像群の傾向を把握するのには効果的
ではあっても、画像群内における個々の画像の違いを表
現した表示になっているとは限らない。そもそも、検索
によって得られた画像群は、当然、似た傾向あるいは共
通点を持った画像が集められているわけであるから、検
索に用いた特徴量を直接表示に用いるのでは区別しずら
い些細な違いで個々の画像を配置することになる。In each method, since the feature amount used for the search is also used for direct display, it is effective for grasping the tendency of the image group of the search result in the database, but it is effective. The display does not always represent the difference between the individual images in the group. In the first place, the images obtained by the search are, of course, images with similar tendencies or common points, so it is difficult to distinguish them by directly using the features used for the search for display. You will place individual images with minor differences.
【0007】[0007]
【発明が解決しようとする課題】一方、本願の発明者等
は、検索結果の画像群内における個々の画像の違いを効
果的に表現する方法として、特願平9−336751を
提案した。これによれば、検索結果の画像群に対して検
索毎にダイナミックに統計処理することによって、検索
画像の違いを効果的に表現する特徴量へ変換して、その
軸によってつくられる空間上に画像を配置して表示する
ことができる。On the other hand, the inventors of the present application have proposed Japanese Patent Application No. 9-336751 as a method for effectively expressing the difference between individual images in an image group of a search result. According to this, by dynamically performing statistical processing on a group of images of a search result for each search, the image is converted into a feature amount that effectively expresses a difference between the search images, and an image is formed on a space created by the axis. Can be arranged and displayed.
【0008】しかしながら、特開平5−282375や
特開平8−249352による表示が、人にとって理解
しやすい特徴量を用意しておけば、表示の際の軸の意味
が理解しやすかったのに対し、特願平9−336751
の方法は、計算機内部で、画像の違いを効果的に表現す
る特徴量を統計処理によって導出し、この特徴量を軸と
して画像を配置して表示するため、必ずしも軸の意味が
人にとって理解しやすいものとは限らなくなる。さら
に、画像検索の方法と検索結果の表示方法の面で見る
と、特開平5−282375、特開平8−249352
および特願平9−336751は、両者が密接に関係し
ているため、検索の実行に際して、これらの表示方法に
よるメリットを得ようとすると画像検索の方法が拘束さ
れてしまうことになる。[0008] However, the display according to JP-A-5-282375 or JP-A-8-249352 is easy to understand the meaning of the axis at the time of display if a feature amount which is easy for humans to understand is prepared. Japanese Patent Application No. 9-336751
In the method of (1), a feature amount that effectively represents the difference between images is derived by statistical processing inside the computer, and the image is arranged and displayed with this feature amount as an axis, so that the meaning of the axis is not necessarily understood by humans. It is not always easy. Further, in terms of an image search method and a display method of a search result, JP-A-5-282375 and JP-A-8-249352 disclose.
Also, Japanese Patent Application No. 9-336751 is closely related to each other, and therefore, when performing a search, if an advantage of these display methods is to be obtained, the image search method is restricted.
【0009】任意の検索方法による画像検索の大量の結
果を検索者へ把握しやすいように一覧表示する方法に関
して、既に述べたように、従来技術には一長一短があ
る。これら従来技術の問題点を整理し、効果的な一覧表
示方法であるための主な条件をまとめると以下のように
なる。 (1)多くの検索結果を検索者へ提示できること。 (2)検索画像群の特徴量の量的な関係が表示にも反映
されていること。 (3)任意の検索方法によって検索された画像群に対
し、画像群内の個々の画像の違いを効果的に表現する表
示方法であること。 (4)表示に用いられた軸が人にとって理解しやすいも
のであること。As described above, the prior art has advantages and disadvantages with respect to a method of displaying a large amount of image search results by an arbitrary search method in a list so that a searcher can easily grasp the result. The problems of these prior arts are summarized, and the main conditions for an effective list display method are summarized as follows. (1) Many search results can be presented to a searcher. (2) The quantitative relationship between the feature amounts of the search image group is also reflected in the display. (3) A display method that effectively expresses a difference between individual images in an image group with respect to an image group searched by an arbitrary search method. (4) The axes used for display are easy for humans to understand.
【0010】本発明の目的は上記の課題を同時に満すよ
うな画像表示方法および装置およびこれを利用した検索
サービスを提案することである。It is an object of the present invention to propose an image display method and apparatus which simultaneously satisfy the above-mentioned problems, and a search service using the same.
【0011】[0011]
【課題を解決するための手段】本発明は、あらかじめキ
ーワードあるいはシンボルと画像特徴量との対応付けを
統計処理によって行っておき、任意の画像検索方法によ
る画像検索において、個々の画像の違いを効果的に表現
するキーワードあるいはシンボルの特徴量を検索毎にダ
イナミックに自動選択し表示の軸に用いるとともにその
キーワードあるいはシンボルを検索者へ提示する。ま
た、その軸によって作られる表示空間上の特徴量に応じ
た座標へ検索結果の画像群の画像を配置する。さらに、
自動選択され表示の軸に用いられる座標のキーワードあ
るいはシンボルを検索者が選択可能とする。According to the present invention, a keyword or a symbol is previously associated with an image feature amount by statistical processing, and the difference between individual images can be effectively reduced in an image search by an arbitrary image search method. The feature amount of a keyword or symbol to be expressed dynamically is automatically and dynamically selected for each search and used as a display axis, and the keyword or symbol is presented to a searcher. Also, the images of the image group of the search result are arranged at coordinates according to the feature amount in the display space formed by the axis. further,
The keyword or symbol of the coordinates automatically selected and used for the display axis can be selected by the searcher.
【0012】[0012]
【発明の実施の形態】以下に、本発明の好適な実施例を
添付図を参照して詳細に説明する。DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments of the present invention will be described below in detail with reference to the accompanying drawings.
【0013】図1は本発明の実施例のグラフィック・ユ
ーザ・インターフェース(以下、GUIと略する)を示
した一模式図である。図は、検索結果の画像群を出力す
る任意の検索システムから出力された画像群に対し、検
索結果画像群の全体を代表するいくつかのキーワード1
08と、画像群の表示された個々の画像間の違いを最も
よく表現するキーワード群のいくつかのキーワード10
5,107をパネル上に表示し、後者のキーワード群1
05,107からユーザが2つのキーワードを選んで、
そのキーワード特徴量によって張られる表示空間106
上に、散布図として画像群を表現したものである。FIG. 1 is a schematic diagram showing a graphic user interface (hereinafter abbreviated as GUI) according to an embodiment of the present invention. The figure shows several keywords 1 representing the entire search result image group for an image group output from an arbitrary search system that outputs a search result image group.
08 and some keywords 10 in the keyword group that best represent the differences between the displayed individual images of the image group.
5,107 are displayed on the panel, and the latter keyword group 1
The user selects two keywords from 05 and 107,
Display space 106 spanned by the keyword features
Above, the image group is represented as a scatter diagram.
【0014】表示空間106は、たとえば計算機の出力
装置としての表示装置の一部であり、2次元面上に散布
図として画像群を表示する部分である。キーワード群1
05,107は、それぞれ、表示空間が2次元空間であ
る場合は、X軸、Y軸として選択されるべきキーワード
であり、たとえば計算機の出力装置としての表示装置の
一部に表示され、このキーワードの領域がボタンとして
機能するものとされ、クリックされる等で一つのキーワ
ードが選択される。図では、X軸で”SEA”、Y軸
で”SKY”が選択されている状態を、それぞれのキー
ワードを太線の枠で囲って示している。その表示空間1
06は、それぞれのキーワードの特徴量ベクトルによっ
て張られる空間であり、参照符号102で代表して示す
複数の画像のそれぞれは、それぞれの画像にキーワード
が付与されるか否かを画像特徴量から予測した予測値の
大きさに対応した位置に配置される。キーワード群10
5,107はの両側には、表示すべきキーワードを選択
するための矢印ボタン111−114が表示されてお
り、これらをクリックする等で、画像群の表示された画
像間の違いを表現するためのキーワードを変更すること
ができる。X軸、Y軸のキーワードの選択による変更
は、それぞれの画像の配置される位置が変更されるのみ
である。The display space 106 is, for example, a part of a display device as an output device of a computer, and is a portion for displaying a group of images as a scatter diagram on a two-dimensional plane. Keyword group 1
05 and 107 are keywords to be selected as the X axis and the Y axis when the display space is a two-dimensional space, and are displayed on a part of a display device as an output device of a computer, for example. Area functions as a button, and one keyword is selected by clicking or the like. In the figure, a state in which “SEA” is selected on the X axis and “SKY” is selected on the Y axis is shown by enclosing each keyword in a thick line frame. The display space 1
Reference numeral 06 denotes a space spanned by the feature amount vectors of the respective keywords. Each of the plurality of images represented by reference numeral 102 predicts whether or not a keyword is assigned to each image from the image feature amounts. Is arranged at a position corresponding to the magnitude of the predicted value. Keyword group 10
Arrow buttons 111-114 for selecting a keyword to be displayed are displayed on both sides of 5, 107, and are used to express the difference between the displayed images in the image group by clicking these buttons. Keywords can be changed. The change by selecting the keywords on the X axis and the Y axis only changes the position where each image is arranged.
【0015】パネルの右側には検索された画像群全体を
代表するキーワード群108が示されている。上段に位
置するものほど、より適切に画像群を説明するだろうと
予測されたキーワードが表示されている。On the right side of the panel, a keyword group 108 representing the entire retrieved image group is shown. Keywords that are predicted to explain the image group more appropriately are displayed at the top.
【0016】また、表示空間106は、スクロールバー
101によって、そのスケールを変更することができ、
画像群の分布全体を把握したり、一部領域を拡大して詳
細に見たりする場合に使用できる。また、矢印ボタン1
03によって、表示空間の表示領域を移動することがで
きる。つまり、例えば右矢印をクリックすると、表示領
域の右外の領域が中央方向に移動する。”CENTE
R”ボタン104は、これをクリックすると、表示空間
の中央部が表示領域106の中央へ一致するようにリセ
ットされる。The scale of the display space 106 can be changed by the scroll bar 101.
This can be used for grasping the entire distribution of the image group or for enlarging a part of the image for detailed viewing. Also, arrow button 1
With 03, the display area of the display space can be moved. That is, for example, when the right arrow is clicked, the area outside the right of the display area moves toward the center. "CENTE
When the R "button 104 is clicked, it is reset so that the center of the display space coincides with the center of the display area 106.
【0017】上述したGUIの各機能により、検索者は
検索結果としての表示された画像群を、表示のためのキ
ーワード、あるいはキーワード群を変更したり、表示空
間を移動したり、拡大・縮小したりして評価することが
でき、より満足する検索結果に到達することが可能にな
る。With the functions of the above-described GUI, the searcher can change the displayed image group as a search result by changing the keyword for display or the keyword group, moving the display space, and enlarging / reducing. And make it possible to reach more satisfactory search results.
【0018】図2は本発明の実施例のデータの流れを示
した模式図である。202、203、204および20
5はそれぞれキーワードデータベース、文章データベー
ス、音声データベースおよび画像特徴量データベースで
ある。227は画像データベースであり、検索結果に応
じて表示されるべき表示空間106に表示される画像が
画像データと画像データ名あるいは画像番号の対として
格納されている。データベース201−205は、この
画像データベース227の画像データ名あるいは画像番
号とそれぞれのデータとが対になった形で格納されてい
る。たとえば、後述する画像特徴量によるキーワードの
選択および表示の例に対応させて、画像特徴量データベ
ース205について説明すると、縦軸に画像データ名あ
るいは画像番号を、横軸に後述する計算の数式の特徴量
ベクトルxikを、それぞれ配列したようなデータベース
である。さらに、217はキーワード特徴量データベー
スである。このデータベースは、本発明を特徴付けるも
のであり、上述した画像データベース227の内容とは
無関係に構成される。たとえば、画像とその画像に付さ
れたキーワード、あるいは画像を説明する簡単な文章を
持つデータ群から予め作製される。画像を説明する簡単
な文章が有れば、これを形態素解析することで適当な単
語に分解できるから、画像とキーワードの関係のデータ
として利用できる。一方、画像は画像を解析して画像特
徴量として評価するいくつかの方法が知られているか
ら、これらにより、画像特徴量を媒介として画像に対応
する適当なキーワードの有無が予測できるようにあらか
じめ統計処理することができる。このように統計処理さ
れた適当数のキーワードと画像特徴量の対が格納されて
いる。このキーワード特徴量データベース217の特徴
量は後述する計算の数式の特徴量ベクトルb0、bk等b
に関するデータとして利用される。また(数2)で示さ
れるような演算はキーワードの統計処理の一例と言え
る。FIG. 2 is a schematic diagram showing a data flow according to the embodiment of the present invention. 202, 203, 204 and 20
Reference numeral 5 denotes a keyword database, a sentence database, a voice database, and an image feature amount database. Reference numeral 227 denotes an image database in which images displayed in the display space 106 to be displayed according to the search result are stored as pairs of image data and image data names or image numbers. The databases 201 to 205 store image data names or image numbers of the image database 227 in pairs. For example, the image feature amount database 205 will be described in association with an example of selection and display of a keyword based on an image feature amount described later. The vertical axis indicates an image data name or an image number, and the horizontal axis indicates a feature of a mathematical expression for calculation described later. This is a database in which the quantity vectors x ik are arrayed. Reference numeral 217 denotes a keyword feature amount database. This database characterizes the present invention, and is configured independently of the contents of the image database 227 described above. For example, it is created in advance from an image and a keyword attached to the image, or a data group having simple sentences explaining the image. If there is a simple sentence explaining the image, it can be decomposed into appropriate words by morphological analysis, and can be used as data on the relationship between the image and the keyword. On the other hand, several methods are known for analyzing an image and evaluating it as an image feature amount. Therefore, these methods are used in advance so that the presence or absence of an appropriate keyword corresponding to the image can be predicted using the image feature amount as a medium. Statistical processing can be performed. An appropriate number of pairs of keywords and image feature values that have been statistically processed in this way are stored. The feature amount of the keyword feature amount database 217 is calculated using feature amount vectors b 0 , b k, etc.
Used as data about The calculation represented by (Equation 2) can be said to be an example of statistical processing of a keyword.
【0019】ユーザがキーワード、文章、音声、画像な
どをクエリとして検索要求201を出したとき、検索要
求に対応する検索方法206によって対応するデータベ
ース202−205からデータを読みとり検索を行う。
207、208、209、210は、それぞれ検索する
際のキーワード、文章、音声、画像あるいはそれらを変
換して格納されていた特徴量の流れを示している。本発
明では、検索方法はユーザが使用したいものを使用すれ
ば良いから、206はさまざまな画像検索システムとす
るのみで、具体的な説明はしない。もちろん、キーワー
ド、文章、音声のデータベースが備えられなければなら
ないと言うものでもない。検索結果は画像データベース
227の画像のデータ名あるいは画像データベース内の
画像を特定できる番号などの形で出力される。また、そ
れぞれの検索結果は、それぞれキーワード、文章、音
声、画像であるが、前者3つに対応するデータベース内
の各データと画像特徴量データベース205の画像があ
らかじめ対応付けられたものとしておき、結局、検索結
果を画像特徴量データベース205を基礎としたキーワ
ードとの対応として、画像を表示させることができる。When a user issues a search request 201 using a keyword, a sentence, a voice, an image, or the like as a query, data is read from a corresponding database 202-205 by a search method 206 corresponding to the search request to perform a search.
Reference numerals 207, 208, 209, and 210 denote the flow of keywords, sentences, voices, images, or feature amounts that have been converted and stored when searching. In the present invention, since the search method may use whatever the user wants to use, 206 is only a variety of image search systems and will not be described in detail. Of course, this does not mean that a database of keywords, sentences, and sounds must be provided. The search result is output in the form of a data name of an image in the image database 227 or a number capable of specifying an image in the image database. Each search result is a keyword, a sentence, a voice, and an image. Each data in the database corresponding to the former three and the image in the image feature amount database 205 are previously associated with each other. In addition, an image can be displayed by associating a search result with a keyword based on the image feature amount database 205.
【0020】画像データ名あるいは画像番号などの形で
出力された検索結果211aは、検索結果の画像群に対
する平均値や分散値、複数ある特徴量同士の共分散値を
算出する機能213に送られる。またこの機能213に
は、その画像データ名あるいは画像番号に対応する画像
特徴量xに関するデータが、212に示すように、画像
特徴量データベース205から送られる。機能213か
ら検索結果の画像群に対する平均値データ214、分散
共分散値データ215が得られる。The search result 211a output in the form of an image data name or an image number is sent to a function 213 for calculating an average value, a variance value, and a covariance value of a plurality of feature amounts for the image group of the search result. . Further, to the function 213, data relating to the image feature x corresponding to the image data name or the image number is sent from the image feature database 205 as indicated by 212. From the function 213, average value data 214 and variance-covariance value data 215 for the image group of the search result are obtained.
【0021】キーワード特徴量データベース217は、
前述したように、画像特徴量と画像に対応する適当なキ
ーワードの有無が予測できるようにあらかじめ統計処理
された各キーワードの画像特徴量が格納されている。キ
ーワード特徴量データベース217の各キーワードにお
けるbに関するデータは、216に示すように、検索結
果の画像群に対する平均値データ214、分散共分散値
データ215とともに、内積等を演算する機能218へ
送られる。機能218による演算結果として、検索結果
の画像群に対するキーワード予測値の平均値219と、
分散値220が対応するキーワードとともに出力され
る。The keyword feature database 217 is
As described above, the image feature amount of each keyword that has been statistically processed in advance is stored so that the image feature amount and the presence or absence of an appropriate keyword corresponding to the image can be predicted. As shown in 216, the data on b in each keyword in the keyword feature amount database 217 is sent to the function 218 for calculating inner products and the like together with the average value data 214 and the variance-covariance value data 215 for the image group of the search result. As an operation result by the function 218, an average value 219 of keyword prediction values for the image group of the search result,
The variance 220 is output with the corresponding keyword.
【0022】221は選択機能であり、機能218によ
るキーワード予測値の平均値219と、分散値220の
平均値の演算結果の大きいものから指定個数個が選出さ
れる。キーワード予測値の平均値219に基いて選出さ
れたキーワードが、222に示すように、指定個数個
(図3ではS個)代表キーワード提示機能224に転送
される。また分散値220に基いて選出されたキーワー
ドが、223に示すように、指定個数個(図3ではT
個)検索結果表示機能225に転送される。代表キーワ
ード提示機能224は、キーワード予測値の平均値21
9を持つキーワードを検索結果の画像群を代表するキー
ワード108としてGUI上に表示するから、ユーザは
検索結果の画像群を代表する意味情報として把握するこ
とができる(228)。これらは、また、その分散値に
基いて選出されたキーワード(223)、検索結果表示
機能225では、分散値220に基いて選出されたキー
ワードを画像群内の違いを把握するキーワード105お
よび107としてGUI上に表示する。また、検索結果
表示機能225では、検索結果211bおよび画像特徴
量データベース205から、233で示すように転送さ
れる特徴量ベクトルxikと、選択されたキーワードの2
つおよびこれに応じて、231で示すように転送される
キーワード特徴量b0、bk等bに関するデータとから、
検索結果211bの画像のそれぞれをX軸、Y軸の座標
値を計算して画像を配置する。ユーザは、検索された画
像群の違いを意味軸上で表示された散布図として見るこ
とができる(229)なお、検索結果211a、検索結
果211bは、同一内容であるが、説明の便宜上異なる
参照符号とした。Reference numeral 221 denotes a selection function, and a designated number is selected from those having a large calculation result of the average value 219 of the keyword prediction values by the function 218 and the average value of the variance values 220. The keywords selected based on the average value 219 of the keyword prediction values are transferred to the designated number (S in FIG. 3) representative keyword presenting function 224 as shown at 222. The number of keywords selected based on the variance value 220 is a specified number (T in FIG.
) Is transferred to the search result display function 225. The representative keyword presenting function 224 calculates the average value 21 of the keyword prediction value.
Since the keyword having 9 is displayed on the GUI as the keyword 108 representing the image group of the search result, the user can grasp as the semantic information representing the image group of the search result (228). These are keywords (223) selected based on the variance value, and the search result display function 225 converts the keywords selected based on the variance value 220 as keywords 105 and 107 for grasping differences in the image group. Display on the GUI. Further, the search result display function 225 includes a feature amount vector x ik transferred from the search result 211 b and the image feature amount database 205 as indicated by 233, and a selected keyword 2.
And, in response thereto, the data on the keyword features b 0 , b k, etc. b transferred as indicated by 231,
The X-axis and Y-axis coordinate values are calculated for each of the images of the search result 211b, and the images are arranged. The user can see the difference between the searched image groups as a scatter diagram displayed on the semantic axis (229). Note that the search results 211a and 211b have the same contents, but are different from each other for convenience of explanation. The sign was used.
【0023】図3は本発明の実施例の処理手続きを示し
たPAD図である。1回の検索および検索された画像間
関係の表示における処理を説明している。FIG. 3 is a PAD diagram showing a processing procedure according to the embodiment of the present invention. The processing in one search and the display of the relation between the searched images is described.
【0024】まず、ユーザから検索要求を受け付け(3
01)、任意の方法により画像検索を行い、その画像デ
ータ名を出力する(302)。First, a search request is received from the user (3
01), an image search is performed by an arbitrary method, and the image data name is output (302).
【0025】次に、画像データ名に対応する画像特徴量
ベクトルを画像特徴量データベース205から取得する
(309)。その1検索結果に対する特徴量ベクトルか
ら、特徴量ベクトルの各要素における平均値と分散共分
散行列を更新する(310)。この309、310の処
理を検索結果の画像数だけ繰り返す(303)ことによ
り、検索結果における平均値214と分散共分散行列2
15を得る。Next, an image feature vector corresponding to the image data name is obtained from the image feature database 205 (309). The average value and the variance-covariance matrix of each element of the feature amount vector are updated from the feature amount vector corresponding to the one search result (310). By repeating the processing of 309 and 310 by the number of images of the search result (303), the average value 214 and the variance-covariance matrix 2 in the search result are obtained.
Get 15.
【0026】更に、キーワード特徴量データベース21
7からキーワード特徴量ベクトルを1つ取り出す(31
1)。それと画像特徴量ベクトルの各要素の平均からキ
ーワード予測値の平均値219を計算する(312)。
現時点で保存しているS個の最小値と比較しそれより大
きければその最小値を捨てて、今計算したキーワードに
おける平均値を保存しておく。これによって、現時点で
の最大値からS個のキーワードが保存されることになる
(313)。キーワード予測値の分散についても、画像
特徴量ベクトルの各要素の分散共分散より計算する(3
14)。313と同様にして、最大値からT個のキーワ
ードにおける分散値220を保存しておく。これらの処
理をキーワードの数だけ繰り返す(304)。これを終
了すると全キーワードにおいて、キーワード予測値の平
均値が大きいものからS個、分散値が大きいものからT
個得ることができる。Further, the keyword feature amount database 21
7 to extract one keyword feature vector (31)
1). The average value 219 of the keyword prediction value is calculated from the average of the respective elements of the image feature vector (312).
It compares with the S minimum values stored at the present time, and if it is larger than that, discards the minimum value and stores the average value of the keyword calculated just now. As a result, S keywords are stored from the current maximum value (313). The variance of the keyword prediction value is also calculated from the variance and covariance of each element of the image feature vector (3
14). Similarly to 313, the variance values 220 for the T keywords from the maximum value are stored. These processes are repeated by the number of keywords (304). When this is completed, for all the keywords, S keywords are selected from those having a large average keyword prediction value, and T keywords are selected from those having a large dispersion value.
You can get
【0027】そして、キーワード予測値の平均に基くキ
ーワードをユーザへ提示する(305)。これは、検索
結果の画像群を代表するキーワード108となる。Then, a keyword based on the average of the keyword prediction values is presented to the user (305). This becomes the keyword 108 representing the image group of the search result.
【0028】また、キーワード予測値の分散に基くキー
ワードを、選択可能なインターフェイスとして、最初か
ら最大U個をユーザへ提示する(306)。次にユーザ
に提示されているキーワードが変更されたかどうかのチ
ェック(308)が行われるが、初回はここをYesとし
て扱い、ユーザに提示されているキーワードのうち、1
番目をX軸、2番目をY軸に初期値として指定する(3
16)。そして指示されたキーワード特徴量ベクトルに
よって張られる空間上に、検索結果の画像特徴量ベクト
ルを射影し散布図として表示する(317)。初期値の
指定(316)により、ユーザの特別の操作によること
無く、検索直後から何らかの表示表示を行うことがで
き、ユーザの次の操作を促すことになる。次にユーザか
らの指示を得るための待機状態となる(318)。Also, a maximum of U keywords are presented to the user from the beginning as a selectable interface based on the variance of the predicted keyword value (306). Next, whether or not the keyword presented to the user has been changed (308) is checked.
Is designated as the initial value on the X axis and the second on the Y axis (3
16). Then, the image feature vector of the search result is projected and displayed as a scatter diagram on the space spanned by the designated keyword feature vector (317). By specifying the initial value (316), some display can be performed immediately after the search without any special operation of the user, and the next operation of the user is prompted. Next, a standby state for obtaining an instruction from the user is entered (318).
【0029】GUIを通して、何かのイベントを受信する
と、まず、そのイベントが319にて判別される。それ
が表示のキーワードボタン105あるいは107の変更
であれば、押されたボタンの軸に対し押されたキーワー
ドを指定する(320)。それがキーワードのシフトボ
タン111−114のいずれかであれば、指定されたシ
フトボタンの軸において、ユーザに提示するキーワード
をボタンの矢印の向きに従って、次あるいは後の最大U
個に変更する。なければ、それぞれ最初、最後の最大U
個に変更する(321)。また、それが、表示空間の移
動ボタンやスクロールバーであれば、それぞれに従っ
て、表示空間を移動したり、表示領域の拡大縮小を行う
(322)。When an event is received through the GUI, the event is first determined at 319. If it is a change of the displayed keyword button 105 or 107, the pressed keyword is specified for the axis of the pressed button (320). If it is one of the keyword shift buttons 111-114, the keyword to be presented to the user on the axis of the designated shift button according to the direction of the arrow of the button is the next or next maximum U.
Change to Otherwise, the first and last maximum U respectively
(321). If it is a move button or a scroll bar of the display space, the display space is moved or the display area is enlarged or reduced according to the buttons (322).
【0030】これらを、次の検索まで繰り返す(30
7)ことによって、同じ検索結果に対して、ユーザは多
様な観点からの表示を得ることが出来、検索結果を有用
に利用することが出来る。These are repeated until the next search (30
7) By doing so, the user can obtain a display from various viewpoints for the same search result, and can use the search result effectively.
【0031】ステップ306の分散に基づくキーワード
は、検索結果の画像群内の違いをより反映したものと推
測されるキーワードであり、このキーワード特徴量によ
って張られる空間に検索結果を配置することによって、
選択したキーワードの有無に対応した異なる画像が分類
されて表示されることが期待される。The keyword based on the variance in step 306 is a keyword that is presumed to more reflect the difference in the image group of the search result. By arranging the search result in a space spanned by the keyword feature amount,
It is expected that different images corresponding to the presence or absence of the selected keyword are classified and displayed.
【0032】以上の処理は、検索1回における処理であ
り、検索を繰り返す度に実行される。The above process is a process for one search, and is executed each time the search is repeated.
【0033】ここで、図3におけるステップ312,3
14の処理にかかわる演算について説明する。本発明の
実施例として、重回帰分析を画像特徴量からキーワード
を予測する方法として使用している。その場合の予測式
は(数1)のようになる。Here, steps 312 and 3 in FIG.
The operation related to the process of No. 14 will be described. As an embodiment of the present invention, multiple regression analysis is used as a method for predicting a keyword from an image feature amount. The prediction equation in that case is as shown in (Equation 1).
【0034】[0034]
【数1】 (Equation 1)
【0035】(数1)は線形なのでキーワードによって
は予測不可能な場合もありえるが、あらかじめ予測可能
なキーワードだけを採用するように処理することができ
る。ここで、予測係数bkをあらかじめキーワード毎に
求めておくことが重要となる。それは重回帰分析におい
て(数2)によって求められる。Since (Equation 1) is linear, it may not be predictable depending on the keyword. However, it is possible to perform processing so that only the predictable keyword is adopted in advance. Here, it is important to obtain the prediction coefficient b k for each keyword in advance. It is determined by (Equation 2) in multiple regression analysis.
【0036】[0036]
【数2】 (Equation 2)
【0037】また画像特徴量ベクトルの全ての要素を使
用すると、そのキーワードの予測に寄与しない要素だっ
た場合、予測性能が低下してしまう。そこで、予測性能
が高くなるように特徴量ベクトルの要素を取捨選択する
方法がある。F検定や情報量規準AICなどによって要
素を選択する方法であるが、具体的な方法は、たとえ
ば、(株)現代数学社の「多変量解析ハンドブック」な
どに説明されているので、ここでは説明しない。いずれ
にしても、取り除かれた要素については予測係数bk=
0とすることにすれば、キーワード毎で採用する画像特
徴量ベクトルの要素数が変わらないのでプログラム上、
扱い易い。When all the elements of the image feature vector are used, if the elements do not contribute to the prediction of the keyword, the prediction performance deteriorates. Therefore, there is a method of selecting elements of the feature amount vector so as to increase the prediction performance. This is a method of selecting an element by F test or information criterion AIC. A specific method is described in, for example, “Multivariate Analysis Handbook” of Hyundai Mathematics Co., Ltd. do not do. In any case, the prediction coefficient b k =
If it is set to 0, the number of elements of the image feature amount vector adopted for each keyword does not change, so
Easy to handle.
【0038】さて、検索結果の画像群を代表するキーワ
ードを決める場合には、(数3)の式を用いる。検索結
果におけるキーワード予測値の平均が(数3)によって
求められる。To determine a keyword representing a group of images as a search result, the following equation (3) is used. The average of the predicted keyword values in the search result is obtained by (Equation 3).
【0039】[0039]
【数3】 (Equation 3)
【0040】ここで、平均値の変数についているダッシ
ュは、平均するデータ数が(数2)の場合に全データn
だったのに対し、(数3)では検索結果数mであるため
両者を区別するために使用している。Here, the dash attached to the variable of the average value indicates that all data n when the number of data to be averaged is (Equation 2)
On the other hand, in (Equation 3), since the number of search results is m, they are used to distinguish them.
【0041】また、検索結果の画像群の違いをより反映
したキーワードを決める場合には、(数4)の式を用い
る。In order to determine a keyword that more reflects the difference between the image groups of the search result, the equation (Equation 4) is used.
【0042】[0042]
【数4】 (Equation 4)
【0043】(数4)は、(数3)に比べ計算量が大き
いのが分る。もし計算機の能力や特徴量ベクトルの要素
数などによって、計算量が大きいのが気になる場合に
は、近似的な方法として、(数3)の値が1/2に近い
ものを採用するという方法がある。今、ある変数が0か
1の2値を取る場合、その分散は出現頻度をPとすると
P(1−P)になる。これはP=1/2のときに最大と
なるので、分散が最大となるものを選ぶにはP=1/2
のものを選ぶとよい。全ての検索結果についてキーワー
ド予測がうまくいっている場合には、この方法が効果的
である。しかも(数3)で既に計算した値を使え、新た
に計算する必要がなくなるので計算量削減に大変役立
つ。It can be seen that (Equation 4) requires a larger amount of calculation than (Equation 3). If it is worrisome that the amount of calculation is large due to the capability of the computer or the number of elements of the feature quantity vector, a method in which the value of (Equation 3) is close to 1/2 is adopted as an approximate method. There is a way. If a certain variable takes a binary value of 0 or 1, the variance is P (1-P), where P is the frequency of appearance. This is maximum when P = 1/2, so to select the one with the maximum variance, P = 1/2
Good thing to choose. This method is effective when keyword prediction is successful for all search results. Moreover, the value already calculated in (Equation 3) can be used, and it is not necessary to newly calculate the value, which is very useful for reducing the amount of calculation.
【0044】また、ここでは統計処理として重回帰分析
を用いた例を示したが、統計処理として、2次の判別分
析を用いることや、3階層以上のニューラルネットワー
クの学習などを用いることを妨げるものではない。これ
らは非線形な処理を行うために、線形な処理で予測を行
う重回帰分析を用いた場合に予測できなかったキーワー
ドをも予測できるようになる可能性がある。Although an example in which multiple regression analysis is used as statistical processing has been described here, use of secondary discriminant analysis or learning of neural networks of three or more layers as statistical processing is prevented. Not something. Since these perform nonlinear processing, there is a possibility that keywords that could not be predicted when multiple regression analysis that performs prediction by linear processing is used can be predicted.
【0045】図4は、本発明による表示をネットワーク
システムを利用して行う場合の一実施例としてクライア
ント側とサーバ側とのそれぞれの構成および連係関係を
示した模式図である。画像検索クライアントシステム4
07と画像検索サーバシステム408がネットワーク4
02で接続された構成をしている。装置401は、図1
で説明したようなGUIなどを実装する表示及び入力装
置である。GUIにて表示キーワードの選択や表示領域
の移動などの入力を行う。また、さまざまな画像検索の
検索要求を受けつける入力機能も備えている。装置40
6は、ネットワークサーバ403とネットワーク402
を介して通信を行うネットワーククライアントである。
装置403へユーザの検索要求を送信したり、受診した
画像データやキーワード、各画像の座標情報に従って画
面を構成したり、装置401からの情報に従って、画像
配置を変更したり、表示領域を移動したりする機能を備
えている。装置403は、ネットワーク402を介して
データの送受信を行うネットワークサーバである。具体
的には、ここ403で検索要求を受信したり、検索され
たの画像、表示のための各座標の座標情報やキーワード
などを送信する機能を備えている。画像データベース4
05には画像自体と画像からあらかじめ抽出しておいた
画像毎の特徴量、およびさまざまな検索を行うためのタ
グ情報(キーワードや文章、音声など)が格納されてお
り、検索時に画像検索装置404に利用される。図2の
ようにデータベースを検索方法毎などに分離して格納す
ることもできるが、装置としては1つのデータベースに
全てを格納することも可能である。装置404は、検索
要求に従って検索を行う画像検索装置である。画像デー
タベース405にアクセスして、検索結果をネットワー
クサーバ403へ渡す。また、検索だけの機能に限ら
ず、代表キーワードや画像群内の違いを表現するキーワ
ードの選出などもここで行われる。FIG. 4 is a schematic diagram showing the respective configurations and linkages between the client side and the server side as an embodiment when the display according to the present invention is performed using a network system. Image search client system 4
07 and the image search server system 408 are connected to the network 4
02 is connected. The device 401 is similar to that of FIG.
This is a display and input device that implements a GUI or the like as described in. Input such as selection of a display keyword and movement of a display area is performed on the GUI. It also has an input function to accept search requests for various image searches. Device 40
6 is a network server 403 and a network 402
Is a network client that communicates via.
A user's search request is transmitted to the device 403, a screen is configured according to the consulted image data and keywords, coordinate information of each image, an image arrangement is changed according to information from the device 401, and a display area is moved. Or have the function of The device 403 is a network server that transmits and receives data via the network 402. More specifically, it has a function of receiving a search request here, transmitting a searched image, coordinate information of each coordinate for display, a keyword, and the like. Image database 4
05 stores the image itself, the feature amount of each image previously extracted from the image, and tag information (keywords, sentences, sounds, etc.) for performing various searches. Used for As shown in FIG. 2, the database can be stored separately for each search method or the like, but the entire apparatus can be stored in one database. The device 404 is an image search device that performs a search according to a search request. The image database 405 is accessed, and the search result is passed to the network server 403. In addition to the search function, selection of a representative keyword or a keyword expressing a difference in the image group is also performed here.
【0046】図5は、検索結果画像間関係の表示クライ
アント・サーバシステムの通信手順を説明したNSチャ
ートである。FIG. 5 is an NS chart for explaining the communication procedure of the client / server system for displaying the relationship between search result images.
【0047】まず、サーバシステム(以下、Sシステ
ム)の起動521が行なわれる。Sシステムが初期化さ
れて(522)、設定ファイルの読み込みなど準備され
る。次にクライアントシステムからの通信を待機する状
態となる(523)。First, a server system (hereinafter, referred to as an S system) 521 is started. The S system is initialized (522), and preparations such as reading a setting file are made. Next, it is in a state of waiting for communication from the client system (523).
【0048】そして、クライアントシステム(以下、C
システム)の起動が行われる(501)と、Sシステム
と同様にして初期化がなされる(502)。通信接続処
理503にて通信待機中のSシステムへ通信接続要求を
送信する。Sシステムでは、通信接続処理において、通
信接続要求のあったCシステムとの間に通信接続を確立
する(523)。この中では、接続要求があるまで通信
待機したり、Cシステムとの情報のやりとりやGUIの
ためのプログラムの送信などが行われることもある。C
システムの通信接続処理503では、さらに、受信した
情報を設定したり、GUIのプログラムを実行したりす
る。以上で画像検索の準備が完了する。以下からCシス
テムではGUIが起動しはじめ、SシステムではCシス
テムの要求に対して反応し処理を実行するようになる。Then, the client system (hereinafter referred to as C
When the (system) is started (501), initialization is performed in the same manner as in the S system (502). In communication connection processing 503, a communication connection request is transmitted to the S system that is waiting for communication. The S system establishes a communication connection with the C system that has requested the communication connection in the communication connection process (523). In this case, communication may be waited until there is a connection request, exchange of information with the C system, transmission of a program for a GUI, and the like may be performed. C
In the communication connection processing 503 of the system, the received information is further set and a GUI program is executed. Thus, preparation for image search is completed. From here on, the GUI starts to be activated in the C system, and the S system responds to the request of the C system and executes the processing.
【0049】最初に、Cシステムの処理で、ユーザから
のさまざまな画像検索がある中で特定の検索を実行する
ための検索要求を受けつける(504)。この検索要求
をSシステムへ送信する(505)。このデータをC1
とする。通信待機中のSシステムが通信を受信すると、
まず受信内容の判定を行う(524)。通信内容が、C
1であるなら、「Y」分岐へ行き画像検索を実行する
(526)。「N」分岐の場合、通信待機524へ戻る
(527)。このとき、Cシステムへエラー情報を送信
してもよいし、送信しなくても、Cシステム側でタイム
アウト処理を行うことで通信接続処理503へ戻っても
よい。First, in the processing of the C system, a search request for executing a specific search in the presence of various image searches from a user is received (504). This search request is transmitted to the S system (505). This data is
And When the communication waiting S system receives the communication,
First, the received content is determined (524). Communication content is C
If it is 1, the process goes to the "Y" branch to execute an image search (526). In the case of the "N" branch, the process returns to the communication waiting 524 (527). At this time, the error information may be transmitted to the C system, or without transmitting the error information, the time may be returned to the communication connection process 503 by performing a timeout process on the C system side.
【0050】Sシステムで「Y」分岐へ行って画像検索
を行った後、代表・表示キーワードの演算と選出、およ
び選出された各表示キーワード毎に、検索結果画像の座
標を計算する(528)。次に、検索結果の画像自身を
送信する(529)。After performing image search by going to the "Y" branch in the S system, calculation and selection of representative / display keywords, and coordinates of the search result image are calculated for each of the selected display keywords (528). . Next, the search result image itself is transmitted (529).
【0051】Cシステムの通信待機処理506で検索結
果の画像を受信すると、次に代表・表示キーワードの要
求(C2)を送信する(507)。そしてCシステムは
代表・表示キーワードの通信待機状態となる(50
8)。Sシステムから、代表・表示キーワードを受信す
ると、次に各表示キーワードにおける各画像の座標の要
求(C3)を送信し(509)、通信待機になる(51
0)。更に、それらのデータを受信すると(510)、
Sシステムへデータ受信確認(C4)を送信する(51
1)。そして、通信切断処理に入る(512)。When the image of the search result is received in the communication standby process 506 of the C system, a request for a representative / display keyword (C2) is transmitted (507). Then, the C system is in a communication standby state of the representative / display keyword (50).
8). When the representative / display keywords are received from the S system, a request (C3) for the coordinates of each image in each display keyword is transmitted (509), and the communication waits (51).
0). Further, upon receiving the data (510),
Transmit data reception confirmation (C4) to S system (51)
1). Then, a communication disconnection process is started (512).
【0052】Sシステムでは通信待機(530)状態に
おいて通信を受信すると、その内容が判定され、それが
C2の場合、代表・表示キーワードを送信し、C3の場
合各表示キーワードにおける各検索画像の座標を送信
し、それぞれの終了後、通信待機(530)状態へ戻
る。C4であればそのまま通信切断処理(535)へ移
り、1回の検索における後始末を行い、最初の通信待機
(523)へ戻る。これをシステム終了まで繰り返す
(536)。システム終了時になれば終了処理を行う
(537)。In the S system, when a communication is received in the communication standby (530) state, the content is determined. If the content is C2, the representative / display keyword is transmitted. If the communication is C3, the coordinates of each search image in each display keyword are transmitted. Is transmitted, and after each end, the process returns to the communication waiting (530) state. If it is C4, the process directly proceeds to the communication disconnection process (535), and the one-time search is terminated, and the process returns to the first communication standby (523). This is repeated until the system ends (536). If it is time to end the system, end processing is performed (537).
【0053】Cシステムでは、代表・表示キーワードを
ユーザに提示して、表示軸のキーワード指定を受け付け
(513)、そのキーワードの軸に対応する各検索画像
の座標を使って、画像を配置し表示を行う(514)。
処理514では、表示領域の移動などの処理も行う。そ
して表示が終れば、最初の通信接続処理(503)へ戻
る。これを検索終了まで繰り返す(515)。検索終了
になれば終了処理を行う(516)。In the C system, the representative / display keywords are presented to the user, the keyword designation of the display axis is accepted (513), and the image is arranged and displayed using the coordinates of each search image corresponding to the keyword axis. Is performed (514).
In processing 514, processing such as movement of the display area is also performed. When the display is completed, the process returns to the initial communication connection process (503). This is repeated until the search is completed (515). When the search ends, an end process is performed (516).
【0054】なお、本実施例では、2次元の表示面に2
軸の表示空間として検索結果を表示するものとしたが、
表示空間は1軸または3軸とすることもできる。しか
も、これを検索者が任意に選ぶものとすることは容易で
ある。In this embodiment, the two-dimensional display surface has
Search results are displayed as the axis display space,
The display space can be uniaxial or triaxial. Moreover, it is easy for the searcher to arbitrarily select this.
【0055】[0055]
【発明の効果】本発明は、検索結果の画像群を出力する
任意の検索システムの出力結果を、ユーザにとって意味
を把握しやすい、キーワードあるいはシンボルを使っ
て、2次元面に表示することができ、検索結果の素早く
一覧したりや次の検索要求を容易に準備することができ
るから、デザインを利用することを頻繁に行う広告業界
や放送業界、あるいはデザインを売ることを目的とした
コンテンツサービス業界等において、有効に利用できる
のみならず、PC上で動作する個人ベースでホームペー
ジやその他のデザインを作成するなどの創造支援アプリ
ケーションにも利用できる。According to the present invention, an output result of an arbitrary search system that outputs an image group of a search result can be displayed on a two-dimensional surface by using a keyword or a symbol, for which a user can easily understand the meaning. , Advertising and broadcasting industries that frequently use designs because they can quickly list search results and easily prepare for the next search request, or content services industries that sell designs. Not only can be used effectively, but also can be used for a creation support application such as creating a homepage or other designs on an individual basis that runs on a PC.
【図1】本発明の実施例のグラフィック・ユーザ・イン
ターフェースを示す模式図。FIG. 1 is a schematic diagram showing a graphic user interface according to an embodiment of the present invention.
【図2】本発明の実施例のデータの流れを示した模式
図。FIG. 2 is a schematic diagram showing a data flow according to the embodiment of the present invention.
【図3】本発明の実施例の処理手続きを示したPAD
図。FIG. 3 is a PAD showing a processing procedure according to an embodiment of the present invention.
FIG.
【図4】本発明による検索結果画像間関係の表示をネッ
トワークシステムを利用して行う場合の一実施例として
クライアント側とサーバ側とのそれぞれの構成および連
係関係を示した模式図。FIG. 4 is a schematic diagram showing respective configurations and cooperative relations between a client side and a server side as an embodiment in a case where display of a search result image relationship according to the present invention is performed using a network system.
【図5】検索画像間関係の表示クライアント・サーバシ
ステムの通信手順の説明図。FIG. 5 is an explanatory diagram of a communication procedure of a client-server system for displaying a relationship between search images.
101:表示空間のスケールを変更するスクロールバ
ー、102:検索された画像、103:表示空間の表示
領域を移動させるボタン、104:表示空間の表示領域
の中央に戻ってくるボタン、105:表示のY軸に使用
するキーワードを選択するボタン、106:表示空間を
表示する部分、107:表示のX軸に使用するキーワー
ドを選択するボタン、108:画像群を代表するキーワ
ード群を表示する部分、201:ユーザからの検索要
求、202:キーワードデータベース、203:文章デ
ータベース、204:音声データベース、205:画像
特徴量データベース、206:さまざまな画像検索の方
法、207:キーワードあるいはキーワードから作られ
る特徴量の流れ、208:文章あるいは文章から作られ
る特徴量の流れ、209:音声あるいは音声から作られ
る特徴量の流れ、210:画像特徴量の流れ、211:
検索結果の画像データ名あるいは画像を特定する番号、
212:検索結果に対応した画像の特徴量の流れ、21
3:検索結果における特徴量ベクトルの各要素の平均、
分散共分散の計算、214:特徴量ベクトルの各要素の
平均値の流れ、215:特徴量ベクトルの各要素の分散
共分散の流れ、216:各キーワードにおける画像特徴
量の流れ、217:キーワード特徴量データベース、2
18:各キーワード予測値の平均値と分散値の計算、2
19:各キーワード予測値の検索結果における平均値、
220:各キーワード予測値の検索結果における分散
値、221:平均値や分散値に基いて最大値から指定個
数個選出する処理、222:平均値に基いて選出された
キーワード、223:分散値に基いて選出されたキーワ
ードと特徴量、224:代表キーワードの提示、22
5:表示キーワードの表示と検索結果の表示のGUI、
226:検索結果の画像自身の流れ、227:画像デー
タベース、228:検索結果の画像群全体の意味情報、
229:検索結果の画像群内の違いを表す意味情報、2
33:転送される特徴量ベクトルxik、301:ユーザ
からの検索要求の受け付け、302:画像検索と検索結
果のデータ名の出力、303:検索結果数だけ反復、3
04:キーワード数だけ反復、305:平均値に基くキ
ーワードを最大値からS個ユーザへ提示、306:分散
値に基くキーワードを最大値からT個ユーザへ提示、3
07:ユーザからの表示キーワードの指示、308:検
索結果の画像の表示、309:画像特徴量ベクトルの取
得、310:画像特徴量ベクトルの各要素の平均と分散
共分散の集計、311:キーワード特徴量ベクトルの取
得、312:キーワード予測値の平均の計算、313:
最大値からS個のキーワードを保存、314:キーワー
ド予測値の分散の計算、315:最大値からT個のキー
ワードを保存。101: scroll bar for changing the scale of the display space, 102: searched image, 103: button for moving the display area of the display space, 104: button for returning to the center of the display area of the display space, 105: display Button for selecting a keyword to be used on the Y-axis; 106: a part for displaying the display space; 107: a button for selecting a keyword to be used for the X-axis of display; 108: a part for displaying a group of keywords representing the image group; : Search request from user, 202: keyword database, 203: sentence database, 204: audio database, 205: image feature amount database, 206: various image search methods, 207: flow of keywords or feature amounts created from keywords , 208: Flow of a sentence or a feature generated from the sentence, 20 : Feature quantity of flow made from speech or voice, 210: image feature amount of the flow, 211:
Image data name of search result or number specifying image,
212: Flow of feature amount of image corresponding to search result, 21
3: Average of each element of the feature vector in the search result;
Calculation of variance / covariance, 214: Flow of average value of each element of feature quantity vector, 215: Flow of variance / covariance of each element of feature quantity vector, 216: Flow of image feature quantity for each keyword, 217: Keyword feature Quantity database, 2
18: Calculation of average value and variance value of each keyword predicted value, 2
19: average value in the search result of each keyword prediction value,
220: variance value in the search result of each keyword predicted value, 221: a process of selecting a specified number from the maximum value based on the average value and the variance value, 222: a keyword selected based on the average value, 223: a variance value Keyword and feature quantity selected based on it, 224: Presentation of representative keyword, 22
5: GUI for display of display keywords and display of search results,
226: Flow of the search result image itself, 227: Image database, 228: Semantic information of the entire image group of the search result,
229: semantic information indicating a difference in the image group of the search result, 2
33: Feature vector x ik to be transferred, 301: Acceptance of search request from user, 302: Image search and output of data name of search result, 303: Repeat by the number of search results, 3
04: repeat by the number of keywords, 305: present keywords based on the average value to S users from the maximum value, 306: present keywords based on the variance value to the T users from the maximum value, 3
07: Instruction of display keyword from user, 308: Display of image of search result, 309: Acquisition of image feature vector, 310: Total of average and variance / covariance of each element of image feature vector, 311: Keyword feature Acquisition of quantity vector, 312: Calculation of average of keyword predicted value, 313:
Save S keywords from the maximum value, 314: Calculate variance of predicted keyword values, 315: Save T keywords from the maximum value.
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B075 ND08 NK06 NR06 NR20 PP02 PP03 PP12 PP22 PP28 PQ02 PQ16 PQ40 PQ46 PQ48 PQ60 5E501 AA01 AC15 AC33 BA03 FA14 FA23 FA44 FA48 FB04 ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5B075 ND08 NK06 NR06 NR20 PP02 PP03 PP12 PP22 PP28 PQ02 PQ16 PQ40 PQ46 PQ48 PQ60 5E501 AA01 AC15 AC33 BA03 FA14 FA23 FA44 FA48 FB04
Claims (8)
検索した結果として得られる検索結果の画像群の画像の
表示方法であって、前記画像データベース全体の画像群
に対する特徴量と、画像に付与し得るキーワードあるい
はシンボルと画像特徴量の対応関係をあらかじめ統計処
理によって対応付けたデータベースを備えて、検索結果
の複数の画像の特徴量間の違いを表現するキーワードあ
るいはシンボルの特徴量を、その特徴量間の違いに敏感
な順に、上位から最大で指定した個数だけが検索毎にダ
イナミックに自動選択されること、該選択された前記キ
ーワードあるいはシンボルを検索者へ提示すること、該
提示された前記キーワードあるいはシンボルから検索者
によって選択されたキーワードあるいはシンボルから構
成される表示空間上に検索結果の複数の画像の縮小画像
を散布図として配置し表示することを特徴とする検索画
像表示方法。1. A method for displaying an image of an image group of a search result obtained as a result of a search from an image database by an arbitrary method, wherein a feature amount for the image group of the entire image database and a keyword that can be assigned to the image Alternatively, a database in which the correspondence between the symbol and the image feature amount is associated in advance by statistical processing is provided, and the feature amount of a keyword or a symbol expressing the difference between the feature amounts of a plurality of images in the search result is extracted between the feature amounts. In the order sensitive to the difference, only the maximum number specified from the top is dynamically automatically selected for each search, the selected keyword or symbol is presented to a searcher, and the presented keyword or symbol is presented. Display space consisting of keywords or symbols selected by the searcher from Search image display method characterized by arranging displayed as a scatter diagram reduced images of a plurality of images of the search results.
るのに相応しいキーワードあるいはシンボルの特徴量が
存在しないと判定された場合に、自動選択されるキーワ
ードあるいはシンボルの特徴量の代わりに検索された複
数の画像の特徴量全体に対して検索毎にダイナミックに
統計処理を行い、それで計算される多次元空間から寄与
の大きい特徴量を上位から1個または複数個だけが使用
される請求項1記載の検索画像表示方法。2. When it is determined that there is no keyword or symbol feature suitable for expressing a difference in the feature of the searched image group, the keyword or symbol feature automatically selected is used instead of the keyword or symbol feature. A statistical process is performed dynamically on the entire feature amount of a plurality of searched images for each search, and only one or a plurality of feature amounts having a large contribution from a multidimensional space calculated therefrom are used. Item 1. The search image display method according to Item 1.
検索者により変更可能である請求項1または2記載の検
索画像表示方法。3. The search image display method according to claim 1, wherein the presented keyword or symbol can be changed by a searcher.
して表現するキーワードあるいはシンボルの特徴量を検
索毎にダイナミックに上位から最大で指定した個数だけ
自動選択し、そのキーワードあるいはシンボルを検索者
へ提示する請求項1ないし3のいずれかに記載の検索画
像表示方法。4. A feature amount of a keyword or a symbol representing the entire feature amount of a plurality of searched images is automatically selected for each search dynamically by a maximum number specified from a high order, and the keyword or the symbol is selected. The search image display method according to any one of claims 1 to 3, which is presented to a searcher.
検索した結果として得られる検索結果の画像群の画像の
表示装置であって、前記画像データベース全体の画像群
に対する特徴量と、画像に付与し得るキーワードあるい
はシンボルと画像特徴量の対応関係をあらかじめ統計処
理によって対応付けたデータベースを備えて、検索結果
の複数の画像の特徴量間の違いを表現するキーワードあ
るいはシンボルの特徴量を、その特徴量間の違いに敏感
な順に、上位から最大で指定した個数だけが検索毎にダ
イナミックに自動選択される手段、該選択された前記キ
ーワードあるいはシンボルを検索者へ提示する手段、該
提示された前記キーワードあるいはシンボルから検索者
によって選択されたキーワードあるいはシンボルから構
成される表示空間上に検索結果の複数の画像の縮小画像
を散布図として配置し表示する手段を備えることを特徴
とする検索画像表示装置。5. A display device for displaying an image of an image group of a search result obtained as a result of a search from an image database by an arbitrary method, wherein a feature amount for the image group of the entire image database and a keyword which can be assigned to the image Alternatively, a database in which the correspondence between the symbol and the image feature amount is associated in advance by statistical processing is provided, and the feature amount of a keyword or a symbol expressing the difference between the feature amounts of a plurality of images in the search result is extracted between the feature amounts. Means for automatically selecting only the maximum number specified from the top in the order sensitive to the difference for each search, means for presenting the selected keyword or symbol to a searcher, the keyword or symbol presented Display space consisting of keywords or symbols selected by the searcher from Search image display apparatus, characterized in that it comprises means for positioning and displaying the scatter diagram reduced images of a plurality of images of the search results.
して表現するキーワードあるいはシンボルの特徴量を検
索毎にダイナミックに上位から最大で指定した個数だけ
自動選択される手段と、そのキーワードあるいはシンボ
ルを検索者へ提示する手段とを具備する請求項5記載の
検索画像表示装置。6. A means for automatically selecting a maximum of a specified number of keywords or symbols representing the entire feature amount of a plurality of searched images from a higher order for each search, and the keyword 6. The search image display device according to claim 5, further comprising: means for presenting a symbol to a searcher.
検索者の操作により変更するための手段を具備する請求
項5または6記載の検索画像表示装置。7. The search image display device according to claim 5, further comprising means for changing the presented keyword or symbol by a searcher's operation.
検索した結果として得られる検索結果の画像群を出力す
る任意の検索サービスにおいて、前記画像データベース
全体の画像群に対する特徴量と、画像に付与し得るキー
ワードあるいはシンボルと画像特徴量の対応関係をあら
かじめ統計処理によって対応付けたデータベースを備え
て、検索結果の複数の画像の特徴量間の違いを表現する
キーワードあるいはシンボルの特徴量を、その特徴量間
の違いに敏感な順に、上位から最大で指定した個数だけ
が検索毎にダイナミックに自動選択されること、該選択
された前記キーワードあるいはシンボルを検索者へ提示
すること、該提示された前記キーワードあるいはシンボ
ルから検索者によって選択されたキーワードあるいはシ
ンボルから構成される表示空間上に、検索結果の複数の
画像の縮小画像を散布図として配置し表示する機能を検
索サービス側が備え、検索者はユーザインタフェイスと
通信回線を介してこれを利用することを特徴とする画像
検索サービス。8. An arbitrary search service for outputting an image group of a search result obtained as a result of a search from an image database by an arbitrary method, wherein a feature amount for an image group of the entire image database and a keyword which can be assigned to an image. Alternatively, a database in which the correspondence between the symbol and the image feature amount is associated in advance by statistical processing is provided, and the feature amount of a keyword or a symbol expressing the difference between the feature amounts of a plurality of images in the search result is extracted between the feature amounts. In the order sensitive to the difference, only the maximum number specified from the top is dynamically automatically selected for each search, the selected keyword or symbol is presented to a searcher, and the presented keyword or symbol is presented. From keywords or symbols selected by the searcher from The search service side has a function of arranging and displaying reduced images of a plurality of images of the search result as a scatter diagram on a display space, and the searcher uses this via a user interface and a communication line. Image search service.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17360599A JP3996723B2 (en) | 1999-06-21 | 1999-06-21 | Image display method and apparatus, and search service using the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17360599A JP3996723B2 (en) | 1999-06-21 | 1999-06-21 | Image display method and apparatus, and search service using the same |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007070424A Division JP4521008B2 (en) | 2007-03-19 | 2007-03-19 | Image search system |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2001005822A true JP2001005822A (en) | 2001-01-12 |
JP2001005822A5 JP2001005822A5 (en) | 2004-10-28 |
JP3996723B2 JP3996723B2 (en) | 2007-10-24 |
Family
ID=15963715
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP17360599A Expired - Lifetime JP3996723B2 (en) | 1999-06-21 | 1999-06-21 | Image display method and apparatus, and search service using the same |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3996723B2 (en) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067401A (en) * | 2001-08-24 | 2003-03-07 | Fujitsu Ltd | Knowledge discovery support apparatus and support method |
JP2003271665A (en) * | 2002-03-15 | 2003-09-26 | Fuji Photo Film Co Ltd | Graphical user interface for retrieval |
WO2006095599A1 (en) * | 2005-03-08 | 2006-09-14 | Pioneer Corporation | Information processing device, information processing method |
WO2006106631A1 (en) * | 2005-03-31 | 2006-10-12 | Pioneer Corporation | Regeneration order change supporting unit, musical-piece information regenerating device, and regeneration order change supporting method |
CN1300720C (en) * | 2002-12-20 | 2007-02-14 | 精工爱普生株式会社 | Image printing system, method and programm |
JP2007226315A (en) * | 2006-02-21 | 2007-09-06 | Mitsubishi Electric Corp | Image browser system |
JP2008242847A (en) * | 2007-03-27 | 2008-10-09 | Canon Inc | Information processing apparatus and information processing method |
US7606819B2 (en) | 2001-10-15 | 2009-10-20 | Maya-Systems Inc. | Multi-dimensional locating system and method |
JP2010250448A (en) * | 2009-04-13 | 2010-11-04 | Tokyo Broadcasting System Television Inc | System for searching digital contents and search method using the same |
US7958451B2 (en) | 2002-01-28 | 2011-06-07 | Sony Corporation | Graphical user interface for an information mediation system |
JP2013544406A (en) * | 2010-11-16 | 2013-12-12 | マイクロソフト コーポレーション | Browsing related image search result sets |
US8739050B2 (en) | 2008-03-07 | 2014-05-27 | 9224-5489 Quebec Inc. | Documents discrimination system and method thereof |
US8931002B2 (en) | 2007-03-27 | 2015-01-06 | Kabushiki Kaisha Toshiba | Explanatory-description adding apparatus, computer program product, and explanatory-description adding method |
US8984417B2 (en) | 2008-09-12 | 2015-03-17 | 9224-5489 Quebec Inc. | Method of associating attributes with documents |
US9058093B2 (en) | 2011-02-01 | 2015-06-16 | 9224-5489 Quebec Inc. | Active element |
US9251643B2 (en) | 2001-10-15 | 2016-02-02 | Apple Inc. | Multimedia interface progression bar |
US9262381B2 (en) | 2007-08-22 | 2016-02-16 | 9224-5489 Quebec Inc. | Array of documents with past, present and future portions thereof |
US9519693B2 (en) | 2012-06-11 | 2016-12-13 | 9224-5489 Quebec Inc. | Method and apparatus for displaying data element axes |
US9613167B2 (en) | 2011-09-25 | 2017-04-04 | 9224-5489 Quebec Inc. | Method of inserting and removing information elements in ordered information element arrays |
US9646080B2 (en) | 2012-06-12 | 2017-05-09 | 9224-5489 Quebec Inc. | Multi-functions axis-based interface |
US9690460B2 (en) | 2007-08-22 | 2017-06-27 | 9224-5489 Quebec Inc. | Method and apparatus for identifying user-selectable elements having a commonality thereof |
US10671266B2 (en) | 2017-06-05 | 2020-06-02 | 9224-5489 Quebec Inc. | Method and apparatus of aligning information element axes |
-
1999
- 1999-06-21 JP JP17360599A patent/JP3996723B2/en not_active Expired - Lifetime
Cited By (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067401A (en) * | 2001-08-24 | 2003-03-07 | Fujitsu Ltd | Knowledge discovery support apparatus and support method |
US7606819B2 (en) | 2001-10-15 | 2009-10-20 | Maya-Systems Inc. | Multi-dimensional locating system and method |
US8954847B2 (en) | 2001-10-15 | 2015-02-10 | Apple Inc. | Displays of user select icons with an axes-based multimedia interface |
US8904281B2 (en) | 2001-10-15 | 2014-12-02 | Apple Inc. | Method and system for managing multi-user user-selectable elements |
US8893046B2 (en) | 2001-10-15 | 2014-11-18 | Apple Inc. | Method of managing user-selectable elements in a plurality of directions |
US9251643B2 (en) | 2001-10-15 | 2016-02-02 | Apple Inc. | Multimedia interface progression bar |
US8645826B2 (en) | 2001-10-15 | 2014-02-04 | Apple Inc. | Graphical multidimensional file management system and method |
US9454529B2 (en) | 2001-10-15 | 2016-09-27 | Apple Inc. | Method of improving a search |
US7958451B2 (en) | 2002-01-28 | 2011-06-07 | Sony Corporation | Graphical user interface for an information mediation system |
US8230346B2 (en) | 2002-01-28 | 2012-07-24 | Sony Corporation | Graphical user interface for an information mediation system |
JP2003271665A (en) * | 2002-03-15 | 2003-09-26 | Fuji Photo Film Co Ltd | Graphical user interface for retrieval |
CN1300720C (en) * | 2002-12-20 | 2007-02-14 | 精工爱普生株式会社 | Image printing system, method and programm |
WO2006095599A1 (en) * | 2005-03-08 | 2006-09-14 | Pioneer Corporation | Information processing device, information processing method |
JPWO2006095599A1 (en) * | 2005-03-08 | 2008-08-14 | パイオニア株式会社 | Information processing apparatus and information processing method, etc. |
WO2006106631A1 (en) * | 2005-03-31 | 2006-10-12 | Pioneer Corporation | Regeneration order change supporting unit, musical-piece information regenerating device, and regeneration order change supporting method |
JP2007226315A (en) * | 2006-02-21 | 2007-09-06 | Mitsubishi Electric Corp | Image browser system |
JP2008242847A (en) * | 2007-03-27 | 2008-10-09 | Canon Inc | Information processing apparatus and information processing method |
US8931002B2 (en) | 2007-03-27 | 2015-01-06 | Kabushiki Kaisha Toshiba | Explanatory-description adding apparatus, computer program product, and explanatory-description adding method |
US9262381B2 (en) | 2007-08-22 | 2016-02-16 | 9224-5489 Quebec Inc. | Array of documents with past, present and future portions thereof |
US9348800B2 (en) | 2007-08-22 | 2016-05-24 | 9224-5489 Quebec Inc. | Method of managing arrays of documents |
US9690460B2 (en) | 2007-08-22 | 2017-06-27 | 9224-5489 Quebec Inc. | Method and apparatus for identifying user-selectable elements having a commonality thereof |
US10282072B2 (en) | 2007-08-22 | 2019-05-07 | 9224-5489 Quebec Inc. | Method and apparatus for identifying user-selectable elements having a commonality thereof |
US10430495B2 (en) | 2007-08-22 | 2019-10-01 | 9224-5489 Quebec Inc. | Timescales for axis of user-selectable elements |
US10719658B2 (en) | 2007-08-22 | 2020-07-21 | 9224-5489 Quebec Inc. | Method of displaying axes of documents with time-spaces |
US11550987B2 (en) | 2007-08-22 | 2023-01-10 | 9224-5489 Quebec Inc. | Timeline for presenting information |
US9652438B2 (en) | 2008-03-07 | 2017-05-16 | 9224-5489 Quebec Inc. | Method of distinguishing documents |
US8739050B2 (en) | 2008-03-07 | 2014-05-27 | 9224-5489 Quebec Inc. | Documents discrimination system and method thereof |
US8984417B2 (en) | 2008-09-12 | 2015-03-17 | 9224-5489 Quebec Inc. | Method of associating attributes with documents |
JP2010250448A (en) * | 2009-04-13 | 2010-11-04 | Tokyo Broadcasting System Television Inc | System for searching digital contents and search method using the same |
JP2013544406A (en) * | 2010-11-16 | 2013-12-12 | マイクロソフト コーポレーション | Browsing related image search result sets |
US9372873B2 (en) | 2010-11-16 | 2016-06-21 | Microsoft Technology Licensing, Llc | Browsing related image search result sets |
US9384216B2 (en) | 2010-11-16 | 2016-07-05 | Microsoft Technology Licensing, Llc | Browsing related image search result sets |
US9733801B2 (en) | 2011-01-27 | 2017-08-15 | 9224-5489 Quebec Inc. | Expandable and collapsible arrays of aligned documents |
US9529495B2 (en) | 2011-02-01 | 2016-12-27 | 9224-5489 Quebec Inc. | Static and dynamic information elements selection |
US9588646B2 (en) | 2011-02-01 | 2017-03-07 | 9224-5489 Quebec Inc. | Selection and operations on axes of computer-readable files and groups of axes thereof |
US9189129B2 (en) | 2011-02-01 | 2015-11-17 | 9224-5489 Quebec Inc. | Non-homogeneous objects magnification and reduction |
US9122374B2 (en) | 2011-02-01 | 2015-09-01 | 9224-5489 Quebec Inc. | Expandable and collapsible arrays of documents |
US9058093B2 (en) | 2011-02-01 | 2015-06-16 | 9224-5489 Quebec Inc. | Active element |
US10067638B2 (en) | 2011-02-01 | 2018-09-04 | 9224-5489 Quebec Inc. | Method of navigating axes of information elements |
US10289657B2 (en) | 2011-09-25 | 2019-05-14 | 9224-5489 Quebec Inc. | Method of retrieving information elements on an undisplayed portion of an axis of information elements |
US10558733B2 (en) | 2011-09-25 | 2020-02-11 | 9224-5489 Quebec Inc. | Method of managing elements in an information element array collating unit |
US9613167B2 (en) | 2011-09-25 | 2017-04-04 | 9224-5489 Quebec Inc. | Method of inserting and removing information elements in ordered information element arrays |
US11080465B2 (en) | 2011-09-25 | 2021-08-03 | 9224-5489 Quebec Inc. | Method of expanding stacked elements |
US11281843B2 (en) | 2011-09-25 | 2022-03-22 | 9224-5489 Quebec Inc. | Method of displaying axis of user-selectable elements over years, months, and days |
US10845952B2 (en) | 2012-06-11 | 2020-11-24 | 9224-5489 Quebec Inc. | Method of abutting multiple sets of elements along an axis thereof |
US11513660B2 (en) | 2012-06-11 | 2022-11-29 | 9224-5489 Quebec Inc. | Method of selecting a time-based subset of information elements |
US9519693B2 (en) | 2012-06-11 | 2016-12-13 | 9224-5489 Quebec Inc. | Method and apparatus for displaying data element axes |
US10180773B2 (en) | 2012-06-12 | 2019-01-15 | 9224-5489 Quebec Inc. | Method of displaying axes in an axis-based interface |
US9646080B2 (en) | 2012-06-12 | 2017-05-09 | 9224-5489 Quebec Inc. | Multi-functions axis-based interface |
US10671266B2 (en) | 2017-06-05 | 2020-06-02 | 9224-5489 Quebec Inc. | Method and apparatus of aligning information element axes |
Also Published As
Publication number | Publication date |
---|---|
JP3996723B2 (en) | 2007-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2001005822A (en) | Image display method and apparatus and search service using the same | |
JP3586549B2 (en) | Image search method and apparatus | |
CN100472522C (en) | A method, system, and computer program product for searching for, navigating among, and ranking of documents in a personal web | |
US7809721B2 (en) | Ranking of objects using semantic and nonsemantic features in a system and method for conducting a search | |
US8732155B2 (en) | Categorization in a system and method for conducting a search | |
US20070179949A1 (en) | Learning retrieval functions incorporating query differentiation for information retrieval | |
TWI419000B (en) | Open search assist | |
US20050060311A1 (en) | Methods and systems for improving a search ranking using related queries | |
US20090300476A1 (en) | Internet Guide Link Matching System | |
US20090132646A1 (en) | User interface and method in a local search system with static location markers | |
JP2006107469A (en) | Query graph | |
JP2000155758A (en) | Document search method and document search service for multiple document databases | |
US20090132929A1 (en) | User interface and method for a boundary display on a map | |
JP5483269B2 (en) | Information search device and information search method | |
JP2001014349A (en) | Rating system for collaborative information filtering | |
US20040088291A1 (en) | Retrieval condition setting method and retrieval condition setting apparatus | |
US20090132514A1 (en) | method and system for building text descriptions in a search database | |
WO2009064314A1 (en) | Selection of reliable key words from unreliable sources in a system and method for conducting a search | |
WO2009064313A1 (en) | Correlation of data in a system and method for conducting a search | |
WO2009064318A1 (en) | Search system and method for conducting a local search | |
US20090132572A1 (en) | User interface and method in a local search system with profile page | |
JP4521008B2 (en) | Image search system | |
CN116342228A (en) | Related recommendation method based on directed graph neural network | |
US20090132484A1 (en) | User interface and method in a local search system having vertical context | |
JP2006228072A (en) | Map information system linked search engine server system. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060926 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061127 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20061127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070116 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070319 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070710 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070803 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3996723 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110810 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110810 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120810 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120810 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130810 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |