[go: up one dir, main page]

JP2009266005A - Image retrieval method, image retrieval program, music player, and article for music retrieval - Google Patents

Image retrieval method, image retrieval program, music player, and article for music retrieval Download PDF

Info

Publication number
JP2009266005A
JP2009266005A JP2008115701A JP2008115701A JP2009266005A JP 2009266005 A JP2009266005 A JP 2009266005A JP 2008115701 A JP2008115701 A JP 2008115701A JP 2008115701 A JP2008115701 A JP 2008115701A JP 2009266005 A JP2009266005 A JP 2009266005A
Authority
JP
Japan
Prior art keywords
music
image
feature information
search
playlist
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008115701A
Other languages
Japanese (ja)
Inventor
Masashi Otsuka
将史 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd filed Critical Clarion Co Ltd
Priority to JP2008115701A priority Critical patent/JP2009266005A/en
Publication of JP2009266005A publication Critical patent/JP2009266005A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To retrieve a musical piece suitable for user's feeling, mood or condition from among a plurality of musical pieces. <P>SOLUTION: A music retrieval method for retrieving a musical piece from a predetermined music database performs an image acquisition step of acquiring an image, an image feature information calculation step of calculating image feature information representing features of the image based on the obtained image, and a music retrieval step of retrieving a musical piece from the music database based on the calculated image feature information. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

この発明は、楽曲データベースのなかから楽曲を検索する楽曲検索方法、楽曲検索プログラム、および楽曲再生装置に関連し、詳しくは、撮影またはスキャンされた画像に基づき楽曲を検索する楽曲検索方法、楽曲検索プログラム、および楽曲再生装置に関する。また、該楽曲再生装置における楽曲検索に適した情報が付された楽曲検索用物品に関する。   The present invention relates to a music search method, a music search program, and a music playback device for searching for music from a music database, and more specifically, a music search method for searching for music based on a photographed or scanned image, and music search The present invention relates to a program and a music playback device. The present invention also relates to a music search article to which information suitable for music search in the music playback device is attached.

近年、楽曲データをMP3(MPEG-1 Audio Layer-3)等の高圧縮率の音声圧縮コーデックを用いて圧縮して大容量のHDD(Hard Disk Drive)に記憶するオーディオ装置が普及している。このようなオーディオ装置においては、数千曲から数万曲といった膨大な数の楽曲を記憶することができる。したがって、ユーザは、HDDの残容量に注意を払うことなく所望の楽曲をオーディオ装置に次々と記憶させることができる。しかし、このようにHDDに多数の楽曲を記憶できる反面、そのなかから聴きたい楽曲を速やかに探し出すことが難くなるといった問題が生じている。   In recent years, audio devices that compress music data using a high compression rate audio compression codec such as MP3 (MPEG-1 Audio Layer-3) and store it in a large capacity HDD (Hard Disk Drive) have become widespread. In such an audio apparatus, a huge number of music pieces such as thousands to tens of thousands of songs can be stored. Therefore, the user can store desired music one after another in the audio device without paying attention to the remaining capacity of the HDD. However, while a large number of music pieces can be stored in the HDD as described above, there is a problem that it is difficult to quickly find a music piece to be listened to.

上記問題を解消すべく、膨大な数の楽曲のなかから所望の楽曲を検索するのに好適な楽曲検索技術が種々提案されている。その一例が特許文献1に開示されている。特許文献1によれば、楽曲は、CD(Compact Disc)等からリッピングされて楽曲データベースに格納される。このとき楽曲は、複数の評価項目によって評価されて、該評価結果と関連付けられる。このようにして楽曲データベースに格納された各楽曲(より正確には、球体で表示された楽曲へのリンク)は、該評価結果にしたがって、各評価項目に対応する3軸で表現された仮想的な三次元空間に配置される。該三次元空間は、各楽曲へのリンクに加えてさらに、各評価項目に対応した楽曲のイメージを表す印象標語が該空間の端部付近に重畳されてディスプレイに表示される。ユーザは、ディスプレイに表示された三次元空間内の各リンクの位置を視認して各楽曲のイメージを視覚的に捉えることにより、聴取したい楽曲を感覚的に選び出すことができる。
特開2007−11913号公報
In order to solve the above problem, various music search techniques suitable for searching for a desired music from a huge number of music have been proposed. An example thereof is disclosed in Patent Document 1. According to Patent Document 1, music is ripped from a CD (Compact Disc) or the like and stored in a music database. At this time, the music is evaluated by a plurality of evaluation items and associated with the evaluation result. Each piece of music stored in the music database in this way (more precisely, a link to the music displayed as a sphere) is a virtual expression expressed in three axes corresponding to each evaluation item according to the evaluation result. Arranged in a three-dimensional space. In the three-dimensional space, in addition to the link to each music, an impression slog representing the image of the music corresponding to each evaluation item is superimposed on the vicinity of the end of the space and displayed on the display. The user can sensuously select music to be listened to by visually observing the position of each link in the three-dimensional space displayed on the display and visually capturing the image of each music.
JP 2007-11913 A

ところで、ユーザにはその時々の感情や気分または状況等に適した楽曲を聴取したい要望がある。しかし、特許文献1に例示される楽曲検索機能を利用する場合、ユーザにとって、自身の感情や気分または状況等を客観的に判断することは難しく、必ずしも現在の自らの感情に合致した楽曲を選択できるとは限らない。このため、たとえHDD等に多種多様の楽曲が記憶された場合でも、そのなかからユーザの感情や気分または状況等に適した楽曲が有効に検索されないことが多い。   By the way, there is a demand for the user to listen to music suitable for the emotion, mood or situation at that time. However, when using the music search function exemplified in Patent Document 1, it is difficult for the user to objectively determine his / her emotions, moods or situations, and the user always selects a song that matches his / her own emotions. It is not always possible. For this reason, even when a wide variety of music is stored in the HDD or the like, there are many cases where a music suitable for the user's emotion, mood or situation is not effectively retrieved.

本発明はこのような事情に鑑みてなされたものであり、その目的とするところは、客観的な判断に基づき複数の楽曲のなかからユーザの感情や気分または状況等に適した楽曲を検索するのに好適な楽曲検索方法、楽曲検索プログラム、および楽曲再生装置を提供することにある。また、このような楽曲再生装置における楽曲検索に適した情報が付された楽曲検索用物品を提供することにある。   The present invention has been made in view of such circumstances, and an object of the present invention is to search for music suitable for a user's emotion, mood, or situation from a plurality of music based on objective judgment. It is an object of the present invention to provide a music search method, a music search program, and a music playback device suitable for the above. Another object of the present invention is to provide a music search article with information suitable for music search in such a music playback device.

上記の課題を解決する本発明の一形態に係る楽曲検索方法は、所定の楽曲データベースのなかから楽曲を検索する楽曲検索方法であって、画像を取得する画像取得ステップと、取得された画像に基づき該画像の特徴を示す画像特徴情報を計算する画像特徴情報計算ステップと、計算された画像特徴情報に基づき楽曲データベースのなかから楽曲を検索する楽曲検索ステップとを実行することを特徴としている。   A music search method according to an aspect of the present invention that solves the above problem is a music search method for searching for music from a predetermined music database, and an image acquisition step for acquiring an image, and an acquired image An image feature information calculating step for calculating image feature information indicating the feature of the image based on the image feature and a music search step for searching for a song from a music database based on the calculated image feature information are performed.

このように取得された画像に応じた楽曲を検索する方法によれば、ユーザに感情や気分または状況等を自らの主観によって判断させること無く、客観的な判断に基づきユーザの気分等に適した楽曲を検索することができる。例えば笑顔が撮影された場合には該笑顔を示す画像特徴情報が計算されて、該計算結果に基づき該笑顔(楽しい感情や気分等)に適した楽曲が検索される。   According to the method of searching for music according to the acquired image in this way, it is suitable for the user's mood etc. based on objective judgment without letting the user judge emotions, moods or situations by his / her own subjectivity. You can search for songs. For example, when a smile is photographed, image feature information indicating the smile is calculated, and music suitable for the smile (fun emotion, mood, etc.) is searched based on the calculation result.

本発明に係る楽曲検索方法によれば、各楽曲は楽曲データベースにおいて該楽曲の特徴を示す楽曲特徴情報に関連付けられて管理されており、この場合に、楽曲検索ステップにおいて、画像特徴情報と各楽曲の楽曲特徴情報とを比較した結果、所定の条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力するようにしてもよい。ここで画像特徴情報と楽曲特徴情報は、例えば画像または楽曲の特徴が同一の評価項目に基づき数値化されて表された情報である。   According to the music search method of the present invention, each music is managed in the music database in association with the music feature information indicating the characteristics of the music. In this case, in the music search step, the image feature information and each music As a result of comparison with the music feature information, the music associated with the music feature information determined to satisfy a predetermined condition may be output as a search result. Here, the image feature information and the music feature information are information in which, for example, the features of the image or the music are digitized based on the same evaluation item.

また、本発明に係る楽曲検索方法は、検索結果に応じて所定の条件を変更する条件変更ステップをさらに実行する方法としてもよい。この場合、楽曲検索ステップにおいては、変更された条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力することになる。   Moreover, the music search method according to the present invention may be a method of further executing a condition changing step of changing a predetermined condition according to the search result. In this case, in the music search step, the music associated with the music feature information determined to satisfy the changed condition is output as a search result.

本発明に係る楽曲検索方法は、さらに、検索された楽曲のプレイリストを作成するプレイリスト作成ステップと、作成されたプレイリスト中の楽曲を、該プレイリストの曲順で、またはランダムに、あるいはリピートで再生する楽曲再生ステップと実行する方法としてもよい。また、作成されたプレイリストを所定のディスプレイに表示するプレイリスト表示ステップをさらに実行し、ディスプレイがタッチパネルである場合に、プレイリスト中のタッチされた楽曲を再生するようにしてもよい。   The music search method according to the present invention further includes a playlist creation step for creating a playlist of the searched music, and the songs in the created playlist in the order of the songs in the playlist, or randomly. It is good also as the method of performing with the music reproduction step reproduced | regenerated by a repeat. Further, a playlist display step for displaying the created playlist on a predetermined display may be further executed, and when the display is a touch panel, the touched music in the playlist may be played back.

上記画像取得ステップにおいては、撮影またはスキャンされた画像を取得するようにしてもよい。   In the image acquisition step, a captured or scanned image may be acquired.

また、上記の課題を解決する本発明の一形態に係る楽曲検索プログラムは、上記何れかに記載された楽曲検索方法をコンピュータに実行させるためのプログラムである。   Moreover, the music search program which concerns on one form of this invention which solves said subject is a program for making a computer perform the music search method described in any of the above.

また、上記の課題を解決する本発明の一形態に係る楽曲再生装置は、所定の楽曲データベースのなかから楽曲を検索して再生する装置であって、画像を取得する画像取得手段と、取得された画像に基づき該画像の特徴を示す画像特徴情報を計算する画像特徴情報計算手段と、計算された画像特徴情報に基づき楽曲データベースのなかから楽曲を検索する楽曲検索手段とを有することを特徴としている。   A music playback device according to an aspect of the present invention that solves the above problem is a device that searches for and plays back music from a predetermined music database, and is acquired by an image acquisition unit that acquires an image. Image feature information calculating means for calculating image feature information indicating the feature of the image based on the image, and music search means for searching for music from a music database based on the calculated image feature information. Yes.

このように取得された画像に応じた楽曲を検索する構成によれば、ユーザに感情や気分または状況等を自らの主観によって判断させること無く、客観的な判断に基づきユーザの気分等に適した楽曲を検索することができる。例えば被写体として笑顔を撮影した場合には該笑顔を示す画像特徴情報を計算し、該計算結果に基づき楽曲データベースのなかから笑顔(楽しい感情や気分等)に適した楽曲を検索することができる。   According to the configuration for searching for music according to the acquired image in this way, it is suitable for the user's mood etc. based on objective judgment without letting the user judge emotions, moods or situations by his / her own subjectivity. You can search for songs. For example, when a smile is photographed as a subject, image feature information indicating the smile can be calculated, and music suitable for a smile (fun emotion, mood, etc.) can be searched from the music database based on the calculation result.

楽曲データベースは、各楽曲をその特徴を示す楽曲特徴情報に関連付けて管理する構成としてもよい。この場合、楽曲検索手段は、画像特徴情報と各楽曲の楽曲特徴情報とを比較した結果、所定の条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力する。ここでいう画像特徴情報と楽曲特徴情報は、例えば画像または楽曲の特徴が同一の評価項目に基づき数値化されて表された情報である。   A music database is good also as a structure which links | relates and manages each music in the music characteristic information which shows the characteristic. In this case, the music search means outputs the music associated with the music feature information determined to satisfy the predetermined condition as a search result as a result of comparing the image feature information with the music feature information of each music. The image feature information and the music feature information referred to here are, for example, information obtained by quantifying the features of the image or the music based on the same evaluation item.

また、本発明に係る楽曲再生装置は、検索結果に応じて所定の条件を変更する条件変更手段をさらに有する構成としてもよい。この場合、楽曲検索手段は、変更された条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力する。   In addition, the music reproducing device according to the present invention may further include a condition changing unit that changes a predetermined condition according to a search result. In this case, the music search means outputs the music associated with the music feature information determined to satisfy the changed condition as a search result.

本発明に係る楽曲再生装置は、さらに、検索された楽曲のプレイリストを作成するプレイリスト作成手段を有し、作成されたプレイリスト中の楽曲を、該プレイリストの曲順で、またはランダムに、あるいはリピートで再生する構成としてもよい。また、作成されたプレイリストを所定のディスプレイに表示するプレイリスト表示手段をさらに有し、ディスプレイがタッチパネルである場合に、プレイリスト中のタッチされた楽曲を再生するようにしてもよい。   The music playback device according to the present invention further includes playlist creation means for creating a playlist of searched music, and the music in the created playlist is in the order of the songs in the playlist or randomly. Alternatively, it may be configured to reproduce by repeat. Further, it may further include playlist display means for displaying the created playlist on a predetermined display, and when the display is a touch panel, the touched music in the playlist may be played back.

ここで、画像取得手段は、ユーザ操作がなされた時、または電源投入直後、あるいは所定時間経過する毎に画像を取得する構成としてもよい。   Here, the image acquisition means may be configured to acquire an image when a user operation is performed, immediately after power-on, or every time a predetermined time elapses.

さらに、画像取得手段は、被写体を撮影する、または画像をスキャンする手段としてもよい。   Further, the image acquisition means may be means for photographing a subject or scanning an image.

また、上記の課題を解決する本発明の一形態に係る楽曲検索用物品は、上記楽曲再生装置が有する画像特徴情報計算手段により計算される画像特徴情報が埋め込まれた、該楽曲再生装置が有する画像取得手段により撮影またはスキャンされる所定のコードパターンが付されたことを特徴とする物品である。該楽曲検索用物品の例として、画像特徴情報が埋め込まれたQRコード(登録商標)やバーコードが印刷された雑誌が挙げられる。   In addition, a music search article according to an aspect of the present invention that solves the above-described problem is included in the music playback device in which the image feature information calculated by the image feature information calculation unit included in the music playback device is embedded. An article to which a predetermined code pattern photographed or scanned by an image acquisition means is attached. Examples of the music search article include a QR code (registered trademark) in which image feature information is embedded and a magazine on which a barcode is printed.

本発明に係る画像検索方法、画像検索プログラム、および楽曲再生装置によれば、取得された画像に基づき、ユーザに感情や気分または状況等を自らの主観によって判断させること無く、客観的な判断に基づきユーザの気分等に適した楽曲を検索することができる。また、本発明に係る楽曲検索用物品によれば、該楽曲再生装置における楽曲検索の実行に適した情報が提供される。   According to the image search method, the image search program, and the music playback device according to the present invention, it is possible to make an objective determination based on the acquired image without causing the user to determine an emotion, a mood, a situation, or the like based on their own subjectivity. Based on this, it is possible to search for music suitable for the user's mood. Moreover, according to the music search article according to the present invention, information suitable for performing music search in the music playback device is provided.

以下、図面を参照して、本発明に係る楽曲を検索する楽曲検索処理を実行するカーナビゲーション装置について説明する。   Hereinafter, with reference to the drawings, a car navigation device that executes music search processing for searching for music according to the present invention will be described.

図1は、本発明の実施形態のカーナビゲーション装置100の構成を示すブロック図である。図1に示されるように、カーナビゲーション装置100の各ブロックは、システムバス10を介して互いに接続されている。各ブロックは、カーナビゲーション装置100の電源投入後、システムバス10を介して必要なハードウェアにアクセスする。   FIG. 1 is a block diagram showing a configuration of a car navigation apparatus 100 according to an embodiment of the present invention. As shown in FIG. 1, the blocks of the car navigation apparatus 100 are connected to each other via a system bus 10. Each block accesses necessary hardware via the system bus 10 after the car navigation apparatus 100 is powered on.

例えばカーナビゲーション装置100の電源投入直後は、CPU(Central Processing Unit)20がROM(Read-Only Memory)22にアクセスする。CPU20は、ROM22に格納されたファームウェアを呼び出してSDRAM(Synchronous Dynamic Random Access Memory)24のワークエリアに展開し、カーナビゲーション装置100のシステムを起動する。これにより、各ブロックがCPU20による制御下で必要に応じて連係動作して処理を実行し、例えばユーザを目的地に案内するナビゲーション処理が行われたり、ユーザ操作等により選択された楽曲が再生されたりする。   For example, immediately after the car navigation apparatus 100 is turned on, a CPU (Central Processing Unit) 20 accesses a ROM (Read-Only Memory) 22. The CPU 20 calls the firmware stored in the ROM 22 and develops it in a work area of an SDRAM (Synchronous Dynamic Random Access Memory) 24, and activates the system of the car navigation apparatus 100. As a result, the blocks perform coordinated operations as necessary under the control of the CPU 20 to execute processing, for example, navigation processing for guiding the user to the destination is performed, or music selected by user operation or the like is reproduced. Or

ユーザ操作を受け付けるデバイスとして、操作キー(ハードウェアキー)26がカーナビゲーション装置100のフロントパネルに設けられている。該フロントパネルには、例えば目的地へのナビゲーション情報や再生中の楽曲情報等を表示する液晶ディスプレイ28も設けられている。液晶ディスプレイ28はタッチパネル構造を有し、入力装置としての機能も兼ね備えている。ユーザは、操作キー26に対するキー入力や、液晶ディスプレイ28に表示されるGUI(Graphical User Interface)に対するフィンガータッチやペンタッチを行うことにより、カーナビゲーション装置100を操作することができる。また、図示省略されたリモコンによってもカーナビゲーション装置100を操作することができる。   An operation key (hardware key) 26 is provided on the front panel of the car navigation apparatus 100 as a device that receives a user operation. The front panel is also provided with a liquid crystal display 28 for displaying, for example, navigation information to a destination, music information being reproduced, and the like. The liquid crystal display 28 has a touch panel structure and also functions as an input device. The user can operate the car navigation apparatus 100 by performing key input to the operation keys 26 or finger touch or pen touch on a GUI (Graphical User Interface) displayed on the liquid crystal display 28. In addition, the car navigation device 100 can be operated by a remote controller (not shown).

カーナビゲーション装置100には、ナビゲーション処理を実行するため、GPS(Global Positioning System)レシーバ50およびセンサ52が備えられる。GPSレシーバ50は、複数のGPS衛星が発信するGPS信号を捕捉、追尾して現在位置等を計算する周知の機器である。センサ52は、ジャイロセンサや車速センサ等の周知のDR(dead reckoning)センサ類である。GPSレシーバ50による計算結果およびセンサ52からのセンサ出力は、CPU20に転送されて、CPU20がこれらのデータに基づいて位置推定を行う。   The car navigation apparatus 100 is provided with a GPS (Global Positioning System) receiver 50 and a sensor 52 in order to execute navigation processing. The GPS receiver 50 is a well-known device that captures and tracks GPS signals transmitted from a plurality of GPS satellites and calculates the current position and the like. The sensor 52 is a known DR (dead reckoning) sensor such as a gyro sensor or a vehicle speed sensor. The calculation result by the GPS receiver 50 and the sensor output from the sensor 52 are transferred to the CPU 20, and the CPU 20 performs position estimation based on these data.

CPU20は、ROM22に格納されている地図データベースのなかから、計算された位置周辺の地図データを読み出して液晶ディスプレイ28に表示させるとともにマップマッチングを行い、表示中の地図に自車位置マークを重畳表示する。このときユーザ操作により目的地が設定されていれば、CPU20はその目的地に向けたナビゲーション処理も行う。   The CPU 20 reads out map data around the calculated position from the map database stored in the ROM 22, displays it on the liquid crystal display 28, performs map matching, and superimposes the vehicle position mark on the displayed map. To do. At this time, if a destination is set by a user operation, the CPU 20 also performs a navigation process toward the destination.

上記ナビゲーション処理実行時を含むカーナビゲーション装置100の動作中に楽曲再生のユーザ操作が行われると、前回使用時に最後に再生された楽曲(以下、「ラストワン」と記す。)がスピーカ30により再生される。このときカーナビゲーション装置100の各ブロックで実行される処理を以下に説明する。   When a user operation for music playback is performed during the operation of the car navigation device 100 including the time when the navigation process is performed, the last played music (hereinafter referred to as “last one”) during the previous use is played by the speaker 30. Is done. Processing executed in each block of the car navigation device 100 at this time will be described below.

まず、上記ユーザ操作に応じた操作信号が生成されてCPU20に入力される。CPU20は、該操作信号に応答してEEPROM(Electrically Erasable and Programmable Read Only Memory)32にアクセスする。ここで、新たに楽曲が再生される毎に、次に説明される楽曲データベース34aから該楽曲の情報(例えば楽曲名)が読み出されてEEPROM32に上書き保存される。つまり、EEPROM32は、ラストワンの情報を常に保持した状態にある。   First, an operation signal corresponding to the user operation is generated and input to the CPU 20. The CPU 20 accesses an EEPROM (Electrically Erasable and Programmable Read Only Memory) 32 in response to the operation signal. Here, each time a new music is reproduced, information on the music (for example, a music name) is read from the music database 34a described below, and is overwritten and saved in the EEPROM 32. That is, the EEPROM 32 is in a state where the last one information is always held.

CPU20は、EEPROM32からラストワンの情報を読み出すと、該情報を検索キーとして内蔵ストレージ34に記憶された楽曲データベース34aにアクセスする。内蔵ストレージ34は、容量を優先させる設計であれば例えばHDDが、アクセス速度を優先させる設計であれば例えばフラッシュメモリが、それぞれ採用される。   When the CPU 20 reads the last one information from the EEPROM 32, the CPU 20 accesses the music database 34a stored in the internal storage 34 using the information as a search key. For the built-in storage 34, for example, an HDD is adopted if the capacity is given priority, and for example, a flash memory is adopted if the access speed is given priority.

内蔵ストレージ34に記憶された楽曲データベース34aには、例えばCD等からリッピングされた楽曲データが蓄積されている。ここで、カーナビゲーション装置100で実行されるリッピング処理について説明する。   The music database 34a stored in the built-in storage 34 stores music data ripped from, for example, a CD. Here, the ripping process executed by the car navigation apparatus 100 will be described.

リッピング処理は、メディアドライブ36とDSP(Digital Signal Processor)38との連係動作により実行される。メディアドライブ36は、CDやDVD(Digital Versatile Disc)、BD(Blu-ray Disc)等の記録メディアを再生するドライブである。DSP38は、オーディオデータに対するコーデック処理や、該コーデック処理により伸張されたデジタルオーディオデータのアナログ変換処理等を行う信号処理回路である。   The ripping process is executed by a cooperative operation between the media drive 36 and a DSP (Digital Signal Processor) 38. The media drive 36 is a drive for reproducing a recording medium such as a CD, a DVD (Digital Versatile Disc), or a BD (Blu-ray Disc). The DSP 38 is a signal processing circuit that performs codec processing on audio data, analog conversion processing of digital audio data expanded by the codec processing, and the like.

メディアドライブ36のスロットに例えば音楽CDが挿入されると、メディアドライブ36は、各トラックの楽曲データ(PCM(pulse code modulation)形式)を読み込んでDSP38に出力する。DSP38は、メディアドライブ36からのPCM形式の楽曲データをMP3やAAC(Advanced Audio Coding)等の音声圧縮コーデックにより圧縮する。圧縮された楽曲データは、CPU20の制御の下、内蔵ストレージ34の楽曲データベース34aに格納される。このようにして楽曲データがリッピングされる。なお、DSP38において実行される音声圧縮コーデックの形式はMP3やAACに限らない。カーナビゲーション装置100の仕様に応じて他の非可逆圧縮コーデックや可逆圧縮コーデック等が採用されることもある。   When, for example, a music CD is inserted into the slot of the media drive 36, the media drive 36 reads the music data (PCM (pulse code modulation) format) of each track and outputs it to the DSP 38. The DSP 38 compresses the music data in the PCM format from the media drive 36 using an audio compression codec such as MP3 or AAC (Advanced Audio Coding). The compressed music data is stored in the music database 34 a of the internal storage 34 under the control of the CPU 20. In this way, music data is ripped. Note that the format of the audio compression codec executed in the DSP 38 is not limited to MP3 or AAC. Depending on the specifications of the car navigation apparatus 100, other lossy compression codecs, lossless compression codecs, and the like may be employed.

内蔵ストレージ34には、さらに、楽曲データベース34aの各楽曲データを管理するための楽曲管理レコード群が記憶されている。各楽曲管理レコードは、各楽曲データに関連付けられたデータであり、「楽曲名」、「アーティスト名」、「アルバム名」、「ジャンル」、「特徴(後述)」等の各フィールドにエントリされたデータで構成されている。ユーザは、ユーザ操作により各フィールドにテキストデータをエントリさせることができる。   The built-in storage 34 further stores a music management record group for managing each music data in the music database 34a. Each music management record is data associated with each music data, and is entered in each field such as “music name”, “artist name”, “album name”, “genre”, “feature (described later)”, etc. Consists of data. The user can enter text data in each field by a user operation.

また、カーナビゲーション装置100は、図示省略された通信モデムによりインターネットにアクセスすることができる。例えばリッピング時にCDのTOC(Table of contents)情報が読み込まれると、CPU20は、該通信モデムを介してインターネット上のCDDB(CD DataBase)にアクセスして、該TOC情報に該当する楽曲名等のメタ情報をダウンロードする。次いで、リッピング中のCDの楽曲データに対応する楽曲管理レコードを作成する。そして、作成された楽曲管理レコードの各フィールドに、ダウンロードされたメタ情報の各テキストデータをエントリする。この場合、ユーザは、楽曲名等を手入力する必要がない。   The car navigation apparatus 100 can access the Internet by a communication modem (not shown). For example, when TOC (Table of contents) information of a CD is read at the time of ripping, the CPU 20 accesses a CDDB (CD DataBase) on the Internet via the communication modem, and stores a meta data such as a song name corresponding to the TOC information. Download information. Next, a music management record corresponding to the music data of the CD being ripped is created. Then, each text data of the downloaded meta information is entered in each field of the created music management record. In this case, the user does not need to manually input a music title or the like.

なお、カーナビゲーション装置100においては、USB(Universal Serial Bus)メモリやメモリカードなどの外付けストレージ40に格納された楽曲データも楽曲データベース34aに格納することができる。詳しくは、カーナビゲーション装置100は、図示省略されたUSBやIEEE 1394(Institute of Electrical and Electronic Engineers 1394)規格に準拠したポートやPCカードスロット等を有し、外付けストレージ40を接続できる構成を有する。例えば該ポートに外付けストレージ40が接続されると、CPU20は、PnP(Plug and Play)により外付けストレージ40を認識してリソースの割当てやデバイスドライバの導入等を行う。これにより、CPU20は、外付けストレージ40に記憶されたデータにアクセスできるようになる。このため、外付けストレージ40に記憶された楽曲データをカーナビゲーション装置100に保存するようにユーザ操作がなされると、CPU20は、外付けストレージ40の楽曲データを内蔵ストレージ34にコピーする。該楽曲データに楽曲名等のメタ情報が付帯する場合には、該楽曲データに対応する楽曲管理レコードを作成後、メタ情報の各テキストデータを該当するフィールドにエントリする。このように楽曲データベース34aには、CD等からのリッピング以外によっても楽曲データが格納される。   In the car navigation apparatus 100, music data stored in an external storage 40 such as a USB (Universal Serial Bus) memory or a memory card can also be stored in the music database 34a. Specifically, the car navigation device 100 has a configuration such as a port, a PC card slot, and the like conforming to the USB and IEEE 1394 (Institute of Electrical and Electronic Engineers 1394) standards, not shown, so that the external storage 40 can be connected. . For example, when the external storage 40 is connected to the port, the CPU 20 recognizes the external storage 40 by PnP (Plug and Play) and performs resource allocation, device driver installation, and the like. As a result, the CPU 20 can access the data stored in the external storage 40. Therefore, when a user operation is performed to save the music data stored in the external storage 40 in the car navigation device 100, the CPU 20 copies the music data in the external storage 40 to the internal storage 34. When meta information such as a music name is attached to the music data, after creating a music management record corresponding to the music data, each text data of the meta information is entered in the corresponding field. Thus, the music data is stored in the music database 34a other than ripping from a CD or the like.

このようにして多数の楽曲データが蓄積された楽曲データベース34aのなかから、CPU20により生成された検索キーに対応する楽曲データが抽出されてDSP38に出力される。DSP38は、入力された楽曲データを伸張し、さらに、伸張された楽曲データをアナログ形式の楽曲データに変換して音声増幅回路42に出力する。音声増幅回路42は、ボリュームに応じた増幅率によりアナログ形式の楽曲データをゲイン調整してスピーカ30に出力する。これにより、ラストワン、つまり、前回使用時に最後に再生された楽曲がスピーカ30により再生される。   Thus, music data corresponding to the search key generated by the CPU 20 is extracted from the music database 34 a in which a large number of music data is stored, and is output to the DSP 38. The DSP 38 expands the input music data, converts the expanded music data into analog music data, and outputs the music data to the audio amplifier circuit 42. The audio amplification circuit 42 adjusts the gain of the music data in the analog format with the amplification factor corresponding to the volume, and outputs it to the speaker 30. As a result, the last one, that is, the music that was last played when used last time is played by the speaker 30.

なお、上記においては、メディアドライブ36のスロットに音楽CDが挿入されたときにDSP38等によりリッピング処理が行われることを説明した。このときDSP38は、さらに、タイムシフト再生処理も実行する。すなわち、DSP38は、メディアドライブ36により読み取られたPCM形式の楽曲データをMP3データ等に圧縮変換しつつ、該圧縮変換された楽曲データを例えばDSP38に内蔵されたリングバッファにバッファリングする。リングバッファは、所定再生時間分の楽曲データをバッファリングして順次掃き出す。掃き出された楽曲データは、アナログ形式の楽曲データに変換されて音声増幅回路42に出力され、スピーカ30により再生される。つまり、DSP38は、楽曲データのリッピングと再生を並行して実行する。このため、カーナビゲーション装置100においては、楽曲データのリッピング中に長い時間無音状態になることが有効に避けられ、ユーザにストレスを感じさせない。   In the above description, it has been described that the ripping process is performed by the DSP 38 or the like when a music CD is inserted into the slot of the media drive 36. At this time, the DSP 38 also executes time shift reproduction processing. That is, the DSP 38 compresses and converts the PCM format music data read by the media drive 36 into MP3 data and the like, and buffers the compressed music data in, for example, a ring buffer built in the DSP 38. The ring buffer buffers music data for a predetermined reproduction time and sequentially sweeps it out. The swept music data is converted into analog music data, output to the audio amplification circuit 42, and reproduced by the speaker 30. That is, the DSP 38 executes ripping and reproduction of music data in parallel. For this reason, in the car navigation apparatus 100, it is effectively avoided that the sound data is silent for a long time during ripping of the music data, and the user is not stressed.

次に、楽曲データベース34aのなかから所望の楽曲を検索する楽曲検索について説明する。所定のユーザ操作が行われると、楽曲検索をするための楽曲検索画面が液晶ディスプレイ28に表示される。該楽曲検索画面において楽曲名やアーティスト名等を入力または指定する操作が行われると、CPU20は、該操作にしたがって楽曲データベース34aを検索し、検索条件にマッチする楽曲を再生する。   Next, a music search for searching for a desired music from the music database 34a will be described. When a predetermined user operation is performed, a music search screen for searching for music is displayed on the liquid crystal display 28. When an operation for inputting or specifying a song name, artist name, or the like is performed on the song search screen, the CPU 20 searches the song database 34a according to the operation and reproduces a song that matches the search condition.

しかし、楽曲名等を入力または指定する検索方式の場合、ユーザにとって、曲調等を容易に想起できる特定の楽曲名等を除けば、その時々の感情や気分または状況等に適した楽曲を検索することは難しい。このため、実際にはユーザの気分等に適した楽曲が楽曲データベース34aのなかに記憶されている場合でも、そのような楽曲が有効に検索されないことが多い。一方、上記特許文献1(特開2007−11913号公報)のような感覚的な楽曲検索を可能とさせる検索方式の場合には、ユーザの感情や気分または状況等に適した楽曲を容易に検索できるように思われる。ところが、ユーザは、上述したように自身の感情や気分または状況等を客観的に判断できない限り、自身の嗜好に合った楽曲を無意識のうちに選択する傾向にある。このため結局のところ、ユーザの感情や気分または状況等に適した楽曲が検索されないことが多い。   However, in the case of a search method for inputting or specifying a song name or the like, the user searches for a song suitable for the emotion, mood or situation at that time, except for a specific song name or the like that can easily recall the tone of the song. It ’s difficult. For this reason, even when music suitable for the user's mood or the like is actually stored in the music database 34a, such music is often not searched effectively. On the other hand, in the case of a search method that enables a sensuous music search as described in Patent Document 1 (Japanese Patent Laid-Open No. 2007-11913), music that is suitable for the user's emotions, mood, or situation is easily searched. It seems to be possible. However, as described above, unless the user can objectively determine his / her emotions, moods, or situations, the user tends to unconsciously select a song that matches his / her preference. For this reason, in the end, music suitable for the user's emotion, mood or situation is often not searched.

そこで、ユーザの感情や気分または状況等に適した楽曲検索をより高度に実現する楽曲検索方法やプログラム、装置等の提供が望まれている。このような要望に応えるべく、本発明に係るカーナビゲーション装置100は、画像取得デバイス60を有する。また、画像取得デバイス60により取得された画像データを用いて、図2のフローチャートに示される楽曲検索処理を実行する。画像取得デバイス60には、例えば車内に設置された車室内カメラや、持ち運び可能なコンパクト型DSC(Digital Still Camera)、液晶パネル28に実装されたスキャナデバイス等が想定される。車室内カメラは、例えば運転手や同乗者の顔を撮影できる位置に固定されたDSCである。車室内カメラやコンパクト型DSC等は、カーナビゲーション装置100のUSBポート等に接続される。   Therefore, it is desired to provide a music search method, a program, a device, and the like that can realize a music search suitable for the user's emotions, moods, and situations. In order to meet such a demand, the car navigation apparatus 100 according to the present invention includes an image acquisition device 60. Moreover, the music search process shown by the flowchart of FIG. 2 is performed using the image data acquired by the image acquisition device 60. As the image acquisition device 60, for example, a vehicle interior camera installed in the vehicle, a portable compact DSC (Digital Still Camera), a scanner device mounted on the liquid crystal panel 28, and the like are assumed. The vehicle interior camera is a DSC fixed at a position where the face of a driver or a passenger can be photographed, for example. A vehicle interior camera, a compact DSC, or the like is connected to a USB port or the like of the car navigation apparatus 100.

ユーザにより画像取得デバイス60を使用した撮影やスキャン操作が行われると、該画像取得デバイス60により取得された画像データがDSP38に入力される(ステップ1、以下、本明細書および図面においてステップを「S」と略記する。)。撮影される対象には例えば車室内や、車窓から見える森林、海、山、ビル街等の風景が、スキャンされる対象には例えば雑誌や写真等が想定される。ここでは車室内カメラにより運転手の顔(例えば笑顔)が撮影された場合を例に説明する。なお、上記撮影等のタイミングは、ユーザが画像取得デバイス60を操作したタイミングに限らない。画像取得デバイス60による撮影等は、例えば自動車のエンジンが駆けられた時(カーナビゲーション装置100の電源投入直後)や、所定時間経過する毎に自動的に行われるようにしてもよい。   When a user performs a shooting or scanning operation using the image acquisition device 60, the image data acquired by the image acquisition device 60 is input to the DSP 38 (step 1, hereinafter, the steps in this specification and drawings are referred to as “ Abbreviated as "S"). For example, landscapes such as forests, seas, mountains, building streets, and the like that can be seen from the passenger compartment and the vehicle window are assumed as objects to be photographed, and magazines and photographs are assumed as objects to be scanned. Here, a case where a driver's face (for example, a smile) is photographed by a vehicle interior camera will be described as an example. Note that the timing of the above shooting or the like is not limited to the timing at which the user operates the image acquisition device 60. Shooting or the like by the image acquisition device 60 may be automatically performed, for example, when an automobile engine is driven (immediately after the car navigation apparatus 100 is turned on) or every time a predetermined time elapses.

DSP38は、画像取得デバイス60からの画像データを解析して該画像の画像特徴データを算出する(S2)。算出された画像特徴データは、CPU20に転送される。ここで画像特徴データは、画像の特徴点を所定の評価項目毎に数値化して表したデータである。画像特徴データを構成する評価項目には、例えば「喜」、「怒」、「哀」、「楽」等の感情に関する項目や、「森林」、「都会」、「海」、「山」等の風景に関する項目がある。それ以外にも「元気」、「癒し」、「クール」、「ホット」、「テンポ」、「明るさ」等の様々な項目が想定される。ここでは説明の便宜上、画像特徴データは、「テンポ」と「明るさ」の2項目で構成され、各項目について画像を0〜99の100段階で評価したデータとする。なお、画像認識された風景や人の顔、表情等を評価してその特徴を数値化する技術の詳細は、例えば特開2007−328675号公報等に開示されている。   The DSP 38 analyzes the image data from the image acquisition device 60 and calculates image feature data of the image (S2). The calculated image feature data is transferred to the CPU 20. Here, the image feature data is data in which the feature points of the image are expressed numerically for each predetermined evaluation item. The evaluation items constituting the image feature data include items related to emotions such as “joy”, “anger”, “sorrow”, “easy”, “forest”, “city”, “sea”, “mountain”, etc. There are items related to the scenery. In addition, various items such as “Energy”, “Healing”, “Cool”, “Hot”, “Tempo”, and “Brightness” are assumed. Here, for convenience of explanation, the image feature data is composed of two items, “tempo” and “brightness”, and is data obtained by evaluating the image in 100 levels from 0 to 99 for each item. Note that details of a technique for evaluating image-recognized landscapes, human faces, facial expressions, and the like and quantifying their characteristics are disclosed in, for example, Japanese Patent Application Laid-Open No. 2007-328675.

S3の処理においてCPU20は、S2の処理で転送された画像特徴データを検索キーとして楽曲データベース34aにアクセスする。次いで、該画像特徴データと、各楽曲管理レコードの「特徴」フィールドにエントリされた楽曲特徴データとを比較してその一致度(%)を計算する。そして、一致度の高い上位所定数の楽曲特徴データに関連付けられた楽曲データを検索結果として得る。   In the process of S3, the CPU 20 accesses the music database 34a using the image feature data transferred in the process of S2 as a search key. Next, the image feature data is compared with the song feature data entered in the “feature” field of each song management record, and the degree of coincidence (%) is calculated. Then, music data associated with the upper predetermined number of music feature data having a high degree of coincidence is obtained as a search result.

ここで楽曲特徴データは、DSP38による楽曲解析処理により楽曲の特徴を所定の評価項目毎に数値化して表したデータである。すなわち、DSP38は、音楽CD等に記録された楽曲データをリッピングする際、楽曲データの予め定められたデータ解析開始点から一定のフレーム長に対してFFT(Fast Fourier Transform)処理を行い、パワースペクトルを算出する。次いで、算出されたパワースペクトルに基づき楽曲特徴データを算出する。算出された各楽曲特徴データは、対応する楽曲管理レコードの「特徴」フィールドにエントリされる。なお、楽曲解析処理においては、上記画像解析処理と同じく、楽曲データは「テンポ」と「明るさ」の2項目で評価され、その特徴が各項目について0〜99の100段階で数値化される。このような楽曲解析処理の詳細は、例えば特許文献1(特開2007−11913号公報)等に開示されている。   Here, the music feature data is data obtained by quantifying the music features for each predetermined evaluation item by the music analysis processing by the DSP 38. That is, when ripping music data recorded on a music CD or the like, the DSP 38 performs FFT (Fast Fourier Transform) processing on a certain frame length from a predetermined data analysis start point of the music data to obtain a power spectrum. Is calculated. Next, music feature data is calculated based on the calculated power spectrum. Each calculated music feature data is entered in the “feature” field of the corresponding music management record. In the music analysis process, the music data is evaluated by two items, “tempo” and “brightness”, as in the above-described image analysis process, and the features are quantified in 100 levels from 0 to 99 for each item. . Details of such music analysis processing are disclosed in, for example, Japanese Patent Application Laid-Open No. 2007-11913.

図3に、S3の処理を説明するためのグラフを示す。図3の縦軸は評価項目「テンポ」に、横軸は評価項目「明るさ」に対応する。図3においては、楽曲データベース34aに蓄積された各楽曲データ(図3中●印)が、各評価項目を軸とする仮想的な二次元座標領域上に楽曲特徴データにしたがって配置されている。また、S2の処理で算出された画像特徴データ(図3中印A)が、該二次元座標領域上に画像特徴データにしたがって配置されている。S2の処理においては、S1の処理で笑顔が撮影されたことに基づき、評価項目「テンポ」、「明るさ」がともに高い画像特徴データが算出されている。該二次元座標領域上において印Aに近い●印ほど、S2の処理で算出された画像特徴データと一致度の高い楽曲データであることを示している。したがって、S3の処理においては、該二次元座標領域上において印Aにより近い上位所定数の●印の楽曲データが検索結果として得られる。   FIG. 3 shows a graph for explaining the process of S3. The vertical axis in FIG. 3 corresponds to the evaluation item “tempo”, and the horizontal axis corresponds to the evaluation item “brightness”. In FIG. 3, each piece of music data (marked with ● in FIG. 3) stored in the music database 34a is arranged in accordance with the music feature data on a virtual two-dimensional coordinate area centered on each evaluation item. Further, the image feature data (mark A in FIG. 3) calculated in the process of S2 is arranged on the two-dimensional coordinate area according to the image feature data. In the process of S2, image feature data having high evaluation items “tempo” and “brightness” are calculated based on the fact that a smile was photographed in the process of S1. In the two-dimensional coordinate region, the mark ● that is closer to the mark A indicates that the music data has a higher degree of coincidence with the image feature data calculated in the process of S2. Accordingly, in the process of S3, a predetermined number of high-ranked music data of ● marks closer to the mark A on the two-dimensional coordinate area are obtained as search results.

CPU20は次いで、S3の処理で得られた検索結果に基づきプレイリストを作成する(S4)。次いで、作成されたプレイリストを液晶ディスプレイ28の最前面に割込表示させて(S5)、図2の楽曲検索処理を終了する。なお、プレイリストには、S3の処理で検索された楽曲が一致度の高い順にリストされる。プレイリスト表示後は、楽曲再生が該プレイリストの曲順にしたがって自動的に、またはユーザ操作を受け付けた段階で開始される。プレイリスト中の楽曲がフィンガータッチまたはペンタッチにより選択された場合には、再生される楽曲が変更される。ユーザ操作によりランダム再生機能やリピート再生機能が設定されている場合には、プレイリスト内の楽曲がランダムに再生されたりリピートで再生されたりする。   Next, the CPU 20 creates a playlist based on the search result obtained in the process of S3 (S4). Next, the created playlist is interrupted and displayed on the forefront of the liquid crystal display 28 (S5), and the music search process in FIG. 2 is terminated. In the play list, the music searched in the process of S3 is listed in descending order of coincidence. After the play list is displayed, the music reproduction is started automatically in accordance with the order of the music in the play list or when a user operation is accepted. When the music in the playlist is selected by finger touch or pen touch, the music to be played is changed. When the random playback function or the repeat playback function is set by the user operation, the music in the playlist is played back randomly or played back repeatedly.

上記においては、運転手が笑顔(楽しい感情や気分等)であることが画像解析処理によりカーナビゲーション装置100側で判断された上で、評価項目「テンポ」、「明るさ」がともに高い、楽しい感情や気分等に適した楽曲が検索される。すなわち、本発明の特徴的処理たる楽曲検索処理によれば、運転手の感情や気分等が表情を通じて客観的に判断された上で、該判断結果にしたがった、つまり運転手の感情や気分等に適した楽曲が検索される。   In the above, the car navigation device 100 determines that the driver is smiling (fun emotions, moods, etc.) by the image analysis process, and the evaluation items “tempo” and “brightness” are both high and fun. Music suitable for emotions and moods is searched. That is, according to the music search process which is a characteristic process of the present invention, the driver's emotions and moods are objectively determined through facial expressions, and according to the determination results, that is, the driver's emotions and moods. Music suitable for is searched.

また、画像取得デバイス60によって撮影される対象が風景である場合を考える。例えば山道を走行中に森が撮影された場合には、該撮影された森の画像に基づき、森の特徴点を数値化した(例えば評価項目「テンポ」、「明るさ」がともに低い)画像特徴データが算出される。この結果、評価項目「テンポ」、「明るさ」がともに低い、森のイメージに適した楽曲が検索される。すなわち、本発明の特徴的処理たる楽曲検索処理によれば、走行場所の状況等が風景画像に基づき判断された上で、該判断結果にしたがった、つまり走行場所の状況等に即した楽曲が検索される。   Further, consider a case where the object to be photographed by the image acquisition device 60 is a landscape. For example, when a forest is photographed while traveling on a mountain road, an image in which feature points of the forest are digitized based on the photographed forest image (for example, evaluation items “tempo” and “brightness” are both low) Feature data is calculated. As a result, music suitable for the forest image is searched for which both the evaluation items “tempo” and “brightness” are low. That is, according to the music search process, which is a characteristic process of the present invention, the situation of the travel location is determined based on the landscape image, and the music according to the determination result, that is, the situation of the travel location, etc. Searched.

このようにカーナビゲーション装置100は、ユーザに感情や気分または状況等を自らの主観によって判断させること無く、客観的な判断に基づきユーザの気分等に適した楽曲を速やかに検索することができる。また、本発明に係る楽曲検索処理においては、ユーザの感情や気分または状況等がその時々で変わるため、検索される楽曲が一部のジャンルに偏らない等のメリットがある。様々な楽曲を聴取するうちに、ユーザにとって嗜好に合う新たな楽曲が発見されることもある。   In this way, the car navigation device 100 can quickly search for music suitable for the user's mood and the like based on the objective determination without causing the user to determine the emotion, mood, or situation based on his / her own subjectivity. Further, in the music search process according to the present invention, since the user's emotion, mood, or situation changes from time to time, there is an advantage that the searched music is not biased to some genres. While listening to various music pieces, new music that suits the user's taste may be discovered.

本発明は上記実施形態に限定されるものではなく、本発明の技術的思想の範囲において様々な変形が可能である。例えば本発明に係る楽曲検索処理を実行する装置には種々のタイプの装置が想定される。その一例として、カーナビゲーション装置と同じく移動体に装備される車載型オーディオ機器や、家庭内に設置される据置型のオーディオセットコンポ、業務用カラオケ装置、持ち運びを想定したポータブル音楽プレイヤー等が挙げられる。   The present invention is not limited to the above embodiment, and various modifications are possible within the scope of the technical idea of the present invention. For example, various types of apparatuses are assumed as apparatuses for executing the music search process according to the present invention. Examples of this include in-car audio equipment that is mounted on a moving body, as well as car navigation devices, stationary audio set components installed in the home, commercial karaoke devices, and portable music players that are supposed to be carried around. .

画像取得デバイス60によって撮影またはスキャンされる対象には運転手の表情や風景等以外にさらに、雑誌等に印刷されたQRコード(登録商標)やバーコード等が想定される。この場合、QRコード(登録商標)やバーコード等に、画像特徴データの代替として評価項目「テンポ」、「明るさ」に対応する数値データが埋め込まれている。なお、このようなコードパターンは、より多次元のパターンであってもよい。   In addition to the driver's facial expression, landscape, and the like, a QR code (registered trademark), a barcode, or the like printed on a magazine or the like is assumed as an object to be photographed or scanned by the image acquisition device 60. In this case, numerical data corresponding to the evaluation items “tempo” and “brightness” are embedded in QR code (registered trademark), barcode, or the like as an alternative to the image feature data. Such a code pattern may be a more multidimensional pattern.

また、図2のS3の処理で実行される検索方法は、上記方法に限らず他にも様々な方法が想定される。例えば一致度の高い上位所定数の楽曲特徴データに代えて、所定の一致度以上の楽曲特徴データに関連付けられた全ての楽曲データが検索結果として得られるようにしてもよい。なお、検索条件を満たす楽曲データが一曲の場合には、プレイリストを液晶ディスプレイ28に表示させる有効性に乏しい。したがってこの場合には、プレイリスト作成処理および表示処理を実行しなくてもよい。また、検索条件を満たす楽曲データが一曲も存在しないまたは所定数に達しない場合には、検索条件を緩和した上で図2のS3の検索処理を再度実行するようにしてもよい。このように検索条件は検索結果に応じて自動的に変更されるようにしてもよく、あるいは、ユーザ操作により任意に設定できるようにしてもよい。   The search method executed in the process of S3 in FIG. 2 is not limited to the above method, and various other methods are assumed. For example, instead of the upper predetermined number of music feature data having a high degree of coincidence, all music data associated with music feature data having a predetermined degree of coincidence or higher may be obtained as a search result. When the music data satisfying the search condition is one music, the effectiveness of displaying the playlist on the liquid crystal display 28 is poor. Therefore, in this case, the playlist creation process and the display process need not be executed. Further, when there is no music data satisfying the search condition or the predetermined number has not been reached, the search process of S3 in FIG. 2 may be executed again after relaxing the search conditions. Thus, the search condition may be automatically changed according to the search result, or may be arbitrarily set by a user operation.

なお、ユーザ操作により検索条件を無くす設定を行った場合には、図2の楽曲検索処理により、楽曲データベース34a中の全ての楽曲を一致度の高い順にリストしたプレイリストが作成される。   Note that when the user operation is set to eliminate the search condition, a playlist in which all the songs in the song database 34a are listed in descending order of coincidence is created by the song search process of FIG.

本発明の実施形態のカーナビゲーション装置の構成を示すブロック図である。It is a block diagram which shows the structure of the car navigation apparatus of embodiment of this invention. 本発明の実施形態の楽曲検索処理のフローチャート図である。It is a flowchart figure of the music search process of embodiment of this invention. 図2のS3の処理を説明するためのグラフである。It is a graph for demonstrating the process of S3 of FIG.

符号の説明Explanation of symbols

10 システムバス
20 CPU
22 ROM
24 RAM
26 操作キー
28 液晶ディスプレイ
30 スピーカ
32 EEPROM
34 内蔵ストレージ
34a 楽曲データベース
36 メディアドライブ
38 DSP
42 音声増幅回路
44 画像処理回路
50 GPSレシーバ
52 センサ
60 画像取得デバイス
100 カーナビゲーション装置
10 System bus 20 CPU
22 ROM
24 RAM
26 Operation Keys 28 Liquid Crystal Display 30 Speaker 32 EEPROM
34 Internal storage 34a Music database 36 Media drive 38 DSP
42 audio amplification circuit 44 image processing circuit 50 GPS receiver 52 sensor 60 image acquisition device 100 car navigation device

Claims (17)

所定の楽曲データベースのなかから楽曲を検索する楽曲検索方法において、
画像を取得する画像取得ステップと、
前記取得された画像に基づき該画像の特徴を示す画像特徴情報を計算する画像特徴情報計算ステップと、
前記計算された画像特徴情報に基づき前記楽曲データベースのなかから楽曲を検索する楽曲検索ステップと、
を実行することを特徴とする楽曲検索方法。
In a music search method for searching for music from a predetermined music database,
An image acquisition step of acquiring an image;
An image feature information calculating step for calculating image feature information indicating the feature of the image based on the acquired image;
A music search step for searching for music from the music database based on the calculated image feature information;
The music search method characterized by performing.
各楽曲は前記楽曲データベースにおいて該楽曲の特徴を示す楽曲特徴情報に関連付けられて管理されており、
前記楽曲検索ステップにおいて、前記画像特徴情報と各楽曲の前記楽曲特徴情報とを比較した結果、所定の条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力することを特徴とする、請求項1に記載の楽曲検索方法。
Each song is managed in the song database in association with song feature information indicating the feature of the song,
In the music search step, as a result of comparing the image feature information with the music feature information of each music, outputting a music associated with the music feature information determined to satisfy a predetermined condition as a search result. The music search method according to claim 1, wherein the music search method is characterized.
前記画像特徴情報と前記楽曲特徴情報は、前記画像または前記楽曲の特徴が同一の評価項目に基づき数値化されて表された情報であることを特徴とする、請求項2に記載の楽曲検索方法。   The music search method according to claim 2, wherein the image feature information and the music feature information are information in which the image or the music features are expressed numerically based on the same evaluation item. . 前記検索結果に応じて前記所定の条件を変更する条件変更ステップをさらに実行し、
前記楽曲検索ステップにおいて、前記変更された条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力することを特徴とする、請求項2または請求項3の何れかに記載の楽曲検索方法。
Further executing a condition changing step of changing the predetermined condition according to the search result;
The music search step outputs the music associated with the music feature information determined to satisfy the changed condition as a search result in the music search step. Music search method.
前記検索された楽曲のプレイリストを作成するプレイリスト作成ステップと、
前記作成されたプレイリスト中の楽曲を、該プレイリストの曲順で、またはランダムに、あるいはリピートで再生する楽曲再生ステップと、
をさらに実行することを特徴とする、請求項1から請求項4の何れかに記載の楽曲検索方法。
A playlist creating step for creating a playlist of the searched music;
A music playback step of playing back the music in the created playlist in the order of the songs in the playlist, randomly or repeatedly;
The music search method according to claim 1, further comprising:
前記作成されたプレイリストを所定のディスプレイに表示するプレイリスト表示ステップをさらに実行し、
前記ディスプレイがタッチパネルである場合に、前記プレイリスト中のタッチされた楽曲を再生することを特徴とする、請求項5に記載の楽曲検索方法。
Further executing a playlist display step of displaying the created playlist on a predetermined display;
The music search method according to claim 5, wherein when the display is a touch panel, the touched music in the playlist is played.
前記画像取得ステップにおいて、撮影またはスキャンされた画像を取得することを特徴とする、請求項1から請求項6のいずれかに記載の楽曲検索方法。   The music search method according to claim 1, wherein a captured or scanned image is acquired in the image acquisition step. 請求項1から請求項7の何れかに記載された楽曲検索方法をコンピュータに実行させるための楽曲検索プログラム。   A music search program for causing a computer to execute the music search method according to any one of claims 1 to 7. 所定の楽曲データベースのなかから楽曲を検索して再生する楽曲再生装置において、
画像を取得する画像取得手段と、
前記取得された画像に基づき該画像の特徴を示す画像特徴情報を計算する画像特徴情報計算手段と、
前記計算された画像特徴情報に基づき前記楽曲データベースのなかから楽曲を検索する楽曲検索手段と、
を有することを特徴とする楽曲再生装置。
In a music playback device for searching and playing music from a predetermined music database,
Image acquisition means for acquiring images;
Image feature information calculating means for calculating image feature information indicating the features of the image based on the acquired image;
Music search means for searching for music from the music database based on the calculated image feature information;
A music reproducing apparatus comprising:
前記楽曲データベースは、各楽曲をその特徴を示す楽曲特徴情報に関連付けて管理し、
前記楽曲検索手段は、前記画像特徴情報と各楽曲の前記楽曲特徴情報とを比較した結果、所定の条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力することを特徴とする、請求項9に記載の楽曲再生装置。
The music database manages each music piece in association with music feature information indicating its characteristics,
The music search means outputs the music associated with the music feature information determined to satisfy a predetermined condition as a search result as a result of comparing the image feature information with the music feature information of each music. The music reproducing apparatus according to claim 9, wherein the music reproducing apparatus is characterized.
前記画像特徴情報と前記楽曲特徴情報は、前記画像または前記楽曲の特徴が同一の評価項目に基づき数値化されて表された情報であることを特徴とする、請求項10に記載の楽曲再生装置。   11. The music playback device according to claim 10, wherein the image feature information and the music feature information are information in which the image or the music features are expressed numerically based on the same evaluation item. . 前記検索結果に応じて前記所定の条件を変更する条件変更手段をさらに有し、
前記楽曲検索手段は、前記変更された条件を満たすと判定された該楽曲特徴情報に関連付けられた楽曲を検索結果として出力することを特徴とする、請求項10または請求項11の何れかに記載の楽曲再生装置。
It further has condition changing means for changing the predetermined condition according to the search result,
The music search means outputs a music associated with the music feature information determined to satisfy the changed condition as a search result. Music playback device.
前記検索された楽曲のプレイリストを作成するプレイリスト作成手段をさらに有し、
前記作成されたプレイリスト中の楽曲を、該プレイリストの曲順で、またはランダムに、あるいはリピートで再生することを特徴とする、請求項9から請求項12の何れかに記載の楽曲再生装置。
A playlist creating means for creating a playlist of the searched music;
The music reproducing device according to any one of claims 9 to 12, wherein the music in the created playlist is reproduced in the order of the songs in the playlist, randomly, or repeatedly. .
前記作成されたプレイリストを所定のディスプレイに表示するプレイリスト表示手段をさらに有し、
前記ディスプレイがタッチパネルである場合に、前記プレイリスト中のタッチされた楽曲を再生することを特徴とする、請求項13に記載の楽曲再生装置。
A playlist display means for displaying the created playlist on a predetermined display;
The music playback device according to claim 13, wherein when the display is a touch panel, the touched music in the playlist is played back.
前記画像取得手段は、ユーザ操作がなされた時、または電源投入直後、あるいは所定時間経過する毎に画像を取得することを特徴とする、請求項9から請求項14の何れかに記載の楽曲再生装置。   The music reproduction according to any one of claims 9 to 14, wherein the image acquisition means acquires an image when a user operation is performed, immediately after power-on, or whenever a predetermined time elapses. apparatus. 前記画像取得手段は、被写体を撮影する、または画像をスキャンする手段であることを特徴とする、請求項9から請求項15の何れかに記載の楽曲再生装置。   The music reproducing device according to any one of claims 9 to 15, wherein the image acquisition means is means for photographing a subject or scanning an image. 請求項16に記載の楽曲再生装置が有する前記画像特徴情報計算手段により計算される前記画像特徴情報が埋め込まれた、該楽曲再生装置が有する前記画像取得手段により撮影またはスキャンされる所定のコードパターンが付されたことを特徴とする楽曲検索用物品。   17. A predetermined code pattern that is photographed or scanned by the image acquisition means of the music reproduction device in which the image feature information calculated by the image feature information calculation means of the music reproduction device according to claim 16 is embedded. Article for music search characterized by having been attached.
JP2008115701A 2008-04-25 2008-04-25 Image retrieval method, image retrieval program, music player, and article for music retrieval Pending JP2009266005A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008115701A JP2009266005A (en) 2008-04-25 2008-04-25 Image retrieval method, image retrieval program, music player, and article for music retrieval

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008115701A JP2009266005A (en) 2008-04-25 2008-04-25 Image retrieval method, image retrieval program, music player, and article for music retrieval

Publications (1)

Publication Number Publication Date
JP2009266005A true JP2009266005A (en) 2009-11-12

Family

ID=41391770

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008115701A Pending JP2009266005A (en) 2008-04-25 2008-04-25 Image retrieval method, image retrieval program, music player, and article for music retrieval

Country Status (1)

Country Link
JP (1) JP2009266005A (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011118710A (en) * 2009-12-04 2011-06-16 Sony Computer Entertainment Inc Musical piece recommendation system, apparatus and method for processing information
JP2012209724A (en) * 2011-03-29 2012-10-25 Sony Corp Playlist creation apparatus, playlist creation method and playlist creating program
CN104409085A (en) * 2014-11-24 2015-03-11 惠州Tcl移动通信有限公司 Vehicle-mounted intelligent music player and music playing method thereof
CN104899251A (en) * 2015-05-08 2015-09-09 联想(北京)有限公司 Information processing method and electronic device
JP2016197424A (en) * 2016-06-22 2016-11-24 株式会社Jvcケンウッド Information selection device, information selection method, and computer program
WO2017022271A1 (en) * 2015-08-04 2017-02-09 株式会社ディーアンドエムホールディングス Computer readable program, playlist preparation device, and wireless audio system
JP2019046250A (en) * 2017-09-04 2019-03-22 株式会社コロプラ Program, method executed by computer to provide virtual space, and information processing apparatus for executing the program
JP2021516398A (en) * 2018-08-14 2021-07-01 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 Music recommendation methods, equipment, computing equipment and media
CN115238120A (en) * 2022-06-15 2022-10-25 中国第一汽车股份有限公司 A kind of car song retrieval method and car song retrieval device
JP7558639B2 (en) 2018-01-04 2024-10-01 ハーマン インターナショナル インダストリーズ インコーポレイテッド Biometric personalized audio processing system

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08314486A (en) * 1995-05-18 1996-11-29 Sharp Corp Information processing device with two-dimensional barcode processing function
JP2003091976A (en) * 2001-09-17 2003-03-28 Ricoh Co Ltd Data processing device
JP2003131659A (en) * 2001-10-23 2003-05-09 Casio Comput Co Ltd Music sound generating apparatus and music sound generating method
JP2006039704A (en) * 2004-07-23 2006-02-09 Matsushita Electric Ind Co Ltd Playlist generation device
JP2006155042A (en) * 2004-11-26 2006-06-15 Tokyo Denki Univ Multimedia information retrieval system and program
JP2006243854A (en) * 2005-03-01 2006-09-14 Fujitsu Ten Ltd Music playback device, music playback method and program
JP2007257162A (en) * 2006-03-22 2007-10-04 Clarion Co Ltd Musical piece retrieving device, musical piece retrieving method and on-vehicle acoustic equipment

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08314486A (en) * 1995-05-18 1996-11-29 Sharp Corp Information processing device with two-dimensional barcode processing function
JP2003091976A (en) * 2001-09-17 2003-03-28 Ricoh Co Ltd Data processing device
JP2003131659A (en) * 2001-10-23 2003-05-09 Casio Comput Co Ltd Music sound generating apparatus and music sound generating method
JP2006039704A (en) * 2004-07-23 2006-02-09 Matsushita Electric Ind Co Ltd Playlist generation device
JP2006155042A (en) * 2004-11-26 2006-06-15 Tokyo Denki Univ Multimedia information retrieval system and program
JP2006243854A (en) * 2005-03-01 2006-09-14 Fujitsu Ten Ltd Music playback device, music playback method and program
JP2007257162A (en) * 2006-03-22 2007-10-04 Clarion Co Ltd Musical piece retrieving device, musical piece retrieving method and on-vehicle acoustic equipment

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9047320B2 (en) 2009-12-04 2015-06-02 Sony Corporation Music recommendation system, information processing device, and information processing method
JP2011118710A (en) * 2009-12-04 2011-06-16 Sony Computer Entertainment Inc Musical piece recommendation system, apparatus and method for processing information
JP2012209724A (en) * 2011-03-29 2012-10-25 Sony Corp Playlist creation apparatus, playlist creation method and playlist creating program
CN104409085A (en) * 2014-11-24 2015-03-11 惠州Tcl移动通信有限公司 Vehicle-mounted intelligent music player and music playing method thereof
CN104899251B (en) * 2015-05-08 2019-04-26 联想(北京)有限公司 A kind of information processing method and electronic equipment
CN104899251A (en) * 2015-05-08 2015-09-09 联想(北京)有限公司 Information processing method and electronic device
WO2017022271A1 (en) * 2015-08-04 2017-02-09 株式会社ディーアンドエムホールディングス Computer readable program, playlist preparation device, and wireless audio system
JP2017032876A (en) * 2015-08-04 2017-02-09 株式会社ディーアンドエムホールディングス Computer-readable program, playlist creation device, and wireless audio system
US10268648B2 (en) 2015-08-04 2019-04-23 D&M Holdings, Inc. Computer readable program, playlist preparation device, and wireless audio system
JP2016197424A (en) * 2016-06-22 2016-11-24 株式会社Jvcケンウッド Information selection device, information selection method, and computer program
JP2019046250A (en) * 2017-09-04 2019-03-22 株式会社コロプラ Program, method executed by computer to provide virtual space, and information processing apparatus for executing the program
JP7558639B2 (en) 2018-01-04 2024-10-01 ハーマン インターナショナル インダストリーズ インコーポレイテッド Biometric personalized audio processing system
JP2021516398A (en) * 2018-08-14 2021-07-01 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 Music recommendation methods, equipment, computing equipment and media
US11314806B2 (en) 2018-08-14 2022-04-26 Tencent Technology (Shenzhen) Company Limited Method for making music recommendations and related computing device, and medium thereof
JP7206288B2 (en) 2018-08-14 2023-01-17 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 Music recommendation method, apparatus, computing equipment and medium
CN115238120A (en) * 2022-06-15 2022-10-25 中国第一汽车股份有限公司 A kind of car song retrieval method and car song retrieval device

Similar Documents

Publication Publication Date Title
JP2009266005A (en) Image retrieval method, image retrieval program, music player, and article for music retrieval
JP2006127574A (en) Content utilization apparatus, content utilization method, distribution server apparatus, information distribution method, and recording medium
JP2007304933A (en) Information processing system, terminal device, information processing method, program
JPWO2006095599A1 (en) Information processing apparatus and information processing method, etc.
US9990911B1 (en) Method for creating preview track and apparatus using the same
JP2004294262A (en) Vehicle mounted information apparatus, creation method for pathway music information database, retrieval method for music information, method for information processing and computer program
JP2006318182A (en) VOICE SEARCH DEVICE, VOICE SEARCH METHOD, VOICE REPRODUCTION METHOD, AND PORTABLE REPRODUCTION DEVICE, AND MUSIC SEARCH DEVICE, MUSIC SEARCH METHOD, MUSIC REPRODUCTION METHOD
JP2009283020A (en) Recording apparatus, reproducing apparatus, and program
JP2012058877A (en) Play list creation device
JPWO2014203870A1 (en) Performance system, performance method and performance program
JP2009265714A (en) Image display method, image display program, and musical piece reproduction device
KR20130095389A (en) Real time music video system
JP5047304B2 (en) Audio apparatus and music search method
JP4976716B2 (en) Car audio equipment
JP2009092977A (en) In-vehicle device and music piece retrieval system
JP2012137559A (en) Karaoke device and control method and control program for karaoke device
JP2012137560A (en) Karaoke device and control method and control program for karaoke device
JP4620020B2 (en) Playback device
JP2009204872A (en) Creation system of dictionary for speech recognition
JP2005318295A (en) Image generation system and method, image generation program, and information recording medium
JP2008191490A (en) Audio device and its reproduction method
JP3906220B2 (en) Playback device
JP2007171772A (en) Music information processing device, music information processing method, and control program
JP5234598B2 (en) Content data playback device
JP2006106103A (en) Apparatus for editing/reproducing musical piece

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121214

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130801