JP2011130323A - Broadcast receiver and control method thereof - Google Patents
Broadcast receiver and control method thereof Download PDFInfo
- Publication number
- JP2011130323A JP2011130323A JP2009288811A JP2009288811A JP2011130323A JP 2011130323 A JP2011130323 A JP 2011130323A JP 2009288811 A JP2009288811 A JP 2009288811A JP 2009288811 A JP2009288811 A JP 2009288811A JP 2011130323 A JP2011130323 A JP 2011130323A
- Authority
- JP
- Japan
- Prior art keywords
- video
- program content
- arbitrary viewpoint
- viewpoint video
- arbitrary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】 任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、適切な任意視点映像を再現し、ユーザの利便性を向上することができる放送受信装置及びその制御方法を提供する。
【解決手段】 任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成処理して、設定された特定のオブジェクトを自動的に追従する視点の任意視点映像を生成する。表示対象の番組コンテンツとして任意視点映像以外の他の番組コンテンツが選択された場合、システム制御部107は、設定された特定のオブジェクトに関する情報を、記憶部108に記憶する制御を行う。表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択された場合、任意視点映像生成部105は、設定された特定のオブジェクトを自動的に追従する視点の任意視点映像を生成する。
【選択図】 図1PROBLEM TO BE SOLVED: To improve user convenience by reproducing appropriate arbitrary viewpoint video when viewing of program content of arbitrary viewpoint video is resumed after temporarily stopping viewing of the program content of arbitrary viewpoint video. Provided is a broadcast receiving apparatus capable of performing the same and a control method thereof.
An arbitrary viewpoint video generation unit 105 synthesizes multi-viewpoint video content for generating an arbitrary viewpoint video, and generates an arbitrary viewpoint video of a viewpoint that automatically follows a set specific object. When program content other than the arbitrary viewpoint video is selected as the program content to be displayed, the system control unit 107 performs control to store information on the set specific object in the storage unit 108. When program content of an arbitrary viewpoint video is selected again as the program content to be displayed, the arbitrary viewpoint video generation unit 105 generates an arbitrary viewpoint video of a viewpoint that automatically follows a set specific object.
[Selection] Figure 1
Description
本発明は、番組コンテンツを構成するそれぞれ視点位置の異なる複数の映像コンテンツから、任意の視点位置に対応する任意視点映像を生成することが可能な放送受信装置及びその制御方法に関する。 The present invention relates to a broadcast receiving apparatus capable of generating an arbitrary viewpoint video corresponding to an arbitrary viewpoint position from a plurality of video contents having different viewpoint positions that constitute program content, and a control method thereof.
近年、対象物を取り囲むように配置した多数のカメラで撮影された多視点映像コンテンツ(それぞれ視点位置の異なる多数の映像コンテンツ)から、任意に指定された視点位置の任意視点映像を生成する研究が行われている。それぞれ視点位置の異なる多数の映像コンテンツを合成し、補間・再構成することで、本来撮影されていない仮想の視点位置の任意視点映像を得ることができる。 In recent years, research has been conducted on generating arbitrary viewpoint videos at arbitrarily specified viewpoint positions from multi-viewpoint video contents (multiple video contents with different viewpoint positions) shot by a large number of cameras arranged to surround an object. Has been done. By synthesizing, interpolating and reconstructing a large number of video contents each having a different viewpoint position, it is possible to obtain an arbitrary viewpoint video at a virtual viewpoint position that is not originally photographed.
下記の特許文献1には、放送番組の標準映像と連携して任意視点映像を提供するサービスにおいて、放送番組の標準映像から任意視点映像にシームレスに切り替える技術が開示されている。任意視点映像の視点の初期値として、放送ストリームから抽出した視点情報を利用することにより、標準映像から任意視点映像へ切り替えた際に、標準映像と同じ視点の任意視点映像を最初の任意視点映像として用いることができる。 Patent Document 1 below discloses a technique for seamlessly switching from a standard video of a broadcast program to an arbitrary video in a service that provides an arbitrary video in cooperation with the standard video of a broadcast program. By using the viewpoint information extracted from the broadcast stream as the initial viewpoint value of the arbitrary viewpoint video, when switching from the standard video to the arbitrary viewpoint video, the arbitrary viewpoint video of the same viewpoint as the standard video is the first arbitrary viewpoint video. Can be used as
また、下記の特許文献2には、データ放送の視聴中に他のチャンネルを選局した後に、再び元のチャンネルのデータ放送に戻ったとき、当該データ放送の最終画像状態を復元する技術が開示されている。 Also, the following Patent Document 2 discloses a technique for restoring the final image state of the data broadcast when the channel is selected again while viewing the data broadcast and then returns to the data broadcast of the original channel again. Has been.
任意視点映像の番組コンテンツを提供する放送サービスが開始された場合、任意視点映像の番組コンテンツと他の番組コンテンツとの間で、表示対象の番組コンテンツが切り換えられると、以下のような課題が生じる。ここで、任意視点映像の番組コンテンツを視聴しながら、ユーザがリモコン等を操作して希望する任意視点映像の視点位置に設定した場合を想定する。表示対象の番組コンテンツとして任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択された場合に、設定されていた視点位置の情報を記憶しておく。そして、表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択された場合に、記憶しておいた視点位置の情報を読み出して、設定されていた視点位置の任意視点映像を生成する。 When a broadcast service that provides program content of an arbitrary viewpoint video is started, the following problems occur when the program content to be displayed is switched between the program content of the arbitrary viewpoint video and another program content. . Here, it is assumed that the user sets the desired viewpoint position of the arbitrary viewpoint video by operating the remote controller or the like while viewing the program content of the arbitrary viewpoint video. When another program content is selected after the program content of an arbitrary viewpoint video is selected as the program content to be displayed, information on the set viewpoint position is stored. When the program content of an arbitrary viewpoint video is selected again as the program content to be displayed, the stored information on the viewpoint position is read out, and the arbitrary viewpoint video at the set viewpoint position is generated.
この場合、再び任意視点映像の番組コンテンツが選択されるまでの時間間隔が長いと、設定されていた視点位置の任意視点映像を生成しても、ユーザが見たいオブジェクト(被写体)が映っていないことが考えられる。このように、単純に設定された視点位置の情報を記憶しておいたとしても、必ずしもユーザが見たいオブジェクト(被写体)が映っている任意視点映像を再現することはできないという問題があった。このため、ユーザがリモコン等を操作して、希望する任意視点映像の視点位置に設定し直すという、煩わしい操作が必要となっていた。 In this case, if the time interval until the program content of the arbitrary viewpoint video is selected again is long, the object (subject) that the user wants to see is not reflected even if the arbitrary viewpoint video at the set viewpoint position is generated. It is possible. As described above, there is a problem that even if information on the set viewpoint position is simply stored, an arbitrary viewpoint video in which an object (subject) that the user wants to see cannot be reproduced. For this reason, a troublesome operation is required in which the user operates the remote controller or the like to reset the viewpoint position of the desired arbitrary viewpoint video.
そこで、本発明は、任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、適切な任意視点映像を再現し、ユーザの利便性を向上することができる放送受信装置及びその制御方法を提供することを目的とする。 Therefore, the present invention reproduces an appropriate arbitrary viewpoint video when the viewing of the program content of the arbitrary viewpoint video is resumed after temporarily stopping the viewing of the program content of the arbitrary viewpoint video. An object of the present invention is to provide a broadcast receiving apparatus and a control method thereof that can be improved.
上述した課題を解決するために、本発明に係る放送受信装置は、番組コンテンツを構成するそれぞれ視点位置の異なる複数の映像コンテンツから、任意の視点位置に対応する任意視点映像を生成することが可能な放送受信装置であって、放送信号を介して送信される複数の番組コンテンツの中から、表示対象の番組コンテンツを選択する選択手段と、前記選択手段により任意視点映像の番組コンテンツが選択された場合に、追従対象とする特定のオブジェクトを設定するための設定手段と、前記選択手段により任意視点映像の番組コンテンツが選択された場合に、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツを合成処理して、前記設定手段により設定された前記特定のオブジェクトを追従する視点の任意視点映像を生成する生成手段と、前記選択手段により任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択された場合、前記設定手段により設定された前記特定のオブジェクトに関する情報を記憶部に記憶する記憶手段とを備える。前記生成手段は、前記選択手段により前記他の番組コンテンツが選択された後に、再び前記任意視点映像の番組コンテンツが選択された場合、前記記憶部に記憶された前記特定のオブジェクトに関する情報を用いて、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツから、前記特定のオブジェクトを追従する視点の任意視点映像を生成する。 In order to solve the above-described problems, the broadcast receiving apparatus according to the present invention can generate an arbitrary viewpoint video corresponding to an arbitrary viewpoint position from a plurality of video contents each having a different viewpoint position, which constitute program content. A broadcast receiving apparatus, wherein a selection means for selecting a program content to be displayed from a plurality of program contents transmitted via a broadcast signal, and a program content of an arbitrary viewpoint video is selected by the selection means A setting unit for setting a specific object to be tracked, and a plurality of video contents constituting the program content of the arbitrary viewpoint video when the selection unit selects the program content of the arbitrary viewpoint video To generate an arbitrary viewpoint video of the viewpoint that follows the specific object set by the setting means. When a program content of an arbitrary viewpoint video is selected by the generating unit and the selecting unit, and another program content is selected, information related to the specific object set by the setting unit is stored in the storage unit Storage means. When the program content of the arbitrary viewpoint video is selected again after the other program content is selected by the selection unit, the generation unit uses information on the specific object stored in the storage unit. Then, an arbitrary viewpoint video of a viewpoint that follows the specific object is generated from a plurality of video contents constituting the program content of the arbitrary viewpoint video.
本発明によれば、任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、適切な任意視点映像を再現し、ユーザの利便性を向上することができることが可能となる。 According to the present invention, when the viewing of the program content of the arbitrary viewpoint video is resumed after temporarily stopping the viewing of the program content of the arbitrary viewpoint video, the appropriate arbitrary viewpoint video is reproduced and the convenience of the user is improved. It becomes possible to be able to improve.
(実施の形態1)
以下、図面を用いて本発明の実施の形態について説明する。
図1は、本発明の実施の形態1に係る放送受信装置100の構成を示すブロック図である。デジタル放送信号を介して、通常のデジタル放送の番組コンテンツと、任意視点映像の番組コンテンツとが提供されることを想定する。任意視点映像の番組コンテンツとして、例えば、対象物を取り囲むように配置した多数のカメラで撮影された多視点映像コンテンツ(任意視点映像生成用の多視点映像コンテンツ)が配信される。放送受信装置100は、受信した任意視点映像生成用の多視点映像コンテンツを合成処理して任意視点映像を生成する機能を有する。
(Embodiment 1)
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing a configuration of
放送受信装置100は、チューナモジュール101、TSデコーダ102、映像処理部103、映像出力部104、任意視点映像生成部105、追従オブジェクト設定部106、システム制御部107、記憶部108を備える。また、放送受信装置100は、リモコン受信部109を備え、リモコン200から赤外線等を介して送信されるリモコンコード信号を受信する。
The
チューナモジュール(チューナ部)101は、地上波デジタル放送等のデジタル放送信号を介して送信される番組コンテンツを受信し、ユーザに選択されたチャンネルに対応する周波数の信号を抽出(選局)する。また、チューナモジュール101は、抽出した信号に対し、復調処理、誤り訂正処理等を行い、トランスポートストリーム(TS)を抽出する。リモコン受信部109は、リモコン200からのリモコンコード信号を受信し、システム制御部107へ伝える。システム制御部107は、リモコン受信部109が受信したリモコンコードを解釈して放送受信装置内の各機能ブロックへ各種指示を伝える。ユーザがリモコン200を操作して所望のチャンネルを選択した場合、選択されたチャンネルの情報はチューナモジュール101へ伝えられる。
A tuner module (tuner unit) 101 receives program content transmitted via a digital broadcast signal such as terrestrial digital broadcast, and extracts (selects) a signal having a frequency corresponding to a channel selected by the user. Further, the tuner module 101 performs demodulation processing, error correction processing, and the like on the extracted signal, and extracts a transport stream (TS). The remote
TSデコーダ102は、チューナモジュール101からのトランスポートストリームを、映像信号、音声信号、データ信号(番組情報やデータ放送用データ等)等に分離(DEMUX)する。TSデコーダ102により分離された映像信号は、映像処理部103又は任意視点映像生成部105に出力され、音声信号及びデータ信号は、図示しない音声処理部及びデータ処理部に出力される。ユーザがリモコン200を操作し、表示対象の番組コンテンツとして通常のデジタル放送の番組コンテンツを選択した場合、TSデコーダ102により分離された映像信号は、映像処理部103に出力される。一方、表示対象の番組コンテンツとして任意視点映像の番組コンテンツを選択した場合、TSデコーダ102により分離された映像信号は、任意視点映像生成部105に出力される。なお、ユーザが表示対象の番組コンテンツを選択する操作としては、リモコン200のチャンネル・キーを押下してチャンネルを選局する操作や、電子番組表から視聴する番組コンテンツをカーソル・キーで選択する操作等がある。
The TS decoder 102 separates (DEMUX) the transport stream from the tuner module 101 into a video signal, an audio signal, a data signal (program information, data for data broadcasting, etc.), and the like. The video signal separated by the TS decoder 102 is output to the
映像処理部103は、TSデコーダ102からの映像信号に復号化(デコード)処理等を施して、映像出力部104に出力する。映像出力部104は、復号化された映像信号を、表示部に適した表示解像度、表示色数、リフレッシュレートに変換して、表示部に出力する。なお、表示部としては、液晶ディスプレイパネル、プラズマディスプレイパネル、有機ELディスプレイパネルなどの表示パネルが想定される。
The
ユーザがリモコン200を操作し、表示対象の番組コンテンツとして任意視点映像の番組コンテンツを選択した場合、任意視点映像生成用の多視点映像コンテンツ及びその番組情報が、TSデコーダ102から任意視点映像生成部105に与えられる。任意視点映像生成部105に与えられる番組情報は、任意視点映像の番組コンテンツであることを示す識別情報を含む。また、上記番組情報は、任意視点映像生成用の多視点映像コンテンツを構成する、それぞれ視点が異なる複数の映像コンテンツの視点情報を含む。各映像コンテンツの視点情報は、各映像コンテンツが撮影されたカメラの視点位置(x,y,zの三次元座標)と、視線方向(三次元の方向ベクトル)、視野角(水平方向及び垂直方向の視野角で定められる画角)を特定するための情報を含む。また、番組情報は、任意視点映像の番組コンテンツの制作者が指定するおすすめ視点情報(デフォルトの視点情報)も含む。 When the user operates the remote controller 200 and selects a program content of an arbitrary viewpoint video as a program content to be displayed, a multi-view video content for generating an arbitrary viewpoint video and its program information are sent from the TS decoder 102 to an arbitrary viewpoint video generation unit. 105. The program information given to the arbitrary viewpoint video generation unit 105 includes identification information indicating that the program content is an arbitrary viewpoint video. Further, the program information includes viewpoint information of a plurality of video contents having different viewpoints that constitute multi-view video contents for generating arbitrary viewpoint videos. The viewpoint information of each video content includes the viewpoint position (three-dimensional coordinates of x, y, z) of the camera in which each video content was shot, the viewing direction (three-dimensional direction vector), and the viewing angle (horizontal and vertical directions). Information for specifying the angle of view defined by the viewing angle). The program information also includes recommended viewpoint information (default viewpoint information) designated by the creator of the program content of the arbitrary viewpoint video.
任意視点映像生成部105は、TSデコーダ102からの任意視点映像生成用の多視点映像コンテンツ及びその番組情報を用いて、任意の視点位置に対応する任意視点映像を生成する。任意視点映像生成部105は、マニュアル視点モードと、自動視点追従モードを有するものとする。マニュアル視点モードでは、ユーザがリモコン200を操作して希望する視点を指定すると、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、指定された視点(視点位置、視線方向、視野角)の任意視点映像を生成する。任意視点映像生成部105により生成された任意視点映像は、映像処理部103により必要な処理が施されて、映像出力部104に出力される。
The arbitrary viewpoint video generation unit 105 generates an arbitrary viewpoint video corresponding to an arbitrary viewpoint position using the multi-view video content for generating an arbitrary viewpoint video from the TS decoder 102 and its program information. The arbitrary viewpoint video generation unit 105 has a manual viewpoint mode and an automatic viewpoint tracking mode. In the manual viewpoint mode, when the user operates the remote controller 200 to specify a desired viewpoint, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-viewpoint video content for generating arbitrary viewpoint video, and specifies the specified viewpoint. An arbitrary viewpoint video of (viewpoint position, line-of-sight direction, viewing angle) is generated. The arbitrary viewpoint video generated by the arbitrary viewpoint video generation unit 105 is subjected to necessary processing by the
自動視点追従モードでは、追従オブジェクト設定部106は、追従対象とする特定のオブジェクトを設定する。例えば、スポーツ番組等の注目するオブジェクト(被写体)が数秒ごとに移動するような映像の場合、マニュアル視点モードでは、移動する注目オブジェクトを追い掛けてユーザがリモコン200を操作するのは煩わしい。そこで、追従対象とする特定のオブジェクトを自動的に追従する自動視点追従モードを設ける。例えば、ユーザが映像を見ながら注目するオブジェクトを選択して、追従対象とする特定のオブジェクトを設定する。ただし、番組コンテンツの制作者が、追従可能なオブジェクトの情報を番組コンテンツに予め付加しておき、追従可能なオブジェクトのリストからユーザが選択することで、追従対象とする特定のオブジェクトを設定してもよい。また、ユーザが注目するオブジェクトのキーワード(選手名等)を入力することで、追従対象とする特定のオブジェクトを設定してもよい。 In the automatic viewpoint tracking mode, the tracking object setting unit 106 sets a specific object to be tracked. For example, in the case of a video in which an object of interest (subject) such as a sports program moves every few seconds, in manual viewpoint mode, it is troublesome for the user to follow the moving object of interest and operate the remote controller 200. Therefore, an automatic viewpoint tracking mode for automatically following a specific object to be tracked is provided. For example, the user selects an object of interest while watching the video, and sets a specific object to be tracked. However, the program content creator adds information on the object that can be tracked to the program content in advance, and the user selects from the list of objects that can be tracked to set a specific object to be tracked. Also good. In addition, a specific object to be followed may be set by inputting a keyword (player name or the like) of an object that the user pays attention to.
自動視点追従モードでは、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、設定された特定のオブジェクトを自動的に追従する視点(視点位置、視線方向、視野角)の任意視点映像を生成する。自動視点追従モードにおける任意視点映像の生成処理については、後で詳しく説明する。 In the automatic viewpoint tracking mode, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-viewpoint video content for generating arbitrary viewpoint videos, and automatically follows a set specific object (viewpoint position, line of sight). (Arbitrary viewpoint video of direction and viewing angle) is generated. The arbitrary viewpoint video generation processing in the automatic viewpoint tracking mode will be described in detail later.
システム制御部107は、放送受信装置内の各機能ブロックの制御を行う。システム制御部107からの各種制御コマンドは、共通バスを介して、制御対象の機能ブロックに伝達される。この共通バスは、各機能ブロック間でやりとりされる、各種データや制御コマンド(制御に関する情報)を伝達する。 The system control unit 107 controls each functional block in the broadcast receiving apparatus. Various control commands from the system control unit 107 are transmitted to the functional block to be controlled through the common bus. The common bus transmits various data and control commands (information related to control) exchanged between the functional blocks.
また、システム制御部107は、任意視点映像の番組コンテンツと他の番組コンテンツとの間で、表示対象の番組コンテンツが切り換えられたことに応じて、追従対象として設定された特定のオブジェクトに関する情報を、記憶部108に記憶する制御を行う。具体的には、追従対象として設定された特定のオブジェクトを示す情報と、自動視点追従モードに設定された番組コンテンツの識別情報(タイトル名等)とが互いに対応付けられて、記憶部108に記憶される。
In addition, the system control unit 107 displays information on a specific object set as a tracking target in response to switching of the program content to be displayed between the program content of an arbitrary viewpoint video and other program content. , Control to store in the
図2は、任意視点映像の番組コンテンツと他の番組コンテンツとの間で、表示対象の番組コンテンツが切り換えられた場合の処理について説明するためのフローチャートである。ユーザが任意視点映像の番組コンテンツを自動視点追従モードで視聴開始するものとする。 FIG. 2 is a flowchart for explaining processing when the program content to be displayed is switched between the program content of the arbitrary viewpoint video and the other program content. It is assumed that the user starts viewing the program content of an arbitrary viewpoint video in the automatic viewpoint tracking mode.
ステップS101で、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、追従オブジェクト設定部106により設定された特定のオブジェクトを自動的に追従する視点の任意視点映像を生成する。ここで、任意視点映像を生成する処理について、図3及び図4を用いて説明する。 In step S101, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-viewpoint video content for arbitrary viewpoint video generation, and automatically selects a viewpoint that automatically follows the specific object set by the tracking object setting unit 106. Arbitrary viewpoint video is generated. Here, processing for generating an arbitrary viewpoint video will be described with reference to FIGS. 3 and 4.
図3は、自動視点追従モードにおける任意視点映像の表示画面例を示す図である。視点マップ表示領域には、任意視点映像生成用の多視点映像コンテンツ(それぞれ視点が異なる複数の映像コンテンツ)を撮影したカメラC1〜C8の視点位置が表示される。また、設定された特定のオブジェクトを自動的に追従する仮想視点のカメラアイコンが描画される。ここでは、サッカー番組の任意視点映像を例示している。この視点マップ画面は、任意視点映像の番組コンテンツの番組情報として送信された、任意視点映像生成の各映像コンテンツが撮影されたカメラの視点位置、視線方向、視野角等の情報を用いて作成される。 FIG. 3 is a diagram illustrating a display screen example of an arbitrary viewpoint video in the automatic viewpoint tracking mode. In the viewpoint map display area, the viewpoint positions of the cameras C1 to C8 that have captured multi-view video content (a plurality of video content with different viewpoints) for generating an arbitrary viewpoint video are displayed. Also, a camera icon of a virtual viewpoint that automatically follows the set specific object is drawn. Here, an arbitrary viewpoint video of a soccer program is illustrated. This viewpoint map screen is created using information such as the viewpoint position, line-of-sight direction, viewing angle, etc. of the camera where each video content of the arbitrary viewpoint video generation was transmitted as program information of the program content of the arbitrary viewpoint video. The
図4は、任意視点映像生成の多視点映像コンテンツから任意視点映像を生成する処理について説明するための図である。任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツV1,V2,V3,・・・のそれぞれの視点情報を取得する。これらの視点情報は、視点位置、視線方向、視野角を特定するための情報を含む。 FIG. 4 is a diagram for explaining processing for generating an arbitrary viewpoint video from multi-view video content for generating an arbitrary viewpoint video. The arbitrary viewpoint video generation unit 105 acquires the viewpoint information of the multi-view video contents V1, V2, V3,. The viewpoint information includes information for specifying the viewpoint position, the line-of-sight direction, and the viewing angle.
また、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツV1,V2,V3,・・・のそれぞれの映像を解析して、追従オブジェクト設定部106により設定された特定のオブジェクトを検出する。例えば、追従対象とする特定のオブジェクトとして、ある特定のサッカー選手が設定された場合、その選手の活躍が最も良く見ることが可能な仮想的な視点(視点位置、視線方向、視野角)を、予め決められたアルゴリズムを用いて自動で算出(決定)する。そして、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツV1,V2,V3,・・・を合成・補間処理して、特定のサッカー選手を自動的に追従する視点(視点位置、視線方向、視野角)の任意視点映像を生成する。例えば、サッカー選手の顔を正面から捕らえるための視点位置、視線方向、視野角を、映像を解析して予め決められたアルゴリズムを用いて自動で算出(決定)する。そして、映像を解析してサッカー選手の移動を検知し、解析結果に応じて随時視点を更新することで、特定のサッカー選手を自動的に追従する視点の任意視点映像を生成する。この追従手法は、ある人物の顔を自動的に追従する従来の手法を、任意視点映像に応用したものである。合成処理の具体的な手法としては、例えば、多視点映像コンテンツV1,V2,V3,・・・の中から、特定のサッカー選手の顔を最も正面から捕らえている映像コンテンツを判定し、その映像コンテンツを中心に他の映像コンテンツを合成する。合成・補間処理の対象とする映像コンテンツの数は、例えば、特定のサッカー選手の顔を最も正面から捕らえている映像コンテンツと、その近傍の2つの映像コンテンツとを合計した3つの映像コンテンツとしてもよいし、4つ以上であってもよい。 In addition, the arbitrary viewpoint video generation unit 105 analyzes each video of the multi-view video content V1, V2, V3,... For generating arbitrary viewpoint video, and the specific object set by the following object setting unit 106. Is detected. For example, when a specific soccer player is set as a specific object to be tracked, a virtual viewpoint (viewpoint position, line-of-sight direction, viewing angle) from which the player's activity can be best viewed, It is automatically calculated (determined) using a predetermined algorithm. Then, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-viewpoint video contents V1, V2, V3,... For generating arbitrary viewpoint videos, and automatically follows a specific soccer player. Arbitrary viewpoint video (position, line-of-sight direction, viewing angle) is generated. For example, the viewpoint position, line-of-sight direction, and viewing angle for capturing the soccer player's face from the front are automatically calculated (determined) by analyzing the video and using a predetermined algorithm. Then, by analyzing the video to detect the movement of the soccer player and updating the viewpoint as needed according to the analysis result, an arbitrary viewpoint video with a viewpoint that automatically follows a specific soccer player is generated. This tracking method is an application of a conventional method of automatically tracking a person's face to an arbitrary viewpoint video. As a specific method of the composition processing, for example, the video content that captures the face of a specific soccer player from the front is determined from among the multi-view video content V1, V2, V3,. Combining other video content with the content at the center. The number of video contents to be combined / interpolated may be, for example, three video contents that are the sum of the video content that captures the face of a specific soccer player from the front and the two neighboring video contents. It may be four or more.
また、番組コンテンツにオブジェクトメタデータが付加されている場合は、オブジェクトメタデータを用いて、特定のオブジェクトを追従することもできる。また、ユーザが注目するオブジェクトのキーワードを入力する場合は、入力されたキーワードとオブジェクトメタデータとの一致度を求めることにより、特定のオブジェクトを追従することもできる。また、ある特定の人物からの視点を追従するモードであってもよく、例えばスポーツ番組の審判等の人物の視線方向を映像から自動で算出し、その審判の視点の変化にあわせて任意視点映像を生成してもよい。 In addition, when object metadata is added to the program content, a specific object can be tracked using the object metadata. In addition, when inputting a keyword of an object of interest by the user, it is possible to follow a specific object by obtaining the degree of coincidence between the input keyword and object metadata. Also, it may be a mode that follows the viewpoint from a specific person. For example, the gaze direction of a person such as a referee of a sports program is automatically calculated from the video, and an arbitrary viewpoint video according to the change of the viewpoint of the referee May be generated.
再び図2に戻って、ステップS102で、システム制御部107は、ユーザによって、表示対象の番組コンテンツとして任意視点映像以外の他の番組コンテンツが選択されたか否かを判別する。任意視点映像以外の他の番組コンテンツとは、例えば、通常のデジタル放送の番組コンテンツである。ただし、図示しない映像入力部から入力された番組コンテンツ、例えばインターネット回線を介して受信した番組コンテンツや、外部レコーダ等から入力された番組コンテンツであってもよい。その場合、映像出力部104は、映像処理部103から入力された映像信号から、外部から入力された番組コンテンツの映像信号に切り換えて、表示部に出力する。
Returning to FIG. 2 again, in step S102, the system control unit 107 determines whether or not program content other than the arbitrary viewpoint video has been selected by the user as the program content to be displayed. The program content other than the arbitrary viewpoint video is, for example, normal digital broadcast program content. However, it may be program content input from a video input unit (not shown), for example, program content received via the Internet line, or program content input from an external recorder or the like. In that case, the video output unit 104 switches from the video signal input from the
そして、表示対象の番組コンテンツとして任意視点映像以外の他の番組コンテンツが選択されたと判別された場合、ステップS102からステップS103に進む。ステップS103で、システム制御部107は、任意視点映像の番組コンテンツにおいて追従対象として設定された特定のオブジェクトに関する情報を、記憶部108に記憶する制御を行う。具体的には、追従対象として設定された特定のオブジェクトを示す情報と、自動視点追従モードに設定された番組コンテンツの識別情報(タイトル名等)とが互いに対応付けられて、記憶部108に記憶される。
When it is determined that other program content other than the arbitrary viewpoint video is selected as the program content to be displayed, the process proceeds from step S102 to step S103. In step S <b> 103, the system control unit 107 performs control to store, in the
次に、ステップS104で、表示対象の番組コンテンツとして選択された、任意視点映像以外の他の番組コンテンツの映像信号が、TSデコーダ102により分離され、映像処理部103に出力される。そして、他の番組コンテンツの映像信号は、映像処理部103及び映像出力部104によって必要な処理が施され、表示部に表示される。
Next, in step S <b> 104, the video signal of the program content other than the arbitrary viewpoint video selected as the program content to be displayed is separated by the TS decoder 102 and output to the
ステップS105で、システム制御部107は、ユーザによって、表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択されたか否かを判別する。そして、表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択されたと判別された場合、ステップS105からステップS106に進む。なお、ユーザがリモコン200のチャンネル・キーを操作して、再び元のチャンネルを選局した場合に、任意視点映像の番組コンテンツが終了していた場合は、ステップS105からステップS106には進まない。 In step S <b> 105, the system control unit 107 determines whether or not a program content of an arbitrary viewpoint video is selected again as a display target program content by the user. If it is determined that the program content of the arbitrary viewpoint video is selected again as the program content to be displayed, the process proceeds from step S105 to step S106. If the user operates the channel key of the remote controller 200 to select the original channel again and the program content of the arbitrary viewpoint video has been completed, the process does not proceed from step S105 to step S106.
ステップS106で、システム制御部107は、任意視点映像の番組コンテンツにおいて追従対象として設定された特定のオブジェクトに関する情報を記憶部108から読み出して、任意視点映像生成部105に渡す。続いて、ステップS107で、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツのそれぞれの映像を解析して、設定された特定のオブジェクトを検出する処理を行い、ステップS108に進む。
In step S <b> 106, the system control unit 107 reads information about a specific object set as a tracking target in the program content of the arbitrary viewpoint video from the
任意視点映像生成用の多視点映像コンテンツから、設定された特定のオブジェクトが検出された場合は、ステップS108からステップS109に進む。ステップS109で、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、設定された特定のオブジェクトを自動的に追従する視点(視点位置、視線方向、視野角)の任意視点映像を生成する。生成された任意視点映像は、映像処理部103及び映像出力部104によって必要な処理が施され、表示部に表示される。
If the set specific object is detected from the multi-view video content for generating arbitrary viewpoint video, the process proceeds from step S108 to step S109. In step S109, the arbitrary viewpoint video generation unit 105 synthesizes / interpolates multi-viewpoint video content for generating arbitrary viewpoint video, and automatically follows a set specific object (viewpoint position, line-of-sight direction, (Viewing angle) arbitrary viewpoint video is generated. The generated arbitrary viewpoint video is subjected to necessary processing by the
一方、任意視点映像生成用の多視点映像コンテンツから、設定された特定のオブジェクトが検出されなかった場合は、ステップS108からステップS110に進む。ステップS110で、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、予め決められたデフォルトの視点の任意視点映像を生成する。具体的には、TSデコーダ102から取得した番組情報に含まれる、任意視点映像の番組コンテンツの制作者が指定するおすすめ視点情報(デフォルトの視点情報)を用いて、予め決められたデフォルトの視点の任意視点映像を生成する。 On the other hand, when the set specific object is not detected from the multi-view video content for generating arbitrary viewpoint video, the process proceeds from step S108 to step S110. In step S110, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-view video content for generating arbitrary viewpoint video, and generates an arbitrary viewpoint video of a predetermined default viewpoint. Specifically, using the recommended viewpoint information (default viewpoint information) specified by the producer of the program content of the arbitrary viewpoint video included in the program information acquired from the TS decoder 102, a predetermined default viewpoint is selected. Arbitrary viewpoint video is generated.
以上のように、この実施の形態1では、任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、適切な任意視点映像を再現し、ユーザの利便性を向上することができる。例えば、表示対象の番組コンテンツとして任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択され、再び任意視点映像の番組コンテンツが選択された場合に、適切な任意視点映像を再現することができる。特に、ユーザが任意視点映像の番組コンテンツを自動視点追従モードで視聴する場合において、設定されていた特定のオブジェクトを自動的に追従する視点(視点位置、視線方向、視野角)の任意視点映像を再現することができる。したがって、任意視点映像の番組コンテンツの視聴を再開する際に、ユーザが希望する任意視点映像の視点位置に設定し直すという、煩わしい操作が不要となる。 As described above, in the first embodiment, after the viewing of the program content of the arbitrary viewpoint video is temporarily interrupted, the appropriate arbitrary viewpoint video is reproduced when the viewing of the program content of the arbitrary viewpoint video is resumed. User convenience can be improved. For example, when an arbitrary viewpoint video program content is selected as a display target program content, another program content is selected, and an arbitrary viewpoint video program content is selected again, and an appropriate arbitrary viewpoint video is reproduced. be able to. In particular, when a user views program content of an arbitrary viewpoint video in the automatic viewpoint tracking mode, an arbitrary viewpoint video of a viewpoint (viewpoint position, line-of-sight direction, viewing angle) that automatically follows a set specific object is displayed. Can be reproduced. Therefore, when resuming viewing of the program content of the arbitrary viewpoint video, a troublesome operation of resetting the viewpoint position of the arbitrary viewpoint video desired by the user becomes unnecessary.
(実施の形態2)
実施の形態1では、放送受信装置にチューナモジュールを1つしか設けていないため、表示対象の番組コンテンツとして任意視点映像以外の番組コンテンツが選択されると、任意視点映像の生成処理が停止される。このため、表示対象の番組コンテンツとして任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択されると、任意視点映像の生成が中断される。そして、再び任意視点映像の番組コンテンツが選択されたら、任意視点映像の生成処理が再開される。この場合、システム処理能力が十分に高くないと、任意視点映像の生成に時間が掛かることが想定される。つまり、任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、即座に任意視点映像を表示することができなケースが考えられる。
(Embodiment 2)
In the first embodiment, since only one tuner module is provided in the broadcast receiving apparatus, the generation processing of the arbitrary viewpoint video is stopped when program content other than the arbitrary viewpoint video is selected as the program content to be displayed. . For this reason, generation of an arbitrary viewpoint video is interrupted when another program content is selected after the program content of an arbitrary viewpoint video is selected as the program content to be displayed. When the program content of the arbitrary viewpoint video is selected again, the generation processing of the arbitrary viewpoint video is resumed. In this case, if the system processing capability is not sufficiently high, it is assumed that it takes time to generate an arbitrary viewpoint video. That is, there may be a case where the arbitrary viewpoint video cannot be displayed immediately when the viewing of the program content of the arbitrary viewpoint video is resumed after temporarily stopping the viewing of the program content of the arbitrary viewpoint video.
そこで、この実施の形態2では、任意視点映像の番組コンテンツの視聴を再開する際に、即座に任意視点映像を表示できるようにするため、放送受信装置にチューナモジュールを2つ設ける構成とする。 Therefore, in the second embodiment, two tuner modules are provided in the broadcast receiving apparatus so that the arbitrary viewpoint video can be displayed immediately when the viewing of the program content of the arbitrary viewpoint video is resumed.
図5は、本発明の実施の形態2に係る放送受信装置300の構成を示すブロック図である。図5の放送受信装置300を参照して、図1の放送受信装置100と異なる点は、チューナモジュール301、TSデコーダ302、映像処理部303が追加されている点、映像出力部104が映像出力部(セレクタ)304に置換されている点、記憶部108が削除されている点である。なお、図5において、図1と同一の構成ついては同一の符号を付し、その詳細な説明は繰り返さない。
FIG. 5 is a block diagram showing a configuration of broadcast receiving apparatus 300 according to Embodiment 2 of the present invention. Referring to the broadcast receiving apparatus 300 in FIG. 5, the difference from the
チューナモジュール301は、地上波デジタル放送等のデジタル放送信号を介して送信される番組コンテンツを受信し、ユーザに選択されたチャンネルに対応する周波数の信号を抽出(選局)する。また、チューナモジュール301は、抽出した信号に対し、復調処理、誤り訂正処理等を行い、トランスポートストリーム(TS)を抽出する。ユーザがリモコン200を操作して所望のチャンネルを選択した場合、選択されたチャンネルの情報はシステム制御部107からチューナモジュール301へ伝えられる。 The tuner module 301 receives program content transmitted via a digital broadcast signal such as terrestrial digital broadcast, and extracts (selects) a signal having a frequency corresponding to the channel selected by the user. In addition, the tuner module 301 performs demodulation processing, error correction processing, and the like on the extracted signal, and extracts a transport stream (TS). When the user operates the remote controller 200 to select a desired channel, information on the selected channel is transmitted from the system control unit 107 to the tuner module 301.
なお、この実施の形態2では、チューナモジュール(第2のチューナ部)101は、任意視点映像以外の通常のデジタル放送の番組コンテンツを受信し、チューナモジュール(第1のチューナ部)301は、任意視点映像の番組コンテンツを受信するものとする。 In the second embodiment, the tuner module (second tuner unit) 101 receives normal digital broadcast program content other than the arbitrary viewpoint video, and the tuner module (first tuner unit) 301 is optional. It is assumed that the program content of the viewpoint video is received.
TSデコーダ302は、チューナモジュール301からのトランスポートストリームを、映像信号、音声信号、データ信号(番組情報やデータ放送用データ等)等に分離(DEMUX)する。TSデコーダ302により分離された映像信号及び番組情報は、任意視点映像生成部105に出力される。具体的には、任意視点映像生成用の多視点映像コンテンツ及びその番組情報が、TSデコーダ102から任意視点映像生成部105に与えられる。番組情報は、実施の形態1で説明したとおり、任意視点映像の番組コンテンツであることを示す識別情報、任意視点映像生成用の多視点映像コンテンツの視点情報を含む。各映像コンテンツの視点情報は、各映像コンテンツが撮影されたカメラの視点位置(x,y,zの三次元座標)と、視線方向(三次元の方向ベクトル)、視野角(水平方向及び垂直方向の視野角で定められる画角)を特定するための情報を含む。また、番組情報は、任意視点映像の番組コンテンツの制作者が指定するおすすめ視点情報(デフォルトの視点情報)も含む。 The TS decoder 302 separates (DEMUX) the transport stream from the tuner module 301 into a video signal, an audio signal, a data signal (program information, data for data broadcasting, etc.), and the like. The video signal and program information separated by the TS decoder 302 are output to the arbitrary viewpoint video generation unit 105. Specifically, multi-view video content for generating an arbitrary viewpoint video and its program information are provided from the TS decoder 102 to the arbitrary viewpoint video generation unit 105. As described in the first embodiment, the program information includes identification information indicating that the program content is an arbitrary viewpoint video and viewpoint information of multi-view video content for generating an arbitrary viewpoint video. The viewpoint information of each video content includes the viewpoint position (three-dimensional coordinates of x, y, z) of the camera in which each video content was shot, the viewing direction (three-dimensional direction vector), and the viewing angle (horizontal and vertical directions). Information for specifying the angle of view defined by the viewing angle). The program information also includes recommended viewpoint information (default viewpoint information) designated by the creator of the program content of the arbitrary viewpoint video.
任意視点映像生成部105は、TSデコーダ102からの任意視点映像生成用の多視点映像コンテンツ及びその番組情報を用いて、任意の視点位置に対応する任意視点映像を生成する。任意視点映像生成部105は、マニュアル視点モードと、自動視点追従モードを有する。任意視点映像生成部105により生成された任意視点映像は、映像処理部303に出力される。映像処理部103は、任意視点映像生成部105により生成された任意視点映像に必要な処理を施して、映像出力部304に出力する。
The arbitrary viewpoint video generation unit 105 generates an arbitrary viewpoint video corresponding to an arbitrary viewpoint position using the multi-view video content for generating an arbitrary viewpoint video from the TS decoder 102 and its program information. The arbitrary viewpoint video generation unit 105 has a manual viewpoint mode and an automatic viewpoint tracking mode. The arbitrary viewpoint video generated by the arbitrary viewpoint video generation unit 105 is output to the video processing unit 303. The
映像出力部304は、映像処理部103により復号化された映像信号、又は映像処理部303により各種処理が施された信号を、表示部に適した表示解像度、表示色数、リフレッシュレートに変換して、表示部に出力する。ユーザがリモコン200を操作し、表示対象の番組コンテンツとして任意視点映像以外の通常のデジタル放送の番組コンテンツを選択した場合、映像出力部304は、映像処理部103からの映像信号を選択して表示部に出力する。つまり、チューナモジュール101で受信された通常のデジタル放送の番組コンテンツの映像信号が表示部に出力される。一方、ユーザがリモコン200を操作し、表示対象の番組コンテンツとして任意視点映像の番組コンテンツを選択した場合、映像出力部304は、映像処理部303からの映像信号を選択して表示部に出力する。つまり、チューナモジュール301で受信された任意視点映像の番組コンテンツの映像信号が表示部に出力される。このように、映像出力部304は、ユーザに選択された番組コンテンツが任意視点映像の番組コンテンツであるか、任意視点映像以外の番組コンテンツであるかに応じて、表示部に出力する映像信号を切り換える機能を有する。なお、ユーザがリモコン200を操作して所望の番組コンテンツを選択したことに応じて、システム制御部107が、映像出力部304の切り換え制御を指示する。
The video output unit 304 converts the video signal decoded by the
図6は、任意視点映像の番組コンテンツと他の番組コンテンツとの間で、表示対象の番組コンテンツが切り換えられた場合の処理について説明するためのフローチャートである。図6のステップS201,S202,S205の動作は、図2のステップS101,S102,S105の動作と同様であるため、それらの詳細な説明は繰り返さない。 FIG. 6 is a flowchart for explaining processing when the program content to be displayed is switched between program content of an arbitrary viewpoint video and other program content. The operations in steps S201, S202, and S205 in FIG. 6 are the same as the operations in steps S101, S102, and S105 in FIG. 2, and thus detailed description thereof will not be repeated.
ステップS201で、任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、追従オブジェクト設定部106により設定された特定のオブジェクトを自動的に追従する視点の任意視点映像を生成する。任意視点映像生成部105で生成された任意視点映像は、映像処理部303で必要な処理が施されて、映像出力部304に出力される。映像出力部304は、映像処理部303からの映像信号を選択して表示部に出力する。このとき、チューナモジュール301で受信された任意視点映像の番組コンテンツの映像信号が表示部に出力される。 In step S <b> 201, the arbitrary viewpoint video generation unit 105 synthesizes and interpolates multi-viewpoint video content for arbitrary viewpoint video generation, and automatically selects a viewpoint that automatically follows the specific object set by the tracking object setting unit 106. Arbitrary viewpoint video is generated. The arbitrary viewpoint video generated by the arbitrary viewpoint video generation unit 105 is subjected to necessary processing by the video processing unit 303 and is output to the video output unit 304. The video output unit 304 selects the video signal from the video processing unit 303 and outputs it to the display unit. At this time, the video signal of the program content of the arbitrary viewpoint video received by the tuner module 301 is output to the display unit.
ステップS202で、システム制御部107は、ユーザによって、表示対象の番組コンテンツとして任意視点映像以外の他の番組コンテンツが選択されたか否かを判別する。そして、表示対象の番組コンテンツとして任意視点映像以外の他の番組コンテンツ(通常のデジタル放送の番組コンテンツ)が選択されたと判別された場合、ステップS202からステップS203に進む。システム制御部107は、リモコン受信部109が受信したリモコンコードを解釈することにより、ユーザがリモコン200を操作して選択した表示対象の番組コンテンツを判別する。表示対象の番組コンテンツとして任意視点映像の番組コンテンツが選択されたか、任意視点映像以外の他の番組コンテンツが選択されたかは、番組コンテンツの番組情報(識別情報)から判別できる。
In step S202, the system control unit 107 determines whether a program content other than the arbitrary viewpoint video has been selected by the user as the display target program content. If it is determined that other program content other than the arbitrary viewpoint video (normal digital broadcast program content) is selected as the program content to be displayed, the process proceeds from step S202 to step S203. The system control unit 107 interprets the remote control code received by the remote
ステップS203で、システム制御部107は、チューナモジュール101で、任意視点映像以外の他の番組コンテンツ(通常のデジタル放送の番組コンテンツ)を受信するように選局制御を行う。また、チューナモジュール301が、任意視点映像の番組コンテンツの受信を継続するように制御し、任意視点映像生成部105が自動視点追従モードで任意視点映像を生成する処理を継続するように制御する。任意視点映像生成部105は、任意視点映像生成用の多視点映像コンテンツのそれぞれの映像を解析して、設定された特定のオブジェクトを検出する処理を継続する。そして、任意視点映像生成用の多視点映像コンテンツを合成・補間処理して、追従オブジェクト設定部106により設定された特定のオブジェクトを自動的に追従する視点の任意視点映像を生成する処理を継続する。 In step S203, the system control unit 107 performs channel selection control so that the tuner module 101 receives program content other than the arbitrary viewpoint video (normal digital broadcast program content). Further, the tuner module 301 controls to continue receiving the program content of the arbitrary viewpoint video, and controls the arbitrary viewpoint video generation unit 105 to continue the process of generating the arbitrary viewpoint video in the automatic viewpoint tracking mode. The arbitrary viewpoint video generation unit 105 analyzes each video of the multi-view video content for generating the arbitrary viewpoint video, and continues the process of detecting the set specific object. Then, the multi-viewpoint video content for generating arbitrary viewpoint video is synthesized and interpolated, and the process of generating the arbitrary viewpoint video of the viewpoint that automatically follows the specific object set by the tracking object setting unit 106 is continued. .
次に、ステップS204で、システム制御部107が、映像出力部304に切り換え制御を指示すると、映像出力部304は、映像処理部103からの通常のデジタル放送の番組コンテンツの映像信号を選択して表示部に出力する。
In step S <b> 204, when the system control unit 107 instructs the video output unit 304 to perform switching control, the video output unit 304 selects the video signal of the normal digital broadcast program content from the
次に、ステップS205で、システム制御部107は、ユーザによって、表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択されたか否かを判別する。そして、表示対象の番組コンテンツとして再び任意視点映像の番組コンテンツが選択されたと判別された場合、ステップS205からステップS206に進む。なお、ユーザがリモコン200のチャンネル・キーを操作して、再び元のチャンネルを選局した場合に、任意視点映像の番組コンテンツが終了していた場合は、ステップS205からステップS206には進まない。 Next, in step S205, the system control unit 107 determines whether or not the program content of the arbitrary viewpoint video is selected again as the program content to be displayed by the user. If it is determined that the program content of the arbitrary viewpoint video is selected again as the program content to be displayed, the process proceeds from step S205 to step S206. Note that when the user operates the channel key of the remote controller 200 to select the original channel again and the program content of the arbitrary viewpoint video has ended, the process does not proceed from step S205 to step S206.
ステップS206で、システム制御部107が、映像出力部304に切り換え制御を指示すると、映像出力部304は、映像処理部303からの任意視点映像の番組コンテンツの映像信号を選択して表示部に出力する。このとき、チューナモジュール301で受信された任意視点映像の番組コンテンツの映像信号が表示部に出力される。 In step S206, when the system control unit 107 instructs the video output unit 304 to perform switching control, the video output unit 304 selects a video signal of an arbitrary viewpoint video program content from the video processing unit 303 and outputs it to the display unit. To do. At this time, the video signal of the program content of the arbitrary viewpoint video received by the tuner module 301 is output to the display unit.
以上のように、この実施の形態2では、放送受信装置にチューナモジュールを2つ設ける構成とした。これにより、任意視点映像の番組コンテンツの視聴を一時的に中断した後、任意視点映像の番組コンテンツの視聴を再開する際に、即座に任意視点映像を表示できるようになる。 As described above, in the second embodiment, the broadcast receiving apparatus is provided with two tuner modules. As a result, after the viewing of the program content of the arbitrary viewpoint video is temporarily interrupted, the arbitrary viewpoint video can be immediately displayed when the viewing of the program content of the arbitrary viewpoint video is resumed.
100 放送受信装置
101 チューナモジュール
102 TSデコーダ
103 映像処理部
104 映像出力部
105 任意視点映像生成部
106 追従オブジェクト設定部
107 システム制御部
108 記憶部
109 リモコン受信
DESCRIPTION OF
Claims (5)
放送信号を介して送信される複数の番組コンテンツの中から、表示対象の番組コンテンツを選択する選択手段と、
前記選択手段により任意視点映像の番組コンテンツが選択された場合に、追従対象とする特定のオブジェクトを設定するための設定手段と、
前記選択手段により任意視点映像の番組コンテンツが選択された場合に、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツを合成処理して、前記設定手段により設定された前記特定のオブジェクトを追従する視点の任意視点映像を生成する生成手段と、
前記選択手段により任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択された場合、前記設定手段により設定された前記特定のオブジェクトに関する情報を記憶部に記憶する記憶手段とを備え、
前記生成手段は、前記選択手段により前記他の番組コンテンツが選択された後に、再び前記任意視点映像の番組コンテンツが選択された場合、前記記憶部に記憶された前記特定のオブジェクトに関する情報を用いて、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツから、前記特定のオブジェクトを追従する視点の任意視点映像を生成することを特徴とする放送受信装置。 A broadcast receiving apparatus capable of generating an arbitrary viewpoint video corresponding to an arbitrary viewpoint position from a plurality of video contents having different viewpoint positions constituting program content,
A selection means for selecting program content to be displayed from among a plurality of program contents transmitted via a broadcast signal;
Setting means for setting a specific object to be followed when program content of an arbitrary viewpoint video is selected by the selection means;
When program content of an arbitrary viewpoint video is selected by the selection means, a plurality of video contents constituting the program content of the arbitrary viewpoint video are synthesized and the specific object set by the setting means is followed. Generating means for generating an arbitrary viewpoint video of the viewpoint to be performed;
Storage means for storing, in a storage unit, information on the specific object set by the setting means when another program content is selected after the program content of an arbitrary viewpoint video is selected by the selection means. ,
When the program content of the arbitrary viewpoint video is selected again after the other program content is selected by the selection unit, the generation unit uses information on the specific object stored in the storage unit. A broadcast receiving apparatus that generates an arbitrary viewpoint video of a viewpoint that follows the specific object from a plurality of video contents constituting the program content of the arbitrary viewpoint video.
前記他の番組コンテンツを受信する第2のチューナ部と、
前記選択手段により任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択された場合に、前記第1のチューナ部が、前記任意視点映像の番組コンテンツの受信を継続するように制御し、かつ前記生成手段が、前記第1のチューナ部により受信される前記複数の映像コンテンツを合成処理して、前記特定のオブジェクトを追従する視点の任意視点映像を生成する処理を継続するように制御することを特徴とする請求項1から請求項3までのいずれか1項に記載の放送受信装置。 A first tuner unit for receiving the program content of the arbitrary viewpoint video;
A second tuner unit for receiving the other program content;
Control is performed so that the first tuner unit continues to receive the program content of the arbitrary viewpoint video when another program content is selected after the selection means selects the program content of the arbitrary viewpoint video. And the generation means continues the process of synthesizing the plurality of video contents received by the first tuner unit to generate an arbitrary viewpoint video of a viewpoint that follows the specific object. The broadcast receiving apparatus according to any one of claims 1 to 3, wherein the broadcast receiving apparatus is controlled.
放送信号を介して送信される複数の番組コンテンツの中から、表示対象の番組コンテンツを選択する選択ステップと、
前記選択ステップで任意視点映像の番組コンテンツが選択された場合に、追従対象とする特定のオブジェクトを設定するための設定ステップと、
前記選択ステップで任意視点映像の番組コンテンツが選択された場合に、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツを合成処理して、前記設定手段により設定された前記特定のオブジェクトを追従する視点の任意視点映像を生成する生成ステップと、
前記選択ステップで任意視点映像の番組コンテンツが選択された後に、他の番組コンテンツが選択された場合、前記設定手段により設定された前記特定のオブジェクトに関する情報を記憶部に記憶する記憶ステップとを備え、
前記生成ステップは、前記選択ステップで前記他の番組コンテンツが選択された後に、再び前記任意視点映像の番組コンテンツが選択された場合、前記記憶部に記憶された前記特定のオブジェクトに関する情報を用いて、前記任意視点映像の番組コンテンツを構成する複数の映像コンテンツから、前記特定のオブジェクトを追従する視点の任意視点映像を生成することを特徴とする放送受信装置の制御方法。 A control method of a broadcast receiving apparatus capable of generating an arbitrary viewpoint video corresponding to an arbitrary viewpoint position from a plurality of video contents each having a different viewpoint position constituting program content,
A selection step of selecting program content to be displayed from among a plurality of program content transmitted via a broadcast signal;
A setting step for setting a specific object to be followed when program content of an arbitrary viewpoint video is selected in the selection step;
When a program content of an arbitrary viewpoint video is selected in the selection step, a plurality of video contents constituting the program content of the arbitrary viewpoint video are combined to follow the specific object set by the setting means Generating an arbitrary viewpoint video of the viewpoint to be performed;
A storage step of storing, in a storage unit, information related to the specific object set by the setting unit when another program content is selected after the program content of an arbitrary viewpoint video is selected in the selection step. ,
In the generation step, when the program content of the arbitrary viewpoint video is selected again after the other program content is selected in the selection step, the information regarding the specific object stored in the storage unit is used. A control method for a broadcast receiving apparatus, wherein an arbitrary viewpoint video of a viewpoint that follows the specific object is generated from a plurality of video contents constituting the program content of the arbitrary viewpoint video.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009288811A JP5500972B2 (en) | 2009-12-21 | 2009-12-21 | Broadcast receiving apparatus and control method thereof |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009288811A JP5500972B2 (en) | 2009-12-21 | 2009-12-21 | Broadcast receiving apparatus and control method thereof |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2011130323A true JP2011130323A (en) | 2011-06-30 |
| JP5500972B2 JP5500972B2 (en) | 2014-05-21 |
Family
ID=44292381
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2009288811A Active JP5500972B2 (en) | 2009-12-21 | 2009-12-21 | Broadcast receiving apparatus and control method thereof |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5500972B2 (en) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014162852A1 (en) * | 2013-04-04 | 2014-10-09 | ソニー株式会社 | Image processing device, image processing method and program |
| JP2017102686A (en) * | 2015-12-01 | 2017-06-08 | 日本電信電話株式会社 | Information acquisition apparatus, information acquisition method, and information acquisition program |
| JP2020515091A (en) * | 2016-12-13 | 2020-05-21 | キヤノン株式会社 | Method, system and apparatus for configuring a virtual camera |
| JP2021068989A (en) * | 2019-10-21 | 2021-04-30 | 株式会社Jvcケンウッド | Information processing system, information processing method, and program |
| JP2023087027A (en) * | 2018-07-04 | 2023-06-22 | キヤノン株式会社 | Information processing device, information processing method and program |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006310936A (en) * | 2005-04-26 | 2006-11-09 | Sharp Corp | Arbitrary viewpoint video generation system |
| WO2007094236A1 (en) * | 2006-02-13 | 2007-08-23 | Matsushita Electric Industrial Co., Ltd. | Display data generation device |
| JP2009032342A (en) * | 2007-07-27 | 2009-02-12 | Toshiba Corp | Information storage medium, information reproducing apparatus, and information reproducing method |
| JP2009171294A (en) * | 2008-01-17 | 2009-07-30 | Hitachi Ltd | Video distribution system, video relay device, and video relay method |
-
2009
- 2009-12-21 JP JP2009288811A patent/JP5500972B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006310936A (en) * | 2005-04-26 | 2006-11-09 | Sharp Corp | Arbitrary viewpoint video generation system |
| WO2007094236A1 (en) * | 2006-02-13 | 2007-08-23 | Matsushita Electric Industrial Co., Ltd. | Display data generation device |
| JP2009032342A (en) * | 2007-07-27 | 2009-02-12 | Toshiba Corp | Information storage medium, information reproducing apparatus, and information reproducing method |
| JP2009171294A (en) * | 2008-01-17 | 2009-07-30 | Hitachi Ltd | Video distribution system, video relay device, and video relay method |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014162852A1 (en) * | 2013-04-04 | 2014-10-09 | ソニー株式会社 | Image processing device, image processing method and program |
| CN104104862A (en) * | 2013-04-04 | 2014-10-15 | 索尼公司 | Image processing device and image processing method |
| JPWO2014162852A1 (en) * | 2013-04-04 | 2017-02-16 | ソニー株式会社 | Image processing apparatus, image processing method, and program |
| US9823739B2 (en) | 2013-04-04 | 2017-11-21 | Sony Corporation | Image processing device, image processing method, and program |
| JP2017102686A (en) * | 2015-12-01 | 2017-06-08 | 日本電信電話株式会社 | Information acquisition apparatus, information acquisition method, and information acquisition program |
| JP2020515091A (en) * | 2016-12-13 | 2020-05-21 | キヤノン株式会社 | Method, system and apparatus for configuring a virtual camera |
| JP2023087027A (en) * | 2018-07-04 | 2023-06-22 | キヤノン株式会社 | Information processing device, information processing method and program |
| JP7566973B2 (en) | 2018-07-04 | 2024-10-15 | キヤノン株式会社 | Information processing device, information processing method, and program |
| US12148100B2 (en) | 2018-07-04 | 2024-11-19 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, and storage medium for generating a virtual viewpoint image |
| JP2021068989A (en) * | 2019-10-21 | 2021-04-30 | 株式会社Jvcケンウッド | Information processing system, information processing method, and program |
| JP7423974B2 (en) | 2019-10-21 | 2024-01-30 | 株式会社Jvcケンウッド | Information processing system, information processing method and program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP5500972B2 (en) | 2014-05-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11134294B2 (en) | Image display apparatus and mobile terminal | |
| US8681277B2 (en) | Image display apparatus, server, and methods for operating the same | |
| US11449297B2 (en) | Image display apparatus | |
| JP5517598B2 (en) | Video playback apparatus and control method thereof | |
| US20090067723A1 (en) | Video image processing apparatus and video image processing method | |
| US10631039B2 (en) | Image display device | |
| US20200053395A1 (en) | Video distribution system, user terminal device, and video distribution method | |
| EP3438935A1 (en) | Information processing device, information processing method, program | |
| JP5500972B2 (en) | Broadcast receiving apparatus and control method thereof | |
| JP5599063B2 (en) | Display control apparatus, display control method, and program | |
| JP2008203756A (en) | Video signal processing device, video display device, and video signal processing method | |
| KR101107366B1 (en) | Video screen matching for return from virtual rendering on consumer digital video recording devices | |
| KR102187745B1 (en) | Image providing apparatus, and method for operating the same | |
| JP2010161493A (en) | Image display device and image display method | |
| KR102056166B1 (en) | Image display apparatus, server and method for operating the same | |
| US20170308509A1 (en) | Image display device | |
| JP2012004991A (en) | Broadcast receiving apparatus and control method for the same | |
| JP5349981B2 (en) | Display control apparatus and display control method | |
| KR101694166B1 (en) | Augmented Remote Controller and Method of Operating the Same | |
| US12231735B2 (en) | Image display apparatus | |
| US12184924B2 (en) | Image display apparatus | |
| KR20230116662A (en) | Image display apparatus | |
| KR20140094133A (en) | Image display apparatus, server and method for operating the same | |
| KR20140047427A (en) | Image display apparatus and method for operating the same | |
| JP2007174192A (en) | Content distribution apparatus, display device, content distribution method, display method, program, and recording medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121221 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130814 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130820 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131021 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131112 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140114 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140212 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140311 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5500972 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |