JP6680579B2 - Information support system for the show - Google Patents
Information support system for the show Download PDFInfo
- Publication number
- JP6680579B2 JP6680579B2 JP2016049555A JP2016049555A JP6680579B2 JP 6680579 B2 JP6680579 B2 JP 6680579B2 JP 2016049555 A JP2016049555 A JP 2016049555A JP 2016049555 A JP2016049555 A JP 2016049555A JP 6680579 B2 JP6680579 B2 JP 6680579B2
- Authority
- JP
- Japan
- Prior art keywords
- identifier
- area
- start sound
- sound
- transmitting device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Circuit For Audible Band Transducer (AREA)
Description
この発明は、ショーなどにおいて情報支援を行うためのシステムに関するものである。 The present invention relates to a system for providing information support in a show or the like.
テーマパークや舞台などで行われるショーにおいて、出演者の台詞を観客が理解できない場合がある。たとえば、観客の耳が不自由であり台詞自体が聞こえない場合や、台詞は聞こえるが台詞が観客の母国語ではないため理解できない場合などである。 At a show held at a theme park or stage, the audience may not understand the dialogue of the performer. For example, the audience may be deaf and unable to hear the dialogue itself, or the dialogue may be heard but not understood because the dialogue is not in the audience's native language.
このような問題に対処するため、観客の座席に備え付けた表示装置に対して字幕を表示するシステムが提案されている(特許文献1)。このシステムでは、字幕情報送信装置から、各座席の表示装置に対して、台詞を文字情報にして送信し、表示するようにしている。 In order to deal with such a problem, a system has been proposed in which subtitles are displayed on a display device installed in the seat of a spectator (Patent Document 1). In this system, the caption information transmitting device transmits the dialogue as character information to the display device of each seat for display.
このシステムによれば、耳が不自由な観客に対しては文字情報にて台詞を表示することができ、外国人の観客に対しては翻訳文字情報にて台詞を表示することができる。 According to this system, a dialogue can be displayed in text information to a deaf audience, and a dialogue can be displayed in translated text information to a foreign audience.
しかしながら、上記従来技術では、字幕情報送信装置を設け、各表示装置に字幕の文字情報を受信するための受信装置を設ける必要があった。また、ショーの進行に台詞文字の表示タイミングが合致するように、操作者が台詞を送信するタイミングを操作する必要があった。 However, in the above-mentioned conventional technique, it is necessary to provide a subtitle information transmitting device and to provide each display device with a receiving device for receiving the subtitle character information. Further, it is necessary for the operator to operate the timing of transmitting the dialogue so that the display timing of the dialogue characters coincides with the progress of the show.
また、このような問題は、台詞の文字情報を表示する場合だけでなく、ショー進行に伴う補助的な文字情報を表示する場合にも生じていた。 Further, such a problem occurs not only when displaying the character information of the dialogue, but also when displaying the auxiliary character information associated with the progress of the show.
この発明は、上記のような問題点を解決して、文字情報を送信するための装置を設ける必要がないショーのための情報支援システムを提供することを目的とする。 It is an object of the present invention to solve the above problems and provide an information support system for a show that does not require a device for transmitting character information.
この発明の独立して適用可能ないくつかの特徴を列挙する。 Some independently applicable features of the invention are listed.
(1)(2)(3)この発明に係る情報支援システムは、所定のエリアに設置され識別子を有する識別子送信装置と、当該エリアに設置されたスピーカに信号を出力する信号出力装置と、ユーザが有している携帯端末装置とを備えた情報支援システムであって、前記信号出力装置は、当該エリアにおいて提供されるショーの開始に対応付けられた開始音信号とショーの進行にしたがう音声信号とを少なくとも含む信号を前記スピーカに対して出力するよう構成され、
前記携帯端末装置は、前記識別子送信装置の識別子に対応付けて、当該識別子送信装置が設置されているエリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、近傍の識別子送信装置から受信した信号の強度に基づいて、前記携帯端末装置を持つユーザが、いずれのエリアに設置された識別子送信装置の近くにいるかを特定するとともに、当該識別子送信装置の識別子を取得するエリア特定手段と、マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、開始音検出手段によって開始音が検出されると、前記取得した識別子送信装置の識別子に対応付けて記録部に記録されている文字テキストを含む支援情報をディスプレイに表示させる表示制御手段とを備えている。
(1) (2) (3) The information support system according to the present invention is an identifier transmitting device that is installed in a predetermined area and has an identifier, a signal output device that outputs a signal to a speaker installed in the area, and a user. In the information support system including a mobile terminal device, the signal output device includes a start sound signal associated with the start of a show provided in the area and a sound signal according to the progress of the show. Is configured to output a signal including at least to the speaker,
The portable terminal device records the support information in association with the identifier of the identifier transmitting device, the assistance information including character text corresponding to the voice according to the progress of the show provided in the area where the identifier transmitting device is installed. Part and the strength of the signal received from the nearby identifier transmitting device, the user having the portable terminal device specifies in which area the identifier transmitting device installed is near, and the identifier transmitting device. Area specifying means for acquiring the identifier of the above, a start sound detecting means for detecting whether or not the ambient sound acquired by the microphone includes the start sound output from the speaker installed in the area, and the start sound detecting means. When the start sound is detected by the character string stored in the recording unit in association with the acquired identifier of the identifier transmission device. Assistance information including the door and a display control means for displaying on the display.
したがって、各エリアにおいて行われるショーの進行に合わせて、支援情報を表示することができる。 Therefore, the support information can be displayed according to the progress of the show in each area.
(4)この発明に係る情報支援システムは、開始音は、所定周波数の低周波音であり、開始音検出手段は、マイクによって取得した周囲音に、当該所定周波数の低周波音が所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴としている。 (4) In the information support system according to the present invention, the start sound is a low-frequency sound having a predetermined frequency, and the start-sound detecting means includes the ambient sound acquired by the microphone, and the low-frequency sound having the predetermined frequency is equal to or higher than a predetermined level. The feature is that whether or not the start sound is included is determined depending on whether or not the start sound is included.
指向性のない低周波音を開始音としているので、エリア内にまんべんなく到達する。 Since the low frequency sound with no directivity is used as the starting sound, the sound reaches the area evenly.
(5)この発明に係る情報支援システムは、低周波音は、複数の周波数の低周波音が合成されたものであり、開始音検出手段は、マイクによって取得した周囲音に、当該複数の所定周波数の低周波音の全てが所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴としている。 (5) In the information support system according to the present invention, the low-frequency sound is a combination of low-frequency sounds of a plurality of frequencies, and the start sound detection means adds the plurality of predetermined sounds to the ambient sound acquired by the microphone. It is characterized in that whether or not the start sound is included is determined depending on whether or not all low-frequency sounds of frequencies are included above a predetermined level.
したがって、開始音の誤検出を防止することができる。 Therefore, erroneous detection of the start sound can be prevented.
(6)この発明に係る情報支援システムは、支援情報は、出演者の音声に対応する文字テキストに関連づけて、当該発話者を特定する情報を含んでおり、表示制御手段は、前記文字テキストに対応付けて、発話者を特定する情報を表示し、または当該情報に基づいて特定される出演者の演じるキャラクターの似顔絵アイコンまたは写真アイコンを表示することを特徴としている。 (6) The information support system according to the present invention, the support information, in association with the character text corresponding to the voice of the performer, includes information for identifying the speaker, the display control means, in the character text. Correspondingly, information for identifying a speaker is displayed, or a portrait icon or a photo icon of a character played by a performer identified based on the information is displayed.
したがって、いずれの出演者の演じるキャラクターの台詞であるかを容易に知ることができる。 Therefore, it is possible to easily know which performer's character the dialogue is.
(7)この発明に係る情報支援システムは、支援情報は、出演者の音声に対応する文字テキストおよび場面の解説を行う文字テキストを含んでおり、表示制御手段は、前記出演者の音声に対応する文字テキストを吹き出しとして表示し、前記場面の解説を行う文字テキストを吹き出しとせずに表示することを特徴としている。 (7) In the information support system according to the present invention, the support information includes character text corresponding to the voice of the performer and character text for explaining the scene, and the display control means corresponds to the voice of the performer. The character text to be displayed is displayed as a speech bubble, and the character text for explaining the scene is displayed without being a speech bubble.
したがって、場面の説明と台詞とを明確に区別することができる。 Therefore, the explanation of the scene and the dialogue can be clearly distinguished.
(8)この発明に係る情報支援システムは、表示制御手段は、撮像部によって撮像されたショーの出演者とともに、当該出演者に対応付けて出演者の音声に対応する文字テキストを表示することを特徴としている。 (8) In the information support system according to the present invention, the display control means displays, together with the performer of the show imaged by the imaging unit, the text corresponding to the performer's voice in association with the performer. It has a feature.
したがって、実際のショーの画像に重ねて台詞を表示することができる。 Therefore, the dialogue can be displayed over the image of the actual show.
(9)この発明に係る情報支援システムは、エリア特定手段は、識別子送信装置から識別子を取得すると、当該識別子に対応付けて記録部に記録された支援情報を、揮発性高速メモリ上に複製し、前記表示制御手段は、前記揮発性高速メモリ上に複製した支援情報に基づいて、表示を行うことを特徴としている。 (9) In the information support system according to the present invention, the area identification means, when acquiring the identifier from the identifier transmission device, copies the support information recorded in the recording unit in association with the identifier onto the volatile high-speed memory. The display control means performs display based on the support information copied on the volatile high-speed memory.
したがって、ショーの開始とともに迅速に表示を行うことができる。 Therefore, the display can be performed quickly when the show starts.
(10)(11)この発明に係る携帯端末装置は、所定のエリアにて提供されるショーを見るユーザに情報支援を行うための携帯端末装置であって、当該エリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、開始音検出手段によって開始音が検出されると、前記文字テキストを含む支援情報をディスプレイに表示させる表示制御手段とを備えている。 (10) (11) A mobile terminal device according to the present invention is a mobile terminal device for providing information support to a user who watches a show provided in a predetermined area, and the progress of the show provided in the area. A recording unit for recording support information including character text corresponding to the voice according to the above, and a start detecting whether the ambient sound acquired by the microphone includes the start sound output from the speaker installed in the area. The sound detection means and the display control means for displaying the support information including the character text on the display when the start sound is detected by the start sound detection means.
したがって、ショーの進行に合わせて、支援情報を表示することができる。 Therefore, the support information can be displayed as the show progresses.
(12)(13)この発明に係る携帯端末装置は、所定のエリアにて提供されるショーを見るユーザに情報支援を行うための携帯端末装置であって、前記識別子送信装置の識別子に対応付けて、当該識別子送信装置が設置されているエリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、処理のためのワーク領域として機能する揮発性高速メモリと、近傍の識別子送信装置から受信した信号の強度に基づいて、前記携帯端末装置を持つユーザが、いずれのエリアに設置された識別子送信装置の近くにいるかを特定するとともに、当該識別子送信装置の識別子を取得し、当該識別子に対応付けて記録部に記録された支援情報を、揮発性高速メモリ上に複製するエリア特定手段と、前記揮発性高速メモリに複製された支援情報をディスプレイに表示させる表示制御手段とを備えている。 (12) (13) The mobile terminal device according to the present invention is a mobile terminal device for providing information support to a user who watches a show provided in a predetermined area, and is associated with the identifier of the identifier transmitting device. A recording unit for recording support information including character text corresponding to the voice according to the progress of the show provided in the area where the identifier transmitting device is installed, and a volatile high-speed functioning as a work area for processing. Based on the strength of the signal received from the memory and the identifier transmitting device in the vicinity, the user having the mobile terminal device specifies in which area the identifier transmitting device installed is near, and the identifier transmitting device. Area identification means for acquiring the identifier of the above, and copying the support information recorded in the recording unit in association with the identifier on the volatile high-speed memory; And a display control means for displaying the help information replicated to the memory on the display.
したがって、ショーの開始とともに迅速に表示を行うことができる。 Therefore, the display can be performed quickly when the show starts.
この発明において「ショー」とは、舞台、映画、ミュージカルなど観衆に台詞つきで提示されるものをいう。 In the present invention, the “show” refers to something that is presented to the audience with dialogue, such as a stage, a movie, or a musical.
「携帯端末装置」は、スマートフォン、携帯情報端末、携帯電話、タブレットなどを含むものである。 The “mobile terminal device” includes a smartphone, a mobile information terminal, a mobile phone, a tablet, and the like.
「エリア特定手段」は、実施形態においては、ステップS2がこれに対応する。 In the embodiment, the "area specifying means" corresponds to step S2.
「開始音検出手段」は、実施形態においては、ステップS12、S13がこれに対応する。 In the embodiment, the "start sound detecting means" corresponds to steps S12 and S13.
「表示制御手段」は、実施形態においては、ステップS14がこれに対応する。 In the embodiment, the "display control means" corresponds to step S14.
「プログラム」とは、CPUにより直接実行可能なプログラムだけでなく、ソース形式のプログラム、圧縮処理がされたプログラム、暗号化されたプログラム等を含む概念である。 The “program” is a concept including not only a program directly executable by the CPU but also a source format program, a compressed program, an encrypted program, and the like.
1.システム構成
図1に、この発明の一実施形態によるショーのための情報支援システムの機能ブロック図を示す。ショーの行われるエリアには、識別子送信装置2、信号出力装置4、スピーカ6が設けられている。識別子送信装置2は、自らのIDを送信するものである。この実施形態では、エリアごとに異なるIDを有する識別子送信装置2を設けている。
1. System Configuration FIG. 1 shows a functional block diagram of an information support system for a show according to an embodiment of the present invention. An
信号出力装置4は、ショーの進行に合わせて台詞や音楽などの音信号をスピーカ6に与えるものである。スピーカ6は、この音信号を受けて、台詞や音楽を音として出力する。
The signal output device 4 gives a sound signal such as dialogue and music to the
なお、この実施形態では、ショーの出演者の台詞は出演者が発するのではなく、スピーカ6からの音で観客に与えられるようにしている。したがって、信号出力装置4には、予め、ショーの進行に合わせた台詞および音楽などの音信号が記録されている。
In this embodiment, the dialogue of the performers of the show is not given by the performers but given to the audience by the sound from the
信号出力装置4は、ショーの開始に合わせて上記の音信号をスピーカ6に与える。なお、この実施形態では、この音信号の冒頭部分に、開始信号が挿入されている。
The signal output device 4 gives the above-mentioned sound signal to the
観客であるユーザは、携帯端末装置10を所持している。この携帯端末装置10の記録部22には、各エリアで行われるショーの台詞などを文字情報とした支援情報が記録されている。
A user who is an audience carries the mobile
携帯端末装置10のエリア特定手段12は、識別子送信装置2からのIDを受信し、いずれのエリアにいるかを特定する。
The area specifying means 12 of the mobile
ショーの開始と共に、スピーカ6からは、開始信号による開始音が出力される。携帯端末装置10の開始音検出手段16は、マイク14が取得した周囲音に、この開始音が含まれているかどうかを判断する。携帯端末装置10の表示制御装置20は、記録部22に記録されている支援情報24のうち、エリア特定手段12によって特定されたエリアに対応する支援情報24を選択する。さらに、開始音が検出されると、選択した支援情報24を読み出してディスプレイ18に表示する。
Along with the start of the show, the
したがって、ユーザの有する携帯端末装置10には、ショーの進行にあわせて台詞などの支援情報が文字テキストとして表示される。
Therefore, support information such as dialogue is displayed as character text on the mobile
図2に、ショーのための情報支援システムをテーマパークにて実現する場合のシステム構成を示す。ショーを行うエリアA1〜Anが、テーマパーク内に設けられている。図3に示すように、ショーのエリアA1〜Anのそれぞれには、舞台51、観客席(観客エリア)49が設けられている。さらに、エリアA1〜Anのそれぞれには、識別子送信装置である無線アクセスポイント2、信号出力装置である音響装置4、音響装置4に接続されたスピーカ6が設けられている。ショーを行うエリアA1〜A6は、たとえば、図4に示すように、テーマパーク内に点在している。
FIG. 2 shows a system configuration when an information support system for a show is realized in a theme park. Areas A1 to An for performing shows are provided in the theme park. As shown in FIG. 3, a
無線アクセスポイント2は、ユーザの有するスマートフォンなどをインターネットに中継するための装置である。無線アクセスポイント2は、SSIDと呼ばれる識別子を有しており、スマートフォンなどの端末装置からの問合せを受けて、SSIDを返信する。このSSIDは、無線アクセスポイントごとに異なっている。また、無線アクセスポイントからの電波が届く範囲は狭い(100m程度)。したがって、端末装置は、このSSIDを受けて、いずれのエリアA1〜A6のアクセスポイント2の近くにいるかを知ることができる。
The
この実施形態では、スマートフォンなどの端末装置をインターネットに接続するためのアクセスポイント2の上記機能を利用し、携帯端末装置10に対して識別子(SSID)を送信する識別子送信装置としている。
In this embodiment, an identifier transmitting device that transmits an identifier (SSID) to the mobile
図5に、音響装置4の構成を示す。記録部42には、そのエリアでのショーにおいて用いられる音楽や台詞などのショー・データをスピーカ6に与える。ショーにおいては、出演者は台詞をしゃべらず、ショー・データに含まれる台詞がスピーカ6から出され、これに対応して出演者が演じるようになっている。つまり、ショーの進行は、ショー・データに基づいて行われることになる。
FIG. 5 shows the configuration of the acoustic device 4. In the
図6に、携帯端末装置10のハードウエア構成を示す。この実施形態では、タブレット・コンピュータを携帯端末装置10としている。CPU60には、メモリ62、タッチスクリーン・ディスプレイ64、不揮発性メモリ66、無線LAN回路68、マイク70、カメラ72が接続されている。
FIG. 6 shows the hardware configuration of the mobile
メモリ62は、高速であるが揮発性である半導体メモリなどによって構成されており、CPU60のワークエリアとして機能する。タッチスクリーン・ディスプレイ64は、表示を行うとともに、ユーザ操作による入力を受け付けるものである。無線LAN回路68は、アクセスポイント2と通信するための回路である。
The
不揮発性メモリ66には、オペレーティングシステム74、携帯端末プログラム76、支援情報78が記録されている。携帯端末プログラム76は、オペレーティングシステム74と協働してその機能を発揮するものである。これらプログラムは、たとえば、無線LAN回路68を介して、サーバ装置からダウンロードしたものである。
An
また、不揮発性メモリ66には、支援情報78も記録されている。支援情報78は、各エリアA1〜A6においてショーの際に流されるショー・データに対応して、タッチスクリーン・ディスプレイ64に表示するためのデータである。この実施形態では、全てのエリアA1〜A6の支援情報を、予め、サーバ装置などからダウンロードして記録しておくようにしている。
2.支援情報提供処理
図7、図8に、携帯端末プログラム76による支援情報提供処理のフローチャートを示す。ユーザの持つ携帯端末装置10の携帯端末プログラム76が起動されると、携帯端末装置10のCPU60(以下、携帯端末装置10と省略することがある)は、不揮発性メモリ66に記録されているSSIDのリストを読み出す(ステップS1)。図9に、SSIDリストの例を示す。図4に示す各ショーのエリアA1〜A6に設けたアクセスポイント2のそれぞれに対応付けて、そのSSIDが記録されている。さらに、当該アクセスポイントにおいて実施されるショーの支援情報ファイルのファイル名、ショーの開始時刻も記録されている。
2. Support Information Providing Processing FIGS. 7 and 8 show flowcharts of the support information providing processing by the
次に、携帯端末装置10は、無線LAN回路68が受信したアクセスポイントからの信号を取得して、そのSSIDを解析する。各エリア1〜A6のアクセスポイント2からの信号は、距離に応じて減衰するので、携帯端末装置10の近傍にあるアクセスポイントの信号のみが受信されることになる。
Next, the mobile
さらに、受信したSSIDが、上記のSSIDリストに登録された所定のSSIDであるかどうかを判断する(ステップS2)。テーマパーク内には、ショーのための情報提供とは関係なく設置されているアクセスポイントもあるからである。 Further, it is determined whether the received SSID is a predetermined SSID registered in the above SSID list (step S2). This is because some access points are installed in the theme park regardless of the information provided for the show.
受信したSSIDが所定SSIDでなければ、信号の受信とSSIDの確認処理を繰り返す。リストに記録された所定SSIDを受信すると、携帯端末装置10は、当該電波の強度が、しきい値を超えているかどうかを判断する(ステップS3)。前述のように、アクセスポイントからの距離に応じて電波強度は減衰する。したがって、電波強度が所定値以上であるかどうかを確認することにより、携帯端末装置10が(つまりそれを持つユーザが)ショーのエリアに入ったかどうか(所定の距離に近づいたかどうか)を確認することができる。なお、電波強度は、無線LAN回路68から取得することができる。
If the received SSID is not the predetermined SSID, signal reception and SSID confirmation processing are repeated. Upon receiving the predetermined SSID recorded in the list, the mobile
電波強度が所定値を超えていない場合、携帯端末装置10は、ステップS2に戻って、電波の受信とSSIDの確認を行う。電波強度が所定値を超えている場合、図9のSSIDリストを参照し、受信したSSIDに対応するアクセスポイント(エリア)の支援情報ファイル名を特定し、不揮発性メモリ66から検索する(ステップS5)。ここで、支援情報ファイルには、当該ショーの進行に合致するように、出演者の台詞や場面説明などが記録されている。
When the radio wave intensity does not exceed the predetermined value, the mobile
携帯端末装置10は、当該支援情報ファイルを見いだすと、不揮発性メモリ66から読み出して、ワーク領域であるメモリ62に展開する(ステップS7)。なお、ファイルが壊れているなどによって、所定時間を経過しても支援情報ファイルが見いだされない場合(ステップS10)、当該アクセスポイントを介してサーバ装置にアクセスし、支援ファイルをダウンロードし直す。その後、ステップS1に戻って処理を繰り返す。
When the mobile
支援情報ファイルをメモリ62に展開すると、携帯端末装置10は、現在時刻の先で、最も近いショーの開始時刻を、SSIDリストから取得する(ステップS8)。たとえば、SSIDが「32149373」であり、現在時刻が12:00である場合、開始時刻2の13:30を取得する。
When the support information file is loaded in the
携帯端末装置10は、現在時刻が開始時刻の5分前未満となったかどうかを判断する(ステップS9)。5分前になると、携帯端末装置10は、マイク70により周囲音を取得する。なお、この実施形態では、ショー・データ44の冒頭に第1低周波音(この実施形態では100Hz)と、第2低周波音(この実施形態では50Hz)の合成音を開始音として含ませている(図5参照)。
The mobile
したがって、ショーのエリアに配置されたスピーカ6から、ショー開始の所定時間前(この実施形態では3分前)に、第1低周波音と第2低周波音を合成した音が出力されることになる。これらの低周波音は、指向性のない(少ない)周波数としているので、スピーカの向きや配置に拘わらず、エリア内にほぼ均一に到達することになる。また、図5の装置は、ショーのために本来必要な機器であり、そのショー・データに一部変更を加えるだけであるから、ショーのための既存の設備をそのまま活用することができる。
Therefore, the
携帯端末装置10は、取得した周囲音に、第1低周波成分(この実施形態では100Hz)が、所定値以上のレベルで含まれているかどうかを判断する(ステップS12)。この判断は、取得した周囲音を二値化したデータを、バンドパスフィルタ・プログラムによって解析することで実現することができる。
The mobile
所定値以上の第1低周波成分が含まれていなければ、ステップS11に戻って周囲音の取得を繰り返す。所定値以上の第1低周波成分が含まれていれば、携帯端末装置10は、取得した周囲音に、第2低周波成分(この実施形態では50Hz)が、所定値以上のレベルで含まれているかどうかを判断する(ステップS13)。
If the first low frequency component equal to or higher than the predetermined value is not included, the process returns to step S11 and the acquisition of the ambient sound is repeated. If the first low frequency component equal to or higher than the predetermined value is included, the mobile
所定値以上の第2低周波成分が含まれていなければ、ステップS11に戻って周囲音の取得を繰り返す。ステップS13において、所定値以上の第2低周波成分が含まれていると判断した場合、エリアのスピーカ6から、第1低周波音と第2低周波音の合成音による開始音が発せられたことになるので、ショー開始の所定時間前(この実施形態では3分前)であると判断することができる。
If the second low frequency component equal to or higher than the predetermined value is not included, the process returns to step S11 and the acquisition of the ambient sound is repeated. When it is determined in step S13 that the second low frequency component equal to or more than the predetermined value is included, the
携帯端末装置10は、開始音の検出とともに、メモリ62に展開した支援情報ファイルを再生し、タッチスクリーンディスプレイ64に表示する(ステップS14)。
The mobile
図10に、タッチスクリーンディスプレイ64の表示例を示す。出演者の扮するキャラクターの似顔絵100と、その出演者の台詞のテキストが吹き出し104に示されている。したがって、耳の不自由なユーザであっても、台詞を知ることができる。なお、似顔絵100の下には、キャラクター名が表示されている。図10の例では、同じキャラクターの似顔絵は同じ側(左側または右側)に表示するようにして判別しやすいようにしている。
FIG. 10 shows a display example of the
携帯端末装置10は、支援情報ファイルにしたがって、次々と支援情報をタッチスクリーンディスプレイ64に表示する。なお、画面に表示しきれなくなると、上方向にスクロールして表示するようにしている。また、支援情報は、ショーの進行に合致するように生成されているので、ショーの進行に伴う各出演者の台詞を得ることができる。
The mobile
また、図11に示すように、台詞以外の舞台で注目すべき点や説明108なども支援情報に含めることができる。この実施形態では、注目点や説明108は、吹き出しではない形式にて表示するようにしている。
Further, as shown in FIG. 11, the points to be noted on the stage other than the dialogue, the
支援情報ファイルの最後まで表示すると、携帯端末装置10は、メモリ62に展開した支援ファイルを、メモリ62から削除する(ステップS17)。なお、支援情報ファイルの表示途中において、停止ボタン106押されると、携帯端末装置10は、支援情報ファイルの表示を停止する(ステップS15)。
When the end of the support information file is displayed, the mobile
以上のようにして、ショーの進行に合わせて、ユーザの手元の携帯端末装置10に支援情報が表示される。
As described above, the support information is displayed on the mobile
3.その他
(1)上記実施形態では、開始音として2つの周波数の低周波の合成音を用いている。しかし、単一の周波数の低周波を開始音としてもよい。また、3つ以上の周波数の低周波の合成音を用いるようにしてもよい。
3. Other
(1) In the above embodiment, a low-frequency synthesized sound of two frequencies is used as the start sound. However, a low frequency of a single frequency may be used as the starting sound. Alternatively, low-frequency synthetic sounds of three or more frequencies may be used.
(2)上記実施形態では、開始音として低周波を用いている。しかし、その他の周波数の音を用いてもよい。たとえば、超音波を用いることができる。 (2) In the above embodiment, the low frequency is used as the starting sound. However, sounds of other frequencies may be used. For example, ultrasonic waves can be used.
(3)上記実施形態では、識別子送信装置として、アクセスポイントを用いるようにしている。しかし、ビーコンのような識別子を送信する装置を用いてもよい。 (3) In the above embodiment, an access point is used as the identifier transmitting device. However, a device that transmits an identifier such as a beacon may be used.
(4)上記実施形態では、開始音をとらえられなかった場合には、当該ショーについての支援情報は表示しないようにしている。しかし、ショーの途中(たとえば、ショー開始3分後)の時間に対応して、ショー・データ44に、他の開始音(本来の開始音とは周波数が異なるようにする。たとえば、40Hzと110Hzとする。)を含ませるようにしてもよい。携帯端末装置10において、この他の開始音を受信すれば、当該ショーの途中の時間に対応する支援情報から、タッチスクリーンディスプレイ64にて表示を開始する。
(4) In the above embodiment, when the start sound is not captured, the support information for the show is not displayed. However, in response to the time during the show (for example, 3 minutes after the start of the show), the
このようにすれば、本来の開始音をとらえられなかった場合であっても、ショーの進行に合致した支援情報を表示することができる。 By doing so, even when the original start sound cannot be captured, it is possible to display the support information that matches the progress of the show.
(5)上記実施形態では、テーマパークのショーについて説明した。しかし、映画館での映画など、出演者の台詞が時間どおりに進行するショー一般に適用することができる。 (5) In the above embodiment, the theme park show was described. However, it can be applied to general shows in which the dialogue of the performers progresses on time, such as a movie in a movie theater.
(6)上記実施形態では、図10、図11において、似顔絵を表示している。しかし、写真を表示するようにしてもよい。 (6) In the above embodiment, the portrait is displayed in FIGS. 10 and 11. However, you may make it display a photograph.
(7)上記実施形態では、似顔絵からの吹き出しに台詞を表示するようにしている。しかし、図12に示すように、ユーザが携帯端末装置10のカメラ72によって撮像した出演者を、タッチスクリーンディスプレイ64に表示し(図中110参照)、これに重ねて、その台詞を表示するようにしてもよい。この場合、携帯端末装置10は、出演者の服の色の組み合わせ(帽子、眼鏡の有無など)などから、撮像した出演者が演じるキャラクターが誰であるかを判断し、これに重ねて、台詞を表示することで実現できる。この場合、支援情報には、台詞のテキストデータ、ショー開始からの時刻による表示開始時刻、表示終了時刻、キャラクターを示す情報を含めるようにするとよい。
(7) In the above embodiment, the dialogue is displayed in the balloon from the portrait. However, as shown in FIG. 12, the performer imaged by the user with the
(8)上記実施形態では、日本人のユーザのために日本語にて台詞を表示するようにしている。しかし、外国人のユーザのために母国語など理解可能な言語で台詞などを表示するようにしてもよい。 (8) In the above embodiment, dialogue is displayed in Japanese for Japanese users. However, the dialogue may be displayed in an understandable language such as a native language for foreign users.
(9)上記実施形態では、低周波音を開始信号としている。しかし、ショーに用いる照明から出される光を、オン・オフ制御するなどして、これを開始信号としてもよい。この場合、照明光を受光するセンサを携帯端末装置10に設け、あらかじめ開始信号として定められたパターンにて照明が点滅するかどうかによって、開始信号かどうかを判断すればよい。また、音と光を組み合わせて、開始信号としてもよい。
(9) In the above embodiment, the low frequency sound is used as the start signal. However, the light emitted from the lighting used for the show may be controlled to be on / off, and this may be used as the start signal. In this case, a sensor for receiving the illumination light may be provided in the mobile
Claims (17)
前記信号出力装置は、当該エリアにおいて提供されるショーの開始に対応付けられた開始音信号とショーの進行にしたがう音声信号とを少なくとも含む信号を前記スピーカに対して出力するよう構成され、
前記携帯端末装置は、
前記識別子送信装置の識別子に対応付けて、当該識別子送信装置が設置されているエリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、
近傍の識別子送信装置から受信した信号の強度に基づいて、前記携帯端末装置を持つユーザが、いずれのエリアに設置された識別子送信装置の近くにいるかを特定するとともに、当該識別子送信装置の識別子を取得するエリア特定手段と、
マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、
開始音検出手段によって開始音が検出されると、前記取得した識別子送信装置の識別子に対応付けて記録部に記録されている文字テキストを含む支援情報をディスプレイに表示させる表示制御手段と、
を備えた情報支援システム。 An information support system including an identifier transmitting device installed in a predetermined area and having an identifier, a signal output device outputting a signal to a speaker installed in the area, and a mobile terminal device owned by a user. ,
The signal output device is configured to output a signal including at least a start sound signal associated with the start of a show provided in the area and an audio signal according to the progress of the show to the speaker,
The portable terminal device,
A recording unit that records, in association with the identifier of the identifier transmitting device, support information including character text corresponding to the voice according to the progress of the show provided in the area where the identifier transmitting device is installed,
Based on the strength of the signal received from the nearby identifier transmitting device, the user having the mobile terminal device specifies in which area the identifier transmitting device installed is near, and the identifier of the identifier transmitting device is specified. Area identification means to acquire,
Start sound detection means for detecting whether or not the ambient sound acquired by the microphone includes a start sound output from a speaker installed in the area,
When a start sound is detected by the start sound detection means, display control means for displaying on the display support information including character text recorded in the recording portion in association with the acquired identifier of the identifier transmission device,
Information support system equipped with.
識別子送信装置の識別子に対応付けて、当該識別子送信装置が設置されているエリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、
近傍の識別子送信装置から受信した信号の強度に基づいて、前記携帯端末装置を持つユーザが、いずれのエリアに設置された識別子送信装置の近くにいるかを特定するとともに、当該識別子送信装置の識別子を取得するエリア特定手段と、
マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、
開始音検出手段によって開始音が検出されると、前記取得した識別子送信装置の識別子に対応付けて記録部に記録されている文字テキストを含む支援情報をディスプレイに表示させる表示制御手段と、
を備えた携帯端末装置。 A mobile terminal device for providing information support to a user who watches a show provided in a predetermined area,
A recording unit that records, in association with the identifier of the identifier transmitting device , support information including character text corresponding to the voice according to the progress of the show provided in the area where the identifier transmitting device is installed,
Based on the strength of the signal received from the nearby identifier transmitting device, the user having the mobile terminal device specifies in which area the identifier transmitting device installed is near, and the identifier of the identifier transmitting device is specified. Area identification means to acquire,
Start sound detection means for detecting whether or not the ambient sound acquired by the microphone includes a start sound output from a speaker installed in the area,
When a start sound is detected by the start sound detection means, display control means for displaying on the display support information including character text recorded in the recording portion in association with the acquired identifier of the identifier transmission device,
A mobile terminal device equipped with.
前記開始音は、所定周波数の低周波音であり、
前記開始音検出手段は、マイクによって取得した周囲音に、当該所定周波数の低周波音が所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴とする装置。 The device of claim 2, wherein
The start sound is a low frequency sound of a predetermined frequency,
The start sound detecting means determines whether or not the start sound is included, depending on whether or not the ambient sound acquired by the microphone contains a low frequency sound of the predetermined frequency or more at a predetermined level or more. Characterized device.
前記低周波音は、複数の周波数の低周波音が合成されたものであり、
前記開始音検出手段は、マイクによって取得した周囲音に、当該複数の所定周波数の低周波音の全てが所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴とする装置。 The apparatus of claim 3,
The low frequency sound is a combination of low frequency sounds of a plurality of frequencies,
The start sound detecting means determines whether or not the start sound is included, depending on whether or not the ambient sound acquired by the microphone contains all of the low frequency sounds of the plurality of predetermined frequencies above a predetermined level. A device characterized by being.
前記支援情報は、出演者の音声に対応する文字テキストに関連づけて、当該発話者を特定する情報を含んでおり、
前記表示制御手段は、前記文字テキストに対応付けて、発話者を特定する情報を表示し、または当該情報に基づいて特定される出演者の演じるキャラクターの似顔絵アイコンまたは写真アイコンを表示することを特徴とする装置。 The device according to claim 3 or 4,
The support information includes information for identifying the speaker in association with the text corresponding to the voice of the performer,
The display control means displays information identifying a speaker in association with the character text, or displays a portrait icon or a photo icon of a character played by a performer identified based on the information. And the device.
前記支援情報は、出演者の音声に対応する文字テキストおよび場面の解説を行う文字テキストを含んでおり、
前記表示制御手段は、前記出演者の音声に対応する文字テキストを吹き出しとして表示し、前記場面の解説を行う文字テキストを吹き出しとせずに表示することを特徴とする装置。 The device according to any one of claims 3 to 5,
The support information includes character text corresponding to the voice of the performer and character text for explaining the scene,
The display control means displays the character text corresponding to the voice of the performer as a balloon, and displays the character text for explaining the scene without making it a balloon.
前記表示制御手段は、撮像部によって撮像されたショーの出演者とともに、当該出演者に対応付けて出演者の音声に対応する文字テキストを表示することを特徴とする装置。 The device according to any one of claims 3 to 6,
The display control means displays, together with the performer of the show imaged by the imaging unit, character text corresponding to the performer's voice corresponding to the performer's voice.
前記エリア特定手段は、識別子送信装置から識別子を取得すると、当該識別子に対応付けて記録部に記録された支援情報を、揮発性高速メモリ上に複製し、
前記表示制御手段は、前記揮発性高速メモリ上に複製した支援情報に基づいて、表示を行うことを特徴とする装置。 The device according to any one of claims 3 to 7,
When the area specifying unit acquires the identifier from the identifier transmitting device, the support information recorded in the recording unit in association with the identifier is duplicated on the volatile high speed memory,
The display control means performs display based on the support information copied on the volatile high-speed memory.
近傍の識別子送信装置から受信した信号の強度に基づいて、前記携帯端末装置を持つユーザが、いずれのエリアに設置された識別子送信装置の近くにいるかを特定するとともに、当該識別子送信装置の識別子を取得するエリア特定手段と、
マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、
開始音検出手段によって開始音が検出されると、前記取得した識別子送信装置の識別子に対応付けて記録部に記録され、当該識別子送信装置が設置されているエリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報をディスプレイに表示させる表示制御手段として機能させるための携帯端末プログラム。 A portable terminal program for realizing a portable terminal device for providing information support to a user who watches a show provided in a predetermined area, the computer comprising:
Based on the strength of the signal received from the nearby identifier transmitting device, the user having the mobile terminal device specifies in which area the identifier transmitting device installed is near, and the identifier of the identifier transmitting device is specified. Area identification means to acquire,
Start sound detection means for detecting whether or not the ambient sound acquired by the microphone includes a start sound output from a speaker installed in the area,
When the start sound is detected by the start sound detecting means, the start sound is recorded in the recording unit in association with the acquired identifier of the identifier transmitting device, and according to the progress of the show provided in the area where the identifier transmitting device is installed. A portable terminal program for causing a display to display support information including character text corresponding to a voice on a display.
前記開始音は、所定周波数の低周波音であり、
前記開始音検出手段は、マイクによって取得した周囲音に、当該所定周波数の低周波音が所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴とするプログラム。 In the program of claim 9,
The start sound is a low frequency sound of a predetermined frequency,
The start sound detecting means determines whether or not the start sound is included, depending on whether or not the ambient sound acquired by the microphone contains a low frequency sound of the predetermined frequency or more at a predetermined level or more. Characteristic program.
前記低周波音は、複数の周波数の低周波音が合成されたものであり、
前記開始音検出手段は、マイクによって取得した周囲音に、当該複数の所定周波数の低周波音の全てが所定レベル以上含まれているか否かによって、開始音が含まれているかどうかを判断するものであることを特徴とするプログラム。 In the program of claim 10,
The low frequency sound is a combination of low frequency sounds of a plurality of frequencies,
The start sound detecting means determines whether or not the start sound is included, depending on whether or not the ambient sound acquired by the microphone contains all of the low frequency sounds of the plurality of predetermined frequencies above a predetermined level. A program characterized by:
前記支援情報は、出演者の音声に対応する文字テキストに関連づけて、当該発話者を特定する情報を含んでおり、
前記表示制御手段は、前記文字テキストに対応付けて、発話者を特定する情報を表示し、または当該情報に基づいて特定される出演者の演じるキャラクターの似顔絵アイコンまたは写真アイコンを表示することを特徴とするプログラム。 The program according to any one of claims 9 to 11,
The support information includes information for identifying the speaker in association with the text corresponding to the voice of the performer,
The display control means displays information identifying a speaker in association with the character text, or displays a portrait icon or a photo icon of a character played by a performer identified based on the information. And the program.
前記支援情報は、出演者の音声に対応する文字テキストおよび場面の解説を行う文字テキストを含んでおり、
前記表示制御手段は、前記出演者の音声に対応する文字テキストを吹き出しとして表示し、前記場面の解説を行う文字テキストを吹き出しとせずに表示することを特徴とするプログラム。 The program according to any one of claims 9 to 12,
The support information includes character text corresponding to the voice of the performer and character text for explaining the scene,
The program, wherein the display control means displays the character text corresponding to the voice of the performer as a balloon, and displays the character text for explaining the scene without making the balloon.
前記表示制御手段は、撮像部によって撮像されたショーの出演者とともに、当該出演者に対応付けて出演者の音声に対応する文字テキストを表示することを特徴とするプログラム。 The program according to any one of claims 9 to 13,
The display control means displays a character text corresponding to the performer's voice in association with the performer of the show imaged by the image capturing unit.
前記エリア特定手段は、識別子送信装置から識別子を取得すると、当該識別子に対応付けて記録部に記録された支援情報を、揮発性高速メモリ上に複製し、
前記表示制御手段は、前記揮発性高速メモリ上に複製した支援情報に基づいて、表示を行うことを特徴とするプログラム。 The program according to any one of claims 9 to 14,
When the area specifying unit acquires the identifier from the identifier transmitting device, the support information recorded in the recording unit in association with the identifier is duplicated on the volatile high speed memory,
The display control means performs a display based on the support information copied on the volatile high-speed memory.
当該エリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報を記録する記録部と、
マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、
開始音検出手段によって開始音が検出されると、前記文字テキストを含む支援情報をディスプレイに表示させる表示制御手段と、
を備えた携帯端末装置。 A mobile terminal device for providing information support to a user who watches a show provided in a predetermined area,
A recording unit that records support information including character text corresponding to the voice according to the progress of the show provided in the area,
Start sound detection means for detecting whether or not the ambient sound acquired by the microphone includes a start sound output from a speaker installed in the area,
When a start sound is detected by the start sound detection means, display control means for displaying support information including the character text on a display,
A mobile terminal device equipped with.
マイクによって取得した周囲音に、前記エリアに設置されたスピーカから出力された開始音が含まれているかどうかを検出する開始音検出手段と、
開始音検出手段によって開始音が検出されると、当該エリアにおいて提供されるショーの進行にしたがう音声に対応する文字テキストを含む支援情報をディスプレイに表示させる表示制御手段と、
を備えた携帯端末プログラム。 A portable terminal program for realizing a portable terminal device for providing information support to a user who watches a show provided in a predetermined area, the computer comprising:
Start sound detection means for detecting whether or not the ambient sound acquired by the microphone includes a start sound output from a speaker installed in the area,
When the start sound is detected by the start sound detection means, display control means for displaying on the display assistance information including character text corresponding to the voice according to the progress of the show provided in the area,
A mobile terminal program with.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016049555A JP6680579B2 (en) | 2016-03-14 | 2016-03-14 | Information support system for the show |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016049555A JP6680579B2 (en) | 2016-03-14 | 2016-03-14 | Information support system for the show |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017164030A JP2017164030A (en) | 2017-09-21 |
| JP6680579B2 true JP6680579B2 (en) | 2020-04-15 |
Family
ID=59909346
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016049555A Active JP6680579B2 (en) | 2016-03-14 | 2016-03-14 | Information support system for the show |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6680579B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6582024B2 (en) * | 2017-09-13 | 2019-09-25 | 合同会社ユー・エス・ジェイ | Information support system for shows |
| CN111727608B (en) * | 2018-02-23 | 2023-12-05 | 日商艾菲克泽股份有限公司 | Storage medium, content playing method and content playing system |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0879199A (en) * | 1994-09-02 | 1996-03-22 | Sony Corp | Character information provision system |
| CN1618181B (en) * | 2001-12-05 | 2010-04-28 | 迪斯尼实业公司 | System and method of wirelessly triggering portable devices |
| JP3747465B2 (en) * | 2003-01-21 | 2006-02-22 | オムロン株式会社 | Information processing apparatus and method |
| JP5084156B2 (en) * | 2006-03-07 | 2012-11-28 | 京セラ株式会社 | Portable device |
| JP6155622B2 (en) * | 2012-12-18 | 2017-07-05 | セイコーエプソン株式会社 | Display device, head-mounted display device, display device control method, and head-mounted display device control method |
| JP6200650B2 (en) * | 2013-01-07 | 2017-09-20 | 株式会社カプコン | Game program and game system |
| JP6344125B2 (en) * | 2014-07-31 | 2018-06-20 | セイコーエプソン株式会社 | Display device, display device control method, and program |
-
2016
- 2016-03-14 JP JP2016049555A patent/JP6680579B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017164030A (en) | 2017-09-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10038957B2 (en) | Audio mixing based upon playing device location | |
| WO2012049223A2 (en) | Alternative audio | |
| KR102004884B1 (en) | Method and apparatus for controlling animated image in an electronic device | |
| US9472176B2 (en) | Performance recording system, performance recording method, and musical instrument | |
| WO2013024704A1 (en) | Image-processing device, method, and program | |
| JP6680579B2 (en) | Information support system for the show | |
| CN112669883A (en) | Abnormity checking method and device for audio playing equipment and storage medium | |
| JP6835205B2 (en) | Shooting sound pickup device, sound pick-up control system, shooting sound pick-up device control method, and shooting sound pick-up control system control method | |
| WO2017166686A1 (en) | Method and apparatus for switching to external loudspeaker | |
| JP6582024B2 (en) | Information support system for shows | |
| JP2013183280A (en) | Information processing device, imaging device, and program | |
| JP6443205B2 (en) | CONTENT REPRODUCTION SYSTEM, CONTENT REPRODUCTION DEVICE, CONTENT RELATED INFORMATION DISTRIBUTION DEVICE, CONTENT REPRODUCTION METHOD, AND CONTENT REPRODUCTION PROGRAM | |
| CN114257324A (en) | Method and system for seamless media synchronization and handover | |
| JP7111202B2 (en) | SOUND COLLECTION CONTROL SYSTEM AND CONTROL METHOD OF SOUND COLLECTION CONTROL SYSTEM | |
| CN109074328B (en) | Information processing method and terminal device | |
| CN108574914B (en) | Method and device for adjusting multicast playback file of sound box and receiving end | |
| CN118538240A (en) | Audio recording method, device, equipment and storage medium | |
| JP5554110B2 (en) | Document processing method and document processing system | |
| JP7397084B2 (en) | Data creation method and data creation program | |
| JP6987925B2 (en) | Karaoke equipment | |
| JP2021190762A (en) | Video processing apparatus, television receiver, and program | |
| CN114830688B (en) | Method for performing acoustic measurements | |
| KR102001314B1 (en) | Method and apparatus of enhancing audio quality recorded in karaoke room | |
| CN109983781A (en) | Content playing program and content reproduction device | |
| JP7087745B2 (en) | Terminal device, information provision system, operation method of terminal device and information provision method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181212 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191018 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191028 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191114 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200302 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200319 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6680579 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |