[go: up one dir, main page]

JP6204681B2 - 音響信号再生装置 - Google Patents

音響信号再生装置 Download PDF

Info

Publication number
JP6204681B2
JP6204681B2 JP2013079620A JP2013079620A JP6204681B2 JP 6204681 B2 JP6204681 B2 JP 6204681B2 JP 2013079620 A JP2013079620 A JP 2013079620A JP 2013079620 A JP2013079620 A JP 2013079620A JP 6204681 B2 JP6204681 B2 JP 6204681B2
Authority
JP
Japan
Prior art keywords
volume
sound
acoustic
space layer
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013079620A
Other languages
English (en)
Other versions
JP2014204320A (ja
Inventor
大出 訓史
訓史 大出
靖茂 中山
靖茂 中山
渡辺 馨
馨 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
NHK Engineering System Inc
Original Assignee
Japan Broadcasting Corp
NHK Engineering System Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp, NHK Engineering System Inc filed Critical Japan Broadcasting Corp
Priority to JP2013079620A priority Critical patent/JP6204681B2/ja
Publication of JP2014204320A publication Critical patent/JP2014204320A/ja
Application granted granted Critical
Publication of JP6204681B2 publication Critical patent/JP6204681B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereophonic System (AREA)

Description

この発明は、複数の音響空間層を持つマルチチャンネル音響方式の音響信号再生装置関する。
現在番組制作が行われている2チャンネル音響方式、5.1チャンネル音響方式に加え、7.1チャンネルや22.2チャンネルなどの5.1チャンネル音響方式を超えた「3次元(立体)音響方式」など複数の音響方式が提案されている。オーディオ関連の国際標準化団体であるITU-Rでは、ITU-R勧告として5.1チャンネル音響方式を超えた3次元音響方式(advanced multichannel audio system)に対する要求条件(非特許文献1)を定めており、今後も複数の音響方式が提案されることが予測される。これらの音響方式を共通のフォーマットで表現することで、次世代オーディオシステムに適用可能であり種々の方面への活用が可能な柔軟なシステムとすることができる。
種々の音響方式を表現可能な共通のフォーマットとして、「単一の音響空間層を持つ音響信号」の検討は進んでいる。ここで、空間的に配置された複数のチャンネル信号によって構築される音を単一の音響空間層とする。これまでの番組制作では番組に必要な音を全て単一の音響空間層に配置している。これまで一つにまとめていた音響空間層を幾つかの層に分割して音響番組制作を行い、「複数の音響空間層を持つ音響信号」の形式を用いることで、番組交換時の受取先や家庭の環境に合わせて受信した音響信号の変形・変換・入替を容易に行うことができるようになる。これ以降、「マルチチャンネル音響方式」とは「複数の音響空間層を持つ音響方式」を意図するものとして説明を行う。
例えば、マルチチャンネル音響方式を用いて放送される放送番組は、様々な音響方式によって制作され、様々な再生環境において再生される。近年、制作環境、再生環境の違いによる番組間の聴感上の音の大きさの不均一性を解消するため、ラウドネスによる音量調整法がITUやARIBといった標準化団体にて提案されている。しかし、再生環境、番組ジャンルによって最適な音量調整値は異なり、再生装置側で再生環境及び視聴者の好みに合わせた音量調整が求められる。
したがって、かかる点に鑑みてなされた本発明の目的は、複数の音響空間層を持つマルチチャンネル音響方式に対応し、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整が可能な音響信号再生装置、及び当該音響信号を作成する音響信号作成装置を提供することにある。
上述した諸課題を解決すべく、本発明に係る音響信号再生装置は、番組を構成する部品をそれぞれマルチチャネンル音響信号からなる音響空間層として、複数の音響空間層を重ね合わさせて再生することで一つの番組が実現される、複数の音響空間層を含むマルチチャンネル音響信号の再生装置であって、前記マルチチャンネル音響信号に含まれ、番組を構成する音響空間層の数と、番組全体の推奨ラウドネスと、番組ジャンルと、各音響空間層を構成する音響チャンネル信号の数とその配置と、前記各音響空間層の推奨ラウドネスと、前記各音響空間層の内容と、が記載されたメタデータに基づき、前記各音響空間層の音量を調整することで番組全体の音量を調整する音量調整部と、ユーザからマルチチャンネル音響信号全体の音量入力と特定の音響空間層の音量入力を受け付ける音量入力部と、を備え、前記音量調整部は、前記各音響空間層の推奨ラウドネスを基準として、前記マルチチャンネル音響信号全体の音量を調整する音量入力に基づいて、前記各音響空間層の音量を同じ割合で連動させて調整する機能と、前記特定の音響空間層の音量を調整する音量入力に基づいて、前記特定の音響空間層の音量を調整する機能とを有することを特徴とする
また、マイクロホンと、前記マイクロホンにより環境音を測定する環境測定部とを備え、前記音量調整部は、前記メタデータに記載された前記各音響空間層の推奨ラウドネス、前記音量入力、及び、前記環境音の測定結果に基づき前記各音響空間層の音量を調整することが好ましい。
本発明に係る音響信号再生装置よれば、複数の音響空間層を持つマルチチャンネル音響方式に対応し、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整をすることが可能となる。
本発明の第1の実施形態に係る音響信号再生装置の構成を示す図である。 マルチチャンネル音響信号に含まれる音響空間層の一例を示す図である。 マルチチャンネル音響信号におけるメタデータの一例を示す図である。 本発明の第2の実施形態に係る音響信号再生装置の構成を示す図である。 第2の実施形態に係る音響信号再生装置の音量入力部の一例を示す図である。 本発明の第3の実施形態に係る音響信号再生装置の構成を示す図である。 本発明の一実施形態に係る音響信号作成装置の構成を示す図である。
以降、諸図面を参照しながら、本発明の実施態様を詳細に説明する。ここで、本発明は、「複数の音響空間層を持つ音響信号」であるマルチチャンネル音響信号に対応するものである。本件出願人は、「単一の音響空間層を持つ音響信号」について韓国特許出願(10-2012-0112984)を行っており、また、「複数の音響空間層を持つ音響信号」について日本国特許出願(特願2013-010544)を行っている。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る音響信号再生装置の構成を示す図である。音響信号再生装置10は、デマルチプレクサ11(DEMUX)と、復号化部12と、音量調整部15と、再生チャンネル変換部13とを備え、音響信号再生装置10の出力信号はスピーカ14により音として再生される。
デマルチプレクサ11は、入力されたマルチチャンネル音響データストリームをメタデータと音響チャンネル信号に分離する。デマルチプレクサ11は、音響チャンネル信号を復号化部12に出力し、メタデータを復号化部12、音量調整部15及び再生チャンネル変換部13に出力する。
図2は、本実施形態におけるマルチチャンネル音響信号(音響データストリーム)に含まれる音響空間層の一例を示す図である。図2のマルチチャンネル音響信号は、2つの音響空間層を含んで構成される。第1の音響空間層200は5チャンネルの音響チャンネル(210〜250)であり、Music(背景音、環境音、音楽など)を再生する。第2の音響空間層300はステレオ方式(2ch)の音響チャンネル(310、320)であり、Dialogue(俳優のせりふ、会話など)を再生する。
図3は、図2に示すマルチチャンネル音響信号のメタデータの一例を示す図である。図3のメタデータ(Sound Essence 000)には、当該マルチチャンネル音響信号が2層の音響空間層(Sound Field)を持つことが記載され、マルチチャンネル音響信号全体の推奨ラウドネス(−24LKFS)及び番組ジャンル(Talk)が記載されている。第1の音響空間層200(Sound Field 01)は5chで構成され、推奨ラウドネスは−18LKFSであり、音響チャンネル信号210(Channel 01)がLch、音響チャンネル信号220(Channel 02)がRch、音響チャンネル信号230(Channel 03)がCch、音響チャンネル信号240(Channel 04)がBLch、音響チャンネル信号250(Channel 05)がBRchより再生されることが記載されている。第2の音響空間層300(Sound Field 02)は、2chのステレオ方式で推奨ラウドネスは−25LKFSであり、音響チャンネル信号310(Channel 06)がLch、音響チャンネル信号320(Channel 07)がRchより再生されることが記載されている。
復号化部12は、デマルチプレクサ11からの音響チャンネル信号をチャンネルごとに復号化し、メタデータに基づいて、音響チャンネル信号を音響空間層毎にグルーピングすする。
音量調整部15は、メタデータに記載されている各音響空間層の推奨ラウドネスに基づき、各音響空間層の音量を調整する。音量調整部15は、メタデータに記載された各音響空間層の推奨ラウドネスに基づいて各音響空間層の音量を調整するものであり、例えば図3の場合、音量調整部15は、第1の音響空間層200と第2の音響空間層300との推奨ラウドネスの割合(−18:−25)を維持して各音響空間層の音量を調整する。また、音量調整部15は、マルチチャンネル音響信号全体の音量を調整する場合、メタデータに記載された各音響空間層の推奨ラウドネスを基準としつつ、ラウドネスの変更幅を音響空間層毎変えて音響を調整することができる。例えば図3の場合、音量調整部15は、全体の音量を−24LKFSから−28LKFSへと下げるとき、第1の音響空間層200(音楽)は−18LKFSから−24LKFSへと比較的下げ幅を大きくし、第2の音響空間層300(音声)は−25LKFSから−26LKFSへと比較的下げ幅を小さくするなど、音響空間層の役割に応じて各音響空間層の音量を調整する。これにより、コンテンツに応じてより聞き取りやすい音量調整が可能となる。
再生チャンネル変換部13は、複数の音響空間層を一つの音響空間にまとめ、再生環境に合わせ、各再生スピーカに入力する音響チャンネル信号を生成する。
このように、本実施形態によれば、音量調整部15は、マルチチャンネル音響信号に含まれるメタデータに記載された各音響空間層の推奨ラウドネスに基づき、各音響空間層の音量を調整する。これにより、複数の音響空間層を持つマルチチャンネル音響方式に対応し、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整をすることが可能となる。また、高齢者で音声が聞き取りにくい場合など、音声の音響空間層のラウドネスを推奨値とし、背景音のラウドネスだけを小さくするなど、好みの割合で音響空間層の音量を調整することも可能である。
(第2の実施形態)
図4は、本発明の第2の実施形態に係る音響信号再生装置の構成を示す図である。第2の実施形態に係る音響信号再生装置は、第1の実施形態に係る音響信号再生装置にユーザから音量入力を受け付ける音量入力部16を加えた構成である。第1の実施形態と共通の機能ブロックについては、第1の実施形態と重複する説明は省略する。
図5は、音量入力部16の一例を示す図である。図5(a)において、キー161は放送チャンネルの選択キーであり、キー162及びキー163が音量入力部としてユーザからの音量入力を受け付ける。キー162はマルチチャンネル音響信号全体の音量を調整するものであり、音量調整部15は、キー162から音量入力を受けると、メタデータに記載された各音響空間層の推奨ラウドネスに基づいて、各音響空間層の音量を調整する。例えば図3の場合、音量調整部15は、第1の音響空間層200と第2の音響空間層300との推奨ラウドネスの割合(−18:−25)を維持して、各音響空間層の音量を調整する。キー163は音声(Dialogue)という特定の音響空間層の音量を調整するものであり、音量調整部15は、キー163から音量入力を受けると、メタデータにDialogueと記載された音響空間層の音量を調整する。例えば図3の場合、音量調整部15は、Dialogueである第2の音響空間層300の音量を調整する。図5(b)において、キー161は放送チャンネルの選択キーであり、キー164及びキー165が音量入力部としてユーザからの音量入力を受け付ける。キー164は音量調整の対象となる音響空間層を切り替えるものである。例えば図3の場合、キー164により、音量調整の対象が第1の音響空間層200と第2の音響空間層300との間で切り替えられる。キー165はキー164により選択された音響空間層の音量を調整するものであり、音量調整部15は、キー165から音量入力を受けると、キー164により選択された音響空間層の音量を調整する。例えば図3の場合、音量調整部15は、キー164の選択により、第1の音響空間層200又は第2の音響空間層300の音量を調整する。
このように、本実施形態によれば、音響信号再生装置10はユーザから音量入力を受け付ける音量入力部16を備え、音量調整部15は、メタデータに記載された各音響空間層の推奨ラウドネスに基づいて、音量入力に基づき各音響空間層の音量を調整する。これにより、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整をすることが可能となる。また、音声といった特定の音響空間層の音を大きく聞きたい場合など、ユーザの好みに応じて音響空間層毎に音量調整を行うことも可能である。これにより、背景音にまぎれた音声を聞き取りやすくすることができる。さらに、対象とする音響空間層を選択して音量調整を行うことも可能となる。これにより、音量調整部15は、ユーザの好みに応じたラウドネスの割合で、音量入力に基づき各音響空間層の音量を調整することができる。なお、音量入力部16のインターフェースは図5に限定されない。
(第3の実施形態)
図6は、本発明の第3の実施形態に係る音響信号再生装置の構成を示す図である。第3の実施形態に係る音響信号再生装置は、第1の実施形態に係る音響信号再生装置にマイクロホン17と、マイクロホン17により環境音を測定する環境測定部18とを加えた構成である。第1の実施形態と共通の機能ブロックについては、第1の実施形態と重複する説明は省略する。
マイクロホン17は周囲の環境音を集音し、環境測定部18は、環境音と再生音の差を基に再生環境の背景音の大きさを推定し、番組全体の音量調整値を音量調整部15に対して出力する。音量調整部15は、環境測定部18から音量調整値を受けると、メタデータに記載された各音響空間層の推奨ラウドネスに基づいて、各音響空間層の音量を調整する。また、番組全体の音量が大きくなりすぎる場合など、音声の音響空間層のラウドネスだけを大きくすることも可能である。例えば図3の場合、音量調整部15は、第1の音響空間層200と第2の音響空間層300との推奨ラウドネスの割合(−18:−25)を維持して、各音響空間層の音量を調整する。しかし、環境音が大きい場合は、第1の音響空間層200(音楽)と第2の音響空間層300(音声)のラウドネスを音声だけ大きく(−18:−20)する。なお、このとき実際の環境音にそのまま追従すると、音量調整値が絶えず変化してしまうため、環境測定部18は、環境音を時間方向に平滑化し、ある一定時間以上、調整が必要な変化が続いた場合のみ音量調整値を出力する構成としても良い。また、トーク番組では音声に関する音響空間層の音量だけを大きくするなど、番組ジャンルに合わせて音量を調整することも可能である。
このように、本実施形態によれば、音響信号再生装置10はマイクロホン17と、環境測定部18とを備え、音量調整部15は、メタデータに記載された各音響空間層の推奨ラウドネスの割合を維持、もしくはユーザの好みに応じて、または環境音に基づき各音響空間層の音量を調整する。これにより、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整をすることが可能となる。また、マイクロホン17及び環境測定部18で常に再生環境をモニターすることにより、生活音などに合わせ自動的に音量調整を行うことが可能となる。
図7は、本発明の一実施形態に係る音響信号作成装置の構成を示す図である。音響信号作成装置20は、ミキサ21と、符号化部22と、マルチプレクサ23(MUX)とを備える。
ミキサ21は、複数の音響信号をミキシングして、音響空間層毎の音響チャンネル信号として符号化部22に出力する。
符号化部22は、ミキサ21からの各音響空間層の音響チャンネル信号を符号化してマルチプレクサ23に出力する。
マルチプレクサ23(多重化部)は、各音響空間層の音響チャンネル信号と、各音響空間層の推奨ラウドネスを含むメタデータとを多重化するものであり、番組制作者等により入力されるメタデータと、符号化された音響チャンネル信号を多重化して複数の音響空間層を持つマルチチャンネル音響信号を作成する。マルチプレクサ23は、放送又は伝送によりマルチチャンネル音響信号を伝えるため、マルチチャンネル音響信号を多重化して電波またはIP回線等で家庭など遠隔地に伝送する。
このように、本実施形態によれば、マルチプレクサ23は、各音響空間層の音響チャンネル信号と、各音響空間層の推奨ラウドネスを含むメタデータとを多重化する。これにより、音響信号再生装置側で、複数の音響空間層を持つマルチチャンネル音響方式に対応し、音響空間層毎に規定された推奨ラウドネスを維持しながら音量調整をすることが可能となる。
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各部材、各手段、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の手段やステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。
10 音響信号再生装置
11 デマルチプレクサ
12 復号化部
13 再生チャンネル変換部
14 スピーカ
15 音量調整部
16 音量入力部
17 マイクロホン
18 環境測定部
20 音響信号作成装置
21 ミキサ
22 符号化部
23 マルチプレクサ(多重化部)

Claims (2)

  1. 番組を構成する部品をそれぞれマルチチャネンル音響信号からなる音響空間層として、複数の音響空間層を重ね合わさせて再生することで一つの番組が実現される、複数の音響空間層を含むマルチチャンネル音響信号の再生装置であって、
    前記マルチチャンネル音響信号に含まれ、番組を構成する音響空間層の数と、番組全体の推奨ラウドネスと、番組ジャンルと、各音響空間層を構成する音響チャンネル信号の数とその配置と、前記各音響空間層の推奨ラウドネスと、前記各音響空間層の内容と、が記載されたメタデータに基づき、前記各音響空間層の音量を調整することで番組全体の音量を調整する音量調整部と、
    ユーザからマルチチャンネル音響信号全体の音量入力と特定の音響空間層の音量入力を受け付ける音量入力部と、
    を備え、
    前記音量調整部は、前記各音響空間層の推奨ラウドネスを基準として、前記マルチチャンネル音響信号全体の音量を調整する音量入力に基づいて、前記各音響空間層の音量を同じ割合で連動させて調整する機能と、前記特定の音響空間層の音量を調整する音量入力に基づいて、前記特定の音響空間層の音量を調整する機能とを有することを特徴とする、音響信号再生装置。
  2. マイクロホンと、
    前記マイクロホンにより環境音を測定する環境測定部とを備え、
    前記音量調整部は、前記メタデータに記載された前記各音響空間層の推奨ラウドネス、前記音量入力、及び、前記環境音の測定結果に基づき前記各音響空間層の音量を調整する、請求項1に記載の音響信号再生装置。
JP2013079620A 2013-04-05 2013-04-05 音響信号再生装置 Expired - Fee Related JP6204681B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013079620A JP6204681B2 (ja) 2013-04-05 2013-04-05 音響信号再生装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013079620A JP6204681B2 (ja) 2013-04-05 2013-04-05 音響信号再生装置

Publications (2)

Publication Number Publication Date
JP2014204320A JP2014204320A (ja) 2014-10-27
JP6204681B2 true JP6204681B2 (ja) 2017-09-27

Family

ID=52354394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013079620A Expired - Fee Related JP6204681B2 (ja) 2013-04-05 2013-04-05 音響信号再生装置

Country Status (1)

Country Link
JP (1) JP6204681B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6510870B2 (ja) * 2015-04-20 2019-05-08 日本放送協会 番組音声チャンネル数変換装置、放送番組受信装置及び番組音声チャンネル数変換プログラム
RU2735095C2 (ru) * 2016-05-30 2020-10-28 Сони Корпорейшн Устройство и способ аудиообработки, и программа
WO2020071728A1 (ko) * 2018-10-02 2020-04-09 한국전자통신연구원 가상 현실에서 음향 확대 효과 적용을 위한 음향 신호 제어 방법 및 장치
KR102458962B1 (ko) 2018-10-02 2022-10-26 한국전자통신연구원 가상 현실에서 음향 확대 효과 적용을 위한 음향 신호 제어 방법 및 장치

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4706666B2 (ja) * 2007-05-28 2011-06-22 日本ビクター株式会社 音量制御装置及びコンピュータプログラム
EP2347556B1 (en) * 2008-09-19 2012-04-04 Dolby Laboratories Licensing Corporation Upstream signal processing for client devices in a small-cell wireless network
JP5267115B2 (ja) * 2008-12-26 2013-08-21 ソニー株式会社 信号処理装置、その処理方法およびプログラム
JP6185457B2 (ja) * 2011-04-28 2017-08-23 ドルビー・インターナショナル・アーベー 効率的なコンテンツ分類及びラウドネス推定
TWI651005B (zh) * 2011-07-01 2019-02-11 杜比實驗室特許公司 用於適應性音頻信號的產生、譯碼與呈現之系統與方法

Also Published As

Publication number Publication date
JP2014204320A (ja) 2014-10-27

Similar Documents

Publication Publication Date Title
AU2001231228B2 (en) Use of voice-to-remaining audio (VRA) in consumer applications
KR102529121B1 (ko) 음향 신호의 렌더링 방법, 장치 및 컴퓨터 판독 가능한 기록 매체
KR101682323B1 (ko) 음향 신호 기술 방법, 음향 신호 생성 장치 및 음향 신호 재생 장치
WO2010109918A1 (ja) 復号化装置、符号化復号化装置および復号化方法
JP6204681B2 (ja) 音響信号再生装置
JP5909100B2 (ja) ラウドネスレンジ制御システム、伝送装置、受信装置、伝送用プログラム、および受信用プログラム
JP5338053B2 (ja) 波面合成信号変換装置および波面合成信号変換方法
JP6204682B2 (ja) 音響信号再生装置
JP4706666B2 (ja) 音量制御装置及びコンピュータプログラム
Francombe et al. Production and reproduction of program material for a variety of spatial audio formats
JP6228388B2 (ja) 音響信号再生装置
JP6204683B2 (ja) 音響信号再生装置、音響信号作成装置
JP6204680B2 (ja) 音響信号再生装置、音響信号作成装置
JP6204684B2 (ja) 音響信号再生装置
JP6228389B2 (ja) 音響信号再生装置
JP2014204316A (ja) 音響信号再生装置、音響信号作成装置
KR20090109425A (ko) 가상 입체 음향 구현 장치 및 방법
KR101287086B1 (ko) 멀티미디어 재생 장치 및 방법
JP6228387B2 (ja) 音響信号再生装置
JP2019097164A (ja) 音響処理装置及びプログラム
JP5604365B2 (ja) 多チャンネルスピーカ装置
JP5032921B2 (ja) 音像制御装置および音像制御方法
JP2018101824A (ja) マルチチャンネル音響の音声信号変換装置及びそのプログラム
JP2014222859A (ja) 音響信号再生装置、音響信号作成装置
JP6670802B2 (ja) 音響信号再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170901

R150 Certificate of patent or registration of utility model

Ref document number: 6204681

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees