JP2018061729A - Image processing system and control method thereof - Google Patents
Image processing system and control method thereof Download PDFInfo
- Publication number
- JP2018061729A JP2018061729A JP2016202231A JP2016202231A JP2018061729A JP 2018061729 A JP2018061729 A JP 2018061729A JP 2016202231 A JP2016202231 A JP 2016202231A JP 2016202231 A JP2016202231 A JP 2016202231A JP 2018061729 A JP2018061729 A JP 2018061729A
- Authority
- JP
- Japan
- Prior art keywords
- image
- golf ball
- image processing
- club head
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 81
- 238000000034 method Methods 0.000 title claims description 37
- 238000003384 imaging method Methods 0.000 claims description 12
- 238000012805 post-processing Methods 0.000 claims description 5
- 238000005286 illumination Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 13
- 230000033001 locomotion Effects 0.000 abstract description 11
- 230000008569 process Effects 0.000 description 32
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 26
- 229910052742 iron Inorganic materials 0.000 description 13
- 238000012544 monitoring process Methods 0.000 description 9
- 238000013500 data storage Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
Abstract
Description
本技術は、画像処理システムおよびその制御方法に関し、特に、プレーヤが自分のスイング動作をよりイメージし易くすることができるようにした画像処理システムおよびその制御方法に関する。 The present technology relates to an image processing system and a control method thereof, and more particularly, to an image processing system and a control method thereof that allow a player to more easily image his / her swing motion.
ゴルフの上達にはスイング動作やゴルフクラブの性能が関係する。そのため、ゴルフ練習場やゴルフクラブ等を販売する販売店では、プレーヤであるユーザがゴルフボールを打ったときのスイング動作を解析したり、ゴルフボールの飛距離や軌道をシミュレートする解析装置が置かれている。 Advancing golf is related to swing performance and golf club performance. For this reason, in a store that sells golf driving ranges, golf clubs, etc., an analysis device is installed that analyzes the swing motion when a user who is a player hits a golf ball, or simulates the flight distance and trajectory of the golf ball. It is.
例えば、ゴルフボールを打つ瞬間であるインパクト時のクラブヘッド(ゴルフクラブのヘッド)の挙動をスマートフォン等の携帯端末で容易に撮影可能としたシステムが提案されている(例えば、特許文献1参照)。 For example, a system has been proposed in which the behavior of a club head (golf club head) at impact, which is the moment of hitting a golf ball, can be easily photographed with a mobile terminal such as a smartphone (for example, see Patent Document 1).
しかしながら、これまでの解析装置では、別の位置に配置されたディスプレイなどに解析結果を表示させるものが多く、プレーヤが実際にスイングした場所とは離れた場所に表示されるために、自分のスイング動作をイメージしにくいという側面があった。 However, many of the conventional analysis devices display the analysis result on a display or the like arranged at a different position, and the player is displayed in a place away from the place where the player actually swings. There was an aspect that it was difficult to imagine the movement.
本技術は、このような状況に鑑みてなされたものであり、プレーヤが自分のスイング動作をよりイメージし易くするものである。 The present technology has been made in view of such a situation, and makes it easier for a player to imagine his own swing motion.
本技術の一側面の画像処理システムは、ゴルフボールを打撃するためゴルフクラブをスイングしたときの前記ゴルフクラブのクラブヘッドと前記ゴルフボールを、上方から撮影する撮影部と、前記撮影部によって撮影された前記クラブヘッドと前記ゴルフボールの画像を、実物大で床面に投影表示させる投影部とを備える。 An image processing system according to one aspect of the present technology is photographed by a photographing unit that photographs the club head of the golf club and the golf ball from above when the golf club is swung to hit the golf ball, and the photographing unit. And a projection unit for projecting and displaying an image of the club head and the golf ball on the floor surface in actual size.
本技術の一側面の画像処理システムの制御方法は、撮影部と、投影部とを備える画像処理システムの前記撮影部が、ゴルフボールを打撃するためゴルフクラブをスイングしたときの前記ゴルフクラブのクラブヘッドと前記ゴルフボールを、上方から撮影し、前記投影部が、前記撮影部によって撮影された前記クラブヘッドと前記ゴルフボールの画像を、実物大で床面に投影表示させる。 A control method of an image processing system according to an aspect of the present technology is the club of the golf club when the shooting unit of the image processing system including a shooting unit and a projection unit swings the golf club to hit the golf ball. The head and the golf ball are photographed from above, and the projection unit projects and displays the club head and the golf ball image photographed by the photographing unit on the floor surface in actual size.
本技術の一側面においては、ゴルフボールを打撃するためゴルフクラブをスイングしたときの前記ゴルフクラブのクラブヘッドと前記ゴルフボールが、上方から撮影され、撮影された前記クラブヘッドと前記ゴルフボールの画像が、実物大で床面に投影表示される。 In one aspect of the present technology, the club head and the golf ball of the golf club when the golf club is swung to hit the golf ball are photographed from above, and the photographed club head and the golf ball are captured. Is projected on the floor surface in actual size.
画像処理システムは、複数の装置で構成されてもよいし、一体化された1つの装置であっても良い。 The image processing system may be composed of a plurality of devices, or may be a single integrated device.
本技術の一側面によれば、プレーヤが自分のスイング動作をよりイメージし易くすることができる。 According to one aspect of the present technology, the player can more easily imagine his / her swing motion.
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。 Note that the effects described here are not necessarily limited, and may be any of the effects described in the present disclosure.
以下、本技術を実施するための形態(以下、実施の形態という)について説明する。 Hereinafter, modes for carrying out the present technology (hereinafter referred to as embodiments) will be described.
<画像処理システムの構成例>
図1は、本技術を適用した画像処理システムの一実施の形態の構成例を示している。
<Configuration example of image processing system>
FIG. 1 shows a configuration example of an embodiment of an image processing system to which the present technology is applied.
図1の画像処理システム1は、赤外ライト10、カメラ11、画像処理装置12、プロジェクタ13、および、ミラー14を含んで構成され、プレーヤ21がゴルフボール23を打撃するためゴルフクラブ22をスイングしたときのクラブヘッド22Aの軌道を撮影して表示するシステムである。カメラ11と画像処理装置12との間、および、画像処理装置12とプロジェクタ13との間は、例えば、USB(Universal Serial Bus)ケーブルやHDMI(登録商標)(High-Definition Multimedia Interface)ケーブル等の所定の通信ケーブルで接続されている。
The image processing system 1 shown in FIG. 1 includes an
赤外ライト10(照明部)は、カメラスタンド15によってゴルフボール23の上方の位置に固定されており、カメラ11の撮影範囲31を赤外光により照明する。赤外ライト10は、例えば、赤外光を発するLED(Light Emitting Diode)等で構成され、赤外光を常時点灯させるか、または、点滅(一定の時間間隔で点灯)させる。本実施の形態では、カメラ11の撮影タイミングとは特に同期をとらないが、同期を取って点灯(点滅)させてもよい。
The infrared light 10 (illuminating unit) is fixed to a position above the
カメラ11(撮影部)は、赤外ライト10と並んでカメラスタンド15に固定されており、床面に向かう方向が撮影方向となるように配置されている。カメラ11は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)センサなどの撮像素子と、その撮像素子の前面に配置された可視光カットフィルタを有する。
The camera 11 (photographing unit) is fixed to the
カメラ11は、画像処理装置12から指示された撮影タイミングで撮影を行い、その結果得られた複数枚の撮影画像を画像処理装置12に供給する。撮影画像は、赤外ライト10から赤外光が照射された被写体(クラブヘッド22Aやゴルフボール23)を撮像したモノクロ画像となる。図1において破線で示されているカメラ11の撮影範囲31には、プレーヤ21がゴルフボール23を打撃するためゴルフクラブ22をスイングしたときのクラブヘッド22A、ゴルフボール23、およびミラー14が含まれる。
The
画像処理装置12は、カメラ11の撮影タイミングを制御するとともに、カメラ11で撮影された複数枚の撮影画像を取得する。そして、画像処理装置12は、複数枚の撮影画像に対して所定の画像処理を施し、画像処理後の撮影画像(以下、処理後画像という。)をプロジェクタ13に供給する。
The
プロジェクタ13(投影部)は、例えば、短焦点型のプロジェクタであり、プレーヤ21と対向する正面方向であって、床面に近い位置に配置される。プロジェクタ13は、画像処理装置12から供給される処理後画像を床面に投影表示させる。プロジェクタ13の投影範囲32は、図1に示されるように、プレーヤ21がゴルフボール23を打撃するためゴルフクラブ22をスイングしたときのインパクト直前のクラブヘッド22Aとゴルフボール23が置かれていた位置を含む。
The projector 13 (projection unit) is, for example, a short focus type projector, and is disposed in a front direction facing the
ミラー14は、クラブヘッド22Aをプレーヤ21と対向する方向から見たときの面、換言すれば、クラブヘッド22Aのフェース面(打球面)をクラブヘッド22Aの正面としてクラブヘッド22Aの側面がカメラ11で撮影されるような角度に傾斜されて、カメラ11の撮影範囲31内に配置されている。ミラー14は、例えば、画像処理装置12に対して所定の位置14Aで固定され、所定の範囲内で角度を調整する調整機構を備える。
The
図2は、図1に示した状況でカメラ11が撮影した1枚の撮影画像の例を示している。
FIG. 2 shows an example of one shot image taken by the
カメラ11は、クラブヘッド22Aおよびゴルフボール23と、クラブヘッド22Aおよびゴルフボール23の側面部分が映り込んだミラー14を上方から撮影する。これにより、カメラ11によって撮影された撮影画像41には、上面部分を捉えたクラブヘッド22Aおよびゴルフボール23と、ミラー14に映り込んだクラブヘッド22Aおよびゴルフボール23の側面部分が含まれる。ミラー14に映り込んだクラブヘッド22Aの側面部分とは、プロジェクタ13からプレーヤ21に向かう方向からクラブヘッド22Aを見たときに見えるクラブヘッド22Aの部分である。
The
<画像処理システムの制御ブロック図>
図3は、画像処理システム1の制御ブロック図である。
<Control block diagram of image processing system>
FIG. 3 is a control block diagram of the image processing system 1.
画像処理装置12は、画像取得部51、制御部52、ループメモリ53、データ記憶部54、及び、画像出力部55により構成される。
The
カメラ11は、制御部52の制御に従い、撮影を開始し、その結果得られる複数枚の撮影画像を画像取得部51に供給する。カメラ11は、制御部52の制御に応じて、30乃至60フレーム/秒程度のフレームレート(低フレームレート)で撮影を行う場合と、500乃至1000フレーム/秒程度のフレームレート(高フレームレート)で撮影を行う場合がある。
The
画像取得部51は、カメラ11から供給された複数枚の撮影画像を取得し、制御部52に供給する。
The
制御部52は、画像処理システム1全体の動作を制御する。画像処理システム1の動作モードには、ボール監視モードと、高速度ループ撮影モードとがあり、制御部52は、画像処理システム1の動作モードを制御する。ボール監視モードは、撮影範囲31内にゴルフボール23が置かれたか否かを監視するモードである。高速度ループ撮影モードは、プレーヤ21がゴルフボール23を打撃するためゴルフクラブ22をスイングしたときのインパクト直前のクラブヘッド22Aを撮影するモードである。
The
ボール監視モードでは、制御部52は、カメラ11を制御して、低フレームレートによる撮影を行わせる。そして、制御部52は、画像取得部51を介して取得される、低フレームレートの撮影画像に対して、データ記憶部54に予め記憶されているゴルフボール23の画像とパターンマッチングを行い、撮影範囲31内にゴルフボール23が置かれたか否かを判定する。制御部52は、ゴルフボール23が置かれたことが検出された場合、画像処理システム1の動作モードを、ボール監視モードから、高速度ループ撮影モードに変更する。
In the ball monitoring mode, the
一方、高速度ループ撮影モードでは、制御部52は、カメラ11を制御して、高フレームレートによる撮影を行わせる。そして、制御部52は、画像取得部51を介して取得される、高フレームレートの撮影画像をループメモリ53に記憶させる。
On the other hand, in the high-speed loop shooting mode, the
ループメモリ53は、画像を所定枚数記憶する記憶容量を有し、記憶容量一杯に画像が記憶された状態で次の画像が供給されたときには、記憶した時刻が最も古い画像から順次上書きして更新するバッファメモリである。ループメモリ53は、制御部52から供給される、高フレームレートの撮影画像を、所定枚数(例えば、100枚)記憶する。
The
画像処理システム1では、動作モードと関係しない所定のタイミングで、ループメモリ53に記憶されている複数枚の撮影画像それぞれに所定の画像処理を施すことにより処理後画像を生成して、生成した処理後画像を床面上の投影範囲32に投影表示させるスロー再生処理が実行される。
The image processing system 1 generates a processed image by performing predetermined image processing on each of a plurality of captured images stored in the
高フレームレートで撮影された撮影画像をループメモリ53に記憶させる処理は、クラブヘッド22Aによるゴルフボール23の打撃が検出されてから一定時間後に終了する。撮影画像のループメモリ53への記憶が終了すると、スロー再生処理が開始される。
The process of storing the shot image shot at the high frame rate in the
スロー再生処理では、制御部52は、ループメモリ53に記憶されている複数枚の撮影画像を時系列に(撮影時刻の古い順に)取得する。そして、制御部52は、取得した撮影画像に対して、ミラー14を捉えた領域であるミラー領域を所定の位置に移動する画像加工処理を実行する。したがって、制御部52は、撮影画像に対して画像加工処理を実行する画像処理部としても機能する。制御部52は、画像加工処理により撮影画像から処理後画像を生成し、生成した処理後画像を表示用画像として画像出力部55に供給して、プロジェクタ13に投影表示させる。
In the slow playback process, the
図4は、ループメモリ53に記憶されている撮影画像と、制御部52によって画像加工処理が施された処理後画像との違いを示す図である。
FIG. 4 is a diagram illustrating a difference between a captured image stored in the
図2に示した撮影画像41から、図4に示される処理後画像62が生成される。処理後画像62は、撮影画像41よりも縦方向(床面上のプレーヤ21とプロジェクタ13を結ぶ方向)の画像の長さが短くなっており、クラブヘッド22Aおよびゴルフボール23の側面部分が映り込んだミラー14を捉えたミラー領域63を、元の撮影画像41の位置よりも画像中心寄りに(上面部分を捉えたクラブヘッド22Aおよびゴルフボール23の方向に)移動した画像となっている。言い換えれば、撮影画像41は、破線で示されるように、処理後画像62を上方向に拡張した画像に相当する。
A
処理後画像62は、床面上に表示されたときのクラブヘッド22Aおよびゴルフボール23のサイズが実際のものと同じサイズ(実物大)となっている。クラブヘッド22Aおよびゴルフボール23のサイズが実物大となるように撮影画像41をそのまま表示すると、撮影画像41のミラー領域63が床面上のミラー14の設置位置に表示されてしまう。そのため、処理後画像62では、処理後画像62が床面に投影表示されたときに、クラブヘッド22Aとゴルフボール23の上面部分を捉えた映像の近くの床面にミラー領域63が表示されるように、ミラー領域63が移動されている。なお、本実施の形態では、床面上に表示されたときのクラブヘッド22Aおよびゴルフボール23のサイズを実物大とするための縮尺の調整機能は画像処理装置12(例えば、画像出力部55)が備えることとするが、プロジェクタ13で表示倍率を調整することもできる。
In the processed
図5は、スロー再生処理によって床面上の投影範囲32に投影表示される複数枚の処理後画像の例を示している。
FIG. 5 shows an example of a plurality of processed images projected and displayed in the
スロー再生処理では、図5に示されるように、生成された複数枚の処理後画像が、撮影された順番で順に床面に表示される。スロー再生処理が終了されるまで、複数枚(図5では5枚)の処理後画像のスロー再生が繰り返し実行される。 In the slow playback process, as shown in FIG. 5, the generated plurality of processed images are sequentially displayed on the floor in the order in which they were captured. Until the slow reproduction process is completed, slow reproduction of a plurality of processed images (five images in FIG. 5) is repeatedly performed.
図3の説明に戻り、データ記憶部54は、画像処理システム1の制御や処理に必要なデータやプログラムを記憶する。例えば、データ記憶部54は、低フレームレートで撮像された撮像画像とパターンマッチングを行うための参照画像を記憶する。
Returning to the description of FIG. 3, the
画像出力部55は、制御部52から表示用画像として供給される複数枚の処理後画像を順次プロジェクタ13に出力する。プロジェクタ13は、画像出力部55から供給される処理後画像を床面上の投影範囲32に投影表示させる。プロジェクタ13が投影表示する複数枚の処理後画像の画像どうしの時間間隔(表示間隔)は、制御部52によって、撮影間隔よりも長く設定される。すなわち、プロジェクタ13は、複数枚の処理後画像を床面上の投影範囲32にスロー再生する。
The
<クラブ画像表示処理のフローチャート>
次に、図6のフローチャートを参照して、画像処理システム1によるクラブ画像表示処理について説明する。この処理は、例えば、画像処理システム1全体の電源スイッチでもある画像処理装置12の電源スイッチがオンされたときに開始される。
<Flowchart of club image display processing>
Next, club image display processing by the image processing system 1 will be described with reference to the flowchart of FIG. This process is started, for example, when the power switch of the
初めに、ステップS1において、画像処理装置12の制御部52は、動作モードをボール監視モードに設定し、カメラ11を制御して、低フレームレートの撮影を開始させる。カメラ11は、例えば、60フレーム/秒のフレームレートによる撮影を開始して、その結果得られた撮影画像41を画像取得部51へ順次供給する。画像取得部51は、カメラ11から供給された撮影画像41を制御部52に供給する。
First, in step S1, the
ステップS2において、制御部52は、画像取得部51から供給された撮影画像41に対して、データ記憶部54に記憶されている参照画像を用いてパターンマッチングを行い、ゴルフボール23が検出されたかを判定する。ステップS2で、ゴルフボール23が検出されたと判定されるまで、ステップS2の処理が繰り返される。
In step S <b> 2, the
そして、ステップS2で、撮影画像41にゴルフボール23が検出されたと判定された場合、処理はステップS3に進み、制御部52は、パターンサーチされたゴルフボール23の位置(座標)に基づいて、検出されたゴルフボール23が一定期間静止しているかを判定する。
If it is determined in step S2 that the
ステップS3で、ゴルフボール23が一定期間静止していないと判定された場合、処理はステップS2に戻り、上述した処理が繰り返される。したがって、プレーヤ21がゴルフボール23を所定の位置に置いて、ゴルフボール23の動きが停止するまでは、ゴルフボール23の検出が継続して実行される。
If it is determined in step S3 that the
そして、ステップS3で、ゴルフボール23が一定期間静止していると判定された場合、処理はステップS4に進み、制御部52は、動作モードを高速度ループ撮影モードに設定し、高速度ループ撮影を開始させる。具体的には、制御部52は、カメラ11を制御して、高フレームレートの撮影を開始させる。カメラ11は、例えば、1000フレーム/秒程度のフレームレートで撮影を開始して、その結果得られた撮影画像41を画像取得部51へ順次供給する。画像取得部51は、カメラ11から供給された撮影画像41を制御部52に供給し、制御部52は、供給された撮影画像41をループメモリ53に記憶させる。
If it is determined in step S3 that the
ステップS5において、制御部52は、ステップS1乃至S9の繰り返し処理により、前回のステップS9の処理で開始された処理後画像のスロー再生が実行されている場合、スロー再生を停止させる。1回目のステップS5の処理では、スロー再生が実行されていないので、ステップS5の処理は省略される。
In step S5, the
ステップS6において、制御部52は、カメラ11から順次供給される高フレームレートの撮影画像のゴルフボール23を検出し、検出されたゴルフボール23の位置(座標)に基づいて、ゴルフボール23が動いたか否かを判定する。ステップS6の処理は、所定の位置に置かれたゴルフボール23がクラブヘッド22Aで打撃されることにより動いた瞬間をインパクトの瞬間として検出する処理である。この処理は、ゴルフボール23が動いたと判定されるまで、繰り返し実行される。
In step S <b> 6, the
そして、ステップS6で、ゴルフボール23が動いたと判定された場合、処理はステップS7に進み、制御部52は、検出されたインパクトの瞬間から一定時間が経過したかを判定する。例えば、制御部52は、インパクトの瞬間から予め定めた所定数、例えば、10枚の撮影画像41を取得できる時間を一定時間として規定し、一定時間が経過したと判定されるまで、ステップS7の処理を繰り返す。
If it is determined in step S6 that the
そして、ステップS7で、検出されたインパクトの瞬間から一定時間が経過したと判定された場合、処理はステップS8に進み、制御部52は、高速度ループ撮影を停止させる。その結果、ループメモリ53が100枚の撮影画像を記憶する記憶容量を有しているとすると、インパクト直後の10枚の撮影画像と、インパクト直前の90枚の撮影画像が、ループメモリ53に記憶されることになる。
If it is determined in step S7 that a certain time has elapsed from the detected moment of impact, the process proceeds to step S8, and the
ステップS9において、制御部52は、ループメモリ53に記憶されている複数枚の撮影画像を時系列に取得して処理後画像を生成し、生成した処理後画像を、画像出力部55を介してプロジェクタ13に供給し、スロー再生させる。プロジェクタ13は、処理後画像を床面に投影表示させる。
In step S <b> 9, the
ステップS9の後、処理はステップS1に戻され、上述した処理が繰り返される。ステップS9で開始された処理後画像のスロー再生は、次のステップS5で、処理後画像のスロー再生を停止させる処理が実行されるまで継続される。 After step S9, the process returns to step S1, and the above-described process is repeated. The slow reproduction of the processed image started in step S9 is continued until the processing for stopping the slow reproduction of the processed image is executed in the next step S5.
画像処理システム1では、以上のようにクラブ画像表示処理が実行される。 In the image processing system 1, the club image display process is executed as described above.
以上のクラブ画像表示処理によれば、プレーヤ21がゴルフボール23を打撃するためゴルフクラブ22をスイングしたときのクラブヘッド22Aの軌道をカメラ11が撮影する。プロジェクタ13は、プレーヤ21が実際にスイングしたときのクラブヘッド22Aと同じ位置の床面に、実物大で、撮影したクラブヘッド22Aの軌道(軌跡)を投影表示する。
According to the club image display process described above, the
これまでのクラブヘッド22Aの軌道を撮影して表示する画像処理システムでは、プレーヤ21が実際にスイングした場所とは離れた場所に設置されたディスプレイ等に表示しており、プレーヤ21が感覚的に分かりにくかった。
In the conventional image processing system that captures and displays the trajectory of the
これに対して、画像処理システム1によれば、プレーヤ21が実際にスイングしたときのクラブヘッド22Aと同じ位置の床面に、実物大で、プレーヤ21によるクラブヘッド22Aの軌道(軌跡)を表示するので、クラブヘッド22Aの軌道の確認、把握が容易となる。すなわち、プレーヤ21が自分のスイング動作をよりイメージし易くなる。
On the other hand, according to the image processing system 1, the track of the
クラブ画像表示処理では、インパクト前のゴルフボール23とクラブヘッド22Aの軌道を床面上に投影表示するスロー再生中に、次の打撃のためのゴルフボール23が床面上に置かれたか否かを検出する必要がある。
In the club image display process, whether or not the
仮に、カメラ11が可視光を撮影するカメラである場合、制御部52は、次の打撃のために床面上に置かれたゴルフボール23と、スロー再生により床面上に表示されているゴルフボール23との判別が難しく、次の打撃のために床面上に置かれたゴルフボール23の検出を正しく行うことができない場合がある。
If the
これに対して、画像処理システム1によれば、赤外ライト10が撮影範囲31を赤外光により照射し、撮像素子の前面に可視光カットフィルタを有するカメラ11は、赤外光が照射された被写体を撮影する。そのため、撮影画像には、スロー再生により床面上に表示されているゴルフボール23が映ることはないので、次の打撃のために床面上に置かれたゴルフボール23のみを検出することができる。
On the other hand, according to the image processing system 1, the
従って、画像処理システム1によれば、赤外光を照射および撮影することで、同一床面におけるスロー再生とボール監視を両立することができる。 Therefore, according to the image processing system 1, it is possible to achieve both slow reproduction and ball monitoring on the same floor surface by irradiating and photographing infrared light.
以下、画像処理システム1の変形例について説明する。 Hereinafter, modifications of the image processing system 1 will be described.
<変形例1>
図7は、高速度ループ撮影中の床面の撮影範囲31を上方から見た図である。
<Modification 1>
FIG. 7 is a view of the
上述した実施の形態では、画像処理装置12は、高速度ループ撮影を実行している間、床面上には何も投影表示させていない。
In the above-described embodiment, the
しかしながら、例えば、図7に示されるような、プレーヤ21に対して水平で、ゴルフボール23上を通過するガイド線71など、プレーヤ21がスイングする際に参考となるようなガイド画像を表示してもよい。
However, for example, a guide image such as a
<変形例2>
画像処理システム1は、プレーヤ21がゴルフクラブ22をスイングしたときのクラブヘッド22Aの軌道を撮影して表示するが、例えば、ドライバ(1番ウッド)やアイアンをスイングする場合のスピードと、パターをスイングする場合のスピードは、異なる。
<Modification 2>
The image processing system 1 shoots and displays the trajectory of the
そのため、例えば、パターでスイングする動作を、ドライバと同じ撮影スピードで撮影すると、ループメモリ53に記憶される撮影画像は、ほぼ動きがない画像となってしまう。反対に、ドライバでスイングする動作を、パターと同じ撮影スピードで撮影すると、ループメモリ53に記憶される撮影画像のほとんどが、ゴルフクラブ22を振り上げている最中のゴルフボール23だけが映っている撮影画像となり、クラブヘッド22Aは一瞬しか表示されなくなる。
Therefore, for example, if the swinging motion with a putter is shot at the same shooting speed as the driver, the shot image stored in the
そこで、画像処理システム1は、ゴルフクラブ22の種類等に応じて、撮影スピードやスロー再生の速度などを変更できるように構成することができる。
Therefore, the image processing system 1 can be configured to change the shooting speed, the slow playback speed, and the like according to the type of the
例えば、画像処理システム1は、撮影スピードをドライバやアイアンに合わせたドライバアイアンモードと、パターに合わせたパターモードの2つに分け、プレーヤ21の操作入力に従って、ドライバアイアンモードとパターモードのスピードモードを変更する。ドライバアイアンモードとパターモードのスピードモード変更操作を受け付けるため、スロー再生中に床面上に表示される処理後画像62に、操作入力用GUI(Graphical User Interface)が追加される。
For example, the image processing system 1 divides the shooting speed into a driver iron mode that matches the driver and iron, and a putter mode that matches the putter, and the speed mode of the driver iron mode and the putter mode according to the operation input of the
図8は、操作入力用GUIが追加された処理後画像62の例を示している。
FIG. 8 shows an example of the processed
制御部52は、スロー再生中、図8Aに示される処理後画像62を生成してプロジェクタ13に供給し、床面に投影表示させる。
During the slow reproduction, the
図8Aは、操作入力用GUIとしてのメニューアイコン81を所定の位置に配置した処理後画像62の例を示している。
FIG. 8A shows an example of the processed
制御部52は、ボール監視モードにおいて、床面上にゴルフボール23が置かれたか否かの監視とともに、メニューアイコン81を選択する操作がなされたか否かも監視する。具体的には、プレーヤ21は、メニューアイコン81の選択操作として、クラブヘッド22Aを床面のメニューアイコン81上に置く動作を行い、制御部52は、その動作を、クラブヘッド22Aの位置をパターンサーチすることで検出する。
In the ball monitoring mode, the
メニューアイコン81の選択操作が検出された場合、制御部52は、図8Bに示される処理後画像62を生成し、プロジェクタ13に投影表示させる。
When the selection operation of the
図8Bは、操作入力用GUIとしてのドライバアイアンモードアイコン82A及びパターモードアイコン82Bを所定の位置に配置した処理後画像62の例を示している。
FIG. 8B shows an example of the processed
制御部52は、ボール監視モードにおいて、床面上にゴルフボール23が置かれたか否かの監視とともに、ドライバアイアンモードアイコン82Aまたはパターモードアイコン82Bを選択する操作がなされたか否かも監視する。
In the ball monitoring mode, the
ドライバアイアンモードアイコン82Aの位置にクラブヘッド22Aが置かれたことが検出された場合、制御部52は、ドライバアイアンモードが選択されたことを検出する。ドライバアイアンモードでは、制御部52は、高速度ループ撮影モード時の撮影スピード(撮影フレームレート)を、例えば、1000フレーム/秒に設定する。
When it is detected that the
一方、パターモードアイコン82Bの位置にクラブヘッド22Aが置かれたことが検出された場合、制御部52は、パターモードが選択されたことを検出する。パターモードでは、制御部52は、高速度ループ撮影モード時の撮影スピードを、例えば、500フレーム/秒に設定する。
On the other hand, when it is detected that the
さらに、ドライバアイアンモードとパターモードとで、高速度ループ撮影モード時の撮影スピードに加えて、スロー再生する際の再生スピード(各処理後画像を表示する時間間隔)を変更したり、ループメモリ53に記憶される画像記憶枚数を変更してもよい。
Further, in the driver iron mode and the putter mode, in addition to the shooting speed in the high-speed loop shooting mode, the playback speed for slow playback (time interval for displaying each processed image) is changed, or the
あるいはまた、ドライバアイアンモードとパターモードとで、再生スピード、または、画像記憶枚数のどちらかが変更されるようにしてもよいし、撮影スピード、再生スピード、および、画像記憶枚数のなかのいずれか2つ以上が変更されてもよい。さらには、ドライバアイアンモードまたはパターモードのモード選択ではなく、撮影スピード、再生スピード、および、画像記憶枚数の1つ以上を、個別に選択、変更できるようにしてもよい。 Alternatively, either the playback speed or the number of stored images may be changed between the driver iron mode and the putter mode, or one of the shooting speed, the playback speed, and the number of stored images. Two or more may be changed. Furthermore, instead of selecting the driver iron mode or the putter mode, one or more of the shooting speed, the reproduction speed, and the number of stored images may be individually selected and changed.
<変形例3>
図9は、スロー再生におけるその他の表示例を示している。
<Modification 3>
FIG. 9 shows another display example in slow playback.
上述した例では、クラブヘッド22Aが映り込んだ撮影画像であるクラブ画像のミラー領域63を所定の位置に移動した処理後画像を撮影された順番で順次表示するようにしたが、図9に示されるように、時間経過に応じた所定位置のクラブヘッド22Aの画像を、その前のクラブヘッド22Aの画像と累積表示されるように合成した合成画像を生成し、表示するようにしてもよい。
In the above-described example, the processed image obtained by moving the
図9に示される各合成画像は、クラブヘッド22Aが映っていない撮影画像をベース画像とし、ベース画像と、1以上のクラブ画像それぞれとの差分で構成される1以上の差分画像を求め、得られた1以上の差分画像とベース画像とを合成することにより生成することができる。
Each composite image shown in FIG. 9 is obtained by obtaining one or more difference images each including a difference between the base image and each of the one or more club images, with the captured image not showing the
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているマイクロコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。 The series of processes described above can be executed by hardware or can be executed by software. When a series of processing is executed by software, a program constituting the software is installed in the computer. Here, the computer includes, for example, a general-purpose personal computer that can execute various functions by installing a microcomputer incorporated in dedicated hardware and various programs.
図10は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。 FIG. 10 is a block diagram illustrating an example of a hardware configuration of a computer that executes the above-described series of processing by a program.
コンピュータにおいて、CPU(Central Processing Unit)101,ROM(Read Only Memory)102,RAM(Random Access Memory)103は、バス104により相互に接続されている。
In a computer, a CPU (Central Processing Unit) 101, a ROM (Read Only Memory) 102, and a RAM (Random Access Memory) 103 are connected to each other via a
バス104には、さらに、入出力インタフェース105が接続されている。入出力インタフェース105には、入力部106、出力部107、記憶部108、通信部109、及びドライブ110が接続されている。
An input /
入力部106は、タッチパネル、キーボード、マウス、マイクロホンなどよりなる。出力部107は、ディスプレイ、スピーカなどよりなる。記憶部108は、ハードディスクや不揮発性のメモリなどよりなる。通信部109は、ネットワークインタフェースなどよりなる。ドライブ110は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブル記録媒体111を駆動する。
The
以上のように構成されるコンピュータでは、CPU101が、例えば、記憶部108に記憶されているプログラムを、入出力インタフェース105及びバス104を介して、RAM103にロードして実行することにより、上述した一連の処理が行われる。
In the computer configured as described above, the
コンピュータでは、プログラムは、リムーバブル記録媒体111をドライブ110に装着することにより、入出力インタフェース105を介して、記憶部108にインストールすることができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して、通信部109で受信し、記憶部108にインストールすることができる。その他、プログラムは、ROM102や記憶部108に、あらかじめインストールしておくことができる。
In the computer, the program can be installed in the
本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる場合はもちろん、必ずしも時系列的に処理されなくとも、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで実行されてもよい。 In this specification, the steps described in the flowchart are not necessarily processed in chronological order, but are performed in parallel or when they are called in chronological order according to the described order. It may be executed at a necessary timing.
本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。 In this specification, the system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether all the components are in the same housing. Accordingly, a plurality of devices housed in separate housings and connected via a network and a single device housing a plurality of modules in one housing are all systems. .
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。 Embodiments of the present technology are not limited to the above-described embodiments, and various modifications can be made without departing from the gist of the present technology.
例えば、上述した実施の形態では、プロジェクタ13は、短焦点型のプロジェクタであるとして説明したが、プロジェクタ13は、例えば、長焦点型のものを採用し、天井等に設置されるようにしてもよい。この場合、プロジェクタ13は、赤外ライト10またはカメラ11の少なくとも1つと一体化されてもよい。さらに、赤外ライト10、カメラ11、画像処理装置12、および、プロジェクタ13が1つの装置として一体化されてもよい。
For example, in the above-described embodiment, the
また、上述した実施の形態では、処理後画像62の画像サイズを、撮影画像41よりも縦方向の長さが短い画像サイズとしたが、撮影画像41と処理後画像62の画像サイズは同じでもよい。処理後画像62は、そのミラー領域63が床面に表示されるように移動されていればよい。
In the embodiment described above, the image size of the processed
上述した実施の形態では、赤外ライト10によって赤外光を照射したクラブヘッド22Aとゴルフボール23を撮影するようにしたが、赤外光に代えて可視光を照射するライトを用いて、カメラ11は可視光で照らされた被写体を撮影してもよい。この場合、床面上に表示される処理後画像をカラーで表示することができる。可視光による撮影を行う場合であって、ライトなしでも十分な可視光の光量が得られる場合には、ライトは省略してもよい。
In the embodiment described above, the
画像処理システム1は、上述した複数の機能を選択的に実行できるように構成することができる。 The image processing system 1 can be configured to selectively execute a plurality of functions described above.
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。 For example, the present technology can take a configuration of cloud computing in which one function is shared by a plurality of devices via a network and is jointly processed.
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。 In addition, each step described in the above flowchart can be executed by being shared by a plurality of apparatuses in addition to being executed by one apparatus.
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。 Further, when a plurality of processes are included in one step, the plurality of processes included in the one step can be executed by being shared by a plurality of apparatuses in addition to being executed by one apparatus.
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、本明細書に記載されたもの以外の効果があってもよい。 Note that the effects described in this specification are merely examples and are not limited, and there may be effects other than those described in this specification.
1 画像処理システム
10 赤外ライト
11 カメラ
12 画像処理装置
13 プロジェクタ
14 ミラー
22 ゴルフクラブ
22A クラブヘッド
23 ゴルフボール
51 画像取得部
52 制御部
53 ループメモリ
54 データ記憶部
55 画像出力部
101 CPU
102 ROM
103 RAM
108 記憶部
DESCRIPTION OF SYMBOLS 1
102 ROM
103 RAM
108 Storage unit
Claims (7)
前記撮影部によって撮影された前記クラブヘッドと前記ゴルフボールの画像を、実物大で床面に投影表示させる投影部と
を備える画像処理システム。 A shooting section for shooting the club head of the golf club when the golf club is swung to hit the golf ball and the golf ball from above;
An image processing system comprising: a projection unit configured to project and display an image of the club head and the golf ball photographed by the photographing unit on a floor surface in actual size.
前記撮影部は、前記スイングしたときの前記クラブヘッドの上面、前記ミラーに映る前記クラブヘッドの側面、および、前記ゴルフボールを上方から撮影し、
前記投影部は、前記スイングしたときの前記クラブヘッドの上面、前記ミラーに映る前記クラブヘッドの側面、および、前記ゴルフボールを、実物大で床面に投影表示させる
請求項1に記載の画像処理システム。 A mirror disposed on the side facing the player across the golf ball so as to be inclined at an angle such that a side surface of the club head immediately before impact is photographed by the photographing unit;
The photographing unit photographs the upper surface of the club head when the swing is performed, the side surface of the club head reflected on the mirror, and the golf ball from above,
The image processing according to claim 1, wherein the projection unit projects and displays an upper surface of the club head when the swing is performed, a side surface of the club head reflected on the mirror, and the golf ball on a floor surface in actual size. system.
前記投影部は、実物大の前記クラブヘッドの上面、前記クラブヘッドの側面、および、前記ゴルフボールを含む前記処理後画像を床面に投影表示させる
請求項2に記載の画像処理システム。 An image processing unit that generates, as a display image, a post-processing image obtained by moving a mirror region, which is a region capturing the mirror of the captured image obtained by the imaging unit, to a predetermined position;
The image processing system according to claim 2, wherein the projection unit projects and displays the processed image including an upper surface of the club head of a full size, a side surface of the club head, and the golf ball on a floor surface.
請求項3に記載の画像処理システム。 The image processing unit generates the processed image including an operation input GUI, and detects whether the golf club is placed at the position of the operation input GUI from the photographed image as a player operation input. The image processing system according to claim 3.
前記投影部は、複数枚の前記処理後画像をスロー再生する
請求項3に記載の画像処理システム。 The image processing unit generates a plurality of processed images from the plurality of the captured images obtained by the imaging unit,
The image processing system according to claim 3, wherein the projection unit performs slow reproduction of a plurality of the processed images.
前記撮影部によって得られた撮影画像に基づいて、床面上に前記ゴルフボールが置かれたことを検出する画像処理部と、
床面上に前記ゴルフボールが置かれたことが検出された場合、動作モードを、前記撮影部が低フレームレートで撮影する第1の動作モードから、高フレームレートで撮影する第2の動作モードに変更する制御部と
をさらに備える
請求項1に記載の画像処理システム。 An illumination unit that illuminates the imaging range of the imaging unit with infrared light;
An image processing unit for detecting that the golf ball is placed on a floor surface based on a photographed image obtained by the photographing unit;
When it is detected that the golf ball is placed on the floor surface, the operation mode is changed from the first operation mode in which the imaging unit captures images at a low frame rate to the second operation mode in which images are captured at a high frame rate. The image processing system according to claim 1, further comprising: a controller that changes to:
前記撮影部が、ゴルフボールを打撃するためゴルフクラブをスイングしたときの前記ゴルフクラブのクラブヘッドと前記ゴルフボールを、上方から撮影し、
前記投影部が、前記撮影部によって撮影された前記クラブヘッドと前記ゴルフボールの画像を、実物大で床面に投影表示させる
画像処理システムの制御方法。 The image capturing system of the image processing system including the image capturing unit and the projecting unit captures from above the club head of the golf club and the golf ball when the golf club is swung to hit the golf ball.
A control method of an image processing system in which the projection unit projects and displays the club head and the golf ball images photographed by the photographing unit on a floor surface in actual size.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016202231A JP2018061729A (en) | 2016-10-14 | 2016-10-14 | Image processing system and control method thereof |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016202231A JP2018061729A (en) | 2016-10-14 | 2016-10-14 | Image processing system and control method thereof |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2018061729A true JP2018061729A (en) | 2018-04-19 |
Family
ID=61967034
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016202231A Pending JP2018061729A (en) | 2016-10-14 | 2016-10-14 | Image processing system and control method thereof |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2018061729A (en) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021103483A (en) * | 2019-12-25 | 2021-07-15 | 有限会社Amplus | Image processing device, method, and program |
| JP7148192B1 (en) | 2022-05-09 | 2022-10-05 | 有限会社Amplus | Display control device, method and program |
| KR20230076160A (en) * | 2021-11-22 | 2023-05-31 | (주)브로틴 | Method for constructing physics attribute information in putting environment used in putting guide system |
| KR20230158468A (en) | 2022-05-09 | 2023-11-20 | 유겐가이샤 암플러스 | Display control device and method and program |
| WO2024242209A1 (en) * | 2023-05-19 | 2024-11-28 | (주)브로틴 | Method for constructing physical attribute information of putting environment used in putting guide system |
| WO2025063606A1 (en) * | 2023-09-18 | 2025-03-27 | 주식회사 크리에이츠 | Method and system for projecting golf content |
| US12324959B2 (en) | 2020-12-31 | 2025-06-10 | Vrotein Inc. | Putting guide system |
-
2016
- 2016-10-14 JP JP2016202231A patent/JP2018061729A/en active Pending
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021103483A (en) * | 2019-12-25 | 2021-07-15 | 有限会社Amplus | Image processing device, method, and program |
| US12324959B2 (en) | 2020-12-31 | 2025-06-10 | Vrotein Inc. | Putting guide system |
| KR20230076160A (en) * | 2021-11-22 | 2023-05-31 | (주)브로틴 | Method for constructing physics attribute information in putting environment used in putting guide system |
| KR102678273B1 (en) * | 2021-11-22 | 2024-06-26 | (주)브로틴 | Method for constructing physics attribute information in putting environment used in putting guide system |
| JP7148192B1 (en) | 2022-05-09 | 2022-10-05 | 有限会社Amplus | Display control device, method and program |
| WO2023218692A1 (en) | 2022-05-09 | 2023-11-16 | 有限会社Amplus | Display control device, method, and program |
| KR20230158468A (en) | 2022-05-09 | 2023-11-20 | 유겐가이샤 암플러스 | Display control device and method and program |
| JP2023166176A (en) * | 2022-05-09 | 2023-11-21 | 有限会社Amplus | Display control apparatus, method and program |
| US12434098B2 (en) | 2022-05-09 | 2025-10-07 | Amplus Co., Ltd. | Method, apparatus, and program for controlling display |
| WO2024242209A1 (en) * | 2023-05-19 | 2024-11-28 | (주)브로틴 | Method for constructing physical attribute information of putting environment used in putting guide system |
| WO2025063606A1 (en) * | 2023-09-18 | 2025-03-27 | 주식회사 크리에이츠 | Method and system for projecting golf content |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2018061729A (en) | Image processing system and control method thereof | |
| US20130021491A1 (en) | Camera Device Systems and Methods | |
| US10382704B2 (en) | Image processing device that generates a composite image | |
| TWI527459B (en) | Recording medium capable of controlling the playing speed of the animation playing device, the animation playing method, and the storage program | |
| JP4906668B2 (en) | High-speed photographing apparatus, high-speed photographing apparatus control method, and computer program | |
| JP7148192B1 (en) | Display control device, method and program | |
| CN109791558B (en) | Automatic selection of micro-images | |
| JP2014225772A5 (en) | ||
| CN103914700B (en) | Display control unit, display control method and recording medium | |
| JP2013236659A (en) | Analysis system and analysis method of the same | |
| JP2006230630A (en) | Practical skill analysis system and program | |
| JP2006271663A (en) | Program, information storage medium, and image pickup display device | |
| KR101905848B1 (en) | Measuring device and measuring method for golf club and golf ball and computer readable recording medium having program the same | |
| KR20170103468A (en) | Dual shooting mode low-speed camera based object automatic recognition apparatus and method therefor | |
| JP2021103483A (en) | Image processing device, method, and program | |
| JP5714297B2 (en) | Image processing apparatus, image processing method, and image processing program | |
| JP2013236660A (en) | Golf club head trajectory analysis system, method of the same, and imaging stand | |
| CN107667522B (en) | Method and apparatus for forming moving images | |
| JP4231216B2 (en) | Virtual scene shooting method and apparatus | |
| JP7711631B2 (en) | VIDEO ANALYSIS DEVICE, VIDEO ANALYSIS METHOD, AND PROGRAM | |
| KR20130014774A (en) | Display apparatus and control method thereof | |
| CN117377517A (en) | Display control device, method and program | |
| CN115914859B (en) | Shooting method, shooting device, electronic equipment and readable storage medium | |
| US10946242B2 (en) | Swing analysis device, swing analysis method, and swing analysis system | |
| TWM569008U (en) | Eye position calibrating system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20161108 |