JP2019038373A - Visual aids - Google Patents
Visual aids Download PDFInfo
- Publication number
- JP2019038373A JP2019038373A JP2017161848A JP2017161848A JP2019038373A JP 2019038373 A JP2019038373 A JP 2019038373A JP 2017161848 A JP2017161848 A JP 2017161848A JP 2017161848 A JP2017161848 A JP 2017161848A JP 2019038373 A JP2019038373 A JP 2019038373A
- Authority
- JP
- Japan
- Prior art keywords
- image
- occupant
- display
- viewpoint
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Instrument Panels (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】少ない視線移動により広範囲を視認可能であり表示された画像と直接目視可能な視野との関係を容易に把握可能な視認補助装置を提供する。【解決手段】撮像装置11,12と、乗員が自車両前方を肉眼により目視する視野と重畳又は隣接して配置された画像表示装置50とを備える視認補助装置1を、画像表示装置は、乗員の視点から見た表示倍率が肉眼により目視する視野に対して縮小して設定され、画像上に設定される基準位置Pを乗員の視点から見た視線方向が、基準位置に相当する箇所を肉眼により目視する際の視線方向と実質的に一致するよう配置される構成とする。【選択図】図2PROBLEM TO BE SOLVED: To provide a visual recognition assisting device which can visually recognize a wide range with a small movement of the line of sight and can easily grasp the relationship between a displayed image and a directly visible visual field. An image display device includes a visual recognition assisting device (1) including image pickup devices (11, 12) and an image display device (50) arranged so as to be superimposed or adjacent to a visual field in which an occupant visually observes the front of the vehicle with the naked eye. The display magnification seen from the viewpoint of the occupant is set to be reduced with respect to the visual field viewed by the naked eye, and the reference position P set on the image is viewed from the occupant's viewpoint in the line-of-sight direction with the naked eye. It is configured to be arranged so as to substantially match the line-of-sight direction when visually observing. [Selection diagram] Fig. 2
Description
本発明は、自動車等の車両に設けられ自車両周囲の状況を画像表示する視認補助装置に関し、特に少ない視線移動により広範囲を視認可能であり表示された画像と直接目視可能な視野との関係を容易に把握可能なものに関する。 The present invention relates to a visual assistance device that is provided in a vehicle such as an automobile and displays an image of the situation around the host vehicle. It relates to things that can be easily grasped.
自動車等の車両において、手動運転時のドライバ等の乗員が自車両周囲の状況認識を容易に行えるようにして、監視負担の軽減等を図るため、カメラ等の撮像装置によって撮像された画像を乗員に提示する各種の視認補助装置が提案されている。 In a vehicle such as an automobile, an image captured by an imaging device such as a camera is provided so that a driver or the like during manual driving can easily recognize the situation around the host vehicle and reduce the monitoring burden. Various visual assistance devices to be presented are proposed.
例えば、特許文献1には、自車両前方を赤外線カメラによって撮像した画像をヘッドアップディスプレイに表示する車両用表示装置において、ステアリング操作から車両がカーブを曲がることを判定した場合には、帯状の映像データのうち中央部から所定の画像ずらし量だけオフセットした映像データを抽出して表示させるものが記載されている。
特許文献2には、運転者が運転中に視線を向けた注視対象の画像を拡大表示する運転支援装置において、注視対象が拡大された拡大画像と、この拡大画像の外周全体に隣接する環状の画像であって、拡大画像から元の風景にかけて画像が連続的に繋がった状態でドライバに視認されるように画像の縮小処理が施された周囲縮小画像とからなる画像を生成し、重畳表示することが記載されている。
特許文献3には、車両用表示装置において、自車両前方の道路反射鏡の鏡像をカメラで撮影し、撮影対象の道路反射鏡が曲面鏡を採用している場合には平面鏡像に投影変換する画像処理を行い、この画像処理の施された画像をウィンドシールドの表示領域内に表示することが記載されている。
特許文献4には、自車両前方を赤外線カメラによって撮像した画像をヘッドアップディスプレイに表示する車両用表示装置において、映像の拡大率を車速に応じて段階的に変化させるとともに、表示ユニットが拡大された映像を示す表示光を、インストルメントパネルの開口部を通してフロントウインドシールドに向けて出射することにより、運転者が表示光により車両前方の映像を視認して拡大表示が行われているかを実感できるようにすることが記載されている。
For example, in
In Patent Literature 2, in a driving support device that magnifies and displays an image of a gaze target with a driver's eyes directed during driving, an enlarged image in which the gaze target is enlarged and an annular shape adjacent to the entire outer periphery of the enlarged image are disclosed. An image composed of an enlarged image and a surrounding reduced image that has been subjected to image reduction processing so as to be visually recognized by the driver in a state in which the image is continuously connected from the original landscape to the original landscape is generated and superimposed. It is described.
In Patent Document 3, in a display device for a vehicle, a mirror image of a road reflector in front of the host vehicle is photographed by a camera, and when the road reflector to be photographed adopts a curved mirror, it is projected and converted into a plane mirror image. It describes that image processing is performed and the image subjected to this image processing is displayed in the display area of the windshield.
In Patent Document 4, in a vehicle display device that displays an image obtained by capturing an image of the front of the host vehicle with an infrared camera on a head-up display, the image enlargement ratio is changed stepwise according to the vehicle speed, and the display unit is enlarged. The display light that shows the displayed image is emitted toward the front windshield through the opening of the instrument panel, so that the driver can see the image in front of the vehicle with the display light and realize that the enlarged display is being performed. It is described to do so.
自車両前方等の状況を画像表示する際に、撮像装置のレンズの撮像画角を広角化することによって、低い表示倍率で広範囲が表示される画像を生成し、乗員により多くの情報を提示することが可能となる。
しかし、このような広角の画像を表示する場合、乗員がウインドウガラス越しに肉眼で直接目視可能な視野(直接視野)と見え方が大きく異なるため、直接視野と表示画像との関係が容易に理解できないことが懸念される。
上述した問題に鑑み、本発明の課題は、少ない視線移動により広範囲を視認可能であり表示された画像と直接目視可能な視野との関係を容易に把握可能な視認補助装置を提供することである。
When displaying an image of the situation in front of the host vehicle or the like, the imaging field angle of the lens of the imaging device is widened to generate an image that displays a wide range at a low display magnification, and presents more information to the occupant It becomes possible.
However, when displaying such a wide-angle image, the field of view (direct field of view) that the occupant can see directly with the naked eye through the window glass is very different, so the relationship between the direct field of view and the displayed image is easily understood. I am concerned that I cannot do it.
In view of the above-described problems, an object of the present invention is to provide a visual assistance device that can visually recognize a wide range with a small line of sight movement and can easily grasp the relationship between a displayed image and a visual field that can be directly viewed. .
本発明は、以下のような解決手段により、上述した課題を解決する。
請求項1に係る発明は、自車両前方を撮像する撮像装置と、乗員の視点から見たときに前記乗員が自車両前方を肉眼により目視する視野と重畳し又は隣接して配置された表示領域を有し前記撮像装置が撮像した画像を表示する画像表示装置とを備える視認補助装置であって、前記画像表示装置は、前記乗員の視点から見たときの少なくとも左右方向の表示倍率が肉眼により目視する視野に対して縮小して設定され、前記画像表示装置に表示される画像上に設定される基準位置を前記乗員の視点から見た視線方向が、前記基準位置に相当する箇所を肉眼により目視する際の視線方向と実質的に一致するよう配置されることを特徴とする視認補助装置である。
これによれば、画像表示装置の表示倍率を、乗員が肉眼により目視する視野に対して縮小(画角を広角化)することによって、乗員に広範囲の前方視界情報を提供し、少ない視線移動により広範囲の状況を視認させることができる。
また、画像上に設定される基準位置が、肉眼により目視される基準位置に相当する箇所と一致するように表示位置を設定することによって、広角化された画像であっても肉眼で目視される視野との関係を容易に把握することができる。
The present invention solves the above-described problems by the following means.
The invention according to
According to this, by reducing the display magnification of the image display device with respect to the field of view visually observed by the occupant (widening the angle of view), the occupant can be provided with a wide range of front view information, and with less sight line movement. A wide range of situations can be seen.
In addition, by setting the display position so that the reference position set on the image coincides with the position corresponding to the reference position viewed by the naked eye, even a widened image can be viewed by the naked eye. The relationship with the visual field can be easily grasped.
請求項2に係る発明は、前記乗員の視点位置を検出する視点位置検出手段と、前記視点位置の検出結果に基づいて前記基準位置を設定する基準位置設定手段とを備えることを特徴とする請求項1に記載の視認補助装置である。
これによれば、乗員の視点位置を検出することによって、画像上に基準位置を適切に設定し、上述した効果を確実に得ることができる。
The invention according to claim 2 includes viewpoint position detection means for detecting the viewpoint position of the occupant and reference position setting means for setting the reference position based on the detection result of the viewpoint position. Item 2. The visual assistance device according to
According to this, by detecting the viewpoint position of the occupant, the reference position can be appropriately set on the image, and the above-described effects can be reliably obtained.
請求項3に係る発明は、前記画像表示装置の前記表示領域は、前記乗員の視点に対して左右方向にオフセットして配置され、前記基準位置は、前記表示領域上の左右方向における前記乗員側の端部に設定されることを特徴とする請求項1又は請求項2に記載の視認補助装置である。
これによれば、画像表示装置が乗員の左右斜め前方に配置される場合に、肉眼により直接視認される視野と画像との位置関係を容易に把握することができる。
また、自車両の側方を少ない視線移動量により視認することができ、乗員の監視負担を軽減することができる。
According to a third aspect of the present invention, the display area of the image display device is arranged offset in the left-right direction with respect to the occupant's viewpoint, and the reference position is the occupant side in the left-right direction on the display area. It is set to the edge part of this, It is a visual recognition assistance apparatus of
According to this, when the image display device is disposed diagonally forward of the left and right of the occupant, it is possible to easily grasp the positional relationship between the visual field that is directly visually recognized by the naked eye and the image.
Moreover, the side of the host vehicle can be visually recognized with a small amount of line-of-sight movement, and the monitoring burden on the occupant can be reduced.
請求項4に係る発明は、前記画像表示装置の前記表示領域は、前記乗員の視点に対して前方側に配置され、前記基準位置は、前記表示領域内における前記視点の前方に設定されることを特徴とする請求項1又は請求項2に記載の視認補助装置である。
これによれば、画像表示装置が乗員の正面に配置される場合に、肉眼により直接視認される視野と画像との位置関係を容易に把握することができる。
According to a fourth aspect of the present invention, the display area of the image display device is arranged in front of the occupant's viewpoint, and the reference position is set in front of the viewpoint in the display area. It is a visual recognition assistance apparatus of
According to this, when the image display device is arranged in front of the occupant, it is possible to easily grasp the positional relationship between the field of view that is directly visually recognized by the naked eye and the image.
請求項5に係る発明は、自車両周辺のリスク対象物を検出するリスク対象物検出手段を備え、前記画像表示装置は通常と表示態様を異ならせて前記リスク対象物を表示することを特徴とする請求項1から請求項4までのいずれか1項に記載の視認補助装置である。
これによれば、リスク対象物が存在する場合に乗員に注意を喚起し、安全性を向上することができる。
The invention according to claim 5 is provided with risk object detection means for detecting a risk object around the host vehicle, and the image display device displays the risk object in a display mode different from normal. The visual assistance device according to any one of
According to this, when a risk target object exists, a passenger | crew can be alerted and safety can be improved.
請求項6に係る発明は、前記画像表示装置は、前記リスク対象物が存在する場合には前記リスク対象物の表示倍率を拡大して表示することを特徴とする請求項5に記載の視認補助装置である。
これによれば、表示倍率の変化により乗員の注意を喚起するとともに、リスク対象物の視認性を高めて適切な対処を促すことができる。
The invention according to claim 6 is characterized in that the image display device displays an enlarged display magnification of the risk object when the risk object exists. Device.
According to this, it is possible to alert the occupant by changing the display magnification, and to enhance the visibility of the risk target object and promote appropriate countermeasures.
以上説明したように、本発明によれば、少ない視線移動により広範囲を視認可能であり表示された画像と直接目視可能な視野との関係を容易に把握可能な視認補助装置を提供することができる。 As described above, according to the present invention, it is possible to provide a visual assistance device that can visually recognize a wide range with a small amount of line-of-sight movement and can easily grasp the relationship between a displayed image and a directly visible visual field. .
以下、本発明を適用した視認補助装置の実施形態について説明する。
実施形態の視認補助装置は、例えば、乗用車等の自動車に設けられ、自車両前方等の画像を画像表示装置によりドライバ等の乗員に提示し、自車両周囲の状況視認を支援するものである。
図1は、実施形態の視認補助装置の構成を示すブロック図である。
実施形態の視認補助装置1は、ステレオカメラ装置10、環境認識ユニット20、乗員モニタリングユニット30、表示画像生成ユニット40、表示装置50等を有して構成されている。
Hereinafter, embodiments of a visual assistance device to which the present invention is applied will be described.
The visual assistance device of the embodiment is provided in an automobile such as a passenger car, for example, and presents an image of the front of the host vehicle or the like to an occupant such as a driver by an image display device, and assists in viewing the situation around the host vehicle.
FIG. 1 is a block diagram illustrating a configuration of a visual assistance device according to an embodiment.
The
ステレオカメラ装置10、環境認識ユニット20、乗員モニタリングユニット30、表示画像生成ユニット40、表示装置50は、例えば、CAN通信システム等の車載LANシステムを介して、あるいは、直接接続され、相互にデータの送受信が可能となっている。
また、各ユニットは、例えばCPU等の情報処理手段、RAMやROM等の記憶手段、入出力インターフェイス及びこれらを接続するバス等を有して構成されている。
The
Each unit includes an information processing unit such as a CPU, a storage unit such as a RAM and a ROM, an input / output interface, a bus for connecting them, and the like.
ステレオカメラ装置10は、カメラLH11、カメラRH12、ステレオ画像処理ユニット13等を有する。
カメラLH11、カメラRH12は、自車両前方を広角に撮像するレンズ群等の光学系や、CMOS等の固体撮像素子、及び、その駆動装置、画像処理エンジン、入出力インターフェイス等を有する撮像装置である。
カメラLH11、カメラRH12は、左右方向に離間した状態で、光学系の光軸を車両前方に向けて取り付けられている。
カメラLH11、カメラRH12は、例えば、ルーフ130の前端部から車室内に下方に突き出した状態で固定され、フロントガラス140越しに自車両前方の画像を撮像するようになっている。
The
The camera LH11 and the camera RH12 are imaging devices having an optical system such as a lens group that images the front of the host vehicle at a wide angle, a solid-state imaging device such as a CMOS, a driving device thereof, an image processing engine, an input / output interface, and the like. .
The camera LH11 and the camera RH12 are mounted with the optical axis of the optical system facing the front of the vehicle in a state of being separated in the left-right direction.
For example, the camera LH11 and the camera RH12 are fixed in a state of protruding downward from the front end portion of the
カメラLH11、カメラRH12がそれぞれ撮像した画像に係るデータは、ステレオ画像処理ユニット13に逐次提供されるようになっている。
また、これらの画像データは、表示装置50の表示画像を生成するため、ステレオ画像処理ユニット13を介して表示画像生成ユニット40にも提供される。
例えば、本実施形態のように、自車両の斜め左前方の状況を表示する場合(図2参照)には、カメラLH11が撮像した画像を利用して表示画像を生成することができる。
Data relating to images captured by the camera LH11 and the camera RH12 is sequentially provided to the stereo
These image data are also provided to the display
For example, as in the present embodiment, when displaying the situation of the left front of the host vehicle (see FIG. 2), a display image can be generated using an image captured by the camera LH11.
ステレオ画像処理ユニット13は、カメラLH11、カメラRH12から逐次伝達される画像データに、公知のステレオ画像処理を施し、自車両前方に存在する被写体を認識するとともに、認識された被写体の自車両に対する相対位置を、画像上の画素位置、及び、カメラLH11とカメラRH12との視差等を用いて検出する。
また、ステレオ画像処理ユニット13は、公知の画像処理、画像認識技術により、認識された被写体の種類、属性(例えば、他車両、自転車、歩行者、建造物、車線端白線等)を判別することが可能となっている。
The stereo
Further, the stereo
環境認識ユニット20は、ステレオ画像処理ユニット13による自車両前方の物体検出結果等を利用して、自車両前方の環境を認識するものである。
環境認識ユニット20は、ステレオ画像処理ユニット13が認識した他車両、建築物等のうち、自車両に対する相対位置、相対速度などから自車両と衝突する可能性が高いリスク対象物を認識する。
環境認識ユニット20は、本発明にいうリスク対象物検出手段として機能する。
The
The
The
環境認識ユニット20は、リスク対象物の自車両に対する相対位置、相対速度(接近速度)などから、リスク対象物と自車両との衝突が不可避であると判定した場合(プリクラッシュ判定が成立した場合)には、そのリスク対象物に関する情報を、表示画像生成ユニット40に伝達する。
ここで、リスク対象物に関する情報として、例えば、リスク対象物の種類、自車両に対する相対位置及び相対速度等が挙げられる。
When the
Here, examples of the information on the risk object include the type of the risk object, the relative position and the relative speed with respect to the host vehicle, and the like.
乗員モニタリングユニット30は、手動運転時におけるドライバとなる乗員を乗員撮影カメラ31によって撮像した画像を画像処理し、乗員の状態を検出するものである。
乗員撮影カメラ31は、例えば、車両のインストルメントパネル140等に設けられ、モニタ対象の乗員の顔面等を撮像する。
乗員撮影カメラ31は、例えば、コンビネーションメータ141(図2参照)に設けることができる。
乗員モニタリングユニット30は、乗員撮影カメラ31が撮像した画像データに所定の画像処理を施し、視点(眼部)の位置、視線方向、覚醒状態などを検出する。
乗員の視点位置に関する情報は、表示画像生成ユニット40に伝達される。
乗員モニタリングユニット30は、乗員撮影カメラ31と協働して本発明にいう視点位置検出手段として機能する。
The
The
The
The
Information regarding the viewpoint position of the occupant is transmitted to the display
The
表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データ、環境認識ユニット20によるリスク対象物に関する情報、及び、乗員モニタリングユニット30による乗員視点位置の検出結果を用いて、表示装置50により表示される表示画像のデータを生成するものである。
表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データのうち、表示装置50に表示される表示範囲、及び、表示位置を設定する機能を有する。
表示画像生成ユニット40は、通常時(リスク対象物が存在しない状態)においては、表示装置50に表示される表示画像が、乗員の視点から見たときの表示倍率が肉眼で直接目視可能な視野に対して小さく広角であり、かつ、画面上の一部に設定される基準位置P(図2参照)が、肉眼により直接目視される視野における基準位置Pに相当する箇所と一致するように表示画像の表示範囲、表示位置を設定する。
表示画像生成ユニット40は、本発明にいう基準位置設定手段として機能する。
表示画像生成ユニット40の機能については、後により詳細に説明する。
The display
The display
The display
The display
The function of the display
表示装置50は、例えば自車両の左斜め前方の車外状況を撮像した画像をユーザ(乗員)に対して提示する画像表示装置である。
表示装置50は、表示画像生成ユニット40が生成した表示画像を表示するディスプレイ及びその駆動装置等を有する。
表示装置50として、例えば、非表示時には実質的に透明となり乗員が透視可能な透明LCDを用いることができる。
表示装置50の配置に関しては、後に詳しく説明する。
The
The
As the
The arrangement of the
図3に示すように、車両は、フロントガラス110、フロントドアガラス120、サイドミラー130、インストルメントパネル140、ステアリングホイール150、Aピラー160、ルーフ170、ルームミラー180等を有する。
As shown in FIG. 3, the vehicle includes a
フロントガラス110は、ドライバの前方側に配置されている。
フロントガラス110は、実質的に横長の矩形状に形成され、前方が凸となる方向に湾曲した2次曲面ガラスである。
フロントガラス110は、上端部が下端部に対して車両後方側となるように後傾して配置されている。
乗員の視点から見たときに、フロントガラス110における透明部分(周辺に設けられる図示しない黒セラミック部分等を除いた部分)は、乗員が肉眼により自車両前方を直接目視する際の視野となる。
The
The
The
When viewed from the occupant's viewpoint, the transparent portion of the windshield 110 (the portion excluding a black ceramic portion (not shown) provided in the vicinity) becomes a field of view when the occupant directly looks directly ahead of the vehicle with the naked eye.
フロントドアガラス120は、乗員の乗降に用いられる左右フロントドアの上部であって、ドライバの側方に設けられている。
フロントドアガラス120は、昇降式の本体部121、及び、本体部121の前部に設けられた固定式の三角窓部122を有する。
The
The
サイドミラー130は、ドライバが左右後方視界を確認するものである。
サイドミラー130は、左右フロントドアのアウタパネルから車幅方向外側に突出している。
ユーザ視界において、サイドミラー130は、例えば、フロントドアガラス120の本体部121の前端部近傍に見えるようになっている。
The
The
In the user field of view, for example, the
インストルメントパネル140は、車室内においてフロントガラス110の下方に設けられた内装部材である。
インストルメントパネル140は、各種計器類、表示装置、スイッチ類、空調装置、助手席エアバッグ装置、膝部保護エアバッグ装置等が収容される筐体としても機能する。
インストルメントパネル140は、コンビネーションメータ141、マルチファンクションディスプレイ142、ナビゲーション装置ディスプレイ143等が設けられる。
The
The
The
コンビネーションメータ141は、運転席の正面に設けられ、速度計、エンジン回転計、距離計などの各種計器類をユニット化したものである。
マルチファンクションディスプレイ142は、インストルメントパネル140の車幅方向中央部における上部に設けられた例えばLCD等の画像表示手段である。
ナビゲーション装置ディスプレイ143は、図示しないナビゲーション装置が地図等を表示するLCD等の画像表示手段である。
ナビゲーション装置ディスプレイ143は、インストルメントパネル140の車幅方向中央部における下部に設けられている。
The
The
The
The
ステアリングホイール150は、ドライバが手動運転時に操舵操作を入力する環状の操作部材である。
ステアリングホイール150は、ドライバの前方に実質的に正対して設けられる。
コンビネーションメータ141は、ユーザ視界において、ステアリングホイール150の上半部における内径側から目視可能となっている。
The
The
The
Aピラー160は、フロントガラス110の側端部及びフロントドアガラス120の前端部に沿って配置された柱状の車体構造部材である。
Aピラー160の車室内側の面部は、樹脂製のピラートリムによってカバーされている。
The A-pillar 160 is a columnar vehicle body structural member disposed along the side end portion of the
The surface of the
ルーフ170は、フロントガラス110の上端部から後方に伸びて形成されている。
ルーフ170の車室内側の面部は、樹脂製のルーフトリムによってカバーされている。
ルーフ170の車幅方向中央部における前端部には、カメラLH11、カメラRH12が収容されるステレオカメラ収容部171が設けられている。
The
A surface portion of the
A stereo
ルームミラー180は、車室内に設けられた後方確認用のミラーである。
ルームミラー180は、図示しないステーを介してフロントガラス110の車幅方向中央部における上端部近傍に設けられている。
The
The
表示装置50のスクリーン部分は、例えば、左右方向における反ドライバ側(図2の場合には左側)のAピラー160近傍から、車幅方向中央側(フロントガラス110側)に張り出して設けられている。
表示装置50の一部は、乗員の視点から見たときに、フロントガラス110の手前側に重なった状態で配置されている。
The screen portion of the
A part of the
次に、実施形態の視認補助装置の動作について説明する。
図3は、実施形態の視認補助装置の動作を示すフローチャートである。
以下、ステップ毎に順を追って説明する。
Next, the operation of the visual assistance device of the embodiment will be described.
FIG. 3 is a flowchart illustrating the operation of the visual assistance device of the embodiment.
Hereinafter, the steps will be described step by step.
<ステップS01:前方画像データ取得>
表示画像生成ユニット40は、ステレオカメラ装置10のステレオ画像処理ユニット13から、カメラ11、カメラRH12によって撮像された自車両前方の画像データを取得する。
その後、ステップS02に進む。
<Step S01: Obtain Front Image Data>
The display
Thereafter, the process proceeds to step S02.
<ステップS02:乗員視点位置検出>
乗員モニタリングユニット30は、乗員撮影カメラ31が撮像した画像データに所定の画像処理を施して乗員(手動運転時におけるドライバ)の視点位置を検出する。
検出された視点位置に関する情報は、表示画像生成ユニット40に提供される。
その後、ステップS03に進む。
<Step S02: Occupant viewpoint position detection>
The
Information regarding the detected viewpoint position is provided to the display
Thereafter, the process proceeds to step S03.
<ステップS03:基準位置設定>
表示画像生成ユニット40は、表示装置50に表示される画像上に基準位置P(図2参照)を設定する。
基準位置Pは、例えば、表示装置50の表示領域内における右端部かつ下端部近傍に設定されている。
表示画像生成ユニット40は、ステップS02において検出された乗員の視点位置から、表示装置50における基準位置Pに相当する箇所を見た際に、仮に表示装置50が透明であった場合に基準位置Pと重なって透視される車外の箇所を、肉眼により直接視認される視野における「基準位置に相当する箇所」(基準位置Pに表示されるべき被写体)として認識する。
その後、ステップS04に進む。
<Step S03: Reference position setting>
The display
The reference position P is set, for example, near the right end and the lower end in the display area of the
When the display
Thereafter, the process proceeds to step S04.
<ステップS04:リスク対象物有無判断>
環境認識ユニット20は、自車両の周辺でありかつ表示装置50により画像表示され得る範囲内に、自車両と衝突する可能性が高いリスク対象物が存在するか否かを判別する。
環境認識ユニット20による判別結果(リスク対象物の有無)に関する情報は、表示画像生成ユニット40に伝達される。
リスク対象物が存在する場合には、その自車両に対する相対位置、相対速度、種類等の情報も表示画像生成ユニット40に伝達される。
リスク対象物が存在する場合はステップS06に進み、存在しない場合はステップS05に進む。
<Step S04: Determination of Risk Object>
The
Information regarding the determination result (presence / absence of risk object) by the
When there is a risk object, information such as a relative position, a relative speed, and a type with respect to the host vehicle is also transmitted to the display
If there is a risk object, the process proceeds to step S06, and if not, the process proceeds to step S05.
<ステップS05:通常広角表示画像生成>
表示画像生成ユニット40は、表示装置50に表示される画像として、自車両の前方を肉眼により目視可能な視野に対して表示倍率を下げて広角に表示する通常広角表示画像を生成する。
このとき、表示画像生成ユニット40は、画像上に設定される基準位置Pを乗員の視点から見たときの視線方向が、基準位置Pに相当する箇所(画像上で基準位置Pに表示される被写体)を乗員が肉眼により直接目視する際の視線方向と実質的に一致するよう表示画像の表示範囲、表示位置を設定する。
その後、ステップS07に進む。
<Step S05: Normal Wide Angle Display Image Generation>
The display
At this time, the display
Thereafter, the process proceeds to step S07.
<ステップS06:リスク対象物クローズアップ画像生成>
表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データから、リスク対象物が含まれる領域をトリミングすることによって、リスク対象物を拡大表示するリスク対象物クローズアップ画像を生成する。
このとき、リスク対象物クローズアップ画像がより強く乗員の注意を喚起するよう、例えば表示色を変化させたり、表示を点滅させるようにしてもよい。
また、リスク対象物が存在することを示すテキストメッセージ、絵記号を表示してもよい。さらに、このような表示と音声によるメッセージ、警告音等を併用してもよい。
その後、ステップS07に進む。
<Step S06: Risk Object Close-up Image Generation>
The display
At this time, for example, the display color may be changed or the display may be blinked so that the risk object close-up image is more strongly alerting the occupant.
In addition, a text message or a pictorial symbol indicating that the risk object exists may be displayed. Further, such display and voice message, warning sound, etc. may be used in combination.
Thereafter, the process proceeds to step S07.
<ステップS07:表示装置診断>
表示画像生成ユニット40は、表示装置50が備える自己診断機能を用いて、表示装置50が正常に画像表示を行うことが可能な状態であるか判別する。
表示装置50が正常に画像表示を行うことが可能な場合はステップS08に進み、何らかの故障等によって正常に画像表示を行うことができない場合はステップS09に進む。
<Step S07: Display device diagnosis>
The display
If the
<ステップS08:画像表示実行>
表示画像生成ユニット40は、ステップS05又はステップS06において生成された画像を表示装置50により表示させ、その後一連の処理を終了(リターン)する。
<Step S08: Image display execution>
The display
<ステップS09:画像表示オフ>
表示画像生成ユニット40は、表示装置50による画像表示を中止し、表示装置50を実質的に透明であり乗員が透視可能な状態とする。
その後、一連の処理を終了する。
<Step S09: Image display off>
The display
Thereafter, the series of processing is terminated.
以下、実施形態の視認補助装置1における表示装置50の表示例について説明する。
図2は、リスク対象物が存在しない状態を示している。
リスク対象物が存在しないことから、表示装置50には、通常広角表示画像が表示されている。
図2に示す状態では、自車両が走行中の車線の左側に、自車両進行方向に沿って前方側から樹木A,B,Cが並んで立っている。
フロントガラス110越しに乗員が肉眼により目視する視野においては、樹木Aは、全体が視認可能であるが、樹木Bの下部はAピラー160により遮られて視認できず、樹木Cは略全体がAピラー160により遮らず、上端部、下端部の一部がフロントガラス110及びフロントドアガラス120の三角窓部122から視認できるに過ぎない。
Hereinafter, the example of a display of the
FIG. 2 shows a state where there is no risk object.
Since there is no risk object, the
In the state shown in FIG. 2, trees A, B, and C stand side by side from the front side along the traveling direction of the host vehicle on the left side of the lane in which the host vehicle is traveling.
In the field of view visually observed by the occupant through the
一方、表示装置50に表示される画像上においては、その表示倍率を肉眼で目視される視野に対して縮小した広角表示とすることにより、樹木A,B,Cの像である樹木像a,b,cは、いずれもその全体が表示されており、肉眼で目視される視野よりも広範囲の情報を比較的小さい視線移動により視認することが可能となっている。
このとき、基準位置Pを乗員が見たときの視線方向は、仮に表示装置50が透明であった場合に基準位置Pに相当する箇所を乗員が肉眼で直接視認する場合の視線方向と実質的に一致するようになっている。
基準位置Pは、乗員が表示画像と肉眼による視野との位置関係を把握する指標となることから、画像上にマーク等により表示されることが好ましい。
On the other hand, on the image displayed on the
At this time, the line-of-sight direction when the occupant looks at the reference position P is substantially the same as the line-of-sight direction when the occupant directly visually recognizes a portion corresponding to the reference position P when the
Since the occupant is an index for grasping the positional relationship between the display image and the visual field with the naked eye, the reference position P is preferably displayed on the image with a mark or the like.
図4は、実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、側方から他車両が接近中の状態を示す図である。
図4に示す状態においては、自車両の左斜め前方に、自車両から見て右方向に向かって走行する他車両Vが存在する。
他車両Vは、図4に示す時点では、未だリスク対象物として認識されておらず、表示装置50には通常広角表示画像が表示されている。
図4に示す状態では、他車両Vは、肉眼で目視する視野においてはAピラー160等に遮られて部分的にしか視認できないが、広角表示される表示装置50上においては、他車両像vがほぼ全体にわたって視認可能となっている。
FIG. 4 is a diagram illustrating another example of the driver field of view in the vehicle having the visual assistance device of the embodiment, and is a diagram illustrating a state in which another vehicle is approaching from the side.
In the state shown in FIG. 4, there is another vehicle V that travels in the right direction when viewed from the host vehicle, diagonally to the left of the host vehicle.
The other vehicle V is not yet recognized as a risk object at the time shown in FIG. 4, and a normal wide-angle display image is displayed on the
In the state shown in FIG. 4, the other vehicle V is blocked by the
図5は、実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、側方から接近する他車両と衝突するリスクが発生した際の状態を示す図である。
図5は、図4に示す状態に引き続いて生じ得る状態を示している。
他車両Vは、図5に示す時点では、衝突が発生する可能性が高くなったことによりリスク対象物として認識されており、表示装置50には、リスク対象物クローズアップ画像が表示されている。
図5に示す状態では他車両Vは、肉眼で目視する視野においてはフロントガラス110の左側端部近傍に目視可能となっているが、表示装置50においては、他車両像vを肉眼で目視される他車両Vに対して拡大して表示するとともに、画面の表示色を異ならせ、危険であることを示すテキストメッセージも表示することによって、乗員の注意を喚起し、適切な回避動作を促すようになっている。
FIG. 5 is a diagram illustrating another example of the driver field of view in the vehicle having the visual assistance device of the embodiment, and is a diagram illustrating a state when a risk of collision with another vehicle approaching from the side occurs.
FIG. 5 shows a state that can occur subsequent to the state shown in FIG.
The other vehicle V is recognized as a risk object at the time shown in FIG. 5 due to the increased possibility of a collision, and the risk object close-up image is displayed on the
In the state shown in FIG. 5, the other vehicle V is visible in the vicinity of the left end of the
以上説明した実施形態によれば、以下の効果を得ることができる。
(1)通常広角表示画像において、肉眼で直接目視される視野に対して表示倍率を小さくした広角表示とすることによって、少ない視線移動によりピラー等により死角となる範囲も含む広範囲の状況を視認することができる。
また、画像上に設定される基準位置Pが、肉眼により目視される基準位置に相当する箇所と一致するように配置されることによって、広角化された画像であっても肉眼で目視される視野との関係を容易に把握することができる。
(2)乗員モニタリングユニットにより乗員の視点位置を検出することによって、画像上に基準位置Pを適切に設定し、上述した効果を確実に得ることができる。
(3)表示装置50に表示される画像の右端部かつ下端部近傍に基準位置Pを設定することにより、表示装置50が乗員の左斜め前方に配置される実施形態において、肉眼により直接視認される視野と表示画像との位置関係を容易に把握することができる。
また、Aピラー160により死角となる範囲を含む自車両の左側方を、少ない視線移動量により視認することができ、乗員の監視負担を軽減することができる。
(4)リスク対象物が存在する場合に、リスク対象物を拡大表示するとともに、表示色を異ならせ、危険が存在することを示すテキストメッセージを表示することによって、乗員の注意を喚起するとともに、リスク対象物の視認性を高めて適切な対処を促すことができる。
(5)表示装置50が故障等により正常に表示が行えない場合、表示をオフとして表示装置50を透明とすることによって、表示装置50を透視した肉眼による目視を妨げることがなく、視認性を確保することができる。
According to the embodiment described above, the following effects can be obtained.
(1) In a normal wide-angle display image, a wide-angle display with a reduced display magnification with respect to a visual field directly viewed with the naked eye allows a wide range of situations including a range where a blind spot is caused by a pillar or the like to be viewed with a small amount of visual line movement. be able to.
In addition, a field of view that can be viewed with the naked eye even if the image is wide-angled by being arranged so that the reference position P set on the image coincides with a portion corresponding to the reference position that is viewed with the naked eye. Can be easily grasped.
(2) By detecting the occupant's viewpoint position by the occupant monitoring unit, the reference position P can be appropriately set on the image, and the above-described effects can be reliably obtained.
(3) In the embodiment in which the
In addition, the left side of the host vehicle including the range where the blind spot is formed by the
(4) When there is a risk object, the risk object is enlarged and displayed, and the display color is changed to display a text message indicating that there is a danger. Appropriate measures can be promoted by improving the visibility of risk objects.
(5) When the
(変形例)
本発明は、以上説明した実施形態に限定されることなく、種々の変形や変更が可能であって、それらも本発明の技術的範囲内である。
(1)車両及び視認補助装置の構成は、上述した実施形態に限定されることなく、適宜変更することが可能である。
例えば、表示装置が設けられる位置や、表示装置の個数は適宜変更することが可能である。
例えば、表示装置を乗員の前方に設ける構成とすることもできる。
この場合、基準位置を表示領域内における乗員の視点の前方に設定することが好ましい。
(2)実施形態では、表示装置として透明LCDを用いているが、表示装置の具体的構成はこれに限定されず適宜変更することができる。例えば、透明ではない一般的なLCDや、有機ELディスプレイを用いてもよい。
また、ヘッドアップディスプレイ装置を用いて、フロントガラスや、フロントガラスとは別個に設けられる透明板に画像を投影してもよい。
(3)実施形態では、通常広角表示画像において、表示倍率を縦方向、横方向とも一様に縮小しているが、これに限らず、縦方向、横方向の表示倍率を異ならせてもよい。また、縦方向においては表示倍率の縮小を行わず、横方向にのみ縮小を行ってもよい。
(4)実施形態では、基準位置Pの表示装置50の画面内における上下方向位置を下端部近傍に配置しているが、上端部近傍や上下方向における中間部に配置してもよい。
特に、上端部近傍に配置した場合には、表示装置上の視野が下方に拡大されることになり、縁石や小児等の比較的低位置にある物体の視認性が向上する。
(5)実施形態では、自車両前方の環境認識に用いられるステレオカメラ装置により撮像された画像を表示画像の生成に利用しているが、表示画像生成用として専用のカメラユニットを設けてもよい。
(Modification)
The present invention is not limited to the embodiments described above, and various modifications and changes are possible, and these are also within the technical scope of the present invention.
(1) The configurations of the vehicle and the visual assistance device are not limited to the above-described embodiments, and can be changed as appropriate.
For example, the position where the display device is provided and the number of display devices can be changed as appropriate.
For example, the display device may be provided in front of the occupant.
In this case, it is preferable to set the reference position in front of the occupant's viewpoint in the display area.
(2) In the embodiment, a transparent LCD is used as the display device, but the specific configuration of the display device is not limited to this and can be changed as appropriate. For example, a general LCD that is not transparent or an organic EL display may be used.
Further, an image may be projected onto a windshield or a transparent plate provided separately from the windshield using a head-up display device.
(3) In the embodiment, in the normal wide-angle display image, the display magnification is uniformly reduced in both the vertical direction and the horizontal direction. However, the display magnification is not limited to this, and the display magnification in the vertical direction and the horizontal direction may be different. . Further, the display magnification may not be reduced in the vertical direction, but may be reduced only in the horizontal direction.
(4) In the embodiment, the vertical position in the screen of the
In particular, when it is arranged in the vicinity of the upper end, the field of view on the display device is expanded downward, and the visibility of an object at a relatively low position such as a curb or a child is improved.
(5) In the embodiment, an image captured by a stereo camera device used for environment recognition in front of the host vehicle is used to generate a display image. However, a dedicated camera unit may be provided for display image generation. .
1 視認補助装置 10 ステレオカメラ装置
11 カメラLH 12 カメラRH
13 ステレオ画像処理ユニット 20 環境認識ユニット
30 乗員モニタリングユニット 31 乗員撮影カメラ
40 表示画像生成ユニット 50 表示装置
110 フロントガラス 120 フロントドアガラス
121 本体部 122 三角窓部
130 サイドミラー 140 インストルメントパネル
141 コンビネーションメータ
142 マルチファンクションディスプレイ
143 ナビゲーション装置ディスプレイ
150 ステアリングホイール 160 Aピラー
170 ルーフ 171 ステレオカメラ収容部
180 ルームミラー
A,B,C 樹木 a,b,c 樹木像
V 他車両 v 他車両像
P 基準位置
1
13 stereo
Claims (6)
乗員の視点から見たときに前記乗員が自車両前方を肉眼により目視する視野と重畳し又は隣接して配置された表示領域を有し前記撮像装置が撮像した画像を表示する画像表示装置と
を備える視認補助装置であって、
前記画像表示装置は、前記乗員の視点から見たときの少なくとも左右方向の表示倍率が肉眼により目視する視野に対して縮小して設定され、
前記画像表示装置に表示される画像上に設定される基準位置を前記乗員の視点から見た視線方向が、前記基準位置に相当する箇所を肉眼により目視する際の視線方向と実質的に一致するよう配置されること
を特徴とする視認補助装置。 An imaging device for imaging the front of the host vehicle;
An image display device that displays an image captured by the imaging device, having a display area that is superimposed or adjacent to a field of view in which the occupant visually observes the front of the host vehicle with the naked eye when viewed from the viewpoint of the occupant. A visual assistance device comprising:
The image display device is set such that at least the horizontal display magnification when viewed from the occupant's viewpoint is reduced with respect to the visual field viewed with the naked eye,
The line-of-sight direction when the reference position set on the image displayed on the image display device is viewed from the viewpoint of the occupant substantially coincides with the line-of-sight direction when the portion corresponding to the reference position is viewed with the naked eye. The visual assistance device is characterized by being arranged as follows.
前記視点位置の検出結果に基づいて前記基準位置を設定する基準位置設定手段とを備えること
を特徴とする請求項1に記載の視認補助装置。 Viewpoint position detecting means for detecting the viewpoint position of the occupant;
The visual assistance device according to claim 1, further comprising a reference position setting unit that sets the reference position based on a detection result of the viewpoint position.
前記基準位置は、前記表示領域上の左右方向における前記乗員側の端部に設定されること
を特徴とする請求項1又は請求項2に記載の視認補助装置。 The display area of the image display device is arranged offset in the left-right direction with respect to the viewpoint of the occupant,
The visual recognition auxiliary device according to claim 1, wherein the reference position is set at an end portion on the occupant side in a left-right direction on the display area.
前記基準位置は、前記表示領域内における前記視点の前方に設定されること
を特徴とする請求項1又は請求項2に記載の視認補助装置。 The display area of the image display device is disposed on the front side with respect to the viewpoint of the occupant,
The visual assistance device according to claim 1, wherein the reference position is set in front of the viewpoint in the display area.
前記画像表示装置は通常と表示態様を異ならせて前記リスク対象物を表示すること
を特徴とする請求項1から請求項4までのいずれか1項に記載の視認補助装置。 A risk object detection means for detecting a risk object around the host vehicle;
The visual assistance device according to any one of claims 1 to 4, wherein the image display device displays the risk object in a display mode different from a normal display mode.
を特徴とする請求項5に記載の視認補助装置。 The visual assistance device according to claim 5, wherein the image display device displays an enlarged display magnification of the risk object when the risk object exists.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017161848A JP6971087B2 (en) | 2017-08-25 | 2017-08-25 | Visual assistance device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017161848A JP6971087B2 (en) | 2017-08-25 | 2017-08-25 | Visual assistance device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019038373A true JP2019038373A (en) | 2019-03-14 |
| JP6971087B2 JP6971087B2 (en) | 2021-11-24 |
Family
ID=65725163
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017161848A Active JP6971087B2 (en) | 2017-08-25 | 2017-08-25 | Visual assistance device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6971087B2 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111263133A (en) * | 2020-02-26 | 2020-06-09 | 中国联合网络通信集团有限公司 | Information processing method and system |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001023091A (en) * | 1999-07-07 | 2001-01-26 | Honda Motor Co Ltd | Vehicle image display device |
| JP2006042147A (en) * | 2004-07-29 | 2006-02-09 | Honda Motor Co Ltd | Vehicle recognition support device |
| JP2008280026A (en) * | 2007-04-11 | 2008-11-20 | Denso Corp | Driving assistance device |
| JP2010120617A (en) * | 2008-11-24 | 2010-06-03 | Denso Corp | Image forming device, head-up display, and vehicle display |
| JP2010173619A (en) * | 2009-02-02 | 2010-08-12 | Denso Corp | Head-up display device |
| JP2015060180A (en) * | 2013-09-20 | 2015-03-30 | 日本精機株式会社 | Head-up display device |
| DE102015115362A1 (en) * | 2015-09-11 | 2017-03-16 | Connaught Electronics Ltd. | Detecting device for a motor vehicle and motor vehicle |
-
2017
- 2017-08-25 JP JP2017161848A patent/JP6971087B2/en active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001023091A (en) * | 1999-07-07 | 2001-01-26 | Honda Motor Co Ltd | Vehicle image display device |
| JP2006042147A (en) * | 2004-07-29 | 2006-02-09 | Honda Motor Co Ltd | Vehicle recognition support device |
| JP2008280026A (en) * | 2007-04-11 | 2008-11-20 | Denso Corp | Driving assistance device |
| JP2010120617A (en) * | 2008-11-24 | 2010-06-03 | Denso Corp | Image forming device, head-up display, and vehicle display |
| JP2010173619A (en) * | 2009-02-02 | 2010-08-12 | Denso Corp | Head-up display device |
| JP2015060180A (en) * | 2013-09-20 | 2015-03-30 | 日本精機株式会社 | Head-up display device |
| DE102015115362A1 (en) * | 2015-09-11 | 2017-03-16 | Connaught Electronics Ltd. | Detecting device for a motor vehicle and motor vehicle |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111263133A (en) * | 2020-02-26 | 2020-06-09 | 中国联合网络通信集团有限公司 | Information processing method and system |
| CN111263133B (en) * | 2020-02-26 | 2021-10-01 | 中国联合网络通信集团有限公司 | Information processing method and system |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6971087B2 (en) | 2021-11-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10919450B2 (en) | Image display device | |
| CN108621937A (en) | The storage medium of the control program of car-mounted display equipment, the control method of car-mounted display equipment and storage car-mounted display equipment | |
| WO2012164729A1 (en) | Vehicular field of view assistance device | |
| JP2015232859A (en) | Safety confirmation support system and safety confirmation support method | |
| US11601621B2 (en) | Vehicular display system | |
| EP3888966B1 (en) | Vehicle display device | |
| CN204547919U (en) | Vehicles with Safe Lane Change Assist | |
| JP2009269551A (en) | Display for vehicle | |
| CN108621922A (en) | The control method of the display system of vehicle and the display system of vehicle | |
| EP3892489B1 (en) | Vehicle display device | |
| JP2010143411A (en) | Head-up display device | |
| US10836311B2 (en) | Information-presenting device | |
| JP2006224700A (en) | Vehicle blind spot monitoring device and vehicle driving support system | |
| JP2018173716A (en) | Information output device | |
| JP2017111739A (en) | Driving support apparatus and driving support method | |
| JP7037896B2 (en) | Visual assistance device | |
| WO2013144998A1 (en) | Visual recognition assistance apparatus for vehicle | |
| JP6971087B2 (en) | Visual assistance device | |
| JP6878109B2 (en) | Image display device | |
| JPH06321010A (en) | Vehicular image display | |
| TWI751932B (en) | In-car electronic rear view system | |
| JP2008162550A (en) | External environment display device | |
| JP2009067214A (en) | Obstacle detection device | |
| JP3231104U (en) | Imaging equipment for mobile vehicles compatible with radar equipment | |
| JP2018177133A (en) | Image display device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200707 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210630 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210706 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210827 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211005 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211101 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6971087 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |