JP2020091790A - 自動運転システム - Google Patents

Abstract

【課題】適切に自動運転中における運転者のシステム過信状態の解消を図ることができる自動運転システムを提供する。【解決手段】自動運転が正常運行状況であるか否かを判定する正常運行状況判定部と、車両の外部環境の変化に対する運転者の反応遅れ時間、報知に対する運転者の報知反応遅れ時間、及び運転者の非運転行動時間のうち少なくとも一つを認識する運転者状況認識部と、運転者状況認識部の認識結果に基づいて、運転者がシステム過信状態であるか否かを判定する過信判定部と、正常運行状況判定部により自動運転が正常運行状況であると判定され、且つ、過信判定部により運転者がシステム過信状態であると判定された場合に、アラートを出力する報知制御部と、を備える。【選択図】図５

Description

本発明は、自動運転システムに関する。

従来、自動運転システムに関する技術文献として、特開２０１５−０３２０５４号公報が知られている。この公報には、車両の運転を支援する運転支援システムに対する運転者の過信を判定する過依存抑止装置であって、運転者が過信されていると判定されると、運転者が過信状態であることの運転者への報知又は運転支援制御の抑制を行う装置が示されている。

特開２０１５−０３２０５４号公報

ところで、近年では、一定条件下で自動運転を実行可能な自動運転システムの開発が進められている。このような自動運転においては、緊急時に運転者が車両の運転操作を行う必要があるため、自動運転システムに対する運転者の過信により運転者の反応が遅れることが問題となる。このため、より適切に運転者の過信状態の解消を図ることが求められている。

そこで、本技術分野では、適切に自動運転中における運転者のシステム過信状態の解消を図ることができる自動運転システムを提供することが望まれている。

本発明の一態様は、車両の自動運転を実行すると共に、自動運転中に車両の運転者に対して各種の報知を行う自動運転システムであって、車両の地図上の位置を認識する車両位置認識部と、車両の外部環境を認識する外部環境認識部と、車両の走行状態を認識する走行状態認識部と、地図情報、車両の地図上の位置、車両の外部環境、及び車両の走行状態に基づいて、自動運転に用いる車両の進路を生成する進路生成部と、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転が正常運行状況であるか否かを判定する正常運行状況判定部と、車両の外部環境の変化に対する運転者の反応遅れ時間、報知に対する運転者の報知反応遅れ時間、及び運転者の非運転行動時間のうち少なくとも一つを認識する運転者状況認識部と、運転者状況認識部の認識結果に基づいて、運転者がシステム過信状態であるか否かを判定する過信判定部と、正常運行状況判定部により自動運転が正常運行状況であると判定され、且つ、過信判定部により運転者がシステム過信状態であると判定された場合に、アラートを出力する報知制御部と、を備える。

本発明の一態様に係る自動運転システムによれば、正常運行状況判定部により自動運転が正常運行状況であると判定され、且つ、過信判定部により運転者がシステム過信状態であると判定された場合にアラートを出力する。これにより、自動運転システムでは、自動運転が正常運行状況であることを確保しつつアラートの出力によってシステム過信状態の運転者に対する働き掛けを行うことで、適切に自動運転中における運転者のシステム過信状態の解消を図ることができる。

本発明の一態様に係る自動運転システムは、車両の外部環境に基づいて、自動運転中の車両が不安喚起状況であるか否かを判定する不安喚起状況判定部を更に備え、報知制御部は、正常運行状況判定部により自動運転が正常運行状況であると判定され、且つ、過信判定部により運転者がシステム過信状態であると判定された場合において、不安喚起状況判定部により車両が不安喚起状況ではないと判定されたときにアラートを出力し、車両が不安喚起状況であると判定されたときにはアラートを出力しなくてもよい。
この自動運転システムによれば、車両が不安喚起状況であるときには、運転者はアラートを不安喚起状況に対する通常の注意喚起の報知と思い込む可能性があることから、車両が不安喚起状況であるときにはアラートの出力を行わない。これにより、この自動運転システムでは、不要なアラートの出力を抑制することができる。

本発明の一態様に係る自動運転システムは、車両の外部環境に基づいて、自動運転中の車両が不安喚起状況であるか否かを判定する不安喚起状況判定部を更に備え、報知制御部は、正常運行状況判定部により自動運転が正常運行状況であると判定され、且つ、過信判定部により車両の外部環境の変化に対する運転者の反応遅れ時間に基づいて運転者がシステム過信状態であると判定された場合において、不安喚起状況判定部により車両が不安喚起状況ではないと判定されたときにアラートを出力し、車両が不安喚起状況であると判定されたときにはアラートを遅延出力してもよい。
この自動運転システムによれば、車両が不安喚起状況であると判定されたときには運転者が出力の外部環境に不安を感じている可能性があるので、アラートを遅延出力して、運転者が気づいている不安喚起状況を自動運転システムが遅れて認識したと思わせることで、運転者のシステム過信状態の解消を適切に図ることができる。

本発明の一態様に係る自動運転システムにおいて、不安喚起状況判定部は、車両の外部環境として車両の前方を撮像するカメラの撮像画像における移動物体面積が不安喚起閾値以上である場合、自動運転中の車両が不安喚起状況であると判定してもよい。
この自動運転システムによれば、車両前方を見る運転者の視界内に占める障害物の面積が大きいほど運転者が車両の走行に不安を感じる可能性が高いと考えられることから、車両の前方を撮像するカメラの撮像画像における移動物体面積が不安喚起閾値以上である場合に、自動運転中の車両が不安喚起状況であると判定することができる。

本発明の一態様に係る自動運転システムにおいて、運転者状況認識部は、報知に対する運転者の報知反応遅れ時間を基準反応遅れ時間として記憶し、過信判定部は、車両の外部環境の変化に対する運転者の反応遅れ時間から基準反応遅れ時間を減算した差が過信閾値以上である場合、運転者がシステム過信状態であると判定してもよい。
この自動運転システムでは、システム過信状態の運転者は報知反応遅れ時間と比べて車両の外部環境の変化に対する反応遅れ時間が遅れると考えられることから、運転者の反応遅れ時間から基準反応遅れ時間を減算した差が過信閾値以上である場合に運転者がシステム過信状態であると判定することで、より適切にシステム過信状態の判定を行うことができる。また、運転者の報知反応遅れ時間を基準反応遅れ時間とすることで、基準反応遅れ時間を固定値とする場合と比べて、運転者の個性を踏まえたシステム過信状態の判定を行うことができる。

本発明の一態様に係る自動運転システムにおいて、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転に関するシステム自信度を演算するシステム自信度演算部を更に備え、正常運行状況判定部は、システム自信度が正常運行閾値未満である場合に、自動運転が正常運行状況ではないと判定してもよい。
この自動運転システムによれば、自動運転に関するシステム自信度を用いて自動運転の正常運行状況の判定を行うことで、システム自信度を用いない場合と比べて、自動運転が正常運行状況であるか否かをより適切に判定することができる。

本発明の一態様に係る自動運転システムによれば、適切に自動運転中における運転者のシステム過信状態の解消を図ることができる。

第１実施形態に係る自動運転システムを示すブロック図である。 非運転行動時間を説明するための図である。 不安喚起状況の一例を説明するための図である。 自動運転処理の一例を示すフローチャートである。 アラート出力処理の一例を示すフローチャートである。 （ａ）基準反応遅れ時間の記憶処理の一例を示すフローチャートである。（ｂ）システム過信状態の判定処理の一例を示すフローチャートである。 不安喚起状況の判定処理の一例を示すフローチャートである。 第２実施形態に係る自動運転システムを示すブロック図である。 （ａ）アラートの遅延出力の一例を説明するための図である。（ｂ）アラートの遅延出力の他の例を説明するための図である。 第２実施形態に係るアラート出力処理の一例を示すフローチャートである。

以下、本発明の実施形態について図面を参照して説明する。

［第１実施形態］
図１は、第１実施形態に係る自動運転システムを示すブロック図である。図１に示す自動運転システム１００は、乗用車などの車両に搭載され、車両の自動運転を実行する。自動運転とは、予め設定された目的地に向かって自動で車両を走行させる車両制御である。自動運転では、運転者が操舵などの運転操作を行う必要が無く、車両が自動で走行する。また、自動運転システム１００は、自動運転中に車両の運転者に対して各種の報知（warning）を行う。報知について詳しくは後述する。

〈第１実施形態の自動運転システムの構成〉
図１に示すように、自動運転システム１００は、システムを統括的に管理するＥＣＵ[Electronic Control Unit]２０を備えている。ＥＣＵ２０は、ＣＰＵ[CentralProcessing Unit]、ＲＯＭ[Read Only Memory]、ＲＡＭ[Random Access Memory]などを有する電子制御ユニットである。ＥＣＵ２０では、例えば、ＲＯＭに記憶されているプログラムをＲＡＭにロードし、ＲＡＭにロードされたプログラムをＣＰＵで実行することにより各種の機能を実現する。ＥＣＵ２０は、複数の電子ユニットから構成されていてもよい。

ＥＣＵ２０は、ＧＰＳ受信部１、外部センサ２、内部センサ３、地図データベース４、運転操作検出部５、ドライバモニタカメラ６、音声認識部７、車内通信部８、アクチュエータ９、及びＨＭＩ［Human Machine Interface］１０と接続されている。

ＧＰＳ受信部１は、３個以上のＧＰＳ衛星から信号を受信することにより、車両の位置（例えば車両の緯度及び経度）を測定する。ＧＰＳ受信部１は、測定した車両の位置情報をＥＣＵ２０へ送信する。ＧＰＳ受信部１に代えてＧＮＳＳ［Global Navigation Satellite System］受信部を用いてもよい。

外部センサ２は、車両の周辺の状況を検出する検出機器である。外部センサ２は、カメラ、レーダセンサのうち少なくとも一つを含む。

カメラは、車両の外部状況を撮像する撮像機器である。カメラは、車両のフロントガラスの裏側に設けられている。カメラは、車両の外部状況に関する撮像情報をＥＣＵ２０へ送信する。カメラは、単眼カメラであってもよく、ステレオカメラであってもよい。

レーダセンサは、電波（例えばミリ波）又は光を利用して車両の周辺の物体を検出する検出機器である。レーダセンサには、例えば、ミリ波レーダ又はライダー［LＩDAR：LightDetection and Ranging］が含まれる。レーダセンサは、電波又は光を車両の周辺に送信し、物体で反射された電波又は光を受信することで物体を検出する。レーダセンサは、検出した物体情報をＥＣＵ２０へ送信する。物体には、ガードレール、建物などの固定物体の他、歩行者、自転車、他車両などの移動物体が含まれる。外部センサ２はレーダセンサを必ずしも備える必要はない。

内部センサ３は、車両の走行状態を検出する検出機器である。内部センサ３は、車速センサ、加速度センサ、及びヨーレートセンサを含む。車速センサは、車両の速度を検出する検出器である。車速センサとしては、例えば、車両の車輪又は車輪と一体に回転するドライブシャフトなどに対して設けられ、車輪の回転速度を検出する車輪速センサが用いられる。車速センサは、検出した車速情報をＥＣＵ２０に送信する。

加速度センサは、車両の加速度を検出する検出器である。加速度センサは、例えば、車両の前後方向の加速度を検出する前後加速度センサと、車両の横加速度を検出する横加速度センサとを含んでいる。加速度センサは、例えば、車両の加速度情報をＥＣＵ２０に送信する。ヨーレートセンサは、車両の重心の鉛直軸周りのヨーレート（回転角速度）を検出する検出器である。ヨーレートセンサとしては、例えばジャイロセンサを用いることができる。ヨーレートセンサは、検出した車両のヨーレート情報をＥＣＵ２０へ送信する。

地図データベース４は、地図情報を記憶するデータベースである。地図データベース４は、例えば、車両に搭載されたＨＤＤ［Hard Disk Drive］内に形成されている。地図情報には、車線の位置情報、車線形状の情報（曲率、車線幅などの情報）、一時停止線の位置情報、交差点及び分岐点の位置情報、及び構造物の位置情報などが含まれる。地図情報には、地図上の位置又は区間と関連付けられた法定速度などの速度関連情報も含まれていてもよい。地図情報には、車両の位置認識に用いられる電柱などの物標の位置情報が含まれていてもよい。なお、地図データベース４は、車両と通信可能なサーバに記憶されていてもよい。

運転操作検出部５は、運転者による車両の操作部の操作を検出する。運転操作検出部５は、例えば、操舵センサ、アクセルセンサ、及びブレーキセンサを含んでいる。車両の操作部とは、運転者が車両の運転のための操作を入力する機器である。車両の操作部には、車両の操舵部、車両のアクセル操作部、及び車両のブレーキ操作部のうち少なくとも一つが含まれる。操舵部とは、例えばステアリングホイールである。操舵部は、ホイール状である場合に限られず、ハンドルとして機能する構成であればよい。アクセル操作部とは、例えばアクセルペダルである。ブレーキ操作部とは、例えばブレーキペダルである。アクセル操作部及びブレーキ操作部は、必ずしもペダルである必要はなく、運転者による加速又減速の入力が可能な構成であればよい。

操舵センサは、運転者の操舵部の把持を検出するステアリングタッチセンサを含む。ステアリングタッチセンサとしては、例えば静電容量式を用いることができる。ステアリングタッチセンサは、操舵部の左右に設けられ、運転者の両手の把持を検出する。操舵センサは、運転者による操舵部の操作量を検出してもよい。操舵部の操作量には、操舵角又は操舵トルクが含まれる。

アクセルセンサは、運転者によるアクセル操作部の操作量を検出する。アクセル操作部の操作量には、例えばアクセルペダルの踏込み量が含まれる。ブレーキセンサは、運転者によるブレーキ操作部の操作量を検出する。ブレーキ操作部の操作量には、例えばブレーキペダルの踏込み量が含まれる。アクセル操作部及びブレーキ操作部の操作量には踏込み速度が含まれてもよい。運転操作検出部５は、検出した運転者の操作量に関する操作量情報をＥＣＵ２０に送信する。

ドライバモニタカメラ６は、車両の運転者を撮像するための撮像機器である。ドライバモニタカメラ６は、例えば車両のステアリングコラムのカバー上で運転者の正面の位置に設けられ、運転者の撮像を行う。ドライバモニタカメラ６は、運転者を複数方向から撮像するため、複数個設けられていてもよい。ドライバモニタカメラ６は、運転者の撮像情報をＥＣＵ２０へ送信する。なお、自動運転システム１００は必ずしもドライバモニタカメラ６を用いる必要はない。

音声認識部７は、車室内の乗員の音声を認識する機器である。音声認識部７は、例えば車室内の音声を収集するためのマイクロフォンを有している。マイクロフォンは車室内に複数個設けられていてもよい。音声認識部７は、車室内の乗員の音声の認識結果をＥＣＵ２０に送信する。音声認識部７は、必ずしも乗員の音声を言語として認識する必要はなく、会話しているか否かの判定のみを行ってもよい。音声認識部７は、音声による個人認証機能を有していてもよく、音声から運転者が会話しているか否かを判定してもよい。

音声認識部７は、一例として常時音声認識状態となっており、いわゆるスマートスピーカとして機能してもよい。また、音声認識部７は、後述するＨＭＩ１０の一部を構成していてもよい。音声認識部７は、車両外部から車室内に届く音（他車両の走行音、他車両のエンジン音など）を認識してもよい。なお、自動運転システム１００は必ずしも音声認識部７を用いる必要はない。

車内通信部８は、ＥＣＵ２０が車内の各種情報端末と通信を行うための機器である。各種情報端末には、例えば、乗員のスマートフォン、タブレットパソコン、及びウェアラブルデバイスのうち少なくとも一つが含まれる。ウェアラブルデバイスには、腕時計型のウェアラブルデバイス、眼鏡型のウェアラブルデバイスなどが含まれる。車内通信部８は、情報端末との通信により、スマートフォンが操作中であるか否かなどの情報を取得する。車内通信部８は、ウェアラブルデバイスとの通信により運転者の生体情報を取得してもよい。生体情報には、心拍、脳波、血圧、体温などのうち少なくとも一つが含まれる。車内通信部８は、通信により取得した各種の情報をＥＣＵ２０に送信する。なお、自動運転システム１００は必ずしも車内通信部８を用いる必要はない。

アクチュエータ９は、車両の制御に用いられる機器である。アクチュエータ９は、スロットルアクチュエータ、ブレーキアクチュエータ、及び操舵アクチュエータを少なくとも含む。スロットルアクチュエータは、ＥＣＵ２０からの制御信号に応じてエンジンに対する空気の供給量（スロットル開度）を制御し、車両の駆動力を制御する。なお、車両がハイブリッド車である場合には、エンジンに対する空気の供給量の他に、動力源としてのモータにＥＣＵ２０からの制御信号が入力されて当該駆動力が制御される。車両が電気自動車である場合には、スロットルアクチュエータの代わりに動力源としてのモータにＥＣＵ２０からの制御信号が入力されて当該駆動力が制御される。これらの場合における動力源としてのモータは、アクチュエータ９を構成する。

ブレーキアクチュエータは、ＥＣＵ２０からの制御信号に応じてブレーキシステムを制御し、車両の車輪へ付与する制動力を制御する。ブレーキシステムとしては、例えば液圧ブレーキシステムを用いることができる。操舵アクチュエータは、電動パワーステアリングシステムのうち操舵トルクを制御するアシストモータの駆動を、ＥＣＵ２０からの制御信号に応じて制御する。

ＨＭＩ１０は、自動運転システム１００と乗員との間で情報の入出力を行うための機器である。ＨＭＩ１０は、表示器１０ａ、スピーカ１０ｂ、及び振動部１０ｃを有している。

表示器１０ａは、車両に設けられたディスプレイである。表示器１０ａは、例えば車両のダッシュボードに設けられている。表示器１０ａは、ＥＣＵ２０からの制御信号に応じて各種の画像表示を行う。表示器１０ａは、車両のフロントガラスに画像を投影表示するヘッドアップディスプレイであってもよい。表示器１０ａには、車両のインストルメントパネルに設けられるマルチインフォメーションディスプレイが含まれていてもよい。表示器１０ａには、車両のサイドミラーに設けられるブラインドスポットモニターが含まれていてもよい。

スピーカ１０ｂは、車両に設けられた音声出力器である。スピーカ１０ｂは、例えば車両のドアの内側及びインストルメントパネルの裏側に設けられる。スピーカ１０ｂは、ＥＣＵ２０からの制御信号に応じて各種の音声出力を行う。

振動部１０ｃは、振動の出力により運転者に報知するための振動アクチュエータである。振動アクチュエータは、例えば、車両の操舵部、運転席のシート、運転席のヘッドレスト、運転席のアームレスト、アクセルペダル、ブレーキペダルのうち少なくとも一つに設けられている。振動部１０ｃは、ＥＣＵ２０からの制御信号に応じて振動を出力する。なお、ＨＭＩ１０は、振動部１０ｃを必ずしも有する必要はない。

次に、ＥＣＵ２０の機能的構成について説明する。ＥＣＵ２０は、車両位置認識部２１、外部環境認識部２２、走行状態認識部２３、進路生成部２４、車両制御部２５、システム自信度演算部２６、正常運行状況判定部２７、運転者状況認識部２８、過信判定部２９、不安喚起状況判定部３０、及び報知制御部３１を有している。以下に説明するＥＣＵ２０の機能の一部は、車両と通信可能なサーバ上で実行されてもよい。

車両位置認識部２１は、ＧＰＳ受信部１の位置情報及び地図データベース４の地図情報に基づいて、車両の地図上の位置を認識する。また、車両位置認識部２１は、地図データベース４の地図情報に含まれた物標の位置情報及び外部センサ２の検出結果を利用して、ＳＬＡＭ［Simultaneous Localization and Mapping］技術等により車両の地図上の位置の推定を行ってもよい。車両位置認識部２１は、その他、周知の手法により車両の地図上の位置を認識してもよい。

外部環境認識部２２は、外部センサ２の検出結果（レーダセンサの物体情報及び／又はカメラの撮像情報）に基づいて、車両の外部環境を認識する。外部環境には、車両の周囲の物体の状況が含まれる。物体の状況とは、例えば車両に対する物体の相対位置及び相対速度である。

外部環境には、車両の周囲の区画線（車線境界線、中央線など）の認識結果が含まれていてもよい。外部環境認識部２２は、外部センサ２の検出結果に基づいて、周知の白線認識により車両に対する区画線の相対位置を認識する。外部環境認識部２２は、音声認識部７の認識した車両外部から車室内に響く音を外部環境の一部として認識してもよい。外部環境認識部２２は、車両外部の音を検出する外部音検出器（マイクロフォンなど）が車両に設けられている場合には、外部音検出器の検出した音を外部環境の一部として認識してもよい。

走行状態認識部２３は、内部センサ３の検出結果に基づいて、走行中の車両の状態を認識する。走行状態には、車両の車速、車両の加速度、車両のヨーレートが含まれる。具体的に、走行状態認識部２３は、車速センサの車速情報に基づいて、車両の車速を認識する。走行状態認識部２３は、加速度センサの加速度情報に基づいて、車両の加速度（前後加速度及び横加速度）を認識する。走行状態認識部２３は、ヨーレートセンサのヨーレート情報に基づいて、車両のヨーレートを認識する。

進路生成部２４は、車両の自動運転に利用される進路［trajectory］を生成する。進路生成部２４は、予め設定された目的地、地図データベース４の地図情報、車両位置認識部２１の認識した車両の地図上の位置、外部環境認識部２２の認識した車両の外部環境、及び走行状態認識部２３の認識した車両の走行状態（車速、ヨーレートなど）に基づいて、自動運転の進路を生成する。目的地は、車両の乗員によって設定されてもよく、自動運転システム１００又は周知のナビゲーションシステムにより提案された目的地であってもよい。

進路生成部２４は、目的地、地図情報、及び車両の地図上の位置に基づいて、自動運転の走行ルートを求める。走行ルートとは、自動運転において車両が走行するルートであり、車両の地図上の位置（現在位置）から目的地に向かうルートである。走行ルートは、周知のナビゲーションシステムによって設定されてもよい。走行ルートは、例えば車線単位のルートとして表わすことができる。進路生成部２４は、地図情報から走行ルートに沿って車両を自動運転するための進路を生成する。

進路には、自動運転で車両が走行する経路［path］と自動運転における車速プロファイルとが含まれる。経路は、走行ルート上において自動運転中の車両が走行する予定の軌跡である。経路は、例えば走行ルート上の位置に応じた車両の操舵角変化のデータ（操舵角プロファイル）とすることができる。走行ルート上の位置とは、例えば走行ルートの進行方向において所定間隔（例えば１ｍ）毎に設定された設定縦位置である。操舵角プロファイルとは、設定縦位置毎に目標操舵角が関連付けられたデータとなる。

進路生成部２４は、例えば走行ルート、地図情報、車両の外部環境、及び車両の走行状態に基づいて、車両が走行する経路を生成する。進路生成部２４は、例えば車両が走行ルートに含まれる車線の中央を通るように経路を生成する。

車速プロファイルは、例えば設定縦位置毎に目標車速が関連付けられたデータである。なお、設定縦位置は、距離ではなく車両の走行時間を基準として設定されてもよい。設定縦位置は、車両の１秒後の到達位置、車両の２秒後の到達位置として設定されていてもよい。

進路生成部２４は、例えば経路と地図情報に含まれる法定速度などの速度関連情報に基づいて車速プロファイルを生成する。法定速度に代えて、地図上の位置又は区間に対して予め設定された設定速度を用いてもよい。進路生成部２４は、経路及び車速プロファイルから自動運転の進路を生成する。なお、進路は上述した内容に限られない。進路は、車両の自動運転を実現するために必要な情報を有していればよい。

車両制御部２５は、車両の自動運転を実行する。車両制御部２５は、地図情報、車両の地図上の位置、車両の外部環境、車両の走行状態、及び進路に基づいて、車両の自動運転を実行する。車両制御部２５は、進路生成部２４の生成した進路に沿って自動運転を実行すると共に、緊急時には自動で緊急回避などを実行する。車両制御部２５は、アクチュエータ９に制御信号を送信することにより車両の自動運転を実行する。

システム自信度演算部２６は、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転システム１００の自動運転に関するシステム自信度を演算する。システム自信度とは、自動運転システム１００における自動運転の信頼性（確からしさ）を示す指標である。システム自信度は自動運転の継続可能性に対応する。

自動運転システム１００は、システム自信度が終了閾値未満となった場合に、自動運転制御を終了して運転者主体の運転に切り替えてもよい。運転者主体の運転には、運転者による手動運転（完全手動運転）と、ＡＣＣ［Adaptive Cruise Control］、ＬＫＡ［Lane KeepingAssist］などの運転支援制御に支援される運転者の運転とが含まれる。終了閾値は予め設定された値の閾値である。以後、本明細書の説明で用いる各種の「閾値」は予め設定された値の閾値を意味する。

システム自信度演算部２６は、例えば外部環境認識部２２の認識した車両の外部環境に基づいて、システム自信度を演算する。具体的に、システム自信度演算部２６は、車両の周囲において他車両などの移動物体の数が一定数以上である場合、車両の周囲の移動物体の数が一定数未満である場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の前方で一定距離内に先行車が存在する場合、先行車が存在しない場合と比べて、システム自信度を低い値として算出してもよい。

システム自信度演算部２６は、車両の前方で一定距離内に先行車が存在する場合、車両と先行車との車間距離が短いほど、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の後方で一定距離内に後続車が存在する場合、後続車が存在しない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両に並走する並走車が存在する場合、並走車が存在しない場合と比べて、システム自信度を低い値として算出してもよい。

システム自信度演算部２６は、車両の前方に衝突余裕時間［TTC：Time To Collision］がＴＴＣ閾値未満の物体が存在する場合、車両の前方に衝突余裕時間がＴＴＣ閾値未満の物体が存在しない場合と比べて、システム自信度を低い値として算出してもよい。なお、衝突余裕時間に代えて車間時間を用いてもよい。

システム自信度演算部２６は、車両の進行方向で車両から一定距離内に歩行者が存在する場合、歩行者が存在しない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の進路を横断する方向に移動している歩行者が存在する場合、当該歩行者が存在しない場合と比べて、システム自信度を低い値として算出してもよい。歩行者ではなく、自転車、パーソナルモビリティなどの場合も同様とすることができる。

システム自信度演算部２６は、車両の周囲の他車両が異常挙動を行っている場合、他車両が異常挙動を行っていない場合と比べて、システム自信度を低い値として算出してもよい。異常挙動とは、標準的な走行状況において他車両が行うことが予定されない異常な挙動である。異常挙動には、急減速、急加速、急操舵、ハザードランプの点灯などを含むことができる。システム自信度演算部２６は、車両の周囲の他車両が予め設定された通常挙動を逸脱した場合、異常挙動を行っていると認識してもよい。通常挙動は、例えば加速度または減速度が閾値以下であり、車線の法定最高速度以下の速度で車線に沿った走行とすることができる。

システム自信度演算部２６は、建物、他車両などによる外部センサ２の検出範囲の遮蔽割合が遮蔽閾値以上である場合、外部センサ２の検出範囲の遮蔽割合が遮蔽閾値未満である場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の地図上の位置と地図情報に含まれる物標の位置情報とに基づいて地図上で外部センサ２の検出範囲に含まれる物標を認識し、外部環境認識部３２の認識した物標（静止物体）と照合してもよい。システム自信度演算部２６は、地図上で外部センサ２の検出範囲に含まれる物標の数から外部環境認識部３２の認識した物標の数を減じた差分数が差分閾値以上である場合、差分数が差分閾値未満である場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、建物などによる外部センサ２の検出範囲の遮蔽を踏まえて、地図上で外部センサ２の検出範囲に含まれる物標の数を認識してもよい。

システム自信度演算部２６は、車両の外部環境として他車両などの移動物体のトラッキング状況に基づいて、システム自信度を演算してもよい。システム自信度演算部２６は、外部センサ２の検出範囲内でトラッキングしていた移動物体をロストした場合、移動物体をロストしない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、トラッキング中の移動物体の形状又は体積が一定割合以上に変化した場合、複数の物体を一つの移動物体と誤認識している可能性が高まることから、移動物体の形状又は体積が変化しない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、トラッキング中の移動物体の相対速度が急変した場合、速度の異なる複数の物体を誤って一つの物体として誤認識している可能性が高まることから、移動物体の相対速度が急変しない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、例えば、一定時間内の速度変化が急変閾値以上である場合に相対速度が急変したと認識することができる。

システム自信度演算部２６は、車両の外部環境に車両前方の信号機の認識結果が含まれる場合、認識された信号機の形状と地図情報に記憶された信号機の形状とが一致しない場合（例えば認識した信号機の灯火の数が三つ＋矢印灯火であり、地図情報における信号機の灯火の数が三つの三灯式である場合）、認識された信号機の形状と地図情報に記憶された信号機の形状とが一致する場合と比べて、システム自信度を低い値として算出してもよい。信号機の形状だけではなく信号機の寸法を考慮してもよい。また、信号機以外の物標の形状又は寸法を用いてもよい。

システム自信度演算部２６は、車両の外部環境に車両の周囲の天候が含まれる場合、車両の周囲の天候が雨天であるとき、車両の周囲の天候が晴天であるときと比べて、システム自信度を低い値として算出してもよい。車両の周囲の天候は、カメラの撮像情報又はレーダセンサの検出結果に基づいて判定することができる。車両の周囲の天候は、車両のワイパー作動状況なども踏まえて判定してもよい。

システム自信度演算部２６は、車両の進路に対する移動物体の干渉度に基づいて、システム自信度を演算してもよい。車両の進路に対する移動物体の干渉度は、例えば特開２００７−２３４５４号公報に記載の手法を用いて算出することができる。システム自信度演算部２６は、例えば車両の進路に対する移動物体の干渉度が高いほど、システム自信度を低い値として算出する。

システム自信度演算部２６は、車両の周囲の移動物体の危険度に基づいて、システム自信度を演算してもよい。車両の周囲の移動体の危険度は、例えば特開２００８−１５８９６９号公報に記載の手法を用いて算出することができる。システム自信度演算部２６は、例えば車両の進路に対する移動物体の危険度が高いほど、システム自信度を低い値として算出する。

システム自信度演算部２６は、車両位置認識部２１による車両の地図上の位置に基づいて、システム自信度を演算してもよい。システム自信度演算部２６は、例えば、ＧＰＳ受信部１の位置情報に加えて物標を用いた車両の位置認識を行っている場合、ＧＰＳ受信部１の位置情報のみから車両の位置を認識している場合と比べて、システム自信度を低い値として算出する。

システム自信度演算部２６は、地図情報の精度が低い区域に車両が位置する場合、それ以外の区域に車両が位置する場合と比べて、システム自信度を低い値として算出してもよい。地図情報の精度が低い区域であるか否かの情報は、例えば地図情報に予め関連付けられている。システム自信度演算部２６は、ＧＰＳ受信部１が信号を受信しているＧＰＳ衛星の数がＧＰＳ閾値以上である場合、ＧＰＳ衛星の数がＧＰＳ閾値未満である場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、ＧＰＳ受信部１が信号を受信しているＧＰＳ衛星の配置が分散している場合、ＧＰＳ衛星の配置が集中している場合と比べて、システム自信度を低い値として算出してもよい。

システム自信度演算部２６は、車両の周囲に位置する物標の認識数が物標閾値未満である場合、物標の認識数が物標閾値以上である場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の周囲で認識された複数の物標の位置関係が地図情報における各物標の位置関係と一致していない場合、認識された複数の物標の位置関係が地図情報における各物標の位置関係と一致している場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、認識された複数の物標の位置関係が地図情報における各物標の位置関係と一致しない場合において、各物標の位置誤差の平均が一定距離未満であるとき、各物標の位置誤差の平均が一定距離以上であるときと比べて、システム自信度を低い値として算出してもよい。平均に代えて中央値を用いてもよく、合計値を用いてもよい。

システム自信度演算部２６は、交差点、踏み切り、合流区間、分岐区間などの複雑な道路環境に車両が位置する場合、車両が複雑な道路環境に位置しない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、地図情報に予め設定された見通しの悪い区間に車両が位置する場合、見通しの悪い区間に車両が位置しない場合と比べて、システム自信度を低い値として算出してもよい。

システム自信度演算部２６は、走行状態認識部３３による車両の走行状態に基づいて、システム自信度を演算してもよい。システム自信度演算部２６は、車両の車速の検出結果が異常値となった場合、車速の検出結果が異常値となっていない場合と比べて、システム自信度を低い値として算出してもよい。システム自信度演算部２６は、例えば１フレーム前に検出された車速と今回検出された車速との差が異常検出閾値以上（例えば２０ｋｍ／ｈ以上）である場合に異常値となっていると認識する。加速度、ヨーレートについても同様とすることができる。

システム自信度演算部２６は、走行状態認識部３３による車両の走行状態と走行計画生成部３４の生成した走行計画とに基づいて、走行計画で計画されていた車両の走行状態と自動運転制御を行った結果として認識された車両の走行状態との比較結果から、システム自信度を演算してもよい。システム自信度演算部２６は、例えば、走行計画で計画されていた車速と自動運転制御の結果としての車速の履歴との乖離が乖離閾値以上である場合、乖離が乖離閾値未満である場合と比べて、システム自信度を低い値として算出してもよい。加速度、ヨーレートについても同様とすることができる。

その他、システム自信度演算部２６は、車両の各種センサ（外部センサ、内部センサなど）の異常を検出した場合には、各種センサが正常である場合と比べて、システム自信度を低い値として算出してもよい。センサの異常検出については周知の異常検出技術を用いることができる。

システム自信度演算部２６は、車両の進路上の位置（未来の位置）に対応するシステム自信度の算出（予測）を行う。車両の進路上の位置とは、例えば、予め設定されて所定時間ずつ離れた複数の未来時刻における走行計画上の車両の位置である。所定時間は、例えば１秒であってもよく、０．５秒であってもよい。所定時間は車両の車速が高いほど小さい時間としてもよい。未来時刻の数は二以上であればよい。

或いは、車両の進路上の位置は、車両の進路上で車両を起点として所定間隔ずつ離れた複数の位置であってもよい。所定間隔は例えば１０ｍであってもよく、１５ｍであってもよい。システム自信度の算出対象となる位置の数は固定であってもよく、車両の車速などに応じて変更されてもよい。算出対象となる位置の数は、車両の車速が高いほど増加してもよい。

システム自信度演算部２６は、車両の外部環境から車両の周囲の移動物体の挙動を予測することで、車両の進路上の位置における未来のシステム自信度を演算することができる。システム自信度演算部２６は、例えば、車両の周囲の移動物体の挙動を予測することで、車両の進路上の位置ごとに車両の周囲における移動物体の数を推測する。システム自信度演算部２６は、移動物体の推測数が一定数以上である場合、車両の周囲の移動物体の推測数が一定数未満である場合と比べて、当該位置におけるシステム自信度を低い値として算出する。

システム自信度演算部２６は、車両の周囲の他車両の挙動の予測から、車両の進路上の位置ごとに車両の一定距離内に先行車が存在するか否かを判定し、先行車の有無の判定結果から車両の進路上の位置ごとのシステム自信度を演算してもよい。また、システム自信度演算部２６は、車両の進路上の位置ごとにおける先行車の挙動の予測から車両と先行車との車間距離を推測し、車両と先行車との車間距離の推測結果に基づいて車両の進路上の位置ごとのシステム自信度を演算してもよい。後続車、並走車についても同様に算出することができる。

システム自信度演算部２６は、車両の進路上の位置ごとの車両と移動物体との衝突余裕時間を推定してシステム自信度の算出に用いてもよい。また、システム自信度演算部２６は、移動物体の挙動の予測に加えて、静止物体の位置情報を含む地図情報を考慮することで、車両の進路上の位置ごとの外部センサ２の検出範囲の遮蔽割合を予測してシステム自信度の算出に用いてもよい。また、システム自信度演算部２６は、上述した車両の進路に対する移動物体の干渉度又は車両の周囲の移動物体の危険度を用いて、車両の進路上の位置ごとのシステム自信度を演算してもよい。

システム自信度演算部２６は、地図情報に基づいて、車両の進路上の位置ごとのシステム自信度を演算してもよい。システム自信度演算部２６は、例えば、地図情報に基づいて車両の進路上の位置ごとに認識できる物標の数をそれぞれ予測する。システム自信度演算部２６は、進路上のある位置において認識できる物標の数が物標閾値未満である場合、物標の数が物標閾値以上である場合と比べて、当該位置におけるシステム自信度を低い値として算出してもよい。システム自信度演算部２６は、車両の進路上の位置が地図情報の精度が低い区域に含まれる場合、当該位置が地図情報の精度が低い区域に含まれない場合と比べて、当該位置におけるシステム自信度を低い値として算出してもよい。車両の進路上の位置が複雑な道路環境に位置する場合、車両の進路上の位置が見通しの悪い区間に位置する場合についても同様とすることができる。

正常運行状況判定部２７は、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転が正常運行状況であるか否かを判定する。正常運行状況とは、自動運転システム１００において自動運転が正常に運行されている状況である。自動運転が正常運行状況であるとは、車両の自動運転が正常に運行されており、自動運転が急に終了して運転者主体の運転への切り換えが生じるような状況ではないことを意味する。

具体的に、正常運行状況判定部２７は、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つから演算されたシステム自信度に基づいて、自動運転が正常運行状況であるか否かを判定する。正常運行状況判定部２７は、例えばシステム自信度が正常運行閾値以上である場合に、自動運転が正常運行状況であると判定する。正常運行状況判定部２７は、システム自信度が正常運行閾値未満である場合に、自動運転が正常運行状況ではないと判定する。

正常運行状況判定部２７は、システム自信度を用いることなく、自動運転が正常運行状況であるか否かを判定してもよい。正常運行状況判定部２７は、例えば、建物、他車両などによる外部センサ２の検出範囲の遮蔽割合が遮蔽用閾値以上である場合、自動運転が正常運行状況ではないと判定してもよい。正常運行状況判定部２７は、外部センサ２又は内部センサ３のセンサ異常を検出した場合、自動運転が正常運行状況ではないと判定してもよい。

正常運行状況判定部２７は、車両位置認識部２１による車両の地図上の位置の認識精度に基づいて、自動運転が正常運行状況であるか否かを判定してもよい。正常運行状況判定部２７は、車両の周囲に位置する物標の認識数及び／又は車両の周囲の物標の配置から車両の地図上の位置の認識精度を求める。正常運行状況判定部２７は、認識精度が認識精度閾値未満である場合、自動運転が正常運行状況ではないと判定する。

正常運行状況判定部２７は、進路生成部２４の生成した進路に基づいて、自動運転が正常運行状況であるか否かを判定してもよい。正常運行状況判定部２７は、例えば、一定距離内における進路の左右方向のぶれ幅（歪み幅）がぶれ幅閾値以上である場合、自動運転が正常運行状況ではないと判定する。正常運行状況判定部２７は、一定距離内における進路の速度上限と速度下限の差が速度差閾値以上である場合、自動運転が正常運行状況ではないと判定してもよい。

その他、正常運行状況判定部２７は、特開２００９−１５７５０２号公報に記載されている進路評価の手法によって、進路生成部２４の生成した進路の走行安全度を演算してもよい。この場合、正常運行状況判定部２７は、例えば、自動運転に採用される進路の走行安全度が走行安全度閾値未満である場合に、自動運転が正常運行状況ではないと判定することができる。

正常運行状況判定部２７は、システム自信度に加えて、上述した外部センサ２の検出範囲の遮蔽割合、車両の地図上の位置の認識精度、進路などの複数の基準を組み合わせて、自動運転が正常運行状況であるか否かの判定を行ってもよい。正常運行状況判定部２７は、何れか一つの基準において自動運転が正常運行状況ではないと判定される場合には、他の基準における判定結果に関わらず、自動運転が正常運行状況ではないと判定してもよい。

運転者状況認識部２８は、自動運転中における運転者状況を認識する。運転者状況の認識結果は、後述する過信判定部２９の過信判定で用いられる。運転者状況には、車両の外部環境の変化に対する運転者の反応遅れ時間、報知に対する運転者の報知反応遅れ時間、及び運転者の非運転行動時間のうち少なくとも一つが含まれる。運転者状況認識部２８は、運転操作検出部５の検出した運転者の操作及び／又はドライバモニタカメラ６の撮像した運転者画像に基づいて、運転者状況を認識する。

まず、車両の外部環境の変化に対する運転者の反応遅れ時間について説明する。車両の外部環境の変化とは、運転者が反応する対象となる外部環境の変化である。車両の外部環境の変化には、車両前方への他車両の割込み、車両前方への歩行者の飛び出し、車両側方の他車両の追い抜き、先行車の急減速などのうち少なくとも一つが含まれる。運転者状況認識部２８は、外部環境認識部２２の認識した車両の外部環境に基づいて、車両の外部環境の変化が生じたことを認識する。

運転者状況認識部２８は、車両の外部環境の変化の種類を区別して認識してもよい。この場合、車両前方への他車両の割込み、車両前方への歩行者の飛び出し、車両側方の他車両の追い抜き、先行車の急減速は、それぞれ別の種類の外部環境の変化として認識することができる。歩行者の飛び出しは、自転車、パーソナルモビリティ、他車両などの移動体の飛び出しと同じ種類としてもよい。

運転者の反応遅れ時間とは、車両の外部環境の変化が生じてから運転者が反応するまでの遅れ時間である。運転者状況認識部２８は、例えば、運転者が車両前方に顔を向けて車両の操舵部を両手で把持する運転姿勢になった場合、車両の外部環境の変化に運転者が反応したと検出する。運転者状況認識部２８は、運転者の手の状況に関わらず、運転者が車両前方に顔を向けた場合に、運転者が反応したと検出してもよい。或いは、運転者状況認識部２８は、運転者の顔の向きの認識を行わず、運転者が操舵部を両手で把持した場合に運転者が反応したと検出してもよい。

また、運転者状況認識部２８は、運転者が車両周囲を確認するように顔を動かした場合に、運転者が反応したと検出してもよい。運転者状況認識部２８は、ブレーキセンサにより運転者がブレーキペダルの上に足を置いたことを検知した場合、又は、アクセルセンサにより運転者がアクセルペダルの上に足を置いたことを検知した場合に、運転者が反応したと検出してもよい。

運転者状況認識部２８は、運転者が車両の外部環境の変化を視認したと判定した場合に、運転者が反応したと検出してもよい。運転者状況認識部２８は、例えば車両の外部環境の変化が他車両の追い抜きである場合、運転者が当該他車両の方に顔を向けた場合に、他車両の追い抜きに対して運転者が反応したと検出する。なお、車両の外部環境の変化に対する運転者の反応遅れ時間を認識する場合には、後述するような運転者に対する報知は行われない。その他、運転者状況認識部２８は、車内通信部８を通じて運転者の装着しているウェアラブルデバイスとの通信により運転者の生体情報を認識してもよい。

次に、報知に対する運転者の報知反応遅れ時間について説明する。報知は、例えば車両の外部環境の変化を運転者に注意喚起するための通知である。この場合の車両の外部環境の変化も、車両前方への他車両の割込み、車両前方への歩行者の飛び出し、車両側方の他車両の追い抜き、先行車の急減速などのうち少なくとも一つを含むことができる。なお、運転者が反応する対象となる車両の外部環境の変化と、報知対象となる車両の外部環境の変化とは必ずしも一致する必要はない。自動運転システム１００は、例えば車両前方への他車両の割込みを認識した場合、運転者に対して注意喚起のための報知を行う。報知の内容については後述する。

運転者の報知反応遅れ時間とは、報知が出力されてから運転者が反応するまでの遅れ時間である。運転者の反応は、上述した運転者の反応遅れ時間の場合と同様にして認識することができる。運転者状況認識部２８は、報知が画像表示である場合、画像表示の存在する方向に運転者が顔を向けたとき、運転者が反応したと検出してもよい。運転者状況認識部２８は、報知が音声出力である場合、音声の出力された方向に運転者が顔を向けたとき、運転者が反応したと検出してもよい。運転者状況認識部２８は、報知が出力されてから運転者の反応を認識するまでの時間を報知に対する運転者の報知反応遅れ時間として認識する。

続いて、運転者の非運転行動時間について説明する。運転者の非運転行動時間とは、運転者が非運転行動を行っている時間である。非運転行動とは、運転行動と関係ない行動である。運転行動には、運転者が車両の操舵部を把持する行動、運転者が車両前方などを監視する行動が含まれる。非運転行動には、よそ見、スマートフォンの操作、車両設備（例えば音響設備やナビゲーションシステム）の操作などが含まれる。

運転者状況認識部２８は、例えばドライバモニタカメラ６の撮像した運転者画像に基づいて、運転者の非運転行動を検出することで、非運転行動時間の認識を行う。運転者状況認識部２８は、車内通信部８が運転者のスマートフォンと通信している場合、運転者のスマートフォンの操作情報から運転者の非運転行動を検出してもよい。運転者状況認識部２８は、運転者のスマートフォンの操作情報とドライバモニタカメラ６の運転者画像の両方を用いて、運転者の非運転行動を検出してもよい。

運転者状況認識部２８は、車両設備の操作情報から運転者の非運転行動を検出してもよい。運転者状況認識部２８は、音声認識部７の認識結果に基づいて、運転者が会話に集中していると判定した場合、運転者の非運転行動として検出してもよい。運転者が会話に集中しているとは、例えば運転者が一定以上の音量の声で連続的に会話している状態である。音声認識部７には運転者の音声が予め登録されていてもよい。運転者状況認識部２８は、ドライバモニタカメラ６の運転者画像と音声認識部７の認識結果との組み合わせにより、運転者が会話に集中しているか否かを判定してもよい。

運転者状況認識部２８は、運転操作検出部５の検出した運転者の操作及び／又はドライバモニタカメラ６の撮像した運転者画像に基づいて、運転者の運転行動を検出してもよい。運転者状況認識部２８は、例えば運転者が車両前方に顔を向けて車両の操舵部を両手で把持する運転姿勢である場合、運転者が運転行動を行っていると検出する。運転者状況認識部２８は、運転者の運転行動を検出した時間を運転行動時間として認識する。なお、運転者状況認識部２８は、必ずしも運転行動を検出する必要はない。

過信判定部２９は、運転者状況認識部２８の認識結果に基づいて、運転者がシステム過信状態であるか否かを判定する。システム過信状態とは、運転者が自動運転システム１００による自動運転を過信している状態である。システム過信状態の運転者は、自動運転中であっても注意を払うべき車両の周囲に対して十分な注意を払っていないと考えられる。

具体的に、過信判定部２９は、車両の外部環境の変化に対する運転者の反応遅れ時間と運転者の報知反応遅れ時間との比較結果から、運転者がシステム過信状態であるか否かを判定する。システム過信状態の運転者は、自動運転システム１００からの報知に頼って、車両の外部環境に注意を払うことを怠っていると考えられる。このため、車両の外部環境の変化に対する運転者の反応遅れ時間と運転者の報知反応遅れ時間とを比較することで、運転者のシステム過信状態を判定することができる。

この場合において、まず、過信判定部２９は、運転者状況認識部２８により車両の外部環境の変化に応じた報知に対する運転者の報知反応遅れ時間が認識された場合、運転者の報知反応遅れ時間を基準反応遅れ時間として記憶する。過信判定部２９は、ＥＣＵ２０に接続された記憶装置に対して基準反応遅れ時間を記憶させてもよい。

その後、過信判定部２９は、運転者状況認識部２８により車両の外部環境の変化に対する運転者の反応遅れ時間が認識された場合、当該反応遅れ時間から基準反応遅れ時間（記憶された報知反応遅れ時間）を減算した差を算出する。過信判定部２９は、反応遅れ時間と基準反応遅れ時間との差が過信閾値以上である場合、運転者がシステム過信状態であると判定する。過信閾値は正の値の閾値である。過信閾値は車両の速度又は車両外部の明るさなどの各種パラメータに応じて値が変更されてもよい。

過信判定部２９は、車両の外部環境の変化の種類を区別してもよい。過信判定部２９は、車両前方への他車両の割込み、車両前方への歩行者の飛び出し、車両側方の他車両の追い抜き、先行車の急減速などの種類ごとに運転者の報知反応遅れ時間を記憶する。過信判定部２９は、運転者状況認識部２８により車両の外部環境の変化に対する運転者の反応遅れ時間が認識された場合、当該外部環境の変化の種類に応じた報知反応遅れ時間と比較することで運転者がシステム過信状態であるか否かを判定する。

過信判定部２９は、必ずしも運転者の反応遅れ時間と運転者の報知反応遅れ時間の比較を行う必要はない。過信判定部２９は、車両の外部環境の変化に対する運転者の反応遅れ時間に基づいて、運転者がシステム過信状態であるか否かを判定してもよい。

具体的に、過信判定部２９は、車両の外部環境の変化の種類ごとに比較用反応遅れ時間を記憶している。過信判定部２９は、車両の外部環境の変化に対する運転者の反応遅れ時間が認識された場合、当該外部環境の変化の種類に応じた比較用反応遅れ時間を運転者の反応遅れ時間から減算した差を算出する。過信判定部２９は、運転者の反応遅れ時間と比較用反応遅れ時間との差が過信閾値以上である場合、運転者がシステム過信状態であると判定してもよい。

同様に、過信判定部２９は、車両の外部環境の変化に応じた報知に対する運転者の報知反応遅れ時間に基づいて、運転者がシステム過信状態であるか否かを判定してもよい。過信判定部２９は、比較用報知反応遅れ時間を予め記憶している。過信判定部２９は、運転者の報知反応遅れ時間が認識された場合、比較用報知反応遅れ時間を運転者の報知反応遅れ時間から減算した差を算出する。過信判定部２９は、運転者の報知反応遅れ時間と比較用報知反応遅れ時間との差が過信閾値以上である場合、運転者がシステム過信状態であると判定してもよい。過信判定部２９は、車両の外部環境の変化の種類に応じて異なる値の比較用報知反応遅れ時間を用いてもよい。

過信判定部２９は、運転者の非運転行動時間に基づいて、運転者がシステム過信状態であるか否かを判定してもよい。ここで、図２は、非運転行動時間を説明するための図である。図２に、運転行動時間Ｔｄと非運転行動時間Ｔｓとを示す。図２において、運転者状況認識部２８は、運転者の運転行動を検出した場合、運転者の運転行動の時間を運転行動時間Ｔｄとして認識する。周辺監視行動は運転行動の一部である。運転者状況認識部２８は、運転者の非運転行動を検出した場合、運転者の非運転行動の時間を非運転行動時間Ｔｓとして認識する。

図２に示すように、自動運転中の運転者の行動は、運転行動と非運転行動に区別できる。システム過信状態の運転者は、非運転行動時間Ｔｓが増加すると考えられることから、非運転行動時間Ｔｓに基づいて運転者のシステム過信状態を判定することができる。

過信判定部２９は、例えば、連続した非運転行動時間Ｔｓの長さが過信時間閾値以上となった場合、運転者がシステム過信状態であると判定する。或いは、過信判定部２９は、運転行動時間Ｔｄに対する非運転行動時間Ｔｓの比率が比率閾値以上となった場合、運転者がシステム過信状態であると判定してもよい。また、過信判定部２９は、一定時間に占める非運転行動時間Ｔｓの割合が割合閾値以上となった場合、運転者がシステム過信状態であると判定してもよい。

過信判定部２９は、正常運行状況判定部２７により自動運転が正常運行状況であると判定された場合において、運転者の反応を見るためのメッセージ音声をスピーカ１０ｂから出力してもよい。過信判定部２９は、例えば運転者に「運転姿勢に戻って下さい」などのメッセージ音声を出力する。

過信判定部２９は、メッセージ音声を出力しても運転者の反応（音の出力方向に顔を向ける又は操舵部を把持するなどの反応）が検出されない場合、運転者がシステム過信状態であると判定してもよい。メッセージ音声は、一例として、背景音に紛れない程度で小さめの音量とすることができる。また、メッセージ音声は、運転者の顔が向いていない方向のスピーカ１０ｂから出力する態様としてもよい。メッセージ音声に代えてメッセージの画像表示などを行ってもよい。

その他、過信判定部２９は、運転者状況認識部２８の認識した運転者の生体情報に基づいてシステム過信状態を判定してもよい。過信判定部２９は、運転者の反応遅れ時間などと組み合わせて、運転者の生体情報を用いることにより、システム過信状態を判定してもよい。過信判定部２９は、運転席のアームレストに運転者の腕の重さを検出するアームレストセンサが設けられている場合には、運転者の反応遅れ時間などと組み合わせて、アームレストセンサの検出結果を用いることにより、システム過信状態を判定してもよい。運転者がアームレストに寄り掛かっている場合には、運転者がアームレストに寄り掛かっていない場合と比べて、運転者がシステム過信状態である可能性が高いと考えることができる。

不安喚起状況判定部３０は、車両の外部環境に基づいて、自動運転中の車両が不安喚起状況であるか否かを判定する。不安喚起状況とは、車両の運転者に不安を喚起させるような車両の状況である。不安喚起状況は運転者の観点から判定される。不安喚起状況の一例としては、運転者の視界内で車両の前方に他車両が割込もうとしており、車両と他車両とが近接している状況が挙げられる。

不安喚起状況判定部３０は、例えば車両の前方を撮像するカメラの撮像画像に基づいて、撮像画像における移動物体面積が不安喚起閾値以上である場合、自動運転中の車両が不安喚起状況であると判定する。移動物体面積とは、他車両、歩行者、自転車などの移動物体（移動可能な障害物）の撮像画像に占める面積である。不安喚起状況判定部３０は、運転者の視界を占める移動物体の面積が大きいほど運転者が車両の状況に不安を感じる可能性が高いと考えられることから、移動物体面積に基づいて不安喚起状況を判定することができる。

ここで、図３は、不安喚起状況の一例を説明するための図である。図３に、カメラの撮像画像Ｇ、先行車Ｎ１、右側他車両Ｎ２、及び左側他車両Ｎ３を示す。また、図３に、先行車Ｎ１の画像面積Ａ１、右側他車両Ｎ２の画像面積Ａ２、左側他車両Ｎ３の画像面積Ａ３を示す。移動物体面積は、画像面積Ａ１〜Ａ３の合計面積となる。

図３に示す状況において、不安喚起状況判定部３０は、外部環境認識部２２の認識した車両の外部環境に基づいて、カメラの撮像画像Ｇにおける移動物体面積（画像面積Ａ１〜Ａ３の合計面積）を認識する。不安喚起状況判定部３０は、移動物体面積が不安喚起閾値以上である場合、車両が不安喚起状況であると判定する。不安喚起閾値は、車両の速度又は車両外部の明るさなど各種パラメータに応じて値を変更されてもよい。撮像画像に占める移動物体面積の認識には周知の画像認識技術を用いればよい。

不安喚起状況判定部３０は、移動物体面積が急に増加した場合に、車両が不安喚起状況であると判定してもよい。不安喚起状況判定部３０は、例えば、一定時間内における移動物体面積の増加量が面積増加閾値以上である場合、車両が不安喚起状況であると判定する。

また、不安喚起状況判定部３０は、車両の前方を撮像するカメラの撮像画像だけではなく、車両の側方又は後方を撮像するカメラの撮像画像における移動物体面積を考慮してもよい。不安喚起状況判定部３０は、例えば車両外部を撮像する全てのカメラの撮像画像における移動物体の画像面積を合計した移動物体面積が不安喚起閾値以上である場合に、自動運転中の車両が不安喚起状況であると判定してもよい。

不安喚起状況判定部３０は、必ずしも移動物体面積に基づいて不安喚起状況を判定する必要はない。不安喚起状況判定部３０は、車両の周囲の他車両の密度、車両の周囲の他車両の車種、車両の周囲の音を考慮して不安喚起状況を判定してもよい。一例として不安喚起度を用いることができる。不安喚起状況判定部３０は、不安喚起度が不安喚起度閾値以上である場合、車両が不安喚起状況であると判定する。

不安喚起状況判定部３０は、例えば、車両から一定距離内に位置する他車両の車種が小型車である場合と比べて、車種がトラックなどの大型車である場合、不安喚起度を大きい値として算出する。不安喚起状況判定部３０は、車両から一定距離内に位置する他車両の車種が小型車である場合と比べて、車種が高級車のような幅広の車である場合、不安喚起度を大きい値として算出してもよい。

不安喚起状況判定部３０は、車両から一定距離内に位置する他車両の車種が小型車である場合と比べて、車種がバイクである場合、不安喚起度を大きい値として算出してもよい。不安喚起状況判定部３０は、車両から一定距離内に存在する他車両の台数が多いほど、不安喚起度を大きい値として算出してもよい。不安喚起状況判定部３０は、車両の周囲の音の騒音値（例えばデシベル）が大きいほど、不安喚起度を大きい値として算出してもよい。不安喚起状況判定部３０は、大型車の接近する音を検出した場合、大型車の接近する音を検出しない場合と比べて、不安喚起度を大きい値として算出してもよい。不安喚起状況判定部３０は、救急車両又は警察車両などの特殊車両のサイレン音を検出した場合、特殊車両のサイレン音を検出しない場合と比べて、不安喚起度を大きい値として算出してもよい。不安喚起状況判定部３０は、工事などの発する音であっても騒音値が騒音閾値以上の音が存在する場合、騒音値が騒音閾値以上の音が存在しない場合と比べて、不安喚起度を大きい値として算出してもよい。

その他、不安喚起状況判定部３０は、車両の外部環境を予め用意された判定用データベースのデータと照合することで、不安喚起状況を判定してもよい。判定用データベースには、例えば不安喚起状況と判定される車両の外部環境がデータとして記憶されている。不安喚起状況判定部３０は、例えば、車両の外部環境（カメラの撮像画像、レーダセンサの検出した車両の周囲の他車両の配置など）が判定用データベースのデータと一致する場合、車両が不安喚起状況であると判定する。判定用データベースの生成手法は特に限定されない。

報知制御部３１は、自動運転中に運転者に対して各種の報知を行う。報知制御部３１は、ＨＭＩ１０に制御信号を送信することにより、各種の報知を実行する。報知は、ＨＭＩ１０の表示器１０ａによる画像表示、スピーカ１０ｂによる音声出力、及び振動部１０ｃによる振動の出力のうち少なくとも一つによって行われる。報知は、画像表示、音声出力、振動のうち二つ以上を組み合わせて実行されてもよい。

報知制御部３１は、例えばシステム自信度が低下して自動運転から運転者主体の運転への切り換えが必要となった場合、運転者主体の運転への切り換えの報知を運転者に行う。報知制御部３１は、車両前方への他車両の割込みが認識された場合、運転者に対して注意喚起のための報知を行ってもよい。報知制御部３１は、先行車の急減速などにより自動運転中の車両の一定以上の減速又は回避が必要となった場合、運転者に対して注意喚起のための報知を行ってもよい。

報知制御部３１は、一定条件下でアラートを出力する。具体的に、報知制御部３１は、正常運行状況判定部２７により自動運転が正常運行状況であると判定され、過信判定部２９により運転者がシステム過信状態であると判定され、且つ、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況ではないと判定された場合に、アラートを出力する。

上記アラートは、運転者に対してシステム過信状態を解消するためのアラートである。アラートは、運転者に対する外部環境等の注意喚起を目的とするアラートではない。アラートは、運転者のシステム過信状態の解消に少しでも寄与できればよく、アラート内容は限定されない。アラートは、通常の報知と異なると言う意味でダミーアラートと呼称されてもよい。アラートのアラート内容には、自動運転中のレーン逸脱には操舵部の振動（ステアリングホイールの振動）による報知と言うように割り当てがされている場合には、自動運転における報知として割り当てられていないアラート内容を採用してもよい。

アラートには、表示によるアラート、音によるアラート、振動によるアラートのうち少なくとも一つが含まれる。アラートは、表示によるアラート、音によるアラート、振動によるアラートのうち二つ以上を組み合わせて実行されてもよい。

表示によるアラートには、ＨＭＩ１０の表示器１０ａからの画像表示が含まれる。表示によるアラートは、ヘッドアップディスプレイによる車両のフロントガラスへの投影表示であってもよい。表示によるアラートは、マルチインフォメーションディスプレイへの画像表示であってもよく、車両のサイドミラーに設けられるブラインドスポットモニターへの画像表示であってもよい。表示によるアラートには、車内通信部８を介して車両と通信している運転者のスマートフォンなどの画面に対する画像表示が含まれていてもよい。表示内容は、アイコン表示であってもよく、テキスト表示であってもよい。表示内容は、運転者のシステム過信状態の解消に寄与できる内容であれば限定されない。

音によるアラートには、スピーカ１０ｂから車両される音声出力が含まれる。音によるアラートには、警報音及び／又は音声が含まれる。警報音は、連続音であっても、断続音であってもよい。音声の種類や内容も運転者のシステム過信状態の解消に寄与できる内容であれば限定されない。

振動によるアラートには、振動部１０ｃによる振動の出力が含まれる。振動によるアラートには、操舵部の振動、運転席のシートの振動、運転席のヘッドレストの振動、運転席のアームレストの振動、アクセルペダルの振動、ブレーキペダルの振動のうち少なくとも一つが含まれる。

報知制御部３１は、正常運行状況判定部２７により自動運転が正常運行状況ではないと判定された場合、又は、過信判定部２９により運転者がシステム過信状態ではないと判定された場合には、アラートの出力を行わない。

また、報知制御部３１は、正常運行状況判定部２７により自動運転が正常運行状況であると判定され、且つ、過信判定部２９により運転者がシステム過信状態であると判定された場合であっても、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であると判定された場合には、アラートの出力を行わない。この場合に、報知制御部３１は、アラート以外の通常の報知も行わない態様であってもよい。

〈第１実施形態の自動運転システムの処理〉
次に、第１実施形態の自動運転システム１００の処理について図面を参照して説明する。

《自動運転処理》
図４は、自動運転処理の一例を示すフローチャートである。図４に示す自動運転処理は、車両の自動運転が開始される場合に実行される。

図４に示すように、自動運転システム１００のＥＣＵ２０は、Ｓ１０として、車両位置認識部２１により車両の地図上の位置の認識を行う。車両位置認識部２１は、ＧＰＳ受信部１の位置情報及び地図データベース４の地図情報に基づいて、車両の地図上の位置を認識する。また、車両位置認識部２１は、ＳＬＡＭ技術等により車両の地図上の位置の推定を行ってもよい。

Ｓ１２において、ＥＣＵ２０は、外部環境認識部２２により車両の外部環境の認識を行う。外部環境認識部２２は、外部センサ２の検出結果に基づいて、車両の外部環境を認識する。

Ｓ１４において、ＥＣＵ２０は、走行状態認識部２３により車両の走行状態の認識を行う。走行状態認識部２３は、内部センサ３の検出結果に基づいて、走行中の車両の状態を認識する。

Ｓ１６において、ＥＣＵ２０は、進路生成部２４により自動運転の進路を生成する。進路生成部２４は、予め設定された目的地、地図情報、車両の地図上の位置、車両の外部環境、及び車両の走行状態に基づいて、自動運転の進路を生成する。

Ｓ１８において、ＥＣＵ２０は、車両制御部２５により自動運転を実行する。車両制御部２５は、地図情報、車両の地図上の位置、車両の外部環境、車両の走行状態、及び進路に基づいて、車両の自動運転を実行する。

《アラート出力処理》
図５は、アラート出力処理の一例を示すフローチャートである。図５に示すアラート出力処理は、車両の自動運転中に実行される。アラート出力処理は、車両の自動運転が開始されてから一定時間の経過後又は一定距離の走行後に開始されてもよい。

図５に示すように、ＥＣＵ２０は、Ｓ２０として、システム自信度演算部２６により自動運転のシステム自信度を演算する。システム自信度演算部２６は、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、システム自信度を演算する。

Ｓ２２において、ＥＣＵ２０は、正常運行状況判定部２７により自動運転が正常運行状況であるか否かを判定する。正常運行状況判定部２７は、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転が正常運行状況であるか否かを判定する。ＥＣＵ２０は、自動運転が正常運行状況であると判定された場合（Ｓ２２：ＹＥＳ）、Ｓ２４に移行する。ＥＣＵ２０は、自動運転が正常運行状況ではないと判定された場合（Ｓ２２：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ２０は、自動運転が継続されている場合、一定時間の経過後に再びＳ２０から処理を繰り返す。

Ｓ２４において、ＥＣＵ２０は、過信判定部２９により運転者がシステム過信状態であるか否かを判定する。過信判定部２９は、車両の外部環境の変化に対する運転者の反応遅れ時間、報知に対する運転者の報知反応遅れ時間、及び運転者の非運転行動時間のうち少なくとも一つに基づいて、運転者がシステム過信状態であるか否かを判定する。システム過信状態の判定の処理について詳しくは後述する。

ＥＣＵ２０は、運転者がシステム過信状態であると判定された場合（Ｓ２４：ＹＥＳ）、Ｓ２６に移行する。ＥＣＵ２０は、運転者がシステム過信状態ではないと判定された場合（Ｓ２４：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ２０は、自動運転が継続されている場合、一定時間の経過後に再びＳ２０から処理を繰り返す。

Ｓ２６において、ＥＣＵ２０は、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であるか否かを判定する。不安喚起状況判定部３０は、例えば車両の前方を撮像するカメラの撮像画像に基づいて、撮像画像における移動物体面積が不安喚起閾値以上である場合、自動運転中の車両が不安喚起状況であると判定する。不安喚起状況の判定処理について詳しくは後述する。

ＥＣＵ２０は、自動運転中の車両が不安喚起状況であると判定された場合（Ｓ２６：ＹＥＳ）、今回の処理を終了する。すなわち、ＥＣＵ２０は、自動運転中の車両が不安喚起状況であると判定された場合にはアラートの出力を行わない。その後、ＥＣＵ２０は、自動運転が継続されている場合、一定時間の経過後に再びＳ２０から処理を繰り返す。ＥＣＵ２０は、自動運転中の車両が不安喚起状況ではないと判定された場合（Ｓ２６：ＮＯ）、Ｓ２８に移行する。

Ｓ２８において、ＥＣＵ２０は、報知制御部３１によりアラートの出力を行う。報知制御部３１は、ＨＭＩ１０に制御信号を送信することによりアラートの出力を行う。その後、ＥＣＵ２０は、今回の処理を終了する。ＥＣＵ２０は、予め決められた待機時間の経過後に再びＳ２０から処理を繰り返す。

《基準反応遅れ時間の記憶処理》
図６（ａ）は、基準反応遅れ時間の記憶処理の一例を示すフローチャートである。基準反応遅れ時間の記憶処理は、後述するシステム過信状態の判定処理の前提の処理となる。基準反応遅れ時間の記憶処理は、車両の自動運転中に実行される。

図６（ａ）に示すように、ＥＣＵ２０は、Ｓ３０として、報知制御部３１による報知が行われたか否かを判定する。報知制御部３１は、ＨＭＩ１０に制御信号を送信することにより運転者に対する報知を実行する。判定対象となる報知は、車両の外部環境の変化に対する報知に限ってもよい。ＥＣＵ２０は、報知が行われた場合（Ｓ３０：ＹＥＳ）、Ｓ３２に移行する。ＥＣＵ２０は、報知が行われていない場合（Ｓ３０：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ２０は、自動運転が継続されている場合、一定時間の経過後に再びＳ３０から処理を繰り返す。

Ｓ３２において、ＥＣＵ２０は、運転者状況認識部２８により報知に対する運転者の報知反応遅れ時間を認識する。運転者状況認識部２８は、報知が出力されてから運転者の反応を認識するまでの時間を報知に対する運転者の報知反応遅れ時間として認識する。

Ｓ３４において、ＥＣＵ２０は、過信判定部２９により運転者の報知反応遅れ時間を基準反応遅れ時間として記憶する。過信判定部２９は、ＥＣＵ２０に接続された記憶装置に対して基準反応遅れ時間を記憶させてもよい。その後、ＥＣＵ２０は今回の処理を終了する。ＥＣＵ２０は、予め決められた待機時間の経過後に再びＳ３０から処理を繰り返すことで、基準反応遅れ時間を更新してもよい。

《システム過信状態の判定処理》
図６（ｂ）は、システム過信状態の判定処理の一例を示すフローチャートである。システム過信状態の判定処理は、図５に示すＳ２４の処理に対応する。

図６（ｂ）に示すように、ＥＣＵ２０は、Ｓ４０として、外部環境認識部２２により車両の外部環境の変化を検出する。外部環境認識部２２は、外部センサ２の検出結果に基づいて、車両の外部環境の変化を検出する。ＥＣＵ２０は、車両の外部環境の変化が検出された場合（Ｓ４０：ＹＥＳ）、Ｓ４２に移行する。ＥＣＵ２０は、車両の外部環境の変化が検出されなかった場合（Ｓ４０：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ２０は、自動運転が継続されている場合、一定時間の経過後に再びＳ４０から処理を繰り返す。

Ｓ４２において、ＥＣＵ２０は、運転者状況認識部２８により車両の外部環境の変化に対する運転者の反応遅れ時間を認識する。運転者状況認識部２８は、運転操作検出部５の検出した運転者の操作及び／又はドライバモニタカメラ６の撮像した運転者画像に基づいて、車両の外部環境の変化に対する運転者の反応遅れ時間を認識する。

Ｓ４４において、ＥＣＵ２０は、過信判定部２９により運転者の反応遅れ時間と基準反応遅れ時間との差が過信閾値以上であるか否かを判定する。ＥＣＵ２０は、運転者の反応遅れ時間と基準反応遅れ時間との差が過信閾値以上であると判定された場合（Ｓ４４：ＹＥＳ）、Ｓ４６に移行する。ＥＣＵ２０は、運転者の反応遅れ時間と基準反応遅れ時間との差が過信閾値以上ではないと判定された場合（Ｓ４４：ＮＯ）、Ｓ４８に移行する。

Ｓ４６において、ＥＣＵ２０は、過信判定部２９により運転者がシステム過信状態であると判定する。Ｓ４８において、ＥＣＵ２０は、過信判定部２９により運転者がシステム過信状態ではないと判定する。

《不安喚起状況の判定処理》
図７は、不安喚起状況の判定処理の一例を示すフローチャートである。不安喚起状況の判定処理は、図５に示すＳ２６の処理に対応する。

図７に示すように、ＥＣＵ２０は、Ｓ５０として、不安喚起状況判定部３０により車両の前方を撮像するカメラの撮像画像における移動物体面積が不安喚起閾値以上であるか否かを判定する。不安喚起状況判定部３０は、車両の前方を撮像するカメラの撮像画像に基づいて上記判定を行う。ＥＣＵ２０は、カメラの撮像画像における移動物体面積が不安喚起閾値以上であると判定された場合（Ｓ５０：ＹＥＳ）、Ｓ５２に移行する。ＥＣＵ２０は、カメラの撮像画像における移動物体面積が不安喚起閾値以上ではないと判定された場合（Ｓ５０：ＮＯ）、Ｓ５４に移行する。

Ｓ５２において、ＥＣＵ２０は、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であると判定する。Ｓ５４において、ＥＣＵ２０は、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況ではないと判定する。

〈第１実施形態の自動運転システムの作用効果〉
以上説明した第１実施形態の自動運転システム１００によれば、正常運行状況判定部２７により自動運転が正常運行状況であると判定され、且つ、過信判定部２９により運転者がシステム過信状態であると判定された場合であって、不安喚起状況判定部３０により車両が不安喚起状況ではないと判定されたときにアラートを出力する。これにより、自動運転システム１００では、自動運転が正常運行状況であることを確保しつつアラートの出力によってシステム過信状態の運転者に対する働き掛けを行うことで、適切に自動運転中における運転者のシステム過信状態の解消を図ることができる。

また、自動運転システム１００では、車両が不安喚起状況であるときには、運転者はアラートを不安喚起状況に対する通常の注意喚起の報知と思い込む可能性があることから、車両が不安喚起状況であるときにはアラートの出力を行わない。これにより、自動運転システム１００では、不要なアラートの出力を抑制することができる。更に、自動運転システム１００では、車両が不安喚起状況であるときにはアラートを含めて通常の報知も行わないことで、自動運転システム１００が不安喚起状況を認識していないのではないかと運転者に疑義を持たせ、運転者のシステム過信状態の解消を図ることもできる。

また、自動運転システム１００によれば、車両前方を見る運転者の視界内に占める障害物の面積が大きいほど運転者が車両の走行に不安を感じる可能性が高いと考えられることから、車両の前方を撮像するカメラの撮像画像における移動物体面積が不安喚起閾値以上である場合に、自動運転中の車両が不安喚起状況であると判定することができる。

また、自動運転システム１００では、システム過信状態の運転者は報知反応遅れ時間と比べて車両の外部環境の変化に対する反応遅れ時間が遅れると考えられることから、運転者の反応遅れ時間から基準反応遅れ時間を減算した差が過信閾値以上である場合に運転者がシステム過信状態であると判定することで、より適切にシステム過信状態の判定を行うことができる。また、運転者の報知反応遅れ時間を基準反応遅れ時間とすることで、基準反応遅れ時間を固定値とする場合と比べて、運転者の個性を踏まえたシステム過信状態の判定を行うことができる。

更に、自動運転システム１００によれば、自動運転に関するシステム自信度を用いて自動運転の正常運行状況の判定を行うことで、システム自信度を用いない場合と比べて、自動運転が正常運行状況であるか否かをより適切に判定することができる。

［第２実施形態］
次に、第２実施形態の自動運転システムについて図面を参照して説明する。図８は、第２実施形態に係る自動運転システムを示すブロック図である。第１実施形態と同様の構成については同じ符号を付し、重複する説明を省略する。

〈第２実施形態の自動運転システムの構成〉
図８に示す第２実施形態の自動運転システム２００は、第１実施形態と比べて、報知制御部４１によりアラートの遅延出力を実行する点が異なっている。アラートの遅延出力とは、不安喚起状況が生じているにも関わらず、遅延してアラートの出力を行うことで運転者のシステム過信状態の解消を図る態様である。

図８に示すように、自動運転システム２００のＥＣＵ４０は、第１実施形態と比べて、報知制御部４１の機能が異なっている。具体的に、報知制御部４１は、正常運行状況判定部２７により自動運転が正常運行状況であると判定され、過信判定部２９により運転者がシステム過信状態であると判定され、且つ、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であると判定された場合に、アラートの遅延出力を行う。

ここで、図９（ａ）は、アラートの遅延出力の一例を説明するための図である。図９（ａ）に示す時間軸上に、不安喚起状況の開始及び終了の時点とアラートの遅延出力の時点とを示す。ここでは、不安喚起状況として車両の側方を高い速度で追い抜く他車両（追い抜き車両）が現われた状況を想定することができる。この場合、車両から一定距離内に追い抜き車両が現われたときを不安喚起状況の開始の時点、追い抜き車両が車両から一定距離以上離れたときを不安喚起状況の終了の時点とすることができる。自動運転システム２００は、追い抜き車両を不安喚起状況の開始の時点から終了の時点まで認識している。不安喚起状況の開始の時点は、不安喚起状況判定部３０により車両が当該不安喚起状況であると初めて判定された時点としてもよい。

図９（ａ）に示す状況において、報知制御部４１は、自動運転が正常運行状況であると判定され、運転者がシステム過信状態であると判定され、且つ、自動運転中の車両が不安喚起状況であると判定されることから、アラートの遅延出力を行う。

報知制御部４１は、例えば不安喚起状況の開始から一定時間の経過後に、アラートを遅延して出力する。報知制御部４１は、不安喚起状況の終了の直前（例えば追い抜き車両が車両から一定距離以上離れる直前）のタイミングに、アラートを遅延して出力してもよい。このように、自動運転システム２００は、運転者が追い抜き車両に気づいた後のタイミングでアラートを遅延して出力することで、運転者に自動運転システム２００を過信してはいけないと感じさせることができる。

図９（ｂ）は、アラートの遅延出力の他の例を説明するための図である。図９（ｂ）では、報知制御部４１は、不安喚起状況の終了後に、アラートを遅延して出力している。なお、報知制御部４１は、不安喚起状況の終了後、自動運転中の車両が停車するタイミングでアラートを遅延して出力してもよい。

なお、遅延出力する場合のアラートは、遅延しないアラート（第１実施形態のアラート）と同じアラート内容であってもよく、異なるアラート内容であってもよい。遅延出力する場合のアラートは、不安喚起状況（追い抜き車両など）に対するアラートが遅れた旨のメッセージを含むアラート内容とすることもできる。このように不安喚起状況を含む情報を運転者に伝えることで、そもそも運転者が不安喚起状況に全く気付いていない場合であっても、運転者に自動運転システム２００を過信してはいけないと感じさせることができる。報知制御部４１は、アラートの遅延出力の一部として、不安喚起状況の終了後に、不安喚起状況に関する画像（例えば追い抜き車両の画像）を再生して運転者に見せてもよい。

〈第２実施形態の自動運転システムの処理〉
《アラート出力処理》
図１０は、第２実施形態に係るアラート出力処理の一例を示すフローチャートである。アラート出力処理以外の処理は、第１実施形態と同様とすることができる。なお、図１０に示すＳ６０、Ｓ６２、Ｓ６４、Ｓ６６の処理は、図５に示すＳ２０、Ｓ２２、Ｓ２４、Ｓ２６の処理と同様であるため説明を簡略化する。

図１０に示すように、ＥＣＵ４０は、Ｓ６０として、システム自信度演算部２６により自動運転のシステム自信度を演算する。Ｓ６２において、ＥＣＵ４０は、正常運行状況判定部２７により自動運転が正常運行状況であるか否かを判定する。ＥＣＵ４０は、自動運転が正常運行状況であると判定された場合（Ｓ６２：ＹＥＳ）、Ｓ６４に移行する。ＥＣＵ４０は、自動運転が正常運行状況ではないと判定された場合（Ｓ６２：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ４０は、自動運転が継続されている場合、一定時間の経過後に再びＳ６０から処理を繰り返す。

Ｓ６４において、ＥＣＵ４０は、過信判定部２９により運転者がシステム過信状態であるか否かを判定する。ＥＣＵ４０は、運転者がシステム過信状態であると判定された場合（Ｓ６４：ＹＥＳ）、Ｓ６６に移行する。ＥＣＵ４０は、運転者がシステム過信状態ではないと判定された場合（Ｓ６４：ＮＯ）、今回の処理を終了する。その後、ＥＣＵ４０は、自動運転が継続されている場合、一定時間の経過後に再びＳ６０から処理を繰り返す。

Ｓ６６において、ＥＣＵ４０は、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であるか否かを判定する。ＥＣＵ４０は、自動運転中の車両が不安喚起状況であると判定された場合（Ｓ６６：ＹＥＳ）、Ｓ６８に移行する。ＥＣＵ４０は、自動運転中の車両が不安喚起状況ではないと判定された場合（Ｓ６６：ＮＯ）、Ｓ７０に移行する。

Ｓ６８において、ＥＣＵ４０は、報知制御部４１によりアラートの遅延出力を行う。報知制御部４１は、例えば不安喚起状況の開始から一定時間の経過後に、アラートを遅延して出力する。その後、ＥＣＵ４０は、今回の処理を終了する。ＥＣＵ４０は、予め決められた待機時間の経過後に再びＳ６０から処理を繰り返す。

Ｓ７０において、ＥＣＵ４０は、報知制御部４１によりアラートの出力を行う。報知制御部４１は、ＨＭＩ１０に制御信号を送信することによりアラートの出力を行う。その後、ＥＣＵ４０は、今回の処理を終了する。ＥＣＵ４０は、予め決められた待機時間の経過後に再びＳ６０から処理を繰り返す。

〈第２実施形態の自動運転システムの作用効果〉
以上説明した第２実施形態の自動運転システム２００によれば、車両が不安喚起状況であると判定されたときには運転者が出力の外部環境に不安を感じている可能性があるので、アラートを遅延出力して運転者が気づいている不安喚起状況を自動運転システムが遅れて認識したと思わせることで、運転者のシステム過信状態の解消を適切に図ることができる。

また、自動運転システム２００では、アラートの遅延出力の一部として遅延した不安喚起状況の情報を含む通知を行うことで、運転者が不安喚起状況に気付いていないときであっても、自動運転システム２００による不安喚起状況の認識が遅れたことを運転者に伝えることができ、運転者のシステム過信状態の解消を適切に図ることができる。

以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されるものではない。本発明は、上述した実施形態を始めとして、当業者の知識に基づいて種々の変更、改良を施した様々な形態で実施することができる。

過信判定部２９は、不安喚起状況判定部３０により自動運転中の車両が不安喚起状況であると判定された場合における運転者の運転行動時間Ｔｄに基づいて、運転者がシステム過信状態であるか否かを判定してもよい。過信判定部２９は、不安喚起状況下における運転者の運転行動の割合が少ない場合には運転者はシステム過信状態である可能性が高いことから、不安喚起状況下における運転者の運転行動時間Ｔｄに基づいて運転者がシステム過信状態であるか否かを判定することができる。過信判定部２９は、例えば不安喚起状況下における運転者の運転行動時間Ｔｄが過信割合閾値未満である場合、運転者がシステム過信状態であると判定する。

自動運転システム１００，２００は、必ずしもシステム自信度演算部２６を有する必要はない。すなわち、自動運転システム１００，２００は、必ずしもシステム自信度を演算する必要はない。この場合、正常運行状況判定部２７は、システム自信度を用いることなく、車両の地図上の位置、車両の外部環境、車両の走行状態、及び車両の進路のうち少なくとも一つに基づいて、自動運転が正常運行状況であるか否かを判定すればよい。

自動運転システム１００は、必ずしも不安喚起状況判定部３０を有する必要はない。すなわち、自動運転システム１００は、必ずしも自動運転中の車両が不安喚起状況であるか否かを判定する必要はない。この場合、報知制御部３１は、正常運行状況判定部２７により自動運転が正常運行状況であると判定され、且つ、過信判定部２９により運転者がシステム過信状態であると判定された場合に、アラートの出力を行う。報知制御部３１は、正常運行状況判定部２７により自動運転が正常運行状況ではないと判定された場合、又は、過信判定部２９により運転者がシステム過信状態ではないと判定された場合には、アラートの出力を行わない。

運転者状況認識部２８は、アラートの出力後に、アラートに対する運転者の反応を認識してもよい。報知制御部３１，４１は、アラートに対する運転者の反応が認識されない場合、アラートを再度出力してもよい。報知制御部３１，４１は、アラートを再度出力する場合には、前回のアラートの出力と比べて、アラートを強く出力してもよい。強い出力とは、例えば音声出力の場合はより大きい音量による出力、画像表示の場合は強い輝度の出力である。音量の周波数、画像の色度の変更により強い出力を実現してもよい。

１…ＧＰＳ受信部、２…外部センサ、３…内部センサ、４…地図データベース、５…運転操作検出部、６…ドライバモニタカメラ、７…音声認識部、８…車内通信部、９…アクチュエータ、１０…ＨＭＩ、１０ａ…表示器、１０ｂ…スピーカ、１０ｃ…振動部、２０，４０…ＥＣＵ、２１…車両位置認識部、２２…外部環境認識部、２３…走行状態認識部、２４…進路生成部、２５…車両制御部、２６…システム自信度演算部、２７…正常運行状況判定部、２８…運転者状況認識部、２９…過信判定部、３０…不安喚起状況判定部、３１…報知制御部、３２…外部環境認識部、３３…走行状態認識部、３４…走行計画生成部、１００，２００…自動運転システム。

Claims (6)

1. 車両の自動運転を実行すると共に、前記自動運転中に前記車両の運転者に対して各種の報知を行う自動運転システムであって、
   前記車両の地図上の位置を認識する車両位置認識部と、
   前記車両の外部環境を認識する外部環境認識部と、
   前記車両の走行状態を認識する走行状態認識部と、
   地図情報、前記車両の地図上の位置、前記車両の外部環境、及び前記車両の走行状態に基づいて、前記自動運転に用いる前記車両の進路を生成する進路生成部と、
   前記車両の地図上の位置、前記車両の外部環境、前記車両の走行状態、及び前記車両の進路のうち少なくとも一つに基づいて、前記自動運転が正常運行状況であるか否かを判定する正常運行状況判定部と、
   前記車両の外部環境の変化に対する前記運転者の反応遅れ時間、前記報知に対する前記運転者の報知反応遅れ時間、及び前記運転者の非運転行動時間のうち少なくとも一つを認識する運転者状況認識部と、
   前記運転者状況認識部の認識結果に基づいて、前記運転者がシステム過信状態であるか否かを判定する過信判定部と、
   前記正常運行状況判定部により前記自動運転が前記正常運行状況であると判定され、且つ、前記過信判定部により前記運転者が前記システム過信状態であると判定された場合に、アラートを出力する報知制御部と、
   を備える自動運転システム。
2. 前記車両の外部環境に基づいて、前記自動運転中の前記車両が不安喚起状況であるか否かを判定する不安喚起状況判定部を更に備え、
   前記報知制御部は、前記正常運行状況判定部により前記自動運転が前記正常運行状況であると判定され、且つ、前記過信判定部により前記運転者が前記システム過信状態であると判定された場合において、前記不安喚起状況判定部により前記車両が前記不安喚起状況ではないと判定されたときに前記アラートを出力し、前記車両が前記不安喚起状況であると判定されたときには前記アラートを出力しない、請求項１に記載の自動運転システム。
3. 前記車両の外部環境に基づいて、前記自動運転中の前記車両が不安喚起状況であるか否かを判定する不安喚起状況判定部を更に備え、
   前記報知制御部は、前記正常運行状況判定部により前記自動運転が前記正常運行状況であると判定され、且つ、前記過信判定部により前記運転者が前記システム過信状態であると判定された場合において、前記不安喚起状況判定部により前記車両が前記不安喚起状況ではないと判定されたときに前記アラートを出力し、前記車両が前記不安喚起状況であると判定されたときには前記アラートを遅延出力する、請求項１に記載の自動運転システム。
4. 前記不安喚起状況判定部は、前記車両の外部環境として前記車両の前方を撮像するカメラの撮像画像における移動物体面積が不安喚起閾値以上である場合、前記自動運転中の前記車両が不安喚起状況であると判定する、請求項２又は３に記載の自動運転システム。
5. 前記運転者状況認識部は、前記報知に対する前記運転者の報知反応遅れ時間を基準反応遅れ時間として記憶し、
   前記過信判定部は、前記車両の外部環境の変化に対する前記運転者の反応遅れ時間から前記基準反応遅れ時間を減算した差が過信閾値以上である場合、前記運転者が前記システム過信状態であると判定する、請求項１〜４のうち何れか一項に記載の自動運転システム。
6. 前記車両の地図上の位置、前記車両の外部環境、前記車両の走行状態、及び前記車両の進路のうち少なくとも一つに基づいて、前記自動運転に関するシステム自信度を演算するシステム自信度演算部を更に備え、
   前記正常運行状況判定部は、前記システム自信度が正常運行閾値未満である場合に、前記自動運転が正常運行状況ではないと判定する、請求項１〜５のうち何れか一項に記載の自動運転システム。

Images