JP2010257234A - Information exhibition device for vehicle - Google Patents

Information exhibition device for vehicle Download PDF

Info

Publication number
JP2010257234A
JP2010257234A JP2009106694A JP2009106694A JP2010257234A JP 2010257234 A JP2010257234 A JP 2010257234A JP 2009106694 A JP2009106694 A JP 2009106694A JP 2009106694 A JP2009106694 A JP 2009106694A JP 2010257234 A JP2010257234 A JP 2010257234A
Authority
JP
Japan
Prior art keywords
risk
driver
state
display
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009106694A
Other languages
Japanese (ja)
Inventor
Shu Ito
周 伊藤
Shunsuke Tezuka
俊介 手塚
Motoya Ogawa
原也 小川
Katsuyuki Kise
勝之 喜瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP2009106694A priority Critical patent/JP2010257234A/en
Publication of JP2010257234A publication Critical patent/JP2010257234A/en
Pending legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To intuitively recognize whether a risk in a periphery is got properly or not, even under the state where a driver is concentrated in drive. <P>SOLUTION: This information exhibition device for a vehicle investigates a risk difference ΔRD between a risk level got by the driver and a risk level recognized by a system, based on an output from the recognition system, and changes vertical and lateral sizes of a pattern displayed on a display, in response to the risk difference ΔRD, to be expanded vertically and laterally around the gravity center of the pattern as the center. Respective RGB components for displaying the pattern are changed at the same time. Confirmation is thereby facilitated in a peripheral view by the driver, without moving a sight line, a burden for the driver is reduced therein, and the driver gets intuitively a deviation between an own risk recognition state and a risk recognition state of the system, under the state where the driver is concentrated in the drive. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、車両運転中の事故発生の危険度を推定し、危険度情報を表示する車両用情報提示装置に関する。   The present invention relates to a vehicular information presentation device that estimates the risk of an accident occurring while driving a vehicle and displays the risk information.

自動車等の車両においては、安全運転を支援するため、走行環境に含まれる事故発生の危険度を推定し、運転者に危険度情報を提示する装置が望まれている。このため、従来から、運転者へ危険度情報を提示する技術に関して、各種提案がなされている。   In vehicles such as automobiles, in order to support safe driving, there is a demand for a device that estimates the risk of an accident occurring in the driving environment and presents the risk information to the driver. For this reason, conventionally, various proposals have been made regarding techniques for presenting risk level information to the driver.

例えば、特許文献1には、障害物等の危険を検出してヘッドアップディスプレイにオーバーレイ表示することで、運転者に情報提示を行う技術が開示されている。また、特許文献2には、無線通信により周囲の危険度を把握して、フロントガラス周囲の線光源により危険の方向を提示する技術が開示されている。   For example, Patent Literature 1 discloses a technique for presenting information to a driver by detecting a danger such as an obstacle and displaying it on a head-up display. Patent Document 2 discloses a technique for grasping a surrounding danger level by wireless communication and presenting a danger direction by a line light source around the windshield.

特開平11−245683号公報Japanese Patent Laid-Open No. 11-245683 特開2005−242526号公報JP 2005-242526 A

危険度情報を提示する従来の技術は、特許文献1や特許文献2に開示されているように、他の車両や障害物等の位置をディスプレイ上に具体的に提示するか、車両前方映像に重ねて描画することで提示している。しかしながら、ディスプレイに表示された内容を詳細に読み取るのは負荷がかかる行為であり、運転の妨げとなる虞がある。   As disclosed in Patent Document 1 and Patent Document 2, conventional techniques for presenting risk information specifically present the positions of other vehicles, obstacles, etc. on the display, or in the vehicle front image. Presented by drawing in layers. However, reading the contents displayed on the display in detail is an act of applying a load, which may hinder driving.

また、特許文献1,2に開示されている技術は、何れも具体的な危険の存在と方向を運転者に知らせる技術であり、走行環境に潜む危険の度合いを運転者に提示するものではなく、運転者が適切に周囲の危険度を把握しているかどうかについては考慮していない。   In addition, the techniques disclosed in Patent Documents 1 and 2 are both techniques that inform the driver of the existence and direction of specific dangers, and do not present the degree of danger lurking in the driving environment to the driver. It does not consider whether the driver properly knows the surrounding risk level.

本発明は上記事情に鑑みてなされたもので、運転者が運転に集中したままでも、周囲の危険を適切に把握できているか否かを直感的に認識することのできる車両用情報提示装置を提供することを目的としている。   The present invention has been made in view of the above circumstances, and provides a vehicle information presentation apparatus that can intuitively recognize whether or not the driver can properly grasp the surrounding danger even when the driver concentrates on driving. It is intended to provide.

上記目的を達成するため、本発明による車両用情報提示装置は、車両運転中の事故発生の危険度を推定する危険度推定部と、上記危険度推定部で推定した危険度に応じて、乗員に提示する危険度情報の表示サイズと表示色とを変化させる表示制御部とを備えることを特徴とする。   In order to achieve the above object, an information presentation device for a vehicle according to the present invention includes a risk estimation unit that estimates the risk of occurrence of an accident while driving a vehicle, and an occupant according to the risk estimated by the risk estimation unit. And a display control unit that changes a display size and a display color of the risk level information presented in FIG.

本発明によれば、運転者が運転に集中したままでも、周囲の危険を適切に把握できているか否かを直感的に認識することができる。   According to the present invention, it is possible to intuitively recognize whether or not the driver can properly grasp the surrounding danger even when the driver concentrates on driving.

情報提示装置のシステム構成図System configuration diagram of information presentation device 認識システムの学習フェーズ及び推定フェーズを示す説明図Explanatory drawing which shows the learning phase and estimation phase of a recognition system 操作特徴量と自己組織化マップのネットワークを示す説明図Explanatory diagram showing the network of operation features and self-organizing maps 確率的状態遷移を示す説明図Explanatory diagram showing stochastic state transition 学習後の状態遷移確率を示すグラフGraph showing state transition probability after learning 学習後の出力確率を示すグラフGraph showing output probability after learning 状態推定のアルゴリズムを示す説明図Explanatory diagram showing algorithm for state estimation 推定の信頼度が高い場合の確率分布を示す説明図Explanatory drawing showing the probability distribution when the reliability of estimation is high 推定の信頼度が低い場合の確率分布を示す説明図Explanatory drawing showing the probability distribution when the reliability of estimation is low 勝者ユニット距離による信頼度の相違を示す説明図Explanatory diagram showing the difference in reliability depending on the winner unit distance ユニット距離比合計の説明図Illustration of total unit distance ratio 信頼度指標の計算例を示すグラフGraph showing calculation example of reliability index 推定試験結果を示す説明図Explanatory diagram showing estimation test results リスク差が小さいときの表示画面例を示す説明図Explanatory diagram showing a display screen example when the risk difference is small リスク差がやや小さいときの表示画面例を示す説明図Explanatory drawing showing an example of the display screen when the risk difference is slightly small リスク差がやや大きいときの表示画面例を示す説明図Explanatory drawing showing an example of the display screen when the risk difference is slightly large リスク差が大きいときの表示画面例を示す説明図Explanatory diagram showing a display screen example when the risk difference is large 描画される図形の大きさとリスク差と関係を示す説明図Explanatory diagram showing the relationship between the size of drawn figures and the risk difference 描画される図形の色とリスク差と関係を示す説明図Explanatory diagram showing the relationship between the color of drawn figures and the risk difference 推定の信頼度と図形のぼかし幅との関係を示す説明図Explanatory diagram showing the relationship between the reliability of estimation and the blur width of the figure

以下、図面を参照して本発明の実施の形態を説明する。
図1に示すように、自動車等の車両に搭載される情報提示装置1は、車両運転中の事故発生の危険度を推定する危険度推定部としての認識システム1aと、この認識システム1aからの出力に基づいて、危険度情報の表示コンテンツを制御する表示制御部1bと、表示制御部1bからの危険度情報を表示して乗員に提示する表示装置1cとを備えて構成されている。尚、表示装置1cは、所定の解像度を有するカラー表示のディスプレイであり、本実施の形態においては、ドライバの周辺視野で視認可能な位置に設置されている。
Embodiments of the present invention will be described below with reference to the drawings.
As shown in FIG. 1, an information presentation device 1 mounted on a vehicle such as an automobile includes a recognition system 1 a as a risk estimation unit that estimates the risk of occurrence of an accident during driving of the vehicle, and a recognition system 1 a Based on the output, the display control unit 1b that controls the display content of the risk information and the display device 1c that displays the risk information from the display control unit 1b and presents it to the occupant are configured. The display device 1c is a color display having a predetermined resolution. In the present embodiment, the display device 1c is installed at a position where it can be visually recognized in the peripheral visual field of the driver.

認識システム1aは、車載の単一のコンピュータシステム或いはネットワーク等を介して接続された複数のコンピュータシステムから構成されている。詳細には、認識システム1aは、カメラやレーダー等のセンシングデバイスによる外界情報から車両周囲の外部環境に含まれる危険度(走行環境リスク)を認識する車外環境認識部2、ドライバの運転操作データの特徴量を量子化する操作特徴量量子化部3、運転操作(操作特徴量)と認識環境(リスクレベル)との対応をモデル学習するモデル学習部4、学習されたモデルと現在の操作データ・車外環境との関連性からドライバの内部状態を推定し、ドライバが認識している(把握している)リスクを推定する状態推定部5、ドライバの内部状態推定の信頼度を評価する信頼度評価部6を備えて構成されている。以下では、外部環境のセンシングデバイスとして車載カメラを用いるものとする。なお、後述するが、信頼度評価部6は操作特徴量量子化部3または状態推定部5の一部として構成しても良い。   The recognition system 1a is composed of a single on-board computer system or a plurality of computer systems connected via a network or the like. Specifically, the recognition system 1a includes an external environment recognition unit 2 for recognizing a risk (running environment risk) included in the external environment around the vehicle from external information obtained by a sensing device such as a camera or a radar, and driving operation data of the driver. Operation feature quantization unit 3 that quantizes the feature, model learning unit 4 that learns the correspondence between driving operation (operation feature) and recognition environment (risk level), learned model and current operation data A state estimation unit 5 that estimates the internal state of the driver from the relevance to the environment outside the vehicle, estimates the risk recognized by the driver, and a reliability evaluation that evaluates the reliability of the internal state estimation of the driver A portion 6 is provided. In the following, an in-vehicle camera is used as a sensing device for the external environment. As will be described later, the reliability evaluation unit 6 may be configured as part of the operation feature quantization unit 3 or the state estimation unit 5.

このような認識システム1aに対して、表示制御部1bは、車外環境認識部2(車両の走行環境の危険度を推定する走行環境危険度推定部に相当する)で認識したリスクと、状態推定部5(ドライバが把握している危険度を推定する把握危険度推定部に相当する)で推定したドライバの把握リスクとの差に応じて、表示装置1cに表示させる表示コンテンツ(危険度情報)の表示サイズと表示色とを変化させ、ドライバが周囲の危険を適切に把握できているか否かを直感的に認識可能とする。   For such a recognition system 1a, the display control unit 1b includes a risk recognized by the vehicle exterior environment recognition unit 2 (corresponding to a travel environment risk level estimation unit that estimates the risk level of the travel environment of the vehicle), and state estimation. Display content (risk level information) to be displayed on the display device 1c according to the difference from the driver's grasping risk estimated by the unit 5 (corresponding to the grasping risk degree estimating unit for estimating the risk grasped by the driver) By changing the display size and the display color, it is possible to intuitively recognize whether or not the driver can properly grasp the surrounding danger.

先ず、認識システム1aのシステム動作について説明する。認識システム1aのシステム動作は、便宜上、図2に示すように、ドライバの内部状態のモデルを学習する「学習フェーズ」と、得られたモデルを元にドライバの内部状態を推定する「推定フェーズ」とに分けられる。   First, the system operation of the recognition system 1a will be described. For convenience, the system operation of the recognition system 1a includes, as shown in FIG. 2, a “learning phase” for learning a model of the internal state of the driver and an “estimation phase” for estimating the internal state of the driver based on the obtained model. And divided.

学習フェーズでは、車両前方を車載カメラで撮像し、学習によって走行環境のリスクレベルを認識すると、この走行環境リスクレベルと、ドライバの運転操作データの特徴量を量子化した操作特徴量データとの対応関係を学習し、学習済みパラメータを取得して学習モデルを構築する。   In the learning phase, when the vehicle front is imaged with an in-vehicle camera, and the risk level of the driving environment is recognized by learning, the correspondence between the driving environment risk level and the operation feature data obtained by quantizing the feature data of the driver's driving operation data Learn relationships, get learned parameters and build learning models.

また、推定フェーズでは、学習済みのモデルパラメータを用いて操作特徴量と走行環境リスクレベルとの関連性を獲得し、現在のドライバの内部状態を推定する。推定されたドライバの現在の内部状態は、現在の走行環境リスクレベルと比較され、車両が本質的に安全か危険な状態にあるかが評価される。   In the estimation phase, the relationship between the operation feature amount and the travel environment risk level is acquired using the learned model parameters, and the current internal state of the driver is estimated. The estimated current internal state of the driver is compared with the current driving environment risk level to assess whether the vehicle is inherently safe or dangerous.

この学習フェーズと推定フェーズとは、実際には互いに分離して進行するものではなく、双方が同時に進行する。それにより、ドライバが走行する環境の変化やドライバ自身の特性変化に適応する機能を実現することができ、車両のユーザに対して、走行すればするほど高性能になっていくシステムを提供することができる。また、学習フェーズにおけるモデルパラメータの取得は、走行中のオンライン学習によって全てを取得することも可能であるが、一部、シミュレータ等を用いたオフライン学習を併用することにより、学習速度の向上と認識精度の向上とを期待することができる。   The learning phase and the estimation phase do not actually proceed separately from each other, but both proceed simultaneously. As a result, it is possible to realize a function that can adapt to changes in the environment in which the driver is driving and changes in the characteristics of the driver itself, and to provide a system that increases the performance as the vehicle travels. Can do. In addition, the model parameters in the learning phase can all be acquired by online learning while driving. However, it is recognized that the learning speed can be improved by using offline learning in part with a simulator. An improvement in accuracy can be expected.

次に、認識システム1aの各部の機能について説明する。車外環境認識部2は、車載カメラから得られる画像の特徴量と、そのときのリスクレベルとの関連性を学習することにより、車外環境の状態を単一のスカラ値(若しくはベクトル)へ縮退変換し、モデル学習部4へ伝達する。   Next, the function of each part of the recognition system 1a will be described. The exterior environment recognition unit 2 degenerates the state of the exterior environment into a single scalar value (or vector) by learning the relationship between the feature quantity of the image obtained from the in-vehicle camera and the risk level at that time. And transmitted to the model learning unit 4.

画像特徴量からのリスクレベルの認識は、例えば、本出願人による特願2007−77625号において提案されたオンラインリスク学習システムの技術を採用することができる。この技術は、特願2007−77625号に詳述されているように、アクセルの急激な戻し操作やブレーキ踏込みといったイベントにより、N次元ベクトルの画像特徴量(エッジ情報、動き情報、色情報等)を1次元の状態に変換し、この状態と車両情報(ドライバの操作情報)から作成された教師情報との相関関係から環境に含まれるリスクを学習・認識するものである。   For the recognition of the risk level from the image feature amount, for example, the technology of the online risk learning system proposed in Japanese Patent Application No. 2007-77625 by the present applicant can be adopted. As described in detail in Japanese Patent Application No. 2007-77625, this technique is based on an image feature amount (edge information, motion information, color information, etc.) of an N-dimensional vector depending on an event such as a sudden accelerator return operation or a brake depression. Is converted into a one-dimensional state, and the risk contained in the environment is learned and recognized from the correlation between this state and the teacher information created from the vehicle information (driver operation information).

尚、本実施の形態では、画像特徴量から抽出したリスクレベルを用いる例について説明するが、リスクレベルとしては、これに限定されるものではなく、例えば、車間距離等からリスクレベルを抽出するようにしても良い。   In the present embodiment, an example using the risk level extracted from the image feature amount will be described. However, the risk level is not limited to this, and for example, the risk level is extracted from the inter-vehicle distance or the like. Anyway.

操作特徴量量子化部3は、センサからのデータ或いは車内ネットワーク(図示せず)を介して取得したアクセル・ブレーキ・ステアリング等のドライバの操作データを、その測定頻度の特徴に応じて量子化し、モデル学習部4へ伝達する。すなわち、運転操作データは、そのままでは情報量が非常に多く、リスクとの関連を学習するには扱いが困難である。このため、観測されるデータの分布(出現傾向)を考慮して適切に量子化を行うことで、データに含まれる情報量が失われることを防止しつつ、特徴を学習するための統計的処理を可能とする。   The operation feature quantity quantization unit 3 quantizes the data from the sensor or the operation data of the driver such as the accelerator, the brake, the steering, etc. acquired via the in-vehicle network (not shown) according to the feature of the measurement frequency, This is transmitted to the model learning unit 4. In other words, the driving operation data has a very large amount of information as it is, and it is difficult to handle the relationship with the risk. For this reason, statistical processing to learn features while preventing loss of information contained in the data by appropriately quantizing in consideration of the distribution (appearance tendency) of the observed data Is possible.

観測データの量子化は、閾値を用いたデータ分割やデータ縮退によって行うことができ、本実施の形態では、自己組織化マップ(SOM;Self-Organizing Maps)を用いて運転操作データを量子化する。SOMは、生物の大脳皮質のうち視覚野等をモデル化したニューラルネットワークの一種であり、M次元に並べられたユニットが、それぞれベクトル値(通常入力との結線の重みと呼ばれる)を持ち、入力に対して勝者ユニットをベクトルの距離を基準として決定する。   Quantization of observation data can be performed by data division or data degeneration using thresholds. In this embodiment, driving operation data is quantized using a self-organizing map (SOM). . SOM is a type of neural network that models the visual cortex of the cerebral cortex of living organisms. Each unit arranged in M dimensions has a vector value (usually called the weight of the connection with the input). The winner unit is determined based on the vector distance.

そして、勝者ユニット及びその周辺のユニットの参照ベクトル値を、入力ベクトルに近づくように更新してゆく。これを繰り返すことで、全体が入力データの分布を最適に表現できるように競合学習し、この競合学習に基づいて入力情報の次元を圧縮すると共に、データの特徴に応じてクラスタリングや可視化を行うことができる。   Then, the reference vector values of the winner unit and the surrounding units are updated so as to approach the input vector. By repeating this, competitive learning is performed so that the entire distribution of the input data can be expressed optimally, the dimensions of the input information are compressed based on this competitive learning, and clustering and visualization are performed according to the characteristics of the data Can do.

尚、本実施の形態では、S0Mを用いた教師無し競合学習により入力データを縮退する例について説明するが、教師有り競合学習であるベクトル量子化(LVQ;Learning Vector Quantization)モデルを用いることも可能である。   In this embodiment, an example in which input data is degenerated by unsupervised competitive learning using S0M will be described. However, a vector quantization (LVQ; Learning Vector Quantization) model that is supervised competitive learning can also be used. It is.

以下に、SOMパラメータの例を示す。採用した特徴量は、舵角速度、アクセル開度・ブレーキ圧・アクセル開度変化量・ブレーキ圧変化量・車両速度である。但し、舵角速度については絶対値を用い、また、アクセル開度とブレーキ圧は、それぞれ正規化し、-100(ブレーキ圧最大)から+100(アクセル全開)までの無次元量としている。アクセル並びにブレーキの変化量も、この正規化値の変化量として表している。結果として入力特徴量の次元は4とし、これをSOMによって1次元に圧縮し、ユニット数256に量子化している。   Examples of SOM parameters are shown below. The feature values adopted are the steering angular speed, accelerator opening, brake pressure, accelerator opening change, brake pressure change, and vehicle speed. However, the absolute value is used for the rudder angular velocity, and the accelerator opening and the brake pressure are normalized to be dimensionless amounts from -100 (brake pressure maximum) to +100 (accelerator fully open). The change amount of the accelerator and the brake is also expressed as the change amount of the normalized value. As a result, the dimension of the input feature quantity is 4, which is compressed to one dimension by SOM and quantized to 256 units.

[SOMパラメータ]
SOM次元数 1
ユニット数 256
入力特徴量 ADSTR(舵角速度絶対値)
PEDAL(アクセル・ブレーキ操作正規化量)
DPEDAL(PEDAL値変化量)
SPEED(車両速度)
[SOM parameters]
Number of SOM dimensions 1
256 units
Input feature value ADSTR (steering angular velocity absolute value)
PEDAL (accelerator / brake operation normalized amount)
DPEDAL (PEDAL value change amount)
SPEED (vehicle speed)

図3は、SOMで学習されたデータを示しており(但し、入力4次元のうち3次元のみ)、市街地を走行したデータ(5時間走行相当)をSOMで学習したものである。雲のようにプロットされているのが測定データで、ひも状に配置されているのが1次元SOMのネットワークである。図3から測定データの密度と分布に応じて学習が行なわれ、適宜、ユニットが配置されていることが分かる。測定されたデータは、最近傍のSOMのユニットで近似されることで、量子化されると共に、ユニット番号で表される1次元のデータに縮退される。   FIG. 3 shows data learned by SOM (however, only three of the four input dimensions), and data obtained by traveling in an urban area (corresponding to 5-hour driving) is learned by SOM. The measurement data is plotted like a cloud, and the one-dimensional SOM network is arranged in a string shape. It can be seen from FIG. 3 that learning is performed according to the density and distribution of measurement data, and that units are appropriately arranged. The measured data is quantized and reduced to one-dimensional data represented by a unit number by being approximated by the nearest SOM unit.

尚、このSOMのユニット配置は、計測される運転データを学習することで決まり、個人による差や、同一人物でも時間の推移による運転特徴の変化に適応していくことが期待できる。   The unit arrangement of the SOM is determined by learning measured driving data, and it can be expected that the same person will adapt to changes in driving characteristics due to time variations even for the same person.

モデル学習部4は、操作特徴量とリスクレベルとの関連性を学習によって獲得し、ドライバの内部状態を推定するための確率的計算を可能とする。人間の行動は、図4(a)に示すように、安心、緊張、不安、焦り、怒りといった心的状態と、その遷移に応じて変化し、必ずしも確定的ではなく、確率的な行動として表現することができる。同様に、ドライバの運転行動は、図4(b)に示すように、先行車への追従、追越、駐車、車線変更、合流といったシーンと、その遷移に対して、確率的な操作出力となって現れる。   The model learning unit 4 acquires the relationship between the operation feature quantity and the risk level by learning, and enables probabilistic calculation for estimating the internal state of the driver. As shown in FIG. 4A, human behavior changes according to mental states such as security, tension, anxiety, impatience, and anger, and transitions thereof, and is not necessarily deterministic but expressed as probabilistic behavior. can do. Similarly, as shown in FIG. 4 (b), the driver's driving behavior includes a stochastic operation output for scenes such as following a preceding vehicle, passing, parking, lane change, and merging. It appears.

従って、モデル学習部4では、人間行動の確率的振る舞いを表すための規範モデルとして、確率的状態遷移モデルの一種である隠れマルコフモデル(HMM;Hidden Markov Model)を用いてドライバの内部状態をモデル化する。HMMは、対象の内部状態(ステート)が確率的な条件分岐によって遷移することと、遷移したステートによって異なる確率で外部に信号が出力されることを想定したモデルである。   Therefore, the model learning unit 4 models the internal state of the driver using a hidden Markov model (HMM), which is a kind of probabilistic state transition model, as a reference model for expressing the probabilistic behavior of human behavior. Turn into. The HMM is a model that assumes that a target internal state (state) transitions by a probabilistic conditional branch and that a signal is output to the outside with a different probability depending on the transitioned state.

HMMを用いたモデルでは、ドライバが意識しているリスクレベルを推定するタスクにおいては、図4(c)に示すように、現在意識しているリスクレベルがHMMのステートに相当し、そのときに観測される運転操作データが外部に出力される信号に相当する。図4(c)においては、リスクレベルを5段階として各ステートに1〜5の番号を付与した場合を例示しており、番号1は、ドライバが外部環境のリスクが最も低いと認識している状態、番号5は、ドライバが外部環境のリスクが最も高いと認識している状態を示している。   In the model using the HMM, in the task of estimating the risk level that the driver is aware of, the risk level that is currently conscious corresponds to the state of the HMM, as shown in FIG. Observed driving operation data corresponds to a signal output to the outside. FIG. 4C illustrates an example in which the risk levels are set to 5 levels and numbers 1 to 5 are assigned to the respective states. The number 1 recognizes that the risk of the external environment is the lowest. The state, number 5, indicates a state where the driver recognizes that the risk of the external environment is the highest.

このように、運転操作データを離散化してデータの出現傾向を求め、ドライバの内部状態を確率的モデルとして近似することで、実際の運転における操作データのように、外部環境から確定的に導出することのできない情報の扱いを適切に行うことが可能となる。但し、推定時に観測される操作データがどのステートから出力されたのかを推定するためには、状態遷移確率と操作出力確率の2つの確率計算を行う必要がある。   In this way, the driving operation data is discretized, the appearance tendency of the data is obtained, and the internal state of the driver is approximated as a probabilistic model, so that it is deterministically derived from the external environment like the operation data in actual driving. It is possible to appropriately handle information that cannot be handled. However, in order to estimate from which state the operation data observed at the time of estimation is output, it is necessary to perform two probability calculations: a state transition probability and an operation output probability.

このため、モデル学習部4では、先ず車外環境認識部2から伝達されたスカラ値を基に、統計的手法によって状態遷移確率を学習し、次に、操作特徴量量子化部3からのデータを基に、ステート毎の操作特徴量の観測確率分布(操作出力確率)を学習する。例えば、舵角・アクセル開度・ブレーキ圧力、さらに、操作の反映である速度・ヨーレート・加速度等をそれぞれ適宜離散化し、各離散値毎の観測回数をカウントして統計的に確率を計算する。   For this reason, the model learning unit 4 first learns the state transition probability by a statistical method based on the scalar value transmitted from the vehicle exterior environment recognition unit 2, and then uses the data from the operation feature quantization unit 3. Based on this, the observation probability distribution (operation output probability) of the operation feature amount for each state is learned. For example, the steering angle, the accelerator opening, the brake pressure, and the speed, yaw rate, acceleration, and the like that reflect the operation are discretized as appropriate, and the number of observations for each discrete value is counted to statistically calculate the probability.

以下、HMMを用いた状態遷移確率及び操作出力確率の計算処理について説明する。   Hereinafter, calculation processing of the state transition probability and the operation output probability using the HMM will be described.

[HMMの仕様例]
駆動周波数 3Hz
ステート数 10
出力信号 SOMユニット番号(0〜255)
ネットワーク構造 全ステート相互接続型
[Specification example of HMM]
Drive frequency 3Hz
Number of states 10
Output signal SOM unit number (0 to 255)
Network structure All-state interconnection type

[状態遷移確率の計算]
一般に、自動車の運転を想定する場合、車を運転する度に故意ではないにも拘わらず必ず事故を起こしてしまうドライバが存在するとは考えにくい。言い換えれば、巨視的にはドライバは適宜走行環境のリスクレベルに対応した運転操作を行っていると見なすことができる。このような前提の元に、ある程度長い時間範囲のデータを集めて統計的に処理した場合、HMMにおけるドライバの内部状態の遷移は、走行環境のリスクレベルの遷移に依存していると仮定することができる。
[Calculation of state transition probability]
In general, when driving a car, it is unlikely that there will be a driver who always causes an accident even though it is unintentional every time the car is driven. In other words, it can be regarded macroscopically that the driver is appropriately performing a driving operation corresponding to the risk level of the driving environment. Based on these assumptions, when data is collected and statistically processed over a relatively long time range, it is assumed that the transition of the internal state of the driver in the HMM depends on the transition of the risk level of the driving environment. Can do.

従って、遷移確率の計算は、以下の(1−1)〜(1−5)の手順に従って実施し、学習時のリスクレベルの遷移確率を求めることで、ドライバ内部状態の遷移確率を算出する。
(1−1)状態遷移モデルの駆動周波数を定義(例えば、3Hz)
(1−2)内部状態のステート数を定義(例えば、10ステート)
(1−3)リスクレベルをステート数分に離散化
(1−4)各ステート間の遷移回数をカウント
(1−5)各ステート間の統計的な遷移確率を計算
Therefore, the transition probability is calculated according to the following procedures (1-1) to (1-5), and the transition probability of the driver internal state is calculated by obtaining the transition probability of the risk level at the time of learning.
(1-1) Define the drive frequency of the state transition model (for example, 3 Hz)
(1-2) Define the number of internal states (for example, 10 states)
(1-3) Discrete the risk level by the number of states (1-4) Count the number of transitions between each state (1-5) Calculate the statistical transition probability between each state

尚、単純な例では、ステート遷移の時間ステップを一定値に固定し、ドライバの内部状態は環境状態の遷移に同期して遷移するとすれば、計算が簡便になる。或いは、特定のスカラ値範囲に停留する時間長に応じてステートを別途定義することも可能である。   In a simple example, if the time step of the state transition is fixed to a constant value and the internal state of the driver transitions in synchronization with the transition of the environmental state, the calculation becomes simple. Alternatively, it is possible to define a state separately according to the length of time for stopping in a specific scalar value range.

図5に、市街地での計測データから学習で獲得したHMMの状態遷移確率のグラフを示す。ステート番号は大きいほど高いリスクレベルであることを示している。このグラフから3HzとしたHMM駆動周波数の枠組みでは、自己遷移(同じ番号のステートにとどまる遷移)と、上下1ステート分の遷移確率が大きいこと、高リスクステートでは急激にリスクレベルが下がる遷移確率も比較的大きいこと等が見て取れる。これは、一般的に、中低程度のリスクは連続的に上下することや、高いリスク要因は車両の通過と共に急激に解消すること等に相当し、一般的な運転状況の感覚との乖離は無いものと判断することができる。   FIG. 5 shows a graph of the state transition probability of the HMM obtained by learning from the measurement data in the urban area. The larger the state number, the higher the risk level. From this graph, in the framework of the HMM drive frequency of 3 Hz, the self-transition (transition staying in the same numbered state), the transition probability for one state above and below is large, and the transition probability that the risk level suddenly decreases in the high risk state It can be seen that it is relatively large. This is generally equivalent to the fact that moderate and moderate risks rise and fall continuously, and high risk factors disappear rapidly with the passing of the vehicle. It can be judged that there is nothing.

[出力信号確率の計算]
あるステートに遷移した状態における、操作データ特徴の出力確率の学習には、前述したSOMを用いる。計測された操作データをSOMユニット番号に次元圧縮並びに量子化し、各ユニット番号が観測される回数をカウントすることで、統計的な出力信号確率を算出する。ステート毎に得られる各ユニットの出力確率が異なることで、リスクレベルによって操作傾向が変わることをモデル化することができ、図6に示すようなステート別の出力確率を得ることができる。
[Calculation of output signal probability]
The SOM described above is used for learning the output probability of the operation data feature in the state transitioned to a certain state. The measured operation data is dimensionally compressed and quantized into SOM unit numbers, and the statistical output signal probability is calculated by counting the number of times each unit number is observed. Since the output probability of each unit obtained for each state is different, it can be modeled that the operation tendency changes depending on the risk level, and the output probability for each state as shown in FIG. 6 can be obtained.

以上の状態遷移確率と出力確率が学習によって獲得されると、次に、状態推定部5では、両者の情報を用いてドライバの内部状態を推定する。この内部状態の推定は、オンラインでの適用を考慮し、イベントと各ステートとのトレリス上を前向きに辿る前向きアルゴリズム(forward algorithm)を用いて行う。   When the above state transition probability and output probability are acquired by learning, the state estimation unit 5 next estimates the internal state of the driver using both pieces of information. The internal state is estimated using a forward algorithm that forwards the trellis between the event and each state in consideration of online application.

詳細には、以下の(2−1),(2−2)のステップに従って逐次計算を行うことで、前向き確率(状態存在確率)αを計算する。但し、以下の式中において、π:事前確率、a:状態遷移確率、b:出力信号確率、o:計測された操作データとし、各変数の添字1は初期値であることを示す。   Specifically, the forward probability (state existence probability) α is calculated by performing sequential calculation according to the following steps (2-1) and (2-2). In the following equations, π: prior probability, a: state transition probability, b: output signal probability, o: measured operation data, and subscript 1 of each variable indicates an initial value.

(2−1)各状態i=1,…,Nに対して、前向き確率の初期化を行う。
α1(i)=π11(o1)
(2−2)各時刻t=1,…,T−1、各状態j=1,…,Nについて、前向き確率を再帰的に計算する。尚、再帰計算におけるΣはj=1〜Nについての総和である。
αt+1(j)=[Σαt(i)aij]bj(ot+1)
(2-1) The forward probability is initialized for each state i = 1,.
α 1 (i) = π 1 b 1 (o 1 )
(2-2) For each time t = 1,..., T−1 and each state j = 1,. Note that Σ in the recursive calculation is the sum for j = 1 to N.
α t + 1 (j) = [Σα t (i) a ij ] b j (o t + 1 )

この前向きアルゴリズムによる状態推定は、図7に示すように、時刻t=0,1,2,3,4,…の各ステップにおいて全ての遷移確率を計算しており、存在確率の低いステートも考慮した状態推定であることから、高精細な内部状態の推定が可能となる。尚、確率計算の始めのステップでは、HMMの状態遷移確率から求められる事前確率を、各ステートへの存在確率として用いる。   In the state estimation by this forward algorithm, as shown in FIG. 7, all transition probabilities are calculated at each step of time t = 0, 1, 2, 3, 4,. Therefore, the internal state can be estimated with high definition. In the first step of probability calculation, the prior probability obtained from the state transition probability of the HMM is used as the existence probability in each state.

逐次計算によって求められた各ステートへの状態存在確率αからは、以下に示すように期待値μが計算される。この期待値μがステート番号を離散的な値でなく連続的な数値で緻密に表現したドライバ内部状態として出力され、ドライバの意識しているリスクレベルとなる。尚、xは確率変数の値(ここではステート番号)であり、Σはi=1〜Nの総和である。
μ=Σxiαi
From the state existence probability α for each state obtained by the sequential calculation, an expected value μ is calculated as shown below. The expected value μ is output as a driver internal state in which the state number is precisely expressed by a continuous numerical value instead of a discrete value, and becomes a risk level that the driver is aware of. Note that x is the value of the random variable (here, the state number), and Σ is the sum of i = 1 to N.
μ = Σx i α i

また、状態推定部5で推定されたドライバの内部状態は、信頼度評価部6で評価され、不確かな推定出力が抑止される。この信頼度の評価は、以下の(3−1),(3−2)に示すように、ステート間の確率分布形状を考慮して評価する手法と、操作特徴量を量子化する際の誤差を考慮して評価する手法とがあり、これらの評価手法の両者或いは何れか一方を用いてドライバ内部状態の推定信頼度を評価する。   In addition, the internal state of the driver estimated by the state estimation unit 5 is evaluated by the reliability evaluation unit 6, and uncertain estimation output is suppressed. As shown in the following (3-1) and (3-2), this reliability is evaluated by a method of evaluating in consideration of the probability distribution shape between states, and an error in quantizing the operation feature amount. The estimation reliability of the driver internal state is evaluated using both or any one of these evaluation methods.

尚、信頼度評価部6は、状態推定部5、操作特徴量量子化部3の一部としても良く、状態推定部5でステート間の確率分布形状に基づく信頼度の評価を行い、操作特徴量量子化部3で操作特徴量の量子化誤差に基づく信頼度の評価を行うようにしても良い。   The reliability evaluation unit 6 may be a part of the state estimation unit 5 and the operation feature quantity quantization unit 3. The state estimation unit 5 performs reliability evaluation based on the probability distribution shape between states, and operates characteristics. The quantity quantization unit 3 may evaluate the reliability based on the quantization error of the operation feature quantity.

(3−1)確率分布形状からの信頼度評価
推定が正常に行われている場合は、図8に示すように、期待値の付近に高い確率分布のピークがあり、それ以外の確率は低いことが理想的である。この状態では、推定が確信を持って行われているということができる。一方、推定の確信度が下がっている場合の典型例としては、図9に示すような例がある。すなわち、図9(a)に示すように確率分布に明確なピークが存在しなかったり、図9(b)に示すように確率分布に複数のピークが存在する場合がある。
(3-1) Reliability Evaluation from Probability Distribution Shape When the estimation is performed normally, as shown in FIG. 8, there is a high probability distribution peak near the expected value, and the other probabilities are low. Ideally. In this state, it can be said that the estimation is performed with certainty. On the other hand, as a typical example of when the certainty of estimation is lowered, there is an example as shown in FIG. That is, there is a case where no clear peak exists in the probability distribution as shown in FIG. 9A, or a plurality of peaks exist in the probability distribution as shown in FIG. 9B.

従って、このような確率分布の形状の違いを数値的に表現することで、ドライバ内部状態の推定結果のみならず、推定結果の信頼度も出力することができる。確率分布の形状を数値化して信頼度を評価するための指標としては、以下の(a),(b),(c)に示すように、エントロピー、分散、最大存在確率をもつステートと隣接ステートとの合計確率等を用いることができ、これらの指標の全て或いは少なくとも1つを用いて信頼度を評価する。   Therefore, by expressing the difference in the shape of the probability distribution numerically, not only the estimation result of the driver internal state but also the reliability of the estimation result can be output. As an index for evaluating the reliability by quantifying the shape of the probability distribution, as shown in the following (a), (b), and (c), the state having entropy, variance, and the maximum existence probability and the adjacent state The total probability or the like can be used, and the reliability is evaluated using all or at least one of these indices.

(a)エントロピー
以下の式により確率分布のエントロピーHを計算し、信頼度を評価する。エントロピーは、確率分布が均等になった場合に最大となり、エントロピーが小さいほうが信頼度が高いと評価することができる。
H=Σpilogpi
但し、pi:ステートiの存在確率
N:ステート数
Σ:i=1〜Nの総和
(A) Entropy The entropy H of the probability distribution is calculated by the following formula, and the reliability is evaluated. Entropy is maximized when the probability distribution is uniform, and it can be evaluated that the smaller the entropy, the higher the reliability.
H = Σp i logp i
Where p i is the probability of existence of state i
N: Number of states
Σ: Sum of i = 1 to N

(b)分散
以下の式により確率分布の分散Vを計算し、信頼度を評価する。分散は、最大存在確率を持つステートの確率が1となったとき最小となる。従って、分散が小さい方が信頼度が高いと評価することができる。
V=Σ(xi−μ)2i
但し、pi:ステートiの存在確率
N:ステート数
i:ステートiのリスクレベル値
Σ:i=1〜Nの総和
(B) Variance The variance V of the probability distribution is calculated by the following formula, and the reliability is evaluated. The variance is minimized when the probability of the state having the maximum existence probability is 1. Therefore, it can be evaluated that the smaller the variance, the higher the reliability.
V = Σ (x i −μ) 2 p i
Where p i is the probability of existence of state i
N: Number of states
x i : Risk level value of state i
Σ: Sum of i = 1 to N

(c)最大存在確率をもつステートと隣接ステートとの合計確率
以下の式により、最大存在確率をもつステートと隣接ステートとの合計確率Psumを計算し、信頼度を評価する。合計確率Psumは、最大存在確率を持つステートが確率1を持つか、或いはその隣接ステートが残りの存在確率を全て持つ際に1となる。従って、大きな値であるほど確率分布は鋭いピークをもっており、信頼度が高いと評価することができる。
Psum=Σpi
但し、Σ:i=K−1〜K+1
K:最大存在確率を持つステート番号
(C) Total Probability of State with Maximum Existence Probability and Adjacent State The total probability Psum of the state with the maximum existence probability and the adjacent state is calculated by the following formula, and the reliability is evaluated. The total probability Psum is 1 when the state having the maximum existence probability has the probability 1 or the adjacent state has all the remaining existence probabilities. Therefore, it can be evaluated that the larger the value, the sharper the probability distribution, and the higher the reliability.
Psum = Σp i
However, Σ: i = K−1 to K + 1
K: State number with maximum existence probability

(3−2)操作特徴量の量子化誤差に基づく信頼度評価
前述したように、操作特徴量量子化部3では、入力される操作データの分布をSOMを用いて学習し、その分布形状に沿ってユニットを配置することで、データの圧縮・量子化を行っており、多様な運転操作の組合せを、内部状態推定を行う上で扱いやすいレベルまで圧縮する役割を担っている。SOMによる量子化は、観測された操作データ入力と最も近いSOMのユニットで操作データを代表させることで行われ、このとき、代表となるユニットが「勝者ユニット」である。
(3-2) Reliability Evaluation Based on Operation Feature Quantity Quantization Error As described above, the operation feature quantity quantization unit 3 learns the distribution of input operation data using the SOM, and changes the distribution shape into the distribution shape. By arranging the units along the line, the data is compressed and quantized, and it plays a role of compressing various combinations of driving operations to a level that is easy to handle in estimating the internal state. The quantization by the SOM is performed by representing the operation data with the SOM unit closest to the observed operation data input. At this time, the representative unit is the “winner unit”.

従って、勝者ユニットと入力操作データまでの特徴量空間内での距離を「勝者ユニット距離」と定義し、この勝者ユニット距離を、状態推定部5における推定結果の信頼度を評価する指標の一つとして用いる。勝者ユニット距離は、入力データを量子化した際の量子化誤差に相当し、距離が小さい場合は誤差が小さく、距離が大きい場合は誤差が大きいといえる。誤差が大きい出力を後段の状態推定部5に入力した場合、必然的にその推定結果の信頼性は、誤差の小さい入力の場合と比較して低いということができる。従って、この勝者ユニット距離は、信頼性評価指標の一つとして用いることが可能である。   Therefore, the distance in the feature amount space between the winner unit and the input operation data is defined as “winner unit distance”, and this winner unit distance is one of the indexes for evaluating the reliability of the estimation result in the state estimation unit 5. Used as The winner unit distance corresponds to a quantization error when the input data is quantized, and the error is small when the distance is small, and the error is large when the distance is large. When an output having a large error is input to the state estimation unit 5 in the subsequent stage, it can be said that the reliability of the estimation result is inevitably lower than that of an input having a small error. Therefore, this winner unit distance can be used as one of the reliability evaluation indexes.

例えば、同じユニットが勝者であるが勝者ユニット距離が異なる場合について考えると、図10(a)に示すように、入力データから勝者ユニットまでの距離dが小さい場合は、学習時の近似・圧縮が良好に行われており、量子化の誤差は小さいといえる。一方、図10(b)に示すように、入力データから勝者ユニットまでの距離dが大きい場合には、学習時の操作データの分布とは異なったデータが入力され、量子化誤差が大きいことを意味している。従って、このような状態でのドライバ内部状態推定の信頼性は低いと考えることができる。   For example, when the same unit is a winner but the winner unit distance is different, as shown in FIG. 10A, when the distance d from the input data to the winner unit is small, the approximation / compression during learning is performed. It is performed well and the quantization error is small. On the other hand, as shown in FIG. 10B, when the distance d from the input data to the winner unit is large, data different from the distribution of the operation data at the time of learning is input, and the quantization error is large. I mean. Therefore, it can be considered that the reliability of the driver internal state estimation in such a state is low.

また、この「勝者ユニット距離」を信頼度評価指標として用いる他、「勝者ユニット距離と他のユニットとの距離の比」の合計を、信頼度評価指標として用いることもできる。このため、図11に示すように、入力データから勝者ユニットまでの距離をdw、それ以外のユニットまでの距離をdiとし、次のように、ユニット距離比di/dwの総和で指標Sを定義する。
S=Σ(di/dw)
但し、Σ:i=1〜N−1の総和
N:ユニットの総数
In addition to using the “winner unit distance” as a reliability evaluation index, the total of the “ratio of the distance between the winner unit distance and other units” can also be used as the reliability evaluation index. Therefore, as shown in FIG. 11, the distance from the input data to the winner unit is dw, the distance to the other units is di, and the index S is defined by the sum of the unit distance ratio di / dw as follows: To do.
S = Σ (di / dw)
However, Σ: Sum of i = 1 to N−1
N: Total number of units

図11(a)に示すように、特徴量空間中で入力を適切に量子化するユニットがある場合、指標Sは大きな値をとり、図11(b)に示すように、SOMのユニット分布と離れた空間に入力が観測された場合は、指標Sは小さな値となる。従って、指標Sの値が大きい場合は信頼度が高く、小さい場合には信頼度が低いと見なすことができる。   As shown in FIG. 11A, when there is a unit that appropriately quantizes the input in the feature amount space, the index S takes a large value, and as shown in FIG. When an input is observed in a distant space, the index S has a small value. Therefore, it can be considered that the reliability is high when the value of the index S is large, and the reliability is low when the value of the index S is small.

この指標Sを用いる手法は、勝者ユニット距離を直接用いる手法と比較して、SOMユニット全体の特徴量空間での配置を考慮しているため、SOMのユニットから距離の遠い入力の他、距離は小さくとも多数のユニットとの距離がほぼ同等で、量子化が不安定である場合等も検出することできる。つまり、量子化の安定性評価の面から、後段の状態推定部5での推定結果の信頼性を算定することが可能となる。   Compared with the method using the winner unit distance directly, the method using the index S considers the arrangement in the feature amount space of the entire SOM unit. Even when the distance is small, the distance to many units is almost the same, and the case where the quantization is unstable can be detected. That is, it is possible to calculate the reliability of the estimation result in the state estimation unit 5 in the subsequent stage from the viewpoint of the stability evaluation of quantization.

図12に状態推定に対する信頼度指標の計算例を示す。図12においては、外部環境のリスクレベルとドライバが認識していると推定されるドライバ認識リスクレベルと共に、その推定の信頼性指標として、SOM勝者ユニット距離が示されており、SOM勝者ユニット距離が小さく、信頼度が比較的高いときには、隣接ステート合計確率が大きく、逆に、SOM勝者ユニット距離が大きく、信頼度が比較的低いときには、隣接ステート合計確率が小さいことがわかる。   FIG. 12 shows a calculation example of the reliability index for the state estimation. In FIG. 12, together with the risk level of the external environment and the driver recognition risk level estimated to be recognized by the driver, the SOM winner unit distance is shown as an estimated reliability index, and the SOM winner unit distance is When the reliability is relatively small, the adjacent state total probability is large. Conversely, when the SOM winner unit distance is large and the reliability is relatively low, the adjacent state total probability is small.

[ドライバの意識しているリスクレベルの出力]
状態推定部5でドライバの内部状態として各ステートへの存在確率から計算された期待値は、一次ローパスフィルタ(例えば、カットオフ周波数0.3Hz)でフィルタリングされた後、状態推定部5から表示制御部1bに出力される。この出力値がドライバの意識しているリスクレベルに相当し、ドライバが対処するリスクレベルと見做せるものであり、出力値と走行環境リスクレベル値とを比較することにより、車両が本質的に安全或いは危険な状態にあるかを評価することが可能となる。
[Output of the driver's conscious risk level]
The expected value calculated from the existence probability in each state as the internal state of the driver by the state estimation unit 5 is filtered by a first-order low-pass filter (for example, a cut-off frequency of 0.3 Hz) and then displayed from the state estimation unit 5. Is output to the unit 1b. This output value corresponds to the risk level that the driver is aware of and can be regarded as the risk level that the driver deals with. By comparing the output value with the driving environment risk level value, the vehicle is essentially It is possible to evaluate whether it is safe or dangerous.

すなわち、表示制御部1bでの比較結果、状態推定部5で推定されたステートが車外環境認識部2から現在得られているスカラ値の属するステートと同じであれば、ドライバは環境を正常に認識した上で正常な操作を行っていると判定される。一方、状態推定部5で推定されたステートが、車外環境認識部2から現在得られているスカラ値の属するステートと異なる場合には、ドライバの状態が環境の要求するレベルと食い違っていると判定される。   That is, as a result of comparison in the display control unit 1b, if the state estimated by the state estimation unit 5 is the same as the state to which the scalar value currently obtained from the vehicle exterior environment recognition unit 2 belongs, the driver recognizes the environment normally. It is determined that a normal operation is performed. On the other hand, when the state estimated by the state estimation unit 5 is different from the state to which the scalar value currently obtained from the vehicle environment recognition unit 2 belongs, it is determined that the driver state is inconsistent with the level required by the environment. Is done.

例えば、推定されるステートのリスクレベルの方が車外環境認識部2から得られるリスクレベルより低い場合には、ドライバの危険認識度が低く、安全性が損なわれる可能性が高いと判定して、表示制御部1bからの表示出力を、ドライバがリスクを確実に認識可能とするように変化させる。逆に、推定されるステートのリスクレベルの方が車外環境認識部2から得られるリスクレベルより高い場合にも、ドライバが過度に緊張状態にあることが推定され、同様に安全性が損なわれる可能性が高いとして、表示制御部1bからの表示出力を調整する。   For example, if the risk level of the estimated state is lower than the risk level obtained from the outside environment recognition unit 2, it is determined that the driver's risk recognition level is low and the safety is likely to be impaired, The display output from the display control unit 1b is changed so that the driver can reliably recognize the risk. Conversely, when the estimated risk level of the state is higher than the risk level obtained from the outside environment recognition unit 2, it is estimated that the driver is excessively tensioned, and the safety may be similarly impaired. The display output from the display control unit 1b is adjusted because of high performance.

図13に状態推定の走行試験で計測されたデータの一部を示す。S1通り(片側一車線)からA,B,Cの記号で示す間の狭路(センターライン無し)を通ってS2通り(片側一車線)に至り、更に、記号Dで示す位置からS3通り(片側一車線)までを走行したときの環境リスクレベル及び内部状態リスクレベルの変化が操作特徴量の変化と共に示されている。   FIG. 13 shows a part of data measured in the state estimation running test. From S1 street (one side lane) to the S2 street (one lane) through the narrow path (no center line) indicated by the symbols A, B, C, and further from the position indicated by symbol D, S3 street ( Changes in the environmental risk level and the internal state risk level when traveling up to one lane on one side are shown together with changes in the operation feature amount.

図13に示す試験結果では、操作特徴量とリスクレベルとの関係から、ドライバは正常な覚醒度と緊張感を保って運転しており、交差点や狭い路といったリスクレベルの高い状況に対応している様子が、推定された内部状態すなわちドライバが意識しているリスクレベルが高くなっていることから確認できる。特に、グラフ中に示した記号A,B,C,Dの時点は、特徴的な高リスクイベントであり、主として交差点と狭路である。そのほかのリスクレベルが高くなっている時点は、主として歩行者や自転車・対向車等と遭遇した部分であり、この部分でも、同様の推定結果が得られていることが分かる。   In the test results shown in FIG. 13, the driver is driving with a normal arousal level and a sense of tension based on the relationship between the operation feature amount and the risk level, and corresponds to a high risk level situation such as an intersection or a narrow road. Can be confirmed from the estimated internal state, that is, the risk level perceived by the driver is high. In particular, the points A, B, C, and D shown in the graph are characteristic high-risk events, mainly intersections and narrow streets. When the other risk level is high, it is mainly a portion where a pedestrian, a bicycle, an oncoming vehicle, or the like is encountered, and it can be seen that the same estimation result is obtained also in this portion.

このような推定結果に基づいて、表示制御部1bは、表示装置1cに出力する表示コンテンツを変化させ、ドライバが周囲の危険度を適切に把握できているか否かをドライバに提示する。表示装置1cとしては、ナビゲーション装置のディスプレイ、インストルメントパネル内等に設置したディスプレイ、ヘッドアップディスプレイ等を用いることができ、騒音等による情報伝達の妨げがなく、情報提示のためにドライバと同乗者との会話を強制的に遮る虞もない。表示装置1cに表示する表示コンテンツとしては、本実施の形態では、比較的単純な形状の図形を主として用い、システムが認識しているリスクとドライバが把握しているリスクとのリスク差に基づいて、表示される図形の大きさ(表示サイズ)と表示色とを同時に変化させる。   Based on such an estimation result, the display control unit 1b changes display content to be output to the display device 1c, and presents to the driver whether or not the driver can properly grasp the surrounding danger level. As the display device 1c, a display of a navigation device, a display installed in an instrument panel, a head-up display, or the like can be used. There is no hindrance to information transmission due to noise or the like, and a driver and a passenger for information presentation There is no risk of forcibly interrupting the conversation. In the present embodiment, as the display content displayed on the display device 1c, a relatively simple figure is mainly used. Based on the risk difference between the risk recognized by the system and the risk recognized by the driver. The size of the figure to be displayed (display size) and the display color are changed simultaneously.

表示制御部1bは、システムが認識しているリスクとドライバが把握しているリスクとのリスク差が大きい場合、すなわち事故が起こりやすいと推定される場合には、図形の大きさが大きくなるように変化させ、リスク差が小さい場合、すなわち事故が起こりにくいと推定される場合には、図形の大きさが小さくなるように変化させる。同時に、図形の色も、リスク差が大きい場合には、赤・橙・黄色等の警告色で表示し、リスク差が小さい場合には、青・緑等の警告色でない色で段階的に変化させる。   When the risk difference between the risk recognized by the system and the risk grasped by the driver is large, that is, when it is estimated that an accident is likely to occur, the display control unit 1b seems to increase the size of the figure. When the risk difference is small, that is, when it is estimated that an accident is unlikely to occur, the figure size is changed to be small. At the same time, when the risk difference is large, the figure color is also displayed in warning colors such as red, orange, and yellow, and when the risk difference is small, it is gradually changed in colors that are not warning colors such as blue and green. Let

この場合、図形の大きさを変化させるのは、ドライバが周辺視で危険度の変化を認識できるようにするためである。また、図形の色を変化させるのは、文字や形状等の複雑な認識を行わなくても、直感的に危険度がわかるようにするためである。   In this case, the size of the graphic is changed so that the driver can recognize the change in the degree of danger in the peripheral vision. Also, the reason for changing the color of the graphic is to make it possible to intuitively understand the degree of danger without performing complicated recognition of characters and shapes.

すなわち、人間の周辺視は、中心視とは異なり、色や形状ではなく大きさや運動を処理するとされている。このため、遠近法による効果を利用して図形の大きさを変化させると共に図形の表示色を変化させることにより、ドライバが視線を動かして中心視を利用しなくても危険度の変化に気付くことができるようになる。   That is, human peripheral vision is different from central vision in that it deals with size and movement instead of color and shape. Therefore, by changing the size of the figure using the effect of perspective and changing the display color of the figure, the driver notices the change in the risk level without moving the line of sight and using central vision. Will be able to.

換言すれば、表示される図形が大きい程、近くの危険、つまりドライバが把握しているリスクがシステムが認識しているリスクと乖離して事故発生の可能性が高い状態であることを、ドライバが直感的に理解し易くなる。また、図形が小さい程、遠くの危険、つまりドライバが把握しているリスクがシステムが認識しているリスクとの差が小さく安全な状態であることを、ドライバが直感的に理解し易くなる。   In other words, the larger the displayed figure, the closer the danger, that is, the risk that the driver knows is far from the risk that the system recognizes, and the driver is more likely to have an accident. Is easy to understand intuitively. In addition, the smaller the figure, the easier it is for the driver to intuitively understand that a faraway danger, that is, the risk grasped by the driver is smaller and safer than the risk recognized by the system.

具体的には、表示装置1cには、例えば図14〜図17に示すようなリスク情報が表示される。このリスク情報は、例えば、表示装置1cとしてナビゲーション装置のディスプレイを利用する場合には、地図情報等を表示する親画面の一部に設けた子画面に表示される。この表示画面例では、画面上部の領域Tに装置名称等を表示し、画面中央部に、大きさと表示色が変化する4角形の図形Zを配置している。また、画面下部には、システムが認識しているリスクレベルRsysと、ドライバが把握しているリスクレベル(ドライバの内部状態から推定されるリスクレベル)Rdriverを並べて表示している。   Specifically, risk information as shown in FIGS. 14 to 17 is displayed on the display device 1c, for example. For example, when the display of the navigation device is used as the display device 1c, the risk information is displayed on a child screen provided in a part of the parent screen that displays map information and the like. In this display screen example, a device name or the like is displayed in a region T at the top of the screen, and a quadrangular figure Z whose size and display color changes is arranged in the center of the screen. In the lower part of the screen, a risk level Rsys recognized by the system and a risk level (risk level estimated from the internal state of the driver) Rdriver recognized by the driver are displayed side by side.

尚、システムが認識しているリスクレベルRsys、及びドライバが把握しているリスクレベルRdriverは、それぞれ、0〜100までの数値で表し、数値が大きいほど、事故発生の可能性が高い状態であることを示している。   The risk level Rsys recognized by the system and the risk level Rdriver recognized by the driver are each expressed by a numerical value from 0 to 100. The larger the numerical value, the higher the possibility of an accident. It is shown that.

描画される図形の大きさと表示色は、例えば図18,図19に示す特性のマップを予めシステム内に保有しておき、このマップを参照して変化させる。図18は、ドライバが把握しているリスクレベルRdriverとシステムが認識しているリスクレベルRsysとのリスク差ΔRD(ΔRD=Rdriver−Rsys)の値を横軸、図形の縦・横の大きさを縦軸として、一番大きいときを100%としたときの相対的な割合を示している。図形の大きさは、図18に示す特性に従って、リスク差ΔRDの値に応じて、図形の重心を中心にして上下左右に広がるように変化させる。また、図19は、リスク差ΔRDの値を横軸、RGBの各成分を縦軸として、RGBの各成分毎に0から100までの割合で示している。図形の色は、図19に示す特性に従い、リスク差ΔRDの値に応じて、RGB(R:赤、G:緑、B:青)の各成分を変化させる。全ての成分の値が0であれば黒、100なら白を表す。   The size of the figure to be drawn and the display color are changed with reference to the maps of the characteristics shown in FIGS. FIG. 18 shows the value of the risk difference ΔRD (ΔRD = Rdriver−Rsys) between the risk level Rdriver recognized by the driver and the risk level Rsys recognized by the system, and the vertical and horizontal sizes of the figure. The vertical axis shows the relative ratio when the largest value is 100%. According to the characteristic shown in FIG. 18, the size of the graphic is changed so as to spread vertically and horizontally around the center of gravity of the graphic according to the value of the risk difference ΔRD. Further, FIG. 19 shows the risk difference ΔRD as a horizontal axis and RGB components as a vertical axis, with a ratio from 0 to 100 for each RGB component. The color of the figure changes each component of RGB (R: red, G: green, B: blue) according to the value of the risk difference ΔRD according to the characteristics shown in FIG. If all the component values are 0, it represents black, and 100 represents white.

尚、リスク差ΔRDは、−100から+100までの値を取り得るが、図形の大きさは、−25以下又は50以上は同じ値(100%)となる。   The risk difference ΔRD can take a value from −100 to +100, but the graphic size is −25 or less or 50 or more has the same value (100%).

図18および図19において、リスク差がプラス側よりもマイナス側の方がΔRDの変化に対する図形の大きさ及び色の変化が大きくなるようにしてある。これは、ドライバが把握しているリスクが不足しているときは危険を見落としている恐れが高く、リスクを過剰に感じているときよりも事故に繋がる危険が高いためである。また、図19において、曲線が不連続に変化する点(例えば、横軸のリスク差ΔRDの値が40付近のR成分等)は、画面に表示した際に色の変化が自然に見えるように調整(ディスプレイの特性や映像信号のノイズ等を考慮して調整)した値である。   18 and 19, the change in the size and color of the figure with respect to the change in ΔRD is larger when the risk difference is on the negative side than on the positive side. This is because when the risk grasped by the driver is insufficient, there is a high risk of overlooking the danger, and there is a higher risk of accidents than when the risk is felt excessively. In addition, in FIG. 19, a point where the curve changes discontinuously (for example, an R component whose risk difference ΔRD on the horizontal axis is around 40) is displayed so that the color change looks natural when displayed on the screen. This is a value adjusted (adjusted in consideration of display characteristics, video signal noise, etc.).

先の図14〜図17に示す表示画面例では、リスク差ΔRDが小さい場合、図14に示すように、表示装置1cに表示される図形Zの大きさは、最小サイズ付近の大きさとなり、G成分を主とする色調で表示される。また、リスク差が小さいものの、図14の場合よりもリスク差がやや大きい場合には、図15に示すように、図形Zの大きさは、図14に対して相対的に大きくなり、G成分とB成分と主とする色調に変化する。   In the display screen examples shown in FIGS. 14 to 17, when the risk difference ΔRD is small, as shown in FIG. 14, the size of the figure Z displayed on the display device 1 c is a size near the minimum size. Displayed in a color tone mainly composed of the G component. Further, when the risk difference is small but the risk difference is slightly larger than the case of FIG. 14, as shown in FIG. 15, the size of the figure Z is relatively larger than that of FIG. And B component and the main color tone.

また、リスク差ΔRDがやや大きい場合、図16に示すように、図形Zは、上下左右に拡大されてB成分とR成分とを主とする色調で表示され、ドライバの注意を喚起する。更に、リスク差ΔRDが大きくなると、図17に示すように、図形Zの大きさは、最大サイズに近づき、且つR成分を主とする色調へと変化してドライバに警告を与える。   Further, when the risk difference ΔRD is slightly large, as shown in FIG. 16, the graphic Z is enlarged vertically and horizontally and displayed in a color tone mainly including the B component and the R component, and alerts the driver. Further, when the risk difference ΔRD increases, as shown in FIG. 17, the size of the figure Z approaches the maximum size and changes to a color tone mainly composed of the R component, giving a warning to the driver.

以上のように、本実施の形態における情報提示装置1は、システムが認識しているリスクとドライバが把握しているリスクとの差を推定し、推定したリスク差に応じてドライバに提示するリスク情報の表示サイズと表示色とを同時に変化させる。これにより、ドライバが視線を移動させなくても周辺視での確認が容易となり、ドライバへの負担を軽減して、ドライバが運転に集中したまま、自身のリスク認識状態とシステムのリスク認識状態とのズレを直感的に把握することが可能となる。   As described above, the information presentation apparatus 1 according to the present embodiment estimates the difference between the risk recognized by the system and the risk recognized by the driver, and presents the risk to the driver according to the estimated risk difference. The display size and display color of information are changed simultaneously. This makes it easy to check with peripheral vision without the driver moving his / her line of sight, reducing the burden on the driver and keeping the driver's focus on driving and his / her risk recognition state and system risk recognition state. It is possible to intuitively grasp the deviation.

また、信頼度評価部6が出力する信頼度を利用することができるため、信頼度が低下した場合には表示装置1cに表示する図形を変化させる、推定結果を破棄するなどの対応が可能となり、ドライバに対してより的確なリスク情報を提示することが可能になる。   Further, since the reliability output by the reliability evaluation unit 6 can be used, when the reliability decreases, it is possible to take measures such as changing the figure displayed on the display device 1c or discarding the estimation result. It is possible to present more accurate risk information to the driver.

図形の表示を変化させる方法として、信頼度が高い場合には図形の輪郭をはっきりと表示させ、信頼度が低い場合には図形の輪郭をぼかして表示させる。これは、図20に示す特性のマップを予めシステム内に保有しておき、このマップを参照して変化させる。図20は、信頼度の値を横軸、輪郭をぼかす幅を縦軸として、信頼度に対応したぼかし幅を示している。輪郭がぼける度合いにより、ドライバがシステムの推定値の信頼度を直感的に把握することができるようになる。あるいは、信頼度が一定値以下の場合には推定値を破棄し、表示を変化させないようにしてもよい。   As a method of changing the display of the figure, the outline of the figure is clearly displayed when the reliability is high, and the outline of the figure is blurred when the reliability is low. The characteristic map shown in FIG. 20 is stored in the system in advance, and is changed with reference to this map. FIG. 20 shows the blur width corresponding to the reliability, with the reliability value on the horizontal axis and the width for blurring the outline on the vertical axis. The degree of outline blurring allows the driver to intuitively understand the reliability of the estimated value of the system. Alternatively, when the reliability is equal to or less than a certain value, the estimated value may be discarded and the display may not be changed.

1 情報提示装置
1a 認識システム
1b 表示制御部
1c 表示装置
2 車外環境認識部
3 操作特徴量量子化部
4 モデル学習部
5 状態推定部
6 信頼度評価部
DESCRIPTION OF SYMBOLS 1 Information presentation apparatus 1a Recognition system 1b Display control part 1c Display apparatus 2 Car exterior environment recognition part 3 Operation feature-quantization part 4 Model learning part 5 State estimation part 6 Reliability evaluation part

Claims (9)

車両運転中の事故発生の危険度を推定する危険度推定部と、
上記危険度推定部で推定した危険度に応じて、乗員に提示する危険度情報の表示サイズと表示色とを変化させる表示制御部と
を備えることを特徴とする車両用情報提示装置。
A risk estimator that estimates the risk of an accident occurring while driving the vehicle;
A vehicle information presentation device, comprising: a display control unit that changes a display size and a display color of the risk level information to be presented to the occupant according to the risk level estimated by the risk level estimation unit.
上記危険度推定部は、
車両の走行環境の危険度を推定する走行環境危険度推定部と、
運転者が把握している危険度を推定する把握危険度推定部と
を有し、
上記表示制御部は、
走行環境の危険度と運転者が把握している危険度との各推定値の差に応じて、上記危険度情報を表す図形の表示サイズ及び表示色を変化させることを特徴とする請求項1記載の車両用情報提示装置。
The risk estimation part
A driving environment risk estimation unit that estimates the risk of the driving environment of the vehicle;
And a grasping risk level estimation unit that estimates the risk level that the driver knows,
The display control unit
The display size and display color of the graphic representing the risk information are changed according to the difference between the estimated values of the risk of the driving environment and the risk known to the driver. The vehicle information presentation device described.
上記表示制御部は、上記危険度の推定値の差が大きくなる程、上記図形の大きさが大きくなるように変化させることを特徴とする請求項2記載の車両用情報提示装置。   3. The vehicle information presentation apparatus according to claim 2, wherein the display control unit changes the size of the graphic as the difference in the estimated value of the risk increases. 上記表示制御部は、上記危険度の推定値の差が大きくなる程、上記図形の表示色が赤に近づくよう段階的に変化させることを特徴とする請求項3記載の車両用情報提示装置。   4. The vehicle information presentation apparatus according to claim 3, wherein the display control unit changes the display color of the graphic stepwise so as to approach red as the difference in the estimated value of the risk increases. 上記図形は、四角形であることを特徴とする請求項3又は4記載の車両用情報提示装置。   5. The vehicle information presentation apparatus according to claim 3, wherein the graphic is a quadrangle. 上記危険度推定部は、上記把握危険度推定部による推定結果の信頼度を評価する信頼度評価部を有し、上記表示制御部は、上記信頼度に応じて乗員に提示する危険度情報の表示を変化させることを特徴とする請求項2から5の何れかに記載の車両用情報提示装置。   The risk level estimation unit includes a reliability level evaluation unit that evaluates the reliability level of the estimation result obtained by the grasping risk level estimation unit, and the display control unit is configured to display risk level information to be presented to a passenger according to the reliability level. 6. The vehicle information presentation device according to claim 2, wherein the display is changed. 上記表示制御部は、上記信頼度が低くなるほど表示される図形の輪郭をぼかすことを特徴とする請求項6記載の車両用情報提示装置。   The vehicular information presentation device according to claim 6, wherein the display control unit blurs an outline of a figure to be displayed as the reliability decreases. 上記図形は、カーナビゲーション装置の表示画面の一部の子画面に表示されることを特徴とする請求項2記載の車両用情報提示装置。   The vehicle information presentation apparatus according to claim 2, wherein the graphic is displayed on a part of a child screen of a display screen of the car navigation apparatus. 上記図形は、インストルメントパネル内に表示されることを特徴とする請求項2記載の車両用情報提示装置。   The vehicle information presentation apparatus according to claim 2, wherein the graphic is displayed in an instrument panel.
JP2009106694A 2009-04-24 2009-04-24 Information exhibition device for vehicle Pending JP2010257234A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009106694A JP2010257234A (en) 2009-04-24 2009-04-24 Information exhibition device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009106694A JP2010257234A (en) 2009-04-24 2009-04-24 Information exhibition device for vehicle

Publications (1)

Publication Number Publication Date
JP2010257234A true JP2010257234A (en) 2010-11-11

Family

ID=43318061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009106694A Pending JP2010257234A (en) 2009-04-24 2009-04-24 Information exhibition device for vehicle

Country Status (1)

Country Link
JP (1) JP2010257234A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015007933A (en) * 2013-06-26 2015-01-15 富士通テン株式会社 Display controller, display system, information providing method, and program
US9514547B2 (en) 2013-07-11 2016-12-06 Denso Corporation Driving support apparatus for improving awareness of unrecognized object
JP2019044541A (en) * 2017-09-06 2019-03-22 日立建機株式会社 Remote control system for construction machine
JP2020166704A (en) * 2019-03-29 2020-10-08 株式会社Nttドコモ Action support apparatus

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015007933A (en) * 2013-06-26 2015-01-15 富士通テン株式会社 Display controller, display system, information providing method, and program
US9643493B2 (en) 2013-06-26 2017-05-09 Fujitsu Ten Limited Display control apparatus
US9514547B2 (en) 2013-07-11 2016-12-06 Denso Corporation Driving support apparatus for improving awareness of unrecognized object
JP2019044541A (en) * 2017-09-06 2019-03-22 日立建機株式会社 Remote control system for construction machine
JP2020166704A (en) * 2019-03-29 2020-10-08 株式会社Nttドコモ Action support apparatus

Similar Documents

Publication Publication Date Title
JP7332726B2 (en) Detecting Driver Attention Using Heatmaps
CN111353471A (en) Safe driving monitoring method, device, equipment and readable storage medium
US9707971B2 (en) Driving characteristics diagnosis device, driving characteristics diagnosis system, driving characteristics diagnosis method, information output device, and information output method
US8085140B2 (en) Travel information providing device
JP5316713B2 (en) Lane departure prevention support apparatus, lane departure prevention method, and storage medium
JP4670805B2 (en) Driving support device and program
US10336252B2 (en) Long term driving danger prediction system
JP4550116B2 (en) Landscape monotonicity calculation device and method
EP2026246A1 (en) Method and apparatus for evaluating an image
JP2009073465A (en) Safe driving support system
JP5005492B2 (en) Safe driving support system
CN111231971A (en) Automobile safety performance analysis and evaluation method and system based on big data
JP4814816B2 (en) Accident occurrence prediction simulation apparatus, method and program, safety system evaluation apparatus and accident alarm apparatus
JP2010257234A (en) Information exhibition device for vehicle
WO2023017317A1 (en) Environmentally aware prediction of human behaviors
KR20150066308A (en) Apparatus and method for determining driving condition of deiver
JPWO2020208804A1 (en) Display control device, display control method, and display control program
Hoch et al. The BMW SURF project: A contribution to the research on cognitive vehicles
Wu et al. Fuzzy logic based driving behavior monitoring using hidden markov models
JP2009205646A (en) Driving support device
JP2009093341A (en) Recognition reproduction device and program, and traffic flow simulation device and program
JP7269694B2 (en) LEARNING DATA GENERATION METHOD/PROGRAM, LEARNING MODEL AND EVENT OCCURRENCE ESTIMATING DEVICE FOR EVENT OCCURRENCE ESTIMATION
Rendon-Velez et al. Progress with situation assessment and risk prediction in advanced driver assistance systems: A survey
Amditis et al. System architecture of a driver's monitoring and hypovigilance warning system
JP7432198B2 (en) Situation awareness estimation system and driving support system