JP4825132B2 - 車両の運転者による不注意を識別する方法及びコンピュータプログラム - Google Patents

車両の運転者による不注意を識別する方法及びコンピュータプログラム Download PDF

Info

Publication number
JP4825132B2
JP4825132B2 JP2006540272A JP2006540272A JP4825132B2 JP 4825132 B2 JP4825132 B2 JP 4825132B2 JP 2006540272 A JP2006540272 A JP 2006540272A JP 2006540272 A JP2006540272 A JP 2006540272A JP 4825132 B2 JP4825132 B2 JP 4825132B2
Authority
JP
Japan
Prior art keywords
driver
vehicle
fatigue
probability
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006540272A
Other languages
English (en)
Other versions
JP2007514467A (ja
Inventor
エリザベット・ブクマン
アルニーム・ギャレイ ラルス
クラウス‐ペーター・クーン
ディートマー・ノイメルケル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mercedes Benz Group AG
Original Assignee
Daimler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daimler AG filed Critical Daimler AG
Publication of JP2007514467A publication Critical patent/JP2007514467A/ja
Application granted granted Critical
Publication of JP4825132B2 publication Critical patent/JP4825132B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/22Psychological state; Stress level or workload
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Child & Adolescent Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Automation & Control Theory (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Emergency Alarm Devices (AREA)

Description

本発明は、車両の、特に自動車の運転者が、車両の運転中に、注意を払っていない時を識別する方法及びコンピュータプログラムに関する。本発明はまた、このようなコンピュータプログラムを備えたデータ記憶媒体に関する。
自動車の運転者による不注意、特に自動車の運転者が居眠りをする傾向を検出するための様々な提案が、先行技術より知られている。
例えば、上記に対する1つの提案が、特許文献1に開示されている。自動車の運転者が居眠りをしそうになっていることを警告するための、特許文献1に開示されている装置は、まず、自動車の運転者の実際の運転スタイルを検出するための、車両環境識別装置を具備する。特許文献1に記載されている装置はまた、基準となる運転スタイルを検出するための装置、特に、自動車の運転者が、自分の運転スタイルにおいて、通常、何回自分で横方向に移動するかを検出するための装置を具備する。最後に、この開示されている装置は、基準となる運転スタイルと現在の実際の運転スタイルとを比較し、この比較の結果に基づいて、自動車の運転者に警告を出力するための比較論理を有する。
さらに、自動車の運転者のストレスを判断する方法及び装置が、特許文献2より知られている。この方法においては、まず、自動車のステアリング角を検出し、これから、運転者が自動車を制御する際のステアリング角の予測誤差を生成する。次いで、これらの予測誤差の分布を計算して、この分布と、運転者の実際のハンドル操作を表しているのではなく、運転者がストレスのない又はストレスを感じていない時の予め定められたハンドル操作を表すステアリング角の予測誤差の他の分布と、を比較する。次いで、この比較結果は、自動車を運転中の、運転者に対する現在のストレスを表す。
最後に、特許文献3においては、自動車の運転者が居眠りをし始める前に、警告を発する運転者警告装置について開示している。この運転者警告装置は、運転者が覚醒している場合は、たとえまっすぐな方向に走行している場合でも、ステアリングホイールが完全な静止状態に保たれることはなく、そのハンドル動作は、たとえ微小であるにしても、連続して行われるという前提のもとに、運転者のハンドル動作を検出する。運転者警告装置はまた、調整可能な時間間隔に渡って、このようなハンドル動作がないことを検出すると、このことから、運転者が居眠りをしそうになっている又は少なくとも居眠りをする危険性があると推論し、次いで、信号を出力することにより、運転者に警告を発する。
前述の特許文献3に開示されている運転者警告装置は、車両の運転者が注意を払っていない時の判定が、ひとえにハンドル静止段階の検出に基づいて行われており、したがって、この判定が、極めて曖昧かつ不確実に行われ得るという欠点を有する。
独国特許出願公開第19818239A1号明細書 米国特許第6061610号明細書 独国特許出願公開DE2546345号明細書
したがって、上記のような先行技術に対して、本発明の目的は、自動車の運転者が注意を払っていない時を識別する方法、及びこれに対応するコンピュータプログラム、及びこの方法を実施するためのコントローラ、及びこのようなコンピュータプログラムを備えたデータ記憶媒体を提供することであり、これらにより、運転者の起こす可能性のある不注意を、より信頼できる方法で識別できるようになる。
上記目的は、請求項1に記載の方法によって達成される。この方法は、ステアリング角の変化率を評価することにより、ハンドル静止段階に続くハンドル動作を識別し、このハンドル動作の程度の大きさを判断するステップと、ハンドル静止段階の程度とハンドル動作の程度との間の連係の結果を評価することにより、車両を運転中の運転者による、不注意の重大度についての測度を判断するステップとによって特徴づけられる。
本発明では、運転者の不注意を識別するプロセスにおいて、ハンドル静止段階と、一般に不注意な状態に続くやや慌しいハンドル動作と、を区別することが好ましい。したがって、本発明によれば、ハンドル静止段階と、その後のハンドル動作との両方が、互いに関連して識別されない場合には、不注意な状態であると想定されることはない。逆の言い方をすれば、つまり、ハンドル静止段階を識別しただけ、又はハンドル動作を識別しただけでは、運転者が不注意であると推論するのに十分ではない。検出された静止段階の程度及びハンドル動作の程度は、不注意の度合いの程度を判断するよう論理的に互いに結合され、次いで、その結果が査定される。
最新式の車両、特に自動車においては、ステアリング角xを検出するためのセンサが、通常、どのような場合にも設けられている。したがって、基本的には、上述の方法を実施するために、追加センサを必要としないことが好ましい。
以下、本発明を実施するための、2つの異なる例示的実施形態について説明する。第1の例示的実施形態は、請求項2〜5に記載され、第2の例示的実施形態は、請求項6〜11に記載されている。基本的には、第2の例示的実施形態においては、ハンドル静止段階の程度を判断する特定の方法が提供される。しかし、第1の例示的実施形態に従って、この判断プロセスを実施することもできる。
請求項12〜16及び17〜19に記載の方法の、さらなる改良形態は、第1の例示的実施形態と第2の例示的実施形態との両方に、等しく適用される。
第1の例示的実施形態の利点
ステアリング角の分散を単に形成することにより、ハンドル動作の程度を計算しても、それは、単に運転者の一時のハンドル操作を表すだけである。しかし、不注意が存在することについて、信頼性の高い報告を行うためには、実際には、一定時間に渡るハンドル操作の変化を考慮することも重要である。本発明によれば、この態様は、分散比を形成する際に、互いに対して時間間隔Δtずれている異なる時間の、運転者の個々のハンドル動作を表す、2つのステアリング角の分散を含めることによって勘案される。
本発明に従って計算された分散比は、本質的に、時間tに車両を運転中の運転者の、不注意の重大度についての測度として解釈されることが好ましく、特にこの分散比が1より大きい値を有する場合に、運転者の不注意が存在する。
第2の例示的実施形の利点
第1の例示的実施形態とは異なり、第2の例示的実施形態においては、運転者の不注意を評価するために、本質的にわずかなパラメータしか使用しない。したがって、それ程メモリ集約しなくてもよい。さらに、かなり単純なアルゴリズムを使用するので、より容易に処理することができ、リアルタイムで実施することができる。したがって、全般的に、車両内で実際に使用するのに極めて好適である。
したがって、ハンドル静止段階の程度、つまり、ハンドル静止の持続時間についての評価が、ステアリング角の評価によってのみ行われことが好ましく、かつハンドル動作の程度が、発生する最大のステアリング角の勾配を検出することによってのみ判断されることが好ましい。したがって、分散関数に基づいた計算又は評価を行う必要がない。
運転者による不注意の重大度についての測度を判断するため、ハンドル静止段階の程度をハンドル動作の程度に論理的に連係させることは、第2の例示的実施形態において、多次元演算子を用いて行われる。しかし、不必要な複雑な計算を省くために、ハンドル静止段階と、予想されるその後のハンドル動作との両方が、それぞれ、予め定められた最小の程度で起こる場合にのみ、この論理演算が実施されることが好ましい。ハンドル静止段階又はハンドル動作が、十分明確に断言されない場合は、本発明に従って、運転者は、不注意な状態にはないと想定される。
両方の例示的実施形態が共に有し得る、本発明による方法の改良形態の利点。
第1又は第2の例示的実施形態からの論理演算の結果、つまり分散比又は演算子による論理演算の結果を、シグモイド関数を用いて確率値に表示できることが好ましい。つまり、運転者が、時間tで車両の運転中に不注意である確率を、0〜100%の間で指定することが可能である。
さらに好ましい改良形態においては、以前に判断された確率値に基づいて、請求項に記載の方法により、確率に関する報告を行うことが可能となり、これを用いて、運転者の操作を、好適に選択し、このような多数のレベルから予め定められたある特定の疲労レベルに関連付けることができる。本発明によれば、このような関連付けは、常に、現在検出されているステアリング角を勘案して行われる。
このような予め定められた疲労レベルとの関連付けは、第1の指示子としてのステアリング角だけでなく、運転者の瞼を閉じる動作又は反応時間などの、運転者による不注意についてのさらなる観測可能な指示子も勘案することにより、より正確に行うことができることが好ましい。
特に、上述した指示子についての現在検出されている値を、このように推定するだけでなく、最近行われた疲労の分類も勘案することにより、運転者の疲労の推定を、より正確に行うことができることもまた、好ましい。言い換えれば、このような手順により、新しい推定についての信頼性試験において、運転者の疲労が、突然何度も発生したり消滅したりするような現象ではなく、実際には、一定時間に渡って連続的に変化しているという事実を勘案することができる。
上述したように、請求項に記載の方法により、検出された不注意の原因として、運転者の疲労についての結論を導き出すことができることが好ましい。実際には、請求項に記載の方法によりまた、検出された不注意の他の原因が、たとえば、助手席の同乗者との会話又は車両内のラジオ又はダッシュボードの小物入れなどの装置の操作にあるという可能性があるという結論も、導き出すことができる。
車両の運転者の注意レベル又は不注意に関する報告の信頼性を向上するために、第1又は第2の例示的実施形態による論理演算の結果を評価するだけでなく、この代わりに、この報告を、多数のこのような論理演算の結果に基づいて評価することは、価値がある。この場合、第1又は第2の例示的実施形態それぞれからの結果だけでなく、第1と第2の例示的実施形態の結果の混合も含まれることがある。具体的には、論理演算から得られたそれぞれの結果を、関連付けられた重み係数で重み付けすることにより、運転者による不注意についての報告をより確実に行うことができ、最終的には、数学的に平均化することにより、現在の複数の重み付けされた論理演算の結果から、平均化された論理演算の結果を得ることができる。次いで、特定の時間に車両を運転中の運転者による不注意の重大度についての、この平均化された論理演算の結果は、平均化されていない論理演算の結果よりも、信頼性の高い測度を表す。
最後に、車両の運転者に、視覚的又は聴覚的に情報を警告する形態で、不注意が識別されたことが、知らされることが特に好ましい。
本発明の方法のさらに好ましい改良形態が、従属請求項の主題として記載されている。
上述した本発明の目的はまた、上述の方法を実施するためのコンピュータプログラムにより、このコンピュータプログラムを備えたデータ記憶媒体により、及び、上述の方法を実施するためのコントローラにより、達成される。これらの解決策の利点は、上述の方法について上記に記載した利点に対応する。
上記コンピュータプログラムは、少なくとも個々の車両タイプについて1回のみプログラムする必要があり、対応モデルの全車両において実施できることが好ましい。
図1は、車両の、特に自動車の運転者による不注意を識別するための、本発明による方法を実施するためのコントローラ100を示す図である。このコントローラは、車両(図示せず)内に取付けられ、運転者による、現在のステアリング角x、つまりハンドル動作を検出するための、ステアリング角センサ110を具備することが好ましい。コントローラ100は、さらに、好ましくはマイクロコントローラの形態の、制御装置120を具備する。制御装置120は、ステアリング角センサ110によって生成され、かつステアリング角xを表すセンサ信号を、検出する。
ステアリング角xは、運転者による不注意についての、本発明に従って優先される第1の指示子を表す。制御装置120はまた、ステアリング角に加えて、基本的に、他のセンサ112、114からのさらなるセンサ信号を、運転者による不注意についてのさらなる指示子として受信し、評価することもできる。このようなさらなるセンサ信号については、ここではひとまず無視し、後にさらに説明することとする。
運転者による不注意は、制御装置120内のコンピュータプログラム122を実行することによって、識別される。このコンピュータプログラムは、本発明による方法を用いて不注意を識別し、ステアリング角xを優先される指示子として評価するが、これについては、以下の文中に記載する。運転者による不注意が発見された場合は、制御装置120が警告装置130を駆動して、運転者に聴覚的な又は視覚的な警告情報を出すことが好ましい。この警告情報により、運転者は、自分の不注意な車両運転操作に気づくこととなり、運転者に改めて注意を喚起させる機会を持たせることとなる。
図2は、本発明に従って、運転者による不注意が識別された時に発生する、ステアリング角の典型的なプロファイルを示す図である。ここでは、このプロファイルは、運転者による不注意が存在する場合の典型的なものである。即ち、まず、顕著な変更が行われないハンドル静止段階LRを有する。図2では、ステアリング角xは、全ハンドル静止段階LRに渡って、2本の平行な水平線によって境界付けられた偏向(振幅)の範囲Δx内に留まっている。次いで、不注意の存在については、本発明においては、このハンドル静止段階に続く、非常に急又は力強い、ハンドル動作を特徴とする。この力強いハンドル動作LAは、図2では、ハンドル静止段階の最後のステアリング角xの急上昇によって表されている。
図3は、上述したコントローラ100を用いて実施される、本発明による方法を示す図である。図3aに示されている方法ステップS0〜S8は、まず、この方法の第1の例示的実施形態を表す。このことについては、まず、以下の文中に、詳細かつ関連した形で記載する。図3aに示されている分岐A、B、C、及びDは、この第1の例示的実施形態とは無関係であり、これらは、本発明による方法の第2の例示的実施形態についての記述まで無関係であり、第2の例示的実施形態は、第1の例示的実施形態についての記述の後に説明する。
第1の例示的実施形態
図3aに示されている第1の例示的実施形態においては、開始ステップS0に続いて、まず、車両のステアリングホイールのハンドル動作を検出する。つまり、ステアリング角xの形態で、運転者のハンドル操作を検出する(方法ステップS1)。次いで、第2のステップS2で、ハンドル静止段階LR(図2参照)が、検出されたステアリング角xに基づいて識別される。ステップS2で、分散比vv(x、t)が、第1のステアリング角に対する第2のステアリング角の比として、同様に計算される。この場合、早い時間t−Δtにおける第1のステアリング角の分散v(x、t−Δt)は、以下の数式(1)を用いて計算される。
ここで、
x(t−Δt)は、時間t−Δtにおけるステアリング角xを表し、
Δtは、サンプリング間隔の倍数を表し、
Tは、観測時間窓を表し、
−Δtは、観測時間を表し、
は、観測時間窓Tに渡って平均化されたステアリング角xの時間平均値を表し、
varは、数学的な分散関数を表す。
第2のステアリング角の分散v(x、t)は、以下の数式(2)を用いて計算される。
ここで、変数は、数式(1)と同じ意味を有するが、唯一の相違点は、これらが観測時間tにおいて考慮される点である。
次いで、以下に示すように、分散比vv(x、t)は、第1のステアリング角及び第2のステアリング角の分散から計算される。
したがって、方法ステップS2で計算された分散比は、運転者が注意を払っていない時の典型的なハンドル操作を効果的に記録するので、時間tでの車両を運転中の運転者の不注意の重大度についての、信頼性の高い測度を表す。運転者が注意を払っていない時の典型的なハンドル操作は、図2を参照しながら既に上記で述べたように、ハンドル動作がない又はほんの少しのハンドル動作のある第1のハンドル静止段階LRと、平均以上の力強いハンドル動作のある、その後の第2のハンドル動作段階(ハンドル動作)LAとを特徴とする。第1の段階は、早い観測時間t−Δtに、わずかな程度の第1の分散に至る。これに対して、第2の段階は、特に時間tで、第2の分散のかなり大きい値に至る。全般的に、このことにより、分母には小さい値及び分子には大きい値が生じ、したがって、全般的に、これらの2つの結果により、分散比が高い値となる。分散比が≦1である限り、これは、運転者が不注意ではないことを示している。分散比が、1より大きい値を想定した場合にのみ、車両の運転者が道路交通に十分な注意を払っていないことを示す。
分散比の値は、理論上、無限に高くなり得る。しかし、この種の無限に高い値は、運転者の不注意を十分正確に分類するのには適していない。
したがって、本発明による方法のある特定の変形形態においては、分散比は、その後の方法ステップS3で、確率値に変換される。この変換は、図4に示されておりかつ好適な予め定められた閾値SWを有する、シグモイド関数を用いて、実施されることが好ましい。図4に示されているシグモイド関数のためのこの閾値は、SW=2である。つまり、2の(図4の横座標上にプロットされている)分散比vv(x、t)は、時間tにおいて注意を払っていない車両の運転者の、0.5の、つまり50%の、確率P(U)(ここで、n=1(第1の指示子))を示している。図4のシグモイド関数のグラフから分かるように、確率P(U)は、基本的に、分散比の大きさにより、0〜100%の値で想定され得る。
シグモイド関数により、0という、瞬時の不注意についての確率値に対応して完全に注意を払っている状態から、1=100%という、不注意についての値に対応して完全に注意を払っていない状態への「穏やかな」遷移が確実となる。数学的には、図3に示されているシグモイド関数は、以下の数式(4)を用いて計算される。
ここで、
P(U)は、車両を運転中の運転者による不注意の確率を表し、
は、第1の指示子(ステアリング角:n=1)を用いて検出された不注意事象を表し、
Sは、閾値を表す。
これまでに、つまり方法ステップS3を含み、方法ステップS3までに、行われたステアリング角xを評価することにより、時間tでの運転者による不注意の有無を識別することが可能となった。好ましくは動的確率モデルを用いて、この時点までに得られた知識をさらに評価することにより、発見された、不注意の原因であると思われるものに関する結論を導き出すことがさらに可能となる。したがって、以下の文中に記載する方法ステップS4〜S6は、たとえば、検出された運転者の不注意の原因である疲労の確率を判断できる方法を示している。
上記の結果生じる、車両を運転中の不注意の原因としての疲労との間において、前述したこのような関係が、図5に示されている。ここに示されている矢印は、原因としての疲労から、起こり得る様々な結果、特に車両を運転中の不注意(指示子1)までを指している。しかし、不注意の結果に加えて、疲労はまた、頻繁に瞼を閉じること(指示子2)又は反応力の遅延(指示子3)などの、他の観測可能な結果も有する。
車両の運転中に検出された不注意事象から、運転者の疲労を推論できるようにするために、第1の確率ベクトルOn=1が、本発明に従って、方法ステップS4で判断され、その要素On=1kn=1は、それぞれ、個々の、予め定められ好適に選択された程度レベルk(k∈{1・・・K})内で発生する確率値P(U)のうちの確率値を表している。この場合、パラメータnは、それぞれ評価された指示子を表しており、n=1は、指示子としてのハンドル操作又はステアリング角を表している。
図6は、第1の確率ベクトルOn=1を決定するためのプロセスを示す図である。図6では、前の方法ステップS3で決定された確率値P(U)が、横座標上の0〜100%の間でプロットされ、時間tにおいて車両を運転中の運転者による不注意の確率を表している。前に決定された確率値P(U)は、方法ステップS4で予め定められ好適に定義された程度レベルk∈{1・・・K}に関連付けられる。図6に示されている例示的実施形態においては、3つの程度レベル、即ち、指示子1について、「低い」(k=1)、「中程度」(k=2)、及び「高い」(k=3)(図5参照)が予め定められ、それぞれ、図6に、それら自身のガウス関数によって表される。したがって、この例の指示子1に対する程度レベルの数は、k=3である。
中心点又は分散などの、各程度レベルに対するこれらガウス関数の数及びパラメータは、適用状況に応じて、適宜、構成され得る。図6から分かるように、ほんの低い程度しか確率値が発生しないことについて、70%の確率が、方法ステップS4を実施した後、運転者による不注意についての例示として想定された0.33の確率値P(U)に関連付けられる。中程度に発生する計算された確率値については、28%の確率があり、一方、高い程度で発生する計算された確率値については、ほんの2%の確率がある。
言い換えれば、時間tでの運転者による不注意についての、0.33の想定される確率値について、図6に示された例においては、運転者の不注意の程度が非常に低い確率が、70%の確率で発生する、つまり運転者が注意を払っている確率が70%あるという報告が生じる。このことによりまた、運転者が中程度の注意を払っている確率が28%あり、かつ運転者が非常に不注意である確率がほんの2%であるというステートメントが結果として生じる。
次の方法ステップS5で、無限数の疲労レベルを定義することができ、これらのレベルの間の条件付き確率、及び観測された運転の不注意の事象を、割り当てることができる。図5に示されている例では、全部で3つの疲労レベル、「覚醒している」、「疲れている」、及び「疲労困憊している」が設けられる。次いで、これも方法ステップS5で、条件付き確率を、これらの疲労レベルのそれぞれと上述した程度レベルの1つとの間のマトリックスBの形態に、同様に割り当てることができる。このマトリックスBは、程度レベルの数と予め定められた疲労レベルの数とを掛けた積から計算された、マトリックス要素の総数を含む。運転の不注意の事象について、3つの程度レベル、「低い」、「中程度」、及び「高い」がある場合は、上述した3つの疲労レベルにより、マトリックスBについて、3×3=9の、条件付き確率の総数が生じる。例示として、これらの確率の1つは、第1の疲労レベル内の確率モデルが「覚醒している」場合に、発生する「高い」程度レベル内の、運転の不注意の事象について確率がどのぐらい高いかを示している。これらの条件付き確率は、適宜、構成され得る。
ステップS5で、決定された確率ベクトルOn=1、及び計算されたマトリックスBを用いると、方法ステップS6で、疲労確率ベクトルS’を決定することが可能となり、その要素は、予め定められ好適に選択された疲労レベルに個々に関連付けられた、車両を運転中の運転者による、検出された不注意の確率P(疲労レベル)を表している。疲労確率ベクトルS’は、以下の数式(5)を用いて計算される。
S’(t)=O ・B (5)、
ここで、
n=1は、第1の確率ベクトルの転置を表し、
は、指数1で表されている、運転の不注意について検出された指示子についてのマトリックスBを表す。
疲労確率ベクトルS’を計算するための、前述した数式(5)は、指示子(n=1)として、ステアリング角xの評価のみに基づくという欠点を有する。図5に示されている指示子2(たとえば瞼を閉じる頻度)又は指示子3(たとえば反応時間)などの、疲労についての他の可能な観測可能な結果は、上記疲労確率ベクトルを計算するための数式5には含まれていない。
しかし、これらの指示子2、3、及びさらなる好適な指示子n、たとえば車両の偏揺れ角を用いて、前方を走行している車両からの距離又は車線から離れる距離を、測定できる場合には、より正確な疲労確率ベクトルS’’を計算することも可能である。次いで、前述した方法ステップS4及びS5を、それぞれ、指示子n=1として観測されたステアリング角についてだけでなく、瞼を閉じる動作(n=2)及び/又は反応時間(n=3)などのさらなる所望の指示子についても、別個に実施しなければならない(方法ステップS5a)。次いで、方法ステップS4中に、程度レベルのk(k=1・・・K)の個々の数を、それぞれの指示子nについて個々に定義しなければならない。次いで、程度レベルkのこの数は、それぞれ、各指示子に関連付けられた確率ベクトルO内の要素の数に対応する。これらの要素Oknはそれぞれ、他の不注意の指示子n=2・・・Nについての確率値P(U)が、運転の不注意n=1に加えて、これらの指示子について個々に予め定められ好適に選択された程度レベルkにおいて発生するという、確率P(Okn)を表している。
次いで、対応するマトリックスBはまた、方法ステップS5に対応して、これらのさらなる指示子nについても、再び個々に予め定めることができる。次いで、正確な疲労確率ベクトルS’’が、次いでステップS6で、利用可能となるデータに基づいて、以下の数式(6)を用いて計算される。
ここで、
nは、運転者による不注意についてのn番目の指示子を表し、
は、ベクトルOのk番目の要素、又は指示子nについてのk番目の程度レベルを表し、
は、確率ベクトルの転置を表し、
は、個々の予め定められた疲労レベルと指示子nで示された不注意の事象との間の、条件付き確率のマトリックスを表し、
Nは、使用される指示子の数を表す。
疲労確率ベクトルSを計算するため、これまでに記述した2つの変形形態においては、検出された不注意の事象の重大度のみが、最も可能性の高い実際の疲労レベルまで追跡されたが、これは、検出された運転についての不注意の事象に基づくか、又は瞼を閉じる動作の増加若しくは反応時間の短縮などの、さらに検出された事象に基づくものである。観測された不注意から、このような不注意の原因として存在する疲労レベルまでの、このような追跡プロセスのさらなる詳細が、不注意の事象の重大度だけでなく、前の時間間隔において判断された最も可能性の高い疲労レベルも勘案することによって、得られる。このことにより、一度不注意の事象が検出されるか、又は初めて検出されても、このことのみによって、直ちに、疲労レベルが高いという結論に至るものではないことが確実となる。基本的に、疲労は、突然発生するものではなく、一定時間に渡って徐々に増加していく現象であるので、このことは、実際の疲労特性と矛盾はない。
したがって、上述し、また図5に記述した3つの疲労レベルの場合においては、ある疲労レベルから別の疲労レベルへの変化には、異なる条件付き確率が設けられる。これらの条件付き確率は、確率モデルの構造において、マトリックスAの形態で、好適に予め定められることが好ましい。マトリックスAにおける条件付き確率は、特に、たとえば疲労レベル1「覚醒している」から疲労レベル3「疲労困憊している」への直接的な遷移が、レベル1からレベル2「疲れている」への直接的な遷移と比べて、かなり可能性が低いという事実を表すことを意図しており、ここで、レベル2は、レベル1と比較して、運転者の注意という点における初期の悪影響を識別することができる。マトリックスAを構成する場合においても、疲労困憊状態から覚醒状態への遷移と同様に、覚醒状態からかなりの疲労状態への遷移が、異なる条件付き確率で起きるという事を、考慮すべきである。
次いで、前の時間帯で判断された最も可能性の高い疲労レベルも勘案することにより、再び、この方法で、より正確に行われた疲労確率ベクトルS’’’が、ステップS7で、以下の帰納的な数式(7)を用いて計算される。
S’’’(t)=S’’(t)・A・S’’’(t−1) (7)、
ここで、
S’’(t)は、前の時間間隔において判断された、最も可能性の高い疲労レベルを考慮していない、精確な疲労ベクトルS’’を表し、
Aは、最も直近の時間間隔における疲労レベルと現在の疲労レベルとの間の条件付き確率のマトリックスを表し、
S’’’(t−1)は、時間帯t−1における、精確な疲労ベクトルS’’’を表す。
第3の変形形態として、S’’’(0)=(1、0、0)の初期値を使用して、数式(7)を用いて、精確な疲労確率ベクトルS’’’の帰納計算を開始することが推奨される。
言い換えれば、数式(7)を用いて、疲労確率ベクトルS’’’を精確に計算することにより、疲労ベクトルが一定時間に渡って平滑化され、及び/又は初めて識別された不注意の事象から直ちに、検出されたこの不注意の事象についての最も可能性の高い原因であると想定される、疲労レベルにおいて、突然の変化に至ることが防止される。特に、マトリックスAを好適に構成することにより、逆に、非常に高い疲労レベルが、この直前に検出された不注意の可能性についての高い原因であると判断された場合は、突然検出された運転者による高度な注意から、直ちに低い疲労レベルに至ることはないことが確実となる。
これまでに記載した方法は、検出された運転の不注意に基づいて、そして、任意に、運転者による不注意についてのさらなる指示子にも基づいて、検出された不注意の原因として、一定の疲労レベルを推論するという目的を常に有していた。このことは、図7にグラフ形式で再び示されており、ここで、矢印は原因から結果へと指している。しかし、図7の矢印の方向はまた、この矢印が基づくモデルによれば、疲労が、直ちに、指示子2、つまり瞼を閉じる動作、及び指示子3、つまり短くなった反応時間の、唯一の原因となるが、検出された運転の不注意についてのただ1つの原因である必要はないことも示している。実際には、疲労に加えて又は疲労の代わりに、運転者の一時的な注意散漫も、検出された運転者の運転の不注意についての原因であり得る。注意散漫の理由は、たとえば、助手席の同乗者との会話、又は車両内のラジオやダッシュボードの小物入れなどの制御要素を操作することであり得る。上述した不注意の事象又は指示子に加えて、注意散漫について考えられ得る原因が、マイクロフォン112やカメラ114などの好適なセンサを用いて、さらに検出された(図1参照)場合は、これらの検出された事象を、確率モデルを用いて評価し、運転者が、たとえば会話をしていたり又は制御装置を操作していたことにより、注意散漫となり得る確率についての報告を行うことができ、、観測された不注意の原因である疲労の確率を想定することができる。
第1の例示的実施形態の変形形態の1つによって、検出された運転者の不注意は、最後に、誤差基準、特にそれぞれ好適に予め定められた閾値と比較され、この比較結果に基づいて、運転者に警告信号を出力する(図3aに示されている方法ステップS8)。
第2の例示的実施形態
本発明による方法の第2の例示的実施形態は、実際のところ、基本的に第1の例示的実施形態とは独立したものであるが、第1の例示的実施形態の個々の方法ステップと同一の個々の方法ステップを有する。第1の例示的実施形態と第2の例示的実施形態との間の1つの基本的な相違点は、第1の例示的実施形態においては、ハンドル動作LAの識別、及びハンドル静止段階の程度とハンドル動作の程度との間の、論理演算結果の計算が、分散比の計算の形態において一致することである。これに対して、第2の例示的実施形態においては、ハンドル静止段階LRだけでなく、その後のハンドル動作LA、及びこれらの2段階の程度についての本発明による論理的な連係も、それぞれ、別個の方法ステップとして、別個に実施することができるという利点を有する。これについては、図3a、図3b、及び図3cを参照しながら、以下の文中で、より詳細に記載する。
第2の例示的実施形態においては、図3aに示されているように、開始ステップS0の後、まず、車両のステアリングホイールのハンドル動作を検出する。つまり、ステアリング角xの形態で、運転者のハンドル操作を検出する(方法ステップS1)。この段階においては、第1の例示的実施形態と第2の例示的実施形態とは、まだ一致している。第2の例示的実施形態については、図3aに示されている方法ステップS2がこの後に続くことはないが、この方法では、記号Aを介して図3bに分岐するのに対し、ハンドル静止段階の程度が、まず、方法ステップS2/2で判断される。ハンドル静止段階の程度とは、具体的には、その持続時間である。ハンドル静止段階は、車両のステアリング角が予め定められたステアリング角の範囲Δx内にある限り、存在する(図2参照)。次いで、この状況が続いている時間帯が、ハンドル静止段階LRの程度を表している。
次いで、検出されたハンドル静止段階に続くハンドル動作の程度が、方法ステップS3/2で検出される。このために、次いで発生するステアリング角の最大勾配が、判断される。図2には、一度ステアリング角が、ステアリング角の範囲Δxを外れた後、この勾配がどのように発生するかが、ステアリング角の勾配の形態で示されている。
次いで、ハンドル静止段階の程度とハンドル動作の程度とは、方法ステップS4/2で、多次元演算子を用いて互いに連係される。多次元演算子は、特性曲線である、重み関数又は論理関数であり得る。次いで、このように多次元演算子を使用した結果は、車両を運転中の運転者の不注意の重大度についての好適な測度を表している。しかし、上述した2つの程度の論理の連係は、この前に行われるステップS2/2又はS3/2で、時間帯の形態で表されるハンドル静止段階の程度が、予め定められた最小の時間帯より大きく、かつステアリング角の最大勾配が、予め定められた勾配閾値より大きいことが発見された時にのみ、行われることが好ましい。そうでない場合は、ハンドル静止段階の程度及びハンドル動作の程度は、本発明による方法に従って、これらが組み合わさって存在している結果として、運転者の不注意を推論できるようにするために、断固として十分に断言されるものであるとはみなされない。
多次元演算子は、車両の現在の速度に基づいて、及び/又は車両の運転者の運転スタイルの動力学に基づいて、定められることが好ましい。具体的には、つまり、検出された、ハンドル静止段階の程度及びハンドル動作の程度を評価する際に、低い車両速度と比べて、高い車両速度の方が、ハンドル動作が一般に少ないという事を考慮する。運転者の運転スタイルと合致させることにより、たとえばラリーの運転者によって、故意に行われる慌しいハンドル動作を、前に検出された想定されるハンドル静止段階と合わせて、運転者の不注意であると誤って解釈されることが防止される。
第2の例示的実施形態に従って、方法ステップS4/2で判断された論理演算結果を、さらに様々な方法で評価し、処理することができる。
第1の選択肢は、たとえばシグモイド関数を用いて、これを正規化することである。この選択肢は、図3bの記号Bに示されており、これは、図3aの方法ステップS3の入力部に分岐する。次いで、方法ステップS3だけでなく、図3aを参照しながら上述した、さらなる方法ステップS4〜S8のすべてを実施することも可能である。
方法ステップS4/2で得られた論理演算結果を、さらに処理するための第2の選択肢は、実際のところ、再び、方法ステップS3で、シグモイド関数を用いる正規化のプロセスを含むが、次いで、評価プロセスが、方法ステップS4に従って、さらに続行することはなく、図3aの記号Cに示されているように、さらなる処理は、図3cに示されている方法ステップS9において続行する。このステップは、第1の例示的実施形態に従ってステップS2で、又は第2の例示的実施形態に従ってステップS4/2で行われるかどうかに係わらず、既に実施された論理演算結果の計算を、予め定められた測定時間間隔中に、1回よりも多く実施すべきであることを示している。全測定時間間隔に渡って、異なる時間ti(i=1−I)において、論理演算結果を繰り返して計算することにより、多数の論理演算結果が生じ、測定時間間隔の最後に利用可能となることが好ましい。これらの論理演算結果は、(既に記載したように)方法ステップS3の出力部から出ることが好ましい。何故なら、次いで正規形となるからである。しかし、この代わりに、方法ステップS2及びS4/2で、直接得られた論理演算結果を、方法ステップS9で、直接収集し、格納することもできる。次いで、これらの論理演算結果は、方法ステップS10で、重み係数をこれらの結果のそれぞれに割り当てることにより、個々に重み付けされる。これらの重み係数は、それぞれ、論理演算結果が関係する時間の、車両の各運転状況又は運転者の現在の注意散漫を表している。
次いで、最後に、重み付けされた論理演算結果が、方法ステップS11で、測定時間間隔中に得られた論理演算結果の、数学的に、好ましくは算術演算的に、重み付けされた平均化により、これらに関連付けられた重み係数を勘案して、計算される。
重み係数は、一日のある時間、つまり24時間周期で影響を与える因子及び/又は走行を開始してからの時間を勘案して定義される。論理演算の重み付けされた結果は、車両を運転中の運転者の不注意の重大度についての、特に比較的簡単かつ速い、非常に信頼性の高い測度を提供する。次いで、このように論理演算を平均化した結果は、方法ステップS8で、記号Dを介し、図3aと合わせて図3cの誤差基準に従い、運転者のための警告信号を生成するために、評価されることが好ましい。それぞれ、個々の重み係数で重み付けされた、最も最近のx分において計算された論理演算結果のすべての合計が、予め定められた閾値を超えた時に、誤差基準が満たされる。
ステップS9〜S11を用いて、第2の例示的実施形態に従う方法ステップS4/2で得られた論理演算結果をさらに処理するため、上述した第2の選択肢も、第1の例示的実施形態に従う方法ステップS2で得られた論理演算結果と同様に、適切である。
ステップS2から又はステップS4/2からの論理演算結果を、さらに処理するための第3の選択肢は、ステップS4〜S7及びS9〜S11を、時間的に平行して実施することが好ましい。
本発明による方法の2つの例示的実施形態は、これらの変形形態のすべてにおいて、少なくとも1つのコンピュータプログラムの形態で実施されることが好ましい。必要な場合には、上記コンピュータプログラムは、さらなるコンピュータプログラムと共に、データ記憶媒体内に格納されることがある。データ記憶媒体は、フロッピーディスク、コンパクトディスク、いわゆるフラッシュメモリなどであり得る。データ記憶媒体内に格納されたコンピュータプログラムは、顧客に製品として販売することができる。データ記憶媒体の形態で転送する代わりに、通信ネットワーク、特にインターネットを介して伝送することも可能である。
本発明によるコントローラを示す図である。 本発明に従って、運転者の不注意が発生した時の、ステアリング角xのプロファイルの例を示す図である。 第1の例示的実施形態に基づく本発明による方法の手順を示す図である。 図3aと合わせて、第2の例示的実施形態に基づく本発明による方法の手順を示す図である。 図3a、図3bと合わせて、第2の例示的実施形態に基づく本発明による方法の手順を示す図である。 シグモイド関数を示す図である。 第1の特性要因図を示す図である。 運転者による不注意を表す確率値が発生する、様々な程度レベルのガウス分布を示す図である。 第2の特性要因図を示す図である。
符号の説明
100 コントローラ
110 ステアリング角センサ
112 マイクロフォン
114 カメラ
120 制御装置
122 コンピュータプログラム
130 警告装置

Claims (22)

  1. 車両の運転者の不注意を識別する方法であり、
    ステアリング角xの形態で、前記車両のハンドルの動きを検出するステップ(方法ステップS1)と、
    前記検出されたステアリング角及びその変化率のうちの少なくとも一方を評価することにより、ハンドルの静止段階を識別し、前記ハンドルの静止段階の程度の大きさを判断するステップであり、該ハンドル静止段階の程度を、前記ステアリング角が予め定められたステアリング角間隔(Δx)内に留まっている間の時間帯として判断するものであるステップと、
    前記ハンドルの静止段階に続いてハンドル動作を識別し、前記ステアリング角及びその変化率のうちの少なくとも一方を評価することにより前記ハンドル動作の程度の大きさを判断するステップであり、前記ハンドル動作の程度を次いで発生する前記ステアリング角の最大勾配の形態で判断するものであるステップと、
    前記ハンドルの静止段階の程度と前記ハンドル動作の程度との間の結合の結果を求めるステップであり、前記結合が多次元演算子によって作られ、その演算子が少なくともハンドルの静止段階の程度の大きさとハンドル動作の程度の大きさとを含むものであるステップと、
    前記ハンドルの静止段階の程度と前記ハンドル動作の程度との間の結合の結果を評価することにより、前記車両を運転中の運転者による不注意の重大度についての測度を判断するステップと、
    によって特徴づけられる運転者の不注意を識別する方法。
  2. 前記ステアリング角間隔が、前記車両の現在の速度に基づいて予め定められることを特徴とする請求項に記載の方法。
  3. 前記ハンドルの静止段階の程度と前記ハンドル動作の程度との間の結合が、該時間帯の形態の前記ハンドルの静止段階の程度が予め定められた最小時間帯より大きく、前記ステアリング角の最大勾配が予め定められた勾配閾値を超えた場合にのみ、多次元演算子によって作られることを特徴とする請求項1または2に記載の方法。
  4. 前記多次元演算子が、特性の群である重み関数又は論理決定関数を表すことを特徴とする請求項1ないし3のいずれか一項に記載の方法。
  5. 前記多次元演算子の大きさが、前記車両の速度及び/又は前記車両の運転者の運転スタイルの動力学に基づいて決められることを特徴とする請求項1ないし4のいずれか一項に記載の方法。
  6. 論理演算の結果が、前記多次元演算子の形態で前記車両を運転中の前記運転者による不注意を表す、0%〜100%の確率値P(U)にマップされるステップ(方法ステップS3)をさらに備えることを特徴とする請求項1ないし5のいずれか一項に記載の方法。
  7. 論理演算の結果が、前記多次元演算子の形態で、シグモイド関数を用いて前記車両を運転中の前記運転者による不注意を表す、0%〜100%の確率値P(U)にマップされることを特徴とする請求項に記載の方法。
  8. さらに、前記運転者の疲労の査定のための、
    第1の確率ベクトルOn=1を判断するステップであって、その要素On=1,k1が、それぞれ、個々の予め定められて選択された程度レベルk(ここで、k∈{1・・・K})において発生する確率値P(U)についての、確率値P(O1,k1)を表し(方法ステップS4)と、
    疲労確率ベクトルS’判断するステップであって、その要素が、それぞれ、以下の式(5)
    (ここで、
    は、前記第1の確率ベクトルの転置を表し、
    は、指示子n=1によって表される、運転の不注意に関して予め定められた条件付き確率を表すマトリックスBを表し、
    は、指示子n=1についての程度レベルの数を表す)
    を使用して、個々の予め定められて選択された疲労レベルに関連付けられた、前記車両を運転中に検出された前記運転者による不注意の確率P(疲労レベル)を表す、疲労確率ベクトルS’を判断するステップと、
    によって特徴づけられる請求項6または7に記載の方法。
  9. さらなる確率ベクトルOn=2・・・On=Nを判断するステップをさらに含み、その要素On,kn(ここで、kn=1・・・K)が、それぞれ、前記運転の不注意n=1に加えて、前記運転者についての他の不注意の指示子n=2・・・Nについて、不注意の指示子について個々に予め定められた個々の程度レベルk において発生する確率値P(U)についての、確率P(On,kn)を表すステップと、
    次いで、前記疲労確率ベクトルS’’が、以下の式(6)
    (ここで、
    は、前記運転者による不注意についてのn番目の指示子を表し、
    は、前記さらなる確率ベクトルの転置を表し、
    は、前記指示子nのマトリックスBを表し、
    Nは、指示子の数を表す)
    を使用して計算されるステップ(方法ステップS6)と、
    によって特徴づけられる請求項に記載の方法。
  10. 他の不注意指示子n2・・・Nが眼瞼を閉じる行動及び/又は反応時間に関する指示子を含むことを特徴とする請求項に記載の方法。
  11. 前記疲労確率ベクトルS’’’(t−1)の格納と、
    以下の式(7)
    S’’’(t)=S’(t)・A・S’’’(t−1) (7)
    (ここで、Aは、前回の時間ステップからの疲労レベルと現在の疲労レベルとの間の条件付き確率のマトリックスを表す)
    を使用して正確な疲労確率ベクトルS’’’(t)の計算(方法ステップS7)と、
    によって特徴づけられる請求項に記載の方法。
  12. 前記疲労確率ベクトルS’’’(t−1)の格納と、
    以下の式(7)
    S’’’(t)=S’’(t)・A・S’’’(t−1) (7)
    (ここで、Aは、前回の時間ステップからの疲労レベルと現在の疲労レベルとの間の条件付き確率のマトリックスを表す)
    を使用して正確な疲労確率ベクトルS’’’(t)の計算(方法ステップS7)と、
    によって特徴づけられる請求項9または10に記載の方法。
  13. 前記運転者による、運転の不注意及び不注意についての任意のさらなる指示子に加えて、前記方法は、前記運転者が会話をしているか又は制御要素を使用しているかどうかを判断し、該検出された事象が、前記会話又は前記制御動作に基づいて、前記運転者が注意散漫であり、運転者の疲労の確率が前記観察された不注意の原因であると想定され得る確率についての報告を行うために、前記確率モデルを用いて評価されることを特徴とする請求項9ないし12のいずれか一項に記載の方法。
  14. 制御要素を使用しているかどうかの判断は、前記車両内のラジオ又はグローブコンパートメントを操作しているかどうか判断を含むことを特徴とする請求項13に記載の方法。
  15. 前記論理演算が、予め定められた測定時間間隔中の異なる時間ti(ここで、i=1−I)に行われるステップと、
    前記時間tiに関する前記論理演算の結果が、それぞれ前記時間tiに関係する、前記車両の運転情況又は前記運転者の現在の注意散漫を表す前記関連付けられた重み係数と共に、それぞれ格納されるステップと、
    − 前記論理演算の重み付けされた結果が、これらに関連付けられた前記重み係数を考慮して、前記測定時間間隔中に格納された前記結果の、数学的な平均化によって計算されるステップと、
    によって特徴づけられる請求項3〜7のいずれか一項に記載の方法。
  16. 24時間周期で影響を与える因子及び/又は走行が開始してからの時間を考慮して、前記重み係数が計算されることを特徴とする請求項15に記載の方法。
  17. 前記重み付けされた結果が、予め定められた閾値を超えた時に、前記車両の運転者に、情報出力することを含む請求項15あるいは16に記載の方法。
  18. 前記情報、聴覚的又は可視的な警告メッセージである請求項17に記載の方法。
  19. 車両の運転者による不注意の識別のためのコントローラ用のプログラムコードを有するコンピュータプログラム(122)であって、
    前記プログラムコードが、請求項1〜1のいずれか一項に記載の方法を実行するよう設計されることを特徴とするコンピュータプログラム(122)。
  20. 請求項19に記載の前記コンピュータプログラムを格納することによって特徴づけられるデータ記憶媒体。
  21. 車両の前記運転者による不注意の識別用のコントローラ(100)であって、
    前記車両の現在のステアリング角を検出するためのステアリング角センサ(110)と、
    前記検出されたステアリング角に応答して請求項1〜1のいずれか一項に記載の方法を実施するための、制御装置(120)
    前記方法を実施している場合に、不注意が発見された時に、前記運転者に聴覚的及び/又は視覚的な警告情報を出力するための警告装置(130)とを備えたコントローラ(100)。
  22. 前記警告装置(130)は、運転者の疲労が発見された時に、警告情報を出力する請求項21に記載のコントローラ(100)。
JP2006540272A 2003-11-26 2004-11-13 車両の運転者による不注意を識別する方法及びコンピュータプログラム Active JP4825132B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE10355221.9 2003-11-26
DE10355221A DE10355221A1 (de) 2003-11-26 2003-11-26 Verfahren und Computerprogramm zum Erkennen von Unaufmerksamkeiten des Fahrers eines Fahrzeugs
PCT/EP2004/012888 WO2005059857A1 (de) 2003-11-26 2004-11-13 Verfahren und computerprogramm zum erkennen von unaufmerksamkeiten des fahrers eines fahrzeugs

Publications (2)

Publication Number Publication Date
JP2007514467A JP2007514467A (ja) 2007-06-07
JP4825132B2 true JP4825132B2 (ja) 2011-11-30

Family

ID=34530314

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2006540272A Active JP4825132B2 (ja) 2003-11-26 2004-11-13 車両の運転者による不注意を識別する方法及びコンピュータプログラム
JP2004339749A Pending JP2005158077A (ja) 2003-11-26 2004-11-25 車両の運転者による不注意を識別する方法及びコンピュータプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2004339749A Pending JP2005158077A (ja) 2003-11-26 2004-11-25 車両の運転者による不注意を識別する方法及びコンピュータプログラム

Country Status (6)

Country Link
US (2) US8035496B2 (ja)
EP (2) EP1687788B1 (ja)
JP (2) JP4825132B2 (ja)
DE (3) DE10355221A1 (ja)
ES (2) ES2300844T3 (ja)
WO (1) WO2005059857A1 (ja)

Families Citing this family (63)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10355221A1 (de) * 2003-11-26 2005-06-23 Daimlerchrysler Ag Verfahren und Computerprogramm zum Erkennen von Unaufmerksamkeiten des Fahrers eines Fahrzeugs
DE102004039305A1 (de) * 2004-08-12 2006-03-09 Bayerische Motoren Werke Ag Vorrichtung zur Auswertung der Aufmerksamkeit eines Fahrers bei einem Kollisionsvermeidungssystem in Kraftfahrzeugen
DE102005026456B4 (de) * 2005-06-09 2017-04-20 Daimler Ag Verfahren zur Müdigkeitserkennung
DE102005026479B4 (de) * 2005-06-09 2017-04-20 Daimler Ag Verfahren zur Unaufmerksamkeitserkennung in Abhängigkeit von mindestens einem fahrerindividuellen Parameter
SE0601146L (sv) * 2006-05-23 2007-10-16 Vibsec Ab Metod och system för övervakning av manuell styrning av dynamiska system
JP2008040787A (ja) * 2006-08-07 2008-02-21 Sense It Smart Corp 疲労管理システム、疲労管理方法、及びプログラム
DE102006051930B4 (de) * 2006-11-03 2017-04-06 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerzustandserkennung
DE102006056094A1 (de) * 2006-11-28 2008-05-29 Robert Bosch Gmbh Fahrerassistenzsystem mit Anwesenheitsüberwachung
US7880621B2 (en) * 2006-12-22 2011-02-01 Toyota Motor Engineering & Manufacturing North America, Inc. Distraction estimator
DE102006060849A1 (de) 2006-12-22 2008-07-03 Daimler Ag Verfahren zur Ermittlung eines Fahrerzustands
JP4518083B2 (ja) * 2007-01-29 2010-08-04 株式会社デンソー 覚醒維持装置
JP4492652B2 (ja) * 2007-07-26 2010-06-30 トヨタ自動車株式会社 眠気状態判断装置
EP2040235A1 (en) * 2007-09-20 2009-03-25 Khaled M. Al-Rasheed Apparatus for determining alertness of a driver steering a vehicle
JP5311793B2 (ja) * 2007-10-16 2013-10-09 トヨタ自動車株式会社 脇見状態判定装置
US8489284B2 (en) * 2008-08-21 2013-07-16 International Business Machines Corporation Automated dynamic vehicle blind spot determination
DE102008042342A1 (de) 2008-09-25 2010-04-01 Robert Bosch Gmbh Verfahren und Steuergerät zur Beurteilung der Aufmerksamkeit eines Fahrers
DE102008056593B4 (de) 2008-11-10 2014-05-22 Daimler Ag Warnstrategie
DE102009004487A1 (de) 2009-01-09 2010-07-15 Daimler Ag Verfahren zur Müdigkeitserkennung eines Fahrers
DE102009009468A1 (de) 2009-02-18 2009-10-29 Daimler Ag Vorrichtung zur Erzeugung eines Warn- oder Wecksignals für einen Fahrer
JP5444898B2 (ja) * 2009-07-09 2014-03-19 アイシン精機株式会社 状態検出装置、状態検出方法及びプログラム
US8489253B2 (en) * 2009-09-30 2013-07-16 Honda Motor Co., Ltd. Driver state assessment device
FR2954744B1 (fr) * 2009-12-28 2012-01-06 Continental Automotive France Procede de determination d'un parametre representatif de l'etat de vigilance d'un conducteur de vehicule
FR2954745B1 (fr) * 2009-12-30 2012-01-06 Continental Automotive France Procede de determination d'un parametre representatif de l'etat de vigilance d'un conducteur de vehicule
DE102010030173B4 (de) * 2010-06-16 2023-02-23 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Fahrerzustandserkennung
US8825304B2 (en) * 2010-06-30 2014-09-02 Microsoft Corporation Mediation of tasks based on assessments of competing cognitive loads and needs
KR101163081B1 (ko) 2010-11-01 2012-07-05 재단법인대구경북과학기술원 운전 부주의 분류시스템
US9542847B2 (en) 2011-02-16 2017-01-10 Toyota Motor Engineering & Manufacturing North America, Inc. Lane departure warning/assistance method and system having a threshold adjusted based on driver impairment determination using pupil size and driving patterns
US20120206252A1 (en) * 2011-02-16 2012-08-16 Toyota Motor Engineering & Manufacturing North America, Inc. Lane departure warning system
US9292471B2 (en) 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US8698639B2 (en) 2011-02-18 2014-04-15 Honda Motor Co., Ltd. System and method for responding to driver behavior
EP2497670B1 (en) * 2011-03-11 2015-07-01 Johnson Controls Automotive Electronics GmbH Method and apparatus for monitoring the alertness of the driver of a vehicle
DE102011108305A1 (de) 2011-07-21 2012-03-22 Daimler Ag Verfahren und Vorrichtung zur Ermittlung von Müdigkeit und/oder Unachtsamkeit eines Fahrers eines Fahrzeugs
EP2564765B1 (en) * 2011-09-02 2017-12-13 Volvo Car Corporation System and method for improving a performance estimation of an operator of a vehicle
DE102011114655A1 (de) * 2011-09-30 2013-04-04 Daimler Ag Verfahren und Vorrichtung zum Erkennen einesAufmerksamkeitsdefizits eines Fahrers einesFahrzeuges
DE102011122414A1 (de) * 2011-12-24 2013-06-27 Volkswagen Ag Verfahren zum Erzeugen und Auslösen einer Pausenempfehlung
CN104334430A (zh) * 2012-05-23 2015-02-04 丰田自动车株式会社 驾驶支援控制装置
EP2885151B1 (en) * 2012-08-14 2022-10-12 Volvo Lastvagnar AB Method for determining the operational state of a driver
DE102012017477A1 (de) 2012-09-04 2013-03-21 Daimler Ag Verfahren zur Überwachung eines Fahrerzustandes eines Fahrers eines Fahrzeuges
DE102012020713A1 (de) 2012-10-23 2014-04-24 Volkswagen Aktiengesellschaft Verfahren zur Beurteilung der Ablenkung eines Fahrers eines Fahrzeugs
DE102013000203B4 (de) 2013-01-08 2023-06-29 Conti Temic Microelectronic Gmbh Verfahren zur Ermittlung einer Art einer Lenkbewegung und Verfahren zur Überwachung eines Fahrerzustandes
KR102017884B1 (ko) * 2013-02-06 2019-10-22 한국전자통신연구원 운전자 집중도 분석 장치 및 방법
US9751534B2 (en) 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US10499856B2 (en) 2013-04-06 2019-12-10 Honda Motor Co., Ltd. System and method for biological signal processing with highly auto-correlated carrier sequences
FI124068B (en) * 2013-05-03 2014-02-28 Jyvaeskylaen Yliopisto Procedure for improving driving safety
DE102013013869B4 (de) * 2013-08-20 2019-06-19 Audi Ag Verfahren zum Betrieb eines Fahrerassistenzsystems zur Warnung vor zu großer Ablenkung und Kraftfahrzeug
DE102013021139B4 (de) 2013-12-13 2019-01-31 Audi Ag Kraftfahrzeug mit Spurhalteassistenz bei Verreißen des Lenkrads
US9990552B2 (en) 2014-09-21 2018-06-05 Progress Rail Locomotive Inc. Operator fatigue monitoring system
US10493996B2 (en) 2014-09-22 2019-12-03 Future Technology Partners, Llc Method and system for impaired driving detection, monitoring and accident prevention with driving habits
US20170132016A1 (en) * 2015-03-13 2017-05-11 Project Ray Ltd. System and method for adapting the user-interface to the user attention and driving conditions
US9778654B2 (en) 2016-02-24 2017-10-03 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for advanced resting time suggestion
EP3219256A1 (en) * 2016-03-18 2017-09-20 Valeo Comfort and Driving Assistance A method for determining a vigilance state of a driver of a vehicle
US9826500B1 (en) * 2016-05-11 2017-11-21 International Business Machines Corporation Preventing driver distraction from incoming notifications
US10163018B1 (en) * 2016-06-14 2018-12-25 State Farm Mutual Automobile Insurance Company Apparatuses, systems, and methods for inferring a driving enviroment based on vehicle occupant actions
JP6946351B2 (ja) * 2017-01-19 2021-10-06 ソニーセミコンダクタソリューションズ株式会社 車両制御装置及び車両制御方法
JP6977589B2 (ja) * 2018-01-31 2021-12-08 株式会社デンソー 車両用警報装置
US10227039B1 (en) * 2018-02-19 2019-03-12 Delphi Technologies, Llc Warning system
US10513270B2 (en) * 2018-05-04 2019-12-24 Ford Global Technologies, Llc Determining vehicle driving behavior
US11365975B2 (en) * 2018-09-27 2022-06-21 Honda Motor Co., Ltd. Visual confirmation system for driver assist system
DE102019204892A1 (de) 2019-04-05 2020-10-08 Robert Bosch Gmbh Verfahren und Steuergerät zum Erkennen einer Müdigkeit eines Fahrers für ein Fahrassistenzsystem für ein Fahrzeug
CN110525456B (zh) * 2019-08-07 2020-11-24 北京全路通信信号研究设计院集团有限公司 一种列车安全驾驶监测系统及方法
US11008018B1 (en) * 2020-03-25 2021-05-18 Toyota Research Institute, Inc. Risk prediction on a peer-to-peer network
CN115996666A (zh) * 2020-09-11 2023-04-21 哈曼贝克自动系统股份有限公司 用于确定认知需求的系统和方法
WO2023113246A1 (ko) * 2021-12-15 2023-06-22 숭실대학교산학협력단 움직임 보정을 통한 운전자 호흡수 추출 장치 및 그 방법

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5823713Y2 (ja) * 1979-02-23 1983-05-20 日産自動車株式会社 居眠り運転検出装置
JPS6076426A (ja) * 1983-09-30 1985-04-30 Nissan Motor Co Ltd 居眠り運転検出装置
JPS6234215A (ja) * 1985-08-07 1987-02-14 Hino Motors Ltd ギア・チェンジ・レバ−・ユニット
JPS6234212A (ja) * 1985-08-07 1987-02-14 Matsushita Electric Ind Co Ltd 採暖装置
JPH04122242A (ja) * 1990-09-12 1992-04-22 Mazda Motor Corp 覚醒状態判定装置
JPH04274935A (ja) * 1991-02-28 1992-09-30 Toyota Central Res & Dev Lab Inc 車両の操作量決定装置
JPH0793678A (ja) * 1993-09-20 1995-04-07 Nissan Motor Co Ltd 居眠り運転検出装置
WO2003049967A1 (de) * 2001-12-12 2003-06-19 Deutsche Telekom Ag Verfahren und vorrichtung zur erkennung des schläfrigkeitszustandes von führern bewegter objekte
JP2005158077A (ja) * 2003-11-26 2005-06-16 Daimler Chrysler Ag 車両の運転者による不注意を識別する方法及びコンピュータプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2546345A1 (de) 1975-10-16 1977-04-28 Alfred Ing Grad Fortmann Fahrerwarngeraet
JPS59153627A (ja) * 1983-02-18 1984-09-01 Nissan Motor Co Ltd 居眠り運転警報装置
JPS59153625A (ja) 1983-02-18 1984-09-01 Nissan Motor Co Ltd 居眠り運転検出装置
JP2830475B2 (ja) 1993-12-28 1998-12-02 三菱自動車工業株式会社 居眠り運転警報装置
DE4480341B4 (de) 1993-12-28 2005-05-25 Mitsubishi Fuso Truck And Bus Corp. Sicherheitsfahrsystem
US6405132B1 (en) * 1997-10-22 2002-06-11 Intelligent Technologies International, Inc. Accident avoidance system
JPH0951697A (ja) * 1995-08-08 1997-02-18 Denso Corp 車両用発電装置
US6061610A (en) * 1997-10-31 2000-05-09 Nissan Technical Center North America, Inc. Method and apparatus for determining workload of motor vehicle driver
DE19818239A1 (de) 1998-04-23 1999-10-28 Volkswagen Ag Vorrichtung zur Einschlafwarnung eines Kraftfahrzeugführers
JP4432196B2 (ja) 2000-03-24 2010-03-17 日産自動車株式会社 車両用運転操作監視装置
DE10103401A1 (de) * 2001-01-26 2002-08-01 Daimler Chrysler Ag Gefahrenabwendungssystem für ein Fahrzeug
JP2002225586A (ja) 2001-02-05 2002-08-14 Nissan Motor Co Ltd 車両の安全運転度記録装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5823713Y2 (ja) * 1979-02-23 1983-05-20 日産自動車株式会社 居眠り運転検出装置
JPS6076426A (ja) * 1983-09-30 1985-04-30 Nissan Motor Co Ltd 居眠り運転検出装置
JPS6234215A (ja) * 1985-08-07 1987-02-14 Hino Motors Ltd ギア・チェンジ・レバ−・ユニット
JPS6234212A (ja) * 1985-08-07 1987-02-14 Matsushita Electric Ind Co Ltd 採暖装置
JPH04122242A (ja) * 1990-09-12 1992-04-22 Mazda Motor Corp 覚醒状態判定装置
JPH04274935A (ja) * 1991-02-28 1992-09-30 Toyota Central Res & Dev Lab Inc 車両の操作量決定装置
JPH0793678A (ja) * 1993-09-20 1995-04-07 Nissan Motor Co Ltd 居眠り運転検出装置
WO2003049967A1 (de) * 2001-12-12 2003-06-19 Deutsche Telekom Ag Verfahren und vorrichtung zur erkennung des schläfrigkeitszustandes von führern bewegter objekte
JP2005525142A (ja) * 2001-12-12 2005-08-25 ドイッチェ テレコム アーゲー 移動物体の運転者の居眠り状態を識別する方法と装置
JP2005158077A (ja) * 2003-11-26 2005-06-16 Daimler Chrysler Ag 車両の運転者による不注意を識別する方法及びコンピュータプログラム

Also Published As

Publication number Publication date
DE10355221A1 (de) 2005-06-23
US7283056B2 (en) 2007-10-16
ES2300844T3 (es) 2008-06-16
DE502004009303D1 (de) 2009-05-20
JP2005158077A (ja) 2005-06-16
EP1548678B1 (de) 2009-04-08
ES2321293T3 (es) 2009-06-04
EP1548678A1 (de) 2005-06-29
WO2005059857A1 (de) 2005-06-30
EP1687788B1 (de) 2008-03-05
US20090115589A1 (en) 2009-05-07
DE502004006438D1 (de) 2008-04-17
JP2007514467A (ja) 2007-06-07
EP1687788A1 (de) 2006-08-09
US8035496B2 (en) 2011-10-11
US20050128092A1 (en) 2005-06-16

Similar Documents

Publication Publication Date Title
JP4825132B2 (ja) 車両の運転者による不注意を識別する方法及びコンピュータプログラム
JP5081815B2 (ja) 疲労を検出する方法及び装置
US8742936B2 (en) Method and control device for recognising inattentiveness according to at least one parameter which is specific to a driver
US10322728B1 (en) Method for distress and road rage detection
US7394393B2 (en) Adaptive driver workload estimator
US7912796B2 (en) System and method for real-time recognition of driving patterns
JP5081816B2 (ja) 車両の運転者の不注意を、運転者の特性に合わせて検出する方法及び制御ユニット
JP4529394B2 (ja) ドライバの車両運転特性推定装置
JP4164095B2 (ja) ドライバ支援方法および装置
JP2013539572A (ja) 運転者インタフェースタスクを管理する方法、及び、車両
JP2009157606A (ja) ドライバ状態推定装置及びプログラム
JP5691237B2 (ja) 運転支援装置
US10740634B1 (en) Detection of decline in concentration based on anomaly detection
WO2018048407A1 (en) Methods and apparatus to monitor an activity level of a driver
JP2021056983A (ja) 車両can bus信号を利用した機械学習基盤運転者異常感知方法および装置
JP2009175929A (ja) ドライバ状態推定装置及びプログラム
US10077055B2 (en) System and method for determining the information transfer rate between a driver and vehicle
JP4486897B2 (ja) 運転行動認識装置
JP5781904B2 (ja) 車内情報提供装置および方法
KR20150066308A (ko) 운전자 운행 상태 판단 장치 및 그 방법
Ponomarev et al. Adaptation and personalization in driver assistance systems
JP2009154675A (ja) ドライバ状態推定装置及びプログラム
CN117734655B (zh) 实时制动踏板力提示方法、装置、电子设备、存储介质
JP7509656B2 (ja) 運転適正状態判定装置及び運転適正状態判定プログラム
WANG et al. APPLICATION OF SUPPORT VECTOR MACHINE IN LANE CHANGE RECOGNITION.

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070710

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070720

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070710

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101117

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110217

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110315

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110316

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110308

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110830

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110909

R150 Certificate of patent or registration of utility model

Ref document number: 4825132

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140916

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250