JP2010044493A - 行動推定装置、プログラム - Google Patents
行動推定装置、プログラム Download PDFInfo
- Publication number
- JP2010044493A JP2010044493A JP2008206868A JP2008206868A JP2010044493A JP 2010044493 A JP2010044493 A JP 2010044493A JP 2008206868 A JP2008206868 A JP 2008206868A JP 2008206868 A JP2008206868 A JP 2008206868A JP 2010044493 A JP2010044493 A JP 2010044493A
- Authority
- JP
- Japan
- Prior art keywords
- behavior
- action
- reliability
- model
- estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】本発明は、行動推定装置において、誤検出である場合に安全制御の実行を低減可能とすること。
【解決手段】行動推定システムでは、推定行動検出処理を実行することにより、撮影画像から検出した検出特徴点を行動推定モデルそれぞれと照合し、一致度合いが最も高い行動推定モデルに対応する特定行動を推定行動として検出する(S130)。そして、画像処理プロセッサに入力される操作信号(即ち、確定行動の検出結果)、及び推定行動の検出結果に基づいて、モデル信頼度算出処理により算出されたモデル信頼度が規定閾値よりも低ければ(S150:NO)、推定行動検出処理での安全制御処理の実行を禁止する(S180:NO)。つまり、行動推定システムでは、自車両の運転者に対して行動推定モデルが合致しなければ、即ち、モデル信頼度が低いほど、安全制御処理の実行を制限している。
【選択図】図2
【解決手段】行動推定システムでは、推定行動検出処理を実行することにより、撮影画像から検出した検出特徴点を行動推定モデルそれぞれと照合し、一致度合いが最も高い行動推定モデルに対応する特定行動を推定行動として検出する(S130)。そして、画像処理プロセッサに入力される操作信号(即ち、確定行動の検出結果)、及び推定行動の検出結果に基づいて、モデル信頼度算出処理により算出されたモデル信頼度が規定閾値よりも低ければ(S150:NO)、推定行動検出処理での安全制御処理の実行を禁止する(S180:NO)。つまり、行動推定システムでは、自車両の運転者に対して行動推定モデルが合致しなければ、即ち、モデル信頼度が低いほど、安全制御処理の実行を制限している。
【選択図】図2
Description
本発明は、移動体の乗員が実行する行動を推定する行動推定装置、及びその行動推定装置を構成する各手段としてコンピュータを機能させるためのプログラムに関する。
従来より、車両に搭載され、車両の乗員が実行する行動を推定する行動推定装置が知られている(特許文献1参照)。
この特許文献1に記載の行動推定装置は、運転者を含む画像を撮影する撮影装置と、撮影装置で撮影された画像(以下、撮影画像とする)に基づき、運転中の運転者が実行すると危険な行動(以下、特定行動とする)の一つである携帯電話の使用の有無(以下、この携帯電話を使用する行動を電話使用行動とする)を判定する画像処理装置とを備えている。そして、この画像処理装置では、電話使用行動中の運転者の手が位置する可能性の高い領域である規定領域を撮影画像中の顔面の周辺に設定し、その規定領域に、撮影画像中の手が設定時間以上位置し続ける場合に、電話使用行動を運転者が実行中であるものと判定している。
この特許文献1に記載の行動推定装置は、運転者を含む画像を撮影する撮影装置と、撮影装置で撮影された画像(以下、撮影画像とする)に基づき、運転中の運転者が実行すると危険な行動(以下、特定行動とする)の一つである携帯電話の使用の有無(以下、この携帯電話を使用する行動を電話使用行動とする)を判定する画像処理装置とを備えている。そして、この画像処理装置では、電話使用行動中の運転者の手が位置する可能性の高い領域である規定領域を撮影画像中の顔面の周辺に設定し、その規定領域に、撮影画像中の手が設定時間以上位置し続ける場合に、電話使用行動を運転者が実行中であるものと判定している。
ところで、特定行動としては、電話使用行動の他に、ステアリングから手を離してエアコンディショナーやナビゲーション装置を操作する行動、または、ステアリングから手を離して肩や腕を回す行動などが考えられる。
しかしながら、特許文献1に記載の行動推定装置では、撮影画像中の手の位置から電話使用行動が実行されているか否かを判定しているに過ぎないため、電話使用行動以外の特定行動(以下、一般特定行動)を運転者が実行していたとしても、警報を発する等の車両を安全に走行させるための安全制御を実行することができなかった。
これに対し、本願発明者は、特定行動の実行時に得られる特徴点(例えば、人物の手首や、肘)の軌跡をモデル化した行動推定モデルを、全ての特定行動について用意し、これらの行動推定モデルそれぞれと、撮影画像から検出した特徴点の軌跡とを照合し、その適合度合いに応じて、運転者が実行している特定行動を検出する画像処理装置を備えた行動推定装置を提案している(特願2007−203111号)。
なお、本願発明者が提案した装置(以下、従来行動推定装置とする)では、特定行動を運転者が実行していることを検出すると、安全制御を実行するようになされている。
特開2005−205943号公報
ところで、行動推定モデルは、通常、大多数の人物に合致するように作成されるものの、特定行動の実行の仕方には個人差がある。このため、中には、行動推定モデルが合致しない人物がおり、このような人物が特定行動を実行しても、その特定行動を正しく検出できない、例えば、実行している行動を他の特定行動として認識したり、特定行動を実行していないにもかかわらず、実行しているものとして認識する等の誤検出の可能性があった。
しかし、従来行動推定装置では、このように特定行動を誤検出したとしても、安全制御を実行してしまうため、その安全制御が不必要なものとなり、使用者に煩わしさを感じさせてしまうという問題があった。
つまり、従来行動推定装置では、誤検出であるにも拘わらず安全制御を実行してしまうという問題があった。
そこで、本発明は、行動推定装置において、誤検出である場合に安全制御の実行を低減可能とすることを目的とする。
そこで、本発明は、行動推定装置において、誤検出である場合に安全制御の実行を低減可能とすることを目的とする。
上記目的を達成するためになされた本発明は、移動体に搭載され、乗員の行動を推定する行動推定装置である。
そして、本発明の行動推定装置は、撮影画像取得手段が、乗員が撮影された撮影画像を繰り返し取得し、特徴点検出手段が、撮影画像取得手段で撮影画像が取得される毎に、その撮影画像に写り込んだ乗員の特徴点の位置である検出特徴点を検出する。ただし、特徴点とは、乗員の身体上に予め設定された少なくとも一つのポイント(例えば、手首、肘、肩)である。
そして、本発明の行動推定装置は、撮影画像取得手段が、乗員が撮影された撮影画像を繰り返し取得し、特徴点検出手段が、撮影画像取得手段で撮影画像が取得される毎に、その撮影画像に写り込んだ乗員の特徴点の位置である検出特徴点を検出する。ただし、特徴点とは、乗員の身体上に予め設定された少なくとも一つのポイント(例えば、手首、肘、肩)である。
さらに、行動推定モデル格納手段が、乗員が実行する可能性のある特定行動毎に予め生成され、その特定行動を実行する時の特徴点の軌跡からなる行動推定モデルを格納すると共に、推定行動検出手段が、検出特徴点の軌跡を行動推定モデルそれぞれと照合し、最も適合率の高い行動推定モデルに対応する特定行動を推定行動として検出して、その検出された推定行動に応じて、安全制御手段が、移動体が安全に操縦されるようにするための安全制御を実行する。
また、確定行動検出手段が、特定行動の中で予め規定された少なくとも一つの特定行動である確定行動候補の中で、乗員が確実に実施した特定行動である確定行動を検出し、信頼度導出手段が、確定行動検出手段及び推定行動検出手段での検出結果に基づいて、行動推定モデル格納手段に格納されている行動推定モデルの乗員に対する適合度合いを表すモデル信頼度を導出すると共に、安全制御制限手段が、モデル信頼度が低いほど、安全制御手段での安全制御の実行に制限を加える。
つまり、このように構成された本発明の行動推定装置では、行動推定装置を使用している乗員に対して行動推定モデルが合致しなければ、即ち、モデル信頼度が低いほど、安全制御の実行を制限する。
このため、本発明の行動推定装置によれば、検出される推定行動が誤検出であるにも拘わらず安全制御が実行されることを低減できる。したがって、本発明の行動推定装置によれば、不必要な安全制御が実行されることで、当該行動推定装置の使用者(即ち、乗員)に煩わしさを感じさせてしまうことを抑制できる。
この結果、本発明の行動推定装置によれば、移動体の操縦に集中させることができ、移動体をより安全に移動させることができる。
また、移動体内に搭載された操作機器を操作する行動を確定行動候補とした場合、本発明の行動推定装置における確定行動検出手段は、請求項2に記載のように、操作機器が操作されたことを表す操作信号を、操作信号取得手段が取得すると共に、その取得した操作信号から確定行動を検出するように構成されていることが望ましい。
また、移動体内に搭載された操作機器を操作する行動を確定行動候補とした場合、本発明の行動推定装置における確定行動検出手段は、請求項2に記載のように、操作機器が操作されたことを表す操作信号を、操作信号取得手段が取得すると共に、その取得した操作信号から確定行動を検出するように構成されていることが望ましい。
なお、移動体として自動車を想定した場合、ステアリングや、シフトレバー、グローブボックス、コンソールボックス、ナビゲーション装置、空調装置などが操作機器として考えられる。
さらに、本発明の行動推定装置における安全制御制限手段は、請求項3に記載のように、モデル信頼度が規定値未満あれば、安全制御手段による安全制御の実行を禁止するように構成されていても良い。
このように構成された本発明の行動推定装置によれば、推定行動を誤検出する頻度が高ければ、安全制御の実行そのものを禁止するため、乗員に煩わしさを感じさせることをより確実に低減できる。
ところで、本発明の行動推定装置における信頼度導出手段は、請求項4に記載のように、確定行動が検出された期間である確定行動検出期間と、推定行動検出手段にて、確定行動と同一の特定行動を推定行動として検出した期間である推定行動検出期間との割合を、モデル信頼度として導出するように構成されていても良い。
つまり、本発明の行動推定装置において、モデル信頼度とは、確定行動と推定行動との一致期間の割合であることが望ましい。ただし、モデル信頼度は、これに限るものではなく、連続する一定期間内において、同一である特定行動を確定行動及び推定行動の両方として検出した頻度(例えば、回数の比)であっても良い。
なお、モデル信頼度を、確定行動と推定行動との一致期間の割合とした場合、本発明の行動推定装置における信頼度導出手段は、請求項5に記載のように、確定行動検出期間内に、確定行動と同一の特定行動を推定行動として検出した期間を、推定行動検出期間とするように構成されていることが望ましい。
このように構成された行動推定装置において、請求項2に記載の操作機器の操作(以下、操作行動とする)を確定行動として検出すれば、確定行動として検出可能な特定行動に対応する行動推定モデルのモデル信頼度は、操作行動の検出期間(即ち、確定行動検出期間)にて、その操作行動と同じ特定行動を推定行動として検出した期間(即ち、推定行動検出期間)を除したもの(即ち、モデル信頼度=推定行動検出期間÷確定行動検出期間)であっても良い。
なお、ここでいう確定行動検出期間、及び推定行動検出期間は、確定行動や推定行動を検出していた時間(時刻)の他に、それらの行動を検出した回数を含むものである。
また、本発明の行動推定装置における信頼度算出手段は、請求項4、5に記載のようにモデル信頼度を導出する場合、そのモデル信頼度を、全行動推定モデルに対して共通するものとして導出しても良いし、請求項6に記載のように、確定行動として検出可能な特定行動に対応する行動推定モデルのみについてのもの(即ち、確定行動信頼度)として導出しても良い。
また、本発明の行動推定装置における信頼度算出手段は、請求項4、5に記載のようにモデル信頼度を導出する場合、そのモデル信頼度を、全行動推定モデルに対して共通するものとして導出しても良いし、請求項6に記載のように、確定行動として検出可能な特定行動に対応する行動推定モデルのみについてのもの(即ち、確定行動信頼度)として導出しても良い。
さらに、本発明の行動推定装置における信頼度導出手段は、請求項7に記載のように、モデル信頼度を、確定行動候補以外の特定行動に対応する行動推定モデルに対するもの(即ち、非確定行動信頼度)として導出するように構成されていても良い。
ただし、このように(請求項7に記載のように)構成された信頼度導出手段では、確定行動信頼度と非確定行動信頼度との予め求められた対応関係に基づいて、確定行動信頼度を用いて、非確定行動信頼度を算出するように構成されている必要がある。
また、本発明の行動推定装置における信頼度導出手段は、請求項8に記載のように、特定行動毎にそれぞれに対応する行動推定モデルのモデル信頼度を導出するように構成されていても良い。
このように構成された本発明の行動推定装置では、各特定行動毎にそれぞれに対応する行動推定モデルのモデル信頼度を導出するため、対応するモデル信頼度が低い特定行動を推定行動(以下、低信頼度行動とする)として検出した場合にのみ、安全制御の実行を制限し、低信頼度行動以外の特定行動を推定行動として検出した場合には、安全制御を実行する。
このため、本発明の行動推定装置によれば、乗員が実行した特定行動が誤検出された場合に、安全制御が実行されることをより確実に防止できると共に、乗員が実行した特定行動が正しく検出された場合には、安全制御を確実に実行することができる。
また、特定行動のうち、乗員が実行すると移動体の操縦に悪影響を及ぼす可能性のある行動を危険行動とした場合、本発明の行動推定装置における安全制御手段は、請求項9に記載のように、推定行動が危険行動であれば、その危険行動を中止すべき旨を報知することを安全制御として実行するように構成されていることが望ましい。
このように構成された本発明の行動推定装置によれば、危険行動を中止するように促すため、移動体をより安全に操縦させることができる。
なお、本発明は、請求項10に記載のように、請求項1ないし請求項9のいずれかに記載された行動推定装置を構成する各手段として、コンピュータを機能させるためのプログラムとしてなされたものであっても良い。
なお、本発明は、請求項10に記載のように、請求項1ないし請求項9のいずれかに記載された行動推定装置を構成する各手段として、コンピュータを機能させるためのプログラムとしてなされたものであっても良い。
このようなプログラムであれば、例えば、DVD−ROM、CD−ROM、ハードディスク等のコンピュータ読み取り可能な記録媒体に記録し、必要に応じてコンピュータにロードさせて起動することにより用いることができる。
以下に本発明の実施形態を図面と共に説明する。
図1は、本発明が適用され、自動車に搭載された行動推定システムの概略構成を示したブロック図である。なお、以下では、行動推定システム1が搭載された車両を自車両と称す。
図1は、本発明が適用され、自動車に搭載された行動推定システムの概略構成を示したブロック図である。なお、以下では、行動推定システム1が搭載された車両を自車両と称す。
この行動推定システム1は、自車両の運転者が実行する可能性のある予め規定された複数の行動(以下、これらの複数の行動をまとめて特定行動群と称し、この特定行動群のうちの各行動を特定行動と称す)の中から、自車両の乗員が実行している可能性が最も高い特定行動(以下、推定行動とする)を検出し、検出結果に応じて、自車両を安全に走行させるための安全制御を実行するものである。
ただし、本実施形態においては、特定行動として、自車両に搭載された操作機器群の中から一つの操作機器を運転者が操作する(もしくは、操作しようとする)車載機器操作行動や、自車両に持ち込まれた物品を使用している(もしくは、使用しようとする)持込品操作行動、特定の部位が繰り返し動かされる繰返行動等が規定されている。
〈全体構成〉
これを実現するために、行動推定システム1は、少なくとも運転者を被写体とした画像(以下、撮影画像とする)を撮影する撮影装置15と、自車両に搭載された複数の装置からなる制御対象装置群20と、撮影装置15での撮影画像を画像処理することで推定行動を検出し、その検出した推定行動に従って制御対象装置群20を制御する画像処理プロセッサ10とを備えている。
〈全体構成〉
これを実現するために、行動推定システム1は、少なくとも運転者を被写体とした画像(以下、撮影画像とする)を撮影する撮影装置15と、自車両に搭載された複数の装置からなる制御対象装置群20と、撮影装置15での撮影画像を画像処理することで推定行動を検出し、その検出した推定行動に従って制御対象装置群20を制御する画像処理プロセッサ10とを備えている。
このうち、撮影装置15は、予め規定された時間間隔で撮影した撮影画像を画像処理プロセッサ10に繰り返し出力するように構成された周知のデジタルカメラである。その撮影装置15は、少なくとも運転席に着座している運転者の上半身(即ち、運転者の頭部、両腕、両手、及び胴体等)、助手席のシート(乗員が着座していれば、その乗員の上半身)、及び操作機器群が撮影画像に収められるように、車室内へとレンズを向けた上で、自車両の天板(または、フロントガラス)に突設されたルームミラーの付け根付近に配置されている。
また、制御対象装置群20は、周知の経路案内等を行うナビゲーション装置21と、自車両に搭載された空気調和装置(いわゆるエアコンディショナー)を制御する空調制御装置22と、自車両に備えられたシートベルトを巻き取るシートベルト巻上装置23と、ブレーキ機構にて発生する制動力を制御するブレーキ制御装置24と、パワートレイン機構にて出力する駆動力を制御するパワートレイン制御装置25とを備えている。
ナビゲーション装置21は、自車両の現在位置を検出する現在位置検出器と、地図データを格納する地図データ格納部と、音声を出力するスピーカと、画像を表示するモニタと、使用者からの指示を入力するための指示入力部(例えば、メカニカルなボタンやタッチパネル、以下、ナビ指示入力部とする)と、周知のマイクロコンピュータを中心に構成され、ナビ指示入力部を介して入力された指示に従って、周知の現在位置表示処理、経路設定処理、経路案内処理等を実行すると共に、画像処理プロセッサ10からの制御指令に従って、スピーカ、及びモニタを制御する制御装置とを少なくとも備えている。
また、空調制御装置22は、使用者の指示を入力するための指示入力部(例えば、メカニカルなボタンやタッチパネル、以下、AC指示入力部とする)を少なくとも備え、そのAC指示入力部を介して入力された指示に従って、空気調和装置を制御すると共に、画像処理プロセッサ10からの制御指令に従って、空気調和装置から運転者に冷風を吹き付ける冷風送気制御を実行するように構成されている。
さらに、シートベルト巻上装置23は、画像処理プロセッサ10からの制御指令に従って、運転席側のシートベルトを巻き取り、シートベルトの拘束力を増加させるように構成されている。
さらに、ブレーキ制御装置24は、画像処理プロセッサ10からの制御指令に従って、ブレーキ油圧回路に備えられた増圧制御弁・減圧制御弁を開閉するブレーキアクチュエータを制御するように構成されている。
そして、パワートレイン制御装置25は、画像処理プロセッサ10からの制御指令に従って、内燃機関のスロットル開度を調整するスロットルアクチュエータや、トランスミッションの出力トルクを調整するトランスミッション制御装置を制御するように構成されている。
〈画像処理プロセッサについて〉
次に、画像処理プロセッサについて説明する。
画像処理プロセッサ10は、処理プログラム等を記憶すると共に、電源が切断されたとしても、記憶内容を保持可能であり、さらに、記憶内容を書き換え可能なメモリ(例えば、フラッシュメモリ、以下、単にメモリととする)10aと、データを一時的に格納するRAM10bと、メモリ10aまたはRAM10bに格納された処理プログラムに従って各種処理を実行するCPU10cとを少なくとも有した周知のマイクロコンピュータを中心に構成されている。
次に、画像処理プロセッサについて説明する。
画像処理プロセッサ10は、処理プログラム等を記憶すると共に、電源が切断されたとしても、記憶内容を保持可能であり、さらに、記憶内容を書き換え可能なメモリ(例えば、フラッシュメモリ、以下、単にメモリととする)10aと、データを一時的に格納するRAM10bと、メモリ10aまたはRAM10bに格納された処理プログラムに従って各種処理を実行するCPU10cとを少なくとも有した周知のマイクロコンピュータを中心に構成されている。
そして、画像処理プロセッサ10は、操作機器群の中から規定された操作機器(以下、規定操作機器とする)が操作されていることを検出するように構成されている。
ただし、本実施形態における操作機器群には、自車両に備えられているルームミラーや、助手席のシート、空気調和装置の吹き出し口(いわゆる左右のブロワ)、ナビ指示入力部、AC指示入力部、ステアリング、シフトレバー、物品を収納するためのグローブボックス(以下、GBとする)、コンソールボックス(以下、CBとする)が少なくとも設定されている。このうち、ナビ指示入力部、AC指示入力部、ステアリング、シフトレバー、GB、CBが規定操作機器として設定されている。
ただし、本実施形態における操作機器群には、自車両に備えられているルームミラーや、助手席のシート、空気調和装置の吹き出し口(いわゆる左右のブロワ)、ナビ指示入力部、AC指示入力部、ステアリング、シフトレバー、物品を収納するためのグローブボックス(以下、GBとする)、コンソールボックス(以下、CBとする)が少なくとも設定されている。このうち、ナビ指示入力部、AC指示入力部、ステアリング、シフトレバー、GB、CBが規定操作機器として設定されている。
したがって、操作機器群(ステアリング、シフトレバー)が操作されていることを検出するために、本実施形態の画像処理プロセッサ10には、図1に示すように、ステアリングが操作されたことを検出するためのステアリング操作検知センサ31と、シフトレバーが操作されたことを検出するためのシフトレバー操作検知センサ32とが接続されている。
そして、ステアリング操作検知センサ31は、ステアリングにおいて左右の手それぞれで把持される部位それぞれに埋め込まれた電極を検出電極として、ステアリングが把持されている時に操作信号(以下、ステアリング操作信号とする)を画像処理プロセッサ10に出力する。また、シフトレバー操作検知センサ32は、シフトレバーにおいて把持される部位に埋め込まれた電極を検出電極として、シフトレバーが把持されている時に操作信号(以下、レバー操作信号とする)が画像処理プロセッサ10に出力する。
これらセンサ31,32からの操作信号に従って、画像処理プロセッサ10は、ステアリング操作信号が入力されている場合、運転者がステアリングを操作中であることを検出し、レバー操作信号が入力されている場合、運転者がシフトレバーを操作中であることを検出する。
また、規定操作機器(GB、CB)が操作されていることを検出するために、本実施形態の画像処理プロセッサ10には、図1に示すように、GBの開閉を検知するGB開閉検知センサ33と、CBの開閉を検知するCB開閉検知センサ34とが接続されている。これらセンサ33,34からの操作信号(即ち、各センサ33,34からの電気信号)に従って、画像処理プロセッサ10は、GBが開かれている場合、GBが操作中であることを検出し、CBが開かれている場合、CBが操作中であることを検出する。なお、ここでいうGB開閉検知センサ33、及びCB開閉検知センサ34は、GB,CB内それぞれに取り付けられた電灯を点灯するために、GBまたはCBが開かれると通電するスイッチ等、GBまたはCBの開閉を直接的に検知するものが望ましい。
さらに、本実施形態の画像処理プロセッサ10は、ナビ指示入力部、及びAC指示入力部を介した指示が入力されるように構成されている。これにより、画像処理プロセッサ10は、ナビ指示入力部を介した指示を操作信号(以下、ナビ操作信号とする)として受け付けた場合、運転者がナビゲーション装置21を操作中であることを検出し、AC指示入力部を介した指示を操作信号(以下、AC操作信号とする)として受け付けた場合、運転者が空気調和装置を操作中であることを検出する。
〈メモリに記憶されたプログラムなどについて〉
次に、メモリ10aに格納されている処理プログラム等について説明する。
〈メモリに記憶されたプログラムなどについて〉
次に、メモリ10aに格納されている処理プログラム等について説明する。
このメモリ10aには、撮影装置15からの撮影画像を順次画像処理することにより、特定行動群の中から推定行動を検出して、安全制御を行う行動推定処理をCPU10cに実行させるための処理プログラムが格納されている。
さらに、メモリ10aには、行動推定処理を実行するときに参照される(即ち、行動推定処理の実行に必要な)特徴点リストと、行動推定モデル群とが格納されている。
このうち、特徴点リストは、撮影画像に写り込んだ運転者から、予め人物の身体上に設定された特徴点を検出するためのものであり、人体の腕部に設定された特徴点を検出するための腕部リストと、人体の頭部(より正確には顔面)に設定された特徴点を検出するための頭部リストとを少なくとも備えている。
このうち、特徴点リストは、撮影画像に写り込んだ運転者から、予め人物の身体上に設定された特徴点を検出するためのものであり、人体の腕部に設定された特徴点を検出するための腕部リストと、人体の頭部(より正確には顔面)に設定された特徴点を検出するための頭部リストとを少なくとも備えている。
そして、腕部リストには、図5に示すように、人体の右肩(図中、d1),左肩(d4),右ひじ(d2),左ひじ(d5),右手首(d3),左手首(d6)が特徴点として少なくとも設定されている。
さらに、頭部リストには、図6(A)に示すように、顔面の鼻(f1)を検出し、その鼻を中心とした顔面領域を抽出するための顔面検出テンプレートと、図6(B)に示すように、顔面の右目頭(図中,fr3),左目頭(fl3),右目尻(fr2),左目尻(fl2),右口角(fr4),左口角(fl4),右耳珠点(fr5),左耳珠点(fl5)が特徴点として少なくとも設定された顔面特徴点検出テンプレートとが含まれている。
〈行動推定モデル群について〉
次に、行動推定モデル群について説明する。
〈行動推定モデル群について〉
次に、行動推定モデル群について説明する。
メモリ10aに格納された行動推定モデル群は、撮影画像から検出した特徴点(以下、検出特徴点とする)の位置に基づいて、推定行動を検出するためのものであり、車載機器操作行動推定モデル群と、持込品操作行動推定モデル群と、繰返行動推定モデル群とから構成されている。ただし、行動推定モデル群は、特定行動毎に予め設定された行動推定モデルからなる。
このうち、車載機器操作行動推定モデル群は、操作機器(即ち、操作機器群のうちの1つ)を運転者が継続して操作している行動(以下、操作継続行動とする)を推定行動として検出するための行動推定モデル(以下、操作継続行動推定モデルとする)と、1つの操作機器から他の操作機器へと運転者が手等を移動させる行動(以下、遷移行動とする)を推定行動として検出するための行動推定モデル(以下、遷移行動推定モデル)とを備えている。
そして、操作継続行動推定モデルそれぞれは、操作機器の操作中に停留する各特徴点の位置を、各操作機器毎にモデル化したものである。そして、遷移行動推定モデルそれぞれは、移動を開始した時の各特徴点の位置(即ち、開始位置)と、移動を終了した時の各特徴点の位置(即ち、終了位置)と、開始位置から終了位置への各特徴点の移動経路(即ち、軌跡)とを、開始位置及び終了位置の組合せ毎にモデル化したものである。
また、持込品操作行動推定モデル群は、各持込品操作行動毎に設定された行動推定モデル(以下、持込品操作行動推定モデルとする)からなる。そして、各持込品操作行動推定モデルは、持込品操作行動を実行した運転者の各特徴点が帰着する位置(以下、目標地点とする)と、持込品操作行動を実行したとみなせる運転者の各特徴点が位置する領域(以下、帰着領域とする)と、その持込品操作行動を実行しようとする運転者の各特徴点が通過する領域(以下、通過領域とする)と、その持込品操作行動を実行しようとする運転者の各特徴点が通過領域内を通過する時の方向の範囲(以下、検出許容範囲とする)とが設定されている。
なお、本実施形態における持込品操作行動としては、左右いずれかの耳に左右いずれかの手で物(例えば、携帯電話等)をあてがう行動(以下、電話使用行動とする)、左右いずれかの手で口に物(例えば、煙草や、飲食物)をあてがう行動(以下、飲食行動とする)が規定されている。さらに、持込品操作行動としては、左右いずれかの手で左右いずれかの肩をマッサージする行動、左右いずれかの手で左右いずれかの上腕をマッサージする行動、左右いずれかの手で左右いずれかの前腕をマッサージする行動(以下、これらをマッサージ行動とする)が規定されている。
また、繰返行動推定モデル群は、各繰返行動毎に設定された行動推定モデル(以下、繰返行動推定モデルとする)からなる。そして、各繰返行動推定モデルは、繰返行動を実行中である運転者の連続的に変化する各特徴点が位置する複数の地点(以下、特定点とする)と、各特定点毎に設けられ、それぞれの特定点を中心に、繰返行動を実行中である運転者の各特徴点が位置する可能性のある領域(以下、許容領域とする)とが設定されている。
なお、本実施形態における繰返行動としては、左右いずれかの肩を回す肩回し行動、左右いずれかの腕を回す腕回し行動等が規定されている。
ところで、メモリ10aには、メモリ10aに格納されている各行動推定モデルの運転者に対する適合度合いを表すモデル信頼度を算出する信頼度算出処理をCPU10cが実行するための処理プログラムが格納されている。
ところで、メモリ10aには、メモリ10aに格納されている各行動推定モデルの運転者に対する適合度合いを表すモデル信頼度を算出する信頼度算出処理をCPU10cが実行するための処理プログラムが格納されている。
つまり、画像処理プロセッサ10は、撮影画像から検出した特徴点を、行動推定モデルと照合することで推定行動を検出すると共に、行動推定モデルの運転者に対する適合度合いを表すモデル信頼度を算出する。
〈行動推定処理〉
次に、CPU10cが実行する行動推定処理について説明する。
〈行動推定処理〉
次に、CPU10cが実行する行動推定処理について説明する。
ここで、図2は、行動推定処理の処理手順を説明するためのフローチャートである。
この行動推定処理は、画像処理プロセッサ10が起動されると(本実施形態では、イグニッション信号がオンされた時)、実行が開始されるものである。
この行動推定処理は、画像処理プロセッサ10が起動されると(本実施形態では、イグニッション信号がオンされた時)、実行が開始されるものである。
そして、図2に示すように、行動推定処理が開始されると、まずS110では、撮影装置15で撮影した撮影画像を取得する。続く、S120では、S110で取得した撮影画像に特徴点リストを照合することで、撮影画像に写り込んだ運転者の全特徴点を抽出し、抽出した全特徴点をRAM10bの所定領域に格納する。
ただし、所定領域は、S120で抽出した全特徴点を、最新のものから少なくとも所定数N(Nは自然数、ここでは、30とする)格納可能なように設定されている。
なお、この特徴点を抽出する処理については、腕部リストに設定された特徴点を抽出するのであれば、例えば、特開2003−109015号に、頭部リストに設定された特徴点を抽出するのであれば、例えば、特開平09−270010号に記載のように周知の技術であるため、ここでの詳しい説明は省略する。
なお、この特徴点を抽出する処理については、腕部リストに設定された特徴点を抽出するのであれば、例えば、特開2003−109015号に、頭部リストに設定された特徴点を抽出するのであれば、例えば、特開平09−270010号に記載のように周知の技術であるため、ここでの詳しい説明は省略する。
さらに、S130では、S120にて抽出した特徴点と、メモリ10aに格納されている行動推定モデルそれぞれとを照合し、推定行動を検出する推定行動検出処理を実行する。
続く、S140では、S130の推定行動検出処理で検出した推定行動と、その推定行動を検出した時刻とを対応付けた推定行動情報を生成し、その推定行動情報をRAM10bの予め規定された規定領域に格納する。
すなわち、本実施形態では、図7に示すように、特定行動それぞれ(即ち、行動内容)について示したテーブルをRAM10bに用意し、S130(即ち、推定行動検出処理)で推定行動を検出した時刻を、そのテーブルの該当する特定行動に書き込むことによって、推定行動情報を生成、格納する。したがって、本実施形態における推定行動情報は、少なくとも、運転者が実行したであろう特定行動それぞれ(即ち、検出した推定行動それぞれ)の開始時刻、及び終了時刻が示されたものとなる。
そして、S145では、信頼度算出処理(詳しくは、後述)で算出され、RAM10bに格納されているモデル信頼度の中から、S130の推定行動検出処理で検出した推定行動に対応する行動推定モデル(以下、該当モデルとする)のモデル信頼度を取得する。
続く、S150では、S145で取得した該当モデルのモデル信頼度が、予め規定された規定閾値以上であるか否かを判定し、判定の結果、該当モデルのモデル信頼度が規定閾値未満であれば、即ち、自車両を運転している運転者に該当モデルが適合していなければ、S160へと進む。
そのS160では、安全制御実行フラグをローレベルに設定して、S180へと進む。
一方、S150での判定の結果、該当モデルのモデル信頼度が規定閾値以上であれば、即ち、自車両を運転している運転者に該当モデルが適合していれば、S170へと進む。
一方、S150での判定の結果、該当モデルのモデル信頼度が規定閾値以上であれば、即ち、自車両を運転している運転者に該当モデルが適合していれば、S170へと進む。
そのS170では、安全制御実行フラグをハイレベルに設定して、S180へと進む。
なお、安全制御実行フラグは、後述する安全制御処理の実行を許可するか否かを決定するためのフラグであり、ハイレベルであれば安全制御処理の実行を許可し、ローレベルであれば安全制御処理の実行を禁止するものである。
なお、安全制御実行フラグは、後述する安全制御処理の実行を許可するか否かを決定するためのフラグであり、ハイレベルであれば安全制御処理の実行を許可し、ローレベルであれば安全制御処理の実行を禁止するものである。
そして、S180では、安全制御実行フラグがハイレベルであるか否かを判定し、判定の結果、安全制御実行フラグがローレベルであれば、S110へと戻り、安全制御実行フラグがハイレベルであれば、S190へと進む。
そのS190では、S130の推定行動検出処理で検出した推定行動に応じて、自車両を安全に走行させるための安全制御処理を実行する。
具体的に、本実施形態の安全制御処理では、S130の推定行動検出処理で検出した推定行動が、予め規定された特定行動である危険行動であれば、現在実行している行動(即ち、危険行動)を中止すべき旨を、ナビゲーション装置21のスピーカーから音声にて出力し、ナビゲーション装置21のモニタに表示させる。
具体的に、本実施形態の安全制御処理では、S130の推定行動検出処理で検出した推定行動が、予め規定された特定行動である危険行動であれば、現在実行している行動(即ち、危険行動)を中止すべき旨を、ナビゲーション装置21のスピーカーから音声にて出力し、ナビゲーション装置21のモニタに表示させる。
なお、本実施形態における危険行動は、自車両の運転に危険を及ぼす可能性のある特定行動であり、具体的には、電話使用行動や、飲食行動、助手席のシートを操作する操作行動、ルームミラーを操作する操作行動、GBを操作する操作行動、CBを操作する操作行動などが規定されている。
そして、その後、S110へと戻り、S110からS190を繰り返す。
〈推定行動検出処理〉
次に、行動推定処理のS130にて実行される推定行動検出処理について説明する。
〈推定行動検出処理〉
次に、行動推定処理のS130にて実行される推定行動検出処理について説明する。
ここで、図3は、推定行動検出処理の処理手順を示したフローチャートである。
図3に示すように、推定行動検出処理は、実行されると、まず、S510にて、車載機器操作行動モデル群、持込品操作行動モデル群、繰返行動モデル群の中から、検出特徴点と照合する行動モデル群(以下、照合対象とする)を一つ選択する。
図3に示すように、推定行動検出処理は、実行されると、まず、S510にて、車載機器操作行動モデル群、持込品操作行動モデル群、繰返行動モデル群の中から、検出特徴点と照合する行動モデル群(以下、照合対象とする)を一つ選択する。
本実施形態では、推定行動検出処理が起動された直後であれば、車載機器操作行動モデル群を選択し、次に、S510へと進んだ場合、持込品操作行動モデル群を選択し、その後、S510へと進んだ場合、繰返行動モデル群を選択するようになされている。
続くS520では、S510にて選択された照合対象が、車載機器操作行動モデル群、持込品操作行動モデル群、繰返行動モデル群のいずれであるかを判定する。
そして、S520での判定の結果、車載機器操作行動モデル群であれば、S540へと進む。
そして、S520での判定の結果、車載機器操作行動モデル群であれば、S540へと進む。
そのS540では、車載機器操作行動モデル群の行動推定モデルそれぞれに、検出特徴点を照合して、予め規定された第一規定条件を満たす行動推定モデルに対応する特定行動を推定行動候補として検出する車載機器操作行動モデル照合処理を実行する。
具体的に、本実施形態の車載機器操作行動モデル照合処理では、検出特徴点の軌跡と、各行動推定モデル中の軌跡とのなす角度(以下、判定角度とする)のうち、最も小さい角度が予め規定された規定角度以下である行動推定モデルを、第一規定条件を満たす(即ち、一致度合いが最も高い)ものとしている。ただし、本実施形態の車載機器操作行動モデル照合処理では、判定角度が、予め規定された規定角度よりも大きい角度となる行動推定モデルに対応する特定行動を、推定行動候補から除外している。
S520での判定の結果、S510にて選択された照合対象が、持込品操作行動モデル群であれば、S560へと進む。
そのS560では、持込品操作行動モデル群の行動推定モデルそれぞれに、検出特徴点を照合して、予め規定された第二規定条件を満たす行動推定モデルに対応する持込品操作行動を推定行動候補として検出する持込品操作行動モデル照合処理を実行する。
そのS560では、持込品操作行動モデル群の行動推定モデルそれぞれに、検出特徴点を照合して、予め規定された第二規定条件を満たす行動推定モデルに対応する持込品操作行動を推定行動候補として検出する持込品操作行動モデル照合処理を実行する。
具体的に、本実施形態の持込品操作行動モデル照合処理では、検出特徴点が移動する移動方向と、検出特徴点から帰着点へと向かう行動方向とのなす角度(行動角度θ)が、検出許容範囲内である行動推定モデルを抽出する。そして、その抽出した行動推定モデルの中から、帰着点を原点とした相対座標に変換した検出特徴点(以下、相対特徴点とする)が、帰着領域もしくは通過領域内であり、かつ帰着点に最も近い行動推定モデルを、第二規定条件を満たす(即ち、一致度合いが最も高い)ものとしている。ただし、本実施形態の持込品操作行動モデル照合処理では、行動角度θが検出許容範囲外である行動推定モデルや、相対特徴点が、帰着領域外もしくは通過領域外である行動推定モデルに対応する持込品操作行動を推定行動候補から除外している。
S520での判定の結果、S510にて選択された照合対象が、繰返行動モデル群であれば、S580へと進む。
そのS580では、繰返行動モデル群の行動推定モデルそれぞれに、検出特徴点を照合して、予め規定された第三規定条件を満たす行動推定モデルに対応する繰返行動を推定行動候補として検出する繰返行動モデル照合処理を実行する。
そのS580では、繰返行動モデル群の行動推定モデルそれぞれに、検出特徴点を照合して、予め規定された第三規定条件を満たす行動推定モデルに対応する繰返行動を推定行動候補として検出する繰返行動モデル照合処理を実行する。
具体的に、本実施形態の繰返行動モデル照合処理では、各行動推定モデルに対応する相対座標に変換した検出特徴点(以下、変換特徴点とする)が、各行動推定モデル中の許容領域内であり、かつ変換特徴点から各行動推定モデル中の特定点までの全距離のうち、最短のものが最も短い行動推定モデルを、第三規定条件を満たす(即ち、一致度合いが最も高い)ものとしている。ただし、本実施形態の繰返行動モデル照合処理では、変換特徴点が行動推定モデル中の許容領域外に位置していれば、その行動推定モデルに対応する繰返行動を推定行動候補から除外している。
続く、S600では、S510にて、車載機器操作行動モデル群、持込品操作行動モデル群、繰返行動モデル群の全てを選択したか否かを判定し、判定の結果、全てを選択していなければ、S510へと戻る。一方、判定の結果、全てを選択していれば、S620へと進む。
そのS620では、車載機器操作行動モデル照合処理、持込品操作行動モデル照合処理、繰返行動モデル照合処理で検出された推定行動候補の中から、推定行動を検出する推定行動確定処理を実行する。
具体的に、本実施形態の推定行動確定処理では、予め規定された数サイクル連続して、同一である特定行動を推定行動候補として検出した場合に、その推定行動候補を推定行動として検出するようにされている。
そして、その後、行動推定処理のS140へと戻る。
つまり、本実施形態の推定行動検出処理では、撮影画像から検出した検出特徴点を、行動推定モデルそれぞれと照合し、一致度合いが最も高い行動推定モデルに対応する特定行動を推定行動として検出している。
〈信頼度算出処理〉
次に、CPU10cが実行する信頼度算出処理について説明する。
つまり、本実施形態の推定行動検出処理では、撮影画像から検出した検出特徴点を、行動推定モデルそれぞれと照合し、一致度合いが最も高い行動推定モデルに対応する特定行動を推定行動として検出している。
〈信頼度算出処理〉
次に、CPU10cが実行する信頼度算出処理について説明する。
ここで、図4は、信頼度算出処理の処理手順を示したフローチャートである。
この信頼度算出処理は、画像処理プロセッサ10が起動されると(本実施形態では、イグニッション信号がオンされた時)、実行が開始されるものである。
この信頼度算出処理は、画像処理プロセッサ10が起動されると(本実施形態では、イグニッション信号がオンされた時)、実行が開始されるものである。
そして、図4に示すように、信頼度算出処理が開始されると、まずS310では、規定操作機器からの操作信号が入力されているか否かを判定する。そして、判定の結果、操作信号が入力されていなければ、操作信号が入力されるまで待機し、操作信号が入力されていれば、S320へと進む。
そのS320では、入力されている操作信号に基づいて、規定操作機器に対する操作継続行動または遷移行動の中で、確実に運転者が実行中である操作継続行動、または遷移行動を確定行動として特定する。
すなわち、本実施形態では、ステアリング操作信号が入力されている場合、ステアリングを操作中であることを確定行動として検出し、レバー操作信号が入力されている場合、シフトレバーを操作中であることを確定行動として検出する。さらに、GB開閉検知センサからの操作信号が入力されている場合、GBを操作中であることを確定行動として検出し、CB開閉検知センサ34からの操作信号が入力されている場合、CBを操作中であることを確定行動として検出する。また、ナビ操作信号が入力されている場合、ナビゲーション装置21を操作中であることを確定行動として検出し、AC操作信号が入力されている場合、空気調和装置を操作中であることを確定行動として検出する。
また、本実施形態では、一つの操作信号が入力された後、規定時間(例えば、3秒)以内に、他の操作信号が入力された場合、互いに異なる操作機器間の遷移行動を確定行動として検出する。
例えば、ステアリング操作信号が入力された後、規定時間以内にレバー操作信号が入力された場合、ステアリングからシフトレバーへの遷移行動を確定行動として検出し、ステアリング操作信号が入力された後、規定時間以内にナビ操作信号が入力された場合、ステアリングからナビゲーション装置21への遷移行動を確定行動として検出する。
そして、S330では、S320で特定した確定行動を、その確定行動を特定した時刻と対応付けた確定行動情報を生成し、その生成した確定行動情報をRAM10bの予め設定された設定領域に格納する。
すなわち、本実施形態では、図8に示すように、規定操作機器に対する操作継続行動それぞれ、及び互いに異なる規定操作機器間の遷移行動それぞれ(即ち、操作継続行動及び遷移行動それぞれの行動内容)について示したテーブルをRAM10bに用意し、各操作継続行動、または各遷移行動を確定行動として検出した時刻を、そのテーブルの該当する特定行動(即ち、操作継続行動、遷移行動)に記憶することによって、確定行動情報を生成、格納する。
したがって、本実施形態における確定行動情報は、運転者が確実に実行した規定操作機器に対する操作継続行動それぞれ、または規定操作機器間での遷移行動の開始時刻、及び終了時刻が少なくとも示されたものとなる。
続くS350では、予め設定された設定条件を満たしたか否かを判定する。具体的に、本実施形態では、予め規定された規定数以上の確定行動情報が設定領域に格納されるように予め設定された設定時間が、S350で前回肯定判定されてから経過したことが、設定条件として設定されている。
なお、このS350での判定の結果、設定条件を満たしていなければ、即ち、否定判定であれば、S310へと戻り、設定条件を満たしていれば、即ち、肯定判定であれば、S360へと進む。
そのS360では、RAM10bの規定領域に格納された推定行動情報と、RAM10bの設定領域に格納された確定行動情報とに基づいて、確定行動として検出可能な推定行動の検出に用いる行動推定モデルのモデル信頼度(以下、確定モデル信頼度とする)を算出する。
具体的に、本実施形態では、確定行動情報中の確定行動それぞれが検出された各期間を確定行動検出期間として設定し、その確定行動検出期間内に、確定行動と行動内容の一致する特定行動が推定行動として検出された各期間を推定行動検出期間として設定する。そして、一つの確定行動について、全推定行動検出期間を全確定行動検出期間で除することで、確定モデル信頼度を算出する(即ち、確定モデル信頼度=推定行動検出期間÷確定行動検出期間)。
つまり、S360では、確定行動毎に、その確定行動が検出された期間と、その確定行動と一致する特定行動が推定行動として検出された期間との割合を確定モデル信頼度として算出する。
続くS370では、推定行動情報及び確定行動情報に基づいて、確定行動として検出不可能な推定行動に対応する行動推定モデルのモデル信頼度(以下、推定モデル信頼度とする)を算出する。
具体的に、本実施形態では、予め行った実験(例えば、多数の被験者に全特定行動を実行させ、行動推定モデルそれぞれのモデル信頼度を求める実験)により、確定行動として検出不可能な特定行動それぞれに対応する行動モデルのモデル信頼度それぞれと、確定モデル信頼度との対応関係を求める。そして、その予め求められた対応関係に基づき、先のS360で求めた確定モデル信頼度を用いて、確定行動として検出不可能な特定行動それぞれに対応する行動モデルの推定モデル信頼度を算出する。
なお、ここでいう対応関係とは、重回帰式等の関数として求められたものでも良いし、マップとして求められたものでも良く、これらのように対応関係が求められていれば、S360で求めた確定モデル信頼度を対応関係に代入するだけで、推定モデル信頼度を求めることができる。
続く、S380では、行動推定処理で用いるためにRAM10bに格納されている各モデル信頼度を、S350,及びS360で算出されたモデル信頼度(即ち、確定モデル信頼度それぞれ、及び推定モデル信頼度それぞれ)に更新する。ただし、本モデル信頼度算出処理が起動されてから最初にS380へと進んだ場合には、S350及びS360で算出されたモデル信頼度をRAM10bに格納する。
そして、その後、S310へと戻る。
つまり、本実施形態のモデル信頼度算出処理では、規定数以上の確定行動情報が設定領域に格納された場合、その規定数以上の確定行動の検出結果と、行動推定処理での推定行動の検出結果とに基づいて、行動推定モデルそれぞれの運転者に対する適合度合いをモデル信頼度として算出している。
つまり、本実施形態のモデル信頼度算出処理では、規定数以上の確定行動情報が設定領域に格納された場合、その規定数以上の確定行動の検出結果と、行動推定処理での推定行動の検出結果とに基づいて、行動推定モデルそれぞれの運転者に対する適合度合いをモデル信頼度として算出している。
以上説明したように、本実施形態の行動推定システム1では、推定行動検出処理を実行することにより、撮影画像から検出した検出特徴点を、行動推定モデルそれぞれと照合し、一致度合いが最も高い行動推定モデルに対応する特定行動を推定行動として検出している。
一方、モデル信頼度算出処理を実行することにより、画像処理プロセッサ10に入力される操作信号に基づいて確定行動を検出すると共に、その確定行動についての確定行動情報を生成する。そして、規定数以上の確定行動情報が格納された場合、その規定数以上の確定行動の検出結果と、行動推定処理での推定行動の検出結果とに基づいて、モデル信頼度を算出している。
そして、そのモデル信頼度が規定閾値よりも低ければ、本実施形態の行動推定システム1では、推定行動検出処理での安全制御処理の実行を禁止する。
つまり、本実施形態の行動推定システム1では、当該行動推定システム1を使用している運転者に対して行動推定モデルが合致しなければ、即ち、モデル信頼度が低いほど、安全制御処理の実行を制限している。
[実施形態の効果]
したがって、本実施形態の行動推定システム1によれば、検出される推定行動が、運転者が実行している特定行動とは異なることや、運転者が実行していないのに実行しているものとして検出する等の誤検出であるにも拘わらず、安全制御処理が実行されることを低減できる。
つまり、本実施形態の行動推定システム1では、当該行動推定システム1を使用している運転者に対して行動推定モデルが合致しなければ、即ち、モデル信頼度が低いほど、安全制御処理の実行を制限している。
[実施形態の効果]
したがって、本実施形態の行動推定システム1によれば、検出される推定行動が、運転者が実行している特定行動とは異なることや、運転者が実行していないのに実行しているものとして検出する等の誤検出であるにも拘わらず、安全制御処理が実行されることを低減できる。
特に、本実施形態の行動推定システム1によれば、モデル信頼度が規定閾値以下であれば、安全制御処理の実行そのものを禁止するため、誤検出であるにも拘わらず安全制御処理が実行されることをより確実に低減できる。
また、本実施形態の行動推定システム1では、行動推定モデル毎にモデル信頼度を算出しているため、検出される推定行動毎に誤検出の可能性が判定されることになる。
このため、本実施形態の行動推定システム1によれば、乗員が実行した特定行動が推定行動として誤検出された場合に、安全制御が実行されることをより確実に防止できると共に、乗員が実行した特定行動が推定行動として正しく検出された場合には、安全制御を確実に実行することができる。
このため、本実施形態の行動推定システム1によれば、乗員が実行した特定行動が推定行動として誤検出された場合に、安全制御が実行されることをより確実に防止できると共に、乗員が実行した特定行動が推定行動として正しく検出された場合には、安全制御を確実に実行することができる。
これらのことから、レンタカーのように不特定多数の人物が運転者として操縦するような自動車に搭載された本実施形態の行動推定システム1によれば、不必要な報知が実行されることで、それらの不特定多数の運転者に煩わしさを感じさせてしまうことを抑制できる。
しかも、行動推定システム1によれば、不必要な安全制御が実行されることを低減できるため、運転者を自車両の運転に集中させることができ、この結果、より安全な自車両の走行を実現できる。
特に、本実施形態の行動推定システム1によれば、推定行動として検出した特定行動が危険行動であれば、危険行動を中止するように促すため、自車両をより安全に操縦させることができる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において様々な態様にて実施することができる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において様々な態様にて実施することができる。
例えば、上記実施形態の信頼度算出処理では、規定操作機器から画像処理プロセッサ10に入力される操作信号によって確定行動を検出していたが、確定行動の検出方法は、これに限るものではなく、撮影装置15とは異なる位置に配置された撮影装置で撮影した撮影画像や、撮影装置15とは異なる種類の撮影装置により撮影した撮影画像それぞれを画像処理することで検出される特定行動に基づいて、確定行動を検出しても良いし、運転者らに、実際に実行している行動の内容(即ち、確定行動の内容)を入力させるようにしても良い。
なお、撮影装置15とは異なる種類の撮影装置としては、赤外線カメラや、距離画像を撮影するカメラなどを用いることが望ましい。
また、上記実施形態における安全制御処理では、ナビゲーション装置21のスピーカや、モニタを用いて、運転者に警告を発していたが、上記実施形態の処理に限るものではない。
また、上記実施形態における安全制御処理では、ナビゲーション装置21のスピーカや、モニタを用いて、運転者に警告を発していたが、上記実施形態の処理に限るものではない。
例えば、CPU10cが空調制御装置22に制御指令を出力して、空気調和装置から運転者に冷風を吹き付ける冷風送気制御を実行しても良いし、CPU10cがシートベルト巻上装置23に制御指令を出力して、シートベルト巻上装置23がシートベルトの拘束力を増加させるようにしても良い。さらには、CPU10cがブレーキ制御装置24に制御指令を出力して、ブレーキ制御装置24が自車両の制動力を増加させるようにしても良いし、CPU10cがパワートレイン制御装置25に制御指令を出力して、パワートレイン制御装置25が搭載車両を減速させるようにしても良いし、それらを任意で組合わせても良い。
つまり、安全制御処理では、推定行動が危険行動である場合に、その危険行動を実行することが危険であることを運転者に認識させ、自車両が安全に運転されるように制御するのであれば、どのような処理を行っても良い。
そして、上記実施形態における安全制御処理では、推定行動が危険行動である場合にのみ、安全制御を実行していたが、安全制御は、推定行動が危険行動であるか否かに拘わらず実行しても良い。
また、上記実施形態における安全制御処理では、モデル信頼度が規定閾値以上である場合に、一つの処理内容を実行していたが、安全制御の実行条件が満たされた場合には、条件内で、実行される内容が変更されるようになされていても良い。例えば、モデル信頼度の大きさが小さいほど、実行可能な処理の内容が制限されるようにされていることが望ましい。
ところで、上記実施形態における信頼度算出処理では、確定行動が検出された期間と、その確定行動と一致する特定行動が推定行動として検出された期間との割合を確定モデル信頼度として算出したが、確定モデル信頼度の算出方法は、これに限るものではない。
例えば、確定行動が検出された回数と、その確定行動と一致する特定行動を推定行動として検出した回数との割合であっても良いし、その他の算出方法であっても良い。
また、上記実施形態における信頼度算出処理では、行動推定モデル毎にモデル信頼度を算出していたが、モデル信頼度は、全行動推定モデルに一つのみ算出、即ち、運転者毎に算出しても良い。
また、上記実施形態における信頼度算出処理では、行動推定モデル毎にモデル信頼度を算出していたが、モデル信頼度は、全行動推定モデルに一つのみ算出、即ち、運転者毎に算出しても良い。
つまり、モデル信頼度は、運転者に対する行動推定モデルの適合度合いを表すものであれば、どのような方法で算出されていても良い。
また、上記実施形態におけるモデル信頼度算出処理は、画像処理プロセッサ10が起動されると、行動推定処理と並行して起動されていたが、モデル信頼度算出処理の起動タイミングは、これに限るものではない。
また、上記実施形態におけるモデル信頼度算出処理は、画像処理プロセッサ10が起動されると、行動推定処理と並行して起動されていたが、モデル信頼度算出処理の起動タイミングは、これに限るものではない。
例えば、モデル信頼度算出処理は、行動推定処理のS140が実行された直後に起動されても良い。この場合、行動推定処理のS145に換えて実行されることが望ましい。また、この場合、モデル信頼度算出処理は、S310にて否定判定された場合には、S350へと移行し、S350にて否定判定された場合やS380が終了した場合には、行動推定処理へと戻るようになされている必要がある。
なお、上記実施形態において、行動推定システム1は、自動車に搭載されていたが、行動推定システム1が搭載されるものは、自動車に限るものではなく、例えば、航空機や船舶、電車などの移動体に、行動推定システム1が搭載されていても良い。
そして、上記実施形態の行動推定システム1では、推定行動の検出対象の人物は、運転者であったが、これに限るものではなく、助手席に着座した人物であっても良い。
[本発明と実施形態との対応]
上記実施形態の行動推定処理におけるS110を実行することで得られる機能が、本発明の撮影画像取得手段に相当し、行動推定処理におけるS120を実行することで得られる機能が、本発明の特徴点検出手段に相当する。
[本発明と実施形態との対応]
上記実施形態の行動推定処理におけるS110を実行することで得られる機能が、本発明の撮影画像取得手段に相当し、行動推定処理におけるS120を実行することで得られる機能が、本発明の特徴点検出手段に相当する。
また、上記実施形態の行動推定システム1におけるメモリ10aが、本発明の行動推定モデル格納手段に相当し、上記実施形態の行動推定処理におけるS130を実行することで得られる機能が、本発明の推定行動検出手段に相当し、行動推定処理におけるS190を実行することで得られる機能が、本発明の安全制御手段に相当する。
さらに、上記実施形態の信頼度算出処理におけるS320を実行することで得られる機能が、本発明の確定行動検出手段に相当し、信頼度算出処理におけるS360,S370を実行することで得られる機能が、信頼度導出手段に相当する。
1…行動推定システム 10…画像処理プロセッサ 10a…メモリ 10b…RAM 10c…CPU 15…撮影装置 20…制御対象装置群 21…ナビゲーション装置 22…空調制御装置 23…シートベルト巻上装置 24…ブレーキ制御装置 25…パワートレイン制御装置 31…ステアリング操作検知センサ 32…シフトレバー操作検知センサ 33…GB開閉検知センサ 34…CB開閉検知センサ
Claims (10)
- 移動体に搭載され、乗員の行動を推定する行動推定装置であって、
乗員が撮影された撮影画像を繰り返し取得する撮影画像取得手段と、
乗員の身体上に予め設定された少なくとも一つのポイントを特徴点とし、前記撮影画像取得手段で撮影画像が取得される毎に、その撮影画像に写り込んだ乗員の特徴点の位置である検出特徴点を検出する特徴点検出手段と、
前記乗員が実行する可能性のある行動を特定行動とし、各特定行動毎に予め生成され、その特定行動を実行する時の前記特徴点の位置からなる行動推定モデルを格納する行動推定モデル格納手段と、
前記特徴点検出手段で検出された検出特徴点を、前記行動推定モデル格納手段に格納された行動推定モデルそれぞれと照合し、最も適合率の高い前記行動推定モデルに対応する特定行動を推定行動として検出する推定行動検出手段と、
前記推定行動検出手段で検出された推定行動に応じて、前記移動体が安全に操縦されるようにするための安全制御を実行する安全制御手段と、
前記特定行動の中で予め規定された少なくとも一つの特定行動を確定行動候補とし、それらの確定行動候補の中で、前記乗員が確実に実施した特定行動である確定行動を検出する確定行動検出手段と、
前記確定行動検出手段、及び前記推定行動検出手段での検出結果に基づいて、前記行動推定モデル格納手段に格納された行動推定モデルの前記乗員に対する適合度合いを表すモデル信頼度を導出する信頼度導出手段と、
前記信頼度導出手段で導出されたモデル信頼度が低いほど、前記安全制御手段での安全制御の実行に制限を加える安全制御制限手段と
を備えることを特徴とする行動推定装置。 - 前記確定行動候補には、前記移動体内に搭載され予め規定された操作機器を操作する行動が含まれ、
前記確定行動検出手段は、
前記操作機器が操作されたことを表す操作信号を取得する操作信号取得手段を備え、
前記操作信号取得手段で取得された操作信号から前記確定行動を検出することを特徴とする請求項1に記載の行動推定装置。 - 前記安全制御制限手段は、
前記信頼度導出手段で導出されたモデル信頼度が予め規定された規定値未満あれば、前記安全制御手段による安全制御の実行を禁止することを特徴とする請求項1または請求項2に記載の行動推定装置。 - 前記信頼度導出手段は、
前記確定行動検出手段で確定行動が検出された期間である確定行動検出期間と、前記推定行動検出手段にて、その確定行動と同一の特定行動である前記推定行動が検出された期間である推定行動検出期間との割合を、前記モデル信頼度として導出することを特徴とする請求項1ないし請求項3のいずれかに記載の行動推定装置。 - 前記信頼度導出手段は、
前記推定行動検出期間を、前記確定行動検出期間内に、前記確定行動と同一の特定行動を前記推定行動として検出した期間とすることを特徴とする請求項4に記載の行動推定装置。 - 前記信頼度導出手段は、
前記確定行動検出手段で確定行動として検出可能な特定行動に対応する行動推定モデルの前記モデル信頼度である確定行動信頼度を導出することを特徴とする請求項1ないし請求項5のいずれかに記載の行動推定装置。 - 前記信頼度導出手段は、
前記確定行動候補以外の特定行動に対応する行動推定モデルの前記モデル信頼度を非確定行動信頼度とし、前記確定行動信頼度と前記非確定行動信頼度との予め求められた対応関係に基づいて、前記確定行動信頼度を用いて、前記非確定行動信頼度を算出することを特徴とする請求項6に記載の行動推定装置。 - 前記信頼度導出手段は、
前記特定行動毎にそれぞれに対応する行動推定モデルの前記モデル信頼度を導出することを特徴とする請求項1ないし請求項7のいずれかに記載の行動推定装置。 - 前記特定行動のうち、乗員が実行すると前記移動体の操縦に悪影響を及ぼす可能性のある行動を危険行動とし、
前記安全制御手段は、
前記推定行動検出手段で検出された推定行動が前記危険行動であれば、その危険行動を中止すべき旨を報知することを前記安全制御として実行することを特徴とする請求項1ないし請求項8のいずれかに記載の行動推定装置。 - コンピュータを、請求項1ないし請求項9のいずれかに記載の行動推定装置を構成する各手段として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008206868A JP2010044493A (ja) | 2008-08-11 | 2008-08-11 | 行動推定装置、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008206868A JP2010044493A (ja) | 2008-08-11 | 2008-08-11 | 行動推定装置、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010044493A true JP2010044493A (ja) | 2010-02-25 |
Family
ID=42015847
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008206868A Pending JP2010044493A (ja) | 2008-08-11 | 2008-08-11 | 行動推定装置、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010044493A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010165223A (ja) * | 2009-01-16 | 2010-07-29 | Denso Corp | 操作推定装置およびプログラム |
WO2019111696A1 (ja) * | 2017-12-08 | 2019-06-13 | 株式会社デンソー | 異常検知装置、及び異常検知プログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004145725A (ja) * | 2002-10-25 | 2004-05-20 | Mazda Motor Corp | 車両用運転支援システム |
JP2005205943A (ja) * | 2004-01-20 | 2005-08-04 | Omron Corp | 運転中における電話使用時の車輌制御装置及び電話使用検出方法 |
JP2005219611A (ja) * | 2004-02-05 | 2005-08-18 | Fujitsu Ten Ltd | 運転支援装置 |
-
2008
- 2008-08-11 JP JP2008206868A patent/JP2010044493A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004145725A (ja) * | 2002-10-25 | 2004-05-20 | Mazda Motor Corp | 車両用運転支援システム |
JP2005205943A (ja) * | 2004-01-20 | 2005-08-04 | Omron Corp | 運転中における電話使用時の車輌制御装置及び電話使用検出方法 |
JP2005219611A (ja) * | 2004-02-05 | 2005-08-18 | Fujitsu Ten Ltd | 運転支援装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010165223A (ja) * | 2009-01-16 | 2010-07-29 | Denso Corp | 操作推定装置およびプログラム |
WO2019111696A1 (ja) * | 2017-12-08 | 2019-06-13 | 株式会社デンソー | 異常検知装置、及び異常検知プログラム |
JP2019105872A (ja) * | 2017-12-08 | 2019-06-27 | 株式会社デンソー | 異常検知装置、及び異常検知プログラム |
JP7003612B2 (ja) | 2017-12-08 | 2022-01-20 | 株式会社デンソー | 異常検知装置、及び異常検知プログラム |
US11615632B2 (en) | 2017-12-08 | 2023-03-28 | Denso Corporation | Abnormality detection device and abnormality detection program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5217754B2 (ja) | 行動推定装置、プログラム | |
JP6751436B2 (ja) | 自律走行車両へのアクセス及び運転制御 | |
US20200139992A1 (en) | Vehicle control device and vehicle control method | |
US9616809B1 (en) | Lane change prediction and turn signal activation upon observation of head and eye movement | |
JP5018926B2 (ja) | 運転補助装置、及びプログラム | |
JP4380541B2 (ja) | 車両用エージェント装置 | |
JP4420081B2 (ja) | 行動推定装置 | |
JP7329755B2 (ja) | 支援方法およびそれを利用した支援システム、支援装置 | |
US11023786B2 (en) | Device control apparatus | |
JP2008310454A (ja) | 不適格者操縦抑制システム及び不適格者操縦抑制方法 | |
JP4683123B2 (ja) | 行動推定装置、プログラム | |
JP4613999B2 (ja) | 行動推定装置、プログラム | |
JP2010044493A (ja) | 行動推定装置、プログラム | |
JP4882930B2 (ja) | 行動推定装置 | |
WO2021156914A1 (ja) | 注意方向判定装置および注意方向判定方法 | |
WO2020221124A1 (zh) | 一种自动驾驶车辆的控制方法及系统 | |
JP2009012733A (ja) | 飲酒運転防止装置 | |
KR101859761B1 (ko) | 차량용 얼굴인증 장치 및 방법 | |
JP2010214990A (ja) | 車両用制御装置および方法、並びにプログラム | |
JP2001097070A (ja) | 乗物用人物認識装置 | |
WO2017017938A1 (ja) | ジェスチャ操作システム、方法およびプログラム | |
WO2022270206A1 (ja) | 駆動機構の始動制御装置及び始動制御プログラム | |
JP6077559B2 (ja) | 端末装置及び移動体 | |
EP4129795A1 (en) | System for preventing drunk driving and method for controlling the same | |
JP7452402B2 (ja) | 車両ドア寄り掛かり検出システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100906 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120321 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120327 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120724 |