JP4745403B2 - 情報処理装置及びその制御方法等 - Google Patents
情報処理装置及びその制御方法等 Download PDFInfo
- Publication number
- JP4745403B2 JP4745403B2 JP2008550001A JP2008550001A JP4745403B2 JP 4745403 B2 JP4745403 B2 JP 4745403B2 JP 2008550001 A JP2008550001 A JP 2008550001A JP 2008550001 A JP2008550001 A JP 2008550001A JP 4745403 B2 JP4745403 B2 JP 4745403B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- obstacle
- image
- image information
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000010365 information processing Effects 0.000 title claims description 72
- 238000000034 method Methods 0.000 title claims description 13
- 238000003384 imaging method Methods 0.000 claims description 45
- 230000004807 localization Effects 0.000 claims description 16
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 claims description 3
- 241001465754 Metazoa Species 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
- G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Traffic Control Systems (AREA)
Description
本願は、情報処理装置、特に移動体に搭載した情報処理装置の技術分野に関する。
近年、移動体の外部にある障害物の存在を認識させ、衝突の危険性がある場合には、その旨を表示にて告知する情報処理装置が提供されるようになってきている。
一例として、ナビゲーション装置においては、ユーザが車両等を運転中に、衝突の危険性を示す警報が表示装置に表示されるようになっている。
また、障害物の方向をユーザが容易に認知可能なように、当該障害物の存在する方向に音像を定位させて警報する装置が提案されている。これによれば、ユーザが表示装置を視認せずとも、当該ユーザに対して危険を直ちに認知させることができる。
また、例えば、特許文献1には、複数の音響マイクロホンによって他の車両のエンジン音等の外来音を採取し、採取した音信号に基づいて音源がある方向に音像を定位させる車両警報装置が開示されている。これによれば、ユーザにより他の車両が視覚的に見渡せない範囲にある場合にも、当該ユーザに対して他の車両の存在を認知させることができる。
特開平05−85288号公報。
しかしながら、上述した従来の障害物に関して警報を発する装置においては、例えば、障害物の種類を判別(例えば障害物が人間、自転車、自動二輪車、小型自動車、または大型自動車(ダンプカー等)であることを判別)して、その判別結果に基づいて、警報レベルを変更することは行なわれていなかった。そのため、緊急にユーザが対応しなければいけない状態か否かがユーザに認識されずに、必ずしもユーザが適切な判断をできず、衝突等の危険を迅速に回避することが困難な場合が想定される。
そこで、本願の課題の一例は、情報処理装置、特に移動体に搭載した情報処理装置において、障害物の種類や移動状態(位置関係を含む)に応じてユーザへ報知する警報を変化させ、障害物との衝突等の危険を迅速に回避することを可能とする情報処理装置、情報処理装置の制御方法、制御プログラムおよび当該制御プログラムを記録した情報記録媒体を提供することにある。
本発明の請求項1に記載の情報処理装置は、移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行う情報処理装置において、予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶手段と、前記移動体の外部の画像情報を撮像する画像情報撮像手段と、前記画像情報撮像手段によって撮像された画像情報と、前記記憶手段に記憶された前記障害物の画像情報とを比較する比較手段と、前記比較手段の比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算手段と、前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位手段と、を備えることを特徴とする。
本発明の請求項7に記載の情報処理装置の制御方法は、移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行う情報処理装置の制御方法において、予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶工程と、前記移動体の外部の画像情報を撮像する画像情報撮像工程と、前記画像情報撮像工程において撮像された画像情報と、前記記憶工程において記憶された前記障害物の画像情報とを比較する比較工程と、前記比較工程における比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算工程と、前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位工程と、を備えることを特徴とする。
本発明の請求項8に記載の制御プログラムは、移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行うコンピュータを、予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶手段、前記移動体の外部の画像情報を撮像する画像情報撮像手段、前記画像情報撮像手段によって撮像された画像情報と、前記記憶手段に記憶された前記障害物の画像情報とを比較する比較手段、前記比較手段の比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算手段、及び前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位手段として機能させることを特徴とする。
1a、1b、1c、1d…カメラ
2…画像情報処理装置
3…記憶装置
4…画像認識装置
5…警報発生装置
6…スピーカ
S…情報処理装置
2…画像情報処理装置
3…記憶装置
4…画像認識装置
5…警報発生装置
6…スピーカ
S…情報処理装置
次に、本発明に最適な実施の形態について、図面に基づいて説明する。
なお、本実施形態では、一例として、移動体を車両とし、当該車両に設けられた(搭載された)情報処理装置について説明する。
図1は本実施形態における情報処理装置Sの例を示すブロック図である。
本実施形態における情報処理装置Sは、ユーザに対して警報情報を報知するための情報処理を行う装置であり、車両外部の画像情報を撮像する画像情報撮像手段の一例としてのカメラ1a、1b、1c、および1d、カメラ1a、1b、1c、および1dによって撮像された画像情報を合成、または画像情報を切り替える画像情報処理装置2、障害物等の画像情報等を予め記憶しておく記憶手段の一例としての記憶装置3、比較手段及び演算手段の一例としての画像認識装置4、警報情報を音像として定位させるための情報処理をする音像定位手段の一例としての警報発生装置5および音像を定位させるための音情報を放音するスピーカ6(例えば車両に設けられるオーディオ用のスピーカ)を備えている。
なお、情報処理装置Sは、例えば、車載用ナビゲーション装置やAV(Audio Visual)装置等に組み込まれるものであってもよいし、独立して搭載されるものであってもよい。
次に、各構成要素について説明する。
カメラ1a、1b、1c、および1dはCCD(Charge Coupled Device)または、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を用いたデジタルカメラが使用される。
複数のカメラを使用することによって車両搭載時に車両外部360度の画像情報を死角なく撮像できるようになっている(詳細は図3および図4において説明する)。
画像情報処理装置2は、カメラ1a、1b、1c、および1dにおいて撮像された画像情報を合成して車両の周囲360度の画像情報に重複や不足部分が発生しないように画像処理をする。また、車両の外部にある特定の物体の画像を処理するために、4台のカメラの画像を合成せずに、1乃至3台のカメラで撮像した画像を用い、車両外部の物体の画像を処理する場合もある(車両の周囲360度の画像処理を必要としない場合)。
記憶装置3には、車両の外部に存在し、後述の処理において障害物として認識されるべき、人物、動物、自転車、自動二輪車、小型車両(小型自動車)、中型車両(中型自動車)、および大型車両(大型自動車)等の移動体の画像情報が、それらの種別(例えば、人物(幼児または子供と、大人とが区別されている)、動物、自転車、自動二輪車、小型車両、中型車両、大型車両等の種別(言い換えれば、属性))を示す種類情報が対応付けられて予め記憶されている。
また、記憶装置3は、自車両が中型車両であるのか大型車両であるのかといった自車の種別(言い換えれば、属性)を示す自車情報(自移動体情報の一例)も記憶している。かかる自車情報は、例えば、表示部(図示せず)に複数の車両候補(小型車両、中型車両、及び大型車両等)を表示させ、ユーザが操作部(図示せず)を操作して選択することにより記憶装置3に記憶される。
さらに、記憶装置3は、道路上に描かれている横断歩道の標識、道路上に描かれている横断歩道が近くにあることを示す標識、道路上に描かれている制限速度の表示等の、案内標識(道路の分岐点の予告、高速道路の出口、駐車場、本線表示、非常駐車帯、サービスエリアおよびその予告等の標識)、警戒標識(道路交差点あり、右(又は左)方屈曲または屈折あり、学校・幼稚園・保育所等あり、信号機あり、合流交通あり、動物が飛び出すおそれあり等の標識)、規制標識(進入禁止、一方通行、特定車両(歩行者、自転車を含む、以下同様)の通行止め、特定車両専用道路、徐行、一時停止等の標識)、指示標識(横断歩道、自転車横断帯、安全地帯、規制予告、特定区間の始まりおよび終わり、停止線、中央線、駐車可、停車可等の標識)、補助標識(車両の種類、通学路、追越し禁止、踏切注意、動物注意、特定区域等の標識)等の標識情報を記憶するようになっている。
画像認識装置4は、画像情報処理装置2で処理された画像情報と、記憶装置3に記憶されている障害物の画像情報とを比較し、一致する画像が有るか否かを判断する。この判断結果(比較結果)、一致する画像が有る場合、つまり、撮像された画像情報に、障害物が存在する(含まれる)場合には、当該障害物を認識し、次いで、画像認識装置4は、認識された障害物および自車両の移動状態を予測演算し、認識された障害物が自車両と接触または衝突する可能性を判断する。
これは、例えば、車両外部に障害物を認識した場合に、その障害物および自車両との相対関係、画像情報処理装置2を介して入力された連続する複数の画像情報から得られる障害物の移動ベクトル等を用いて推測することが可能となる。
この推測の結果、上記障害物と自車両とが接触または衝突する可能性がある場合には、画像認識装置4は、自車両を基準として上記障害物が位置する方向を示す方向情報を演算し、当該演算された障害物への方向情報と、当該障害物の種類情報(例えば、人物、若しくは中型車両等)とを含む警報情報を生成し、これを警報発生装置5に出力する。
警報発生装置5は、画像認識装置4から入力された警報情報と、前述の自車情報とに基づいてスピーカ6より発する音情報(例えば、衝突音、サイレン音等)を確定し、さらに、自車両の中心付近またはドライバー(運転者)の座席位置を中心に、上記障害物の位置(存在)する方向に上記音情報(すなわち、警報情報)を音像として定位させるための音場情報を図示しないDSP(Digital Signal Processor)等により算出し、スピーカ6を構成する個々のスピーカへ上記算出された音場情報を適切なレベル及び位相の警報信号(警告信号)として振り分ける。
スピーカ6は、警報発生装置5から入力される警報信号を放音する。車載用の場合、スピーカ6を単独で設けず、車載オーディオ用のスピーカと共用することができる。
このように構成することによって、例えば、障害物が人物または自転車などの場合には、自車両の種別(属性)に関わらず、衝突音でかつ音量の大きい警報信号を当該障害物の方向へ定位させて発生させる。なぜならば人物又は自転車は、自車両と接触すると死亡事故につながる可能性が高いからであり、ドライバーが危険性を十分に認識し、瞬間的に反応を開始することが望ましいからである。
また、障害物が人物である場合において、その人物がさらに幼児または子供である場合には、さらに音量を大きくした警報信号を発生させる。なぜならば、車両と接触または衝突を回避することを幼児または子供が適切に判断し行動することがより困難であることが予想されるからである。
また、障害物が大型車両の場合であって、自車両が中型車両である場合には、大型車両と衝突した場合、中型車両が大型車両に押しつぶされてしまうことが考えられる。この場合には、画像認識装置4は、障害物が人物の場合に次いで危険であると判断し、サイレン音等からなる警報信号を障害物の方向へ定位させて発生させる。
他方、障害物も自車両と同じような中型車両の場合には、対象が大型車両よりは危険度は小さいと考え、ピー音等の警報信号を障害物の方向へ定位させて発生させる。
さらに、画像認識装置4は、予め記憶装置3に記憶されている標識情報と、カメラ1から画像情報処理装置2を介して入力される画像情報とが一致しているか否かを加味して、警報情報を生成してもよい。
例えば、自車両の進行方向にある障害物が人物である場合には、次いで自車両の進行方向の画像情報に例えば横断歩道に関する標識情報があるか否かを認識する。
画像認識装置4が、記憶装置3に記憶されている案内標識、警戒標識、規制標識、指示標識、補助標識等の標識情報における横断歩道情報と、画像情報処理装置2から入力される画像情報とを比較した結果、画像情報処理装置2から入力される画像情報に横断歩道情報があると認識される場合には、画像認識装置4は、人物が横断歩道に向かおうとしているか否かを、画像情報処理装置2を介して入力される複数の画像情報から推測する。
推測方法は様々な方法で処理することが可能である。一例として、画像認識装置4は、時間的に前後する画像情報から人物の移動方向および移動速さを演算する。この場合、画像認識装置4は、人物の移動方向に横断歩道が存在する場合には、人物の移動速さから人物が横断歩道に到達する時間を演算する。そして、画像認識装置4は、人物の場合と同様に、画像情報から演算された自車両の移動方向および移動速さから自車両が横断歩道に到達する時間を演算する。
その結果、横断歩道に到達する時間が自車両と人物とで一致するか又はかなり接近した値(例えば3秒以内)である場合には、人物と自車両が接触または衝突する可能性があると推測し警報発生装置5へ対応する警報情報を出力するように構成するとよい。
次に、本実施形態に係るカメラ1a、1b、1c、および1dの車両への取り付け位置、障害物としての人、および警報情報としての警報音の音像定位位置との関係を、図2の平面図を用いて説明する。
車両7において、ドライバー8が座席9aに座り、ハンドル10を操作して車両7の運転をする。9bは助手席であり、9cは後部座席である。
車両7の図2における左上方(車両7の左前方)にはカメラ1aが取り付けられ、車両7の図2における左下方(車両7の左後方)にはカメラ1bが取り付けられ、車両7の図2における右下方(車両7の右後方)にはカメラ1cが取り付けられ、車両7の図2における右上方(車両7の右前方)にはカメラ1dが取り付けられている。車両の4方向に設けられたこれらのカメラ1a、1b、1c、および1dによって撮像された画像情報によって車両7の周囲360度(車両中心位置C1から円C2の円周)方向に存在する障害物(例えば、人物10)の画像情報が得られるように各カメラの向き、視野角は設定されている。
図2の場合、車両7の左後方にいる人物10は、カメラ1bまたはカメラ1aによって撮像され、画像認識装置4によって人物であることが特定される。
仮に、特定された人物10が、車両7の中心付近C1を中心とした半径r2の円周C2付近であって、半径方向D2の線上にいると仮定する。
ここで、情報処理装置Sは、ドライバー8の体の中心付近C3から半径r1離れた円周C4上の点B1に警報情報の音像を定位させてもよい。警報情報の音像が定位される点B1は、円周C2の半径方向D2と円周C4の半径方向D3とが互いに平行となるように、情報処理装置Sによって決定される。ドライバー8は、音像が定位された点B1方向に障害物としての人物10がいることを、聴覚で認識する。
もし、警報情報の音像が定位される点を、人物10の存在する半径方向D2と円周C4とが交差する点B2にすると、ドライバー8の体の中心付近C3から点B2の延長線上方向D1に人物がいると誤認識される可能性がある。したがって、この誤認識を防ぐために、情報処理装置Sが警報情報の音像を点B1に定位させるのである。
例えば、人物10が存在する円周C2の半径r2が大きくなるほど、ドライバー8が認識する人物10の方向の誤差が大きくなる(半径方向D1と半径方向D2とから形成される角度θ1の端点D11(人物10が存在しない位置の延長線上)と端点D21(人物10が存在する位置の延長線上)との距離は、半径r2が大きくなるほど離れていく)ことから、ドライバー8が認識する人物10の方向の誤差(ドライバーC3から点B2を介して端点D11の半径D1方向延長線上の位置と、ドライバー8の体の中心付近C3から点B1を介して半径D3方向延長線上の位置)とが大きくなることがわかる。
しかし、半径方向D2と半径方向D3とが平行であれば、人物10が半径r2の延長線上のどの位置に存在している場合にも、ドライバー8は人物10が半径r1の延長線上の半径方向D3に存在することを認識できるので、車両7の中心付近C1から人物10が存在する方向の位置認識がずれていくことにはならない。このことから、情報処理装置Sは、警報情報の音像を定位させる位置をドライバー8を中心とした円周C4上にすることが望ましいのである。
次に、カメラ1a、1b、1cおよび1dの各カメラの撮像範囲と重複する撮像範囲を車両7の平面図である図3を用いて説明する。
図2と同様に、車両7の図3における左上方(車両7の左前方)にはカメラ1aが取り付けられ、車両7の図3における左下方(車両7の左後方)にはカメラ1bが取り付けられ、車両7の図3における右下方(車両7の右後方)にはカメラ1cが取り付けられ、および車両7の図3における右上方(車両7の右前方)にはカメラ1dが取り付けられている。
カメラ1aの撮像範囲は、一例として、視野角θaで示されるおおよそ120度の範囲を図示している。視野角θaの一方の辺は車両7の左側面7a(図3において車両7の左辺)であり、他の辺は車両7の前方斜め左方向の辺7FLとなる。そして、カメラ1aの撮像範囲の中心方向を方向Daで示している。
また、カメラ1bの撮像範囲は、一例として、視野角θbで示されるおおよそ120度の範囲を図示している。視野角θbの一方の辺は車両7の背面7b(図3において車両7の低辺)であり、他の辺は車両7の後方斜め左方向の辺7BLとなる。そして、カメラ1bの撮像範囲の中心方向を方向Dbで示している。
また、角度θabはカメラ1aとカメラ1bとの撮像範囲で重複する範囲である。撮像範囲を2台のカメラで重複させるのは、カメラ1aとカメラ1bとで撮像した範囲に死角(車両7の周囲で撮像できない部分)が発生することを防ぐためである。詳細については、図4を用いて説明する。
カメラ1cの撮像範囲は、一例として、視野角θcで示されるおおよそ120度の範囲を図示している。視野角θcの一方の辺は車両7の右側面7c(図3において車両7の右辺)であり、他の辺は車両7の後方斜め右方向の辺7BRとなる。そして、カメラ1cの撮像範囲の中心方向を方向Dcで示している。
また、角度θbcはカメラ1bとカメラ1cとの撮像範囲で重複する範囲である。撮像範囲を2台のカメラで重複させるのは、カメラ1bとカメラ1cとで撮像した範囲に死角(車両7の周囲で撮像できない部分)が発生することを防ぐためである。
カメラ1dの撮像範囲は、一例として、視野角θdで示されるおおよそ120度の範囲を図示している。視野角θdの一方の辺は車両7の正面7d(図3において車両7の上辺)であり、他の辺は車両7の前方斜め右方向の辺7FRとなる。そして、カメラ1dの撮像範囲の中心方向を方向Ddで示している。
また、角度θcdはカメラ1cとカメラ1dとの撮像範囲で重複する範囲である。撮像範囲を2台のカメラで重複させるのは、カメラ1cとカメラ1dとで撮像した範囲に死角(車両7の周囲で撮像できない部分)が発生することを防ぐためである。
同様に、角度θdaはカメラ1dとカメラ1aとの撮像範囲で重複する範囲である。撮像範囲を2台のカメラで重複させるのは、カメラ1dとカメラ1aとで撮像した範囲に死角(車両7の周囲で撮像できない部分)が発生することを防ぐためである。
カメラ1の撮像範囲を示す視野角θa、θb、θc、およびθdの値は、おおよそ120度に限定されるわけではなく90度以上の任意の値とすることが可能である。
次に、図4を用いて、カメラ1a、1b、1cおよび1dの各カメラの撮像範囲と画像情報処理装置2内に設けられている記憶部(図示せず)への画像の記憶処理について説明する。
図4(a)は、カメラ1a、1b、1cおよび1dの各カメラで撮像された範囲の画像情報と、各カメラで重複して撮像された画像情報範囲とを模式的に示している。
カメラ1aで撮像された画像情報は視野角θaで示された領域であり、カメラ1bで撮像された画像情報は視野角θbで示された領域であり、カメラ1cで撮像された画像情報は視野角θcで示された領域であり、カメラ1dで撮像された画像情報は視野角θdで示された領域である。
ここで、図4(a),(b)における視野角θa、θb、θc、θdは図3におけるカメラ1a、1b、1c、1dで撮像される視野角θa、θb、θc、θdと各々対応している。
また、図4(b)に示すように、カメラ1aのθaaに対応する画像領域がA1であり、カメラ1bのθabに対応する画像領域がB2である。同様に、カメラ1bのθbbに対応する画像領域がB1であり、カメラ1cのθbcに対応する画像領域がC2であり、カメラ1cのθccに対応する画像領域がC1であり、カメラ1dのθcdに対応する画像領域がD2である。
図4中、共通な角度範囲の画像情報、例えば、カメラ1aのθaaに対応する画像情報(画像情報領域A1)と、カメラ1bのθabに対応する画像情報(画像情報領域B2)とは、ともに画像情報処理装置2の記憶部に記憶される。
したがって、図3における0度方向に位置する人物10a、図3における90度方向に位置する人物10b、図3における180度方向に位置する人物10c、および図3における270度方向に位置する人物10dは、それぞれ対応する複数のカメラの画像に含まれた形で記憶される。例えば、90度方向に位置する人物画像中、カメラ1aおよび1bとの重複部分は、そのままカメラ1aおよび1bの画像として重複して記憶される。
次に、図5を用いて、画像情報領域A1、画像情報領域B1、画像情報領域C1、および画像情報領域D1を画像情報処理装置2が記憶する必要がある理由について説明する。
例えば、図5における空間領域ADは、図3のカメラ1aが撮像する角度θaaに対応する空間領域である。画像情報領域A1に対応する画像情報には、図4(b)で示すように、画像情報領域B2との重複部分がある反面、画像情報領域A1にしか含まれない領域ADがある。したがって、仮に、画像情報領域A1に対応する画像情報を画像情報処理装置2が記憶しない場合には、空間領域ADに対応する画像情報が欠落してしまう。すなわち、空間領域ADに位置する障害物を情報処理装置Sが認識できなくなってしまう(車両7にとって死角となる)ためである。
また、画像情報領域B1についても同様のことがいえ、空間領域BDに対応する画像情報が死角となるので、カメラ1bの画像情報を記憶する必要がある。カメラ1cについての空間領域CD、カメラ1dについての空間領域DDも同様である。
前述のように、画像情報処理装置2は、隣接する各カメラの配置に起因する死角をなくすようにする為に一部の画像情報を重複して記憶するように構成している。
次に、図6を用いて、情報処理装置Sにおける動作例についてフローチャートを用いて説明する。
本動作例においては、前述の説明に加え、過去の事故情報を記憶装置3にさらに記憶しており、この情報も危険度の判別に利用している。過去の事故情報としては、過去に事故の起きた回数に基づいて事故が多発する地点に対して関連付けられた統計的な多段階の危険度情報を事故情報として記憶し利用することができる。
図6に示すステップS1において、車両7に設置された4台のカメラ(カメラ1a、1b、1c、および1d)で撮像された画像情報を合成し、図5で説明したように死角なく画像情報処理装置2の記憶部に展開する。
ステップS2において、画像認識装置4は、画像情報処理装置2の記憶部に記憶された画像情報と、記憶装置3に予め記憶されている障害物の画像情報(テンプレート情報)とを比較し、車両7の周囲に存在する障害物の有無および種類を認識する。
ステップS3において、ステップS2において認識された障害物が、車両7と衝突し、または接触するなどの危険性があるか否かを、画像認識装置4が連続的に入力されるカメラ画像から判断する。この際、標識情報を利用すると人物が交差点に向かっているといった、より正確な判断が可能となる。画像認識装置4が、危険性が無いと判断した場合(ステップS3:NO)にはステップS1に戻り、危険性が有ると判断した場合(ステップS3:YES)にはステップS4に進む。
ステップS4において、画像認識装置4は、危険性の有る障害物が車両7からどの方向にあるかを、画像情報処理装置2から出力された画像情報に基づいて判別(演算)する。
ステップS5において、画像認識装置4は、上記障害物の種類情報と、車両7を基準として当該障害物が位置する方向を示す方向情報を含む警報情報を、警報発生装置5へ出力する。
ステップS6において、警報発生装置5は、画像認識装置4から出力された警報情報を受け、自車情報を考慮し警報信号の種類とレベルを選択する。次いで、警報情報に含まれる障害物の方向情報(車両7から障害物の位置する方向への角度情報)より、内部のDSPを用いて警報信号のレベル及び位相を決定することで定位を制御する(言い換えれば、警報音の音像位置を決めて警報を出力する)。この際、前述のように画像認識により得られた障害物の方向を、運転席を基準とした方向になるように、方向換算(変換)する(例えば、図2における半径方向D3を演算することに該当する)ことでより実体に沿った警報信号を提供することができる。そして、警報発生装置5は、DSPで演算された条件に沿って各スピーカを駆動し、音像を定位させる。
なお、カーステレオ等の音響機器のスピーカと共用する場合には、音楽等も同様に定位を変更したり、音楽等に重畳する警報信号のみの定位を変更してもよい。
前述の一連の処理は、ステップS7において、障害物がないと判断されるまで継続する。障害物が有る場合(ステップS9:NO)には、ステップS1に戻り、障害物が無い場合(ステップS9:YES)には、情報処理装置Sは処理を終了するように構成している。
また、過去の事故情報をさらに利用する際の例としては、ステップS8およびステップS9を追加することが考えられる。
ステップS8において、画像認識装置4は、記憶装置3に予め記憶されている過去の事故情報と、現在の車両7(自車両)の位置とを比較し、当該車両7が事故を起こす危険度を判断する。例えば、過去の事故情報より事故多発の地点と判断される場合には警報信号のレベルを通常より大きくするという制御が可能となる。
さらにステップS9においては、自車両の運転状態を判断することで警報信号のレベルを選択することにより、該レベルを変更可能にしている。例えば、長時間運転、夜間運転中であるか否かは容易に検出できるので、この情報を利用して反応が鈍くなっていると判断し、警報信号のレベルを通常より大きくしたりする制御を可能としている。
なお、図6のフローチャートを、光ディスク等の記録媒体に予め記録しておき、或いはインターネット等のネットワークを介して予め記録しておき、これを汎用のマイクロコンピュータ等により読み出して実行することにより、当該汎用のマイクロコンピュータ等を実施形態に係わるCPUとして機能させることも可能である。
以上説明したように、上記実施形態によれば、情報処理装置Sは、カメラ画像認識処理をした結果、自車両の中心又は運転席を中心とした360度のどの方向に危険が生じたかを画像認識装置4で判断し、警報情報を警報発生装置5に伝え、警報発生装置5が警報音を制御して音像を定位させ、警報音の聞こえる方向によってどの方向に危険が生じたかをドライバーに知らせることができる。したがって、ドライバーはいち早く肉眼で実態を確認できるので、衝突等の危険回避操作を迅速にすることができる。
また、情報処理装置Sは、障害物の種類情報に応じて警報情報を変化(定位させる音像を変化)させることができるので、危険度の高い障害物の場合には、ドライバーに緊急事態であることを迅速に判断させることができる一方、危険度の低い障害物の場合には、ドライバーに適度な警報音に基づいて適切な運転操作を促すことができ、運転操作の安全性も確保することができる。
また、情報処理装置Sは、障害物の種類情報と自車情報に基づいて(つまり、障害物の種別と、自車両の種別との組合せに応じて)警報情報を変化(定位させる音像を変化)させることができるので、より一層、適切な運転操作を促すことができ、運転操作の安全性を一層向上させることができる。
また、情報処理装置Sは、障害物と車両との移動状態(位置関係を含む)を推測することができるので、事前に障害物と車両との衝突または接触の可能性を判断することができる。その結果、ドライバーが十分な余裕時間をもって、障害物との衝突または接触を回避するための運転操作をすることができる。
また、情報処理装置Sは、車両の周囲にある標識を認識することができるので、標識と障害物との関係に基づいて危険度を判断し、音像を定位することによって、ドライバーに余裕時間をもたせて、障害物との衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、過去の事故パターン等の事故情報を記憶する構成によれば、車両の周囲の状況と過去の事故情報とを考慮した危険度の予測ができるので、確率よくドライバーに余裕時間をもたせて、障害物との衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、車両の周囲の状況を認識する場合に死角が発生しないように画像情報を処理するので、確実にドライバーの周辺にある障害物を認識して衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、障害物として人物が認識された場合において、車両が直進している場合には衝突または接触する危険度が低いと判断し、車両の経路が左折を予定している場合には衝突または接触する危険度が非常に高いと判断して警報情報を生成することも可能であり、より適切にドライバーに障害物との衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、標識情報として速度制限の表示を認識した場合に、車両が制限された速度以上で移動している場合に、障害物を認識した場合には、危険度が非常に高いと判断して警報情報を生成することも可能なので、より適切にドライバーに障害物との衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、標識情報として駐車場、非常駐車場、サービスエリア、またはそれらの予告情報の表示を認識した場合に、障害物がそれらの標識情報を認識した付近から接近してくる場合には、危険度が高いと判断して警報情報を生成することも可能であり、より適切にドライバーに障害物との衝突または接触を回避するための運転操作をさせることができる。
また、情報処理装置Sは、標識情報として学校、幼稚園、保育園、信号機、またはそれらの予告情報の表示を認識した場合にも同様である。基本的には車両の周囲に接近してくる子供を認識した場合には、危険度が高いと判断して警報情報を生成することが望ましい。
また、上記実施形態については、移動体として車両を例にとって説明したが、これに限定されるものではなく、移動体として航空機、船舶、或いはユーザにより運転可能な機器に対しても適用可能である。
Claims (9)
- 移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行う情報処理装置において、
予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶手段と、
前記移動体の外部の画像情報を撮像する画像情報撮像手段と、
前記画像情報撮像手段によって撮像された画像情報と、前記記憶手段に記憶された前記障害物の画像情報とを比較する比較手段と、
前記比較手段の比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算手段と、
前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位手段と、
を備えることを特徴とする情報処理装置。 - 請求項1に記載の情報処理装置において、
前記演算手段は、少なくとも2つ以上の前記撮像された画像情報に基づいて前記障害物および前記移動体の移動状態を予測演算し、前記障害物と前記移動体とが接触する可能性がある場合に、前記音像定位手段は前記警報情報を音像として定位させることを特徴とする情報処理装置。 - 請求項1または2に記載の情報処理装置において、
前記音像定位手段は、前記障害物の前記種類情報に応じて前記警報情報を変化させることを特徴とする情報処理装置。 - 請求項3に記載の情報処理装置において、
前記記憶手段は、自移動体の種別を示す自移動体情報を更に記憶しており、
前記音像定位手段は、前記障害物の前記種類情報と前記自移動体情報に基づいて前記警報情報を変化させることを特徴とする情報処理装置。 - 請求項1乃至4の何れか一項に記載の情報処理装置において、
前記方向情報に示される方向を、前記移動体の運転席を基準とした方向へ変換する変換手段を有することを特徴とする情報処理装置。 - 請求項1乃至5の何れか一項に記載の情報処理装置において、
前記画像情報撮像手段が複数ある場合には、隣接する前記画像情報撮像手段はお互いに隣接する一部の角度範囲を重複して撮像することを特徴とする情報処理装置。 - 移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行う情報処理装置の制御方法において、
予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶工程と、
前記移動体の外部の画像情報を撮像する画像情報撮像工程と、
前記画像情報撮像工程において撮像された画像情報と、前記記憶工程において記憶された前記障害物の画像情報とを比較する比較工程と、
前記比較工程における比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算工程と、
前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位工程と、
を備えることを特徴とする情報処理装置の制御方法。 - 移動体に設けられ、ユーザに対して警報情報を報知するための情報処理を行うコンピュータを、
予め、少なくとも一つ以上の障害物の画像情報と、当該障害物の種別を示す種類情報を記憶する記憶手段、
前記移動体の外部の画像情報を撮像する画像情報撮像手段、
前記画像情報撮像手段によって撮像された画像情報と、前記記憶手段に記憶された前記障害物の画像情報とを比較する比較手段、
前記比較手段の比較による結果、前記撮像された画像情報に、前記障害物が存在すると判断された場合には、前記移動体の中心付近を基準として当該障害物が位置する方向を示す第一方向情報と、当該移動体の運転席に着座した運転者の中心付近を基準として当該第一方向情報によって示される方向と平行となる方向を示す第二方向情報と、を演算する演算手段、及び
前記演算された第二方向情報と、前記障害物の前記種類情報とに基づいて、前記警報情報を音像として定位させる音像定位手段として機能させることを特徴とする制御プログラム。 - 請求項8に記載の制御プログラムを記録した、コンピュータに読み取り可能な情報記録媒体。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2006/325262 WO2008075407A1 (ja) | 2006-12-19 | 2006-12-19 | 情報処理装置並びにその制御方法、制御プログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2008075407A1 JPWO2008075407A1 (ja) | 2010-04-02 |
JP4745403B2 true JP4745403B2 (ja) | 2011-08-10 |
Family
ID=39536046
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008550001A Expired - Fee Related JP4745403B2 (ja) | 2006-12-19 | 2006-12-19 | 情報処理装置及びその制御方法等 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4745403B2 (ja) |
WO (1) | WO2008075407A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105160941A (zh) * | 2015-09-30 | 2015-12-16 | 宇龙计算机通信科技(深圳)有限公司 | 信息提醒方法、信息提醒装置和移动终端 |
KR20160089933A (ko) * | 2015-01-20 | 2016-07-29 | 한국전자통신연구원 | 차량 충돌 방지 장치 및 차량 충돌 방지 방법 |
CN106200910A (zh) * | 2016-06-29 | 2016-12-07 | 北京小米移动软件有限公司 | 障碍提醒方法及装置 |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9239380B2 (en) | 2008-05-21 | 2016-01-19 | Adc Automotive Distance Control Systems Gmbh | Driver assistance system for avoiding collisions of a vehicle with pedestrians |
JP5217950B2 (ja) * | 2008-11-20 | 2013-06-19 | トヨタ自動車株式会社 | 運転支援装置 |
WO2010092621A1 (ja) * | 2009-02-13 | 2010-08-19 | パイオニア株式会社 | 車線逸脱警告装置、車線逸脱警告装置の制御方法およびそのプログラム |
JP5305090B2 (ja) * | 2009-03-02 | 2013-10-02 | オムロン株式会社 | 安全監視装置および方法、並びに、プログラム |
JP5293321B2 (ja) * | 2009-03-23 | 2013-09-18 | 株式会社豊田中央研究所 | 対象物識別装置及びプログラム |
JP5338801B2 (ja) | 2010-12-23 | 2013-11-13 | 株式会社デンソー | 車載障害物情報報知装置 |
JP5895365B2 (ja) * | 2011-06-06 | 2016-03-30 | 住友電気工業株式会社 | 歩行者端末装置、コンピュータプログラム、及び、歩行経路の検索方法 |
WO2014024247A1 (ja) * | 2012-08-06 | 2014-02-13 | 三菱電機株式会社 | 車両接近報知装置 |
JP2014134503A (ja) * | 2013-01-11 | 2014-07-24 | Denso Corp | 疲労軽減サポート装置 |
US9663031B2 (en) * | 2013-10-21 | 2017-05-30 | Harman International Industries, Inc. | Modifying an audio panorama to indicate the presence of danger or other events of interest |
CN104463145B (zh) * | 2014-12-23 | 2018-07-31 | 上海斐讯数据通信技术有限公司 | 一种电子设备及障碍提醒方法 |
US11317205B2 (en) | 2017-03-29 | 2022-04-26 | Sony Corporation | Information processing apparatus, information processing method, program, and mobile object |
JP2019185180A (ja) * | 2018-04-03 | 2019-10-24 | 株式会社Jvcケンウッド | 警告処理装置、警告処理方法およびプログラム |
JP7177114B2 (ja) | 2020-03-27 | 2022-11-22 | 本田技研工業株式会社 | 走行支援システム、走行支援方法およびプログラム |
JPWO2023189084A1 (ja) * | 2022-03-30 | 2023-10-05 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0585288A (ja) * | 1991-09-27 | 1993-04-06 | Nissan Motor Co Ltd | 車両警報装置 |
JP2001001851A (ja) * | 1999-06-16 | 2001-01-09 | Honda Motor Co Ltd | 車両用警報装置 |
JP2003081039A (ja) * | 2001-09-12 | 2003-03-19 | Toyota Central Res & Dev Lab Inc | 環境危険度演算装置 |
JP2003157482A (ja) * | 2001-11-19 | 2003-05-30 | Mazda Motor Corp | 車両用自動通報装置 |
JP2004030361A (ja) * | 2002-06-27 | 2004-01-29 | Koyo Seiko Co Ltd | 車両用操舵装置 |
JP2004257924A (ja) * | 2003-02-27 | 2004-09-16 | Nissan Motor Co Ltd | 対象物検出装置 |
JP2005008020A (ja) * | 2003-06-18 | 2005-01-13 | Denso Corp | 車両用走行情報報知装置 |
JP2005125953A (ja) * | 2003-10-24 | 2005-05-19 | Alpine Electronics Inc | 車載用物体認識システムおよびこれを用いた運転支援システム |
JP2005524900A (ja) * | 2002-05-07 | 2005-08-18 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング | 第1の対象物の事故の危険性を少なくとも1つの第2の対象物により判定する方法 |
JP2006019908A (ja) * | 2004-06-30 | 2006-01-19 | Denso Corp | 車両用報知音出力装置及びプログラム |
JP2006107148A (ja) * | 2004-10-06 | 2006-04-20 | Hitachi Ltd | 音声情報提供装置 |
-
2006
- 2006-12-19 WO PCT/JP2006/325262 patent/WO2008075407A1/ja active Application Filing
- 2006-12-19 JP JP2008550001A patent/JP4745403B2/ja not_active Expired - Fee Related
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0585288A (ja) * | 1991-09-27 | 1993-04-06 | Nissan Motor Co Ltd | 車両警報装置 |
JP2001001851A (ja) * | 1999-06-16 | 2001-01-09 | Honda Motor Co Ltd | 車両用警報装置 |
JP2003081039A (ja) * | 2001-09-12 | 2003-03-19 | Toyota Central Res & Dev Lab Inc | 環境危険度演算装置 |
JP2003157482A (ja) * | 2001-11-19 | 2003-05-30 | Mazda Motor Corp | 車両用自動通報装置 |
JP2005524900A (ja) * | 2002-05-07 | 2005-08-18 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング | 第1の対象物の事故の危険性を少なくとも1つの第2の対象物により判定する方法 |
JP2004030361A (ja) * | 2002-06-27 | 2004-01-29 | Koyo Seiko Co Ltd | 車両用操舵装置 |
JP2004257924A (ja) * | 2003-02-27 | 2004-09-16 | Nissan Motor Co Ltd | 対象物検出装置 |
JP2005008020A (ja) * | 2003-06-18 | 2005-01-13 | Denso Corp | 車両用走行情報報知装置 |
JP2005125953A (ja) * | 2003-10-24 | 2005-05-19 | Alpine Electronics Inc | 車載用物体認識システムおよびこれを用いた運転支援システム |
JP2006019908A (ja) * | 2004-06-30 | 2006-01-19 | Denso Corp | 車両用報知音出力装置及びプログラム |
JP2006107148A (ja) * | 2004-10-06 | 2006-04-20 | Hitachi Ltd | 音声情報提供装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160089933A (ko) * | 2015-01-20 | 2016-07-29 | 한국전자통신연구원 | 차량 충돌 방지 장치 및 차량 충돌 방지 방법 |
KR102303239B1 (ko) | 2015-01-20 | 2021-09-23 | 한국전자통신연구원 | 차량 충돌 방지 장치 및 차량 충돌 방지 방법 |
CN105160941A (zh) * | 2015-09-30 | 2015-12-16 | 宇龙计算机通信科技(深圳)有限公司 | 信息提醒方法、信息提醒装置和移动终端 |
CN106200910A (zh) * | 2016-06-29 | 2016-12-07 | 北京小米移动软件有限公司 | 障碍提醒方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2008075407A1 (ja) | 2010-04-02 |
WO2008075407A1 (ja) | 2008-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4745403B2 (ja) | 情報処理装置及びその制御方法等 | |
JP4846426B2 (ja) | 車両周囲監視装置 | |
JP4687160B2 (ja) | 周辺監視装置 | |
JP6515814B2 (ja) | 運転支援装置 | |
JP6564576B2 (ja) | 自動車における近接体警報知装置 | |
JP5316698B2 (ja) | 運転支援装置 | |
JP4517393B2 (ja) | 運転支援装置 | |
JP4992227B2 (ja) | 運転支援システムおよびプログラム | |
JP4886510B2 (ja) | 駐車プロセス中に複数車線の車道の対向車線に対して相対的に車両の位置および/または所期の位置を求めるための方法および装置 | |
JP6400215B2 (ja) | 車両制御装置及び車両制御方法 | |
JP5024255B2 (ja) | 運転支援装置 | |
US20160090038A1 (en) | Danger zone warning system | |
JP2004362586A (ja) | 車両用画像処理システム | |
JP4223320B2 (ja) | 車両用運転支援装置 | |
JP2005328181A (ja) | 周囲確認装置 | |
JP2019505883A (ja) | 緊急車両との自動車の衝突防止方法とその方法に関するシステム及び自動車 | |
JP2010113601A (ja) | 車両用警告装置 | |
JP2019197303A (ja) | 車外報知装置 | |
JP2018074286A (ja) | 運転支援装置 | |
WO2017018073A1 (ja) | 運転支援装置 | |
JP2007124097A (ja) | 車両周辺視認装置 | |
JP6599387B2 (ja) | 情報報知装置、移動体及び情報報知システム | |
JP4873255B2 (ja) | 車両用報知システム | |
WO2012144076A1 (ja) | 車両周辺監視装置及び車両周辺監視情報の表示方法 | |
JP2018142297A (ja) | 情報処理装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110510 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110511 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140520 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |