JP2010237798A - 画像処理装置および画像処理プログラム - Google Patents
画像処理装置および画像処理プログラム Download PDFInfo
- Publication number
- JP2010237798A JP2010237798A JP2009082715A JP2009082715A JP2010237798A JP 2010237798 A JP2010237798 A JP 2010237798A JP 2009082715 A JP2009082715 A JP 2009082715A JP 2009082715 A JP2009082715 A JP 2009082715A JP 2010237798 A JP2010237798 A JP 2010237798A
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- image information
- area
- obstacle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】
撮影した画像情報から、障害物や歩行者などの障害物を除去するとともに、障害物にて隠蔽された領域を修復する。
【解決手段】
本発明の画像処理装置は、画像情報内の障害物を検出する検出処理と、検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とする。
【選択図】図10
撮影した画像情報から、障害物や歩行者などの障害物を除去するとともに、障害物にて隠蔽された領域を修復する。
【解決手段】
本発明の画像処理装置は、画像情報内の障害物を検出する検出処理と、検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とする。
【選択図】図10
Description
本発明は、車両などに搭載されたカメラで撮影した画像情報を処理する画像処理装置、および画像処理プログラムに関する。
近年、超音波センサ、カメラ、GPSなど各種センシング技術を車両に搭載し、安全性や快適性を向上させる各種製品が開発されている。中でも、画像情報を提供する車載カメラは、その機能の向上、並びに低価格化により、駐車を補助するバックモニターや全方位モニター、或いは、事故の状況を記録するドライブレコーダなど広く一般に普及しつつある。
特許文献1には、このような車載カメラを利用した多機能車載カメラシステムが記載されている。この多機能車載カメラシステムでは、図3に示されるように、車両の周囲に、前方を撮影する前方カメラ11、真後ろを撮影するリアカメラ18など合計8個のカメラが搭載され、車両の状況を示す信号に応じて、画像処理に使用するカメラの画像を指定するとともに、画像処理手段での画像処理の形態を切り換えることで、安全運転を支援する画像を、運転状況に応じた適切なタイミングで、また、運転者に分かり易い表示形態で表示することが開示されている。
この特許文献1における表示形態としては、隣り合うカメラで取得した画像を繋ぎ合わせて形成したパノラマ画像、全周画像、結合画像などが挙げられ、これらの画像により、運転者は一目で広い範囲の状況を知ることができる。
一方、車両に搭載されるカメラは、このような車両の状況把握だけでなく、事故による衝撃を検出することで、事故直前の映像を記録する事故状況を把握するドライブレコーダにも利用されている。
さらには、車載カメラで撮影した画像をGPSで取得した位置情報と対応付け、インターネット上で地図情報と併せて公開する地図情報サービスも実用化されている。このような地図情報サービスによれば、実際の現場の様子や、走行ルートをインターネット上の地図を参照しながら確認することが可能となっている。
この地図情報サービスに用いられる画像には、車両の全周囲を見渡せるようなパノラマ画像が用いられているが、特許文献2には、このようなパノラマ画像を形成する映像生成システムとして、複数のカメラからなる全方位カメラシステムを用い、カメラ間の映像をパノラマ画像として合成し、実写映像を元にしたウォークスルーアニメーションを形成することが開示されている。
以上のようなインターネット上で提供される地図情報サービスや、特許文献2における映像生成システムでは、実際に走行する車両から道路周辺の風景を撮影するため、道路を
走行する他の車両や歩行者などが一緒に撮影される。トラックなどの大型の車両が写し込まれた場合には、本来必要となる風景が得ることができない。また、このように撮影された画像を、インターネットで広く一般に公開した場合には、車両のナンバープレートや歩行者なども一緒に公開され、プライバシーの侵害の問題が生ずることとなる。
走行する他の車両や歩行者などが一緒に撮影される。トラックなどの大型の車両が写し込まれた場合には、本来必要となる風景が得ることができない。また、このように撮影された画像を、インターネットで広く一般に公開した場合には、車両のナンバープレートや歩行者なども一緒に公開され、プライバシーの侵害の問題が生ずることとなる。
このような問題に配慮するため、当該画像から車両や歩行者などにモザイクをかけるなどの画像処理を施すことが行われているが、このような画像処理を施した画像は違和感が残ったものとなる。
本発明の画像形成装置は、画像情報内の障害物を検出する検出処理と、検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とするものである。
さらに、本発明の画像形成装置において、抽出処理は、移動関連情報により画像情報と後の時刻の画像情報間の移動距離を算出し、移動距離に基づいて補間用領域を抽出することとしている。
さらに、本発明の画像形成装置において、移動関連情報は、画像情報に対応する位置情報を含むこととしている。
さらに、本発明の画像形成装置において、移動関連情報は、画像情報に対応する加速度情報を含むこととしている。
さらに、本発明の画像形成装置において、障害物は、車両もしくは歩行者であることとしている。
さらに、本発明の画像形成装置において、出力画像には、位置情報が付加されることとしている。
また、本発明の画像形成プログラムは、画像情報内の障害物を検出する検出処理と、検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とするものである。
図1は、本発明の実施形態に係る前方カメラによる撮影の様子を示した図である。本実施形態では、自車のフロントグリル中央付近に搭載された前方カメラにて車両前方の景色が撮影されるが、この前方カメラの搭載位置は、車室内など適宜な位置に設けてもよく、車両の中央から偏位した位置としてもよい。
また、本発明では、時間的に連続する複数の画像情報が必要とされるが、その取得については、前方カメラで動画(ムービー)を撮影することで取得することとしてもよいし、適宜な時間間隔にて静止画として取得するものであってもよい。
このように車両に搭載されたカメラにて撮影を行い沿道の風景を取得する場合、不必要な障害物が画像に写り込んでしまう場合がある。ここでいう障害物としては、例えば、図に示すような、自車の前方を同方向に走行する前方車両、対向車線を走行する対向車両、あるいは、歩道を歩いている歩行者などがあげられる。このような障害物は、本来取得したい沿道の風景を遮蔽してしまう。
また、取得した画像が高解像度の場合には、車両のナンバープレートや人の顔などが鮮明に写ってしまい、インターネット上などで公開した場合にはプライバシーの問題などが発生する。本発明は、このような状況を鑑み、取得した画像情報から障害物を取り除くとともに、障害物によって隠蔽された領域を他の画像情報によって補間することを特徴とするものである。なお、本発明における障害物とする車両とは、図示するような自動車のみならず、バイクや自転車といった二輪車なども含むものである。
図2は、本発明の実施形態に係るデータ取得システムを示した図であり、図3は、このデータ取得システムによって取得された取得データの一例を示した図である。図2に示すデータ取得システムは、車両に搭載されるシステムであって、本実施形態では、前方カメラ11、加速度センサ12、GPS13、時計14、制御部15、データベース16から構成されている。
前方カメラ11は、図1にて説明したように車両に設置されるカメラであって、車両前方を撮影して前方画像を取得する。前方画像としては、適宜フレーム間隔にて撮影された動画であっても、適宜時間間隔で撮影された静止画であってもよい。
加速度センサ12は、ジャイロによって構成された各種方向の加速度を検出するセンサであって、三軸ジャイロを利用した場合には、その出力となる加速度情報として、図3に示すように、車両の前後、左右、上下の加速度といったものの他、車体の前後軸まわりの運動、すなわち車体が右や左に傾く運動を示すX軸回転度(ローリング)、車体の左右軸まわりの運動、すなわち車首を上下に振る運動を示すY軸回転度(ピッチング)、車体の上下軸まわりの運動、すなわち車首を左右に振る運動(ヨーイング)を取得することができる。
取得した加速度情報の履歴を累算することで、適宜時刻の車両の速度や位置、移動距離を計算することができる。また、トンネル内などGPS13にて位置情報が取得できない場合には、この加速度情報を利用することで位置情報を補間することが可能となる。
GPS13は、衛星から受信したGPS信号により車両の緯度、経度といった位置情報を出力する装置である。なお、GPS信号には、日時、時刻といった計時情報も含まれて
いるため、計時情報は、時計14からの取得に代えて、このGPS信号を利用することとしてもよい。
いるため、計時情報は、時計14からの取得に代えて、このGPS信号を利用することとしてもよい。
時計14は、日時、時刻といった計時情報を出力する装置である。記事情報は、取得した画像情報について時間軸での前後関係を規定するために用いることとしている。また、加速度情報から車両の位置、移動距離を計算する場合には、この計時情報が利用される。なお、画像情報の時間軸での前後関係を特定することができれば、計時情報ではなく、画像情報に対応付けられたシリアル番号などを利用してもよく、また、時刻のような絶対的な計時情報に限らず、ある時点を起点として計時を行う相対的な計時情報を用いることとしてもよい。
制御部15は、前方カメラ11、加速度センサ12、GPS13、時計14などから出力される各種情報を対応付け、取得データとしてデータベース16に記憶させる。図3は、データベース16に対応付けて記憶された取得データの一例を示した図である。
大項目に記載されるように画像情報に、移動関連情報、計時情報が対応付けられる。本実施形態では、このように1つの画像情報に移動関連情報、計時情報を対応付けたものとなっているが、画像情報から移動関連情報を特定できる構成であれば、このような対応付けに限らず、例えば、画像情報、移動関連情報の両者に付された計時情報から特定できるようにするなど各種の態様を採用することができる。そして、計時情報については、前述したように画像情報の時間軸での前後関係を特定することができるのであれば必ずしも必要とされない。
小項目をみると解るように、本実施形態において、画像情報は前方画像であり、移動関連情報は位置情報、加速度情報を含んで構成され、計時情報は日時、時刻を含む情報となっている。なお、この実施形態では、移動関連情報は、位置情報、加速度情報の両方を含んで構成しているが、移動関連情報は、少なくとも画像情報間での撮影時における移動距離が特定できる情報であれば足りるものであって、位置情報、加速度情報のどちらか一方を利用するものであってもよい。
詳細には、位置情報として緯度、経度からなるGPSデータが、そして、加速度情報として加速度センサ12で説明した各種の加速度情報が記載されている。加速度情報は、このように各種のものを記録することができるが、後に説明する画像処理において必要となる適宜のものを採用して記録することとしてもよい。
このようにデータベース16には、各種センサで収集した情報が対応付けて記憶されることとなる。本実施形態では、図2のデータ取得システムを車両に搭載することとしたが、このデータ取得システムにおいてデータベース16は、車両外に設置することとしてもよい。例えば、制御部15とデータベース16とを通信回線を介して接続し、図3で説明したような取得データを遠隔地に設置されているデータベース16に送信して記憶させることとしてもよい。
図4は、本発明の実施形態に係る画像処理システムの概略を示した図である。本実施形態の画像処理システムは、データベース21と画像処理装置22にて構成されている。この画像処理システムは、図2のデータ取得システムとその一部を共用することとしても、別のシステムとして構築することとしてもよい。共用する場合、データベース21はデータベース16が、画像処理装置22は制御部15が兼用される。
データベース21には、図1にて説明したデータ取得システムにおけるデータベース16から画像処理装置22における画像処理で必要となる情報が格納される。本実施形態で
は、少なくとも時間軸での前後関係が判別できる画像情報、そして、位置情報、加速度情報といった移動関連情報が必要とされる。
は、少なくとも時間軸での前後関係が判別できる画像情報、そして、位置情報、加速度情報といった移動関連情報が必要とされる。
画像処理装置22は、CPU、GPUなどの制御手段、メモリ、ハードディスクといった記憶手段、各種インタフェースを備えたコンピュータにて構成される。この画像処理装置22は、データベース21から画像情報、移動関連情報を取得し、移動関連情報に基づいて画像情報を加工して出力画像を生成する。
画像処理装置22は、パーソナルコンピュータなどの汎用ハードウェアにプログラムを動作させることで構成されることとしてもよい。その場合、本発明はハードウェア上で動作動作するプログラムとして提供される。
では、この画像処理装置22における画像処理について図5〜図11を用いて説明する。図5は、本発明の実施形態に係る画像処理を示すフロー図であり、図6は、本発明の実施形態に係る補間処理を示すフロー図であり、図7は、本発明の実施形態に係る無効領域設定の様子を示す図であり、図8は、本発明の実施形態に係る補間用領域設定の様子を示す図であり、図9は、本発明の実施形態に係る車両の走行特性を示す模式図であり、図10、図11は、本発明の実施形態に係る画像処理の様子を示す図である。
図5は、1つの画像情報に対する画像処理を示したフロー図である。複数の画像情報に対して画像処理を行う場合には、この図5に示すフローが繰り返し行われる。S100にて画像処理が開始されると、まず、1つの画像情報(前方画像)がデータベース21から取得される。S102では、取得した画像情報を解析することで当該画像情報内の障害物を検出する。
図7(A)は、この画像情報内の障害物検出の様子の一例を示した図である。この図では画像情報内に前方を走行する前方車両が写り込み、前方の景色を隠蔽するとともに、車両のナンバープレートも一緒に撮影されたものとなっている。本実施形態では、この前方車両のような物体を障害物として検知することとしている。その検知方法には、例えば、以下に説明する3つの形態を利用することができる。
(1)予め障害物の対称となる画像、あるいは、その特徴量をテンプレートとして記憶しておき、画像情報とパターンマッチングを取ることで画像情報内での障害物の検出を行う形態。
(2)画像情報内の輪郭線などの特徴形状を抽出し、ニューラルネットワークなどを利用して解析し、画像情報内での障害物を検出する形態。
(3)複数の画像情報内での輝度変化に基づく動きベクトル(オプティカルフロー)を検出し、自車の動きに基づく動きベクトルとは異なる部分を障害物として検知する形態。この場合、自車の動きを検出するため移動関連情報が利用される。
(1)予め障害物の対称となる画像、あるいは、その特徴量をテンプレートとして記憶しておき、画像情報とパターンマッチングを取ることで画像情報内での障害物の検出を行う形態。
(2)画像情報内の輪郭線などの特徴形状を抽出し、ニューラルネットワークなどを利用して解析し、画像情報内での障害物を検出する形態。
(3)複数の画像情報内での輝度変化に基づく動きベクトル(オプティカルフロー)を検出し、自車の動きに基づく動きベクトルとは異なる部分を障害物として検知する形態。この場合、自車の動きを検出するため移動関連情報が利用される。
このような各種形態を利用することで、画像情報内の障害物が検出される。これら形態は単独で用いてもよいし、各種状況や画像情報の状態で切り換えることとしてもよいし、また、複数組み合わせることで障害物検出の精度を向上させることとしてもよい。なお、1つの画像情報内において障害物は1つのみならず複数検出することも可能である。
図5に戻り、S102ではS101の障害物検出処理にて、画像情報に障害物が検出されたか否かの判定される。障害物がないと判定された場合には、S104においてS101で取得した画像情報をそのまま出力画像に設定し、画像処理を終了する。なお、この出力画像の設定では、出力画像に位置情報が対応付けて設定される。出力画像に位置情報を対応付けることで、地図情報などから出力画像を検索することが可能となる。一方、画像情報内に障害物が検出された場合には、S200にて画像処理に対し補間処理を行った上
で、出力画像が形成される。
で、出力画像が形成される。
図6は、このS200の補間処理の詳細を示したフロー図であり、図10、図11は、この補間処理による画像形成の様子を示した模式図である。図5のS103で画像情報内に障害物があると判定された場合には、S201からの補間処理が開始される。S202では、検出した障害物を含む領域を無効領域に設定する。
図7は、この無効領域の設定の様子を示した図であって、図7(a)で検出した障害物(この場合、前方車両)を含む破線で囲まれた矩形領域を、図7(b)のような無効領域として設定する。無効領域の形状は、矩形領域だけでなく適宜な形状を採用することができ、障害物の形状にドット単位、あるいは、所定のブロック単位で適合させた形状としてもよい。できるだけ障害物のみを無効領域とすることで、必要となる背景を拡大させることが可能となる。
S203では、この無効領域が設定された画像情報を基本画像として設定する。図10、図11の(a)、(A1)には、画像情報となる前方画像から基本画像が設定される様子が示されている。本実施形態では、この基本画像において情報が欠落した領域である無効領域を時間軸で後に位置する画像情報で補うことを特徴とするものである。
S204では、この無効領域を補うための画像情報がデータベース21から取得される。S205では、S204で取得した画像情報から、S202で設定した無効領域に対応する補間用領域が抽出される。この補間用領域とは、S204で取得した画像情報中の無効領域に対応する撮像範囲であって、その抽出は移動関連情報に基づいて行われる。
図8は、この補間用領域の抽出の様子を示した図であり、画像情報中の2つの無効領域A、Bと、それぞれに対応した補間用領域の対応関係を示した図である。時刻Tで取得した画像情報において無効領域Aが設定された場合、時刻T+1で取得した画像情報は、時刻Tにおける撮影位置よりも前方に進んで撮影されたものとなる。前方に進んで撮影することは、ちょうどズーム効果が働いたものと同等の画像となるため、時刻T+1において無効領域と同等の撮像範囲は拡大が図られる。本実施形態では、この拡大された撮像範囲を少なくとも含む領域を補間用領域として設定する。
本発明は、この補間用領域を位置情報、加速度情報といった移動関連情報に基づいて抽出することを特徴としている。時刻Tと時刻T+1で取得した画像情報の撮影位置が判別できれば、カメラの画角や遠近感などを考慮することで無効領域に対する補間用領域は予測できる。補間用領域の抽出は、画像情報中での無効領域の位置などに依存して決定される。無効領域Aは左下寄りに位置しているため補間用領域は、遠近感を考慮して無効領域Aの中心を左下寄りに偏心させて拡大された領域が抽出される。一方、無効領域Bは右上よりに位置しているため、右上よりに偏心させて拡大させた領域が抽出される。
補間用領域は、このように後の時刻の画像情報から無効領域の撮像範囲に相当する領域として抽出されるが、無効領域の撮像範囲よりも大きい範囲を抽出することとしても構わない。大きい範囲を抽出することで、無効領域に対して補間用領域を合成する合成処理において形成する画像の精度向上を図ることができる。
補間用領域の抽出は位置情報、加速度情報といった移動関連情報から算出される移動距離を少なくとも利用することで実行される。図9は、車両走行の特性を示した図であって、図9(a)は、移動方向Aにて直進する車両の時刻Tと時刻T+1での位置を示した図である。図に示すように時刻TとT+1の間に車両は移動距離Lだけ進む場合、この移動距離Lを利用することで補間用領域が抽出できる。
移動距離Lは、位置情報、加速度情報にて算出できる。緯度、経度といった位置情報のみを利用した場合には、移動距離は時刻Tと時刻T+1の位置情報の差分を取ることで算出できる。移動距離をより正確に算出するため、加速度情報を併せて算出することとしてもよい。また、この移動距離Lは、加速度情報のみにても算出することができる。この場合には、過去の加速度情報、並びに、それを取得した計時情報にて算出される。
図9(b)は、時刻Tと時刻T+1の間に車両の移動方向が移動方向Aから移動方向A’に変更された場合を示した図である。このように車両の移動方向が変更された場合には、前方カメラで撮影される方向も変更されることとなる。この場合、車両の移動方向の変更を考慮して補間用領域の抽出を行うことで、より正確に無効領域に対応する補間用領域の抽出が可能となる。車両の移動方向は、位置情報の履歴や、加速度情報、あるいはその両方に基づいて算出、予測することができる。また、このような車両の左右方向についての方向の変更のみならず、段差を通行することで発生する上下方向の方向の変更を考慮することとしてもよい。この場合、上下方向に関する加速度情報を用いて方向の検出が可能となる。
また、図9(b)のように車両が移動方向を変更した場合においても移動距離L’のみで補間用領域を抽出することとしてもよい。これは、車両は急激に方向を変更することができないという車両の走行特性や、撮像間隔が短い場合においては、車両の左右方向の変化量が車両の前後方向の変化量に対して小さいものであることを理由としている。
以上、説明したように、画像情報に無効領域が含まれる場合には、時間軸で後の画像情報において、無効領域に対応する補間用領域が移動関連情報によって抽出される。図10(b)、図10(b)は、時刻T+1における画像情報から補間用領域が抽出される様子が模式的に示されている。
図6の補間処理のフロー図に戻り、S206では、抽出された補間用領域と基本画像の合成処理が実行される。この合成処理は、補間用領域を基本画像の無効領域にあてはめる処理であって、単純に行う場合には、補間用領域を無効領域の大きさに縮小し、無効領域に置き換えることで行われる。図9にはこの合成処理の様子が模式的に示されており、図9(A1)の無効領域を有する基本画像に対し、図9(b)の画像情報から抽出された補間用領域を合成することで出力画像が得られる様子が示されている。このように合成処理では、画像情報中の障害物によって覆われた領域を補間用領域で補正することで、障害物を取り除いた出力画像を形成することが可能となる。
また、この合成処理では、無効領域に合成する補間用領域を変形して合成することとしてもよい。その場合、無効領域の位置や、移動関連情報を利用して変形を行うことで、つなぎ目の目立たない自然な画像として合成することができる。また、補間用領域を無効領域の撮像範囲よりも大きく抽出した場合には、基本画像と補間用領域の相関の大きい位置で合成することでより自然な画像を合成することが可能となる。相関をとる場合においても、補間用領域をあてはめる概略の位置は特定できているため、相関を取る範囲は限定され計算量は抑制される。
合成処理S206が終了すると、S207では、合成された画像内における障害物検出が実行される。このS207での障害物検出は、S102での処理と同様の処理である。ここでは、基本画像に補間用領域が追加合成されているだけであるため、補間用領域内での障害物検出を行うこととしてもよい。
S208では、S207での障害物検出の結果が判断される。障害物がない場合にはS
212に移行して補正処理が終了する。一方、障害物が検出された場合には、S209に移行し再度、障害物を含む無効領域が設定される。図10は、障害物がない場合の処理を示した模式図であって、出力する画像には無効領域がない、すなわち障害物がその背景に置き換えられた出力する画像が形成される様子が示されている。一方、図11のように障害物が前方を同方向に走行している前方車両の場合には、時刻T+1においても障害物が残ることとなる。このような場合には、再度、補間用領域中に無効領域が設定されS204〜S207の処理が再帰的に実行される。
212に移行して補正処理が終了する。一方、障害物が検出された場合には、S209に移行し再度、障害物を含む無効領域が設定される。図10は、障害物がない場合の処理を示した模式図であって、出力する画像には無効領域がない、すなわち障害物がその背景に置き換えられた出力する画像が形成される様子が示されている。一方、図11のように障害物が前方を同方向に走行している前方車両の場合には、時刻T+1においても障害物が残ることとなる。このような場合には、再度、補間用領域中に無効領域が設定されS204〜S207の処理が再帰的に実行される。
S210では、S209で設定された無効領域が所定値以下か否かが判定される。この判定には、無効領域の面積や無効領域の所定方向の長さなどが用いられる。所定値以下である場合には、無効領域は視覚上無視できる程度に収まったとして補正処理を終了する。
一方、無効領域が所定値以下でないとした場合には、S210にてS206の合成処理を行った回数が判定される。所定回数以上である場合には、補正処理を終了する。これは、車両の移動距離の増加に伴い、基本画像に対する補間用領域を抽出するための画像のずれが大きくなり、合成した場合に違和感が生じてしまうことを理由としている。S210にて合成処理がn回未満である場合には、S204に戻り、次の時刻の画像情報の抽出が実行される。
図11は、無効領域が再度出現した場合の処理を示した模式図であって、図11(b)、(c)から抽出した補間用領域に無効領域が残る場合を示している。このように前方を走行する車両は、概略同じ大きさの障害物となるものの、本実施形態の補正処理を再帰的に行うことで無効領域を段階的に縮小し、障害物のない画像を形成することが可能となる。
以上、特に図6、図10、図11を用いて補正処理について説明したが、この補正処理によれば、障害物で隠された領域を異なる時間の画像情報を用いて補正することが可能となる。なお、図6の補正処理のフロー図では、無効領域に対する補間用領域の合成を再帰的に行うこととしたが、補間用領域の合成を一括して行うこととしてもよい。すなわち、最初に検出された無効領域が補間用領域により、無効領域がなくなる、あるいは、無効領域が無視できる程度にまで補正された後に、基本画像と合成することとしてもよい。また、本実施形態では1つの画像中に1つの無効領域が存在する場合を説明したが、無効領域は1つの画像に対して複数検出されるものであってもよい。その場合、補正処理は各無効領域に対して実行される。
図12には、撮像タイミングと画像処理に利用する画像情報の関係を時系列で示した各種実施形態が示されている。図12(a)の実施形態では、画像情報は、1/30秒間隔で撮影される動画として取得される。時刻T1で取得した画像情報は、同時刻の画像を基本画像とし、時刻T2〜T4の画像情報を用いて補正処理が実行される。時刻T2で取得した画像は、時刻T3とT4の画像情報を用いて補正処理が実行される。時刻T3では、画像情報内に障害物が存在しなかった場合であり、この場合、取得した画像情報がそのまま利用される。このように、本発明の画像処理を利用することで、一連の画像情報を用いて新たに時刻T1、T2、T3時における出力画像を得ることができ、新たな障害物のない動画を形成することも可能となる。
補正処理に利用する画像情報は、必ずしも取得した画像情報を用いる必要は無い。図12(b)は、図12(a)と同様に1/30秒間隔で取得された場合であって、補正処理に利用する画像情報を1つおきに利用した場合である。このように補正処理に利用する画
像情報は、適宜間隔を置いたものとしてもよい。このように画像情報間の時間間隔を大きくすることで、画像情報間における障害物の移動量を大きくし補正処理の回数を削減することが可能となる。
像情報は、適宜間隔を置いたものとしてもよい。このように画像情報間の時間間隔を大きくすることで、画像情報間における障害物の移動量を大きくし補正処理の回数を削減することが可能となる。
また、画像情報の取得間隔は、必ずしも一定間隔とする必要は無い。図12(c)は、画像の取得間隔を可変とした場合であって、取得間隔は車両の移動状況などに基づいて可変制御される。例えば、車両が一定距離移動する毎に画像情報を取得することが考えられる。このように構成することで、車両が一旦停止した場合などのように、撮像範囲が変化していない場合には画像情報を取得しないようにすることで取得する画像情報の数を削減することが可能となる。特に、画像情報を静止画にて取得する場合に都合がよい。
以上、各種実施形態について、本発明の実施形態に係る画像処理を説明したが、本発明によれば、画像情報内で障害物によって隠蔽された領域を、時間軸で後に位置する画像情報を用いて補正することで、障害物を除去するとともにプライバシーの侵害にも配慮した出力画像を形成することが可能となる。
なお、本発明はこれらの実施形態のみに限られるものではなく、それぞれの実施形態の構成を適宜組み合わせて構成した実施形態も本発明の範疇となるものである。
11…前方カメラ、12…加速度センサ、13…GPS、14…時計、15…制御部、16…データベース、21…データベース、22…画像処理装置
Claims (7)
- 画像情報内の障害物を検出する検出処理と、
検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、
画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、
画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とする
画像処理装置。 - 抽出処理は、移動関連情報により画像情報と後の時刻の画像情報間の移動距離を算出し、移動距離に基づいて補間用領域を抽出する
請求項1に記載の画像処理装置。 - 移動関連情報は、画像情報に対応する位置情報を含む
請求項1または請求項2に記載の画像処理装置。 - 移動関連情報は、画像情報に対応する加速度情報を含む
請求項1乃至請求項3のいずれか1項に記載の画像処理装置。 - 障害物は、車両もしくは歩行者である
請求項1乃至請求項4のいずれか1項に記載の画像処理装置。 - 出力画像には、位置情報が付加されている
請求項1乃至請求項5のいずれか1項に記載の画像形成装置。 - 画像情報内の障害物を検出する検出処理と、
検出した障害物を含む領域を画像情報における無効領域に設定する設定処理と、
画像情報に対応する移動関連情報に基づいて、後の時刻の画像情報から無効領域に対応する補間用領域を抽出する抽出処理と、
画像情報の無効領域に補間用領域を合成する合成処理を行うことを特徴とする
画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009082715A JP2010237798A (ja) | 2009-03-30 | 2009-03-30 | 画像処理装置および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009082715A JP2010237798A (ja) | 2009-03-30 | 2009-03-30 | 画像処理装置および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010237798A true JP2010237798A (ja) | 2010-10-21 |
Family
ID=43092079
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009082715A Pending JP2010237798A (ja) | 2009-03-30 | 2009-03-30 | 画像処理装置および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010237798A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012221106A (ja) * | 2011-04-06 | 2012-11-12 | Nippon Hoso Kyokai <Nhk> | 画像修正装置およびそのプログラム |
CN108566516A (zh) * | 2018-05-14 | 2018-09-21 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
WO2019080061A1 (zh) * | 2017-10-26 | 2019-05-02 | 深圳市柔宇科技有限公司 | 基于摄像设备的遮挡检测修复装置及其遮挡检测修复方法 |
CN111626910A (zh) * | 2019-02-27 | 2020-09-04 | 丰田自动车株式会社 | 图像处理装置和图像处理方法 |
JP7454177B2 (ja) | 2020-02-26 | 2024-03-22 | 株式会社アイシン | 周辺監視装置、およびプログラム |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09212626A (ja) * | 1996-02-01 | 1997-08-15 | Hitachi Ltd | 画像編集方法および編集装置 |
JPH114377A (ja) * | 1997-06-12 | 1999-01-06 | Agency Of Ind Science & Technol | 多重シャッタによる動背景除去機構を持つデジタルスチルカメラおよびその撮影方法ならびに撮影制御プログラムを記録した記録媒体 |
JP2000013681A (ja) * | 1998-06-17 | 2000-01-14 | Casio Comput Co Ltd | 移動体像オフセット方法および撮像装置 |
WO2004008744A1 (ja) * | 2002-07-12 | 2004-01-22 | Iwane Laboratories, Ltd. | 道路面等の平面対象物映像の平面展開画像処理方法、同逆展開画像変換処理方法及びその平面展開画像処理装置、逆展開画像変換処理装置 |
JP2005012660A (ja) * | 2003-06-20 | 2005-01-13 | Nikon Corp | 画像生成方法、画像生成装置 |
JP2008187347A (ja) * | 2007-01-29 | 2008-08-14 | Toshiba Corp | 車載用ナビゲーション装置、路面標示識別プログラム及び路面標示識別方法 |
JP2008249639A (ja) * | 2007-03-30 | 2008-10-16 | Mitsubishi Electric Corp | 自己位置標定装置、自己位置標定方法および自己位置標定プログラム |
-
2009
- 2009-03-30 JP JP2009082715A patent/JP2010237798A/ja active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09212626A (ja) * | 1996-02-01 | 1997-08-15 | Hitachi Ltd | 画像編集方法および編集装置 |
JPH114377A (ja) * | 1997-06-12 | 1999-01-06 | Agency Of Ind Science & Technol | 多重シャッタによる動背景除去機構を持つデジタルスチルカメラおよびその撮影方法ならびに撮影制御プログラムを記録した記録媒体 |
JP2000013681A (ja) * | 1998-06-17 | 2000-01-14 | Casio Comput Co Ltd | 移動体像オフセット方法および撮像装置 |
WO2004008744A1 (ja) * | 2002-07-12 | 2004-01-22 | Iwane Laboratories, Ltd. | 道路面等の平面対象物映像の平面展開画像処理方法、同逆展開画像変換処理方法及びその平面展開画像処理装置、逆展開画像変換処理装置 |
JP2005012660A (ja) * | 2003-06-20 | 2005-01-13 | Nikon Corp | 画像生成方法、画像生成装置 |
JP2008187347A (ja) * | 2007-01-29 | 2008-08-14 | Toshiba Corp | 車載用ナビゲーション装置、路面標示識別プログラム及び路面標示識別方法 |
JP2008249639A (ja) * | 2007-03-30 | 2008-10-16 | Mitsubishi Electric Corp | 自己位置標定装置、自己位置標定方法および自己位置標定プログラム |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012221106A (ja) * | 2011-04-06 | 2012-11-12 | Nippon Hoso Kyokai <Nhk> | 画像修正装置およびそのプログラム |
WO2019080061A1 (zh) * | 2017-10-26 | 2019-05-02 | 深圳市柔宇科技有限公司 | 基于摄像设备的遮挡检测修复装置及其遮挡检测修复方法 |
CN110770786A (zh) * | 2017-10-26 | 2020-02-07 | 深圳市柔宇科技有限公司 | 基于摄像设备的遮挡检测修复装置及其遮挡检测修复方法 |
CN108566516A (zh) * | 2018-05-14 | 2018-09-21 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
CN108566516B (zh) * | 2018-05-14 | 2020-07-31 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
CN111626910A (zh) * | 2019-02-27 | 2020-09-04 | 丰田自动车株式会社 | 图像处理装置和图像处理方法 |
CN111626910B (zh) * | 2019-02-27 | 2023-11-24 | 丰田自动车株式会社 | 图像处理装置和图像处理方法 |
JP7454177B2 (ja) | 2020-02-26 | 2024-03-22 | 株式会社アイシン | 周辺監視装置、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5182042B2 (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
JP5421072B2 (ja) | 接近物体検知システム | |
JP4863791B2 (ja) | 車両周辺画像生成装置および画像切替方法 | |
EP2485203B1 (en) | Vehicle-surroundings monitoring device | |
JP5857224B2 (ja) | 駐車支援装置、及び駐車支援方法 | |
CN101404122B (zh) | 驾驶支援装置以及驾驶支援方法 | |
WO2010125833A1 (ja) | 車両周辺監視装置 | |
WO2005079060A1 (ja) | 運転支援装置 | |
JP2007129560A (ja) | 物体検出装置 | |
JP6520740B2 (ja) | 物体検出方法、物体検出装置、およびプログラム | |
JP2007264714A (ja) | 車線認識装置 | |
JP2007318460A (ja) | 車両上方視点画像表示装置 | |
JP7426174B2 (ja) | 車両周囲画像表示システム及び車両周囲画像表示方法 | |
JP2010237798A (ja) | 画像処理装置および画像処理プログラム | |
JP2008048094A (ja) | 車両用映像表示装置及び車両周囲映像の表示方法 | |
JP6697115B2 (ja) | 移動体用画像生成記録表示装置及びプログラム | |
JP4857159B2 (ja) | 車両運転支援装置 | |
JP2010226652A (ja) | 画像処理装置、画像処理方法、および、コンピュータプログラム | |
JP2008033781A (ja) | 路面勾配検出装置及び画像表示装置 | |
JP2012256159A (ja) | 接近物検知装置および接近物検知方法 | |
JP6032141B2 (ja) | 走行路面標示検知装置および走行路面標示検知方法 | |
WO2018070338A1 (ja) | 表示制御装置 | |
US20090074247A1 (en) | Obstacle detection method | |
JP4739833B2 (ja) | 車両停止検出装置、カーナビゲーション装置 | |
JP2008182312A (ja) | 撮像画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110325 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120208 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120704 |