JP2015035145A - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP2015035145A
JP2015035145A JP2013166292A JP2013166292A JP2015035145A JP 2015035145 A JP2015035145 A JP 2015035145A JP 2013166292 A JP2013166292 A JP 2013166292A JP 2013166292 A JP2013166292 A JP 2013166292A JP 2015035145 A JP2015035145 A JP 2015035145A
Authority
JP
Japan
Prior art keywords
image
image processing
vehicle
display
center line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013166292A
Other languages
English (en)
Other versions
JP6036601B2 (ja
Inventor
丙辰 王
Heishin O
丙辰 王
宗昭 松本
Muneaki Matsumoto
宗昭 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013166292A priority Critical patent/JP6036601B2/ja
Priority to US14/910,464 priority patent/US10315570B2/en
Priority to CN201480044328.1A priority patent/CN105453536B/zh
Priority to EP14834382.5A priority patent/EP3016370B1/en
Priority to PCT/JP2014/003994 priority patent/WO2015019579A1/ja
Publication of JP2015035145A publication Critical patent/JP2015035145A/ja
Application granted granted Critical
Publication of JP6036601B2 publication Critical patent/JP6036601B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • G06T5/80
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Abstract

【課題】車両の長手方向の中心線からずれた位置に配置された広角カメラによる撮像画像から、車両の乗員が認識しやすい表示用画像を生成するための技術を提供する。【解決手段】広角カメラは、車両の長手方向の中心線である車両中心線からずれた位置に配置され、撮像画像の中心から離れるほど被写体の縮小度合いが大きくなる。画像処理装置は、広角カメラによる撮像画像の一部を表示用画像として抽出するものであり、画像処理手段を備える。画像処理手段(S120−S160)は、車両中心線に対する表示用画像の中心位置、及び表示用画像における特定位置の画素が表す被写体の縮小度合いに応じて、撮像画像における表示用画像の抽出位置を決定する。【選択図】 図5

Description

本発明は、車両に搭載されたカメラによる撮像画像から、車両の乗員に対して表示する表示用画像を生成するための画像処理の技術に関する。
近年、撮像装置としてのカメラを車両に搭載し、カメラで撮像した画像を表示装置に表示させることにより、運転者の運転操作を支援するシステムが実現されている。多くのシステムでは、広範囲を一度に撮像することが可能な広角カメラが用いられている。
例えば、車両後方の撮像画像を表示することで運転を支援するシステムでは、車両の長手方向の中心線からずれた位置に広角カメラが配置されていると、車両の移動と表示されている画像における変化との関係が直感的に把握しにくくなる。そこで、車両の長手方向の中心線からずれた位置に配置された広角カメラにより撮像された車両後方の画像において、画像の中心が車両の長手方向の中心線と一致する部分を抽出して表示するシステムが提案されている(特許文献1参照)。
特許第4512293号公報
広角カメラによって撮像された画像は、画像の中心から離れるほど被写体の歪みが大きくなり、被写体の縮小度合いが大きくなる(被写体が小さく写る)。このような撮像画像の一部を表示用画像として抽出し表示する場合、撮像画像における中心から離れた部分を抽出するほど、車両の乗員(例えば運転者)が認識しづらい表示用画像になるという問題がある。すなわち、抽出画像に対して歪補正を施さずにそのまま表示した場合、撮像画像の中心から離れた被写体ほど小さく表示されるため、車両の乗員が認識しづらくなる。一方、抽出画像に対して歪補正を施して表示した場合にも、撮像画像の中心から離れた被写体ほど歪補正による拡大率が大きくなり解像度が低い画像となるため、やはり車両の乗員が認識しづらくなる。カメラの設置位置が車両の長手方向の中心線から大きくずれているほど、車両の長手方向の中心線付近の領域が撮像画像の中心から離れ、前述のような問題がより顕著となる。
本発明は、こうした問題に鑑みてなされたものであり、車両の長手方向の中心線からずれた位置に配置された広角カメラによる撮像画像から、車両の乗員が認識しやすい表示用画像を生成するための技術を提供することを目的とする。
上記目的を達成するためになされた本発明の画像処理装置は、車両の長手方向の中心線である車両中心線からずれた位置に配置された広角カメラによる撮像画像の一部を、表示用画像として抽出する装置である。
広角カメラによる撮像画像は、撮像画像の中心から離れるほど被写体の縮小度合いが大きくなる。画像処理装置が備える画像処理手段は、車両中心線に対する表示用画像の中心位置、及び表示用画像における特定位置の画素が表す被写体の縮小度合いに応じて、撮像画像における表示用画像の抽出位置を決定する。
このような構成によれば、車両中心線からずれた位置に配置された広角カメラによる撮像画像から、車両の乗員が認識しやすい表示用画像を生成することができる。
なお、特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。
また、本発明は、前述した画像処理装置の他、当該装置を構成要素とする各種システム、当該装置を構成する各手段としてコンピュータを機能させるためのプログラム、当該プログラムが記録された記録媒体、通信制御方法など、種々の形態で実現可能である。
画像処理システムの概略構成を示す図である。 (a)は広角カメラにより撮像される歪曲画像を示す図であり、(b)は(a)の歪曲画像を歪補正した正則画像を示す図である。 カメラパラメータを説明する図であって、(a)は車両を真上から見た図であり、(b)は車両の後部を側方から見た図である。 後方撮像画像の一例を示す図である。 画像処理部が実行する画像生成処理を表すフローチャートである。 撮像画像における抽出枠及び出力枠を説明する図である。 オフセット距離と拡大率の逆数との関係を示す図である。 撮像画像における出力枠の垂直方向への拡大を説明する図である。 表示用画像における特定位置の画素の拡大率を斜線部の大きさとして模式的に示した図であって、(a)は表示中心線が初期位置に位置する場合の拡大率を示す図であり、(b)は表示中心線が出力抽出位置に位置する場合の拡大率を示す図である。 表示用画像への自車両による写り込みを許容しない他の実施形態における出力枠について説明する図である。
以下に本発明の実施形態を図面と共に説明する。
[全体構成]
本発明の画像生成システム1は、車両後方の撮像画像から車両の乗員(例えば運転者)に表示する表示用画像を生成するためのものであり、図1に示すように、撮像部10と、記憶部20と、画像処理部30と、表示部40と、を備える。
撮像部10は、概ね180度の画角で撮像可能な広角カメラ(魚眼カメラ)を備える。撮像部10による撮像画像では、撮像画像の中心から離れるほど、被写体の縮小度合いが大きくなり、被写体が小さく写る。つまり、撮像画像は、撮像画像の中心から離れるほど被写体が小さく写るように歪んでいる歪曲画像(図2(a)参照)である。
以下では、このような中心から離れるほど被写体の歪みが大きくなる歪曲画像である撮像画像を、歪みのない正則画像へ補正すると仮定した場合、歪曲画像が表す被写体の大きさに対する正則画像が表す当該被写体の大きさを拡大率というものとする。つまり、縮小度合いが大きいほど拡大率が大きくなる。したがって、拡大率は、歪曲画像の中心から離れるほど大きくなる。
撮像部10は、図3(a)に示すように、車両2の後部であって、車両2の長手方向の中心線(以下、車両中心線という)Lcからずれた位置に配置されている。また、撮像部10は、図3(b)に示すように、車両2の後方領域における下方を撮像するように配置されている。車両2(具体的には車両2における基準点)を基準とした撮像部10の3次元空間での座標位置、ピッチ角、ヨー角及びロール角の情報は、カメラパラメータとしてとして記憶部20に予め記憶されている。
撮像部10は、撮像画像を所定頻度(例えば、1秒間に60フレーム)で画像処理部30に出力する。ここで、撮像画像について説明する。図4に示すように、撮像画像の一例において、線Lhは水平線であり、線Lgは、撮像画像の水平方向に直交する、該撮像画像の中心線(撮像中心線という)である。また、線Lcは車両中心線である。撮像部10が車両中心線Lcからずれて配置されているため、撮像中心線Lgは、車両中心線Lcに一致していない。本実施形態では、撮像画像にて、手前に車両2のバンパ21が写り込んでおり、右方向に車両2の後方ボディ22が写り込んでいる。
図1に戻り、記憶部20は、画像処理部30が実行するプログラム、前述のカメラパラメータ、及び車両の外観形状を表す3D情報等の各種データを記憶するための記憶装置を備える。
画像処理部30は、CPU31、ROM32、RAM33及びI/O等を備えるマイコンにて構成されている。画像処理部30は、記憶部20に記憶されているプログラムを読み込んで、撮像部10が撮像した撮像画像の一部を表示用画像として抽出する画像生成処理を実行する。
表示部40は、画像処理部30により生成された表示用画像を、車両の乗員に表示する。具体的には、表示部40は、車両の乗員に対して画像を表示するための表示装置を備える。
[処理]
次に、画像処理部30(具体的にはCPU31)がプログラムに従い実行する画像生成処理(画像処理方法)について、図5のフローチャートを用いて説明する。画像生成処理は、運転者が操作するシフトレバーのポジションがリバース(後方走行)となっている状態において、予め定められた期間毎(本実施形態では、撮像部10から撮像画像が出力される毎)に繰り返し実行される。
画像処理部30は、処理が開始されると、まずS100(Sはステップを表す)にて、撮像部10による撮像画像を取得する。
次にS110では、自車両写り込み領域を検出する。撮像画像において、(例えば図4に示す後方ボディ22のように)自車両が写り込む領域を自車両写り込み領域という。本ステップでは、自車両写り込み領域R1(図6参照)を、記憶部20に記憶されているカメラパラメータと、車両の外観形状を表す3D情報とに基づいて、計算によって求める。
S120では、撮像画像Gsにおいて表示用画像を抽出する範囲を設定するための抽出枠Wについて、撮像画像Gsにおける水平方向の位置(具体的には、表示用画像の中心線の位置)を、初期位置P1に設定する。
本実施形態では、車両2の後方領域において、表示用画像に含めるべき領域(例えば、車両後方における、車両の真後ろを中心とした横6m、縦5mの長方形領域)が予め決められている。表示用画像として表示されるべき範囲の広さ(広角カメラの画角よりも狭い表示用画角)は、当該領域の全域を表示可能な広さに設定されている。抽出枠Wは、撮像画像Gsにおける表示用画像として表示される部分を示すものであるため、表示用画像として表示されるべき範囲の広さに応じた大きさに設定されている。
初期位置P1は、表示用画像の中心線(以下、表示中心線Hという)が、撮像中心線Lgと一致する位置、つまり、抽出枠Wが撮像画像Gsの中央に位置するように設定されている。初期位置P1において、抽出枠Wは、撮像中心線Lgに対して左右対称である。なお、本実施形態では、抽出枠Wの水平方向に直交する方向(縦方向)の位置が、撮像画像Gsの縦方向の中央位置に設定されている。
S130では、撮像画像Gsにおいて、表示用画像の中心位置が車両中心線Lcに近づく方向(本実施形態では右側)に向かって、表示中心線Hを水平方向に単位画素(例えば1画素)分移動させる。
本実施形態では、各移動位置で抽出枠W内に含まれる画像に対応する実際の被写体の大きさを等しくするため、車両中心線Lc側への移動に従って、抽出枠Wの大きさを変化させる。具体的には、車両中心線Lc側への移動毎に、抽出枠Wの横幅が小さくなり、表示中心線Hに対して抽出枠Wの右側が左側に比べて小さくなる(表示中心線Hに対して左右非対称となる)。このような水平方向への移動に伴う抽出枠Wの形状の変化は、撮像部(広角カメラ)10のレンズ(例えば、魚眼レンズ)の特性により計算することができるものであり、レンズの特性は予め記憶部20に記憶されている。従って、表示中心線Hが特定されれば、その抽出枠Wの大きさが特定される。
続くS140では、抽出枠W内の特定位置の画素(本実施形態では移動方向下端部(右下隅)の画素)について、拡大率の逆数(1/拡大率)が所定の下限値(許容値)未満である(下限値を下回った)か否かを判定する。ここで、拡大率の逆数が下限値未満である場合、S160に移行する。一方、拡大率の逆数が下限値以上である場合、S150に移行する。
拡大率とは、前述のように、歪曲画像である撮像画像Gsを歪みのない正則画像に変換したと仮定した場合の拡大率(被写体が引き延ばされる比率)であり、撮像中心線Lgから離れるほど大きくなる。拡大率は、撮像部(広角カメラ)10のレンズの特性により決まるものであり、そのデータは記憶部20に予め記憶されている。つまり、撮像画像Gsにおける画素の位置が特定されれば、その画素の拡大率が特定される。
なお、初期位置P1に対して、抽出枠Wを水平方向に所定画素分移動させたときの表示中心線Hの位置を移動位置P2とした場合、移動位置P2での抽出枠W内の画像は、初期位置P1での抽出枠W内の画像と比較して、拡大率の大きい画素が含まれる。
ここで、表示中心線Hについて、初期位置P1から移動位置P2までの水平方向における距離をオフセット距離というものとする。オフセット距離は、撮像画像Gs上での距離であり、例えば画素数で表される。本実施形態では、前述のレンズの特性に基づいて、図7に示すように、オフセット距離と、抽出枠W内の特定位置の画素についての拡大率の逆数との関係が予め把握されている。抽出枠W内の特定位置の画素についての拡大率は、表示中心線Hのオフセット距離の増加に伴い単調増加する。
下限値は、人間が見た官能評価によって、例えば表示用画像の端部が見やすく表示される限界値という基準で予め定められている。ただし、この下限値は、表示中心線Hが初期位置P1に位置するときの拡大率の逆数よりも大きい値に設定されている。
次にS150では、抽出枠W内に含まれる自車両写り込み領域R1の割合(例えば百分率(%)で表す)を写り込み率として、該写り込み率が上限値(許容値)よりも大きい(上限値を超えた)か否かを判定する。ここで、写り込み率が上限値以下である場合、S130に戻る(S130〜S150の処理を繰り返す)。一方、写り込み率が上限値よりも大きい場合、S160に移行する。上限値は、人間が見た官能評価によって、例えば違和感を感じない限界値という基準で予め定められている。なお、本実施形態では、表示中心線Hのオフセット距離の増加に伴い、自車両写り込み領域R1の割合が単調増加することを前提としている。
次に、S160では、表示中心線Hの現在の位置に対して1つ前の位置(水平方向に単位画素分戻った位置)Psの表示中心線Hについて、オフセット距離dsを記憶する(図9参照)。ここで、1つ前の位置を特定しているのは、現在の位置が許容値を超えた位置だからである。すなわち、拡大率の逆数が下限値未満であると判定されてS160に移行した場合には、1つ前の位置が、拡大率の逆数が下限値以上の最小値であった位置(つまり、許容範囲での限界位置)である。同様に、写り込み率が上限値を超えていると判定されたS160に移行した場合には、1つ前の位置が、写り込み率が上限値以下の最大値であった位置(つまり、許容範囲での限界位置)である。なお、このときの抽出枠Wを出力枠Wsとして設定する。また、このときの表示中心線Hの位置を出力抽出位置Psという。
続くS170では、表示用画像として用いる垂直方向(紙面の上下方向)の範囲を設定する。本実施形態では、一例として、表示用画像に、水平線Lh及びバンパ21が含まれるように、垂直方向の範囲を設定する。ここでは、出力枠Ws内に、水平線Lh及びバンパ21が含まれているものとして説明を行う。
なお、水平線Lh及びバンパ21は、地上の物体が表示用画像に含まれるようにするための画角の目安であって、水平線Lh自体が撮像画像に写っている必要はなく、水平線Lhが物体に隠れていて見えなくてもよい。撮像画像における水平線Lhの位置は、記憶部20に記憶されているカメラパラメータに基づいて計算により求められる。また、撮像画像におけるバンパ21の位置は、前述の自車両写り込み領域R1と同様、記憶部20に記憶されているカメラパラメータと、車両の外観形状を表す3D情報とに基づいて、計算により求められる。
仮に水平線Lhまたはバンパ21が出力枠Wsに含まれていない場合は、これらが含まれるように出力枠Wsを垂直方向(上下方向)に延長した枠を、新たな出力枠Ws(図8に二点鎖線で示す枠)として設定するものとする。
次にS180では、出力枠Ws内の画像について歪補正を行う。歪曲画像の歪補正を行う手法は周知であるため、ここでは説明を省略する。なお、出力枠Wsが長方形である場合、歪補正後の画像は厳密な長方形にはならず、四隅が対角線方向外側へ引き延ばされたような形状となる(図2(b)参照)。このため、本ステップにおいて、歪補正後の長方形(表示用画像のサイズ)からはみ出す部分に対し、切り取り又はマスキングを行う処理を行う。
続くS190では、視点変換処理を行う。ここでいう視点変換処理とは、S180にて歪補正を行った画像を、ピッチ角及びロール角等のカメラパラメータを変更した仮想の撮像部10による撮像画像に変換する処理をいう。この種の視点変換処理については、種々の手法が周知であるため、ここでは説明を省略する。
最後にS200では、S190にて視点変換処理を行った画像を、表示部40に出力する。そして、本処理を終了する。
[効果]
以上説明したように、本実施形態の画像処理部30は、車両2の長手方向の中心線である車両中心線からずれた位置に配置された撮像部10による撮像画像の一部を、表示用画像として抽出する。具体的には、画像処理部30は、表示用画像の中心位置が車両中心線にできるだけ近く、かつ、表示用画像における特定位置の画素について、拡大率の逆数が所定の下限値以上となるように、撮像画像における表示用画像の抽出位置を決定する。拡大率の逆数が所定の下限値以上となることは、言い換えれば、縮小度合い(拡大率)が当該下限値の逆数(第1の所定値)以下となることを意味する。
ここで、図9に模式的に示すように、表示中心線Hが移動位置P2に位置している場合(図9(b))は、表示中心線Hが初期位置P1に位置している場合(図9(a))と比べて、表示用画像Ghにおいて特定位置(右下隅)の画素の拡大率が大きくなる。この拡大率が大きいほど端部の画像がぼやけ、車両の乗員にとって認識しづらい画像となる。
本実施形態では、特定位置の画素についての拡大率が車両の乗員に認識しづらさを感じさせない程度の拡大率であるようにしつつ、できるだけ車両中心線Lc近くとなるように表示中心線Hを設定している(S130、S140)。従って、本実施形態では、画像の解像度を所定のレベル以上に維持しながら、できるだけ画像の縦中心を車両中心に一致させた表示用画像を生成することができる。結果として、車両の乗員が認識しやすい表示用画像を生成することができる。
また、本実施形態では、画像処理部30は、運転者が操作するシフトレバーのポジションがリバース(後方走行)となっている状態において、定期的に画像生成処理を実行する。つまり、例えば経年変化等の何らかの要因によって撮像部10のカメラの設置位置がずれたとしても、この位置ずれに対応するように記憶部20に記憶されるカメラパラメータを更新することで、該カメラパラメータに基づいて、車両の乗員が認識しやすい表示用画像を生成することができる。
また、画像処理部30は、表示用画像の全体に対して自車両による写り込みが占める割合を写り込み率として、表示用画像の中心位置が車両中心線にできるだけ近く、かつ、写り込み率が上限値(第2の所定値)以下となるように、撮像画像における表示用画像の抽出位置を決定する処理(S150)を実行する。これにより、表示用画像における自車両の写り込みを、該表示用画像を見た車両の乗員が違和感を感じない程度に抑制することができる。
さらにまた、画像処理部30では、特定位置の画素は、撮像画像の水平方向において、車両中心線側端部に位置する画素に設定されている。また、特定位置の画素は、撮像画像の垂直方向において端部に位置する画素に設定されている。さらに、特定位置の画素は、撮像画像の垂直方向において、該撮像画像に撮像されている自車両のバンパ21側に位置するように設定されている。つまり本実施形態では、特定位置の画素は、出力枠Wsの右下隅の画素に設定されている。これにより、表示用画像において、特に自車両近くの画質の劣化を抑制することができる。
[請求項との対応]
画像処理部30が「画像処理装置」の一例に相当する。また、図5に示す処理のS120−S160が「画像処理手段」としての処理及び「画像処理ステップ」の一例に相当し、S180が「歪補正手段」としての処理の一例に相当する。
[他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。例えば、一つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を一つの構成要素に統合したりしてもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。
(a)上記実施形態では、画像生成処理において、撮像画像にて表示用画像の抽出位置を決定し(S120−S160)、その後に歪補正を行っていた(S180)が、処理の順序はこれに限るものではない。例えば、撮像画像についてまず歪補正を行い、補正後の画像について表示用画像の抽出位置を決定する同様の処理を行ってもよい。この場合、例えば、図5に示すフローチャートにおいて、S100の後にS180(及びS190)の処理を撮像画像全体に対して実行してから、S110以降の処理を実行する。上記実施形態では、歪補正前の抽出枠Wと表示用画像のサイズとを対応させるために、表示中心線Hの位置に応じて抽出枠Wの大きさを適宜変更していた。この点、本形態では、表示中心線Hの位置によらず抽出枠Wの大きさを一定とすることができる。
(b)上記実施形態では、自車両写り込み領域R1が計算によって把握されていた(S110)が、これに限るものではない。計算によらず、例えば、実際に撮像を行い、実際の写り込み領域と撮像画像との対応関係を予め特定しておいてもよい。また、これらの対応関係は、予め定められた固定値として記憶部20に記憶されていてもよい。この点は、水平線Lhやバンパ21などについても同様であり、実際の撮像画像から特定された対応関係が記憶されるようにしてもよい。
(c)上記実施形態では、表示用画像に自車両写り込み領域R1が含まれることを許容するように表示中心線Hが設定されていた(S150)が、これに限るものではない。表示用画像に自車両写り込み領域R1が含まれないように、表示中心線Hを抽出位置Ps1に設定してもよい(図10参照)。この場合のオフセット距離ds1は、図6に示すオフセット距離dsよりも小さくなり得る(ds1≦ds)。
(d)抽出枠Wは、少なくともバンパ21を含むように予め設定されてもよく、また、少なくとも水平線Lhが含まれるように予め設定されてもよく、また、少なくともバンパ21及び水平線Lhの両方が含まれるように予め設定されてもよい。
(e)上記実施形態では、抽出枠Wが長方形に設定されていたが、抽出枠Wの形状はこれに限るものではない。例えば、抽出枠Wの形状を歪補正によって長方形に補正される歪曲形状としてもよい。
(f)上記実施形態では、抽出枠Wの大きさを、水平方向への移動に従って変化させていたが、これに限るものではない。水平方向への移動によらず、抽出枠Wの大きさを固定としてもよい。
(g)上記実施形態では、出力枠Ws内の画像について歪補正を行っていた(S180)が、これに限るものではない。歪補正を行わず、表示用画像のサイズに対応するように、出力枠Ws内の画像を均一に(すべての画素を同じ拡大率で)拡大した画像を、表示用画像としてもよい。または、拡大せず、出力枠Ws内の画像をそのまま表示用画像として出力してもよい。
(h)上記実施形態では、視点変換を行った画像を表示用画像としていた(S190)が、これに限るものではない。視点変換を行なっていない画像を、そのまま表示用画像としてもよい。
(i)上記実施形態では、画像処理部30は、運転者が操作するシフトレバーのポジションがリバース(後方走行)となっている状態において、図5に示す画像生成処理を定期的に実行するように構成されていたが、これに限るものではない。画像処理部30は、例えば、運転者による入力を受け付ける入力装置(図示せず)からの指令に従って画像生成処理を実行するように構成されてもよい。入力装置は、表示部40に設けられたタッチパネルや、表示部40の周囲等に設置されたメカニカルなキースイッチ等にて構成されてもよい。また、画像処理部30は、外部からの指示を受け付ける外部装置(図示せず)等からの指令に従い、画像生成処理を実行するように構成されてもよい。
1・・・画像生成システム 2・・・車両(自車両) 10・・・撮像部 20・・・記憶部 30・・・画像処理部 40・・・表示部

Claims (10)

  1. 車両の長手方向の中心線である車両中心線からずれた位置に配置され、撮像画像の中心から離れるほど被写体の縮小度合いが大きくなる広角カメラによる撮像画像の一部を、表示用画像として抽出する画像処理装置であって、
    前記車両中心線に対する前記表示用画像の中心位置、及び前記表示用画像における特定位置の画素が表す被写体の縮小度合いに応じて、前記撮像画像における前記表示用画像の抽出位置を決定する画像処理手段(S120−S160)を備えること、
    を特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記画像処理手段は、前記表示用画像の中心位置が前記車両中心線にできるだけ近く、かつ、前記特定位置の画素が表す被写体の縮小度合いが、予め定められた第1の所定値以下となるように、前記抽出位置を決定すること、を特徴とする画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    前記第1の所定値は、前記表示用画像の中心位置を前記車両中心線に一致させたときの前記特定位置の画素が表す被写体の縮小度合いよりも小さいこと、を特徴とする画像処理装置。
  4. 請求項1から3のいずれか一項に記載の画像処理装置であって、
    前記画像処理手段は、前記表示用画像における自車両の写り込み状況に応じて、前記撮像画像における前記表示用画像の抽出位置を決定すること、を特徴とする画像処理装置。
  5. 請求項4に記載の画像処理装置であって、
    前記画像処理手段は、前記表示用画像における自車両写り込みが占める割合が第2の所定値以下となるように、前記撮像画像における前記表示用画像の抽出位置を決定すること、を特徴とする画像処理装置。
  6. 請求項1から5のいずれか一項に記載の画像処理装置であって、
    前記特定位置の画素は、前記表示用画像において前記車両中心線側の端部に位置する画素であること、を特徴とする画像処理装置。
  7. 請求項6に記載の画像処理装置であって、
    前記特定位置の画素は、前記車両中心線側端部に位置する画素のうち端部に位置する画素であること、を特徴とする画像処理装置。
  8. 請求項7に記載の画像処理装置であって、
    前記特定位置の画素は、前記撮像画像において自車両のバンパ側の端部に位置する画素であること、を特徴とする画像処理装置。
  9. 請求項1から8のいずれか一項に記載の画像処理装置であって、
    前記撮像画像の歪補正を行う歪補正手段(S180)を備えること、を特徴とする画像処理装置。
  10. 車両の長手方向の中心線である車両中心線からずれた位置に配置され、撮像画像の中心から離れるほど被写体の縮小度合いが大きくなる広角カメラによる撮像画像の一部を、表示用画像として抽出する画像処理方法であって、
    前記車両中心線に対する前記表示用画像の中心位置、及び前記表示用画像における特定位置の画素が表す被写体の縮小度合いに応じて、前記撮像画像における前記表示用画像の抽出位置を決定する画像処理ステップ(S120−S160)を備えること、
    を特徴とする画像処理方法。
JP2013166292A 2013-08-09 2013-08-09 画像処理装置及び画像処理方法 Active JP6036601B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2013166292A JP6036601B2 (ja) 2013-08-09 2013-08-09 画像処理装置及び画像処理方法
US14/910,464 US10315570B2 (en) 2013-08-09 2014-07-30 Image processing apparatus and image processing method
CN201480044328.1A CN105453536B (zh) 2013-08-09 2014-07-30 图像处理装置以及图像处理方法
EP14834382.5A EP3016370B1 (en) 2013-08-09 2014-07-30 Image processing device, and image processing method
PCT/JP2014/003994 WO2015019579A1 (ja) 2013-08-09 2014-07-30 画像処理装置及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013166292A JP6036601B2 (ja) 2013-08-09 2013-08-09 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2015035145A true JP2015035145A (ja) 2015-02-19
JP6036601B2 JP6036601B2 (ja) 2016-11-30

Family

ID=52460936

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013166292A Active JP6036601B2 (ja) 2013-08-09 2013-08-09 画像処理装置及び画像処理方法

Country Status (5)

Country Link
US (1) US10315570B2 (ja)
EP (1) EP3016370B1 (ja)
JP (1) JP6036601B2 (ja)
CN (1) CN105453536B (ja)
WO (1) WO2015019579A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6036601B2 (ja) 2013-08-09 2016-11-30 株式会社デンソー 画像処理装置及び画像処理方法
JP2016046747A (ja) * 2014-08-26 2016-04-04 富士通テン株式会社 画像処理装置、画像処理方法、及び、画像表示システム
JP6568374B2 (ja) * 2015-03-27 2019-08-28 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
KR101795180B1 (ko) * 2015-12-11 2017-12-01 현대자동차주식회사 페일 세이프 기능을 갖는 차량 측후방 모니터링 장치 및 방법
US10325339B2 (en) * 2016-04-26 2019-06-18 Qualcomm Incorporated Method and device for capturing image of traffic sign
JP6688277B2 (ja) * 2017-12-27 2020-04-28 本田技研工業株式会社 プログラム、学習処理方法、学習モデル、データ構造、学習装置、および物体認識装置
EP3735673A1 (en) * 2018-01-05 2020-11-11 Volvo Truck Corporation Camera monitoring system with a display displaying an undistorted portion of a wide angle image adjoining at least one distorted portion of the wide angle image
US10839523B2 (en) * 2018-05-16 2020-11-17 Otis Elevator Company Position-based adjustment to display content
JP7314486B2 (ja) * 2018-09-06 2023-07-26 株式会社アイシン カメラキャリブレーション装置
WO2020068960A1 (en) * 2018-09-26 2020-04-02 Coherent Logix, Inc. Any world view generation
CN112991216B (zh) * 2021-03-18 2022-05-13 支付宝(杭州)信息技术有限公司 鱼眼图像的矫正方法、系统、智能货架以及图像处理方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111070A (ja) * 2001-09-27 2003-04-11 Aisin Seiki Co Ltd 車両用監視装置
JP2005086279A (ja) * 2003-09-04 2005-03-31 Equos Research Co Ltd 撮像装置、及び撮像装置を備えた車両
JP2006129149A (ja) * 2004-10-29 2006-05-18 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
WO2008117386A1 (ja) * 2007-03-23 2008-10-02 Pioneer Corporation 車両用画像処理装置及び車両用画像処理プログラム
US20090079828A1 (en) * 2007-09-23 2009-03-26 Volkswagen Of America, Inc. Camera System for a Vehicle and Method for Controlling a Camera System
JP2009230235A (ja) * 2008-03-19 2009-10-08 Sanyo Electric Co Ltd 画像処理装置及び方法、運転支援システム、車両
JP2012156672A (ja) * 2011-01-25 2012-08-16 Clarion Co Ltd 車両周辺監視装置

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4258979A (en) * 1978-12-08 1981-03-31 Mahin William E Rear view mirror assembly
US6717712B2 (en) * 2000-01-06 2004-04-06 Donnelly Corporation Exterior mirror plano-auxiliary reflective element assembly
JP4512293B2 (ja) 2001-06-18 2010-07-28 パナソニック株式会社 監視システムおよび監視方法
CN100373409C (zh) * 2003-01-27 2008-03-05 富士通株式会社 注目物体出现位置显示装置
US7420756B2 (en) * 2003-05-20 2008-09-02 Donnelly Corporation Mirror reflective element
US20060026017A1 (en) * 2003-10-28 2006-02-02 Walker Richard C National / international management and security system for responsible global resourcing through technical management to brige cultural and economic desparity
US7590310B2 (en) * 2004-05-05 2009-09-15 Facet Technology Corp. Methods and apparatus for automated true object-based image analysis and retrieval
US20060206246A1 (en) * 2004-10-28 2006-09-14 Walker Richard C Second national / international management and security system for responsible global resourcing through technical management to brige cultural and economic desparity
US8924078B2 (en) * 2004-11-18 2014-12-30 Gentex Corporation Image acquisition and processing system for vehicle equipment control
JP2008172441A (ja) * 2007-01-10 2008-07-24 Omron Corp 検出装置および方法、並びに、プログラム
JP4967666B2 (ja) * 2007-01-10 2012-07-04 オムロン株式会社 画像処理装置および方法、並びに、プログラム
JP2008203992A (ja) * 2007-02-16 2008-09-04 Omron Corp 検出装置および方法、並びに、プログラム
JP5347257B2 (ja) * 2007-09-26 2013-11-20 日産自動車株式会社 車両用周辺監視装置および映像表示方法
CN102289073B (zh) * 2007-11-21 2014-01-15 松下电器产业株式会社 显示装置
US8798314B2 (en) * 2008-07-14 2014-08-05 National Ict Australia Limited Detection of vehicles in images of a night time scene
TW201009757A (en) * 2008-08-29 2010-03-01 Automotive Res & Testing Ct Object position detecting device and method
KR101244498B1 (ko) * 2008-10-22 2013-03-18 주식회사 만도 차선을 인식하는 방법 및 장치
US8427395B2 (en) * 2009-04-02 2013-04-23 GM Global Technology Operations LLC Full-windshield hud enhancement: pixelated field of view limited architecture
US8564502B2 (en) * 2009-04-02 2013-10-22 GM Global Technology Operations LLC Distortion and perspective correction of vector projection display
US8358207B2 (en) * 2009-05-29 2013-01-22 GM Global Technology Operations LLC System for pre-attentively communicating information to a driver of a vehicle
JP5596938B2 (ja) * 2009-06-02 2014-09-24 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP5427577B2 (ja) 2009-12-04 2014-02-26 パナソニック株式会社 表示制御装置及び表示画像形成方法
JP5491235B2 (ja) * 2010-03-02 2014-05-14 東芝アルパイン・オートモティブテクノロジー株式会社 カメラキャリブレーション装置
JP5811327B2 (ja) 2011-06-11 2015-11-11 スズキ株式会社 カメラキャリブレーション装置
JP6036601B2 (ja) 2013-08-09 2016-11-30 株式会社デンソー 画像処理装置及び画像処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111070A (ja) * 2001-09-27 2003-04-11 Aisin Seiki Co Ltd 車両用監視装置
JP2005086279A (ja) * 2003-09-04 2005-03-31 Equos Research Co Ltd 撮像装置、及び撮像装置を備えた車両
JP2006129149A (ja) * 2004-10-29 2006-05-18 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
WO2008117386A1 (ja) * 2007-03-23 2008-10-02 Pioneer Corporation 車両用画像処理装置及び車両用画像処理プログラム
US20090079828A1 (en) * 2007-09-23 2009-03-26 Volkswagen Of America, Inc. Camera System for a Vehicle and Method for Controlling a Camera System
JP2009230235A (ja) * 2008-03-19 2009-10-08 Sanyo Electric Co Ltd 画像処理装置及び方法、運転支援システム、車両
JP2012156672A (ja) * 2011-01-25 2012-08-16 Clarion Co Ltd 車両周辺監視装置

Also Published As

Publication number Publication date
CN105453536A (zh) 2016-03-30
CN105453536B (zh) 2019-03-29
WO2015019579A1 (ja) 2015-02-12
JP6036601B2 (ja) 2016-11-30
EP3016370A1 (en) 2016-05-04
US10315570B2 (en) 2019-06-11
EP3016370A4 (en) 2017-01-04
US20160176344A1 (en) 2016-06-23
EP3016370B1 (en) 2018-12-05

Similar Documents

Publication Publication Date Title
JP6036601B2 (ja) 画像処理装置及び画像処理方法
JP6303090B2 (ja) 画像処理装置および画像処理プログラム
JP5222597B2 (ja) 画像処理装置及び方法、運転支援システム、車両
CN108883702B (zh) 车辆用装置、以及持续的有形计算机读取介质
JP5938703B2 (ja) 画像処理装置、画像処理装置の制御方法、プログラム、表示装置
JP2006318272A (ja) 車両用物体検出装置、および方法
JP6330383B2 (ja) 合成画像生成装置、および合成画像生成プログラム
US9747664B2 (en) Image processing apparatus
US20220319145A1 (en) Image processing device, image processing method, moving device, and storage medium
JP6601690B2 (ja) 表示制御装置
JP4945315B2 (ja) 運転支援システム及び車両
US9159118B2 (en) Image processing apparatus, image processing system, and non-transitory computer-readable medium
JP2006178667A (ja) 車両用映像補正装置及び車両用映像補正方法
JP4810919B2 (ja) 車両周辺監視装置
JP2016082329A (ja) 映像処理装置、及び車載映像処理システム
JP6136747B2 (ja) 2次元3次元表示装置
KR20140119999A (ko) 깊이값 조정을 통한 입체영상 제공 시스템 및 방법
JP7345106B2 (ja) 視界支援画像生成装置および画像変換プログラム
JP5778522B2 (ja) 画像処理装置、および画像処理プログラム
JP2008022518A (ja) 物体像表示方法
JP7291901B2 (ja) 視界支援画像生成装置および画像変換プログラム
JP7291900B2 (ja) 視界支援画像生成装置および画像変換プログラム
JP2017212597A (ja) 画像処理装置
CN109891877B (zh) 图像处理装置、图像显示装置以及程序
JP2019094026A (ja) 表示制御装置および表示制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161017

R151 Written notification of patent or utility model registration

Ref document number: 6036601

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250