JPWO2012073722A1 - 画像合成装置 - Google Patents

画像合成装置 Download PDF

Info

Publication number
JPWO2012073722A1
JPWO2012073722A1 JP2012546774A JP2012546774A JPWO2012073722A1 JP WO2012073722 A1 JPWO2012073722 A1 JP WO2012073722A1 JP 2012546774 A JP2012546774 A JP 2012546774A JP 2012546774 A JP2012546774 A JP 2012546774A JP WO2012073722 A1 JPWO2012073722 A1 JP WO2012073722A1
Authority
JP
Japan
Prior art keywords
image
information
subject
distance
infrared light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012546774A
Other languages
English (en)
Other versions
JP5783471B2 (ja
Inventor
高山 淳
淳 高山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2012546774A priority Critical patent/JP5783471B2/ja
Publication of JPWO2012073722A1 publication Critical patent/JPWO2012073722A1/ja
Application granted granted Critical
Publication of JP5783471B2 publication Critical patent/JP5783471B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/30Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/12Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/106Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using night vision cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

被写体の輝度に関わらず被写体を撮影することが出来、且つ合成された画像において被写体のズレを抑制できる画像合成装置を提供する。視点変換部12により可視光画像について視点変換が行われるので、遠赤外光画像の視点と、可視光画像の視点とが一致するようになる。よって、重畳部15にて両者の画像信号を重ね合わせた場合に、合成画像における被写体距離が異なる被写体のズレが抑制され、合成画像を視認する者が違和感を抱くことがない。

Description

本発明は、被写体情報を取得して被写体画像を形成する画像合成装置に関し、特に夜間などにおいても適切な被写体画像を形成できる画像合成装置に関する。
近年、自動車事故件数、死傷者数ともに減少傾向にあるが、依然高い水準にある。また、今後高齢者ドライバーが増加することが見込まれるため、加齢による身体機能低下を補い、安全運転を支援するための技術がより一層求められている。特に最近では、自動車の安全走行を確保するために、進行方向前方にある人、車などの障害物を検出し、認識することで、ドライバーの集中力低下、ヒューマンエラーによる事故を未然に防ぐプリクラッシュセーフティ技術が開発され、一部市販されている。
ところで、前方の障害物を認識するための手段として、電波やレーザーを利用したレーダー装置、可視光や赤外光を利用したカメラ装置などが一般的に利用されているが、各方式とも一長一短あり、信頼性を上げるためには別の方式を組み合わせて利用することが望ましいといえる。例えば、可視光カメラと遠赤外光カメラの組合せを考えた場合、昼間であれば被写体光量が十分なので、可視光カメラを利用することで、障害物の認識が可能であるのに対し、夜間においてヘッドライトが届かない遠方の被写体は、可視光カメラでは撮影が難しい。そこで、かかる場合には、遠赤外光カメラを組み合わせて利用することで、肉眼では見えなくても、ヘッドライトの照射範囲外にいる人物などを早期に認識することができる。
しかるに、可視光カメラと遠赤外光カメラで撮影した画像、あるいは画像から得られた障害物の情報を運転者に知らしめる場合、視認性を高めるためには、これらの画像情報を一つにして表示することが望ましい。しかしながら、例えば可視光カメラと遠赤外光カメラでは、検出する電磁波の波長域が異なるが、可視光、遠赤外光を両方透過する適当な光学材料が実質的に存在しないため、可視光カメラと遠赤外光カメラの光軸を一致させることは本来的にできない。つまり、可視光カメラで撮影された可視光画像と、遠赤外光カメラで撮影された遠赤外光画像とは、視点位置が異なることとなる。このように視点位置が異なる画像を単純に重ね合わせると、被写体距離に応じて障害物の位置がずれてしまい、表示画像の視認性が低下するという問題がある。これに対し特許文献1には、可視光画像と遠赤外光画像を合成するときに、画像認識を利用し、被写体を抽出することにより、同じ被写体が重なるよう処理する技術が開示されている。
特開2008−233398号公報
ところが、特許文献1の技術では、被写体の位置を一致させるためには、同じ被写体を可視光カメラと遠赤外光カメラの両方で撮像する必要が有るが、可視光画像と遠赤外光画像では、どちらかにしか写らない被写体も多く、よって必ずしも被写体の位置合わせができるとは限らないという問題がある。また、可視光カメラと遠赤外光カメラの両方により撮影された被写体を一致させることはできるが、その被写体より近距離、あるいは遠距離にある被写体はズレて画像合成されることとなるから、合成された画像を視認する者に違和感を招く恐れもある。
本発明は、上述の問題に鑑みてなされたものであり、被写体の輝度に関わらず被写体を撮影することが出来、且つ合成された画像において被写体のズレを抑制できる画像合成装置を提供することを目的とする。
本発明の画像合成装置は、
第1の波長領域の電磁波を利用して被写体情報を取得して、被写体に関する第1の画像情報を生成する第1の画像取得手段と、
前記第1の画像取得手段とは異なる視点から、前記第1の波長領域と異なる第2の波長領域の電磁波を利用して被写体情報を取得して、前記被写体に関する第2の画像情報を生成する第2の画像取得手段と、
前記被写体までの距離情報を求める測距手段と、
前記被写体までの距離情報に基づいて、被写体の3次元情報を生成する3次元情報生成手段と、
生成された前記被写体の3次元情報に基づいて、前記第1の画像情報に基づく画像と前記第2の画像情報に基づく画像とにおける撮影視点が互いに合致するように、少なくとも一方の画像にかかる画像情報を処理する視点変換手段と、を有することを特徴とする。
本発明によれば、前記視点変換手段が、生成された前記被写体の3次元情報に基づいて、前記第1の画像情報に基づく画像と前記第2の画像情報に基づく画像とにおける視点が互いに合致するように、少なくとも一方の画像にかかる画像情報を処理するので、前記重畳手段が、視点変換が行われた前記第1の画像と前記第2の画像とを重ね合わせるように、前記第1の画像情報と前記第2の画像情報とを重畳することにより、被写体距離に関わらず被写体ズレが抑制された合成画像を得ることができる。尚、第1の波長域の電磁波とは、例えば波長400nm〜700nmの可視光をいう。又、第2の波長域の電磁波とは、例えば波長4um程度以上の遠赤外光、テラヘルツ波、ミリ波、マイクロ波などをいう。更に、「画像情報」とは、例えば画像信号をいう。又、「重ね合わせる」とは、画面上の相対位置を固定した状態で画像の一部同士を組み合わせることを含む。
更に、本発明の一態様としては、前記視点変換手段により視点変換処理が行われた前記第1の画像と前記第2の画像とを重ね合わせるように、前記第1の画像情報と前記第2の画像情報とを重畳する重畳手段を有することを特徴とする。これによりズレのない画像合成を行うことができる。
更に、本発明の一態様としては、前記視点変換手段により視点変換処理が行われた前記第1の画像と前記第2の画像から特定の情報を抽出し、これらを重畳する重畳手段を有することを特徴とする。
更に、本発明の一態様としては、前記重畳手段は、前記第2の画像情報における所定値以上の輝度値を有する被写体情報を抽出し、その被写体情報を前記第1の画像情報に挿入するものであると好ましい。例えば、第2の波長域の電磁波が遠赤外光で或る場合、所定位置以上の遠赤外光が検出されれば人体と判断できるため、その情報を前記第1の画像情報に挿入する表示することで、視認する者に早期警告することが可能となる。
更に、本発明の一態様としては、前記重畳手段は、前記第1の画像情報から特定の色又は形状を有する被写体情報を抽出し、その被写体情報を前記第2の画像情報に挿入するものであると好ましい。例えば、第1の波長域の電磁波が可視光で或る場合、信号機の色や形を予め記憶しておくことで、可視光画像から画像認識により信号機を抽出でき、その情報を前記第2の画像情報に挿入して表示することで、視認する者に早期警告することが可能となる。
更に、本発明の一態様としては、前記重畳手段は、前記第1の画像情報から特定の色又は形状を有する被写体情報を抽出し、前記第2の画像情報における所定値以上の輝度値を有する被写体情報を抽出し、抽出した被写体情報を別の背景画像情報に挿入すると好ましい。例えば、第1の波長域の電磁波が可視光で或る場合、信号機の色や形を予め記憶しておくことで、可視光画像から画像認識により信号機を抽出でき、第2の波長域の電磁波が遠赤外光で或る場合、所定位置以上の遠赤外光が検出されれば人体と判断できるため、それらの情報を抽出して別な背景に挿入することで、視認する者に早期警告することが可能となる。
更に、本発明の一態様としては、前記抽出した被写体情報に対して、所定の情報を付与すると好ましい。「所定の情報」とは、被写体を囲む枠の情報であると良いが、例えば被写体までの距離を数値で表示しても良い。
更に、本発明の一態様としては、前記測距手段は、複数の前記第1の画像取得手段又は前記第2の画像取得手段から得られた視差情報に基づいて、被写体までの距離情報を取得し、前記3次元情報生成手段は、前記測距情報を画面全体に適用することで、被写体の3次元情報を取得すると好ましい。
更に、本発明の一態様としては、前記測距手段は、電磁波を被写体に投射し、反射してくる時間または方向を計測することにより前記被写体までの距離を測定し、前記3次元情報生成手段は、前記被写体までの距離に基づいて、被写体の3次元情報を取得すると好ましい。
更に、本発明の一態様としては、第1の波長領域の電磁波は可視光または近赤外光または可視光と近赤外光であり、前記第2の波長領域の電磁波は遠赤外光であると好ましい。
本発明によれば、最小限の構成で、例えば可視光と遠赤外光の画像を一つの視点から見た画像に合成でき、片方のカメラにしか写らない被写体でも位置を合わせることができる。
第1の実施の形態にかかる画像合成装置を搭載した車両の概略図である。 本実施の形態にかかる画像合成装置のブロック図である。 ステレオカメラで対象物までの距離を測定する状態を示す図である。 (a)は、本実施の形態の遠赤外光カメラ3で夕暮れ時を撮影した画像(遠赤外光画像)を示す図であり、(b)は、可視光カメラ1で同じ被写体を同じタイミングで撮影した画像(可視光画像)を示す図である。 図2の画像合成部10の処理を示す概略図であり、(a)は可視光カメラ1,2から入力する一対の画像、(b)は距離画像、(c)は視点変換された距離画像、(d)は視点変換された2次元画像データの画像をそれぞれ示す。 視点を一致させた遠赤外光画像(a)と、可視光画像(b)とを示す図である。 遠赤外光画像に可視光画像を重ね合わせた合成画像の例を示す図である。 可視光画像に遠赤外光画像を重ね合わせた合成画像の例を示す図である。 可視光画像の抽出物と、遠赤外光画像の抽出物のみを重ね合わせた合成画像の例を示す図である。 可視光画像に遠赤外光画像を重ね合わせ、更に輪郭付けした合成画像の例を示す図である。 第2の実施の形態にかかる画像合成装置のブロック図である。
(第1の実施の形態)
以下、本発明の実施の形態にかかる画像合成装置について説明する。図1は、第1の実施の形態にかかる画像合成装置を搭載した車両の概略図である。図1において、車両VHのフロントガラスの内側に、可視光カメラ1、2が取り付けられ、車両VHのフロントグリル付近に遠赤外光カメラが取り付けられている。第1の画像取得手段及び測距手段である可視光カメラ1、2は、垂直方向視点位置Aにて、被写体OBからの可視光を受光して画像信号として出力し、第2の画像取得手段である遠赤外光カメラ3は、垂直方向視点位置Bにて、遠赤外光を受光して画像信号として出力する。但し、ここでは、正面から見たときに遠赤外光カメラ3の視点の鉛直方向上方に、可視光カメラ1の視点があるものとする。カメラ1〜3の画像信号は、画像合成部10に入力され、ここで画像処理された画像信号がモニタである表示装置4に出力されて、車両VHの運転者が視認できる合成画像を表示するようになっている。画像合成装置は、カメラ1〜3と画像合成部10とからなる。
図2は、本実施の形態にかかる画像合成装置のブロック図である。図2において、画像合成部10は、3次元情報生成手段である3次元情報生成部11,視点変換手段である視点変換部12,被写体認識部13,データ加工部14,重畳手段である重畳部15、視点データ部19を含む。尚、これ以外に、第1動き検出部16,第2動き検出部17,動き比較部18を含んでいて良い。
3次元情報生成部11は、可視光カメラ1,2の画像信号に基づいて、ステレオカメラの原理により3次元情報を抽出する。図3は、ステレオカメラで対象物までの距離を測定する状態を示す図である。図3において、一対の撮像素子を備えた可視光カメラ1,2は、予め定める基線間隔Lだけ離間して、かつ光軸が相互に平行となるように配置される。可視光カメラ1,2で撮像された対象物の撮像画像は、例えば対応点探索手法であるSAD(Sum of Absolute Difference)法を用いて画素単位で対応点探索を行い、各可視光カメラ1,2間の左右方向における対象物に対する視差を求め、求められた視差に基づいて、以下の式に基づき対象物までの距離を求めることができる。
図3において、少なくとも焦点距離(f)、撮像素子(CCD)の画素数、1画素の大きさ(μ)が相互に等しい2台のカメラ1,2を用い、所定の基線長(L)だけ前記左右に離間させて光軸1X,2Xを平行に配置して被写体OBを撮影する。このとき、図3(a)の例では、カメラ1の撮像面1b上で被写体OBの端部の画素番号(左端又は右端から数えるものとする)がx1,カメラ2における撮像面2b上で同じ被写体OBの端部の画素番号がx2であったとする(yは等しいと仮定)と、撮像面1b,2b上の視差(ずれ画素数)はd(=x1−x2)であり、被写体OBまでの距離(Z)は、斜線を施して示す三角形が相似である。従って、
Z:f=L:μ×d=L:(d1+d2)
の関係より、
Z=(L×f)/(d1+d2)・・・(1)
で求めることができる。
視点変換部12は、3次元情報生成部11により得られた3次元情報に基づいて、視点座標や画角を計算し、可視光カメラ1,2の画像信号に対し、視点位置を変えるように画像処理を行う。この時、画角が異なる場合は、画角を合わせることもできる。視点変換については、例えば特開2008-099136号公報に記載がある。また、視点位置を変換するときには、視点データ部19に記憶されている、あらかじめ設定された可視光カメラ1と遠赤外光カメラ3の相対位置データを参照して、視点位置を変換すると良い。視点を変換した可視光画像と遠赤外光画像とを合成することで、遠赤外光カメラの位置からみた可視光遠赤外光合成画像を生成する。尚、可視光画像の視点位置を、遠赤外光画像の視点位置に合わせても良いし、その逆でも良い。
被写体認識部13は、例えば被写体の遠赤外値や、色・形などから、被写体の種類を識別して抽出する機能を有する。データ加工部14は、被写体認識部13で抽出された被写体の画像に枠等を形成する機能を有する。重畳部15は、視点位置を一致させた画像を重ね合わせる機能を有する。重ね合わされた画像に基づく合成画像信号は、表示装置4に出力されて合成画像が表示される。
第1動き検出部16,第2動き検出部17,動き比較部18を備える場合、第1動き検出部16が、可視光カメラ1,2で撮影した被写体の動きを検出し、第2動き検出部17が、遠赤外光カメラ3で撮影した被写体の動きを検出し、両者を動き比較部18で比較することができる。可視光カメラ1、2と、遠赤外光カメラ3に同じ被写体が撮像されていると認識された場合は、この画像の動きを利用して、位置合わせの補正を行うことができる。つまり動き比較部18が、可視光カメラ1,2の画像と遠赤外光カメラ3の画像のそれぞれの中の、同じ被写体が撮像されている領域を認識し、これらの位置のずれを計測する。ズレ量が基準以上であれば、視点データ部19に記憶されている、視点変更のための位置データを修正する。定期的に補正を行うことで、径時変化による誤差を修正することができる。これにより、動きのある被写体についても、視点を一致させて違和感のない合成画像を得ることができる。
次に、具体例を挙げて、本実施の形態の動作について説明する。図4(a)は、遠赤外光カメラ3で夕暮れ時を撮影した画像(遠赤外光画像)であり、人物としての被写体HM1,HM2は発熱するので白っぽく写るが、道路や壁面、近年増加している発熱量が少ないLED信号機などは明瞭に写らない。一方、図4(b)は、可視光カメラ1で同じ被写体を同じタイミングで撮影した画像(可視光画像)である。夕暮れ時であるので全体的に被写体輝度が低く、自発光の信号機SGのランプなどは明瞭に写るが、人物HM1,HM2などは明瞭に写らない。ここで、遠赤外光カメラ3の視点位置と、可視光カメラ1の視点位置とは鉛直方向に離れているため、図4から明らかなように、2つの画像の視点が異なる。よって、このまま両者を重ね合わせると、被写体のズレが生じる。
図5は、画像合成部10の処理を示す概略図である。まず、3次元情報生成部11は、可視光カメラ1,2からの画像信号を入力する。このときの画像信号により得られる一対の画像を図5(a)に示す。更に3次元情報生成部11は、図3の原理を用いて3次元データを生成する。これにより得られる距離画像を図5(b)に示す。その後、視点変換部12が、生成された3次元データを利用して視点変換を行う。視点変換された距離画像を図5(c)に示す。即ち、可視光カメラ1,2から得られた視差情報に基づいて、被写体までの距離情報を取得し、かかる測距情報を画面全体に適用することで被写体の3次元情報を取得できる。図5(b)の距離画像と、図5(c)の距離画像から距離に応じた被写体の移動すべき距離が分かるので、これを利用し、2次元画像データの被写体位置をずらすことで視点変換された2次元画像データを求める。かかる2次元画像データの画像を図5(d)に示す。
以上により、可視光画像について視点変換が行われるので、図6に示すように、遠赤外光画像(a)の視点と、可視光画像(b)の視点とが一致するようになる。よって、重畳部15にて両者の画像信号を重ね合わせた場合に、合成画像における被写体距離が異なる被写体のズレが抑制され、合成画像を視認する者が違和感を抱くことがない。
図7は、遠赤外光画像に可視光画像を重ね合わせた合成画像の例を示す図である。図7では、人物HM1,HM2と、信号機SGの赤ランプのみが明るく表示され、それ以外は暗くなっているので、運転者は注意すべき被写体を迅速且つ明瞭に識別できる。
図8は、可視光画像に遠赤外光画像を重ね合わせた合成画像の例を示す図である。図8では、薄暗い夕暮れ時の風景に、白っぽい人物HM1,HM2が浮き上がるように表示されるので、運転者は注意すべき被写体を迅速且つ明瞭に識別できる。
図9は、可視光画像の抽出物と、遠赤外光画像の抽出物のみを重ね合わせた合成画像の例を示す図である。図9では、被写体認識部13が、可視光画像から例えば被写体の色や形から信号機SGのみを抽出し、遠赤外光画像から、発熱して遠赤外線を放射しているため所定位置以上の輝度値を有する人物HM1,HM2のみを抽出し、重畳部15がこれらをブラック背景上に埋め込むように合成表示しているので、運転者は注意すべき被写体を迅速且つ明瞭に識別できる。
図10は、可視光画像に遠赤外光画像を重ね合わせ、更に輪郭付けした合成画像の例を示す図である。図10では、被写体認識部13が、可視光画像から例えば被写体の色や形から信号機SGのみを抽出し、遠赤外光画像から発熱して遠赤外線を放射しているため所定位置以上の輝度値を有する人物HM1,HM2のみを抽出し、データ加工部14が信号機SGと人物HM1,HM2に枠付け(F1,F2,F3)した後、重畳部15がこれらを合成表示しているので、運転者は注意すべき被写体を迅速且つ明瞭に識別できる。尚、抽出する被写体は以上に限られず、車両、標識、障害物などでも良い。
(第2の実施の形態)
図11は、第2の実施の形態にかかる画像合成装置のブロック図である。図11においては、ステレオカメラ方式ではなく、別個の距離検出装置(測距手段)5により、被写体までの距離を検出するようになっている。又、画像合成部20は、3次元情報生成部21,視点データ部22,視点変換部23,重畳部24とを有する。
より具体的には、3次元情報生成部21は、距離検出装置5からの信号に基づいて被写体距離を検出する。視点変換部23は、第1情報取得装置(第1の画像取得手段)6からの画像信号を入力し、視点データ部22に記憶されている、あらかじめ設定された第1情報取得装置6と第2情報取得装置7の相対位置データを参照して、視点位置を変換する。重畳部24は、第2情報取得装置7(第2の画像取得手段)からの画像信号を入力し、視点位置が変換された第1情報取得装置6の画像信号と重ね合わせるように合成する。合成された画像信号は、画像合成部20から出力され、表示装置4(図2)などによって表示される。
ここで、距離検出装置5は、光切断法やTOF(Time of Flight)などにより赤外光などを投射して被写体距離を検出するものであって良い。又、第1情報取得装置6は、可視光カメラや赤外光カメラなどでもよい。更に、第2情報取得装置7は、遠赤外光カメラやミリ波レーダー、レーザーレーダーなどでもよい。
例えば、自動車の障害物検知においては、横からの飛びだし等に対応するために可能な限り高速での処理が要求される。一般に3次元処理はデータ量が多くなり、処理負荷が大きくなる。可視光カメラ、遠赤外光カメラともステレオ化し、それぞれ3次元データを生成し、これを合成する方法もあるが、処理負荷が大きくなり、フレームレートの低下を招くなど検知能力が低下する恐れがあるから、本実施の形態のように可視光ステレオカメラと単眼遠赤外光カメラとを用いる構成が望ましい。
また、可視光カメラの代わりに近赤外光カメラを用いても良いし、可視光および近赤外光に感度を持ったカメラを用いても良い。
なお、本発明は、本明細書に記載の実施の形態に限定されるものではなく、他の実施の形態や変形例を含むことは、本明細書に記載された実施の形態や技術的思想から本分野の当業者にとって明らかである。
本発明は、例えば車載カメラやロボット搭載カメラ等に特に有効であるが、用途はそれに限られない。
1、2 可視光カメラ
3 遠赤外光カメラ
4 表示装置
5 距離検出装置
6 第1情報取得装置
7 第2情報取得装置
10 画像合成部
11 3次元情報生成部
12 視点変換部
13 被写体認識部
14 データ加工部
15 重畳部
16 第1動き検出部
17 第2動き検出部
18 動き比較部
19 視点データ部
20 画像合成部
21 3次元情報生成部
22 視点データ部
23 視点変換部
24 重畳部
VH 車両

Claims (10)

  1. 第1の波長領域の電磁波を利用して被写体情報を取得して、被写体に関する第1の画像情報を生成する第1の画像取得手段と、
    前記第1の画像取得手段とは異なる視点から、前記第1の波長領域と異なる第2の波長領域の電磁波を利用して被写体情報を取得して、前記被写体に関する第2の画像情報を生成する第2の画像取得手段と、
    前記被写体までの距離情報を求める測距手段と、
    前記被写体までの距離情報に基づいて、被写体の3次元情報を生成する3次元情報生成手段と、
    生成された前記被写体の3次元情報に基づいて、前記第1の画像情報に基づく画像と前記第2の画像情報に基づく画像とにおける撮影視点が互いに合致するように、少なくとも一方の画像にかかる画像情報を処理する視点変換手段と、
    を有することを特徴とする画像取得装置。
  2. 前記視点変換手段により視点変換処理が行われた前記第1の画像と前記第2の画像とを重ね合わせるように、前記第1の画像情報と前記第2の画像情報とを重畳する重畳手段を有することを特徴とする請求項1に記載の画像合成装置。
  3. 前記視点変換手段により視点変換処理が行われた前記第1の画像と前記第2の画像から特定の情報を抽出し、これらを重畳する重畳手段を有することを特徴とする請求項1に記載の画像合成装置。
  4. 前記重畳手段は、前記第2の画像情報における所定値以上の輝度値を有する被写体情報を抽出し、その被写体情報を前記第1の画像情報に挿入することを特徴とする請求項2または3に記載の画像合成装置。
  5. 前記重畳手段は、前記第1の画像情報から特定の色又は形状を有する被写体情報を抽出し、その被写体情報を前記第2の画像情報に挿入することを特徴とする請求項2乃至4のいずれか1項に記載の画像合成装置。
  6. 前記重畳手段は、前記第1の画像情報から特定の色又は形状を有する被写体情報を抽出し、前記第2の画像情報における所定値以上の輝度値を有する被写体情報を抽出し、抽出した被写体情報を別の背景画像情報に挿入することを特徴とする請求項2乃至4のいずれか1項に記載の画像合成装置。
  7. 前記抽出した被写体情報に対して、所定の情報を付与することを特徴とする請求項4乃至6のいずれか1項に記載の画像合成装置。
  8. 前記測距手段は、複数の前記第1の画像取得手段又は前記第2の画像取得手段から得られた視差情報に基づいて、被写体までの距離情報を取得し、前記3次元情報生成手段は、前記測距情報を画面全体に適用することで、被写体の3次元情報を取得することを特徴とする請求項1乃至7のいずれか1項に記載の画像合成装置。
  9. 前記測距手段は、電磁波を被写体に投射し、反射してくる時間または方向を計測することにより前記被写体までの距離を測定し、前記3次元情報生成手段は、前記被写体までの距離に基づいて、被写体の3次元情報を取得することを特徴とする請求項1乃至8のいずれか1項に記載の画像合成装置。
  10. 第1の波長領域の電磁波は可視光または近赤外光または可視光と近赤外光であり、前記第2の波長領域の電磁波は遠赤外光であることを特徴とする請求項1乃至9のいずれか1項に記載の画像合成装置。
JP2012546774A 2010-12-01 2011-11-18 画像合成装置 Expired - Fee Related JP5783471B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012546774A JP5783471B2 (ja) 2010-12-01 2011-11-18 画像合成装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010268170 2010-12-01
JP2010268170 2010-12-01
PCT/JP2011/076669 WO2012073722A1 (ja) 2010-12-01 2011-11-18 画像合成装置
JP2012546774A JP5783471B2 (ja) 2010-12-01 2011-11-18 画像合成装置

Publications (2)

Publication Number Publication Date
JPWO2012073722A1 true JPWO2012073722A1 (ja) 2014-05-19
JP5783471B2 JP5783471B2 (ja) 2015-09-24

Family

ID=46171666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012546774A Expired - Fee Related JP5783471B2 (ja) 2010-12-01 2011-11-18 画像合成装置

Country Status (3)

Country Link
US (1) US20130250070A1 (ja)
JP (1) JP5783471B2 (ja)
WO (1) WO2012073722A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9729803B2 (en) * 2013-03-15 2017-08-08 Infrared Integrated Systems, Ltd. Apparatus and method for multispectral imaging with parallax correction

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2014174765A1 (ja) * 2013-04-26 2017-02-23 コニカミノルタ株式会社 撮像装置および撮像方法
WO2015182771A1 (ja) * 2014-05-30 2015-12-03 日本電産エレシス株式会社 撮像装置、画像処理装置、画像処理方法およびコンピュータプログラム
JP6176191B2 (ja) * 2014-06-19 2017-08-09 株式会社Jvcケンウッド 撮像装置及び赤外線画像生成方法
FR3023111B1 (fr) * 2014-06-30 2017-10-20 Safel Systeme de vision
JP5959073B2 (ja) 2014-09-30 2016-08-02 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 検出装置、検出方法、及び、プログラム
JP6394338B2 (ja) * 2014-12-04 2018-09-26 ソニー株式会社 画像処理装置、画像処理方法、及び撮像システム
US9715016B2 (en) * 2015-03-11 2017-07-25 The Boeing Company Real time multi dimensional image fusing
JP6868805B2 (ja) 2016-06-07 2021-05-12 パナソニックIpマネジメント株式会社 画像生成装置、画像生成方法、およびプログラム
CN109690620B (zh) * 2016-09-12 2023-05-30 松下知识产权经营株式会社 三维模型生成装置以及三维模型生成方法
JP7188394B2 (ja) * 2017-10-02 2022-12-13 ソニーグループ株式会社 画像処理装置及び画像処理方法
WO2019111464A1 (ja) * 2017-12-04 2019-06-13 ソニー株式会社 画像処理装置及び画像処理方法
DE102018203910B3 (de) 2018-03-14 2019-06-13 Audi Ag Fahrerassistenzsystem sowie Verfahren für ein Kraftfahrzeug zum Anzeigen einer erweiterten Realität
JPWO2020039605A1 (ja) 2018-08-20 2021-08-26 コニカミノルタ株式会社 ガス検出装置、情報処理装置およびプログラム
JP2021047377A (ja) * 2019-09-20 2021-03-25 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム
JP7436656B2 (ja) 2020-05-29 2024-02-21 富士フイルム株式会社 撮影システム、撮影方法、撮影プログラム、及び情報取得方法
JP2022117174A (ja) * 2021-01-29 2022-08-10 株式会社小松製作所 表示システム及び表示方法
JP2022144606A (ja) * 2021-03-19 2022-10-03 株式会社Jvcケンウッド 警告装置及び警告方法
CN117255931A (zh) * 2021-05-13 2023-12-19 富士胶片株式会社 图像处理装置、图像处理方法及图像处理程序

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000007373A1 (fr) * 1998-07-31 2000-02-10 Matsushita Electric Industrial Co., Ltd. Procede et appareil d'affichage d'images
JP3910893B2 (ja) * 2002-08-30 2007-04-25 富士通株式会社 画像抽出方法及び認証装置
DE10305861A1 (de) * 2003-02-13 2004-08-26 Adam Opel Ag Vorrichtung eines Kraftfahrzeuges zur räumlichen Erfassung einer Szene innerhalb und/oder außerhalb des Kraftfahrzeuges
JP2005037366A (ja) * 2003-06-24 2005-02-10 Constec Engi Co 赤外線構造物診断システム及び赤外線構造物診断方法
JP4376653B2 (ja) * 2004-02-17 2009-12-02 富士重工業株式会社 車外監視装置
JP4647975B2 (ja) * 2004-11-17 2011-03-09 オリンパス株式会社 画像生成装置
JP2006060425A (ja) * 2004-08-18 2006-03-02 Olympus Corp 画像生成方法および装置
JP2006333132A (ja) * 2005-05-26 2006-12-07 Sony Corp 撮像装置及び撮像方法、プログラム、プログラム記録媒体並びに撮像システム
JP4814655B2 (ja) * 2006-03-02 2011-11-16 富士通株式会社 路面状態判定装置および路面状態判定方法
US7786898B2 (en) * 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
JP5442353B2 (ja) * 2009-08-10 2014-03-12 株式会社Ihi 車両操縦用画像表示装置および方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9729803B2 (en) * 2013-03-15 2017-08-08 Infrared Integrated Systems, Ltd. Apparatus and method for multispectral imaging with parallax correction

Also Published As

Publication number Publication date
US20130250070A1 (en) 2013-09-26
WO2012073722A1 (ja) 2012-06-07
JP5783471B2 (ja) 2015-09-24

Similar Documents

Publication Publication Date Title
JP5783471B2 (ja) 画像合成装置
KR102499586B1 (ko) 촬상 장치
JP6091586B1 (ja) 車両用画像処理装置および車両用画像処理システム
KR102344171B1 (ko) 화상 생성 장치, 화상 생성 방법, 및 프로그램
EP2544449B1 (en) Vehicle perimeter monitoring device
KR100921095B1 (ko) 차량용 정보표시시스템
US20070247517A1 (en) Method and apparatus for producing a fused image
WO2012169355A1 (ja) 画像生成装置
US20080198226A1 (en) Image Processing Device
KR20130086066A (ko) 화상 입력 장치 및 화상 처리 장치
JP2007129560A (ja) 物体検出装置
KR20130058277A (ko) 원적외선 스마트 나이트 뷰를 위한 차선 정보 합성 장치 및 방법
JP6782433B2 (ja) 画像認識装置
JP2008026998A (ja) 障害物位置算出システム、及び障害物位置算出方法
JP2008183933A (ja) 赤外線暗視装置
KR20150055181A (ko) 헤드업 디스플레이를 이용한 나이트 비전 정보 표시 장치 및 방법
KR20160136757A (ko) 단안 카메라를 이용한 장애물 검출장치
US11589028B2 (en) Non-same camera based image processing apparatus
JP2008230358A (ja) 表示装置
US20220279134A1 (en) Imaging device and imaging method
JP4627305B2 (ja) 車両周辺監視装置、車両周辺監視方法、及び車両周辺監視用プログラム
JP4795813B2 (ja) 車両周囲監視装置
TW201739648A (zh) 影像疊合之方法
US11838656B2 (en) Imaging device and correction method for reducing image height dependency of a depth
JP2012004693A (ja) 運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150709

R150 Certificate of patent or registration of utility model

Ref document number: 5783471

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees