JP4436392B2 - 映像処理装置 - Google Patents

映像処理装置 Download PDF

Info

Publication number
JP4436392B2
JP4436392B2 JP2007232811A JP2007232811A JP4436392B2 JP 4436392 B2 JP4436392 B2 JP 4436392B2 JP 2007232811 A JP2007232811 A JP 2007232811A JP 2007232811 A JP2007232811 A JP 2007232811A JP 4436392 B2 JP4436392 B2 JP 4436392B2
Authority
JP
Japan
Prior art keywords
distortion correction
video
angle
view
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007232811A
Other languages
English (en)
Other versions
JP2009061969A (ja
Inventor
敏弘 服部
丙辰 王
勝之 今西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc filed Critical Denso Corp
Priority to JP2007232811A priority Critical patent/JP4436392B2/ja
Priority to US12/230,346 priority patent/US20090066842A1/en
Publication of JP2009061969A publication Critical patent/JP2009061969A/ja
Application granted granted Critical
Publication of JP4436392B2 publication Critical patent/JP4436392B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/406Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components using wireless transmission
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、車両に搭載されたカメラにより撮影された映像を処理する映像処理装置に関する。
近年、車両に搭載されたカメラにより撮影された映像を、車両の挙動に応じたタイミングで表示装置に表示せたり、車両の挙動に応じた画角の映像に変更して表示装置に表示させたりする映像処理装置が知られている。例えば、特許文献1に記載された車両用後退支援装置は、シフトポジションセンサ、車速センサ及びパーキングブレーキセンサから入力される信号に基づき、車両が前進駐車された後に後退状態になったか否かを判定し、この判定結果に基づいて、水平画角の広い広角映像と水平画角の狭い狭角映像とを切り替えてディスプレイに表示するように構成されている(特許文献1の段落「0039」等参照)。
特開2005−112267号公報
しかしながら、一般的に広角映像を得るためには、カメラが広角レンズ(いわゆる魚眼レンズ)を有している必要があり、その結果、ディスプレイに表示される映像は、周辺部が大きく歪んだ映像になる。例えば、特許文献1に記載された車両用後退支援装置におけるカメラは水平画角が170度の広角レンズであるため、ディスプレイに表示される映像の周辺部は大きく歪んでいると考えられる。
そこで、映像の歪補正技術により、表示装置に表示される映像の周辺部の歪みを補正することが考えられる。しかし、表示装置に表示される映像の画角の違いにより、映像の周辺部の歪具合が異なるため、一律に映像の周辺部の歪みを補正してしまうと画角によってはかえって映像を視認しづらくなる問題がある。また、運転者の好みによって希望する歪の補正量が異なり、歪補正量を固定してしまうと、運転者にとって使いづらい映像処理装置になってしまうという問題もある。
本願発明はこのようなかんがみなされたものであり、適正な歪補正を実行可能な映像処理装置を提供することを目的とする。
上記課題を解決するためになされた請求項1に記載の映像処理装置は、映像を映像信号により入力する映像入力手段と、映像入力手段によって入力された映像を映像信号により表示装置へ出力する手段であって、該映像信号に所定の画像を重畳することが可能に構成されている映像出力手段と、映像入力手段が入力する映像の画角を切り替える画角切替手段と、映像出力手段が出力する前記映像に対し歪補正を行う歪補正実行手段と、ユーザより歪補正に関する指令を受け付け、さらに、映像出力手段により出力される前記映像信号に重畳された操作用の画像を介して、該映像信号に係る映像について実現される歪補正量の段階を受け付け可能に構成されている指令受付手段と、歪補正方法に関する情報である歪補正情報を記憶する記憶手段と、画角切替手段により切り替えられた画角及び指令受付手段が受け付けた指令に応じた歪補正情報を記憶手段から読み出し、その読み出した歪補正情報に基づいた歪補正を歪補正実行手段に行わせる歪補正変更手段と、を備える。そして、歪補正変更手段は、記憶手段に記憶された歪補正情報に基づき実現される歪補正状態まで他の歪補正情報を用いなくても段階的に歪補正を歪補正実行手段に行わせることが可能であり、指令受付手段が受け付けた段階の歪補正を歪補正実行手段に行わせる。
このような映像処理装置によれば、表示装置に表示させる映像の画角に合った歪補正であってユーザの希望する歪補正を実現することができる。
また、このようになっていれば、記憶手段に記憶させる歪補正情報を変更することにより、例えば、ユーザの希望する歪補正を実現可能な歪補正情報に変更することができる。その結果、さらに適正な歪補正を実現することが可能になる。
また、このようになっていれば、実現する歪補正量の段階の数に比例させて記憶手段に記憶させる歪補正情報を用意しておくことなく、現在の歪補正状態から、特定の歪補正情報によって実現される歪補正量まで段階的に歪補正を実現することができる。
なお、具体的には、請求項に記載の映像処理装置のようにして実現するとよい。つまり、歪補正変更手段は、記憶手段に記憶された歪補正情報に基づき実現される歪補正の補正量を分割し、その分割単位と段階とを対応させ、指令受付手段が受け付けた段階に対応する補正量だけ歪補正実行手段に歪補正を行わせるようにするとよい。例えば、補正前の座標(X1,Y1)の画素情報(輝度情報や彩度情報等)が、記憶手段に記憶された歪補正情報に基づき実現される歪補正後には座標(X2,Y2)へ移動する場合、移動量の分割数をN、指定された段階数をkとすれば、補正前の座標(X1,Y1)の画素情報の移動先は(X1+(X2−X1)*k/N,Y1+(Y2−Y1)*k/N)となる。なお、分割する「補正量」としては、上述したように画素情報の移動量を分割するようにしてもよいし、画素情報の移動量は歪補正情報に基づく既定量としておき、移動先の画素における画素情報の変更量を分割するようにしてもよい。つまり、補正前の座標(X1,Y1)の画素情報をIとし、記憶手段に記憶された歪補正情報に基づき実現される歪補正後の座標(X1,Y1)の画素情報をI’とした場合、変更量の分割数をN、指定された段階数をkとすれば、補正後の座標(X1,Y1)の画素情報I''は、I+(I’−I)*k/Nとなる。
このような方法によれば、簡易な計算式によって段階的な歪補正を実現することができるため、映像処理装置の処理負荷が少なくて済む。
ところで、狭角画角の映像は、広角画角の映像と比べて映像周辺部の歪みが少ないという特徴がある。したがって、画角切替手段は、画角を二段階に切り替えることができるようになっている場合、歪補正実行手段は、画角切替手段により切り替えられた画角が広角側の画角である場合にのみ歪補正を行うようになっていてもよい(請求項)。なお、画角切替手段により切り替えられた画角が広角側の画角である場合には、指令受付手段はユーザより歪補正に関する指令を受け付けない、もしくは、受け付けたとしても歪補正変更手段がそれに応じないことは言うまでもない。
このような映像処理装置であれば、映像処理装置の処理負荷を少なくすることができる。
以下、本発明が適用された実施形態について図面を用いて説明する。なお、本発明の実施の形態は、下記の実施形態に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の形態を採りうる。
[代表実施形態]
代表実施形態について説明する。
[構成の説明]
図1は、代表実施形態の映像処理装置11及び映像処理装置11に接続される各種装置類を説明するためのブロック図である。映像処理装置11には、カメラ91、シフトポジション検出センサ92、及び、表示装置93が接続されている。
(1)映像処理装置11
映像処理装置11は、カメラ91から一種類の画角の映像(原映像)を入力し、原映像と、原映像から生成した画角の狭い映像とを切り替え、切り替えた映像を表示装置93に出力させることができる処理装置である。映像処理装置11は、第一処理部12、第二処理部13、情報入力インタフェース14、操作部15、記憶部16、及び、制御部17を備える。
(1−1)第一処理部12
第一処理部12は、入力した映像の画角を変更(切り出しズーム)する機能を有する部位であり、映像入力インタフェース21、画角変更処理部22、及び、映像出力インタフェース23を備える。
映像入力インタフェース21は、カメラ91から映像信号を入力するためのインタフェースである。
画角変更処理部22は、映像入力インタフェース21から渡された映像信号を、制御部17からの指令に基づいて狭角画角(原映像の画角よりも狭い画角(130度))の映像へ変更する機能を有する。画角の変更は、周知のデジタル映像処理技術(映像の切り出しや、デジタルズーム等)により行われ、狭角映像を得る。なお、画角変更処理部22は、画角を変更しない映像(つまり広角映像である原映像)の映像信号をそのまま出力することもできるようになっている。
映像出力インタフェース23は、画角変更処理部22より得られた映像信号を、第二処理部13へ出力するためのインタフェースである。
(1−2)第二処理部13
第二処理部13は、第一処理部12から入力した映像に対し、歪補正を実行する機能を有する部位であり、映像入力インタフェース24、歪補正部25、及び、映像出力インタフェース26を備える。
映像入力インタフェース24は、第一処理部12から映像信号を入力するためのインタフェースである。
歪補正部25は、映像入力インタフェース24から渡された映像信号に基づく映像に対し、制御部17からのに基づき歪補正を実行する。なお、歪補正部25は、制御部17からの指示により、映像入力インタフェース24から渡された映像信号をそのまま(歪補正を実行せずに)映像出力インタフェース26へ出力することもできる。
映像出力インタフェース26は、歪補正部25より得られた映像信号を、表示装置93へ出力するためのインタフェースである。
(1−3)情報入力インタフェース14
情報入力インタフェース14は、シフトポジション検出センサ92からシフトポジション信号を入力するためのインタフェースである。
(1−4)操作部15
操作部15は、表示装置93の表示面と積層一体化されたタッチパネル、表示装置93の周囲に設けられたメカニカルなスイッチ、ステアリングに設けられたステアリングスイッチ等からなり、ユーザが映像処理装置11に対して操作指令を入力可能なデバイスである。
(1−5)記憶部16
記憶部16は、ハードディスクやフラッシュメモリ等の不揮発性の記憶媒体を備え、歪補正方法に関する情報である歪補正情報や、前回使用した歪補正情報のID等を含む履歴テーブル、画角に対応した歪補正情報IDを特定するための歪補正情報ID特定テーブル等を記憶する。歪補正情報や各テーブルの詳細については後述する。
(1−6)制御部17
制御部17は、周知のマイコンから構成され、ROMやフラッシュメモリ等に記憶されたプログラムに基づいて上述した各部を制御して各種の処理を実行する機能を有する。
(2)カメラ91
車両の後部に備えられた車載用カメラであり、180度の画角で車両周辺を撮影可能なカメラである。カメラ91が撮影された映像は映像信号として映像処理装置11へ有線方式にて送信される。なお、周知の無線方式により映像信号を無線送信してもよい。
(3)シフトポジション検出センサ92
シフトポジション検出センサ92は、図示しないトランスミッションに設けられたセンサであり、トランスミッションのシフト位置を検出する機能を有するセンサである。シフトポジション検出センサ92から得られる信号により、現在のシフトポジションがD(ドライブ)ポジションにあるのか、N(ニュートラル)ポジションにあるのか、R(リバース)ポジションにあるのかといったことを知ることができる。
(4)表示装置93
表示装置93は、液晶パネル等からなるカラー画像表示部(図示せず)を有し、映像処理装置11から有線方式で入力された映像信号に基づいて映像を表示する。なお、カラー画像表示部の表示面には、上述した操作部15の一部を構成するタッチパネルが積層一体化されている(図示せず)。
[動作の説明]
次に映像処理装置11の動作を説明する。
(1)映像表示開始
映像の表示を開始させる際の映像処理装置11の動作について、図2(a)のフローチャートを用いて説明する。なお、映像の表示は、車両の後退状態においてのみ実行可能な動作である。つまり、制御部17が情報入力インタフェース14を介してシフトポジション検出センサ92から、現在のシフトポジションがRポジションであることを示す信号を受信している状態でのみ、映像の表示を開始させることができる。
車両の後退状態において、制御部17が操作部15を介してユーザから映像表示指示を受け付けると、制御部17は前回使用した画角、歪補正情報、及び、歪補正の段階を、履歴テーブルを参照して特定する(S105)。
ここで履歴テーブルについて、図3(a)のテーブル模式図を用いて具体的に説明する。図3(a)に示すように、履歴テーブルの各レコードは、項目として、「画角」、「歪補正情報ID」、「段階」、及び、「前回使用有無」を有する。「画角」は、広角画角か狭角画角かを示すデータ(”広角”又は”狭角”)が入る項目である。「歪補正情報ID」は、当該レコードの「画角」に入ったデータが示す画角(以下、「該当画角」と称す)の映像に対し、最後に行った歪補正の歪補正情報を識別するためのIDが入る項目である。「段階」は、該当画角の映像に対し、何段階目の歪補正を最後に行ったかを示す数字が入る項目である。「前回使用有無」は、該当画角の映像を最後に表示したか否かを示すデータ(”Yes”,”No”)が入る項目である。なお、”Yes”であるレコードは、履歴テーブル内で1レコードのみ存在する。このような履歴テーブルにより、最後に表示装置93に表示させた映像の画角は、広角映像であって、その表示の際に使用した歪補正方法は、歪補正情報IDが”005”であり、歪補正の段階は”3”であるということがわかる。
説明を図2(a)に戻し、続いて制御部17は、S105で特定した歪補正情報IDに基づき、前回使用した歪補正情報を記憶部16から読み出す(S110)。
続いて、制御部17は、第一処理部12に対し、S105で特定した画角(広角又は狭角)の映像を出力する旨の指令を送る(S115)。
S115の指令を受けた第一処理部12の映像入力インタフェース21は、カメラ91から得られる映像信号を画角変更処理部22へ送ることを開始する。また、S115の指令を受けた画角変更処理部22は、S105で特定した画角が狭角であれば、受け取った映像(原映像)に対してデジタル映像処理を行うことを開始して映像出力インタフェース23に送ることを開始する。このデジタル処理は、入力映像(原映像)から画角が130度になる領域を切り出し、その切り出した領域をデジタルズームすることである。一方、S105で特定した画角が広角であれば、画角の変更を行うことなく原映像(広角映像)をそのまま映像出力インタフェース23へ送る。また、S115指令を受けた第一処理部12の映像出力インタフェース23は、画角変更処理部22から渡された映像信号を、第二処理部13へ送ることを開始する。
続いて、制御部17は、第二処理部13に対し、S110で読み出した歪補正情報に基づいてS105で特定した歪補正の段階の補正を行う旨の指令を送る(S120)。
S120の指令を受け取った第二処理部13の映像入力インタフェース24は、第一処理部12から渡される映像信号を歪補正部25へ送る。また、S115の指令を受け取った歪補正部25は、受け取った映像信号に対して歪補正を行い、映像出力インタフェース26へ送ることを開始する。歪補正の例については後述する。また、S115の指令を受け取った映像出力インタフェース26は、歪補正部25から受け取った映像信号を表示装置93へ送ることを開始する。
この結果、表示装置93には、歪補正のなされた映像が表示される。ここで、表示装置93に表示される映像の具体例を図4及び図5に示す。
図4及び図5に示す映像は、自車両(映像処理装置11が搭載された車両)の後方に位置する別車両が映像の中央部分に表示されており、映像の左端部分に自車両からみて左方に位置する別車両が表示されている。図4(a)と図4(b)とは、歪補正の段階が異なる映像であり、図4(b)の方が強く歪補正がかかっていることが、映像の左端部分に位置する別車両の形状から認識できる。また、図4(a)及び図4(b)の映像には、共に映像右上方に上向き方向の矢印501と下向き方向の矢印502とが重畳されている。上向き方向の矢印501は、ユーザが歪補正の段階を強めることを指示するための操作アイコンであり、下向き方向の矢印502は、ユーザが歪補正の段階を弱めることを指示するための操作アイコンである。これらの矢印が操作されたとき(歪補正の段階を切り替える指示があったとき)の映像処理装置11の動作については後述する。
また、図5(a)と図5(b)とは、歪補正の段階が異なる映像であり、図5(b)の方が強く歪補正がかかっていることが、映像の左端部分に位置する別車両の形状から認識できる。また、図5(a)及び図5(b)の映像には、共に映像の下部にスライダ511が表示されている。スライダ511は、ユーザが操作子512を映像の左(Min)方向又は右(Max)方向に移動させることができるようになっており、この操作子512の位置が歪補正の段階に対応している。つまり、ユーザが操作子512を映像の左方向に移動させれば、歪補正の段階を弱めることができ、ユーザが操作子512を映像に右方向に移動させれば、歪補正の段階を強めることができる。この操作子512が操作されたとき(歪補正の段階を切り替える指示があったとき)の映像処理装置11の動作については後述する。
(2)歪補正の段階の変更
次に、歪補正の段階を変更する場合の映像処理装置11の動作について、図2(b)のフローチャートを用いて説明する。なお、歪補正の段階の変更は、表示装置93に歪補正のなされた映像が表示された状態において可能な動作であり、制御部17が操作部15を介してユーザから歪補正の段階を切り替える指示を受け付けた際に実行が開始される動作である。具体的には、図4に示した上向き方向の矢印501、下向き方向の矢印502、図5に示したスライダ511の操作子512等がユーザにより操作された際に、歪補正の段階を切り替える動作が開始される。
歪補正の段階を切り替える動作が開始されると、制御部17は、第二処理部13に対して歪補正の段階変更の指令を送る(S140)。具体的には、図4の場合は、上向き方向の矢印501又は下向き方向の矢印502に対してなされたユーザの操作に基づいて、歪補正の段階を強めるのか弱めるのかを第二処理部13に対して送信する。また、図5の場合は、スライダ511の操作子512に対してなされたユーザの操作に基づいて特定される歪補正の段階を第二処理部13に対して送る。そして、制御部17は、ユーザにより指定された歪補正の段階を記憶部16の履歴テーブルに記憶する(S145)。
S140の指令を受けた第二処理部13の歪補正部25は、受けた指令に基づいて歪補正の段階を変更する。段階的な歪補正の実現方法については後述する。
この結果、表示部93には、歪補正の段階が変更された映像が表示される。
(3)歪補正情報の変更
次に、参照する歪補正情報を変更する場合の映像処理装置11の動作について、図2(c)のフローチャートを用いて説明する。なお、歪補正情報の変更は、表示装置93に映像が表示された状態において可能な動作であり、制御部17が操作部15を介してユーザから、希望する歪補正方法を受け付けた際に実行が開始される動作である。具体的には、例えば、方法A、方法B、方法Cのそれぞれに対応したメカニカルなキースイッチや、操作アイコンが用意されており、これらキースイッチや操作アイコンが押下された際に動作が開始される。
歪補正情報を変更する動作が開始されると、制御部17は、現在の表示画角及びユーザから受け付けた歪補正方法に対応する歪補正情報IDを、歪補正情報ID特定テーブルを参照して特定する(S165)。ここで、歪補正方法について、図3(b)のテーブル模式図を用いて説明する。図3(b)に示すように、歪補正情報ID特定テーブルの各レコードは、項目として、「歪補正方法ID」、「歪補正情報ID(広角)」、「歪補正情報ID(狭角)」とを有する。「歪補正方法ID」は、歪補正方法を特定可能なIDが入る項目であり、このIDは、ユーザに指定される歪補正方法に対応するものである。「歪補正情報ID(広角)」は、当該レコードの「歪補正方法ID」に入ったデータが示す歪補正方法に対応した歪補正情報IDであって、広角映像を表示装置93に表示させている場合に対応する歪補正情報IDである。「歪補正情報ID(狭角)」は、当該レコードの「歪補正方法ID」に入ったデータが示す歪補正方法に対応した歪補正情報IDであって、狭角映像を表示装置93に表示させている場合に対応する歪補正情報IDである。したがって、例えば、表示装置93に広角映像が表示されている状態において、方法Bに対応付けられたキースイッチがユーザに押下された場合は、歪補正情報IDとして”002”が特定される。
説明を図2(c)に戻し、続いて、制御部17は、S165で特定した歪補正情報IDに対応する歪補正情報を記憶部16から読み出す(S170)。そして、第二処理部13に対して、使用する歪補正情報を、S170で読み出した歪補正情報に変更するように指令を送る(S175)。
この指令を受け取った歪補正部25は、歪補正に用いる歪補正情報を制御部17に指定されたものに変更し、映像入力インタフェース25より渡される映像に対して歪補正を行う。なお、歪補正の段階は、一律に所定の段階(例えば中間段階)に初期化される。
続いて、制御部17は、S165で特定した歪性情報ID及び、初期化された歪補正の段階によって記憶部16の履歴テーブルを更新する(S180)。
[段階的な歪補正の実現方法]
(1)第一の方法
第一の方法は、歪補正時における画素情報の移動量は歪補正情報に基づく既定量としておき、移動先の画素における画素情報の変更量を段階的に変更することにより段階的な歪補正を実現する方法である。この方法について、図6の説明図を用いて説明する。
図6(a)は、マップ形式によって表現された歪補正情報の一例である。この歪補正情報は、最大段階の歪補正を行う場合について、表示装置93に表示させる映像を構成するドット毎に画素情報(輝度情報や彩度情報等)の取得位置が示されている。例えば、X座標が”1”でY座標が”1”である画素の歪補正情報は(1.2,1.3)であるが、これは、歪補正をかける際、X座標が”1”でY座標が”1”である画素の画素情報は、X座標が”1.2”でY座標が”1.3”である位置に存在する画素の画素情報を用いるということを表している。なお、実際の映像に、X座標が”1.2”でY座標が”1.3”である画素が存在しない場合には、その画素が存在すると仮定して画素情報を推定する。例えば、X座標が”1.2”でY座標が”1.3”である画素(仮想画素)の画素情報は、仮想画素の周囲に現実に存在する画素を特定し、その特定した各画素の画素情報を、仮想画素との距離に応じて加重平均することによって求めることが考えられる。
このようにして、最大段階の歪補正を行った場合の各画素の画素情報を計算し、入力映像の各画素の画素情報との差分を求め、求めた差分を最大段階数によって割り、割ったものに対して所望の歪補正の段階をかけ合わせ、かけ合わせたものを入力映像の各画素の画素情報に足し合わせることにより、段階的な歪補正を実現する。
ここで、より具体的に説明する。
図6(b)に示すように、I(x,y)は入力映像の画素情報を表し、I’(x,y)は最大段階の歪補正を行った映像の画素情報を表し、I''(x,y)は所望の段階の歪補正を行った映像の画素情報を表すとする。すると、最大段階の歪補正を行った映像の画素情報は、図6(c)に示す通りである(一部の画素のみ例示)。また、所望の段階の歪補正を行った映像の画素情報は、図6(d)に示す通りである(一部の画素のみ例示)。これらを視覚的に示すと、図6(e)のようになる。[入力映像]に示すように、格子の交点に位置する画素(●印)は、それぞれの近くに位置する■印の仮想画素の画素情報を用い、最大段階の歪補正を行った映像の画素情報とする([歪補正映像(最大)]参照)。そして、[入力映像]と[歪補正映像(最大)]との画素毎の差分を求め、求めた差分を最大段階数によって割り、割ったものに対して所望の歪補正の段階をかけ合わせ、かけ合わせたものを[入力映像]の各画素の画素情報に足し合わせることにより、[出力映像]を求める。
(2)第二の方法
第二の方法は、歪補正時における画素情報の移動量を段階的に変更することにより段階的な歪補正を実現する方法である。この方法について、図7の説明図を用いて説明する。
図7(a)に示す数式群1は、歪補正情報の一例である。この歪補正情報は、等距離射影方式のレンズを有するカメラによって撮影された映像を、立体射影方式のレンズを有するカメラによって撮影された映像と同等の映像に補正するための数式である。添え字の「equid」は等距離射影方式を意味し、「stero」は立体射影方式を意味する。また、”f”は、レンズの焦点距離である。
なお、一般的に、立体射影方式のレンズを有するカメラによって撮影された映像は、等距離射影方式のレンズを有するカメラによって撮影された映像に比較して映像周辺部の情報量が多いという特性を有する一方で、映像中央部の情報量が少ないという特性を有する。つまり、歪具合が異なる。
図7(b)に示す数式群2は、段階的な歪補正を実現するための数式群である。数式群1と数式群2により、等距離射影方式のレンズを有するカメラによって撮影された映像を、立体射影方式のレンズを有するカメラによって撮影された映像へ、段階的に補正することができる。
図7(c)に示す数式群3は、等距離射影方式のレンズを有するカメラによって撮影された映像を、立体射影方式のレンズを有するカメラによって撮影された映像と同等の映像に補正する場合の歪補正情報である。したがって、数式群3と、数式群2の添え字の「stero」と「equid」を入れ替えた数式群とを組み合わせることにより、立体射影方式のレンズを有するカメラによって撮影された映像を、等距離射影方式のレンズを有するカメラによって撮影された映像へ、段階的に補正することができる。
[代表実施形態の効果]
上述した映像処理装置11によれば、ユーザが歪補正情報を変更した場合、制御部17が、ユーザの所望する歪補正方法に対応した歪補正情報であって、現在、表示装置93に表示されている映像の画角に対応する歪補正情報が特定されて歪補正が実行されるため(S165〜S175)。適正な歪補正を行うことができる。
また、歪補正情報等は、記憶部16に記憶されており変更可能であるため、より適した歪補正情報を実行可能な映像処理装置11にアップグレードすることも可能である。
また、映像処理装置11は、記憶部16に記憶された歪補正情報に基づき実現される歪補正状態まで他の歪補正情報を用いなくても段階的に歪補正を歪補正部25に行わせることが可能であり、操作部15が受け付けた段階の歪補正を歪補正部25に行わせるようになっている(S140)。このため、実現する歪補正量の段階の数に比例させて記憶部16に記憶させる歪補正情報を増やすことなく、現在の歪補正状態から、特定の歪補正情報によって実現される歪補正量まで段階的に歪補正を実現することができる。
また、歪補正部25は、記憶部16に記憶された歪補正情報に基づき実現される歪補正の補正量を分割し、その分割単位と段階とを対応させ、操作部15が受け付けた段階に対応する補正量だけ歪補正部25に歪補正を行わせるようになっている(上記[段階的な歪補正の実現方法]参照)。このように、簡易な計算式によって段階的な歪補正を実現するため、映像処理装置11の処理負荷が少なくて済む。
[特許請求の範囲との対応]
代表実施形態の説明で用いた用語と、特許請求の範囲に記載した用語との対応を示す。
第二処理部13の映像入力インタフェース24が映像入力手段に相当し、制御部17が画角切替手段及び歪補正変更手段に相当し、第二処理部13の映像出力インタフェース26が映像出力手段に相当し、歪補正部25が歪補正実行手段に相当し、操作部15が指令受付手段に相当し、記憶部16が記憶手段に相当する。
[他の実施形態]
(1)変形形態1
上述した代表実施形態の映像処理装置11は、入力した映像の画角を変更した映像を出力可能な部位(画角変更処理部22)を有していたが、カメラ自身が画角変更機能を有している場合は、映像処理装置11から上記部位を無くしてもよい。
具体的な構成としては、図8に示すような映像処理装置31が考えられる。この映像処理装置31には、広角・狭角切替機能付きカメラ94、シフトポジション検出センサ92、及び、表示装置93が接続されている。なお、広角・狭角切替機能付きカメラ94は、外部からの指令によって広角映像(画角が180度ある映像)と狭角映像(画角が130度である映像)とを光学機構によって切り替えて出力することができるカメラである。シフトポジション検出センサ92及び表示装置93は、上述した代表実施形態のものと同じである。また、映像処理装置31は、映像入力インタフェース32、歪補正部33、映像出力インタフェース34、情報入出力インタフェース35、操作部36、記憶部37、及び、制御部38を備える。
映像入力インタフェース32は、広角・狭角切替機能付きカメラ94から映像信号を入力するためのインタフェースである。
歪補正部33は、映像入力インタフェース32から渡された映像信号に基づく映像に対し、制御部38からの指示により指定された歪補正情報及び歪補正の段階(レベル)に基づき歪補正を実行する。なお、歪補正部33は、制御部38からの指示により、歪補正を実行せずに映像入力インタフェース32から渡された映像信号をそのまま映像出力インタフェース34へ出力することもできる。
映像出力インタフェース34は、歪補正部33より得られた映像の映像信号を、表示装置93へ出力するためのインタフェースである。
情報入出力インタフェース35は、シフトポジション検出センサ92から各種信号を入力するため、及び、広角・狭角切替機能付きカメラ94へ画角切り替え指示信号を出力するためのインタフェースである。
操作部36は、表示装置93の表示面と積層一体化されたタッチパネル、表示装置93の周囲に設けられたメカニカルなスイッチ、ステアリングに設けられたステアリングスイッチ等からなり、ユーザが映像処理装置31に対して操作指令を入力可能なデバイスである。
記憶部37は、ハードディスクやフラッシュメモリ等の不揮発性の記憶媒体を備え、歪補正方法に関する情報である歪補正情報や、前回使用した歪補正情報のID等を含む履歴テーブル等を記憶する。
制御部38は、周知のマイコンから構成され、ROMやフラッシュメモリ等に記憶されたプログラムに基づいて上述した各部を制御して各種の処理を実行する機能を有する。
以上、構成について説明したが、次に動作について説明する。
上述した代表実施形態の映像処理装置11と比較した場合の動作の相違点は、上述した代表実施形態の映像処理装置11では、制御部17が画角変更処理部22に対して画角変更指令を出していたが、変形形態1の映像処理装置31では、制御部38が情報入出力インタフェース35を介して広角・狭角切替機能付きカメラ94に対して画角変更指令を出す点が主に異なる。それ以外については、基本的に上述した代表実施形態の映像処理装置11の動作と同じである。
このような映像処理装置31によっても、上述した実施形態の映像処理装置11と同様の効果を得ることができる。
なお、変形形態1の場合、映像入力インタフェース32が映像入力手段に相当し、制御部38が画角切替手段及び歪補正変更手段に相当し、映像出力インタフェース34が映像出力手段に相当し、歪補正部33が歪補正実行手段に相当し、範囲表示処理手段に相当し、記憶部37が記憶手段に相当する。
(2)変形形態2
上述した実施形態の映像処理装置11,31は、広角画角の映像を表示させる際にも狭角画角の映像を表示する際にも歪補正を行うようになっていたが、広角画角の映像を表示させる際にだけ歪補正を行うようになっていてもよい。そして、歪補正の段階の変更や、歪補正情報の変更も、広角画角の映像を表示させる際にだけ実行するようになっていてもよい。
一般的に、130度程度の狭角画角の映像は、180度程度の広角画角の映像と比べて映像周辺部の歪みが少ないという特徴があるため、広角画角の映像を表示させる際にだけ歪補正を行うようになっていても、ユーザが感じる映像に対する違和感は少ないと考えられる。そして、このようになっていれば、映像処理装置の処理負荷を少なくすることもできる。
代表実施形態の映像処理装置の概略構成を説明するためのブロック図である。 映像処理装置の動作を説明するためのフローチャートである。 履歴テーブル及び歪補正情報ID特定テーブルを説明するためのテーブル模式図である。 表示装置に表示される映像例である。 表示装置に表示される映像例である。 段階的な歪補正の実現方法を説明するための説明図である。 段階的な歪補正の実現方法を説明するための説明図である。 変形形態の映像処理装置の概略構成を説明するためのブロック図である。
符号の説明
11…映像処理装置、12…第一処理部、13…第二処理部、14…情報入力インタフェース、15…操作部、16…記憶部、17…制御部、21…映像入力インタフェース、22…画角変更処理部、23…映像出力インタフェース、24…映像入力インタフェース、25…歪補正部、26…映像出力インタフェース、31…映像処理装置、32…映像入力インタフェース、33…歪補正部、34…映像出力インタフェース、35…情報入出力インタフェース、36…操作部、37…記憶部、38…制御部、91…カメラ、92…シフトポジション検出センサ、93…表示装置、94…広角・狭角切替機能付きカメラ。

Claims (3)

  1. 映像を映像信号により入力する映像入力手段と、
    前記映像入力手段によって入力された映像を映像信号により表示装置へ出力する手段であって、該映像信号に所定の画像を重畳することが可能に構成されている映像出力手段と、
    前記映像入力手段が入力する映像の画角を切り替える画角切替手段と、
    前記映像出力手段が出力する前記映像に対し歪補正を行う歪補正実行手段と、
    ユーザより歪補正に関する指令を受け付け、さらに、前記映像出力手段により出力される前記映像信号に重畳された操作用の画像を介して、該映像信号に係る映像について実現される歪補正量の段階を受け付け可能に構成されている指令受付手段と、
    歪補正方法に関する情報である歪補正情報を記憶する記憶手段と、
    前記画角切替手段により切り替えられた画角及び前記指令受付手段が受け付けた前記指令に応じた前記歪補正情報を前記記憶手段から読み出し、その読み出した前記歪補正情報に基づいた歪補正を前記歪補正実行手段に行わせる歪補正変更手段と、
    を備え、
    前記歪補正変更手段は、前記記憶手段に記憶された前記歪補正情報に基づき実現される歪補正状態まで他の前記歪補正情報を用いなくても段階的に歪補正を前記歪補正実行手段に行わせることが可能であり、前記指令受付手段が受け付けた前記段階の歪補正を前記歪補正実行手段に行わせること、
    を特徴とする映像処理装置。
  2. 請求項に記載の映像処理装置において、
    前記歪補正変更手段は、前記記憶手段に記憶された前記歪補正情報に基づき実現される歪補正の補正量を分割し、その分割単位と前記段階とを対応させ、前記指令受付手段が受け付けた前記段階に対応する補正量だけ前記歪補正実行手段に歪補正を行わせること、
    を特徴とする映像処理装置。
  3. 請求項1または請求項のいずれかに記載の映像処理装置において、
    前記画角切替手段は、前記画角を二段階に切り替えることができ、
    前記歪補正実行手段は、前記画角切替手段により切り替えられた画角が広角側の画角である場合にのみ歪補正を行うこと、
    を特徴とする映像処理装置。
JP2007232811A 2007-09-07 2007-09-07 映像処理装置 Expired - Fee Related JP4436392B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007232811A JP4436392B2 (ja) 2007-09-07 2007-09-07 映像処理装置
US12/230,346 US20090066842A1 (en) 2007-09-07 2008-08-28 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007232811A JP4436392B2 (ja) 2007-09-07 2007-09-07 映像処理装置

Publications (2)

Publication Number Publication Date
JP2009061969A JP2009061969A (ja) 2009-03-26
JP4436392B2 true JP4436392B2 (ja) 2010-03-24

Family

ID=40431447

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007232811A Expired - Fee Related JP4436392B2 (ja) 2007-09-07 2007-09-07 映像処理装置

Country Status (2)

Country Link
US (1) US20090066842A1 (ja)
JP (1) JP4436392B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218007B2 (en) * 2007-09-23 2012-07-10 Volkswagen Ag Camera system for a vehicle and method for controlling a camera system
JP4840452B2 (ja) 2009-01-22 2011-12-21 株式会社デンソー 車両周辺表示装置
DE102010042248A1 (de) * 2010-10-11 2012-04-12 Robert Bosch Gmbh Verfahren und Vorrichtung zur optischen Darstellung einer Umgebung eines Fahrzeugs
TWI489859B (zh) * 2011-11-01 2015-06-21 Inst Information Industry 影像形變方法及其電腦程式產品
CZ2015879A3 (cs) * 2015-12-09 2017-04-12 LTR s.r.o. Způsob použití systému pro zrychlení vizuální zpětné vazby u kamerového manipulátoru a systém pro zrychlení vizuální zpětné vazby u kamerového manipulátoru
KR20180028782A (ko) * 2016-09-09 2018-03-19 삼성전자주식회사 전자 장치 및 그 제어 방법
US20180210442A1 (en) * 2017-01-23 2018-07-26 Qualcomm Incorporated Systems and methods for controlling a vehicle using a mobile device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6498620B2 (en) * 1993-02-26 2002-12-24 Donnelly Corporation Vision system for a vehicle including an image capture device and a display system having a long focal length
JPH11136568A (ja) * 1997-10-31 1999-05-21 Fuji Photo Film Co Ltd タッチパネル操作式カメラ
JP4287532B2 (ja) * 1999-03-01 2009-07-01 矢崎総業株式会社 車両用後側方監視装置
JP4346938B2 (ja) * 2003-04-09 2009-10-21 キヤノン株式会社 画像処理装置、方法、プログラム及び記憶媒体
JP2006287826A (ja) * 2005-04-05 2006-10-19 Nissan Motor Co Ltd 車両用画像生成装置および方法

Also Published As

Publication number Publication date
JP2009061969A (ja) 2009-03-26
US20090066842A1 (en) 2009-03-12

Similar Documents

Publication Publication Date Title
JP4436392B2 (ja) 映像処理装置
JP4595976B2 (ja) 映像処理装置及びカメラ
JP4877447B2 (ja) 車両周辺画像表示装置
JP5302227B2 (ja) 画像処理装置、画像処理システム、および、画像処理方法
JP4900232B2 (ja) 車両用駐車支援装置および映像表示方法
JP5321267B2 (ja) 車両用画像表示装置及び俯瞰画像の表示方法
JP2010246088A (ja) 車載カメラ装置の画像調整装置及び方法、並びに車載カメラ装置
JP5187179B2 (ja) 車両周辺監視装置
JP4945177B2 (ja) 車両の運転支援装置
JP6555348B2 (ja) 画像表示制御装置
JP2011051403A (ja) 駐車支援装置
JP2005311868A (ja) 車両周辺視認装置
JP2005239048A (ja) 駐車支援システム
US20130250097A1 (en) Method for displaying background screen in navigation device
US20100020176A1 (en) Image processing system, imaging device, image processing method, and computer program
JPWO2008087707A1 (ja) 車両用画像処理装置及び車両用画像処理プログラム
JP2012040883A (ja) 車両周囲画像生成装置
CN111094115B (zh) 用于运行车辆的显示单元的方法、装置、可读取的介质
JP5825921B2 (ja) 表示装置及びその制御方法
JP4791222B2 (ja) 表示制御装置
JP2007266703A5 (ja)
JP2007149011A (ja) 車両周辺視認装置
JP2009083744A (ja) 合成画像調整装置
JP4945315B2 (ja) 運転支援システム及び車両
JP7476151B2 (ja) 画像処理システム、画像処理方法、およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090915

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091225

R150 Certificate of patent or registration of utility model

Ref document number: 4436392

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140108

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees