JPWO2009090727A1 - 表示装置 - Google Patents

表示装置 Download PDF

Info

Publication number
JPWO2009090727A1
JPWO2009090727A1 JP2009549918A JP2009549918A JPWO2009090727A1 JP WO2009090727 A1 JPWO2009090727 A1 JP WO2009090727A1 JP 2009549918 A JP2009549918 A JP 2009549918A JP 2009549918 A JP2009549918 A JP 2009549918A JP WO2009090727 A1 JPWO2009090727 A1 JP WO2009090727A1
Authority
JP
Japan
Prior art keywords
area
image
partial
rectangular
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009549918A
Other languages
English (en)
Other versions
JP4906930B2 (ja
Inventor
義広 都丸
義広 都丸
原田 雅之
雅之 原田
仁志 藤本
仁志 藤本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2009090727A1 publication Critical patent/JPWO2009090727A1/ja
Application granted granted Critical
Publication of JP4906930B2 publication Critical patent/JP4906930B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

広視野カメラ1により撮像された撮像領域のうち、カメラ2a〜2fにより撮像された部分領域に対応する領域を特定する複数のマッチング部15と、カメラ2a〜2fにより撮像された部分領域の画像をマッチング部15により特定された領域の画像空間に射影する射影変換部17と、射影変換部17により射影された複数の部分領域の画像の重複領域を合成する重複領域合成部19と、合成後の画像を複数の矩形領域に分割する矩形領域分割部20とを設け、複数の歪み補正部22が矩形領域分割部20により分割された矩形領域に応じてカメラ2a〜2fにより撮像された部分領域の画像の歪みを補正し、補正後の画像をディスプレイ5a〜5fに表示する。

Description

この発明は、高解像度の広視野画像を表示する表示装置に関するものである。
大画面ディスプレイの発展により、大画面の映像コンテンツが必要とされている。
従来の表示装置では、複数のカメラを用いて、各々の撮像領域が重複するように広域を撮ることで、広視野かつ高解像の画像を生成して、その画像をディスプレイに表示する。
広視野かつ高解像の画像を生成する手法としては、例えば、魚眼カメラのような広視野カメラにより撮像された画像と、複数の一般カメラにより詳細に撮像された画像(広視野カメラの撮像領域の部分領域が撮像された画像)とのマッチングを図り、複数の一般カメラにより撮像された画像を広視野カメラにより撮像された画像に合わせ込むように変形するものがある(例えば、特許文献1を参照)。
これにより、広視野画像と同等の画像を高解像度で生成することができる。
ただし、従来の表示装置は、広視野かつ高解像の画像を1つのディスプレイに表示するものであって、複数のディスプレイから構成されるマルチディスプレイに表示するものではない。
このため、画像を大画面表示する場合、画面領域が大きなディスプレイに表示することになるが、ディスプレイの解像度には技術的限界があるため(現在市場に出回っているディスプレイの解像度は、一般的に、高々1920×1080が基準である)、高解像度表示に限界がある。
特開2004−135209号公報(段落番号[0008]、図1)
従来の表示装置は以上のように構成されているので、広視野かつ高解像の画像を生成してディスプレイに表示することができる。しかし、その画像は1つのディスプレイに表示されるものであって、複数のディスプレイから構成されるマルチディスプレイに表示されるものではない。このため、画像を大画面表示する場合、画面領域が大きなディスプレイに表示することになるが、ディスプレイの解像度には技術的限界があることから、高解像度表示に限界があるなどの課題があった。
この発明は上記のような課題を解決するためになされたもので、広視野かつ高解像の画像を大画面表示することができる表示装置を得ることを目的とする。
この発明に係る表示装置は、広視野撮像手段により撮像された撮像領域のうち、部分撮像手段により撮像された部分領域に対応する領域を特定する複数の領域特定手段と、複数の部分撮像手段により撮像された部分領域の画像を領域特定手段により特定された領域の画像空間に射影する画像射影手段と、画像射影手段により射影された複数の部分領域の画像の重複領域を合成し、合成後の画像を複数の矩形領域に分割する矩形領域分割手段とを設け、複数の歪み補正手段が矩形領域分割手段により分割された矩形領域に応じて部分撮像手段により撮像された部分領域の画像の歪みを補正し、補正後の画像をディスプレイに表示するようにしたものである。
このことによって、広視野かつ高解像の画像を大画面表示することができるなどの効果がある。
この発明の実施の形態1による表示装置を示す構成図である。 この発明の実施の形態1による表示装置の処理内容を示すフローチャートである。 カメラ2a〜2f、第2の画像処理装置4a〜4f及びディスプレイ5a〜5fの位置関係を示す説明図である。 カメラ2a〜2fにより撮像された部分領域の画像をマッチング部15により特定された領域の画像空間(広視野カメラ1により撮像された撮像領域の中で、当該部分領域に対応する領域の画像空間)に射影変換している様子を示す説明図である。 重複領域の一例を示す説明図である。 行方向の重複領域を合成している様子を示す説明図である。 重複領域の交差領域を示す説明図である。 矩形領域を作成する様子を示す説明図である。 この発明の実施の形態2による表示装置を示す構成図である。 この発明の実施の形態2による表示装置の処理内容を示すフローチャートである。 基準点になり得る点を示す説明図である。 矩形探索処理での走査終了を示す説明図である。
以下、この発明をより詳細に説明するために、この発明を実施するための最良の形態について、添付の図面に従って説明する。
実施の形態1.
図1はこの発明の実施の形態1による表示装置を示す構成図であり、図において、広視野カメラ1は例えば広角レンズが付与された一般的なデジタルビデオカメラなどが該当し、所定の撮像領域を広視野で撮像する。なお、広視野カメラ1は広視野撮像手段を構成している。
カメラ2a,2b,2c,2d,2e,2fは広視野カメラ1より視野が狭い一般的なデジタルビデオカメラが該当し、広視野カメラ1により撮像される撮像領域における個々の部分領域を撮像する。なお、カメラ2a,2b,2c,2d,2e,2fは部分撮像手段を構成している。
第1の画像処理装置3は広視野カメラ1により撮像された撮像領域の画像を取得して、所定の画像処理を実施する。
第2の画像処理装置4a,4b,4c,4d,4e,4fはカメラ2a,2b,2c,2d,2e,2fにより撮像された部分領域の画像を取得し、その部分領域の画像の歪みを補正してディスプレイ5a,5b,5c,5d,5e,5fに表示する処理を実施する。
図1の例では、第2の画像処理装置4aの内部構成を示しているが、第2の画像処理装置4b,4c,4d,4e,4fの内部構成は第2の画像処理装置4aの内部構成と同一である。
なお、第1の画像処理装置3及び第2の画像処理装置4a,4b,4c,4d,4e,4fの各構成要素は、専用のハードウェアで構成してもよいが、第1の画像処理装置3及び第2の画像処理装置4a,4b,4c,4d,4e,4fを一般的な汎用パソコンで構成し、各構成要素の処理内容を記述しているプログラムを汎用パソコンのメモリに格納し、汎用パソコンのCPUが当該プログラムを実行するようにしてもよい。
第1の画像処理装置3の画像取得部11は広視野カメラ1により撮像された撮像領域の画像を取得して、その画像を画像メモリ12に書き込む処理を実施する。
第1の画像処理装置3の画像メモリ12は広視野カメラ1により撮像された撮像領域の画像を格納するメモリである。
第2の画像処理装置4aの画像取得部13はカメラ2aにより撮像された部分領域の画像を取得して、その画像を画像メモリ14に書き込む処理を実施する。
第2の画像処理装置4aの画像メモリ14はカメラ2aにより撮像された部分領域の画像を格納するメモリである。
第2の画像処理装置4aのマッチング部15は広視野カメラ1により撮像された撮像領域のうち、カメラ2aにより撮像された部分領域に対応する領域を特定するマッチング処理、即ち、画像メモリ12に格納されている撮像領域の画像及び画像メモリ14に格納されている部分領域の画像から特徴点をそれぞれ抽出して、対応関係がある特徴点を探索することにより、その部分領域に対応する領域を特定するマッチング処理を実施する。
第2の画像処理装置4aの射影変換情報算出部16はカメラ2aにより撮像された部分領域の画像を、マッチング部15により特定された領域の画像空間に射影する際に用いる射影変換情報を算出する処理を実施する。
なお、マッチング部15及び射影変換情報算出部16から領域特定手段が構成されている。
第1の画像処理装置3の射影変換部17は第2の画像処理装置4a,4b,4c,4d,4e,4fの射影変換情報算出部16により算出された射影変換情報を用いて、複数の部分領域の画像を対応する領域の画像空間に射影する処理を実施する。なお、射影変換部17は画像射影手段を構成している。
第1の画像処理装置3の重複領域探索部18は射影変換部17により射影された複数の部分領域の画像の重複領域を探索する処理を実施する。
第1の画像処理装置3の重複領域合成部19は重複領域探索部18により探索された複数の部分領域の画像の重複領域を合成する処理を実施する。
第1の画像処理装置3の矩形領域分割部20は重複領域合成部19による合成後の画像を複数の矩形領域に分割する処理を実施する。
なお、重複領域探索部18、重複領域合成部19及び矩形領域分割部20から矩形領域分割手段が構成されている。
第2の画像処理装置4aの歪み補正パラメタテーブル作成部21は矩形領域分割部20により分割された矩形領域に基づいて、射影変換情報算出部16により算出された射影変換情報から歪み補正パラメタテーブルを作成する処理を実施する。
第2の画像処理装置4aの歪み補正部22は歪み補正パラメタテーブル作成部21により作成された歪み補正パラメタテーブルを参照して、画像メモリ14に格納されている部分領域の画像の歪みを補正し、補正後の画像をディスプレイ5aに表示する処理を実施する。
なお、歪み補正パラメタテーブル作成部21及び歪み補正部22から歪み補正手段が構成されている。
図2はこの発明の実施の形態1による表示装置の処理内容を示すフローチャートである。
次に動作について説明する。
この実施の形態1における広視野カメラ1は、一般的なデジタルビデオカメラに広角レンズが付されているものであり、解像度は、例えば、1920×1080であるものを想定している。
カメラ2a,2b,2c,2d,2e,2fは、図3に示すように、広視野カメラ1の撮像領域における個々の部分領域を撮像するように配置されており、その配置は、例えば、縦2×横3に大まかに並ぶように設定されている。カメラ2a,2b,2c,2d,2e,2fの解像度は、1920×1080であるものを想定している。
また、ディスプレイ5a,5b,5c,5d,5e,5fは、図3に示すように、縦2×横3に格子状に並んで配置されており、その配置は、カメラ2a,2b,2c,2d,2e,2fにより撮像される部分領域の位置と相対的に一致している。ディスプレイ5a,5b,5c,5d,5e,5fの解像度は、1920×1080であるものを想定している。
ただし、カメラ2a〜2fの解像度とディスプレイ5a〜5fの解像度は、相関無く設定してもなんら問題はない。
この実施の形態1では、カメラ、第2の画像処理装置及びディスプレイの台数がそれぞれ6台であるものについて示しているが、相互の位置関係を崩さなければ、限りなく台数を増やして構成することも可能である。
初期状態では、カメラ2a〜2fにより撮像された画像の歪みを補正する補正パラメタが作成されていないので(ステップST1)、補正パラメタの作成処理を開始する。
まず、広視野カメラ1は、所定の撮像領域を広視野で撮像し(ステップST2)、その撮像領域の画像を第1の画像処理装置3に出力する。
第1の画像処理装置3の画像取得部11は、広視野カメラ1から出力された撮像領域の画像を取得して、その画像を画像メモリ12に書き込む処理を実施する。
カメラ2a〜2fも、広視野カメラ1と同時に、個々の部分領域を撮像し(ステップST2)、その部分領域の画像を第2の画像処理装置4a〜4fに出力する。
第2の画像処理装置4a〜4fの画像取得部13は、カメラ2a〜2fから出力された部分領域の画像を取得して、その画像を画像メモリ14に書き込む処理を実施する。
第2の画像処理装置4a〜4fのマッチング部15は、第1の画像処理装置3の画像メモリ12から広視野カメラ1により撮像された撮像領域の画像を収集する(ステップST3)。
また、マッチング部15は、広視野カメラ1により撮像された撮像領域のうち、カメラ2a〜2fにより撮像された部分領域に対応する領域を特定するマッチング処理、即ち、広視野カメラ1により撮像された撮像領域の画像及び画像メモリ14に格納されている部分領域の画像から特徴点をそれぞれ抽出して、対応関係がある特徴点を探索することにより、その部分領域に対応する領域を特定するマッチング処理を実施する(ステップST4)。
マッチング処理は、それぞれの画像から特徴点を抽出して、似ている情報を有する特徴点同士を同一点とみなす手法である。
例えば、SIFT(Scale−invariant feature transform)という手法により、広視野カメラ1により撮像された撮像領域の画像及びカメラ2a〜2fにより撮像された部分領域の画像の特徴点を128次元のベクトルとして抽出し、ユークリッド距離が小さい特徴点同士を同一点と見なすことでマッチングを行う。
なお、特徴点の抽出手法はSIFTでなくてもよく、例えば、Harris作用素を用いる検出法を用いてもよいし、“Speeded up robust features”などの特徴点抽出法で代替してもよい。
第2の画像処理装置4a〜4fの射影変換情報算出部16は、カメラ2a〜2fにより撮像された部分領域の画像をマッチング部15により特定された領域の画像空間(広視野カメラ1により撮像された撮像領域の中で、当該部分領域に対応する領域の画像空間)に射影する際に用いる射影変換情報を算出する(ステップST5)。即ち、カメラ2a〜2fの画像空間から広視野カメラ1の画像空間への座標変換情報(射影変換情報)を算出する。例えば、平面射影変換による座標変換情報(射影変換情報)を算出する。
平面射影変換は、3×3の行列で表現することができ、変換前の座標と変換後の座標の対応が4組以上あれば、座標変換情報(射影変換情報)を算出できることが知られている。
よって、マッチング部15から4点以上のマッチング情報(同一点とみなされる特徴点の組)を取得できれば、カメラ2a〜2fの画像空間から広視野カメラ1の画像空間への座標変換情報(射影変換情報)を算出することができる。
なお、マッチング部15から出力されるマッチング情報は、多くの誤差を含むことがあり、そのマッチング情報を平面射影変換の算出に適用すると、座標変換の精度が悪くなることがある。
そこで、射影変換情報算出部16が平面射影変換による座標変換情報(射影変換情報)を算出する際、Robustな手法(例えば、最小二乗法、M推定法、“Random Sample Consensus”)を加えて算出することにより、座標変換の精度を高めることが望ましい。
ここでは、平面射影変換による座標変換情報(射影変換情報)を算出するものについて示したが、これに限るものではなく、例えば、ユークリッド空間での拡大縮小や平行移動などの線形変換、あるいは、アフィン変換などの一般的変換で、座標変換情報(射影変換情報)を算出するようにしてもよい。
第1の画像処理装置3の射影変換部17は、第2の画像処理装置4a,4b,4c,4d,4e,4fの射影変換情報算出部16により算出された射影変換情報を収集する(ステップST6)。
また、射影変換部17は、第2の画像処理装置4a,4b,4c,4d,4e,4fの射影変換情報算出部16により算出された射影変換情報を用いて、複数の部分領域の画像を対応する領域の画像空間に射影する(ステップST7)。
図4はカメラ2a〜2fにより撮像された部分領域の画像をマッチング部15により特定された領域の画像空間(広視野カメラ1により撮像された撮像領域の中で、当該部分領域に対応する領域の画像空間)に射影変換している様子を示す説明図である。
射影は、カメラ2a〜2fの画像空間の端点の4座標、即ち、(0,0),(1919,0),(0,1079),(1919,1079)を送信された6つの射影変換で各々変換すれば、広視野カメラ1の画像空間での座標値を求めることができる。
因みに、画像の最も左上を(0,0)とし、水平右、垂直下に行くほど座標値が増加することにしている。
第1の画像処理装置3の重複領域探索部18は、射影変換部17が複数の部分領域の画像を対応する領域の画像空間に射影すると、射影後の複数の部分領域の画像(6つの領域の画像)における重複領域を探索する(ステップST8)。
図5は重複領域の一例を示す説明図である。
重複領域は、上下左右に隣り合う2つずつの領域毎に探索する。
図5(a)に示すように、2つの領域が上下に重複する場合は、上矩形の下辺で一番上にある点のy座標から、下矩形の上辺の一番下にある点のy座標までの間を重複領域として探索する。
また、図5(b)に示すように、2つの領域が左右に重複する場合は、左矩形の右辺で一番左にある点のx座標から、右矩形の左辺で一番右にある点のx座標までの間を重複領域として探索する。
第1の画像処理装置3の重複領域合成部19は、重複領域探索部18が全ての重複領域を探索すると、縦横に並んでいる重複領域同士を合成する(ステップST9)。重複領域同士の合成は、重複領域の行又は列毎に実施する。
図6は行方向の重複領域を合成している様子を示す説明図である。
第1の画像処理装置3の矩形領域分割部20は、重複領域合成部19が重複領域を合成すると、合成後の画像を複数の矩形領域に分割する(ステップST10)。
矩形領域分割部20の具体的な処理内容は、以下の通りである。
まず、矩形領域分割部20は、図7に示すように、重複領域合成部19により合成された重複領域の交差領域を求め、任意の隣り合う2つの交差領域を選出する。
交差領域は、縦2×横3面のディスプレイ構成の場合、2つしかないが、一般に、縦m×横n面のディスプレイ構成の場合、(m−1)×(n−1)個の交差領域があるため、その中で、2つの隣り合うものを選出する。
選出された2つの交差領域の各々から1つずつ点を選び出し、それらの点を基準点とする。
この基準点は、交差領域が横に隣り合う場合、y座標が同じである必要があり、縦に隣り合う場合、x座標が同じである必要がある。
次に、矩形領域分割部20は、基準点に基づいてディスプレイ数分の矩形領域を作成する。
図8は矩形領域を作成する様子を示す説明図である。
この矩形領域の作成は、2つの基準点間の線分を1辺として、ディスプレイ5a〜5fのアスペクト比に合うように矩形領域を作成し、その矩形領域をディスプレイ5a〜5fの配置と同様に、敷き詰めるように配置する。
ここでは、ディスプレイ5a〜5fの解像度が1920×1080であるため、16:9を保つように矩形を確保する。
矩形領域分割部20は、複数の矩形領域を作成すると、4つの矩形が交差する点の全てが交差領域に包含され、かつ、矩形領域の全体がカメラ領域からはみ出ていないとする条件を満たしていれば、これらの矩形領域を最終的な分割矩形情報として出力する。
もし、上記の条件を満たしていない場合は、再度、2つの基準点を選出しなおして同様の処理を行う。
このようにして得られた分割の矩形情報を第2の画像処理装置4a〜4fに送信する(ステップST11)。
なお、分割の矩形情報は、矩形の左上の座標値と右下の座標値の2つである。
第2の画像処理装置4a〜4fの歪み補正パラメタテーブル作成部21は、矩形領域分割部20から分割の矩形情報を受けると、その矩形情報を用いて、射影変換情報算出部16により算出された射影変換情報から歪み補正パラメタテーブルを作成する(ステップST12)。
歪み補正パラメタテーブル作成部21の具体的な処理内容は、以下の通りである。
まず、歪み補正パラメタテーブル作成部21は、矩形領域分割部20から送信された矩形情報と、ディスプレイ5a〜5fの4隅の座標情報とを用いて、ディスプレイ5a〜5fの座標系から、広視野カメラ1の画像座標系への射影変換Pを求める。
具体的には、ディスプレイ5a〜5fの4点(0,0),(1919,0),(0,1079),(1919,1079)と、分割矩形領域の4点(dsx,dsy),(dex,dsy),(dsx,dey),(dex,dey)とが各々対応する点として射影変換Pを求める。
次に、歪み補正パラメタテーブル作成部21は、射影変換情報算出部16により算出された射影変換情報の逆変換を求め、広視野カメラ1の画像座標系から、カメラ2a〜2fの画像座標系への射影変換invHを求める。
次に、歪み補正パラメタテーブル作成部21は、射影変換invHと射影変換Pの合成変換invH・Pを求める。
なお、合成変換invH・Pは、ディスプレイ5a〜5fの座標系から、カメラ2a〜2fの画像座標系への射影変換に相当する。
この合成変換invH・Pを用いることで、カメラ2a〜2fにより撮像された画像の歪みを補正して、ディスプレイ5a〜5fに表示することが可能になる。
補正パラメタは、テーブルによって作成し、(0,0)〜(1919,1079)までのディスプレイ5a〜5fの座標全てに対し、合成変換invH・Pを作用させることで、ディスプレイ5a〜5fの全画素が、カメラ2a〜2fのどの画素を参照すべきかを得ることができる。
第2の画像処理装置4a〜4fの歪み補正部22は、歪み補正パラメタテーブル作成部21が歪み補正パラメタテーブルを作成すると、その歪み補正パラメタテーブルを参照して、画像メモリ14に格納されている部分領域の画像の歪みを補正し(ステップST13,ST14)、補正後の画像をディスプレイ5a〜5fに表示する(ステップST15)。
これにより、ディスプレイ5a〜5fに広視野カメラ1により撮像された画像と同等の内容の画像を高解像で表示をすることができる。
なお、一度、補正パラメタテーブルを作成すると、カメラ1,2a〜2fやディスプレイ5a〜5fの設定を変えない限り、同じ補正パラメタテーブルを流用することができるので、以降、カメラ2a〜2fが部分領域を撮像する毎に、補正パラメタテーブルを作成する処理を実施しないで、歪み補正後の画像をディスプレイ5a〜5fに表示することができる。
以上で明らかなように、この実施の形態1によれば、広視野カメラ1により撮像された撮像領域のうち、カメラ2a〜2fにより撮像された部分領域に対応する領域を特定する複数のマッチング部15と、カメラ2a〜2fにより撮像された部分領域の画像をマッチング部15により特定された領域の画像空間に射影する射影変換部17と、射影変換部17により射影された複数の部分領域の画像の重複領域を合成する重複領域合成部19と、合成後の画像を複数の矩形領域に分割する矩形領域分割部20とを設け、複数の歪み補正部22が矩形領域分割部20により分割された矩形領域に応じてカメラ2a〜2fにより撮像された部分領域の画像の歪みを補正し、補正後の画像をディスプレイ5a〜5fに表示するように構成したので、広視野かつ高解像の画像を大画面表示することができる効果を奏する。
即ち、ディスプレイの構成や個数に制限なく、容易に歪み補正された画像の表示を行うことができ、ディスプレイの解像度に制限の無い高解像度表示を行うことができる効果を奏する。
実施の形態2.
図9はこの発明の実施の形態2による表示装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
矩形領域蓄積部23は矩形領域分割部20により分割された矩形領域を蓄積する。なお、矩形領域蓄積部23は矩形領域蓄積手段を構成している。
矩形領域選択部24は矩形領域蓄積部23により蓄積されている矩形領域の中から、所定の条件(例えば、最大の矩形領域を選択する条件、最小の矩形領域を選択する条件、広視野カメラ1により撮像される撮像領域の中心に最も近い矩形領域を選択する条件)に合致する矩形領域を選択して、その矩形領域の矩形情報を第2の画像処理装置4a〜4fの歪み補正パラメタテーブル作成部21に出力する。なお、矩形領域選択部24は矩形領域選択手段を構成している。
図10はこの発明の実施の形態2による表示装置の処理内容を示すフローチャートである。
次に動作について説明する。
ただし、矩形領域蓄積部23及び矩形領域選択部24を設けている点以外は、上記実施の形態1と同様であるため、主に矩形領域蓄積部23及び矩形領域選択部24の動作を説明する。
上記実施の形態1では、矩形領域分割部20が2つの交差領域から、各々1点ずつ、計2つの基準点を選出して、矩形の分割が可能か否かを判断しているが、この実施の形態2では、1つの交差領域の一番左上の点を1つ目の基準点として、2つの目の隣り合う交差領域上の基準点になり得る点を全て走査し、点毎に矩形の分割が可能か否かを判断する。
基準点になり得る点は、上記実施の形態1と同様に、交差領域が横に隣り合う場合、y座標が同じである必要があり、縦に隣り合う場合、x座標が同じである必要がある。
図11は基準点になり得る点を示す説明図である。
矩形領域分割部20は、走査する中で、矩形分割が可能であれば、分割する矩形領域の矩形情報として、その矩形領域の座標値を矩形蓄積部23に格納する。矩形分割が可能であるか否かの判断は、上記実施の形態1と同様であるため詳細な説明を省略する。
2つ目の基準点を取り得る範囲内での走査が終わり、矩形分割が可能か否かの判断が終わると、次に、1つ目の基準点を1画素動かし、2つ目の基準点を動かすという同様の処理を行う。
前記処理を順次実施して、1つ目の基準点が属する交差領域内の全ての点において矩形分割の判断が終わると、矩形領域分割部20での矩形探索処理は終了となる(図12を参照)。
矩形領域分割部20での矩形探索処理が終わると(ステップST21)、矩形領域蓄積部23には、複数の矩形領域の矩形情報が蓄積される(ステップST22)。
矩形領域選択部24は、矩形領域蓄積部23により蓄積されている矩形領域の中から、例えば、最大の矩形領域を選択する条件に合致する矩形領域を選択して(ステップST23)、その矩形領域の矩形情報を第2の画像処理装置4a〜4fの歪み補正パラメタテーブル作成部21に出力する(ステップST11)。
最大の矩形領域の選び方としては、複数の矩形領域の中で、矩形領域の横の長さを比較し、一番大きなものを選び出すなどが考えられる。
ここでは、最大の矩形領域を選択するものについて示したが、これに限るものではなく、例えば、最小の矩形領域を選択する条件、広視野カメラ1により撮像される撮像領域の中心に最も近い矩形領域を選択する条件を設定して、最小の矩形領域や、上記撮像領域の中心に最も近い矩形領域を選択するようにしてもよい。
また、最左端に確保する矩形領域や、最右端に確保する矩形領域などを選択するようにしてもよい。
以上のように、この発明に係る表示装置は、高解像度の広視野画像を大画面に表示するものなどに適している。

Claims (5)

  1. 所定の撮像領域を撮像する広視野撮像手段と、上記広視野撮像手段により撮像される撮像領域における個々の部分領域を撮像する複数の部分撮像手段と、上記広視野撮像手段により撮像された撮像領域のうち、上記部分撮像手段により撮像された部分領域に対応する領域を特定する複数の領域特定手段と、上記複数の部分撮像手段により撮像された部分領域の画像を上記領域特定手段により特定された領域の画像空間に射影する画像射影手段と、上記画像射影手段により射影された複数の部分領域の画像の重複領域を合成し、合成後の画像を複数の矩形領域に分割する矩形領域分割手段と、上記矩形領域分割手段により分割された矩形領域に応じて上記部分撮像手段により撮像された部分領域の画像の歪みを補正し、補正後の画像をディスプレイに表示する複数の歪み補正手段とを備えた表示装置。
  2. 画像射影手段は、複数の部分撮像手段により撮像された部分領域の画像を対応する領域の画像空間に射影する際、上記部分領域の画像を対応する領域の画像空間に平面射影変換、線形変換又はアフィン変換を行うことを特徴とする請求項1記載の表示装置。
  3. 領域特定手段は、広視野撮像手段により撮像された撮像領域のうち、部分撮像手段により撮像された部分領域に対応する領域を特定する際、上記撮像領域の画像及び上記部分領域の画像から特徴点をそれぞれ抽出して、対応関係がある特徴点を探索することにより、上記部分領域に対応する領域を特定することを特徴とする請求項1記載の表示装置。
  4. 矩形領域分割手段により分割された矩形領域を蓄積する矩形領域蓄積手段と、上記矩形領域蓄積手段により蓄積されている矩形領域の中から、条件に合致する矩形領域を選択して、上記矩形領域を歪み補正手段に出力する矩形領域選択手段とを設けたことを特徴とする請求項1記載の表示装置。
  5. 矩形領域選択手段は、最大の矩形領域を選択する条件、最小の矩形領域を選択する条件、あるいは、広視野撮像手段により撮像される撮像領域の中心に最も近い矩形領域を選択する条件を用いることを特徴とする請求項4記載の表示装置。
JP2009549918A 2008-01-15 2008-01-15 表示装置 Expired - Fee Related JP4906930B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2008/050351 WO2009090727A1 (ja) 2008-01-15 2008-01-15 表示装置

Publications (2)

Publication Number Publication Date
JPWO2009090727A1 true JPWO2009090727A1 (ja) 2011-05-26
JP4906930B2 JP4906930B2 (ja) 2012-03-28

Family

ID=40885138

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009549918A Expired - Fee Related JP4906930B2 (ja) 2008-01-15 2008-01-15 表示装置

Country Status (5)

Country Link
US (1) US20100253861A1 (ja)
EP (1) EP2187638A4 (ja)
JP (1) JP4906930B2 (ja)
CN (1) CN101810004A (ja)
WO (1) WO2009090727A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103108154A (zh) * 2011-11-14 2013-05-15 辉达公司 一种汽车导航设备
JP5924020B2 (ja) * 2012-02-16 2016-05-25 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
AU2014200754A1 (en) * 2013-03-08 2014-09-25 Samsung Electronics Co., Ltd. Display apparatus and control method thereof
CN110402454B (zh) * 2017-03-28 2023-06-13 富士胶片株式会社 图像修正装置、图像修正方法及记录介质
JP7081142B2 (ja) * 2017-12-26 2022-06-07 富士通株式会社 情報処理装置、情報処理方法、及びプログラム
JP2019220887A (ja) * 2018-06-21 2019-12-26 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2769203B2 (ja) * 1989-09-01 1998-06-25 日本電信電話株式会社 複数画面合成方法
JP3735158B2 (ja) * 1996-06-06 2006-01-18 オリンパス株式会社 画像投影システム、画像処理装置
US6483537B1 (en) * 1997-05-21 2002-11-19 Metavision Corporation Apparatus and method for analyzing projected images, singly and for array projection applications
US6456339B1 (en) * 1998-07-31 2002-09-24 Massachusetts Institute Of Technology Super-resolution display
US6310650B1 (en) * 1998-09-23 2001-10-30 Honeywell International Inc. Method and apparatus for calibrating a tiled display
US6377306B1 (en) * 1998-09-23 2002-04-23 Honeywell International Inc. Method and apparatus for providing a seamless tiled display
US7015954B1 (en) * 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
JP2003199092A (ja) * 2001-12-28 2003-07-11 Sony Corp 表示装置および制御方法、プログラムおよび記録媒体、並びに表示システム
JP2004135209A (ja) 2002-10-15 2004-04-30 Hitachi Ltd 広視野高解像度映像の生成装置及び方法
JP2005175620A (ja) * 2003-12-08 2005-06-30 Canon Inc 画像処理方法及び装置

Also Published As

Publication number Publication date
JP4906930B2 (ja) 2012-03-28
EP2187638A1 (en) 2010-05-19
EP2187638A4 (en) 2013-04-17
US20100253861A1 (en) 2010-10-07
CN101810004A (zh) 2010-08-18
WO2009090727A1 (ja) 2009-07-23

Similar Documents

Publication Publication Date Title
JP6330987B2 (ja) 画像処理装置、画像処理方法、及び記憶媒体
CN112584116B (zh) 投影校正方法、装置、存储介质和电子设备
JP5744161B2 (ja) 画像処理装置
JP4377932B2 (ja) パノラマ画像生成装置およびプログラム
JP5746937B2 (ja) オブジェクト追跡装置
JP4906930B2 (ja) 表示装置
CN108965742B (zh) 异形屏显示方法、装置、电子设备及计算机可读存储介质
US20130265311A1 (en) Apparatus and method for improving quality of enlarged image
JP2014131257A (ja) 画像補正システム、画像補正方法及びプログラム
JP2008287426A (ja) 歪み補正装置及びプログラム
JP2011165045A (ja) 画像処理装置
JP2014212462A (ja) 撮像装置
JP2021157600A (ja) 画像処理装置、画像処理方法
JP6513305B2 (ja) 映像合成装置及び映像合成方法
JP5748355B2 (ja) 3次元座標算出装置、3次元座標算出方法、及びプログラム
JP6317611B2 (ja) ディスプレイ表示パターン生成装置及びそのプログラム
JP6416741B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP2022138883A (ja) 画像生成方法、制御方法、および情報処理装置
JP2013153392A5 (ja)
JP6416740B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP2004288148A (ja) 画像処理方法、画像処理システム、画像処理装置、及びコンピュータプログラム
JP6062483B2 (ja) デジタルカメラ
KR102480209B1 (ko) 다중 카메라의 영상 합성 방법 및 다중 카메라의 영상 합성 장치
US20220114697A1 (en) Image correction device
JP2012014430A (ja) 画像処理装置、制御方法、及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111213

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120110

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4906930

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees