JP2017028595A - 画像合成装置および画像合成方法 - Google Patents

画像合成装置および画像合成方法 Download PDF

Info

Publication number
JP2017028595A
JP2017028595A JP2015147390A JP2015147390A JP2017028595A JP 2017028595 A JP2017028595 A JP 2017028595A JP 2015147390 A JP2015147390 A JP 2015147390A JP 2015147390 A JP2015147390 A JP 2015147390A JP 2017028595 A JP2017028595 A JP 2017028595A
Authority
JP
Japan
Prior art keywords
image
cameras
frame
dither pattern
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015147390A
Other languages
English (en)
Other versions
JP2017028595A5 (ja
Inventor
篤樹 岡本
Atsuki Okamoto
篤樹 岡本
政範 島田
Masanori Shimada
政範 島田
卓志 横山
Takushi Yokoyama
卓志 横山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Industry and Control Solutions Co Ltd
Original Assignee
Hitachi Industry and Control Solutions Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Industry and Control Solutions Co Ltd filed Critical Hitachi Industry and Control Solutions Co Ltd
Priority to JP2015147390A priority Critical patent/JP2017028595A/ja
Publication of JP2017028595A publication Critical patent/JP2017028595A/ja
Publication of JP2017028595A5 publication Critical patent/JP2017028595A5/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】複数のカメラを用いる画像合成において、複数のカメラから入力された撮像画像または映像の重複エリアを目立たなくし、自然な合成画像が得られる画像合成方法と、簡易な構成で制御できる画像合成装置を提供する。【解決手段】複数のカメラ101の画像データを格納するフレーム画像記憶部102と、ディザパターンを記憶したルックアップテーブルを複数個有するルックアップテーブル記憶部105と、画像を合成するための基準信号とフレーム信号を生成する信号生成部104と、前記ルックアップテーブルの情報に基づきフレーム画像記憶部102から複数の画像データを読みだし、該複数の画像データの重複エリアを調整して合成する画像合成部103と、を備え、ルックアップテーブル記憶部105は、信号生成部104のフレーム信号によって、画像のフレーム単位ごとに、画素の比率は同一であって配置が異なる複数のルックアップテーブルを切り替える。【選択図】 図1

Description

本発明は、画像合成装置および画像合成方法に関する。
複数台のカメラを用いる画像合成において、被写体の状態の違い、あるいは被写体とカメラの位置関係の違いにより複数のカメラから入力された複数の撮像画像の明るさの違いが生ずることがある。
この複数の撮像画像の明るさの違いを、明るさが等しくなるように補正して継ぎ目を目立たなくさせる合成方法として、特許文献1がある。
特許文献1には、「階調変換部31及び32は、重複した画像領域内の画像状態に応じて入力画像a及びbの画像を補正するものであり、本実施の形態においてはそれぞれ入力画像a及びbに対して階調変換を行い、2つの画像の重複する画像領域での明るさを等しくするよう補正するものである。また、画像変換合成部50は、重複部の中心が継ぎ目になるように合成処理を行い、階調変換部31及び32によって明るさを補正された入力画像a及びbを変換パラメータで変換し、一つの画像に合成する([要約][解決手段]参照)。」と記載され、画像合成装置の技術が開示されている。
また、複数画像の境界部を自然に合成する方法として、境界部の各カメラの撮像画像をブレンド処理し、ブレンド率を使用する方法として、特許文献2がある。
特許文献2には、「画像検出部106は、各カメラ101の画像から画像特徴量を抽出する。画像変換部105は、画像特徴量に応じてブレンド率を算出し複数のカメラ画像が重なる重畳エリアの画像を合成する。重畳エリアにおける各画像の画像特徴量の相関を判定し、相関が弱い場合には立体物が存在すると判断する。さらに各画像の画像特徴量が位置的に重なる部分がある場合には、立体物は重畳エリア内に存在すると判断する。その場合は、画像特徴量が大きい方の画像のブレンド率を大きく設定して画像合成する([要約][解決手段]参照)。」と記載され、画像処理システムの技術が開示されている。
特開平9−93430号公報 特開2014−90349号公報
しかしながら、前記特許文献1、特許文献2には、次のような各課題がある。
特許文献1に開示された技術では、各カメラの明るさの分布の差が残り、画像の継ぎ目が残り不自然な画像となる課題がある。
また、特許文献2に開示された技術では、ブレンド処理において、乗算器、加算器が必要となり、複雑な制御が必要となる課題がある。
本発明は、前記した課題に鑑みて創案されたものであり、複数カメラを用いる画像合成において、複数のカメラから入力された撮像画像または映像の境界部(重複エリア)を目立たなくし、自然な合成画像が得られる画像合成方法を提供することを目的とする。また、簡易な構成にて、複雑な制御が必要のない画像合成装置を提供することを目的とする。
前記の課題を解決して、本発明の目的を達成するために、以下のように構成した。
すなわち、本発明の画像合成装置は、複数のカメラで撮影した複数の画像を合成する画像合成装置であって、前記複数のカメラの画像データを格納するフレーム画像記憶部と、前記複数のカメラからの複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを複数個有するルックアップテーブル記憶部と、画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成する信号生成部と、前記ルックアップテーブルの情報に基づき前記フレーム画像記憶部から前記複数の画像データを読みだし、該複数の画像データの重複エリアを調整して合成する画像合成部と、を備え、前記ルックアップテーブル記憶部は、前記信号生成部のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替えることを特徴とする。
また、本発明の画像合成方法は、フレーム画像記憶手段が、複数のカメラから入力された複数の画像データを格納し、ルックアップテーブル記憶手段が、前記複数のカメラからの複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを有して、前記ディザパターンを生成し、信号生成手段が画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成し、画像合成手段が、前記ルックアップテーブルの情報に基づき前記フレーム画像記憶手段に格納されている互いに重複エリアを有する前記複数の画像データを合成し、前記ルックアップテーブル記憶手段は、前記信号生成手段のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替えることを特徴とする。
また、その他の手段は、発明を実施するための形態のなかで説明する。
本発明によれば、複数カメラを用いる画像合成において、複数のカメラから入力された撮像画像または映像の境界部(重複エリア)を目立たなくし、自然な合成画像が得られる画像合成方法を提供できる。また、簡易な構成で、複雑な制御が必要のない画像合成装置を提供できる。
本発明の第1実施形態に係る画像合成装置の構成例を示すブロック図である。 重複エリアを有し、輝度の異なる二つの画像データを、ディザパターンを用いずに合成する場合の効果を示すイメージ図であり、(a)はカメラAの画像、(b)はカメラBの画像、(c)は二つの画像の重複エリアでディザ処理なしのルックアップテーブル、(d)はカメラAとカメラBの合成画像を表記している。 ディザパターンを用いるルックアップテーブルと合成画像を示すイメージ図であり、(e)は重複エリアにディザ処理をした第1のルックアップテーブルの例、(f)は重複エリアにディザ処理をした第2のルックアップテーブルの例、(g)は前記第1、第2のルックアップテーブルの部分を拡大したパターン図、(h)は二つの画像の合成画像を示す図である。 本発明の第1実施形態に係る画像合成部の具体的な動作と構成の例を示すブロック図である。 重複エリアを5段階に白黒の画素密度の異なるディザパターンを分けて、より滑らかに二つの画像を合成する場合を説明する図であり、(a)はカメラAの画像、(b)はカメラBの画像、(c)は二つの画像の重複エリアで5段階のディザ処理ありのルックアップテーブル、(d)はカメラAとカメラBの合成画像を表記している。 重複エリアにおけるディザパターンが5段階で白黒の画素密度を変えて明暗がより自然に変化するディザパターン例を示す図であり、(a)はディザパターンの画素密度と配置のパターンの単位を示し、(b)は第1のディザパターン例、(c)は第2のディザパターン例、(d)は第3のディザパターン例、(e)は第4のディザパターン例を示している。 より細密な明暗変化に対応したディザパターンの例として、重複エリアにおけるディザパターンが9段階で白黒の画素密度を変えて明暗がより自然に変化するディザパターン例を示す図であり、(a)はディザパターンの画素密度と配置のパターンの単位を示し、(b)は第1のディザパターン例、(c)は第2のディザパターン例を示している。 本発明の第1、第2実施形態に係る画像合成方法のフローチャートである。 本発明の第3実施形態に係る画像合成装置の構成例を示すブロック図である。 本発明の第3実施形態に係る画像合成方法のフローチャートである。 本発明の第4実施形態に係る画像合成装置の構成例を示すブロック図である。 本発明の第4実施形態に係る画像合成方法のフローチャートである。 一つのディザパターンを複数のディザパターンとして用いる方法を示す図であり、(a)は第1の方法、(b)は第2の方法を示している。
以下、本発明を実施するための形態(以下においては「実施形態」と表記する)を、図面を参照して説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、重複する説明は、適宜、省略する。
≪第1実施形態≫
本発明の第1実施形態に係る画像合成装置として、複数台のカメラの画像または映像の境界部(重複エリア)をディザ法によって合成する画像合成装置の例を説明する。また、以下の説明においては、画像合成装置の説明と画像合成方法の説明を兼ねる。
なお、以下の本実施形態の説明で用いるディザ法のディザ(Dither)とは、量子化誤差(端数)を、単純に丸めるのではなく、全体の量子化誤差が最小化するように確率を調整して、切り捨てまたは切り上げのどちらかをランダムに行なうためによるゆらぎのことである。一種のノイズ的データを追加する作業および技法は、ディザリング(Dithering)、またはディザ法と呼ばれる。
また、存在する色や明暗のピクセルをばらつかせて配置すると、人の眼はそのような色や明暗の拡散配置を色や明暗の混合として知覚することや、画像の色数を減らす場合には、ディザリングを施すと見栄えが良くなることが知られている。
本実施形態では、複数のカメラで撮影され、これらの複数のカメラから得られた画像や映像の輝度が大きく異なる可能性のある場合においても、ディザリングを前記の画像や映像の継ぎ目に施すことにより、見栄えの良い自然な合成画像にする画像合成装置と画像合成方法について説明する。
<画像合成装置100の構成:その1>
図1は、本発明の第1実施形態に係る画像合成装置100の構成例を示すブロック図である。
図1において、画像合成装置100は、フレーム画像記憶部(フレーム画像記憶手段)102、画像合成部(画像合成手段)103、信号生成部(信号生成手段)104、ルックアップテーブル記憶部(ルックアップテーブル記憶手段)105を備えて構成される。
また、複数台のカメラ101(101A〜101D)を画像合成に用いる。図1においては、カメラ101(101A〜101D)が4台である場合を例示しているが、この4台という台数には格別な意味はなく、他の台数でも画像合成の観点からは基本的に同一である。
図1において、複数(4台)のカメラ101(101A〜101D)が、例えば道路や交差点や料金所等のカメラによって被写体の状態や被写体とカメラの位置関係が異なる状況を、一部重複しながら連続した別々の画面(画像)を分担して撮影する。なお、この一部重複しながら連続した別々の画像は、前記の理由で互いに輝度(明るさ)が異なっている可能性がある。
そして、複数のカメラ101(101A〜101D)から入力された複数の画像データは、フレーム画像記憶部(例えばフレームメモリ)102に記憶、格納される。
信号生成部(例えばタイミングジェネレータ)104で生成された映像出力タイミング信号104Tに合わせて、フレーム画像記憶部102に格納された複数の画像データが画像合成部103に入力される。併せて、ルックアップテーブル記憶部105の複数のルックアップテーブル(1051,1052)で生成された、もしくは格納されていたディザパターンが読み出されて、画像合成部103に入力される。
そして、画像合成部103において、複数の画像データとディザパターンとによる合成画像が生成される。すなわち、複数の画像データの重複エリア(継ぎ目、境界部)の輝度を調整した自然な合成画像が生成される。
さらには、画像のフレーム毎に、前記の複数のルックアップテーブル(1051,1052)において、ディザパターンの画素密度(白または黒の割合)は同一であるが画素配置(白または黒の配置)が異なる複数のルックアップテーブル(1051,1052)を切り替えることにより、固定されたディザパターンによる弊害を低減して、より自然な合成画像が生成される。
なお、ディザパターンの画素密度は同一であるが画素配置が異なる複数のルックアップテーブルについての詳細は後記する。
また、複数のカメラ101(101A〜101D)による複数の画像の位置関係や重複エリア(継ぎ目、境界部)は、複数のカメラ101(101A〜101D)を設置した段階で把握されているものとして、この複数の画像の位置関係や重複エリアを算出する工程の説明は省略する。
<画像合成の例>
次に、図2、図3を参照して、「ディザ処理なし」の場合と「ディザ処理あり」の場合を例にあげて、画像合成におけるディザ処理の方法と効果について説明する。
《画像データの合成画像の例1:ディザ処理なし》
まず、ディザ処理を用いないで画像合成をした場合を参考例として、図2を参照して説明する。
なお、複数台のカメラの内のカメラ101A(カメラA)とカメラ101B(カメラB)の2台による二つの画像(201A,201B)の合成を例とする。
また、前記したようにカメラ101A、カメラ101Bを、それぞれカメラA、カメラBと簡略化して、適宜、表記する。また、カメラ101A(カメラA)の画像201AをカメラA画像、カメラ101B(カメラB)の画像201BをカメラB画像と、それぞれ簡略化して、適宜、表記する。
図2は、重複エリア2ABを有し、輝度の異なる二つの画像データ(201A,201B)を、ディザパターンを用いずに合成する場合の効果を示すイメージ図であり、(a)はカメラAの画像201A、(b)はカメラBの画像201B、(c)はカメラA,Bの二つの画像の重複エリアでディザ処理なしのルックアップテーブル(白:カメラA、黒:カメラB)、(d)はカメラAとカメラBの合成画像201D(ディザ合成無し)を表記している。
図2の(a)に示す画像201Aと、(b)に示す画像201Bとは、画像の重複エリア2ABにおいて、同じ被写体であるにもかかわらず、(a)に示す画像201Aは、(b)に示す画像201Bに比較して、黒さが濃い(暗い)。
この明暗の差(輝度の差)は、二つの画像201A,201Bの撮影時のそれぞれが分担して撮影した被写体の状態(例えば光の状況)やカメラの設置位置の違いや、あるいは、その状態の違いに伴うカメラA,Bの絞りやシャッタースピードの相違などの条件の違いが、前記の画像201Aと画像201Bの輝度の相違(明暗の相違)となって現れた可能性がある。
図2の(c)は、ルックアップテーブル210を示している。ルックアップテーブル210の左半分(211)は、カメラAの画像となる白パターンであり、右半分(213)は、カメラBの画像となる黒パターンである。
このような左半分(211)と右半分(213)が、それぞれ単純に白黒のルックアップテーブル210を用いると、(a)に示す画像201Aは、(d)に示す画像202Aとなり、(b)に示す画像201Bは、(d)に示す画像202Bとなって、合成画像201Dとなる。
図2の(d)に示した合成画像は、重複エリア2ABの中央の継ぎ目における左右の輝度が異なった画像となる。そのため(d)の合成画像である画像201Dを全体的にみると、継ぎ目が目立ち、違和感のある画像になる。
例えば、(d)における画像201Dの重複エリア2ABにおいて、雲や人物は、同じ輝度の筈であるが、雲の左右、あるいは人物の左右において輝度が異なっている。その結果、画像201Dは、不自然な印象を与える画像となっている。
《画像データの合成画像の例2:ディザ処理あり》
次に、図2の(a)、(b)、および図3の(e)、(f)、(g)、(h)を参照して、ディザ合成有り、すなわち、ディザパターンによるディザリングを用いて、二つの画像201A、201Bを合成する場合について説明する。
なお、図3は、ディザパターンを用いるルックアップテーブルと合成画像を示すイメージ図であり、(e)は二つの画像の重複エリアに相当する箇所にディザ処理をした第1のルックアップテーブルの例、(f)は二つの画像の重複エリアに相当する箇所にディザ処理をした第2のルックアップテーブルの例、(g)は前記第1、第2のルックアップテーブルの部分を拡大したパターン図、(h)は二つの画像201A、201Bの合成画像201Hを示す図である。
図3の(e)に示すルックアップテーブル301Eは、左側が画像201Aとなる白パターン311E、右側が画像201Bとなる黒パターン313Eであり、画像201Aと画像201Bとの重複エリア2AB(図2)がディザパターン312Eとなっている。
なお、ルックアップテーブル301Eは、カメラAの画像201AとカメラBの画像201Bの位置関係および重なり具合を反映して構成されているものとする。ルックアップテーブル301Eの白パターン311EがカメラAの画像201Aのみの領域であり、黒パターン313EがカメラBの画像201Bのみの領域であり、重複エリア2ABが画像201Aと画像201Bが重なる領域であって、白と黒の点または部分が所定の比率と配置で構成されている。
すなわち、ルックアップテーブル301Eは、2台(複数)のカメラからの二つ(複数)の画像の入力画素と合成画像の各画素との位置関係と、前記2台(複数)のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶している。
また、図3の(f)に示すルックアップテーブル302Fは、左側が画像201Aとなる白パターン321F、右側が画像201Bとなる黒パターン323Fであり、画像201Aと画像201Bとの重複エリア2AB(図2)がディザパターン322Fとなっている。
また、ルックアップテーブル302Fも、2台(複数)のカメラからの二つ(複数)の画像の入力画素と合成画像の各画素との位置関係と、前記2台(複数)のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶している。
図3の(e)に示すルックアップテーブル301Eと、図3の(f)に示すルックアップテーブル302Fは、同じとも見える可能性があるが、画像201Aと画像201Bとの重複エリア2AB(図2)におけるディザパターン(312E,322F)には相違がある。その相違を図3の(g)で説明する。なお、図3の(e)における領域3112Eは、白パターン311Eとディザパターン312Eの境界部を示し、図3の(f)における領域3212Fは、白パターン321Fとディザパターン322Fの境界部を示している。
図3の(g)について説明する。ルックアップテーブル301Eのディザパターン312Eと、ルックアップテーブル302Fのディザパターン322Fと、をそれぞれ拡大して示したのが、図3の(g)に示す領域3112Eの拡大図3112Gと、領域3212Fの拡大図3212Gである。
拡大図3112Gにおいては、前記したように、ルックアップテーブル301Eの白パターン311Eとディザパターン312Eとの境界近傍の領域3112Eを拡大して示している。
拡大図3112Gにおけるディザパターン312Eは、画素が白と黒との市松模様になっている。この市松模様のパターンは、全体を1として、白が0.5、黒が0.5の画素比率のディザパターンに相当する。
また、拡大図3212Gにおいては、前記したように、ルックアップテーブル302Fの白パターン321Fとディザパターン322の境界近傍の領域3212Fを拡大して示している。
拡大図3212Gにおけるディザパターン322Fも画素が白と黒との市松模様になっている。したがって、ディザパターン322Fも全体を1として、白が0.5、黒が0.5の画素比率のディザパターンに相当する。
拡大図3112Gにおけるディザパターン312Eと、拡大図3212Gにおけるディザパターン322Fは、ともに市松模様であって、画素比率は0.5:0.5で同一であるが、ディザパターン312Eとディザパターン322Fでは、白と黒が互いに反転した関係にある。すなわち、白と黒のパターンの配置が異なる。
この白と黒のパターンの配置が異なる効果については、後記するものとして、まず、図3の(e)のルックアップテーブル1(301E)と(f)のルックアップテーブル2(302F)を用いたときの効果を次に説明する。
まず、図3の(e)に示すルックアップテーブル1(301E)を用いた場合について説明する。
ルックアップテーブル1(301E)の左側の領域の白パターン311Eは、カメラ101Aの画像201A(図2の(a))のデータを用いるので、図3の(h)の画像203Aとなる。
また、ルックアップテーブル1(301E)の右側の領域の黒パターン313Eは、カメラ101Bの画像201B(図2の(b))のデータを用いるので、図3の(h)の画像203Bとなる。
また、ルックアップテーブル1(301E)の重複エリアの市松模様のディザパターン312Eは、白の点または部分でカメラ101Aの画像201A(図2の(a))のデータを用い、黒の点または部分でカメラ101Bの画像201B(図2の(b))のデータを用いるので、カメラ101Aの画像201Aとカメラ101Bの画像201Bとの中間的な輝度の画像203C(図3の(h))となる。
次に、図3の(f)に示すルックアップテーブル2(302F)を用いた場合について説明する。
ルックアップテーブル2(302F)の左側の領域の白パターン321Fは、カメラ101Aの画像201A(図2の(a))のデータを用いるので、図3の(h)の画像203Aとなる。
また、ルックアップテーブル2(302F)の右側の領域の黒パターン323Fは、カメラ101Bの画像201B(図2の(b))のデータを用いるので、図3の(h)の画像203Bとなる。
また、ルックアップテーブル2(302F)の重複エリアの市松模様のディザパターン322Fは、白の点または部分でカメラ101Aの画像201A(図2の(a))のデータを用い、黒の点または部分でカメラ101Bの画像201B(図2の(b))のデータを用いるので、カメラ101Aの画像201Aとカメラ101Bの画像201Bとの中間的な輝度の画像203C(図3の(h))となる。
なお、図3の(e)、(f)のディザパターンの白、黒は、画像201Aの画素を用いるか、画像201Bの画素を用いるかを示すものであって、ディザパターンの白における画像の画素がディザパターンの黒における画像の画素より明るいということを意味するものではない。ディザパターンの白における画像の画素とディザパターンの黒における画像の画素のどちらが明るいかは、画像201Aと画像201Bの明るさの関係によって変わる。
以上の演算処理を行うことによって、ルックアップテーブル1(301E)またはルックアップテーブル2(302F)を用いると、図3の(h)に示すように、カメラ101Aの画像201Aとカメラ101Bの画像201Bの合成画像(ディザ合成有り)である画像201Hは、継ぎ目の部分(重複エリア2AB)の画像203Cの輝度の変化がぼかされ、自然に仕上がる。また、輝度の変化がぼかされるのみならず、ディザ合成の結果、継ぎ目の部分における合成画像は、色の混合として知覚されるので、継ぎ目の部分の色彩の変化が少なくなり、不自然感が軽減される。
以上のように、図3の(e)のルックアップテーブル1(301E)でも(f)のルックアップテーブル2(302F)を用いても、カメラ101Aの画像201Aとカメラ101Bの画像201Bの合成画像は、図3の(h)の画像201Hとなって、図2の(d)の合成画像である画像201Dよりは、自然な合成画像が得られる。
このように、ディザパターンを有するルックアップテーブル1(301E)またはルックアップテーブル2(302F)を画像合成に用いることによって得られた合成画像201H(図3の(h))は、ディザパターンの無い合成画像201D(図2の(d))に比較すれば、自然な合成画像が得られるものの、図3の(g)の拡大図で示した市松模様のディザパターン312Eやディザパターン322Fの影響が、わずかながらでも残像として視覚的にとらえられる場合もある。
そのため、1枚の画像としては、ルックアップテーブル1(301E)またはルックアップテーブル2(302F)を用いるものの、連続する画像、すなわち映像とする場合に、同じディザパターンのルックアップテーブルを連続して用いずに、画像のフレーム毎に、例えばルックアップテーブル1(301E)またはルックアップテーブル2(302F)を交互に切り替えて用いる。
すると、図3の(g)の重複エリアの拡大図であるディザパターン312Eとディザパターン322Fとの関係において、白と黒の市松模様のパターンが交互に入れ替わるため、さらに自然な映像(連続した画像)が得られるという効果がある。
<画像合成装置100の構成:その2>
以上のディザパターンを用いた画像合成をする画像合成部103について、さらに詳しく説明する。
図4は、本発明の第1実施形態に係る画像合成部103(図1)の具体的な動作と構成の例を示すブロック図である。
図4において、フレーム画像記憶部102、ルックアップテーブル記憶部105、信号生成部104は、図1のフレーム画像記憶部102、ルックアップテーブル記憶部105、信号生成部104にそれぞれ対応している。
また、図4において、セレクタ403が図1の画像合成部103に相当し、後記するように画像を合成する機能を有している。
フレーム画像記憶部102に、カメラ101Aの画像102A(カメラA画像102Aと称する)と、カメラ101Bの画像102B(カメラB画像102Bと称する)が記憶され、格納されている。
カメラA画像102AとカメラB画像102Bは、セレクタ403の入力端子A(第1入力端子)と入力端子B(第2入力端子)にそれぞれ入力している。
信号生成部(例えばタイミングジェネレータ)104は、基準信号やこの基準信号に基づいて生成されるフレーム信号を含む映像出力タイミング信号104Tをフレーム画像記憶部102とルックアップテーブル記憶部105とに供給している。なお、映像出力タイミング信号104Tをセレクタ403に供給する場合もある。
ルックアップテーブル記憶部105は、ルックアップテーブル1(1051)とルックアップテーブル2(1052)を具備し、ルックアップテーブルのディザパターンを反映したディザパターン信号105Pをセレクタ403の入力端子S(第3入力端子)に入力している。
また、ルックアップテーブル記憶部105の出力信号(105P)のディザパターンは、「A」、「B」が、それぞれカメラ101A、カメラ101Bの映像を意味するものとして、例えば図3の(f)のルックアップテーブル302Fの市松模様の箇所(322F)の場合には、「ABAB・・・」のようなデータパターンである。
このディザパターンの「A」か「B」によって、カメラA画像の画素か、カメラB画像の画素かを、図4のセレクタ403が選択する。
具体的には、信号生成部104で生成した映像出力タイミング信号104Tに含まれる所定のタイミング信号に合わせて、例えば市松模様のディザパターン322Fの左上の画素を仮に画素位置0とすると、画素位置0の出力画素は、前記ディザパターンの最初のデータはAなので、セレクタ403により、カメラA画像103Aの画素位置0の画素を選択し出力する。次に、前記ディザパターンの次のデータはBなので、カメラB画像102Bの画素位置1の画素を選択し出力する。次に、前記ディザパターンの次のデータはAなので、カメラA画像102Aの画素位置2の画素を選択し出力する。
このように、輝度(明暗)の異なるカメラA画像102AとカメラB画像102Bのそれぞれの対応する画素を前記のディザパターンに従って出力することにより、合成画像の画像201Hの重複エリア(継ぎ目、境界部)203Cにおいて、輝度の差が低減し、カメラA画像102AからカメラB画像102Bへ輝度が自然に変化するようになる。
すなわち、ルックアップテーブル記憶部105のディザパターンに従って出力する画素をばらつかせることで、画像の継ぎ目を目立たなくさせる。
なお、ディザパターンを前記では、例えば「ABAB・・・」と記載したが、直線的(1次元)のみならず平面的(2次元)にも生成して、平面的な画像の合成に用いる。
セレクタ403は、この継ぎ目を目立たなくした合成画像201H(図3の(h))を出力端子Yから映像出力画像403Oとして出力する。
さらに、合成画像201Hの1フレームの全画素(画像)を出力して、映像として次のフレームの合成を開始する際に、信号生成部104から出力される映像出力タイミング信号104Tに含まれるフレーム信号によって、ルックアップテーブル記憶部105におけるルックアップテーブル1(1051)とルックアップテーブル2(1052)とを切り替える。ルックアップテーブル2(1052)に切り替えた場合の画像の合成手順は前記したルックアップテーブル1(1051)の場合の手順と同様である。そのため、ルックアップテーブル2(1052)を用いた場合も合成画像201Hが得られる。
合成画像201Hにおける重複エリアの画像203Cは、ルックアップテーブル1(1051)とルックアップテーブル2(1052)の場合でも全画面としてみる場合には、見分けがつきにくい程度であるが、部分を拡大すると、図3の(g)におけるディザパターン312Eとディザパターン322Fとの相違を反映した画像の差異がある。
したがって、ルックアップテーブル1(1051)のみを用いると、若干ではあるが、そのディザパターンに固有なパターンが残像として残る可能性もある。しかし、図4の回路によって、画像のフレーム毎に白黒の画素密度は同一であるが白黒画素の配置が異なるディザパターンのルックアップテーブル間で切り替えることにより、ルックアップテーブルの固有なパターンの影響が相殺されて軽減され、フレーム毎の画像が連続して映される映像として、より自然な画像(映像)が得られる。
以上、図2および図3を参照して二つの画像を合成する場合について説明したが、図1に示したようにカメラ4台による四つの画像、あるいはそれ以上の画像を合成する場合には、前記した二つの画像を合成する方法、手順を繰り返せばよい。
≪第2実施形態≫
次に、本発明の第2実施形態として、画像の重複エリアにおけるディザパターンの明暗を段階に分けて、より自然にみせる方法を、図5、図6を参照して説明する。
<ディザ処理による合成>
図5は、重複エリアを5段階に白黒の画素密度の異なるディザパターンを分けて、より滑らかに二つの画像201A,201Bを合成する場合を説明する図であり、(a)はカメラAの画像201A、(b)はカメラBの画像201B、(c)は二つの画像の重複エリアで5段階のディザ処理ありのルックアップテーブル510(白:カメラA、黒:カメラB)、(d)はカメラAとカメラBの合成画像501Dを表記している。
図5の(c)において、白パターン511と黒パターン513との間の重複エリア2ABに対応するディザパターン512がある。ディザパターン512は、左端に白の領域、右端に黒の領域、これら白と黒の領域の間に3段階で順に白の多い領域から黒の多い領域の計5段階で示している。
なお、この5段階というのは、変化を示す表記上の理由により、便宜的に5段階で記載したものであって、実際には、白から黒への移行がなめらかに変化するディザパターンが望ましい。
ルックアップテーブル510は、カメラAの画像201AとカメラBの画像201Bの位置関係および重なり具合を反映し、カメラAの画像201Aのみの領域の白パターン511と、カメラBの画像201Bのみの領域の黒パターン513と、画像201Aと画像201Bが重なる領域のディザパターン512とから構成されている。
すなわち、ルックアップテーブル510は、2台(複数)のカメラからの二つ(複数)の画像の入力画素と合成画像の各画素との位置関係と、前記2台(複数)のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶している。
前記のように、(c)の重複エリア2ABのディザパターン512は、白の領域から黒の領域まで変化するが、各点は、白の点か黒の点のいずれかである。白の点または黒の点の占める割合によって、白の領域から黒の領域への遷移を表現している。
白で表された領域や部分や点においては、カメラ101Aの画像201Aのデータを用い、黒で表された領域や部分や点においては、カメラ101Bの画像201Bのデータを用いるものとする。
なお、(c)のディザパターンの白、黒は、画像201Aの画素を用いるか、画像201Bの画素を用いるかを示すものであって、ディザパターンの白における画像の画素がディザパターンの黒における画像の画素より明るいということを意味するものではない。ディザパターンの白における画像の画素とディザパターンの黒における画像の画素のどちらが明るいかは、画像201Aと画像201Bの明るさの関係によって変わる。
以上の演算処理を行うことによって、(d)に示すように、合成画像501Dの画像203Aの領域は、画像201Aがそのまま反映され、画像203Bの領域は、画像201Bが反映され、画像203Dの領域が5段階のディザパターンを反映した合成画像となる。
図5の(d)に示すように、カメラ101Aの画像201Aとカメラ101Bの画像201Bの合成画像(ディザ合成有り)である画像501Dは、継ぎ目の部分の輝度の変化がぼかされ、自然に仕上がる。また、輝度の変化がぼかされるのみならず、ディザ合成の結果、継ぎ目の部分における合成画像は、色の混合として知覚されるので、継ぎ目の部分の色彩の変化が少なくなり、不自然感が軽減される。
また、図3の(h)の合成画像201Hは、白、白と黒の半々、黒の3段階で変化して合成されているのに対し、図5の(d)の合成画像501Dは、白から黒へ5段階で変化しているので、図5の(d)の合成画像501Dは、より滑らかな変化で自然な合成画像となっている。
<複数段階のディザパターン>
図6は、重複エリア2ABにおけるディザパターンが5段階で白黒の画素密度を変えて明暗がより自然に変化するディザパターン例を示す図であり、(a)はディザパターンの画素密度と配置のパターンの単位を示し、(b)は第1のディザパターン例、(c)は第2のディザパターン例、(d)は第3のディザパターン例、(e)は第4のディザパターン例を示している。
図6の(a)において、D1〜D5は、ディザパターンの画素密度と配置のパターンの単位を示し、D1〜D5は、例えば、4×4つまり16個の画素をグループとしている。
なお、以下の説明において、ディザパターンの単位をD1〜D5として、説明する。
図6の(b)において、左端のディザパターンD1は、16個の画素はすべて白であり、これに対して黒の画素は0個である。つまり、黒の画素密度は0/16である。
ディザパターンD2は、12個の画素が白であり、4個の画素が黒である。つまり。黒の画素密度は4/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置している。
ディザパターンD3は、8個の画素が白であり、8個の画素が黒である。つまり。黒の画素密度は8/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置している。なお、黒と白は市松模様に配置されている。
ディザパターンD4は、4個の画素が白であり、12個の画素が黒である。つまり。黒の画素密度は12/16である。なお、白の画素は、横の行、縦の列において1個となるように配置している。
右端のディザパターンD5は、16個の画素はすべて黒であり、これに対して白の画素は0個である。つまり、黒の画素密度は16/16である。
以上のように図6の(b)におけるディザパターンD1〜D5は、ブロック単位毎に白黒の画素密度と配置を左端から右端に5段階で序々に変えている。
このため、前記したように、図5の(d)の重複エリア2ABにおける合成画像203Dは、図3の(h)の1段階の変化である重複エリア2ABにおける合成画像203Cと比較して、カメラA画像からカメラB画像に、より滑らかに、自然に変化している。
図6の(c)は、(b)のディザパターンと白黒の画素密度は同一でありながら白黒の配置が異なるディザパターンの例である。
図6の(c)において、左端のディザパターンD1は、16個の画素はすべて白であり、これに対して黒の画素は0個である。つまり、黒の画素密度は0/16である。
(c)のディザパターンD2は、12個の画素が白であり、4個の画素が黒である。つまり。黒の画素密度は4/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置している。ただし、(b)におけるディザパターンD2とは黒の配置が異なる。
(c)のディザパターンD3は、8個の画素が白であり、8個の画素が黒である。つまり。黒の画素密度は4/16である。なお、(b)におけるディザパターンD3と同様に黒と白は市松模様に配置されているが、白と黒が反転した配置の市松模様である。
(c)のディザパターンD4は、4個の画素が白であり、12個の画素が黒である。つまり。黒の画素密度は12/16である。なお、白の画素は、横の行、縦の列において1個となるように配置している。ただし、(b)とは、白の配置が異なる。
(c)の右端のディザパターンD5は、16個の画素はすべて黒であり、これに対して白の画素は0個である。つまり、黒の画素密度は16/16である。
以上のように、図6の(c)は、(b)のディザパターンと白黒の画素密度は同一でありながら、白黒の配置が異なるディザパターンとなっている。
図6の(d)および(e)も、図6の(b)、(c)のディザパターンD1〜D5と、同じ画素密度でありながら、ディザパターンD2〜D4においては、白と黒のパターンの配置が異なっている。
なお、(d)および(e)のパターンの詳細な説明は、重複するので省略する。
以上、図6の(b)〜(e)のいずれかのディザパターンを用いて、カメラ101Aの画像201Aとカメラ101Bの画像201Bの画像合成を行えば、自然な合成画像501Dが得られる。
さらに、画像201Aと画像201Bのフレーム毎に、図6の(b)〜(e)のいずれかのディザパターンの内の2種、あるいは3種以上を、フレーム毎に切り替えて用いれば、それらのパターンの影響が相殺されて、連続した画像としての映像は、さらに自然な映像が得られる。
<細密変化のディザパターン>
次に、前記した5段階よりも、さらに細密な明暗変化に対応したディザパターンについて説明する。
図7は、より細密な明暗変化に対応したディザパターンの例として、重複エリア2ABにおけるディザパターンが9段階で白黒の画素密度を変えて明暗がより自然に変化するディザパターン例を示す図であり、(a)はディザパターンの画素密度と配置のパターンの単位を示し、(b)は第1のディザパターン例、(c)は第2のディザパターン例を示している。
図7の(a)において、L1〜L9は、ディザパターンの画素密度と配置のパターンの単位を示し、L1〜L9は、例えば、4×4つまり16個の画素をグループとしている。
なお、以下の説明において、ディザパターンの単位をL1〜L9として、説明する。
図7の(b)において、左端のディザパターンL1は、16個の画素はすべて白であり、これに対して黒の画素は0個である。つまり、黒の画素密度は0/16である。
ディザパターンL2は、14個の画素が白であり、2個の画素が黒である。つまり。黒の画素密度は2/16である。
ディザパターンL3は、12個の画素が白であり、4個の画素が黒である。つまり。黒の画素密度は4/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置している。
ディザパターンL4は、10個の画素が白であり、6個の画素が黒である。つまり。黒の画素密度は6/16である。
ディザパターンL5は、8個の画素が白であり、8個の画素が黒である。つまり。黒の画素密度は8/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置している。なお、黒と白は市松模様に配置されている。
ディザパターンL6は、6個の画素が白であり、10個の画素が黒である。つまり。黒の画素密度は10/16である。
ディザパターンL7は、4個の画素が白であり、12個の画素が黒である。つまり。黒の画素密度は12/16である。なお、白の画素は、横の行、縦の列において1個となるように配置している。
ディザパターンL8は、2個の画素が白であり、14個の画素が黒である。つまり。黒の画素密度は14/16である。
右端のディザパターンL9は、16個の画素はすべて黒であり、これに対して白の画素は0個である。つまり、黒の画素密度は16/16である。
以上のように図7の(b)におけるディザパターンL1〜L9は、ブロック単位毎に白黒の画素密度と配置を左端から右端に序々に変えている。
このため、図6の(b)〜(e)のディザパターンを用いた場合よりも、さらに、より滑らかな合成画像のディザパターンとなる。
図7の(c)は、(b)のディザパターンと白黒の画素密度は同一でありながら白黒の配置が異なるディザパターンの例である。
図7の(c)において、左端のディザパターンL1は、16個の画素はすべて白であり、これに対して黒の画素は0個である。つまり、黒の画素密度は0/16である。
ディザパターンL2は、14個の画素が白であり、2個の画素が黒である。つまり。黒の画素密度は2/16である。ただし、(b)の場合と黒の配置が異なる。
ディザパターンL3は、12個の画素が白であり、4個の画素が黒である。つまり。黒の画素密度は4/16である。ただし、(b)の場合と黒の配置が異なる。
ディザパターンL4は、10個の画素が白であり、6個の画素が黒である。つまり。黒の画素密度は6/16である。ただし、(b)の場合と黒の配置が異なる。
ディザパターンL5は、8個の画素が白であり、8個の画素が黒である。つまり。黒の画素密度は8/16である。なお、黒の画素は、横の行、縦の列において1個となるように配置されている。なお、黒と白は市松模様に配置されているが(b)とは白と黒が反転した関係にある。
ディザパターンL6は、6個の画素が白であり、10個の画素が黒である。つまり。黒の画素密度は10/16である。ただし、(b)の場合と白の配置が異なる。
ディザパターンL7は、4個の画素が白であり、12個の画素が黒である。つまり。黒の画素密度は12/16である。ただし、(b)の場合と白の配置が異なる。
ディザパターンL8は、2個の画素が白であり、14個の画素が黒である。つまり。黒の画素密度は14/16である。ただし、(b)の場合と白の配置が異なる。
右端のディザパターンL9は、16個の画素はすべて黒であり、これに対して白の画素は0個である。つまり、黒の画素密度は16/16である。
以上のように図7の(c)におけるディザパターンL1〜L9は、ブロック単位毎に白黒の画素密度と配置を左端から右端に序々に変えている。
それとともに、図7の(c)におけるディザパターンL1〜L9は、(b)のディザパターンL1〜L9と各単位毎に画素密度は同一であるが、白と黒の配置が異なっている。
したがって、図7の(b)と(c)のディザパターンを、画素のフレーム毎に、切り替えると、連続した画素としての映像がより自然になる。
<画像合成方法のフローチャート(1)>
次に、本発明の第1、第2実施形態の画像合成方法の概略について、フローチャートを用いて説明する。
図8は、本発明の第1、第2実施形態に係る画像合成方法のフローチャートである。
《ステップS801》
図8において、画像合成方法のフローを開始(START)し、まずステップS801において、複数のカメラから入力された画像データをメモリ(フレーム画像記憶部)に格納する(フレーム画像記憶部<フレーム画像記憶手段>102:図1)。
《ステップS802》
次に、ステップS802において、ルックアップテーブル(例えばルックアップテーブル1(1051))を選択する(ルックアップテーブル記憶部<ルックアップテーブル記憶手段>105:図1)。
《ステップS803》
次に、ステップS803において、出力する画素の画素位置を0に設定する(信号生成部104、フレーム画像記憶部<フレーム画像記憶手段>102:図4)。
なお、画素位置を0に設定するということは、画像合成にあたって、合成する画像データの画素の開始箇所と定めた位置に合わせるということである。
《ステップS804》
次に、ステップS804において、画素位置に設定された値(最初は0)に基づきルックアップテーブルのディザパターンを読込む(ルックアップテーブル記憶部<ルックアップテーブル記憶手段>105、セレクタ403:図4)。
《ステップS805》
次に、ステップS805において、読込まれたルックアップテーブルのディザパターンがAか否かを判定する(セレクタ403:図4)。
Aであれば(Yes)、ステップS806に進む。Aでなければ(No)、ステップS807に進む。
《ステップS806》
ステップS806において、画像A(カメラA画像)の画素を出力する(セレクタ403:図4)。そして、ステップS808に進む。
《ステップS807》
ステップS807において、画像B(カメラB画像)の画素を出力する(セレクタ403:図4)。そして、ステップS808に進む。
《ステップS808》
次に、ステップS808において、フレームの全画素の出力を終了したか(フレーム画素を終了か)を判定する(ルックアップテーブル記憶部<ルックアップテーブル記憶手段>105、セレクタ403:図4)。
フレームの画素がまだ残っていれば(No)、ステップS809に進む。フレームの画素のすべての出力を終了していれば(Yes)、ステップS810に進む。
《ステップS809》
ステップS809においては、ステップS806もしくは、ステップS807における画素位置を1だけ繰り上げる(画素位置+1)。つまり、「新画素位置=旧画素位置+1」とする(信号生成部104、セレクタ403:図4)。
そして、ステップS804に戻る。このようにして、ステップS804に戻ると、画素位置が変化(+1)しているので、この新しい画素位置に対応する新しい画素を取り込むように、ステップS804〜ステップS809を繰り返す。
ステップS804〜ステップS809を繰り返すことで、ディザパターンが存在する範囲(図3の(e)、(f)、(g)、図5の(c))において、画像201A(図2の(a))と画像201B(図2の(b))が合成されて合成画像(ディザ合成有り)の画像201H(図3の(h))、あるいは画像501D(図5の(d))が出力される。
《ステップS810》
ステップS810においては、画像201Aと画像201Bの1フレームの全画像が出力されたので、次のフレームの画像201Aと画像201Bを取り込む前に、ルックアップテーブル(例えばルックアップテーブル2(1052))を選択して切り替える(ルックアップテーブル記憶部105、信号生成部104:図1)。
このように、フレーム毎に、ルックアップテーブルのディザパーンを切り替えて、ディザパターンが固定化されることによる残像の影響を低減して、より自然で滑らかな連続した画像である映像を合成画像(映像)とする。
≪第3実施形態≫
次に、本発明の第3実施形態として、画像の輝度を検出して、画像合成に反映する画像合成装置および画像合成方法を、図9、図10を参照して説明する。
図9は、本発明の第3実施形態に係る画像合成装置100Bの構成例を示すブロック図である。
図9における画像合成装置100Bは、図1に示した画像合成装置100の構成に対して、さらに輝度検波部(輝度検波手段)106を備えたものである。
なお、輝度検波部106の輝度分布の計算結果(輝度情報の解析結果)の出力信号106Sが、画像合成部103とルックアップテーブル記憶部105Bとに入力している。
また、図1のルックアップテーブル記憶部105におけるルックアップテーブルがルックアップテーブル1とルックアップテーブル2であると記載したのに対し、図9のルックアップテーブル記憶部105Bのルックアップテーブルは、ルックアップテーブル1〜4(1051〜1054)と増加されている。その理由は、後記する。
図9における画像合成装置100Bは、前記した点を除いて、図1に示した画像合成装置100と同じ構成と機能であるので重複する説明は、適宜、省略する。
図9において、複数のカメラ101(101A〜101D)から入力された複数の画像データは、輝度検波部106によって、輝度情報が解析され、それぞれの輝度分布(明るさの分布)が計算(演算)される。
前記したように、輝度検波部106の輝度分布の計算結果の出力信号106Sが、画像合成部103とルックアップテーブル記憶部105Bに入力している。
この輝度検波部106の輝度分布の計算結果の出力信号106Sによって、ルックアップテーブル記憶部105におけるルックアップテーブル1〜4(1051〜1054)からより望ましいディザパターンを選択するものである。
前記したように、複数のカメラ101(101A〜101D)は、被写体の状態やカメラの設置場所が異なる状況にあると、図5における画像201Aと画像201Bは、輝度が大きく異なる場合がある。
このときには、前記したように、図7の(b)におけるディザパターンL1〜L9をすべて含めたディザパターンのルックアップテーブルを用いて画像201Aと画像201Bを合成する。
そして、次のフレームにおいては、図7の(c)の画素密度は同じであるが白黒のパターン配置が異なるディザパターンに切り替えることで、連続した画像である映像を自然なものにしている。
一方、被写体の状態やカメラの設置場所が同じような状況にあると、図5における画像201Aと画像201Bは、輝度が殆ど変わらない場合がある。
この場合には、図7で示したような9段階(L1〜L9)まで細かくディザパターンを変化させることに実質的な意味がないことがある。
このように、画像201Aと画像201Bに輝度の差があまりない場合には、L1、L3、L5、L7、L9の5段階(図6の(b)相当)、あるいは、さらにL1、L5、L9の3段階(図3の(f)相当)のディザパターンを用意すれば、十分、実用的であることがある。
5段階や3段階のディザパターンは、9段階のディザパターンで画像合成する場合よりも処理時間が短縮される効果がある。
このように、ディザパターンを細かいものか荒いものかを選択するのが、図9の輝度検波部106の機能である。
また、ディザパターンを細かいものか荒いものかを選択する必要があるために、図9では、ルックアップテーブル記憶部105におけるルックアップテーブル1〜4(1051〜1054)の個数を増加して表記している。
以上の輝度検波部106が複数の画像データの輝度分布を計算して、より望ましいルックアップテーブル(ルックアップテーブル1〜4)を選択することを除いては、前記した第1、第2実施形態と同様の機能、構成であるので、重複する説明は省略する。
<画像合成方法のフローチャート(2)>
次に、本発明の第3実施形態の画像合成方法の概略について、フローチャートを用いて説明する。
図10は、本発明の第3実施形態に係る画像合成方法のフローチャートである。
図10で示したフローチャートは、図8のステップS801〜S810に対して、冒頭にステップS800を加えたものである。
図10において、画像合成方法のフローを開始(START)し、まずステップS800において、複数のカメラから入力された画像データの輝度分布を計算する(カメラ101、輝度検波部<輝度検波手段>106:図9)。
この計算結果は、図10のステップS802の「ルックアップテーブルの選択」の際に活用される。
他のステップS801〜S810は、図8で示したフローチャートのステップS801〜S810と同じであるので、重複する説明は省略する。
≪第4実施形態≫
次に、本発明の第4実施形態として、画像の輝度を検出し、輝度補正をした画像を、画像合成する画像合成装置および画像合成方法を、図11、図12を参照して説明する。
図11は、本発明の第4実施形態に係る画像合成装置100Cの構成例を示すブロック図である。
図11における画像合成装置100Cは、図9に示した画像合成装置100Bの構成に対して、さらに補正係数演算部107と輝度補正処理部108とを備えたものである。
図11において、複数のカメラ101(101A〜101D)から入力された複数の画像データは、輝度検波部106によって、輝度情報が解析され、それぞれの輝度分布(明るさの分布)が計算(演算)される。
この輝度分布の計算結果(輝度情報の解析結果)と、予め設定した被写体(例えば前記した道路)が見やすい輝度設定とを用いて補正係数演算部107で補正係数を算出(演算)する。なお、道路、交差点、料金所等を単に「道路」とも表記する。
また、輝度補正処理部108に複数のカメラ101(101A〜101D)から入力された画像データは、輝度補正処理部108において、前記の補正係数演算部107で算出された補正係数に基づき、輝度が補正処理される。
この輝度補正処理部108で補正処理された画像データは、フレーム画像記憶部102に記憶、格納される。
フレーム画像記憶部102に格納された画像は、図9に示した第3実施形態の画像合成装置100Bと同様に演算処理される。
図11における画像合成部103と信号生成部104とルックアップテーブル記憶部105Bの構成と機能は、図9の構成と機能と同じであるので、重複する説明は省略する。
以上において、輝度検波部106と補正係数演算部107と輝度補正処理部108とによって、複数のカメラ101(101A〜101D)から入力された画像201Aと画像201B(図5の(a)、(b))は、輝度が補正されて、互いに輝度の差異が少ない画像となる。
そして、輝度検波部106(もしくは輝度補正処理部108)の信号によって、適正なルックアップテーブル記憶部105Bのルックアップテーブルのディザパターンが選択されて、前記の画像201Aと画像201Bの輝度を補正された二つの画像が合成されるので、画像201Aと画像201Bのさらに輝度の差が少なく、より自然な合成画像が得られる。
そして、信号生成部104のフレーム信号によって、ルックアップテーブル記憶部105Bのルックアップテーブルのディザパターンが切り替わるので、より滑らかで自然な画像の連続した映像が得られる。
<画像合成方法のフローチャート(3)>
次に、本発明の第4実施形態の画像合成方法の概略について、フローチャートを用いて説明する。
図12は、本発明の第4実施形態に係る画像合成方法のフローチャートである。
図12で示したフローチャートは、図8のステップS801〜S810に対して、冒頭にステップS800A〜S800Cを加えたものである。
《ステップS800A》
図12において、画像合成方法のフローを開始(START)し、まずステップS800Aにおいて、複数のカメラから入力された画像データの輝度分布を計算する(カメラ101、輝度検波部<輝度検波手段>106:図11)。
この計算結果は、次のステップS800Bで用いられるとともに、ステップS802の「ルックアップテーブルの選択」の際に活用される。
《ステップS800B》
次に、ステップS800Bにおいて、前記の輝度分布の計算結果と、予め設定した被写体が見やすい輝度設定とを用いて輝度の補正係数を演算する(補正係数演算部<補正係数演算手段>107:図11)
《ステップS800C》
次に、ステップS800Cにおいて、複数のカメラから入力された画像データについて、前記の補正係数演算部<補正係数演算手段>で算出された補正係数を基に、各入力画像の輝度補正をする(輝度補正処理部<輝度補正処理手段>108:図11)
《ステップS801》
次に、ステップS801において、輝度補正処理部108で輝度補正された画像データをメモリ(フレーム画像記憶部)に格納する(フレーム画像記憶部<フレーム画像記憶手段>102:図11)
《ステップS802〜S810》
他のステップS802〜S810は、図8で示したフローチャートのステップS802〜S810と同じであるので、重複する説明は省略する。
以上によって、前記したように、輝度検波部106と補正係数演算部107と輝度補正処理部108とによって、複数のカメラ101(101A〜101D)から入力された画像201Aと画像201B(図5の(a)、(b))は、輝度が補正されて、互いに輝度の差異が少ない画像となる。
そして、輝度検波部106(もしくは輝度補正処理部108)の信号によって、適正なルックアップテーブル記憶部105Bのルックアップテーブルのディザパターンが選択されて、前記の画像201Aと画像201Bの輝度を補正された二つの画像が合成されるので、画像201Aと画像201Bのより、輝度の差が少なく、より自然な合成画像が得られる。
そして、信号生成部104のフレーム信号によって、ルックアップテーブル記憶部105Bのルックアップテーブルのディザパターンが切り替わるので、より滑らかで自然な画像の連続した映像が得られる。
≪その他の実施形態≫
以上、本発明は、前記した実施形態に基づき具体的に説明したが、本発明は前記実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々、変更可能である。
以下に、その他の実施形態や変形例について、さらに説明する。
《画像合成写真の枚数》
図2では、輝度の異なる二つの画像データ(2枚の写真)を合成する場合について、説明したが、二つの画像データ(2枚の写真)に限定されない。三つ以上の画像データ(3枚以上の写真)であってもよい。
この場合には、適用範囲や応用分野が広がる効果がある。
《画像合成写真の組み合わせ方》
図2では、輝度の異なる二つの画像データ(2枚の写真)を左右方向(横方向)に合成する場合について説明したが、左右方向(横方向)に限定されない。
例えば、上下方向(縦方向)でもよい。
また、複数の衛星写真を合成する場合のように、左右、上下方向に本実施形態の画像合成方法を適用して、広い領域(面積)の画像(写真)を、複数の画像(写真)から合成してもよい。
この場合には、適用範囲や応用分野が広がる効果がある。
《画像合成方法の手順》
輝度の異なる三つ以上の画像データを合成する場合において、図5で示したような二つの画像データ(2枚の写真)の合成を順に行う方法もある。また、複数の画像データが異なる組み合わせで、それぞれが重なる領域において、本実施形態のディザリングを用いた画像合成を並行して実施し、併せて処理する方法もある。
すなわち、図4で示したセレクタ403を複数個備えて、図1における画像合成部103とし、一つのセレクタ403がカメラA画像103AとカメラB画像103Bの画像合成を行う間に、併せて他の画像、例えばカメラ101C(図1)による画像103C(不図示)とカメラ101D(図1)による画像103D(不図示)を他のセレクタ(不図示)で合成する。
この場合には、演算処理の時間短縮に効果がある。
《ディザパターン(ルックアップテーブル)の選択、生成》
図5の(c)において、5段階(あるいは連続的)に変化するディザパターンの例を示したが、このディザパターンは、一例にすぎない。本実施形態の画像データの合成方法を適用する用途や環境によって、適するディザパターンを適宜、採用してもよい。
また、三つ以上の画像データ(3枚以上の写真)を合成する場合において、用いるディザパターンは一つに限定されない。適宜、異なるディザパターンを採用してもよい。
この場合には、さらに用途に適した、また品質の高い合成画像ができる可能性が高まる効果がある。
また、図1ではルックアップテーブルを2個(2種)、図9、図11ではルックアップテーブルを4個(4種)で説明したが、この個数に限定されない。ルックアップテーブルの個数は、それぞれ前記した以上でもよい。
また、図1、図4において、ルックアップテーブル記憶部105として、ディザパターンを記憶したルックアップテーブルを読み出す方法を説明したが、このルックアップテーブルを読み出す方法に限定されない。
例えば、所定のルールによって、ディザパターンを逐次、生成して用いてもよい。
《重複エリアにおけるディザパターンの単位ブロックの数》
合成する画像Aと画像Bの重複エリアのディザパターンの画素密度の変化を、図3の(g)では1段階、図5の(c)と図6では5段階、図7では9段階の例を示したが、これらに限定されない。
例えば、図7においては、黒の画素密度として、0/16、2/16、4/16、6/16、8/16、10/16、12/16、14/16、16/16の単位ブロックを例にあげたが、さらに1/16、3/16、5/16、7/16、9/16、11/16、13/16、15/16の黒の画素密度のディザパターンを用いれば、合計16段階に変化する白黒のディザパターンが得られる。
この16段階に変化する白黒のディザパターンを用いれば、さらに滑らかで自然な合成画像が得られる。
《ディザパターンの単位ブロックの形状》
ディザパターンの白黒の画素密度と配置を定める単位ブロックは、図3の(g)、図6、図7においては、4×4(=16)の正方形で説明したが、この形状に限定されない。
ディザパターンの単位ブロックを、もっと大きな画素単位、例えば5×5(=25)、あるいはそれ以上で構成してもよい。また、逆に、小さな画素単位、例えば3×3(=9)で構成してもよい。
また、単位ブロックの形状は、前記のように正方形に限定されることはなく、長方形、菱形、三角形、六角形などで構成してもよい。
《フレーム切り替え》
第1、第2実施形態においては、画像のフレーム毎に、ディザパターンのルックアップテーブルを切り替えることを説明した。
このフレーム毎に切り替えるディザパターンのルックアップテーブルは、交互でなくともよい。ランダムに切り替えてもよい。ランダムに切り替えることで、さらに連続した合成画像の映像がさらに自然となることがある。
また3パターン以上のディザパターンをランダムに切り替えてもよい。
《フレーム切り替え時のディザパターンの読み込み方(1)》
第2実施形態の図6においては、(b)〜(e)に示すように第1と第2、または第1〜第4のディザパターンを用意して、前記のディザパターンを画像のフレーム毎に、切り替える方法を説明した。しかしながら、フレーム毎にディザパターンを変化させる場合に前記のように複数のディザパターンを用意する方法に限定されない。複数のディザパターンを用意しなくともよい方法について次に説明する。
図13は、一つのディザパターンを複数のディザパターンとして用いる方法を示す図であり、(a)は第1の方法、(b)は第2の方法を示している。
<第1の方法>
図13の(a)のディザパターンは、図6の(b)に前記した5段階のディザパターンの一例で示したディザパターンと同じものである。
図13の(a)では、ディザパターンをαとβで示した二つの領域(紙面の横方向に画素が並ぶ)と考える。そして、第1のフレームにおいては、ディザパターンとして、最初にαのディザパターンを用い、次にβのディザパターンを用いる。そして第2のフレームでは、最初にβのディザパターンを用い、次にαのディザパターンを用いる。そして第3のフレームでは、第1のフレームでの方法に戻る。
このようにαの領域とβの領域を交互に用いることにより、一つのディザパターンを二つのディザパターンと等価に用いることができる。なお、αの領域とβの領域を交互に用いる方法としては、ディザパターンを記憶したメモリのアドレスをフレーム毎に変えて読み出せばよい。
<第2の方法>
図13の(b)のディザパターンは、(a)のディザパターンと同じディザパターンであり、また図6の(b)に前記した5段階のディザパターンの一例で示したディザパターンと同じものである。
図13の(b)では、ディザパターンをγ1〜γ4で示した四つの領域(紙面の横方向に画素が並ぶ)と考える。
そして、第1のフレームにおいては、ディザパターンとして、γ1、γ2、γ3、γ4の順番で用いる。そして次の第2のフレームでは、γ2、γ3、γ4、γ1の順番で用いる。そして次の第3のフレームでは、γ3、γ4、γ1、γ2の順番で用いる。そして次の第4のフレームでは、γ4、γ1、γ2、γ3の順番で用いる。そして、第5のフレームでは、γ1、γ2、γ3、γ4の順番の元に戻り、以上を繰り返す。
このようにフレーム毎に読み出す方法を変える(例えばメモリのアドレスの読み方を変える)ことにより、一つのディザパターンで複数のディザパターンと等価に用いることができる。
なお、γ1、γ2、γ3、γ4と順番に読み出す例をあげたが、この順番をさらに複雑に入れ替えて読み出す方法もある。
《フレーム切り替え時のディザパターンの読み込み方(2)》
第3実施形態において、図7で示したL1〜L9の9段階から、L1、L3、L5、L7、L9の5段階、あるいはL1、L5、L9の3段階のディザパターンをそれぞれ用意して、図9の輝度検波部106の輝度分布の計算結果によって、前記のディザパターンを選択する方法について説明したが、複数のディザパターンを用意する方法に限定されない。
例えば、図7(b)のディザパターンにおいて、9段階の場合には、L1、L2、L3、L4、L5、L6、L7、L8、L9を用意していたものを、5段階する場合には、図7の(b)のディザパターンをL1、L1、L3、L3、L5、L5、L7、L7、L9と読み出すか、もしくはL1、L3、L3、L5、L5、L7、L7、L9、L9として読み出せばよい。
また、フレーム毎にディザパターンを切り替える場合には、図7の(c)を前記した方法で読み出して用いればよい。
また、3段階のL1、L5、L9とする場合も、同様に、L2、L3、L4、L6、L7、L8をL1、L5、L9のいずれかとして読み出せばよい。事実上、重複する説明は省略する。
このように、輝度検波部106の輝度分布の計算結果によって、前記のディザパターンを選択する場合においても、メモリから読み出す方法をとることによって、多くのディザパターンを用意することを省くことができる。
《カメラの台数と配置》
図1においては、カメラ101は、4台のカメラ101A〜101Dの場合で説明したが、前記したように、4台に限定されない。
また、4台を1列に並べて配置している例を示しているが、この例に限定されない。例えば、円形に並べてもよく、また道路事情に合わせて、任意の曲線状に沿って配置してもよい。
また、カメラ101は、必要に応じて画像合成装置100に内蔵してもよい。あるいは、画像合成装置100の一部品(構成要素)として取り扱ってもよい。
殊にカメラ101が1台のカメラ(例えばカメラ101A)で構成される場合には、画像合成装置100に内蔵する方が装置全体としてはコンパクトになる。
《画像データの種類》
図1、図3、図5においては、複数台のカメラを用いた例えば道路監視用途として説明したが、海上でも航空写真でもよい。また、風景、光景の写真による可視光の画像として説明したが、本実施形態の画像データの合成方法は、可視光による画像データに限定されない。可視光のみならず、赤外線、紫外線、X線の領域での画像データの合成に用いてもよい。また、フィルタ等を用いた可視光の所定の周波数帯による画像データの合成に用いてもよい。
《画像合成装置》
図1、図4、図9、図11に示した画像合成装置(100,100B,100C)の各構成、機能等は、一部又は全部を、例えば集積回路で設計する等によってハードウェアで実現してもよい。
また、図1、図4、図9、図11に示した画像合成装置(100,100B,100C)の各構成、機能等は、例えばCPU(Central Processing Unit:中央処理装置)等のプロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。
また、画像合成装置(100,100B,100C)に前記のハードウェアとソフトウェアとによる機能を混載してもよい。
100,100B,100C 画像合成装置
101 カメラ(複数台のカメラ)
101A,101B,101C,101D カメラ
102 フレーム画像記憶部(メモリ、フレームメモリ、フレーム画像記憶手段)
103 画像合成部(画像合成手段)
104 信号生成部(タイミングジェネレータ、信号生成手段)
105,105B ルックアップテーブル記憶部(ルックアップテーブル記憶手段)
106 輝度検波部(輝度検波手段)
107 補正係数演算部(補正係数演算手段)
108 輝度補正処理部(輝度補正処理手段)
403 セレクタ(画像合成部)
1051〜1054 ルックアップテーブル(ルックアップテーブル1〜4)

Claims (12)

  1. 複数のカメラで撮影した複数の画像を合成する画像合成装置であって、
    前記複数のカメラの画像データを格納するフレーム画像記憶部と、
    前記複数のカメラからの複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを複数個有するルックアップテーブル記憶部と、
    画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成する信号生成部と、
    前記ルックアップテーブルの情報に基づき前記フレーム画像記憶部から前記複数の画像データを読みだし、該複数の画像データの重複エリアを調整して合成する画像合成部と、
    を備え、
    前記ルックアップテーブル記憶部は、前記信号生成部のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替える
    ことを特徴とする画像合成装置。
  2. 請求項1において、
    さらに、前記複数のカメラから入力された複数の画像データのそれぞれの輝度分布を計算する輝度検波部を備え、
    前記輝度検波部の輝度分布の計算結果を基に、前記ルックアップテーブル記憶部の複数のルックアップテーブルを選択する
    ことを特徴とする画像合成装置。
  3. 複数のカメラで撮影した複数の画像を合成する画像合成装置であって、
    前記複数のカメラから入力された複数の画像データのそれぞれの輝度分布を計算する輝度検波部と、
    前記輝度分布の計算結果と、予め設定した被写体が見やすい輝度設定とに基づいて補正係数を算出する補正係数演算部と、
    前記複数のカメラから入力された複数の画像データを前記補正係数演算部で算出された補正係数に基づき輝度を補正処理する輝度補正処理部と、
    該輝度補正処理部で補正処理された複数の画像データを記憶して格納するフレーム画像記憶部と、
    前記複数のカメラで撮影した複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを複数個有するルックアップテーブル記憶部と、
    画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成する信号生成部と、
    前記ルックアップテーブルの情報に基づき前記フレーム画像記憶部から前記複数のカメラからの複数の画像データを読みだし、該複数の画像データの重複エリアの輝度を調整した合成画像を生成する画像合成部と、
    を備え、
    前記ルックアップテーブル記憶部は、前記信号生成部のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替える
    ことを特徴とする画像合成装置。
  4. 請求項1乃至請求項3のいずれか一項において、
    前記画像合成部は、セレクタを具備し、
    該セレクタの第1入力端子と第2入力端子に、前記フレーム画像記憶部に格納された複数の画像データをそれぞれ入力し、
    前記セレクタの第3入力端子に前記ディザパターンを入力し、
    前記基準信号に基づくタイミング信号に合わせて、前記複数の画像データと、前記ディザパターンとによって、前記複数の画像データの重複エリアの輝度を調整した合成画像を生成する
    ことを特徴とする画像合成装置。
  5. 請求項3において、
    前記補正係数演算部が、補正係数を算出する際に、被写体を道路とした場合の輝度設定を用いる
    ことを特徴とする画像合成装置。
  6. 請求項1乃至請求項3のいずれか一項において、
    前記ルックアップテーブル記憶部が画像のフレーム単位ごとに切り替える複数のルックアップテーブルは、ランダムに選択される
    ことを特徴とする画像合成装置。
  7. 請求項1乃至請求項3のいずれか一項において、
    前記画像合成装置の各部の構成、機能の一部、または全部が、プロセッサに備えられるプログラムを解釈、実行することによるものである
    ことを特徴とする画像合成装置。
  8. フレーム画像記憶手段が、複数のカメラから入力された複数の画像データを格納し、
    ルックアップテーブル記憶手段が、前記複数のカメラからの複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを有して、前記ディザパターンを生成し、
    信号生成手段が画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成し、
    画像合成手段が、前記ルックアップテーブルの情報に基づき前記フレーム画像記憶手段に格納されている互いに重複エリアを有する前記複数の画像データを合成し、
    前記ルックアップテーブル記憶手段は、前記信号生成手段のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替える
    ことを特徴とする画像合成方法。
  9. 請求項8において、
    さらに、輝度検波手段が前記複数のカメラから入力された複数の画像データのそれぞれの輝度分布を計算し、
    前記輝度検波手段の輝度分布の計算結果を基に、前記ルックアップテーブル記憶手段の複数のルックアップテーブルを選択する
    ことを特徴とする画像合成方法。
  10. 輝度検波手段が、複数のカメラから入力された複数の画像データのそれぞれの輝度分布を計算し、
    補正係数演算手段が、前記輝度分布の計算結果と、予め設定した被写体が見やすい輝度設定とに基づいて補正係数を算出し、
    輝度補正処理手段が、前記複数のカメラから入力された複数の画像データを前記補正係数演算手段で算出された補正係数に基づき輝度を補正処理し、
    フレーム画像記憶手段が、前記輝度補正処理手段で補正処理された複数の画像データを記憶して格納し、
    ルックアップテーブル記憶手段が、前記複数のカメラで撮影した複数の画像の入力画素と合成画像の各画素との位置関係と、前記複数のカメラからそれぞれ入力する画素の比率と配置とによるディザパターンとを記憶したルックアップテーブルを複数個有して、前記ディザパターンを生成し、
    信号生成手段が、画像を合成するための基準信号および該基準信号に基づくフレーム信号を生成し、
    画像合成手段が、前記ルックアップテーブルの情報に基づき前記フレーム画像記憶手段から前記複数のカメラからの複数の画像データを読みだし、該複数の画像データの重複エリアの輝度を調整した合成画像を生成し、
    前記ルックアップテーブル記憶手段は、前記信号生成手段のフレーム信号によって、前記画像のフレーム単位ごとに、前記画素の比率は同一であって配置が異なるディザパターンを記憶した複数のルックアップテーブルを切り替える
    ことを特徴とする画像合成方法。
  11. 請求項10において、
    前記補正係数演算手段が、補正係数を算出する際に、被写体を道路とした場合の輝度設定を用いる
    ことを特徴とする画像合成方法。
  12. 請求項8乃至請求項10のいずれか一項において、
    前記ルックアップテーブル記憶手段が画像のフレーム単位ごとに切り替える複数のルックアップテーブルは、ランダムに選択される
    ことを特徴とする画像合成方法。
JP2015147390A 2015-07-27 2015-07-27 画像合成装置および画像合成方法 Pending JP2017028595A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015147390A JP2017028595A (ja) 2015-07-27 2015-07-27 画像合成装置および画像合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015147390A JP2017028595A (ja) 2015-07-27 2015-07-27 画像合成装置および画像合成方法

Publications (2)

Publication Number Publication Date
JP2017028595A true JP2017028595A (ja) 2017-02-02
JP2017028595A5 JP2017028595A5 (ja) 2017-09-21

Family

ID=57950035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015147390A Pending JP2017028595A (ja) 2015-07-27 2015-07-27 画像合成装置および画像合成方法

Country Status (1)

Country Link
JP (1) JP2017028595A (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002027448A (ja) * 2000-04-28 2002-01-25 Matsushita Electric Ind Co Ltd 画像処理装置および監視システム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002027448A (ja) * 2000-04-28 2002-01-25 Matsushita Electric Ind Co Ltd 画像処理装置および監視システム

Similar Documents

Publication Publication Date Title
KR20080022399A (ko) 영상 생성 장치 및 방법
JP4739122B2 (ja) 車載カメラの画像合成装置および画像合成方法
US10582170B2 (en) Video display device and video display method
EP3107285A1 (en) Image generation apparatus and operation assistance system
JP2000032401A (ja) 強調された鮮鋭度を有するビデオ走査線の増殖のための方法および装置
JP3065021B2 (ja) 画像混色処理装置
JP4479683B2 (ja) 色補正回路およびそれを備えた画像表示装置
JPH06223168A (ja) カラーの混合と発生システムおよびグラフィックスシステム
JPS62139081A (ja) 合成画像形成方法
JP4797039B2 (ja) 画像合成方法及び装置
US6961479B1 (en) Image processing device, image processing method, image-processing program recorded medium
KR101819984B1 (ko) 실시간 영상 합성 방법
JP2009033224A (ja) 合成画像生成装置および合成画像生成プログラム
JP2017028595A (ja) 画像合成装置および画像合成方法
JP5624383B2 (ja) 映像信号処理装置、仮想現実感生成システム
JP2001136466A (ja) 画像表示装置
JP5087845B2 (ja) 画像ディスプレイ回路および画像表示処理方法
JP2005244536A (ja) 画像を重ね合わせて合成画像を生成する画像合成
JP2005123813A (ja) 画像処理装置
JPH09259258A (ja) グラデーション画像表示装置および背景画像表示システム
JP5808677B2 (ja) 画像生成装置及び操作支援システム
WO2020202746A1 (ja) 情報処理装置及び情報処理方法、並びにコンピュータプログラム
JP4990437B2 (ja) スクリーンに映像を表示するシステム
JP2005284029A (ja) マルチビジョン装置
JPH10153981A (ja) 画像表示装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170809

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181225