JP2019204138A - 画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム - Google Patents
画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP2019204138A JP2019204138A JP2018096711A JP2018096711A JP2019204138A JP 2019204138 A JP2019204138 A JP 2019204138A JP 2018096711 A JP2018096711 A JP 2018096711A JP 2018096711 A JP2018096711 A JP 2018096711A JP 2019204138 A JP2019204138 A JP 2019204138A
- Authority
- JP
- Japan
- Prior art keywords
- image
- optical system
- image processing
- input
- input images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 82
- 238000003672 processing method Methods 0.000 title claims abstract description 11
- 238000000034 method Methods 0.000 claims abstract description 151
- 230000003287 optical effect Effects 0.000 claims description 114
- 230000002194 synthesizing effect Effects 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 16
- 210000001747 pupil Anatomy 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 description 57
- 238000010586 diagram Methods 0.000 description 16
- 238000012935 Averaging Methods 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000002265 prevention Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能な画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラムを提供すること。【解決手段】画像処理装置は、複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を合成することで出力画像を生成する画像生成部を有する画像処理装置であって、画像生成部は、撮像手段の射影方式に関する情報に基づいて、第1および第2の入力画像を合成する方法を選択することを特徴とする。【選択図】図1
Description
本発明は、画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラムに関する。
従来、バーチャルリアリティ等で臨場感のある映像体験を提供するために、全方位の被写体像を取得可能な装置が提案されている。近年、高解像度化等の理由から、複数のカメラを配置して複数の画像を取得し、複数の画像を繋ぎ合わせることで1つの画像を生成する方法が提案されている。特許文献1には、テンプレートマッチング処理を使用して、2つのカメラから得られる画像の繋ぎ合わせを行う方法が開示されている。
また、特許文献2には、画面領域の高解像度域と低解像度域を任意に変更するために、射影方式を変化させることの可能な結像光学系が開示されている。
特許文献2に開示された結像光学系を複数用いることで、用途ごとに射影方式を変化させた上で、広角な画像を生成することができる。しかしながら、特許文献1に開示された方法を用いて複数の画像を繋ぎ合わせる場合、常に演算処理が必要となるため、時間がかかってしまう。また、元々テンプレートマッチングとして持ち合わせていない情報に関しては、高精度に処理を行うことができない。また、特許文献2では、画像の繋ぎ合わせに関しては言及していない。
本発明は、複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能な画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラムを提供することを目的とする。
本発明の一側面としての画像処理装置は、複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を合成することで出力画像を生成する画像生成部を有する画像処理装置であって、画像生成部は、撮像手段の射影方式に関する情報に基づいて、第1および第2の入力画像を合成する方法を選択することを特徴とする。
本発明の他の側面としての画像処理方法は、複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を取得するステップと、撮像手段の射影方式に関する情報に基づいて、第1および第2の入力画像を合成する方法を選択するステップと、選択した方法を用いて第1および第2の入力画像を合成することで出力画像を生成するステップと、を有することを特徴とする。
本発明の他の側面としての画像処理プログラムは、コンピュータに、複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を取得するステップと、撮像手段の射影方式に関する情報に基づいて、第1および第2の入力画像を合成する方法を選択するステップと、選択した方法を用いて第1および第2の入力画像を合成することで出力画像を生成するステップと、を実行させることを特徴とする。
本発明によれば、複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能な画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラムを提供することができる。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
図1は、本実施例のカメラシステム101の構成を示すブラック図である。カメラシステム101は、1つの装置として構成されていてもよいが、本実施例では、後述するように複数のカメラ(撮像装置)および画像処理装置から構成されている。
カメラシステム101は、第1射影変換光学系(第1光学系)102および第2射影変換光学系(第2光学系)103を有する。ここで、射影変換光学系とは、レンズ間隔を変えたり、追加のレンズをアタッチメントとして挿入したりすることで、射影方式を変化させられる光学系である。すなわち、射影変換光学系は、複数の射影方式の間で射影方式を変換可能な光学系である。第1射影変換光学系102および第2射影変換光学系103は、例えば、中心射影(y=f×tanθ)から等立体角射影(y=2×f×sin(θ/2))に変換可能である。このような光学系を使用することで、画像の位置ごとに像倍率(像高/物高)を相対的に変更することができる。そのため、画像の任意の位置(所望の像高)を高解像にすることができる。光学系による射影方式の変換と画像処理による射影方式の変換を組み合わせてもよいが、光学系のみで射影方式を変換できることが望ましい。射影方式に応じて画像の所望の像高の解像度を向上させられるためである。
なお、本実施例のカメラシステム101では、2つの射影変換光学系が設けられているが、射影変換光学系の数は3つ以上であってもよい。ただし、カメラシステム101において、射影変換光学系を2つだけとすることで、装置が簡易化され、画像処理も軽くなる。
第1撮像素子104および第2撮像素子105は、CMOSセンサやCCDセンサ等の光電変換素子により構成され、複数の画素(撮像画素)を含む。第1射影変換光学系102は、第1撮像素子104の撮像面に光学像(被写体像)を結像する。第1撮像素子104は、被写体像を電気的に変換することで第1の入力画像を生成し、第1A/Dコンバータ106に出力する。第1射影変換光学系102および第1撮像素子104により複数の射影方式で撮像可能な第1撮像手段120が構成される。第1A/Dコンバータ106は、第1撮像素子104から出力されたアナログ電気信号をデジタル信号に変換する。第2射影変換光学系103は、第2撮像素子105の撮像面に光学像(被写体像)を結像する。第2撮像素子105は、被写体像を電気的に変換することで第2の入力画像を生成する。第2射影変換光学系103および第2撮像素子105により複数の射影方式で撮像可能な第2撮像手段121が構成される。第2A/Dコンバータ107は、第2撮像素子105から出力されたアナログ電気信号をデジタル信号に変換する。
光学系制御部108は、第1射影変換光学系102や第2射影変換光学系103の焦点距離や絞り値を変更したり、焦点調整をしたり、射影方式の変換のための制御を行ったりする。
記憶部110は、撮像手段の射影方式に関する情報等の各種情報を画像処理部111に送る。なお、画像処理部111は、各種情報を、記憶部110からではなく、外部から取得してもよい。
画像処理部111は、画像生成部112および特徴点抽出部113を有し、第1A/Dコンバータ106および第2A/Dコンバータ107からデジタル信号を取得し、複数の入力画像(本実施例では、第1の入力画像および第2の入力画像)を合成する。ここで、複数の入力画像を合成するとは、複数の入力画像の重なる領域を繋ぎ合わせ、1つの出力画像を生成することをいう。ここで、複数の入力画像の「重なる領域」とは、複数の入力画像のそれぞれに共通する被写体領域が写っている領域(本実施例においては第1撮像手段120の画角と第2撮像手段121の画角が重なっている領域)である。また、画像処理部111は、必要に応じて、輝度値の調整やホワイトバランスの調整等の合成処理以外の処理を行ってもよい。
画像生成部112は、高精度に複数の入力画像を合成する第1の方法と、高速に複数の入力画像を合成する第2の方法を含む複数の画像処理方法(画像合成方法)のうちから1つの方法を選択し、選択した方法に基づいて出力画像を生成する。一般的に高精度な処理と高速な処理は競合関係にあるため、状況に応じて適切な方法を選択する必要がある。本実施例では、画像生成部112は、撮像手段の射影方式に関する情報に基づいて、適切な画像処理方法を選択する。画像生成部112は、第1の方法を選択した場合、画像情報または光学情報に基づいて複数の入力画像を合成することで、出力画像を生成する。画像生成部112は、第2の方法を選択した場合、単に複数の入力画像のそれぞれを所定の画角で切り抜いて合成することで、出力画像を生成する。第2の方法は、第1の方法に比べて高速であれば、本実施例の処理とは異なる処理で行われてもよい。本実施例では、画像生成部112は、2つの方法(第1の方法、第2の方法)のうち1つの方法を選択して複数の入力画像を合成するが、本発明はこれに限定されない。画像処理部111は、必要な処理精度や処理速度に応じて本実施例とは異なる方法を選択可能とするように構成されてもよい。
特徴点抽出部113は、複数の入力画像の重なる領域に位置する被写体ごとの特徴を画像上の特徴点として抽出する。例えば、複数の入力画像の重なる領域に位置する被写体が人であれば、目と鼻と口の位置が画像上の特徴点として抽出される。
システムコントローラー109は、適宜、カメラシステム101内の各部に指示を出し、カメラシステム101全体を制御している。
画像記録媒体114は、例えば、半導体メモリ等の記録媒体であり、画像処理部111で生成された出力画像を記録する。
表示部115は、画像記録媒体114に記録された出力画像を液晶ディスプレイ等で表示する。また、出力画像は、テレビやパソコンのモニタ等の表示機器201に表示されてもよいし、例えば、プリンタ等の出力機器202から出力されてもよい。出力画像は、画像記録媒体114を介して取得されるだけでなく、画像処理部111から直接取得されてもよい。
本実施例では、カメラシステム101は、図2に示されるように、複数のカメラを有するように構成されている。図2は、カメラシステム101の構成を説明する図である。カメラシステム101は、図2(a)に示される撮影画角を有するカメラXと、図2(b)に示される撮影画角を有するカメラYと、を有する。カメラXおよびカメラYはそれぞれ、第1撮像手段120および第2撮像手段121を有し、複数の射影方式で撮像可能である。カメラシステム101の他の構成は、1つのカメラだけに設けられてもよいし、各カメラ内に設けられてもよい。画像処理部が各カメラ内に設けられている場合、1つのカメラに含まれる画像処理部が合成処理を実行するようにすればよい。本実施例では、画像処理部111は、カメラXおよびカメラYから、直接またはインターネットを介して、入力画像を取得し、入力画像を合成する不図示の画像処理装置として構成されている。なお、射影光学系は、カメラから着脱可能に構成されていてもよい。
本実施例では、カメラXとカメラYは、図2(c)に示されるように配置されている。以下の説明では、カメラXとカメラYの周辺に、ほぼ同じサイズの被写体Aと被写体Bが配置されているものとする。図2(d)は、画面中心より周辺の像倍率が高くなる射影方式1でカメラXにより撮影された画像であり、画面周辺の被写体Bのサイズが画面中心の被写体Aのサイズに比べて大きくなっている。図2(e)は、画面中心より周辺の像倍率が低くなる射影方式2でカメラXにより撮影された画像であり、画面中心の被写体Aのサイズが画面周辺の被写体Bのサイズに比べて大きくなっている。画面内の像倍率の高い領域では、結像する際の画素数が増加する。そのため、射影方式1では、画面周辺が高解像度域となる。一方、射影方式2では、画面中心が高解像度域となる。すなわち、射影方式を選択する、ということは、高解像度域と低解像度域を領域(像高)に応じて選択する、ということに他ならない。
本実施例では、前述したように、カメラXとカメラYを使用して、パノラマ画像や全方位画像等の広視野画像を取得することを想定している。その際、カメラXで取得された第1の入力画像とカメラYで取得された第2の入力画像を繋ぎ合わせる必要がある。言い換えると、第1の入力画像と第2の入力画像が重なる領域については合成処理(繋ぎ合わせ処理)を行う必要がある。以下、このような領域を繋ぎ合わせ領域とも称する。合成処理の方法は複数あるが、本実施例では、前述したように、高精度に複数の入力画像を合成する第1の方法、または高速に複数の入力画像を合成する第2の方法が使用される。本実施例では、画像生成部112は、繋ぎ合わせ領域に高解像度域が存在する場合、高精度に合成処理を行うために第1の方法を用いて第1および第2の入力画像を合成する。また、画像生成部112は、繋ぎ合わせ領域に高解像度域が存在しない場合、高速に合成処理を行うために第2の方法を用いて第1および第2の入力画像を合成する。すなわち、本実施例では、射影方式に応じて合成処理の方法を選択することで、最適な方法で複数の入力画像を合成することが可能となる。
図3は、本実施例の複数の入力画像の合成方法を説明する図である。図3(a)は、第1の入力画像と第2の入力画像を示している。図3(a)において、斜線で示される領域が各入力画像の繋ぎ合わせ領域を示している。図3(b)は、第1の方法を用いて生成された出力画像を示している。本実施例では、画像生成部112により第1の方法が選択された場合、まず、特徴点抽出部113が各入力画像の繋ぎ合わせ領域における特徴点(例えば、目や口)を抽出する。次に、画像生成部112は、特徴点が一致するように第1および第2の入力画像の位置合わせを行った後、第1および第2の入力画像を合成することで出力画像を生成する。このような処理を行うことで、第1の方法では、高精度に繋ぎ合わせられた出力画像を生成することが可能である。
図3(c)は、第2の方法を用いて生成された出力画像を示している。第2の方法では、合成処理の高速性を重視するため、各入力画像の繋ぎ合わせ領域における特徴点を抽出した高度な位置合わせを行わず、第1および第2の入力画像を単に所定の画角で切り抜いて合成する。一般的に光学系の入射瞳位置はずれていることから、第2の方法を用いた場合、図3(c)に示されるように、第1および第2の入力画像はずれた状態で繋ぎ合わせられる。
なお、本実施例では、各カメラは、複数の射影方式を選択可能に構成されているが、本発明はこれに限定されない。例えば、1つのカメラは、1つの射影方式のみが設定可能に構成されていてもよい。この場合、本発明の効果を得るために、図4に示されるように、それぞれが1つの射影方式のみが設定可能である複数のカメラを配置すればよい。図4は、本実施例のカメラシステム101の別の構成を説明する図である。カメラXAとカメラXBは、射影変換光学系の画面中心が天頂側となるように配置されている。カメラXAとカメラXBはそれぞれ、射影方式1および射影方式2が設定可能である。また、カメラYAとカメラYBは、射影変換光学系の画面中心が地面側となるように配置されている。カメラXAとカメラXBはそれぞれ、射影方式1および射影方式2が設定可能である。このような構成では、選択された射影方式に応じて、カメラを選択すればよい。
本実施例では、図2(a)および図2(b)に示されるように、各射影変換光学系の画角は180度以上である。そのため、カメラシステム101のみでパノラマ画像や全方位画像等の広視野画像を取得できるため、例えば、バーチャルリアリティ用の画像を容易に作り出すことが可能であり、取り逃しの防止に繋がる。
また、本実施例では、図2(c)に示されるように、カメラXとカメラYは、各射影変換光学系の光軸が略平行となり、背面対向するように配置されている。なお、「平行」とは、厳密に平行である場合だけでなく、実質的に平行(略平行)である場合も含まれる。カメラXとカメラYを図7(c)のように配置することで、全方位を一括で撮影することができるようになり、さらに臨場感のあるバーチャルリアリティ用の画像を生成可能であり、取り逃しの防止に繋がる。
また、本実施例では、カメラXとカメラYは、一方の射影変換光学系の画面中心が天頂側、他方の射影変換光学系の画面中心が地面側になるように配置されている。なお、「天頂側」とは、厳密に天頂側である場合だけでなく、実質的に天頂側(略天頂側)である場合も含まれる。また、「地面側」とは、厳密に地面側である場合だけでなく、実質的に地面側(略地面側)である場合も含まれる。本実施例では、カメラXは、第1射影変換光学系102の画面中心が天頂側になるように配置され、カメラYは、第2射影変換光学系103の画面中心が地面側になるように配置される。収差補正上の観点では、射影変換光学系は回転対称系であることが好ましい。回転対称系を想定した場合、例えば水平方向360度を高解像度域として捉えるには、略天頂側と略地面側が画面中心となるよう配置されなければならない。
また、本実施例では、第1射影変換光学系102と第2射影変換光学系103は以下の条件式(1)を満足する。
0.8<(Δc1/Δc0)/(Δd1/Δd0)<1.2 (1)
ここで、Δc0は第1射影変換光学系102の画面中心の像倍率、Δc1は繋ぎ合わせ領域における第1射影変換光学系102の像倍率の平均値である。また、Δd0は第2射影変換光学系103の画面中心の像倍率、Δd1は繋ぎ合わせ領域における第2射影変換光学系103の像倍率の平均値である。
ここで、Δc0は第1射影変換光学系102の画面中心の像倍率、Δc1は繋ぎ合わせ領域における第1射影変換光学系102の像倍率の平均値である。また、Δd0は第2射影変換光学系103の画面中心の像倍率、Δd1は繋ぎ合わせ領域における第2射影変換光学系103の像倍率の平均値である。
条件式(1)を満足することで、各入力画像の繋ぎ合わせ領域の解像度を略同等にすることが可能となる。例えば、繋ぎ合わせ領域を高解像度にした場合、繋ぎ合わせ領域全域を高解像度化することができる。
また、第1射影変換光学系102および第2射影変換光学系103は、以下の条件式(2)を満足することが望ましい。
0.85<(Δc1/Δc0)/(Δd1/Δd0)<1.15 (2)
また、第1射影変換光学系102および第2射影変換光学系103は、以下の条件式(3)を満足することがさらに望ましい。
また、第1射影変換光学系102および第2射影変換光学系103は、以下の条件式(3)を満足することがさらに望ましい。
0.9<(Δc1/Δc0)/(Δd1/Δd0)<1.1 (3)
以下、図5を参照して、画像処理部111により実行される本実施例の画像処理について説明する。図5は、本実施例の画像処理を示すフローチャートである。本実施例の画像処理は、ソフトウェアおよびハードウェア上で動作する画像処理プログラムにしたがって実行される。画像処理プログラムは、例えば、カメラシステム101内の不図示のメモリに格納されていてもよいし、コンピュータが読み取り可能な記録媒体に記録されていてもよい。また、本実施例では画像処理部111が本実施例の画像処理を実行するが、パーソナルコンピュータ(PC)や専用の装置が画像処理装置として本実施例の画像処理を実行してもよい。また、本実施例の画像処理プログラムに対応する回路を設け、回路を動作させることで本実施例の画像処理を実行してもよい。
以下、図5を参照して、画像処理部111により実行される本実施例の画像処理について説明する。図5は、本実施例の画像処理を示すフローチャートである。本実施例の画像処理は、ソフトウェアおよびハードウェア上で動作する画像処理プログラムにしたがって実行される。画像処理プログラムは、例えば、カメラシステム101内の不図示のメモリに格納されていてもよいし、コンピュータが読み取り可能な記録媒体に記録されていてもよい。また、本実施例では画像処理部111が本実施例の画像処理を実行するが、パーソナルコンピュータ(PC)や専用の装置が画像処理装置として本実施例の画像処理を実行してもよい。また、本実施例の画像処理プログラムに対応する回路を設け、回路を動作させることで本実施例の画像処理を実行してもよい。
静止画や動画等の撮像が開始されると、本実施例の画像処理が開始される。画像処理を実行する前に、各撮像手段の射影方式が決定される。これは使用者自身が行ってもよいし、特定の被写体の像倍率が常に大きくなるようにそれを追従する形で射影が変換されてもよい。
ステップS101では、画像処理部111は、第1A/Dコンバータ106および第2A/Dコンバータ107を介して、第1撮像素子104および第2撮像素子105から複数の入力画像(第1および第2の入力画像)を取得する。
ステップS102では、画像処理部111は、記憶部110から撮影時の射影方式に関する情報を取得し、取得した射影方式の判定(場合分け)を行う。具体的には、画像処理部111は、複数の射影変換光学系のそれぞれについて、各射影変換光学系の中心の像倍率(射影変換光学系の光軸上での像倍率)と、他の射影変換光学系と画角が重なっている領域における各射影変換光学系の像倍率の平均値を比較する。そして、少なくとも1つの射影変換光学系において他の射影変換光学系と画角が重なっている領域における像倍率の平均値が射影変換光学系の中心における像倍率より大きい場合、ステップS103に進む。そうでない場合、すなわち、複数の射影変換光学系の全てにおいて、他の射影変換光学系と画角が重なっている領域における像倍率の平均値が射影変換光学系の中心の像倍率より小さい場合、ステップS105に進む。本実施例では、画像処理部111は、第1射影変換光学系102および第2射影変換光学系103の少なくとも一方において、他方の光学系と画角が重なっている領域における像倍率の平均値が、中心の像倍率よりも大きくなっているか否かを判定する。
ステップS103では、特徴点抽出部113は、複数の入力画像の各繋ぎ合わせ領域における特徴点を抽出する。
ステップS104では、画像生成部112は、複数の入力画像の各繋ぎ合わせ領域における特徴点が一致するように繋ぎ合わせ領域の位置合わせを行った後、複数の入力画像を合成する。
ステップS105では、画像生成部112は、所定の画角で複数の入力画像を合成する。
ステップS106では、画像処理部111は、複数の入力画像を合成することで生成された出力画像を画像記録媒体114に出力する。出力画像は、表示部115に表示される。
以上説明したように、本実施例では、複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能である。
本実施例では、実施例1のカメラシステム101と異なる構成についてのみ説明し、同一の構成についての説明は省略する。図6は、本実施例のカメラシステム101の構成を示すブロック図である。
本実施例では、光学系制御部108は、射影方式連動部108aを有する。射影方式連動部108aは、射影方式が略同等になるように、第1撮像手段120および第2撮像手段121を制御する。このように制御することで、各撮像手段の射影方式を独立して選択する場合に比べて、使用者の操作を簡便にすることが可能である。また、射影方式に関する情報が全て同一になるため、画像処理が容易になる。
また、本実施例では、カメラシステム101は、被写体距離に関する情報(被写体距離情報)を取得可能な距離情報取得部116を有する。距離情報取得部116は、例えば、異なる撮像手段からの視差画像に基づいて被写体距離情報を取得してもよいし、内部に設けられたレーザー距離計を用いて被写体距離情報を取得してもよい。本実施例では、後述するように、画像生成部112は、第1の方法を選択した場合、被写体距離情報に基づいて複数の入力画像を合成することで出力画像を生成する。
図7は、本実施例の複数の入力画像の合成方法を説明する図である。図7では、カメラXとカメラYで、被写体Aと被写体Bを撮影した場合を示している。被写体Aは、被写体距離Laとなる位置に位置している。被写体Bは、被写体距離Lbとなる位置に位置している。被写体Aと被写体Bは、繋ぎ合わせ領域における異なる位置に位置する。被写体距離Laの画角で第1および第2の入力画像を合成した場合、図7(b)に示されるように、被写体Aは高精度に繋ぎ合わせられるが、図7(c)に示されるように、被写体Bの繋ぎ合わせの精度が悪化する。また、被写体距離Lbの画角で第1および第2の入力画像を合成した場合、図7(e)に示されるように、被写体Bは高精度に繋ぎ合わせられるが、図7(d)に示されるように、被写体Aの繋ぎ合わせの精度が悪化する。そこで、本実施例では、画像生成部112は、第1の方法を選択した場合、繋ぎ合わせ領域における被写体距離ごとの画像領域が一致するように複数の入力画像の合成を実行する。
以下、図8を参照して、本実施例の画像処理について説明する。図8は、本実施例の画像処理を示すフローチャートである。静止画や動画等の撮像が開始されると、本実施例の画像処理が開始される。画像処理を実行する前に、各撮像手段の射影方式が決定される。前述したように、本実施例では、射影方式連動部108aにより、第1撮像手段120および第2撮像手段121の射影方式は同一である。
ステップS201、ステップS202およびステップS205およびステップS207の処理はそれぞれ、図5のステップS101、ステップS102、ステップS105およびステップS106の処理と同様であるため、説明を省略する。
ステップS203では、画像生成部112は、距離情報取得部116から取得した被写体距離情報に基づいて、繋ぎ合わせ領域における被写体距離ごとの画像領域を抽出する。
ステップS204では、画像生成部112は、複数の入力画像の各繋ぎ合わせ領域における被写体距離ごとの画像領域が一致するように繋ぎ合わせ領域の位置合わせを行った後、複数の入力画像を合成する。
ステップS206では、画像生成部112は、ステップS205で繋ぎ合わせた画像に対して滑らかに表示するため、グラディエーションを付加する。例えば、グラディエーションの付加方法は、ガウシアンを繋ぎ合わせのエッジ付近に重畳する方法であってもよいし、その他の方法であってもよい。
以上説明したように、本実施例では、複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能である。
本実施例では、実施例1のカメラシステム101と異なる構成についてのみ説明し、同一の構成についての説明は省略する。図9は、本実施例のカメラシステム101の構成を示すブロック図である。
本実施例のカメラシステム101は、第3射影変換光学系117、第3撮像素子118および第3A/Dコンバータ119を有する。第3撮像素子118は、CMOSセンサやCCDセンサ等の光電変換素子により構成され、複数の画素(撮像画素)を含む。第3射影変換光学系117は、第3撮像素子118の撮像面に光学像(被写体像)を結像する。第3撮像素子118は、被写体像を電気的に変換することで第3の入力画像を生成し、第3A/Dコンバータ119に出力する。第3射影変換光学系117および第3撮像素子118により複数の射影方式で撮像可能な第3撮像手段122が構成される。第3A/Dコンバータ119は、第3撮像素子118から出力されたアナログ電気信号をデジタル信号に変換する。本実施例のカメラシステム101は、3つの撮像手段を有するため、より高解像度な広画角画像を取得することができる。
本実施例では、画像処理部111は、記憶部110から各射影変換光学系の入射瞳位置情報を取得する。本実施例では、後述するように、画像生成部112は、第1の方法を選択した場合、入射瞳位置情報に基づいて複数の入力画像を合成することで出力画像を生成する。
図10は、本実施例の複数の入力画像の合成方法を説明する図である。図10では、カメラXとカメラYで、被写体Aを撮影した場合を示している。図10(a)の下図は、第2の方法を用いて生成された出力画像を示している。画像生成部112は、第2の方法を選択した場合、図10(a)の上図に示されるように、入射瞳間の中心Oを入射瞳と仮定して繋ぎ合わせを行う。しかしながら、この場合、図10(a)の下図に示されるように、繋ぎ合わせの精度が悪化する。画像生成部112は、第1の方法を選択した場合、入射瞳位置情報に基づいて、特定の距離の被写体の画角を仮定して繋ぎ合わせを行う。そのため、特定の距離の被写体に対しては、図10(b)の下図のように高精度に繋ぎ合わせを行うことができる。
以下、図11を参照して、本実施例の画像処理について説明する。図11は、本実施例の画像処理を示すフローチャートである。静止画や動画等の撮像が開始されると、画像処理部111による画像処理が開始される。画像処理を実行する前に、各撮像手段の射影方式が決定される。
ステップS301、ステップS305およびステップS306の処理はそれぞれ、図5のステップS101、ステップS105およびステップS106の処理と同様であるため、説明を省略する。
ステップS302では、画像処理部111は、記憶部110から撮影時の射影方式に関する情報を取得し、取得した射影方式の判定(場合分け)を行う。具体的には、画像処理部111は、繋ぎ合わせ領域における像倍率を、全ての入力画像間で平均する。すなわち、複数の射影変換光学系の間で画角が重なっている領域における各光学系の像倍率を平均した値を取得する。また、画像処理部111は、入力画像の中心の像倍率を、全ての入力画像間で平均する。すなわち、複数の射影変換光学系の間で画角が重なっている光学系のそれぞれにおける中心の像倍率(光軸上の像倍率)を平均した値を取得する。そして、画像処理部111は、繋ぎ合わせ領域における像倍率を全ての入力画像間で平均した値と、入力画像の中心の像倍率を全ての入力画像間で平均した値とを比較する。繋ぎ合わせ領域における像倍率を全ての入力画像間で平均した値が、入力画像の中心の像倍率を全ての入力画像間で平均した値よりも大きい場合、ステップS303に進む。そうでない場合、すなわち繋ぎ合わせ領域における像倍率を全ての入力画像間で平均した値が、入力画像の中心の像倍率を全ての入力画像間で平均した値よりも小さい場合、ステップS305に進む。このように入力画像間で所定の領域の像倍率を平均して判定を行うことで、仮に複数の射影変換光学系の間で射影方式が異なっていたとしても、適切に最適な画像処理方法を選択することが可能となる。なお、本実施例では3つの射影変換光学系を用いる場合について説明しているが、ステップS302による射影方式の判定は、2つの射影変換光学系を用いる場合(例えば実施例1や2)にも適用可能である。
ステップS303では、画像生成部112は、記憶部110から入射瞳位置情報を取得する。
ステップS304では、画像生成部112は、入射瞳位置情報に基づいて、繋ぎ合わせ領域の位置合わせを行った後、複数の入力画像を合成する。
以上説明したように、本実施例では、複数の射影方式で撮像可能な撮像手段から取得した複数の入力画像を最適な方法で合成可能である。
[その他の実施例]
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
[その他の実施例]
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
120、121、122 撮像手段
111 画像処理部(画像処理装置)
112 画像生成部
111 画像処理部(画像処理装置)
112 画像生成部
Claims (16)
- 複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を合成することで出力画像を生成する画像生成部を有する画像処理装置であって、
前記画像生成部は、前記撮像手段の射影方式に関する情報に基づいて、前記第1および前記第2の入力画像を合成する方法を選択することを特徴とする画像処理装置。 - 前記画像生成部は、前記撮像手段の射影方式に関する情報に基づいて、画像上の特徴点または前記撮像手段の光学情報を用いて前記第1および第2の入力画像を合成する第1の方法、または所定の画角で前記第1および第2の入力画像を合成する第2の方法を選択することを特徴とする請求項1に記載の画像処理装置。
- 前記画像生成部は、前記第1の方法を選択した場合、前記第1および第2の入力画像において画角が重なっている領域における特徴点に基づいて、前記第1および第2の入力画像を合成することを特徴とする請求項2に記載の画像処理装置。
- 前記画像生成部は、前記第1の方法を選択した場合、前記第1および第2の入力画像において画角が重なっている領域における被写体距離に関する情報に基づいて、前記第1および第2の入力画像を合成することを特徴とする請求項2に記載の画像処理装置。
- 前記撮像手段は、被写体像を結像する、第1光学系および第2光学系を備え、
前記第1の入力画像は前記第1光学系を用いて撮像された画像であり、前記第2の入力画像は前記第2光学系を用いて撮像された画像であり、
前記画像生成部は、前記第1の方法を選択した場合、前記第1および第2の光学系のそれぞれの入射瞳位置に関する情報に基づいて、前記第1および第2の入力画像を合成することを特徴とする請求項2に記載の画像処理装置。 - 前記撮像手段は、被写体像を結像する、第1光学系および第2光学系を備え、
前記第1の入力画像は前記第1光学系を用いて撮像された画像であり、前記第2の入力画像は前記第2光学系を用いて撮像された画像であり、
前記画像生成部は、前記第1光学系と前記第2光学系の少なくとも一方の光学系において、該一方の光学系の画角と他方の光学系の画角が重なっている領域における前記一方の光学系の像倍率の平均値が、前記一方の光学系の中心の像倍率よりも大きい場合、前記第1の処理を選択し、そうでない場合、前記第2の方法を選択することを特徴とする請求項2から5のいずれか1項に記載の画像処理装置。 - 前記撮像手段は、被写体像を結像する、複数の光学系を備え、
前記第1の入力画像と前記第2の入力画像はそれぞれ異なる光学系を用いて撮像された画像であり、
前記画像生成部は、前記複数の光学系の間で画角が重なっている領域における各光学系の像倍率を平均した値が、各光学系の中心における像倍率を平均した値よりも大きい場合、前記第1の方法を選択し、そうでない場合、前記第2の方法を選択することを特徴とする請求項2から5のいずれか1項に記載の画像処理装置。 - 被写体像を撮像して電気信号に変換する撮像素子と、
請求項1から7のいずれか1項に記載の画像処理装置と、を有することを特徴とする撮像装置。 - それぞれが被写体像を結像する複数の光学系と、
請求項8に記載の撮像装置と、を有することを特徴とするカメラシステム。 - 前記複数の光学系のそれぞれの画角は、180度以上であることを特徴とする請求項9に記載のカメラシステム。
- 複数の光学系は、第1の光学系および第2の光学系で構成されていることを特徴とする請求項9または10に記載のカメラシステム。
- 前記第1および第2の光学系は、それぞれの光軸が平行となり、背面対向するように配置されていることを特徴とする請求項11にカメラシステム。
- 前記第1および第2の光学系はそれぞれ、一方の光学系の画面中心が天頂側、他方の光学系の画面中心が地面側になるように配置されていることを特徴とする請求項12に記載のカメラシステム。
- 前記第1の光学系の画面中心の像倍率をΔc0、前記第1および第2の入力画像の重なり領域における前記第1の光学系の像倍率の平均値をΔc1、前記第2の光学系の画面中心の像倍率をΔd0、前記第1および第2の入力画像の重なり領域における前記第2の光学系の像倍率の平均値をΔd1とするとき、
0.8<(Δc1/Δc0)/(Δd1/Δd0)<1.2
なる条件式を満足することを特徴とする請求項11から13のいずれか1項に記載のカメラシステム。 - 複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を取得するステップと、
前記撮像手段の射影方式に関する情報に基づいて、前記第1および前記第2の入力画像を合成する方法を選択するステップと、
選択した方法を用いて前記第1および第2の入力画像を合成することで出力画像を生成するステップと、を有することを特徴とする画像処理方法。 - コンピュータに、
複数の射影方式で撮像可能な撮像手段から取得された第1の入力画像および第2の入力画像を取得するステップと、
前記撮像手段の射影方式に関する情報に基づいて、前記第1および前記第2の入力画像を合成する方法を選択するステップと、
選択した方法を用いて前記第1および第2の入力画像を合成することで出力画像を生成するステップと、を実行させることを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018096711A JP2019204138A (ja) | 2018-05-21 | 2018-05-21 | 画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018096711A JP2019204138A (ja) | 2018-05-21 | 2018-05-21 | 画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019204138A true JP2019204138A (ja) | 2019-11-28 |
Family
ID=68726937
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018096711A Pending JP2019204138A (ja) | 2018-05-21 | 2018-05-21 | 画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019204138A (ja) |
-
2018
- 2018-05-21 JP JP2018096711A patent/JP2019204138A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6468307B2 (ja) | 撮像装置、画像処理装置および方法 | |
JP5846549B1 (ja) | 画像処理システム、画像処理方法、プログラム、撮像システム、画像生成装置、画像生成方法およびプログラム | |
JP6100089B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US7834907B2 (en) | Image-taking apparatus and image processing method | |
JP2013058931A (ja) | 画像処理装置及び画像処理方法、並びにプログラム | |
JP5984493B2 (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP7030442B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5846172B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像システム | |
JP5376993B2 (ja) | 情報処理装置、撮像装置、および情報処理装置の制御方法 | |
JP2012199621A (ja) | 複眼撮像装置 | |
JP2013025649A (ja) | 画像処理装置及び画像処理方法、プログラム | |
JP5784395B2 (ja) | 撮像装置 | |
US10979620B2 (en) | Image processing apparatus for providing information for focus adjustment, control method of the same, and storage medium | |
JP2010181826A (ja) | 立体画像形成装置 | |
JP6584237B2 (ja) | 制御装置、制御方法、およびプログラム | |
JP6700935B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP6222205B2 (ja) | 画像処理装置 | |
JP2008187393A (ja) | 露出制御システム、露出制御方法、そのプログラムと記録媒体およびカメラ制御システムとカメラ | |
JP2009064225A (ja) | 画像処理装置及び画像処理方法 | |
JP2017103695A (ja) | 画像処理装置、画像処理方法、及びそのプログラム | |
JP2019204138A (ja) | 画像処理装置、撮像装置、カメラシステム、画像処理方法および画像処理プログラム | |
JP2019053758A (ja) | 画像処理装置 | |
JP6439845B2 (ja) | 画像処理装置 | |
US20200162660A1 (en) | Image processing apparatus for providing information for confirming depth range of image, control method of the same, and storage medium | |
WO2012099174A1 (ja) | オートフォーカスシステム |