JP2021019228A - 撮像装置、コンピュータプログラムおよび記録媒体 - Google Patents

撮像装置、コンピュータプログラムおよび記録媒体 Download PDF

Info

Publication number
JP2021019228A
JP2021019228A JP2019132148A JP2019132148A JP2021019228A JP 2021019228 A JP2021019228 A JP 2021019228A JP 2019132148 A JP2019132148 A JP 2019132148A JP 2019132148 A JP2019132148 A JP 2019132148A JP 2021019228 A JP2021019228 A JP 2021019228A
Authority
JP
Japan
Prior art keywords
imaging
imaging unit
unit
range
composite mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2019132148A
Other languages
English (en)
Other versions
JP2021019228A5 (ja
Inventor
愛彦 沼田
Aihiko Numata
愛彦 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019132148A priority Critical patent/JP2021019228A/ja
Priority to US16/930,952 priority patent/US11516390B2/en
Priority to CN202010691232.1A priority patent/CN112243085A/zh
Publication of JP2021019228A publication Critical patent/JP2021019228A/ja
Publication of JP2021019228A5 publication Critical patent/JP2021019228A5/ja
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Abstract

【課題】複数の撮像部からの画像信号に基づいて広角画像信号を生成する撮像装置であって、被写体が二重像になる可能性を低減することのできる撮像装置を提供する。【解決手段】合成処理部において広角画像信号を生成する合成モード、または、第1の画像信号および第2の画像信号の両方を出力する非合成モードをユーザーが選択するためのユーザーインターフェースにおいて、非合成モードから合成モードへの切り替えが指示された場合に、ユーザーが注目する被写体の位置に基づいて、第1の撮像部および第2の撮像部の少なくともいずれか一方の撮影範囲を制御する制御部を備える撮像装置。【選択図】図1

Description

本発明は、撮像装置、コンピュータプログラムおよび記録媒体に関するものである。
近年、並べて配置された複数のカメラ(以下、多眼カメラ)で撮影した画像を合成することで、単一のカメラを使用した場合よりも広い撮影範囲の画像(以下、広角画像)を取得することができる撮像装置が提案されている。特許文献1には、各々の多眼カメラで撮影した画像をずらしながらマッチング処理を行うことによって、複数の画像間のズレ量を求め、広角画像を生成する撮像装置が提案されている。また、撮像装置の設置後に、ユーザーが監視したい場所を変更したい場合などに使用される撮像装置として、所謂PTZ(パンチルトズーム)機と呼ばれる、撮像装置の撮影方向を制御可能な撮像装置が提案されている。
特開2004−118786号公報
特許文献1に示す撮像装置では、各々の多眼カメラの位置が固定されている。それに対し、各々の多眼カメラの撮影方向を制御する機構を追加することで、ユーザーが監視したい場所を変更することができる。しかしながら、特許文献1に開示されているように、マッチング処理によって多眼カメラで撮影した画像から広角画像を生成する際、以下のような課題が発生する。一般に、多眼カメラから被写体までの距離によって、各々の多眼カメラで撮影した画像間のズレ量が異なる。そのため、距離の異なる複数の被写体を撮影した場合、特定の被写体が重なるように画像をずらして広角画像を生成した場合、そのほかの被写体が二重像になってしまう。その結果、広角画像のつなぎ目の部分の視認性が低下しうる。
そこで、本発明では、複数の撮像部からの画像信号に基づいて広角画像信号を生成する撮像装置であって、被写体が二重像になる可能性を低減することのできる撮像装置を提供することを目的とする。
上記課題を解決するために、本発明の撮像装置は、第1の撮像部及び第2の撮像部と、第1の撮像部と第2の撮像部のうち少なくとも一方の撮影範囲を制御可能な駆動機構と、第1の撮像部で取得した第1の画像信号と、第2の撮像部で取得した第2の画像信号とを合成して広角画像信号を生成する合成処理部と、合成処理部において広角画像信号を生成する合成モード、または、第1の画像信号および第2の画像信号の両方を出力する非合成モードをユーザーが選択するためのユーザーインターフェースを含む画像を表示部に表示させる表示制御部と、ユーザーインターフェースにおいて、非合成モードから合成モードへの切り替えが指示された場合に、ユーザーが注目する被写体の位置に基づいて、第1の撮像部および第2の撮像部の少なくともいずれか一方の撮影範囲を制御する制御部と、を備えることを特徴とする。
本発明によれば、複数の撮像部からの画像信号に基づいて広角画像信号を生成する撮像装置において、被写体が二重像になる可能性を低減することができる。
実施形態1における撮像装置、およびそれを用いた監視システムを説明する図である。 実施形態1の撮像装置における、ユーザーインターフェースの表示と、撮影方向の関係の一例を示す図である。 実施形態1の撮像装置における、ユーザーインターフェースの表示と、撮影方向の関係の一例を示す図である。 重なり範囲において、二重像が発生するメカニズムについて説明する図である。 実施形態2の撮像装置における、ユーザーインターフェースの表示と、撮影方向の関係の一例を示す図である。 実施形態3の撮像装置における、ユーザーインターフェースの表示と、撮影範囲の関係の一例を示す図である。 実施形態4撮像装置における、ユーザーインターフェースの表示と、撮影範囲の関係の一例を示す図である。 実施形態5撮像装置における、ユーザーインターフェースの表示と、撮影範囲の関係の一例を示す図である。 実施形態6撮像装置における、ユーザーインターフェースの表示と、撮影範囲の関係の一例を示す図である。 実施形態6の撮像装置の駆動例を示すフローチャートである。
以下、図を用いて、本発明の実施形態における撮像装置について説明する。その際、図において同一の機能を有するものは同一の数字を付け、その繰り返しの説明は省略する。なお、実施形態においては、撮像装置としてネットワークカメラに適用した例について説明する。しかし、撮像装置は複数の撮像部を有する、デジタルスチルカメラ、デジタルムービーカメラ、カメラ付きのスマートフォン、カメラ付きのタブレットコンピュータなどの電子機器を含むものとする。
(実施形態1)
本実施形態における撮像装置100、およびそれを用いた監視システム191について説明する。図1は、実施形態1における撮像装置100、およびそれを用いた監視システム191を説明する図である。図1(A)は撮像装置100を上側(+Z軸側)から見た配置図である。図1(B)は、撮像装置100とクライアント装置180を含む監視システム191内部の機能ブロック図である。撮像装置100は、第1の撮像部110および第2の撮像部120、第1の駆動機構111、第2の駆動機構121、合成処理部140、制御部130、第1の送受信部150を備えている。
第1の駆動機構111、第2の駆動機構121は、駆動手段として機能し、各々、第1の撮像部110、第2の撮像部120の撮影方向を、同じ平面内(XY平面内)で制御可能となっている。本実施形態の撮像装置100では、一例として、パン方向(パンニング方向)に撮影方向を制御できるように構成されている。
具体的には、図1(B)に示すように、第1の駆動機構111、第2の駆動機構121はモーターとギアを備え、モーターを駆動する電力を制御することで、第1の撮像部110、第2の撮像部120を、軸101を回転軸として回転できる構成となっている。モーターを駆動する電力は、制御部130によって制御されている。即ち、撮像装置100は、第1の撮像部110、第2の撮像部の内、少なくとも一方の撮影方向を変更可能な駆動機構となっている。
第1の撮像部110、第2の撮像部120は、各々結像光学系112、122、CMOSイメージセンサー等の固体撮像素子113、123を有している。また、結像光学系112、122を介して被写体像を固体撮像素子113、123上に結像させることで、画像を取得している。各々の固体撮像素子113、123の駆動と信号読み出しは、制御部130によって制御されている。なお、制御部130にはコンピュータとしてのCPUが内蔵されており、不図示のメモリに記憶されたコンピュータプログラムに基づき装置全体の各種動作を実行する制御手段として機能する。
合成処理部140は、合成処理手段として機能し、第1の撮像部110で取得した第1の画像信号114および第2の撮像部120で取得した第2の画像信号124を合成して、広角画像(パノラマ画像)信号134を生成するためのものである。具体的には、画像の重複部分をずらしながら相関係数を求める、所謂パターンマッチングの技術を適用することで、複数の画像間の位置ずらし量を求め、広角画像信号134を生成すればよい。さらに、本実施形態の撮像装置100では、合成処理部140において、広角画像信号134を生成するか、生成しないかを、ユーザーが選択している。合成処理部140は、合成モードが選択されている場合、広角画像信号134を出力し、非合成モードが選択されている場合、第1の画像信号114および第2の画像信号124の両方を出力する。
合成処理部140において、広角画像信号134を生成しない場合には、合成処理部140は第1の画像信号114、第2の画像信号124を合成せずにそれぞれ第1の送受信部150に送る。なお、本明細書において、撮影範囲とは撮像部によって撮像される範囲のことを指し、例えば撮影方向、ズーム倍率、撮像面の回転角度制御などによって撮影範囲が変化する。
第1の送受信部150は、合成処理部140から送られてきた画像信号(第1の画像信号114、第2の画像信号124、または広角画像信号134)を、有線又は無線などのネットワークを介して、外部のクライアント装置180に転送する。
外部のクライアント装置180は、撮像装置100を制御するコマンドを、第2の送受信部181とネットワークを介して第1の送受信部150に送信する。それを受けて、撮像装置100は、コマンドに対するレスポンスをクライアント装置180に返信する。コマンドとは、例えば第1の駆動機構111、第2の駆動機構121の制御である。即ち、ユーザーは、外部のクライアント装置180から、ネットワークを介して、第1の撮像部110、第2の撮像部120の向きを制御できるようになっている。クライアント装置180は例えばPCなどの外部機器であり、広角画像を表示する合成モードか、広角画像を生成せずに、第1の画像、第2の画像を独立して表示する非合成モードかを、ユーザーが選択できるユーザーインターフェース160を有している。また、クライアント装置180は、制御部182および表示部183を備えうる。
制御部182は、クライアント装置180内部の制御を行い、CPU等のコンピュータを内蔵している。また、制御部182は、不図示のメモリを内蔵し、メモリには制御部内のCPUの動作を制御するためのコンピュータプログラムが記憶されている。制御部182は、ユーザーインターフェース160において非合成モードから合成モードへの切り替えが指示された場合に、ユーザーが注目する被写体の位置に基づいて、第1の撮像部110または第2の撮像部120の撮影範囲を制御する。制御部182は、合成モードまたは非合成モードをユーザーが選択するためのユーザーインターフェース160を含む画像を表示部183に表示させる表示制御手段(表示制御部)としても機能する。表示部183は、表示手段として機能し、撮像装置100から送られてきた画像信号などを表示するためのものである。ユーザーインターフェース160は各種のスイッチや、タッチパネル等を含む。更には表示部183上に表示されるボタンやアイコン等のGUIを含む。ユーザーがユーザーインターフェース160を操作することによって撮像装置100に対して各種の指示をすることができる。
本実施形態の撮像装置100では、ユーザーインターフェース160によって選択された合成モード/非合成モードによって、広角画像の生成の有無を変更するとともに、第1の撮像部110、第2の撮像部120の撮影方向を制御している。
ネットワークは、有線LAN、無線LAN等により構成されている。また、ネットワークを介して撮像装置100に電源を供給する構成となっていても良い。なお、本実施形態においては、合成処理部140は撮像装置100の内部に設けられているが、クライアント装置180内に設けても良い。
また、図1に示す実施形態では、撮像装置100が第1の送受信部150を備え、画像をクライアント装置180側に転送するとともに、クライアント装置180側からの命令で動作している例を示している。即ち、表示部183や制御部182やユーザーインターフェース160は撮像装置とは別体の例を示している。しかし、撮像装置100が画像データを保存するメモリと、画像を表示する表示部183およびユーザーの支持を受け付けるスイッチやタッチパネル等のユーザーインターフェース160などの一部を一体的に有していても良い。即ち、撮像装置100自身がクライアント装置180の機能を一体的に内蔵していても良く、本実施形態における撮像装置とはクライアント装置180の機能を一体または別体で有するシステム的な構成を指すものともいえる。
図2および図3は、実施形態1の撮像装置100において、ユーザーが合成モード/非合成モードを指定するユーザーインターフェースと、第1の撮像部110と第2の撮像部120の撮影方向の関係の一例を示す図である。図2および図3における「合成モード」、「非合成モード」の左隣の丸は、黒丸のときにそのモードが選択されており、白丸のときにそのモードが選択されていないことを意味する。
まず、ユーザーが合成モードから非合成モードに切り替えた場合について説明を行う。図2(A)、(B)には、初期状態として、ユーザーが合成モードを指定していた状態を示している。図2(A)では、表示部183上のGUI等のユーザーインターフェース160に、第1の画像信号114と第2の画像信号124を合成して生成した広角画像信号134が表示されている。このとき、第1の撮像部110、第2の撮像部120は、それぞれ図2(B)に示す撮影方向を向いているものとする。図2(B)には、第1の撮像部110によって撮像される第1の撮影範囲115、および、第2の撮像部120によって撮像される第2の撮影範囲125を示している。本図において、第1の撮像部110と第2の撮像部120は異なる方向を撮影いるが、第1の撮影範囲115と第2の撮影範囲125の一部は重複している。
ここで、ユーザーが合成モードから非合成モードへの切り替えを指示したとする。すると、図2(C)に示すように、合成処理部140における広角画像信号134の生成を止め、ユーザーインターフェース160に、第1の画像信号114と第2の画像信号124を各々独立して表示する。この時、図2(D)に示すように、第1の撮像部110、第2の撮像部120の撮影方向はそのままである。即ち、第1の撮影範囲115と第2の撮影範囲125の一部は重複したままである。
一方、ユーザーが非合成モードから合成モードに切り替えた場合について説明を行う。図3(A)、(B)には、初期状態として、ユーザーが非合成モードを指定していた状態を示している。図3(A)では、ユーザーインターフェース160に、第1の画像信号114と第2の画像信号124が、各々独立して表示されている。このとき、第1の撮像部110、第2の撮像部120は、図3(B)に示す撮影方向を向いている。本図において、第1の撮像部110と第2の撮像部120は異なる方向を撮影しており、第1の撮影範囲115と第2の撮影範囲125は重複していない。
ここで、ユーザーが非合成モードから合成モードへの切り替えを指示したとする。この指示に加えて、ユーザーは第1の撮像部110と第2の撮像部120のどちらを基準に広角画像信号134を生成するかを指示する。以下では、一例として、第1の撮像部110を基準として指定した場合を説明する。
第1の撮像部110を基準とする場合、図3(D)に示すように、第2の撮像部120の撮影方向を変更する。そして、第2の撮像部120の撮影方向の変更が終了したのち、合成処理部140において広角画像信号134の生成を開始する。その後、図3(C)に示すように、ユーザーインターフェース160に、第1の画像信号114と第2の画像信号124を合成した広角画像信号134を表示する。
図3(B)と図3(D)を比較してわかるように、第1の撮像部110の撮影方向は変更せずにそのままにして、第2の撮像部120の撮影方向のみを変更している。なお、図3(E)に示すように、第1の撮像部110と第2の撮像部120の相対的な位置関係が変わるように、撮影方向を変更しても良い。即ち、図3(D)に示す状態とは反対の方向に第2の撮像部120が位置する状態となる。この際、ユーザーが、第2の撮像部120の、第1の撮像部110に対する相対的な位置関係が指定できるようなユーザーインターフェースになっていると更に好ましい。また、以上では、第1の撮像部110を基準とした場合を説明したが、第2の撮像部120を基準とした場合には、第2の撮影部の撮影方向はそのままに、第1の撮像部の撮影方向を、広角画像信号134が生成できるように変更すればよい。
このようにすることで、ユーザーが注目する被写体が、二重像になる可能性を低減しつつ、広角画像を生成することができる。以下でこの効果についての詳細な説明を行う。
まず、広角画像信号134の生成方法について説明する。広角画像信号134を生成するためには、第1の画像信号114と第2の画像信号124の間の位置ズレ量を求める必要がある。位置ズレ量を求めるためには、特許文献1に開示されているような、一般的な手法を用いることができる。例えば、第1の画像信号114と第2の画像信号124をずらしつつ、SSD(Sum of Squared Difference)やSAD(Sum of Absolute Difference)といった相関係数を計算する。そして、相関係数が最も高くなる位置ズレ量を求めればよい。
従って、ユーザーが非合成モードから合成モードへの切り替えを指示した場合、第1の撮影範囲115と、第2の撮影範囲125は、その一部が重複している必要がある。そのため、ユーザーが非合成モードから合成モードへの切り替えを指示した場合、第1の撮像部110、第2の撮像部120の少なくとも一方の撮影方向を変更する必要がある。以下では、第1の撮影範囲115と第2の撮影範囲125とが重複する範囲を重なり範囲135と呼ぶ。
図4は、重なり範囲135において、二重像が発生するメカニズムについて説明する図である。図4(A)は、撮像装置100からの距離が遠い被写体171および、撮像装置100からの距離が近い被写体172を撮影した場合の、第1の画像信号114および第2の画像信号124を示したものである。本図において、位置ズレ量184は、第1の画像信号114と第2の画像信号124間での、距離の遠い被写体171の位置のズレ量を示している。一方、位置ズレ量185は、第1の画像信号114と第2の画像信号124間での、距離の近い被写体172の位置のズレ量を示している。
図4(A)よりわかるように、距離の遠い被写体171の場合、位置ズレ量184は位置ズレ量185と比較して小さい。一方、距離の近い被写体172の場合、位置ズレ量185は位置ズレ量184と比較して大きい。従って、第1の画像信号114と第2の画像信号124を位置ズレ量184だけずらして重ねることで、被写体171が重なるように、広角画像信号134を生成した場合、図4(B)に示すように被写体172は二重像になってしまう。同様に、第1の画像信号114と第2の画像信号124を位置ズレ量185だけずらして重ねることで、被写体172が重なるように、広角画像信号134を生成した場合、図4(C)に示すように被写体171が二重像になってしまう。
このように、距離の異なる複数の被写体を撮影した場合、生成される広角画像信号134では、重なり範囲135において、いずれかの被写体が二重像になってしまいうる。そこで、本実施形態の撮像装置100では、第1の撮影範囲115、第2の撮影範囲125のどちらを重視するかをユーザーが選択する。そして、選択した方の撮影範囲が、広角画像のつなぎ目になる可能性を低減するように、第1の撮像部110、第2の撮像部120の少なくとも一方の撮影方向を変更している。
図3(B)、(D)に示すように、非合成モードから合成モードに切り替えた際に、広角画像信号134が生成できるように、第2の撮像部120の撮影方向を変更しているため、第2の撮影範囲125に重なり範囲135が重なってしまう可能性がある。一方、第1の撮像部110の撮影方向はそのままとしているため、重なり範囲135は、第1の撮影範囲115の周辺領域のみにとどめることができる。
以上のように、ユーザーが注目する被写体を撮影している撮像部を、合成モード切り替え時の基準の撮像部、という形で指定することで、ユーザーが注目する被写体が、重なり範囲に含まれてしまう可能性を低減することができる。その結果、ユーザーが注目する被写体が、二重像になる可能性を低減することができ、広角画像の視認性を向上させることができる。
なお、一般に、SSDやSADによって相関係数を求める際、位置ズレ量を計算するために用いる画素信号の数が多いほど、精度の高い相関係数を求めることができる。重なり範囲135が大きいほど、位置ズレ量を計算するために用いる画素信号の数が多い。従って、重なり範囲135が大きいほど、精度の高い位置ズレ量を求めることができ、より品質の高い広角画像を生成することができる。
従って、重なり範囲135の大きさは、第1の画像信号114と第2の画像信号124の位置ズレ量を求めるために十分な大きさがある方が好ましい。具体的には、重なり範囲135に含まれる第1の画像信号114、第2の画像信号124中の画素信号の数が100個以上あると好ましい。また、第1の撮影範囲115と第2の撮影範囲125のうち、相対的に広くない方の撮影範囲に対して、重なり範囲135の大きさが20%以上であれば更に好ましい。
以上では、ユーザーが非合成モードから合成モードに切り替えた場合に、第1の撮像部110または第2の撮像部120の撮影方向を変更していたが、モードの切り替えとは別に、ユーザーが撮影方向を変更できる方が更に好ましい。この時、例えば、ユーザーインターフェース160をユーザーが操作することによって第1の撮像部110または第2の撮像部120の撮影方向を変更できることが好ましい。
但し、前述したように、広角画像信号134を生成するためには、第1の撮影範囲115と第2の撮影範囲125は、その一部が重複している必要がある。そこで、ユーザーが合成モードを選択している際には、第1の撮像部110と第2の撮像部120の撮影方向を、広角画像信号134が生成できる範囲に制限する方が好ましい。具体的には、重なり範囲135に含まれる第1の画像信号114、第2の画像信号124中の画素信号の数が100個以上になるように、第1の撮像部110と第2の撮像部120の撮影方向を制限すると好ましい。また、例えば、広角画像信号134が生成できる範囲を第1の撮像部110または第2の撮像部120の撮影範囲の変更可能範囲として、ユーザーインターフェース160に表示させても良い。この場合、ユーザーは変更可能範囲を視認することが可能になり、制限内での撮影範囲の変更が容易となる。
また、第1の撮影範囲115と第2の撮影範囲125のうち、相対的に広くない方の撮影範囲に対して、重なり範囲135の大きさが20%以上になるように、第1の撮像部110と第2の撮像部120の撮影方向を制限すると更に好ましい。
この時、ユーザーが合成モードを選択した際に、基準とした撮像部(図3では第1の撮像部110)の撮影方向は変更できないように制限すると好ましい。なぜならば、基準の撮像部の撮影範囲を変更してしまうと、その範囲と重なり範囲135が重なってしまう可能性が増えてしまうためである。基準の撮像部の撮影範囲を変更できないように制限することで、ユーザーが注目する被写体が、二重像になる可能性を低減することができ、広角画像の視認性を向上させることができる。
更に、そこで、ユーザーが合成モードを選択している際に、制限の範囲を越えて第1の撮像部110、第2の撮像部120の撮影方向の変更をユーザーから指示された場合、ユーザーインターフェース160に例えば、警告等の表示を出すと好ましい。具体的には、合成モードであるために撮影方向の変更が制限されている旨を表示すると好ましい。更に、非合成モードにモード変更することで、制限の範囲を越えた撮影方向の変更が可能である旨を表示すると更に好ましい。また、例えば、撮影範囲の変更が制限されていることがユーザーに理解できるような画像を表示させても良いし、音声によって警告をしても良い。
一方、合成処理部140において合成処理を行っていない場合には、第1の撮影範囲115と第2の撮影範囲125が重複していなくても良い。従って、ユーザーが非合成モードを選択している際には、第1の撮像部110と第2の撮像部120の撮影方向を自由に変更できるようにすると好ましい。
(実施形態2)
実施形態1に示す撮像装置100では、ユーザーが注目する被写体が撮影されている撮影範囲を、合成モード切り替え時の基準の撮像部、という形で指定していた。それに対し、実施形態2に示す撮像装置200では、ユーザーが注目する被写体が撮影されている範囲を、合成モード切り替え時に、基準の撮像部が撮影している撮影範囲の一部、という形で指定する。これによって、ユーザーが注目する被写体が撮影されている撮影範囲を、更に細かく指定することができる。なお、それ以外の構成は、実施形態1の構成とほぼ同じであるが、実施形態1において100番台の符番で説明したものを実施形態2においては200番台の符番に置き換えて説明する。以下で、説明を行う。なお、撮像装置200において、ユーザーが合成モードから非合成モードに切り替えた場合については、実施形態1の撮像装置100と同じであるため、説明を省略する。
図5は、実施形態2の撮像装置200において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部210と第2の撮像部220の撮影方向の関係の一例を示す図である。
図5(A)および(B)には、初期状態として、ユーザーが合成モードを指定していた状態を示している。図5(A)では、表示部183上のGUI等のユーザーインターフェース260に、ユーザーインターフェース260に、第1の画像信号214と第2の画像信号224が、各々独立して表示されている。このとき、第1の撮像部210、第2の撮像部220は、それぞれ図5(B)に示す撮影方向を向いているものとする。
ここで、ユーザーが非合成モードから合成モードへの切り替えを指示したとする。また、この指示に加えて、図5(C)に示すように、ユーザーは第1の撮影範囲215、または第2の撮影範囲225の内、ユーザーが注目する被写体を含む撮影範囲を指定範囲245として指定することができる。
すると、図5(E)に示すように、制御部130は、指定範囲245が、第1の撮影範囲215と第2の撮影範囲225の重なり範囲235に含まれないように、第1の撮像部210、第2の撮像部220の撮影方向を変更する。そして、撮影方向の変更が終了したのち、合成処理部230において広角画像信号234の生成を開始し、図5(D)に示すように、ユーザーインターフェース260に、第1の画像信号214と第2の画像信号224を合成した広角画像信号234を表示する。このように、指定範囲245を直接指定することで、ユーザーが注目する被写体が、二重像になる可能性を更に低減することができるため、好ましい。
前述したように、広角画像信号234を生成するためには、第1の撮影範囲215と第2の撮影範囲225は、その一部が重複している必要がある。そこで、ユーザーが指定範囲245を指定する際には、指定範囲245の大きさを制限した方が好ましい。具体的には、指定範囲245が第1の撮影範囲215に含まれる場合には、指定範囲245の大きさが、第1の撮影範囲215と重なり範囲235の差分の大きさ以下になるように制限する。そして、指定範囲245が第2の撮影範囲225に含まれる場合には、指定範囲245の大きさが、第2の撮影範囲225と重なり範囲235の差分の大きさ以下になるように制限する。このとき、例えば、指定範囲245として指定できる撮影範囲の大きさが、上述の大きさ以下になるように、つまり、指定可能な撮影範囲の大きさが上述の範囲を超える大きさとならないようにユーザーインターフェース260に表示させるとより好ましい。このようにすることで、ユーザーが制限内において指定範囲を指定するのがより容易となる。
このように、指定範囲245の大きさを制限することで、ユーザーが注目する被写体が、二重像になる可能性を低減しつつ、位置ズレ量の算出精度を求めることができ、広角画像の視認性を向上させることができる。
なお、本実施形態では、指定範囲245を指定したが、ユーザーが注目する被写体自体を指定しても良い。この場合、制御部240は、指定された被写体が、第1の撮影範囲215と第2の撮影範囲225の重なり範囲235に含まれないように、第1の撮像部210、第2の撮像部220の撮影範囲を変更する。
(実施形態3)
実施形態3に示す撮像装置300は、実施形態1に示す撮像装置100に対して、第1の駆動機構、第2の駆動機構の構成が異なる。撮像装置300では、第1の撮像部310、第2の撮像部320を、互いに直交する2つの方向に回転できるようになっている。具体的には、図1(A)のZ軸(垂直軸)を中心とした回転機構(所謂パンニング駆動機構)の他に、Z軸に対する角度を制御可能な回転機構(所謂チルト駆動機構)を有している。即ち、撮像装置300は、チルト方向に駆動可能な駆動機構を有している。なお、それ以外の構成は、実施形態2の構成とほぼ同じであるが、実施形態2において200番台の符番で説明したものを実施形態3においては300番台の符番に置き換えて説明する。
図6は、実施形態3の撮像装置300において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部310と第2の撮像部320の撮影範囲の関係の一例を示す図である。
撮像装置300において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部310と第2の撮像部320の撮影範囲の関係を、図6に示す。なお、撮像装置300において、ユーザーが合成モードから非合成モードに切り替えた場合については、実施形態1の撮像装置100と同じであるため、説明を省略する。
図6(A)および(B)には、初期状態として、ユーザーが非合成モードを指定していた状態を示している。図6(A)では、ユーザーインターフェース360に、第1の画像信号314と第2の画像信号324が、各々独立して表示されている。このとき、第1の撮像部は、第2の撮像部320は、図6(B)に示す撮影範囲を撮像している。図6(B)では、第1の撮像部310、第2の撮像部320の撮影方向を、図1(A)のZ軸を中心とする同一半径の円筒面に射影した第1の撮影範囲315、第2の撮影範囲325で示している。図6(B)からわかるように、第1の撮像部310、第2の撮像部320は、パン方向の撮影方向、チルト方向の撮影方向の両方が互いに異なっている。
ここで、ユーザーが非合成モードから合成モードへの切り替えを指示したとする。この指示に加えて、ユーザーは第1の撮像部310と第2の撮像部320のどちらを基準に合成画像を生成するかを指示する。以下では、例として、第1の撮像部310を基準として指定した場合を説明する。
ユーザーが第1の撮像部310を基準として指定すると、図6(C)に示すように、制御部240は、第2の撮像部320の撮影方向を変更する。そして、撮影方向の変更が終了したのち、図6(D)に示すように、合成処理部330において広角画像信号334の生成を開始し、ユーザーインターフェース360に、第1の画像信号314と第2の画像信号324を合成した広角画像信号334を表示する。
図6(B)と図6(C)を比較してわかるように、撮像装置300では、第1の撮像部310の撮影方向はそのままにして、第2の撮像部320のパン方向の撮影方向と、チルト方向の撮影方向を変更している。具体的には、チルト方向については、第1の撮像部310と第2の撮像部320の撮影方向が一致するように撮影方向を変更し、パン方向については、広角画像信号334を生成するための重なり範囲335が確保できるように撮影方向を変更している。
このように、基準の撮像部の撮影範囲に合わせて、チルト方向の撮影方向も変更することで、ユーザーが注目する被写体が、二重像になる可能性を低減しつつ、広角画像信号334を生成することができる。
なお、図6(E)に示すように、第1の撮像部310と第2の撮像部320のパン方向の撮影方向を一致させ、チルト方向の撮影方向をずらすことで、チルト方向に長い広角画像信号334を生成しても良い。ユーザーインターフェース360が、パン方向に長い広角画像を生成するか、チルト方向に長い広角画像を生成するかを、ユーザーが選択できるような構成になっていると、更に好ましい。また、第2の撮像部120の、第1の撮像部110に対する相対的な位置関係が指定できるような構成となっていると、更に好ましい。
(実施形態4)
実施形態4に示す撮像装置400は、実施形態3に示す撮像装置300に対して、第1の駆動機構、第2の駆動機構の構成が異なる。撮像装置400では、第1の撮像部410、第2の撮像部420の撮影方向、撮影範囲を制御できることに加え、各々の撮像部の光軸を中心に撮像部を回転可能な回転機構(所謂ローテーション機構)を有している。なお、それ以外の構成は、実施形態3の構成とほぼ同じであるが、実施形態3において300番台の符番で説明したものを実施形態4においては400番台の符番に置き換えて説明する。
図7は、実施形態4の撮像装置400において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部410と第2の撮像部420の撮影範囲の関係の一例を示す図である。なお、撮像装置400において、ユーザーが合成モードから非合成モードに切り替えた場合については、実施形態1の撮像装置100と同じであるため、説明を省略する。
図7(A)には、ユーザーインターフェース460に、第1の画像信号414と第2の画像424が、各々独立して表示されている。このとき、第1の撮像部410、第2の撮像部420の撮影方向および、光軸の周りの回転角度(以下、ローテーション角度とよぶ)は図7(B)に示すとおりである。図7(B)からわかるように、第1の撮像部410、第2の撮像部420は、パン方向の撮影方向、チルト方向の撮影方向、ローテーション角度が全て互いに異なっている。
ここで、ユーザーが非合成モードから合成モードへの切り替えを指示したとする。同時に、ユーザーは第1の撮像部410と第2の撮像部420のどちらを基準に合成画像を生成するかを、例えばユーザーインターフェース460を介して指示する。以下では、例として、第1の撮像部410を基準として指定した場合を説明する。すると、図7(C)に示すように、第2の撮像部420の撮影方向および、光軸の周りの回転角度を変更する。そして、撮影方向と回転角度の変更が終了した後、図7(D)に示すように、合成処理部430において広角画像信号434の生成を開始し、ユーザーインターフェース460に、広角画像信号434を表示する。図7(B)と図7(C)を比較してわかるように、撮像装置400では、第1の撮像部410の撮影方向はそのままにして、第2の撮像部420のパン方向の撮影方向と、チルト方向の撮影方向、ローテーション角度を変更している。具体的には、第1の撮像部410、第2の撮像部420のローテーション角度が一致するように、第2の撮像部420のローテーション角度を変更する。そして、広角画像信号434を生成するための重なり範囲435が確保できるように、第2の撮像部420のパン方向とチルト方向の撮影方向を変更する。
このように、基準の撮像部の撮影範囲に合わせて、ローテーション角度も変更することで、ユーザーが注目する被写体が、二重像になる可能性を低減しつつ、広角画像信号434を生成することができる。
なお、ローテーション角度を一致させつつ、重なり範囲435を確保するための第2の撮像部420の撮影方向として、図7(E)に示す4つの撮影方向が選択できる。従って、4つの撮影方向の内、いずれを選択するかを、ユーザーが選べるようになっていると更に好ましい。
(実施形態5)
実施形態5に示す撮像装置500は、実施形態1に示す撮像装置100に対して、第1の駆動機構、第2の駆動機構の構成および、第1の撮像部、第2の撮像部の構成が異なる。撮像装置500では、第1の撮像部510、第2の撮像部520の撮影方向に加え、撮影範囲が制御できるような構成(所謂ズーム機構を備える構成)となっている。具体的には、各々の撮像部の結像光学系が、光軸方向に移動可能なズームレンズを有しており、第1の駆動機構511、第2の駆動機構512が、ズームレンズを駆動することで、撮像部の撮影範囲を制御する。なお、それ以外の構成は、実施形態4の構成とほぼ同じであるが、実施形態4において400番台の符番で説明したものを実施形態5においては500番台の符番に置き換えて説明する。
一般に、SSDやSADによって2つの画像の間の位置ズレ量を求める場合、2つの画像の解像度が揃っていた方が、位置ズレ量の算出精度が向上するため、好ましい。そのため、実施形態5に示す撮像装置500では、合成モードの際の、第1の画像信号514と第2の画像信号524の解像度が一致するように、ズームレンズを駆動している。
以下では第1の撮像部510中の固体撮像素子513の画素数が、第2の撮像部520中の固体撮像素子523の画素数と同じ場合を例にとって説明する。画素数が同じ場合、第1の撮像部510と第2の撮像部520の撮影範囲の大きさ(以下、画角と呼ぶ)が等しい場合に、第1の画像信号514と第2の画像信号524の解像度が一致する。
図8は、実施形態5の撮像装置500において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部510と第2の撮像部520の撮影範囲の関係の一例を示す図である。なお、撮像装置500において、ユーザーが合成モードから非合成モードに切り替えた場合については、実施形態1の撮像装置100と同じであるため、説明を省略する。
図8(A)には、ユーザーインターフェース560に、第1の画像信号514と第2の画像信号524が、各々独立して表示されている。このとき、第1の撮像部510、第2の撮像部520の撮影方向および、画角は図8(B)に示すとおりである。図8(B)からわかるように、第1の撮像部510、第2の撮像部520は、パン方向の撮影方向と画角の両方が互いに異なっている。
ここで、ユーザーが非合成モードから合成モードへの切り替えを、例えば、ユーザーインターフェース560560を介して指示したとする。同時に、ユーザーは第1の撮像部510と第2の撮像部520のどちらを基準に合成画像を生成するかを指示する。以下では、例として、第1の撮像部510を基準として指定した場合を説明する。
すると、図8(C)に示すように、第2の撮像部520の撮影方向と、画角を変更する。そして、撮影方向と画角の変更が終了したのち、図8(D)に示すように、合成処理部530において広角画像信号534の生成を開始し、ユーザーインターフェース560に、広角画像信号534を表示する。
図8(B)と図8(C)を比較してわかるように、撮像装置500では、第1の撮像部510の撮影方向はそのままにして、第2の撮像部520の撮影方向とズーム倍率を変更している。具体的には、第1の撮像部510、第2の撮像部520の画角が一致するように、第2の撮像部520の画角を変更する。そして、広角画像信号534を生成するための重なり範囲535が確保できるように、第2の撮像部520の撮影方向を変更する。即ち、第1の画像信号514と第2の画像信号524の解像度が一致するように、ズームレンズを駆動している。
このように、基準の撮像部の解像度に合わせて、ズーム倍率も変更することで、ユーザーが注目する被写体が、二重像になる可能性を低減しつつ、位置ズレ量の算出精度を向上させることができ、広角画像信号434の視認性を向上させることができる。第1の撮像部510中の固体撮像素子513の画素数が、第2の撮像部520中の固体撮像素子523の画素数と異なっていても良い。その場合にも、第1の画像信号514と第2の画像信号524の解像度が一致するように、ズームレンズを駆動すれば良い。具体的には、第1の撮影範囲515の大きさを第1の撮像部510の撮像素子の画素数で割った商が、第2の撮影範囲525の大きさを第2の撮像部520の撮像素子の画素数で割った商と一致するように、ズーム倍率を変更する方が好ましい。なお、ここで一致するとは10%程度の誤差があっても良いものとする。ここで、撮影範囲の大きさとは、互いの撮影範囲が位置ズレしている方向の、撮影範囲の長さ(図8では、パン方向の長さ)を意味する。
(実施形態6)
実施形態1〜5では、それぞれ撮像装置が第1の撮像部と第2の撮像部の2つの撮像部を有している場合を示したが、3つ以上の撮像部を有していても良い。実施形態6では、第1の撮像部610および第2の撮像部620に加えて第3の撮像部691を有し、撮像装置を中心としてパン方向を360度撮影した広角画像を生成することができる撮像装置600について説明を行う。なお、それ以外の構成は、実施形態5の構成とほぼ同じであるが、実施形態5において500番台の符番で説明したものを実施形態6においては600番台の符番に置き換えて説明する
図9は、実施形態6の撮像装置600において、ユーザーが非合成モードから合成モードに切り替えた場合の、ユーザーインターフェースと、第1の撮像部610、第2の撮像部620、および第3の撮像部691の撮影範囲の関係の一例を示す図である。実施形態6の撮像装置600は、第1の撮像部610、第2の撮像部620、および第3の撮像部690を備える。第3の撮像部691の構成は、第1の撮像部610および第2の撮像部620とほぼ同じであるため、説明は省略する。また、撮像装置600において、ユーザーが合成モードから非合成モードに切り替えた場合については、第1の撮像部610、第2の撮像部620、および第3の撮像部690の撮影範囲はユーザーから指示が入力されない限り変更しない。このため、ここでは説明を省略する。
図9(A)には、ユーザーインターフェース660に、第1の画像信号614および第2の画像信号624に加えて第3の画像信号694が各々独立して表示されている。このとき、第2の撮像部620、および第3の撮像部691の撮影方向は図9(B)に示すとおりである。
ここで、ユーザーが非合成モードから合成モードへの切り替えを指示したとする。同時に、どの撮像部を基準に合成画像を生成するかを指示する。以下では、例として、第1の撮像部610を基準として指定した場合を説明する。すると、図9(C)に示すように、第2の撮像部620、第3の撮像部690の撮影方向を変更する。そして、撮影方向の変更が終了したのち、図9(D)に示すように、合成処理部630において第1の画像信号614、第2の画像信号、および、第3の画像信号694の合成を行い、広角画像信号634の生成を開始する。その後、ユーザーインターフェース660に、パン方向の360度を撮影した広角画像信号634を表示する。
このような構成とすることで、ユーザーが注目する被写体が二重像になる可能性を低減しつつ、360度を撮影した広角画像を生成することができる。なお、撮像装置600のように、360度を撮影した広角画像を生成する撮像装置においては、本実施形態のように、ユーザーが指定した注目領域によって、重なり範囲を変更することのメリットが大きい。以下で説明を行う。
実施形態1〜5に示す撮像装置の場合、ユーザーが注目する被写体の位置によって、広角画像の撮影範囲が変化する。この場合、ユーザーは、注目する被写体を含む撮影範囲(注目領域)そのものの他に、広角画像の撮影範囲も考慮して、注目領域の指定を行う必要がある。言い換えると、広角画像の撮影範囲と、注目領域を両立することが困難である場合がある。なお、ここで、注目領域は、基準とする撮影範囲が指定されている場合はその撮影範囲であり、指定範囲が指定されている場合は指定範囲を指す。
一方、360度を撮影した広角画像を生成する撮像装置600では、ユーザーが指定した注目領域によらず、広角画像の撮影範囲は変化しない。そのため、ユーザーは広角画像の撮影範囲を考慮に入れることなく、注目領域の指定だけを行うことができる。その結果、ユーザーがどの範囲を注目領域に指定したとしても、広角画像の撮影範囲と、注目領域の両立が可能となる。
なお、図9(C)では、第1の撮像部610、第2の撮像部620、および第3の撮像部690の撮影方向のなす角度が等しくなるように、撮影方向の変更を行ったが、撮影方向のなす角度が等しくなくても良い。但し、各々の撮像部間の重なり範囲に含まれる画素信号の数が等しくなるように、撮影方向を変更する方が好ましい。特に、各々の撮像部において同じ結像光学系、同じ固体撮像素子を使用している場合、撮影方向のなす角度が等しくなるように、撮影方向を変更する方が好ましい。
また、図9(D)では、基準として指定した第1の撮像部610の第1の撮影範囲615が、広角画像信号634の中央に表示されるように広角画像信号634を生成したが、第2の撮影範囲625、第3の撮影範囲695のいずれかを中央に表示してもよい。但し、ユーザーが注目する領域を広角画像の中央に表示させた方が、注目領域の視認性が向上するため好ましい。
撮像装置600についても、第1の撮像部610、第2の撮像部620、および第3の撮像部690のそれぞれがパン方向の撮影方向だけではなく、チルト方向の撮影方向、ローテーション角度、画角を制御できるようになっていると更に好ましい。
第1の撮像部610、第2の撮像部620、および第3の撮像部690のそれぞれが、パン方向の撮影方向とチルト方向の撮影方向の両方を制御できるように構成されているとする。この場合、実施形態3の撮像装置のように、基準とする撮像部にチルト方向の撮影方向を一致させて、360度を撮影した広角画像を生成すると好ましい。
一方、第1の撮像部610、第2の撮像部620、および第3の撮像部690のそれぞれがローテーション角度の駆動機構を備えているとする。この場合、合成モード選択時には、基準とする撮像部のローテーション角度によらず、全ての撮像部のローテーション角度を、一定値に変更した方が好ましい。以下で、理由を説明する。
一般に、監視用途などに使用される撮像部の固体撮像素子は、横方向の長さが、縦方向の長さよりも長い矩形形状であることが多い。従って、360度の広角画像364を生成するためには、各々の撮像部の撮影範囲がパン方向の方が長い矩形であるか、各々の撮像部の撮影範囲がチルト方向の方が長い矩形である必要がある。そのため、合成モードへの切り替えを指示された場合、各々の撮像部の撮影範囲をパン方向の方が長い矩形、または、チルト方向の方が長い矩形、のいずれかに一致させた方が好ましい。
重なり領域の大きさを大きくとって、位置ズレ量の算出精度を向上させるためには、パン方向に長い矩形に一致させた方が好ましい。一方で、チルト方向の撮影範囲を広くしたい場合には、チルト方向に長い矩形に一致させた方が好ましい。
第1の撮像部610、第2の撮像部620、および第3の撮像部690のそれぞれがズーム制御機構を備えているとする。この場合、全ての撮像部の画角が閾値以上になった時に、360度を撮影した広角画像信号634が生成できるように、それぞれの撮像部の結像光学系のズーム倍率を設定しても良い。閾値は、画角が最大となる値に近いほど好ましく、画角が最大となる値であるとより好ましい。なぜならば、それ以上、画角を大きくしたとしても、広角画像信号634の撮影範囲が広くならないためである。更に、この時、合成モード選択時には、基準とする撮像部の画角によらず、全ての撮像部の画角を、最大値に変更した方が好ましい。このような構成とすることで、360度全体を俯瞰して撮影したい場合には、合成モード選択を選択し、特定の領域を詳細に撮影したい場合には、非合成モードを選択して、各々の撮像部の画角を狭くして解像度の高い画像を得る、といった使い分けが可能となる。
ここで、撮像装置600の駆動例について説明する。図10は、実施形態6の撮像装置600の駆動例を示すフローチャートである。このフローチャートで示す各動作(ステップ)は、制御部640よって実行されうる。本フローチャートでは、初期状態として、ユーザーが非合成モードを指定しており、ユーザーが非合成モードから合成モードに切り替えた場合の駆動例について説明する。まず、制御部640は、ユーザーインターフェース660において、合成モードが選択されたかを判定する(S1)。合成モードが選択された場合(Yes)、第1の撮像部610、第2の撮像部620、および第3の撮像部690のうち基準となる撮像部以外の撮像部の撮影範囲を変更する(S2)。具体的には、例えば、第1の撮像部610が基準として指定されている場合、第1の撮像部610の撮影方向は変更せず、第2の撮像部620、および第3の撮像部690の撮影方向を変更する。そして、上述したように、第1の撮像部610、第2の撮像部620、および第3の撮像部690それぞれの像面解像度、チルト角度、ローテーション角度を合わせる。その後、ユーザーインターフェース660に、広角画像信号634を表示する(S3)。
次に、制御部640は、ユーザーインターフェース660において撮影範囲の変更が指示されたかを判定する。撮影範囲の変更が指示された場合(Yes)、重なり範囲が所定値以上であるかを判定する(S4)。重なり範囲が所定値以上でない場合(No)、ユーザーインターフェース660に警告を表示する(S6)。重なり範囲が所定値以上である場合(S5、Yes)は、S2と同様に基準となる撮像部以外の撮像部の撮影範囲を変更し(S7)、その後、ユーザーインターフェース660に警告を表示する(S6)。なお、この時、指示された撮影範囲の変更が、制限の範囲内である場合は、必ずしも警告を表示させる必要はない。この場合、例えば、警告を表示させることなく、広角画像信号634をユーザーインターフェース660に表示させ続けても良い。
その後、制御部640は、非合成モードが選択されたかを判定する(S8)。非合成モードが選択された場合(Yes)、基準となる撮像部を含む、第1の撮像部610、第2の撮像部620、および第3の撮像部690のそれぞれの撮影範囲を変更し(S9)、駆動を終了する。
このような構成とすることで、360度の広角画像を生成可能な撮像装置においても注目する被写体が二重像になる可能性を低減することが可能となる。
以上、本発明をその好適な実施例に基づいて詳述してきたが、本発明は上記実施形態に限定されるものではなく、本発明の主旨に基づき種々の変形が可能であり、それらを本発明の範囲から除外するものではない。
例えば、以上の実施例では駆動機構によって、各撮像部がそれぞれ撮影範囲(撮影方向、ズーム倍率、撮像面の回転角度等)を変更できるようにしている。しかし、例えば少なくとも一つの撮像部の撮影範囲を制御可能な駆動機構を備え、それによって複数の撮像部の撮影範囲を、相対的に変更可能とするようにしても良い。
また、本実施形態における制御の一部または全部を上述した実施例の機能を実現するコンピュータプログラムをネットワーク又は各種記憶媒体を介して撮像装置に供給するようにしてもよい。そしてその撮像装置におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。
100:撮像装置
110、120:撮像部
111、121:駆動機構
113、123:固体撮像素子
114:第1画像信号
124:第2画像信号
134:広角画像信号
130:合成処理部
140:制御部
160:ユーザーインターフェース

Claims (22)

  1. 第1の撮像部及び第2の撮像部と、
    前記第1の撮像部と前記第2の撮像部のうち少なくとも一方の撮影範囲を制御可能な駆動機構と、
    前記第1の撮像部で取得した第1の画像信号と、前記第2の撮像部で取得した第2の画像信号とを合成して広角画像信号を生成する合成処理部と、
    前記合成処理部において前記広角画像信号を生成する合成モード、または、前記第1の画像信号および前記第2の画像信号の両方を出力する非合成モードをユーザーが選択するためのユーザーインターフェースを含む画像を表示部に表示させる表示制御部と、
    前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記ユーザーが注目する被写体の位置に基づいて、前記第1の撮像部および前記第2の撮像部の少なくともいずれか一方の撮影範囲を制御する制御部と、を備えることを特徴とする撮像装置。
  2. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記注目する被写体が、前記第1の撮像部の撮影範囲と、前記第2の撮像部の撮影範囲との重なり範囲に含まれないように、前記第1の撮像部および前記第2の撮像部の少なくともいずれか一方の撮影範囲を制御することを特徴とする、請求項1に記載の撮像装置。
  3. 前記ユーザーインターフェースは、前記ユーザーが注目する被写体を含む撮影範囲を指定範囲として指定可能であることを特徴とする請求項1または2に記載の撮像装置。
  4. 前記表示制御部は、前記注目する被写体が、前記第1の撮像部の撮影範囲に含まれている場合には、前記指定範囲として指定できる撮影範囲の大きさが、前記第1の撮像部の撮影範囲と前記重なり範囲との差分の大きさ以下になるように前記ユーザーインターフェースに表示させ、前記注目する被写体が、前記第2の撮影範囲に含まれている場合には、前記指定範囲として指定できる撮影範囲の大きさが、前記第2の撮影範囲と前記重なり範囲との差分の大きさ以下になるように前記表示部に表示させることを特徴とする、請求項3に記載の撮像装置。
  5. 前記ユーザーインターフェースは、前記第1の撮像部および前記第2の撮像部のうち、前記注目する被写体を撮影している撮像部を指定可能であって、
    前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記選択された撮像部とは異なる撮像部の撮影範囲を変更することを特徴とする、請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記ユーザーインターフェースは、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の撮像部の撮影範囲と、前記第2の撮像部の撮影範囲の相対的な位置関係を指定可能であることを特徴とする、請求項1から5のいずれか1項に記載の撮像装置。
  7. 制御部は、前記ユーザーインターフェースにおいて、前記合成モードが選択されている場合に、前記第1の撮像部および、前記第2の撮像部の撮影範囲の変更可能範囲を、前記広角画像信号を生成可能な範囲に制限することを特徴とする、請求項1から6のいずれか1項に記載の撮像装置。
  8. 前記制御部は、前記ユーザーインターフェースにおいて、前記合成モードが選択されている場合には、前記第1の撮像部および前記第2の撮像部のうち、前記注目する被写体を撮影している撮像部の撮影範囲は変更できないように制限することを特徴とする、請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記表示制御部は、前記ユーザーインターフェースにおいて、前記合成モードが選択されている場合に、前記第1の撮像部および前記第2の撮像部の撮影範囲の少なくともいずれかに対し、前記制限を超えて変更する指示がされた場合には、前記ユーザーインターフェースに、警告を表示させることを特徴とする、請求項7または8のいずれか1項に記載の撮像装置。
  10. 前記駆動機構は、前記第1の撮像部および前記第2の撮像部の撮影範囲を、互いに直交するパンニング方向とチルト方向に駆動可能であって、
    前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の撮像部の撮影範囲のチルト方向と、前記第2の撮像部の撮影範囲のチルト方向とが一致するように、前記第1の撮像部と前記第2の撮像部の少なくともいずれか一方の撮影範囲を制御することを特徴とする請求項1から9のいずれか1項に記載の撮像装置。
  11. 前記駆動機構は、前記第1の撮像部および前記第2の撮像部の撮影範囲を、互いに直交するパンニング方向とチルト方向に駆動可能であって、
    前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の撮像部の撮影範囲のパンニング方向と、前記第2の撮像部の撮影範囲のパンニング方向とが一致するように、前記第1の撮像部と前記第2の撮像部の少なくともいずれか一方の撮影範囲を制御することを特徴とする請求項1から9のいずれか1項に記載の撮像装置。
  12. 前記駆動機構は、前記第1の撮像部と前記第2の撮像部を、それぞれの光軸を中心に回転可能であって、
    前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の撮像部の光軸の周りの回転角度と、前記第2の撮像部の光軸の周りの回転角度とが一致するように、前記第1の撮像部と前記第2の撮像部の少なくともいずれか一方の回転角度を制御することを特徴とする、請求項1から11のいずれか1項に記載の撮像装置。
  13. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の画像信号の解像度と前記第2の画像信号の解像度が一致するように、前記第1の撮像部および前記第2の撮影部の少なくとも一方を制御することを特徴とする、請求項1から12のいずれか1項に記載の撮像装置。
  14. 前記第1の撮像部および前記第2の撮像部、または、前記駆動機構は、前記第1の撮像部の撮影範囲の大きさ、および、前記第2の撮像部の撮影範囲の大きさの少なくとも一方を制御できる機構を備え、
    前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記第1の撮像部の撮影範囲の大きさを前記第1の撮像部の撮像素子の画素数で割った商が、前記第2の撮像部の撮影範囲の大きさを前記第2の撮像部の撮像素子の画素数で割った商と一致するように、前記第1の撮影範囲の大きさ、および、前記第2の撮影範囲の大きさのうち少なくとも一方を制御することを特徴とする、請求項1から13のいずれか1項に記載の撮像装置。
  15. 3つ以上の前記撮像部を有し、
    前記制御部は、前記ユーザーインターフェースにおいて、前記合成モードが選択されている場合に、前記合成処理部において、前記撮像装置を中心とした360度を撮影した広角画像信号を生成することを特徴とする、請求項1から14のいずれか1項に記載の撮像装置。
  16. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、それぞれの前記撮像部の撮影方向のなす角が等しくなるように、前記撮像部のそれぞれの撮影方向を制御することを特徴とする、請求項15に記載の撮像装置。
  17. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから前記合成モードへの切り替えが指示された場合に、前記注目する被写体が含まれる撮影範囲が、広角画像の中央に表示されるように、前記広角画像信号を生成することを特徴とする、請求項15または16に記載の撮像装置。
  18. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから合成モードへの切り替えが指示された場合に、前記撮像部のそれぞれの撮影範囲のパンニング方向の長さの方が、チルト方向の長さよりも長い矩形になるように、前記撮像部をそれぞれ回転することを特徴とする、請求項15から17のいずれか1項に記載の撮像装置。
  19. 前記制御部は、前記ユーザーインターフェースにおいて、前記非合成モードから合成モードへの切り替えが指示された場合に、前記撮像部のそれぞれの撮影範囲のチルト方向の長さの方が、パンニング方向の長さよりも長い矩形になるように、前記撮像部をそれぞれ回転することを特徴とする、請求項15から17のいずれか1項に記載の撮像装置。
  20. 前記制御部は、前記非合成モードから合成モードへの切り替えが指示された場合に、各々の撮像部の撮影範囲の大きさが最大になるように、各々の撮像部の撮影範囲の大きさを制御することを特徴とする、請求項15から19のいずれか1項に記載の撮像装置。
  21. 請求項1から20のうちいずれか1項に記載の前記撮像装置の各手段としてコンピュータを機能させるためのコンピュータプログラム。
  22. 請求項21に記載のコンピュータプログラムを記憶したコンピュータで読み取り可能な記憶媒体。

JP2019132148A 2019-07-17 2019-07-17 撮像装置、コンピュータプログラムおよび記録媒体 Ceased JP2021019228A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019132148A JP2021019228A (ja) 2019-07-17 2019-07-17 撮像装置、コンピュータプログラムおよび記録媒体
US16/930,952 US11516390B2 (en) 2019-07-17 2020-07-16 Imaging apparatus and non-transitory storage medium
CN202010691232.1A CN112243085A (zh) 2019-07-17 2020-07-17 摄像设备及其控制方法和非暂时性存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019132148A JP2021019228A (ja) 2019-07-17 2019-07-17 撮像装置、コンピュータプログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2021019228A true JP2021019228A (ja) 2021-02-15
JP2021019228A5 JP2021019228A5 (ja) 2022-07-13

Family

ID=74170651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019132148A Ceased JP2021019228A (ja) 2019-07-17 2019-07-17 撮像装置、コンピュータプログラムおよび記録媒体

Country Status (3)

Country Link
US (1) US11516390B2 (ja)
JP (1) JP2021019228A (ja)
CN (1) CN112243085A (ja)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09275520A (ja) * 1996-04-08 1997-10-21 Canon Inc カメラ制御装置
JPH09322060A (ja) * 1996-05-28 1997-12-12 Canon Inc 撮像装置、画像合成装置及び画像合成システム
JPH11196316A (ja) * 1997-12-26 1999-07-21 Minolta Co Ltd 画像読み取り装置
JP2004135208A (ja) * 2002-10-15 2004-04-30 Hitachi Ltd 映像撮影装置及び方法
JP2007267347A (ja) * 2006-02-28 2007-10-11 Sanyo Electric Co Ltd 撮影装置
US20100271511A1 (en) * 2009-04-24 2010-10-28 Canon Kabushiki Kaisha Processing multi-view digital images
JP2011077819A (ja) * 2009-09-30 2011-04-14 Fujifilm Corp 複眼撮像装置及びその輻輳角制御方法並びに撮像画像表示方法
JP2011130180A (ja) * 2009-12-17 2011-06-30 Olympus Imaging Corp 撮像装置
WO2018080244A1 (ko) * 2016-10-28 2018-05-03 삼성전자 주식회사 전방위 영상을 획득하는 방법 및 장치
JP2018097870A (ja) * 2016-12-08 2018-06-21 株式会社モルフォ 画像処理装置、電子機器、画像処理方法及びプログラム
US20190082114A1 (en) * 2017-09-11 2019-03-14 Samsung Electronics Co., Ltd. Apparatus and method for processing image received through a plurality of cameras

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004118786A (ja) 2002-09-30 2004-04-15 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP5484631B2 (ja) * 2011-03-31 2014-05-07 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
JP6234165B2 (ja) * 2013-10-28 2017-11-22 キヤノン株式会社 撮像装置、外部装置、撮像システム、撮像装置の制御方法、外部装置の制御方法、撮像システムの制御方法、及びプログラム
US10750153B2 (en) * 2014-09-22 2020-08-18 Samsung Electronics Company, Ltd. Camera system for three-dimensional video
JP7182935B2 (ja) 2018-07-30 2022-12-05 キヤノン株式会社 撮像装置、制御方法およびプログラム
JP7210199B2 (ja) 2018-09-20 2023-01-23 キヤノン株式会社 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体
JP7271132B2 (ja) 2018-10-26 2023-05-11 キヤノン株式会社 撮像装置および監視システム
JP7250483B2 (ja) 2018-11-12 2023-04-03 キヤノン株式会社 撮像装置、コンピュータプログラム、及び記憶媒体
JP7316809B2 (ja) 2019-03-11 2023-07-28 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、システム、及び、プログラム
JP2020188349A (ja) 2019-05-14 2020-11-19 キヤノン株式会社 撮像装置、撮像方法、コンピュータプログラム及び記憶媒体
JP7286412B2 (ja) 2019-05-22 2023-06-05 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、監視システム
JP2020202503A (ja) 2019-06-11 2020-12-17 キヤノン株式会社 撮像装置、コンピュータプログラムおよび記憶媒体

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09275520A (ja) * 1996-04-08 1997-10-21 Canon Inc カメラ制御装置
JPH09322060A (ja) * 1996-05-28 1997-12-12 Canon Inc 撮像装置、画像合成装置及び画像合成システム
JPH11196316A (ja) * 1997-12-26 1999-07-21 Minolta Co Ltd 画像読み取り装置
JP2004135208A (ja) * 2002-10-15 2004-04-30 Hitachi Ltd 映像撮影装置及び方法
JP2007267347A (ja) * 2006-02-28 2007-10-11 Sanyo Electric Co Ltd 撮影装置
US20100271511A1 (en) * 2009-04-24 2010-10-28 Canon Kabushiki Kaisha Processing multi-view digital images
JP2011077819A (ja) * 2009-09-30 2011-04-14 Fujifilm Corp 複眼撮像装置及びその輻輳角制御方法並びに撮像画像表示方法
JP2011130180A (ja) * 2009-12-17 2011-06-30 Olympus Imaging Corp 撮像装置
WO2018080244A1 (ko) * 2016-10-28 2018-05-03 삼성전자 주식회사 전방위 영상을 획득하는 방법 및 장치
JP2018097870A (ja) * 2016-12-08 2018-06-21 株式会社モルフォ 画像処理装置、電子機器、画像処理方法及びプログラム
US20190082114A1 (en) * 2017-09-11 2019-03-14 Samsung Electronics Co., Ltd. Apparatus and method for processing image received through a plurality of cameras

Also Published As

Publication number Publication date
US20210021759A1 (en) 2021-01-21
CN112243085A (zh) 2021-01-19
US11516390B2 (en) 2022-11-29

Similar Documents

Publication Publication Date Title
JP5865941B2 (ja) 撮影装置、携帯型情報処理端末、撮影装置のモニタ表示方法およびプログラム
JP2008311804A (ja) 撮像装置および撮像方法
JP2020188349A (ja) 撮像装置、撮像方法、コンピュータプログラム及び記憶媒体
JP2011048283A (ja) 撮影画像合成装置
CN110351475B (zh) 摄像系统、信息处理设备及其控制方法和存储介质
JP5492651B2 (ja) 撮影装置、パノラマ撮影方法
JP2011066517A (ja) 撮像システム、撮像装置、情報処理装置及び撮像方法
JP5724057B2 (ja) 撮像装置
JP2000341574A (ja) カメラ装置及びカメラ制御システム
US11184547B2 (en) Imaging device, method for controlling imaging device, and recording medium
JP2021019228A (ja) 撮像装置、コンピュータプログラムおよび記録媒体
JP2010239416A (ja) 撮像装置及びその制御方法
JP4448001B2 (ja) 撮像装置
KR20060133265A (ko) 프라이버시 마스크 표시 제어 방법 및 장치
KR20170055455A (ko) 초광각 카메라를 이용한 렌즈 왜곡 영상 보정 카메라 시스템 및 그가 적용된 tvi 장치
JP2013034158A (ja) 撮像装置
US11637958B2 (en) Control apparatus, control method, and storage medium
JPH11122521A (ja) ディジタル撮像装置および撮像方法
JP2005005816A (ja) 広角カメラおよび広角カメラシステム
JP2022182840A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2023016580A (ja) 撮像システム、撮像方法、及びコンピュータプログラム
JP2023168122A (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP2021125826A (ja) 撮像装置、画像処理装置の制御方法、撮像システム
JP2023086483A (ja) 画像処理装置、画像処理方法およびプログラム
KR20240009094A (ko) 팬틸트줌 동작이 가능한 카메라 장치와 이를 이용한 영상 감시 시스템 및 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220705

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230328

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A045 Written measure of dismissal of application [lapsed due to lack of payment]

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20231219