JP6741533B2 - 撮影制御装置およびその制御方法 - Google Patents
撮影制御装置およびその制御方法 Download PDFInfo
- Publication number
- JP6741533B2 JP6741533B2 JP2016187474A JP2016187474A JP6741533B2 JP 6741533 B2 JP6741533 B2 JP 6741533B2 JP 2016187474 A JP2016187474 A JP 2016187474A JP 2016187474 A JP2016187474 A JP 2016187474A JP 6741533 B2 JP6741533 B2 JP 6741533B2
- Authority
- JP
- Japan
- Prior art keywords
- shooting
- moving image
- unit
- image
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 238000003384 imaging method Methods 0.000 title claims description 31
- 238000012937 correction Methods 0.000 claims description 129
- 238000012545 processing Methods 0.000 claims description 68
- 230000015572 biosynthetic process Effects 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 15
- 238000003786 synthesis reaction Methods 0.000 claims description 15
- 230000003287 optical effect Effects 0.000 claims description 8
- 230000002194 synthesizing effect Effects 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 15
- 239000000203 mixture Substances 0.000 description 15
- 239000011159 matrix material Substances 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 8
- 230000009466 transformation Effects 0.000 description 8
- 239000002131 composite material Substances 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 238000009434 installation Methods 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- G06T3/02—
-
- G06T5/92—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Description
HDR合成に使用されるフレーム画像を撮影する際の前記第1の撮影部及び前記第2の撮影部における第1の撮影条件を設定する第1の設定手段と、
前記第1の撮影条件とは異なる第2の撮影条件を設定する第2の設定手段と、
前記第1の撮影条件と前記第2の撮影条件とを用いて前記第1の撮影部及び前記第2の撮影部による撮影を制御する撮影制御手段と、
前記撮影制御手段による撮影制御により取得された前記第1の動画像及び前記第2の動画像のそれぞれに含まれる前記第2の撮影条件で撮影されたフレーム画像に基づいて、前記第1の動画像に含まれるフレーム画像と前記第2の動画像に含まれるフレーム画像との位置ズレを補正する補正パラメータを導出する導出手段と、
前記補正パラメータを用いて前記第1の動画像及び前記第2の動画像の少なくとも一方に対し幾何補正処理を行い、該幾何補正処理後に前記第1の動画像と前記第2の動画像とを合成する合成手段と、
を有する。
本発明に係る撮影制御装置の第1実施形態として、2台のカメラを利用して露出の異なる2つの動画像を取得しHDR合成を行う撮影システムを例に挙げて以下に説明する。
図1に、第1実施形態における撮影システムの概略構成を示す図である。本実施形態において使用するカメラの台数は2台に限定するものではないが、説明を簡単にするため、独立した光学系を有する2台のカメラを用いる場合を例にとって説明する。撮影システムは、撮影部201、撮影条件設定アプリケーション104、画像処理部107、画像出力部108で構成される。
図2は、第1実施形態における撮影システムの機能構成を示す図である。図1で説明した通り、ユーザは、撮影条件設定部105を介して各カメラについてのHDR動画撮影用の撮影条件を設定する。撮影条件設定部105は、設定された撮影条件をカメラ101及びカメラ102にそれぞれ反映させる。同様に、ユーザは、撮影条件設定部106を介して各カメラについての幾何補正用のフレーム画像の撮影条件を設定する。撮影条件設定部106は、設定された撮影条件をカメラ101及びカメラ102にそれぞれ反映される。
図3は、第1実施形態における処理を示すフローチャートである。
上述のように複数カメラを用いる場合、個々のカメラの取り付け精度に依存した被写体画像の位置ズレが発生することがある。
図10は、HDR合成処理におけるシーンの輝度と画素値の関係を示す図である。HDR合成処理部204におけるHDR合成は、任意の公知のHDR合成処理方法を用いることが出来る。
上述の第1実施形態における構成を、複数台のカメラによって撮影した動画像をつなぎ合わせて広範囲(高解像度)のパノラマ動画像を生成するパノラマ合成処理(所謂スティッチング処理)に適用してもよい。
第2実施形態では、撮影条件設定および撮影後に、幾何補正やHDR合成処理を行う前の動画像ファイルとして一度記録し、記録された画像ファイルに対して別途画像処理を施す方法について説明を行う。第1実施形態と同様の構成、処理に関しては説明を割愛する。
図11は、第2実施形態における撮影システムの機能構成を示す図である。撮影条件設定部105は、各カメラについてHDR動画撮影用の撮影条件をユーザから受け付け、カメラ101及びカメラ102にそれぞれ反映される。同様に、撮影条件設定部106は、各カメラについて幾何補正用の撮影条件をユーザから受け付け、カメラ101及びカメラ102にそれぞれ反映される。
図14は、第2実施形態における画像処理部の機能構成を示す図である。
第3実施形態では、単一のカメラ内で、プリズム等を用いて分割された像を複数のセンサを用いて同期撮影しHDR合成する形態について説明する。第1実施形態と同様の構成、処理内容に関しては説明を割愛し、異なる構成および処理について説明を行う。
図16に、第3実施形態における撮影システムの概略構成を示す図である。使用するセンサ数は2つに限定するものではないが、説明を簡単にするため、2つのセンサを用いる場合を例にとって説明する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (9)
- 第1の撮影部により撮影された第1の動画像と第2の撮影部により撮影された第2の動画像とを合成してハイダイナミックレンジ(HDR)動画像を生成する撮影制御装置であって、
HDR合成に使用されるフレーム画像を撮影する際の前記第1の撮影部及び前記第2の撮影部における第1の撮影条件を設定する第1の設定手段と、
前記第1の撮影条件とは異なる第2の撮影条件を設定する第2の設定手段と、
前記第1の撮影条件と前記第2の撮影条件とを用いて前記第1の撮影部及び前記第2の撮影部による撮影を制御する撮影制御手段と、
前記撮影制御手段による撮影制御により取得された前記第1の動画像及び前記第2の動画像のそれぞれに含まれる前記第2の撮影条件で撮影されたフレーム画像に基づいて、前記第1の動画像に含まれるフレーム画像と前記第2の動画像に含まれるフレーム画像との位置ズレを補正する補正パラメータを導出する導出手段と、
前記補正パラメータを用いて前記第1の動画像及び前記第2の動画像の少なくとも一方に対し幾何補正処理を行い、該幾何補正処理後に前記第1の動画像と前記第2の動画像とを合成する合成手段と、
を有することを特徴とする撮影制御装置。 - 前記合成手段は、前記幾何補正処理後の前記第1の動画像と前記第2の動画像とをHDR合成する
ことを特徴とする請求項1に記載の撮影制御装置。 - 前記第2の設定手段は、更に、前記第2の撮影条件を利用して撮影するフレーム番号を設定するよう構成されており、
前記導出手段は、前記フレーム番号に基づいて、前記撮影制御手段による撮影制御により取得された前記第1の動画像及び前記第2の動画像のそれぞれに含まれる前記第2の撮影条件で撮影されたフレーム画像を抽出する
ことを特徴とする請求項1に記載の撮影制御装置。 - 前記第1の設定手段は、前記第1の撮影部が前記HDR合成に使用される低明度画像を撮影し前記第2の撮影部が前記HDR合成に使用される高明度画像を撮影するように前記第1の撮影条件を設定し、
前記導出手段は、前記撮影制御手段による撮影制御により取得された前記第1の動画像に含まれる複数のフレーム画像のうち相対的に高い明度のフレーム画像を前記第2の撮影条件で撮影されたフレーム画像として抽出する
ことを特徴とする請求項1に記載の撮影制御装置。 - 前記第2の撮影条件において、前記第1の撮影部に対する露出条件と前記第2の撮影部に対する露出条件とは同一である
ことを特徴とする請求項1乃至4の何れか1項に記載の撮影制御装置。 - 前記第1の撮影部及び前記第2の撮影部は、それぞれ、独立した光学系を有するカメラであるか、又は、光学系を共有するセンサである
ことを特徴とする請求項1乃至5の何れか1項に記載の撮影制御装置。 - 前記合成手段は、前記幾何補正処理後にパノラマ合成処理を行う
ことを特徴とする請求項1に記載の撮影制御装置。 - 第1の撮影部により撮影された第1の動画像と第2の撮影部により撮影された第2の動画像とを合成してハイダイナミックレンジ(HDR)動画像を生成する撮影制御装置の制御方法であって、
HDR合成に使用されるフレーム画像を撮影する際の前記第1の撮影部及び前記第2の撮影部における第1の撮影条件を設定する第1の設定工程と、
前記第1の撮影条件とは異なる第2の撮影条件を設定する第2の設定工程と、
前記第1の撮影条件と前記第2の撮影条件とを用いて前記第1の撮影部及び前記第2の撮影部による撮影を制御する撮影制御工程と、
前記撮影制御工程による撮影制御により取得された前記第1の動画像及び前記第2の動画像のそれぞれに含まれる前記第2の撮影条件で撮影されたフレーム画像に基づいて、前記第1の動画像に含まれるフレーム画像と前記第2の動画像に含まれるフレーム画像との位置ズレを補正する補正パラメータを導出する導出工程と、
前記補正パラメータを用いて前記第1の動画像及び前記第2の動画像の少なくとも一方に対し幾何補正処理を行い、該幾何補正処理後に前記第1の動画像と前記第2の動画像とを合成する合成工程と、
を含むことを特徴とする撮影制御装置の制御方法。 - コンピュータを、請求項1乃至7の何れか1項に記載の撮影制御装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016187474A JP6741533B2 (ja) | 2016-09-26 | 2016-09-26 | 撮影制御装置およびその制御方法 |
US15/696,585 US10397475B2 (en) | 2016-09-26 | 2017-09-06 | Capturing control apparatus and method of controlling the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016187474A JP6741533B2 (ja) | 2016-09-26 | 2016-09-26 | 撮影制御装置およびその制御方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018056659A JP2018056659A (ja) | 2018-04-05 |
JP2018056659A5 JP2018056659A5 (ja) | 2019-11-07 |
JP6741533B2 true JP6741533B2 (ja) | 2020-08-19 |
Family
ID=61685888
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016187474A Active JP6741533B2 (ja) | 2016-09-26 | 2016-09-26 | 撮影制御装置およびその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10397475B2 (ja) |
JP (1) | JP6741533B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6933059B2 (ja) | 2017-08-30 | 2021-09-08 | 株式会社リコー | 撮影装置、情報処理システム、プログラム、画像処理方法 |
US10764496B2 (en) * | 2018-03-16 | 2020-09-01 | Arcsoft Corporation Limited | Fast scan-type panoramic image synthesis method and device |
CN110213503A (zh) * | 2019-06-28 | 2019-09-06 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN114841862B (zh) * | 2022-06-07 | 2023-02-03 | 北京拙河科技有限公司 | 一种基于亿像素阵列式相机的图像拼接方法及系统 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1198418A (ja) | 1997-09-24 | 1999-04-09 | Toyota Central Res & Dev Lab Inc | 撮像装置 |
US7142723B2 (en) * | 2003-07-18 | 2006-11-28 | Microsoft Corporation | System and process for generating high dynamic range images from multiple exposures of a moving scene |
JP4806329B2 (ja) | 2006-10-23 | 2011-11-02 | 三洋電機株式会社 | 撮像装置及び撮像方法 |
US8866920B2 (en) * | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
EP2297939B1 (en) * | 2008-06-19 | 2018-04-18 | Panasonic Intellectual Property Management Co., Ltd. | Method and apparatus for motion blur and ghosting prevention in imaging system |
JP2012239135A (ja) * | 2011-05-13 | 2012-12-06 | Nikon Corp | 電子機器 |
US9692966B2 (en) * | 2012-06-11 | 2017-06-27 | Sony Corporation | Image capturing device and image capturing method |
WO2014099320A1 (en) * | 2012-12-17 | 2014-06-26 | The Trustees Of Columbia University In The City Of New York | Methods, systems, and media for high dynamic range imaging |
WO2014138697A1 (en) * | 2013-03-08 | 2014-09-12 | Pelican Imaging Corporation | Systems and methods for high dynamic range imaging using array cameras |
US9578259B2 (en) * | 2013-03-14 | 2017-02-21 | Fotonation Cayman Limited | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
US8811811B1 (en) * | 2013-07-18 | 2014-08-19 | Fraunhofer-Gesellscahft zur Foerderung der angewandten Forschung e.V. | Camera system and method for generating high-quality HDR images or videos |
US9911454B2 (en) * | 2014-05-29 | 2018-03-06 | Jaunt Inc. | Camera array including camera modules |
US10368011B2 (en) * | 2014-07-25 | 2019-07-30 | Jaunt Inc. | Camera array removing lens distortion |
US9998692B1 (en) * | 2015-06-26 | 2018-06-12 | The United States Of America As Represented By The Secretary Of The Navy | Motion picture high dynamic range imaging |
JP6758946B2 (ja) * | 2015-09-09 | 2020-09-23 | キヤノン株式会社 | 撮像装置及び再生装置 |
US9787896B2 (en) * | 2015-12-29 | 2017-10-10 | VideoStitch Inc. | System for processing data from an omnidirectional camera with multiple processors and/or multiple sensors connected to each processor |
-
2016
- 2016-09-26 JP JP2016187474A patent/JP6741533B2/ja active Active
-
2017
- 2017-09-06 US US15/696,585 patent/US10397475B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20180091734A1 (en) | 2018-03-29 |
US10397475B2 (en) | 2019-08-27 |
JP2018056659A (ja) | 2018-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5806007B2 (ja) | 撮像装置 | |
US9094648B2 (en) | Tone mapping for low-light video frame enhancement | |
JP5319415B2 (ja) | 画像処理装置、画像処理方法 | |
JP6157242B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4900401B2 (ja) | 撮影装置およびプログラム | |
JP5214476B2 (ja) | 撮像装置及び画像処理方法並びにプログラム | |
JP6741533B2 (ja) | 撮影制御装置およびその制御方法 | |
US20150334283A1 (en) | Tone Mapping For Low-Light Video Frame Enhancement | |
JP6304293B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6786311B2 (ja) | 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体 | |
JP5279636B2 (ja) | 撮像装置 | |
JP2018037857A5 (ja) | 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体 | |
JP2007336394A (ja) | 撮像装置及び画像合成方法 | |
US20180352154A1 (en) | Image processing method, electronic device, and non-transitory computer readable storage medium | |
JP2016111568A (ja) | 像ぶれ補正制御装置、撮像装置およびそれらの制御方法、プログラム | |
JP2019029954A (ja) | 画像処理装置および画像処理方法 | |
JP7247609B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP5822606B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP6719307B2 (ja) | 情報処理装置およびその制御方法 | |
JP6953594B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP5613145B2 (ja) | 撮影装置およびプログラム | |
JP5301690B2 (ja) | 撮影装置および方法並びにプログラム | |
JP5966072B2 (ja) | 撮像装置および撮像方法 | |
JP2018026743A (ja) | 画像処理装置、制御方法、及びプログラム | |
JP5239687B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190925 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200608 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200626 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200727 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6741533 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |