JP2013065280A5 - - Google Patents

Download PDF

Info

Publication number
JP2013065280A5
JP2013065280A5 JP2012138922A JP2012138922A JP2013065280A5 JP 2013065280 A5 JP2013065280 A5 JP 2013065280A5 JP 2012138922 A JP2012138922 A JP 2012138922A JP 2012138922 A JP2012138922 A JP 2012138922A JP 2013065280 A5 JP2013065280 A5 JP 2013065280A5
Authority
JP
Japan
Prior art keywords
image data
distance
viewpoint
processing apparatus
viewpoints
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012138922A
Other languages
English (en)
Other versions
JP2013065280A (ja
JP5968107B2 (ja
Filing date
Publication date
Application filed filed Critical
Priority to JP2012138922A priority Critical patent/JP5968107B2/ja
Priority claimed from JP2012138922A external-priority patent/JP5968107B2/ja
Priority to US13/599,293 priority patent/US9055218B2/en
Priority to EP12182507.9A priority patent/EP2566150B1/en
Publication of JP2013065280A publication Critical patent/JP2013065280A/ja
Publication of JP2013065280A5 publication Critical patent/JP2013065280A5/ja
Application granted granted Critical
Publication of JP5968107B2 publication Critical patent/JP5968107B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明に係る画像処理装置は、複数の視点に対応する複数視点画像データを合成することにより合成画像データを生成する画像処理装置であって、前記合成画像データの仮想合焦距離を入力する入力手段と、前記複数視点に含まれる視点から前記合成画像データにおける被写体までの距離を示す距離情報を入力する距離情報取得手段と、前記複数視点の位置関係を示す情報を入力し、前記仮想合焦距離、前記距離情報、及び前記位置関係を示す情報に基づいて、前記複数視点画像データに適用して画像にボケを与えるフィルタのサイズを決定する決定手段と、前記複数視点画像データに対して、前記決定手段で決定されたサイズの前記フィルタを用いてフィルタ処理を行うフィルタ処理手段と、前記フィルタ処理がなされた複数視点画像データを合成して、合成画像データを生成する生成手段とを備えることを特徴とする。
ステップ1110において、フィルタ作用部204は、周辺画素の画素位置(x',y')を更新して、ステップ1105に戻る。周辺画素の画素位置(x',y')は、(x-S,y-S), (x-S+1,y-S),・・・(x+S,y-S),(x-S,y-S+1),・・・(x+S,y+S)の順に更新される。つまり、着目画素位置(x,y)を中心として、(2S+1)×(2S+1)のサイズの正方形を左上から右下に向かって更新される。但し、周辺画素の画素位置が画像をはみ出すときは画像内にクリッピングされる。フィルタサイズの最大値は予め決めておいても良いし、ピントから一番離れている被写体のフィルタのタップ数を元に決めてもよい。
図15は、本実施例に係る撮像装置の主要な構成要素を示すである。実施例1に係る図1と共通する部分については説明を省略し、差異点のみ説明することとする。

Claims (15)

  1. 複数の視点に対応する複数視点画像データを合成することにより合成画像データを生成する画像処理装置であって、
    前記合成画像データの仮想合焦距離を入力する入力手段と、
    前記複数視点に含まれる視点から前記合成画像データにおける被写体までの距離を示す距離情報を入力する距離情報取得手段と、
    前記複数視点の位置関係を示す情報を入力し、前記仮想合焦距離、前記距離情報、及び前記位置関係を示す情報に基づいて、前記複数視点画像データに適用して画像にボケを与えるフィルタのサイズを決定する決定手段と、
    前記複数視点画像データに対して、前記決定手段で決定されたサイズの前記フィルタを用いてフィルタ処理を行うフィルタ処理手段と、
    前記フィルタ処理がなされた複数視点画像データを合成して、合成画像データを生成する生成手段と
    を備えることを特徴とする画像処理装置。
  2. 前記距離情報は、領域ごとの被写体までの距離を有し、
    前記フィルタ処理手段は、前記領域ごとの被写体までの距離を示す距離情報に基づいて、前記複数視点画像データに対してフィルタ処理を行う
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記領域は画素であることを特徴とする請求項2に記載の画像処理装置。
  4. 前記複数視点の位置関係を示す情報は、前記複数視点の間隔を示すことを特徴とする請求項1に記載の画像処理装置。
  5. 前記距離情報取得手段は、前記複数視点画像データが示す画像の間のオプティカルフローを算出することにより、前記被写体までの距離を示す距離情報を取得することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  6. 前記距離情報取得手段は、測距センサを用いて、前記被写体までの距離を示す距離情報を取得することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  7. 前記フィルタは、ローパスフィルタであることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  8. 前記複数の視点から撮像された画像内のピントがあっている領域を特定する特定手段をさらに備え、
    前記フィルタ処理手段は、前記ピントがあっている領域以外の領域に対して、前記ピントがあっている領域よりもより低周波の領域にパワーを集中させるようなローパスフィルタを作用させる
    ことを特徴とする請求項7に記載の画像処理装置。
  9. 複数の視点に対応する複数視点画像データを合成することにより合成画像データを生成する画像処理方法であって、
    前記合成画像データの仮想合焦距離を入力するステップと、
    前記複数視点に含まれる視点から前記合成画像データにおける被写体までの距離を示す距離情報を入力するステップと、
    前記複数視点の位置関係を示す情報を入力し、前記仮想合焦距離、前記距離情報、及び前記位置関係を示す情報に基づいて、前記複数視点画像データに適用して画像にボケを与えるフィルタのサイズを決定するステップと、
    前記複数視点画像データに対して、前記決定するステップで決定されたサイズの前記フィルタを用いてフィルタ処理を行うステップと、
    前記フィルタ処理がなされた複数視点画像データを合成して、合成画像データを生成するステップと
    を含むことを特徴とする画像処理方法。
  10. コンピュータを、請求項1乃至8のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
  11. 複数の視点に対応する複数視点画像データを合成することにより合成画像データを生成する画像処理装置であって、
    前記合成画像データの仮想合焦距離を入力する第1の入力手段と、
    前記複数視点に含まれる視点から前記合成画像データにおける被写体までの距離を示す距離情報を入力する第2の入力手段と、
    前記仮想合焦距離及び前記距離情報に基づいて、前記複数視点画像データによって表されるボケ画像に適用するフィルタ処理を決定する決定手段と、
    前記複数視点画像データによって表される前記ボケ画像に対して、前記決定手段で決定された前記フィルタ処理を行うフィルタ処理手段と、
    前記フィルタ処理後の前記複数視点画像データによって表される前記ボケ画像に位置合わせを行ない、当該位置合わせ後の前記複数視点画像データによって表される前記ボケ画像を合成することにより合成画像データを生成する生成手段と
    を備え、
    前記被写体までの距離と前記仮想合焦距離との差は、前記位置合わせ後の前記複数視点画像データによって表される前記ボケ画像間の前記被写体の画素位置における差が増加すると、増加する
    ことを特徴とする画像処理装置。
  12. 前記位置合わせに用いる前記複数視点画像データによって表される前記ボケ画像の各画素のシフト量は、画素位置に関わらず各ボケ画像において一定であることを特徴とする請求項11に記載の画像処理装置。
  13. 前記距離情報は、前記複数視点の各視点にそれぞれ対応する複数の距離マップを含み、各画素に対応する被写体の距離を示し、
    前記フィルタ処理手段は、前記複数視点画像データによって表される前記ボケ画像のそれぞれに対し、対応する距離マップを用いて前記フィルタ処理を行なう
    ことを特徴とする請求項11に記載の画像処理装置。
  14. 複数の視点に対応する複数視点画像データを合成することにより合成画像データを生成する画像処理方法であって、
    前記合成画像データの仮想合焦距離を入力するステップと、
    前記複数視点に含まれる視点から前記合成画像データにおける被写体までの距離を示す距離情報を入力するステップと、
    前記仮想合焦距離及び前記距離情報に基づいて、前記複数視点画像データによって表されるボケ画像に適用するフィルタ処理を決定するステップと、
    前記複数視点画像データによって表される前記ボケ画像に対して、前記決定するステップで決定された前記フィルタ処理を行うステップと、
    前記フィルタ処理後の前記複数視点画像データによって表される前記ボケ画像に位置合わせを行ない、当該位置合わせ後の前記複数視点画像データによって表される前記ボケ画像を合成することにより合成画像データを生成するステップと
    を含み、
    前記被写体までの距離と前記仮想合焦距離との差は、前記位置合わせ後の前記複数視点画像データによって表される前記ボケ画像間の前記被写体の画素位置における差が増加すると、増加する
    ることを特徴とする画像処理装置。
  15. コンピュータを、請求項11乃至13のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
JP2012138922A 2011-09-01 2012-06-20 画像処理方法、画像処理装置およびプログラム Active JP5968107B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012138922A JP5968107B2 (ja) 2011-09-01 2012-06-20 画像処理方法、画像処理装置およびプログラム
US13/599,293 US9055218B2 (en) 2011-09-01 2012-08-30 Image processing apparatus, image processing method, and program for combining the multi-viewpoint image data
EP12182507.9A EP2566150B1 (en) 2011-09-01 2012-08-31 Image processing apparatus, image processing method, and program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011190863 2011-09-01
JP2011190863 2011-09-01
JP2012138922A JP5968107B2 (ja) 2011-09-01 2012-06-20 画像処理方法、画像処理装置およびプログラム

Publications (3)

Publication Number Publication Date
JP2013065280A JP2013065280A (ja) 2013-04-11
JP2013065280A5 true JP2013065280A5 (ja) 2015-07-16
JP5968107B2 JP5968107B2 (ja) 2016-08-10

Family

ID=47018760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012138922A Active JP5968107B2 (ja) 2011-09-01 2012-06-20 画像処理方法、画像処理装置およびプログラム

Country Status (3)

Country Link
US (1) US9055218B2 (ja)
EP (1) EP2566150B1 (ja)
JP (1) JP5968107B2 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6112824B2 (ja) 2012-02-28 2017-04-12 キヤノン株式会社 画像処理方法および装置、プログラム。
WO2013179963A1 (ja) * 2012-05-28 2013-12-05 富士フイルム株式会社 画像処理装置、撮像装置及び画像処理方法、並びにプログラム
JP6021541B2 (ja) * 2012-09-13 2016-11-09 キヤノン株式会社 画像処理装置及び方法
US9769365B1 (en) * 2013-02-15 2017-09-19 Red.Com, Inc. Dense field imaging
JP6141093B2 (ja) * 2013-04-30 2017-06-07 キヤノン株式会社 画像処理装置およびその制御方法
JP6210717B2 (ja) * 2013-04-30 2017-10-11 キヤノン株式会社 画像再生装置及び方法
JP6244655B2 (ja) 2013-05-16 2017-12-13 ソニー株式会社 画像処理装置および画像処理方法
JP6100089B2 (ja) 2013-05-17 2017-03-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6406804B2 (ja) * 2013-08-27 2018-10-17 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム並びに撮像装置
JP2015046019A (ja) * 2013-08-28 2015-03-12 キヤノン株式会社 画像処理装置、撮像装置、撮像システム、画像処理方法、プログラム、および、記憶媒体
US9426365B2 (en) * 2013-11-01 2016-08-23 The Lightco Inc. Image stabilization related methods and apparatus
JP6282103B2 (ja) * 2013-12-12 2018-02-21 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム。
JP6321991B2 (ja) * 2014-02-21 2018-05-09 キヤノン株式会社 画像処理装置、制御方法、プログラム、及び記録媒体
JP6198663B2 (ja) * 2014-04-18 2017-09-20 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
US20150334309A1 (en) * 2014-05-16 2015-11-19 Htc Corporation Handheld electronic apparatus, image capturing apparatus and image capturing method thereof
JP6305232B2 (ja) * 2014-06-13 2018-04-04 キヤノン株式会社 情報処理装置、撮像装置、撮像システム、情報処理方法およびプログラム。
JP6351105B2 (ja) * 2014-09-29 2018-07-04 オリンパス株式会社 画像処理装置、撮像装置および画像処理方法
JP6729394B2 (ja) * 2015-01-13 2020-07-22 ソニー株式会社 画像処理装置、画像処理方法、プログラム及びシステム
EP3089449B1 (en) * 2015-04-30 2020-03-04 InterDigital CE Patent Holdings Method for obtaining light-field data using a non-light-field imaging device, corresponding device, computer program product and non-transitory computer-readable carrier medium
JP6611531B2 (ja) * 2015-09-16 2019-11-27 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、およびプログラム
KR102446442B1 (ko) * 2015-11-24 2022-09-23 삼성전자주식회사 디지털 촬영 장치 및 그 동작 방법
US10325356B2 (en) * 2015-11-30 2019-06-18 Canon Kabushiki Kaisha Image processing device, image processing method, imaging device, and recording medium for exclusively performing adjustment processing or viewpoint change processing
WO2017100487A1 (en) * 2015-12-11 2017-06-15 Jingyi Yu Method and system for image-based image rendering using a multi-camera and depth camera array
US9955057B2 (en) * 2015-12-21 2018-04-24 Qualcomm Incorporated Method and apparatus for computational scheimpflug camera
WO2018021067A1 (ja) * 2016-07-29 2018-02-01 ソニー株式会社 画像処理装置および画像処理方法
JP7107224B2 (ja) * 2016-11-08 2022-07-27 ソニーグループ株式会社 画像処理装置、画像処理方法、及び、プログラム
WO2018097831A1 (en) 2016-11-24 2018-05-31 Smith Joshua R Light field capture and rendering for head-mounted displays
WO2018098607A1 (en) * 2016-11-29 2018-06-07 SZ DJI Technology Co., Ltd. Method and system of adjusting image focus
JP2018163648A (ja) 2017-03-27 2018-10-18 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10721419B2 (en) * 2017-11-30 2020-07-21 International Business Machines Corporation Ortho-selfie distortion correction using multiple image sensors to synthesize a virtual image
JP6734253B2 (ja) 2017-12-20 2020-08-05 ファナック株式会社 ワークを撮像する視覚センサを備える撮像装置
JP7210180B2 (ja) * 2018-07-25 2023-01-23 キヤノン株式会社 画像処理装置、画像表示装置、画像処理方法、及びプログラム
US10783649B2 (en) * 2018-09-17 2020-09-22 Adobe Inc. Aligning digital images by selectively applying pixel-adjusted-gyroscope alignment and feature-based alignment models
JP2020052119A (ja) * 2018-09-25 2020-04-02 株式会社Screenホールディングス 画像処理方法および画像処理装置
JP6711428B2 (ja) * 2019-01-30 2020-06-17 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
US11910509B2 (en) 2021-03-02 2024-02-20 Whirlpool Corporation Method for improving accuracy in load curves acquisition on an induction cooktop
US11425283B1 (en) * 2021-12-09 2022-08-23 Unity Technologies Sf Blending real and virtual focus in a virtual display environment

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7085409B2 (en) * 2000-10-18 2006-08-01 Sarnoff Corporation Method and apparatus for synthesizing new video and/or still imagery from a collection of real video and/or still imagery
US8384763B2 (en) * 2005-07-26 2013-02-26 Her Majesty the Queen in right of Canada as represented by the Minster of Industry, Through the Communications Research Centre Canada Generating a depth map from a two-dimensional source image for stereoscopic and multiview imaging
CN101322418B (zh) * 2005-12-02 2010-09-01 皇家飞利浦电子股份有限公司 图像信号的深度相关的滤波
US8433157B2 (en) * 2006-05-04 2013-04-30 Thomson Licensing System and method for three-dimensional object reconstruction from two-dimensional images
JP4942221B2 (ja) 2006-10-25 2012-05-30 国立大学法人東京工業大学 高解像度仮想焦点面画像生成方法
JP2009211254A (ja) 2008-03-03 2009-09-17 Osaka City Univ 画像処理ユニット、複眼撮像装置、画像処理方法、および画像処理プログラム
US8405708B2 (en) * 2008-06-06 2013-03-26 Reald Inc. Blur enhancement of stereoscopic images
US8106924B2 (en) * 2008-07-31 2012-01-31 Stmicroelectronics S.R.L. Method and system for video rendering, computer program product therefor
US8279325B2 (en) * 2008-11-25 2012-10-02 Lytro, Inc. System and method for acquiring, editing, generating and outputting video data
JP5230456B2 (ja) * 2009-01-09 2013-07-10 キヤノン株式会社 画像処理装置および画像処理方法
US8228417B1 (en) * 2009-07-15 2012-07-24 Adobe Systems Incorporated Focused plenoptic camera employing different apertures or filtering at different microlenses
EP2403234A1 (en) * 2010-06-29 2012-01-04 Koninklijke Philips Electronics N.V. Method and system for constructing a compound image from data obtained by an array of image capturing devices
US8665341B2 (en) * 2010-08-27 2014-03-04 Adobe Systems Incorporated Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data
JP5411842B2 (ja) * 2010-12-07 2014-02-12 シャープ株式会社 撮像装置
US8878950B2 (en) * 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5761988B2 (ja) 2010-12-20 2015-08-12 キヤノン株式会社 画像処理装置、画像処理方法
JP5956808B2 (ja) * 2011-05-09 2016-07-27 キヤノン株式会社 画像処理装置およびその方法
JP5766034B2 (ja) 2011-06-08 2015-08-19 キヤノン株式会社 画像処理方法、画像処理装置及びプログラム。
US9129183B2 (en) * 2011-09-28 2015-09-08 Pelican Imaging Corporation Systems and methods for encoding light field image files
US8995785B2 (en) * 2012-02-28 2015-03-31 Lytro, Inc. Light-field processing and analysis, camera control, and user interfaces and interaction on light-field capture devices

Similar Documents

Publication Publication Date Title
JP2013065280A5 (ja)
JP5968107B2 (ja) 画像処理方法、画像処理装置およびプログラム
JP6112824B2 (ja) 画像処理方法および装置、プログラム。
KR102480245B1 (ko) 패닝 샷들의 자동 생성
JP6736471B2 (ja) 画像処理方法および画像処理装置
JP6548367B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
US10178299B2 (en) Control device and control method
JP5464279B2 (ja) 画像処理装置、そのプログラム、および画像処理方法
JP2010020758A5 (ja)
JP6655379B2 (ja) 焦点スタックから適応スライス画像を生成する方法および装置
JP2014039125A5 (ja)
JP2015231220A (ja) 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム
JP5766077B2 (ja) ノイズ低減のための画像処理装置及び画像処理方法
JP6319972B2 (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP2017184217A5 (ja)
US20180033157A1 (en) Image processing method and apparatus for determining depth within an image
JP5809607B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2019067388A (ja) ライトフィールド画像を操作するためのユーザインターフェイス
JP2017060010A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2013178684A (ja) 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム
JP6684646B2 (ja) 画像取得装置
KR101219859B1 (ko) 3d촬영장치에서의 반자동 주시각 제어장치 및 반자동 주시각 제어방법
JP2013175821A (ja) 画像処理装置、画像処理方法およびプログラム
JP2013200840A (ja) 映像処理装置、映像処理方法、映像処理プログラム、及び映像表示装置
JP5689693B2 (ja) 描画処理装置