JP2013098739A - 画像処理装置およびその制御方法 - Google Patents
画像処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2013098739A JP2013098739A JP2011239556A JP2011239556A JP2013098739A JP 2013098739 A JP2013098739 A JP 2013098739A JP 2011239556 A JP2011239556 A JP 2011239556A JP 2011239556 A JP2011239556 A JP 2011239556A JP 2013098739 A JP2013098739 A JP 2013098739A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- code amount
- shooting mode
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】
符号量抑制モードがONで、撮影モードが遠景撮影モードの場合には、多視点の画像の視差が小さいので、2次元配列の撮像部の四隅と中央の視点位置の画像を保存対象にする。また、符号量抑制モードがONで、撮影モードが近景撮影モードの場合には、或る程度の高い画質の自由視点の画像を生成するため、遠景撮影モードよりも視点間隔が狭い視点位置の画像を保存対象にする。
【選択図】 図1
Description
M×N個の撮像部を有し、前記撮像部それぞれから得られた、互いに異なる視点位置の画像を符号化し、所定の記録媒体に保存する画像処理装置であって、
符号量を抑制する符号量抑制モードとするか、非符号量抑制モードにするかを設定する設定手段と、
該設定手段によって符号量を抑制する符号量抑制モードが設定された場合にあっては、撮影時の撮影モードが近景撮影モードか、遠景撮影モードかを判定する判定手段と、
前記設定手段により非符号量抑制モードが設定された場合には前記M×N個の撮像部からの全画像を保存対象として決定し、
前記判定手段で遠景撮影モードであると判定した場合、前記M×N個の撮像部における四隅を含むI個の撮像部からの画像を保存対象として決定し、
前記判定手段で近景撮影モードであると判定した場合、前記M×N個の撮像部中、前記近景撮影モードにおける保存対象の撮像部の間隔よりも短い間隔の、J個(ただし、I<J<M×N)の撮像部からの画像を保存対象として決定する決定手段と、
該決定手段で決定された撮像部における画像を保存対象画像として符号化する符号化手段と、
符号化して得られた符号化データを所定のメモリに保存する保存手段とを備える。
図1は、本発明の第1の実施形態に係る画像処理装置、すなわち、複数の撮像部を備える多眼方式による撮像装置の一例を示した図である。
図2は、本発明の第1の実施形態に係る画像処理装置内のブロック構成図である。
本実施形態に係る画像処理は、上記撮影装置におけるCPU201、撮影部202、データの転送バス部203、操作部206、画像処理部209及び内部メモリ211に関連するものである。
手ぶれは人間の手の揺れによっておこるもので、手ぶれ補正は、連続画像間、即ち、フレーム間、の位置合わせによりぼけ部分を補正する処理である。撮影装置の中心撮影部から取得する画像はユーザが一番注目すると思われる画像なので、この画像を中心に、中心画像の撮影カメラのぶれ方向にある一連の画像を手ぶれ補正用の画像にするのは一般である。図6にある選択される画像を手ぶれ補正に応用する際に、例えば、縦方向にぶれる場合には、中心画像と、縦列方向にあるカメラ同士から取得する画像を選択すれば良い。或いは、横方向にぶれる場合に、中心画像と、行列方向にあるカメラ同士から取得する画像を選択すれば良い。ぶれ方向が確定されない場合に、縦方向か横方向の画像選択方法のいずれにすれば良い。
リフォーカス処理は、撮影時の深度、以下に距離とも呼び、を推定し、この深度情報により注目部位にピントを合わせ、それ以外にぼかす処理である。深度推定は、ある程度視差のある二枚の画像から出来るが、距離の推定精度を上げるために基線長が長くなる位置、即ち、視差情報の大きい位置、にある画像を処理対象画像にするのは一般である。図6にある選択される画像をリフォーカスに応用する際に、例えば、選択画像のうち、撮影装置の対角線の両端にある選択画像、或いは、上下方向の両端にある画像、或いは、他に任意方向の両端にある画像を選択すれば良い。
自由視点画像の生成は、予め取得した視点画像、或いは、視点画像及び深度画像両方を利用して任意視点の仮想カメラからの撮影画像を生成するものである。基本的に、撮影装置の四端にある撮影カメラから取得する画像は重要で、そこから中間視点の画像情報の生成が可能になる。図6にある選択される画像を自由視点生成処理に応用する際に、例えば、中心画像と四端にある画像計五枚を使っても良いし、密に選択される画像を使っても良い。
上記の第1の実施形態では、近景撮影モード、遠景撮影モードのいずれかをユーザが操作部206を操作して指定するものとした。本実施形態では、撮影モードとして、遠景モード、近景モード、更には自動モードを有する例を説明する。装置構成は第1の実施形態と同様としてその説明は省略する。自動モードでは、被写体の遠景、近景の判断は撮影画像から判断するものである。なお、第1の実施形態では、保存対象の画像に対応する視点位置は、撮影モードを指定したときに決定していた。かか点、本第2の実施形態では、撮影ボタン110が押下されたときに、符号量抑制モードのON/OFF、撮影モードに応じて、保存する画像の視点位置とし、図5、図6、或いは全視点のいずれかを決定し、保存する例を説明する。
上記の第1、第2の実施形態では、複数のカメラを空間的に配置する多眼方式の撮像装置に関して、撮影モードは遠景モードか近景モードにより画像選択の切り替えを行うものとした。本第3の実施形態は、多眼方式の撮影装置を光学的に実現するライトフィールドカメラのような撮影装置に関して、撮影装置に取り付けられるレンズの情報を利用して、遠景モードに相当する撮影か、近景モードに相当するか撮影を判断する例を説明する。
上記実施形態では、M×N個の撮像部を有する多眼撮影装置における符号量抑制モードがONになっているとき、M×Nより少ない数の画像を保存した。しかし、保存する画像の枚数はN×M枚の固定にし、圧縮率の異なる符号化を適用的に切り換えるようにしても良い。すなわち、符号量抑制モードがOFFの場合、全画像を画質優先すべく、低圧縮率である低圧縮符号化モードで符号化する(第1の圧縮率による符号化処理)。そして、符号量抑制モードがONになっている場合には、低圧縮符号化モード(第1の圧縮率)で符号化する画像数を減らし、逆に、高圧縮符号化(第2の圧縮率)で符号化される画像数を多くする。
上記第4の実施形態では、選択画像か、非選択画像かを判定し、その判定結果に応じて符号化の際の量子化ステップQ0、Q1(Q0<Q1)のいずれかを選択して符号化を行った。第4の実施形態に加えて、本第5の実施形態では、撮像画像の最終保存先である外部メモリ制御部212に管理されている記憶媒体の空き容量も加味する例を説明する。このため、本第5の実施形態では、第3の圧縮率を実現する量子化ステップQ0’、第4の圧縮率を実現する量子化ステップQ1’(ただし、Q0’<Q1’)を設ける。先に示した組{Q0,Q1}との関係で示すと、Q0≦Q0’、Q1≦Q1’の関係にある。すなわち、Q0’を用いた場合、Q0を用いた場合より圧縮率が高くなり、生成される符号化データ量は少なくできる。そして、Q1’を用いた場合、Q1を用いた場合より圧縮率が高くなり、生成される符号化データ量は少なくできることを意味する。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (10)
- M×N個の撮像部を有し、前記撮像部それぞれから得られた、互いに異なる視点位置の画像を符号化し、所定の記録媒体に保存する画像処理装置であって、
符号量を抑制する符号量抑制モードとするか、非符号量抑制モードにするかを設定する設定手段と、
該設定手段によって符号量を抑制する符号量抑制モードが設定された場合にあっては、撮影時の撮影モードが近景撮影モードか、遠景撮影モードかを判定する判定手段と、
前記設定手段により非符号量抑制モードが設定された場合には前記M×N個の撮像部からの全画像を保存対象として決定し、
前記判定手段で遠景撮影モードであると判定した場合、前記M×N個の撮像部における四隅を含むI個の撮像部からの画像を保存対象として決定し、
前記判定手段で近景撮影モードであると判定した場合、前記M×N個の撮像部中、前記近景撮影モードにおける保存対象の撮像部の間隔よりも短い間隔の、J個(ただし、I<J<M×N)の撮像部からの画像を保存対象として決定する決定手段と、
該決定手段で決定された撮像部における画像を保存対象画像として符号化する符号化手段と、
符号化して得られた符号化データを所定のメモリに保存する保存手段と
を備えることを特徴とする画像処理装置。 - 前記判定手段は、ユーザによる指定した撮影モードから判定することを特徴とする請求項1に記載の画像処理装置。
- 前記判定手段は、前記M×N個の撮像部中の予め設定された視点位置の画像から、被写体までの深度画像を生成し、当該深度画像の画素値の平坦度を算出し、算出した平坦度と予め設定された閾値とを比較し、平坦度が閾値以下である場合には遠景撮影モードとして判定し、平坦度が閾値を超える場合には近景撮影モードと判定することを特徴とする請求項1に記載の画像処理装置。
- 前記判定手段は、前記撮像部の焦点距離が予め設定された閾値以上である場合には遠景撮影モード、前記撮像部の焦点距離が予め設定された閾値未満の場合には近景撮影モードと判定することを特徴とする請求項1に記載の画像処理装置。
- M×N個の撮像部を有し、前記撮像部それぞれから得られた、互いに異なる視点位置の画像を符号化し、所定の記録媒体に保存する画像処理装置であって、
符号量を抑制する符号量抑制モードとするか、非符号量抑制モードにするかを設定する設定手段と、
該設定手段によって符号量を抑制する符号量抑制モードが設定された場合にあっては、撮影時の撮影モードが近景撮影モードか、遠景撮影モードかを判定する判定手段と、
前記設定手段により非符号量抑制モードが設定された場合には前記M×N個の撮像部からの全画像を第1の圧縮率による符号化対象として決定し、
前記判定手段で遠景撮影モードであると判定した場合、前記M×N個の撮像部における四隅を含むI個の撮像部からの画像を第1の圧縮率、それ以外の画像を前記第1の圧縮率よりも高い第2の圧縮率による符号化対象として決定し、
前記判定手段で近景撮影モードであると判定した場合、前記M×N個の撮像部中、前記近景撮影モードにおける前記第1の圧縮率での符号化対象となった撮像部の間隔よりも短い間隔の、J個(ただし、I<J<M×N)の撮像部からの画像を前記第1の圧縮率、それ以外の画像を前記第2の圧縮率による符号化対象として決定する決定手段と、
該決定手段で決定された撮像部における画像を、それに対して決定した圧縮率に従って符号化する符号化手段と、
符号化して得られた符号化データを所定のメモリに保存する保存手段と
を備えることを特徴とする画像処理装置。 - 更に、前記所定のメモリの空き容量を検出する検出手段を有し、
前記決定手段は、該検出手段で検出した空き容量が予め設定した閾値未満の場合には、前記第1の圧縮率に代えて、当該第1の圧縮率よりも高い第3の圧縮率、前記第2の圧縮率に代えて、当該第2の圧縮率よりも高い第4の圧縮率(ただし、第3の圧縮率<第4の圧縮率)を用いることを特徴とする請求項5に記載の画像処理装置。 - M×N個の撮像部を有するコンピュータに読み込ませ実行させることで、前記コンピュータを、請求項1乃至6のいずれか1項に記載の各手段として機能させるためのプログラム。
- 請求項7に記載のプログラムを格納したことを特徴とするコンピュータが読み取り可能な記憶媒体。
- M×N個の撮像部を有し、前記撮像部それぞれから得られた、互いに異なる視点位置の画像を符号化し、所定の記録媒体に保存する画像処理装置の制御方法であって、
設定手段が、符号量を抑制する符号量抑制モードとするか、非符号量抑制モードにするかを設定する設定工程と、
判定手段が、該設定工程によって符号量を抑制する符号量抑制モードが設定された場合にあっては、撮影時の撮影モードが近景撮影モードか、遠景撮影モードかを判定する判定工程と、
決定手段が、
前記設定工程により非符号量抑制モードが設定された場合には前記M×N個の撮像部からの全画像を保存対象として決定し、
前記判定工程で遠景撮影モードであると判定した場合、前記M×N個の撮像部における四隅を含むI個の撮像部からの画像を保存対象として決定し、
前記判定工程で近景撮影モードであると判定した場合、前記M×N個の撮像部中、前記近景撮影モードにおける保存対象の撮像部の間隔よりも短い間隔の、J個(ただし、I<J<M×N)の撮像部からの画像を保存対象として決定する決定工程と、
符号化手段が、該決定工程で決定された撮像部における画像を保存対象画像として符号化する符号化工程と、
保存手段が、符号化して得られた符号化データを所定のメモリに保存する保存工程と
を有することを特徴とする画像処理装置の制御方法。 - M×N個の撮像部を有し、前記撮像部それぞれから得られた、互いに異なる視点位置の画像を符号化し、所定の記録媒体に保存する画像処理装置の制御方法であって、
設定手段が、符号量を抑制する符号量抑制モードとするか、非符号量抑制モードにするかを設定する設定工程と、
判定手段が、該設定工程によって符号量を抑制する符号量抑制モードが設定された場合にあっては、撮影時の撮影モードが近景撮影モードか、遠景撮影モードかを判定する判定工程と、
決定手段が、
前記設定工程により非符号量抑制モードが設定された場合には前記M×N個の撮像部からの全画像を第1の圧縮率による符号化対象として決定し、
前記判定工程で遠景撮影モードであると判定した場合、前記M×N個の撮像部における四隅を含むI個の撮像部からの画像を第1の圧縮率、それ以外の画像を前記第1の圧縮率よりも高い第2の圧縮率による符号化対象として決定し、
前記判定工程で近景撮影モードであると判定した場合、前記M×N個の撮像部中、前記近景撮影モードにおける前記第1の圧縮率での符号化対象となった撮像部の間隔よりも短い間隔の、J個(ただし、I<J<M×N)の撮像部からの画像を前記第1の圧縮率、それ以外の画像を前記第2の圧縮率による符号化対象として決定する決定工程と、
符号化手段が、該決定工程で決定された撮像部における画像を、それに対して決定した圧縮率に従って符号化する符号化工程と、
保存手段が、符号化して得られた符号化データを所定のメモリに保存する保存工程と
を有することを特徴とする画像処理装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011239556A JP5869839B2 (ja) | 2011-10-31 | 2011-10-31 | 画像処理装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011239556A JP5869839B2 (ja) | 2011-10-31 | 2011-10-31 | 画像処理装置およびその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013098739A true JP2013098739A (ja) | 2013-05-20 |
JP5869839B2 JP5869839B2 (ja) | 2016-02-24 |
Family
ID=48620255
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011239556A Active JP5869839B2 (ja) | 2011-10-31 | 2011-10-31 | 画像処理装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5869839B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015154217A (ja) * | 2014-02-13 | 2015-08-24 | キヤノン株式会社 | 画像処理装置、画像生成装置、制御方法およびプログラム |
US11050992B2 (en) | 2019-03-01 | 2021-06-29 | Canon Kabushiki Kaisha | Control apparatus, image processing system, control method, and medium |
JP7417388B2 (ja) | 2019-09-10 | 2024-01-18 | 日本放送協会 | 符号化装置、復号装置、及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06105294A (ja) * | 1992-09-24 | 1994-04-15 | Fujitsu Ltd | 画像データ量子化装置 |
JP2002008040A (ja) * | 2000-06-16 | 2002-01-11 | Matsushita Electric Ind Co Ltd | 三次元情報検出装置及び三次元情報検出方法 |
JP2008193530A (ja) * | 2007-02-06 | 2008-08-21 | Canon Inc | 画像記録装置、画像記録方法、及びプログラム |
JP2009010944A (ja) * | 2007-05-30 | 2009-01-15 | Fujifilm Corp | 撮像装置、撮像方法、及びプログラム |
-
2011
- 2011-10-31 JP JP2011239556A patent/JP5869839B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06105294A (ja) * | 1992-09-24 | 1994-04-15 | Fujitsu Ltd | 画像データ量子化装置 |
JP2002008040A (ja) * | 2000-06-16 | 2002-01-11 | Matsushita Electric Ind Co Ltd | 三次元情報検出装置及び三次元情報検出方法 |
JP2008193530A (ja) * | 2007-02-06 | 2008-08-21 | Canon Inc | 画像記録装置、画像記録方法、及びプログラム |
JP2009010944A (ja) * | 2007-05-30 | 2009-01-15 | Fujifilm Corp | 撮像装置、撮像方法、及びプログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015154217A (ja) * | 2014-02-13 | 2015-08-24 | キヤノン株式会社 | 画像処理装置、画像生成装置、制御方法およびプログラム |
US11050992B2 (en) | 2019-03-01 | 2021-06-29 | Canon Kabushiki Kaisha | Control apparatus, image processing system, control method, and medium |
JP7417388B2 (ja) | 2019-09-10 | 2024-01-18 | 日本放送協会 | 符号化装置、復号装置、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP5869839B2 (ja) | 2016-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230353869A1 (en) | Imaging apparatus and setting screen thereof | |
JP4969474B2 (ja) | 復号方法、復号装置、及び復号プログラム | |
CN101411181B (zh) | 执行电子视频图像稳定的装置和方法 | |
JP5956808B2 (ja) | 画像処理装置およびその方法 | |
US9282312B2 (en) | Single-eye stereoscopic imaging device, correction method thereof, and recording medium thereof | |
US9961272B2 (en) | Image capturing apparatus and method of controlling the same | |
US8836763B2 (en) | Imaging apparatus and control method therefor, and 3D information obtaining system | |
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
CN103986867A (zh) | 一种图像拍摄终端和图像拍摄方法 | |
US20170006200A1 (en) | Image processing apparatus, image processing method and program, and imaging apparatus | |
KR101889932B1 (ko) | 촬영 장치 및 이에 적용되는 촬영 방법 | |
JP2015139020A (ja) | 電子機器及び制御プログラム | |
JP2015171097A (ja) | 画像処理装置及びその制御方法 | |
JP5869839B2 (ja) | 画像処理装置およびその制御方法 | |
KR102336449B1 (ko) | 촬영 장치 및 촬영 장치의 동작방법 | |
JP5895587B2 (ja) | 画像記録装置、画像記録方法、画像再生装置および画像再生方法 | |
JP2013150071A (ja) | 符号化装置、符号化方法、プログラム及び記憶媒体 | |
US10911780B2 (en) | Multi-viewpoint image coding apparatus, multi-viewpoint image coding method, and storage medium | |
JP2015139018A (ja) | 電子機器及び制御プログラム | |
WO2024053522A1 (ja) | 画像処理装置および画像処理方法 | |
JP2018088600A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2018125887A (ja) | 電子機器 | |
JP2015005806A (ja) | 画像圧縮装置及び電子カメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141002 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150727 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150814 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151013 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151109 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151117 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151211 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160108 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5869839 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |