JPWO2015015935A1 - 撮像装置及び画像処理方法 - Google Patents
撮像装置及び画像処理方法 Download PDFInfo
- Publication number
- JPWO2015015935A1 JPWO2015015935A1 JP2015529450A JP2015529450A JPWO2015015935A1 JP WO2015015935 A1 JPWO2015015935 A1 JP WO2015015935A1 JP 2015529450 A JP2015529450 A JP 2015529450A JP 2015529450 A JP2015529450 A JP 2015529450A JP WO2015015935 A1 JPWO2015015935 A1 JP WO2015015935A1
- Authority
- JP
- Japan
- Prior art keywords
- filter
- image
- unit
- focus
- restoration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 179
- 238000003672 processing method Methods 0.000 title claims abstract description 32
- 238000012545 processing Methods 0.000 claims abstract description 264
- 238000000034 method Methods 0.000 claims abstract description 106
- 230000008569 process Effects 0.000 claims abstract description 98
- 230000003287 optical effect Effects 0.000 claims abstract description 58
- 230000006870 function Effects 0.000 claims description 82
- 238000011156 evaluation Methods 0.000 claims description 67
- 238000013459 approach Methods 0.000 claims description 10
- 238000012546 transfer Methods 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 8
- 230000004075 alteration Effects 0.000 claims description 4
- 230000007423 decrease Effects 0.000 claims description 4
- 238000012935 Averaging Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 19
- 238000001514 detection method Methods 0.000 description 13
- 239000004973 liquid crystal related substance Substances 0.000 description 12
- 238000012986 modification Methods 0.000 description 10
- 230000004048 modification Effects 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 230000033001 locomotion Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 5
- 210000001747 pupil Anatomy 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000006837 decompression Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 238000010295 mobile communication Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000005674 electromagnetic induction Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/615—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
Description
X(t)=(1−W(r))×X(t0)+W(r)×F
但し、r=(t−t0)/(t1−t0)、X(0)=A
により算出することが好ましい。
図1及び図2はそれぞれ本発明に係る撮像装置の実施形態を示す斜視図及び背面図である。この撮像装置10は、レンズを通った光を撮像素子で受け、デジタル信号に変換して静止画又は動画の画像データとして記録メディアに記録するデジタルカメラ、又はデジタルビデオカメラである。
図3は上記撮像装置10の内部構成の実施形態を示すブロック図である。この撮像装置10は、撮像した画像をメモリカード54に記録するもので、装置全体の動作は、中央処理装置(CPU)40によって統括制御される。
6の撮像領域内に離散的に複数箇所設けるようにしてもよく、また、撮像領域の全域に設けるようにしてもよい。
図7は、図3に示した撮像装置10の画像処理部24の実施形態を示す要部ブロック図である。
<第1の実施形態>
次に、撮像装置10内の復元処理装置の第1の実施形態について説明する。
(2) 復元後の変調伝達関数(MTF)が1.0を超えない復元フィルタ(輝度データYに対する第1フィルタ102の場合、RGBの色によっては、復元後のMTFが1.0を超えるものがある)
(3) ゼロ位相フィルタ(周波数依存の像の移動を含まないフィルタ、及び位相復元を行わない復元フィルタを含む)
(4) 光学系の収差が最も少ない領域のPSFに対応して生成された復元フィルタ
(5) 滑らかな周波数特性であり、大きなフィルタ係数はカーネルの中心付近に集中しており、リンギングを起こしにくいフィルタ
(6) カーネルの中央が1で中央以外が0のフィルタ(入力データをそのまま出力するフィルタ)
(7)第1フィルタに比べて復元強度が低いフィルタ
尚、第2フィルタ104は、上記に列挙したものに限らず、要はアーティファクトを発生させにくいものであれば、如何なるものでもよい。また、(7)第1フィルタに比べて復元強度が低いフィルタとしては、復元強度が0のフィルタ、すなわち復元処理を行わないよう制御する場合も含まれる。
次に、撮像装置10内の復元処理装置の第2の実施形態について説明する。
YC=ω(ΔT)×YA+(1−ω(ΔT))×YB
加重平均算出部210は、上記のようにして算出した輝度データYCを出力する。尚、合焦判別部150により現時点の画像が目標の合焦状態にあると判別されると、重み係数ω(ΔT)は、1になるため、第1復元処理部110により算出された輝度データYAが、
そのまま輝度データYCとして出力されることになる。
図14は、上記第2の実施形態の変形例に対応する画像処理方法を示すフローチャートである。尚、図14において、図13に示した第2の実施形態と共通する部分には、同一のステップ番号を付し、その詳細な説明は省略する。
次に、撮像装置10内の復元処理装置の第3の実施形態について説明する。
次に、撮像装置10内の復元処理装置の第4の実施形態について説明する。
次に、撮像装置10内の復元処理装置の第5の実施形態について説明する。
予測した合焦時刻をt1とし、次式に示す変数r(0≦r≦1)を算出する。
r=(t−t0)/(t1−t0)
そして、任意の単調増加関数(例えば、図24に示すW1,W2、又はW3)と、変数rとにより重み係数W(r)を算出する。尚、図24に示すように重み係数W(r)は、W(0)=0、W(1)=1である。
X(t)=(1−W(r))×X(t0)+W(r)×F
[数4]式において、X(t0)は、前回の時刻t0における第3フィルタであり、第2フィルタ取得部140から取得した第2フィルタ104をAとすると、最初の時刻の第3フィルタX(0)は、Aである(X(0)=A)。また、Fは、第1フィルタ取得部130により取得した、予想した合焦時刻t1における光学系の撮影条件に対応する第1フィルタである。
F制御の時間経過に伴って徐々に1に近づき、その結果、第3フィルタX(t)は、第2フィルタ104から第1フィルタ102に徐々に近づく。
(輝度データYC)を出力する(図25、ステップS100)。
次に、撮像装置10内の復元処理装置の第6の実施形態について説明する。
ON)されたか否かが判別される(ステップS116)。シャッタボタン2が「全押し」されていない場合には、ステップS102に遷移し、上記ステップS102からステップS116の処理が繰り返される。一方、シャッタボタン2が「全押し」されると、静止画の取得が行われ(ステップS118)、取得した静止画に対して、第1復元処理部110により第1フィルタ102を使用した復元処理が行われる(ステップS120)。
図30は、撮像装置10の他の実施形態であるスマートフォン500の外観を示す斜視図である。図30に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532、操作部540と、カメラ部541とを備えている。尚、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用することが可能であり、折り畳み構造又はスライド機構を有する構成を採用することもできる。
この実施形態の撮像装置10は、撮影レンズ12の点拡がり関数(PSF)に対応して生成された第1フィルタ102がROM47に格納され、ROM47から適宜の第1フィルタ102を読み出すようにしているが、これに限らず、PSF等を記憶させ、撮像装置内でPSF等から第1フィルタを生成してもよい。
がある。更に,特許文献2に記載の発明は、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系、すなわち光学系に光波面変調素子を含む撮像装置を前提にしており、自動焦点調節機構がなく、本発明が解決しようとする課題がない。
[0012]
本発明はこのような事情に鑑みてなされたもので、劣化した動画の各画像に対して過補正となる復元処理を防止することができ、かつ復元処理により高解像度の画像を取得することができる撮像装置及び画像処理方法を提供することを目的とする。
課題を解決するための手段
[0013]
上記目的を達成するために本発明の一の態様に係る発明は、少なくとも画像を連続して撮像する撮像部と、撮像部により連続して撮像される画像の焦点調節を自動的に行う自動焦点調節部と、撮像部の光学系の点拡がり関数に対応して生成された復元フィルタである第1フィルタを取得する第1フィルタ取得部と、撮像部により連続して撮像される画像のうちの非合焦の画像に適用される第2フィルタであって、第1フィルタと比較して復元強度が弱いフィルタであって、ゼロ位相フィルタである第2フィルタを取得する第2フィルタ取得部と、撮像部により連続して撮像された画像のうちの処理対象の画像が、自動焦点調節部による焦点調節により目標の合焦状態にあるか否かを判別する合焦判別部と、合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、処理対象の画像に対し、少なくとも第2フィルタ取得部により取得した第2フィルタを使用した復元処理を行い、合焦判別部により処理対象の画像が目標の合焦状態にあると判別されると、処理対象の画像に対し、第1フィルタ取得部により取得した第1フィルタを使用した復元処理を行う復元処理部と、を備えている。
[0014]
本発明の一の態様によれば、連続して撮像される画像のうち、目標の合焦状態にない画像(非合焦の画像)に対しては、非合焦の画像に適用される復元強度が弱い第2フィルタを使用して復元処理を行うため、過補正等により画質が破綻することがなく、一方、目標の合焦状態にある画像に対しては、光学系の点拡がり関数に対応して生成された復元フィルタである第1フィル
[0034]
本発明の更に他の態様に係る撮像装置において、第1フィルタ取得部は、合焦時間予想部により予想された合焦時間経過後の光学系の撮影条件に基づいて、撮影条件下の点拡がり関数に対応して生成された第1フィルタを取得することが好ましい。
[0035]
本発明の更に他の態様によれば、第1フィルタとして、予想された合焦時間経過後の光学系の撮影条件に対応する第1フィルタを使用するようにしたため、焦点調節が開始されてから目標の合焦状態に達する直前までの画像を、滑らかに繋がった復元画像にすることができる。
[0036]
本発明の更に他の態様に係る撮像装置において、ユーザの指示入力により撮影準備指示を出力する撮影準備指示部と、撮像部により連続して撮像された画像をライブビュー画像として表示する表示部と、を更に備え、復元処理部は、少なくとも撮影準備指示部から撮影準備指示が出力されるまで、取得した第2フィルタのみを使用して復元処理を行うことが好ましい。
[0037]
通常、撮影準備指示部から撮影準備指示が出力されるまでの期間、自動焦点調節部による焦点調節は行われないため、その間に取得した画像(ライブビュー用の画像)に対しては、第2フィルタのみを使用して復元処理を行うことにより、過補正等により画質が破綻しないようにしている。
[0038]
本発明の更に他の態様に係る撮像装置において、復元処理部は、撮影準備指示部から撮影準備指示が出力され、自動焦点調節部による焦点調節が行われると、取得した第1フィルタを使用して復元処理を行うことが好ましい。即ち、撮影準備指示部から撮影準備指示が出力され、自動焦点調節部による焦点調節が行われ、その結果、目標の合焦状態にある画像が取得されると、その画像に対しては第1フィルタを使用して復元処理を行うことにより、光学系の点拡がり関数に対応して劣化した画像を、解像度の高い画像に復元することができる。
[0039]
本発明のさらに他の態様に係る撮像装置において、第2フィルタは、複数の撮影条件に対して共通して使用されるフィルタであることが好ましい。
[0040]
本発明の更に他の態様に係る画像処理方法は、撮像部から画像を連続して取得する画像取得工程と、撮像部により連続して撮像される画像の焦点調節を自動的に行う自動焦点調節工程と、撮像部の光学系の点拡がり関数に対応して生成された復元フィルタである第1フィルタを取得する第1フィルタ取得工程と、撮像部により連続して撮像される画像のうちの非合焦の画像に適用される第2フィルタであって、第1フィルタと比較して復元強度が弱い第2フィルタを取得する第2フィルタ取得工程と、撮像部により連続して撮像された画像のうちの処理対象の画像が、自動焦点調節工程による焦点調節により目標の合焦状態にあるか否かを判別する合焦判別工程と、合焦判別工程により処理対象の画像が目標の合焦状態にないと判別されると、処理対象の画像に対し、少なくとも第1フィルタ取得工程により取得した第2フィルタを使用した復元処理を行い、合焦判別工程により目標の合焦状態にあると判別されると、処理対象の画像に対し、第2フィルタ取得工程により取得した第1フィルタを使用した復元処理を行う復元処理工程と、を含んでいる。
[0041]
本発明の更に他の態様に係る画像処理方法において、自動焦点調節工程により焦点調節が開始されてから目標の合焦状態に達するまでの合焦時間を予想する合焦時間予想工程を含み、復元処理工程は、合焦判別工程により処理対象の画像が目標の合焦状態にないと判別されると、取得した第1フィルタ、第2フィルタ及び予想した合焦時間に基づいて処理対象の画像を復元処理することが好ましい。
発明の効果
[0042]
本発明によれば、連続して撮像される画像のうち、目標の合焦状態にない画像に対しては、復元強度が弱い第2フィルタを使用して復元処理を行うため、過補正等により画質が破綻することがなく、一方、目標の合焦状態にある画像に対しては、光学系の点拡がり関数に対応して生成された復元フィルタである第1フィルタを使用して復元処理を行うため、光学系の点拡がり関
Claims (19)
- 少なくとも画像を連続して撮像する撮像部と、
前記撮像部により連続して撮像される画像の焦点調節を自動的に行う自動焦点調節部と、
前記撮像部の光学系の点拡がり関数に対応して生成された復元フィルタである第1フィルタを取得する第1フィルタ取得部と、
前記撮像部により連続して撮像される画像のうちの非合焦の画像に適用される第2フィルタであって、前記第1フィルタと比較して復元強度が弱い第2フィルタを取得する第2フィルタ取得部と、
前記撮像部により連続して撮像された画像のうちの処理対象の画像が、前記自動焦点調節部による焦点調節により目標の合焦状態にあるか否かを判別する合焦判別部と、
前記合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、前記処理対象の画像に対し、少なくとも第2フィルタ取得部により取得した第2フィルタを使用した復元処理を行い、前記合焦判別部により処理対象の画像が目標の合焦状態にあると判別されると、前記処理対象の画像に対し、前記第1フィルタ取得部により取得した第1フィルタを使用した復元処理を行う復元処理部と、
を備えた撮像装置。 - 前記復元処理部は、前記合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、前記取得した第1フィルタ及び前記第2フィルタに基づいて前記処理対象の画像を復元処理する請求項1に記載の撮像装置。
- 前記自動焦点調節部により焦点調節が開始されてから目標の合焦状態に達するまでの合焦時間を予想する合焦時間予想部を備え、
前記復元処理部は、前記合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、前記取得した第1フィルタ、前記第2フィルタ及び前記予想した合焦時間に基づいて前記処理対象の画像を復元処理する請求項2に記載の撮像装置。 - 前記自動焦点調節部は、前記撮像される画像のデフォーカス量を検出し、検出したデフォーカス量が焦点深度の範囲内に入るまで前記光学系を制御し、
前記合焦時間予想部は、前記デフォーカス量が検出されてから焦点深度の範囲内に入るまでの合焦時間を予想する請求項3に記載の撮像装置。 - 前記合焦時間予想部は、前記自動焦点調節部により検出されたデフォーカス量が閾値以内にあるときのみ前記合焦時間を予想し、
前記復元処理部は、前記デフォーカス量が閾値を越えている場合には、前記取得した第2フィルタのみを使用して復元処理を行う請求項4に記載の撮像装置。 - 前記自動焦点調節部は、前記撮像部により撮像された画像の合焦領域の高周波成分を評価値として算出し、算出した評価値がピーク値になるまで前記光学系を制御し、
前記合焦時間予想部は、前記自動焦点調節部により算出された評価値の変化に基づいて、前記評価値が前記目標の合焦状態に対応する第1の閾値に達するまでの時間を予想する請求項3に記載の撮像装置。 - 前記合焦時間予想部は、前記自動焦点調節部により算出された評価値が、前記第1の閾値よりも低い第2の閾値以上にあるときのみ前記合焦時間を予想し、
前記復元処理部は、前記自動焦点調節部により算出された評価値が前記第2の閾値未満の場合には、前記取得した第2フィルタのみを使用して復元処理を行う請求項6に記載の撮像装置。 - 前記復元処理部は、前記合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、前記取得した第1フィルタ及び第2フィルタに基づいて前記処理対象の画像をそれぞれ復元処理して第1の画像及び第2の画像を生成し、さらに前記合焦時間予想部により予想された合焦時間が短い程、前記第1の画像の重みが大きくなる重み付けを用ることにより前記第1の画像と第2の画像とを加重平均して復元画像を生成する請求項3から7のいずれか1項に記載の撮像装置。
- 前記自動焦点調節部は、前記撮像される画像のデフォーカス量を検出し、検出したデフォーカス量が焦点深度の範囲内に入るまで前記光学系を制御し、
前記復元処理部は、前記合焦判別部により処理対象の画像が目標の合焦状態にないと判別されると、前記取得した第1フィルタ及び第2フィルタに基づいて前記処理対象の画像をそれぞれ復元処理して第1の画像及び第2の画像を生成し、前記検出したデフォーカス量が小さい程、前記第1の画像の重みが大きくなる重み付けを用いて前記第1の画像と第2の画像とを加重平均して復元画像を生成する請求項2から8のいずれか1項に記載の撮像装置。 - 前記自動焦点調節部は、前記撮像される画像のデフォーカス量を検出し、検出したデフォーカス量が焦点深度の範囲内に入るまで前記光学系を制御し、
前記復元処理部は、前記取得した第1フィルタ、前記第2フィルタ及び前記検出したデフォーカス量に基づいて前記撮像部により取得された画像に対する第3フィルタを算出する第3フィルタ算出部であって、前記検出したデフォーカス量が小さくなるにしたがって前記第2フィルタのフィルタ係数から前記第1フィルタのフィルタ係数に順次近づくフィルタ係数を有する前記第3フィルタを算出する第3フィルタ算出部を有し、
前記撮像部により連続して撮像される画像のうちの前記自動焦点調節部により焦点調節が開始されてから目標の合焦状態に達する直前までの画像に対し、前記第3フィルタ算出部により算出した第3フィルタを使用して復元処理を行い、前記目標の合焦状態に達した画像に対し、前記取得した第1フィルタを使用して復元処理を行う請求項2から9のいずれか1項に記載の撮像装置。 - 前記復元処理部は、前記取得した第1フィルタ、前記第2フィルタ及び前記予想した合焦時間に基づいて前記撮像部により取得された処理対象の画像に対する第3フィルタを算出する第3フィルタ算出部であって、前記合焦時間の時間経過にしたがって前記第2フィルタのフィルタ係数から前記第1フィルタのフィルタ係数に順次近づくフィルタ係数を有する前記第2フィルタを算出する第3フィルタ算出部を有し、
前記撮像部により連続して撮像される画像のうちの前記自動焦点調節部により焦点調節が開始されてから目標の合焦状態に達する直前までの画像に対し、前記第3フィルタ算出部により算出した第3フィルタを使用して復元処理を行い、前記目標の合焦状態に達した画像に対し、前記取得した第1フィルタを使用して復元処理を行う請求項3から7のいずれか1項に記載の撮像装置。 - 前記第3フィルタ算出部により前記第3フィルタが算出された前回の時刻をt0、現在の時刻をt、すなわちt>t0が成り立つ場合であって、前回の時刻t0における第3フィルタをX(t0)、現在の時刻tにおける第3フィルタをX(t)、前回の時刻t0に前記合焦時間予想部により予想された合焦時刻をt1、前記第1フィルタ取得部により取得した、合焦時刻t1における光学系の撮影条件に対応する第1フィルタをF、前記第2フィルタ取得部により取得した第2フィルタをA、並びにW(0)=0、W(1)=1、及び0≦r≦1で表現される単調増加関数をW(r)とする場合において、
前記第3フィルタ算出部は、今回使用する第3フィルタX(t)を、次式、
X(t)=(1−W(r))×X(t0)+W(r)×F
但し、r=(t−t0)/(t1−t0)、X(0)=A
により算出する請求項11に記載の撮像装置。 - 前記第3フィルタ算出部は、前記撮像部から複数の画像が取得される毎に前記第3フィルタを算出し、
前記復元処理部は、前記第3フィルタ算出部により算出した第3フィルタを複数の画像の復元処理に使用する請求項11又は12に記載の撮像装置。 - 前記第1フィルタ取得部は、前記合焦時間予想部により予想された合焦時間経過後の前記光学系の撮影条件に基づいて、該撮影条件下の点拡がり関数に対応して生成された第1フィルタを取得する請求項3から8のいずれか1項に記載の撮像装置。
- ユーザの指示入力により撮影準備指示を出力する撮影準備指示部と、
前記撮像部により連続して撮像された画像をライブビュー画像として表示する表示部と、を更に備え、
前記復元処理部は、少なくとも前記撮影準備指示部から撮影準備指示が出力されるまで、前記取得した第2フィルタのみを使用して復元処理を行う請求項1から14のいずれか1項に記載の撮像装置。 - 前記復元処理部は、前記撮影準備指示部から撮影準備指示が出力され、前記自動焦点調節部による焦点調節が行われると、前記取得した第1フィルタを使用して復元処理を行う請求項15に記載の撮像装置。
- 前記第2フィルタは、輪郭強調フィルタ、復元後の変調伝達関数(MTF)が1.0を超えない復元フィルタ、ゼロ位相フィルタ、前記光学系の収差が最も少ない領域の点拡がり関数に対応して生成された復元フィルタ、及びカーネルの中央が1で中央以外が0のフィルタのうちの少なくとも1つである請求項1から16のいずれか1項に記載の撮像装置。
- 撮像部から画像を連続して取得する画像取得工程と、
前記撮像部により連続して撮像される画像の焦点調節を自動的に行う自動焦点調節工程と、
前記撮像部の光学系の点拡がり関数に対応して生成された復元フィルタである第1フィルタを取得する第1フィルタ取得工程と、
前記撮像部により連続して撮像される画像のうちの非合焦の画像に適用される第2フィルタであって、前記第1フィルタと比較して復元強度が弱い第2フィルタを取得する第2フィルタ取得工程と、
前記撮像部により連続して撮像された画像のうちの処理対象の画像が、前記自動焦点調節工程による焦点調節により目標の合焦状態にあるか否かを判別する合焦判別工程と、
前記合焦判別工程により処理対象の画像が目標の合焦状態にないと判別されると、前記処理対象の画像に対し、少なくとも前記第1フィルタ取得工程により取得した第2フィルタを使用した復元処理を行い、前記合焦判別工程により目標の合焦状態にあると判別されると、前記処理対象の画像に対し、前記第2フィルタ取得工程により取得した第1フィルタを使用した復元処理を行う復元処理工程と、
を含む画像処理方法。 - 前記自動焦点調節工程により焦点調節が開始されてから目標の合焦状態に達するまでの合焦時間を予想する合焦時間予想工程を含み、
前記復元処理工程は、前記合焦判別工程により処理対象の画像が目標の合焦状態にないと判別された場合、前記取得した第1フィルタ、前記第2フィルタ及び前記予想した合焦時間に基づいて前記処理対象の画像を復元処理する請求項18に記載の画像処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013156948 | 2013-07-29 | ||
JP2013156948 | 2013-07-29 | ||
PCT/JP2014/066136 WO2015015935A1 (ja) | 2013-07-29 | 2014-06-18 | 撮像装置及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5903528B2 JP5903528B2 (ja) | 2016-04-13 |
JPWO2015015935A1 true JPWO2015015935A1 (ja) | 2017-03-02 |
Family
ID=52431477
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015529450A Active JP5903528B2 (ja) | 2013-07-29 | 2014-06-18 | 撮像装置及び画像処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9800774B2 (ja) |
JP (1) | JP5903528B2 (ja) |
CN (1) | CN105409198B (ja) |
WO (1) | WO2015015935A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106165392B (zh) * | 2014-03-31 | 2019-01-22 | 富士胶片株式会社 | 图像处理装置、摄影装置以及图像处理方法 |
CN106134177B (zh) * | 2014-03-31 | 2019-05-28 | 富士胶片株式会社 | 图像处理装置、摄影装置、图像处理方法及图像处理程序 |
WO2016002578A1 (ja) * | 2014-07-04 | 2016-01-07 | ソニー株式会社 | 画像処理装置および方法 |
CN107431763B (zh) | 2015-04-16 | 2020-02-28 | 富士胶片株式会社 | 摄像装置、图像处理装置、图像处理方法及记录介质 |
JP6578960B2 (ja) * | 2016-01-21 | 2019-09-25 | オムロン株式会社 | 撮像装置、撮像方法、撮像プログラム、およびその撮像プログラムを記録した記録媒体 |
CN109416458B (zh) * | 2016-06-30 | 2022-01-11 | 株式会社尼康 | 相机 |
WO2019150791A1 (ja) | 2018-01-31 | 2019-08-08 | 富士フイルム株式会社 | 音響波装置および音響波装置の制御方法 |
US10659751B1 (en) | 2018-12-14 | 2020-05-19 | Lyft Inc. | Multichannel, multi-polarization imaging for improved perception |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6166853A (en) * | 1997-01-09 | 2000-12-26 | The University Of Connecticut | Method and apparatus for three-dimensional deconvolution of optical microscope images |
JP2006238032A (ja) | 2005-02-24 | 2006-09-07 | Matsushita Electric Ind Co Ltd | 画像復元方法およびその装置 |
KR20080072086A (ko) * | 2005-11-29 | 2008-08-05 | 교세라 가부시키가이샤 | 촬상 장치 및 그 방법 |
JP4916862B2 (ja) | 2005-12-27 | 2012-04-18 | 京セラ株式会社 | 撮像装置およびその方法 |
KR100808610B1 (ko) * | 2006-06-13 | 2008-02-28 | 중앙대학교 산학협력단 | 영상융합 기술을 이용한 다중초점 디지털 영상복원 방법 및장치 |
JP2009111587A (ja) * | 2007-10-29 | 2009-05-21 | Sony Corp | 撮像装置 |
JP5117889B2 (ja) * | 2008-03-07 | 2013-01-16 | 株式会社リコー | 画像処理装置及び画像処理方法 |
JP2011135563A (ja) * | 2009-11-30 | 2011-07-07 | Canon Inc | 撮像装置および画像処理方法 |
JP5546229B2 (ja) * | 2009-12-09 | 2014-07-09 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム |
JP5528173B2 (ja) | 2010-03-31 | 2014-06-25 | キヤノン株式会社 | 画像処理装置、撮像装置および画像処理プログラム |
JP2012004664A (ja) * | 2010-06-14 | 2012-01-05 | Olympus Corp | 画像処理装置、検査装置、画像処理方法および画像処理プログラム |
JP2012005056A (ja) * | 2010-06-21 | 2012-01-05 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP4931266B2 (ja) * | 2010-08-27 | 2012-05-16 | キヤノン株式会社 | 画像処理方法、画像処理装置および画像処理プログラム |
JP5153846B2 (ja) * | 2010-09-28 | 2013-02-27 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及び、プログラム |
JP5409589B2 (ja) * | 2010-12-17 | 2014-02-05 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 |
JP5947601B2 (ja) * | 2012-04-10 | 2016-07-06 | キヤノン株式会社 | 焦点検出装置、その制御方法および撮像装置 |
US9311688B1 (en) * | 2012-05-30 | 2016-04-12 | Amazon Technologies, Inc. | Rendering pipeline for color electrophoretic displays |
CN104854858B (zh) * | 2012-09-26 | 2017-11-07 | 富士胶片株式会社 | 图像处理装置、摄像装置、计算机 |
-
2014
- 2014-06-18 CN CN201480041575.6A patent/CN105409198B/zh active Active
- 2014-06-18 JP JP2015529450A patent/JP5903528B2/ja active Active
- 2014-06-18 WO PCT/JP2014/066136 patent/WO2015015935A1/ja active Application Filing
-
2016
- 2016-01-04 US US14/987,246 patent/US9800774B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US9800774B2 (en) | 2017-10-24 |
CN105409198B (zh) | 2018-11-09 |
JP5903528B2 (ja) | 2016-04-13 |
US20160165127A1 (en) | 2016-06-09 |
CN105409198A (zh) | 2016-03-16 |
WO2015015935A1 (ja) | 2015-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5903528B2 (ja) | 撮像装置及び画像処理方法 | |
JP5542249B2 (ja) | 撮像素子及びこれを用いた撮像装置及び撮像方法 | |
JP5830186B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
US9906732B2 (en) | Image processing device, image capture device, image processing method, and program | |
US20180007292A1 (en) | Imaging device, imaging method, and image processing device | |
JP5851650B2 (ja) | 復元フィルタ生成装置及び方法、画像処理装置、撮像装置、復元フィルタ生成プログラム並びに記録媒体 | |
JP5901782B2 (ja) | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム | |
JP6086975B2 (ja) | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム | |
JP5799178B2 (ja) | 撮像装置及び合焦制御方法 | |
JP5753323B2 (ja) | 撮像装置及び画像表示方法 | |
US9799105B2 (en) | Image processing device, imaging device, image processing method, and program for restoration processing based on a point spread function and a frame after a frame to be processed | |
JP5926391B2 (ja) | 撮像装置及び合焦確認表示方法 | |
WO2014106935A1 (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
JP5870231B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
WO2014155813A1 (ja) | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム | |
JP5897769B2 (ja) | 撮像装置、キャリブレーションシステム、及びプログラム | |
JP5901780B2 (ja) | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム | |
WO2019202983A1 (ja) | 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A529 | Written submission of copy of amendment under article 34 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A5211 Effective date: 20160107 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160108 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20160108 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20160203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160303 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160314 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5903528 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |