JP5933129B2 - 画像処理装置、撮像装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP5933129B2 JP5933129B2 JP2015529453A JP2015529453A JP5933129B2 JP 5933129 B2 JP5933129 B2 JP 5933129B2 JP 2015529453 A JP2015529453 A JP 2015529453A JP 2015529453 A JP2015529453 A JP 2015529453A JP 5933129 B2 JP5933129 B2 JP 5933129B2
- Authority
- JP
- Japan
- Prior art keywords
- restoration
- frame
- processing
- image
- processing target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 523
- 238000003384 imaging method Methods 0.000 title claims description 101
- 238000003672 processing method Methods 0.000 title claims description 16
- 238000000034 method Methods 0.000 claims description 293
- 230000008569 process Effects 0.000 claims description 244
- 230000003287 optical effect Effects 0.000 claims description 134
- 230000033001 locomotion Effects 0.000 claims description 47
- 238000001514 detection method Methods 0.000 claims description 44
- 229920006395 saturated elastomer Polymers 0.000 claims description 24
- 230000003321 amplification Effects 0.000 claims description 14
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 14
- 230000004397 blinking Effects 0.000 claims description 13
- 238000001914 filtration Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 description 60
- 238000010586 diagram Methods 0.000 description 25
- 238000004891 communication Methods 0.000 description 22
- 238000006243 chemical reaction Methods 0.000 description 20
- 238000012937 correction Methods 0.000 description 17
- 230000008859 change Effects 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 10
- 238000011084 recovery Methods 0.000 description 10
- 230000006837 decompression Effects 0.000 description 9
- 230000006866 deterioration Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 4
- 230000015556 catabolic process Effects 0.000 description 4
- 238000006731 degradation reaction Methods 0.000 description 4
- 230000002349 favourable effect Effects 0.000 description 4
- 238000010191 image analysis Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 230000004043 responsiveness Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000005674 electromagnetic induction Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Description
図5は、第1実施形態の動画に対する復元処理に関わる機能ブロック図であり、画像処理部35(図2参照)によって構成される各種の機能ブロックを示す。なお、図中の機能ブロックは、必ずしも別体として設けられる必要はなく、一体的に構成されるハードウェア/ソフトウェアによって複数の機能ブロックを実現してもよい。
フレーム(t+2)は絞り値F2で撮像され、及びフレーム(t+3)は絞り値F2で撮像されている。
処理対象フレームの回復画像データ=Ave(K(t+1)、K(t)、K(t−1))*Val(t)
上述した態様は、処理対象フレームの静止画用フィルタ係数と参照フレームの静止画用フィルタ係数との加重平均により新たに動画用フィルタ係数を取得し、その動画用フィルタ係数を使用して処理対象フレームに復元処理を行う。これにより、上述した態様は、フレームの重要度に応じた連続性が良好な動画の画像処理を行うことができる。また、上述した態様は、被写体が動く動画であっても良好な画像処理を行うことができる。
処理対象フレームの回復画像データ=Ave(Val(t+1)K*(t+1)、Val(t)*K(t)、Val(t−1)*K(t−1))
上述した態様は、処理対象フレームに対応する回復画像データと参照フレームに対応する回復画像データとを加重平均し、その回復画像データを処理対象フレームの回復画像データとしている。これにより、上述した態様は、フレームの重要度に応じた連続性が良好な動画の画像処理を行うことができる。
本実施形態は、被写体の動きに基づいて復元処理の処理内容を変えることにより、被写体が動く動画であっても、より適切な復元処理を行うことができる。
本実施形態では、復元調整部43は、処理対象フレーム及び参照フレームの画像情報に基づいて復元処理の調整を行う。
本実施形態では、動体検出部49により動画内で動く物体(動体)を検出した場合に、復元調整部43は復元処理の内容を変える。
動体の動きに応じた位相特性が反映された点拡がり関数に基づく復元処理を処理対象フレームに対して行う。
本発明は、上述した画像処理装置及び撮像装置にて行われる画像処理方法も含む。
上述の実施形態における復元処理は、特定の撮影条件情報(例えば、絞り値、F値、焦点距離、レンズ種類、ズーム倍率など)に基づいて点拡がり(点像ボケ)を回復修正することにより本来の被写体像を復元する画像処理であるが、本発明を適用可能な画像復元処理は上述の実施形態における復元処理に限定されるものではない。例えば、拡大された被写界(焦点)深度(EDoF:Extended Depth of Field(Focus))を有する光学系(撮影レンズ等)によって撮影取得された画像データに対する復元処理に対しても、本発明に係る復元処理を適用することが可能である。EDoF光学系によって被写界深度(焦点深度)が拡大された状態で撮影取得されるボケ画像の画像データに対して復元処理を行うことにより、広範囲でピントが合った状態の高解像度の画像データを復元生成することができる。この場合、EDoF光学系の点拡がり関数(PSF、OTF、MTF、PTF、等)に基づく復元フィルタであって、拡大された被写界深度(焦点深度)の範囲内において良好な画像復元が可能となるように設定されたフィルタ係数を有する復元フィルタを用いた復元処理が行われる。
図21は、本発明の撮像装置の一実施形態であるスマートフォン201の外観を示すものである。図21に示すスマートフォン201は、平板状の筐体202を有し、筐体202の一方の面に表示部としての表示パネル221と、入力部としての操作パネル222とが一体となった表示入力部220を備えている。また、係る筐体202は、スピーカ231と、マイクロホン232、操作部240と、カメラ部241とを備えている。なお、筐体202の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
2…コンピュータ入出力部、64…コンピュータコントローラ、66…ディスプレイ、70…インターネット、80…サーバ、82…サーバ入出力部、84…サーバコントローラ、101…撮像モジュール、110…EDoF光学系、110A…撮影レンズ、111…光学フィルタ、112…撮像素子、114…AD変換部、120…復元処理ブロック、122…黒レベル調整部、123…ホワイトバランスゲイン部、124…ガンマ処理部、125…デモザイク処理部、126…変換部、127…Y信号復元処理部、127…部、200…主制御部、201…スマートフォン、202…筐体、210…無線通信部、220…表示入力部、221…表示パネル、222…操作パネル、230…通話部、231…スピーカ、232…マイクロホン、240…操作部、241…カメラ部、250…記憶部、251…内部記憶部、252…外部記憶部、260…外部入出力部、270…GPS受信部、270…受信部、280…モーションセンサ部、290…電源部
Claims (28)
- 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元制御処理部を備え、
前記復元制御処理部は、前記複数のフレームのうちの処理対象フレームに対する前記復元処理を、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御し、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの撮影条件情報を含む画像処理装置。 - 前記撮影条件情報は、絞り値及びズーム倍率のうち少なくともいずれか一方を含む請求項1に記載の画像処理装置。
- 前記復元制御処理部は、前記処理対象フレーム及び前記参照フレームの前記撮影条件情報のうち最も頻度の高い撮影条件に基づいて、前記復元処理を行う請求項1又は2に記載の画像処理装置。
- 前記復元処理は、前記点拡がり関数に基づく復元フィルタを用いるフィルタリング処理を含み、
前記復元制御処理部は、前記処理対象フレームの前記撮影条件情報に対応する復元フィルタと、前記参照フレームの前記撮影条件情報に対応する復元フィルタとに基づいて算出されるフィルタを復元フィルタとして用いたフィルタリング処理を、前記処理対象フレームに対して行うことにより、前記処理対象フレームに対する前記復元処理を行う請求項1又は2に記載の画像処理装置。 - 前記復元制御処理部は、前記処理対象フレームの前記撮影条件情報に対応する復元フィルタと、前記参照フレームの前記撮影条件情報に対応する復元フィルタとの加重平均から算出されるフィルタを復元フィルタとして用いたフィルタリング処理を、前記処理対象フレームに対して行うことにより、前記処理対象フレームに対する前記復元処理を行う請求項4に記載の画像処理装置。
- 前記復元制御処理部は、前記処理対象フレームの前記撮影条件情報に対応する復元フィルタを前記処理対象フレームに適用することにより算出される画像データと、前記参照フレームの前記撮影条件情報に対応する復元フィルタを前記参照フレームに適用することにより算出される画像データとの加重平均から算出される画像データを、前記処理対象フレームの前記回復画像データとする請求項4に記載の画像処理装置。
- 前記動画の被写体の動きを検出する被写体検出部を備え、
前記被写体検出部によって検出される前記処理対象フレーム及び前記参照フレームでの前記被写体の動き量が閾値以上の場合、前記復元制御処理部は、前記処理対象フレームの前記撮影条件情報に対応する復元フィルタと、前記参照フレームの前記撮影条件情報に対応する復元フィルタとの加重平均から算出されるフィルタを復元フィルタとして用いたフィルタリング処理を、前記処理対象フレームに対して行うことにより、前記処理対象フレームに対する前記復元処理を行い、
前記被写体検出部によって検出される前記処理対象フレーム及び前記参照フレームでの前記被写体の動き量が閾値未満の場合、前記復元制御処理部は、前記処理対象フレームの前記撮影条件情報に対応する復元フィルタを前記処理対象フレームに適用することにより算出される画像データと、前記参照フレームの前記撮影条件情報に対応する復元フィルタを前記参照フレームに適用することにより算出される画像データとの加重平均から算出される画像データを、前記処理対象フレームの前記回復画像データとする請求項4に記載の画像処理装置。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元制御処理部を備え、
前記復元制御処理部は、前記複数のフレームのうちの処理対象フレームに対する前記復元処理を、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御し、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの画像情報を含み、
前記画像情報は、前記処理対象フレーム及び前記参照フレームに飽和画素が含まれるか否かの情報、及び前記処理対象フレーム及び前記参照フレームにデフォーカス領域が含まれるか否かの情報のうち、少なくともいずれか一方を含む画像処理装置。 - 前記画像情報は、前記処理対象フレーム及び前記参照フレームに飽和画素が含まれるか否かの情報を含み、
前記復元制御処理部は、前記参照フレームに飽和画素が含まれるか否かを判別し、前記参照フレームに飽和画素が含まれると判別した場合には、当該飽和画素が含まれる前記参照フレームの前記撮像情報に基づき、前記処理対象フレームに対する前記復元処理の復元強度を調整する請求項8に記載の画像処理装置。 - 前記復元制御処理部は、
前記参照フレームにおける光源の点滅状態を解析し、
前記光源の点滅状態に基づき、前記処理対象フレームに対する前記復元処理の復元強度を調整する請求項9に記載の画像処理装置。 - 前記画像情報は、前記処理対象フレーム及び前記参照フレームにデフォーカス領域が含まれるか否かの情報を含み、
前記復元制御処理部は、前記参照フレームにデフォーカス領域が含まれるか否かを判別し、前記参照フレームにデフォーカス領域が含まれると判別した場合には、当該デフォーカス領域が含まれる前記参照フレームの前記撮像情報に基づき、前記処理対象フレームに対する前記復元処理の復元強度を調整する請求項8に記載の画像処理装置。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元制御処理部と、
前記動画において動体を検出する動体検出部と、を備え、
前記復元制御処理部は、前記複数のフレームのうちの処理対象フレームに対する前記復元処理を、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御し、
前記動体検出部によって前記処理対象フレーム及び前記参照フレームで前記動体が検出された場合、前記復元制御処理部は、前記動体の動きに基づく位相特性が反映された前記点拡がり関数に基づく前記復元処理を前記処理対象フレームに対して行う画像処理装置。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元制御処理部を備え、
前記復元制御処理部は、
前記動画の原画像データに対し、前記光学系の点拡がり関数に基づく復元フィルタを適用して復元画像データを取得するフィルタ適用部と、
前記原画像データと前記復元画像データとの差分の増幅率の調整を行い、当該調整が行われた後の差分と前記原画像データとから前記動画の前記回復画像データを取得するゲイン調整部と、を有し、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理を、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づき、前記復元フィルタ及び前記増幅率のうち少なくともいずれか一方を調整することにより制御する画像処理装置。 - 前記参照フレームは、前記処理対象フレームよりも時系列における前のフレームを含む請求項1から13のいずれか1項に記載の画像処理装置。
- 前記参照フレームは、前記処理対象フレームの時系列における直前のフレーム及び直後のフレームを含む請求項14に記載の画像処理装置。
- 前記復元制御処理部は、前記処理対象フレームに対する前記復元処理を、前記参照フレームの前記撮像情報及び前記処理対象フレームの前記撮像情報に基づいて制御する請求項1から15のいずれか1項に記載の画像処理装置。
- 前記光学系は、位相を変調することにより被写界深度を拡大させるレンズ部を有する請求項1から16のいずれか1項に記載の画像処理装置。
- ライブビュー画像を表示する表示部を備え、
前記復元制御処理部は、前記ライブビュー画像に対して前記光学系の点拡がり関数に基づく前記復元処理を行い、前記ライブビュー画像に対する前記復元処理は、前記ライブビュー画像を構成する複数のフレームのうちの前記処理対象フレームに対する前記復元処理を、当該処理対象フレームの時系列における前又は後に取得されたフレームの撮像情報には基づかずに、当該処理対象フレームの撮像情報に基づいて制御する請求項1から17のいずれか1項に記載の画像処理装置。 - ライブビュー画像を表示する表示部を備え、
前記復元制御処理部は、前記ライブビュー画像に対し、前記光学系の点拡がり関数に基づく前記復元処理を行わない請求項1から17のいずれか1項に記載の画像処理装置。 - 光学系を用いた撮影により動画を取得する撮像素子と、
請求項1から19のいずれか1項に記載の画像処理装置と、を備える撮像装置。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する手順を含む画像処理方法であって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの撮影条件情報を含む画像処理方法。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する手順を含む画像処理方法であって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの画像情報を含み、
前記画像情報は、前記処理対象フレーム及び前記参照フレームに飽和画素が含まれるか否かの情報、及び前記処理対象フレーム及び前記参照フレームにデフォーカス領域が含まれるか否かの情報のうち、少なくともいずれか一方を含む画像処理方法。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元処理手順と、前記動画において動体を検出する動体検出手順と、を含む画像処理方法であって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記動体検出手順において前記処理対象フレーム及び前記参照フレームで前記動体が検出された場合、前記復元処理手順において前記動体の動きに基づく位相特性が反映された前記点拡がり関数に基づく前記復元処理を前記処理対象フレームに対して行う画像処理方法。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元処理手順を含む画像処理方法であって、
前記復元処理手順は、
前記動画の原画像データに対し、前記光学系の点拡がり関数に基づく復元フィルタを適用して復元画像データを取得する手順と、
前記原画像データと前記復元画像データとの差分の増幅率の調整を行い、当該調整が行われた後の差分と前記原画像データとから前記動画の前記回復画像データを取得する手順と、を含み、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づき、前記復元フィルタ及び前記増幅率のうち少なくともいずれか一方を調整することにより制御される画像処理方法。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する手順をコンピュータに実行させるプログラムであって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの撮影条件情報を含むプログラム。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する手順をコンピュータに実行させるプログラムであって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記撮像情報は、前記処理対象フレーム及び前記参照フレームの画像情報を含み、
前記画像情報は、前記処理対象フレーム及び前記参照フレームに飽和画素が含まれるか否かの情報、及び前記処理対象フレーム及び前記参照フレームにデフォーカス領域が含まれるか否かの情報のうち、少なくともいずれか一方を含むプログラム。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元処理手順と、前記動画において動体を検出する動体検出手順と、をコンピュータに実行させるプログラムであって、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づいて制御され、
前記動体検出手順において前記処理対象フレーム及び前記参照フレームで前記動体が検出された場合、前記復元処理手順において前記動体の動きに基づく位相特性が反映された前記点拡がり関数に基づく前記復元処理を前記処理対象フレームに対して行うプログラム。 - 光学系を用いた撮影によって取得される複数のフレームを含む動画に対し、前記光学系の点拡がり関数に基づく復元処理を行うことにより回復画像データを取得する復元処理手順をコンピュータに実行させるプログラムであって、
前記復元処理手順は、
前記動画の原画像データに対し、前記光学系の点拡がり関数に基づく復元フィルタを適用して復元画像データを取得する手順と、
前記原画像データと前記復元画像データとの差分の増幅率の調整を行い、当該調整が行われた後の差分と前記原画像データとから前記動画の前記回復画像データを取得する手順と、を含み、
前記複数のフレームのうちの処理対象フレームに対する前記復元処理は、前記処理対象フレームよりも時系列における後のフレームを含む参照フレームの撮像情報に基づき、前記復元フィルタ及び前記増幅率のうち少なくともいずれか一方を調整することにより制御されるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013161616 | 2013-08-02 | ||
JP2013161616 | 2013-08-02 | ||
PCT/JP2014/066431 WO2015015943A1 (ja) | 2013-08-02 | 2014-06-20 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5933129B2 true JP5933129B2 (ja) | 2016-06-08 |
JPWO2015015943A1 JPWO2015015943A1 (ja) | 2017-03-02 |
Family
ID=52431485
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015529453A Active JP5933129B2 (ja) | 2013-08-02 | 2014-06-20 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US9799105B2 (ja) |
JP (1) | JP5933129B2 (ja) |
CN (1) | CN105453540B (ja) |
WO (1) | WO2015015943A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015015966A1 (ja) * | 2013-08-01 | 2015-02-05 | 富士フイルム株式会社 | 撮像装置、撮像方法及び画像処理装置 |
US10140827B2 (en) | 2014-07-07 | 2018-11-27 | Google Llc | Method and system for processing motion event notifications |
US9420331B2 (en) * | 2014-07-07 | 2016-08-16 | Google Inc. | Method and system for categorizing detected motion events |
JP6879296B2 (ja) * | 2016-03-31 | 2021-06-02 | 日本電気株式会社 | 画像検出装置、画像検出方法、及びプログラム |
EP3336757A1 (en) * | 2016-12-16 | 2018-06-20 | Tata Consultancy Services Limited | Method and system for container code recognition |
WO2020148797A1 (ja) * | 2019-01-15 | 2020-07-23 | オリンパス株式会社 | 画像処理システム、学習済みモデル及び画像処理方法 |
US11727540B2 (en) * | 2020-12-31 | 2023-08-15 | Samsung Electronics Co., Ltd. | Image sharpening |
US20230237628A1 (en) * | 2022-01-24 | 2023-07-27 | Adobe Inc. | Modeling continuous kernels to generate an enhanced digital image from a burst of digital images |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010147808A (ja) * | 2008-12-18 | 2010-07-01 | Olympus Imaging Corp | 撮像装置および撮像装置における画像処理方法 |
JP2011010214A (ja) * | 2009-06-29 | 2011-01-13 | Canon Inc | レンズ交換式カメラ、及びその制御方法 |
JP2013142997A (ja) * | 2012-01-11 | 2013-07-22 | Nk Works Kk | 画像処理プログラムおよび画像処理装置 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4916862B2 (ja) | 2005-12-27 | 2012-04-18 | 京セラ株式会社 | 撮像装置およびその方法 |
JP2009054130A (ja) * | 2007-07-27 | 2009-03-12 | Ricoh Co Ltd | 画像処理装置、画像処理方法およびデジタルスチルカメラ |
JP4881278B2 (ja) * | 2007-10-31 | 2012-02-22 | 株式会社東芝 | 物体認識装置及びその方法 |
JP2009171341A (ja) | 2008-01-17 | 2009-07-30 | Sanyo Electric Co Ltd | ぶれ補正装置及び撮像装置 |
JP4492724B2 (ja) * | 2008-03-25 | 2010-06-30 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
JP5284183B2 (ja) | 2009-06-03 | 2013-09-11 | キヤノン株式会社 | 画像処理装置およびその方法 |
TW201044856A (en) * | 2009-06-09 | 2010-12-16 | Ind Tech Res Inst | Image restoration method and apparatus |
JP4973719B2 (ja) * | 2009-11-11 | 2012-07-11 | カシオ計算機株式会社 | 撮像装置、撮像方法、及び撮像プログラム |
US8368771B2 (en) * | 2009-12-21 | 2013-02-05 | Olympus Imaging Corp. | Generating a synthesized image from a plurality of images |
JP2011215707A (ja) * | 2010-03-31 | 2011-10-27 | Canon Inc | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP2012049773A (ja) * | 2010-08-26 | 2012-03-08 | Sony Corp | 撮像装置および方法、並びにプログラム |
JP5635844B2 (ja) * | 2010-09-06 | 2014-12-03 | キヤノン株式会社 | 焦点調整装置および撮像装置 |
JP2012065114A (ja) | 2010-09-15 | 2012-03-29 | Olympus Corp | 撮像装置、撮像方法及びプログラム |
-
2014
- 2014-06-20 CN CN201480043724.2A patent/CN105453540B/zh active Active
- 2014-06-20 WO PCT/JP2014/066431 patent/WO2015015943A1/ja active Application Filing
- 2014-06-20 JP JP2015529453A patent/JP5933129B2/ja active Active
-
2016
- 2016-01-22 US US15/003,849 patent/US9799105B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010147808A (ja) * | 2008-12-18 | 2010-07-01 | Olympus Imaging Corp | 撮像装置および撮像装置における画像処理方法 |
JP2011010214A (ja) * | 2009-06-29 | 2011-01-13 | Canon Inc | レンズ交換式カメラ、及びその制御方法 |
JP2013142997A (ja) * | 2012-01-11 | 2013-07-22 | Nk Works Kk | 画像処理プログラムおよび画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
US9799105B2 (en) | 2017-10-24 |
CN105453540B (zh) | 2018-08-21 |
JPWO2015015943A1 (ja) | 2017-03-02 |
US20160140697A1 (en) | 2016-05-19 |
WO2015015943A1 (ja) | 2015-02-05 |
CN105453540A (zh) | 2016-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5759085B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体 | |
JP5933129B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP5752866B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体 | |
US9633417B2 (en) | Image processing device and image capture device performing restoration processing using a restoration filter based on a point spread function | |
US9906732B2 (en) | Image processing device, image capture device, image processing method, and program | |
US9699427B2 (en) | Imaging device, imaging method, and image processing device | |
US9866750B2 (en) | Image processing device, imaging device, image processing method, and image processing program | |
JP5870231B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
US9892495B2 (en) | Image processing device, imaging device, image processing method, and image processing program | |
JP5851655B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP5903528B2 (ja) | 撮像装置及び画像処理方法 | |
JP6096382B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP6342083B2 (ja) | 画像処理装置、画像処理方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20160401 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160428 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5933129 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |