JPWO2008096818A1 - 画像処理装置、撮像装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JPWO2008096818A1 JPWO2008096818A1 JP2008539588A JP2008539588A JPWO2008096818A1 JP WO2008096818 A1 JPWO2008096818 A1 JP WO2008096818A1 JP 2008539588 A JP2008539588 A JP 2008539588A JP 2008539588 A JP2008539588 A JP 2008539588A JP WO2008096818 A1 JPWO2008096818 A1 JP WO2008096818A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion
- motion vector
- image data
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 320
- 238000003384 imaging method Methods 0.000 title claims abstract description 112
- 238000003672 processing method Methods 0.000 title claims description 12
- 230000033001 locomotion Effects 0.000 claims abstract description 456
- 238000012937 correction Methods 0.000 claims abstract description 32
- 239000013598 vector Substances 0.000 claims description 236
- 238000000034 method Methods 0.000 claims description 43
- 230000008569 process Effects 0.000 claims description 36
- 238000009499 grossing Methods 0.000 claims description 18
- 238000001514 detection method Methods 0.000 claims description 11
- 208000012661 Dyskinesia Diseases 0.000 description 42
- 230000005540 biological transmission Effects 0.000 description 37
- 230000015556 catabolic process Effects 0.000 description 18
- 238000006731 degradation reaction Methods 0.000 description 18
- 230000006866 deterioration Effects 0.000 description 16
- 230000007246 mechanism Effects 0.000 description 13
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000000007 visual effect Effects 0.000 description 12
- 230000002093 peripheral effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 10
- 238000001914 filtration Methods 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000000750 progressive effect Effects 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000001276 controlling effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Adjustment Of Camera Lenses (AREA)
Abstract
Description
本出願は、日本国において2007年2月7日に出願された日本特許出願番号2007−028389を基礎として優先権を主張するものであり、この出願を参照することにより、本出願に援用される。
このような動きの不自然さによる動画像の劣化は、一般的にモーションジャーキネス(Motion Jerkiness)と呼ばれる(参考文献:ANSI T1.801.02-1996)。
動画像撮像装置500は、動画像を撮像してMPEG(Moving Picture Experts Group)などの符号化方法で符号化し、この符号化された画像データをDVD(Digital Versatile Disc)などの記録媒体700に記録するものであり、具体的には次のような構成を有している。
すなわち、動画像撮像装置500は、被写体像からの光を集光する撮像光学系510と、この撮像光学系510により集光された光を受光して画像信号に変換する撮像素子520と、この撮像素子520により変換された画像信号を符号化する符号化処理部530と、符号化処理部530により符号化された画像データを伝送路を介して外部へ送信する送信処理部540と、符号化処理部530により符号化された画像データをDVD(Digital Versatile Disc)などの記録媒体700に記録する記録処理部550とを備える。
また、この撮像光学系510は、外部から入射する光量を調節する絞り機構511と、絞り機構511により光量を調節された被写体光を撮像素子520の受光面に集光させる光学レンズ系512とから構成される。
一方、動画像再生装置600は、符号化された画像データを復号して、ディスプレイなどに表示出力するものであり、具体的には次のような構成を有している。すなわち、動画像再生装置600は、伝送路を介して伝送されてくる符号化された画像データを受信する受信処理部610と、記録媒体700から符号化された画像データを再生する再生処理部620と、受信処理部610及び再生処理部620から出力される符号化された画像データを復号する復号処理部630と、復号処理部630によって復号された画像信号を表示するディスプレイなどの表示出力部640とを備える。
例えば明るい野外などで動画像を撮像するとき、動画像撮像装置500では、絞り機構511を絞ることによって撮像素子520に入射させる光量を制限して露光量を適切に制御している。しかしながら、通常、絞り機構511を絞りすぎると回折現象により像がぼやけてしまうため、動画像撮像装置500では、絞り機構511によって光量を調節するのに加えて、フレームレートで決定される期間に対する各フレームの有効露光時間の比を示すシャッタ速度を速くすることで適切な露光制御を行っている。また、絞り機構が設けられていない動画像撮像装置では、シャッタ速度を変更することで露光制御を行っている。
以上のような構成からなる動画像撮像装置500では、シャッタ速度を速くすることで、野外撮像時などにおいて適切な露光制御を行うことができるが、これに伴って、上述したジャーキネスによる画像の劣化が生じてしまう。
すなわち、動画像再生装置600は、動画像撮像装置500によってジャーキネス劣化を含んで撮像されると、そのままジャーキネス劣化を含んだ画像データを復号して表示出力部640により表示することとなる。
以上のように、シャッタ速度を制御可能なシャッタ機能を有する撮像装置により、速いシャッタ速度で撮像されることで、動画像のフレームレートで決定される期間に対して有効露光期間が短い画像は、静止画像として表示したときには鮮鋭度が高いが、動画像として表示したときには画像中の動体の動きが滑らかではなく、人間の視覚特性上、不自然に見えてしまう。
本発明は、このような実情に鑑みて提案されたものであり、シャッタ機能を有する撮像装置により取り込まれた動画像に適切な動きぼけを付加することによりジャーキネス劣化を低減させる画像処理装置、撮像装置、画像処理方法、及びプログラムを提供することを目的とする。
上述した課題を解決するための手段として、本発明に係る画像処理装置は、被写体を撮像することにより得た画像データであって、被写体を撮像する時の撮像条件に応じて画像データで示される画像の動きぼけの度合いが変化する画像データに対して、画像処理を施す画像処理装置において、撮像条件を示す撮像情報に基づいて、画像に関する動きを示す動き情報を補正する動き情報補正手段と、動き情報補正手段により補正された動き情報を用いて、画像データに対して画像処理を施すことにより、画像に動きぼけを付加する動きぼけ付加手段とを備える。
また、本発明に係る撮像装置は、被写体を撮像することで、撮像条件に応じて撮像により得られる画像データで示される画像に生じる動きぼけの度合いが変化する画像データを出力する撮像手段と、撮像条件を示す撮像情報に基づいて、画像に関する動きを示す動き情報を補正する動き情報補正手段と、動き情報補正手段により補正された動き情報を用いて、画像データに対して画像処理を行うことにより、画像に動きぼけを付加する動きぼけ付加手段とを備える。
また、本発明に係る画像処理方法は、被写体を撮像することにより得た画像データであって、被写体を撮像する時の撮像条件に応じて画像データで示される画像の動きぼけの度合いが変化する画像データに対して画像処理を施す画像処理方法において、撮像条件を示す撮像情報に基づいて、画像に関する動きを示す動き情報を補正する動き情報補正ステップと、動き情報補正ステップにより補正された動き情報を用いて、画像データに対して画像処理を施すことにより、画像に動きぼけを付加する動きぼけ付加ステップとを有する。
また、本発明に係るプログラムは、被写体を撮像することにより得た画像データであって、被写体を撮像する時の撮像条件に応じて画像データで示される画像の動きぼけの度合いが変化する画像データに対して画像処理を施す画像処理方法をコンピュータに実行させるプログラムにおいて、画像処理方法は、撮像条件を示す撮像情報に基づいて、画像に関する動きを示す動き情報を補正する動き情報補正ステップと、動き情報補正ステップにより補正された動き情報を用いて、画像データに対して画像処理を施すことにより、画像に動きぼけを付加する動きぼけ付加ステップとを有する。
本発明の更に他の目的、本発明によって得られる具体的な利点は、以下に説明される実施の形態の説明から一層明らかにされる。
本発明が適用された画像処理装置は、人間の視覚特性上、不自然に見えてしまうジャーキネス劣化を含んだ動画像に対して、適応的に動きぼけを付加して、このような劣化を低減するものであり、例えば図1に示す画像処理装置1によって実現される。
すなわち、画像処理装置1は、被写体を撮像する時の撮像条件に応じて画像データで示される画像の動きぼけの度合いが変化する画像データに対して画像処理を施す処理装置であって、被写体を撮像することにより得た画像データを取り込む画像取込部11と、画像取込部11により取り込まれた画像データの画像に関する動きを示す動き情報を補正する動き情報補正部12と、画像取込部11により取り込まれた画像データに対して画像処理を施すことにより画像に動きぼけを付加させる動きぼけ付加部13とを備える。
動き情報補正部12は、画像取込部11により取り込まれた画像データのフレームレートで決定される期間に対する各フレームの有効露光時間の比を示すシャッタ速度などの撮像情報に基づいて、画像データの画像に関する動きを示す動き情報を補正して、補正した動き情報を動きぼけ付加部13に供給する。
ここで、撮像情報とは、被写体を撮像する時に撮像装置で設定される種々の条件のうち、画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す情報であればよく、上述したシャッタ速度を示す情報に限定されるものではない。
また、動き情報とは、フレーム間での画像の動きを示す情報に限定されるものではなく、例えばフィールド間での画像の動きを示す情報など、画像データを動画像として扱ったときの画像に関する動きを示す情報であればよい。
動きぼけ付加部13は、動き情報補正部12により補正された動き情報を用いて、画像データに動きぼけを付加して、当該画像処理装置1の外部へ出力する。
以上のような構成からなる画像処理装置1では、画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す撮像情報に基づいて適応的に画像データに動きぼけを付加することにより、人間の視覚特性上、不自然に見えてしまうジャーキネス劣化を含んだ動画像に対して動きぼけを付加して、このような劣化を低減するものである。
以下では、第1の実施形態及び第2の実施形態を用いて、上述した画像処理装置1に係る具体的な処理内容を説明する。
<第1の実施形態>
まず、画像処理装置1が適用された第1の実施形態に係る画像処理装置として、図2に示すような、伝送路を介して伝送されてくる画像データの受信、又はDVDなどの記録媒体200に記録された画像データの再生を行う受信/再生装置100を説明する。
この受信/再生装置100は、図2に示すように、伝送路を介して伝送されてくる符号化された画像データを受信する受信処理部110と、記録媒体200から符号化された画像データを再生する再生処理部120と、符号化された画像データを復号画像データDDに復号する復号処理部130と、復号画像データDDから動きベクトルVDを生成する動きベクトル生成処理部140と、復号画像データDDに動きベクトルに応じた動きぼけを付加する動きぼけ付加処理部150と、動きぼけが付加されることによりジャーキネス劣化が低減された動画像を表示装置に表示させる動画像表示出力部160と、復号画像を静止画像として表示装置に表示させる静止画像表示出力部170とを備えている。
受信処理部110及び再生処理部120は、それぞれMPEG規格などの画像の動き情報に基づいて予測符号化された画像データを取り込んで、この画像データを復号処理部130に供給する処理部である。
なお、受信/再生装置100は、外部から画像データを取り込む機能として、受信処理部110及び再生処理部120のうち少なくとも何れか一方を備えていればよい。
また、受信/再生装置100は、外部から画像データを取り込むのに加えて、画像データに関する撮像情報として、シャッタ速度SSDを示すシャッタ速度情報を取り込む。なお、シャッタ速度情報は、画像データのメタデータとして含まれていてもよい。
ここで、シャッタ速度情報とは、上述したように画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す撮像情報である。具体的に、シャッタ速度情報は、シャッタ機能を有する撮像装置により画像データが撮像された時のフレームレートで決定される期間に対する各単位画像の有効露光時間の比を示す。
また、シャッタ機能としては、撮像素子の有効露光時間を制御する電子シャッタ、開閉機構を用いて有効露光時間中だけ開放して撮像素子側へレンズからの光を通すメカニカルシャッタ、及び液晶素子の透過率を制御して有効露光時間中だけ撮像素子側へレンズからの光を通す液晶シャッタなどによって実現される。
また、受信処理部110及び再生処理部120によって動画像として取り込まれる画像データは、単位時間を1秒とし、この単位時間に対して60フレームの画像数から構成されているものとする。すなわち、本実施形態では、画像データがフレームレートを60[fps:frame per second]のプログレッシブ形式の単位画像から構成されているものとして以下説明する。なお、画像データは、プログレッシブ形式に限定されるものではなく、フィールド画像単位で処理するインタレース方式で構成されているようにしても良い。また、フレームレートについても、本実施形態で用いる60[fps]のみに限定するものではない。
復号処理部130は、受信処理部110、又は再生処理部120から取り込んだ画像データを復号する。なお、復号処理部130は、この復号処理時に、画像データとともに、この画像データに関する撮像情報としてシャッタ速度情報を取り込む。シャッタ速度情報は、データ量が少ないので画像データに含まれて圧縮させる必要性が低いので、圧縮されていない場合には、単に画像データと分離すればよい。また、画像データにメタデータとしてシャッタ速度情報が含まれている場合には、復号処理部130は、シャッタ速度情報も復号すればよい。
そして、復号処理部130は、この復号画像データDDを動きベクトル生成処理部140に供給する。また、復号処理部130は、この復号画像データDDとそのシャッタ速度情報とを動きぼけ付加処理部150に供給する。
また、復号処理部130は、この復号画像データDDを静止画像として処理するときには、静止画像表示出力部170にのみ復号画像データDDを供給して、復号画像データDDを動画像として処理しなくてもよい。
動きベクトル生成処理部140は、復号処理部130から供給される復号画像データDDから、この復号画像データDDの動き情報として、動きベクトルVDを生成する。ここで、動きベクトルとは、フレーム間における動画像の移動位置と移動方向とを示す情報である。本実施形態では、現在の処理対象となるフレーム画像を処理対象フレームと呼び、この処理対象フレームに対して1フレーム前のフレーム画像を直前フレームと呼ぶ。
また、精度良く動体の動き情報を取得するために画素単位で動きベクトルを生成するようにすることも可能であるが、本実施形態に係る動きベクトル生成処理部140では、演算処理の負担を軽減するため、フレーム画像を複数の領域に分割した画素ブロック単位で動きベクトルを生成する。
なお、MPEG規格などにより符号化された画像データには、符号化処理を行うための動き情報として動きベクトルが含まれている。本実施形態ではこのような符号化情報としての動きベクトルを流用して用いることも可能であり、これを採用することは処理の軽減化において有意である。しかし、この符号化情報としての動きベクトルは、あくまで動画像を符号化するための情報であり、符号化処理が動きベクトル以外に残差情報などと組み合わせて用いて行われるので、画像全体に亘って実際の動体の動きに応じた値を忠実に示しているとはいえない。
よって、本実施形態においては、より実際の動体の動きに忠実な動きぼけを付加するため、動きベクトル生成処理部140は、符号化処理を行うための動き情報とは異なる新たな動き情報として、後述する処理工程によって復号画像における実際の動体の動きに応じた動きベクトルを精度良く検出する。
なお、受信/再生装置100では、上述したように復号画像データDDを用いて精度良く動きベクトルを検出し、この動きベクトルを用いて適切な大きさ/方向で画像に動きぼけを付加し、ジャーキネス劣化を低減することができる。よって、このような観点においては、必ずしも画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す撮像情報に基づいて動きベクトルを補正しなくても良い。
動きぼけ付加処理部150は、具体的には後述する処理工程により、復号処理部130から供給される復号画像データDDに対して、シャッタ速度情報及び動きベクトル生成処理部140から供給される動きベクトルVDに応じて動きぼけを付加する。
動画像表示出力部160は、動きぼけ付加処理部150によって動きぼけが付加されることにより、ジャーキネス劣化が低減された動画像を、LCDなどの表示装置に動画像として出力する。
静止画像表示出力部170は、復号処理部130から供給された復号画像データDDを静止画像として、LCDなどの表示装置に出力する。
次に動きベクトル生成処理部140の構成と動作について説明する。
動きベクトル生成処理部140は、上述したように画素ブロック単位で動きベクトルを精度良く生成する部位であって、具体的には、図3に示すように、処理対象フレームと直前フレームとから動きベクトルを検出する動きベクトル検出部141と、処理対象フレームの動きベクトルと直前フレームの動きベクトルとを画素ブロック毎に比較して、相関の高い画素ブロックを特定する画素ブロック特定処理部142と、画素ブロック特定処理部142により特定された画素ブロックの動きベクトルから、それ以外の画素ブロックの動きベクトルを推定する動きベクトル推定処理部143と、動きベクトルに対して平滑化処理を施す動きベクトル平滑化処理部144とから構成される。
動きベクトル検出部141は、復号処理部130から供給された復号画像データDDを1フレーム分遅延させる遅延部141aが設けられている。動きベクトル検出部141は、復号処理部130から供給された復号画像データDDを処理対象フレームとし、遅延部141aにより1フレーム分遅延された直前フレームとから、処理対象フレームの動きベクトルを、画素ブロック単位で検出して、検出した動きベクトルを画素ブロック特定処理部142に供給する。
なお、動きベクトル検出部141に係る処理をソフトウェアによって実装する場合には、一般的なブロックマッチング法を用いて画素ブロック単位で動きベクトルを検出すればよい。
画素ブロック特定処理部142は、動きベクトル検出部141から供給される動きベクトルを1フレーム分遅延させる遅延部142aが設けられている。画素ブロック特定処理部142は、動きベクトル検出部141から供給される処理対象フレームの動きベクトルと、遅延部142aにより遅延された直前フレームの動きベクトルとを、次に示すように画素ブロック単位で比較して、この比較結果から相関の高い画素ブロックを特定する。
具体的に、画素ブロック特定処理部142は、処理対象フレームの一の画素ブロックの動きベクトルを(x,y)とし、これに対応する直前フレームの画素ブロックの動きベクトルを(x’,y’)とし、任意に決定される相関判定係数をαとして、下記の式(1)により、この画素ブロックのベクトル相関係数σを算出する。
画素ブロック特定処理部142は、上述した式(1)から各画素ブロックのベクトル相関係数σを算出して、ベクトル相関係数σが1である画素ブロックを相関の高い動きベクトルを有するものとして特定する。
動きベクトル推定処理部143は、画素ブロック特定処理部142でベクトル相関係数σの値が1として特定された画素ブロックの動きベクトルから、このベクトル相関係数σの値が0である画素ブロックの動きベクトルを推定する。
すなわち、動きベクトル推定処理部143は、前段の画素ブロック特定処理部142で、ベクトル相関係数σの値が1とされた画素ブロックが有効な動きベクトルを有しているものとして、それ以外の画素ブロック、すなわち、ベクトル相関係数σの値が0とされ有効ではない動きベクトルを有している画素ブロックの動きベクトルを更新する。
具体的な動きベクトル推定処理部143の処理工程については、図4を参照して詳細に説明する。
ステップS1において、動きベクトル推定処理部143は、処理対象フレームにおける現在の処理対象の画素ブロック(以下、注目画素ブロックという。)のベクトル相関係数σが1か0であるかを判断する。すなわち、動きベクトル推定処理部143は、この画素ブロックの動きベクトルが有効であるか否かを判断する。そして、動きベクトル推定処理部143は、この画素ブロックの動きベクトルが有効であるとき動きベクトルの値を更新せずに本処理工程を終了し、この画素ブロックの動きベクトルが有効でないときステップS2に進む。
ステップS2において、動きベクトル推定処理部143は、注目画素ブロックに対して、その注目画素ブロックの周辺に有効なベクトルを有する周辺画素ブロックが存在するか否かを判断する。具体的には、動きベクトル推定処理部143は、周辺画素ブロックとして、この注目画素ブロックに隣接する合計8つの画素ブロックに対して有効な動きベクトルが存在するか否かを判断し、有効な動きベクトルが存在するとき、ステップS3に進み、有効な動きベクトルが存在しないとき、この注目画素ブロックの動きベクトルを更新せずに本処理工程を終了する。
ここで、有効な動きベクトルが存在しない注目画素ブロックに対して、より広範囲に位置する周辺画素ブロックを用いて推定処理を行わない理由は、次の通りである。
第1の理由としては、より広範囲に位置する画素ブロックを用いて推定処理を行うことは可能であるが、仮に実現したとしても、固定時間処理で本処理工程を終了するためには、周辺画素ブロックとして扱われる画像データを一時的に記憶するための記憶領域が増大してしまうからである。
第2の理由としては、本処理工程の後段で、上述した隣接する合計8つの画素ブロックよりも広範囲の周辺画素ブロックを用いて注目画素ブロックの動きベクトルに対して平滑化処理を施すことにより、有効ではない動きベクトルを適切に補正することができるからである。
ステップS3において、動きベクトル推定処理部143は、有効な動きベクトルを有する周辺画素ブロックの動きベクトルのみから、この注目画素ブロックの動きベクトルを推定して更新して、本処理を終了する。動きベクトル推定処理部143では、推定処理の一例として、有効な動きベクトルを有する周辺画素ブロックの動きベクトルのみを入力としたメディアンフィルタにより注目画素ブロックの動きベクトルを出力して平滑化する。
動きベクトル推定処理部143は、以上のようにして、処理対象フレームの動きベクトルを画素ブロック単位で推定する。そして、動きベクトル推定処理部143は、画素ブロック特定処理部142で特定された動きベクトルを含めた動きベクトルを、動きベクトル平滑化処理部144に供給する。
動きベクトル平滑化処理部144は、処理対象画像を構成する各画素ブロックの動きベクトルに対して平滑化処理を施す。具体的に、動きベクトル平滑化処理部144は、平滑化処理前の注目画素ブロックの動きベクトルと上述した隣接画素ブロックよりも広範囲の周辺画素ブロックの動きベクトルとを入力I(x+i,y+j)として、下記に示す(2)式に示すようなガウス型関数により、平滑化処理後の注目画素ブロックの動きベクトルJ(x,y)を出力する。
動きベクトル平滑化処理部144は、処理対象フレームを構成する各画素ブロックに対して上述した平滑化処理を施して、動きベクトルVDを動きぼけ付加処理部150に供給する。
このように、動きベクトル平滑化処理部144は、処理対象フレームを構成する各画素ブロックから、有効な動きベクトルを有する画素ブロックを特定し、この有効な動きベクトルからそれ以外の動きベクトルを推定するので、精度良く実際の動体の動きに応じた動きベクトルを生成することができる。
なお、動きベクトル生成処理部140では、動きベクトル検出部141により検出した動きベクトルを、画素ブロック特定処理部142及び動きベクトル推定処理部143を介さずに、直接動きベクトル平滑化処理部144に供給して平滑化処理を施してもよく、このような処理を行った場合にも、上述した符号化情報として動きベクトルに比べて、実際の動体の動きに応じた精度の良い動きベクトルを生成することができる。
次に、動きぼけ付加処理部150の具体的な構成について、図5を参照して詳細に説明する。
動きぼけ付加処理部150は、図5に示すように、動きぼけを付加する画像領域を特定する動きベクトルマスク情報を生成する動きベクトルマスク処理部151と、動きベクトルに応じて適したシャッタ速度(以下、最適シャッタ速度情報という。)を算出するとともに、この最適シャッタ速度情報と実際に動画像が撮像されたときのシャッタ速度情報とを比較して後述する判別処理を行う最適シャッタ速度算出/判別部152と、最適シャッタ速度算出/判別部152の判別結果に基づいて動きベクトルを補正する動きベクトル補正部153と、処理対象フレームの各画素に応じた動きぼけ付加のためのフィルタパラメータを算出するフィルタパラメータ算出部154と、処理対象フレームの各画素の画素値に対して動きぼけフィルタ処理を施す動きぼけ付加フィルタ155とから構成されている。
ここで、画素単位で全ての処理を行うことも可能であるが、演算処理の負担を軽減するため、動きぼけ付加処理部150では、動きベクトルマスク処理部151、最適シャッタ速度算出/判別部152、及び動きベクトル補正部153に係る処理を、画素ブロック単位で行うものとする。また、フィルタパラメータ算出部154、及び、動きぼけ付加フィルタ155は、復号画像データDDに動きぼけを付加するフィルタ処理に当たるため、画素ブロックではなく、画素単位で行う。
動きベクトルマスク処理部151は、処理対象フレームのうち、動きぼけを付加する画像領域を特定するため、動きベクトル生成処理部140から供給される画素ブロック単位の動きベクトルVDに対して、図6に示すようなマスク処理を施して、マスク処理後の画素ブロック単位の動きベクトルを最適シャッタ速度算出/判別部152及び動きベクトル補正部153に供給する。
ここで、動きぼけを付加する必要がある、ジャーキネス劣化が発生しやすい画像領域は、特に画面内の動体画像領域及びエッジ周辺の画像領域に集中する。
よって、動きベクトルマスク処理部151では、図6に示す処理により、ジャーキネスが発生しやすい、空間コントラストの高いエッジ周辺の画素ブロックの動きベクトルだけ有効な値として出力する。すなわち、ステップS11において、動きベクトルマスク処理部151は、復号処理部130から供給される復号画像データDDに対し、画素ブロック単位で、処理対象フレーム内の空間コントラストの高い領域を特定するための処理として画像のエッジを検出する。
また、ステップS11の処理と並列して、ステップS12において、動きベクトルマスク処理部151は、処理対象フレーム内の動体領域を特定するための処理として、フレーム間での差分を画素ブロック単位で算出することによって動体画像領域を検出する。
ステップS13において、動きベクトルマスク処理部151は、上述したステップS11及びステップS12の何れか一方又は両方に係る処理で、ジャーキネス劣化が発生しやすい領域として検出されたか否かを、画素ブロック単位で判断する。そして、ジャーキネス劣化が発生しやすい領域と判断した画素ブロックに対して、動きベクトルマスク処理部151は、マスク処理用のフラグを「1」に設定する。また、ジャーキネスが発生しやすい領域と判断されなかった画素ブロックに対して、動きベクトルマスク処理部151は、マスク処理用のフラグを「0」に設定する。
ステップS14において、動きベクトルマスク処理部151は、動きベクトル生成処理部140から供給される動きベクトルVDに対して、上述したフラグが「1」に設定されている画素ブロックの動きベクトルVDであるか否かを判断する。
動きベクトルマスク処理部151は、フラグが「1」に設定されている画素ブロックの動きベクトルに対しては、その値を変えずに、後段の最適シャッタ速度算出/判別部152及び動きベクトル補正部153に出力する。
また、動きベクトルマスク処理部151は、フラグが「0」に設定されている画素ブロックの動きベクトルに対しては、ステップS15において、動きベクトルの値を0又は無効にするマスク処理を施して、後段の最適シャッタ速度算出/判別部152及び動きベクトル補正部153に出力する。
次に最適シャッタ速度算出/判別部152、及び動きベクトル補正部153に係る処理工程について図7を用いて説明する。
ステップS31として、最適シャッタ速度算出/判別部152は、例えば図8に示すような評価指標に基づいて処理対象フレームの各画素ブロックの動きベクトルに応じた最適シャッタ速度を算出する。
ここで、図8は、動きベクトルとして検出される動体の移動速度を示す被写体速度と、この被写体速度に応じた最適シャッタ速度曲線を表した図である。また、最適シャッタ速度とは、被写体の移動速度に応じた、視覚特性上、ジャーキネス劣化が知覚されにくく、且つ、動きぼけが過度に付加されることによって被写体のディテールが欠損したり不鮮明になるぼけ劣化も知覚されにくいシャッタ速度である。すなわち、この最適シャッタ速度よりも速いシャッタ速度で被写体を撮像すると、撮像画像には、ジャーキネス劣化が生じていると判断できる。一方、この最適シャッタ速度よりも遅いシャッタ速度で被写体を撮像すると、撮像画像には、ぼけ劣化が生じていると判断することができる。
そこで、最適シャッタ速度算出/判別部152は、各画素ブロックの動きベクトルを図8中の被写体速度に対応させることにより、各画素の動きベクトルに応じた最適シャッタ速度を算出する。なお、図8の実線で示されている最適シャッタ速度曲線SS0は、任意の被写体速度と最適なシャッタ速度との対応関係を示した一例であって、具体的には心理実験に基づいて得られた実験結果値を結んだ曲線である。ここで、図8に示す動きぼけ領域A1は、最適シャッタ速度曲線SS0に基づいて、被写体の動きによる動きぼけが過度に含まれると判別される領域である。同様にして、ジャーキネス領域A2は、最適シャッタ速度曲線SS0に基づいて、被写体の動きによる動きぼけが含まれず、視覚特性上ジャーキネス劣化が生じていると判別される領域である。
この実線で示されている最適シャッタ速度曲線SS0を直接用いて、動きベクトルに応じた最適シャッタ速度を求める場合には、任意の刻み幅で動きベクトルに応じた最適シャッタ速度情報をテーブルとして記憶媒体に予め記憶して、この記録媒体を参照すればよい。
また、本実施形態では、この実線で示された最適シャッタ速度曲線に近似する関数を用いることにより、動きベクトルに応じた最適シャッタ速度を算出するようにしてもよい。この場合、最適シャッタ速度算出/判別部152は、ある画素ブロックでの動きベクトルをvとして、下記の式(3)に示す最適シャッタ速度曲線の近似関数により最適シャッタ速度SSD’を算出する。
動きベクトルに応じた最適シャッタ速度SSD’が算出されると、ステップS32において、最適シャッタ速度算出/判別部152は、この最適シャッタ速度SSD’と、復号処理部130から供給される実際に撮像されたシャッタ速度SSDとを比較して、画素ブロック単位で図8に示すジャーキネス領域A2に該当しているかを判別する。
この判別結果から、現在の処理対象の画素ブロックにおいて、シャッタ速度SSDが最適シャッタ速度SSD’よりも速く、ジャーキネス領域A2に該当しているとき、動きベクトル補正部153は、ステップS33に進む。また、現在の処理対象の画素ブロックにおいて、シャッタ速度SSDが最適シャッタ速度SSD’よりも遅くジャーキネス領域A2に該当してないとき、動きベクトル補正部153は、ステップS34に進む。
ステップS33において、動きベクトル補正部153は、処理対象の画素ブロックにおいてジャーキネス劣化が生じているので、例えば、シャッタ速度SSDが速くなるのに伴って増加して値が1に収束する関数fs(SSD)を動きベクトルの値に乗じる処理を行う。
なお、動きベクトル補正部153は、関数fs(SSD)に代えて、動きベクトルVDを変数としたfs(VD)又は、シャッタ速度SSDと動きベクトルVDとを2変数としたfs(SSD,VD)を用いて乗算処理を行うようにしてもよい。
ステップS34において、動きベクトル補正部153は、処理対象の画素ブロックにおいてジャーキネス劣化が生じていないので、例えばこの動きベクトルの値に0を乗じて無効にするマスク処理を施す。
このようにして、最適シャッタ速度算出/判別部152は、処理対象となっている動画像が実際に撮像された時のシャッタ速度SSDを考慮して、ジャーキネス劣化が生じているか否かを判別する。そして、動きベクトル補正部153は、ジャーキネス劣化が生じていると判別された画素ブロックの動きベクトルに対して、適切な動きぼけを付加するための補正処理を施すので、視覚特性上、より自然な動画像となるように動きぼけ付加処理を行うことができる。
本実施形態では、画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す撮像情報の一例として、シャッタ速度情報を挙げて説明したが、次に示すような撮像条件を示す撮像情報を用いて動きベクトルを補正するようにしてもよい。
すなわち、撮像素子に入射させる光量を制限して露光量を制御する絞り機構を有する撮像装置によって画像データが撮像されている場合、動きぼけ付加処理部150では、撮像情報として、画像データを撮像した時の絞り値Fを示す絞り値情報に基づいて、動きベクトルを補正するようにしてもよい。具体的に、絞り値Fが大きく被写界深度が深い撮像条件で撮像された画像データで示される画像は、空間コントラストが高い画像領域がより増えるので、ジャーキネス劣化が目立ちやすいという特徴がある。したがって、動きぼけ付加処理部150では、絞り値Fが大きくなるのに伴って増加して値が1に収束する関数を動きベクトルの値に乗じる補正処理をすればよい。
また、ジャイロスコープによって検出される角速度に応じて撮像画像のぶれを補正するぶれ補正機構を有する撮像装置によって画像データが撮像されている場合、動きぼけ付加処理部150では、撮像情報として、この画像データを撮像した時のジャイロスコープによって検出される角速度を示す角速度情報に基づいて、動きベクトルを補正するようにしてもよい。具体的に、ジャイロスコープによって検出される角速度が大きい撮像条件で撮像された画像データで示される画像は、画面内の動きが大きく、ジャーキネス劣化が目立ちやすいという特徴がある。したがって、動きぼけ付加処理部150では、ジャイロスコープによって検出される角速度が大きくなるのに伴って増加して値が1に収束する関数を動きベクトルの値に乗じる補正処理をすればよい。
また、被写体を拡大するズーム機能を有する撮像装置によって画像データが撮像されている場合、動きぼけ付加処理部150では、撮像情報として、この画像データを撮像した時の撮像装置に設けられているズーム機能の拡大率を示すズーム情報に基づいて、動きベクトルを補正するようにしてもよい。具体的に、拡大率が大きい撮像条件で撮像された画像データで示される画像は、画面内の動きが大きく、ジャーキネス劣化が目立ちやすいという特徴がある。したがって、動きぼけ付加処理部150では、拡大率が大きくなるのに伴って増加して値が1に収束する関数を動きベクトルの値に乗じる補正処理をすればよい。
なお、動きぼけ付加処理部150では、上述したシャッタ速度情報、絞り値情報、角速度情報、及びズーム情報を組み合わせて用いて動きベクトルを補正するようにしてもよい。また、撮像情報は、上述したシャッタ速度情報、絞り値情報、角速度情報、及びズーム情報に限定されるものではなく、画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す情報であれば、他の情報を用いて動きベクトルの補正処理をしてもよい。
フィルタパラメータ算出部154は、処理対象フレームを構成する各画素に対して動きぼけを付加するため、次に示すようなフィルタパラメータを画素単位で算出する。
まず、フィルタパラメータ算出部154は、有効な動きベクトル情報を有する画素を注目画素として、各注目画素の動きベクトル上に位置する画素(以下、パラメータ算出対象画素という。)を特定する。そして、フィルタパラメータ算出部154は、この注目画素に対する特定されたパラメータ算出対象画素の相対位置に応じたフィルタパラメータを、次に示すようにして算出する。
すなわち、フィルタパラメータ算出部154は、図9に示すように、動きベクトルの始点Sと終点Eとの中点を注目画素P0の位置としたベクトル上に位置する画素の全てをパラメータ算出対象画素として特定する。なお、図9に示すように、絶対値vは注目画素の動きベクトルの絶対値である。
続いて、フィルタパラメータ算出部154は、動きベクトルの絶対値vと、注目画素P0の画素位置と上述した処理により特定したパラメータ算出対象画素P1の画素位置との間の距離dとに応じて、動きぼけ付加の強度σを下記の式(4)により算出する。
また、フィルタパラメータ算出部154は、注目画素P0を原点としたときの各パラメータ算出対象画素P1の直交座標平面x−yの座標点を(x1,y1)として、動きぼけを付加する角度方向θを下記の式(5)より算出する。
なお、フィルタパラメータ算出部154に係る処理では、ある画素に対して重複してパラメータ算出対象画素が特定される場合がある。この場合には、処理を単純化するため、例えば、重複して特定されたパラメータ情報のうち、σの大きい値の情報を、その画素のパラメータ情報として設定すればよい。また、フィルタパラメータ算出部154では、各パラメータ算出対象画素のパラメータ情報(σ,θ)に対して、ガウス関数型フィルタ処理やメディアンフィルタ処理などの平滑化処理を施すことにより、後段の動きぼけ付加フィルタ155から出力される動画像の画質を高めることができる。
動きぼけ付加フィルタ155は、フィルタパラメータ算出部154から供給されるパラメータ情報に応じて、復号処理部130から供給される復号画像データDDの処理対象フレームの各画素の画素値に対して、次に示すような処理対象フレーム内での空間的なフィルタ処理を施す。本実施の形態において、動きぼけ付加フィルタ155は、以下に示す第1のフィルタ処理、又は第2のフィルタ処理の一方又は両方を実行することにより、動きぼけを付加した画像を出力する。
まず、第1のフィルタ処理について説明する。第1のフィルタ処理において、動きぼけ付加フィルタ155は、動きぼけ付加フィルタ処理前の動きぼけ付加対象画素の画素値とこの画素の周辺に位置する周辺画素の画素値とを入力I(x+i,y+j)として、下記の式(6)に示すようなガウス型関数により、フィルタ処理後の注目画像の画素値J(x,y)を出力する。
動きぼけ付加フィルタ155は、処理対象フレームを構成する全画素のうち、パラメータ情報(σ,θ)が設定されている画素毎に、上述したフィルタ処理を施して画素値を更新する。このようにして動きぼけ付加フィルタ155は、ジャーキネス劣化が低減された動画像を動画像表示出力部160に供給することができる。
ところで、注目画素の周辺に位置する周辺画素には、元々動きのない領域、すなわち背景領域となっているものがある。このような背景領域に位置する周辺画素は、本来注目画素に対して動きぼけを付加するのに考慮する必要がない。このような点に注目した処理方法が次に示す第2のフィルタ処理である。
すなわち、第2のフィルタ処理において、動きぼけ付加フィルタ155は、注目画素の動きベクトルの値が0又は無効であるときに、その注目画素の周辺に位置する周辺画素のうち動きベクトルの値が0又は無効である画素の画素値I(x+i0,y+j0)を注目画素の画素値I(x,y)に代えて、上記の式(6)により注目画素の画素値J(x,y)を算出する。このようにして、動きぼけ付加フィルタ155は、第1のフィルタ処理よりも、視覚特性上自然にジャーキネス劣化を低減した画像を出力する。
以上のように、この受信/再生装置100によれば、画素ブロック特定処理部142が処理対象フレームの動きベクトルと直前フレームの動きベクトルとを比較し、この比較結果から有効な動きベクトルを有する画素ブロックを特定し、動きベクトル推定処理部143がこの特定された画素ブロックの動きベクトルから、それ以外の画素ブロックの動きベクトルを推定することにより、全ての画像領域に対して実際の動きをより忠実に表した精度の高い動きベクトルを生成するので、この生成した動きベクトルに応じて視覚特性上、より自然な動画像となるように動きぼけを付加することができる。したがって、この受信/再生装置100によれば、ジャーキネス劣化を含む動画像データから、人間の視覚特性上、より自然にジャーキネス劣化を低減した動画像を出力することができる。
また、この受信/再生装置100によれば、最適シャッタ速度算出/判別部152が動画像の撮像時のシャッタ速度情報に応じて動きベクトルを補正することにより、後段のフィルタパラメータ算出部154で算出される動きぼけ付加強度σの値を制御するので、動きぼけ付加フィルタ155により撮像時のシャッタ速度情報に応じて適切な動きぼけを付加することができ、人間の視覚特性上、より自然にジャーキネス劣化を低減した画像を出力することができる。
なお、上述した本実施形態に係る受信/再生装置100では、動きベクトルを用いて各単位画像に動きぼけを付加する空間的なフィルタ処理に代えて、他の動き情報を用いて画像データに動きぼけを付加するようにしてもよい。
例えば、受信/再生装置100は、1フレームに対して複数のフレームを重ね合わせる時間的なフィルタ処理を行うことにより、動画像に動きぼけを付加する処理を行うようにしても良い。この場合、受信/再生装置100は、動きベクトルの代わりに、動き情報としてフレーム間の差分により動体画像領域を検出して、この検出した動体画像領域を示す情報を撮像情報に基づいて補正してから、この動き情報を用いて時間的なフィルタ処理を施すことによって、撮像時のシャッタ速度情報に応じて適切な動きぼけを付加することができ、人間の視覚特性上、より自然にジャーキネス劣化を低減した画像を出力することができる。
なお、この時間的なフィルタ処理の具体例として、毎秒当たり240フレームのフレームレートで撮像した画像から、このようなジャーキネス劣化を低減するために、動きぼけを付加した毎秒当たり60フレームのフレームレートの動画像を出力する画像処理装置が、本件出願人が先に出願し、本出願の優先日において未公開である特許文献(特願2006−096792)に記載されている。
また、この受信/再生装置100を構成する各処理部は、例えばFPGA等によって設計されるハードウェアによって実現される。また、上述した符号化された画像データから動きぼけが付加された復調画像データを出力するまでの各処理部が行う画像処理工程は、プログラムに従ってコンピュータで実行されるようにしても良い。
<第2の実施形態>
次に、画像処理装置1が適用された第2の実施形態に係る画像処理装置として、図10に示すような、被写体を撮像して、その撮像した動画像に上述した動きぼけ付加処理を施して、伝送路への送信処理、又はDVDなどの記録媒体400への記録処理を行う送信/記録装置300の構成について説明する。
本実施形態では、前述した第1の実施形態と同様に、画像データがフレームレート60fpsのプログレッシブ形式の単位画像から構成されているものとして説明する。なお、プログレッシブ形式に限定されるものではなく、インタレース方式で動画像の単位画像が構成されているようにしても良い。また、フレームレートについても、本実施形態で用いる60[fps]のみに限定するものではない。
送信/記録装置300は、図10に示すように、被写体像からの光を集光する撮像光学系310と、この撮像光学系310により集光された光を受光して画像信号に変換する撮像素子320と、画像信号から動きベクトルを生成する動きベクトル生成処理部330と、画像信号に対して動きぼけを付加する動きぼけ付加処理部340と、画像信号をMPEGなどの動き情報に基づいて予測符号化する動画像符号化処理部350と、画像信号をJPEGなどの符号化手法により符号化する静止画符号化処理部360と、符号化された画像データを伝送路を介して外部へ送信する送信処理部370と、符号化された画像データを記録媒体400に記録する記録処理部380とを備える。
撮像光学系310は、外部から入射する光量を調節する絞り機構311と、この絞り機構により光量が調節された被写体光を撮像素子320の受光面に集光させる光学レンズ系312とから構成されている。
撮像素子320は、撮像光学系310により集光された光を受光面で受光して画像信号に変換する。撮像素子320は、この画像信号を動画像として処理する場合には、動きぼけ付加処理部340及び動きベクトル生成処理部330に供給する。また、撮像素子320は、この画像信号を静止画として処理する場合には、静止画符号化処理部360に供給する。
以上のような撮像光学系310及び撮像素子320を備える送信/記録装置300は、シャッタ速度を制御することにより露光量を制御するため、撮像素子の有効露光時間を制御する電子シャッタ、開閉機構を用いて有効露光時間中だけ開放して撮像素子側へレンズからの光を通すメカニカルシャッタ、及び液晶素子の透過率を制御して有効露光時間中だけ撮像素子側へレンズからの光を通す液晶シャッタなどによって実現されるシャッタ機能を有している。
また、送信/記録装置300は、絞り機構311を用いて絞り値Fを調整することにより露光量を制御する。
更にまた、送信/記録装置300は、撮像画像のぶれを補正するため上述したぶれ補正機能や、被写体を拡大して撮像するためのズーム機能を設けてもよい。
以上のように送信/記録装置300では画像データで示される画像の動きぼけの度合いを変化させる撮像条件を示す種々の撮像情報を調整することによって被写体を撮像して、このような撮像情報を動きぼけ付加処理部340に通知する。なお、撮像情報は、画像信号のメタデータとして含めて出力するようにしてもよい。
以下では、撮像素子320から出力される画像信号が、例えば、露光制御するためにシャッタ速度を速くしたことにより、ジャーキネス劣化が生じているものとして説明する。
動きベクトル生成処理部330は、撮像素子320から供給される画像データから次に示す処理により、処理対象フレーム毎に動きベクトルを生成して、動きぼけ付加処理部340及び動画像符号化処理部350にそれぞれ供給する。
具体的に、動きベクトル生成処理部330は、前述した第1の実施形態における動きベクトル生成処理部140と同様の構成からなり、この構成により、処理対象フレームを構成する各画素ブロックに対して精度良く動きベクトルを生成することができる。なお、動きベクトル生成処理部330の具体的な構成とその処理に関しては、その説明を省略する。
また、送信/記録装置300では、第1の実施形態と同様に、動きベクトル生成処理部330に係る処理を行う代わりに、動き情報としてフレーム間の差分により動体画像領域を検出して、この検出した動体画像領域を示す情報を、撮像情報に基づいて補正して時間的なフィルタ処理を施すことによって、撮像時のシャッタ速度情報に応じて適切な動きぼけを付加することができる。
動きぼけ付加処理部340は、撮像素子320から供給される画像データに対して、次に示す処理により、その画像データに対応する撮像情報及び動きベクトル生成処理部330から供給される動きベクトルに応じて動きぼけを付加する。具体的に、動きぼけ付加処理部340は、前述した第1の実施形態における動きぼけ付加処理部150と同様の構成からなり、この構成により、例えば動画像の撮像時のシャッタ速度情報に応じた動きぼけを付加するので、撮像情報に応じて適切な動きぼけを動画像に付加することができ、人間の視覚特性上、より自然にジャーキネス劣化を低減した動画像を出力することができる。なお、動きぼけ付加処理部340の具体的な構成とその処理に関しては、その説明を省略する。
動画像符号化処理部350は、動きぼけ付加処理部340から供給されるジャーキネス劣化が低減された画像データをMPEGなどの符号化手法によって符号化して、この符号化した画像データを、送信処理部370及び記録処理部380に供給する。なお、動画像符号化処理部350は、動きベクトル生成処理部330で検出した動きベクトル、又は、動きぼけ付加処理部340から供給される画像データから検出した動きベクトルを用いて符号化用の動きベクトル情報を生成する。
静止画符号化処理部360は、撮像素子320から供給される静止画データを、JPEGなどの符号化手法で符号化して、符号化静止画データを、送信処理部370及び記録処理部380に供給する。
送信処理部370は、符号化された画像データを伝送路を介して外部へ送信する。また、記録処理部380は、符号化された画像データを記録媒体400に記録する。なお、送信/記録装置300は、画像データを出力するための機能として、送信処理部370及び記録処理部380のうち少なくとも何れか一方を備えていればよい。
このようにして、送信/記録装置300は、上述したようにジャーキネス劣化が低減された画像データを符号化して送信処理又は記録処理を行うことができる。
したがって、この送信/記録装置300によって送信された送信データ、及び記録媒体400に記録された記録データの再生を行う再生装置は、動きぼけ付加処理を行うことなく、既存の再生処理工程を行うだけで、ジャーキネス劣化が低減された動画像を表示装置に表示させることができる。
また、送信/記録装置300では、撮像素子320から出力される画像信号を静止画として処理する場合には、静止画符号化処理部360を介して送信処理又は記録処理を行う。また、送信/記録装置300は、撮像素子320から出力される画像信号を静止画像データとして処理する場合に、動きぼけ付加処理部340による処理を無効にすれば、動画像符号化処理部350を介して送信処理又は記録処理を行うようにしてもよい。
このようにして、送信/記録装置300では、撮像素子320により出力される画像データを動画像として画像処理を施すときのみ、動きぼけ付加処理部340が画像データに動きぼけを付加する処理を行うので、例えば画像データを静止画像として画像処理を施す場合には空間的なコントラストの高い画像データに対して記録処理又は送信処理を行うことができる。
また、第1の実施形態と同様に、送信/記録装置300を構成する各処理部は、例えばFPGA等によって設計されるハードウェアによって実現される。また、撮像した画像信号に動きぼけを付加して記録処理又は送信処理を行うまでの各処理部が行う画像処理工程は、プログラムに従ってコンピュータで実行させるようにしても良い。
なお、本発明は、図面を参照して説明した上述の実施例に限定されるものではなく、添付の請求の範囲及びその主旨を逸脱することなく、様々な変更、置換又はその同等のものを行うことができることは勿論である。
Claims (13)
- 1.被写体を撮像することにより得た画像データであって、該被写体を撮像する時の撮像条件に応じて該画像データで示される画像の動きぼけの度合いが変化する画像データに対して、画像処理を施す画像処理装置において、
上記撮像条件を示す撮像情報に基づいて、上記画像に関する動きを示す動き情報を補正する動き情報補正手段と、
上記動き情報補正手段により補正された動き情報を用いて、上記画像データに対して画像処理を施すことにより、上記画像に動きぼけを付加する動きぼけ付加手段とを備える画像処理装置。 - 2.上記撮像情報は、撮像時のシャッタ速度を示す情報である請求の範囲第1項記載の画像処理装置。
- 3.上記撮像情報は、撮像時の絞り値を示す情報である請求の範囲第1項記載の画像処理装置。
- 4.上記画像データから、上記動き情報として動きベクトルを生成する動きベクトル生成手段を更に備え、
上記動き情報補正手段は、上記撮像情報を用いて、上記動きベクトル生成手段により生成された動きベクトルを補正し、
上記動きぼけ付加手段は、上記動き情報補正手段により補正された動きベクトルを用いて、上記画像データに空間的なフィルタ処理を施す請求の範囲第1項記載の画像処理装置。 - 5.上記動きベクトル生成手段は、
上記画像データから、処理対象画像となる単位画像の動きベクトルを検出する動きベクトル検出手段と、
上記動きベクトル検出手段が検出した処理対象画像の動きベクトルと、該処理対象画像以前の処理対象画像の動きベクトルを画素ブロック単位で比較して、相関が高い画素ブロックを特定する画素ブロック特定手段と、
上記画素ブロック特定手段により特定された画素ブロックの動きベクトルから、該特定された画素ブロック以外の画素ブロックの動きベクトルを推定する動きベクトル推定手段とを有する請求の範囲第4項記載の画像処理装置。 - 6.上記動きベクトル生成手段は、
上記画像データから、処理対象画像となる単位画像の動きベクトルを検出する動きベクトル検出手段と、
上記動きベクトル検出手段が検出した処理対象画像の動きベクトルを平滑化する動きベクトル平滑化手段とを有する請求の範囲第4項記載の画像処理装置。 - 7.上記動きぼけ付加手段は、
上記処理対象画像を構成する注目画素に対する、上記動き情報補正手段により補正された動きベクトル上に位置するパラメータ算出対象画素を特定し、該注目画素から該パラメータ算出対象画素までの距離に応じたフィルタパラメータを算出するフィルタパラメータ算出処理手段と、
上記処理対象画像を構成する各画素の画素値に、上記フィルタパラメータに応じたフィルタ処理を施す動きぼけフィルタとからなる請求の範囲第4項記載の画像処理装置。 - 8.上記画像データは、上記動き情報を用いて符号化されており、
上記画像データを、上記動き情報を用いて復号する復号手段を更に備え、
上記動き情報補正手段は、上記撮像情報に基づいて、上記復号手段が上記画像データを復号するのに用いた動き情報を補正する請求の範囲第1項記載の画像処理装置。 - 9.上記画像データは、上記動き情報を用いて符号化されており、
上記画像データを、上記動き情報を用いて復号する復号手段と、
上記復号手段により復号された画像データから、新たな動き情報を生成する動き情報生成手段とを更に備え、
上記動き情報補正手段は、上記撮像情報に基づいて、上記動き情報生成手段により生成された動き情報を補正する請求の範囲第1項記載の画像処理装置。 - 10.上記画像データを動画像として画像処理を施すときのみ、上記動きぼけ付加手段は、該画像データに動きぼけを付加する請求の範囲第1項記載の画像処理装置。
- 11.被写体を撮像することで、撮像条件に応じて撮像により得られる画像データで示される画像に生じる動きぼけの度合いが変化する画像データを出力する撮像手段と、
上記撮像条件を示す撮像情報に基づいて、上記画像に関する動きを示す動き情報を補正する動き情報補正手段と、
上記動き情報補正手段により補正された動き情報を用いて、上記画像データに対して画像処理を行うことにより、上記画像に動きぼけを付加する動きぼけ付加手段とを備える撮像装置。 - 12.被写体を撮像することにより得た画像データであって、該被写体を撮像する時の撮像条件に応じて該画像データで示される画像の動きぼけの度合いが変化する画像データに対して画像処理を施す画像処理方法において、
上記撮像条件を示す撮像情報に基づいて、上記画像に関する動きを示す動き情報を補正する動き情報補正ステップと、
上記動き情報補正ステップにより補正された動き情報を用いて、上記画像データに対して画像処理を施すことにより、上記画像に動きぼけを付加する動きぼけ付加ステップとを有する画像処理方法。 - 13.被写体を撮像することにより得た画像データであって、該被写体を撮像する時の撮像条件に応じて該画像データで示される画像の動きぼけの度合いが変化する画像データに対して画像処理を施す画像処理方法をコンピュータに実行させるプログラムにおいて、
上記画像処理方法は、
上記撮像条件を示す撮像情報に基づいて、上記画像に関する動きを示す動き情報を補正する動き情報補正ステップと、
上記動き情報補正ステップにより補正された動き情報を用いて、上記画像データに対して画像処理を施すことにより、上記画像に動きぼけを付加する動きぼけ付加ステップとを有するプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008539588A JP5045674B2 (ja) | 2007-02-07 | 2008-02-07 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007028389 | 2007-02-07 | ||
JP2007028389 | 2007-02-07 | ||
JP2008539588A JP5045674B2 (ja) | 2007-02-07 | 2008-02-07 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
PCT/JP2008/052041 WO2008096818A1 (ja) | 2007-02-07 | 2008-02-07 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2008096818A1 true JPWO2008096818A1 (ja) | 2010-05-27 |
JP5045674B2 JP5045674B2 (ja) | 2012-10-10 |
Family
ID=39681722
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008539588A Expired - Fee Related JP5045674B2 (ja) | 2007-02-07 | 2008-02-07 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Country Status (7)
Country | Link |
---|---|
US (1) | US8063939B2 (ja) |
EP (1) | EP2111039B1 (ja) |
JP (1) | JP5045674B2 (ja) |
KR (1) | KR101426095B1 (ja) |
CN (1) | CN101543053B (ja) |
MY (1) | MY151708A (ja) |
WO (1) | WO2008096818A1 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009253675A (ja) * | 2008-04-07 | 2009-10-29 | Canon Inc | 再生装置および方法、プログラム |
JP2010015483A (ja) * | 2008-07-07 | 2010-01-21 | Sony Corp | 画像処理装置、画像処理方法、及びプログラム |
JP4674620B2 (ja) * | 2008-07-29 | 2011-04-20 | ソニー株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP4613990B2 (ja) | 2008-07-31 | 2011-01-19 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
JP5219771B2 (ja) * | 2008-12-15 | 2013-06-26 | キヤノン株式会社 | 映像処理装置および映像処理装置の制御方法 |
JP2010226314A (ja) * | 2009-03-23 | 2010-10-07 | Casio Computer Co Ltd | 動画処理装置、動画処理方法及び動画処理プログラム |
US20100295957A1 (en) | 2009-05-19 | 2010-11-25 | Sony Ericsson Mobile Communications Ab | Method of capturing digital images and image capturing apparatus |
JP5424835B2 (ja) * | 2009-11-30 | 2014-02-26 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
JP5428886B2 (ja) * | 2010-01-19 | 2014-02-26 | ソニー株式会社 | 情報処理装置、情報処理方法、及びそのプログラム |
JP2012003233A (ja) * | 2010-05-17 | 2012-01-05 | Sony Corp | 画像処理装置、画像処理方法およびプログラム |
KR101896026B1 (ko) * | 2011-11-08 | 2018-09-07 | 삼성전자주식회사 | 휴대 단말기에서 움직임 블러를 생성하는 장치 및 방법 |
US9501815B2 (en) * | 2012-05-18 | 2016-11-22 | Thomson Licensing | Processing panoramic pictures |
EP3005678B1 (en) * | 2014-02-18 | 2020-12-23 | Huawei Technologies Co., Ltd. | Method for obtaining a picture and multi-camera system |
CN104113698A (zh) * | 2014-08-06 | 2014-10-22 | 北京北纬通信科技股份有限公司 | 应用于图像捕获设备的模糊图像处理方法和系统 |
JP6489879B2 (ja) * | 2015-03-09 | 2019-03-27 | キヤノン株式会社 | 画像再生装置及び画像再生方法 |
US11722771B2 (en) * | 2018-12-28 | 2023-08-08 | Canon Kabushiki Kaisha | Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ES2438184T3 (es) * | 1993-03-24 | 2014-01-16 | Sony Corporation | Método de codificación y decodificación de vector de movimiento y aparato asociado y método de codificación y decodificación de señal de imagen y aparato asociado |
GB2297450B (en) * | 1995-01-18 | 1999-03-10 | Sony Uk Ltd | Video processing method and apparatus |
JP4083265B2 (ja) | 1997-10-07 | 2008-04-30 | 株式会社日立製作所 | 画像信号の方式変換方法および装置 |
US6665450B1 (en) * | 2000-09-08 | 2003-12-16 | Avid Technology, Inc. | Interpolation of a sequence of images using motion analysis |
AU2003209553A1 (en) * | 2002-03-13 | 2003-09-22 | Imax Corporation | Systems and methods for digitally re-mastering or otherwise modifying motion pictures or other image sequences data |
EP1395061A1 (en) * | 2002-08-27 | 2004-03-03 | Mitsubishi Electric Information Technology Centre Europe B.V. | Method and apparatus for compensation of erroneous motion vectors in video data |
JP4269850B2 (ja) | 2003-09-02 | 2009-05-27 | ソニー株式会社 | 撮像装置 |
JP4497096B2 (ja) * | 2004-02-13 | 2010-07-07 | ソニー株式会社 | 画像処理装置と画像処理方法およびプログラム |
CN100423557C (zh) * | 2004-02-13 | 2008-10-01 | 索尼株式会社 | 图像处理装置以及图像处理方法 |
JP5062968B2 (ja) * | 2004-08-11 | 2012-10-31 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2006096792A (ja) | 2004-09-28 | 2006-04-13 | Toyobo Co Ltd | コーティング剤とそれを用いた磁気記録媒体 |
JP2007028389A (ja) | 2005-07-20 | 2007-02-01 | Toshiba Corp | クロック生成回路及びクロック生成方法 |
JP4961800B2 (ja) | 2006-03-31 | 2012-06-27 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
-
2008
- 2008-02-07 KR KR1020087024345A patent/KR101426095B1/ko active IP Right Grant
- 2008-02-07 JP JP2008539588A patent/JP5045674B2/ja not_active Expired - Fee Related
- 2008-02-07 US US12/294,470 patent/US8063939B2/en not_active Expired - Fee Related
- 2008-02-07 EP EP08710920.3A patent/EP2111039B1/en not_active Not-in-force
- 2008-02-07 MY MYPI20083979 patent/MY151708A/en unknown
- 2008-02-07 CN CN200880000144XA patent/CN101543053B/zh not_active Expired - Fee Related
- 2008-02-07 WO PCT/JP2008/052041 patent/WO2008096818A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
CN101543053B (zh) | 2011-07-06 |
CN101543053A (zh) | 2009-09-23 |
US20100225772A1 (en) | 2010-09-09 |
MY151708A (en) | 2014-06-30 |
JP5045674B2 (ja) | 2012-10-10 |
WO2008096818A1 (ja) | 2008-08-14 |
KR20090107911A (ko) | 2009-10-14 |
KR101426095B1 (ko) | 2014-08-01 |
EP2111039A4 (en) | 2016-12-07 |
EP2111039A1 (en) | 2009-10-21 |
US8063939B2 (en) | 2011-11-22 |
EP2111039B1 (en) | 2017-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5045674B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP4666012B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
US9591237B2 (en) | Automated generation of panning shots | |
US8989484B2 (en) | Apparatus and method for generating high dynamic range image from which ghost blur is removed using multi-exposure fusion | |
JP4613990B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
TWI379588B (ja) | ||
US10237473B2 (en) | Depth map calculation in a stereo camera system | |
JP4454657B2 (ja) | ぶれ補正装置及び方法、並びに撮像装置 | |
JP2009147658A (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2010141849A (ja) | 主顔選択装置、その制御方法、撮像装置及びプログラム | |
CN109191506B (zh) | 深度图的处理方法、系统及计算机可读存储介质 | |
JP2009081574A (ja) | 画像処理装置、方法およびプログラム | |
KR102003460B1 (ko) | 왜곡제거장치 및 방법 | |
JP2018061130A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020031422A (ja) | 画像処理方法及び装置 | |
JP2009118434A (ja) | ぶれ補正装置及び撮像装置 | |
JP5566196B2 (ja) | 画像処理装置及びその制御方法 | |
JP2012085205A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP2009153046A (ja) | ぶれ補正装置及び方法並びに撮像装置 | |
JP2013175803A (ja) | 画像処理装置およびカメラ | |
JP7409604B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP4915468B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2011151556A (ja) | 画像処理装置およびその制御方法 | |
JP2018174461A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2010011050A (ja) | 動画像処理装置、カメラ一体型画像記録装置、動画像再生装置、遠隔操作システム、動画像処理プログラム、記憶媒体及び、動画像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101222 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120619 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120702 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150727 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5045674 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |