JP2008271241A - 撮像装置、画像処理装置、撮像方法、及び画像処理方法 - Google Patents

撮像装置、画像処理装置、撮像方法、及び画像処理方法 Download PDF

Info

Publication number
JP2008271241A
JP2008271241A JP2007112147A JP2007112147A JP2008271241A JP 2008271241 A JP2008271241 A JP 2008271241A JP 2007112147 A JP2007112147 A JP 2007112147A JP 2007112147 A JP2007112147 A JP 2007112147A JP 2008271241 A JP2008271241 A JP 2008271241A
Authority
JP
Japan
Prior art keywords
image
focus position
images
main subject
focus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007112147A
Other languages
English (en)
Other versions
JP2008271241A5 (ja
JP4582423B2 (ja
Inventor
Masaya Tamaru
雅也 田丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007112147A priority Critical patent/JP4582423B2/ja
Priority to US12/105,813 priority patent/US8184171B2/en
Publication of JP2008271241A publication Critical patent/JP2008271241A/ja
Publication of JP2008271241A5 publication Critical patent/JP2008271241A5/ja
Application granted granted Critical
Publication of JP4582423B2 publication Critical patent/JP4582423B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters

Abstract

【課題】被写界深度が深い画像を撮影した場合であっても、ぼかし処理により被写界深度を浅く撮影した画像と同様な、主要被写体以外の他の部分を意図的にぼかした画像を得る。
【解決手段】フォーカスブラケット撮影により、主要被写体の合焦位置と、その前後の焦点位置で撮影を行う。各撮影画像の対応する座標の画素について、最も鮮鋭度の高い画像を算出し、これからぼかし量kを算出する(ステップS201)。このぼかし量の絶対値|k|と所定の閾値Thの比較を行い(ステップS202)、所定の閾値Thの方が大きい場合は、基準画像の画素を出力し、ぼかし量の絶対値|k|の方が大きい場合は、ぼかし量kに応じたフィルタ係数を決定し(ステップS203)、基準画像の画素にこのフィルタ係数でフィルタ処理を行う(ステップS145)。
【選択図】 図17

Description

本発明は撮像装置、画像処理装置、撮像方法、及び画像処理方法に係り、特に焦点位置の異なる複数の画像を合成することにより、ぼけ強調画像を得る撮像装置、画像処理装置、撮像方法、及び画像処理方法に関する。
従来より、写真撮影において、絞りを開放側に設定して被写界深度を浅くすることにより主要被写体だけに焦点を合わせ、主要被写体以外の他の部分を意図的にぼかす撮影方法が行われてきた。しかし、このような撮影方法が可能なのは、絞りをマニュアルで調節可能な一眼レフカメラ等の大型カメラに限られ、またコンパクトカメラ等では撮像素子が小さいために、絞りを自動的に開放側に制御しても主要被写体以外の部分をぼかすのは困難であった。
このような課題を解決するために、撮影した画像データに対して画像処理を行うことにより、ぼけ強調画像を得る技術が知られている。特許文献1には、撮影した画像データから非合焦領域を検出し、非合焦領域に対してデジタル信号処理によってぼかし処理を行うデジタルカメラが開示されている。特許文献1のデジタルカメラによれば、被写界深度が深い画像を撮影した場合であっても、ぼかし処理により被写界深度を浅く撮影した画像と同様な、主要被写体以外の他の部分を意図的にぼかした画像を得ることができる。
特開2006−140594号公報
しかしながら、特許文献1に記載のデジタルカメラにおいては、被写体の周波数特性を考慮せずに光強度変化等で非合焦領域を判断しているため、もともと周波数の低い被写体なのか、非合焦により周波数が低くなっているかの区別がつかず、良好な非合焦領域の判断ができなかった。このため、ぼかしたい領域を適切にぼかすことができない場合があるという欠点があった。
本発明はこのような事情に鑑みてなされたもので、被写界深度の浅い画像を撮影することが困難なコンパクトカメラ等においても、ぼかしたい領域を適切にぼかした、意図したぼけ強調画像を得ることができる撮像装置、画像処理装置、撮像方法、及び画像処理方法を提供することを目的とする。
前記目的を達成するために本発明に係る撮像装置は、画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断手段と、予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影手段と、前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像を合成する画像合成手段と、前記画像合成手段により得られた画像を記録媒体に記録する記録手段とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。
前記画像合成手段は、前記複数画像間の対応する座標の画素において、前記主要被写体の合焦位置で撮影された画素の鮮鋭度が最大の場合はその画素を選択し、前記主要被写体の合焦位置以外の焦点位置で撮影された画素の鮮鋭度が最大の場合は、前記主要被写体の合焦位置に関して前記画素の鮮鋭度が最大の焦点位置と対称となる焦点位置で撮影された画素を選択して画像合成することが好ましい。
これにより、ぼかしたい領域を適切なぼかし量でぼかすことができ、意図したぼけ強調画像を得ることができる。
前記目的を達成するために本発明に係る撮像装置は、画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断手段と、予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影手段と、前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出手段と、前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理手段と、前記ぼかし処理手段によりぼかし処理された前記基準画像を記録媒体に記録する記録手段とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。また基準画像のみからぼけ強調を行うのでぼけの変化が滑らかになり、より自然なぼけ画像が得られる。
前記焦点位置制御手段は、撮影時の絞り及び撮影時の焦点距離のうち少なくとも一方に基づいて、前記移動する焦点位置を制御することが好ましい。
これにより、被写界深度に応じたフォーカスブラケット撮影が可能になる。
前記複数の画像間の対応する座標の画素の鮮鋭度を算出する鮮鋭度算出手段を備え、
前記ぼかし量算出手段は、前記鮮鋭度算出手段の算出結果に基づいて、前記ぼかし量を算出することが好ましい。
これにより、ぼかしたい領域を適切なぼかし量でぼかすことができ、意図したぼけ強調画像を得ることができる。
ぼけ強調度を設定するぼけ強調度設定手段を備え、前記ぼかし量算出手段は、前記ぼけ強調度設定手段で設定されたぼけ強調度に応じたぼかし量を算出してもよい。
これにより、ユーザが好みに応じたぼけ量のぼけ強調画像を撮影することができる。
前記基準画像は、前記主要被写体の合焦位置で撮影された画像であることが好ましい。
これにより、主要被写体だけに合焦したぼけ強調画像を得ることができる。
前記ぼかし処理手段は、遮断周波数を低くするほど前記ぼかし量が大きくなるローパスフィルタを用いて前記基準画像から平滑化画像を生成することが好ましい。
これにより、簡単にぼけ強調画像を得ることができる。
前記ぼかし量算出手段は、最も鮮鋭度が大きい画像の焦点位置と前記基準画像の焦点位置の差が大きいほどぼかし量を大きくするように、前記ぼかし量を算出することが好ましい。
前記目的を達成するために本発明に係る画像処理装置は、主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力手段と、前記複数の画像を合成する画像合成手段と、前記画像合成手段により得られた画像を出力する出力手段とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。
前記目的を達成するために本発明に係る画像処理装置は、主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力手段と、前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出手段と、前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理手段と、前記ぼかし処理手段によりぼかし処理された前記基準画像を出力する出力手段とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。また基準画像のみからぼけ強調を行うのでぼけの変化が滑らかになり、より自然なぼけ画像が得られる。
前記目的を達成するために本発明に係る撮像方法は、画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置と前記主要被写体の合焦位置の前後の焦点位置を含むように制御する焦点位置制御工程と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影工程により撮影された複数の画像を合成する画像合成工程と、前記画像合成工程により得られた画像を記録媒体に記録する記録工程とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。
前記目的を達成するために本発明に係る撮像方法は、画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御工程と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出工程と、前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理工程と、前記ぼかし処理工程によりぼかし処理された前記基準画像を記録媒体に記録する記録工程とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。また基準画像のみからぼけ強調を行うのでぼけの変化が滑らかになり、より自然なぼけ画像が得られる。
前記目的を達成するために本発明に係る画像処理方法は、主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力工程と、前記複数の画像を合成する画像合成工程と、前記画像合成工程により得られた画像を出力する出力工程とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。
前記目的を達成するために本発明に係る画像処理方法は、主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力工程と、画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御工程と、前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出工程と、前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理工程と、前記ぼかし処理手段によりぼかし処理された前記基準画像を記録媒体に記録する記録工程とを備えたことを特徴とする。
これにより、ぼけ強調画像を得ることができる。また基準画像のみからぼけ強調を行うのでぼけの変化が滑らかになり、より自然なぼけ画像が得られる。
本発明によれば、通常撮影よりも自然なぼけ強調された画像を得ることができる。これにより、コンパクトカメラのように撮像素子が小さいカメラを用いて、一眼レフのように撮像素子が大きいカメラで撮影されるような被写界深度の浅い、ぼけ味のある画像を得る撮像装置、画像処理装置、撮像方法、及び画像処理方法を提供することができる。
以下、添付図面に従って本発明を実施するための最良の形態について説明する。
<第1の実施の形態>
図1は、本発明に係る第1の実施の形態のデジタルカメラ1の内部構成の一例を示すブロック図である。
CPU24は、シャッタースイッチを含む操作部23の入力に基づいてデジタルカメラ1内の各回路を統括制御するもので、カメラ制御プログラムにしたがった処理を実行する。
このCPU24の各回路の制御は、アドレスバス25及びデータバス26を介しておこなう。またCPU24は、メインメモリ28との間で、必要なデータの授受を行う。メインメモリ28の内部はROM領域とRAM領域に分かれており、このROM領域には、カメラ制御プログラム、起動時のオープニング画像、停止時のエンディング画像、デジタルカメラ1の操作に使用するメニュー画像等のGUI用の画像、スクリーンセイバー用の画像、処理中のプログレス表示用の画像(目盛りが変化する砂時計の画像等)、キー操作音(シャッター音等)、警告音、及びエラー音等を示す音声データ等が記録されている。
デジタルカメラ1に電源が投入されると、CPU24はこれを検出し、一定期間メインメモリ28のROM領域に格納されているオープニング画像を表示部35に表示した後、撮影モードで撮影スタンバイ状態にする。この撮影スタンバイ状態では、CPU24は、表示部35に動画(スルー画)を表示させる。
ユーザ(撮影者)は、表示部35に表示されるスルー画を見ながらフレーミングしたり、撮影したい被写体を確認したり、撮影後の画像を確認したり、撮影条件を設定したりする。
上記撮影スタンバイ状態時に操作部23の図示しないシャッタースイッチが押されると、CPU24は、積算部31で算出したAF評価値に基づいて合焦位置を判断し、レンズ駆動部16を介してレンズ11を駆動しフォーカス制御を行い、絞り駆動部17を介して絞り12を駆動し露出制御を行い、レンズ11、絞り12、Irカットフィルタ13、及び光学ローパスフィルタ14を介して固体撮像素子15の受光面上に被写体像を結像させる。ここで、必要であればストロボ19を撮影補助光として発光させる。またこのとき、受光部20によりストロボ19の発光量を制御する。固体撮像素子15の受光面に結像された被写体像をその光量に応じた量の信号電荷に変換し、この信号電荷はCPU24の指令に従い撮像素子駆動部18から与えられる駆動パルスに基づいてアナログ信号処理部21に送られ、ここで相関二重サンプリング処理された後に増幅され、A/D変換器22に加えられる。
A/D変換器22によってデジタル信号に変換された点順次のR、G、B信号は、メインメモリ制御部27を介してメインメモリ28のRAM領域に記憶される。
デジタル信号処理部29は、上記メインメモリ28のRAM領域に格納されたR、G、Bの生データを読み出し、これらに光源種に応じたデジタルゲインをかけることでホワイトバランス調整を行うとともに、ガンマ(階調変換)処理、シャープネス処理等を行ってR、G、B信号を生成する。更にYC信号処理して輝度信号Yとクロマ信号Cr、Cb(YC信号)を生成し再びメインメモリ28のRAM領域に格納する。
上記のようにしてメインメモリ28のRAM領域に格納されたYC信号は、圧縮伸張処理部30により所定のフォーマットに圧縮されたのち、メモリ制御部32を介して、デジタルカメラ1に着脱自在な記録媒体33に記録される。
また各種操作部23を操作して再生モードが選択されると、記録メディアに記録されている最終コマの画像ファイルがメモリ制御部32を介して読み出される。この読み出された画像ファイルの圧縮データは、圧縮伸張処理部30により非圧縮のYC信号に伸張される。伸張されたYC信号は、表示用の信号形式に変換されて表示部35に出力される。これにより、表示部35には記録メディアに記録されている最終コマの画像が表示される。
次に、デジタルカメラ1における全焦点画像撮影について説明する。図2は、全焦点画像を撮影するための全焦点画像撮影モードの動作を示すフローチャートである。本発明に係るデジタルカメラ1の全焦点画像撮影モードでは、フォーカスブラケット撮影を行い、各撮影画像の対応点を検出し、対応点の位置が一致するように各撮影画像を変形し、変形した画像を合成することにより全焦点画像を得る。
操作部23の図示しないモードスイッチを操作することにより全焦点画像撮影モードが設定され、さらに操作部23のシャッタースイッチが押されると、CPU24はこれらの操作に基づいて、焦点位置を設定し(ステップS21)、撮影を行う(ステップS22)。次に撮影した回数の判定を行う(ステップS23)。所定回数に満たない場合は、異なる焦点位置に設定し(ステップS21)、さらに撮影を行う(ステップS22)。このように異なる焦点位置での撮影を繰り返し、所定回数の撮影を行う(フォーカスブラケット撮影)。各撮影画像は、メインメモリ28のRAM領域に格納される。
ここで、所定回数については、デジタルカメラ1内において予め定められた回数でもよいし、ユーザが設定できるようにしてもよい。また、撮影条件で決まる被写界深度を判断し、この被写界深度に応じて決定してもよい。全焦点画像を得るためには、画像内の全ての被写体において、いずれか1枚の画像においては合焦していることが必要である。よって、被写界深度が浅い場合は焦点位置の移動量を少なくして撮影枚数を多くする必要がある。また被写界深度が深い場合は焦点位置の移動量を多くして撮影枚数を少なくすることにより、無駄に多くの枚数を撮影してメモリを消費したり、処理負荷を増やすことを防止することができる。
また、この焦点位置の移動については、焦点距離が近い位置から遠い位置へ移動しても、遠い位置から近い位置へ移動しても、又はランダムに移動してもよい。
所定回数の撮影が終了すると、各撮影画像における対応点の検出を行う(ステップS24)。
ここで、画像内の対応点の検出について説明する。対応点検出は、複数画像間で対応する点の位置関係を求めるものである。図3は、フォーカスブラケット撮影から得られた画像を示す図である。対応点検出部36が、図3(a)に示す基準画像から特徴点を抽出し、その特徴点が図3(b)に示す追跡画像のどの位置に移動したかを追跡することにより、対応点の検出を行う。図4は、デジタルカメラ1の対応点検出の動作について示すフローチャートである。
まず、CPU28は、対応点検出部36へフォーカスブラケット撮影を行った複数画像を入力する(ステップS41)。次に、対応点検出部36は、この複数画像の中から基準画像を選択し(ステップS42)、この基準画像から特徴点の抽出を行う(ステップS43)。基準画像の選択については、デジタルカメラ1内において予め定められた方法に基づいて選択してもよいし、ユーザが選択してもよい。ここでは、最初に撮影した画像を基準画像とする。特徴点抽出の手法は種々のものが提案されているが、ここでは、ある点を中心とする所定領域内の輝度の標準偏差が所定値以上の場合に、その点を特徴点として抽出する。図3(a)における丸印が、図3(a)の画像における特徴点を示す。特徴点は多いほうが以後の処理を精度よく行うことができるが、特徴点が多くなると処理負荷が増大するため、特徴点の数はハード性能から適宜決めればよい。
次に、追跡画像の選択を行う(ステップS44)。ステップS41で入力された複数画像のうち、基準画像以外の画像を選択する。
選択した追跡画像において、基準画像から抽出された特徴点の1つを選択し(ステップS45)、この特徴点ががどの位置へ移動したかを追跡する(ステップS46)。追跡手法についても種々のものが提案されているが、ここではその点を中心とする所定領域内の相互相関係数が最小となるような座標を見つける手法(ブロックマッチング法)を用いて追跡を行う。なお、本発明ではフォーカスブラケット撮影を行っているので、焦点位置が移動することによって対応点が移動する方向、及び移動する量は予測可能である。焦点位置の移動による対応点の移動は、画面中心から放射方向へ、又はその逆方向への移動であり、これは焦点位置の移動方向から予測可能である。またその移動量も焦点位置の移動量から予測可能である。よって、これらを考慮して対応点を検出することで、精度、速度ともに対応点検出性能を向上させることができる。
特徴点の追跡が終了すると、全特徴点に対して処理を行ったか否かの判定を行う(ステップS47)。処理を行っていない特徴点がある場合は、その特徴点を選択し(ステップS45)、追跡を行う(ステップS46)。このように全ての特徴点において、追跡を行う。
全ての特徴点に対して処理を行うと、次に全ての追跡画像に対してこの処理を行ったか否かの判定を行う(ステップS47)。前述したように、この処理は基準画像以外の画像について行う。処理を行っていない追跡画像がある場合は、その追跡画像において同様の処理を行う。全ての追跡画像に対して処理が終了すると、対応点検出処理が終了する。
対応点検出処理が終了すると、次に画像変形を行う(ステップS25)。この画像変形処理は、対応点検出処理で得られた各追跡画像の対応点が基準画像の対応点の位置に極力一致するように、画像変形部37が追跡画像を変形する。図5は、画像変形について示す図である。図5(a)に示す基準画像に対して、図5(b)に示すように各対応点が平行移動している場合は、平行移動を行う。また図5(c)に示すように各対応点が回転移動移動している場合は、回転移動を行う。また図5(d)に示すように各対応点が拡大(縮小)している場合は、縮小(拡大)を行う。これらの画像変形は、複数組の対応点の距離の総和が最小となるように移動ベクトルを決めればよい。なお、これらの平行移動、回転、及び拡大・縮小処理は、アフィン変換により行う。
また図5(e)に示すように基準画像と追跡画像との間に複雑な動きが生じている場合は、全ての対応点をより精度よく一致させるためにはワーピングを行う。ワーピングは全ての対応点の組を完全に一致するような移動ベクトルを選択するとともに、その周囲の点も補間により求めるものである。
このように対応点の位置を極力一致させた複数画像に対して、画像合成を行う(ステップS26)。図6は、画像合成処理の動作を示すフローチャートである。画像合成処理では、複数画像において最も鮮鋭度が高い画像、即ち最も焦点の合った画像の画素値を選択し、合成することにより、最終画像として画面内のどの位置においても鮮鋭度が高い画像、即ち全焦点画像を得る。
まず、画像合成部38が、処理を行う画素の選択を行う(ステップS61)。この画素の選択の順序については、画面の端から順に行えばよく、また他の順序でも構わない。次に、画像の選択を行い(ステップS62)、選択した画像における、ステップS61で選択された画素の鮮鋭度を算出する(ステップS63)。
鮮鋭度の算出については、ラプラシアンフィルタ処理による出力値の絶対値を算出することにより行う。図7は、ラプラシアンフィルタのフィルタ行列を示す図である。ラプラシアンフィルタ処理を行うことによりエッジ検出をすることができ、この出力値の絶対値が鮮鋭度を示す。画像のぼけと鮮鋭度に関しては、画像のぼけが小さい画素ほど鮮鋭度が高く、ぼけが大きくなるほど鮮鋭度が低くなるという関係がある。なお、ラプラシアンフィルタのカーネルはこの例に限定されるものではなく、またラプラシアンフィルタ以外の鮮鋭度算出フィルタを用いてもよい。
次に、全画像に対して鮮鋭度の算出が終了したか否かの判定を行う(ステップS64)。鮮鋭度の算出をしていない画像が有る場合には、再び画像の選択を行い(ステップS62)、選択した画像における、ステップS61で選択された画素の鮮鋭度を算出する(ステップS63)。このように、全画像に対して、ステップS61で選択された画素の鮮鋭度を算出する。
次に、鮮鋭度が最大となる画像の画素値を出力する(ステップS65)。ステップS63において算出した、各画像のステップS61で選択した画素のラプラシアンフィルタ処理における出力値の絶対値を比較し、最大の値である画像の画素値を出力画素して採用する。また、鮮鋭度の高い画像の画素値に対する重みを大きくして加重平均を算出し、これを出力してもよい。
以上の処理を全ての画素に対して行う。全画素に対して処理が行われたか否かを判定し、全画素に対して終了した場合は、画像合成処理が終了する。
画像合成処理が終了すると、CPU24は画像合成部38の出力画像をメモリ制御部32を介して記録媒体33に記録して、全焦点画像撮影が終了する(ステップS27)。
この画像合成部38の出力画像は、記録媒体33に保存せずに、表示制御部34を介して表示部35に表示するだけでもよいし、図示しない外部インターフェースを用いて、外部モニタに表示したり、プリンタ等に印刷物として出力してもよい。
このようにして、被写体ブレや手ブレがあっても、全焦点画像を得ることができる。
特徴点の抽出方法や、特徴点の追跡方法、画像の変形方法、及び画素の鮮鋭度の算出方法については、本実施の形態の方法に限定されず、どの手法を用いても構わない。
<第2の実施の形態>
次に、デジタルカメラ1におけるぼけ強調撮影について説明する。図8は、ぼけ強調画像を撮影するためのぼけ強調撮影モードの動作を示すフローチャートである。なお、図2のフローチャートと共通する部分には同一の符号を付し、その詳細な説明は省略する。
本発明に係るデジタルカメラ1のぼけ強調画像撮影モードでは、オートフォーカスにより主要被写体の合焦位置とその前後の焦点位置での撮影を含むフォーカスブラケット撮影を行い、各撮影画像の対応点を検出し、対応点の位置が一致するように各撮影画像を変形し、変形した画像を合成することによりぼけ強調画像を得る。
まず操作部23のモードスイッチを操作することにより、ぼけ強調画像撮影モードに設定される。次に操作部23におけるシャッターボタンが押されると、まず主要被写体に対して自動合焦位置判断(AF)を行う(ステップS81)。このAFについては、通常撮影の際に行われるAFと同じものでよく、撮影に先立ってレンズの焦点位置を駆動させ、その都度積算部31でバンドパスフィルタの出力値等のAF評価値を算出し、CPUにて最もAF評価値の高い焦点位置を合焦位置と判断する。
ぼけ強調画像撮影モードでのフォーカスブラケット撮影においては、主要被写体のAF合焦位置と主要被写体のAF合焦位置の前後の焦点位置を含むように焦点位置を移動させて撮影を行う。図9は、デジタルカメラ1の各焦点位置を横軸に、各焦点位置における主要被写体に対するAF評価値を縦軸に表したグラフである。最もAF評価値の高い焦点位置が主要被写体の合焦位置であり、この主要被写体の合焦位置をBとすると、本実施の形態のフォーカスブラケット撮影においては、合焦位置Bと、その前後に所定距離dだけ離れた焦点位置A及びCの3点を撮影の際の焦点位置とする。このdについては、予めデジタルカメラ1内に記憶された固定値でもよいし、ユーザが設定してもよい。また被写界深度を判断し、この被写界深度によって異ならせてもよい。被写界深度によりぼけの度合いが異なるため、被写界深度によりdの値を変更することにより、適切なぼけ具合の意図する画像を得ることが可能となる。
このように決められた焦点位置において、第1の実施の形態の全焦点画像撮影モードと同様に、フォーカスブラケット撮影を行う(ステップS21〜S23)。各撮影画像は、メインメモリ28のRAM領域に格納される。
フォーカスブラケット撮影が終了すると、各撮影画像における対応点の検出を行う(ステップS24)。ここでは、基準画像を主要被写体の合焦位置Bで撮影された画像とする。対応点検出は第1の実施の形態と同様に行う。
対応点検出処理が終了すると、次に画像変形を行う(ステップS25)。画像変形においても、第1の実施の形態と同様に行う。
画像変形処理が終了すると、次に画像合成を行う。図10は第2の実施の形態における画像合成処理の動作のフローチャートである。なお、図6のフローチャートと共通する部分には同一の符号を付し、その詳細な説明は省略する。本発明の第2の実施の形態のデジタルカメラ1のぼけ強調画像撮影モードにおいては、画像合成処理において、複数画像において基準画像が最も鮮鋭度が高い場合は基準画像の画素を選択し、基準画像以外の画像が最も鮮鋭度が高い場合は、主要被写体の合焦位置に関して、画素の鮮鋭度が最大の焦点位置と対称となる焦点位置で撮影された画像の画素を選択することにより、ぼけ強調画像を得る。
第1の実施の形態と同様に、画像合成部38は、処理を行う画素の選択を行い(ステップS61)、この選択された画素の各画像の鮮鋭度を算出する(ステップS62〜S64)。図11は、主要被写体の合焦位置Bで撮影された画像と、その合焦位置の前後の焦点位置であるA及びCで撮影された画像の、鮮鋭度の関係を示すグラフである。フォーカスブラケット撮影で3枚の画像を撮影した場合、このA、B、及びCの焦点位置で撮影された画像の鮮鋭度の関係は、図11(a)に示すCが最大の場合、図11(b)に示すBが最大の場合、及び図11(c)に示すAが最大の場合の3種類に分類することができる。
全画像において選択された画素の鮮鋭度を算出すると、この算出された鮮鋭度に基づいて、基準画像の鮮鋭度が最大であるか否か、即ち鮮鋭度が図11(b)に示す関係であるか否かの判定を行う(ステップS101)。基準画像の鮮鋭度が最大の場合は、基準画像の画素値を出力する(ステップS102)。基準画像の鮮鋭度が最大でない場合は、主要被写体の合焦位置より遠い側の画像の鮮鋭度が最大であるか否か、即ち鮮鋭度が図11(a)に示す関係であるか否かの判定を行う(ステップS103)。主要被写体の合焦位置より遠い側の画像の鮮鋭度が最大の場合は、主要被写体の合焦位置より近い側の画像の画素値を出力する(ステップS104)。また逆に、主要被写体の合焦位置より遠い側の画像の鮮鋭度が最大でない場合は、主要被写体の合焦位置より近い側の画像の鮮鋭度が最大である、即ち鮮鋭度が図11(c)に示す関係であるので、主要被写体の合焦位置より遠い側の画像の画素値を出力する(ステップS105)。
この処理を、全ての画素について行う。全画素に対して処理が終了したと判断すると(ステップS106)、画像合成処理が終了する。
画像合成処理が終了すると、CPU24は画像合成部38の出力画像をメモリ制御部32を介して記録媒体33に記録して(ステップS27)、ぼけ強調画像撮影が終了する。
このように、主要被写体の合焦位置Bで撮影された画像の鮮鋭度が低い画素の座標において、ぼけが強くなる画素値を選択することにより、ぼけ強調が可能となる。焦点位置が3点を超える場合でも、鮮鋭度の最大値を取る焦点位置と合焦位置を挟んで反対側の焦点位置にある複数画像から、ぼけ強調度合いに応じて選択すればよい。つまり、よりぼけを強調したい場合には、より鮮鋭度の低い画像の画素値を出力すればよい。
なお、本実施の形態においては主要被写体の合焦位置と、合焦位置に対してdだけ離れたA及びCにおいてフォーカスブラケット撮影を行ったが、A及びCはBに対して対称でなく、dとd’のように合焦位置からの距離が異なってもよい。
また、本実施の形態の図10に示す画像合成処理は、対応点検出及び画像変形を行わない画像に対して行ってもよい。即ち、フォーカスブラケット撮影した複数画像において、直接この画像合成処理を行ってもよい。
<第3の実施の形態>
本発明に係る第3の実施の形態のぼけ強調撮影について説明する。図12は、本発明に係る第3の実施の形態のデジタルカメラ1の内部構成の一例を示すブロック図である。図1に示すブロック図とは、画像合成部38の代わりにフィルタ処理部40を備えたところだけが異なる。
図13は、デジタルカメラ1のぼけ強調撮影モードの動作を示すフローチャートである。なお、図2及び図8のフローチャートと共通する部分には同一の符号を付し、その詳細な説明は省略する。本発明の第3の実施の形態のデジタルカメラ1のぼけ強調画像撮影モードでは、オートフォーカスにより主要被写体の合焦位置とその前後の焦点位置での撮影を含むフォーカスブラケット撮影を行い、各撮影画像の対応点を検出し、対応点の位置が一致するように各撮影画像を変形し、変形した画像から各画素の鮮鋭度を算出し、鮮鋭度に基づいたフィルタ係数で基準画像にフィルタ処理を施すことによりぼけ強調画像を得る。
これまでと同様に、ぼけ強調撮影モードにおいて操作部23のシャッターボタンが押されると、主要被写体に対して自動合焦位置判断を行い(ステップS81)、次に焦点位置間隔dを決定する(ステップS161)。
本実施の形態では、フォーカスブラケット撮影の際に設定される焦点位置には、主要被写体の合焦位置と、その前後の焦点位置を含むようにする。ここでは図14に示すように、主要被写体の合焦位置F3、主要被写体の合焦位置から前後に焦点間隔dだけ離れた焦点位置F2及びF4、さらに主要被写体の合焦位置F3から遠ざかる方向に、焦点位置F2及びF4から焦点間隔dだけ離れた焦点位置のF1及びF5、の計5点をフォーカスブラケット撮影の際の焦点位置とする。なお、焦点位置の端から順に、F1で撮影された画像の番号を1、F2で撮影された画像の番号を2、・・・、F5で撮影された画像の番号を5、とする。
図15は、撮影時の絞りと焦点距離、及びフォーカスブラケット撮影時の焦点位置の間隔dの関係を3次元的に示したグラフである。このように、絞りのF値が小さい場合や焦点距離が長い場合など、被写界深度が浅い場合はdを小さく、逆に絞りのF値が大きい場合や焦点距離が短い場合など、被写界深度が深い場合はdを大きくするように設定されている。CPU24は、メインメモリ28のROM領域に記憶されたこの設定に基づいて焦点間隔dを決定する。これにより、任意の絞りと焦点距離において、ぼけ強調に適した焦点の異なる画像を得ることができる。なお、焦点間隔dは一定でなくてもよく、例えば主要被写体の合焦位置から見てNEAR側とFAR側で変えるようにしてもよい。
以上のように撮影時の絞りと焦点距離から焦点間隔dを決定すると、次にF1〜F5の焦点位置において、フォーカスブラケット撮影を行う(ステップS21〜S23)。この撮影の順序に関しては、適宜決めてよい。各撮影画像は、メインメモリ28のRAM領域に格納される。
フォーカスブラケット撮影が終了すると、主要被写体の合焦位置で撮影された画像を基準画像として、各撮影画像における対応点の検出を行う(ステップS24)。対応点の検出は、第一の実施の形態と同様に行う。対応点検出処理が終了すると、次に画像変形を行う(ステップS25)。
画像変形処理が終了すると、次にぼかし量算出を行う(ステップS162)。図16は、ぼかし量算出処理の動作を示すフローチャートである。なお、図6のフローチャートと共通する部分には同一の符号を付し、その詳細な説明は省略する。
最初に、フィルタ処理部40が、処理を行う画素の選択を行う(ステップS61)。次に、画像の選択を行い(ステップS62)、選択した画像における、ステップS61で選択された画素の鮮鋭度を算出する(ステップS63)。鮮鋭度の算出においては、第1の実施の形態と同様に、ラプラシアンフィルタ処理における出力値の絶対値を算出することにより行う。全画像に対して、ステップS61で選択された画素の鮮鋭度を算出する。
全画像に対して鮮鋭度の算出が終了したと判断すると(ステップS64)、次に算出した鮮鋭度が最大である画像番号nを算出し(ステップS191)、ぼかし量kを算出する(ステップS192)。
ここで、主要被写体の合焦位置で撮影された画像番号をcとすると、ぼかし量kは以下の式で表される。
(数1)
k=u×(nーc)
ここで、uはユーザが指定したぼけ強調度合いであり、uが1.0よりも大きければ基準設定よりもぼけが強調され、uが1.0未満の場合は基準設定よりもぼけが緩和される画像となる。なお、ぼけ強調度合いuは、ユーザが操作部23を操作することにより設定が可能となっている。また、本実施の形態ではc=3である。
このぼかし量kの算出を全ての画素について行う。全ての画素について終了したと判断すると(ステップS66)、ぼかし量算出処理が終了する。
ぼかし量算出処理が終了すると、次にぼかし処理を行う(ステップS163)。図17は、ぼかし処理の動作を示すフローチャートである。本実施の形態では、ぼかし処理にガウシアンフィルタを用いる。
まずフィルタ処理部40が、画素の選択を行い(ステップS61)、選択した画素のぼかし量kを選択する。図16のステップS192で算出された各画素のぼかし量kは、メインメモリ28のRAM領域に記憶されており、これを読み出す。
次に、読み出したぼかし量の絶対値|k|と所定の閾値Thとの比較を行う(ステップS202)。所定の閾値Thの方が大きい場合は、この画素を合焦領域とみなして被写体の合焦位置F3で撮影した画素値を出力する(ステップS146)。ぼかし量の絶対値|k|の方が大きい場合は、この画素をぼけ強調すべき領域とみなしてフィルタ係数を決定する(ステップS203)。
前述したように、本実施の形態では、このフィルタ処理にガウシアンフィルタを用いる。図18は、ぼかし量の絶対値|k|と、ガウシアンフィルタのσパラメータの関係を示したグラフである。図18に示すように、ぼかし量の絶対値|k|が所定の閾値Th以上のとき、ぼかし量の絶対値|k|と比例関係にあるガウシアンフィルタのσパラメータが求められ、このσパラメータに応じたガウシアンフィルタ係数f(x)を決定する。CPU24は、メインメモリ28のRAM領域に記憶されたこの関係に基づいてσパラメータを決定する。
図18(b)は、注目画素からの距離xとガウシアンフィルタのフィルタ係数f(x)の関係を示したグラフである。図18(b)に示すように、ガウシアンフィルタはσパラメータが大きいほど周辺画素の重みを大きくして加重平均をとる。よってぼかし量の絶対値|k|の大きさに応じてσパラメータを大きくすることにより、ぼかし量の絶対値|k|が大きいほど平滑化の度合いを大きくすることができる。
このように求められたσパラメータからフィルタ係数f(x)を算出するには、[数2]を用いて演算を行い、算出されたフィルタ係数の総和が1になるように正規化
を行う。
Figure 2008271241
デジタルフィルタの場合は注目画素を中心とした離散位置ごとにf(x)が決定される。例えば5タップフィルタの場合は、f(x)={0.1、0.2、0.4、0.2、0.1}などとなる。なお一般には画像の明るさが変動しないよう、各係数の総和が1.0になるように正規化される。またここでは1次元のフィルタ係数で表現しているが、このフィルタを水平方向と垂直方向に順に施すことにより2次元のフィルタ処理を行うことができる。
このように、選択した画素について、ぼかし量に応じたフィルタ処理を行い、出力画素値を算出する(ステップS145)。この処理を全画素について行い、全画素に対して処理が終了したと判断すると(ステップS66)、ぼかし処理が終了する。このように、主要被写体の合焦位置Bで撮影された基準画像に対してフィルタ処理を行うことにより、より自然なぼけ強調が可能となる。
なお、このフィルタ処理に用いるフィルタはガウシアンフィルタに限られるものではなく、ローパスフィルタなら他のフィルタでも構わない。例えば絞りやレンズの特性に応じたぼけ形状を持ったフィルタを用いてもよい。
ぼかし処理が終了すると、CPU24はフィルタ処理部40の出力画像をメモリ制御部32を介して記録媒体33に記録して、全焦点画像撮影が終了する(ステップS27)。
このようにして、ぼけ強調画像を得ることができる。
なお、本実施の形態の図16及び図17に示すぼかし処理は、対応点検出及び画像変形を行わない画像に対して行ってもよい。即ち、フォーカスブラケット撮影した複数画像において、直接この画像合成処理を行ってもよい。
図1は、本発明に係る第1の実施の形態のデジタルカメラ1の内部構成の一例を示すブロック図である。 図2はコミュニティの登録動作について示すフローチャートである。 図3は、フォーカスブラケット撮影から得られた画像を示す図である。 図4は、デジタルカメラ1の対応点検出の動作について示すフローチャートである。 図5は、画像変形について示す図である。 図6は、画像合成処理の動作を示すフローチャートである。 図7は、ラプラシアンフィルタのフィルタ行列を示す図である。 図8は、ぼけ強調撮影モードの動作を示すフローチャートである。 図9は、各焦点位置と各焦点位置におけるAF評価値を示したグラフである。 図10は第2の実施の形態における画像合成処理の動作のフローチャートである。 図11は、主要被写体の合焦位置Bで撮影された画像と、その合焦位置の前後の焦点位置であるA及びCで撮影された画像の、鮮鋭度を示すグラフである。 図12は、本発明に係る第3の実施の形態のデジタルカメラ1の内部構成の一例を示すブロック図である。 図13は、第3の実施の形態のぼけ強調撮影モードの動作を示すフローチャートである。 図14は、各焦点位置と各焦点位置におけるAF評価値を示したグラフである。 図15は、絞りと焦点距離と焦点位置の間隔dの関係を示すグラフである。 図16は、ぼかし量算出処理の動作を示すフローチャートである。 図17は、ぼかし処理の動作を示すフローチャートである。 図18は、ぼかし量の絶対値|k|とガウシアンフィルタのσパラメータの関係、及びを示したグラフである。
符号の説明
1…デジタルカメラ、11…撮影レンズ、12…絞り、13…Irカットフィルタ、14…光学ローパスフィルタ、15…固体撮像素子、23…操作部、24…CPU、25…アドレスバス、26…データバス、27…メインメモリ制御部、28…メインメモリ、32…メモリ制御部、33…記録媒体、36…対応点検出部、37…画像変形部、38…画像合成部、40…フィルタ処理部

Claims (15)

  1. 画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断手段と、
    予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影手段と、
    前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像を合成する画像合成手段と、
    前記画像合成手段により得られた画像を記録媒体に記録する記録手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記画像合成手段は、前記複数画像間の対応する座標の画素において、前記主要被写体の合焦位置で撮影された画素の鮮鋭度が最大の場合はその画素を選択し、前記主要被写体の合焦位置以外の焦点位置で撮影された画素の鮮鋭度が最大の場合は、前記主要被写体の合焦位置に関して前記画素の鮮鋭度が最大の焦点位置と対称となる焦点位置で撮影された画素を選択して画像合成することを特徴とする請求項1に記載の撮像装置。
  3. 画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断手段と、
    予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影手段と、
    前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出手段と、
    前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理手段と、
    前記ぼかし処理手段によりぼかし処理された前記基準画像を記録媒体に記録する記録手段と、
    を備えたことを特徴とする撮像装置。
  4. 前記焦点位置制御手段は、撮影時の絞り及び撮影時の焦点距離のうち少なくとも一方に基づいて、前記移動する焦点位置を制御することを特徴とする請求項3に記載の撮像装置。
  5. 前記複数の画像間の対応する座標の画素の鮮鋭度を算出する鮮鋭度算出手段を備え、
    前記ぼかし量算出手段は、前記鮮鋭度算出手段の算出結果に基づいて、前記ぼかし量を算出することを特徴とする請求項3又は4に記載の撮像装置。
  6. ぼけ強調度を設定するぼけ強調度設定手段を備え、前記ぼかし量算出手段は、前記ぼけ強調度設定手段で設定されたぼけ強調度に応じたぼかし量を算出することを特徴とする請求項3から5のいずれかに記載の撮像装置。
  7. 前記基準画像は、前記主要被写体の合焦位置で撮影された画像であることを特徴とする請求項3から6のいずれかに記載の撮像装置。
  8. 前記ぼかし処理手段は、遮断周波数を低くするほど前記ぼかし量が大きくなるローパスフィルタを用いて前記基準画像から平滑化画像を生成することを特徴とする請求項3から7のいずれかに記載の撮像装置。
  9. 前記ぼかし量算出手段は、最も鮮鋭度が大きい画像の焦点位置と前記基準画像の焦点位置の差が大きいほどぼかし量を大きくするように、前記ぼかし量を算出することを特徴とする請求項3から8のいずれかに記載の撮像装置。
  10. 主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力手段と、
    前記複数の画像を合成する画像合成手段と、
    前記画像合成手段により得られた画像を出力する出力手段と、
    を備えたことを特徴とする画像処理装置。
  11. 主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力手段と、
    前記移動する焦点位置が前記自動合焦位置判断手段により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御手段と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出手段と、
    前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理手段と、
    前記ぼかし処理手段によりぼかし処理された前記基準画像を出力する出力手段と、
    を備えたことを特徴とする画像処理装置。
  12. 画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、
    予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、
    前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置と前記主要被写体の合焦位置の前後の焦点位置を含むように制御する焦点位置制御工程と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影工程により撮影された複数の画像を合成する画像合成工程と、
    前記画像合成工程により得られた画像を記録媒体に記録する記録工程と、
    を備えたことを特徴とする撮像方法。
  13. 画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、
    予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、
    前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御工程と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出工程と、
    前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理工程と、
    前記ぼかし処理工程によりぼかし処理された前記基準画像を記録媒体に記録する記録工程と、
    を備えたことを特徴とする撮像方法。
  14. 主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力工程と、
    前記複数の画像を合成する画像合成工程と、
    前記画像合成工程により得られた画像を出力する出力工程と、
    を備えたことを特徴とする画像処理方法。
  15. 主要被写体の合焦位置で撮影された画像と前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含むそれぞれ異なる焦点位置で撮影された同一シーンの複数の画像を入力させる入力工程と、
    画像データに基づいて主要被写体の合焦位置を判断する自動合焦位置判断工程と、
    予め定められた移動量で離散的に焦点位置を移動して順次画像を撮影することにより複数の画像を得るフォーカスブラケット撮影工程と、
    前記移動する焦点位置が前記自動合焦位置判断工程により判断された前記主要被写体の合焦位置とその前後の焦点位置を含むように制御する焦点位置制御工程と、
    前記主要被写体の合焦位置で撮影された画像及び前記主要被写体の合焦位置の前後の焦点位置で撮影された画像を含む前記フォーカスブラケット撮影手段により撮影された複数の画像から、画素の座標に応じたぼかし量を算出するぼかし量算出工程と、
    前記複数の画像の中から所定の基準により選択された1枚の基準画像に対して、前記算出されたぼかし量に基づいてぼかし処理を行うぼかし処理工程と、
    前記ぼかし処理手段によりぼかし処理された前記基準画像を記録媒体に記録する記録工程と、
    を備えたことを特徴とする画像処理方法。
JP2007112147A 2007-04-20 2007-04-20 撮像装置、画像処理装置、撮像方法、及び画像処理方法 Expired - Fee Related JP4582423B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007112147A JP4582423B2 (ja) 2007-04-20 2007-04-20 撮像装置、画像処理装置、撮像方法、及び画像処理方法
US12/105,813 US8184171B2 (en) 2007-04-20 2008-04-18 Image pickup apparatus, image processing apparatus, image pickup method, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007112147A JP4582423B2 (ja) 2007-04-20 2007-04-20 撮像装置、画像処理装置、撮像方法、及び画像処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010160850A Division JP5144724B2 (ja) 2010-07-15 2010-07-15 撮像装置、画像処理装置、撮像方法、及び画像処理方法

Publications (3)

Publication Number Publication Date
JP2008271241A true JP2008271241A (ja) 2008-11-06
JP2008271241A5 JP2008271241A5 (ja) 2010-05-27
JP4582423B2 JP4582423B2 (ja) 2010-11-17

Family

ID=39871784

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007112147A Expired - Fee Related JP4582423B2 (ja) 2007-04-20 2007-04-20 撮像装置、画像処理装置、撮像方法、及び画像処理方法

Country Status (2)

Country Link
US (1) US8184171B2 (ja)
JP (1) JP4582423B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118850A (ja) * 2008-11-12 2010-05-27 Nikon Corp 画像処理装置、撮像装置およびプログラム
EP2302903A1 (en) 2009-08-13 2011-03-30 FUJIFILM Corporation Image processing method, image processing apparatus, computer readable medium, and imaging apparatus
WO2012001947A1 (ja) * 2010-06-28 2012-01-05 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
WO2012132486A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
JP2013143712A (ja) * 2012-01-12 2013-07-22 Canon Inc 画像処理装置、画像処理装置を有する撮像装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体
JP2014017539A (ja) * 2012-07-05 2014-01-30 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
JP5469258B2 (ja) * 2011-02-09 2014-04-16 富士フイルム株式会社 撮像装置および撮像方法
JP2014130131A (ja) * 2012-11-29 2014-07-10 Panasonic Corp 撮像装置、半導体集積回路および撮像方法
CN103945116A (zh) * 2013-01-23 2014-07-23 三星电子株式会社 用于在具有相机的移动终端中处理图像的设备和方法
US8885026B2 (en) 2011-03-31 2014-11-11 Fujifilm Corporation Imaging device and imaging method
JP2015118338A (ja) * 2013-12-19 2015-06-25 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2019087924A (ja) * 2017-11-08 2019-06-06 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2026567B1 (en) * 2007-07-31 2010-10-06 Ricoh Company, Ltd. Imaging device and imaging method
JP4763027B2 (ja) * 2008-08-27 2011-08-31 シャープ株式会社 画像処理装置、画像形成装置、画像処理方法、画像処理プログラム及びコンピュータ読み取り可能な記録媒体
JP4763026B2 (ja) * 2008-08-27 2011-08-31 シャープ株式会社 画像処理装置、画像形成装置、画像処理方法、画像処理プログラム及びコンピュータ読み取り可能な記録媒体
JP2010122301A (ja) * 2008-11-17 2010-06-03 Hitachi Ltd フォーカス制御装置、およびフォーカス制御方法
JP5267149B2 (ja) * 2009-01-19 2013-08-21 ソニー株式会社 表示制御装置、表示制御方法及びプログラム
JP5206494B2 (ja) 2009-02-27 2013-06-12 株式会社リコー 撮像装置、画像表示装置と、撮像方法及び画像表示方法並びに合焦領域枠の位置補正方法
JP5226600B2 (ja) * 2009-04-28 2013-07-03 富士フイルム株式会社 画像変形装置およびその動作制御方法
US8558923B2 (en) * 2010-05-03 2013-10-15 Canon Kabushiki Kaisha Image capturing apparatus and method for selective real time focus/parameter adjustment
EP2410377A1 (en) * 2010-07-20 2012-01-25 Research In Motion Limited Method for decreasing depth of field of a camera having fixed aperture
US20120019688A1 (en) * 2010-07-20 2012-01-26 Research In Motion Limited Method for decreasing depth of field of a camera having fixed aperture
JP2012027408A (ja) * 2010-07-27 2012-02-09 Sanyo Electric Co Ltd 電子機器
US9485495B2 (en) * 2010-08-09 2016-11-01 Qualcomm Incorporated Autofocus for stereo images
US9041853B2 (en) * 2010-12-01 2015-05-26 Nec Casio Mobile Communications, Ltd. Mobile terminal, method of image processing, and program
CN102158648B (zh) * 2011-01-27 2014-09-10 明基电通有限公司 影像截取装置及影像处理方法
CN103348667A (zh) * 2011-03-31 2013-10-09 富士胶片株式会社 摄像装置、摄像方法及程序
US9438889B2 (en) 2011-09-21 2016-09-06 Qualcomm Incorporated System and method for improving methods of manufacturing stereoscopic image sensors
JP5554453B2 (ja) * 2011-09-30 2014-07-23 富士フイルム株式会社 画像処理装置及び方法
JP2013258577A (ja) * 2012-06-13 2013-12-26 Canon Inc 撮像装置、撮像方法及びプログラム、画像符号化装置、画像符号化方法及びプログラム
US20130342735A1 (en) * 2012-06-20 2013-12-26 Chen-Hung Chan Image processing method and image processing apparatus for performing defocus operation according to image alignment related information
US9398264B2 (en) 2012-10-19 2016-07-19 Qualcomm Incorporated Multi-camera system using folded optics
US9894269B2 (en) 2012-10-31 2018-02-13 Atheer, Inc. Method and apparatus for background subtraction using focus differences
US20140125831A1 (en) * 2012-11-06 2014-05-08 Mediatek Inc. Electronic device and related method and machine readable storage medium
JP2015012304A (ja) * 2013-06-26 2015-01-19 ソニー株式会社 画像処理装置、画像処理方法、及び、プログラム
US20150033157A1 (en) * 2013-07-25 2015-01-29 Mediatek Inc. 3d displaying apparatus and the method thereof
US10178373B2 (en) 2013-08-16 2019-01-08 Qualcomm Incorporated Stereo yaw correction using autofocus feedback
US9383550B2 (en) 2014-04-04 2016-07-05 Qualcomm Incorporated Auto-focus in low-profile folded optics multi-camera system
US9374516B2 (en) 2014-04-04 2016-06-21 Qualcomm Incorporated Auto-focus in low-profile folded optics multi-camera system
US10013764B2 (en) 2014-06-19 2018-07-03 Qualcomm Incorporated Local adaptive histogram equalization
US9541740B2 (en) 2014-06-20 2017-01-10 Qualcomm Incorporated Folded optic array camera using refractive prisms
US9294672B2 (en) 2014-06-20 2016-03-22 Qualcomm Incorporated Multi-camera system using folded optics free from parallax and tilt artifacts
US9386222B2 (en) 2014-06-20 2016-07-05 Qualcomm Incorporated Multi-camera system using folded optics free from parallax artifacts
US9549107B2 (en) 2014-06-20 2017-01-17 Qualcomm Incorporated Autofocus for folded optic array cameras
US9819863B2 (en) 2014-06-20 2017-11-14 Qualcomm Incorporated Wide field of view array camera for hemispheric and spherical imaging
JP6478496B2 (ja) * 2014-07-03 2019-03-06 キヤノン株式会社 撮像装置およびその制御方法
US9832381B2 (en) 2014-10-31 2017-11-28 Qualcomm Incorporated Optical image stabilization for thin cameras
US9804392B2 (en) 2014-11-20 2017-10-31 Atheer, Inc. Method and apparatus for delivering and controlling multi-feed data
EP3441812B1 (en) * 2017-08-11 2020-07-01 Tecan Trading Ag Pattern based autofocus method for a microscopy
JP7195790B2 (ja) * 2018-07-02 2022-12-26 キヤノン株式会社 撮像装置及びその制御方法
DE102019201467B4 (de) 2019-02-05 2023-03-02 Carl Zeiss Ag Verfahren zum Betrieb eines Kamerasystems und Kamerasystem

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380676A (ja) * 1989-08-23 1991-04-05 Ricoh Co Ltd 電子パンフォーカス装置
JP2001298657A (ja) * 2000-04-17 2001-10-26 Teiichi Okochi 映像形成方法及び装置
JP2002084444A (ja) * 2000-09-06 2002-03-22 Minolta Co Ltd 撮像装置
JP2003051979A (ja) * 2001-08-03 2003-02-21 Minolta Co Ltd 画像処理機能を備えた電子カメラ及び電子カメラに画像処理機能を実現させるためのプログラムを記録したコンピュータ読取可能な記録媒体
JP2003283902A (ja) * 2002-03-26 2003-10-03 Fuji Photo Film Co Ltd デジタルスチルカメラおよび画像処理装置
JP2003289429A (ja) * 2002-03-28 2003-10-10 Minolta Co Ltd プログラム
JP2005159561A (ja) * 2003-11-21 2005-06-16 Sharp Corp 美顔カメラ

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4612750B2 (ja) 1998-03-17 2011-01-12 キヤノン株式会社 デジタルカメラ及び撮影方法並びに記憶媒体
JP2002077591A (ja) 2000-09-05 2002-03-15 Minolta Co Ltd 画像処理装置および撮像装置
SE518050C2 (sv) * 2000-12-22 2002-08-20 Afsenius Sven Aake Kamera som kombinerar skarpt fokuserade delar från olika exponeringar till en slutbild
US7058233B2 (en) * 2001-05-30 2006-06-06 Mitutoyo Corporation Systems and methods for constructing an image having an extended depth of field
JP3624859B2 (ja) * 2001-06-19 2005-03-02 カシオ計算機株式会社 撮像装置、ソフトフォーカス画像撮影方法
US20030071909A1 (en) * 2001-10-11 2003-04-17 Peters Geoffrey W. Generating images of objects at different focal lengths
JP4170194B2 (ja) 2003-10-28 2008-10-22 富士フイルム株式会社 撮影装置
JP2006140594A (ja) * 2004-11-10 2006-06-01 Pentax Corp デジタルカメラ
US7653298B2 (en) * 2005-03-03 2010-01-26 Fujifilm Corporation Image capturing apparatus, image capturing method, image capturing program, image recording output system and image recording output method
JP4878978B2 (ja) 2006-10-10 2012-02-15 三星電子株式会社 撮像装置および撮像方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0380676A (ja) * 1989-08-23 1991-04-05 Ricoh Co Ltd 電子パンフォーカス装置
JP2001298657A (ja) * 2000-04-17 2001-10-26 Teiichi Okochi 映像形成方法及び装置
JP2002084444A (ja) * 2000-09-06 2002-03-22 Minolta Co Ltd 撮像装置
JP2003051979A (ja) * 2001-08-03 2003-02-21 Minolta Co Ltd 画像処理機能を備えた電子カメラ及び電子カメラに画像処理機能を実現させるためのプログラムを記録したコンピュータ読取可能な記録媒体
JP2003283902A (ja) * 2002-03-26 2003-10-03 Fuji Photo Film Co Ltd デジタルスチルカメラおよび画像処理装置
JP2003289429A (ja) * 2002-03-28 2003-10-10 Minolta Co Ltd プログラム
JP2005159561A (ja) * 2003-11-21 2005-06-16 Sharp Corp 美顔カメラ

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118850A (ja) * 2008-11-12 2010-05-27 Nikon Corp 画像処理装置、撮像装置およびプログラム
EP2302903A1 (en) 2009-08-13 2011-03-30 FUJIFILM Corporation Image processing method, image processing apparatus, computer readable medium, and imaging apparatus
US9025049B2 (en) 2009-08-13 2015-05-05 Fujifilm Corporation Image processing method, image processing apparatus, computer readable medium, and imaging apparatus
JP5423893B2 (ja) * 2010-06-28 2014-02-19 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
WO2012001947A1 (ja) * 2010-06-28 2012-01-05 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
US8823778B2 (en) 2011-02-09 2014-09-02 Fujifilm Corporation Imaging device and imaging method
JPWO2012108099A1 (ja) * 2011-02-09 2014-07-03 富士フイルム株式会社 撮像装置および撮像方法
JP5469258B2 (ja) * 2011-02-09 2014-04-16 富士フイルム株式会社 撮像装置および撮像方法
JP5484631B2 (ja) * 2011-03-31 2014-05-07 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
US8648927B2 (en) 2011-03-31 2014-02-11 Fujifilm Corporation Imaging device, imaging method and program storage medium
CN103384998A (zh) * 2011-03-31 2013-11-06 富士胶片株式会社 摄像装置、摄像方法、程序及程序存储介质
US8885026B2 (en) 2011-03-31 2014-11-11 Fujifilm Corporation Imaging device and imaging method
WO2012132486A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
JP2013143712A (ja) * 2012-01-12 2013-07-22 Canon Inc 画像処理装置、画像処理装置を有する撮像装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体
US9258492B2 (en) 2012-01-12 2016-02-09 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus including image processing apparatus, image processing method, and storage medium in which program is stored for acquiring and processing images taken at different focus positions
JP2014017539A (ja) * 2012-07-05 2014-01-30 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
US9386223B2 (en) 2012-07-05 2016-07-05 Casio Computer Co., Ltd. Image processing apparatus, image processing method and storage medium for acquiring an omnifocal image by combining multiple images with a specific order
JP2014130131A (ja) * 2012-11-29 2014-07-10 Panasonic Corp 撮像装置、半導体集積回路および撮像方法
CN103945116A (zh) * 2013-01-23 2014-07-23 三星电子株式会社 用于在具有相机的移动终端中处理图像的设备和方法
JP2015118338A (ja) * 2013-12-19 2015-06-25 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2019087924A (ja) * 2017-11-08 2019-06-06 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
US20080259172A1 (en) 2008-10-23
JP4582423B2 (ja) 2010-11-17
US8184171B2 (en) 2012-05-22

Similar Documents

Publication Publication Date Title
JP4582423B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP4678603B2 (ja) 撮像装置及び撮像方法
JP4665718B2 (ja) 撮影装置
JP6271990B2 (ja) 画像処理装置、画像処理方法
US8629915B2 (en) Digital photographing apparatus, method of controlling the same, and computer readable storage medium
JP5036599B2 (ja) 撮像装置
US9489747B2 (en) Image processing apparatus for performing object recognition focusing on object motion, and image processing method therefor
EP2608527B1 (en) Image pickup apparatus, control method for image pickup apparatus, and storage medium
JP5831033B2 (ja) 撮像装置および距離情報取得方法
JP5144724B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP2009054130A (ja) 画像処理装置、画像処理方法およびデジタルスチルカメラ
JP2006208558A (ja) 撮像装置
JP2010021753A (ja) 画像処理装置、画像処理方法およびデジタルスチルカメラ
JP5800187B2 (ja) 撮像装置および距離情報取得方法
JP2009284056A (ja) 画像処理装置および方法並びにプログラム
JP2007133301A (ja) オートフォーカスカメラ
JP2016142999A (ja) 撮像装置及びその制御方法
JP2009218708A (ja) 画像処理装置及び画像処理方法
JP2016059051A (ja) 撮像装置および距離情報取得方法
JP2023033355A (ja) 画像処理装置およびその制御方法
JP2013042375A (ja) 撮像装置および距離情報取得方法
JP6486453B2 (ja) 画像処理装置、画像処理方法、プログラム
JP2014131188A (ja) 撮像装置、その制御方法、および制御プログラム
JP2014138378A (ja) 撮像装置、その制御方法、および制御プログラム
JP5871590B2 (ja) 撮像装置、及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100408

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100408

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20100408

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20100426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100805

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100818

R150 Certificate of patent or registration of utility model

Ref document number: 4582423

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130910

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees