JP2002290831A - 画像処理装置、表示装置、プログラムおよび記憶媒体 - Google Patents

画像処理装置、表示装置、プログラムおよび記憶媒体

Info

Publication number
JP2002290831A
JP2002290831A JP2001087827A JP2001087827A JP2002290831A JP 2002290831 A JP2002290831 A JP 2002290831A JP 2001087827 A JP2001087827 A JP 2001087827A JP 2001087827 A JP2001087827 A JP 2001087827A JP 2002290831 A JP2002290831 A JP 2002290831A
Authority
JP
Japan
Prior art keywords
image
still image
processing apparatus
focus
focus position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001087827A
Other languages
English (en)
Other versions
JP3678160B2 (ja
Inventor
Kazumutsu Sato
一睦 佐藤
Noriyuki Nobuyuki
宣之 沖須
Katsuhito Shinkawa
勝仁 新川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Minolta Co Ltd
Original Assignee
Minolta Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Minolta Co Ltd filed Critical Minolta Co Ltd
Priority to JP2001087827A priority Critical patent/JP3678160B2/ja
Publication of JP2002290831A publication Critical patent/JP2002290831A/ja
Application granted granted Critical
Publication of JP3678160B2 publication Critical patent/JP3678160B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Circuits (AREA)
  • Studio Devices (AREA)
  • Lens Barrels (AREA)
  • Processing Or Creating Images (AREA)

Abstract

(57)【要約】 【課題】 少数の静止画像から、徐々に合焦位置が変化
する映像効果を有する動画像の画像ファイルを作成する
ことができる画像処理装置を提供する。 【解決手段】 デジタルカメラ1の合焦位置を変化させ
て2枚の静止画像を撮影し、近景合焦画像及び遠景合焦
画像を取得する。パーソナルコンピュータ60等で構成
される画像処理装置50において合焦変化動画作成プロ
グラムを実行させて、取得された近景合焦画像及び遠景
合焦画像のぼけ味調整処理を行い、任意の合焦位置のぼ
け味調整画像を作成する。合焦位置がそれぞれ異なる複
数のぼけ味調整画像作成し、それらを各フレームとして
連結して動画像の画像ファイルを作成する。これによ
り、徐々に合焦位置が変化する映像効果を有する動画像
の画像ファイルを作成することができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、複数の静止画像か
ら映像効果を有する動画像を生成する画像処理技術に関
する。
【0002】
【従来の技術】従来より、デジタルカメラ等で撮影され
た静止画像から、様々な映像効果を有する動画像の画像
ファイルを作成することが行われている。このような動
画像の画像ファイルは、それぞれが1フレームにあたる
複数の静止画像が連結されて構成される。これらの複数
の静止画像はそれぞれの画像データ(図柄)が相対的に
微少に相違しており、所定の時間間隔毎に連続的に表示
されることによって、様々な映像効果が表現されること
となる。
【0003】
【発明が解決しようとする課題】ところで、このような
動画像の画像ファイルで表現される映像効果として、遠
景から近景に至って、あるいは、近景から遠景に至って
徐々に合焦位置が変化するようなものが求められてい
る。このような映像効果を有する動画像の画像ファイル
を生成するには、同一の被写体に対して撮影され、か
つ、合焦位置が相対的に微小変化した複数の静止画像
を、動画像の画像ファイルを構成するフレーム数だけ用
意する必要がある。つまり、表示される全ての合焦位置
の静止画像がそれぞれ必要である。
【0004】しかしながら、従来、上記の複数の静止画
像を取得するためには、撮影を行うデジタルカメラ等に
おいて必要なフレーム数と同回数撮影レンズの焦点位置
を変化させて撮影を行わなければならなかった。
【0005】本発明は、上記課題に鑑みてなされたもの
であり、少数の静止画像から、徐々に合焦位置が変化す
る映像効果を有する動画像の画像ファイルを作成するこ
とができる画像処理装置を提供することを目的とする。
【0006】
【課題を解決するための手段】上記課題を解決するた
め、請求項1の発明は、画像処理装置において、同一被
写体に対して第1の合焦位置で撮影された第1静止画像
と、第2の合焦位置で撮影された第2静止画像とから、
前記第1の合焦位置および前記第2の合焦位置とは別の
第3の合焦位置で撮影された静止画像に相当する第3静
止画像を生成する第1の画像生成手段と、前記第3静止
画像を含む静止画像群を時系列的に順番に表示可能な画
像ファイルを生成する第2の画像生成手段と、を備えて
いる。
【0007】また、請求項2の発明は、請求項1の発明
に係る画像処理装置において、静止画像を撮影する撮像
手段、をさらに備え、前記撮像手段は、操作ボタンの操
作に応答して前記第1静止画像と前記第2静止画像を時
間的に連続して撮影することを特徴とする。
【0008】また、請求項3の発明は、請求項1または
2の発明に係る画像処理装置において、前記第1の画像
生成手段は、前記第3静止画像のぼけ具合のパラメータ
を可変に設定するぼけパラメータ設定手段、を備えてい
る。
【0009】また、請求項4の発明は、請求項1ないし
3のいずれかの発明に係る画像処理装置において、前記
第2の画像生成手段は、前記画像ファイルを構成する前
記静止画像群の画像数を可変に設定する画像数設定手
段、を備えている。
【0010】また、請求項5の発明は、請求項1ないし
4のいずれかの発明に係る画像処理装置において、前記
第2の画像生成手段は、前記画像ファイルに含まれる前
記静止画像群の表示速度を可変に設定する表示速度設定
手段、を備えている。
【0011】また、請求項6の発明は、表示装置におい
て、同一被写体に対して第1の合焦位置で撮影された第
1静止画像と、第2の合焦位置で撮影された第2静止画
像とから、前記第1の合焦位置および前記第2の合焦位
置とは別の第3の合焦位置で撮影された静止画像に相当
する第3静止画像を生成する画像生成手段と、前記第3
静止画像を含む静止画像群を時系列的に順番に出力して
表示させる出力手段と、を備えている。
【0012】また、請求項7の発明は、請求項6の発明
に係る表示装置において、静止画像を撮影する撮像手
段、をさらに備え、前記撮像手段は、操作ボタンの操作
に応答して前記第1静止画像と前記第2静止画像を時間
的に連続して撮影することを特徴とする。
【0013】また、請求項8の発明は、プログラムにお
いて、画像処理装置に含まれるコンピュータによって実
行されることにより、前記画像処理装置を請求項1ない
し5のいずれかに記載の画像処理装置として機能させる
ことを特徴とする。
【0014】また、請求項9の発明は、記録媒体におい
て、請求項8に記載のプログラムを記録してあることを
特徴とする。
【0015】
【発明の実施の形態】以下、図面を参照しつつ本発明の
実施の形態について詳細に説明する。
【0016】<1.静止画像撮影>まず、動画像の生成
に使用する静止画像を撮影する撮像手段を備えた画像処
理装置であるデジタルカメラについて説明を行う。
【0017】図1〜図3は、デジタルカメラ1の要部構
成を示す図であり、図1は平面図、図2は図1のII−II
位置から見た断面図、図3は背面図に相当する。これら
の図は必ずしも三角図法に則っているものではなく、デ
ジタルカメラ1の要部構成を概念的に例示することを主
眼としている。
【0018】これらの図に示すように、デジタルカメラ
1は、略直方体状のカメラ本体部2と、撮像部3とに大
別される構造である。カメラ本体部2には、撮影画像を
記録するメモリカード8が脱着可能に収納される。ま
た、デジタルカメラ1は、4本の単三形乾電池E1〜E
4を直列接続してなる電源電池Eを駆動源としている。
【0019】撮像部3は、撮影レンズであるマクロ機能
付きレンズ群30の後方位置の適所にCCDカラーエリ
アセンサ303を有する撮像回路302が設けられてい
る。また、このレンズ群30は、ズームレンズ300と
合焦レンズ301とを備えている。
【0020】一方、カメラ本体部2の内部には、ズーム
レンズ300のズーム比の変更と収容位置、撮影位置間
のレンズ移動を行うためのズームモータM1、および合
焦レンズ301を駆動して焦点位置の変更を行うための
フォーカスモータM2とが設けられている。
【0021】カメラ本体部2の前面には、グリップ部G
が設けられ、カメラ本体部2上端部の適所にポップアッ
プ形式の内蔵フラッシュ5が設けられている。なお、フ
ラッシュ5は手動でポップアップしたり、収納したりで
きるものとなっている。また、カメラ本体部2の上面に
はシャッタボタン9が設けられている。
【0022】一方、図3に示すように、カメラ本体部2
の背面には、撮影画像のライブビュー表示及び記録画像
を電子的に表示可能な液晶ディスプレイ(LCD)10
と、電子ビューファインダ(EVF)20とが設けられ
ている。EVF20は、接眼レンズを介して電子的に撮
影画像の表示が可能となっているとともに、LCD10
は、EVF20より大きな表示画面に電子的に撮影画像
の表示が可能となっている。
【0023】カメラ本体部2の背面には、「記録モー
ド」と「再生モード」とを切換設定する記録/再生モー
ド設定ボタン14が設けられている。記録モードは、写
真撮影を行ないメモリカード8に撮影画像を記録するモ
ードであり、再生モードは、メモリカード8に記録され
た撮影画像をLCD10に再生表示するモードである。
【0024】デジタルカメラ1の背面右方には、4連ボ
タン35が設けられており、ボタンL、Rを押すことに
より、ズームモータM1が駆動しズーミングを行い、そ
の他、ボタンU、D、L、Rで各種操作を行う。
【0025】また、カメラ本体部2の背面には、取消ボ
タン33、確定ボタン32、メニューボタン34及びL
CDボタン31が設けられている。メニューボタン34
は、LCD10にメニュー画面を表示するためのもので
ある。このメニュー画面においては、4連ボタン35な
どでユーザの操作入力によりデジタルカメラ1の機能に
関するメニューの設定が行える。取消ボタン33は、こ
のメニュー画面で選択された内容を取り消すためのボタ
ンであり、確定ボタン32は、メニュー画面で選択され
た内容を確定するためのボタンである。また、LCDボ
タン31は、LCD10表示のオフオフ切り替えのため
のボタンである。
【0026】ユーザは、メニュー画面において記録モー
ドにおける撮影モードを選択することが可能である。デ
ジタルカメラ1の撮影モードには、通常の一枚毎の撮影
を行う通常撮影モードと、ぼけ味調整モードとが含まれ
る。ぼけ味調整モードとは、1回のシャッタ操作で撮影
レンズの焦点位置を変化させて連続して2回の撮影動作
を行うことにより、近景に焦点を合わせた撮影画像と遠
景に焦点を合わせた撮影画像とを取得するモードであ
る。ぼけ味調整モードにおいて撮影された撮影画像は、
後述する画像処理装置において、任意の合焦位置の静止
画像を得るために使用される。
【0027】次に、デジタルカメラ1の内部構成につい
て説明する。図5は、デジタルカメラ1の内部構成を示
す概略ブロック図である。同図において、CCD303
は、レンズ群30により結像された被写体の光像を、R
(赤),G(緑),B(青)の色成分の画像信号(各画
素で受光された画素信号の信号列からなる信号)に光電
変換して出力する。タイミングジェネレータ314は、
CCD303の駆動を制御するための各種のタイミング
パルスを生成するものである。
【0028】撮像部3における露出制御は、絞り制御ド
ライバ306によるレンズ群30の絞りと、CCD30
3の露光量、すなわち、シャッタスピードに相当するC
CD303の電荷蓄積時間を調節して行なわれる。被写
体輝度が低輝度時に適切なシャッタスピードが設定でき
ない場合は、CCD303から出力される画像信号のレ
ベル調整を行なうことにより露光不足による不適正露出
が補正される。すなわち、低輝度時は、シャッタスピー
ドとゲイン調整とを組み合わせて露出制御が行なわれ
る。画像信号のレベル調整は、信号処理回路313内の
AGC回路のゲイン調整において行なわれる。
【0029】タイミングジェネレータ314は、タイミ
ング制御回路202から送信される基準クロック基づき
CCD303の駆動制御信号を生成するものである。タ
イミングジェネレータ314は、例えば積分開始/終了
(露出開始/終了)のタイミング信号、各画素の受光信
号の読出制御信号(水平同期信号,垂直同期信号,転送
信号等)等のクロック信号を生成し、CCD303に出
力する。
【0030】信号処理回路313は、CCD303から
出力される画像信号(アナログ信号)に所定のアナログ
信号処理を施すものである。信号処理回路313は、C
DS(相関二重サンプリング)回路とAGC(オートゲ
インコントロール)回路とを有し、CDS回路により画
像信号のノイズの低減を行ない、AGC回路のゲインを
調整することにより画像信号のレベル調整を行なう。
【0031】調光回路304は、フラッシュ撮影におけ
る内蔵フラッシュ5の発光量を全体制御部250により
設定された所定の発光量に制御するものである。フラッ
シュ撮影においては、露出開始と同時に被写体からのフ
ラッシュ光の反射光が調光センサにより受光され、この
受光量が所定の発光量に達すると、調光回路304から
発光停止信号が出力され、この発光停止信号に応答して
内蔵フラッシュ5の発光を強制的に停止し、これにより
内蔵フラッシュ5の発光量が所定の発光量に制御され
る。
【0032】A/D変換回路205は、画像信号の各画
素信号を10ビットのデジタル信号に変換するものであ
る。A/D変換回路205は、タイミング発生回路から
入力されるA/D変換用のクロックに基づいて各画素信
号(アナログ信号)を10ビットのデジタル信号に変換
する。
【0033】タイミングジェネレータ314には、A/
D変換回路205に対するクロックを生成するタイミン
グ制御回路202が設けられている。タイミング制御回
路202は、全体制御部250内の基準クロックにより
制御される。
【0034】黒レベル補正回路206は、A/D変換さ
れた画素信号の黒レベルを基準の黒レベルに補正するも
のである。また、WB(ホワイトバランス)回路207
は、R,G,Bの各色成分の画素データのレベル変換を
行なうものである。WB回路207は、全体制御部25
0から入力されるレベル変換テーブルを用いてR,G,
Bの各色成分の画素データのレベルを変換する。なお、
レベル変換テーブルの各色成分のパラメータ(特性の傾
き)は全体制御部250により、オートまたはマニュア
ルで、撮影画像毎に設定される。γ補正回路208は、
画素データの階調を補正するものである。
【0035】画像メモリ209は、信号処理の終了した
画像データを一時記憶するメモリである。画像メモリ2
09は、少なくとも2フレーム分の画像データを記憶し
得る容量を有している。これは、ぼけ味調整モードでは
1回のシャッタ操作で2フレーム分の画像データが取り
込まれるため、これらをそれぞれ記憶するためである。
なお、1フレーム分の記憶容量は、CCD303の画素
数に対応する1600×1200画素分の画素データを
記憶し得る容量である。
【0036】また、ぼけ味調整モードにおいては、全体
制御部250の制御により、A/D変換された画像デー
タは上記黒レベル補正回路206、WB回路207及び
γ補正回路208による所定の処理は行われずに画像メ
モリ209に記憶される。つまり、画像メモリ209に
は、A/D変換されただけのCCD−RAW形式の画像
データが2フレーム分記憶されることとなる。これは、
その後の画像処理(ぼけ味調整処理)に利用するため、
画質の低下要因となり得る処理をできるだけ行わないよ
うにするためである。
【0037】LCDVRAM210は、LCD10に表
示される画像データのバッファメモリである。LCDV
RAM210は、LCD10の画素数400×300に
対応した画像データの記憶容量を有している。EVFV
RAM220は、EVF20に表示される画像データの
バッファメモリである。EVFVRAM220は、EV
F20の画素数640×480に対応した画像データの
記憶容量を有している。
【0038】また、撮影待機状態においては、撮像部3
により1/30(秒)毎に撮像された画像の各画素デー
タがA/D変換回路205〜γ補正回路208により所
定の信号処理を施された後、画像メモリ209に一時記
憶されるとともに、全体制御部250を介してLCDV
RAM210、EVFVRAM220に転送され、LC
D10やEVF20に表示される(ライブビュー表
示)。
【0039】これによって、ユーザは被写体像を視認す
ることができる。また、再生モードにおいては、メモリ
カード8から読み出された画像が全体制御部250で所
定の信号処理が施された後、LCDVRAM210に転
送され、LCD10に再生表示される。EVF20でも
同様の表示が行われる。
【0040】カードI/F212は、メモリカード8へ
の画像データの書込み及び画像データの読出しを行なう
ためのインターフィースである。また、通信用I/F2
24は、パーソナルコンピュータ225を通信可能に外
部接続するための、例えばUSB規格に準拠したインタ
ーフェースである。このカードI/F212、通信用I
/F224を介して、メモリカード8やCD−ROM等
の記録媒体226に記録している制御プログラムを、全
体制御部250のROM251内に取り込むことができ
る。
【0041】RTC219は、撮影日時を管理するする
ための時計回路である。図示しない別の電源で駆動され
る。
【0042】操作部211は、上述したシャッタボタン
9、LCDボタン31、確定ボタン32などの各種ボタ
ン、ボタンなどで構成されている。
【0043】シャッタボタン9は、銀塩カメラで採用さ
れているような半押し状態(S1)と押し込んだ状態
(S2)とが検出可能な2段階ボタンになっている。待
機状態でシャッタボタン9をS1状態にすると、AFの
ためのレンズ駆動を開始し、全体制御部250によって
画像メモリ209内における画像のコントラストを評価
しながら、コントラストがもっとも高くなるようにモー
タM1、M2により、レンズを駆動し停止させる。S1
状態時の画像メモリ内の画像データのレベルを判定する
ことで、シャッタースピード(SS)と絞り値を決定す
る。さらにホワイトバランスの補正値を決定する。
【0044】ズーム制御回路307はズームモータM1
の駆動を制御するものである。全体制御部250から入
力されるズーム制御信号に基づいてズームモータM1を
駆動し、ズームレンズ300をユーザによって指定され
た方向に移動させる。フォーカス制御回路308はフォ
ーカスモータM2の駆動を制御するものである。全体制
御部250から入力されるAF制御信号に基づいてフォ
ーカスモータM2の駆動量を制御し、合焦レンズ301
を焦点位置に設定する。
【0045】全体制御部250は、マイクロコンピュー
タからなり、撮影機能及び再生機能を集中制御するもの
である。全体制御部250は、デジタルカメラ1の上述
した各部材の駆動を制御したり取得された画像データを
処理する制御プログラムが記憶されたROM251と、
制御プログラムに従って数々の演算作業を行うための作
業領域となるRAM252を備えている。
【0046】図4において、露出設定部253、表示制
御部254、記録制御部255、再生制御部256及び
特殊撮影制御部257は、ROM251に記憶された制
御プログラムに従って全体制御部250のCPU等によ
って演算処理されることにより実現される機能を機能ブ
ロックとして表したものである。
【0047】露出設定部253は、露出制御処理を行う
もので、ライブビュー画像のGの色成分の画像データを
用いて被写体の輝度を判定し、その判定結果に基づいて
露出制御値(シャッタスピード(SS)と絞り値)を設
定する。
【0048】表示制御部254は、画像表示処理を行う
もので、画像メモリ209に一時記憶されている画像デ
ータを読み出し、必要に応じて画像サイズを表示先の画
像サイズに調整した後、VRAM210,220に転送
する動作を行う。
【0049】記録制御部255は、記録処理を行うもの
である。通常撮影モードにおいて、記録制御部255
は、撮影指示後に画像メモリ209に一時記憶された画
像データをRAM252に読み出し、2次元DTC変
換、ハフマン符号化等のJPEG方式による所定の圧縮
処理を行って記録用の撮影画像データとして作成する。
また、画像メモリ209から縦横両方向でそれぞれ8画
素毎に画素データをRAM252に読み出すことで、サ
ムネイル画像を作成する。さらに、これらの記録用デー
タに付随して記録される撮影画像データに関するタグ情
報を作成する。そして、記録制御部255は、圧縮され
た高解像度の撮影画像データ及びサムネイル画像にタグ
情報を添付した静止画像ファイルを作成し、メモリカー
ド8に記録する。
【0050】一方、ぼけ味調整モードにおいては、記録
制御部255は、画像メモリ209に一時記憶された画
像データ(A/D変換されただけのCCD−RAW形式
データ)に対して、圧縮処理は行わず、そのまま記録用
の撮影画像データとする。これは、上記JPEG方式に
よる圧縮処理は、非可逆圧縮のため元画像の情報を損な
うこととなり、処理後の画質が低下するためである。サ
ムネイル画像及びタグ情報は通常撮影モードと同様に作
成され、さらに、非圧縮のCCD−RAW形式の撮影画
像データ及びサムネイル画像にタグ情報を添付した静止
画像ファイルが作成され、メモリカード8に記録され
る。ぼけ味調整モードにおいては、2枚の撮影画像デー
タが生じるのでそれぞれの撮影画像データに対して静止
画像ファイルが作成されてメモリカード8に記録され
る。
【0051】図5は、メモリカード8に記憶された静止
画像ファイルの構成例を示すものである。図5におい
て、「P000001.JPG」「P000002.J
PG」等は、静止画像ファイル名を示している。同図の
例においては静止画像ファイル名を「PL.M」で表記
しており、「PL.M」の「L」は静止画像ファイルが
作成された順番を示す6桁の番号であり、「M」は撮影
画像データのデータ形式を示す拡張子である。「M」に
おいて「JPG」はJPEG形式で圧縮されて記録され
た撮影画像データであり、「RAW」はCCD−RAW
形式で記録された撮影画像データである。通常撮影モー
ドで撮影された撮影画像データは拡張子「JPG」とな
っており、ぼけ味調整モードにおいて撮影された撮影画
像データは拡張子「RAW」となっている。
【0052】また、「1b」,「2b」は、ぼけ味調整
モードで撮影された静止画像ファイルのフォルダ名を示
している。ぼけ味調整モードでは、1回のシャッタ操作
で2つの静止画像ファイルが作成されるため、両静止画
像ファイルを1つのフォルダにまとめてメモリカード8
に記録するようになっている。図5の例においては、フ
ォルダ名は「Nb」で表記しており、「N」はぼけ味調
整モードにおける撮影順を示す番号を示している。従っ
て、「1b」は、ぼけ味調整モードで最初に撮影された
静止画像ファイルの組み合わせが格納されたフォルダで
あることを示している。
【0053】図6は、メモリカード8への静止画像ファ
イルの記録方法を示す図である。メモリカード8の先頭
の記憶領域には、フォルダ情報と各フォルダに属する静
止画像ファイルの情報とを記憶するインデックス領域が
設けられ、その後の領域に各静止画像ファイルが撮影さ
れた順に記憶されている。メモリカード8における各静
止画像ファイルの記憶領域は3つの領域からなり、上か
ら順にタグ情報、撮影画像データ及びサムネイル画像が
記憶される。図に示すように、タグ情報には、カメラ名
称、レンズ名称、撮影時の焦点距離、撮影時のF値、撮
影モード、焦点位置、ファイル名、被写体輝度、ホワイ
トバランス調整値等の情報が含まれる。ここで撮影モー
ドは、通常撮影モードで撮影されたものであるか、ぼけ
味調整モードで撮影されたものであるかの情報を示すこ
ととなる。
【0054】再生制御部256は、メモリカード8に記
録された撮影画像のLCD10への再生処理を行うもの
である。再生制御部256は、記録/再生モード設定ボ
タン14により再生モードが設定されると、メモリカー
ド8に記録された各静止画像ファイルからサムネイル画
像を読み出し、順次所定のインデックスフォーマットに
従ってLCDVRAM210に記憶する。これにより、
サムネイル画像がLCD10にインデックス表示され
る。
【0055】インデックス表示されたサムネイル画像に
対して再生すべきコマのサムネイル画像が4連ボタン3
5等の操作によって指定されると、再生制御部256
は、そのコマに対応する静止画像ファイルから撮影画像
データを読み出す。読み出したコマが、通常撮影モード
で撮影されたものである場合は、圧縮された撮影画像デ
ータに所定の伸長処理を行い、画像メモリ209に記憶
する。一方、ぼけ味調整モードで撮影されたものである
場合は、圧縮されていないので撮影画像データをそのま
ま画像メモリ209に記憶する。画像メモリ209に記
憶された撮影画像データは、表示制御部254によって
画像サイズが調整された後に、LCDVRAM210に
転送され、LCD10に表示されることとなる。
【0056】特殊撮影制御部257は、撮影モードがぼ
け味調整モードに設定されている場合の、デジタルカメ
ラ1の各部材の駆動を制御するものである。特殊撮影制
御部257は、シャッタボタン9がS2状態となると、
ぼけ味調整用の2枚の画像データを取り込むため、それ
ぞれフォーカスモータを駆動して焦点位置を変化させ
て、所定間隔でCCD303の露光動作を2回繰り返す
ように制御を行う。さらに、黒レベル補正回路206、
WB回路207及びγ補正回路208に対して所定の処
理を行わないように制御を行う。
【0057】次に、上記のように構成されたデジタルカ
メラ1のぼけ味調整モードにおける撮影動作について説
明する。図7は、ぼけ味調整モードでの静止画像の撮影
手順を示すフローチャートである。
【0058】ステップS11において、シャッタボタン
9が半押し(S1状態)されるとデジタルカメラ1は静
止画像の撮影のための準備を行う。まず、絞りの絞り値
を開放絞り値(例えばF=2.8)に設定する(ステッ
プS12)。ここで、絞り値を開放絞り値に設定するの
は、被写界深度を浅くして合焦する対象距離以外の被写
体をぼかすためである。
【0059】続いて、撮影レンズの焦点が無限大になる
ように制御される。さらに、シャッタスピードに相当す
るCCD303の露光時間が設定され、ホワイトバラン
ス調整値が設定される(ステップS13)。
【0060】この状態でステップS14において、シャ
ッタボタン9が全押し(S2状態)されると、CCD3
03によって設定された露光時間だけ露光して被写体の
静止画像が取り込まれる。露光の後、CCD303から
出力される画像信号は、信号処理回路313で所定のア
ナログ信号処理が施され、A/D変換回路205におい
て10ビットの画素データに変換され、そのままCCD
−RAW形式で画像メモリ209に記憶される(ステッ
プS15)。この静止画像は、撮影レンズの焦点が無限
大で撮影されたものであるため、背景等の遠景にピント
が合っており近景はピンボケ状態となっている。
【0061】続いて、全体制御部250の記録制御部2
55によって、タグ情報及びサムネイル画像が作成さ
れ、これらと画像メモリ209に記憶されたCCD−R
AW形式の画像データから静止画像ファイルが作成され
る。そして、ぼけ味調整モードの撮影画像を格納するフ
ォルダをメモリカード8に作成し、当該フォルダに生成
された静止画像ファイルが記録される(ステップS1
6)。この静止画像ファイルのタグ情報の撮影モードに
は、「ぼけ味調整モード1/2」のように、ぼけ味調整
モードにおいて1回目に撮影されたものである情報が付
与される。また、タグ情報の焦点位置には「無限大」と
いう情報が付与される。
【0062】次に、撮影レンズの焦点が、近景の所定距
離例えば1m先の被写体が合焦するように制御される
(ステップS17)。なお、CCD303の露光時間及
びホワイトバランス調整値は、1枚目の撮影時から変更
されず、そのままの設定が用いられる。
【0063】そして、CCD303によって設定された
露光時間だけ露光して被写体の静止画像が取り込まれ
る。露光の後、1枚目の撮影時と同様に、信号処理回路
313及びA/D変換回路205で所定の処理が行わ
れ、画像メモリ209に記憶される(ステップS1
8)。この静止画像は、撮影レンズの焦点が1m先に制
御されているので、人物等の近景にピントがほぼ合って
おり、遠景はピンボケ状態である。
【0064】続いて、全体制御部250の記録制御部2
55によって、タグ情報及びサムネイル画像が作成さ
れ、これらと画像メモリ209に記憶されたCCD−R
AW形式の画像データから静止画像ファイルが作成され
る。そして、1枚目の静止画像ファイルが格納されたフ
ォルダと同一のフォルダに、生成された静止画像ファイ
ルが記録される(ステップS19)。この静止画像ファ
イルのタグ情報の撮影モードには、「ぼけ味調整モード
2/2」のように、ぼけ味調整モードにおいて2回目に
撮影されたものである情報が付与される。また、タグ情
報の焦点位置には「1m」という情報が付与される。
【0065】なお、本実施の形態においては、1回目に
遠景側に焦点を合わせた静止画像(遠景合焦画像)を撮
影し、2回目に近景側に焦点を合わせた静止画像(近景
合焦画像)を撮影しているが、撮影の順番はこの逆であ
ってもよい。
【0066】<2.ぼけ味調整処理>ここで、上記のよ
うに撮影レンズの焦点位置を変更して撮影された2枚の
静止画像を用いて任意の合焦位置の静止画像(以下、
「ぼけ味調整画像」)を取得するぼけ味調整処理につい
て簡単に説明する。なお、ここでは映像情報メディア学
会誌Vol.51,No.12,pp.2072〜2081「反復法に基づく複数
画像からの任意焦点画像の生成」に示されている手法を
適用するものとする。
【0067】図8は、ぼけ味調整処理に用いる2枚の静
止画像を示したモデル図である。この説明においては、
図8に示す2枚の画像Ir,Ifを用いてぼけ味調整画
像Iの作成を行うものとする。図8(a)は近景に合焦
した近景合焦画像Irを示しており、図8(b)は遠景
に合焦した遠景合焦画像Ifを示している。また、円形
状のものは近景の被写体、六角形状のものは遠景の被写
体を表し、それぞれ実線は合焦状態、波線はぼけ状態を
表している。
【0068】ぼけ味調整処理は、基本的に、 (1)2枚の静止画像Ir,If間での位置合わせ処理 (2)所定の演算処理である画像合成処理によるぼけ味
調整画像の作成 という2つの工程で行われる。以下、それぞれについて
説明する。
【0069】位置合わせ処理は、使用する2枚の静止画
像の同一の図柄を正確に合成するために、両静止画像の
位置を合わせるものである。これは、2枚の静止画像間
には、撮影タイミングの違いよって微少な位置的相違が
発生するためである。この位置合わせ処理は、画像全体
の位置合わせ処理と、局所的な位置合わせ処理の2段階
で行われる。
【0070】画像全体の位置合わせ処理では、例えば近
景合焦画像Irを基準として、遠景合焦画像Ifにおけ
る拡大率、平行移動量、回転角等のパラメータを変更さ
せながら、両画像Ir,Ifを比較して、両画像Ir,
Ifが最も一致するパラメータの組み合わせを算出す
る。より具体的には、両画像の対応する各画素レベル差
の2乗平均値ΔUを算出し、これらの総和ΣΔUを指標
として、この総和ΣΔUが最小となるように最適な拡大
率、平行移動量及び回転角等のパラメータの組み合わせ
を算出する。なお、近景合焦画像Irと遠景合焦画像I
fでは撮影時の焦点位置が異なることから、両画像I
r,Ifを直接比較すると誤差が生じる可能性がある。
このため、最適なパラメータの組み合わせを求めるの
に、階層化マッチング法を用いて算出する。算出された
パラメータで遠景合焦画像Ifを変換すると、近景合焦
画像Irに対して画像全体の位置合わせの行われた遠景
合焦画像Ifが得られる。
【0071】局所的な位置合わせ処理では、近景合焦画
像Irと画像全体の位置合わせ処理を行った遠景合焦画
像Ifとの間で画素毎に位置ずれの補正を行う。この補
正は近景合焦画像Irの画素位置(x,y)と、画像全
体の位置合わせ処理を行った遠景合焦画像Ifの画素位
置(x+m,y+n)を中心に、r×r画素内の両画像
の対応する画素レベル差の2乗平均値を算出し、さらに
r×r個の総和が最小となるパラメータ(m,n)を算
出することによって行う。全ての画素に対してパラメー
タ(m,n)を算出し、このパラメータ(m,n)を用
いて遠景合焦画像Ifを補正すると、最終的に近景合焦
画像Irに対して位置合わせの行われた遠景合焦画像I
fが得られる。
【0072】画像合成処理としては種々の方法が知られ
ているが、本実施の形態では反復法を採用するため以下
の説明では反復法について説明する。
【0073】図8に示すように、近景合焦画像Irの合
焦している近景領域を表す関数をf1(x,y)、遠景合焦
画像Ifの合焦している遠景領域を表す関数をf2(x,
y)とし、遠景合焦画像Ifの合焦していない近景領域の
ぼけ具合を表す関数をh1(x,y)、近景合焦画像Irの
合焦していない遠景領域のぼけ具合を表す関数をh2
(x,y)とすると、近景合焦画像Irを表す関数g1(x,y)
は g1(x,y)=f1(x,y)+h2(x,y)*f2(x,y) …(1) で表され、遠景合焦画像Ifを表す関数g2(x,y)は g2(x,y)=h1(x,y)*f1(x,y)+f2(x,y) …(2) で表される。なお、これらの式において*はコンボリュ
ーションであり、以下の式においても同様である。
【0074】一方、ぼけ味調整画像Iは近景合焦画像I
rの近景領域をぼけ関数ha(x,y)でぼかした画像と、
遠景合焦画像Ifの遠景領域をぼけ関数hb(x,y)でぼ
かした画像とを合成して作成されるとすると、ぼけ味調
整画像Iを表す関数f(x,y)は、 f(x,y)=ha(x,y)*f1(x,y)+hb(x,y)*f2(x,y) …(3) で表される。
【0075】ここで、元画像Ir,Ifのぼけ関数h
1,h2及びぼけ味調整画像Iのぼけ関数ha,hb
は、 h(x,y)=(1/πR2)・exp(-(x2+y2)/R2) …(4) R;ぼけ量(ぼけ半径) の二次元ガウス関数において、ぼけ関数h1,h2に対
するぼけ量R1,R2をRに代入して得られる撮影画像
の場合、ぼけ量R1,R2は撮影時の撮影レンズの焦点
位置によって規定される値となる。このため本実施の形
態では、撮影時の情報を示す静止画像ファイルのタグ情
報から、撮影レンズの種類と撮影レンズの焦点位置の情
報を得て、予め設定されたテーブルを参照することによ
り、ぼけ関数h1,h2を取得するようにしている。ま
た、ぼけ関数ha,hbに対するぼけ量をそれぞれR
a,Rbとすると、ぼけ量Ra,Rbの設定値は、処理
後に生成されるぼけ味調整画像Iのぼけ具合、すなわ
ち、合焦位置を決定するものとなる。
【0076】(1)〜(3)式からf1(x,y)、f2(x,y)を消
去すると、近景合焦画像Irの関数g1(x,y)、遠景合
焦画像Ifの関数g2(x,y)、ぼけ味調整画像Iの関数
f(x,y)の関係式 (ha-hb*h1)*g1+(hb-ha*h2)*g2=(δ-h1*h2)*f …(5) が得られる。なお、(5)式でδはディラックのデルタ関
数である。また、(5)式では便宜上、関数表記の変数(x,
y)部分を省略している。
【0077】よって、(5)式を解くことによりぼけ味調
整画像Iを示す関数fを得ることができる。反復法にお
いては、(5)式において、左辺を g=(ha-hb*h1)*g1+(hb-ha*h2)*g2 …(6) とおき、fについてk回反復したものをf(k)とし、 f(k+1)=g+(h1*h2)*f(k) …(7) に示すように反復演算すると、k→∞でf( )は式(5)
を満足するfに収束することから、この反復演算を繰り
返すことにより、任意の合焦位置のぼけ味調整画像Iが
算出されることとなる。なおここで、初期値f(0)は、
g1,g2,(g1+g2)/2等でよい。
【0078】図9から図15は、ぼけ味調整処理におい
て、上記ぼけ量Ra,Rbを変更することにより取得さ
れたぼけ味調整画像Iの例を示す図である。図9は合焦
位置が無限大、図10は合焦位置が20m、図11は合
焦位置が10m、図12は合焦位置が5m、図13は合
焦位置が2m、図14は合焦位置が1m、図15は合焦
位置が0.5mにそれぞれ相当するぼけ味調整画像Iを
示している。なお、これらの図のぼけ味調整画像Iにお
いて、遠景の被写体である家屋A1は撮影距離が20m
であり、中景の被写体である自動車A2は撮影距離が5
mであり、近景の被写体である人物A3は撮影距離が1
mである。
【0079】例えば、図10(合焦位置20m)におい
ては、撮影距離が20mの被写体である家屋A1に対し
て合焦状態となっているが、他の被写体に対してはピン
ボケ状態である。また、図12(合焦位置5m)におい
ては、撮影距離が5mの被写体である自動車A2に対し
て合焦状態になっているが、他の被写体に対してはピン
ボケ状態である。また、図14(合焦位置1m)におい
ては、撮影距離が1mの被写体である人物A3に対して
合焦状態となっているが、他の被写体に対してはピンボ
ケ状態である。
【0080】また、図9から図15のぼけ味調整画像I
をこの順に比較すると、徐々に、遠景の被写体、中景の
被写体、近景の被写体と合焦していくこととなる。つま
り、遠景から近景に至って徐々に合焦位置が変化する動
画像の画像ファイル(以下、「合焦変化動画」)は、図
9から図15の例に示したようなぼけ味調整画像Iを連
結することにより作成することが可能となる。なおここ
では、説明のため7枚のぼけ味調整画像Iを例示した
が、例示していない合焦位置のぼけ味調整画像Iを取得
することも可能であることは言うまでもない。
【0081】<3.動画像作成>次に、前述したデジタ
ルカメラ1のぼけ味調整モードにおいて撮影された2枚
の静止画像(近景合焦画像及び遠景合焦画像)を用いて
ぼけ味調整処理を行い、合焦変化動画を作成する画像処
理装置について説明する。
【0082】図16は、合焦変化動画を作成する画像処
理装置の構成を示す外観図である。図16に示すよう
に、画像処理装置50は、パーソナルコンピュータ60
とその出力装置であるプリンタ70とを備えている。
【0083】パーソナルコンピュータ60は、コンピュ
ータ本体61と、各種情報の表示を行うディスプレイ6
2と、ユーザからの入力を受け付けるキーボード63及
びマウス64を備えている。また、コンピュータ本体6
1は、CD−ROM等の記録媒体90から各種データの
読み取りを行う読取装置61a,61c及びデジタルカ
メラ等のメモリカードの読み取りを行うメモリカードリ
ーダ61bを備えている。
【0084】また、パーソナルコンピュータ60は、コ
ンピュータ本体61内部の所定の記憶装置に、ぼけ味調
整モードで撮影された2枚の静止画像から合焦変化動画
を作成することが可能な処理プログラム(以下、「合焦
変化動画作成プログラム」)を記憶している。パーソナ
ルコンピュータ60は、所定の記憶装置からこの合焦変
化動画作成プログラム読み出して実行することにより画
像処理装置として機能することとなる。この動画作成プ
ログラムは、当該プログラムが記録されたCD−ROM
等の記録媒体90から読取装置61aまたは61bを介
してコンピュータ本体61に予めインストールされてい
る。なお、この合焦変化動画作成プログラムは、所定の
サーバー記憶装置からインターネット等の通信回線を介
してダウンロードされた後、インストールされるように
なっていてもよい。
【0085】図17は、パーソナルコンピュータ60に
おいて、合焦変化動画作成プログラムを実行した場合に
おけるディスプレイ62に表示される作業ウィンドウの
一例を示す図である。作業ウィンドウ100には合焦変
化動画の作成処理に関係する画像データ等を表示する3
つの表示領域101〜103と、処理内容や処理条件等
を指示するためのコマンドボタン104〜108が表示
される。
【0086】表示領域101及び表示領域102は画面
上部に配置され、表示領域101には近景合焦画像のサ
ムネイル画像が表示され、表示領域102には遠景合焦
画像のサムネイル画像が表示される。また、表示領域1
03は表示領域101の下部に配置され、後述するぼけ
味調整処理における処理結果が表示される。コマンドボ
タン104〜107は、表示領域102の下部に縦配列
されて表示され、コマンドボタン108は表示領域10
1の下部に表示される。
【0087】「ファイル」の表記されたコマンドボタン
(以下、「ファイルボタン」)104は、合焦変化動画
を作成する元となる2枚の静止画像ファイルを指定する
ためのものである。このファイルボタン204をクリッ
クすることにより、フォルダ指定ウィンドウが開き、メ
モリカードリーダ61bに装着されたメモリカード等の
ぼけ味調整モードで撮影された静止画像ファイルが格納
されたフォルダが表示される。ぼけ味調整モードで撮影
された近景合焦画像及び遠景合焦画像は、同一フォルダ
「Nb」内に含まれているため、フォルダの指定のみで
両静止画像ファイルを指定することが可能である。
【0088】このフォルダ指定ウィンドウにおいてユー
ザにより開くべきフォルダが指定されると、指定された
フォルダ内に含まれる両静止画像ファイルのタグ情報を
参照し、ぼけ味調整モードで撮影されたものであるか否
かを判別するようになっている。ぼけ味調整モードで撮
影された静止画像ファイルにおいては、タグ情報の撮影
モードに「ぼけ味調整モード1/2」もしくは「ぼけ味
調整モード2/2」という情報が含まれているため、こ
の情報を参照することでぼけ味調整モードで撮影された
ものであるということが判別される。ぼけ味調整モード
で撮影されたもので無い場合はその後の処理を行うこと
ができないため、所定のエラーメッセージの表示を行い
再度ユーザに開くべきフォルダの指定をさせるようにな
っている。
【0089】「設定」と表記されたコマンドボタン(以
下、「設定ボタン」)105は、作成する合焦変化動画
の各種パラメータ設定を行うものである。設定ボタン1
05をクリックすると図18の如き設定ウィンドウ11
0がディスプレイ62に表示される。図18に示すよう
に、設定ウィンドウ110では、作成する合焦変化動画
のぼけ具合、フレーム数、再生時間、表示速度の各パラ
メータを設定可能な設定フォーム111〜114が表示
される。
【0090】ここで、本実施の形態で作成する合焦変化
動画について簡単に説明する。図23は、作成する合焦
変化動画の構成を示す図である。図に示すように、合焦
変化動画はn枚(n>1)のフレームが連結された構成
となっており、フレームのそれぞれは1枚の静止画像デ
ータ(ぼけ味調整画像)に対応する。合焦変化動画の再
生を行うと、これらの静止画像データが1枚目のフレー
ムF1から順にn枚目のフレームFnまで表示される。
【0091】本実施の形態では、遠景から近景に徐々に
合焦位置が変化する動画像を作成するため、1枚目のフ
レームF1は遠景に合焦した状態であり、近景は全ての
フレーム中で最もぼけた状態となる。一方、n枚目のフ
レームFnは近景に合焦した状態であり、遠景は全ての
フレーム中で最もぼけた状態となる。
【0092】また、本実施の形態で作成される合焦変化
動画は、再生時において各フレームを一定の時間T1秒
毎に表示する。従って、合焦変化動画の再生時間T2秒
はT2=T1×nの関係にあり、1秒間あたりに表示す
るフレーム数(fps)すなわち表示速度Vは、V=n
/T2の関係にある。また、各フレームの表示時間T1
は、表示速度Vの逆数になる。
【0093】図18に戻り、設定フォーム111は、合
焦変化動画のぼけ具体を決定するパラメータとなる近景
最大ぼけ量raと遠景最大ぼけ量rbを設定するための
ものである。これは、作成する1枚目のフレームF1の
近景領域のぼけ量(前述Raに相当)を近景最大ぼけ量
raとして、n枚目のフレームFnの遠景領域のぼけ量
(前述Rbに相当)を遠景最大ぼけ量rbとして設定す
ることとなる。
【0094】図18に示すように、設定フォーム111
は、2つのオプションボタン115,116と、2つの
数値入力ボックス116a,116bとを備えている。
「自動」と表記されたオプションボタン115が選択さ
れた場合は、近景最大ぼけ量ra及び遠景最大ぼけ量r
bはそれぞれ予め設定されているデフォルト値、例えば
「5」ピクセルと設定される。一方、「手動」と表記さ
れたオプションボタン116が選択された場合は、数値
入力ボックス116aに入力された値が近景最大ぼけ量
raとして、数値入力ボックス116bに入力された値
が遠景最大ぼけ量rbとしてそれぞれ設定される。
【0095】設定フォーム112は合焦変化動画のフレ
ーム数n、設定フォーム113は合焦変化動画の再生時
間T2、設定フォーム114は合焦変化動画の表示速度
Vのそれぞれのパラメータを設定するためのものであ
る。これらのパラメータは、設定フォーム112〜11
4のそれぞれに備えられた数値入力ボックスに値が入力
されることにより可変に設定される。なお、前述したよ
うに、V=n/T2の関係にあるため、設定フォーム1
12〜114のうち2つの数値入力ボックスに値が入力
されれば、残りの1つは演算されて自動的に数値入力ボ
ックスに表示されるようになっている。
【0096】また、設定ウィンドウ110は、OKボタ
ン117とキャンセルボタン118をさらに備えてい
る。OKボタン117がクリックされた場合は、上記設
定フォーム111〜117において入力された各パラメ
ータが更新設定され、コンピュータ本体61内部の所定
の記憶装置に記憶される。一方、キャンセルボタン11
8がクリックされた場合は、各パラメータの更新は行わ
れない。
【0097】図17に戻り、「実行」と表示されたコマ
ンドボタン(以下、「実行ボタン」)106は、ぼけ味
調整モードで撮影された2枚の画像を用いて実際に合焦
変化動画の作成処理を実行するためのものである。この
合焦変化動画の作成処理の詳細については後述する。
【0098】「終了」と表示されたコマンドボタン(以
下、「終了ボタン」)107は、合焦変化動画作成プロ
グラムの実行を終了させるためのものである。この終了
ボタン107がクリックされると、作業ウィンドウ10
0がクローズし全ての処理が終了する。
【0099】「中止」と表示されたコマンドボタン(以
下、「中止ボタン」)108は、合焦変化動画の作成処
理を途中で中止させるためのものである。合焦変化動画
の作成処理の処理時間は長時間となるため、何らかの理
由によりユーザが強制的に処理を中止したい場合は、こ
の中止ボタンをクリックすることにより中止することが
できる。
【0100】次に、図19に示すフローチャートに従っ
て、合焦変化動画の作成処理について説明する。
【0101】まず、ユーザによりファイルボタン104
がクリックされ、合焦変化動画の作成に使用する2枚の
静止画像ファイルが格納されたフォルダの指定が行われ
る。開くべきフォルダが指定されると、指定されたフォ
ルダに格納された2枚の静止画像ファイルからサムネイ
ル画像がそれぞれ読み出され、作業ウィンドウ100の
表示領域101,102に表示される(ステップS2
1,S22)。
【0102】次に、ユーザにより設定ボタン105がク
リックされ、作成する合焦変化動画の各種パラメータ設
定が行われる。すなわち、近景最大ぼけ量ra、遠景最
大ぼけ量rb、フレーム数n、再生時間T2及び再生速
度Vのパラメータが設定される(ステップS23)。
【0103】続いて、実行ボタン106が操作されたか
否かが判別される(ステップS24)。ここで、実行ボ
タン106の操作がなければ、サムネイル画像が2枚表
示された状態で、待機状態となる。この状態において
は、ステップS23に戻り合焦変化動画の各種パラメー
タ設定を再度行うことが可能である。
【0104】実行ボタン106が操作されると、二枚の
指定された静止画像ファイルからそれぞれ撮影画像デー
タ(近景合焦画像及び遠景合焦画像)が読み出される
(ステップS25)。
【0105】さらに、二枚の静止画像ファイルからタグ
情報が読み出され、タグ情報に含まれる撮影レンズの撮
影レンズの種類と撮影レンズの焦点位置の情報が取得さ
れる。取得された情報に基づいて、予め所定の記憶装置
に記憶されたテーブルを参照し、読み出された遠景合焦
画像における近景領域のぼけ量R1及び近景合焦画像に
おける遠景領域のぼけ量R2が設定される(ステップS
26)。
【0106】続いて、まず、1枚目のフレームF1を作
成するため、現在の作成しているフレーム番号を示すカ
ウント値i(i=1,2,3,・・・・,n)が「1」
にセットされる(ステップS27)。
【0107】続いて、近景合焦画像と遠景合焦画像とを
用いてぼけ味調整処理を行い合焦変化動画のフレームと
なるぼけ味調整画像が作成される(ステップS28)。
このフレーム作成処理は、作成するフレーム数nと同回
数繰り返されることとなる。以下の説明においては、i
枚目のフレームFiを作成するものとして説明する。
【0108】図28は、このフレーム作成処理の流れを
示すフローチャートである。まず、近景合焦画像と遠景
合焦画像との前述した位置合わせ処理が行われ、最終的
に近景合焦画像に対して位置合わせの行われた遠景合焦
画像が得られる(ステップS41)。なお、この位置合
わせ処理においては処理速度を向上させるため、近景合
焦画像を基準とした遠景合焦画像の平行移動のみで行わ
れてもよい。また、2枚目以降のフレーム作成時(i>
1)においては、1枚目のフレーム作成時(i=1)に
位置合わせ処理が行われているためこの処理は省略され
るようになっていてもよい。
【0109】続いて、作成するi枚目のフレームにおけ
る近景領域のぼけ量Raと遠景領域のぼけ量Rbが設定
される(ステップS42)。具体的には、ぼけ量Ra,
Rbはそれぞれ、設定されたパラメータである最大ぼけ
量ra,rbに基づく段階的な変化を規定する演算式 Ra=ra・(n−i)/(n−1) Rb=rb・(i−1)/(nー1) で算出されて設定される。
【0110】例えば、i=1(1枚目のフレームF1)
の場合は、Ra=ra,Rb=0となる。つまり、近景
領域のぼけ量Raは近景最大ぼけ量raとなり、遠景領
域のぼけ量Rbは「0」となるため、遠景に合焦し近景
は最もぼけた状態となるように設定される。一方、i=
n(n枚目のフレームFn)の場合は、Ra=0,Rb
=rbとなる。つまり、近景領域のぼけ量Raは「0」
となり、遠景領域のぼけ量Rbは遠景最大ぼけ量rbと
なるため、近景に合焦し遠景は最もぼけた状態となるよ
うに設定される。また、1<i<nの場合は、フレーム
F1とフレームFnの中間的なぼけ状態となるようにそ
れぞれ設定が行われることとなる。
【0111】続いて、反復法によりぼけ味調整画像を算
出する際の反復演算回数をカウントするカウンタのカウ
ント値jが「0」にセットされる(ステップS43)。
続いて、前述したぼけ味調整処理の反復法における1回
目の演算が行われ(ステップS44)、その演算結果の
ぼけ味調整画像が表示領域103に表示される(ステッ
プS45)。
【0112】続いて、中止ボタン108による処理の中
止が指示されているか否かが判別され(ステップS4
6)、処理の中止が指示されている場合は、強制的に処
理を中止し図19のステップS21に戻る。
【0113】ステップS46において処理の中止が指示
されていない場合は、反復演算結果が収束しているか否
か(ステップS47)、反復演算回数のカウント値jが
予め設定されている所定回数に達しているか否か(ステ
ップS48)が順次判別される。反復演算結果が収束し
ておらず、反復演算回数のカウント値jが所定回数に達
していなければ、カウント値jが1だけインクリメント
されて(ステップS49)、ステップS44に戻り、次
のぼけ味調整演算が行われる。
【0114】一方、反復演算結果が収束した場合、また
は、反復演算回数のカウント値jが所定回数に達した場
合は、演算結果であるぼけ味調整画像をフレームFiと
して、フレーム作成処理を終了する。
【0115】フレームFiの作成処理が終了すると、図
19のステップS29において、作成中の動画像データ
にフレームFiが連結される。つまり、フレームが作成
される毎に動画像データに連結され、順次、合焦変化動
画が作成されていくこととなる。また、このとき同時
に、再生速度Vの逆数が、フレームFiの再生すべきタ
イミング情報として付加される。なお、i=1の場合は
連結する動画像データが無いためこの処理が行われるこ
とはない。
【0116】続いて、現在作成しているフレーム番号の
カウント値iがフレーム数nに達したか否かが判別され
(ステップS30)、フレーム数nに達していなけれ
ば、カウント値iが1だけインクリメントされて(ステ
ップS31)、ステップS28に戻り、次のフレームが
作成されることとなる。
【0117】図21は、合焦変化動画を作成中の作業ウ
ィンドウ100の状態を示す図である。合焦変化動画の
作成中においては、作業ウィンドウ100の下部に作成
処理の進行状況を示すプログレスバー109aの表示と
ともに、合焦変化動画を作成中である旨のステイタス表
示109bがなされる。ユーザは、この表示によって、
作成処理の進行状況を認識することができる。なお、こ
の作業ウィンドウ100に表示される中止ボタン108
をクリックすれば強制的にこの処理を中止することとな
る。
【0118】以下、同様の処理で順次フレームが作成さ
れ、作成されたフレームは作成中の動画像データに連結
されていく。中止ボタン108による処理の中止が指示
されなければ、ステップS30においてフレーム番号の
カウント値iがフレーム数nに達した時点で、合焦変化
動画の作成が終了する。
【0119】合焦変化動画が作成されると、図22に示
すようにディスプレイ62に動画再生ウィンドウ120
を表示させ、その表示領域121に作成された合焦変化
動画が再生表示される(図19ステップS32)。動画
再生ウィンドウ120の下部には、再生の進行状況を示
すプログレスバー122aと再生中である旨のステイタ
ス表示122bがなされる。ユーザは、この動画再生ウ
ィンドウ120により作成された合焦変化動画を確認す
ることが可能である。つまり、画像処理装置50は、合
焦変化動画を表示する表示装置としても機能することと
なる。
【0120】続いて、合焦変化動画の再生が終了する
と、当該合焦変化動画を保存するか否かを問い合わせる
確認ダイアログが表示され、ユーザにより保存すると選
択された場合は、当該合焦変化動画は所定の記憶手段に
保存されることとなる(図19ステップS33,3
4)。
【0121】<4.変形例>以上、本発明の実施の形態
について説明したが、この発明は上記実施の形態に限定
されるものではない。
【0122】上記実施の形態においては、合焦変化動画
の作成をパーソナルコンピュータ60において合焦変化
動画作成プログラムを実行させた画像処理装置50を利
用していたが、上述した撮像手段を備えた画像処理装置
であるデジタルカメラ1のROM251に合焦変化動画
作成プログラムを記憶させ、デジタルカメラ1において
当該プログラムを実行させて、合焦変化動画の作成を行
うようにしてもよい。このような場合、作成された合焦
変化動画がLCD10に表示されることによりデジタル
カメラ1は表示装置としても機能することとなる。
【0123】また、上記実施の形態における合焦変化動
画は、遠景から近景に至って徐々に合焦位置が変化する
ものであったが、逆に、近景から遠景に至って徐々に合
焦位置が変化するようなものであってもよい。このよう
な場合、図20のステップS42におけるぼけ量Ra,
Rbを算出する演算式を逆にすれば簡単に実現可能であ
る。また、「遠景から近景」または「近景から遠景」と
いう合焦方向をユーザにより設定できるようになってい
てもよい。
【0124】また、上記実施の形態においては、合焦変
化動画の各フレームは、全てぼけ味調整処理の演算結果
であるぼけ味調整画像によって構成されていたが、元の
撮影画像データを含むようにしてもよい。例えば、1枚
目のフレームF1に撮影画像データである遠景合焦画像
を利用し、n枚目のフレームFnに撮影画像データであ
る近景合焦画像を利用し、これらの中間にあたるフレー
ムのみをぼけ味調整処理によって作成するようにしても
よい。合焦変化動画作成の処理時間は長時間となるが、
このようにすれば、比較的処理時間を短くすることが可
能である。
【0125】
【発明の効果】以上、説明したように、請求項1ないし
請求項5、請求項8および請求項9の発明によれば、そ
れぞれ異なる合焦位置で撮影された2枚の静止画像か
ら、徐々に合焦位置が変化する映像効果を有する動画像
の画像ファイルを作成することができる。
【0126】また、特に請求項2の発明によれば、操作
ボタンの操作に応答して合焦位置を変化させ時間的に連
続して撮影することができるため、異なる合焦位置の2
枚の静止画像を簡易に取得することができる。
【0127】また、特に請求項3の発明によれば、動画
像の画像ファイルに含まれる静止画像のぼけ具合のパラ
メータを可変に設定することができるため、動画像の画
像ファイルの映像効果におけるぼけ具合を可変に設定す
ることができる。
【0128】また、特に請求項4の発明によれば、動画
像の画像ファイルを構成する静止画像群の画像数を可変
に設定することができるため、動画像の画像ファイルの
映像効果の段階を可変に設定することができる。
【0129】また、特に請求項5の発明によれば、動画
像の画像ファイルを構成する静止画像群の表示速度を可
変に設定することができるため、動画像の画像ファイル
の映像効果の表示速度を可変に設定することができる。
【0130】また、請求項6および請求項7の発明によ
れば、それぞれ異なる合焦位置で撮影された2枚の静止
画像から、徐々に合焦位置が変化する映像効果を表示す
ることができる。
【0131】また、特に請求項7の発明によれば、操作
ボタンの操作に応答して合焦位置を変化させ時間的に連
続して撮影することができるため、異なる合焦位置の2
枚の静止画像を簡易に取得することができる。
【図面の簡単な説明】
【図1】静止画像を撮影するデジタルカメラの平面図で
ある。
【図2】静止画像を撮影するデジタルカメラの断面図で
ある。
【図3】静止画像を撮影するデジタルカメラの背面図で
ある。
【図4】デジタルカメラの機能構成を示すブロック図で
ある。
【図5】メモリカードへの静止画像ファイルの記録方法
を示す図である。
【図6】メモリカードに記憶された静止画像ファイルの
構成例を示す図である。
【図7】デジタルカメラのぼけ味調整モードにおける撮
影手順を示す図である。
【図8】ぼけ味調整処理に使用される2枚の画像を示す
モデル図である。
【図9】合焦位置無限大に相当するぼけ味調整画像の例
を示す図である。
【図10】合焦位置20mに相当するぼけ味調整画像の
例を示す図である。
【図11】合焦位置10mに相当するぼけ味調整画像の
例を示す図である。
【図12】合焦位置5mに相当するぼけ味調整画像の例
を示す図である。
【図13】合焦位置2mに相当するぼけ味調整画像の例
を示す図である。
【図14】合焦位置1mに相当するぼけ味調整画像の例
を示す図である。
【図15】合焦位置0.5mに相当する取得されたぼけ
味調整画像の例を示す図である。
【図16】本発明の実施の形態に係る画像処理装置の構
成を示す外観図である。
【図17】画像処理装置のディスプレイに表示された作
業ウィンドウの一例を示す図である。
【図18】画像処理装置のディスプレイに表示された設
定ウィンドウの一例を示す図である。
【図19】動画像の画像ファイルを作成する処理の手順
を示す図である。
【図20】動画像を構成する各フレームを作成する処理
の手順を示す図である。
【図21】動画像の画像ファイルを作成中の作業ウィン
ドウの状態を示す図である。
【図22】画像処理装置のディスプレイに表示された動
画再生ウィンドウの一例を示す図である。
【図23】動画像の画像ファイルの構成を示す図であ
る。
【符号の説明】
1 デジタルカメラ 8 メモリカード 9 シャッタボタン 50 画像処理装置 60 パーソナルコンピュータ 61 コンピュータ本体 62 ディスプレイ 70 プリンタ 90 記録媒体 100 作業ウィンドウ 110 設定ウィンドウ 120 動画再生ウィンドウ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/225 H04N 5/225 F // H04N 101:00 101:00 (72)発明者 新川 勝仁 大阪府大阪市中央区安土町二丁目3番13号 大阪国際ビル ミノルタ株式会社内 Fターム(参考) 2H044 DA01 DA02 DC02 DE01 DE08 5B050 AA09 BA06 BA08 BA10 BA11 BA15 DA07 EA16 EA24 FA02 FA12 FA13 5C022 AA13 AB21 AC18 AC32 AC42 AC69 CA00 5C023 AA06 AA32 CA01 DA02 DA04 DA08 EA05 EA06

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 画像処理装置であって、 同一被写体に対して第1の合焦位置で撮影された第1静
    止画像と、第2の合焦位置で撮影された第2静止画像と
    から、 前記第1の合焦位置および前記第2の合焦位置とは別の
    第3の合焦位置で撮影された静止画像に相当する第3静
    止画像を生成する第1の画像生成手段と、 前記第3静止画像を含む静止画像群を時系列的に順番に
    表示可能な画像ファイルを生成する第2の画像生成手段
    と、を備えることを特徴とする画像処理装置。
  2. 【請求項2】 請求項1に記載の画像処理装置におい
    て、 静止画像を撮影する撮像手段、をさらに備え、 前記撮像手段は、操作ボタンの操作に応答して前記第1
    静止画像と前記第2静止画像を時間的に連続して撮影す
    ることを特徴とする画像処理装置。
  3. 【請求項3】 請求項1または2に記載の画像処理装置
    において、 前記第1の画像生成手段は、前記第3静止画像のぼけ具
    合のパラメータを可変に設定するぼけパラメータ設定手
    段、を備えていることを特徴とする画像処理装置。
  4. 【請求項4】 請求項1ないし3のいずれかに記載の画
    像処理装置において、 前記第2の画像生成手段は、前記画像ファイルを構成す
    る前記静止画像群の画像数を可変に設定する画像数設定
    手段、を備えていることを特徴とする画像処理装置。
  5. 【請求項5】 請求項1ないし4のいずれかに記載の画
    像処理装置において、 前記第2の画像生成手段は、前記画像ファイルに含まれ
    る前記静止画像群の表示速度を可変に設定する表示速度
    設定手段、を備えていることを特徴とする画像処理装
    置。
  6. 【請求項6】 表示装置であって、 同一被写体に対して第1の合焦位置で撮影された第1静
    止画像と、第2の合焦位置で撮影された第2静止画像と
    から、 前記第1の合焦位置および前記第2の合焦位置とは別の
    第3の合焦位置で撮影された静止画像に相当する第3静
    止画像を生成する画像生成手段と、 前記第3静止画像を含む静止画像群を時系列的に順番に
    出力して表示させる出力手段と、を備えることを特徴と
    する表示装置。
  7. 【請求項7】 請求項6に記載の表示装置において、 静止画像を撮影する撮像手段、をさらに備え、 前記撮像手段は、操作ボタンの操作に応答して前記第1
    静止画像と前記第2静止画像を時間的に連続して撮影す
    ることを特徴とする表示装置。
  8. 【請求項8】 画像処理装置に含まれるコンピュータに
    よって実行されることにより、前記画像処理装置を請求
    項1ないし5のいずれかに記載の画像処理装置として機
    能させることを特徴とするプログラム。
  9. 【請求項9】 請求項8に記載のプログラムを記録して
    あることを特徴とするコンピュータ読み取り可能な記録
    媒体。
JP2001087827A 2001-03-26 2001-03-26 画像処理装置、表示装置、プログラムおよび記憶媒体 Expired - Fee Related JP3678160B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001087827A JP3678160B2 (ja) 2001-03-26 2001-03-26 画像処理装置、表示装置、プログラムおよび記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001087827A JP3678160B2 (ja) 2001-03-26 2001-03-26 画像処理装置、表示装置、プログラムおよび記憶媒体

Publications (2)

Publication Number Publication Date
JP2002290831A true JP2002290831A (ja) 2002-10-04
JP3678160B2 JP3678160B2 (ja) 2005-08-03

Family

ID=18943019

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001087827A Expired - Fee Related JP3678160B2 (ja) 2001-03-26 2001-03-26 画像処理装置、表示装置、プログラムおよび記憶媒体

Country Status (1)

Country Link
JP (1) JP3678160B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124396A (ja) * 2005-10-28 2007-05-17 Nikon Corp 撮像装置
JP2007184733A (ja) * 2006-01-05 2007-07-19 Fujifilm Corp 撮像装置及び撮影モード表示方法
JP2007212590A (ja) * 2006-02-08 2007-08-23 Casio Comput Co Ltd カメラ装置及びカメラ制御プログラム
US7343050B2 (en) 2003-03-14 2008-03-11 Casio Computer Co., Ltd. Image synthesizing apparatus, image synthesizing method and a computer readable recording medium having recorded a program
US7580069B2 (en) 2003-05-16 2009-08-25 Nikon Corporation Image-capturing apparatus and image processing apparatus
JP2011087010A (ja) * 2009-10-13 2011-04-28 Nikon Corp 撮像装置
CN102045498A (zh) * 2009-10-09 2011-05-04 株式会社尼康 摄像装置
CN103259977A (zh) * 2012-02-20 2013-08-21 佳能株式会社 图像处理装置、摄像装置及控制方法
WO2014045913A1 (ja) * 2012-09-18 2014-03-27 富士フイルム株式会社 静止画表示装置及びシステム並びに撮像装置
JP2014075782A (ja) * 2012-09-12 2014-04-24 Panasonic Corp 撮像装置
US8872942B2 (en) 2011-03-29 2014-10-28 Nikon Corporation Imaging device
JP2016096556A (ja) * 2012-02-20 2016-05-26 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
EP3120217A4 (en) * 2014-03-20 2017-12-06 LG Electronics Inc. Display device and method for controlling the same
US11232768B2 (en) 2005-04-12 2022-01-25 Douglas G. Richardson Embedding animation in electronic mail, text messages and websites

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6159097B2 (ja) 2013-02-07 2017-07-05 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7343050B2 (en) 2003-03-14 2008-03-11 Casio Computer Co., Ltd. Image synthesizing apparatus, image synthesizing method and a computer readable recording medium having recorded a program
US7580069B2 (en) 2003-05-16 2009-08-25 Nikon Corporation Image-capturing apparatus and image processing apparatus
US11263998B2 (en) 2005-04-12 2022-03-01 Douglas G. Richardson Embedding animation in electronic mail, text messages and websites
US11893965B2 (en) 2005-04-12 2024-02-06 Douglas G. Richardson Embedding animation in electronic mail, text messages and websites
US11232768B2 (en) 2005-04-12 2022-01-25 Douglas G. Richardson Embedding animation in electronic mail, text messages and websites
JP4622809B2 (ja) * 2005-10-28 2011-02-02 株式会社ニコン 撮像装置
JP2007124396A (ja) * 2005-10-28 2007-05-17 Nikon Corp 撮像装置
JP2007184733A (ja) * 2006-01-05 2007-07-19 Fujifilm Corp 撮像装置及び撮影モード表示方法
JP2007212590A (ja) * 2006-02-08 2007-08-23 Casio Comput Co Ltd カメラ装置及びカメラ制御プログラム
CN102045498A (zh) * 2009-10-09 2011-05-04 株式会社尼康 摄像装置
US8629914B2 (en) 2009-10-09 2014-01-14 Nikon Corporation Imaging device that creates movie image data with changing focus position
JP2011087010A (ja) * 2009-10-13 2011-04-28 Nikon Corp 撮像装置
US9137481B2 (en) 2011-03-29 2015-09-15 Nikon Corporation Imaging device
US8872942B2 (en) 2011-03-29 2014-10-28 Nikon Corporation Imaging device
JP2016096556A (ja) * 2012-02-20 2016-05-26 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
US9210315B2 (en) 2012-02-20 2015-12-08 Canon Kabushiki Kaisha Image processing apparatus, image capturing apparatus, control method, and recording medium
CN103259977B (zh) * 2012-02-20 2016-07-06 佳能株式会社 图像处理装置、摄像装置及控制方法
CN105872389A (zh) * 2012-02-20 2016-08-17 佳能株式会社 图像处理装置、摄像装置及控制方法
CN105872389B (zh) * 2012-02-20 2019-01-04 佳能株式会社 图像处理装置、摄像装置及控制方法
JP2013201752A (ja) * 2012-02-20 2013-10-03 Canon Inc 画像処理装置、撮像装置、制御方法、及びプログラム
CN103259977A (zh) * 2012-02-20 2013-08-21 佳能株式会社 图像处理装置、摄像装置及控制方法
JP2014075782A (ja) * 2012-09-12 2014-04-24 Panasonic Corp 撮像装置
JP5789341B2 (ja) * 2012-09-18 2015-10-07 富士フイルム株式会社 静止画表示装置及びシステム並びに撮像装置
JP2016007006A (ja) * 2012-09-18 2016-01-14 富士フイルム株式会社 画像処理プログラム、画像処理装置及び画像処理方法
US9754346B2 (en) 2012-09-18 2017-09-05 Fujifilm Corporation Still image generation device for providing a first and second mixture of an in-focus image and an out-of-focus image
WO2014045913A1 (ja) * 2012-09-18 2014-03-27 富士フイルム株式会社 静止画表示装置及びシステム並びに撮像装置
EP3120217A4 (en) * 2014-03-20 2017-12-06 LG Electronics Inc. Display device and method for controlling the same

Also Published As

Publication number Publication date
JP3678160B2 (ja) 2005-08-03

Similar Documents

Publication Publication Date Title
US7199829B2 (en) Device and method for processing unprocessed image data based on image property parameters
JP4979969B2 (ja) 撮像装置および撮像方法
JP5893713B1 (ja) 撮像装置、撮像方法、処理プログラム
JP4569389B2 (ja) 撮像装置、画像処理方法及びプログラム
JP4654887B2 (ja) 撮像装置
KR100942634B1 (ko) 화상보정장치 및 화상보정방법과 컴퓨터 판독 가능한 매체
US8896726B2 (en) Imaging apparatus and imaging method for generating electronic image data and performing special effect operations
JPWO2008129759A1 (ja) 撮像装置、編集装置、画像処理方法及びプログラム
JP6325841B2 (ja) 撮像装置、撮像方法、およびプログラム
JP2002112008A (ja) 画像処理システム及び画像処理プログラムが記録された記録媒体
JP3678160B2 (ja) 画像処理装置、表示装置、プログラムおよび記憶媒体
JP4556195B2 (ja) 撮像装置、動画再生装置及びそのプログラム
JP3859131B2 (ja) デジタルカメラ
JP5533053B2 (ja) カメラ、カメラ制御プログラム及び撮影教示方法
JP5614425B2 (ja) 撮像装置及びプログラム
JP2009058834A (ja) 撮像装置
JP3444281B2 (ja) 画像処理システム、撮像装置、画像処理方法及びその方法の処理プログラムが記録された記録媒体
JP6706167B2 (ja) 撮像装置、画像合成方法、およびプログラム
JP2003051979A (ja) 画像処理機能を備えた電子カメラ及び電子カメラに画像処理機能を実現させるためのプログラムを記録したコンピュータ読取可能な記録媒体
JP2007133810A (ja) 画像処理装置
JP4049291B2 (ja) デジタルスチルカメラ
JP4379921B2 (ja) 撮像装置及びそのプログラム
JP5931393B2 (ja) 撮像装置
JP4306341B2 (ja) 画像撮影装置
JP2006094200A (ja) 撮像装置、合焦表示方法及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040511

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040712

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050502

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090520

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100520

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100520

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110520

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120520

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130520

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees