JP2009027522A - 撮影装置 - Google Patents

撮影装置 Download PDF

Info

Publication number
JP2009027522A
JP2009027522A JP2007189615A JP2007189615A JP2009027522A JP 2009027522 A JP2009027522 A JP 2009027522A JP 2007189615 A JP2007189615 A JP 2007189615A JP 2007189615 A JP2007189615 A JP 2007189615A JP 2009027522 A JP2009027522 A JP 2009027522A
Authority
JP
Japan
Prior art keywords
image
subject
unit
photographing
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007189615A
Other languages
English (en)
Other versions
JP4860567B2 (ja
Inventor
Hiroshi Endo
宏 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007189615A priority Critical patent/JP4860567B2/ja
Priority to US12/171,007 priority patent/US8040380B2/en
Publication of JP2009027522A publication Critical patent/JP2009027522A/ja
Application granted granted Critical
Publication of JP4860567B2 publication Critical patent/JP4860567B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】被写体ぶれが抑制された画像、又は手ぶれが補正された画像を撮影場面に応じて確実に得ることができる撮影装置を提供する。
【解決手段】システム制御部110は、レリーズボタンが押されたら、タイミング発生部に撮影枚数を指示して高速連写を行なわせるとともに、1回目の連写画像を撮像部内のフレームメモリに記憶しておいて、手ぶれ補正部140に連写画像の重ね合わせ画像を生成させている最中に、そのフレームメモリ内の画像を前処理部130に出力させ、前処理部130内の増幅回路のゲインを上げて高感度画像を生成させる。信号処理部が手ぶれ補正部140内の重ね合わせ画像と前処理部130内のフレームメモリ内の高感度画像とを読み出して信号処理を行なった後、システム制御部110は、記録再生部180と連携して記録媒体181に重ね合わせ画像と高感度画像との2つの画像を記録する。
【選択図】 図2

Description

本発明は、撮像素子を備え、その撮像素子上に被写体像を形成して画像信号を生成する撮影装置に関する。
最近のデジタルカメラには、手ぶれ補正機能が搭載されているものが多い。この手ぶれ補正機能を実現する構成には、レンズや撮像素子を動かすことにより手ぶれを補正する光学式のものと連写した複数枚の画像を相互に位置があうように重ね合わせることにより手ぶれを補正する電子式のものとがある。後者の電子式のものにあっては、大抵の撮像素子のフレームレートが30フレーム/秒であったために1/30秒の間に起きたぶれを補正することができないという欠点を有していたが、最近になって1.2メガ300フレーム/秒という高速フレームレートの撮像素子がソニーで開発され、この撮像素子を採用することで上記欠点を解消することができるようになってきている。
上記撮像素子を採用して電子式手ぶれ補正機能を使って手ぶれを補正するときには、1回の撮影操作で高速連写が行なわれ複数枚の画像ごとに動きベクトルが検出され検出された動きベクトルに基づいて各画像間のぶれが補正される。このときには、撮像素子上の撮像エリアをすべて用いることができないので、撮像素子上の撮像エリアに対して面積の小さい所定サイズの記録エリアを設けその所定サイズの記録エリアで複数枚それぞれの画像の位置が相互にあうように各画像の重ね合わせが行なわれる(特許文献1〜特許文献3)。
しかし、特許文献1から特許文献3の技術では、手ぶれを補正することはできても被写体ぶれを抑えることができない。被写体ぶれを抑えるためには、多少ノイズが増えるが撮影感度を上げてシャッタ速度を速めることが有効である。例えば特許文献4の技術を使って撮影前に被写体が動体であるか静止体であるかを判別することができれば、被写体が動体であったときには感度を上げて撮影を行なって被写体ぶれを抑えた画像を得ることができる。
しかしながら上記技術を使うと撮影前に被写体が動体であると判定してしまうため、撮影中の被写体の移動量が少なかった場合には感度を上げた分、無駄にノイズの増えた画像が得られてしまうことになる。このような場合には特許文献6の技術を使って連写の撮影間隔を制御して撮影間隔を短くして重ね合わせ画像を得ることで手ぶれが補正されるとともに被写体ぶれが抑制された画像を得ることができる。しかしながら、特許文献6の技術を使って撮影間隔を短くして手ぶれと被写体ぶれとの双方を補正しようとしても撮影時間が長くなってくると全体的な移動量が大きくなってきて被写体ぶれの影響が現われ始めてしまう。
特開平11−252445号公報 特開2000−341577号公報 特開2006−130159号公報 特開平4−309078号公報 特開2006−135501号公報
本発明は、上記欠点を解決し、被写体ぶれが抑制された画像、又は手ぶれが補正された画像を撮影場面に応じて確実に得ることができる撮影装置を提供することを目的とするものである。
上記目的を達成する本発明の第1の撮影装置は、撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
撮影画像を生成する撮影手段と、
撮影操作を受けて上記撮影手段に連続する複数枚の撮影画像を生成させる撮影制御手段と、
上記撮影手段での撮影により得られた、相対的に低感度の複数枚の画像を、画像上のぶれが補正されるように重ね合わせて1枚の重ね合わせ画像を生成する重ね合わせ手段と、
上記撮影手段での撮影により得られた複数枚の画像のうちの1枚の画像であって相対的に高感度の画像を生成する高感度画像生成手段と、
上記重ね合わせ手段で生成された重ね合わせ画像、および上記高感度画像生成手段で生成された高感度画像との双方を記録する画像記録手段とを備えたことを特徴とする。
上記本発明の第1の撮影装置によれば、上記撮影制御手段の制御の下に上記撮影手段に撮影を行なわせることにより複数枚の撮影画像が得られる。この複数枚の撮影画像から上記重ね合わせ手段によって1枚の重ね合わせ画像が生成されるとともに、上記高感度画像生成手段によって1枚の高感度画像が生成され、上記画像記録手段によって上記重ね合わせ画像と上記高感度画像との双方が記録される。
このため、撮影者は、被写体ぶれが補正された高感度画像か、又は手ぶれが補正された、相対的に低感度の重ね合わせ画像のうちのいずれかを適宜選択することができる。つまり動体であって被写体ぶれが発生する恐れのある被写体が撮影された撮影場面については、撮影者は後から高感度画像の方を選択することで被写体ぶれが抑制された画像を手に入れることができ、静止物の被写体、あるいは動体であっても移動量の少ない被写体が撮影された撮影場面については、後から重ね合わせ画像の方を選択することで手ぶれが補正された鮮明な画像を手に入れることができる。
ここで、被写体が動体であるか静止物であるかを判定する被写体判定手段を備え、
上記画像記録手段は、上記被写体判定手段で被写体が動体であると判定された場合に上記重ね合せ画像と上記高感度画像との双方を記録し、上記被写体判定手段で被写体が静止物であると判定された場合に上記重ね合わせ画像のみを記録するものであることが好ましい。
そうすると、被写体が静止物である場合には、自動的に重ね合わせ画像のみが記録されるようになって不必要な記録が行なわれなくなる。
ここで撮影感度を上げる代わりにフラッシュ撮影を行なう構成にしても良い。
上記目的を達成する本発明の第2の撮影装置は、撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
被写体に向けて閃光を発光するフラッシュと、
撮影画像を生成する撮影手段と、
撮影操作を受けて前記撮影手段に連続する複数枚の撮影画像を生成させるとともに、上記フラッシュに、その複数枚の撮影画像のうちのいずれか1枚の撮影画像に同期してフラッシュ光を発光させる撮影制御手段と、
上記撮影手段での撮影により得られた複数枚の画像のうちのフラッシュ光の発生を伴うフラッシュ撮影画像を除く複数枚の画像を、画像上のぶれが補正されるように重ね合わせて重ね合わせ画像を生成する重ね合わせ手段と、
上記重ね合わせ手段で生成された重ね合わせ画像、および上記フラッシュ撮影画像との双方を記録する画像記録手段とを備えたことを特徴とする。
上記本発明の第2の撮影装置によれば、上記撮影制御手段の制御の下に上記撮影手段に撮影を行なわせることにより複数枚の撮影画像が得られる。この複数枚の撮影画像から上記重ね合わせ手段によって1枚の重ね合わせ画像が生成されるとともに、上記複数枚の撮影画像から1枚のフラッシュ撮影画像が生成され、上記画像記録手段によって上記重ね合わせ画像と上記フラッシュ撮影画像との双方が記録される。
このため、撮影者は、被写体ぶれが補正されたフラッシュ撮影画像か、又は手ぶれが補正された、相対的に低感度の重ねあわせ画像のうちのいずれかを適宜選択することができる。つまり動体であって被写体ぶれが発生する恐れのある被写体が撮影された撮影場面については、撮影者は後からフラッシュ撮影画像の方を選択することで被写体ぶれが抑制された画像を手に入れることができ、動体であっても移動量の少ない被写体が撮影された撮影場面については、後から重ね合わせ画像の方を選択することで手ぶれが補正された鮮明な画像を手に入れることができる。
ここで、被写体が動体であるか静止物であるかを判定する被写体判定手段を備え、
上記画像記録手段は、上記被写体判定手段で被写体が動体であると判定された場合に上記重ね合わせ画像と上記フラッシュ撮影画像との双方を記録し、上記被写体判定手段で被写体が静止物であると判定された場合に上記重ね合わせ画像のみを記録するものであることが好ましい。
そうすると、被写体が静止物である場合には自動的に重ね合わせ画像だけが記録されるようになって不必要な記録が行なわれなくなる。
また、上記被写体判定手段は撮影前の動画像に基づいて動きベクトルを検出することにより、動体であるか静止物であるかを判定するものであっても良く、また上記被写体判定手段は、被写体に顔が含まれているか否かを検出し、顔が含まれている場合に動体、顔が含まれていない場合に静止物と判定するものであっても良い。
さらに、上記撮影手段で得られた複数枚の撮影画像から動きベクトルを算出する動きベクトル算出手段を備え、上記重ね合わせ手段は、1回の撮影操作で得られた複数枚の画像を、上記動きベクトル算出手段で算出された動きベクトルに基づいて画像上のぶれが補正されるように重ね合わせるものであっても良く、当該撮影装置の角速度を検出する角速度センサを備え、上記重ね合わせ手段は、1回の撮影操作で得られた複数枚の撮影画像を、前記角速度センサで検出された角速度に基づいて画像上のぶれが補正されるように重ね合わせるものであっても良い。
以上、説明したように、被写体ぶれが抑制された画像、又は手ぶれが補正された画像を撮影場面に応じて確実に得ることができる撮影装置が実現する。
図1は本発明の一実施形態であるデジタルカメラ100の構成を示す図である。図1には、デジタルカメラ100の斜視図が示されており、図1(a)には正面上方から見た斜視図が示され、図1(b)には背面上方から見た斜視図が示されている。
図1(a)に示すように、本実施形態のデジタルカメラ100のボディ中央にはレンズ鏡胴170が備えられており、そのレンズ鏡胴170の上方にはファインダ105が備えられている。またそのファインダ105の脇には撮影補助光発光窓161が備えられている。この撮影補助光発光窓を通して閃光を被写体に向けて発光するフラッシュが本実施形態のデジタルカメラの内部には備えられている。
また、図1(b)に示すように本実施形態のデジタルカメラ100の背面および上面にはユーザがこのデジタルカメラ100を使用するときにいろいろな操作を行うための操作部101が備えられている。
この操作部101の中にはデジタルカメラ100を作動させるための電源スイッチ101aのほか、十字キー101b、メニュー/OKキー101c、キャンセルキー101d、モードレバー101eなどがある。これらの操作部101の中のモードレバー101eによっては、再生モードと撮影モードの切替や撮影モードの中でさらに動画モード、静止画モードの切替が行なわれる。上記モードレバー101eが撮影モードに切り替えられた状態にあるときに電源スイッチ101aが投入されるとLCD150上に動画(以降においては撮影レンズが捉えている画像がスルーされてLCD150上に表示されるのでスルー画という)が表示されて、そのスルー画を見ながらシャッタチャンスにレリーズボタン102が押されると被写体の撮影が行なわれる。また本実施形態のデジタルカメラの内部には、電子的にぶれを補正するぶれ補正手段が備えられており、そのぶれ補正手段でぶれ補正が行なわれる構成になっている。詳細は後述する。
なお、モードレバー101eが再生側に切り替えられた状態にあるときには既撮影画像がLCD150上に再生表示される。また本実施形態のデジタルカメラ100が備えるレリーズボタン102は半押しと全押しの二つの操作態様を有しており、半押しされたときのタイミングで測光と測距との双方が撮影装置内で行なわれて測光値に応じた絞りおよびシャッタ秒時が設定され、さらに測距された被写体距離に合うピント位置にフォーカスレンズが配置された後、全押し操作に応じて設定されたシャッタ秒時でシャッタが駆動され撮像素子で露光が行なわれる。また本実施形態のデジタルカメラが備えるシャッタにはメカニカルシャッタと撮像素子が備える電子シャッタとの2つのシャッタがあり、シャッタ秒時が長いときにはメカニカルシャッタが用いられメカニカルシャッタでは駆動することができないくらいまでシャッタ秒時が短くなってきたときには電子シャッタが用いられる。ただし、静止画撮影においてはスミア等が発生する恐れがあるので、なるべくメカニカルシャッタが用いられる。またスルー画においてはメカニカルシャッタが用いられることもあるが主に電子シャッタが用いられる。また以降の説明においては、ファインダ用のスルー画と撮影画像とを区別するために、レリーズボタン102の全押し操作により得られる撮影画像のことをスルー画に対して本画像ということがある。
図2は、図1のデジタルカメラ100内部の電気系統の構成ブロック図である。
図2を参照してこのデジタルカメラ100の内部の構成および動作を簡単に説明する。
図2のデジタルカメラ100には、光学レンズ系1701、タイミング発生部111、システム制御部110、絞り調節機構1702、撮像部120、前処理部130、手ぶれ補正部140、信号処理部160、記録再生部180、フラッシュ190が備えられている。なお上記メカニカルシャッタも備えられているが省略されている。
これら各部の構成を順次に説明する。
まず、光学レンズ系1701は、例えば複数枚の光学レンズ(フォーカスレンズやズームレンズといった光学レンズ等)が組み合わされ構成されている。光学レンズ系1701には、図示しないが光学レンズ系の中にあるズームレンズの位置を調節して焦点距離を調節するズーム機構や光学レンズ系の中にあるフォーカスレンズの位置を調節してピントを調節するAF(Automatic Focus)調節機構等が含まれている。これらの機構を作動させるにあたっては、タイミング発生部111で生成された駆動信号が供給される。
タイミング発生部111には、デジタルカメラ100のシステムクロックを発生する発信器が内蔵されており、さらにこのタイミング発生部111には、そのシステムクロックに同期したタイミング信号を生成するタイミング信号生成部とシステムクロックに同期した駆動信号を生成する駆動信号生成部とが備えられている。システム制御部110から制御信号が供給されてくると、その制御信号に応じてタイミング発生部111が撮像部120や前処理部130、さらにタイミング発生部111内の駆動信号生成部にタイミング信号を出力する。タイミング発生部111内の駆動信号生成部ではそのタイミング信号を受けて上記機構に駆動信号を出力する。なお、フラッシュ190にはキセノン管192が備えられており、そのキセノン管192の発光が発光制御部191によって制御されるため発光制御部191にシステム制御部110から制御信号が供給される。
上記タイミング発生部111に制御信号を供給するシステム制御部110には、例えばCPU(Central Processing Unit:中央演算処理装置)とこのデジタルカメラ100の動作手順が書き込まれたROMとが備えられている。システム制御部110では、例えばユーザの操作に伴って操作部101(レリーズボタンを含む)から供給されてくる情報と上記ROMの情報とを用いて各部の動作を制御する制御信号が生成され、生成された制御信号が、タイミング発生部111、前処理部130、手ぶれ補正部140、信号処理部160、記録再生部180、フラッシュ190等に供給される。このフラッシュ190に供給される制御信号は、連写回数とAE処理に応じた光量に関するものであって、その制御信号に基づいて発光制御部がキセノン管192の発光を制御する。
光学レンズ系1701の後方に配備されている絞り調節機構1702は、被写体の撮影において最適な入射光の光束を撮像素子に供給することができるように入射光束断面積(すなわち、絞り開口面積)を調節する機構である。この絞り調節機構1702には、前述のタイミング発生部111から駆動信号が供給される。図示はしないが、このときの駆動信号はシステム制御部110が、撮像部120で光電変換された信号電荷を基にAE(Automatic Exposure:自動露出)処理を行なって算出した絞り・露光時間に基づくものであり、システム制御部110がタイミング発生部111にその絞り・露光時間に応じた制御信号を供給してタイミング発生部111内の駆動信号生成部に駆動信号を生成させている。
また撮像部120には、光電変換する撮像素子が備えられており、その撮像素子が撮影光学系の光軸に直交するように配置される。その撮像素子の入射側には、一体的に個々の光電変換素子に対応して色分解する色フィルタが2次元的に配列されている。タイミング発生部111からのタイミング信号に応じて撮像素子で光電変換が行なわれそれらの光電変換によって得られた信号電荷が所定のタイミング信号、例えば電子シャッタのオフタイミングで前処理部130に出力される。本実施形態の撮像素子は、図1のデジタルカメラが撮影モードにセットされると画素数を落としてスルー画用の撮影を開始し、撮影モード中にレリーズボタンが全押しされるとスルー画用の撮影を中断して記録用の本画像の撮影を行なう。なお詳細は後述するが図2の撮像素子には前述の高速フレームレートを持つ撮像素子が用いられていて後述する手ぶれ補正が行なわれるときにはレリーズボタンが全押し操作されたときの一回の撮影操作で高速連写が行なわれて後述する手ぶれ補正部140で電子的に手ぶれが補正されながら本画像の撮影が行なわれる構成になっている。このため以降の説明においては、一回の撮影操作で高速連写が行なわれることを説明する際に、高速連写が行なわれて得られた画像のことを連写画像と記載し、さらにその連写画像を、連写回数に応じて一回目の連写画像、2回目の連写画像という風に記載する。この電子的にぶれの補正が行なわれるように高速連写が行なわれた場合には、シャッタ速度に応じた連写回数の連写が行なわれて電子的にぶれが補正され、ぶれが補正された後の画像が上記本画像ということになる。
また前処理部130には、CDS(Correlated Double Sampling:相関二重サンプリング)131、A/D132、ガンマ補正部133が備えられている。CDS131には、クランプ回路とサンプルホールド回路とが備えられており、例えば撮像部120に撮像素子としてCCD固体撮像素子が用いられていた場合には、そのCCD固体撮像素子の動作により発生する各種のノイズがタイミング発生部111からのタイミング信号により上記クランプ回路と上記サンプルホールド回路とで取り除かれる。さらにCDS回路131には、システム制御回路110からの制御信号に応じた利得で入力信号を増幅する増幅回路が備えられており、上記サンプルホールド回路から出力された、上記各種のノイズが取り除かれた信号電荷が受光光量を表わす正確な色信号(R,G,B)となってその増幅回路に供給される。その増幅回路によって、入力された色信号が所定の利得で増幅された後、A/D132で所定の量子化レベルで量子化されデジタル信号に変換される。またシステム制御回路110から撮影感度を上げるために高利得を表わす制御信号が供給されているときには、上記所定の利得よりも大きな利得で増幅された信号がA/D132へと供給されA/D132で所定の量子化レベルで量子化されデジタル信号に変換される。このときにはタイミング発生部111からのタイミング信号に応じてデジタル信号への変換が行なわれる。
さらにガンマ補正部133には、ガンマ補正用のルックアップテーブルが備えられており、そのルックアップテーブルによって、ルックアップテーブルに入力されたデジタル信号に対応してガンマ補正が施されたデジタル信号が出力され、デジタル信号に変換された各色信号が手ぶれ補正部140に供給される。
ここで図2を離れて図3を参照して手ぶれ補正部の構成を説明しておく。
図3は、手ぶれ補正部140の構成を示す図である。
図3に示す手ぶれ補正部140には、フレームメモリ141,フレームメモリ部142と、相関演算部143と、アドレスシフト部144と、合成部145と、スイッチSW1〜SW3が3つ備えられている。この例ではフレームメモリ141、フレームメモリ部142に、1フレーム分のR、G、Bの各色信号を格納することができるサイズを持ち、繰り返し読み出すことが自在な非破壊タイプのメモリが用いられている。
図3を参照して手ぶれ補正部140の構成を入力側から順に説明していく。
まず、スルー画時の手ぶれ補正部140の動作を説明する。
スルー画のときには撮像部120から撮像素子の画素数を落として1/30(又は1/60)秒ごとにスルー画を表わす画像信号が出力され前処理部130で前処理が施された後、前処理部130で前処理が施された画像が、手ぶれ補正部140に供給される。
図3に示す手ぶれ補正部140では、次々に供給されるスルー画を使って被写体が静止体であるか、動体であるかの判定が行なわれる。この判定は、図3中の相関演算部143によって行なわれる。
スルー画のときには、スイッチSW1とスイッチSW2が双方共にa側に切り替えられ、さらにスイッチSW3が接続されたままになって相関演算部143には常に現在のスルー画信号と一つ前のスルー画信号が供給され被写体が動体であるか、静止体であるかが判定され続ける。その結果がシステム制御部110に供給されるとともに、フレームメモリ部142に一旦記憶されたスルー画信号が、後段の信号処理部140によって1/30秒ごとに読み出される。
信号処理部160では、スルー画を表わす画像信号に色分離、YC変換処理が行なわれ、色分離、YCC変換処理が行なわれた後の画像信号が不図示の画像表示部に供給され、スルー画がLCD150(図1参照)上に表示される。
このスルー画が表示されている最中にレリーズボタン102が操作されると、システム制御部110は、AE処理により得たシャッタ速度に基づいて撮影枚数をタイミング発生部111に指示して撮影枚数分のタイミング信号を連続的に供給させることにより撮像部120に高速連写を開始させる。そして撮像部120から前処理部130に次々と連写画像を出力させ、前処理部130で各回の連写画像ごとにデジタル信号への変換処理等が行なわれたら、手ぶれ補正部140に次々と連写画像を供給させる。なお、このときには1回目の連写画像を撮像部120内の不図示のフレームメモリに記憶させておき、全ての撮影枚数の連写画像が前処理部130から手ぶれ補正部140に出力された後、システム制御部110が、前処理部130内の増幅回路のゲインを上げ撮像部内の不図示のフレームメモリから前処理部130に画像を出力させてそ増幅回路に高いゲインで入力信号を増幅させて高感度画像を生成させ前処理部130内の最後段にある不図示のフレームメモリ内に一時記憶させておく。
一方、手ぶれ補正部140(図3参照)では、次々に供給されてくる連写画像を使って電子的にぶれ補正が行なわれる。まず、1回のレリーズボタン102の操作で行なわれる複数回の連写のうちの1回目と2回目の連写が実施されると、相関演算部143に1回目の連写画像と2回目の連写画像が入力される。
このときには、スイッチSW1とスイッチSW2が双方共にa側に切り替えられていて、それらのスイッチSW1,SW2を経由してフレームメモリ141内に記憶されていた1回目の連写画像が相関演算部143とともに、フレームメモリ部142にも供給され記憶される。
1回目の連写画像と2回目の連写画像との双方が供給された相関演算部143では、それら2つの画像を用いて手ぶれを表わす動きベクトルが検出される。この相関演算部143で動きベクトルが検出されたら、今度はスイッチSW1とスイッチSW2がシステム制御部110の制御の下に双方共にb側に切り替えられるとともに、その動き検出ベクトルを示す位置データ(例えば座標データx、y)がアドレスシフト部144に供給される。このときにはフレームメモリ141の内容が1回目の連写画像から2回目の連写画像に書き換えられてそのフレームメモリ141内の2回目の連写画像がスイッチSW1の接点bを経由してアドレスシフト部144に供給される。
フレームメモリ部142には、1回目の連写画像が記憶されている訳であるから、アドレスシフト部144でそのフレームメモリ部142内の1回目の連写画像の位置にあうように、2回目の連写画像の位置がオフセットされて1回目の連写画像をベースにして2回目の連写画像が加算されることによりぶれが補正され、フレームメモリ部142にぶれが補正された重ね合わせ画像が記憶される。
以降においては、このフレームメモリ部142にある1回目の連写画像の位置をベースにして3回目の連写画像、4回目の連写画像…が相関演算部143に供給されて、双方の画像から動きベクトルが検出され検出された動きベクトルに基づいてぶれ補正が行なわれて加算により得られた重ね合せ画像がフレームメモリ部142に次々に上書きされていく。
こうして1回の撮影操作を受けて複数枚の連写により得られた撮影画像どうしの加算が順次に行なわれていって所定枚数に達したら、システム制御部110からの切替信号によってスイッチSW3が断から接に切り替えられる。
そうしたら、そのフレームメモリ142b内の重ね合わせ画像が信号処理部160の画像読出部161によって読み出される。このときには、相関演算部143の演算結果に基づいてシステム制御部110によって撮像エリアに対して一定の面積比率の記録エリアが画像読出部161に設定され、画像読出部161によってフレームメモリ部142内の重ね合せ画像からその面積比率で画像が切り出され読み出される。
図2に示す信号処理部160によって画像が読み出されたら信号処理部160内の色分離部162によって画像を構成する各色信号が選択的に振り分けられるとともに、ある画素の色信号がその画素の周囲の画素の色信号によって補間生成され、各色信号が画面ごとのプレーン信号にされて後段のYC変換部163に供給される。
YC変換部163では、変換行列によりYCC信号が生成され、YCC信号がさらに画像圧縮部164に供給され圧縮部164でYCC信号が圧縮され圧縮されたYCC信号と圧縮情報とからなる画像ファイルが記録再生部180によって記録媒体181に記録される。
さらに前述した様に、前処理部130内の不図示のフレームメモリ内には高感度画像が記憶されているので、重ね合わせ画像が生成されている最中にシステム制御部110からの指示を受けた信号処理部160内の画像読出部161によってその前処理部130内の不図示のフレームメモリ内の高感度画像が読み出され信号処理部160内の色分離部162によって画像を構成する各色信号が選択的に振り分けられるとともに、ある画素の色信号がその画素の周囲の画素の色信号によって補間生成され、各色信号が画面ごとのプレーン信号にされて後段のYC変換部163に供給される。YC変換部163では、変換行列によりYCC信号が生成され、YCC信号がさらに画像圧縮部164に供給され圧縮部164でYCC信号が圧縮され圧縮されたYCC信号と圧縮情報とからなる画像ファイルが記録再生部180によって記録媒体181に記録される。
つまり、高感度画像と相対的に低感度の重ね合わせ画像との2種類の画像の撮影処理が並列に実行され記録媒体にその2種類の画像が記録されることとなる。なおこの記録再生部180によっては、記録媒体181に記録されている画像が読み出されて画像表示部(不図示)に供給されLCD150上に再生画像の表示も行なわれる。
以上の構成にすると、1回の撮影操作を受けて高感度画像と低感度の重ね合わせ画像との2枚の撮影画像が記録媒体に記録されることになり、撮影者は後から撮影場面に応じて被写体ぶれが抑制された高感度画像を手に入れることも、手ぶれが補正された画像を手に入れることもできる。
ここでシステム制御部110と信号処理部が実行する上記撮影処理の手順を図4(a)のフローを参照して分かり易く説明する。
図4(a)は、システム制御部110と信号処理部160が実行する撮影処理の処理手順を示すフローチャートである。操作部101のモードレバー101eが撮影モード側に切り替えられレリーズボタン102が半押しされたときにシステム制御部110は図4(a)のフローの処理を実行する。
システム制御部110は、ステップS401でAE処理を実行して絞り値とシャッタ速度を算出し、算出したシャッタ速度が所定の速度よりも遅い場合には、タイミング発生部111にシャッタ速度に応じた連写回数となる撮影枚数を設定する。次のステップS402でAF処理を実行してフォーカスレンズを合焦位置に配置する。ここで全押しされたらシステム制御部110は、ステップS403で一般的に手ブレが起こりにくいとされている1/f(f:35mmフイルム換算焦点距離)のシャッタ速度をタイミング発生部111に設定するとともに、1/fのシャッタ速度を重ね合わせることにより適正露出になる枚数、つまり連写回数を設定して、タイミング発生部111から撮像部120に電子シャッタを連続的に設定させることにより撮像素子に連続的に露光を行なわせる。次のステップS404で撮像部120から全画素からなる画像を連写ごとに出力させ、前処理部130が備えるCDS131に次々に処理を行なわせた後、ステップS405でA/D変換を行わせてデジタル信号の各色信号からなる画像データを手ぶれ補正部140に次々に出力させる。システム制御部110が所定枚数の撮影が終了したと判定したら、信号処理部160にその旨を通知するとともに手ぶれ補正部140内のスイッチSW3(図3参照)を断から接に切り替える。信号処理部160は、フレームメモリ部142(図3参照)内の重ね合わせ画像を所定の面積比率で切り出して読み出す。そしてステップS406で色分離、YCCへの変換処理を行なったら、さらにステップS407で画像の圧縮処理を行なう。この一連のプロセスが終了して信号処理部160がプロセス終了フラグを書き換えたことを、システム制御部110が検知したらステップS408でシステム制御部110は記録再生部180と連携して圧縮情報と圧縮された画像とを画像ファイルにして記録媒体181に記録してこのフローの処理を終了する。
図4(b)は、図4(a)のステップS406の画像処理の詳細を示すフローチャートである。なお、ステップS4063とステップS4064の処理は前述した様に並列に行なわれており、前処理部130から手ぶれ補正部140にすべての連写画像が出力されて手ぶれ補正部140で手ぶれ補正が行なわれている最中に、前処理部130内の増幅回路のゲインが上げられ撮像部120内のフレームメモリに記憶されていた連写1回目の画像の振幅が大きく増幅されて高感度画像が生成され前処理部130内の不図示のフレームメモリに記憶される構成になっている。
図4(b)を参照して処理を説明する。
ステップS406の処理が開始されると、システム制御部110は、まずステップS4061で露光した枚数を参照する。枚数が一枚であると判定したら、ステップS4062へ進んでステップS4062で信号処理部160が色分離、YC変換処理等の画像処理を行なって図4(a)のステップS407に戻る。
一方、ステップS4061で露光した枚数が複数枚であると判定したらステップS4063へ進んで、ステップS4063で、システム制御部110が前処理部130内の増幅回路のゲインを上げて撮像部120内のフレームメモリに記憶しておいた1枚目の連写画像をその前処理部130に出力させて高感度撮影画像を生成させる。
次のステップS4074では先に手ぶれ補正部140に出力させていた複数枚の連写画像から相関演算部143で動きベクトルを検出してその動きベクトルを基準にして複数枚の連写画像の重ね合わせを合成部145に行なわせて重ね合わせ画像を生成させる。
ステップS4065で、信号処理部160が、前処理部130内のフレームメモリから高感度撮影画像を読み出すとともに、手ぶれ補正部140内のフレームメモリ部142から低感度の重ね合わせ画像を読み出して双方の画像に色分離、YC変換処理などを行なって、ステップS408に戻る。
システム制御部110と信号処理部160が上記フローの処理を実行すると、被写体ぶれが抑制された高感度画像と手ぶれが補正された重ね合わせ画像との2つの画像が記録媒体に記録される。このため、撮影者は、撮影場面として被写体ぶれが発生する恐れが高いと思ったときには高感度画像を選択することで被写体ぶれが抑制された画像を手に入れることができ、撮影場面として手ぶれが発生する恐れが高いと思ったときには手ぶれが補正された重ね合わせ画像を手に入れることができる。いずれかを選択した後、記録媒体内の画像を削除することができるので、撮影時には2つあっても後から1つの画像にすることで記録媒体内のメモリを効率よく活用することができるようになるという効果も得られる。
ここで、図1のデジタルカメラにはフラッシュ190が備えられているので、高感度撮影画像を生成する代わりに、フラッシュ190を使ってシャッタ速度を速めることで被写体ぶれが補正されたフラッシュ撮影画像を得る構成にしても良い。
図5は、第2実施形態を示す図である。
この第2実施形態のデジタルカメラは、図1の外観を持ち、図2の内部構成と同じ構成を持つものとする。
図5のフローは、図4(b)の処理内容が図5のフロー中に追記されステップS4031にフラッシュ撮影が追加された以外は、図4(a)のフローとほぼ同じである。
図4(a)のフローの処理とほとんど同じなので、追加されたステップの処理のみを説明する。
ステップS4031でシステム制御部110がタイミング発生部111に連写を指示するとともにフラッシュ190に指示して複数枚の撮影画像のうちのいずれか1枚の撮影に同期してフラッシュを発光させる。
ステップS4061Aでシステム制御部110は、フラッシュオフで撮影した画像を手ぶれ補正部140に重ね合わせることにより重ね合わせ画像を生成させ、ステップS4062Aで重ね合わせ画像とフラッシュ撮影画像を記録再生部と連携して記録媒体に記録する。
このような構成にしても第1実施形態と同等の効果が得られる。
ところで、上記実施形態のように常に2枚の画像が記録される構成であると、後から削除ができるとはいっても、不必要に多くの画像が記録されてしまう。
そこで、本発明にいう被写体判定手段の機能を相関演算部143とシステム制御部110とに持たせて、不要な画像の記録を避ける構成にすることが考えられる。
図6(a)、図6(b)は、第3実施形態を説明する図である。
図6(a)は、ステップS400が追加され、ステップS406の処理がステップS406Aに変更されて以外は図4(a)の処理と同じであり、図6(b)の処理は、図4(b)の処理に判断ステップS40611が追加され、その判断ステップS40611で静止物と判定された場合の処理ステップS40612が追加されている以外は、図4(b)の処理と同じである。
ステップS400で、相関演算部143からの動きベクトル検出結果を受けてシステム制御部110が被写体が動体であるか、静止物で在るかを判定し、判定結果を内部レジスタに保持する。
ステップS40611で上記内部レジスタの内容を参照して静止物であると判定されていた場合には、ステップS40612で手ぶれ補正部140内の相関演算部143で演算された動きベクトルを基準にして合成部145に連写した複数枚の撮影画像を重ね合わせることにより適正露出の重ね合わせ画像のみを生成させてステップS408に戻る。
システム制御部110と信号処理部160がこのフローの処理を実行すると、被写体が静止物であるときには重ね合わせ画像のみを記録することになるので、不要な画像を記録することがなくなって例えば可搬型の記録媒体の記録容量を浪費することがなくなる。
また顔検出手段を設けて顔が検出されたときには被写体が動体である人物であるとしても良い。
図7、図8は第4実施形態を示す図である。
この第4実施形態のデジタルカメラは、図1の外観を持ち、図2の内部構成と同じ構成を持つものとする。
図7の構成は、顔検出部FCが追加されている以外は図2の内部構成と同じである。
また図8のフローは、図6のステップS400がステップS400Aに変更され、そのステップS400Aで静止物と判定された場合の処理ステップS401B〜ステップS406Bが追加されている以外は、図5の処理と同じである。
ステップS400で静止物であると判定された場合には、システム制御部110がステップS401B〜ステップS406Bまでの処理を実行して手ぶれ補正部140に重ね合わせ画像のみを生成させてステップS408で記録再生部と連携して重ね合わせ画像のみを記録媒体に記録する。この構成でも被写体が静止体であるときには重ね合わせ画像のみが記録媒体に記録されるので、記録媒体の記録容量が浪費されることがなくなり、記録媒体が有効に活用される。
図9、図10(a)、図10(b)は、第5実施形態を説明する図である。
図9の構成は、ジャイロセンサSNが追加されている以外は、図1の構成と同じである。図10(a)のフローは、図4(a)と同じであり、図10(b)のフローは図4(b)のステップS4064の処理がステップS4064Aの処理に変更されて動きベクトルの代わりにジャイロセンサSNで検出された角速度に基づいて重ね合わせが行なわれている以外は、図4(b)の処理と同じである。このような構成にしても良い。
本発明の撮影装置の一実施形態であるデジタルカメラを示す図である。 図1のデジタルカメラ100内部の電気系統の構成ブロック図である。 手ぶれ補正部140の構成を示す図である。 システム制御部110と信号処理部160が実行する撮影処理の手順を示すフローチャートである。 図4(a)のステップS406の画像処理の詳細を示すフローチャートである。 第2実施形態を示す図である。 第3実施形態を示す図である。 第3実施形態を示す図である。 第4実施形態を説明する図である。 第4実施形態を示す図である。 第5実施形態を説明する図である。 第5実施形態を説明する図である。 第5実施形態を説明する図である。
符号の説明
100 デジタルカメラ
101 操作子群
102 レリーズボタン
105 ファインダ
110 システム制御部
111 タイミング発生部
120 撮像部
130 前処理部
140 手ぶれ補正部
141 フレームメモリ
142 フレームメモリ部
143 相関演算部
144 アドレスシフト部
145 合成部
150 LCD
160 信号処理部
170 レンズ鏡胴
1701 レンズ光学系
1702 絞り調節機構
180 記録再生部
181 記録媒体

Claims (8)

  1. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    撮影画像を生成する撮影手段と、
    撮影操作を受けて、前記撮影手段に、連続する複数枚の撮影画像を生成させる撮影制御手段と、
    前記撮影手段での撮影により得られた、相対的に低感度の複数枚の画像を、画像上のぶれが補正されるように重ね合わせることにより1枚の重ね合わせ画像を生成する重ね合わせ手段と、
    前記撮影手段での撮影により得られた複数枚の画像のうちの1枚の画像であって相対的に高感度の画像を生成する高感度画像生成手段と、
    前記重ね合わせ手段で生成された重ね合わせ画像、および前記高感度画像生成手段で生成された高感度画像の双方を記録する画像記録手段とを備えたことを特徴とする撮影装置。
  2. 被写体が動体であるか静止物であるかを判定する被写体判定手段を備え、
    前記画像記録手段は、前記被写体判定手段で被写体が動体であると判定された場合に前記重ね合せ画像と前記高感度画像との双方を記録し、前記被写体判定手段で被写体が静止物であると判定された場合に前記重ね合わせ画像のみを記録するものであることを特徴とする請求項1記載の撮影装置。
  3. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    被写体に向けて閃光を発光するフラッシュと、
    撮影画像を生成する撮影手段と、
    撮影操作を受けて、前記撮影手段に、連続する複数枚の撮影画像を生成させるとともに、前記フラッシュに、該複数枚の撮影画像のうちのいずれか1枚の撮影画像に同期してフラッシュ光を発光させる撮影制御手段と、
    前記撮影手段での撮影により得られた複数枚の画像のうちのフラッシュ光の発光を伴うフラッシュ撮影画像を除く複数枚の画像を、画像上のぶれが補正されるように重ね合わせることにより重ね合わせ画像を生成する重ね合わせ手段と、
    前記重ね合わせ手段で生成された重ね合わせ画像、および前記フラッシュ撮影画像の双方を記録する画像記録手段とを備えたことを特徴とする撮影装置。
  4. 被写体が動体であるか静止物であるかを判定する被写体判定手段を備え、
    前記画像記録手段は、前記被写体判定手段で被写体が動体であると判定された場合に前記重ね合わせ画像と前記フラッシュ撮影画像との双方を記録し、前記被写体判定手段で被写体が静止物であると判定された場合に前記重ね合わせ画像のみを記録するものであることを特徴とする請求項3記載の撮影装置。
  5. 前記被写体判定手段は撮影前の動画像に基づいて動きベクトルを検出することにより、動体であるか静止物であるかを判定するものであること特徴とする請求項2又は4記載の撮影装置。
  6. 前記被写体判定手段は、被写体に顔が含まれているか否かを検出し、顔が含まれている場合に動体、顔が含まれていない場合に静止物と判定するものであることを特徴とする請求項2又は4記載の撮影装置。
  7. 前記撮影手段で得られた複数枚の撮影画像から動きベクトルを算出する動きベクトル算出手段を備え、
    前記重ね合わせ手段は、1回の撮影操作で得られた複数枚の画像を、前記動きベクトル算出手段で算出された動きベクトルに基づいて画像上のぶれが補正されるように重ね合わせるものであることを特徴とする請求項1から6のうちのいずれか1項記載の撮影装置。
  8. 当該撮影装置の角速度を検出する角速度センサを備え、
    前記重ね合わせ手段は、1回の撮影操作で得られた複数枚の撮影画像を、前記角速度センサで検出された角速度に基づいて画像上のぶれが補正されるように重ね合わせるものであることを特徴とする請求項1から6のうちのいずれか1項記載の撮影装置。
JP2007189615A 2007-07-20 2007-07-20 撮影装置 Expired - Fee Related JP4860567B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007189615A JP4860567B2 (ja) 2007-07-20 2007-07-20 撮影装置
US12/171,007 US8040380B2 (en) 2007-07-20 2008-07-10 Image-taking apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007189615A JP4860567B2 (ja) 2007-07-20 2007-07-20 撮影装置

Publications (2)

Publication Number Publication Date
JP2009027522A true JP2009027522A (ja) 2009-02-05
JP4860567B2 JP4860567B2 (ja) 2012-01-25

Family

ID=40264524

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007189615A Expired - Fee Related JP4860567B2 (ja) 2007-07-20 2007-07-20 撮影装置

Country Status (2)

Country Link
US (1) US8040380B2 (ja)
JP (1) JP4860567B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4136793B2 (ja) * 2003-05-29 2008-08-20 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP5115568B2 (ja) * 2009-11-11 2013-01-09 カシオ計算機株式会社 撮像装置、撮像方法、及び撮像プログラム
US8824853B2 (en) * 2010-07-07 2014-09-02 Olympus Medical Corp. Shooting apparatus with controlled video recording
WO2012109574A2 (en) 2011-02-11 2012-08-16 Nabsys, Inc. Assay methods using dna binding proteins
US20120281126A1 (en) * 2011-04-11 2012-11-08 Fossum Eric R Digital integration sensor

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH114403A (ja) * 1997-06-13 1999-01-06 Sanyo Electric Co Ltd ディジタルカメラ
JP2000307941A (ja) * 1999-04-26 2000-11-02 Minolta Co Ltd デジタルカメラ
JP2002112008A (ja) * 2000-09-29 2002-04-12 Minolta Co Ltd 画像処理システム及び画像処理プログラムが記録された記録媒体
JP2003069888A (ja) * 2001-08-23 2003-03-07 Nidec Copal Corp 多重撮影機能付デジタルカメラ
JP2007180904A (ja) * 2005-12-28 2007-07-12 Samsung Techwin Co Ltd 撮像装置および撮影方法
JP2007306243A (ja) * 2006-05-10 2007-11-22 Olympus Imaging Corp 撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3465264B2 (ja) 1991-04-05 2003-11-10 ソニー株式会社 ビデオデータの動き検出装置および方法
JPH11252445A (ja) 1998-02-26 1999-09-17 Sony Corp 撮像装置
JP2000050151A (ja) * 1998-07-28 2000-02-18 Olympus Optical Co Ltd 撮像装置
JP4473363B2 (ja) 1999-05-26 2010-06-02 富士フイルム株式会社 手振れ補正装置およびその補正方法
JP2006135501A (ja) 2004-11-04 2006-05-25 Konica Minolta Photo Imaging Inc 撮像装置
JP2006130159A (ja) 2004-11-08 2006-05-25 Toshiba Corp X線撮像装置
US7538794B2 (en) * 2005-01-31 2009-05-26 Hewlett-Packard Development Company, L.P. Method and apparatus for motion estimation in a digital imaging device
US20070098383A1 (en) * 2005-10-28 2007-05-03 Stavely Donald J Motion blur reduction and compensation
US7580620B2 (en) * 2006-05-08 2009-08-25 Mitsubishi Electric Research Laboratories, Inc. Method for deblurring images using optimized temporal coding patterns

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH114403A (ja) * 1997-06-13 1999-01-06 Sanyo Electric Co Ltd ディジタルカメラ
JP2000307941A (ja) * 1999-04-26 2000-11-02 Minolta Co Ltd デジタルカメラ
JP2002112008A (ja) * 2000-09-29 2002-04-12 Minolta Co Ltd 画像処理システム及び画像処理プログラムが記録された記録媒体
JP2003069888A (ja) * 2001-08-23 2003-03-07 Nidec Copal Corp 多重撮影機能付デジタルカメラ
JP2007180904A (ja) * 2005-12-28 2007-07-12 Samsung Techwin Co Ltd 撮像装置および撮影方法
JP2007306243A (ja) * 2006-05-10 2007-11-22 Olympus Imaging Corp 撮像装置

Also Published As

Publication number Publication date
US8040380B2 (en) 2011-10-18
JP4860567B2 (ja) 2012-01-25
US20090021616A1 (en) 2009-01-22

Similar Documents

Publication Publication Date Title
JP4823743B2 (ja) 撮像装置,及び撮像方法
JP4860568B2 (ja) 撮影装置
JP5129182B2 (ja) 撮像装置及び撮像制御方法
JPWO2007097287A1 (ja) 撮像装置及びレンズ鏡筒
JP2008236645A (ja) 撮影装置
JP2007027967A (ja) 撮影装置
JP2007214892A (ja) 撮像装置
JP2006173774A (ja) 撮像装置及び撮像装置の画像表示方法
JP4860567B2 (ja) 撮影装置
JP4865648B2 (ja) 撮影装置
JP4977569B2 (ja) 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置
JP2012015978A (ja) 撮像装置
JP2020012879A (ja) 撮像素子、焦点検出装置、撮像方法、および焦点検出方法
JP2005086488A (ja) 電子スチルカメラおよび画像処理プログラム
JP6231814B2 (ja) 露出決定装置、撮像装置、制御方法、及びプログラム
JP2008124846A (ja) 撮影装置および方法並びにプログラム
JP2006140703A (ja) 撮影装置及び撮影処理方法
JP2012095116A (ja) 撮像装置及びその制御方法
JP2009171327A (ja) 撮影装置
JP2009171324A (ja) 撮影装置
JP2007013586A (ja) 撮像装置
JP2012120019A (ja) カメラ
JP5160155B2 (ja) 撮影装置
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP2007049407A (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111011

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111102

R150 Certificate of patent or registration of utility model

Ref document number: 4860567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees