JP4979969B2 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP4979969B2
JP4979969B2 JP2006101425A JP2006101425A JP4979969B2 JP 4979969 B2 JP4979969 B2 JP 4979969B2 JP 2006101425 A JP2006101425 A JP 2006101425A JP 2006101425 A JP2006101425 A JP 2006101425A JP 4979969 B2 JP4979969 B2 JP 4979969B2
Authority
JP
Japan
Prior art keywords
unit
image
image data
exposure
composite
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006101425A
Other languages
English (en)
Other versions
JP2007281548A (ja
Inventor
俊宏 濱村
俊幸 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2006101425A priority Critical patent/JP4979969B2/ja
Priority to KR1020060070842A priority patent/KR100781175B1/ko
Priority to US11/728,523 priority patent/US7852401B2/en
Priority to CN2007100916323A priority patent/CN101090459B/zh
Publication of JP2007281548A publication Critical patent/JP2007281548A/ja
Application granted granted Critical
Publication of JP4979969B2 publication Critical patent/JP4979969B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors

Description

本発明は,撮像装置および撮像方法に関する。
一度の撮影操作で複数の画像を連続して撮影(連写)することができる撮影モードを備える撮像装置がある。以下,複数の画像を連続して撮影することができる撮影モードのことを「連写モード」とも称する。例えば,画像1枚あたりのシャッタ速度を固定して,1秒間あたり複数枚の画像を撮影することができる撮像装置がある。
また,撮像装置によってはシャッタボタンの押下によって,1秒間に複数の画面を書き換えることで動画像を撮影することができる撮影モードを備えているものもある。以下,動画像を撮影することができる撮影モードのことを「動画モード」とも称する。1秒あたりの画面の更新回数がフレームレートであり,単位はfps(frame per second)で表される。例えば,1秒あたり画面を30回書き換えて表示する場合のフレームレートは,30fpsである。
しかし,従来の連写モードおよび動画モードを備える撮像装置には,以下に示すような問題があった。
図7は,従来の連写モードおよび動画モードを備える撮像装置における連続した複数の画像を撮影する際の概要を示す説明図である。連写モードにおける1秒間あたりの撮影枚数や,動画モードにおけるフレームレートを増やすには,図7の(a)の「高速SS(Sutter Speed)」で示したように露光時間を短くする必要がある。しかし,例えば1秒間あたり10枚の画像を撮影したい場合は,撮像素子が生成した画像データを取り込む時間を考慮しなければならないため,シャッタ速度を1/10秒未満にしなければならない。そのため,夜間や屋内等で被写体が暗い場合においては,撮影環境や撮影条件によっては露光量が不足してしまい,十分な画像データを得ることができない。
また,図7の(b)の「低速SS」で示したように,十分な露光量を得るためにシャッタ速度を長くすると,今度は1秒間あたりの撮影枚数やフレームレートが減少してしまう。
この問題を解決するには,微小時間での露光処理を連続して行い,その露光処理によって得られる画像を所定の間隔で合成することで,シャッタ速度と撮影枚数またはフレームレートを両立することができる。微小時間での露光処理を連続して行い,その露光処理によって得られる画像を合成する方法として,例えば特許文献1がある。
特開2003−319269号公報
しかし,特許文献1に記載の発明は,複数の露光時間を有する画像を合成によって生成することを目的としており,同一の露光時間を有する複数の画像を連続して撮影したり,動画像を撮影したりするものではない。このように,従来の撮像装置においては,シャッタ速度と撮影枚数またはフレームレートとを両立することが困難であった。
そこで,本発明は,このような問題に鑑みてなされたもので,その目的とするところは,被写体の十分な露光量を確保しながらも,1秒あたりの撮影枚数やフレームレートを維持することができる,新規かつ改良された,撮像装置および撮像方法を提供することにある。
上記課題を解決するために,本発明のある観点によれば,所定の単位露光時間での露光を繰り返し行う露光部と;露光部での露光の結果生成された単位画像データを一時的に順次記憶する画像データ記憶部と;予め設定された連続撮影間隔の撮影開始タイミングに同期して,画像データ記憶部から所定の露光時間に対応する単位画像データ群を読み出して合成し,合成画像を生成する画像合成部と;を含むことを特徴とする,撮像装置が提供される。
かかる構成によれば,露光部は所定の単位露光時間での露光を繰り返し行い,画像データ記憶部は露光部で生成された単位画像データを一時的に記憶し,画像合成部は予め設定された連続撮影間隔の撮影開始タイミングに同期して,画像データ記憶部から所定の露光時間に対応する単位画像データ群を読み出して合成し,合成画像を生成する。その結果,本発明のある観点に係る撮像装置によれば,被写体の十分な露光量を確保しながらも,1秒あたりの撮影枚数やフレームレートを維持することができる。
合成画像を表示し,所定の間隔ごとに表示を更新する表示部をさらに含み,上記画像合成部は,表示部での表示更新タイミングと合成画像の生成終了タイミングとが略同一となるように撮影開始タイミングを調整してもよい。かかる構成によれば,表示部は合成画像の表示を所定の間隔ごとに更新し,画像合成部は,表示部での表示更新タイミングと合成画像の生成終了タイミングとが略一致するように撮影開始タイミングを調整する。その結果,実際の被写体の動作との時間差が最小になるように,表示部で合成画像を表示することができる。
上記課題を解決するために,本発明の別の観点によれば,所定の単位露光時間ごとに繰り返して露光する露光ステップと;露光ステップでの露光の結果生成された単位画像データを一時的に順次記憶する画像データ記憶ステップと;予め設定された連続撮影間隔の撮影開始タイミングに同期して,画像データ記憶ステップで記憶した所定の露光時間に対応する単位画像データ群を読み出して合成し,合成画像を生成する画像合成ステップと;を含むことを特徴とする,撮像方法が提供される。
かかる方法によれば,露光ステップは所定の露光時間での露光を繰り返し行い,画像データ記憶ステップは露光ステップで生成された画像データを一時的に記憶し,画像合成ステップは予め設定された連続撮影間隔の撮影開始タイミングに同期して,画像データ記憶部から所定の露光時間に対応する単位画像データ群を読み出して合成し,合成画像を生成する。その結果,本発明のある観点に係る撮像方法によれば,被写体の十分な露光量を確保しながらも,1秒あたりの撮影枚数やフレームレートを維持することができる。
合成画像を表示し,所定の間隔ごとに表示を更新する表示ステップをさらに含み,上記画像合成ステップは,表示部での表示更新タイミングと合成画像の生成終了タイミングとが略同一となるように撮影開始タイミングを調整してもよい。かかる構成によれば,表示ステップは合成画像の表示を所定の間隔ごとに更新し,画像合成ステップは,表示部での表示更新タイミングと合成画像の生成終了タイミングとが略一致するように撮影開始タイミングを調整する。その結果,実際の被写体の動作との時間差が最小になるように,表示部で合成画像を表示することができる。
以上説明したように本発明によれば,被写体の十分な露光量を確保しながらも,1秒あたりの撮影枚数(フレームレート)を維持することができる,撮像装置および撮像方法を提供できるものである。
以下に添付図面を参照しながら,本発明の好適な実施の形態について詳細に説明する。なお,本明細書及び図面において,実質的に同一の機能構成を有する構成要素については,同一の符号を付することにより重複説明を省略する。
(第1の実施形態)
図1は本発明の第1の実施形態にかかる撮像装置について説明する説明図である。図1に示したように,本発明の第1の実施形態に係る撮像装置100は,ズームレンズ102と,絞り104と,フォーカスレンズ106と,駆動装置102a,104a,106aと,CCD(Charge Coupled Devices)素子108と,アンプ一体型のCDS(Correlated Double Sampling)回路110と,A/D変換器112と,画像入力コントローラ114と,画像信号処理部116と,圧縮処理部120と,LCD(Liquid Crystal Display)ドライバ123と,LCD124と,タイミングジェネレータ126と,CPU(Central Processing Unit)128と,操作部132と,シャッタボタン133と,メモリ134と,VRAM(Video Random Access Memory)136と,メディアコントローラ138と,記録メディア140と,モータドライバ142a,142b,142cとを含む。
以下,図1を用いて,本発明の第1の実施形態に係る撮像装置100の構成について説明する。
ズームレンズ102は,駆動装置102aによって光軸方向に前後して移動させることで焦点距離が連続的に変化するレンズであり,被写体の大きさを変化して撮影する。絞り104は,画像を撮影する際に,駆動装置104aによって,CCD素子108に入ってくる光量の調節を行う。フォーカスレンズ106は,駆動装置106aによって光軸方向に前後して移動させることで被写体のピントを調節するものである。
本実施形態においては,ズームレンズ102およびフォーカスレンズ106は1枚のみ示しているが,ズームレンズ102の枚数は2枚以上であってもよく,フォーカスレンズ106の枚数も2枚以上であってもよい。
CCD素子108は,露光部の一例であり,ズームレンズ102,絞り104およびフォーカスレンズ106から入射された光を電気信号に変換するための素子である。本実施形態においては電子シャッタによって入射光を制御して,電気信号を取り出す時間を調節しているが,メカシャッタを用いて入射光を制御して,電気信号を取り出す時間を調節してもよい。
本実施形態ではCCD素子108を用いているが,本発明は係る例に限定されず,CCD素子108の代わりにCMOS(Complementary Metal Oxide Semiconductor)素子を用いてもよく,またその他のイメージセンサを用いてもよい。CMOS素子は,CCD素子よりも高速に被写体の映像光を電気信号に変換できるので,被写体を撮影してから画像の合成処理を行うまでの時間を短縮することができる。
CDS回路110は,CCD素子108から出力された電気信号の雑音を除去する,サンプリング回路の一種であるCDS回路と,雑音を除去した後に電気信号を増幅するアンプとが一体となった回路である。本実施形態ではCDS回路とアンプとが一体となった回路を用いて撮像装置100を構成しているが,CDS回路とアンプとを別々の回路で構成してもよい。
A/D変換器112は,CCD素子108で生成された電気信号をデジタル信号に変換して,画像の生データを生成するものである。
画像入力コントローラ114は,A/D変換器で生成された画像の生データのメモリ134への入力を制御するものである。
画像信号処理部116は,CCD素子108から出力された電気信号や,画像合成部118で合成した画像に対して,光量のゲイン補正やホワイトバランスの調整を行うものである。
画像合成部118は,撮影した複数の画像の合成を行うものである。画像合成部118は,予め設定された連続撮影間隔の撮影開始タイミングに同期して,メモリ134から単位画像データ群を読み出して合成し,合成画像を生成する。予め設定された連続撮影間隔は,ユーザが操作部132を操作して予め設定した撮影モードに応じた間隔であってもよく,ユーザが操作部132を操作して予め設定した間隔であってもよい。画像合成部118の形態として,画像の合成を行う回路であってもよく,画像の合成を行うためのコンピュータプログラムであってもよい。
圧縮処理部120は,画像合成部118で合成した画像を,適切な形式の画像データに圧縮する圧縮処理を行う。画像の圧縮形式は可逆形式であっても非可逆形式であってもよい。適切な形式の例として,JPEG(Joint Photographic Experts Group)形式やJPEG2000形式に変換してもよい。
LCD124は,表示部の一例であり,撮影操作を行う前のライブビュー表示や,撮像装置100の各種設定画面や,撮影した画像の表示等を行う。画像データや撮像装置100の各種情報のLCD124への表示は,LCDドライバ122を介して行われ,LCD124は所定の間隔ごとに表示が更新される。
タイミングジェネレータ126は,CCD素子108にタイミング信号を入力する。タイミングジェネレータ126からのタイミング信号によりシャッタ速度が決定される。つまり,タイミングジェネレータ126からのタイミング信号によりCCD素子108の駆動が制御され,CCD素子108が駆動する時間内に被写体からの映像光を入射することで,画像データの基となる電気信号が生成される。
CPU128は,CCD素子108やCDS回路110などに対して信号系の命令を行ったり,操作部132の操作に対する操作系の命令を行ったりする。本実施形態においては,CPUを1つだけ含んでいるが,信号系の命令と操作系の命令とを別々のCPUで行うようにしてもよい。
操作部132は,撮像装置100の操作を行ったり,撮影時の各種の設定を行ったりするための部材が配置されている。操作部132に配置される部材には,電源ボタン,撮影モードや撮影ドライブモードの選択および効果パラメータの設定を行う十字キーおよび選択ボタン等が配置される。シャッタボタン133は,撮影操作を行うためのものであり,半押し状態(以下,シャッタボタン133の半押し状態のことを「S1状態」とも称する)で被写体を合焦し,全押し状態(以下,シャッタボタン133の全押し状態の事を「S2状態」とも称する)で被写体の撮像を行う。
本実施形態にかかる撮像装置100は,撮影モードとして「連写モード」および/または「動画像モード」を含むものとする。「連写モード」においては,撮影者(ユーザ)がシャッタボタン133をS2状態にし続けている間,複数枚の画像を連続して撮影するものであり,「動画像モード」においては,シャッタボタン133の1回の押下によって(S2状態にすることによって)動画像を撮影するものである。
メモリ134は,画像データ記憶部の一例であり,撮影した画像や画像合成部118で合成した画像を一時的に記憶するものである。メモリ134は,複数の画像を記憶できるだけの記憶容量を有している。メモリ134への画像の読み書きは画像入力コントローラ114によって制御される。
VRAM136は,LCD124に表示する内容を保持するものであり,LCD124の解像度や最大発色数はVRAM136の容量に依存する。
記録メディア140は,画像データ記録部の一例であり,撮影した画像や画像合成部118で合成した画像を記録するものである。記録メディア140への入出力は,メディアコントローラ138によって制御される。記録メディア140には,フラッシュメモリにデータを記録するカード型の記憶装置であるメモリカードを用いることができる。
モータドライバ142a,142b,142cはズームレンズ102,絞り104およびフォーカスレンズ106を動作させる駆動装置102a,104a,106aの制御を行う。モータドライバ142a,142b,142cを介してズームレンズ102,絞り104およびフォーカスレンズ106を動作させることで,被写体の大きさや光の量,ピントの調節を行う。
以上,本発明の第1の実施形態にかかる撮像装置について説明した。次に,図2を用いて本発明の第1の実施形態にかかるCPUの内部構成について説明する。
図2は,本発明の第1の実施形態にかかるCPU128の内部構成について説明する説明図である。図2に示したように,本発明の第1の実施形態にかかるCPU128は,適正AEレベル算出部152と,露光制御部154と,合成枚数決定部156と,合成間隔決定部158と,を含んで構成される。
適正AEレベル算出部152は,撮像装置100で自動露光を行い,EV(Exposure Value)値を取得する。取得したEV値に基づいて,適正な絞り値およびシャッタ速度の組が決まる。EV値は,絞り値がF1,シャッタ速度が1秒の時に適切な露出が得られる光量をEV=0とし,絞り値やシャッタ速度を変化させることでEV値が変化する。EV値は,Fを絞り値,Tをシャッタ速度として,EV=log(F/T)で求めることができる。従って,同じ絞り値ではシャッタ速度が高速になればなる程,EV値が上昇し,同じシャッタ速度では絞り値を大きくすればする程,EV値が上昇する。また,適正AEレベル算出部152では,撮影した画像のAF評価値およびAE(Auto Exposure;自動露光)評価値の算出を行う。
露光制御部154は,適正AEレベル算出部152で算出したシャッタ速度による露光時間に基づいて,被写体を撮影する際の単位露光時間を決定する。決定した単位露光時間に基づいて,被写体からの映像光のCCD素子108への入射時間を制御する。
合成枚数決定部156は,適正AEレベル算出部152で決定した適正な絞り値およびシャッタ速度の組,もしくは操作部132の操作によって撮影者が決定したシャッタ速度に基づいて,または,操作部132の操作によって撮影者が決定した1秒あたりの撮影枚数やフレームレートに基づいて,合成する画像の枚数を決定するものである。例えば,CCD素子108の1回あたりの単位露光時間が1/60秒で,適正AEレベル算出部152での自動露光の結果,被写体を撮影するために十分な露光量を得るためのシャッタ速度が1/20秒に決定された場合,合成枚数決定部156は合成する画像の枚数を3枚に決定する。
合成間隔決定部158は,適正AEレベル算出部152で決定した適正な絞り値およびシャッタ速度の組,もしくは操作部132の操作によって撮影者が決定したシャッタ速度に基づいて,または,操作部132の操作によって撮影者が決定した1秒あたりの撮影枚数やフレームレートに基づいて,画像合成部118における合成画像の生成を行う間隔を決定するものである。例えば,CCD素子108の1回あたりの単位露光時間が1/60秒で,1秒あたりの撮影枚数を20枚に決定した場合,連続撮影間隔は1/20秒となる。従って,1/20秒おき,すなわち,CCD素子108で3枚単位画像データを生成したタイミングで画像合成部118に対し1枚の合成画像が生成されるように指示する。本実施形態において,合成画像は単位画像データが生成される毎に,設定された所定の露光時間に達するまで単位画像データを順次合成することによって生成するが,合成画像の生成方法はこれに限られず,所定の枚数の単位画像データが生成されたタイミングで一度の合成処理によって生成してもよい。
以上,図2を用いて本発明の第1の実施形態にかかるCPU128の内部構成について説明した。次に,図3および図4を用いて,本発明の第1の実施形態にかかる撮像方法について説明する。
図3は,本発明の第1の実施形態にかかる撮像方法について説明する流れ図である。撮像装置100で連続した複数の画像を撮影する際には,まず操作部132を操作して,撮影モードを「連写モード」に設定する。撮影モードの「連写モード」への設定が完了すると,シャッタボタン133をS1状態にし(ステップS110),シャッタボタンのS1動作によって,被写体に自動的に焦点を合わせる合焦処理(オートフォーカス処理)を行う(ステップS112)。被写体に焦点を合わせると,撮影者がシャッタボタン133から指を離し,シャッタボタン133のS1状態によるS1動作が終了しているかどうか判断し(ステップS114),終了していればそのまま撮像動作を終了する。一方,S1状態が終了しない場合には,適正AEレベル算出部で自動露光処理を行い,シャッタ速度および絞り値を決定する(ステップS116)。
本実施形態においては,適正AEレベル算出部152での自動露光処理の結果,被写体を撮影する際の絞り値をF4.0,露光時間を1/20秒に決定したものとする。なお,本実施形態にかかる撮像方法においては,露光時間を自動露光の結果から決定しているが,本発明はこれに限られず,シャッタ速度および/または絞り値を撮影者が決定してもよい。
シャッタ速度および絞り値を決定すると,撮影者がさらにシャッタボタン133を押し込んで,シャッタボタン133がS2状態になっているかどうかをCPU128が判断する(ステップS118)。シャッタボタン133がS2状態になっていない場合には,上記ステップS114に戻って,S1動作が終了しているかどうかの判断を再度行う。一方,シャッタボタン133がS2状態になっている場合には,上記ステップS116で決定したシャッタ速度に基づいて,合成枚数決定部156で画像の合成枚数を決定し,合成間隔決定部158で合成画像の生成を行うタイミングを設定する(ステップS120)。
例えば,CCD素子108の1回あたりの単位露光時間が1/60秒で,適正AEレベル算出部152での自動露光の結果,被写体を撮影するために十分な露光量を得るためのシャッタ速度が1/20秒に決定された場合,合成枚数決定部156は合成する画像の枚数を3枚に決定する。そして,1秒あたりの撮影枚数を20枚に決定した場合,合成間隔決定部158は合成処理を1/20秒おき,すなわち,CCD素子108で3枚単位画像データを生成したタイミングで画像合成部118に対し1枚の合成画像が生成されるように指示する。
ステップS120において合成枚数および合成画像生成タイミングを設定すると,CCD素子108に被写体からの映像光を所定の時間入射して露光処理を行う(ステップS122)。本実施形態においては,1/60秒間CCD素子108に被写体からの映像光を入射して露光処理を行う。露光処理が完了すると,CCD素子108から単位画像データを画像入力コントローラ114によって取り込む(ステップS124)。取り込んだ画像データは,一時的にメモリ134に記憶する。
単位画像データの取り込みが完了すると,上記ステップS120で決定した合成枚数および合成タイミングに達したかどうか判断する(ステップS126)。ステップS120で決定した合成枚数および合成タイミングに達した場合には,メモリ134から単位画像データ群を取り出して,画像合成部118で各単位画像データにおける各画素同士を加算することによって,単位画像データの合成処理を行う(ステップS128)。
図4は,本発明の第1の実施形態にかかる撮像方法の概要を示す説明図である。図4の(a)の「微小露光」は,CCD素子108への露光処理を示し,本実施形態においては1回の露光処理につき1/60秒間露光処理を行っている。それぞれの露光処理は,シャッタボタン133のS2動作を開始した時点から順に1,2,3・・・の番号を付している。
本実施形態においては,合成間隔決定部158で合成画像の生成が1/20秒おきに行われるように設定する。つまり,CCD素子108で単位画像データが生成される度に画像合成部118で単位画像データの合成処理を順次行い,3枚単位画像データを生成したタイミングで1枚の合成画像の生成が完了する。図4の(b)の「高速SS」に合成処理のシーケンスを示す。1枚目の合成画像は露光処理1〜露光処理3で生成された単位画像データを順次合成することによって作成する。同様に,2枚目の合成画像は露光処理4〜露光処理6で生成された単位画像データを順次合成することによって作成し,3枚目の合成画像は露光処理7〜露光処理9で生成された単位画像データを順次合成することによって作成する。以下,4枚目,5枚目,6枚目・・・の合成画像も同様に,3枚の単位画像データを順次合成することによって画像を作成する。
このように,所定の単位露光時間によって生成された単位画像データを合成することで,連写モードでの連続撮影を可能にする。しかし,撮影条件によってはシャッタ速度を遅くしないと十分な露光を得ることができない場合がある。例えば,適正AEレベル算出部152での自動露光の結果,シャッタ速度が3/20秒に決定された場合を考える。従来の撮像装置および撮像方法では,シャッタ速度が3倍の長さになると,1秒あたりの撮影枚数は1/3以下に抑えられてしまう。そこで,合成処理を行うタイミングは変えずに,単位画像データの合成枚数を増やすことで,シャッタ速度を遅くした場合と等価の画像を得ることが可能になる。
図4の(c)の「低速SS」に,単位画像データの合成枚数を増やした場合の合成処理のシーケンスを示す。シャッタ速度が「高速SS」に比べて3倍になったため,合成する単位画像データの枚数も3倍の9枚に増やす必要がある。そのため,1枚目の合成画像は,9番目の微小露光によって生成された単位画像データが取り込まれた段階で生成される。その際の合成画像は,露光処理1〜露光処理9で生成された単位画像データを順次合成することによって作成する。
従来の撮像装置および撮影方法であれば,再度3/20秒が経過しないと次の単位画像データを得ることができない。しかし,本実施形態においては,1/60秒間の露光処理を繰り返し行っているため,3/20秒が経過する前に次の単位画像データを得ることができる。つまり,2枚目の合成画像は,露光処理4〜露光処理12で生成された単位画像データを順次合成することによって作成することができる。以下,3枚目,4枚目・・・の合成画像も同様に順次合成処理を行うことで,撮影条件によってシャッタ速度を遅くしなければならない場合においても,1秒あたりの撮影枚数を変えずに撮影することができる。
なお,上記においては単位画像データを順次合成することによって合成画像を生成していたが,単位画像データが所定の合成枚数に達した時点で一度の合成処理によって単位画像データを合成して,合成画像を生成するようにしてもよい。また,画像合成部118で単位画像データの合成処理を行う際には,手ぶれ等で生じた各単位画像データ間の位置のずれを検出し,そのずれを打ち消すように単位画像データを合成してもよい。
画像の合成処理が完了すると,撮影者がシャッタボタン133のS2動作を完了しているかどうかを判断し(ステップS130),完了していない場合には上記ステップS122に戻り,露光処理を続行する。一方,S2動作が完了している場合には露光処理を完了する。作成された単位画像データは,画像信号処理部116での階調処理や色調処理,圧縮処理部120での圧縮処理を経て,メディアコントローラ138によって記録メディア140に保存される。
なお,上記では撮影モードを「連写モード」に設定して,複数の画像を連続して撮影する場合の撮像方法について説明したが,撮影モードを「動画モード」に設定して,動画像を撮影する場合の撮像方法についても,「1秒あたりの撮影枚数」を「フレームレート」に置き換えることで同一の効果が得られる。
以上示したように,本発明の第1の実施形態によれば,細分化された微小な単位露光時間によって生成された単位画像データ群を合成することで,被写体を撮影する撮影条件によっては,十分な露光量を確保するためにシャッタ速度を低速にする必要がある場合においても,1秒あたりの撮影枚数(フレームレート)を維持することができる。
(第2の実施形態)
本発明の第1の実施形態では,露光処理によって得られた単位画像データ群を合成することで,シャッタ速度が低速になっても1秒あたりの撮影枚数(フレームレート)を維持することができる撮像装置および撮像方法について説明した。第2の実施形態では,撮影前に撮像装置に備えられた画面を通じて撮影者に被写体の画像を表示する,いわゆるライブビュー動作への,本発明にかかる撮像装置および撮影方法の適用について説明する。
まず,本発明の第2の実施形態にかかる撮像装置およびCPUの構成は,第1の実施形態にかかる撮像装置100およびCPU128と同一であるため,詳細な説明は割愛する。以後,第1の実施形態にかかる撮像装置100の構成を用いて本発明の第2の実施形態について説明する。次に,本発明の第2の実施形態にかかるライブビュー動作について説明する。
図5は,本発明の第2の実施形態にかかるライブビュー動作の流れについて説明する流れ図である。最初に,撮像装置100の操作部132に含まれる電源スイッチを操作して,電源を投入する(ステップS210)。電源が投入された撮像装置100は,初期リセット動作を行って(ステップS212),撮影者の操作を待機する。
初期リセット動作が行われると,撮像装置100はライブビュー動作を開始する。ライブビュー動作が開始されると,CCD108に対する露光処理が開始される(ステップS214)。CCD108に入射された被写体の映像光によって,CDS回路110およびA/D変換器112を経由して単位画像データが生成され,生成された単位画像データは,LCD124に表示するための表示用画像に変換してLCD124に表示される。LCD124に表示用画像を表示する際には,画像信号処理部116での階調処理や色調処理,圧縮処理部120での圧縮処理を経てもよい。LCD124に表示される表示用画像は,一定の周期で更新される。1秒あたりの表示用画像の更新回数がフレームレートであり,単位はfps(frame per second)で表される。例えば,1秒あたり表示用画像を30回更新して画面に表示する場合のフレームレートは,30fpsである。本実施形態におけるフレームレートは20fpsとする。すなわち,LCD124の画面の更新は1/20秒置きに行われる。
上記ステップS214で露光処理を開始すると,露光処理によって得られる単位画像データを画像入力コントローラ114によって取り込む(ステップS216)。取り込んだ単位画像データは,メモリ134に一時的に記憶する。取り込んだ単位画像データを用いて,適正AEレベル算出部152で自動露光処理を行う(ステップS218)。適正AEレベル算出部152での自動露光処理によって得られた適正な露光時間を用いて,合成枚数決定部156において単位画像データの合成枚数を決定する(ステップS220)。
例えば,本実施形態において,CCD素子108の1回あたりの単位露光時間が1/60秒で,適正AEレベル算出部152での自動露光処理によって得られた適正な所定の露光時間が7/60秒であった場合,合成枚数決定部156は,単位画像データの合成枚数を7枚に決定する。1/60秒間の露光処理によって得られた単位画像データを7枚合成することで,7/60秒間の露光処理によって得られる画像データと等価の画像データを得ることができる。
上記ステップS220において単位画像データの合成枚数が決定されると,上記ステップS220で決定した合成枚数および合成タイミングに達したかどうか判断する(ステップS222)。合成枚数および合成タイミングに達していた場合には,上記ステップS220で決定した合成枚数分の単位画像データを合成して得られる合成画像を生成する(ステップS224)。本実施形態においては,LCD124の表示更新タイミング以前で,LCD124の表示更新タイミングに画像合成部118での合成タイミング(合成画像の生成終了タイミング)とが略一致するように,画像合成部118において撮影開始タイミングを調整する。また,本実施形態において,合成画像は単位画像データが生成される毎に単位画像データを順次合成することによって生成するが,合成画像の生成方法はこれに限られず,所定の枚数の単位画像データが生成されたタイミングで一度の合成処理によって生成してもよい。
図6は,本発明の第2の実施形態におけるライブビュー動作の概要を示す説明図である。図6の(a)の「微小露光」は,CCD素子108への露光処理を示し,本実施形態においては1/60秒間露光処理を行っている。それぞれの露光処理は,ライブビュー動作を開始した時点から順に1,2,3・・・の番号を付している。
第1の実施形態では,図6の(b)に示したように,合成する最初の単位画像データは,撮像処理を開始した時点,すなわちシャッタボタン133のS2動作を開始した時点での単位画像データとなる。しかし,本実施形態においては,実際の画像とLCD124に表示する画像との間に時間差が生じないように,図6の(c)に示したように,合成する最後の単位画像データは,上記ステップS220で決定した合成枚数を満足し,LCD124の画面の更新タイミングに一番近いものを選択する。つまり,最初にLCD124に表示する画像は,3番目の微小露光によって生成された単位画像データからLCD124の画面の更新タイミングに近い9番目の微小露光によって生成された単位画像データまでの7枚の単位画像データを合成したものである。
単位画像データを順次合成して合成画像の作成が完了すると,画像信号処理部116で合成画像からLCD124で表示するための表示用画像の作成を行う(ステップS226)。表示用画像は,LCD124の画面サイズに合わせた画像である。なお,表示用画像を作成せずに,合成画像をそのままLCD124に表示してもよい。そして,LCD124に表示する画像を,画像信号処理部116で作成した表示用画像に更新する(ステップS228)。LCD124の画像の更新が完了すると,ステップS214に戻って露光処理を行う。
一方,上記ステップS222において合成枚数および合成タイミングに達していないと判断した場合には,単位画像データの合成処理を行わずに,上記ステップS214に戻って露光処理を行う。
以後同様に,1/20秒の経過毎に合成画像の生成およびLCD124に表示する表示用画像の更新処理を実行する。
以上説明したように,本発明の第2の実施形態によれば,短い単位露光時間によって生成された単位画像データ群を合成することで,撮影前に撮像装置に備えられた画面を通じて撮影者に被写体の画像を表示する,いわゆるライブビュー動作においても,被写体を認識するために必要な露光時間よりも短い間隔で画面の更新処理を行うことができる。
以上,添付図面を参照しながら本発明の好適な実施形態について説明したが,本発明は係る例に限定されないことは言うまでもない。当業者であれば,特許請求の範囲に記載された範疇内において,各種の変更例または修正例に想到し得ることは明らかであり,それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば,上記実施形態における撮像装置100の構成要素の一部は,撮像装置100の内部に記憶されたコンピュータプログラムであってもよく,各部の機能を実行するマイクロプロセッサ等のハードウェアであってもよい。
本発明は,撮像装置および撮像方法に適用可能である。
本発明の第1の実施形態に係る撮像装置の構成について説明する説明図である。 本発明の第1の実施形態に係るCPUの構成について説明する説明図である 本発明の第1の実施形態にかかる撮像方法について説明する流れ図である。 本発明の第1の実施形態にかかる撮像方法の概要を示す説明図である。 本発明の第2の実施形態にかかるライブビュー動作の流れについて説明する流れ図である。 本発明の第2の実施形態におけるライブビュー動作の概要を示す説明図である。 従来の連写モードおよび動画モードを備える撮像装置における連続した複数の画像を撮影する際の概要を示す説明図である。
符号の説明
100 撮像装置
102 ズームレンズ
102a,104a,106a 駆動装置
104 絞り
106 フォーカスレンズ
108 CCD素子
110 CDS回路
112 A/D変換器
114 画像入力コントローラ
116 画像信号処理部
118 画像合成部
120 圧縮処理部
122 LCDドライバ
124 LCD
126 タイミングジェネレータ
128 CPU
132 操作部
133 シャッタボタン
134 メモリ
136 VRAM
138 メディアコントローラ
140 記録メディア
142a,142b,142c モータドライバ
152 適正AEレベル算出部
154 露光制御部
156 合成枚数決定部
158 合成間隔決定部

Claims (6)

  1. 所定の単位露光時間ごとに繰り返して露光する露光部と;
    前記露光部での露光の結果生成された単位画像データを一時的に順次記憶する画像データ記憶部と;
    前記画像データの合成枚数を決定する合成枚数決定部と;
    予め設定された連続撮影間隔の撮影開始タイミングに同期して,前記画像データ記憶部から所定の露光時間に対応する,前記合成枚数決定部で決定した枚数分の前記単位画像データ群を読み出して合成し,合成画像を生成する画像合成部と;
    を含むことを特徴とする,撮像装置。
  2. 前記合成画像を表示し,所定の間隔ごとに表示を更新する表示部をさらに含み,
    前記画像合成部は,前記表示部での表示更新タイミングと前記合成画像の生成終了タイミングとが略一致するように前記撮影開始タイミングを調整することを特徴とする,請求項1に記載の撮像装置。
  3. 前記合成画像を生成するタイミングを設定する合成間隔部をさらに含むことを特徴とする、請求項1に記載の撮像装置。
  4. 所定の単位露光時間ごとに繰り返して露光する露光ステップと;
    前記露光ステップでの露光の結果生成された単位画像データを一時的に順次記憶する画像データ記憶ステップと;
    前記画像データの合成枚数を決定する合成枚数決定ステップと;
    予め設定された連続撮影間隔の撮影開始タイミングに同期して,前記画像データ記憶ステップで記憶した所定の露光時間に対応する,前記合成枚数決定ステップで決定した枚数分の前記単位画像データ群を読み出して合成し,合成画像を生成する画像合成ステップと;
    を含むことを特徴とする,撮像方法。
  5. 前記合成画像を表示し,所定の間隔ごとに表示を更新する表示ステップをさらに含み,
    前記画像合成ステップは,前記表示ステップでの表示更新タイミングと前記合成画像の生成終了タイミングとが略一致するように前記撮影開始タイミングを調整することを特徴とする,請求項に記載の撮像方法。
  6. 前記合成画像を生成するタイミングを設定する合成間隔ステップをさらに含むことを特徴とする、請求項に記載の撮像装置。
JP2006101425A 2006-04-03 2006-04-03 撮像装置および撮像方法 Expired - Fee Related JP4979969B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006101425A JP4979969B2 (ja) 2006-04-03 2006-04-03 撮像装置および撮像方法
KR1020060070842A KR100781175B1 (ko) 2006-04-03 2006-07-27 촬상 장치 및 촬상 방법
US11/728,523 US7852401B2 (en) 2006-04-03 2007-03-26 Photographing apparatus and photographing method for exposure control during continuous photographing mode
CN2007100916323A CN101090459B (zh) 2006-04-03 2007-04-03 拍摄设备和拍摄方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006101425A JP4979969B2 (ja) 2006-04-03 2006-04-03 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2007281548A JP2007281548A (ja) 2007-10-25
JP4979969B2 true JP4979969B2 (ja) 2012-07-18

Family

ID=38558314

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006101425A Expired - Fee Related JP4979969B2 (ja) 2006-04-03 2006-04-03 撮像装置および撮像方法

Country Status (4)

Country Link
US (1) US7852401B2 (ja)
JP (1) JP4979969B2 (ja)
KR (1) KR100781175B1 (ja)
CN (1) CN101090459B (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8237820B2 (en) * 2008-02-04 2012-08-07 Panasonic Corporation Image synthesis device for generating a composite image using a plurality of continuously shot images
JP4483963B2 (ja) * 2008-03-25 2010-06-16 ソニー株式会社 撮像装置、撮像方法
JP4483962B2 (ja) * 2008-03-25 2010-06-16 ソニー株式会社 撮像装置、撮像方法
JP4544332B2 (ja) * 2008-04-07 2010-09-15 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP5012656B2 (ja) * 2008-05-16 2012-08-29 ソニー株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP5092983B2 (ja) 2008-08-13 2012-12-05 カシオ計算機株式会社 動画再生装置、撮像装置及びプログラム
JP4992860B2 (ja) 2008-08-13 2012-08-08 カシオ計算機株式会社 撮像装置及びプログラム
US8587681B2 (en) * 2008-11-21 2013-11-19 Omnivision Technologies, Inc. Extended depth of field for image sensor
JP5185805B2 (ja) * 2008-12-26 2013-04-17 オリンパス株式会社 撮像装置
KR101589500B1 (ko) * 2009-06-25 2016-01-28 삼성전자주식회사 촬영 장치 및 촬영 방법
JP4973719B2 (ja) 2009-11-11 2012-07-11 カシオ計算機株式会社 撮像装置、撮像方法、及び撮像プログラム
JP5764740B2 (ja) * 2010-10-13 2015-08-19 パナソニックIpマネジメント株式会社 撮像装置
KR101613762B1 (ko) * 2012-06-14 2016-04-19 엘에스산전 주식회사 영상 제공 장치 및 방법
KR101889932B1 (ko) * 2012-07-25 2018-09-28 삼성전자주식회사 촬영 장치 및 이에 적용되는 촬영 방법
KR101890305B1 (ko) * 2012-08-27 2018-08-21 삼성전자주식회사 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 기록매체
CN103888677B (zh) * 2012-12-21 2017-05-24 联想(北京)有限公司 一种信息处理的方法及电子设备
CN103905708B (zh) * 2012-12-24 2017-06-27 联想(北京)有限公司 一种拍摄帧率调整方法及电子设备
KR20140089672A (ko) * 2013-01-04 2014-07-16 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 기록매체
KR101805629B1 (ko) * 2013-05-07 2017-12-07 삼성전자주식회사 영상의 상태에 따라 적응적인 영상 처리를 위한 방법 및 장치
JP6103481B2 (ja) * 2013-07-11 2017-03-29 カシオ計算機株式会社 撮像装置、及びその制御方法とプログラム
JP2015109502A (ja) * 2013-12-03 2015-06-11 ソニー株式会社 イメージセンサおよびイメージセンサの動作方法、撮像装置、電子機器、並びにプログラム
JP6070599B2 (ja) * 2014-02-18 2017-02-01 ソニー株式会社 情報処理装置、情報処理方法、情報処理システム、および撮像装置
CN104052930A (zh) * 2014-06-16 2014-09-17 苏州佳世达电通有限公司 具有拍照功能的电子装置
CN104270561A (zh) * 2014-08-01 2015-01-07 Tcl通讯(宁波)有限公司 移动终端自动调节Camera帧率的方法及移动终端
CN105791706B (zh) * 2014-12-24 2018-12-11 昆达电脑科技(昆山)有限公司 摄影装置及其方法
US9843737B2 (en) * 2015-01-22 2017-12-12 Panasonic Intellectual Property Management Co., Ltd. Imaging device
CN105163040B (zh) * 2015-09-28 2018-03-27 广东欧珀移动通信有限公司 一种图像处理方法及移动终端
JP2017112457A (ja) 2015-12-15 2017-06-22 オリンパス株式会社 撮像装置、撮像プログラム、撮像方法
CN105681665B (zh) * 2016-02-29 2018-12-04 广东欧珀移动通信有限公司 控制方法、控制装置及电子装置
KR102495754B1 (ko) * 2016-10-25 2023-02-02 한화테크윈 주식회사 광역 영상의 동적 범위를 압축하는 영상 처리 장치 및 방법
JP6354877B2 (ja) * 2017-02-17 2018-07-11 カシオ計算機株式会社 撮像制御装置、及びその制御方法とプログラム
WO2019171522A1 (ja) * 2018-03-08 2019-09-12 株式会社ソニー・インタラクティブエンタテインメント 電子機器、ヘッドマウントディスプレイ、注視点検出器、および画素データ読み出し方法
CN113906729A (zh) * 2019-06-13 2022-01-07 索尼集团公司 成像设备、成像控制方法和程序
CN111526298B (zh) * 2020-03-24 2021-10-19 深圳英飞拓智能技术有限公司 一种改善宽动态多场景适应性的方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100285907B1 (ko) * 1998-12-31 2001-04-16 윤종용 다중노출 기능을 갖는 디지털 스틸 카메라
JP2000224470A (ja) * 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP4544661B2 (ja) * 1999-04-23 2010-09-15 カシオ計算機株式会社 動画像生成装置及び動画像生成方法
JP2001320610A (ja) * 2000-05-02 2001-11-16 Nikon Corp 電子スチルカメラ
JP3510868B2 (ja) * 2001-06-19 2004-03-29 三洋電機株式会社 画像合成装置
JP2003101862A (ja) * 2001-09-21 2003-04-04 Ricoh Co Ltd 撮像装置および撮像方法
US20030103158A1 (en) * 2001-12-05 2003-06-05 Creo Il. Ltd. System and method for the formation of multiple exposure images
JP4103129B2 (ja) * 2002-04-19 2008-06-18 ソニー株式会社 固体撮像装置および撮像方法
JP2003319252A (ja) * 2002-04-26 2003-11-07 Minolta Co Ltd デジタルカメラ
JP2004032517A (ja) * 2002-06-27 2004-01-29 Minolta Co Ltd 撮像システムおよび画像処理装置
JP4214781B2 (ja) * 2003-01-17 2009-01-28 ソニー株式会社 撮像装置および方法、記録媒体、並びにプログラム
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置
JP4181923B2 (ja) * 2003-05-29 2008-11-19 キヤノン株式会社 撮像装置および撮像装置の制御方法
KR100810310B1 (ko) * 2003-08-29 2008-03-07 삼성전자주식회사 조도차가 다른 영상의 재구성 장치 및 방법
JP2005077886A (ja) * 2003-09-02 2005-03-24 Canon Inc 撮影装置
JP2005236662A (ja) * 2004-02-19 2005-09-02 Mitsubishi Electric Corp 撮像方法、撮像装置及び撮像システム
JP4898151B2 (ja) * 2004-06-18 2012-03-14 キヤノン株式会社 撮像装置及び撮像方法
JP2006025312A (ja) * 2004-07-09 2006-01-26 Konica Minolta Photo Imaging Inc 撮像装置、及び画像取得方法
JP2006033123A (ja) * 2004-07-13 2006-02-02 Konica Minolta Photo Imaging Inc 撮像装置
JP2006033242A (ja) * 2004-07-14 2006-02-02 Konica Minolta Photo Imaging Inc 画像再生方法および撮像装置
JP2006033578A (ja) * 2004-07-20 2006-02-02 Canon Inc 光学機器補正装置及びシステム
JP2006054698A (ja) * 2004-08-12 2006-02-23 Canon Inc 手振れ補正機能を有する撮像装置
JP4378272B2 (ja) * 2004-12-15 2009-12-02 キヤノン株式会社 撮影装置
KR101304342B1 (ko) * 2005-10-12 2013-09-11 실버크레스트 인베스트먼트 홀딩스 리미티드 이미지 처리방법 및 시스템
JP4509925B2 (ja) * 2005-12-27 2010-07-21 株式会社メガチップス 画像処理装置及びカメラシステム並びに画像処理方法及び動画像表示方法
JP4847768B2 (ja) * 2006-03-09 2011-12-28 ルネサスエレクトロニクス株式会社 撮像装置及びその露光制御方法
US7940311B2 (en) * 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images

Also Published As

Publication number Publication date
US20070229699A1 (en) 2007-10-04
JP2007281548A (ja) 2007-10-25
CN101090459A (zh) 2007-12-19
US7852401B2 (en) 2010-12-14
CN101090459B (zh) 2010-12-08
KR100781175B1 (ko) 2007-11-30
KR20070099394A (ko) 2007-10-09

Similar Documents

Publication Publication Date Title
JP4979969B2 (ja) 撮像装置および撮像方法
JP4567593B2 (ja) 撮像装置および撮影方法
TWI326553B (en) Imaging apparatus, data extraction method, and data extraction program
TWI459126B (zh) 可產生廣角影像之影像處理裝置、影像處理方法及記錄媒體
JP4695508B2 (ja) 撮像装置および撮影方法
JP2010268388A (ja) 撮像装置
JP5578442B2 (ja) 撮像装置、画像合成方法、及びプログラム
JP5909997B2 (ja) 撮像装置および撮像装置の制御方法
JP2008015097A (ja) 撮像装置及び撮像方法
JP4977569B2 (ja) 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置
JP2008079193A (ja) デジタルカメラ
JP2008098836A (ja) 撮像装置および撮像方法
JP4445662B2 (ja) 電子カメラ
JP2009077265A (ja) 撮像装置
JP5180042B2 (ja) 撮像装置および撮像方法
JP4131948B2 (ja) ビデオカメラ
JP4799247B2 (ja) 撮像装置および撮像方法
JP2007274220A (ja) 撮像装置および撮像方法
JP2007316471A (ja) 撮像装置及びそのプログラム
JP2019154051A (ja) 電子機器
JP2005252800A (ja) デジタルカメラ
JP2010081345A (ja) 撮像装置
JP5600935B2 (ja) 画像記録装置、画像記録方法及び画像記録プログラム
JP2005333491A (ja) 撮像装置
JP2017034344A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090330

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090811

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101005

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101207

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111216

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20111227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120327

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120418

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150427

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4979969

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees