JP2009232003A - 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法 - Google Patents

撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法 Download PDF

Info

Publication number
JP2009232003A
JP2009232003A JP2008072853A JP2008072853A JP2009232003A JP 2009232003 A JP2009232003 A JP 2009232003A JP 2008072853 A JP2008072853 A JP 2008072853A JP 2008072853 A JP2008072853 A JP 2008072853A JP 2009232003 A JP2009232003 A JP 2009232003A
Authority
JP
Japan
Prior art keywords
signal
signal processing
unit
imaging
supplied
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008072853A
Other languages
English (en)
Other versions
JP5141324B2 (ja
Inventor
Yuji Kawamura
裕二 川村
Takeshi Nakajima
健 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008072853A priority Critical patent/JP5141324B2/ja
Priority to US12/391,604 priority patent/US8218022B2/en
Publication of JP2009232003A publication Critical patent/JP2009232003A/ja
Application granted granted Critical
Publication of JP5141324B2 publication Critical patent/JP5141324B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape

Abstract

【課題】動作モードに応じて各処理ブロックに対する供給電源を制御し、消費電力を低減させる。
【解決手段】信号処理部20内に設けられた信号処理部および解像度変換部を、撮影前の画角合わせを行うモニタリング動作や動画処理に用いられる信号処理部24Aおよび解像度変換部25Aと、静止画処理に用いられる信号処理部24Bおよび解像度変換部25Bとに分割して設ける。また、モニタリング処理や静止画処理といった各種処理内容に応じて各処理ブロックを階層的に分離して設け、各処理ブロックに対して供給される電源が分離可能な構成とし、動作モードに応じて必要な処理ブロックにのみ電源を供給する。消費電力に対して支配的であるモニタリングモードにおいて、従来より低いクロック周波数で動作させることにより、モニタリング動作に必要な処理ブロックへの供給電源を下げ、消費電力を低減させる。
【選択図】図1

Description

この発明は、各処理ブロックの電源が分離可能な撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法に関する。
近年、CCD(Charge Coupled Devices)などの固体撮像素子の小型化や低消費電力化、さらには、LSI(Large Scale Integration)の高集積化や高機能化、低消費電力化などの技術の進展に伴い、静止画像の撮影を主とするディジタルスチルカメラなどの電池で駆動可能な携帯型撮像装置が一般に利用されるようになっている。
このような電池で駆動される撮像装置では、電池による動作時間を確保し、撮影枚数を可能な限り増やすために、消費電力の低減が求められている。
一般に、撮像装置では、撮影される画像のフレームレートおよび解像度が高くなるにしたがって、単位時間あたりに処理する画像のデータ量が増大する。そのため、このような画像データを扱う回路では、高いクロック周波数が必要となる。
一方、回路の消費電力は、その回路を駆動するためのクロック周波数に比例して増大するため、画像データのフレームレートおよび解像度が高くなると、消費電力が増大してしまう。したがって、回路の消費電力を低減するためには、フレームレートおよび解像度を小さくする必要がある。
しかしながら、ディジタルスチルカメラなどの撮像装置では、その動作モードによって取り込む画像のフレームレートや解像度に対する要求が異なる。例えば、撮像装置に設けられたモニタなどの表示部に被写体を表示し、撮影前の画角合わせを行う動作モードであるモニタリングモードでは、表示部に可能な限りスムーズな動画像を表示できることが望ましいが、撮像装置に設けられた表示部は、小さな画面であることが多い。そのため、動画像のフレームレートは高いほど好ましいが、解像度はそれほど要求されない。
また、例えば、静止画像取り込みモードである撮影モードでは、連写の性能を最大とするために、処理レートや解像度を最大とすることが要求される。さらに、撮影した静止画像を再生する再生モードでは、撮像素子による画像信号の取り込みを行わず、静止画像を表示部に表示する際に、解像度を最大とすることが要求される。
このような撮像装置を構成する各種の処理ブロック、例えば、撮影ブロックや、画像処理ブロック、表示ブロックでは、その動作モードに応じて単位時間あたりに処理するデータ量が大幅に異なり、常に最大のクロック周波数で動作する必要がない。そのため、各処理ブロックが正常に動作すれば、可能な限り低いクロック周波数で動作させることによって、撮像装置の消費電力を低減させることができる。
そこで、従来の撮像装置では、完全に非動作状態となる処理ブロックに対するクロック信号の供給を停止したり、動作モードで必要とする処理レートに合わせてクロック周波数を切り換えたりすることにより、消費電力を低減させるようにしている。
従来の撮像装置100は、図14に示すように、光学系110を介して入射された光を撮像素子111で受光して撮像信号に変換する。そして、この撮像信号を信号処理部120で、信号処理部120に接続される外部メモリであるRAM(Random Access Memory)136を用いて所定に処理して記録媒体138に記録する。撮像装置100は、撮像信号を、動画データとして記録媒体138に記録するとともに、撮影指示に応じたタイミングで取り込まれた静止画データとしても、記録媒体138に記録することができるようにされている。
光学系110は、レンズ系、絞り機構、フォーカス機構、ズーム機構などを有し、後述するCPU(Central Processing Unit)131の命令に基づく駆動部113の制御やマニュアル操作などにより、絞りやフォーカス、ズームなどが制御される。被写体からの光が光学系110を介して撮像素子111に入射される。撮像素子111は、例えばCCD(Charge Coupled Device)からなり、入射された光を光電変換により電気信号に変換し、撮像信号としてライン順次で出力する。なお、撮像素子111は、CCDに限らず、例えばCMOS(Complementary Metal-Oxide Semiconductor)イメージャを用いてもよい。
フロントエンド(F/E)部112は、撮像素子111からアナログ信号として出力された撮像信号に対し、相関二重サンプリング処理を施すとともにゲインを制御し、RAWデータであるディジタル撮像信号に変換して出力する。
なお、後述するタイミングジェネレータ114により出力されるタイミング信号(クロックパルス)に基づき、撮像素子111が、例えばフレームタイミング毎に光電変換が行われ撮像信号が出力されるように制御されるとともに、フロントエンド部112が、フレームタイミングに同期して処理が行われるように制御される。
信号処理部120は、センサインターフェース(I/F)122、検波補正部123、信号処理部124、解像度変換部125、拡張画像処理部126、静止画コーデック(CODEC)部127、動画コーデック(CODEC)部128、表示制御部129、CPU131、外部インターフェース(I/F)134、メモリコントローラ135および記録再生制御部137の各処理ブロックを含み、これら各処理ブロックがそれぞれバス121を介して接続される。信号処理部120は、例えば1つのLSIで構成されている。
センサI/F122は、フロントエンド部112から出力されたRAWデータが入力され、RAWデータに対して、後段での補正処理や色変換処理に適したデータ配列への並び替え処理を行う。また、センサI/F122は、センサ駆動系のクロックをシステム系のクロックへの乗り換え処理を行う。すなわち、センサI/F122に供給されるデータは、撮像素子111の出力であって、撮像素子111から電荷を読み出す際の駆動クロックに同期している。一方、センサI/F122から出力されるデータは、信号処理部120内部のクロックに同期している必要がある。センサI/F122は、バッファメモリを有し、センサ駆動系のクロックに従いバッファメモリに入力データを書き込んでいき、システム系のクロックに従いバッファメモリからデータを読み出す。
検波補正部123は、供給されたRAWデータに対して欠陥補正やレンズ補正などの各種補正処理を施す。また、検波補正部123は、黒レベルやフォーカス、露出、ホワイトバランスなどの調整用との検波処理を行う。
信号処理部124は、RAWデータを後段の処理に適した形式の画像信号に変換する。例えば、信号処理部124は、RAWデータに対してデモザイク処理を施し、輝度信号Yと色差信号Cb/CrとからなるY/C信号に変換する。信号処理部124は、さらに、RAWデータが変換された画像信号に対してホワイトバランス処理、ガンマ補正処理、エッジ強調処理など所定の画像補正処理を施す。
なお、一般的に、動画像と静止画像とでは、求められる画質が異なると考えられている。そこで、信号処理部124は、例えばCPU131の制御により、動画データに対する処理を行う場合と、静止画データに対する処理を行う場合とで、これらの画質補正処理を行う際のパラメータを切り替えることができるようにされている。
解像度変換部125は、ベースバンドの動画データや静止画データの解像度を、後述する表示装置130に表示するのに適した解像度に変換したり、記録モードに応じた解像度に変換する処理を行う。ここで、ベースバンドのデータとは、例えばアナログ信号がディジタル信号に変換されたデータであり、圧縮符号化や変調などの各種処理が施されていない状態のデータを指す。この例では、撮像素子111から出力されたアナログ信号がフロントエンド部112によってディジタル信号に変換されたディジタル撮像信号のことをベースバンドのデータと適宜称する。
拡張画像処理部126は、例えば被写体認識処理や超高速連写など、拡張的な画像処理を行う。被写体認識処理は、例えば予め学習されたパターン辞書などを用いて、画像から顔らしき部分を抽出する。超高速連写は、通常の動画データのフレームレートの60fps(frame per second)に対し、例えば240fpsといった非常に高いフレームレートで撮像素子111における電荷読み出しおよび撮像信号の出力を行うものである。超高速連写機能では、通常の動画データに比べて高速のデータ転送能力が要求されるため、処理部を別途、設けることが好ましい。
静止画コーデック部127は、ベースバンドの静止画データに対する圧縮符号化処理と、圧縮符号化された静止画データに対する復号処理とを行う。圧縮符号化方式の種類は、特に問わないが、例えばJPEG(Joint Photographic Experts Group)方式が適用される。静止画コーデック部127による圧縮静止画データの復号処理は、圧縮符号化処理の逆の処理を以て行われる。
動画コーデック部128は、ベースバンドの動画データに対する圧縮符号化処理と、圧縮符号化された動画データに対する復号処理とを行う。圧縮符号化方式の種類は特に問わないが、例えばMPEG2(Moving Pictures Experts Group 2)方式を適用することができる。動画コーデック部128による圧縮動画データの復号処理は、圧縮符号化処理の逆の処理を以て行われる。
表示制御部129は、供給された画像データを表示装置130に表示可能な形式の信号に変換する。表示装置130は、例えばLCD(Liquid Crystal Display)からなり、撮像装置100におけるビューファインダとして用いられるとともに、記録媒体138から再生された画像のモニタとして用いられる。
CPU131に、ROM(Read Only Memory)132と入力デバイス133とが接続される。CPU131は、図示されないRAM(Random Access Memory)をワークメモリとして用い、ROM132に予め記憶されたプログラムに従いこの撮像装置100の全体の動作を制御する。
例えば、CPU131は、バス121を介して信号処理部120の各部とコマンドやデータのやりとりを行い、信号処理部120の各部を制御する。また、CPU131は、上述した入力デバイス133に対する操作に応じた制御信号や撮像信号などに基づき、光学系110のフォーカス、絞り、ズームなどを制御するための制御信号を生成し、駆動部113に供給する。駆動部113は、供給された制御信号に応じて光学系110の各部の制御を行う。また、CPU131は、タイミングジェネレータ114に対して、所定のクロックパルスを出力するようにコマンドを出す。
タイミングジェネレータ114は、CPU131から供給されたこのコマンドに応じて、例えばフレーム同期信号や水平同期信号、垂直同期信号をといった、撮像素子111から出力された撮像信号に対する処理に必要なタイミング信号を生成する。
入力デバイス133は、この撮像装置100を操作するために用いられる各種の操作子が設けられ、各操作子に対する操作に応じた制御信号を出力する。例えば、電源部140による電源供給のON/OFFを切り替える電源キー、撮影モードや記録モードといった撮像装置100における動作モードを切り換えるモード切り換えキー、カーソル移動のためのキーなどが設けられる。さらに、入力デバイス133には、この撮像装置100で静止画を撮影する際に用いられるシャッタボタンや、動画や静止画を撮影する際に光学系110のフォーカス、絞り、ズームなどを操作するための操作子なども設けられる。
外部I/F134は、この撮像装置100と外部の機器との間でのデータのやりとりを制御する。
メモリコントローラ135に対して、RAM136が接続される。RAM136は、例えばメモリバスクロックに同期して動作するSDRAM(Synchronous Dynamic Random-Access Memory)であって、データの入出力を所定のデータ長(バースト長)単位でバースト転送により行うことができる。RAM136は、バス121に接続される各部と共用して用いられる。メモリコントローラ135は、このRAM136に対するアクセス制御を行う。バス121に接続される各処理ブロックにおいて、RAM136に対する転送要求が発生した場合には、バス121からメモリコントローラ135に対して転送要求が渡され、メモリコントローラ135は、この転送要求に従いRAM136へのアクセスを発生させる。
記録再生制御部137は、記録媒体138に対するデータの記録制御や、記録媒体138に記録されたデータの再生制御を行う。記録媒体138としては、例えば着脱可能な不揮発性メモリを用いることができる。
このような撮像装置に関して、例えば下記の特許文献1には、動作モードに応じて各機能ブロックに対応する回路に供給するクロック信号および電源電圧を制御することにより、消費電力を低減させる技術が記載されている。
特開2001−238190号公報
ところで、最近では、プロセス技術が微細化し、LSI内部で用いられているトランジスタの閾値電圧が従来よりも低下してきている。このように、閾値電圧が低下すると、トランジスタのリーク電流が増加するとともに、LSIの消費電力に占めるリーク電流の割合が大きくなる。そのため、回路の規模に比例して、リーク電流を無視することができなくなってしまうという問題点があった。
また、従来の撮像装置100では、それぞれの動作モードに対する機能の拡張や処理性能を向上させるとともに回路の規模を削減するため、1つの処理ブロックで複数の機能を共有化できるように設計されていることが多い。しかしながら、この場合には、撮像装置の消費電力に支配的となるモニタリング動作を行っている間に、不要となる処理ブロックに対しても電力が供給されているため、機能拡張などの要因が冗長な存在となり、動作時の消費電力やリーク電流が増加してしまうという問題点があった。
したがって、この発明の目的は、消費電力を低減させることができる撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法を提供することにある。
上述した課題を解決するために、第1の発明は、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像部と、
撮像部から出力された撮像信号を書き込むメモリと、
撮像部から出力された撮像信号からY/C信号を生成する第1の信号処理部と、
メモリに書き込まれた撮像信号からY/C信号を生成する第2の信号処理部と、
第1および第2の信号処理部それぞれに供給される電源を制御する制御部と
を有する
ことを特徴とする撮像装置である。
また、第2の発明は、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像ステップと、
撮像ステップにより出力された撮像信号をメモリに書き込むステップと、
撮像ステップにより出力された撮像信号からY/C信号を第1の信号処理部で生成するステップと、
メモリに書き込まれた撮像信号からY/C信号を第2の信号処理部で生成するステップと、
第1および第2の信号処理部それぞれに供給される電源を制御するステップと
を有する
ことを特徴とする撮像装置の制御方法である。
また、第3の発明は、所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御部と、
入力された信号からY/C信号を生成する第1の信号処理部と、
外部のメモリに書き込まれた信号からY/C信号を生成する第2の信号処理部と、
第1および第2の信号処理部それぞれに供給される電源を制御する制御部と
を有する
ことを特徴とする信号処理装置である。
また、第4の発明は、所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御ステップと、
入力された信号からY/C信号を第1の信号処理部で生成するステップと、
外部のメモリに書き込まれた信号からY/C信号を第2の信号処理部で生成するステップと、
第1および第2の信号処理部それぞれに供給される電源を制御するステップと
を有する
ことを特徴とする信号処理方法である。
上述したように、第1および第2の発明では、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力し、撮像ステップにより出力された撮像信号をメモリに書き込み、撮像ステップにより出力された撮像信号からY/C信号を第1の信号処理部で生成し、メモリに書き込まれた撮像信号からY/C信号を第2の信号処理部で生成し、第1および第2の信号処理部それぞれに供給される電源を制御するようにしているため、第1および第2の信号処理部に供給される電源が分離され、各種処理に不要な部分に対する電源の供給を抑えることができる。
また、第3および第4の発明では、所定タイミング毎に入力される信号を外部のメモリに書き込むように制御し、入力された信号からY/C信号を第1の信号処理部で生成し、外部のメモリに書き込まれた信号からY/C信号を第2の信号処理部で生成し、第1および第2の信号処理部それぞれに供給される電源を制御するようにしているため、第1および第2の信号処理部に供給される電源が分離され、各種処理に不要な部分に対する電源の供給を抑えることができる。
この発明は、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力し、撮像ステップにより出力された撮像信号をメモリに書き込み、撮像ステップにより出力された撮像信号からY/C信号を第1の信号処理部で生成し、メモリに書き込まれた撮像信号からY/C信号を第2の信号処理部で生成し、第1および第2の信号処理部それぞれに供給する電源を分離することにより、各動作モードにおいて、不要である冗長な処理ブロックに対する電源を遮断し、消費電力を低減させることができるという効果がある。
また、この発明は、各動作モードにおいて、不要である冗長な処理ブロックに対する電源を遮断することにより、リーク電流を低減させることができるという効果がある。
以下に、この発明の最良の形態を説明するが、開示される発明と実施の一形態との対応関係を例示すると、次のようになる。
請求項1に記載の撮像装置は、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像部(例えば、図1の撮像素子11)と、上記撮像部から出力された撮像信号を書き込むメモリ(例えば、図1のRAM36)と、上記撮像部から出力された撮像信号からY/C信号を生成する第1の信号処理部(例えば、図1の信号処理部24A)と、上記メモリに書き込まれた撮像信号からY/C信号を生成する第2の信号処理部(例えば、図1の信号処理部24B)と、上記第1および第2の信号処理部それぞれに供給される電源を制御する制御部(例えば、図1のCPU31)とを有することを特徴とする。
請求項7に記載の撮像装置の制御方法は、光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像ステップと、上記撮像ステップにより出力された撮像信号をメモリに書き込むステップと、上記撮像ステップにより出力された撮像信号からY/C信号を第1の信号処理部で生成するステップと、上記メモリに書き込まれた撮像信号からY/C信号を第2の信号処理部で生成するステップと、上記第1および第2の信号処理部それぞれに供給される電源を制御するステップとを有することを特徴とする。
請求項8に記載の信号処理装置は、所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御部(例えば、図1のメモリコントローラ35)と、上記入力された信号からY/C信号を生成する第1の信号処理部(例えば、図1の信号処理部24A)と、上記外部のメモリに書き込まれた信号からY/C信号を生成する第2の信号処理部(例えば、図1の信号処理部24B)と、上記第1および第2の信号処理部それぞれに供給される電源を制御する制御部(例えば、図1のCPU31)とを有することを特徴とする。
請求項14に記載の信号処理方法は、所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御ステップと、上記入力された信号からY/C信号を第1の信号処理部で生成するステップと、上記外部のメモリに書き込まれた信号からY/C信号を第2の信号処理部で生成するステップと、上記第1および第2の信号処理部それぞれに供給される電源を制御するステップとを有することを特徴とする。
以下、この発明の実施の第1の形態を、図面を参照しながら説明する。図1は、この発明の実施の第1の形態に適用可能な撮像装置1の一例の構成を示す。この撮像装置1は、光学系10を介して入射された光を撮像素子11で受光して電気信号に変換して撮像信号とし、この撮像信号を信号処理部20で、信号処理部20に接続される外部メモリであるRAM(Random Access Memory)36を用いて所定に処理して記録媒体38に記録する。また、撮像装置1は、撮影前の画角合わせを行う動作であるモニタリングや動画処理、静止画処理といった処理内容に応じて、各処理ブロックをそれぞれ階層的に分離して設け、電源分離可能な構成とされている。
光学系10は、レンズ系、絞り機構、フォーカス機構、ズーム機構などを有し、後述するCPU(Central Processing Unit)31の命令に基づく駆動部13の制御やマニュアル操作などにより、絞りやフォーカス、ズームなどが制御されるようになっている。被写体からの光が光学系10を介して撮像素子11に入射される。撮像素子11は、例えばCCD(Charge Coupled Device)からなり、入射された光を光電変換により電気信号に変換し、撮像信号としてライン順次で出力する。なお、撮像素子11は、CCDに限らず、例えばCMOS(Complementary Metal-Oxide Semiconductor)イメージャを用いてもよい。
フロントエンド(F/E)部12は、例えばノイズ抑圧部、自動利得制御部およびA/D変換部を有し、撮像素子11からアナログ信号として出力された撮像信号に対し、ノイズ抑圧部で例えば相関二重サンプリング処理を施してノイズを抑圧し、自動利得制御部でゲインを制御する。そして、A/D変換部でディジタル撮像信号に変換して出力する。このディジタル撮像信号は、撮像素子11の各画素それぞれに直接的に対応するデータからなるRAWデータである。
なお、後述するタイミングジェネレータ14により出力されるタイミング信号(クロックパルス)に基づき、撮像素子11が、例えばフレームタイミング毎に光電変換が行われ撮像信号が出力されるように制御されるとともに、フロントエンド部12が、フレームタイミングに同期して処理が行われるように制御される。
信号処理部20は、センサインターフェース(I/F)22、検波補正部23、信号処理部24Aおよび24B、解像度変換部25Aおよび25B、拡張画像処理部26、静止画コーデック(CODEC)部27、動画コーデック(CODEC)部28、表示制御部29、CPU31、外部インターフェース(I/F)34、メモリコントローラ35および記録再生制御部37の各処理ブロックを含み、これら各処理ブロックがそれぞれバス21を介して接続される。信号処理部20は、例えば1つのLSI(Large Scale Integration)で構成され、センサI/F22、検波補正部23、信号処理部24Aおよび解像度変換部25Aは、例えば階層的に分離した構成とされている。
センサI/F22は、フロントエンド部12から出力されたRAWデータが入力され、RAWデータに対して、後段での補正処理や色変換処理に適したデータ配列への並び替え処理を行う。また、センサI/F22は、センサ駆動系のクロックをシステム系のクロックへの乗り換え処理を行う。すなわち、センサI/F22に供給されるデータは、撮像素子11の出力であって、撮像素子11から電荷を読み出す際の駆動クロックに同期している。一方、センサI/F22から出力されるデータは、信号処理部20内部のクロックに同期している必要がある。センサI/F22は、バッファメモリを有し、センサ駆動系のクロックに従いバッファメモリに入力データを書き込んでいき、システム系のクロックに従いバッファメモリからデータを読み出す。
検波補正部23は、供給されたRAWデータに対して欠陥補正やレンズ補正などの各種補正処理を施す。また、検波補正部23は、黒レベルやフォーカス、露出、ホワイトバランスなどの調整を行うための検波処理を行う。
信号処理部24Aは、RAWデータを後段の動画像に対する処理に適した形式の画像信号に変換する。例えば、信号処理部24Aは、RAWデータに対してデモザイク処理を施し、輝度信号Yと色差信号Cb/CrとからなるY/C信号に変換する。信号処理部24Aは、さらに、RAWデータが変換された画像信号に対してホワイトバランス処理、ガンマ補正処理、エッジ強調処理など所定の画像補正処理を施す。
解像度変換部25Aは、ベースバンドの動画データの解像度を、後述する表示装置30に表示するのに適した解像度に変換したり、記録モードに応じた解像度に変換する処理を行う。ここで、ベースバンドのデータとは、例えばアナログ信号がディジタル信号に変換されたデータであり、圧縮符号化や変調などの各種処理が施されていない状態のデータを指す。この例では、撮像素子11から出力されたアナログ信号がフロントエンド部12によってディジタル信号に変換されたディジタル撮像信号のことをベースバンドのデータと適宜称する。
信号処理部24Bは、RAWデータを後段の静止画像に対する処理に適した形式の画像信号に変換する。例えば、信号処理部24Bは、RAWデータに対してデモザイク処理を施し、輝度信号Yと色差信号Cb/CrとからなるY/C信号に変換する。信号処理部24Bは、さらに、RAWデータが変換された画像信号に対してホワイトバランス処理、ガンマ補正処理、エッジ強調処理など所定の画像補正処理を施す。
解像度変換部25Bは、静止画データの解像度を、後述する表示装置30に表示するのに適した解像度に変換したり、記録モードに応じた解像度に変換する処理を行う。
なお、信号処理部24Bおよび解像度変換部25Bにより、静止画データに対して行われる信号処理は、リアルタイム性が要求されないため、例えば、CPU31におけるソフトウェア処理や、汎用DSP(Digital Signal Processor)を用いて低速で信号処理することが可能である。
拡張画像処理部26は、例えば被写体認識処理や超高速連写など、拡張的な画像処理を行う。被写体認識処理は、例えば予め学習されたパターン辞書などを用いて、画像から顔らしき部分を抽出する。超高速連写は、通常の動画データのフレームレートの60fps(frame per second)に対し、例えば240fpsといった非常に高いフレームレートで撮像素子11における電荷読み出しおよび撮像信号の出力を行うものである。超高速連写機能では、通常の動画データに比べて高速のデータ転送能力が要求されるため、処理部を別途、設けることが好ましい。
静止画コーデック部27は、ベースバンドの静止画データに対する圧縮符号化処理と、圧縮符号化された静止画データに対する復号処理とを行う。圧縮符号化方式の種類は、特に問わないが、例えばJPEG(Joint Photographic Experts Group)方式が適用される。すなわち、静止画コーデック部27は、供給された静止画データのフレームを例えば8×8画素といった所定サイズの符号化ブロックに分割し、この符号化ブロック毎にDCTを行う。そして、DCTにより得られたDCT係数を所定の量子化スケールで量子化する。量子化されたデータは、ハフマン符号化などの可変長符号化によりさらに圧縮されて出力される。静止画コーデック部25による圧縮静止画データの復号処理は、圧縮符号化処理の逆の処理を以て行われる。
動画コーデック部28は、ベースバンドの動画データに対する圧縮符号化処理と、圧縮符号化された動画データに対する復号処理とを行う。圧縮符号化方式の種類は特に問わないが、例えばMPEG2(Moving Pictures Experts Group 2)方式や、ITU−T(International Telecommunication Union-Telecommunication Standarization Sector)勧告H.264あるいはISO(International Organization for Standardization)/IEC(International Electrotechnical Commission)国際標準14496−10(MPEG−4パート10)Advanced Video Coding(以下、H.264|AVCと略称する)方式などを適用することができる。以下では、動画コーデック部28は、圧縮符号化方式としてMPEG2方式を適用するものとする。
動画コーデック部28は、例えば、供給された動画データのフレームを例えば8×8画素といった所定サイズの符号化ブロックに分割し、この符号化ブロック毎にDCTを行う。そして、DCTにより得られたDCT係数を所定の量子化スケールで量子化する。また、動画コーデック部28は、供給された動画データについて、動き補償を用いた予測符号化によるフレーム間符号化も行う。フレーム内符号化およびフレーム間符号化を施されたデータは、ハフマン符号化などの可変長符号化によりさらに圧縮されて出力される。動画コーデック部28による圧縮動画データの復号処理は、圧縮符号化処理の逆の処理を以て行われる。
表示制御部29は、供給された画像データを表示装置30に表示可能な形式の信号に変換する。表示装置30は、例えばLCD(Liquid Crystal Display)からなり、撮像装置1におけるビューファインダとして用いられるとともに、記録媒体38から再生された画像のモニタとして用いられる。また、表示制御部29は、後述するCPU31から供給される命令に基づき、表示装置30に文字や図形を表示させるための表示信号を生成する。表示信号に応じた表示も、表示装置30に表示される。例えば、撮像装置1に対する各種設定を行うための設定画面や、撮像装置1の各種状態を示す表示、カーソル表示などが表示装置28に所定に表示される。
CPU31に、ROM(Read Only Memory)32と入力デバイス33とが接続される。CPU31は、図示されないRAM(Random Access Memory)をワークメモリとして用い、ROM32に予め記憶されたプログラムに従いこの撮像装置1の全体の動作を制御する。
例えば、CPU31は、バス21を介して信号処理部20の各部とコマンドやデータのやりとりを行い、信号処理部20の各部を制御する。また、CPU31は、上述した入力デバイス33に対する操作に応じた制御信号や撮像信号などに基づき、光学系10のフォーカス、絞り、ズームなどを制御するための制御信号を生成し、駆動部13に供給する。駆動部13は、供給された制御信号に応じて光学系10の各部の制御を行う。また、CPU31は、タイミングジェネレータ14に対して、所定のクロックパルスを出力するようにコマンドを出す。
タイミングジェネレータ14は、CPU31から供給されたこのコマンドに応じて、例えばフレーム同期信号や水平同期信号、垂直同期信号といった、撮像素子11から出力された撮像信号に対する処理に必要なタイミング信号を生成する。
入力デバイス33は、この撮像装置1を操作するために用いられる各種の操作子が設けられ、各操作子に対する操作に応じた制御信号を出力する。例えば、電源部40による電源供給のON/OFFを切り換える電源キー、撮影モードや記録モードといった撮像装置1における動作モードを切り換えるモード切り換えキー、カーソル移動のためのキーなどが設けられる。さらに、入力デバイス33には、この撮像装置1で静止画を撮影する際に用いられるシャッタボタンや、動画や静止画を撮影する際に光学系10のフォーカス、絞り、ズームなどを操作するための操作子なども設けられる。
外部I/F34は、この撮像装置1と外部の機器との間でのデータのやりとりを制御する。
メモリコントローラ35に対して、RAM36が接続される。RAM36は、例えばメモリバスクロックに同期して動作するSDRAM(Synchronous Dynamic Random-Access Memory)であって、データの入出力を所定のデータ長(バースト長)単位でバースト転送により行うことができる。RAM36は、バス21に接続される各部と共用して用いられる。メモリコントローラ35は、このRAM36に対するアクセス制御を行う。バス21に接続される各処理ブロックにおいて、RAM36に対する転送要求が発生した場合には、バス21からメモリコントローラ35に対して転送要求が渡され、メモリコントローラ35は、この転送要求に従いRAM36へのアクセスを発生させる。
記録再生制御部37は、記録媒体38に対するデータの記録制御や、記録媒体38に記録されたデータの再生制御を行う。記録媒体38としては、例えば着脱可能な不揮発性メモリを用いることができる。また、記録媒体38として記録可能なタイプの光ディスクを用いることもできる。さらに、着脱可能または撮像装置1に内蔵されるハードディスクを記録媒体38として用いることもできる。勿論、記録媒体38は、従来から動画データの記録に用いられる磁気テープを適用することも可能である。
このように、この発明の実施の一形態では、信号処理部20内に設けられた信号処理部および解像度変換部を、撮影前の画角合わせを行う動作であるモニタリング動作や動画処理の際に用いられる信号処理部24Aおよび解像度変換部25Aと、静止画処理の際に用いられる信号処理部24Bおよび解像度変換部25Bとに分割している。
また、この発明の実施の一形態では、撮影前の画角合わせを行う処理であるモニタリング処理や動画処理、静止画処理といった各種処理内容に応じて、各処理ブロックを階層的に分離して設け、それぞれの処理ブロックに対して供給される電源が分離可能な構成とされている。例えば、図2に示すように、電源部40から信号処理部20に設けられた各処理ブロックに対して供給される電源を電源V1,V2,V3およびV4の4系統に分離する。そして、CPU31は、各種処理内容に応じてそれぞれの電源V1,V2,V3およびV4のON/OFFを制御する。
電源V1は、撮像素子11を駆動させる必要がある動作モードの際に供給される電源である。すなわち、例えば静止画再生や動画再生など、撮像素子11を用いて撮影する必要がない動作モードの場合には、電源V1を供給しない。電源V1は、センサI/F22、検波補正部23、信号処理部24Aおよび解像度変換部25Aに供給されている。
電源V2は、静止画記録や静止画再生など、静止画処理を行う動作モードの際に供給される電源であり、信号処理部24B、解像度変換部25Bおよび静止画コーデック部27に供給されている。電源V3は、動画記録や動画再生など、動画処理を行う動作モードの際に供給される電源であり、動画コーデック部28に供給されている。電源V4は、動作モードに依らず、常に供給される電源であり、表示制御部29およびメモリコントローラ35に供給されている。また、この例では、図示しないが、CPU31やRAM36、表示装置30などにも供給されている。
なお、各処理ブロックに供給される電源V1,V2,V3およびV4の電圧は、例えば、電源部40から信号処理部20に対してそれぞれ別の系統で供給されるようにしてもよい。この場合、それぞれの系統における電源電圧は、各動作モードに応じて異なる電圧となるようにしてもよいし、同一の電圧となるようにしてもよい。また、例えば、電源部40から信号処理部20に対して1つの系統で供給された電源を、信号処理部20内で複数の系統に分離し、同一の電源を必要に応じて各処理ブロックに対して供給するようにしてもよい。
このような構成による撮像装置1における一例の動作について、概略的に説明する。ここでは、静止画記録の際の画角合わせを行う動作モードであるモニタリングモード時、静止画記録モード時および動画記録モード時の動作について説明する。
(1)モニタリングモード
先ず、この実施の一形態による撮像装置1におけるモニタリングモードの際の動作について説明する。モニタリングモード時には、図3に示すように、被写体からの光が光学系10を介して撮像素子11に入射され、光電変換により電気信号に変換され撮像信号としてフレームタイミング毎に出力される。撮像信号は、フロントエンド部12によりノイズ抑圧処理やゲイン制御などの所定の処理を施され、さらにA/D変換されてRAWデータとしてフレームタイミング毎に出力される。フロントエンド部12から出力されたRAWデータは、信号処理部20に入力され、センサI/F22に供給される。
RAWデータは、センサI/F22において、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出されてクロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、検波補正部23で各種補正処理が施されて信号処理部24Aに供給され、ベースバンドの動画データに変換され、解像度変換部25Aに供給される。解像度変換部25Aに供給された動画データは、供給された動画データの解像度が、例えば表示装置30に表示するのに適した解像度に変換される。そして、解像度変換部25Aで解像度が変換された動画データは、バス21を介してメモリコントローラ35に供給され、RAM36に書き込まれる。
RAM36に書き込まれた動画データは、所定にRAM36から読み出され、バス21を介して表示制御部29に供給され、モニタリング画像として表示装置30に表示される。
ここで、この発明の実施の一形態による撮像装置1におけるモニタリングモードの際の動作についての理解を容易とするため、従来の撮像装置100におけるモニタリングモードの際の動作について、概略的に説明する。従来の撮像装置100におけるモニタリングモードでは、図4に示すように、被写体からの光が光学系110を介して撮像素子111に入射され、光電変換により電気信号に変換され撮像信号としてフレームタイミング毎に出力される。撮像信号は、フロントエンド部112によりノイズ抑圧処理やゲイン制御などの所定の処理を施され、さらにA/D変換されてRAWデータとしてフレームタイミング毎に出力される。フロントエンド部112から出力されたRAWデータは、信号処理部120に入力され、センサI/F122に供給される。
RAWデータは、センサI/F122において、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出され、クロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、検波補正部123で各種補正処理が施されて信号処理部124に供給され、ベースバンドの動画データに変換され、解像度変換部125に供給される。解像度変換部125に供給された動画データは、供給された動画データの解像度が、例えば表示装置130に表示するのに適した解像度に変換される。そして、解像度変換部125で解像度が変換された動画データは、バス121を介してメモリコントローラ135に供給され、RAM136に書き込まれる。
RAM136に書き込まれた動画データは、所定にRAM136から読み出され、バス121を介して表示制御部129に供給され、モニタリング画像として表示装置130に表示される。
この実施の一形態による撮像装置1におけるモニタリングモードでは、扱う画像サイズが水平640画素、垂直480画素を画枠とするVGA(Video Graphics Array)程度であるため、低いクロック周波数、例えば30MHz〜40MHz程度で動作させることができる。
一方、従来の撮像装置100におけるモニタリングモードでは、信号処理部124および解像度変換部125が静止画データに対する処理にも対応可能なように共有化されているため、数10MB(Mega Byte)程度の静止画データを扱う静止画処理を行うために必要なクロック周波数、例えば100MHz〜150MHz程度で動作させる必要がある。
したがって、この実施の一形態による撮像装置1におけるモニタリングモードでは、従来の撮像装置100と比較して低いクロック周波数で動作させることができる。そのため、従来の撮像装置100と比較して、撮像装置1における回路規模を削減することができるとともに、回路の駆動電圧を下げて使用することができる。
また、各処理ブロックに対して供給される電源を分離し、モニタリングモードの際に使用しない処理ブロック、例えば静止画処理用の信号処理部24B、解像度変換部25B、静止画コーデック部27および動画コーデック部28に供給される電源V2およびV3を遮断することにより、不要な電力消費を抑制することができるとともに、LSI内部で発生するリーク電流を抑制することができる。
(2)静止画記録モード
次に、この実施の一形態による撮像装置1における静止画記録モードの際の動作について説明する。静止画記録は、通常、モニタリング中に行われる。先ず、例えばモニタリング中に、静止画の記録を指示するために、入力デバイス33として設けられたシャッタボタンが押下される。シャッタボタンの押下に応じた制御信号が入力デバイス33からCPU31に供給される。CPU31は、この制御信号に基づき、撮像装置1の各部を、静止画記録を行うように制御する。
例えば、シャッタボタンが押下された直後のフレームタイミングのRAWデータに基づく静止画データが取り込まれ記録される。すなわち、図5に示すように、シャッタボタンが押下されたタイミングに対応するRAWデータが、フロントエンド部12から出力され、信号処理部20に入力される。信号処理部20に入力されたRAWデータは、センサI/F22に供給され、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出されてクロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、バス21を介してメモリコントローラ35に供給され、RAM36に格納される。
RAM36に格納されたRAWデータは、所定のタイミングでRAM36から読み出され、信号処理部24Bに供給される。信号処理部24Bに供給されたRAWデータは、ベースバンドの静止画データに変換され、解像度変換部25Bで解像度変換を施され、バス21を介してメモリコントローラ35に供給され、RAM36に書き込まれる。
RAM36に書き込まれたRAWデータは、所定に読み出されてバス21を介して静止画コーデック部27に供給され、例えばJPEG方式に従って圧縮符号化される。圧縮静止画データは、バス21を介して記録再生制御部37に供給され、記録媒体38に記録される。
一方、従来の撮像装置100における静止画記録モードでは、例えばモニタリング中に、静止画の記録を指示するために、入力デバイス133として設けられたシャッタボタンが押下された際に、シャッタボタンの押下に応じた制御信号が入力デバイス133からCPU131に供給される。CPU131は、この制御信号に基づき、撮像装置100の各部を、静止画記録を行うように制御する。
例えば、シャッタボタンが押下された直後のフレームタイミングのRAWデータに基づく静止画データが取り込まれ記録される。すなわち、図6に示すように、シャッタボタンが押下されたタイミングに対応するRAWデータが、フロントエンド部112から出力され、信号処理部120に入力される。信号処理部120に入力されたRAWデータは、センサI/F122に供給され、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出されてクロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、バス121を介してメモリコントローラ135に供給され、RAM136に格納される。
RAM136に格納されたRAWデータは、所定のタイミングでRAM136から読み出され、検波補正部123に供給される。検波補正部123に供給されたRAWデータは、各種補正処理が施されて信号処理部124に供給される。信号処理部124に供給されたRAWデータは、ベースバンドの静止画データに変換され、解像度変換部125で解像度変換を施され、バス121を介してメモリコントローラ135に供給され、RAM136に書き込まれる。
RAM136に書き込まれたRAWデータは、所定に読み出されてバス121を介して静止画コーデック部127に供給され、例えばJPEG方式に従って圧縮符号化される。圧縮静止画データは、バス121を介して記録再生制御部137に供給され、記録媒体138に記録される。
この実施の一形態による撮像装置1では、モニタリングモードの際の画像処理で用いられる信号処理部24Aと、静止画記録モードの際の画像処理で用いられる信号処理部24Bとをそれぞれ設けるようにしているため、静止画記録モードにおける画像処理と、モニタリングモードにおける画像処理とを並列的に行うことができる。
例えば、モニタリング中にシャッタボタンが押下され、静止画撮影が行われる場合について考える。この発明の実施の一形態による撮像装置1では、図7Aに示すように、モニタリング中にシャッタボタンが押下されると、光学系10やフロントエンド部11を介して静止画データの読み出しが行われ、信号処理部24Bにより静止画処理が行われる。
このとき、読み出された静止画データに対する静止画処理は、信号処理部24Bで行われるため、静止画処理が終了するのを待つことなく、信号処理部24Aを用いて並列的にモニタリング動作が再開される。
すなわち、この実施の一形態による撮像装置1では、静止画処理中であっても、表示部30にモニタリング画像を表示して次の静止画撮影のための画角合わせを行うことができるため、RAM36の記憶領域に余裕があれば、次の静止画の撮影が可能となる。
一方、従来の撮像装置100では、図7Bに示すように、モニタリング中にシャッタボタンが押下されると、光学系110やフロントエンド部111を介して静止画データの読み出しが行われ、信号処理部124により静止画処理が行われる。そして、静止画データに対する静止画処理が終了した後に、モニタリング動作が再開される。
すなわち、従来の撮像装置100では、モニタリング動作および静止画記録の際に用いられる信号処理部124が共有化されているため、静止画処理が終了するまでは、表示部130にモニタリング画像を表示することができず、次の静止画の撮影を行うための画角合わせを行うことができない。
(3)動画記録モード
次に、この実施の一形態による撮像装置1における動画記録モードの際の動作について説明する。動画記録モード時には、図8に示すように、被写体からの光が光学系10を介して撮像素子11に入射され、光電変換により電気信号に変換され撮像信号としてフレームタイミング毎に出力される。撮像信号は、フロントエンド部12によりノイズ抑圧処理やゲイン制御などの所定の処理を施され、さらにA/D変換されてRAWデータとしてフレームタイミング毎に出力される。フロントエンド部12から出力されたRAWデータは、信号処理部20に入力され、センサI/F22に供給される。
RAWデータは、センサI/F22において、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出されてクロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、検波補正部23で各種補正処理が施されて信号処理部24Aに供給され、ベースバンドの動画データに変換され、解像度変換部25Aに供給される。解像度変換部25Aに供給された動画データは、供給された動画データの解像度が、例えば表示装置30に表示するのに適した解像度に変換される。そして、解像度変換部25Aで解像度が変換された動画データは、バス21を介してメモリコントローラ35に供給され、RAM36に書き込まれる。
RAM36に書き込まれた動画データは、所定にRAM36から読み出され、バス21を介して動画コーデック部28に供給される。動画コーデック部28は、例えばMPEG2方式により圧縮符号化を行う。圧縮動画データは、バス21を介してメモリコントローラ35に供給され、RAM36に格納される。
なお、解像度変換部25Aで解像度変換された動画データをバス21を介して拡張画像処理部26に供給し、画像処理を施すようにしてもよい。
記録再生制御部37は、RAM36に所定量以上の圧縮動画データが溜め込まれると、RAM36から、例えば記録媒体38の記録単位毎に圧縮動画データを読み出し、記録媒体38に記録する。
一方、従来の撮像装置100における動画記録モードでは、図9に示すように、被写体からの光が光学系110を介して撮像素子111に入射され、光電変換により電気信号に変換され撮像信号としてフレームタイミング毎に出力される。撮像信号は、フロントエンド部112によりノイズ抑圧処理やゲイン制御などの所定の処理を施され、さらにA/D変換されてRAWデータとしてフレームタイミング毎に出力される。フロントエンド部112から出力されたRAWデータは、信号処理部120に入力され、センサI/F122に供給される。
RAWデータは、センサI/F122において、センサ駆動系クロックでバッファメモリに書き込まれ、システム系クロックでバッファメモリから読み出され、クロックの乗せ換えが行われる。クロックの乗せ換えが行われたRAWデータは、検波補正部123で各種補正処理が施されて信号処理部124に供給され、ベースバンドの動画データに変換され、解像度変換部125に供給される。解像度変換部125に供給された動画データは、供給された動画データの解像度が、例えば表示装置130に表示するのに適した解像度に変換される。そして、解像度変換部125で解像度が変換された動画データは、バス121を介してメモリコントローラ135に供給され、RAM136に書き込まれる。
RAM136に書き込まれた動画データは、所定にRAM136から読み出され、バス121を介して動画コーデック部128に供給される。動画コーデック部128は、例えばMPEG2方式により圧縮符号化を行う。圧縮動画データは、バス121を介してメモリコントローラ135に供給され、RAM136に格納される。
記録再生制御部137は、RAM136に所定量以上の圧縮動画データが溜め込まれると、RAM136から、例えば記録媒体138の記録単位毎に圧縮動画データを読み出し、記録媒体138に記録する。
この発明の実施の一形態による撮像装置1では、動画記録モードの際の画像処理で用いられる信号処理部24Aと、静止画記録モードの際の画像処理で用いられる信号処理部24Bとをそれぞれ設けるようにしているため、動画記録モードにおける画像処理と、静止画記録モードにおける画像処理とを並列的に行うことができる。
例えば、動画記録中にシャッタボタンが押下され、静止画撮影が行われる場合について考える。この発明の実施の一形態による撮像装置1では、図10Aに示すように、動画記録中にシャッタボタンが押下されると、光学系10やフロントエンド部11を介して静止画データの読み出しが行われ、信号処理部24Bにより静止画処理が行われる。
このとき、読み出された静止画データに対する静止画処理は、信号処理部24Bで行われるため、静止画処理が終了するのを待つことなく、信号処理部24Aを用いて並列的に動画記録が再開される。すなわち、この実施の一形態による撮像装置1では、静止画処理中であっても、動画記録を並列的に行うことができる。
一方、従来の撮像装置100では、図10Bに示すように、動画記録中にシャッタボタンが押下されると、光学系110やフロントエンド部111を介して静止画データの読み出しが行われ、信号処理部124により静止画処理が行われる。そして、静止画データに対する静止画処理が終了した後に、動画記録が再開される。
すなわち、従来の撮像装置100では、動画記録および静止画記録の際に用いられる信号処理部124が共有化されているため、静止画処理が終了するまでは、動画記録を行うことができない。
次に、各動作モードにおける電源V1,V2,V3およびV4の制御シーケンスについて説明する。ここでは、例えば図11に示すように、撮像装置1の電源が投入され、モニタリング中に静止画撮影が行われ、その後、記録媒体38に予め記録された静止画および動画の再生が行われ、さらに、動画記録が行われる場合について考える。
時点aにおいて、入力デバイス33に設けられた電源キーが操作されて撮像装置1の電源がONとされると、撮像装置1は、モニタリングモードで起動し、CPU31の制御に基づき電源V1および電源V4が供給される。そして、システム全体およびレンズ、センサ系など、モニタリング処理に必要な処理ブロックの初期化処理が行われる。初期化処理の後、表示部30にモニタリング画像が表示され、撮影可能な状態となる。
時点bにおいて、入力デバイス33に設けられたシャッタボタンが操作されると、動作モードが静止画記録モードに切り替わり、撮像素子11の露光動作が開始されて静止画撮影が行われる。そして、シャッタボタンが押下された直後のフレームタイミングのRAWデータに基づく静止画データの読み出しが行われ、CPU31の制御に基づき電源V2が供給されて静止画処理が開始される。また、静止画処理の開始と同時に、動作モードがモニタリングモードに復帰し、再度撮影が可能な状態となる。静止画処理が終了し、その時点で次の静止画撮影が行われていない場合には、電源V2が遮断される。こうすることにより、電源V2による待機電流の消費を防止することができる。
時点cにおいて、モニタリング処理動作中に、入力デバイス33に設けられたモード切り換えキーが操作されて静止画再生モードが選択されると、CPU31の制御に基づき電源V1が遮断されるとともに、電源V2が供給される。そして、記録媒体38に予め記録された静止画データのうち所定の静止画データが選択されると、選択された静止画データに対する静止画再生処理が開始され、表示部30に表示される。
時点dにおいて、モード切り換えキーに対する操作により再生対象が静止画から動画へ切り替わった場合には、動作モードが動画再生モードに切り替わり、CPU31の制御に基づき電源V2が遮断されるとともに、電源V3が供給される。そして、記録媒体38に予め記録された動画データのうち所定の動画データが選択されると、選択された動画データに対する動画再生処理が開始され、表示部30に表示される。
時点eにおいて、モード切り替えキーが操作されて動画記録モードが選択されると、CPU31の制御に基づき電源V1が供給され、動画記録処理が開始される。時点fにおいて、電源キーが操作されて撮像装置1の電源がOFFとされると、現在処理中の動作を終了させるとともに、必要なプログラムメモリのバックアップ処理を行い、CPU31の制御に基づき各電源V1,V2,V3およびV4が遮断される。
図12は、各動作モードにおける電源V1,V2,V3およびV4の設定状態と、電源の駆動電圧およびクロック周波数との関係を示す。項目「V1」、「V2」、「V3」および「V4」は、各動作モードにおける電源V1,V2,V3およびV4のON/OFF状態を示す。モニタリングモードでは、電源V1およびV4を「ON」、電源V2およびV3を「OFF」に設定する。静止画記録モードにおける静止画データの読み出しの際には、電源V1およびV4を「ON」、電源V2およびV3を「OFF」に設定し、静止画記録モードにおける画像処理の際には、電源V1およびV2を「ON」、電源V3およびV4を「OFF」に設定する。
また、静止画再生モードでは、電源V2およびV4を「ON」、電源V1およびV3を「OFF」に設定する。動画記録モードでは、電源V1,V3およびV4を「ON」、電源V2を「OFF」に設定する。動画再生モードでは、電源V3およびV4を「ON」、電源V1およびV2を「OFF」に設定する。
項目「駆動電圧#1」は、電源V1,V2,V3およびV4の電圧がそれぞれ異なる電圧として制御可能とした場合の、それぞれの電源V1,V2,V3およびV4の電圧の程度を示す。電源V1は、撮像素子を介して得られる撮像信号に対して各種処理を行うブロック(センサI/F22、検波補正部23、信号処理部24Aおよび解像度変換部25A)に対して供給される電源であるので、駆動電圧として「低」または「中」程度の電圧が必要となる。電源V2は、静止画処理を行う処理ブロック(信号処理部24B、解像度変換部25Bおよび静止画コーデック部27)に対して供給される電源であるので、駆動電圧として「高」程度の電圧が必要となる。
電源V3は、動画処理を行う処理ブロック(動画コーデック部28)に対して供給される電源であるので、駆動電圧として「中」程度の電圧が必要となる。電源V4は、常に電力が供給されている必要がある処理ブロック(例えば、CPU31、表示制御部29およびメモリコントローラ35)に対して供給される電源であるので、駆動電圧として「中」程度の電圧が必要となる。
項目「クロック周波数」は、電源V1,V2,V3およびV4のそれぞれの電圧が全て同一の電圧となるように制御した場合の、各動作モードにおいて必要とされるクロック周波数の程度を示す。モニタリングモードでは、扱う画像サイズがVGA程度であるため、クロック周波数として「低」程度の周波数が必要となる。
静止画記録モード(静止画データの読み出し)では、数10MB程度の静止画データを読み出すため、クロック周波数として「中」程度の周波数が必要となる。また、静止画記録モード(画像処理)および静止画再生モードでは、数10MB程度の静止画データに対して画像処理を施す必要があるため、クロック周波数として「高」程度の周波数が必要となる。動画記録モードおよび動画再生モードでは、動画データを扱うため、クロック周波数として「中」程度の周波数が必要となる。
項目「駆動電圧#2」は、電源V1,V2,V3およびV4のそれぞれの電圧が全て同一の電圧となるように制御した場合の、各動作モードにおいて必要とされる電圧の程度を示す。モニタリングモードでは、扱う画像サイズがVGA(Video Graphics Array)程度であるため、駆動電圧として「低」程度の電圧が必要となる。
静止画記録モード(静止画データの読み出し)では、数10MB程度の静止画データを読み出すため、駆動電圧として「中」程度の電圧が必要となる。また、静止画記録モード(画像処理)および静止画再生モードでは、数10MB程度の静止画データに対して画像処理を施す必要があるため、駆動電圧として「高」程度の電圧が必要となる。動画記録モードおよび動画再生モードでは、動画データを扱うため、駆動電圧として「中」程度の電圧が必要となる。
なお、この場合における項目「駆動電圧#2」の電圧は、クロック周波数に応じて決定するようにしてもよい。例えば、各動作モードに応じて必要とされるクロック周波数が高い場合には、駆動電圧も高くする必要がある。一方、必要とされるクロック周波数が低い場合には、駆動電圧も低く設定する。
ところで、この発明の実施の一形態では、各動作モードに応じて各処理ブロックに対する電源の供給を制御することに加え、各処理ブロックに対するクロックの供給を制御することによっても、消費電力を低減させることができる。例えば、動作モードが静止画再生モードや動画再生モードなどの再生モードに切り替わり、再生するデータが選択された後に、選択された再生データに対する画像処理等を行うと、再生を開始するのに時間がかかってしまう。そこで、一般には、動作モードが再生モードに変更された後、どのデータが選択されるかわからないので、再生されるデータが選択される前に、メモリから予めデータを読み出し、データの再生に必要な処理を事前に行うことで、選択されたデータの再生開始時間を短縮するようにしている。
しかしながら、上述のように、現在の動作モードにおいて不要なブロックに対する電源を遮断し、動作モードが再生モードに変更された後に、再生モードで必要な処理ブロックに対する電源を供給するようにした場合には、データの再生に必要な処理を事前に行うことができない。
そこで、例えば、再生処理を行う際に必要な処理ブロックに対する電源を常に供給しておき、この処理ブロックに対するクロックの供給を制御することで、再生開始時間を短縮することができる。
例えば、図13に示すように、動画再生モードにおける電源V2と、静止画再生モードにおける電源V3とを「ON」に設定した状態とし、電源V2およびV3が供給されている処理ブロックへのクロックの供給を「OFF」に設定しておく。そして、例えば動作モードが動画再生モードまたは静止画再生モードに切り替わった時点で、対応するクロックの供給を「ON」に設定する。
こうすることで、電源V2およびV3は供給されているため、再生されるデータが選択される前に、メモリから予めデータを読み出し、データの再生に必要な処理を事前に行っておくことが可能となる。そして、クロックを「ON」に設定した段階で、再生データに対する処理を行うことができ、選択されたデータの再生開始時間を短縮することができる。
このように、この発明の実施の一形態では、各処理ブロックに対して供給される電源を分離し、それぞれ異なる系統で電源を供給することにより、動作モードに応じて必要な処理ブロックのみに対して電源を供給することができるため、各動作モードにおいて不要となる冗長な処理ブロックによる電力消費やリーク電流を低減させることができる。
また、消費電力に対して支配的であるモニタリングモードにおいて、従来よりも低いクロック周波数で動作させるようにしているため、モニタリング動作に必要な処理ブロックに対する供給電源を下げることができ、消費電力を低減させることができる。
以上、この発明の実施の一形態について説明したが、この発明は、上述したこの発明の実施の一形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
この発明の実施の一形態に適用可能な撮像装置の一例の構成を示すブロック図である。 撮像装置における各処理ブロックに対して供給される電源について説明するためのブロック図である。 この発明の実施の一形態に適用可能な撮像装置におけるモニタリングモード時の一例の動作について説明するための略線図である。 従来の撮像装置におけるモニタリングモード時の一例の動作について説明するための略線図である。 この発明の実施の一形態に適用可能な撮像装置における静止画記録モード時の一例の動作について説明するための略線図である。 従来の撮像装置における静止画記録モード時の一例の動作について説明するための略線図である。 静止画記録モードの際の動作について説明するための略線図である。 この発明の実施の一形態に適用可能な撮像装置における動画記録モード時の一例の動作について説明するための略線図である。 従来の撮像装置における動画記録モード時の一例の動作について説明するための略線図である。 動画記録モードの際の動作について説明するための略線図である。 電源の制御シーケンスを説明するための略線図である。 各動作モードにおける電源の設定状態と、電源の駆動電圧およびクロック周波数との関係を示す略線図である。 各動作モードにおける電源の設定状態と、電源の駆動電圧およびクロック周波数との関係を示す略線図である。 従来の撮像装置の一例の構成を示すブロック図である。
符号の説明
1 撮像装置
11 撮像素子
20 信号処理部
21 バス
22 センサインターフェース
23 検波補正部
24A、24B 信号処理部
25A、25B 解像度変換部
26 拡張信号処理部
27 静止画コーデック部
28 動画コーデック部
29 表示制御部
30 表示装置
31 CPU
32 ROM
33 入力デバイス
34 外部インターフェース
35 メモリコントローラ
36 RAM
37 記録再生制御部
38 記録媒体
39 クロックジェネレータ
40 電源部

Claims (14)

  1. 光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像部と、
    上記撮像部から出力された撮像信号を書き込むメモリと、
    上記撮像部から出力された撮像信号からY/C信号を生成する第1の信号処理部と、
    上記メモリに書き込まれた撮像信号からY/C信号を生成する第2の信号処理部と、
    上記第1および第2の信号処理部それぞれに供給される電源を制御する制御部と
    を有する
    ことを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    上記制御部は、
    上記第1および第2の信号処理部それぞれに供給されるクロックをさらに制御する
    ことを特徴とする撮像装置。
  3. 請求項1に記載の撮像装置において、
    上記制御部は、
    上記第1および第2の信号処理部それぞれに供給される電源の駆動電圧をさらに制御する
    ことを特徴とする撮像装置。
  4. 請求項1に記載の撮像装置において、
    上記メモリから読み出したデータを静止画として処理する静止画処理部を有し、
    上記制御部は、
    上記静止画処理部に供給される電源をさらに制御する
    ことを特徴とする撮像装置。
  5. 請求項1に記載の撮像装置において、
    上記メモリから読み出したデータを動画として連続的に処理する動画処理部を有し、
    上記制御部は、
    上記動画処理部に供給される電源をさらに制御する
    ことを特徴とする撮像装置。
  6. 請求項1に記載の撮像装置において、
    上記メモリから読み出したデータを外部の表示装置に表示させるように制御する表示制御部を有し、
    上記制御部は、
    上記表示制御部に供給される電源をさらに制御する
    ことを特徴とする撮像装置。
  7. 光を光電変換で電気信号に変換して撮像信号としてフレームタイミングで出力する撮像ステップと、
    上記撮像ステップにより出力された撮像信号をメモリに書き込むステップと、
    上記撮像ステップにより出力された撮像信号からY/C信号を第1の信号処理部で生成するステップと、
    上記メモリに書き込まれた撮像信号からY/C信号を第2の信号処理部で生成するステップと、
    上記第1および第2の信号処理部それぞれに供給される電源を制御するステップと
    を有する
    ことを特徴とする撮像装置の制御方法。
  8. 所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御部と、
    上記入力された信号からY/C信号を生成する第1の信号処理部と、
    上記外部のメモリに書き込まれた信号からY/C信号を生成する第2の信号処理部と、
    上記第1および第2の信号処理部それぞれに供給される電源を制御する制御部と
    を有する
    ことを特徴とする信号処理装置。
  9. 請求項8に記載の信号処理装置において、
    上記制御部は、
    上記第1および第2の信号処理部それぞれに供給されるクロックをさらに制御する
    ことを特徴とする信号処理装置。
  10. 請求項8に記載の信号処理装置において、
    上記制御部は、
    上記第1および第2の信号処理部それぞれに供給される電源の駆動電圧をさらに制御する
    ことを特徴とする信号処理装置。
  11. 請求項8に記載の信号処理装置において、
    上記外部のメモリから読み出したデータを静止画として処理する静止画処理部を有し、
    上記制御部は、
    上記静止画処理部に供給される電源をさらに制御する
    ことを特徴とする信号処理装置。
  12. 請求項8に記載の信号処理装置において、
    上記外部のメモリから読み出したデータを動画として連続的に処理する動画処理部を有し、
    上記制御部は、
    上記動画処理部に供給される電源をさらに制御する
    ことを特徴とする信号処理装置。
  13. 請求項8に記載の信号処理装置において、
    上記外部のメモリから読み出したデータを外部の表示装置に表示させるように制御する表示制御部を有し、
    上記制御部は、
    上記表示制御部に供給される電源をさらに制御する
    ことを特徴とする信号処理装置。
  14. 所定タイミング毎に入力される信号を外部のメモリに書き込むように制御するメモリ制御ステップと、
    上記入力された信号からY/C信号を第1の信号処理部で生成するステップと、
    上記外部のメモリに書き込まれた信号からY/C信号を第2の信号処理部で生成するステップと、
    上記第1および第2の信号処理部それぞれに供給される電源を制御するステップと
    を有する
    ことを特徴とする信号処理方法。
JP2008072853A 2008-03-21 2008-03-21 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法 Expired - Fee Related JP5141324B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008072853A JP5141324B2 (ja) 2008-03-21 2008-03-21 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法
US12/391,604 US8218022B2 (en) 2008-03-21 2009-02-24 Imaging apparatus and associated methodology of independently powering components to limit power consumption

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008072853A JP5141324B2 (ja) 2008-03-21 2008-03-21 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法

Publications (2)

Publication Number Publication Date
JP2009232003A true JP2009232003A (ja) 2009-10-08
JP5141324B2 JP5141324B2 (ja) 2013-02-13

Family

ID=41088486

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008072853A Expired - Fee Related JP5141324B2 (ja) 2008-03-21 2008-03-21 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法

Country Status (2)

Country Link
US (1) US8218022B2 (ja)
JP (1) JP5141324B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011228808A (ja) * 2010-04-15 2011-11-10 Nikon Corp 電子カメラ
JP2015126297A (ja) * 2013-12-25 2015-07-06 キヤノン株式会社 画像処理装置及びその制御方法、並びに撮像装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5056370B2 (ja) * 2007-11-22 2012-10-24 ソニー株式会社 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム、ならびに、データ処理装置、データ処理方法およびデータ処理プログラム
US20130002901A1 (en) * 2011-07-01 2013-01-03 Athreya Madhu S Fine grained power gating of camera image processing
US9171380B2 (en) * 2011-12-06 2015-10-27 Microsoft Technology Licensing, Llc Controlling power consumption in object tracking pipeline
KR102057504B1 (ko) * 2013-07-24 2020-01-22 삼성전자주식회사 어플리케이션 프로세서, 이를 구비하는 모바일 디바이스 및 전력 관리 방법
US11495102B2 (en) * 2014-08-04 2022-11-08 LiveView Technologies, LLC Devices, systems, and methods for remote video retrieval

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07312714A (ja) * 1994-05-19 1995-11-28 Fuji Photo Film Co Ltd 電子スチルカメラ
JPH11341322A (ja) * 1998-05-29 1999-12-10 Sanyo Electric Co Ltd デジタルカメラ
JP2000013721A (ja) * 1998-06-18 2000-01-14 Matsushita Electric Ind Co Ltd 電子スチルカメラ
JP2002051258A (ja) * 2000-08-04 2002-02-15 Matsushita Electric Ind Co Ltd 動画像信号処理装置
JP2002314866A (ja) * 2001-04-17 2002-10-25 Fuji Photo Film Co Ltd 画像処理装置および撮影モードでの電力制御方法
JP2003087639A (ja) * 2001-09-11 2003-03-20 Nec Corp 画像処理集積回路

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001238190A (ja) 2000-02-25 2001-08-31 Canon Inc 画像処理装置及びその制御処理方法
JP4142340B2 (ja) * 2002-05-22 2008-09-03 オリンパス株式会社 撮像装置
US7468758B2 (en) * 2005-10-07 2008-12-23 Mediatek Inc. Methods and apparatus for detecting movement in a composite television signal
JP4525561B2 (ja) * 2005-11-11 2010-08-18 ソニー株式会社 撮像装置、画像処理方法、並びにプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07312714A (ja) * 1994-05-19 1995-11-28 Fuji Photo Film Co Ltd 電子スチルカメラ
JPH11341322A (ja) * 1998-05-29 1999-12-10 Sanyo Electric Co Ltd デジタルカメラ
JP2000013721A (ja) * 1998-06-18 2000-01-14 Matsushita Electric Ind Co Ltd 電子スチルカメラ
JP2002051258A (ja) * 2000-08-04 2002-02-15 Matsushita Electric Ind Co Ltd 動画像信号処理装置
JP2002314866A (ja) * 2001-04-17 2002-10-25 Fuji Photo Film Co Ltd 画像処理装置および撮影モードでの電力制御方法
JP2003087639A (ja) * 2001-09-11 2003-03-20 Nec Corp 画像処理集積回路

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011228808A (ja) * 2010-04-15 2011-11-10 Nikon Corp 電子カメラ
US9473701B2 (en) 2010-04-15 2016-10-18 Nikon Corporation Electronic camera
JP2015126297A (ja) * 2013-12-25 2015-07-06 キヤノン株式会社 画像処理装置及びその制御方法、並びに撮像装置

Also Published As

Publication number Publication date
US20090237528A1 (en) 2009-09-24
US8218022B2 (en) 2012-07-10
JP5141324B2 (ja) 2013-02-13

Similar Documents

Publication Publication Date Title
JP5056370B2 (ja) 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム、ならびに、データ処理装置、データ処理方法およびデータ処理プログラム
US8743227B2 (en) Imaging apparatus and control method for reducing a load of writing image data on a recording medium
KR101264389B1 (ko) 촬상 장치 및 방법
JP5141324B2 (ja) 撮像装置および撮像装置の制御方法、ならびに、信号処理装置および信号処理方法
JP2007142793A (ja) 撮影装置、表示制御方法、プログラム
JP3822380B2 (ja) 画像信号処理装置
US9894270B2 (en) Image processing apparatus and image processing method for handling a raw image, of a moving image or a still image
US9723169B2 (en) Imaging apparatus and imaging apparatus control method
JP6354877B2 (ja) 撮像制御装置、及びその制御方法とプログラム
JP4785460B2 (ja) 撮像装置及び撮像方法
KR20100061311A (ko) 촬상장치 및 촬상장치의 제어 방법
JP2008301475A (ja) 撮像装置及びその制御方法
JP2009152672A (ja) 記録装置、再生装置、記録方法、再生方法及びプログラム
JP6103481B2 (ja) 撮像装置、及びその制御方法とプログラム
JP4027122B2 (ja) 撮像装置およびその制御方法
JP2009232004A (ja) 信号処理装置および信号処理方法、ならびに、撮像装置および撮像装置の制御方法
JP2003125331A (ja) 画像記録方法及び装置、並びに画像再生方法及び装置
JP2009130561A (ja) 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム
JP2000197003A (ja) 動画像記録装置
JP2005051810A (ja) デジタルカメラ
JP2008085688A (ja) 撮像装置、撮像方法及びプログラム
JP2005276316A (ja) データ記録方法及び装置
JP2004282444A (ja) 画像処理装置
JP2012147129A (ja) 撮像装置及びその制御方法
JP2007043741A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121105

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151130

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5141324

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees