JP4302814B2 - 固体撮像装置および撮影制御方法 - Google Patents

固体撮像装置および撮影制御方法 Download PDF

Info

Publication number
JP4302814B2
JP4302814B2 JP09712299A JP9712299A JP4302814B2 JP 4302814 B2 JP4302814 B2 JP 4302814B2 JP 09712299 A JP09712299 A JP 09712299A JP 9712299 A JP9712299 A JP 9712299A JP 4302814 B2 JP4302814 B2 JP 4302814B2
Authority
JP
Japan
Prior art keywords
signal
imaging
exposure
image
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP09712299A
Other languages
English (en)
Other versions
JP2000295535A (ja
JP2000295535A5 (ja
Inventor
岳志 三沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP09712299A priority Critical patent/JP4302814B2/ja
Publication of JP2000295535A publication Critical patent/JP2000295535A/ja
Publication of JP2000295535A5 publication Critical patent/JP2000295535A5/ja
Application granted granted Critical
Publication of JP4302814B2 publication Critical patent/JP4302814B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、固体撮像装置および撮影制御方法に関し、たとえば、被写界の撮像を行った際に全画素読出しを行うディジタルカメラ等に適用して、連続2コマの撮影に用いて好適なものである。
【0002】
【従来の技術】
従来からインターライン走査の撮像デバイスで静止画を撮影するためにメカニカルシャッタを用いた固体撮像装置が提案されてきている。インターライン走査には、たとえば2つのフィールド信号から1フレームの画像信号を生成する、いわゆる2:1 の走査等がある。この具体的な一提案に、特公平3-22756 号公報の固体撮像装置がある。これまであらかじめ1フレーム分の絵素が備えられていても時間的にずれた映像信号、すなわちフィールド信号が得られることにより、1フレームのスチル画像にフリッカ現象が生じて画質低下を招いていた。この装置において提案は、光学的シャッタの駆動制御により露光時間が制御され、各フィールド分の画像を同時に撮影し、フィールド順次に撮影した信号電荷の読出し制御を行うことであった。
【0003】
また、インターレース走査と異なる走査、すなわちプログレッシブ(順次)走査の撮像デバイスがある。この撮像デバイスには、全画素読出しが用いられている。この読出しを行う撮像デバイスでは、露光時間を決めるメカニカルシャッタが必要ない。この走査を行う撮像デバイスにはメカニカルシャッタを搭載した例はこれまでにない。この場合のメカニカルシャッタは、遮光を目的とするものを示しているわけではない。
【0004】
【発明が解決しようとする課題】
ところで、全画素読出しの撮像デバイスにおいて上下に現れる偽信号であるスミアの影響を最小限にすることが望まれてきている。これを実現するには高速読出しが要求される。高速読出しを行うには、この撮像デバイスの印加電圧が通常の読出しにおける印加電圧に比べて高くしなければならない。この結果、撮像デバイスの高速読出しは、電力の消費量を増大させることになる。したがって、この撮像デバイスの高速化は、電池の大容量化につながる。これは、電池が大型化することから、たとえば、この撮像デバイスを搭載したディジタルカメラの小型化を妨げてしまう。
【0005】
また、カメラでは、一般的に、たとえば2駒の撮影を連続させ、良好な撮影の行われた画像を選択して用いることで被写体に対する撮影の補正を行うことがある。ディジタルカメラでこの連続撮影を行う場合、高速連写に伴って信号の読出しを所定の時間内に終えなければならない。この時間を考慮すると、信号電荷の読み出される画素数が制限される。すなわち、画素数は、たとえば、640 ×480 画素以下に設定して信号電荷が読み出される。しかしながら、得られる画像の画質は、画素数が通常の読出しに比べて少ない画素数で画像を構成することから、品質のよくない画像として得られる。これに対して、連写しても高い画質の画像を得るには、画素数の多い撮像デバイスを用いなければならない。信号電荷の読出しに時間がかかるので、連写における撮影間隔が長くなってしまう。
【0006】
本発明はこのような従来技術の欠点を解消し、全画素読出しで要求速度に応じた連写をして高画質な画像が得るとともに、その際の消費電力を抑えることのできるコンパクトな固体撮像装置および撮影制御方法を提供することを目的とする。
【0007】
【課題を解決するための手段】
本発明は上述の課題を解決するために、供給される被写界からの入射光を光学系で集光し、この光学系で集光した光を撮像手段で光電変換するとともに、光電変換により得られた信号電荷の全画素読出しにより撮影を行う固体撮像装置において、この装置の撮影条件の設定および撮影のタイミングの選択を操作する操作手段と、この操作手段で設定した撮影条件およびタイミングに応じて撮像手段に供給される入射光の露光光量を、入射光の透過断面積を表す絞り値との組み合せる際に設定した所定の絞り値に対する撮像手段の取込み開始/停止の設定を電気的に入射光の取込み時間として設定する第1の開閉設定手段および入射光の取込み時間を機械的に設定する第2の開閉手段により調節する光量調節手段と、この光量調節手段を介して撮像手段に供給される入射光の取込み期間、およびこの入射光の光電変換により得られた信号電荷の読出しを行わせる駆動信号ならびに光量調節手段を絞り値に調節にする駆動信号を生成する駆動信号生成手段と、撮像手段からの信号電荷に信号処理を施す信号処理手段と、操作手段からの情報に応じて駆動信号生成手段および信号処理手段を制御する制御手段とを含み、第1の開閉設定手段は、連続して2回撮影する場合、露光光量の調節において最初の露光時間を設定し、第2の開閉設定手段は、2回目の撮影終了のタイミングを決定していることを特徴とする。
【0008】
ここで、第1の設定手段は、入射光の取込み開始/停止を電気的に行う電子シャッタであり、第2の開閉設定手段は、絞り値に応じた入射光の取込み時間より、少なくとも長い時間にわたって入射光の入射可能状態を継続させる機械的なシャッタ機構であることが好ましい。
【0009】
光量調節手段は、被写界からの光量と撮影条件の光量との間に生じる光量差を補って発光する発光手段を含むことが望ましい。第3の設定手段を光量調節手段に加味して調節することにより、特に被写体が暗いシーンや逆光シーンで被写体が黒っぽく潰れてしまう現象を避けることができるようになる。
【0010】
操作手段は、被写界の撮影タイミングを供給する第1の操作選択手段と、被写界の撮影条件の設定および撮影した画像の選択を行う第2の操作選択手段とを含むことが好ましい。
【0011】
信号処理手段は、供給される信号電荷にアナログ信号処理を施すアナログ処理手段と、このアナログ処理手段からの出力をディジタル信号に変換するディジタル変換手段と、このディジタル変換手段からのディジタル信号にディジタル信号処理を施すディジタル処理手段と、このディジタル処理手段から供給される2つの撮像信号をそれぞれ記憶して出力する時間調整手段と、この時間調整手段から供給される個々の撮像信号に対して周波数成分を分析するとともに、周波数分析した撮像信号のうち、より多く高周波成分の含まれている撮影信号を選択する信号選択手段とを含むことが望ましい。これにより、ディジタル化された撮像信号のうち、撮影時の手ぶれまたは被写体自体の移動によるぶれを含む画像を排除することができる。
【0012】
本発明の固体撮像装置は、操作手段により撮影条件の設定および撮影のタイミングの選択を行い、これらに応じて撮像手段に供給される露光光量を決めている。この露光光量は光量調節手段で行われる。光量調節手段では、設定した所定の絞り値とこの所定の絞り値に対するもう一つのパラメータである入射光の取込み時間が第1の開閉設定手段および入射光の取込み時間を機械的に設定する第2の開閉設定手段の動作により調節される。すなわち、たとえば連続して2回撮影する場合、最初の露光は第2の開閉設定手段を開状態にし、かつ第1の開閉設定手段の開閉期間を露光時間とし、第2の露光では第1の開閉設定手段のタイミングで開状態にして第2の開閉設定手段で閉状態(撮影終了)にする。これにより、2回目の撮影は撮影終了時に完全に遮光状態になるからメカニカルシャッタのない場合に比べて信号読出し時に電子シャッタが閉状態で漏れ込む光の影響(スミアの発生)をなくす。したがって、2回連続撮影する場合、全画素読出しで問題となるスミアを防止できるので、これまでその対策用に設定していた大きな撮影間隔を不要にする。この動作により、信号処理手段でユーザの所望する画像だけを無駄なく選ぶことも可能になる。
【0013】
また、本発明は、供給される被写界からの入射光を光学系で集光し、この入射光の光量を撮影条件に応じた露光光量の調節によって供給し、用意した撮像手段で該入射光を光電変換して電気信号である信号電荷に変換し、この信号電荷の読出しを全画素読出しで行う撮影制御方法において、撮影を連続して複数回行う場合、撮影条件の設定を行う条件設定工程と、この条件設定工程で設定した撮影条件に応じた入射光の透過断面積の大きさを表す絞り値として所定の値にする絞り駆動信号、および取込み開始/停止で表す入射光の取込み時間の設定により第1の露光光量をそれぞれ電気的な調整に寄与する第1の駆動信号および機械的な調整に寄与する第2の駆動信号を生成する第1の信号生成工程と、条件設定工程で設定した撮影条件に応じた次の所定の値にする絞り駆動信号、入射光の取込み時間の設定により第2の露光光量をそれぞれ電気的な調整に寄与する第3の駆動信号および機械的な調整に寄与する第4の駆動信号を生成する第2の信号生成工程とをあらかじめ設定しておき、被写界の撮影条件で、該被写界の撮影タイミングを示すタイミング信号を発生させるタイミング決定工程と、このタイミング決定工程で発生させた絞り駆動信号、第1および第2の駆動信号のうち、第1の駆動信号のタイミングに応じて第1の撮影を行う第1の撮影工程と、この第1の撮影終了後、撮影により得られた信号電荷を用意した撮像手段の垂直転送路に読み出す第1の信号移動工程と、この第1の信号移動工程の後、次の露出に備えて余剰な信号電荷を除去する信号除去工程と、この信号除去工程の後、第2の撮影工程として絞り駆動信号を供給し、供給される第3の駆動信号の撮影開始のタイミングで撮影を開始し、第4の駆動信号の撮影終了のタイミングで撮影を終了する第2の撮影を行うとともに、第1の信号移動工程で移動した信号電荷を撮像手段から読み出す第1の信号読出し工程と、第1の信号読出し工程の終了後、第2の撮影により得られた信号電荷を撮像手段の垂直転送路に読み出す第2の信号移動工程と、この第2の信号移動工程の後、第2の信号移動工程で移動した信号電荷を撮像手段から読み出す第2の信号読出し工程と、第1および第2の信号読出し工程により得られた信号電荷にそれぞれ信号処理を施す信号処理工程とを含み、信号処理工程では第1および第2の信号読出し工程により得られた画像の一方または両方を選択することを特徴とする。
【0014】
ここで、タイミング信号は、撮影操作を行った後の垂直同期信号をタイミングの基準として生成するとよい。
【0015】
第4の駆動信号は、第2の駆動信号により設定する入射光の取込みの開始と同時に入射光の入射可能状態にあり、撮影終了のタイミングまでこの入射可能状態を継続することが望ましい。
【0016】
信号処理工程は、供給される信号電荷にアナログ信号処理を施すアナログ工程と、このアナログ工程の後の出力信号をディジタル信号に変換する変換工程と、この変換工程により得られたディジタル信号にディジタル処理を施すディジタル工程と、このディジタル工程後、第1および/または第2の撮影工程の出力信号を一時的に保持して出力するタイミング調整工程と、このタイミング調整工程を経て供給される撮像信号に対して周波数分析を施すとともに、得られた分析結果に基づいて高周波成分のより多く含まれている撮像信号を選択する信号選択工程とを含むことが好ましい。これにより、2つの撮像信号のうち、好ましい画像となる撮像信号を自動的に選択することができる。
【0017】
信号選択工程は、選択した撮像信号に圧縮処理を施す際の周波数分析機能を用いるとよい。
【0018】
信号処理工程は、タイミング調整工程の後、用意した表示手段に出力される2つの撮像信号を表示させる表示工程と、この表示工程により表示された画像の一方または両方を選択する画像選択工程と、この画像選択工程で選択した画像の撮像信号に圧縮処理を施す圧縮工程と、この圧縮工程の後の圧縮された撮像信号を記録媒体に記録する記録工程が順次行われることが望ましい。
【0019】
また、信号処理工程は、タイミング調整工程の後、出力する2つの撮像信号を合成する画像合成工程を含むことが好ましい。これにより、異なる露出光量で2つの撮像した場合、合成した画像におけるダイナミックレンジを拡大させることができる。
【0020】
画像合成工程は、前記第1および第2の信号生成工程により同じ露出光量となる撮影が行われた場合、得られた2つの撮像信号の加算平均をとる加算平均工程を含むことが望ましい。この合成により得られる撮像信号のS/N を向上させることが可能になる。
【0021】
この画像合成工程で行われる加算平均工程は、得られた2つの撮像信号の差分をとる画像差分工程と、この画像差分工程により得られる差分値が所定の値より小さいかどうか判断する判断工程とを含み、判断工程の結果が所定の値より小さいときだけ加算平均を行い、差分値が所定の値以上に大きいとき、この2つの撮像信号を信号選択工程または画像選択工程に供給していずれか一つの撮像信号を選択するとよい。
【0022】
また、第1の信号生成工程と第2の信号生成工程は、第1の信号生成工程または第2の信号生成工程の一方を通常の適正な露出光量に設定し、他方の露出光量を通常の適正露出光量に対する差をもつ露出光量に設定することが望ましい。この場合、個々の撮像信号の露出が異なることから、たとえばブラケッティングを容易に行えるようになる。その具体的な例として、通常の適正露出光量に対する差は、通常の適正露出を示す第1の絞り値とこの第1の絞り値に相前後するそれぞれの隣接した絞り値との間隔の1/2 または1/3 を第2の絞り値とする際に、第2の絞り値がそれぞれ第1および第2の駆動信号または第3および第4の駆動信号により設定することが望ましい。
【0023】
第1および第2の信号読出し工程は、それぞれの信号読出し期間を複数の垂直同期期間にわたって読み出す設定にすることが好ましい。これにより、撮像と信号読出しの処理を分離して扱える。すなわち、撮像は高速で行いながら、信号電荷の読出しは、ゆっくりした速度で信号電荷の読出しを行うことから、信号電荷の読出し時の印加電圧を抑えても要求を満足させることができる。
【0024】
本発明の撮影制御方法は、撮影条件を設定し、この設定した撮影条件に応じた所定の値および入射光の取込み時間にする第1の露光光量と第2の露光光量に調整する駆動信号をそれぞれあらかじめ設定し、第1の撮影を第1の駆動信号のタイミングで行い、この露光終了後、得られた信号電荷を撮像手段の垂直転送路に読み出し、次の露出に備えて余剰な信号電荷を除去する。そして、第2の撮影を第3の駆動信号での撮影開始および第4の駆動信号での撮影終了により行うとともに、得られた信号電荷を撮像手段から読み出す。この処理により、特に第2の撮影では第4の駆動信号で機械的に撮影を終了させるタイミングを供給しながら、物理的な光の遮光も行う。これにより、第2の撮影により得られた信号電荷を撮像手段の垂直転送路に読み出す場合に光の漏れを防止して全画素読出しで生じ易いスミアの影響の抑えることができる。また、これにより、第1と第2の撮影間隔を極力小さくでき、時間的なずれの少ない画像が得られる。さらに、得られた信号電荷にはそれぞれ信号処理を施し、得られた画像の一方または両方を選択することにより有効な撮影だけを記録したり、一枚の撮影条件で得られる画像よりも高画質の画像データを得る。
【0025】
【発明の実施の形態】
次に添付図面を参照して本発明による固体撮像装置および撮影制御方法の実施例を詳細に説明する。
【0026】
本発明の固体撮像装置を適用したディジタルカメラ10について図1〜図15を参照しながら説明する。ディジタルカメラ10には、操作部12、光学レンズ14、システム制御部16、駆動信号生成部18、露光調整部20、CCD (Charge Coupled Device:電荷結合素子、以下、CCD という)22、信号処理部24、ディスプレイ26および記録媒体28が備えられている。
【0027】
操作部12には、シャッタスイッチ12a およびキースイッチ12b が備えられている。この操作部12は、ディジタルカメラ10の筐体表面に設けられている。シャッタスイッチ12a は、複数の段階にタイミングを供給するスイッチである。機能としてシャッタスイッチ12a には、スイッチの第1段(いわゆる、半押し位置)まで押圧して最初に被写界からの光学レンズ14を透過した入射光を所定の絞り値に応じた光束で入射させる機能と、さらに深く押圧してスイッチの第2段(いわゆる、全押し位置)まで押圧した際のタイミングで撮像を行わせる機能がある。また、キースイッチ12b は、ディジタルカメラ10における複数の処理モードの選択および図示しないが十字キーの選択機能を担うスイッチである。キースイッチ12b は、複数の処理モードのうち、所定の指示マーク位置にある処理モードを選択する。そして、ディジタルカメラ10では、選択した処理モードにおける各種の設定を行う際に、小型なディジタルカメラ10でも容易に選択や設定を行えるように液晶表示に選択項目、設定項目およびカーソル等を表示させ、たとえば、表示された項目の中から十字キーでカーソルの移動を目安に選択・設定が行われる。操作部12のシャッタスイッチ12a およびキースイッチ12b は、押圧操作・選択操作によるタイミング信号・撮影条件に関する情報がシステムバス10A を介してシステム制御部16に供給される。この他、操作部12には、電源スイッチ等も含まれている(図示せず)。
【0028】
光学レンズ14は、被写界からの入射光束を撮像面の位置に焦点を合わせる光学部品である。光学レンズ14には、駆動信号生成部18からの駆動信号に応じてレンズ14の位置制御、すなわちAF(Automatic Focus )制御が施される。
【0029】
システム制御部16には、たとえば、 CPU(Central Processing Unit:中央演算処理ユニット)が用いられる。システム制御部16は、後段で個々に説明するように駆動信号生成部18、信号処理部24、ディスプレイ26および記録媒体28をシステムバス10A を介して制御している。
【0030】
駆動信号生成部18には、図示しないがクロック生成部およびタイミング信号生成部が備えられている。駆動信号生成部18には、システムバス10A を介してシステム制御部16から得られた撮影条件に応じた制御信号が供給されている。駆動信号生成部18は、これらクロック生成部およびタイミング信号生成部からの各種の信号および供給される制御信号に基づいて光学レンズ14、露光調整部20およびCCD 22に駆動信号がそれぞれ生成される。駆動信号生成部18から露光調整部20への出力信号は、図1に示すように1本の信号線で表しているが、光学レンズ14および露光調整部20を駆動させる信号がそれぞれに供給されている。
【0031】
露光調整部20には、光量調節部20a および発光部20b が備えられている。光量調節部20a は、光学レンズ14とCCD 22の撮像面との間に配される。光量調整部20a には、実際のあらわな構成として、絞り調整機構200 およびメカニカルシャッタ機構202 が備えられている(図2を参照)。なお、図1では、便宜上、光量調節部20a にCCD 22を含めない記載にしているが、CCD 22には後述するように電子シャッタ機能がある。このため、図2に示す光量調整部20a には、CCD 22を含まれる電子シャッタ機能部204 (第1の開閉設定手段)も表している。ここで、露光光量とは、入射する光束とこの光束を照射させる時間をパラメータにして決まる量である。これらのパラメータに対応して、絞り調整機構200 は入射する光束、すなわち入射光の断面積を調節し、メカニカルシャッタ機構202 はメカニカルシャッタ(図示せず)の開いている時間で表される照射時間を調節する。この照射時間は、CCD 22の電子シャッタ機能部204 の開閉時間によっても調節することができる。絞り調節機構200 およびメカニカルシャッタ機構202 は、これまで用いられてきているものを使用する。絞りが固定の場合、シャッタと絞りを共用してもよい。また、発光部20b は、露光に際して被写界における被写体が上述したパラメータの関係から適正な露出光量が得られない低照度の場合に発光させるストロボである。発光部20b も駆動信号生成部18から供給される駆動信号に応じて発光する。駆動信号は、システム制御部16の制御に応じて生成されていることから、操作部12のシャッタスイッチ12a の撮像操作が行われたタイミングに同期して駆動信号生成部18から発光部20b に供給される。
【0032】
ところで、ディジタルカメラ10にメカニカルシャッタ機構202 を設ける理由を簡単に説明する。ディジタルカメラ10で高解像度の撮影を全画素読出しした場合、2コマ連続して行うことが難しい。たとえば、有効画素数が1280×960 画素の撮像素子を1/60秒の露光時間で連続撮影する場合、ブランキング期間を含めて約1500×1200の画素を1/60秒で送らなければならない。このため、1画素あたりの転送時間は(1/60)/(1500×1200) ≒9nsec となる。供給される信号をA/D 変換するとき、用いるクロック周波数は、約108MHzと現実的でない値になってしまう。全画素読出しを行うディジタルカメラ10でメカニカルシャッタ機構202 を設けることにより、電子シャッタ以外の露光のオン/オフが調整でき、信号の読出し時間を1VD以上かけて行うことが可能になる。詳細には後段で述べる。
【0033】
なお、これ以降メカニカルシャッタ機構202 や電子シャッタ機能部204 について機構・機能の名称と参照符号を省略して単にメカニカルシャッタと電子シャッタという呼び方も使用する。
【0034】
CCD 22は、電荷結合素子(いわゆる画素)を2次元の平面により撮像面が形成されるように配列されている。CCD 22には、図示しないがCCD 22の入射光側に色分解フィルタが撮像面に平行に配されている。色分解フィルタの色フィルタは、画素に対応して配されている。色分解フィルタには、たとえば、原色フィルタが用いられる。CCD 22には、画素に隣接して垂直方向に信号電荷を転送する垂直転送路とこの垂直転送路からの信号電荷を水平方向に転送する水平転送路が配されている。また、各画素と垂直転送路との間には、供給される駆動信号に応じて信号電荷を画素側から垂直転送路に転送させるトランスファーゲートがそれぞれに対応して設けられている。なお、このような撮像素子は、CCD に限定されるものでなく、たとえば、 MOS(Metal Oxide Semiconductor:金属酸化膜半導体)型の撮像素子を用いてもよい。ただし、CCD と異なる点としてこの場合のストロボ発光期間は垂直帰線期間中にする。CCD 22には、駆動信号生成部18から電気的なシャッタ操作である電子シャッタの開閉タイミングを報知する駆動信号が供給される。CCD 22は、電子シャッタ機能部204 があり、供給される駆動信号に応じて電子シャッタ機能を発揮する。これにより、CCD 22自体が電子シャッタとみなすこともできる。また、後述するように、CCD 22には、入射光を光電変換して得られた信号電荷をトランスファーゲート、垂直転送路および水平転送路から信号として読み出すため駆動信号が供給されている。CCD 22は、たとえば、アンプを介して得られた信号電荷を電流/電圧変換して得られた信号を信号処理部24に出力する。
【0035】
信号処理部24には、アナログ処理部24a 、A/D 変換部24b 、ディジタル処理部24c 、画像処理部24d および圧縮処理部24e が備えられている。アナログ処理部24a には、図示しないが相関二重サンプリング部(Correlation Double Sampling:以下、CDS という)が備えられている。また、アナログ処理部24a にはガンマ補正部を設けてもよい。CDS は、得られた信号に対して、特に熱雑音の低減において効果を発揮し、S/N 比を向上させることが知られている。
【0036】
A/D 変換部24b には、アナログ処理部24a から供給される信号をディジタル信号に変換する、A/D 変換器が備えられている。ディジタル処理部24c には、図示しないが高域信号処理部および補間処理部等が備えられている。高域信号処理部では、供給される信号から、たとえば、YH・YL 法により画素に対応させて垂直方向/水平方向の輝度信号が有する周波数帯域を通常よりも高域に延ばすとともに、垂直方向/水平方向の周波数範囲が重ならないように処理して信号の高品位化を図っている。補間処理部では、単板の色分解フィルタを用いた場合、その位置に配した色フィルタの他の2つの色を生成する補間処理を行っている。この補間処理を行う際には得られた高域化された輝度信号を用いて三原色RGB の補間データを算出している。これにより、CCD 22における有効画面領域の各画素に対して三原色RGB のプレーンデータが得られる。
【0037】
画像処理部24d には、ディジタル処理部24c からの三原色RGB のデータを格納するため、たとえば2つの撮像信号に対応した画像データを記憶するフレームメモリが用いられるとともに、供給されたデータに画像処理を施す。このフレームメモリは、不揮発性メモリを用いるとよい。画像処理を行う際に用いるように、画像処理部24d は、図示しないが演算部も有している。本実施例において画像処理部24d は、バッファメモリにように一旦記憶した画像データをフレーム単位で圧縮処理部24e およびディスプレイ26に出力する。
【0038】
圧縮処理部24e には、供給される画像データ(静止画)を符号化する国際規格であるJPEG(Joint Photographic Experts Group)に基づく圧縮処理の構成が備えられている。この圧縮処理部には、一般的に、ブロック変換部、 DCT(Discrete Cosine Transform:離散コサイン変換の略)部、量子化部、および可変長符号化部がある。ブロック変換部は、供給される画像データをたとえば、 8×8 画素を一つのブロックとして分割する。DCT 部は、直交関数で変換して信号電力を集中させるようにDCT 係数を算出する演算部である。量子化部は、得られたDCT 係数に対する量子化代表値を量子化ステップで割ってレベル番号を割り当てる。可変長符号化部には、レベル番号を低周波成分から高周波成分に向かう順序でジグザグスキャンを行う機能を有するとともに、レベル番号のゼロが連続した数(いわゆるゼロランの長さ)とそれに続くゼロでないレベル番号(ノンゼロ番号)を一組にしてこの一組に一つの符号を割り当てる機能がある。信号処理部24は、上述した各部の構成に対してシステム制御部16からシステムバス10A を介して供給される制御信号により制御されている。
【0039】
ディスプレイ26は、画像処理部24d から供給されるフレーム単位の画像データ(RGB )を表示する液晶モニタがある。ディスプレイ26には、一つの画像を所定の時間間隔で連続して表示させる機能を持たせてもよい。また、得られた2つの画像を同一フレームに表示させる機能を持たせてもよい。これらの機能は、モニタ制御部(図示せず)により行われる。ディスプレイ26には、撮影された画像の一方または両方のいずれを選択するか項目がカーソルとともに表示される。画像の一方を選択した場合、どちらの画像を選択するかの項目も表示される。このようなモニタ表示は、システムバス10A を介してシステム制御部16から供給されるデータと制御信号に応じて行われる。ディスプレイ26は、モニタ制御部で制御して画像表示とモニタ表示が行われる。
【0040】
記録媒体28には、EEROM (Electrically Erasable PROM)またはメモリカード等が用いられる。メモリカードは、たとえば数ミリ程度の厚手のカードに圧縮した画像データを記録する。
【0041】
次にディジタルカメラ10の撮影制御に伴う各動作についてフローチャートを参照しながら説明する。ディジタルカメラ10は電源スイッチをオンにして起動して初期化の動作を行う。また、この起動後、初期設定以外の操作に設定したい場合操作部12のキースイッチ12b を操作して所望のモードの選択により設定を行う。このモード選択する際にそのモードを表す項目等の情報は、ディスプレイ26に示している。
【0042】
ステップS10 では、複数の操作モードのうち、2コマ撮影モードを選択したかどうか判断する。2コマ撮影モードが選択された場合(YES )、ステップS12 に進む。また、2コマ撮影モードでないモードが選択された場合(NO)、ステップS14 に進む。ステップS14 では選択したモードでの撮影を行う。この処理後、待機状態にする。
【0043】
ステップS12 では、このモードの選択により、2コマの連写撮影を行うようにディジタルカメラ10をセットする。このセットは、単に連写の設定を行うだけでなく、最初の撮影時の露出と2コマ目の撮影時の露出を同じにする場合、これらの露出を異ならせる場合の設定をキースイッチ12b で行う。前者の場合、後述するように撮影画像の選択および/または画像合成の設定を行う。また、後者の場合、ダイナミックレンジの拡大を考慮した設定を行う。ここでは、特にたとえば、ブラケッティングを行う際の露出を適正露出に対して±1/2 あるいは±1/3 の段差を付ける設定も行う。前者の設定および後者の設定における制御およびその手順は、それぞれサブルーチンSUB1とサブルーチンSUB2で説明する。
【0044】
次にステップS16 では、被写界に対してディジタルカメラ10で測光する。この測光は、シャッタスイッチ12a を1段目まで押圧した、いわゆる半押し状態でCCD 22に光が照射できるように絞り調整機構200 およびメカニカルシャッタ機構202 およびCCD 22の電子シャッタを動作させてある絞り値(たとえば、開放)と露光時間での入射光をCCD 22で光電変換する。光電変換により得られたアナログ信号を電圧レベルに変換した後、システム制御部16にこの信号が供給される。この信号を基に露光光量がシステム制御部16で換算される。システム制御部16は、さらに算出された露光光量が適正かどうかの判断を行い、この判断結果に応じて制御信号を駆動信号生成部18に出力する。駆動信号生成部18は、制御信号に応じて駆動信号を露光調整部20の光量調整部20a や発光部20b に供給する。光量調整部20a では駆動信号に応じた絞り値と露光時間が設定される。この制御を受けた際の入射光を測光し、上述した手順を繰り返す。これが、AE(Automatic Exposure)測光である。また、ディスプレイ26へのプレビューは、光電変換した信号を信号処理部24に供給し、信号処理した信号を表示させて行っている。
【0045】
なお、発光部20b は、ストロボが発光した場合を想定して測光する。操作部12のシャッタスイッチ12a が押圧されるまで、露出の設定を完了した後、この設定のまま待機状態にしてステップS18 に進む。また、被写体を変えた場合、新たに測光を行うことは言うまでもない。
【0046】
ステップS18 では、所望のタイミングでシャッタスイッチ12a を2段目まで押圧して本撮像を行う(いわゆる、全押し状態)。このとき、本撮像のタイミングがシステムバス10A を介してシステム制御部16に供給される。撮影は、メカニカルシャッタ機構202 とCCD 22の電子シャッタを併用して行う。これらの関係は、図4のようにタイミングチャートで表すことができる。撮影においてメカニカルシャッタのオン/オフのタイミングは垂直同期信号VD、水平同期信号HDに同期している。本実施例でメカニカルシャッタは、垂直同期信号VD、水平同期信号HDの立上りタイミングで開状態(レベル”H ”)にし、所定の時間をこの開状態にした後、水平同期信号の立下りタイミングで閉状態にしている。電子シャッタは、たとえば高速なクロック信号に同期して開状態(レベル”H ”)のタイミングおよびその時間を設定する。電子シャッタおよびメカニカルシャッタを用いてCCD 22に露光するとき、入射光を遮光しないように両シャッタが開状態にあるときだけ露光が行われる。したがって、図4に示したタイミングでは、斜線領域が露光期間になる。
【0047】
次にステップS20 では、選択した設定に応じた手順に処理を進める。すなわち、選択した設定が露出を同じに設定して撮影する場合、サブルーチンSUB1に進む。また、選択した設定が露出を異ならせて撮影する設定の場合、サブルーチンSUB2に進む。サブルーチンSUB1, SUB2ではそれぞれの設定に応じた撮像を行って得られた信号を読み出して信号処理部24に出力する。基本的に、この信号の読出しは、図4に示すように、たとえば、露光終了後の垂直同期信号VDの立下りに同期して読出しを開始する。すなわち、信号読出し時には図4が示すようにシャッタにより遮光されているので、スミアの大きい全画素読出しの撮像素子でもその影響ない信号を1VDの期間で読み出すことができる。また、メカニカルシャッタが閉状態にあることからCCD 22は遮光されているので、1VD以上の時間をかけて読み出してもよい。この一例として最下段に2VD での信号読出しを示す。これは、信号読出しにおける駆動信号の周波数および後段で処理するA/D 変換の周波数を低下させることを意味する。これは、読出し等の処理に用いる印加電圧を高圧にしなくても済ませられることから、ディジタルカメラ10の消費電力を下げることにつながる。この出力の後、サブルーチンSUB3に進む。また、ステップS14 では、2コマ撮影モードと異なる他の撮影モードでの設定を選択してステップS22 に進む。ステップS22 では、選択したモードでの撮影を行ってサブルーチンSUB3に進む。
【0048】
サブルーチンSUB3では、供給された信号に複数の段階でそれぞれの信号処理を施すとともに、設定に応じた手順の選択、さらには、選択に応じた処理が行われる。各段階の信号処理はサブルーチンSUB3で個々に説明する。複数の信号処理としては、アナログ信号処理、A/D 変換処理、ディジタル信号処理およびバッファ処理を含む画像処理が少なくとも含まれる。さらにこのルーチンでの手順、すなわち表示および/または記録のいずれの手順で行うかの指標となる条件は、先のモード設定であらかじめ行われている。このサブルーチンSUB3では設定に応じて処理手順をいかに進めるのか判断を行っている。この判断に応じた選択が行われることになる。すなわち、たとえば選択は、第1に表示のみのプレビュー、第2に一瞬だけ表示した後で両方の画像を記録または第3に表示および記録を含めて自動的に処理を行う手順の選択のことである。記録を含めた自動的な画像の選択処理にはサブルーチンSUB4(図10を参照)が用いられる。
【0049】
また、信号処理部24では、処理された2つの撮像信号(同一露出、非同一の露出)を用いて撮像信号の合成が設定されている場合、両方の画像を合成して記録媒体28に記録する手順か、両画像を記録媒体28に記録しておき、後で記録媒体28からインターフェースを介してたとえば、パーソナルコンピュータにこれらの画像を読み出して合成するように記録する手順のいずれかが選択される。これらの選択のうち、記録を行う手順が含まれている場合、画像処理部24d から供給される撮像信号に対して圧縮処理を施している。
【0050】
次にサブルーチンSUB5では、ディスプレイ26に表示した画像の中から所望の画像を選択する。選択は、この場合、手動的にユーザの主観によってキースイッチ12b で行う。この場合だけ、信号処理のサブルーチンSUB3内での処理は表示を優先させていることから、圧縮処理を行っていない。したがって、信号処理としては完結していないので、キースイッチ12b で選択された画像の撮像信号は画像処理部24d から圧縮処理部24e に供給するようにシステム制御部16の制御を受ける。記録直前の画像データには、圧縮処理が施されていることになる。
【0051】
次にステップS24 では供給された信号の記録を記録媒体28に行う。この処理後、ステップS26 に進む。ステップS26 では、一連の撮影処理を終了するかどうかの判断を行う。たとえば、シャッタスイッチ12a が再び半押しされているような場合、まだ継続して撮影することを意図しているので、図3に示すようにステップS16 に戻る。また、本実施例では図示していないが他のモード設定に変更したいならば、ステップS10 の前まで戻せばよい。一方、ステップS24 では、所定の時間操作部12が押圧されなかったり、電源スイッチがオフにされたとき、ディジタルカメラ10の動作を終了させる。
【0052】
次にディジタルカメラ10における前述したサブルーチンSUB1〜SUB5の動作をより詳細に説明する。図5に示すサブルーチンSUB1では、ステップS16 での測光以降メカニカルシャッタは開状態にしている。サブステップSS10では、シャッタスイッチ12a が押されたときに応じてメカニカルシャッタの開状態期間Exを設定する。この開状態期間Exとは、同一の露光で2コマ撮影することから、測光により絞り値とともに得られた最初のコマの撮影時の電子シャッタの露光時間を2倍した時間に垂直同期期間および信号掃出しパルスの時間を加えた時間に設定する。この時間Exは、図6から判る。また、各コマを異なる露光で撮影する場合、開状態期間Exは、最初のコマの撮影時の露光時間(すなわち、電子シャッタの露光時間)と第2のコマの撮影時の露光時間に垂直同期期間および信号掃出しパルスの時間を加えた時間となる。このシャッタタイミングに応じた設定の後、サブステップSS12に進む。
【0053】
サブステップSS12では、シャッタスイッチ12a が押されたときのタイミングの駆動信号に応じて電子シャッタをオンにする。これにより、CCD 22には入射光が照射される。この露光時間は、Ex1 である。露光時間Ex1 が経過した後、サブステップSS14に進む。サブステップSS14では、電子シャッタをオフにする。これにより、1コマ目の露光が終了する。1コマ目の露光は、電子シャッタにより制御される。この後、サブステップSS16では、信号電荷を垂直転送路に転送する。この転送において、露光終了後ただちに図示しないが画素と垂直転送路の間に設けられたトランスファゲートに駆動信号の一つとしてフィールドシフトパルスが供給される。画素に蓄積された信号電荷は、トランスファゲートを介して垂直転送路に転送される。
【0054】
次にサブステップSS18では、画素が有する余分な信号電荷を掃き出す。この掃出しは、たとえば、垂直同期信号VDの期間中に掃出しパルスが各画素に供給される。各画素には縦型オーバーフロードレイン(以下、VOD という)が形成されている。掃出しパルスが供給されると、VOD を介して余剰な信号電荷を基板に捨て去る、いわゆる基板抜きが行われる。掃出しパルスは、垂直同期信号VDとは逆極性のパルスである。
【0055】
次にサブステップSS20では、2コマ目の露光を開始するとともに、1コマ目の露光により得られた信号電荷の読出しも開始する。2コマ目の露光開始も電子シャッタの制御で行う。ただし、電子シャッタは次の垂直同期信号の立上りまで開状態を継続させている。また、信号電荷の読出しは、前述したと同様に垂直同期期間1VD または2VD の時間をかけても構わない(図6(A) を参照)。露光時間Ex2 の時間経過後、サブステップSS22に進む。
【0056】
サブステップSS22では、ただちに露光を終了させる。このとき、シャッタを制御して閉状態にするのはメカニカルシャッタで行う。これにより、2コマ目の露光時間Ex2 は、1コマ目と同じ時間である( Ex1=Ex2 )。メカニカルシャッタの閉状態にする時間は、前述したように同じ露光量にするという撮影条件を踏まえてあらかじめ設定されている。したがって、2コマ目の露光では、電子シャッタで通常と同様に開状態が開始されるが閉状態への遷移はメカニカルシャッタにより制御される。このメカニカルシャッタの制御により、2コマ目の撮像は完全に入射光の影響を受けずに行われる。一方、このときも1コマ目の信号読出しは継続中である。
【0057】
次にサブステップSS24では、2コマ目の信号読出しを行う。この信号読出しは、先の1コマ目の信号読出しが終了した後の垂直同期信号の立下りタイミングに同期して開始する。2コマ目の信号読出し期間は、1コマ目の場合と同様に1VD に設定している。この信号読出し終了後、リターンに移行する。
【0058】
これに対して、従来の全画素読出しのディジタルカメラにおいて、電子シャッタだけを用いて2コマ撮影モードの露光制御(ただし、絞り値は固定)を行う場合、図6(B) に示すタイミング関係になる。すなわち、垂直同期信号VDで同じ露光を2回繰り返すとき、全画素読出しを行うCCD には、電子シャッタで撮像した際に入射光が撮像に影響してスミアが発生する虞れがあることから、2コマ目の露光開始前にこの影響を取り除くための所定の時間tDを要することが知られている。このため、2コマ連続露光といえども撮影間隔があいた、間欠撮像になってしまう。時間のずれのない、ほぼ同じタイミングで被写体を連続撮影することはできない。
【0059】
次にサブルーチンSUB2の動作を簡単に説明する。サブルーチンSUB2の基本的な動作(サブステップSS100 〜SS114 )は、図7に示すように前述したサブルーチンSUB1の動作に同じである。したがって、詳細な動作手順の説明は省略する。ただし、メカニカルシャッタの開状態を同じ期間Exにしても、この場合の1コマ目の露光時間Ex3 と2コマ目の露光時間Ex4 を同一にしていない点で異なる。すなわち、図8(A) の各コマの露光時間Ex3, Ex4は、露光時間Ex3 の方が露光時間Ex4 より長い。また、図8(B) では露光時間Ex4 の方が露光時間Ex3 より長く設定している。しかし、この場合、2コマ目の撮像画像には、スミアの影響が大きく現れる虞れがある。このように2つの個々の露出量を比較した際にその差をn 倍にすると、後段で説明するようにダイナミックレンジを容易に拡大させることができるようになる。図8(A) のタイミングチャートでは、たとえば、最初に適正な通常露出、次に倍のシャッタ速度で撮影する条件に設定して撮影する場合を示している。それぞれの撮影条件に応じた設定で露光が行われている。このような露光制御は、たとえばブラケッティングを行う場合も同様である。ブラケッティングは、一方の露光量に対して他方の露光量を±1/2 または±1/3 にして撮影している。一方の露光量に対する差が図8(A) に示すΔExである。
【0060】
次に信号処理の動作手順について図9のサブルーチンSUB3を用いて説明する。サブルーチンSUB3では、表示・圧縮処理の手順を分けるためにフラグを用いる。最初にサブステップSS300 ではフラグの値が0 かどうかの確認を行う。フラグの値が0 のときサブステップSS302 に進む。また、フラグの値が0 でないとき、接続子A を介してサブステップSS326 に進む。
【0061】
サブステップSS302 では、供給される信号にCDS 処理を施す。信号は、アナログ変換処理部24a で相関二重サンプリング処理というノイズ対策処理によりアナログ信号の品質を高めてA/D 変換部24b に送出される。この後、サブステップSS304 に進む。サブステップSS304 では、供給される信号をディジタル信号に変換する。ここで変換された信号はディジタル処理部24c に出力される。このディジタル信号は、サブステップSS306 で色毎に画素の補間処理を受ける。ディジタルカメラ10が単板式のとき、CCD 22の撮像素子は色分解したRGB のうち、一つの色についてしか光電変換できないので、ディジタル処理部24c では他の2色を補間処理によって算出してRGB の各プレーン画像を生成して画像処理部24d に出力する。次にサブステップSS308 では、撮像したコマ毎に供給されるデータを一時記憶する。1コマは、三原色RGB のそれぞれの色に対応した不揮発性フレームメモリに記憶するとよい。画像処理部24d はシステム制御部16の制御により、バッファメモリに格納しているデータを演算部に供給する。演算部は、あらかじめ設定されている条件に応じて各種の演算を行う。この条件に応じた演算について以下で説明する。
【0062】
次に、サブステップSS310 では、2コマ撮像して得られた画像の選択を行うかどうかを判断する。画像選択を行う場合(YES )、サブステップSS312 に進む。また、画像選択を行わない場合(NO)、サブステップSS314 に進む。サブステップSS312 では、撮影した2コマが同じ露出で撮像されていたかどうかを判断する。2コマの撮像条件(露出)が同じとき(YES )、サブステップSS316 に進む。また、2コマの撮像条件(露出)が異なるとき(NO)、サブステップSS318 に進む。サブステップSS316 では、撮像した2コマについてユーザによる主観選択を行うかどうかを判断する。ここで、主観選択とは、得られた画像を見て選択の判断を下すことをいう。主観選択を行う場合(YES )、サブステップSS320 に進む。また、画像の主観選択を行わず自動選択を行う場合(NO)、サブルーチンSUB4に進む。
【0063】
サブステップSS320 では、対応するバッファメモリ内の2コマの画像データをディスプレイ26に送出する。次のサブステップSS322 では、送出される画像データに対してフラグをセットする。セットする値は、たとえば、1 である。この処理の後、リターンに移行する。
【0064】
一方、サブステップSS318 では、ブラケッティングして撮像した画像かどうかを判断する。撮像条件の設定からブラケッティングが選択されていれば(YES )、サブステップSS324 に進む。また、ブラケッティングが選択されていなければ(NO)、サブステップSS326 に進む。サブステップSS324 では、いま2コマから選択するか判断する。この判断もあらかじめ条件設定時に設定しておく。設定した値を用いて、いま撮像した画像を表示させた際に選択する場合(YES )、サブステップSS328 に進む。また、この選択を後に行う場合(NO)、サブステップSS326 に進む。サブステップSS328 では、画像処理部24d において対応するバッファメモリ内の2コマの画像データをディスプレイ26に送出する。次のサブステップSS322 では、送出される画像データに対してフラグをセットする。セットする値は、たとえば、1 である。この処理の後、リターンに移行する。
【0065】
また、サブステップSS316 での判断が主観選択でない場合、図10に示すサブルーチンSUB4の自動選択処理に進む。サブルーチンSUB4の自動選択は、サブステップSS400 で画像処理部24d から選択した画像データを圧縮処理部24e に供給する処理を行う。圧縮処理部24e における圧縮処理には、本実施例ではJPEGを用いる。
【0066】
次にサブステップSS402 では、前述したようにJPEG処理中に得られる変換テーブルを用いて各画像データに対して周波数分析を行う。次のサブステップSS404 では、この周波数分析の結果、帯域内の高周波域に着目して、ある周波数より高い周波数領域を示す基底ベクトルのレベル代表値を積算する。次にサブステップSS404 では、このレベル代表値を積算したカウント値と所定の値とを比較し、カウント値が所定の値より大きいかどうかを各画像毎に判定する。比較結果が真のとき(YES )、サブステップSS408 に進む。また比較結果が偽、すなわちカウント値が所定の値以下のとき(NO)、サブステップSS410 に進む。
【0067】
サブステップSS408 では、所定の値より多く高周波成分を含む画像データが2コマとも該当するか判断する。両方とも高周波成分を多く含むとき(YES )、サブステップSS412 に進む。また、一つの画像しか供給されなかったとき(NO)、サブステップSS414 に進む。先の比較でカウント値が所定の値以下の画像データが供給されたときに対処するサブステップSS410 では、不都合なデータとして破棄する。この場合、画像データを消去してしまう。この後、リターンに移行する。
【0068】
これらの処理は、画像データをディスプレイ26に供給して表示させた場合に、たとえば、図11(A), (B)に示すように表示される。図11には、表示とともに、その画像データを周波数分析した結果も表示している。明らかに、図11(A) が示す画像は被写体ぶれを起こしている。また、その画像には、高周波成分が含まれていない。一方、図11(B) の画像には高周波成分が含まれている。実際の画像も鮮明である。
【0069】
サブステップSS412 では、画像の選択を行う。ここでは、2コマとも所定の値より多く高周波成分が含まれているから、いずれでもよいが一応、2つのコマ(画像)のうち、カウント値の大きい方の画像を選択する。次にサブステップSS416 では、この選択した画像データをディスプレイ26に送出する。この送出制御は、システム制御部16により行われる。この送出後、リターンに移行する。また、サブステップSS414 でもサブステップSS416 と同じ処理を行う。すなわち、選んだ画像データが格納されているバッファメモリからディスプレイ26に送出する。この送出後、リターンに移行する。
【0070】
サブルーチンSUB4でのリターンを経て処理は、サブステップSS322 に進む。サブステップSS322 では、前述と同様にフラグに1 をセットしてリターンに移行する。
【0071】
ところで、サブステップSS318 での判断によりブラケッティングでなかった場合、またはサブステップSS324 での判断により記録後の別な処理で選択する場合、サブステップSS326 に進むことを説明した。この場合、2コマの画像データに対してそれぞれ圧縮処理(JPEG)を施す。この処理後、サブステップSS330 に進む。サブステップSS330 では、フラグを0 にセットする。この後、リターンに移行する。このような手順で画像選択が行われる。
【0072】
また、信号処理を行うサブルーチンSUB3では、この他の信号処理としてたとえば、画像合成処理も行っている。この手順としてはサブステップSS312 の判断に基づいて開始される。サブステップSS312 で画像選択を行わない場合(NO)、サブステップSS314 に進むことは前述した通りである。サブステップSS314 では、画像合成を行うかどうかを判断する。撮影条件で設定されているので判断は容易に行える。この画像合成は、画像合成を行う場合(YES )、サブステップSS332 に進む。また、画像選択および画像合成の処理でもない場合(NO)、サブステップSS326 に進む。
【0073】
サブステップSS332 では、ディジタルカメラ10でいま合成を行うかどうか判断する。いまこのカメラ10で場合(YES )、サブステップSS334 に進む。また、このカメラ10で行わず、後で合成処理を行う場合(NO)、サブステップSS326 に進む。サブステップSS334 では、供給された2コマの撮影条件が同じかどうかを判断する。すなわち、同じ露出が供給されるとき(YES )、サブステップSS336 に進む。サブステップSS336 では、供給された画像データを用いてS/N 改善処理を行う。単純なS/N 改善処理は、供給される2コマの画像データを足して2で割る処理がある(加算平均処理)。
【0074】
ところで、被写体は2コマ連続撮像の間に動く可能性がある。この可能性を考慮したS/N 改善処理は、図示しないが最初に供給された2コマの画像の差分を算出する。次にあらかじめ設定した所定の差分値とこの算出結果とを比較する。この比較により、算出結果が所定の差分値より大きい部分と所定の差分値以下の部分に分けられる。この大きい部分に関して上述した加算平均処理は行わず、いずれか一方の画像を用いる。また、所定の差分値以下の部分には加算平均処理を施す。このような処理を施してもよい。加算平均処理の施された部分は、画像のS/N 比を3dB 向上させることができる。この処理の後、サブステップSS326 に進む。
【0075】
また、サブステップSS334 で同じ露出でないと判断したとき(NO)、サブステップSS338 に進むことを述べた。サブステップSS338 では、ダイナミックレンジ拡大の処理を行うかどうかを判断する。ダイナミックレンジを拡大する設定の場合(YES )、サブステップSS340 に進む。また、ダイナミックレンジを拡大しない場合(NO)、サブステップSS326 に進む。サブステップSS340 では、露光に差のある2つのコマが供給され、システム制御部16の制御によりこれら2つの画像の合成を行ってダイナミックレンジの広い画像を生成する。本実施例では、この後の処理をサブステップSS326 にしたが、ディスプレイ26に合成結果を表示させるようにしてもよい。この場合、サブステップSS322 に処理をジャンプさせるとよい。
【0076】
サブステップSS326 では、圧縮処理を施した画像データを出力し、サブステップSS330 を介してリターンに移行する。画像合成する場合もこのように手順で動作させてリターンを介してサブステップSUB3を終了する。この手順に従ってディジタル処理された画像データがディスプレイ26に供給される。
【0077】
次にディスプレイ26における画像の選択について図12のサブルーチンSUB5を用いて説明する。まずサブステップSS500 では、フラグの値が1 かどうかの確認および判断を行う。フラグの値が1 のとき(YES )、サブステップSS502 に進む。また、フラグの値が1 でないとき(NO)、画像選択を行わないと判断するとともに、リターンに移行する。なお、まだ圧縮処理していない画像データが供給されている場合は、サブステップSS336 またはサブステップSS340 の処理結果としてディスプレイ26に表示させてもよい。
【0078】
サブステップSS502 では、供給された画像データをディスプレイ26に表示される。この表示は、1コマおよび/または2コマの画像をディスプレイ26に表示する。一具体例として、システム制御部16は、供給される1コマずつを所定の時間で切り換えて表示させる。この後、2コマを一画面内に表示させる(たとえば、図11、図13〜図15を参照)。図13は、シャッタを切る瞬間にわずかに動いてしまった、(A)手ぶれを起こした画像と(B)手ぶれを起こしていない画像を2コマ撮像した場合を示している。たとえば、手ぶれ補正機能付きカメラは、シャッタ速度のアップ、カメラ自体の安定度を増す等の対策により手ぶれを防いで正常な画像を得ている。
【0079】
ところで、本実施例の2コマ撮像モードでは、2コマを連続して撮影することから、一方のコマは使えなくても他方のコマは正常に手ぶれなく撮影されている可能性がある。
【0080】
また、図14では、手ぶれはないが、(A) 子供が目をつぶってしまっている画像と、(B) 被写体が瞬きしていない正常に撮像された画像とが得られた場合である。このように片方のコマは目をつぶってももう片方のコマは目の開いた状態となる。さらに、図15では、サッカー選手がボールを蹴ろうとした瞬間の画像である。これらの2コマは撮像条件が異なる場合の画像である。(A) は高速シャッタで撮影した場合で、(B) は露光時間の長い低速シャッタで撮像した場合である。これらの画像を用いて以下の選択を説明する。ただし、サブルーチンSUB4の自動選択された画像は、具体的に図示していないが、選択された画像を所定の時間だけ表示し、リターンに移行させる。
【0081】
次にサブステップSS504 では、供給された画像とともに、画像選択する項目およびカーソルを表示する。図11、図13〜図15の図面上に画像だけを表示し上述した項目およびカーソルは表していない。この後、サブステップSS506 に進む。サブステップSS506 では、所望のコマの選択を行う。この選択のする/しないは、カーソルを移動させた位置の項目で選択する。画像を選択するとき(YES )、サブステップSS508 に進む。また、画像を選択しないとき(NO)、サブステップSS510 に進む。このような画像は、図15のような場合、撮影したユーザの意図により一方または両方を残すことが考えられる。
【0082】
サブステップSS508 では、項目でどちらのコマを選択するかを決定する。カーソルを残す項目(または画像そのもの)に合わせて選択する。選択した結果は、選択信号としてシステムバス10A を介してシステム制御部16に供給される。この選択の後、リターンに進む。図11、図13および図14の画像において、ユーザはいずれも(B)側の画像を選択する。
【0083】
サブステップSS510 では、2コマともに記録する場合である。この場合も、両方を記録するように選択信号がシステム制御部16に供給される。この選択の後、サブルーチンSUB3に進む。ここでは、フラグの値が1 なので、接続子A を介してサブステップSS326 に進み、ただちに圧縮処理を行って、サブステップSS330 のフラグ処理を経てリターンに移行する。ただし、先のサブルーチンSUB3で圧縮処理が施された画像には圧縮処理を行わないように制御している。この制御には別なフラグを用いてもよい。このリターンを経てサブルーチンSUB5のリターンに移行する。リターンを経てこのサブルーチンSUB5は終了する。この後、前述したように、記録媒体28のメモリに圧縮した所望の画像だけが記録される。
【0084】
以上のように構成することにより、連続した2コマ撮像モードで撮像した際に全画素読出しのCCD により得られた画像に光の漏れ込みができないようにメカニカルシャッタで露光終了させ、この画像に生じ易いスミアを防止する。これにより、これまで連続撮像に要した時間間隔をほぼなくし、たとえば垂直同期信号のタイミングに同期して撮像することができるようになる。また、得られた信号電荷は、十分に余裕のある時間で読み出すことができるので、高速読出しを行わずに済ませることができる。これにより、印加電圧を抑えられるとともに、A/D 変換に要するクロックも現実的な周波数で行える。したがって、カメラの撮像に要する消費電力は少なく済ませられる。
【0085】
また、このようにして画像が2つ連続して得られることから、同一の撮影条件で撮影し、撮像した画像の一方に不具合があっても他方が正常に撮影されていると、他方の画像を記録することで撮影の救済を行うことができる。そして、ユーザの選択・自動選択を行って所望の画像を記録媒体に記録すると、記録媒体の容量を有効に利用できることになる。
【0086】
さらに、撮影条件が異ならせて撮影した後、2つの画像を合成する処理を行うことでダイナミックレンジの拡大、高S/N 比の画像およびブラケッティングを容易に行うことができる。これら2つの画像に対する処理は、カメラで行うだけでなく、一旦記録した画像をコンピュータ上に再生し、合成するようにしてもよい。このように処理することにより、得られた画像の画質を単に一枚の画像よりも高画質にすることができる。
【0087】
【発明の効果】
このように本発明の固体撮像装置によれば、操作手段により撮影条件の設定および撮影のタイミングの選択を行い、これらに応じて撮像手段に供給される露光光量を決めて光量調節手段で行う。光量調節手段では、設定した所定の絞り値とこの所定の絞り値に対するもう一つのパラメータである入射光の取込み時間が第1の開閉設定手段および入射光の取込み時間を機械的に設定する第2の開閉設定手段の動作により調節される。すなわち、たとえば連続して2回撮影する場合、最初の露光は第2の開閉設定手段を開状態にし、かつ第1の開閉設定手段の開閉期間を露光時間とし、第2の露光では第1の開閉設定手段のタイミングで開状態にして第2の開閉設定手段で閉状態にして撮影を終了する。2回目の撮影は撮影終了時に完全に遮光状態になるから、メカニカルシャッタのない場合に比べて信号読出し時に電子シャッタが閉状態でも漏れ込む光の影響により生じるスミアを防止できることにより、その対策用に設定していた大きな撮影間隔を不要にできる。しかも信号読出しに時間をかけて高速読出しを回避できるので消費電力も抑えることができる。また、これにより、信号処理手段でユーザの所望する画像だけを無駄なく選ぶことも可能になる。具体的に、たとえば、画像における手ぶれ補正、被写体の目つぶりやぶれの救済、ダイナミックレンジの広い撮像、S/N 比の高い撮像、ブラケッティング等を容易に行うことができる。
【0088】
また、本発明の撮影制御方法によれば、撮影条件を設定し、この設定した撮影条件に応じた所定の値および入射光の取込み時間にする第1の露光光量と第2の露光光量に調整する駆動信号をそれぞれあらかじめ設定し、第1の撮影を第1の駆動信号のタイミングで行い、この露光終了後、得られた信号電荷を撮像手段の垂直転送路に読み出し、次の露出に備えて余剰な信号電荷を除去する。そして、第2の撮影を第3の駆動信号での撮影開始および第4の駆動信号での撮影終了により行うとともに、得られた信号電荷を撮像手段から読み出す。この処理により、特に第2の撮影では第4の駆動信号で機械的に撮影を終了させるタイミングを供給しながら、物理的な光の遮光も行う。これにより、第2の撮影により得られた信号電荷を撮像手段の垂直転送路に読み出す場合に光の漏れを防止して全画素読出しで生じ易いスミアの影響の抑えることができる。また、これにより、第1と第2の撮影間隔を極力小さくでき、時間的なずれの少ない画像が得られる。さらに、得られた信号電荷にはそれぞれ信号処理を施し、得られた画像の一方または両方を選択することにより有効な撮影だけを記録したり、一枚の撮影条件で得られる画像よりも高画質の画像データを得ることができる。したがって、ユーザは記録媒体の容量を有効に使うことが可能になる。信号読出しにも十分な時間で読出しが行われることで、高圧の印加を避けて消費電力も抑えることができる。
【図面の簡単な説明】
【図1】本発明に係る固体撮像装置を適用したディジタルカメラの概略的な構成を示すブロック図である。
【図2】図1の光量調整部を機能に応じて示した概略的な構成のブロック図である。
【図3】図1のディジタルカメラを2コマ撮影モードで動作させる手順を説明するメインフローチャートである。
【図4】図1のディジタルカメラを含めて、一般的に電子シャッタとメカニカルシャッタを用いて信号を読み出すまでの基本的なタイミング関係を説明するタイミングチャートである。
【図5】図3の同じ露出撮影を行う際に用いるサブルーチンSUB1における動作を説明するフローチャートである。
【図6】図5の動作と従来の動作のタイミング関係を説明するタイミングチャートである。
【図7】図3の異なる露出撮影を行う際に用いるサブルーチンSUB2における動作を説明するフローチャートである。
【図8】図7の動作のタイミング関係を説明するタイミングチャートである。
【図9】図3の2コマ撮影モードにおけるサブルーチンSUB3の画像処理の手順を説明するフローチャートである。
【図10】図9のサブルーチンSUB3で用いる画像の自動選択(サブルーチンSUB4)の手順を説明するフローチャートである。
【図11】図10で自動選択を行った際に得られる周波数分布とその画像の関係を説明する図である。
【図12】図3の2コマ撮影モードにおけるサブルーチンSUB5の画像表示およびその画像選択処理の手順を説明するフローチャートである。
【図13】図3の手順で動作させて得られた連続2コマで、(A) 被写体の子供にぶれを生じた画像と(B) 正常な画像を示す図である。
【図14】図3の手順で動作させて得られた連続2コマで、(A) 被写体の子供が目をつぶった画像と(B) 正常な画像を示す図である。
【図15】図3の手順で動作させて得られたボールを蹴るサッカー選手の連続2コマで、(A) サッカー選手の鮮明な画像と(B) 臨場感あふれるサッカー選手の画像を示す図である。
【符号の説明】
10 ディジタルカメラ
12 操作部
14 光学レンズ
16 システム制御部
18 駆動信号生成部
20 露光調整部
22 CCD
24 信号処理部
26 ディスプレイ
28 記録媒体
20a 光量調節部
20b 発光部
200 絞り調整機構
202 メカニカルシャッタ機構
204 電子シャッタ機能部

Claims (13)

  1. 供給される被写界からの入射光を光学系で集光し、該光学系で集光した光を撮像手段で光電変換するとともに、光電変換により得られた信号電荷の全画素読出しにより撮影を行う固体撮像装置において、該装置は、
    該装置の撮影条件の設定および前記撮影のタイミングの選択を操作する操作手段と、
    該操作手段で設定した撮影条件のうち、露光時間および前記入射光の透過断面積を表す絞り値の組合せを基に撮影開始タイミングに応じて前記撮像手段に供給される入射光の露光光量の規定において設定した絞り値に設定し、前記入射光の開閉により取込み時間を機械的に設定する開閉設定手段を用いて、前記露光光量を調節する露光調整手段と、
    該露光調整手段における光量調節手段を前記絞り値に調節し、前記入射光を遮光させる駆動信号、および前記撮像手段に対して前記入射光の露光にともなう信号電荷の蓄積開始/終了を電気的に駆動し、該入射光の光電変換により得られた信号電荷の読出し駆動させる駆動信号を生成する駆動信号生成手段と、
    前記撮像手段からの信号電荷に信号処理を施す信号処理手段と、
    前記操作手段からの情報に応じて前記絞り値の測光制御、ならびに前記駆動信号生成手段および前記信号処理手段を制御する制御手段とを含み、
    前記信号処理手段は、さらに、供給される信号電荷にアナログ信号処理を施すアナログ処理手段と、
    該アナログ処理手段からの出力をディジタル信号に変換するディジタル変換手段と、
    該ディジタル変換手段からのディジタル信号にディジタル信号処理を施すディジタル処理手段と、
    該ディジタル処理手段から供給される個々の撮像信号に対して周波数成分を分析し、周波数分析した撮像信号のうち、より多く高周波成分の含まれている撮影信号を選択する分析手段と、
    供給される撮像信号それぞれ記憶して出力する記憶手段とを含み、
    連続して露光し、前記信号電荷を読み出す場合、該装置は、最初の露光期間と次の露光における開始を前記撮像手段に対して電気的に駆動させ、前記光量調節手段は、前記次の露光における遮光のタイミングを決定して、
    該装置は、最初の静止画撮影に対する露光にともなう信号電荷の蓄積を電子シャッタの供給停止により開始し、該露光の終了を蓄積した信号電荷を全画素読出しにより終了させ、次の静止画撮影に対する露光を、前記撮像手段に蓄積した余剰電荷の除去に用いる前記電子シャッタの供給停止により開始し、該静止画撮影を、メカニカルシャッタの閉鎖により終了し、
    前記最初の静止画撮影において蓄積した信号電荷の読出しを、前記次の静止画撮影の露光開始と同時に行い、前記次の静止画撮影において蓄積した信号電荷の読出しを、前記最初の静止画撮影における信号電荷の読出しに連続して行うことを特徴とする固体撮像装置。
  2. 請求項1に記載の装置において、前記露光調整手段は、前記被写界からの光量と前記撮影条件の光量との間に生じる光量差を補って発光する発光手段を含むことを特徴とする固体撮像装置。
  3. 請求項1に記載の装置において、前記操作手段は、前記被写界の撮影タイミングを供給する第1の操作選択手段と、
    前記被写界の撮影条件の設定および撮影した画像の選択を行う第2の操作選択手段とを含むことを特徴とする固体撮像装置。
  4. 供給される被写界からの入射光を光学系で集光し、該入射光の光量を撮影条件に応じた露光光量の調節によって供給し、用意した撮像手段で該入射光を光電変換して電気信号である信号電荷に変換し、該信号電荷の読出しを全画素読出しで行う撮影制御方法において、該方法は、
    前記撮影を連続して2回撮影する場合、撮影条件として、露光時間および前記入射光の透過断面積を表す絞り値を、操作に応じて取得するように測光し、設定する条件設定工程と、
    取得した絞り値と露光により得られる信号電荷の蓄積開始/終了までの露光時間で表す第1の露光光量を前記撮像手段で得るため該撮像手段に供給する第1の駆動信号と、前記絞り値の設定および機械的な機構を開口状態にさせる第2の駆動信号とを生成する第1の信号生成工程と、
    次の撮影における前記取得した絞り値と前記露光時間で表す第2の露光光量を前記撮像手段で得るため該撮像手段に供給する第3の駆動信号と、前記絞り値の設定および機械的な機構を遮光状態にさせる第4の駆動信号とを生成する第2の信号生成工程とをあらかじめ設定しておき、
    前記被写界を本撮像するタイミングを示す操作信号を発生させる操作工程と、
    前記操作信号に応じて第1の撮影を実行する第1の撮影工程と、
    該第1の撮影終了後、前記撮影により得られた信号電荷を用意した撮像手段の垂直転送路に読み出す第1の信号移動工程と、
    該第1の信号移動工程の後、次の露出に備えて余剰な信号電荷を除去する信号除去工程と、
    該信号除去工程の後、第2の撮影工程として第4の駆動信号における前記絞り駆動信号を供給し、前記撮像手段に供給する前記第3の駆動信号により露光を開始させ、前記第4の駆動信号により露光を終了する第2の撮影を実行し、前記第1の信号移動工程により得られた信号電荷を前記撮像手段から読み出す第1の信号読出し工程と、
    前記第1の信号読出し工程の終了後、前記第2の撮影により得られた信号電荷を前記撮像手段の垂直転送路に読み出す第2の信号移動工程と、
    該第2の信号移動工程の後、前記第2の信号移動工程により得られた信号電荷を前記撮像手段から読み出す第2の信号読出し工程と、
    前記第1および前記第2の信号読出し工程により得られた信号電荷にそれぞれ信号処理を施す信号処理工程とを含み、
    該信号処理工程は、供給される信号電荷にアナログ信号処理を施すアナログ工程と、
    該アナログ工程の後の出力信号をディジタル信号に変換する変換工程と、
    該変換工程により得られたディジタル信号にディジタル処理を施すディジタル工程と、
    該ディジタル工程後、前記第1および前記第2の撮影工程から出力される撮像信号を一時的に保持し、保持した撮像信号を出力する画像保持工程と、
    該画像保持工程を経て供給される撮像信号に対して周波数分析を施し、得られた分析結果に基づいて高周波成分のより多く含まれている撮像信号を選択する信号選択工程とを含み、
    該方法は、前記撮影操作を行った後の垂直同期信号をタイミングの基準として生成し、用いることを特徴とする撮影制御方法。
  5. 請求項に記載の方法において、前記第4の駆動信号は、前記第2の駆動信号により設定する入射光の取込みの開始と同時に前記入射光の入射可能状態にあり、前記撮影終了のタイミングまで該入射可能状態を継続することを特徴とする撮影制御方法。
  6. 請求項に記載の方法において、前記信号選択工程は、選択した撮像信号に圧縮処理を施す際の周波数分析機能を用いていることを特徴とする撮影制御方法。
  7. 請求項に記載の方法において、前記信号処理工程は、前記画像保持工程の後、用意した表示手段に出力される2つの撮像信号を表示させる表示工程と、
    該表示工程により表示された画像の一方または両方を選択する画像選択工程と、
    該画像選択工程で選択した画像の撮像信号に圧縮処理を施す圧縮工程と、
    該圧縮工程の後の圧縮された撮像信号を記録媒体に記録する記録工程を順次行うことを特徴とする撮影制御方法。
  8. 請求項に記載の方法において、前記信号処理工程は、前記画像保持工程の後、出力する2つの撮像信号を合成する画像合成工程を含むことを特徴とする撮影制御方法。
  9. 請求項に記載の方法において、前記画像合成工程は、前記第1および第2の信号生成工程により同じ露出光量となる撮影が行われた場合、得られた2つの撮像信号の加算平均をとる加算平均工程を含むことを特徴とする撮影制御方法。
  10. 請求項に記載の方法において、前記加算平均工程は、前記得られた2つの撮像信号の差分をとる画像差分工程と、
    該画像差分工程により得られる差分値が所定の値より小さいかどうか判断する判断工程とを含み、
    前記判断工程の結果が前記所定の値より小さいときだけ加算平均を行い、前記差分値が前記所定の値以上に大きいとき、該2つの撮像信号を前記信号選択工程または前記画像選択工程に供給していずれか一つの撮像信号を選択することを特徴とする撮影制御方法。
  11. 請求項に記載の方法において、前記第1の信号生成工程と前記第2の信号生成工程は、前記第1の信号生成工程または前記第2の信号生成工程の一方を通常の適正な露出光量に設定し、他方の露出光量を前記通常の適正露出光量に対する差をもつ露出光量に設定することを特徴とする撮影制御方法。
  12. 請求項11に記載の方法において、前記通常の適正露出光量に対する差は、前記通常の適正露出を示す第1の絞り値と該第1の絞り値に相前後するそれぞれの隣接した絞り値との間隔の1/2 または1/3 を第2の絞り値とする際に、前記第2の絞り値がそれぞれ前記第1および前記第2の駆動信号または前記第3および前記第4の駆動信号により設定することを特徴とする撮影制御方法。
  13. 請求項に記載の方法において、前記第1および前記第2の信号読出し工程は、それぞれの信号読出し期間を複数の垂直同期期間にわたって読み出す設定にすることを特徴とする撮影制御方法。
JP09712299A 1999-04-05 1999-04-05 固体撮像装置および撮影制御方法 Expired - Fee Related JP4302814B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP09712299A JP4302814B2 (ja) 1999-04-05 1999-04-05 固体撮像装置および撮影制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09712299A JP4302814B2 (ja) 1999-04-05 1999-04-05 固体撮像装置および撮影制御方法

Publications (3)

Publication Number Publication Date
JP2000295535A JP2000295535A (ja) 2000-10-20
JP2000295535A5 JP2000295535A5 (ja) 2005-06-16
JP4302814B2 true JP4302814B2 (ja) 2009-07-29

Family

ID=14183775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09712299A Expired - Fee Related JP4302814B2 (ja) 1999-04-05 1999-04-05 固体撮像装置および撮影制御方法

Country Status (1)

Country Link
JP (1) JP4302814B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002176588A (ja) 2000-12-06 2002-06-21 Canon Inc 撮像方法及び撮像装置並びに記憶媒体
JP2002199288A (ja) * 2000-12-26 2002-07-12 Olympus Optical Co Ltd 撮像装置
JP4544756B2 (ja) * 2001-01-19 2010-09-15 オリンパス株式会社 撮像装置
JP4264448B2 (ja) * 2004-03-19 2009-05-20 パナソニック株式会社 撮像装置
KR100588744B1 (ko) 2004-09-09 2006-06-12 매그나칩 반도체 유한회사 라인 스캔 방식 이미지 센서를 사용한 셔터 모듈 및 그제어 방법
JP2006279714A (ja) * 2005-03-30 2006-10-12 Konica Minolta Photo Imaging Inc 撮像装置及び撮像方法
JP5628566B2 (ja) * 2010-06-23 2014-11-19 オリンパスイメージング株式会社 撮影装置、及び、撮影方法
JP6570918B2 (ja) * 2015-08-19 2019-09-04 オリンパス株式会社 撮像装置、撮像方法

Also Published As

Publication number Publication date
JP2000295535A (ja) 2000-10-20

Similar Documents

Publication Publication Date Title
TWI390971B (zh) 成像裝置,成像處理方法及成像控制程式
JP4473363B2 (ja) 手振れ補正装置およびその補正方法
TW201105118A (en) Imaging device, imaging method and computer-readable recording medium
JP2005130045A (ja) 撮像装置及びこれに用いる撮像素子
JP2001103366A (ja) カメラ
US20060103742A1 (en) Image capture apparatus and image capture method
JP2007027845A (ja) 撮像装置
US20060197854A1 (en) Image capturing apparatus and computer software product
JP4302814B2 (ja) 固体撮像装置および撮影制御方法
JP4584544B2 (ja) 画像再生装置および固体撮像装置
JP2000152259A (ja) 固体撮像装置および信号読出し方法
JP2006033123A (ja) 撮像装置
JP3999693B2 (ja) 固体撮像装置
JP4455709B2 (ja) 固体撮像装置および撮像方法
JP4464006B2 (ja) 撮像装置および露光方法
JP4053858B2 (ja) 固体撮像装置の信号読出し方法
WO2006054763A1 (ja) 電子カメラ
JP4243462B2 (ja) 固体撮像装置および受光素子の感度対応出力調整方法
JP2004007048A (ja) 撮像装置
JP3738654B2 (ja) デジタルカメラ
JP4434556B2 (ja) 固体撮像装置および固体撮像素子
JP4243084B2 (ja) 固体撮像装置およびその信号処理方法
JP2010081345A (ja) 撮像装置
JP2013016905A (ja) 撮像装置
JP2007025129A (ja) 露出設定方法及び装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040924

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040924

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071022

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090109

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090331

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090423

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120501

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130501

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140501

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees