JP2010016536A - 静止画像及び動画像撮像装置 - Google Patents

静止画像及び動画像撮像装置 Download PDF

Info

Publication number
JP2010016536A
JP2010016536A JP2008173464A JP2008173464A JP2010016536A JP 2010016536 A JP2010016536 A JP 2010016536A JP 2008173464 A JP2008173464 A JP 2008173464A JP 2008173464 A JP2008173464 A JP 2008173464A JP 2010016536 A JP2010016536 A JP 2010016536A
Authority
JP
Japan
Prior art keywords
pixel
output
signal
moving image
still image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008173464A
Other languages
English (en)
Other versions
JP5207853B2 (ja
Inventor
Keiichi Mori
圭一 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2008173464A priority Critical patent/JP5207853B2/ja
Priority to PCT/JP2009/001936 priority patent/WO2010001517A1/ja
Priority to CN2009801136824A priority patent/CN102007762B/zh
Publication of JP2010016536A publication Critical patent/JP2010016536A/ja
Priority to US12/887,983 priority patent/US8274576B2/en
Application granted granted Critical
Publication of JP5207853B2 publication Critical patent/JP5207853B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】静止画像のピント精度を保証しつつ、高画質の動画像生成と高精細の静止画像生成とのシームレスな切り替えを実現する。
【解決手段】静止画像撮影時には、ベイヤー配列のカラーフィルタを持つ画素セルアレイ101の全画素セルから読み出した信号を、出力セレクタ109にて記録及び表示のための出力Aとして選択する。動画像撮影時には、9画素混合信号を出力セレクタ109にて出力Aとして選択するとともに、当該9画素の重心位置にある画素セルの出力信号と9画素混合信号との差分成分をメモリ回路108から出力Bとして供給し、出力Bをもとに被写体像のコントラスト情報を取得してレンズの焦点調整を実施する。
【選択図】図1

Description

本発明は、電子的に静止画像及び動画像を生成し表示又は記録する機器に関し、例えばデジタルスチルカメラ、デジタルビデオカメラ又はカメラ付き携帯電話における撮像装置に関するものである。
近年のデジタルスチルカメラにおいては、単板カラー固体撮像素子の高画素化による高精細の静止画像撮影機能の進歩が1つのトレンドとなっており、めざましい発展を遂げている。一方で静止画像撮影を主機能とするデジタルスチルカメラにおいて従来副機能であった動画像を撮影し記録する機能においても、特に再生、受像機器としてのHDTVの普及に伴い高画質化と高性能化が求められている。そこで、高精細の静止画像と高画質の動画像との生成を両立するような新規の撮像素子の駆動や内部構造によって実現される画素混合技術について提案がなされている(特許文献1参照)。
しかしながら、ピント精度を求めるような高精細の固体撮像素子を持ちレンズの焦点調整が必要となるカメラにおいては、動画像記録時に高画質の動画像を生成する手段として固体撮像素子内での画素混合技術を用いると必然的に空間的なLPFを施しているため、静止画像では記録可能な空間周波数の高周波成分が減衰することとなり、撮像素子に画素混合動作をさせている状態では静止画像撮影のためのピント精度を確保できるレンズの焦点調整を実施することが困難であった。
この課題に対して、動画像生成状態から静止画像生成状態に移行する間に固体撮像素子内の画素混合を実施せずに水平方向又は垂直方向の画素は全画素を読み出し、他方の方向には画素を間引いて読み出すモードへ一旦移行させ、レンズ焦点の合焦位置を所定量シフトさせながら全画素を読み出す方向の画素信号を用いて静止画像のピント精度確保に必要な帯域の空間周波数成分を抽出して焦点調整を行う、いわゆるコントラストAFを実施する方法が提案されている(特許文献2参照)。
特開2004−312140号公報 特開2005−92081号公報
しかしながら、特許文献2で開示されている方式では、高画質の動画像生成モードから高精細の静止画像生成モードへ移行する際に焦点調整を行うための固体撮像素子の間引き読み出しモードへ移行して焦点調整を実施するため、原理的に静止画像を撮影する状態に移行するまでにタイムラグが発生し、静止画像の本質的な要件であるユーザーが狙った瞬間を切り取るという基本性能が低下することと、焦点調整を行うための固体撮像素子の間引き読み出しモードにより得られる動画像は1方向での読み出し画素の間引きを前提としているため空間周波数の高周波成分が折り返って画像にモアレが発生し、動画像としての画質が著しく低下することから違和感が強いという問題があった。
本発明は、上記問題を鑑みて、高画質の動画像を生成しながら静止画像に要求されるピント精度を確保するレンズの焦点調整を可能として、静止画像撮影の実施時には撮影開始へ移行するタイムラグを最小化しかつ違和感のある低画質の画像を取得しない撮像装置を提供することを目的とする。
上記課題を解決するために、本発明の撮像装置は、行列状に配置された複数の画素セルを有する固体撮像素子を備えた静止画像及び動画像撮像装置であって、静止画像生成のための全画素を読み出す全画素読み出し手段と、動画像生成のための行方向及び列方向のうち少なくとも1方向の複数画素を混合して読み出す画素混合読み出し手段と、前記画素混合読み出し手段と同時に動作可能でありかつ前記画素混合読み出し手段にて混合される画素の空間的な範囲内に含まれる画素の信号成分を読み出す混合内部分画素成分読み出し手段とを更に備え、前記全画素読み出し手段と画素混合読み出し手段とは排他的に動作することを特徴とする。
更には、前記混合内部分画素成分読み出し手段にて読み出される信号から被写体のコントラスト情報を検波するコントラスト検波手段を備えたことを特徴とする。
本発明によれば、動画像生成時には固体撮像素子の画素混合読み出し手段から読み出される映像信号から動画像を生成し、前記画素混合読み出し手段と同時に動作させた混合内部分画素成分読み出し手段から読み出される信号から被写体像のコントラスト情報が取得可能であるから、高画質の動画像を生成しながら被写体像のコントラスト情報を基にレンズの焦点調整が実施でき、動画像生成から静止画像生成への移行がタイムラグレスとなり、動画像と静止画像とのシームレスな切り替えが実現可能となる。
以下、図面を参照して本発明の2つの実施の形態について説明する。なお、以下で説明する実施の形態はあくまで例であり、様々な改変を行うことが可能である。
図1は、第1の実施の形態における電子カメラの単板型MOS撮像素子の構成を示す。行列状に配置された複数の画素セルP11,P12,P13・・・からなる画素セルアレイ101は、各画素セルが2×2画素の単位毎に色位相コーディングが施された、例えばベイヤー配列のカラーフィルタを有し、後述するMOS撮像素子の構成となっている。画素セルアレイ101の各画素セルP11,P12,P13・・・は、列毎に配置された共通信号読み出し線L1,L2,L3・・・及び図示しない共通構成の共通信号読み出し線へスイッチング素子を介して接続されている。該スイッチング素子は、タイミングジェネレータ102から各行毎に共通の選択信号S11,S12,S13・・・及び図示しない共通構成の選択信号が供給され、導通信号であるハイレベルが入力されると各列の共通信号読み出し線L1,L2,L3・・・へ同じ行に配置される画素セルのアナログ映像信号が一斉に読み出される。
各列の共通信号読み出し線L1,L2,L3・・・は、各列にAD変換器が配置されたカラムAD群103に入力される。カラムAD群103は、タイミングジェネレータ102から入力される制御信号S31により制御され、ローレベルからハイレベルへ遷移したハイエッジ入力でAD変換を開始し、ハイレベル期間中はAD変換を実施し、ハイレベルからローレベルへ遷移したローエッジ入力でAD変換の終了となり、ロー期間中はAD変換された各列のデジタル映像信号を出力に保持する。
カラムAD群103の各列のデジタル映像信号出力は、水平走査第1セレクタ104へ入力される。水平走査第1セレクタ104は、タイミングジェネレータ102から入力される制御信号S41のハイレベル信号によりカラムAD群103の図中左端のデジタル映像信号出力から順に図示しない基準クロックに同期して逐次選択し、出力セレクタ109へ出力する。カラムAD群103のデジタル映像信号出力は、更に1列おきに3列の共通信号読み出し線(例えばL1、L3及びL5)から得られるデジタル信号を加算する加算器に入力される。加算器は、3列の共通信号読み出し線に対応するデジタル信号出力線毎に配置されているので、行方向の画素セル数を3で除算した商の数が配置されている。図中では共通信号読み出し線L1とL3とL5からそれぞれAD変換されたデジタル映像信号が1つの加算器へ入力され、共通信号読み出し線L4とL6とL8からそれぞれAD変換されるデジタル映像信号が他の1つの加算器に入力されている。各加算器からのデジタル信号は累積加算正規化器107へ入力され、累積加算正規化器107は、タイミングジェネレータ102から出力される制御信号S32のハイレベル入力にて累積加算値がゼロリセットされ、制御信号S33のハイパルス入力毎に該加算器より入力されるデジタル信号を1/9した値を累積加算していき、制御信号S33のロー期間中は出力を保持する。
累積加算正規化器107の出力は、水平走査第2セレクタ105及び減算器に供給される。水平走査第2セレクタ105は、タイミングジェネレータ102から入力される制御信号S42のハイレベル信号により累積加算正規化器107の図中左端のデジタル信号出力から順に図示しない基準クロックに同期して逐次選択し、出力セレクタ109へ出力する。減算器には累積加算正規化器107からの入力と、1つの加算器に入力されるカラムAD群の3列のデジタル映像信号のうち列方向で空間的に中心に位置する列のデジタル映像信号とが入力され、出力である減算差分値がメモリ回路108へ出力される。図中では、共通信号読み出し線L3及びL6に接続されたAD変換器からの出力が、それぞれ減算器に入力されている。
メモリ回路108は、タイミングジェネレータ102から入力される制御信号S34のハイパルスにて減算器からの入力をラッチし、ロー期間中は記憶保持して水平走査第3セレクタ106へ出力する。水平走査第3セレクタ106は、タイミングジェネレータ102から入力される制御信号S43のハイレベル信号により図中左端から右端の順でメモリ回路108のデジタル信号出力を図示しない基準クロックに同期して逐次選択し、出力Bとして出力する。
タイミングジェネレータ102には、垂直同期信号VD及び水平同期信号HDと全画素読み出しモードか画素混合読み出しモードかを識別するためのモード選択信号MODEとが入力される。
タイミングジェネレータ102から出力セレクタ109へは制御信号S44が入力される。タイミングジェネレータ102は、モード選択信号MODEから全画素読み出しモードが指示されている場合には水平走査第1セレクタ104から出力セレクタ109へ入力されるデジタル映像信号を出力Aとして出力選択するよう制御し、モード選択信号MODEから画素混合読み出しモードが指示されている場合には水平走査第2セレクタ104から出力セレクタ109へ入力されるデジタル映像信号を出力Aとして出力選択するよう制御する。
図2は、画素セルの等価回路であり、フォトダイオード301にて入射した光が光電変換され発生した電荷は、読み出し信号がゲートに接続された読み出しトランジスタ302を介してフローティングディフュージョン303へ読み出され電荷電圧変換される。フローティングディフュージョン303は、フォトダイオード301からの電荷が読み出される前に、リセット信号がゲートに入力されるリセットトランジスタ304を介してリセットされる。フローティングディフュージョン303の電圧はアンプ305を通し、かつ図2には示されていないスイッチング素子を介して各列の共通信号読み出し線L1,L2,L3・・・へ接続される。
例えば、図1中の画素セルP11のアンプ305からの出力は、スイッチング素子を介して共通信号読み出し線L1へ接続されている。図1中では上記読み出し信号及びリセット信号の信号線が図示されていないが、いずれもタイミングジェネレータ102より各行毎に共通に印加され、同じく各行毎に共通の選択信号S11,S12,S13・・・及び図示しない共通構成の選択信号の各々へ導通信号であるハイパルスが印加される直前に、リセット信号印加によるフローティングディフュージョン303のリセットが実施された後に読み出し信号をオンすることで、フォトダイオード301の電荷をフローティングディフュージョン303へ読み出す駆動が各行単位で実施され、結果としてフォトダイオード301に入射した光に比例する、すなわちアナログ映像信号がアンプ305から出力されることとなる。
次に、図3を用いて、図1に示す撮像素子の動画像撮影時の動作である画素混合読み出しモードを説明する。タイミングジェネレータ102にはモード選択信号MODEにより画素混合読み出しモードが選択され、出力セレクタ109は、水平走査第2セレクタ105から入力されるデジタル映像信号を出力Aへ出力選択している。
タイミングジェネレータ102に入力される垂直同期信号VDと水平同期信号HDとのハイパルスに同期して第1番目の水平同期期間が開始される。入力された水平同期信号HDのハイパルスに同期してタイミングジェネレータ102は、累積加算正規化器107の累積加算値をゼロリセットするパルスを制御信号S32へ出力する。この後選択信号S11にハイレベルが出力され、画素セルP11,P12,P13,P14,P15・・・のアナログ映像信号が共通信号読み出し線L1,L2,L3,L4,L5・・・へ接続される。選択信号S11のハイ期間中にタイミングジェネレータ102からカラムAD群103に制御信号S31のローレベルからハイレベルへの遷移が入力されAD変換が開始され、制御信号S31のハイレベルからローレベルの遷移でカラムAD群103の各AD変換器では画素セルP11,P12,P13,P14,P15・・・の各アンプ305から出力された各アナログ映像信号がAD変換されデジタル映像信号が出力保持されている。また同時にL1、L3及びL5に接続されたAD変換器出力は加算器に入力され画素セルP11とP13とP15の映像信号が加算されたデジタル映像信号が第1番目の累積加算正規化器(ACC1)107へ入力され、L4、L6及びL8に接続されたAD変換器の出力が加算器に入力され画素セルP14とP16とP18の映像信号が加算されたデジタル映像信号が第2番目の累積加算正規化器(ACC2)107へ入力されている。図示していないこのような組み合わせの加算されたデジタル映像信号が3列に1つ配置された累積加算正規化器107に入力されることとなる。この状態でタイミングジェネレータ102より制御信号S33のハイパルスが累積加算正規化器107に入力されることで累積加算正規化器(ACC1)107の出力には(P11出力)/9+(P13出力)/9+(P15出力)/9に対応するデジタル映像信号が出力され、累積加算正規化器(ACC2)107の出力には(P14出力)/9+(P16出力)/9+(P18出力)/9に対応するデジタル映像信号が出力される。
次に、選択信号S15がタイミングジェネレータ102から選択状態となるハイレベルが入力され、上記同様に制御信号S31及びS33が順次ハイパルス入力されることで累積加算正規化器(ACC1)107の出力には(P11出力)/9+(P13出力)/9+(P15出力号)/9+(P51出力)/9+(P53出力)/9+(P55出力)/9に対応するデジタル映像信号が出力され、累積加算正規化器(ACC2)107の出力には(P14出力)/9+(P16出力)/9+(P18出力)/9+(P54出力)/9+(P56出力)/9+(P58出力)/9に対応するデジタル映像信号が出力される。
続いて、選択信号S13がタイミングジェネレータ102から選択状態となるハイレベルが入力され、上記同様に制御信号S31及びS33が順次ハイパルス入力されることで累積加算正規化器(ACC1)107の出力には(P31出力)/9+(P33出力)/9+(P35出力)/9に対応する加算値が累積され結果として(P11出力+P13出力+P15出力+P31出力+P33出力+P35出力+P51出力+P53出力+P55出力)/9に対応する同色位相の行方向3画素かつ列方向3画素の範囲の合計9画素が混合されたデジタル映像信号が出力され、累積加算正規化器(ACC2)107の出力には(P34出力)/9+(P36出力)/9+(P38出力)/9に対応する加算値が累積され結果として(P14出力+P16出力+P18出力+P34出力+P36出力+P38出力+P54出力+P56出力+P58出力)/9に対応する同色位相の9画素が混合されたデジタル映像信号が出力される。
続いて、選択信号S13のハイ期間中に制御信号S34のハイパルスがメモリ回路108に入力されることで、第1番目のメモリ回路(M1)108は、共通信号読み出し線L3に接続されたAD変換器の出力であるP33出力と前述の累積加算正規化器(ACC1)107の出力との減算差分値であるP33−(P11出力+P13出力+P15出力+P31出力+P33出力+P35出力+P51出力+P53出力+P55出力)/9、すなわち同色位相の9画素混合信号と該9画素の中央位置にある画素セルの出力信号との差分成分が記録保持され、第2番目のメモリ回路(M2)108には共通信号読み出し線L6に接続されたAD変換器の出力であるP36出力と前述の累積加算正規化器(ACC2)107の出力との減算差分値であるP36−(P14出力+P16出力+P18出力+P34出力+P36出力+P38出力+P54出力+P56出力+P58出力)/9、すなわち第1番目のメモリ回路(M1)108とは異なる色位相について同色位相の9画素混合信号と該9画素の中央位置にある画素セルの出力信号との差分成分が記録保持される。
次に、タイミングジェネレータ102から水平走査第2セレクタ105を動作させる制御信号S42のハイレベル信号が入力され、更に水平走査第3セレクタ106を動作させる制御信号S43のハイレベル信号が入力されると、選択信号S11とS13とS15が接続されたスイッチング素子を介して共通信号読み出し線に接続される画素セルP11,P12,P13,P14,P15・・・とP31,P32,P33,P34,P35・・・とP51,P52,P53,P54,P55・・・に対して出力Aからは図3中のA1のタイミングで同色位相の9画素混合された映像信号が行方向の順次で出力され、出力Bからは図3中のB1のタイミングで同色位相の画素セルで9画素混合信号と該9画素の中央位置つまりは重心位置にある画素セルの出力信号との差分成分信号が行方向の順次で出力される。
続いて、水平同期信号HDのハイパルスに同期して開始される第2番目の水平同期期間については、選択信号S14とS16とS18が接続されたスイッチング素子を介して共通信号読み出し線に接続される画素セルに対して第1番目の水平同期期間と同様なタイミング制御をタイミングジェネレータ102が実施し、画素セルP41,P42,P43,P44,P45・・・とP61,P62,P63,P64,P65・・・とP81,P82,P83,P84,P85・・・に対して出力Aからは図3中のA2にて同色位相の9画素混合された映像信号、例えば(P41出力+P43出力+P45出力+P61出力+P63出力+P65出力+P81出力+P83出力+P85出力)/9に対応するデジタル映像信号が行方向の順次で出力され、出力Bからは図3中のB2にて同色位相の画素セルで9画素混合信号と該9画素の中央位置つまりは重心位置にある画素セルの出力信号との差分成分信号、例えばP63−(P41出力+P43出力+P45出力+P61出力+P63出力+P65出力+P81出力+P83出力+P85出力)/9が行方向の順次で出力される。図3中のA3及びB3、A4及びB4についても同様である。
次に、図4を用いて、図1に示す撮像素子の静止画像撮影時の動作である全画素読み出しモードについて説明する。タイミングジェネレータ102にはモード選択信号MODEにより全画素読み出しモードが選択され、出力セレクタ109は、水平走査第1セレクタ104から入力されるデジタル映像信号を出力Aへ出力選択している。
タイミングジェネレータ102に入力される垂直同期信号VDと水平同期信号HDとのハイパルスに同期して、第1番目の水平同期期間が開始される。入力された水平同期信号HDのハイパルスに同期してタイミングジェネレータ102は選択信号S11にハイレベルを出力するので、画素セルP11,P12,P13,P14,P15・・・のアナログ映像信号が共通信号読み出し線L1,L2,L3,L4,L5・・・へ一斉に出力される。選択信号S11のハイ期間中にタイミングジェネレータ102からカラムAD群103に制御信号S31のローレベルからハイレベルへの遷移が入力されてAD変換が開始され、制御信号S31のハイレベルからローレベルの遷移でカラムAD群103の各AD変換器では画素セルP11,P12,P13,P14,P15・・・の各アナログ映像信号のAD変換結果であるデジタル映像信号が出力保持されている。次に、タイミングジェネレータ102から水平走査第1セレクタ104を動作させる制御信号S41のハイレベル信号が入力され、出力Aから図4中のAA1にて画素セルP11,P12,P13,P14,P15・・・の各デジタル映像信号が行方向の順次で出力される。
第2番目の水平同期期間では、選択信号S12が接続されたスイッチング素子を介して共通信号読み出し線に接続される画素セルに対して第1番目の水平同期期間と同様なタイミング制御をタイミングジェネレータ102が実施し、出力Aから図4中のAA2にてP21,P22,P23,P24,P25・・・の各デジタル映像信号が行方向の順次で出力される。図4中のAA3からAA8までについても同様である。このように、1つの水平同期期間で1行の各画素セルの映像信号を読み出し、列方向に1行毎に読み出し行が移ることから、ラスタースキャン順で全画素を読み出すこととなる。
次に、図5にて、撮像装置全体の回路構成を説明する。撮像素子201は、前述した図1の撮像素子であり、レンズユニット202にて結像される光情報と、同期信号発生器203にて図示しない基準クロックをもとに生成される垂直同期信号VD及び水平同期信号HDと、コントローラ206が発生するモード選択信号MODEとが入力される。レンズユニット202は、光学的な焦点調整機構とこれをアクチュエータにて電気駆動するレンズ駆動ユニット207にて焦点調整が行われる。撮像素子201からは前述の出力Aが画像処理回路204に入力され、画像処理回路204にて単板カラーのデジタル映像信号から空間補間処理が実施されたYC映像信号を生成し、メディア記録回路208及び画像表示回路210へ出力する。一方、撮像素子201から出力される前述の出力Bはコントラスト検波回路205に入力され、撮像素子201の画素セルアレイの画角に対して予め検出エリアとして設定されている範囲内の画素セルのうちで輝度成分に最も近い色位相を持つ画素色成分、例えばベイヤー配列CFAを持つ撮像素子の場合はグリーンフィルタを有する画素セルに対応する出力Bの加算平均値を算出し、コントラスト情報としてコントローラ206へ出力する。209は画像記録のためのメディアであり、211は画像表示のための表示デバイスである。
ここで、図6のグラフを用いて前述の出力Bの信号特性を説明する。図6のグラフの横軸は空間周波数であり、f1は全画素のナイキスト周波数であり、f2は周波数f1の2/3の周波数であり、f3は周波数f1の1/3の周波数としている。また、縦軸はレスポンスを示す。実線の曲線は画素混合読み出しモードで得られる9画素混合信号の空間周波数特性を示し、破線の曲線はこれに対応する9画素の中央位置つまりは重心位置にある画素セルの出力信号の空間周波数特性を示す。出力Bは、9画素混合信号と該9画素の重心位置にある画素セルの出力信号との差分成分であるから、斜線部の成分からなる信号となる。このことから、出力Bを所定のエリアで加算平均して得られる信号は、全画素読み出しモードにて読み出された全画素の映像信号を画像処理回路204にて生成した際のYC映像信号のレンズのピントの合焦状態を的確に示し、合焦時には高出力となり被写体からピントが外れるほど低出力となるコントラスト値と大小関係が合致する信号であることが分かる。
さて、図5のメディア記録回路208は、コントローラ208からの入力信号により動画像記録が指示された場合には画像処理回路204から入力されるYC映像信号の圧縮・符号化を実施し、MPEG4の動画像ファイルを生成してメディア209へ保存し、静止画像記録が指示された場合にはJPEG圧縮を実施した画像ファイルをメディア209へ記録する。またメディア記録回路208は、動画像記録中に静止画像記録が指示され、9画素混合により画素数が縮小された画素混合読み出しモードの撮像素子出力のYC映像信号から全画素読み出しモードのYC映像信号へピクセルサイズが増加しフレームレートが変更された場合にも、それまでの動画像のピクセルサイズへYC映像信号入力からリサイズし、フレームレートの低下はフレームレート変更前の直前コマのフレームの映像信号で補完することで、動画像記録が途切れることなく同時に静止画像ファイルをメディア209へ記録可能な機能を有する。
画像表示回路210は、画像処理回路204から入力されるYC映像信号をLCD等の表示デバイス211へのインターフェイス信号へ変換して出力する。
コントローラ206は、図示しないユーザーインターフェイス部の第1の操作により動画像記録開始指示が入力されると、撮像素子201に対して画素混合読み出しモードでの起動をかけ、メディア記録回路208に動画像記録開始を指示する。あわせてレンズ駆動ユニット207へ所定量焦点を変位させる指示をしながら、コントラスト検波回路205から入力される被写体コントラスト情報の大小関係を追跡することでコントラストのピークを検出する、いわゆる山登りAFを実施する。この時の被写体コントラスト情報は9画素混合された映像信号では空間的なLPFがかかって検出できない空間周波数の高周波成分を使用しているので、動画像のみならず全画素読み出しモードでのピント精度に耐えうる焦点調整が可能であることは前述の通りである。
コントローラ206は、図示しないユーザーインターフェイス部の第2の操作により動画像記録中に静止画像記録が指示されると、撮像素子201へ全画素読み出しモードのモード選択を出力し、メディア記録回路208に対して全画素読み出しモードで撮像素子201から出力され画像処理回路204で生成されたYC映像信号に対し、動画像記録を継続しながら静止画像圧縮処理して解像度の高い静止画像をメディア209へ記録するよう指示する。
以上のことから、動画像生成用の画素混合読み出しモードで撮像素子201を動作させている状態から全画素読み出しモードへ移行する場合に、特段の焦点調整のための撮像素子201の駆動モードへ切り替えることなく、画素混合読み出しモード状態にて静止画像生成用の全画素読み出しにおけるYC映像信号のピント状態を保証できる高い精度の焦点調整が行えるため、本実施の形態のようにユーザーの第2の操作により動画像生成状態からタイムラグを生じることなくシームレスに静止画像記録へ移行でき、ユーザーの狙った瞬間を切り取るという静止画像の本質的な要件を満たすことができる。また、通常全画素の映像信号から被写体コントラスト情報を得る場合は対象とするエリア内の画素セル出力に対して複数タップのバンドパスフィルタを構成し特定の空間周波数成分を抽出する必要があるが、本実施の形態では出力Bが既に空間的なバンドパスフィルタと同等な特性を持った信号であるため、非常に少ない回路規模でコントラストを検波する手段を構成でき、かつ動作する構成回路が少ないことから低消費電力化できるという利点がある。また、撮像素子201の内部で生成する出力Bは同色位相の9画素の画素セル出力の混合成分と重心位置の画素セル出力成分という非常に相関性の高い成分間の差分であることから、簡便な追加回路にて符号化処理が可能であり、出力Aに対して出力Bのデータ長を低減することが可能であるので、更なる低消費電力化の効果もある。
図7は、撮像素子の第2の実施の形態を示す図であり、第1の実施の形態である図1との違いは、メモリ回路108に入力される信号が画素混合された映像信号と画素混合される範囲の重心位置にある画素セルの出力信号との差分成分信号ではなく、画素混合される範囲の列方向で中心に位置する画素セルの映像信号が入力される点と、出力A及び出力Bの次段に出力第2セレクタ110を有する点とである。出力第2セレクタ110は、制御信号としてタイミングジェネレータ102から出力され水平走査第3セレクタ106に入力される制御信号S43が同じく入力され、制御信号S43のローレベル入力では出力セレクタ109から入力される出力Aの映像信号を、制御信号S43のハイレベル入力では水平走査第3セレクタ106からの出力である出力Bをそれぞれ出力Wから出力する。
次に、図8を用いて、図7に示す撮像素子の動画像生成時の動作である画素混合読み出しモードを説明する。タイミングジェネレータ102から出力される選択信号S11,S12,S13,S14,S15・・・と、カラムAD群103に対する制御信号S31と、累積加算正規化器107に対するリセットのための制御信号S32と、累積加算制御を行う制御信号S33と、メモリ回路108の記憶保持制御のための制御信号S34との、垂直同期信号VD及び水平同期信号HDに対するタイミングは、第1の実施の形態と同様である。タイミングジェネレータ102からメモリ回路108へ記憶保持を指示する制御信号S34のハイパルス出力後、水平走査第2セレクタ105を動作させる制御信号S42のハイレベル信号が入力されるので、例えば第1番目の水平同期期間では出力Aを経由して出力Wから図8中のA1のタイミングで画素セルP11,P12,P13,P14,P15・・・とP31,P32,P33,P34,P35・・・とP51,P52,P53,P54,P55・・・に対して同色位相の9画素混合された映像信号が行方向の順次で出力される。この後、第2番目の水平同期期間の開始を示す水平同期信号HDのハイパルスが入力されたところで、水平走査第3セレクタ106を動作させる制御信号S43のハイレベル信号がタイミングジェネレータ102より出力するので、出力Bを経由して出力Wから、A1のタイミングで混合出力された9画素の中心位置、つまりは重心位置に位置する画素セルP33,P36・・・の映像信号が、C1のタイミングで行方向のA1と対応する順次で出力される。
次に、第2番目の水平同期期間のA2のタイミングでは、画素セルP41,P42,P43,P44,P45・・・とP61,P62,P63,P64,P65・・・とP81,P82,P83,P84,P85・・・に対して同色位相の9画素混合された映像信号が行方向の順次で出力Wから出力され、第3番目の水平同期期間のC2のタイミングでP63,P66・・・の映像信号が行方向のA2と対応する順次で出力される。図8中のA3及びC3、A4、Cxについても同様である。また、静止画像生成時の全画素読み出しモードでは、第1の実施の形態である図4と同じ制御手順となり、図4中の出力Aが出力Wを介して出力される。
次に、図9にて、撮像装置全体の回路構成を説明する。撮像素子201は、前述した図7の撮像素子である。この撮像素子201から出力された出力Wは、画像処理回路204a及びコントラスト検波回路205aに入力される。コントローラ206から撮像素子201へ出力される画素混合読み出しモード又は全画素読み出しモードのいずれかを示すモード選択信号MODEは、画像処理回路204a及びコントラスト検波回路205aへも入力される。
画像処理回路204aは、モード選択信号MODEが画素混合読み出しモードを示す状態では図8中のA1、A2、A3・・・で出力される9画素混合されたデジタル映像信号をもとに、空間補間処理が実施されたYC映像信号を生成してメディア記録回路208及び画像表示回路210へ出力し、全画素読み出しモード時は各水平同期期間に出力される全画素セルのデジタル映像信号からYC映像信号を生成してメディア記録回路208及び画像表示回路210へ出力する。
コントラスト検波回路205aは、画素混合読み出しモードにおいてのみ動作し、図8中のA1で入力された9画素混合信号とC1で入力された混合される9画素の画素セルの重心位置に位置する画素セルの出力信号との差分成分を各々混合された画素セルの単位毎に算出し、撮像素子201の画素セルアレイの画角に対して予め検出エリアとして設定されている範囲内の画素セルのうちで輝度成分に最も近い色位相を持つ画素色成分、例えばベイヤー配列CFAを持つ撮像素子の場合はグリーンフィルタを有する画素セルに対応する上記差分成分の加算平均値を算出し、コントラスト情報としてコントローラ206へ出力する。上述以外の構成については第1の実施の形態と同じとなっている。
以上のことから、コントラスト検波回路205aでは第1の実施の形態のコントラスト検波回路205と同様な効果を持つコントラスト情報を得ることができるため、動画像生成状態からタイムラグを生じることなくシームレスに静止画像記録へ移行でき、ユーザーの狙った瞬間を切り取るという静止画像の本質的な要件を第1の実施の形態と同じく満たすことができる。また、第2の実施の形態では画素混合読み出しモードで混合する対象の3行の画素セル出力のAD変換中に1つ前の水平同期期間でAD変換されメモリ回路108に記憶保持された各混合範囲の重心位置の画素セル出力を読み出しており、第1の実施の形態に比べてフレームレートを低下させることなく出力Aと出力Bとを1系統出力に多重化して出力するため、第1の実施の形態に比べて撮像素子201の端子数の削減が可能である。したがって、撮像素子201自体の小型化や、当該撮像素子201から引き出す配線部材などの電気部品の小型化が可能となり、フレームレートという重要な動画像性能を劣化させることなく撮像装置全体の小型化が可能となる効果がある。
本発明によって、モアレの少ない良好な動画像を取得しながら高い精度で焦点調整が可能な高解像度の静止画像の取得にシームレスに移行できるので、デジタルスチルカメラ又はデジタルビデオカメラの静止画像と動画像との機能融合による高付加価値化のみならず、動画像を記録しながら特定の場面で高解像の静止画像記録を必要とするような用途の監視カメラや、車載分野におけるドライブレコーダ等において利用可能性がある。
本発明の第1の実施の形態に係る撮像装置における撮像素子の構成を示すブロック図である。 図1中の個々の画素セルの等価回路図である。 図1の撮像素子の画素混合読み出しモードにおける動作を示すタイミング図である。 図1の撮像素子の全画素読み出しモードにおける動作を示すタイミング図である。 図1の撮像素子を用いた撮像装置の全体回路構成を示すブロック図である。 図1中の出力Bの信号特性を説明するための空間周波数特性図である。 本発明の第2の実施の形態に係る撮像装置における撮像素子の構成を示すブロック図である。 図7の撮像素子の画素混合読み出しモードにおける動作を示すタイミング図である。 図7の撮像素子を用いた撮像装置の全体回路構成を示すブロック図である。
符号の説明
101 画素セルアレイ
102 タイミングジェネレータ
103 カラムAD群
104 水平走査第1セレクタ
105 水平走査第2セレクタ
106 水平走査第3セレクタ
107 累積加算正規化器
108 メモリ回路
109 出力セレクタ
110 出力第2セレクタ
201 撮像素子
202 レンズユニット
203 同期信号発生器
204,204a 画像処理回路
205,205a コントラスト検波回路
206 コントローラ
207 レンズ駆動ユニット
208 メディア記録回路
209 メディア
210 画像表示回路
211 表示デバイス
301 フォトダイオード
302 読み出しトランジスタ
303 フローティングディフュージョン
304 リセットトランジスタ
305 アンプ

Claims (9)

  1. 行列状に配置された複数の画素セルを有する固体撮像素子を備えた静止画像及び動画像撮像装置であって、
    静止画像生成のための全画素を読み出す全画素読み出し手段と、
    動画像生成のための行方向及び列方向のうち少なくとも1方向の複数画素を混合して読み出す画素混合読み出し手段と、
    前記画素混合読み出し手段と同時に動作可能でありかつ前記画素混合読み出し手段にて混合される画素の空間的な範囲内に含まれる画素の信号成分を読み出す混合内部分画素成分読み出し手段とを更に備え、
    前記全画素読み出し手段と前記画素混合読み出し手段とは排他的に動作することを特徴とする静止画像及び動画像撮像装置。
  2. 請求項1記載の静止画像及び動画像撮像装置において、
    前記混合内部分画素成分読み出し手段にて読み出される信号は、前記画素混合読み出し手段にて混合される画素の重心位置に最も近い画素の映像信号を含む信号であることを特徴と静止画像及び動画像撮像装置。
  3. 請求項1記載の静止画像及び動画像撮像装置において、
    前記固体撮像素子は、行列状に配置されかつ2×2画素の単位で色位相コーディングが施されたカラーフィルタアレイを有し、
    前記画素混合読み出し手段は、行方向で2n+1(nは自然数)画素と列方向で2m+1(mは自然数)画素との範囲を単位とする同色位相画素を混合し、混合される画素の重心同士は行方向で2n+1のピッチ、列方向で2m+1のピッチとなることを特徴とする静止画像及び動画像撮像装置。
  4. 請求項2記載の静止画像及び動画像撮像装置において、
    前記混合内部分画素成分読み出し手段にて読み出される信号は、前記画素混合読み出し手段にて混合される画素の重心位置に最も近い画素の映像信号と、前記混合された画素の映像信号との差分成分からなる信号であることを特徴とする静止画像及び動画像撮像装置。
  5. 請求項3記載の静止画像及び動画像撮像装置において、
    前記混合内部分画素成分読み出し手段にて読み出される信号は、前記画素混合読み出し手段にて混合された画素の映像信号と、行方向で2n+1(nは自然数)画素と列方向で2m+1(mは自然数)画素の範囲の同色位相画素の各混合された単位毎で空間的に中心に位置する画素の映像信号との差分成分からなる信号であることを特徴とする静止画像及び動画像撮像装置。
  6. 請求項1記載の静止画像及び動画像撮像装置において、
    前記混合内部分画素成分読み出し手段にて読み出される信号から被写体のコントラスト情報を検波するコントラスト検波手段を更に備えたことを特徴とする静止画像及び動画像撮像装置。
  7. 請求項6記載の静止画像及び動画像撮像装置において、
    前記固体撮像素子に被写体像を結像するレンズ手段と、
    前記固体撮像素子への前記レンズ手段のピント状態を変化させる焦点調整手段と、
    前記コントラスト検波手段から得られる被写体像のコントラスト情報から前記焦点調整手段に対して被写体像のコントラストが最大振幅となるようピント調整を行う制御手段とを更に備えたことを特徴とする静止画像及び動画像撮像装置。
  8. 請求項6記載の静止画像及び動画像撮像装置において、
    前記コントラスト検波手段は、前記混合内部分画素成分読み出し手段にて信号が読み出される対象画素の中で、被写体像のコントラスト情報は前記固体撮像素子の画素セルが並ぶ受光エリアの中で予め設定された所定のエリア内にある対象画素の信号成分を加算平均化して前記コントラスト情報を生成することを特徴とする静止画像及び動画像撮像装置。
  9. 請求項1記載の静止画像及び動画像撮像装置において、
    前記固体撮像素子は、前記画素混合読み出し手段により読み出される映像信号と前記混合内部分画素成分読み出し手段により読み出される信号とを多重化して1系統の信号として出力することを特徴とする静止画像及び動画像撮像装置。
JP2008173464A 2008-07-02 2008-07-02 静止画像及び動画像撮像装置 Expired - Fee Related JP5207853B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008173464A JP5207853B2 (ja) 2008-07-02 2008-07-02 静止画像及び動画像撮像装置
PCT/JP2009/001936 WO2010001517A1 (ja) 2008-07-02 2009-04-28 静止画像及び動画像撮像装置
CN2009801136824A CN102007762B (zh) 2008-07-02 2009-04-28 静态图像以及动态图像摄像装置
US12/887,983 US8274576B2 (en) 2008-07-02 2010-09-22 Still image and moving image capturing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008173464A JP5207853B2 (ja) 2008-07-02 2008-07-02 静止画像及び動画像撮像装置

Publications (2)

Publication Number Publication Date
JP2010016536A true JP2010016536A (ja) 2010-01-21
JP5207853B2 JP5207853B2 (ja) 2013-06-12

Family

ID=41465626

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008173464A Expired - Fee Related JP5207853B2 (ja) 2008-07-02 2008-07-02 静止画像及び動画像撮像装置

Country Status (4)

Country Link
US (1) US8274576B2 (ja)
JP (1) JP5207853B2 (ja)
CN (1) CN102007762B (ja)
WO (1) WO2010001517A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013047080A1 (ja) * 2011-09-29 2013-04-04 富士フイルム株式会社 立体画撮像装置
JP2014072541A (ja) * 2012-09-27 2014-04-21 Nikon Corp 撮像素子および撮像装置
JP2017188926A (ja) * 2017-05-25 2017-10-12 株式会社ニコン 撮像素子および撮像装置
JP2020074548A (ja) * 2020-01-06 2020-05-14 株式会社ニコン 撮像素子および撮像装置

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8657200B2 (en) 2011-06-20 2014-02-25 Metrologic Instruments, Inc. Indicia reading terminal with color frame processing
US9144914B2 (en) 2011-06-30 2015-09-29 Rolling Razor, Inc. Razor cartridge with reduced part count and expanded range of motion
CN103325157A (zh) * 2012-03-23 2013-09-25 天瀚科技股份有限公司 可以点击放大取像的行车录影方法及装置
JP6124697B2 (ja) * 2012-07-12 2017-05-10 キヤノン株式会社 撮像素子
JP6062800B2 (ja) * 2013-05-24 2017-01-18 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像表示システム
CN103458188B (zh) * 2013-08-30 2016-08-10 广东明创软件科技有限公司 基于多镜头摄像头的照片拍摄、浏览方法及移动终端
JP6270400B2 (ja) * 2013-10-09 2018-01-31 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US9679216B2 (en) * 2015-05-07 2017-06-13 The United States Of America As Represented By The Secretary Of The Air Force Morphological automatic triangle orientation detection
US10547803B2 (en) * 2016-09-30 2020-01-28 Canon Kabushiki Kaisha Imaging apparatuses, systems, and moving imaging objects
WO2018092326A1 (ja) * 2016-11-17 2018-05-24 パナソニック液晶ディスプレイ株式会社 表示装置
US10313611B2 (en) * 2017-06-03 2019-06-04 United Microelectronics Corp. Image sensor with pixel binning device
JP7356266B2 (ja) * 2018-08-31 2023-10-04 キヤノン株式会社 撮像装置、撮像システム、および撮像装置の駆動方法
WO2020045278A1 (en) * 2018-08-31 2020-03-05 Canon Kabushiki Kaisha Imaging device with motion dependent pixel binning

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005092081A (ja) * 2003-09-19 2005-04-07 Matsushita Electric Ind Co Ltd 自動焦点調節方法、および自動焦点調節カメラ
JP2005107252A (ja) * 2003-09-30 2005-04-21 Matsushita Electric Ind Co Ltd 固体撮像装置
JP2005277513A (ja) * 2004-03-23 2005-10-06 Olympus Corp 固体撮像装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6452632B1 (en) * 1997-01-31 2002-09-17 Kabushiki Kaisha Toshiba Solid state image sensor and video system using the same
JP3877695B2 (ja) 2003-04-03 2007-02-07 松下電器産業株式会社 カラー固体撮像装置
EP1753224A1 (en) * 2004-05-31 2007-02-14 Matsushita Electric Industrial Co., Ltd. Solid-state imaging device
JP2007150439A (ja) * 2005-11-24 2007-06-14 Sony Corp 撮像装置、撮像方法、およびプログラム
JP4813235B2 (ja) * 2006-04-05 2011-11-09 パナソニック株式会社 固体撮像装置および固体撮像素子の駆動方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005092081A (ja) * 2003-09-19 2005-04-07 Matsushita Electric Ind Co Ltd 自動焦点調節方法、および自動焦点調節カメラ
JP2005107252A (ja) * 2003-09-30 2005-04-21 Matsushita Electric Ind Co Ltd 固体撮像装置
JP2005277513A (ja) * 2004-03-23 2005-10-06 Olympus Corp 固体撮像装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013047080A1 (ja) * 2011-09-29 2013-04-04 富士フイルム株式会社 立体画撮像装置
JP2014072541A (ja) * 2012-09-27 2014-04-21 Nikon Corp 撮像素子および撮像装置
US20150256778A1 (en) 2012-09-27 2015-09-10 Nikon Corporation Image sensor and image-capturing device
US10270999B2 (en) 2012-09-27 2019-04-23 Nikon Corporation Image sensor and image-capturing device
US11032506B2 (en) 2012-09-27 2021-06-08 Nikon Corporation Image sensor and image-capturing device
US11405576B2 (en) 2012-09-27 2022-08-02 Nikon Corporation Image sensor and image-capturing device
JP2017188926A (ja) * 2017-05-25 2017-10-12 株式会社ニコン 撮像素子および撮像装置
JP2020074548A (ja) * 2020-01-06 2020-05-14 株式会社ニコン 撮像素子および撮像装置
JP2021101551A (ja) * 2020-01-06 2021-07-08 株式会社ニコン 撮像素子
JP7314962B2 (ja) 2020-01-06 2023-07-26 株式会社ニコン 撮像素子及び撮像装置

Also Published As

Publication number Publication date
CN102007762B (zh) 2013-02-13
US8274576B2 (en) 2012-09-25
US20110013033A1 (en) 2011-01-20
JP5207853B2 (ja) 2013-06-12
CN102007762A (zh) 2011-04-06
WO2010001517A1 (ja) 2010-01-07

Similar Documents

Publication Publication Date Title
JP5207853B2 (ja) 静止画像及び動画像撮像装置
US7679657B2 (en) Image sensing apparatus having electronic zoom function, and control method therefor
JPH10210367A (ja) 電子的撮像装置
JP4616429B2 (ja) 画像処理装置
JP4622790B2 (ja) 撮像素子および撮像装置
JP2005072966A (ja) 固体撮像素子及び撮像装置
JP2001275028A (ja) デジタルカメラ
JP2009021985A (ja) 撮像装置及び撮像装置の駆動方法
JP2005217955A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2006261929A (ja) 撮像装置
JP4199381B2 (ja) 固体撮像装置および固体撮像素子駆動方法
JP3738654B2 (ja) デジタルカメラ
JP2008270832A (ja) 固体撮像素子及び撮像装置
JP5550333B2 (ja) 撮像装置、現像方法及びプログラム
JP2010171856A (ja) 撮像装置
JPH09247543A (ja) ディジタル電子撮像装置
EP2418840A2 (en) Imaging apparatus and signal processing method generating high quality image data
JP2005012403A (ja) デジタルカメラ及び画像情報取得方法
JP3965146B2 (ja) 電子的撮像装置
JP4630200B2 (ja) 固体撮像素子および撮像装置
JP3999417B2 (ja) 固体撮像装置および信号読出し方法
JP4055052B2 (ja) デジタルカメラ
JP2006148591A (ja) 固体撮像装置および固体撮像素子駆動方法
JP2007174474A (ja) 撮像装置
JP2007006071A (ja) 撮像装置、撮像素子の駆動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110701

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130219

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160301

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees