JPWO2004068852A1 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JPWO2004068852A1 JPWO2004068852A1 JP2005504684A JP2005504684A JPWO2004068852A1 JP WO2004068852 A1 JPWO2004068852 A1 JP WO2004068852A1 JP 2005504684 A JP2005504684 A JP 2005504684A JP 2005504684 A JP2005504684 A JP 2005504684A JP WO2004068852 A1 JPWO2004068852 A1 JP WO2004068852A1
- Authority
- JP
- Japan
- Prior art keywords
- readout
- image
- read
- unit
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
- H04N25/136—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
Description
上記電子スチルカメラの画質を決定する要素は幾つかあるが、その中でも撮像素子の画素数は撮影像の解像度を決定する大きな要素である。そのため、最近は500万画素以上の多くの画素数を持った電子スチルカメラも幾つか商品化されている。しかしながら、全ての用途において、500万画素のデータが必ずしも必要なわけではなく、逆にインターネットのWeb上に表示する画像は、むしろ画素サイズを小さくした方を使用する場合が多い。
さらに、現状のデジタルカメラにおいては、撮像素子から、画像メモリーへの転送の時間がネックになっており、画素数が大きい機種で、高速な連写撮影が出来るものが少ない。また、デジタルカメラにおいても、付加機能として動画の撮影の要求があるため、やはり、メモリーへの転送は高速に行なわなければならず、予め扱うデータ量を少なくすることが好ましい。
出力画像の画素数が、撮像素子の画素数に比べて少ない場合には、予め、使用する画素数を制限することや複数の画素を平均化して1クロックで読み出すことによって、撮像素子からメモリーに転送されるデータ量を減らし、メモリー転送の速度を向上できる。
一方、線形補間によるサイズ縮小では、全ての画素を使用して、大きいサイズの画像を作成し、線形補間によって小さいサイズの画像を作成する。
このような、線形補間によるリサイズは、画質の面では良好であるが、全画素のデータを取り込んで線形補間を行なうために演算量が多く、上述した連写機能や動画撮影には適していない。
メモリー読み出しのデータ量を減らす手法としては、撮像素子に積分機能を付けて、平均化した少数のデータを読み出し、縮小画像を生成する方法がある。特開2001−245141号公報は、この方法を利用した高速な画像の縮小方法を開示している。
特開2001−016441号公報は、解像度の種類が限定されている場合に、データの間引きを行ない、さらにデータの歪みを補正する装置を開示している。同文献は、実施の形態において、600dpiの解像度を持つ装置による400dpi相当のデータの作成を開示している。600dpiのデータをそのまま間引いたのではデータの歪みが生じるため、位置の歪みを補償する画素データを600dpiのデータから線形補間によって生成している。特開2001−016441号公報の装置では、走査して得た600dpiのデータの全てを用いて補間し、400dpi相当のデータを作っている。
本発明に従う撮像装置は撮像デバイスを有し、撮像デバイスは、光学像を光電変換して画像データを取得する光電変換素子と、前記光電変換素子で取得された画像データを供給される読み出し規則に従って読み出す読み出し制御部とを含んでいる。撮像装置はさらに、出力する画像の変倍率を選択する画像変倍率選択部と、選択された画像変倍率に応じて光電変換素子から読み出し制御部が読み出す画像データの読み出し方式を選択する読み出し方式選択部と、読み出し方式選択部で選択された読み出し方式に応じた読み出し規則を前記読み出し制御部に供給する読み出し規則供給部とを有している。
図2は、RG/GBのベイヤー配列の画像に対して、垂直で14/16の縮小変換を行なう例を示している。
図3は、図2に示した変換において、変換前の16画素のうち上から8番目の画素のデータと9番目の画素のデータが抜け落ちた様子を示している。
図4は、水平方向・垂直方向共に16画素のうち2画素を間引きして読み出す例を示している。
図5は、図4の例に従って間引きして読み出される画素データのうち左の1列目の垂直方向のデータに関して歪み補正の変換の様子を示している。
図6は、水平方向・垂直方向共に8画素のうち2画素を間引きして読み出す例を示している。
図7は、単板カラー撮像素子で構成される光電変換素子用のフィルター処理部の構成を示している。
図8は、単色モノクロ撮像素子または多板カラー撮像素子で構成される光電変換素子用のフィルター処理部の構成を示している。
図9は、間引き読み出し+歪み補正の処理に従うサイズ変更を表している。
図10は、平均化読み出し+線形補間の処理に従うサイズ変更を表している。
図11は、図1の撮像装置における画像変倍率に応じた読み出し方式の切り換えとサイズ変更を示している。
図12は、本発明の第二実施形態による撮像装置の構成を示している。
図13は、水平平均化垂直インターレース読み出しによって読み出される、一つのフレームを構成する時系列的に隣接する二つのフィールドの画素データを模式的に示している。
図14は、間引き読み出しと読み出し範囲の基準位置のシフトの処理によって読み出される、時系列的に隣接する二つのフレームの同一範囲の画素データを模式的に示している。
図15は、6/8の間引き読み出しの繰り返しによる読み出しにおける、読み出し範囲の読み出し開始位置が光電変換素子の画素配列の左上の画素に合っているフレームの読み出し範囲を示している。
図16は、6/8の間引き読み出しの繰り返しによる読み出しにおける、読み出し範囲の読み出し終了位置が光電変換素子の画素配列の右下の画素に合っているフレームの読み出し範囲を示している。
図17は、本発明の第三実施形態による撮像装置の構成を示している。
第一実施形態
図1は本発明の第一実施形態の撮像装置の構成を示している。撮像装置100は、被写体の光学像を結像する結像光学系110と、結像光学系110により結像された光学像の所定の領域の画像信号を出力する撮像デバイス120とを有している。撮像デバイス120は、結像光学系110により結像された光学像を光電変換して画像データ(画素データの集合)を取得するエリア状の光電変換素子(撮像素子)122と、光電変換素子122で取得された画像データを供給される読み出し規則に従って読み出す読み出し制御部124とを有している。
撮像装置100はさらに、出力する画像の変倍率を選択する画像変倍率選択部132と、選択された画像変倍率に応じて光電変換素子122から読み出し制御部124が読み出す画像データの読み出し方式を選択する読み出し方式選択部134と、読み出し方式選択部134で選択された読み出し方式に応じた読み出し規則を撮像デバイス120に供給する読み出し規則供給部140とを有している。
読み出し方式選択部134は、選択された画像変倍率に応じて、間引き読み出しモード・平均化読み出しモード・全画素読み出しモードのいずれかの読み出し方式を選択する。読み出し規則供給部140は、間引き読み出しモードに対応する読み出し規則を設定する間引き読み出し規則設定部142と、平均化読み出しモードに対応する読み出し規則を設定する平均化読み出し規則設定部144と、全画素読み出しモードに対応する読み出し規則を設定する全画素読み出し規則設定部146とを含んでいる。
読み出し規則供給部140は、読み出し方式選択部134が選択した読み出し方式に対応する間引き読み出し規則設定部142と平均化読み出し規則設定部144と全画素読み出し規則設定部146のいずれかを選択的に動作させる。これにより、読み出し方式選択部134が選択した読み出し方式に対応する読み出し規則が読み出し制御部124に供給され、読み出し制御部124は、読み出し規則供給部140から供給される読み出し規則に従って光電変換素子122から画素データを読み出す。
読み出し方式選択部134は、より詳しくは、100%未満の画像変倍率すなわち画像の縮小に対しては、間引き読み出しモードと平均化読み出しモードのいずれかを選択し、100%以上の画像変倍率すなわち画像の拡大に対しては、全画素読み出しモードを選択する。ここで、画像変倍率は、光電変換素子122で取得される二次元的に整列した画素データの領域(水平・垂直範囲の画素数)に対して、出力(例えば画像表示部174に表示)する画像の二次元的に整列した画素データのサイズ(水平・垂直範囲の画素数)比率のことである。
さらに、読み出し方式選択部134は、100%未満の画像変倍率においては、画像変倍率と、出力する画像の画質の要因(コントラスト・解像度・歪み・輝度モアレ・色モアレ)のうち重視する要因とに基づいて、間引き読み出しモードと平均化読み出しモードのいずれかを選択する。別の言い方をすれば、読み出し方式選択部134は、100%未満の画像変倍率においては、画像変倍率と想定する被写体とに基づいて、間引き読み出しモードと平均化読み出しモードのいずれかを選択する。
撮像装置100はさらに、間引き読み出しモードのときに撮像デバイス120から出力される画像信号に対して歪み補正を行なう歪み補正部150と、平均化読み出しモードと全画素読み出しモードのときに撮像デバイス120から出力される画像信号に対して線形補間によりサイズ変更を行なう線形補間サイズ変更部164と、読み出し方式選択部134で選択された読み出し方式に応じて撮像デバイス120から出力される画像信号を歪み補正部150と線形補間サイズ変更部164のいずれかに選択的に送る切り換え器162とを有している。
切り換え器162は、読み出し方式選択部134が間引き読み出しモードを選択したときには撮像デバイス120からの画像信号を歪み補正部150に送り、読み出し方式選択部134が平均化読み出しモードまたは全画素読み出しモードを選択したときには撮像デバイス120からの画像信号を線形補間サイズ変更部164に送る。
歪み補正部150は、撮像デバイス120からの画像信号をフィルター処理するフィルター処理部152と、間引き読み出し規則設定部142で設定された読み出し規則に応じてフィルター処理部152のフィルター処理に使用するフィルター係数を設定するフィルター係数設定部154とを含んでいる。
フィルター係数設定部154は、複数のフィルター係数を含むルックアップテーブル(LUT)を記憶するLUT記憶部156と、LUT記憶部156に記憶されているルックアップテーブルからフィルター係数を選択するフィルター係数選択部158とを有している。
フィルター係数設定部154は、必ずしもLUT記憶部156とフィルター係数選択部158とを有している必要はなく、間引き読み出し規則設定部142が設定した読み出し規則に応じた演算によりフィルター係数を算出してもよい。
LUTを使用するフィルター係数設定部154は、LUTを記憶しておくために多くのメモリーを必要とするが、演算に掛かる負担が少なくて済む。一方、LUTを使用しないフィルター係数設定部154は、演算に掛かる負担は大きいが、多くのメモリーを必要としないで済む。
撮像装置100はさらに、間引き読み出しモードのときに歪み補正部150から出力される画像信号または平均化読み出しモードと全画素読み出しモードのときに線形補間サイズ変更部164から出力される画像信号に対して(ホワイトバランスや階調変換やエッジ強調の)所定の処理を行なう画像信号処理部172と、画像信号処理部172から出力される画像信号に従って画像を表示する画像表示部174と、画像信号処理部172から出力される画像信号に従って画像を記録する画像記録部176とを有している。
撮像デバイス120は、間引き読み出し動作が可能である。間引き読み出し動作により、撮像デバイス120は、光電変換素子122上の特定の領域の画素を、全画素を読み出す場合よりも短い時間内で読み出すことが出来る。
例えば、光電変換素子122がCMOSを用いた撮像素子である場合、撮像デバイス120は、水平方向・垂直方向共にシフトレジスタを用いて読み出し位置を指定することが出来る。
すなわち、jラインi番目の素子をC(i,j)とし、そこから水平方向の画素をそれぞれC(i+1,j)、C(i+2,j)、C(i+3,j)、C(i+4,j)、C(i+5,j)、C(i+6,j)、C(i+7,j)、C(i+8,j)…とすると、例えば、C(i+1,j)、C(i+2,j)、C(i+3,j)、C(i+4,j)、C(i+7,j)、C(i+8,j)…というように、任意の水平方向の位置を間引いて読み出すことが出来る。
垂直方向についても同様で、jライン、j+1ライン、j+2ライン…とライン方向に並んでいる画素に対して、任意のラインを間引いて読み出すことが出来る。
また、光電変換素子122がCCDである場合、CCDは水平方向に電荷をシフトしながら読み出すため、撮像デバイス120は、水平方向には全画素を読み出し、垂直方向では間引いて読み出すことが出来る。
歪み補正部150は、このように間引き読み出しされたデジタル画像データに対して、欠落している情報を補間するとともに倍率変換のフィルター処理を行なう。つまり、本明細書において、歪み補正とは、「補間」と「倍率変換」を同時に行なうことを意味している。
双一次補間に関して、倍率変換を有理数(整数比)に制限し、一次補間を二回繰り返す様にすると、アルゴリズムは単純化される。図2は、RG/GBのベイヤー配列の画像に対して、水平方向で14/16の縮小変換を行なう例を示している。図2において、上段は縮小変換前の画素の一次元データ配列を示し、下段は縮小変換後の画素の一次元データ配列を示している。
次の式(1)はこの変換の行列表現である。
式(1)において、Ri2pとGi2p+1(pは0以上7未満の整数)は、光電変換素子122内における水平方向に連続して並んでいる画素の画素データを表しており、水平方向に並ぶ画素の位置に対応して連続する添字を有している。また、Rc2qとGc2q+1(qは0以上6未満の整数)は、変換後の画素データを表しており、水平方向に並ぶ画素の位置に対応して連続する添字を有している。
例えば変換後のRc2はRi2とRi4を使って次の式(2)で表される。
前述の式(1)は、各画素がこのように変換される16画素から14画素への変換をまとめて表現している。
図3は、図2に示した変換において、変換前の16画素のうち左から8番目の画素のデータと9番目の画素のデータが抜け落ちた様子を示している。この場合、抜け落ちた画素データRi8とGi9は、それぞれ同じチャンネルで近接している画素データ(Ri8に対してRi6とRi10、Gi9に対してGi7とGi11)を用いて、次の式(3)に従って線形補間されるとよい。
式(1)中のRi8とGi9を式(3)に従って置き換えると式(4)の様になる。
式(4)の右辺の16個のデータ列Ri0、Gi1、…、Ri14、Gi15は、
と表現できる。これを式(4)に代入して行列の積を計算すると、次の式(6)が得られる。
これは、14個の画素データの入力に対して14個の画素データの出力を持つ、式(4)と等価な変換である。言い換えれば、画素データRi8とGi9を除く14個の画素データから、14/16の縮小変換後の14個の画素データを求める変換である。
図4は水平方向・垂直方向共に16画素のうち2画素を間引きして読み出す例を示している。この例では水平方向・垂直方向共に8番目の画素と9番目の画素が間引きされている。
図5は、図4の例に従って間引きして読み出される画素データのうち左の1列目の変換の様子を示している。図5に示されるように、実際に読み出される画素データは、垂直方向に、Ri0、Gi1、Ri2、Gi3、Ri4、Gi5、Ri6、Gi7、Ri10、Gi11、Ri12、Gi13、Ri14、Gi15の14個である。
式(6)は、8番目(8行目)と9番目(9行目)の画素データを間引きして読み出した14個の画素データから、14/16の縮小変換後の14個の画素データを求める変換と等価である。
式(6)の行列表現による線形演算の式を見て分かるように、画素間引きを行なっているため、歪み補正後の異なる位置の画素データRc6とRc8は、元の画素データRi6とRi10の重み付き線形和
となっており、画素データRc8を求める際に用いる画素データが、画素データRc6を求める際に用いる画素データと同じになっている。すなわち、画素データRc8を求める際に用いる画素データは、それまでの画素データRc1〜Rc6を求める際に用いる画素データの順序と相違している(すなわち位相がずれている)。画素データGc7とGc9についても同様のことが言える。
図5に示されるように、実際に読み出される画素データは、Ri0、Gi1、Ri2、Gi3、Ri4、Gi5、Ri6、Gi7、Ri10、Gi11、Ri12、Gi13、Ri14、Gi15の14個である。これらを、それぞれ、Rj0、Gj1、Rj2、Gj3、Rj4、Gj5、Rj6、Gj7、Rj8、Gj9、Rj10、Gj11、Rj12、Gj13とおく。すなわち、
とおく。
Ri2pとGi2p+1(pは0以上7未満の整数)は、前述したように、光電変換素子122内の水平方向に並んでいる画素の画素データを表しており、添字が飛んでいる部分は、読み出しの際に間引きされていることを示している。一方、Rj2rとGj2r+1(rは0以上6未満の整数)は、画素間引き読み出しによって、実際に読み出される画素データを表しており、読み出される順番に対応して連続する添字を有している。
式(8)を式(6)に代入すると、次の式(9)が得られる。
これは、画素間引き読み出しにより実際に順番に読み出される14個の画素データから14/16縮小変換後の14個の画素データを求める歪み補正変換である。
以上の一次元歪み補正を二次元の配列に拡張すると以下のようになる。
式(9)を
と表す。ここで、Aは一次元の歪み補償を行なう変換行列(すなわち上述の例では16画素中2画素の間引きを行なっている14個の画素データに対する歪み補償)、Bは歪み補償前の画素データを表すn行1列の行列、Cは歪み補償後の画素データを表すn行1列の行列である。ここで、図4の読み出しデータを以下のような行列Diで表す。
式(11)では読み飛ばしている部分に線を引いている。均等な14×14画素の配列をD0とすると、水平方向の歪み補正後に垂直方向の歪み補正を行なう変換は、式(10)のAを用いて、
と表せられる。ここで、ATはAの転置行列を表している。
一次元の歪み変換、式(4)から式(6)への変形は以下の様に考えることもできる。
(1)位置Xの画素データが読み出され、位置X+2の画素データも読み出される場合は、画素データの重み係数には、式(4)の係数をそのまま用いる。
(2)位置Xの画素データが読み出され、位置X+2の画素データが読み出されない場合は、代わりに位置X+4の画素データを読み出す。位置Xの画素データの重み係数xをx’=0.5(x+1)に変更し、位置X+4の画素データの重み係数は、変更した係数x’の1に対する残差すなわち1−x’とする。
(3)位置Xの画素データが読み出されず、位置X+2の画素データが読み出される場合は、位置Xの読み出しの位置を2つ前にずらしX−2とする。また、位置X−2の画素データの重み係数xをx’=0.5xに変更し、位置X+2の画素データの重み係数は、変更した係数の1に対する残差すなわち1−x’とする。
従って、ルックアップテーブル(LUT)を使い、画素の読み出し位置と補正係数を対応づけて歪み補正を行なう代わりに、CPU等の演算処理機能を使用して読み出し規則から歪み補正の係数を直接算出することも出来る。
これまで、原色ベイヤー配列のカラー撮像素子における間引き読み出し後の歪み補正ついて説明したが、モノクロ撮像素子や他のカラーフィルタ配列に対しても同様に間引き読み出し後の歪み補正を行なえる。
光電変換読み出し部の画像信号をそのままメモリーに保存し、アドレス指定で演算すれば上述した位相の問題は回避できるが、ここではより高速なパイプライン処理について述べる。
図6は水平方向・垂直方向共に8画素のうち2画素を間引きして読み出す例を示している。ここでは、一例として、水平方向の間引きを伴う一行目の読み出しについて考える。図6の左上を基準とすると読み出した画素位置は、Ri0、Gi1、Ri2、Gi3、Ri4、Gi5、Ri6、Gi7となり、以下同じ規則の繰り返しになる。この例における歪み補正(変換)の行列表現は
となる。
そのパイプライン処理は、図7に示したフィルター処理部によって行なわれる。シフトレジスタ362は、クロックに従う一回の動作毎に、保持している画像データを右方向にひとつシフトする。セレクター364は、s1の状態に従って、シフトレジスタ362に保持されている隣接している五つの画素データのうちの一番目と三番目のいずれかを選択する。また、セレクター366は、s2の状態に従って、シフトレジスタ362に保持されている隣接している五つの画素データのうちの三番目と五番目のいずれかを選択する。
乗算器374は、セレクター364の出力d1に重み付け加算の係数k1を乗算し、乗算器376は、セレクター366の出力d2に重み付け加算の係数k2を乗算し、加算器378は、乗算器394の出力と乗算器396の出力とを加算する。
表1は図7に示したフィルター処理部のパイプライン処理の動作(状態遷移)を表している。
シフトレジスタ362に供給される画素データ列(i0、i1、i2、…)は、c1=i0、c2=i1、c3=i2、…を初期状態として、クロックに従う一回の動作毎に右方向にシフトしていく。これに伴い、セレクター364は、s1が0のときはc3を選択し(従ってd1=c3となり)、s1が1のときはc1を選択する(従ってd1=c1となる)。一方、セレクター366は、s2が0のときはc5を選択し(従ってd2=c5となり)、s2が1のときはc3を選択する(従ってd2=c3となる)。また、クロックに同期してフィルター係数設定部154内のメモリーから係数k1が乗算器374に、係数k2が乗算器376に供給される。加算器378からはout=k1×d1+k2×d2が出力される。
表1から分かるように、逐次データのシフト、s1とs2の状態に従ったセレクターの切り換え、式(6)に示した間引き規則に応じた重み付け係数k1とk2の出力、重み付け加算演算を同期して行なうことによって、画素の位相操作(セレクター切り換え)を含めたパイプライン処理が行なわれる。
また、撮像素子がベイヤー配列や補色フィルターの配列のようなCFA(Color Filter Arrays)以外の、モノクロや三板カラーの撮像素子の様に、単一の撮像素子上の色情報が一種類である場合には、ベイヤー配列のCFAのように歪み補正をする際に同一色の画素を扱うために一画素の間隔を空ける必要はなく、また、間引きの方法も上述の様に同一色の信号の位相を合わせるために(R、G、R、G、…というように読み出しの順序を一定にするために)二画素連続で空ける必要はない。
単色の撮像素子では、隣接した画素の重み付け加算をデータを選択しながら行なうので、歪み補正(変換)は、次の式(14)で表される。
ここで、Pcは変換後の画素データ、Piは変換元の画素データである。
そのパイプライン処理は、図8に示したフィルター処理部によって行なわれる。シフトレジスタ382は、クロックに従う一回の動作毎に、保持している画像データを右方向にひとつシフトする。セレクター384は、s1の状態に従って、隣接する三つの画素データのうちの一番目と二番目(C1,C2)の一方を選択する。また、セレクター386は、s2の状態に従って、隣接する三つの画素データのうちの二番目と三番目(C2,C3)の一方を選択する。
乗算器394は、セレクター384の出力d1に重み付け加算の係数k1を乗算し、乗算器396は、セレクター386の出力d2に重み付け加算の係数k2を乗算し、加算器378は、乗算器394の出力と乗算器396の出力とを加算する。
本実施形態の撮像装置は、間引き読み出しモードにおいては、光電変換素子で取得された画像データを少なくとも垂直方向について、好ましくは垂直方向と水平方向の両方についてハード的に間引きして読み出すため、光電変換素子の全ての画像データを読み出した後にソフト的に間引く通常の撮像装置と比較して短時間のうちに画像データを読み出し得る。
以下、間引き読み出し+歪み補正の処理によるサイズ変更の好適な適応範囲と、画像変倍率に応じて読み出し方式(全画素読み出しモード・平均化読み出しモード・間引き読み出しモード)とその後の画像信号処理とを切り換える利点について述べる。
表2〜表4は、代表的な被写体に対して、様々な縮小倍率において(1)間引き読み出し+歪み補正の処理よる画像と(2)平均化読み出し+線形拡大の処理による画像のどちらの画質が優位であるかの官能評価を示したものである。具体的には、表2は建築物・構造物の被写体に対する評価結果、表3は人物・自然風景の被写体に対する評価結果、表4は解像チャート・線画の被写体に対する評価結果を示している。これらの表において、「1」は間引き読み出し+歪み補正の処理の方が優位であることを表し、「2」は平均化読み出し+線形拡大の処理の方が優位であることを表している。「△」はどちらの処理も同等であることを表している。
ここで、官能評価の結果についての若干の理由付けを述べる。
間引き読み出し+歪み補正の処理による画像は、縮小倍率が大きい場合には、例えば16画素中14画素を読み出すモード(式(6)で表される変換に相当する)では、全画素読み出し後に線形補間によってサイズ変更を行なう処理(式(1)で表される変換に相当する)による画像と比較しても画質に遜色がない。これに対して、縮小倍率が小さい場合には、例えば6画素中4画素を読み出すモードでは、画質が劣化する。これは、縮小倍率の低下に伴って間引く画素の割合が大きくなるため、欠落する画像情報の割合が大きくなり、式(6)以降で示した様な線形補間による復元が困難になるためと考えられる。
一方、平均化読み出し+線形拡大の処理による画像は、解像感とコントラストは劣るものの、縮小倍率が小さい方(例60%)が拡大による(1/2のサンプリングを行なった場合、元データが50%の縮小になっているので60%の画像を得るためには120%の拡大になる)帯域の劣化が少ない。
これらを考慮すると、縮小倍率が大きい場合には間引き読み出しモードを選択し、縮小倍率が小さい場合には平均化読み出しモード+線形補間による拡大を選択するとよい。
次に被写体の種類について考察する。自然画像の被写体では質感と解像感が重視される。このため、帯域の劣化とモアレ低減の観点から、自然画像の被写体に対しては、間引き読み出し+歪み補正の処理の方が平均化読み出し+線形拡大の処理よりも優位である。従って、自然画像の被写体に対しては、間引き読み出しモードと平均化読み出しモードとを切り換える縮小倍率は低め(例えば66%程度)に設定されるとよい。
一方、線画等の被写体では、コントラストと解像度は他の画像処理(フィルターを用いた帯域強調)によってある程度回復するので、歪みが少ないことが重視される。このため、線画等の被写体に対しては、平均化読み出し+線形拡大の処理の方が間引き読み出し+歪み補正の処理よりも優位である。従って、線画等の被写体に対しては、間引き読み出しモードと平均化読み出しモードとを切り換える縮小倍率は高め(例えば75%程度)に設定されるとよい。
従って、縮小倍率に応じて間引き読み出しモードと平均化読み出しモード(およびその後の画像信号処理)とを切り換えることにより、広範囲な縮小倍率にわたって高精細な画像を得ることが可能となる。
さらに、縮小倍率に応じて読み出し方式とその後の画像信号処理とを切り換えることが優位な理由は、広い倍率の範囲で倍率の段数を細かく区切ることが出来る点である。
間引き読み出しにおける変倍率Xは、
(n:間引きのブロック単位、k:間引きを行う画素数)で表されるように、整数の比率で与えられる。
比較的大きな縮小倍率においては、例えば、20/22=91%(22画素中20画素を読み出すモード)から、18/20=90%、16/18=89%、14/16=87.5%、12/14=85.7%、10/12=83.3%というように、比較的細かい間隔でサイズ変更を行なうことができる。
しかしながら、比較的小さい縮小倍率においては、例えば、6/8=75%、10/14=71%、4/6=66%、6/10=60%というように、変倍率の間隔が大きくなってしまう。また、8/14=57%の様な縮小倍率も可能ではあるが、ブロック内で間引く画素の割合が大きくなるため、線形補間による歪み補正での復元が困難になる。
従って、縮小倍率に応じて間引き読み出しモードと平均化読み出しモード(およびその後の画像信号処理)とを切り換えることにより、縮小倍率を細かい間隔で指定することが可能となる。
図9は、間引き読み出し+歪み補正の処理に従うサイズ変更を表しており、より詳しくは、光電変換素子上で720×540画素の範囲をVGA(640×480)に変更する例を示している。この例では、18画素中2画素を間引いて16画素を読み出す規則を繰り返し、画像のサイズは、16/18=8/9、すなわち、720→640、540→480の約89%に縮小される。
図10は、平均化読み出し+線形補間の処理に従うサイズ変更を表しており、より詳しくは、1120×840画素をVGAサイズに変更する例を示している。この例では、予め水平2画素加算平均読み出し+垂直2ライン飛ばしの読み出し方をVGAのクロック数で読み出しを行なうことにより1280×960画素の範囲を読み出しておき、そのうち1120×840画素の範囲に相当する部分を抜き出してVGAのサイズに変更する。このとき、2画素平均を行なっているので、光電変換素子上で1120×840画素の範囲に相当するメモリーの範囲は560×420となり、この範囲を抜き出して線形補間によって拡大してサイズ変更を行なう(640/560=約1.14倍)。このとき、画像のサイズは、光電変換素子上の画像サイズを基準に考えると、640/1120=57%に縮小される。
図11は、本実施形態の撮像装置における変倍率に応じた読み出し方式の切り換えとサイズ変更を示している。100%以上の変倍率に対しては、全画素読み出し+線形補間による拡大処理によってサイズ変更を行なう。
また、100%ないし70%程度の変倍率あるいは縮小率に対しては、間引き読み出し+歪み補正の処理によってサイズ変更を行なう。さらに、70%を下回る変倍率あるいは縮小率に対しては、2:1の平均化読み出し+線形補間による処理によってサイズ変更を行なう。なお、2:1平均化読み出しでの撮像素子上での読み出し範囲は全画素読み出しでの撮像素子上での読み出し範囲の2倍になる。
これまでの説明から分かるように、本実施形態の撮像装置は、画像変倍率に応じて読み出し方式とその後の画像信号処理とを切り換えることにより、変倍率の広い範囲にわたって高精細な画像を得ることができるとともに、100%未満の変倍率においては変倍率を細かい間隔で指定することができる。
第二実施形態
本実施形態は、特に動画の撮影に好適な撮像装置に向けられている。
図12は本発明の第二実施形態の撮像装置の構成を示している。図12において、第一実施形態の撮像装置100の要素と同一の参照符号で指摘される要素は同等の要素であり、その詳しい説明は記載の重複を避けて続く記述において省略する。
本実施形態の撮像装置200は、被写体の光学像を結像する結像光学系110と、結像光学系110により結像された光学像の所定の領域の画像信号を連続的に出力する撮像デバイス220とを有している。つまり、撮像デバイス220から出力される画像信号は動画信号であり、これは時系列的に連続する複数のフレームの画像データで構成されている。
撮像デバイス220は、結像光学系110により結像された光学像を光電変換して画像データ(画素データの集合)を取得するエリア状の光電変換素子222と、光電変換素子222で取得された画像データを供給される読み出し規則に従って連続的に読み出す読み出し制御部224とを有している。
撮像装置200はさらに、出力する画像の変倍率を選択する画像変倍率選択部132と、選択された画像変倍率に応じて光電変換素子222から読み出し制御部224が読み出す画像データの読み出し方式を選択する読み出し方式選択部234と、読み出し方式選択部234で選択された読み出し方式に応じた読み出し規則を撮像デバイス220に供給する読み出し規則供給部240とを有している。
読み出し方式選択部234は、選択された画像変倍率に応じて、間引き読み出しモード・水平平均化垂直インターレース読み出しモード・垂直インターレース読み出しモードのいずれかの読み出し方式を選択する。読み出し規則供給部240は、間引き読み出しモードに対応する読み出し規則を設定する間引き読み出し規則設定部242と、水平平均化垂直インターレース読み出しモードに対応する読み出し規則を設定する水平平均化垂直インターレース読み出し規則設定部244と、垂直インターレース読み出しモードに対応する読み出し規則を設定する垂直インターレース読み出し規則設定部246とを含んでいる。
読み出し方式選択部234は、より詳しくは、100%未満の画像変倍率すなわち画像の縮小に対しては、間引き読み出しモードと水平平均化垂直インターレース読み出しモードのいずれかを選択し、100%以上の画像変倍率すなわち画像の拡大に対しては、垂直インターレース読み出しモードを選択する。
さらに、読み出し方式選択部234は、100%未満の画像変倍率においては、画像変倍率と、出力する画像のコントラスト・解像度・歪み・輝度モアレ・色モアレのうち重視する画質の要因とに基づいて、間引き読み出しモードと水平平均化垂直インターレース読み出しモードのいずれかを選択する。
撮像装置200はさらに、間引き読み出しモードのときに撮像デバイスから出力される画像信号に対して歪み補正を行なう歪み補正部150と、間引き読み出しモードのときに読み出し制御部224が光電変換素子222から読み出す画像データの範囲(読み出し範囲)の基準位置をフレーム毎に変更する読み出し位相制御部252と、間引き読み出しモードのときに読み出し位相制御部252によりフレーム毎に変更される読み出し範囲の基準位置に応じて歪み補正部150から出力される補正された画像信号のすべてのフレームに共通する領域を範囲選択する画像範囲選択処理部254とを有している。歪み補正部150の詳細は第一実施形態で説明した通りである。
読み出し位相制御部252が読み出し範囲の基準位置をフレーム毎に変更するとともに、画像範囲選択処理部254が全てのフレームに共通する領域を範囲選択することに対応して、間引き読み出し規則設定部242は、出力する画像の領域よりも広い範囲に渡って読み出し制御部224が画像データを読み出すように、読み出し規則を設定する。
撮像デバイス220内の読み出し制御部224は、間引き読み出し規則設定部242で設定される読み出し規則と、読み出し位相制御部252で設定される読み出し範囲の基準位置とに基づいて、光電変換素子222内の画素配列中の対応する範囲の画像データ(1フレーム分の画素データ)を連続的に読み出す。その結果として、撮像デバイス220は、時系列的に連続する複数のフレームの画像データで構成される動画信号を出力する。
撮像装置200はさらに、間引き読み出しモードのときに画像範囲選択処理部254から出力される画像信号または水平平均化垂直インターレース読み出しモードと垂直インターレース読み出しモードのときに撮像デバイス220から出力される画像信号の複数のフレームの画像データを一時的に記憶する複数の記憶部、例えば二つのフレームメモリー272と274を有している。
撮像装置200はさらに、間引き読み出しモードのときに、フレームメモリー272と274に記憶された複数のフレームの画像データに対して加重加算平均化を行なって新たな画像データを生成するフレーム間演算処理部282を有している。
撮像装置200はさらに、水平平均化垂直インターレース読み出しモードと垂直インターレース読み出しモードのときにフレームメモリー272と274に記憶された複数のフレームの画像データに対してフレーム間補間を行なうフレーム間補間演算処理部284(インターレース読み出しを行なうと連続数フレーム間で、お互いに欠落している位置・ラインのデータがあるので、欠落している部分のデータ(ラインデータ)を隣接するフレームのデータで補う)と、水平平均化垂直インターレース読み出しモードと垂直インターレース読み出しモードのときにフレーム間補間演算処理部284から出力される画像信号に対して画像変倍率に応じて線形補間によりサイズ変更を行なう線形補間サイズ変更部286とを有している。
加えて、撮像装置200は、読み出し方式選択部234で選択された読み出し方式に応じて撮像デバイス220から出力される画像信号を歪み補正部150とフレームメモリー272と274のいずれかに選択的に送る第一の切り換え器262と、フレームメモリー272と274からのそれぞれの画像信号をフレーム間演算処理部282とフレーム間補間演算処理部284のいずれかに選択的に送る第二の切り換え器276と278とを有している。
読み出し方式選択部234が間引き読み出しモードを選択したときには、第一の切り換え器262は撮像デバイス220からの画像信号を歪み補正部150と画像範囲選択処理部254とを介してフレームメモリー272と274に送り、第二の切り換え器277と278はフレームメモリー272と274からのそれぞれの画像信号をフレーム間演算処理部282を介して画像信号処理部172に送る。
一方、読み出し方式選択部234が水平平均化垂直インターレース読み出しモードまたは垂直インターレース読み出しモードを選択したときには、第一の切り換え器262は撮像デバイス220からの画像信号をフレームメモリー272と274に直接送り、第二の切り換え器276と278はフレームメモリー272と274からのそれぞれの画像信号をフレーム間補間演算処理部284と線形補間サイズ変更部286とを介して画像信号処理部172に送る。
従来のビデオシステムの動画の撮影においては2フィールド=1フレームになるようなインターレース走査方式が良く用いられている。これは、一般の1/30のフレームレートにおいてはインターレース走査による画像のちらつきは目立たないとされ、むしろインターレース走査によって、全点走査と同一の時間内でより広い領域の画像情報を得、フィールド間で補間して高速に高精細な画像を得る効果がある。
本実施形態の撮像装置200では、垂直インターレース読み出しモードにおいては、一般によく知られているインターレース走査方式に従って、一つのフレームを構成する時系列的に隣接する二つのフィールド毎に画素データをライン単位おきに交互に読み出す。その結果、ライン単位間の補間の効果によって、ちらつきの少ない画像が得られる。
ここで、ライン単位とは、フィルター配列において、ラインの並びに沿った繰り返しの基本単位を指している。例えば、ベイヤー配列においては、ライン単位は二本の実際の画素ラインで構成される。
本実施形態の撮像装置200では、水平平均化垂直インターレース読み出しモードにおいては、一つのフレームを構成する時系列的に隣接する二つのフィールド毎に画素データを1ライン単位置きに、しかも各ラインにおいて二つの画素単位毎にそれらの中の対応する二つの画素データを加算平均して読み出す。
ここで、画素単位とは、フィルター配列の各ライン内において、ラインに沿った繰り返しの基本単位を指している。例えば、ベイヤー配列においては、一つの画素単位は二つの画素(例えば図13においては1ライン目のRとGの組)で構成される。
図13は水平平均化垂直インターレース読み出しによって読み出される、一つのフレームを構成する時系列的に隣接する二つのフィールドの画素データを模式的に示している。
図13に示されるように、それぞれのフィールドにおいて、一本のライン単位置きに、すなわち二本のライン置きに、画素データが読み出される。また、各ラインにおいて、二つの画素単位毎にそれらの中の対応する二つの画素データ、すなわち四つの画素毎にそれらの中の同種類の二つの画素データを1/2:1/2の重みで加算して読み出す。つまり、1クロック(CLK)で四つの画素に対応した二つの画素データが読み出される。
このような読み出しの結果、画素単位間とライン単位間の補間の効果によって、ちらつきの少ない画像が得られる。
本実施形態の撮像装置200では、間引き読み出しモードにおいては、インターレース走査が二つのフィールド間で互いの欠落している画素データを補間するように、連続する二つのフレーム間で互いの欠落している画素データを補間する。
このため、読み出し位相制御部252は、読み出し制御部224が光電変換素子222から画素間引きして読み出す画素データの範囲(読み出し範囲)の基準位置をフレーム毎に変更させる。より詳しくは、読み出し位相制御部252は、読み出し範囲の基準位置を、一定の規則に従って周期的に、フレーム毎に変更させる。
その結果、特定のフレームの画像データにおいて間引き読み出しのために欠落した光電変換素子222内の特定の位置の画素データは、他のフレームの画像データに含まれるようになる。つまり、撮像デバイス220から出力される画像信号から、光電変換素子222の特定の位置の画素データが常に欠落することが避けられる。
図14は、10/12の間引き読み出しと読み出し範囲の基準位置のシフトとの処理によって読み出される、時系列的に隣接する二つのフレーム(AフレームとBフレーム)における同一範囲の画素データの一例を模式的に示している。
図14から分かるように、例えば、Bフレームの画像データ(画素データの集合)は、Aフレームの画像データの読み出し時に飛ばされた画素データ、つまり、Aフレームの画像データに欠落している画素データを含んでいる。このように、二つのフレームの画像データは、互いに相補的で、相手に欠落している画素データを互いに含んでいる。
さらに、フレーム間演算処理部282は、フレームメモリー272と274に記憶された連続するフレームの画像データに対して、欠落している画素データを補間する処理を行なう。例えば、連続する二つのフレームの画像データに対して1/2:1/2の加算を行なう。その結果、よく知られているインターレース走査方式によるフィールド間の補間すなわちインターレース解除処理と同様な効果が得られ、ちらつきの少ない画像が得られる。
図15と図16は、6/8の間引き読み出しの繰り返しによる読み出しにおける読み出し範囲の基準位置のシフトの様子を模式的に示している。これらの図において、[x,y]は光電変換素子122の画素配列の画素位置、(x,y)は読み出し範囲の画素データ配列を表している。
図15と図16に示されるように、光電変換素子122の画素数は水平方向にk画素、垂直方向にl画素である。従って、光電変換素子122の左上の画素の位置は[0,0]、右下の画素の位置は[k,l]と表せる。また、1フレームの読み出し範囲の画素数は水平方向にm画素、垂直方向にn画素である。従って、フレームの左上の読み出し開始位置は(0,0)、右下の読み出し終了位置は(m,n)と表せる。図16のフレームの読み出し範囲は、図15のフレームの読み出し範囲に対して、水平方向に+2画素、垂直方向に+2画素シフトしている。
図15のフレームでは、左上の読み出し開始位置(0,0)は、光電変換素子122の左上の画素位置[0,0]に一致している。つまり、
である。また、読み出し終了位置(m,n)は、
である。一方、図16のフレームでは、左上の読み出し開始位置は、
である。また、読み出しの終了位置は、
である。
画像範囲選択処理部254は、図15のフレームと図16のフレームに共通する範囲を選択する。つまり、画像範囲選択処理部254は、図15のフレームに対しては、(2,2)と(m,n)を対角の頂点とする矩形の範囲を選択し、図16のフレームに対しては、(0,0)から(m−2,n−2)を対角の頂点とする矩形の範囲を選択する。画像範囲選択処理部254で選択された範囲は、常に(m−2)×(n−2)個の画素データを有している。
また、予めクロップする領域を考慮すると、光電変換素子222から読み出す画像の総数は出力の画像サイズと位相シフト分を考慮する必要がある。画像範囲選択処理部254は、読み出し開始位置の情報に基づいて、クロップの範囲を変更する。
フレームメモリー272と274はいずれもFIFO(First In First Out)のメモリーとなっており、フレーム間演算処理部282はそれらのフレームメモリー272と274の同一位置の画素を用いて出力画像を生成する。
例えば、2フレームの場合、合成画像out(i,j)は、
である。ここで、i,jは画素位置を表し、l(k,i,j)はk番目のフレームの画素位置i,jの画像信号の強度である。
また、3フレームの場合、合成画像out(i,j)は、加重配分を用いて、
である。フレーム間補間を行なうことによって、歪み補正の効果に加えて、ローパスによる高画質化の効果が得られる。
また、本実施形態では、水平方向・垂直方向ともに間引き読み出しを行ない、一次元の歪み補正を水平・垂直ともにパイプライン処理で行なう例を示している。CCDの場合は、垂直転送→水平転送の動作を行なう撮像素子では、原理上水平方向に間引いて読み出す事が出来ないので、水平方向については式(1)と同様に全画素を読み出し、一次補間によるサイズ変更を行なう必要がある。
本実施形態の撮像装置200は、第一実施形態と同様の理由から、100%以上の画像変倍率に対しては、垂直インターレース読み出し+線形補間による処理によってサイズ変更を行ない、比較的大きな縮小倍率、例えば100%ないし70%程度の変倍率に対しては、間引き読み出しモード+歪み補正の処理によってサイズ変更を行ない、比較的小さな縮小倍率、例えば70%を下回る変倍率に対しては、水平平均化垂直インターレース読み出し+線形補間による処理によってサイズ変更を行なう。さらに、前述の第一実施形態のように、被写体によって、読み出しモードを切り換える変倍率を調整するようにしてもよい。
その結果、本実施形態の撮像装置は、画像変倍率に応じて読み出し方式とその後の画像信号処理とを切り換えることにより、変倍率の広い範囲にわたって高精細な画像を得ることができるとともに、100%未満の変倍率においては変倍率を細かい間隔で指定することができる。
第三実施形態
本実施形態は、特に動画の撮影に好適な撮像装置に向けられている。
図17は本発明の第三実施形態の撮像装置の構成を示している。図17において、第一実施形態の撮像装置100の要素と同一の参照符号で指摘される要素は同等の要素であり、その詳しい説明は記載の重複を避けて続く記述において省略する。
本実施形態の撮像装置300は、被写体の光学像を結像する結像光学系110と、結像光学系110により結像された光学像の所定の領域の画像信号を連続的に出力する撮像デバイス220とを有している。つまり、撮像デバイス220から出力される画像信号は動画信号であり、これは時系列的に連続する複数のフレームの画像データで構成されている。
撮像デバイス220は、結像光学系110により結像された光学像を光電変換して画像データ(画素データの集合)を取得するエリア状の光電変換素子222と、光電変換素子222で取得された画像データを供給される読み出し規則に従って連続的に読み出す読み出し制御部224とを有している。
撮像装置300はさらに、出力する画像の変倍率を選択する画像変倍率選択部132と、選択された画像変倍率に応じて光電変換素子222から読み出し制御部224が読み出す画像データの読み出し方式を選択する読み出し方式選択部234と、読み出し方式選択部234で選択された読み出し方式に応じた読み出し規則を撮像デバイス220に供給する読み出し規則供給部240とを有している。
読み出し方式選択部234は、選択された画像変倍率に応じて、間引き読み出しモード・水平平均化垂直インターレース読み出しモード・垂直インターレース読み出しモードのいずれかの読み出し方式を選択する。読み出し規則供給部240は、間引き読み出しモードに対応する読み出し規則を設定する間引き読み出し規則設定部242と、水平平均化垂直インターレース読み出しモードに対応する読み出し規則を設定する水平平均化垂直インターレース読み出し規則設定部244と、垂直インターレース読み出しモードに対応する読み出し規則を設定する垂直インターレース読み出し規則設定部246とを含んでいる。
読み出し方式選択部234は、より詳しくは、100%未満の画像変倍率すなわち画像の縮小に対しては、間引き読み出しモードと水平平均化垂直インターレース読み出しモードのいずれかを選択し、100%以上の画像変倍率すなわち画像の拡大に対しては、垂直インターレース読み出しモードを選択する。
さらに、読み出し方式選択部234は、100%未満の画像変倍率においては、画像変倍率と、出力する画像のコントラスト・解像度・歪み・輝度モアレ・色モアレのうち重視する画質の要因とに基づいて、間引き読み出しモードと水平平均化垂直インターレース読み出しモードのいずれかを選択する。
撮像装置300はさらに、フレームのタイミングを発生するタイミング発生器370と、タイミング発生器370からのフレームのタイミングと連動してフレーム間で読み出し規則を変更する読み出し規則変更部372とを有している。ここで、間引き読み出しモードが選択されていた場合、読み出し規則変更部372は間引き読み出しの規則をフレーム毎に異ならせる。同時に、読み出し規則に従って歪み補正のフィルターに用いる係数を選択する指示を発生する。歪み補正部150の詳細は第一実施形態で説明した通りである。
なお、読み出し規則変更部372で変更されたフレーム毎に異なる読み出し規則は、選択された変倍率が一定であるときは読み出す画素の画素数は同じで、読み出し範囲の基準位置と配列パターンが異なる。
撮像デバイス220内の読み出し制御部224は、間引き読み出し規則設定部242で設定される読み出し規則と、読み出し規則変更部372で設定される読み出し範囲の基準位置とに基づいて、光電変換素子222内の画素配列中の対応する範囲の画像データ(1フレーム分の画素データ)を連続的に読み出す。その結果として、撮像デバイス220は、時系列的に連続する複数のフレームの画像データで構成される動画信号を出力する。
撮像装置300はさらに、複数のフレームの画像データを用い新たな画像データを生成するフレーム間演算処理部380を有している。フレーム間演算処理部380は、水平平均化垂直インターレース読み出しモードと垂直インターレース読み出しモードのときにフレーム間補間演算処理を行ない、間引き読み出しモードの場合、前述の式(20)や式(21)のようなフレーム間の荷重加算演算を行なう。
加えて、撮像装置300は、読み出し方式選択部234で選択された読み出し方式に応じて撮像デバイス220から出力される画像信号を歪み補正部150とフレーム間演算処理部380のいずれかに選択的に送る切り換え器392を有している。
読み出し方式選択部234が間引き読み出しモードを選択したときには、切り換え器392は撮像デバイス220からの画像信号を歪み補正部150を介してフレーム間演算処理部380に送る。
一方、読み出し方式選択部234が水平平均化垂直インターレース読み出しモードまたは垂直インターレース読み出しモードを選択したときには、切り換え器392は撮像デバイス220からの画像信号をフレーム間演算処理部380に送る。
さらに、フレーム間演算処理部380は、切り換え器394を介して、線形補間サイズ変更部396に接続されている。読み出し方式選択部234で水平平均化垂直インターレース読み出しモードまたは垂直インターレース読み出しモードが選択された場合に、サイズの変更を必要とする場合は、切り換え器294はフレーム間演算処理部380の出力データを線形補間サイズ変更部396に伝送し、フレーム内の線形補間処理によって所定のサイズの画像を得る。
また、読み出し方式選択部234で間引き読み出しモードが選択された場合、歪み補正部150で得られた画像サイズを最終的なサイズとする場合には、フレーム間演算処理部380の出力をそのまま利用するため、切り換え器394は線形補間サイズ変更部396をバイパスするようにする。さらに、間引き読み出しによるサイズ変更とは別の画像サイズを得たい場合は、切り換え器394はフレーム間演算処理部380の出力データを線形補間サイズ変更部396に伝送し、フレーム内の線形補間処理によって所定のサイズの画像を得る。
これまでの説明から分かるように、本実施形態の撮像装置は、画像変倍率に応じて読み出し方式とその後の画像信号処理とを切り換えることにより、変倍率の広い範囲にわたって高精細が画像を得ることができるとともに、100%未満の変倍率においては変倍率を細かい間隔で指定することができる。さらに間引き読み出しモードのときに、全点走査と同一の時間内でより広い領域の画像情報が得られる効果がある。
これまで、図面を参照しながら本発明の実施の形態を述べたが、本発明は、これらの実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において様々な変形や変更が施されてもよい。
Claims (17)
- 被写体の画像を出力する撮像装置であり、
光学像を光電変換して画像データを取得する光電変換素子と、前記光電変換素子で取得された画像データを供給される読み出し規則に従って読み出す読み出し制御部とを有している撮像デバイスと、
出力する画像の変倍率を選択する画像変倍率選択部と、
選択された画像変倍率に応じて光電変換素子から読み出し制御部が読み出す画像データの読み出し方式を選択する読み出し方式選択部と、
読み出し方式選択部で選択された読み出し方式に応じた読み出し規則を前記読み出し制御部に供給する読み出し規則供給部とを有している、撮像装置。 - 請求項1において、前記読み出し方式は、間引き読み出しモード・平均化読み出しモード・全画素読み出しモードを含み、前記読み出し方式選択部は、前記選択された画像変倍率に応じて、前記間引き読み出しモード・前記平均化読み出しモード・前記全画素読み出しモードのいずれかの読み出し方式を選択し、前記読み出し規則供給部は、前記間引き読み出しモードに対応する読み出し規則を設定する間引き読み出し規則設定部と、前記平均化読み出しモードに対応する読み出し規則を設定する平均化読み出し規則設定部と、前記全画素読み出しモードに対応する読み出し規則を設定する全画素読み出し規則設定部とを含んでいる、撮像装置。
- 請求項2において、間引き読み出しモードのときに撮像デバイスから出力される画像信号に対して歪み補正を行なう歪み補正部と、前記平均化読み出しモードと前記全画素読み出しモードのときに前記撮像デバイスから出力される画像信号に対して線形補間によりサイズ変更を行なう線形補間サイズ変更部と、前記読み出し方式選択部で選択された読み出し方式に応じて前記撮像デバイスから出力される画像信号を前記歪み補正部と前記線形補間サイズ変更部のいずれかに選択的に送る切り換え器とを有している、撮像装置。
- 請求項1において、前記撮像デバイスから出力される画像信号は、時系列的に連続する複数のフレームの画像データで構成される動画信号であり、前記読み出し方式選択部は、前記選択された画像変倍率に応じて、前記間引き読み出しモード・水平平均化垂直インターレース読み出しモード・水平全画素垂直インターレース読み出しモードのいずれかの読み出し方式を選択し、読み出し規則供給部は、前記間引き読み出しモードに対応する読み出し規則を設定する間引き読み出し規則設定部と、前記水平平均化垂直インターレース読み出しモードに対応する読み出し規則を設定する水平平均化垂直インターレース読み出し規則設定部と、前記垂直インターレース読み出しモードに対応する読み出し規則を設定する垂直インターレース読み出し規則設定部とを含んでいる、撮像装置。
- 請求項1において、前記読み出し方式は間引き読み出しモードを含み、前記撮像デバイスから出力される画像信号は複数のフレームから構成され、前記間引き読み出しモードのときに、前記撮像デバイスから出力される画像信号に対して歪み補正を行なう歪み補正部と、前記読み出し制御部が前記光電変換素子から読み出す画像データの範囲(読み出し範囲)の基準位置をフレーム毎に変更する読み出し位相制御部と、前記読み出し位相制御部によりフレーム毎に変更される読み出し範囲の基準位置に応じて前記歪み補正部から出力される補正された画像信号のすべてのフレームに共通する領域を範囲選択する画像範囲選択処理部とをさらに有している、撮像装置。
- 請求項5において、前記間引き読み出しモードのときに、前記画像範囲選択処理部から出力される画像信号の複数のフレームの画像データを一時的に記憶する複数の記憶部と、前記記憶部に記憶された前記複数のフレームの画像データに対して加重加算平均化を行なって新たな画像データを生成するフレーム間演算処理部とをさらに有している、撮像装置。
- 請求項4において、前記水平平均化垂直インターレース読み出しモードと前記水平全画素垂直インターレース読み出しモードのときに、前記撮像デバイスから出力される画像信号の複数のフレームの画像データを一時的に記憶する複数の記憶部と、前記記憶部に記憶された複数のフレームの画像データに対してフレーム間補間を行なうフレーム間補間演算処理部と、前記フレーム間補間演算処理部から出力される画像信号に対して前記画像変倍率に応じて線形補間によりサイズ変更を行なう線形補間サイズ変更部とをさらに有している、撮像装置。
- 請求項4において、前記間引き読み出しモードのときに前記撮像デバイスから出力される画像信号に対して歪み補正を行なう歪み補正部と、前記間引き読み出しモードのときに前記読み出し制御部が前記光電変換素子から読み出す画像データの範囲(読み出し範囲)の基準位置をフレーム毎に変更する読み出し位相制御部と、前記間引き読み出しモードのときに前記読み出し位相制御部によりフレーム毎に変更される読み出し範囲の基準位置に応じて前記歪み補正部から出力され補正された画像信号の複数のフレームに共通する領域の範囲を選択する画像範囲選択処理部と、前記画像範囲選択処理部から出力される画像データまたは前記水平平均化垂直インターレース読み出しモードまたは前記垂直インターレース読み出しモードのときに前記撮像デバイスから出力される画像信号の複数のフレームの画像データを一時的に記憶する複数の記憶部と、前記間引き読み出しモードのときに記憶部に記憶された複数のフレームの画像データに対して加重加算平均化を行なって新たな画像データを生成するフレーム間演算処理部と、前記水平平均化垂直インターレース読み出しモードまたは前記水平全画素垂直インターレース読み出しモードのときに(前記)記憶部に記憶された複数のフレームの画像データに対してインターレース読み出しにより各々のフレームで欠落している画素情報を互いに補間するフレーム間補間を行なうフレーム間補間演算処理部と、前記水平平均化垂直インターレース読み出しモードまたは前記水平全画素垂直インターレース読み出しモードのときに前記フレーム間補間演算処理部から出力される画像信号に対して前記画像変倍率に応じて線形補間によりサイズ変更を行なう線形補間サイズ変更部と、前記読み出し方式選択部で選択された読み出し方式に応じて前記撮像デバイスから出力される画像信号を前記歪み補正部と前記記憶部のいずれかに選択的に送る第一の切り換え器と、前記記憶部からの画像信号を前記フレーム間演算処理部と前記フレーム間補間演算処理部のいずれかに選択的に送る第二の切り換え器とをさらに有している、撮像装置。
- 請求項1において、前記読み出し方式は間引き読み出しモードを含み、前記間引き読み出しモードのときに前記撮像デバイスから出力される画像データに対して歪み補正を行なう歪み補正部を有している、撮像装置。
- 請求項9において、前記撮像デバイスから出力される画像データは複数のフレームから構成され、前記間引き読み出しモードのときに、前記複数のフレーム毎に間引き読み出しの規則を異ならせる、撮像装置。
- 請求項1において、前記読み出し方式は間引き読み出しモードを含み、前記撮像デバイスから出力される画像データは複数のフレームから構成され、前記間引き読み出しモードのときに、前記複数のフレーム毎に間引き読み出しの規則を異ならせる、撮像装置。
- 請求項11において、前記フレーム毎に異なる読み出し規則は、前記変倍率が一定であるときには、画素数が同一である、撮像装置。
- 請求項1〜請求項12のいずれかひとつにおいて、前記読み出し方式選択部は、出力する画像のコントラスト・解像度・歪み・輝度モアレ・色モアレのうち重視する画質の要因と画像変倍率とに基づいて前記読み出し方式を選択する、撮像装置。
- 被写体の画像を出力する撮像装置の画像データの読み出し制御方法であり、
出力する画像の変倍率を選択し、
前記選択された画像変倍率に応じて光電変換素子から読み出す画像データの読み出し方式を選択し、
前記選択された読み出し方式に応じた読み出し規則に従って前記光電変換素子から画像データを読み出す、画像データの読み出し制御方法。 - 請求項14において、前記読み出し方式は間引き読み出しモードを含み、前記間引き読み出しモードのときに前記読み出された画像データに対して歪み補正を行なう、画像データの読み出し制御方法。
- 請求項15において、前記光電変換素子から読み出す画像データは複数のフレームから構成され、前記間引き読み出しモードのときに、前記複数のフレーム毎に間引き読み出しの規則を異ならせる、画像データの読み出し制御方法。
- 請求項14において、前記読み出し方式は間引き読み出しモードを含み、前記光電変換素子から読み出す画像データは複数のフレームから構成され、前記間引き読み出しモードのときに、前記複数のフレーム毎に間引き読み出しの規則を異ならせる、画像データの読み出し制御方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003020717 | 2003-01-29 | ||
JP2003020717 | 2003-01-29 | ||
PCT/JP2004/000575 WO2004068852A1 (ja) | 2003-01-29 | 2004-01-23 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2004068852A1 true JPWO2004068852A1 (ja) | 2006-05-25 |
JP4555775B2 JP4555775B2 (ja) | 2010-10-06 |
Family
ID=32820634
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005504684A Expired - Fee Related JP4555775B2 (ja) | 2003-01-29 | 2004-01-23 | 撮像装置 |
Country Status (5)
Country | Link |
---|---|
US (2) | US7561195B2 (ja) |
EP (1) | EP1592236A1 (ja) |
JP (1) | JP4555775B2 (ja) |
CN (1) | CN100431341C (ja) |
WO (1) | WO2004068852A1 (ja) |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8040385B2 (en) * | 2002-12-02 | 2011-10-18 | Olympus Corporation | Image pickup apparatus |
EP1705902A4 (en) * | 2003-12-26 | 2008-12-17 | Olympus Corp | IMAGE INPUT APPARATUS |
US8106956B2 (en) * | 2005-06-27 | 2012-01-31 | Nokia Corporation | Digital camera devices and methods for implementing digital zoom in digital camera devices and corresponding program products |
JP2007124295A (ja) * | 2005-10-28 | 2007-05-17 | Pentax Corp | 撮像手段駆動装置、撮像手段駆動方法、および信号処理装置 |
JP4345757B2 (ja) * | 2006-02-22 | 2009-10-14 | セイコーエプソン株式会社 | 画像データの色の補正 |
WO2007110829A2 (en) * | 2006-03-27 | 2007-10-04 | Nxp B.V. | Method and arrangement for generating a color video signal |
US7944482B2 (en) * | 2006-07-28 | 2011-05-17 | Sanyo Electric Co., Ltd. | Pixel information readout method and image pickup apparatus |
JP2008147904A (ja) * | 2006-12-08 | 2008-06-26 | Matsushita Electric Ind Co Ltd | 信号処理方法および信号処理装置 |
JP5023805B2 (ja) * | 2007-05-16 | 2012-09-12 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5000395B2 (ja) * | 2007-06-26 | 2012-08-15 | オリンパス株式会社 | 撮像表示方法および撮像表示装置 |
JP5157015B2 (ja) * | 2008-02-04 | 2013-03-06 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、撮像装置、撮像方法、およびプログラム |
KR101152145B1 (ko) * | 2008-06-10 | 2012-06-15 | 가부시키가이샤 시마쓰세사쿠쇼 | 고체촬상소자 및 그 구동방법 |
US8463035B2 (en) * | 2009-05-28 | 2013-06-11 | Gentex Corporation | Digital image processing for calculating a missing color value |
JP2011030181A (ja) * | 2009-06-23 | 2011-02-10 | Panasonic Corp | 固体撮像装置、撮像モジュール、及び撮像システム |
JP5544996B2 (ja) * | 2010-04-09 | 2014-07-09 | ソニー株式会社 | 画像処理装置および方法 |
CN102263880B (zh) * | 2010-05-25 | 2015-02-11 | 安凯(广州)微电子技术有限公司 | 一种图像缩放的方法和装置 |
US9769430B1 (en) | 2011-06-23 | 2017-09-19 | Gentex Corporation | Imager system with median filter and method thereof |
JP2013031060A (ja) * | 2011-07-29 | 2013-02-07 | Sony Corp | 画像処理装置、画像処理方法、およびプログラム |
JP5983616B2 (ja) | 2011-09-13 | 2016-09-06 | 日本電気株式会社 | 撮像装置、撮像方法及びプログラム |
US9041838B2 (en) | 2012-02-14 | 2015-05-26 | Gentex Corporation | High dynamic range imager system |
JP6136190B2 (ja) * | 2012-10-23 | 2017-05-31 | 株式会社ソシオネクスト | 画像処理装置、撮像装置 |
KR20150088139A (ko) * | 2014-01-23 | 2015-07-31 | 삼성전자주식회사 | 이미지 센서 및 이를 포함하는 이미지 처리 시스템 |
US9979905B2 (en) * | 2015-11-17 | 2018-05-22 | Microsoft Technology Licensing, Llc. | Multimode photosensor |
KR102305633B1 (ko) * | 2017-03-17 | 2021-09-28 | 엘지전자 주식회사 | 퀄리티 기반 360도 비디오를 송수신하는 방법 및 그 장치 |
JP2020065193A (ja) * | 2018-10-18 | 2020-04-23 | シャープ株式会社 | 画像形成装置、画像処理方法及び画像処理プログラム |
CN112449080B (zh) * | 2020-11-06 | 2022-06-28 | 广东欧谱曼迪科技有限公司 | 动态插值的fpga工程方法、装置、存储介质和终端 |
US11863884B2 (en) * | 2021-09-16 | 2024-01-02 | Qualcomm Incorporated | Systems and methods for controlling an image sensor |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000308076A (ja) * | 1999-04-26 | 2000-11-02 | Hitachi Ltd | 撮像装置 |
JP2002199266A (ja) * | 2000-12-25 | 2002-07-12 | Fuji Photo Film Co Ltd | ディジタル・カメラおよびその動作制御方法 |
JP2002320235A (ja) * | 2001-04-19 | 2002-10-31 | Fujitsu Ltd | 空間解像度の低下を抑えて縮小画像信号を生成するcmosイメージセンサ |
JP2002354292A (ja) * | 2001-05-30 | 2002-12-06 | Fuji Photo Film Co Ltd | 画像処理装置およびその画像処理方法 |
JP2002354344A (ja) * | 2001-05-23 | 2002-12-06 | Ricoh Co Ltd | 撮像装置 |
JP2003018446A (ja) * | 2001-06-29 | 2003-01-17 | Konica Corp | 撮像素子及び撮像素子を用いたデジタルスチルカメラ |
JP2003189183A (ja) * | 2001-12-13 | 2003-07-04 | Chinon Ind Inc | 撮像装置 |
JP2004187145A (ja) * | 2002-12-05 | 2004-07-02 | Minolta Co Ltd | デジタルカメラ |
JP2004194248A (ja) * | 2002-12-13 | 2004-07-08 | Chinon Ind Inc | 撮像素子及び撮像装置 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3771954B2 (ja) * | 1995-08-04 | 2006-05-10 | ソニー株式会社 | 画像表示制御装置および方法 |
JP4229481B2 (ja) * | 1996-07-31 | 2009-02-25 | オリンパス株式会社 | 撮像表示システム |
JP4161384B2 (ja) * | 1997-04-30 | 2008-10-08 | ソニー株式会社 | 固体撮像装置、これを用いたカメラおよび固体撮像装置の駆動方法 |
JP3398081B2 (ja) * | 1999-03-01 | 2003-04-21 | 三洋電機株式会社 | ディジタルカメラ |
JP3901878B2 (ja) | 1999-07-02 | 2007-04-04 | 株式会社リコー | 画像処理装置 |
US20020135683A1 (en) * | 1999-12-20 | 2002-09-26 | Hideo Tamama | Digital still camera system and method |
JP4136255B2 (ja) | 2000-02-29 | 2008-08-20 | キヤノン株式会社 | 画像処理装置及びその方法 |
JP4518616B2 (ja) * | 2000-04-13 | 2010-08-04 | ソニー株式会社 | 固体撮像装置およびその駆動方法並びにカメラシステム |
JP4192428B2 (ja) * | 2001-01-09 | 2008-12-10 | ソニー株式会社 | 固体撮像装置及び画像入力装置 |
JP4717294B2 (ja) * | 2001-09-20 | 2011-07-06 | キヤノン株式会社 | 画像処理方法、撮像装置およびプログラム |
JP4142340B2 (ja) * | 2002-05-22 | 2008-09-03 | オリンパス株式会社 | 撮像装置 |
JP4285948B2 (ja) * | 2002-06-18 | 2009-06-24 | オリンパス株式会社 | 撮像装置 |
US7170529B2 (en) * | 2003-10-24 | 2007-01-30 | Sigmatel, Inc. | Image processing |
JP3868446B2 (ja) * | 2004-10-29 | 2007-01-17 | オリンパス株式会社 | 撮像装置 |
-
2004
- 2004-01-23 WO PCT/JP2004/000575 patent/WO2004068852A1/ja active Application Filing
- 2004-01-23 JP JP2005504684A patent/JP4555775B2/ja not_active Expired - Fee Related
- 2004-01-23 EP EP04704738A patent/EP1592236A1/en not_active Withdrawn
- 2004-01-23 CN CNB2004800031555A patent/CN100431341C/zh not_active Expired - Fee Related
-
2005
- 2005-07-27 US US11/190,564 patent/US7561195B2/en not_active Expired - Fee Related
-
2009
- 2009-06-17 US US12/486,397 patent/US7692701B2/en not_active Expired - Fee Related
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000308076A (ja) * | 1999-04-26 | 2000-11-02 | Hitachi Ltd | 撮像装置 |
JP2002199266A (ja) * | 2000-12-25 | 2002-07-12 | Fuji Photo Film Co Ltd | ディジタル・カメラおよびその動作制御方法 |
JP2002320235A (ja) * | 2001-04-19 | 2002-10-31 | Fujitsu Ltd | 空間解像度の低下を抑えて縮小画像信号を生成するcmosイメージセンサ |
JP2002354344A (ja) * | 2001-05-23 | 2002-12-06 | Ricoh Co Ltd | 撮像装置 |
JP2002354292A (ja) * | 2001-05-30 | 2002-12-06 | Fuji Photo Film Co Ltd | 画像処理装置およびその画像処理方法 |
JP2003018446A (ja) * | 2001-06-29 | 2003-01-17 | Konica Corp | 撮像素子及び撮像素子を用いたデジタルスチルカメラ |
JP2003189183A (ja) * | 2001-12-13 | 2003-07-04 | Chinon Ind Inc | 撮像装置 |
JP2004187145A (ja) * | 2002-12-05 | 2004-07-02 | Minolta Co Ltd | デジタルカメラ |
JP2004194248A (ja) * | 2002-12-13 | 2004-07-08 | Chinon Ind Inc | 撮像素子及び撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US7561195B2 (en) | 2009-07-14 |
JP4555775B2 (ja) | 2010-10-06 |
WO2004068852A1 (ja) | 2004-08-12 |
EP1592236A1 (en) | 2005-11-02 |
US20090251577A1 (en) | 2009-10-08 |
US7692701B2 (en) | 2010-04-06 |
CN1745575A (zh) | 2006-03-08 |
US20050270391A1 (en) | 2005-12-08 |
CN100431341C (zh) | 2008-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4555775B2 (ja) | 撮像装置 | |
JP4142340B2 (ja) | 撮像装置 | |
JP3429061B2 (ja) | 電子スチルカメラ | |
US8040385B2 (en) | Image pickup apparatus | |
US20070206207A1 (en) | Imaging apparatus | |
US7800681B2 (en) | Image pickup device capturing a plurality of images that have different viewing angles | |
JP4445870B2 (ja) | 撮像装置 | |
WO2007029738A1 (ja) | 撮像素子 | |
JP4285948B2 (ja) | 撮像装置 | |
KR20050063711A (ko) | 화상 신호 처리 장치 | |
JP4412446B2 (ja) | 解像度変換方法および解像度変換装置 | |
JP5167229B2 (ja) | 画像撮像装置 | |
JP3651477B2 (ja) | 画像信号処理装置 | |
JP3734104B2 (ja) | 画像信号処理装置 | |
JP3134513B2 (ja) | 水平ライン補間機能付き撮像装置 | |
JP4402657B2 (ja) | 撮像装置 | |
JP2006054583A (ja) | 撮像装置 | |
JPH06233316A (ja) | フレーム静止画作成機能付き撮像装置 | |
JP2005006078A (ja) | 撮像装置 | |
JPH1132340A (ja) | 撮像システム | |
JPH0646430A (ja) | 水平ライン補間機能付き撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080930 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081128 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091228 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20100201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100706 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100716 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130723 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130723 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |