JP6413612B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6413612B2
JP6413612B2 JP2014213846A JP2014213846A JP6413612B2 JP 6413612 B2 JP6413612 B2 JP 6413612B2 JP 2014213846 A JP2014213846 A JP 2014213846A JP 2014213846 A JP2014213846 A JP 2014213846A JP 6413612 B2 JP6413612 B2 JP 6413612B2
Authority
JP
Japan
Prior art keywords
pixel
rts
threshold
value
point defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014213846A
Other languages
English (en)
Other versions
JP2016082484A (ja
Inventor
寛信 村田
寛信 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2014213846A priority Critical patent/JP6413612B2/ja
Publication of JP2016082484A publication Critical patent/JP2016082484A/ja
Application granted granted Critical
Publication of JP6413612B2 publication Critical patent/JP6413612B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像装置に関する。
従来、出力デジタル値を横軸とし、頻度を縦軸としたヒストグラムを作成して、当該ヒストグラムの中央値を中心とする予め定められた幅の出力デジタル値の平均値を用いて、RTS(Random Telegraph Signal)ノイズを補正するための補正用信号を生成していた(例えば、特許文献1参照)。
[先行技術文献]
[特許文献]
[特許文献1] 特開2008−245121号公報
しかしながら、撮影の度にヒストグラムを作成してRTSノイズを補正すると、補正のための演算時間が増大する。
本発明の第1の態様においては、複数の画素を有し、それぞれの画素がリセットと信号出力とを予め定められた回数繰り返して複数の画素信号を出力する画素部と、RTSノイズを検出するRTS閾値を記憶する閾値記憶部と、それぞれの画素について、複数の画素信号のそれぞれと、RTS閾値とを比較して、それぞれの画素信号がRTSノイズか否かを判定し、RTSノイズと判定された画素信号を除外した残りの画素信号に基づいて、それぞれの画素のRTS除外画素値を生成するデータ処理部とを備える撮像装置を提供する。
本発明の第2の態様においては、複数の画素を有し、それぞれの画素がリセットと信号出力とを予め定められた回数繰り返して複数の画素信号を出力する画素部と、予め定められた画素ブロック内のそれぞれの画素について、予め定められた回数繰り返し出力される複数の画素信号の第1ヒストグラムを生成し、第1ヒストグラムに基づいて、RTSノイズを検出するためのRTS閾値を生成する閾値生成部とを備える撮像装置。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
一眼レフカメラ400の断面図である。 撮像素子200の構成例を示すブロック図である。 画素部11における、画素ブロック12および画素13を示す図である。 画素13において、リセットと信号出力とが複数回繰り返されることを示す図である。 予め定められた画素ブロック12における、各画素13の画素値の第1ヒストグラムである。 予め定められた画素ブロック12における、各画素13のRTS除外画素値から作成した第2ヒストグラムである。 第1の実施形態における、RTSノイズおよび点欠陥ノイズを検出するフローチャート70である。 第2の実施形態における、RTSノイズおよび点欠陥ノイズを検出するフローチャート90である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、一眼レフカメラ400の断面図である。撮像装置の一例としての一眼レフカメラ400は、撮像素子200、レンズユニット500およびカメラボディ600を備える。カメラボディ600には、レンズユニット500が装着される。レンズユニット500は、その鏡筒内に、光軸410に沿って配列された光学系を備え、入射する被写体光束をカメラボディ600の撮像素子200へ導く。
本例においては、撮像装置として一眼レフカメラ400を例に説明するが、カメラボディ600を撮像装置と捉えてもよい。また、撮像装置は、ミラーユニットを備えるレンズ交換式カメラに限らず、ミラーユニットを持たないレンズ交換式カメラ、ミラーユニットの有無に関わらずレンズ一体式カメラであってもよい。また、本例において光軸410に沿って被写体光束が進む方向を第3方向とする。第3方向に対して垂直であって、かつ、互いに垂直な方向を、第1方向および第2方向とする。
カメラボディ600には、レンズマウント550が結合される。カメラボディ600は、ボディマウント660よりも第3方向の側にミラー672を備える。ミラー672は、レンズユニット500から第3方向に入射する被写体光束に対して傾けて設けられる斜設位置と、被写体光束から退避する退避位置との間で回転可能であるように軸に固定される。
ミラー672が斜設位置にある場合、レンズユニット500を通じて入射した被写体光束の多くはミラー672に反射されてピント板652に導かれる。ピント板652は、撮像素子200の受光面と共役な位置に配されて、レンズユニット500の光学系が形成した被写体像を可視化する。ピント板652に形成された被写体像は、ペンタプリズム654およびファインダ光学系656を通じてファインダ650から観察される。
ピント板652、ペンタプリズム654、ミラー672は、構造体としてのミラーボックス670に支持される。撮像素子200は、ミラーボックス670に取り付けられる。ミラー672が退避位置に退避し、シャッタユニット340の先幕および後幕が開状態となれば、レンズユニット500を透過する被写体光束は、撮像素子200の受光面に到達する。
撮像素子200に対してシャッタユニット340とは逆側には、ボディ基板620および背面表示部634が順次配置される。液晶パネル等が採用される背面表示部634は、カメラボディ600の背面に位置する。ボディ基板620には、CPU622、画像処理部624等の電子回路が実装される。撮像素子200の出力は、画像処理部624へ引き渡される。
図2は、撮像素子200の構成例を示すブロック図である。撮像素子200は、撮像チップ10および信号処理チップ20を備える。撮像チップ10には、第3方向から光束が入射する。撮像チップ10は、第3方向において信号処理チップ20に積層される。撮像チップ10は、複数のバンプ19を介して、信号処理チップ20に電気的に接続される。
撮像チップ10は、画素部11を有する。画素部11は、第1方向および第2方向において2次元に配列された複数の画素を含む。各画素は、少なくとも一つの光電変換部を含む。光電変換部は、第3方向から入射する光束の光量に応じて電荷を生成する。それぞれの画素は、生成されて蓄積された電荷を排除するリセット動作と電荷蓄積状態における信号出力動作とを予め定められた回数繰り返して、複数の画素信号を出力する。
また、各画素は、光電変換部に蓄積された電荷をアナログの画素信号として出力する。アナログの画素信号は信号処理チップ20に出力される。
信号処理チップ20は、複数のCDS(Correlated Double Sampling)回路21および信号処理部23を有する。本例では、信号処理チップ20は、画素部11の画素ブロック毎にアナログの画像信号を読み取る。それゆえ、CDS回路21は、画素部11の画素ブロックの個数と同じ数設けられる。なお、信号処理チップ20が、画素ブロック毎にアナログの画像信号を読み取らない場合は、CDS回路は第2方向に連続して設けられた一行の画素と同じ数だけ設けられてよい。CDS回路21は、画素ブロック中の画素に対応して設けられたアナログの画素信号を増幅するトランジスタの性能バラつきを補償する。
信号処理部23は、複数のAD変換器24、マルチプレクサ25、スイッチ26、閾値生成部30、閾値記憶部32およびデータ処理部34を有する。1つのAD変換器24は、1つのCDS回路21に対応して設けられる。AD変換器24は、CDS回路21から出力されたアナログの画素信号をデジタルの画素信号に変換する。AD変換器24は、変換したデジタルの画素信号をマルチプレクサ25に出力する。
マルチプレクサ25は、AD変換器24から出力された複数のデジタルの画素信号を閾値生成部30およびデータ処理部34のいずれか一方に順次に出力する。スイッチ26は、マルチプレクサ25と閾値生成部30およびデータ処理部34のいずれか一方とを選択的に接続する。
スイッチ26が閾値生成部30に接続され、デジタルの画素信号がマルチプレクサ25から閾値生成部30に出力される。閾値生成部30は、デジタルの画素信号の信号値から特定の閾値を生成する。本例における特定の閾値とは、RTS閾値および点欠陥閾値である。例えば、閾値生成部30は、一の画素について複数の画素信号の第1ヒストグラムを生成する。複数の画素信号は、閾値生成部30に予め定められた回数繰り返し出力される。閾値生成部30は、当該第1ヒストグラムに基づいてRTS閾値を生成する。閾値生成部30は、第1ヒストグラムを正規分布曲線でフィッティングし、当該正規分布から外れた画素値を除外するようRTS閾値を定める。なお、デジタルの画素信号のデジタル値を画素値と称する。
本明細書において、RTS閾値とは、画素値がRTSノイズであることを示す画素値の上限値および下限値を意味する。また、本明細書において、点欠陥閾値とは、画素値が点欠陥ノイズであることを示す画素値の上限値および下限値を意味する。RTS閾値の下限値以上であり、RTS閾値の上限値以下である画素値を、RTS閾値以内の画素値と称する。また、RTS閾値の下限値より小さい、または、RTS閾値の上限値より大きい画素値を、RTS閾値より外の画素値と称する。同様に、点欠陥閾値の下限値以上であり、点欠陥閾値の上限値以下である画素値を、点欠陥閾値以内の画素値と称する。また、点欠陥閾値の下限値より小さい、または、点欠陥閾値の上限値より大きい画素値を、点欠陥閾値より外の画素値と称する。
RTSノイズは一般に、トラップ準位に捕捉されたキャリアが何らかの要因によりトラップ準位から放出されることにより、異常な画素値を示す現象として知られている。また、点欠陥ノイズは、画素が光電変換された電荷量に応じたアナログ信号値を出力しなくなる現象として知られている。例えば、点欠陥ノイズを有する画素は、複数回アナログ信号値のサンプリングをしても、光電変換された電荷量に対応しない画素値であって、ポアソン分布等の統計分布に従った一定の画素値を常時示す。
閾値記憶部32は、閾値生成部30が生成したRTS閾値を記憶する。なお、閾値記憶部32は、一眼レフカメラ400の出荷点検時において測定されたRTS閾値を予め記憶してもよい。閾値記憶部32は、RTS閾値をデータ処理部34に提供する。
データ処理部34は、閾値生成部30が生成したRTS閾値を用いてRTSノイズを検出する。例えば、データ処理部34は、一の画素における複数の画素信号と、RTS閾値とを比較する。データ処理部34は、一の画素における複数の画素信号のそれぞれがRTSノイズか否かを判定する。
データ処理部34は、一の画素における複数の画素信号のうち、RTSノイズと判定されたデジタルの画素信号を除外した残りのデジタルの画素信号に基づいて、それぞれの画素のRTS除外画素値を生成する。例えばデータ処理部34は、一画素における複数のデジタルの画素信号から、RTS閾値より外の画素値をRTSノイズと判定する。
閾値生成部30は、スイッチ26を介してマルチプレクサ25から各画素における画素値の積算値および画素値のカウント値を受け取る。閾値生成部30は、RTS閾値以内における画素値の積算値および画素値のカウント値を、データ処理部34に送る。データ処理部34は、当該積算値およびカウント値を用いて、RTS除外画素値を生成する。これにより、データ処理部34は、RTSノイズと判定されたデジタルの画素信号を除外した残りのデジタルの画素信号を、当該一画素のRTS除外画素値とする。データ処理部34は、当該一画素以外の複数の画素の各々についても、RTS除外画素値を生成する。
なお、変形例として、閾値生成部30は、閾値生成部30に入力された各々の画素における複数の画素信号を複製して、RTS閾値と共にデータ処理部34に転送してもよい。これにより、データ処理部34は、各々の画素における複数の画素信号とRTS閾値とを用いて、RTS除外画素値を生成することができる。これに代えて、スイッチ26は、閾値生成部30のみをマルチプレクサ25に接続するのではなく、閾値生成部30およびデータ処理部34を同時にマルチプレクサ25に接続してもよい。これにより、各々の画素における複数の画素信号が、閾値生成部30およびデータ処理部34に入力される。データ処理部34は、閾値生成部30から受信したRTS閾値とマルチプレクサ25から受信した複数の画素信号とから生成したRTS除外画素値を、再び閾値生成部30へ出力する。
次に、閾値生成部30は、データ処理部34が生成したRTS除外画素値に基づいて点欠陥閾値を生成する。閾値生成部30は、複数の画素のRTS除外画素値について第2ヒストグラムを作成することにより、点欠陥ノイズを有する画素を特定する。閾値生成部30は、複数の画素のRTS除外画素値について第2ヒストグラムを作成し、当該第2ヒストグラムを正規分布曲線でフィッティングする。閾値生成部30は、当該正規分布から外れた画素値を除外するよう点欠陥閾値を定める。
閾値記憶部32は、閾値生成部30が生成した点欠陥閾値を記憶する。閾値記憶部32は、製品の出荷前の試験時において閾値生成部30が生成した点欠陥閾値を予め記憶してもよい。閾値記憶部32は、既に記憶されている点欠陥閾値を、閾値生成部30において新たに生成された点欠陥閾値で上書きしてもよい。閾値記憶部32は、点欠陥閾値をデータ処理部34に提供する。
データ処理部34は、閾値記憶部32が記憶したRTS閾値および点欠陥閾値を用いて、先に出力された複数の画素とは異なる複数の画素におけるRTSノイズおよび点欠陥ノイズを除外する。
例えば、スイッチ26が閾値生成部30からデータ処理部34に接続変更され、先に出力された複数の画素とは異なる複数の画素の各々から、デジタルの画素信号がデータ処理部34に出力される。つまり、データ処理部34は、先に出力された複数の画素の画素信号が除かれた、一つの画像を構成する画素信号全体を取得する。なお、これに代えて、データ処理部34は、先に出力された複数の画素の画素信号も含めて、一つの画像を構成する画素信号全体を取得してもよい。
そして、データ処理部34は、当該異なる複数の画素におけるデジタルの画素信号の画素値と、RTS閾値および点欠陥閾値とを比較する。データ処理部34は、先に出力された複数の画素の画素信号が除かれた画素値の各々と、RTS閾値および点欠陥閾値とを比較する。なお、データ処理部34は、先に出力された複数の画素の画素信号も含めて、一つの画像を構成する画素信号全体の画素値の各々と、RTS閾値および点欠陥閾値とを比較してもよい。データ処理部34は、RTS閾値および点欠陥閾値より外の画素値をRTSノイズおよび点欠陥ノイズであると判断してよい。
データ処理部34は、RTS閾値より外の画素値を除外する。さらに、データ処理部34は、点欠陥閾値より外の画素値を補正、補間または補完する。例えばデータ処理部34は、全く光電変換を行わない点欠陥画素を有する画素とその隣接画素とを含む領域内で、被写体構造物の方向判定に基づいて、点欠陥画素の画素値を適正な画素値で補間してよい。また例えばデータ処理部34は、点欠陥ノイズを有する画素が光に応答する画素であり、かつ、上述の方向性判定に基づいた置き換え処理をしない場合、画素値をゲイン補正をしたり、または、画素値をオフセット補正したりしてよい。また例えばデータ処理部34は、線状に繋がる画素の欠陥(線欠陥)または塊となって繋がる(塊欠陥)がある場合、補正、補間または補完のアルゴリズムを適宜変更して、画素値を補正等してよい。これにより、データ処理部34は、RTS閾値および点欠陥閾値以内の画素値を、ノイズ除去後のデジタルの画素信号として画像処理部624に出力する。なお変形例として、データ処理部34は欠陥画素の位置情報を画像処理部624へ伝達し、画像処理部624が点欠陥画素の画素値の補正、補間または補完を行ってもよい。
画像処理部624は、画像処理ASIC625および記録部626を有する。画像処理ASIC625は、記録部626をワークスペースとして種々の画像処理を施し、画像データを生成する。画像処理ASIC625は、JPEGファイル形式の画像データを生成する場合は、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、記録部626に記録される。また、背面表示部634は、当該記録部626記録された画像データに応じた画像を予め設定された時間の間表示する。
図3は、画素部11における、画素ブロック12および画素13を示す図である。画素部11は、複数の画素ブロック12を有する。本例の画素部11は、第1方向にM個かつ第2方向にN個の画素ブロック12を有する。画素ブロック12は、複数の画素13を有する。本例の画素ブロック12は、第1方向にm個かつ第2方向にn個の複数の画素13を有する。なお、M、N、mおよびnは自然数である。複数の画素13の各々は、光電変換された電荷からアナログの画素信号を生成する。
画素13は、光電変換部14、転送トランジスタ15、リセットトランジスタ16、増幅トランジスタ17および選択トランジスタ18を有する。光電変換部14のカソードは、転送トランジスタ15のソースに接続される。転送トランジスタ15のドレインは、リセットトランジスタ16のソースおよび増幅トランジスタ17のゲートに接続される。転送トランジスタ15のドレインは、浮遊拡散(Floating Diffusion)領域であり、文字FDで示す。
リセットトランジスタ16および増幅トランジスタ17のドレインは高電位部VDDに接続される。また、増幅トランジスタ17のソースは選択トランジスタ18のドレインに接続される。一つの画素ブロック12中の各画素13における選択トランジスタ18のソースは、バンプ19を介してCDS回路21に接続される。一つの画素ブロック12中の各画素13における選択トランジスタ18のソースは、順番に出力信号SOUTをCDS回路21に出力する。出力信号SOUTはアナログの画像信号である。
転送トランジスタ15のゲートである端子TXには、駆動回路から制御信号が入力される。当該制御信号は、正のパルス電圧信号であってよい。当該正のパルス電圧信号により、転送トランジスタ15はオン状態になる。オン状態となった転送トランジスタ15は、光電変換部14に蓄積された電荷を浮遊拡散領域FDに出力する。
リセットトランジスタ16のゲートである端子RSTには、駆動回路から制御信号が入力される。当該制御信号は、正のパルス電圧信号であってよい。当該正のパルス電圧信号により、リセットトランジスタ16はオン状態になる。オン状態となったリセットトランジスタ16は、浮遊拡散領域FDに蓄積された電荷を排除する。
増幅トランジスタ17と選択トランジスタ18のソースに接続された定電流源とは、ソースフォロワを構成する。増幅トランジスタ17のゲートに対する入力は、選択トランジスタ18のソースからSOUTとして出力される。増幅トランジスタ17のゲートには、浮遊拡散領域FDの電圧値が入力される。選択トランジスタ18のゲートである端子SELには、駆動回路から制御信号が入力される。当該制御信号は、正のパルス電圧信号であってよい。当該正のパルス電圧信号により、選択トランジスタ18はオン状態になる。
CDS回路21は、一つの画素ブロック12対応して一つ設けられる。CDS回路21は、あるタイミングにおいて、リセットトランジスタ16をオンにすることにより浮遊拡散領域FDの電荷が排除された状態(リセット状態)における選択トランジスタ18の出力信号Sを読み出して記録する。CDS回路21は、他のタイミングにおいて、リセットトランジスタ16をオフ、かつ、転送トランジスタ15、増幅トランジスタ17および選択トランジスタ18をオンする。これによりCDS回路21は、リセット状態の後において、浮遊拡散領域FDに電荷が蓄積された状態(電荷蓄積状態)における選択トランジスタ18の出力信号Sを読み出して記録する。
そして、CDS回路21は、リセット状態の出力信号Sと蓄積状態の出力信号Sとの差を計算する。出力信号SとSとの差をアナログの画素信号として用いることにより、各画素13に設けられた増幅トランジスタ17等の性能バラつきを補償することができる。
それぞれの画素13は、リセット状態における出力信号の読出し動作であるリセットと電荷蓄積状態における出力信号の読み出し動作である信号出力とを、1フレーム期間内で予め定められた回数繰り返して複数のアナログの画素信号をAD変換器24に出力する。例えば、リセット状態および電荷蓄積状態の出力信号によりアナログの画素信号を生成する動作を、1フレーム期間内で複数回順次繰り返す。各回において生成されたアナログの画素信号は、それぞれAD変換器24に出力されてデジタルの画素信号に変換される。つまり、1つの画素13について1フレーム期間内で複数回の画素値がサンプリングされる。
図4は、画素13において、リセットと信号出力とが複数回繰り返されることを示す図である。横軸は時刻を示し、縦軸は電圧値を示す。図4は、上から順に、リセットトランジスタ16のゲートに接続された端子RSTの電圧値、転送トランジスタ15のゲートに接続された端子TXの電圧値、および、選択トランジスタ18のソースから出力される出力信号VOUTの電圧値を示す。VOUTは出力信号SOUTの電圧値を示し、Vは出力信号Sの電圧値を示し、Vは出力信号Sの電圧値を示す。
画素13は、時間T1、T2、T3‥において、同様の動作を繰り返す。それゆえ、時刻t1からt5までの時間T1についてのみ説明する。時刻t1からt2において端子RSTに正のパルス電圧信号が入力される。この間、選択トランジスタ18はオン状態とされて、VOUTは増大する。
時刻t2からt3において、VOUTは一定の電圧値Vとなる。この間、選択トランジスタ18はオン状態とされて、電圧値Vはリセット状態の出力信号SとしてCDS回路21に読み出されて記録される。時刻t3からt4において端子TXに正のパルス電圧信号が入力される。この間、選択トランジスタ18はオン状態とされて、光電変換部14で生成された電荷量に対応してVOUTは減少する。
時刻t4からt5において、VOUTは一定の電圧値Vとなる。この間、選択トランジスタ18はオン状態とされて、電圧値Vは電荷蓄積状態の出力信号SとしてCDS回路21に読み出されて記録される。時間T2の時刻t5以降は、時間T1と同じ動作が繰り返される。これにより、CDS補正を反映した画素値が複数回サンプリングされる。
図5は、予め定められた画素ブロック12における、各画素13の画素値の第1ヒストグラムである。予め定められた画素ブロック12は、2以上の画素13を有してよい。図5においては、図4の画素ブロック12における数字1から4に対応する画素13を、(a)第1画素から(d)第4画素の画素13として示す。
各画素13の第1ヒストグラムの横軸は画素値を示し、縦軸は度数を示す。画素値が大きいほど蓄積された電荷が多く、画素値が小さいほど蓄積された電荷が少ないことを示す。なお、一の画素13における複数回のサンプリングにおいて、同一の光量が当該一の画素13に入射するとしても、画素値はポアソン分布等の統計分布に従うので、画素値は必ずしも毎回同じ値とはならない。
例えば、(b)第2画素において、画素値Dは最も高い画素値であるが、画素値Dが測定された数は最も少ない。これに対して、画素値Bは三番目に高い画素値であるが、画素値Bが測定された数は最も多い。このように1フレーム期間内における複数回のサンプリングにおいて、1つの画素13について複数の画素値がばらつきをもって測定される。
閾値生成部30は、第1画素から第4画素の各画素13について、複数の画素信号の第1ヒストグラムを生成する。そして、閾値生成部30は、(a)第1画素から(d)第4画素の第1ヒストグラムを、正規分布曲線でフィッティングする。
本例では、各画素13の第1ヒストグラムを、各々個別に正規分布曲線でフィッティングする。閾値生成部30は、正規分布における特徴的なパラメータによって特定される画素値をRTS閾値としてよい。本例の閾値生成部30は、正規分布の±3σに対応する画素値をRTS閾値とする。これにより、フィッティングした正規分布曲線のRTS閾値より外の画素値がRTSノイズとして特定される。
これに対してデータ処理部34は、フィッティングした正規分布曲線のRTS閾値以内の画素値をRTSを含まない画素値として特定する。本例においては、データ処理部34は、RTSを含まない画素値の重み付き平均値をRTS除外画素値として生成する。例えば、(b)第2画素の例において、RTSを含まない画素値(A,B,C,D)の度数が(6,16,6,4)であったと仮定する。この場合、重み付き平均値によって算出されるRTS除外画素値は、(A×6+B×16+C×6+D×4)/32となる。なお、本手法においては、RTS閾値以内に存在するRTSノイズは、当該手法によりRTSノイズとして区別しないこととなる。
各々の画素13におけるRTS閾値は、閾値記憶部32に記憶される。予め定められた画素ブロック12における各々の画素13の第1ヒストグラムを正規分布曲線でフィッティングした結果、各画素13に特有のRTS閾値が得られる。本例の閾値記憶部32は、予め定められた画素ブロック12における、最大のRTS閾値の上限値および最小のRTS閾値の下限値を記憶する。なお、閾値記憶部32は、当該各画素13に特有のRTS閾値を記憶してもよい。
なお、上述の説明では、予め定められた画素ブロック12において、画素13毎に第1ヒストグラムを生成してRTS閾値を生成するとした。つまり、1つの画素13に対して上限値および下限値を有する1対のRTS閾値が生成されるとした。しかしながら、2以上の画素13毎に第1ヒストグラムを生成してRTS閾値を生成してもよい。つまり、1つの予め定められた画素ブロック12に対して上限値および下限値を有する一対のRTS閾値が生成されてもよい。
画素ブロック12の明るさに応じて画素13の画素値の分布は変化する。例えば、被写体の明るい部分を表示する画素ブロック12の画素13の画素値は、被写体の暗い部分を表示する画素ブロック12の画素13の画素値よりも高くなる。それゆえ、被写体の明るい部分を表示する画素13の画素値の分布は、被写体の暗い部分を表示する画素13の画素値の分布よりも第1ヒストグラム上において右側にずれる。この場合、RTS閾値も第1ヒストグラム上において右側にずれることとなる。
そこで、画素ブロック12の明るさに応じて、画素値をスケーリングするべく、ルックアップテーブルおよび変換関数の少なくとも一方を予め定めてよい。つまり、異なる明るさを有する複数の画素ブロック12において、画素13の第1のヒストグラムにおける画素値の中央値が、同じになるように画素値を変換してよい。これにより、予め定められた画素ブロック12において決定したRTS閾値を、当該予め定められた画素ブロック12と異なる明るさを有する画素ブロック12に対しても適用することができる。ルックアップテーブルおよび変換関数は、閾値記憶部32に記憶されてよい。
図6は、予め定められた画素ブロック12における、各画素13のRTS除外画素値から作成した第2ヒストグラムである。本例では、画素ブロック12内における各画素13について、RTSを含まない画素値の重み付き平均値をRTS除外画素値として、ヒストグラム上にマッピングする。なお、第2ヒストグラムの横軸は画素値を示し、縦軸は度数を示す。
閾値生成部30は、第2ヒストグラムを正規分布曲線でフィッティングする。閾値生成部30は、正規分布曲線における特徴的なパラメータに対応する画素値を点欠陥閾値としてよい。本例の閾値生成部30は、正規分布曲線の±3σに対応する画素値を点欠陥閾値と定める。
点欠陥閾値は、予め定められた画素ブロック12における複数の画素13の各々について、RTS除外画素値をマッピングして正規分布曲線でフィッティングした結果得られる。それゆえ点欠陥閾値は、予め定められた画素ブロック12内における2以上の画素13に対して共通の値である。異なる2以上の画素ブロック12においては、点欠陥閾値は異なる値であってよい。なお、点欠陥閾値以内に存在する点欠陥ノイズは、当該手法により点欠陥ノイズとして区別しない。閾値記憶部32は、1つの予め定められた画素ブロック12に対して上限値および下限値を有する一対の点欠陥閾値を記憶する。
図7は、第1の実施形態における、RTSノイズおよび点欠陥ノイズを検出するフローチャート70である。ステップ71において本フローチャート70を開始する。ステップ72において、画素部11における予め定められた画素ブロック12が指定される。指定される画素ブロック12を画素部11中のどこにするか、および、画素ブロック12中におけるm×n個の画素13の具体的な数は、CPU622により任意に指定されてもよいし、ユーザが定めてもよい。
ステップ73において、閾値生成部30は、予め定められた画素ブロック12内のそれぞれの画素13について、予め定められた回数繰り返し出力される複数の画素信号の第1ヒストグラムを生成する。閾値生成部30はさらに、第1ヒストグラムに基づいて、RTSノイズを検出するためのRTS閾値を生成する。本例では、閾値生成部30は、当該第1ヒストグラムを正規分布曲線でフィッティングする。閾値生成部30は、正規分布の±3σに対応する画素値をRTS閾値とする。
ステップ74において、データ処理部34は、予め定められた画素ブロック12内のそれぞれの画素13について、複数の画素信号のうちRTSノイズと判定される画素信号を除外する。データ処理部34は、RTSノイズを除外した残りの画素信号に基づいてRTS除外画素値を生成する。本例のデータ処理部34は、第1のヒストグラムをフィッティングした正規分布曲線のRTS閾値以内における画素値の重み付き平均することでRTS除外画素値を生成する。
ステップ75において、閾値記憶部32は、閾値生成部30が生成したRTS閾値を記憶する。ステップ76において、閾値生成部30は、画素ブロック12内のそれぞれの画素13のRTS除外画素値の第2ヒストグラムを生成する。本例では、閾値生成部30は、予め定められた画素ブロック12内における各画素13のRTS除外画素値をマッピングして第2ヒストグラムを作成する。閾値生成部30は、第2ヒストグラムに基づいて点欠陥を検出するための点欠陥閾値を生成する。本例では、閾値生成部30は、当該第2ヒストグラムを正規分布曲線でフィッティングする。閾値生成部30は、正規分布の±3σに対応する画素値を点欠陥閾値とする。ステップ77において、閾値記憶部32は、閾値生成部30が生成した点欠陥閾値を記憶する。
ステップ78において、データ処理部34は、予め定められた画素ブロック12に対応する画素値を除く一つの画像のデータ全体を取得する。ステップ79において、データ処理部34は、閾値記憶部32からRTS閾値を取得する。そして、データ処理部34は、予め定められた画素ブロック12以外のそれぞれの画素13と、RTS閾値とを比較して、それぞれの画素信号がRTSノイズか否かを判定する。例えばデータ処理部34は、ウィンドウコンパレータを用いて、一つの画像のデータを構成する画素信号の画素値とRTS閾値とを比較する。また、データ処理部34は、画素ブロック12における各画素13の複数の信号値のうち、RTS閾値より外の画素値を除外する。データ処理部34は、RTSノイズと判定された画素信号を除外した残りの画素信号に基づいて、それぞれの画素13のRTS除外画素値を生成する。これにより、データ処理部34は、RTS閾値より大きい画素値およびRTS閾値より小さい画素値をRTSノイズとして除去することができる。
ステップ80において、データ処理部34は、閾値記憶部32から点欠陥閾値を取得する。そして、データ処理部34は、予め定められた画素ブロック12以外のそれぞれの画素13のRTS除外画素値と点欠陥閾値とを比較する。これにより、データ処理部34は、それぞれの画素13が点欠陥画素か否かを判定する。本例では、データ処理部34は、ウィンドウコンパレータを用いてRTS除外画素値と点欠陥閾値とを比較をする。データ処理部34は、点欠陥閾値より外の画素値を点欠陥ノイズと判断する。この場合データ処理部34は、点欠陥ノイズである画素13の画素値については、画素値を補正等する。データ処理部34は、点欠陥ノイズを有する画素13の画素値を、点欠陥ノイズである当該画素13の周辺の画素13の画素値から補間してよい。ステップ81において、RTSノイズを除去し、かつ、点欠陥ノイズを有する画素値を補正等した画素信号を出力して、処理を終了する。
本例においては、画素部11の予め定められた画素ブロック12の複数の画素13だけについて、閾値生成部30がRTS閾値および点欠陥閾値を生成する。そして、画素部11の他の画素ブロック12における複数の画素13の画素値と、当該RTS閾値および点欠陥閾値と、を比較することによりRTSノイズを除去し、点欠陥ノイズを有する画素値を補正等する。つまり、全ての画素13についてヒストグラムを作成しないので、演算量を減らすことができる。また、信号処理チップ20の演算量の負担を軽減することができる。よって、RTSノイズ除去および点欠陥ノイズを有する画素値の補正に要する処理時間を短くすることができる。また、一眼レフカメラ400は迅速にRTSノイズ除去および点欠陥ノイズを有する画素値の補正等をすることができる。
また、本例におけるノイズ補正は、正規分布曲線から外れた画素値をRTSノイズおよび点欠陥ノイズと見なす。これにより、中央値を用いて補正する場合と比較して、より効果的にRTSを除外することができる。加えて、RTS除外画素値をマッピングして作成した第2ヒストグラムにおいて点欠陥ノイズを検出して画素値を補正等するので、RTSノイズと点欠陥ノイズとを区別して除外することができる。
なお、データ処理部34は、ステップ79におけるRTS除外画素値を生成する際に、上述したように画素13について一回だけサンプリングしてよいし、複数回サンプリングしてもよい。データ処理部34は、画素13についてRTS除外画素値を複数回サンプリングして得た値を平均することにより、画素値の信号対雑音比を向上させることができる。
さらに、信号対雑音比の向上よりも処理時間の短縮を優先する場合は、データ処理部34は、RTS除外画素値を一回だけサンプリングしてよい。これに対して、処理時間の短縮よりも信号対雑音比の向上を優先する場合は、データ処理部34は、RTS除外画素値を複数回サンプリングしてもよい。
なお上述の例では、予め定められた画素ブロック12は一つとしたが、RTS閾値を生成する範囲を一つの画素ブロック12から複数の画素ブロック12へと拡張してもよい。これにより、一つの画素ブロック12を用いる場合と比較して、さらに高精度にRTSノイズ除去および点欠陥ノイズを有する画素値の補正等を行うことができる。さらに、RTS閾値を生成する範囲は全画素ブロック12としてもよい。
図8は、第2の実施形態における、RTSノイズおよび点欠陥ノイズを検出するフローチャート90である。本例においては、閾値記憶部32が、RTS閾値および点欠陥閾値を予め記憶している。また、RTS閾値および点欠陥閾値がユーザ指示により更新される。係る点が第1の実施形態と異なる。RTS閾値および点欠陥閾値は、製品の出荷前の試験時において測定された閾値であってよい。
ステップ91において本フローチャート90を開始する。ステップ92においてユーザは、閾値記憶部32が予め記憶したRTS閾値および点欠陥閾値を更新するか否か指示を出す。RTS閾値および点欠陥閾値を更新しない(No)場合、ステップ92からステップ93に進む。これに対して、RTS閾値および点欠陥閾値を更新する(Yes)場合、ステップ92からステップ101に進む。
RTS閾値および点欠陥閾値を更新しない(No)場合について説明する。ステップ93において、データ処理部34は、一つの画像のデータ全体を取得する。なお、データ処理部34は、複数枚の画像を取得して、各画像においてRTSノイズを除去してもよい。これにより、上述の複数回サンプリングの効果を得ることができる。
ステップ94において、データ処理部34は、閾値記憶部32から予め記憶されているRTS閾値を読み出す。そして、データ処理部34は、一つの画像のデータを構成する画素信号の画素値とRTS閾値とを比較する。データ処理部34は、RTS閾値より外の画素値をRTSノイズとして除去する。
ステップ95において、データ処理部34は、閾値記憶部32から予め記憶されている点欠陥閾値を読み出す。そして、データ処理部34は、RTSノイズ除去後のそれぞれの画素13のRTS除外画素値と点欠陥閾値とを比較する。これによりデータ処理部34は、点欠陥画素を検出する。データ処理部34は、点欠陥閾値より外の画素値を点欠陥ノイズを有する画素と判断して、その画素値を補正等する。ステップ95において、ノイズを除去および画素値の補正等をした画素信号を出力して、一旦処理を終了する。
次に、RTS閾値および点欠陥閾値を更新する(Yes)場合について説明する。ステップ101において、ユーザの指示に応じて、RTS閾値および点欠陥閾値の更新が開始される。なお、当該ユーザの指示は、RTS閾値および点欠陥閾値の更新をする指示であって、一眼レフカメラ400に設けられるボタン等により入力される明示的な指示であってよい。ステップ101において、画素部11中の特定の画素ブロック12が定められる。画素ブロック12を画素部11中のどこにするか、および、画素ブロック12中におけるm×n個の画素13の具体的な数は、CPU622により任意に指定されてよいし、ユーザが定めてもよい。
ステップ102において、閾値生成部30は、予め定められた画素ブロック12内における各画素13について定められた回数繰り返し出力される複数の画素信号の第1ヒストグラムを生成する。閾値生成部30は、当該第1ヒストグラムに基づいて新たなRTS閾値を生成する。つまり、閾値生成部30は、各画素13の画素値の第1ヒストグラムを正規分布曲線でフィッティングすることで、RTS閾値を新たに生成する。
ステップ103において、データ処理部34は、予め定められた画素ブロック12内における各画素13の複数の信号値とRTS閾値とから、RTS除外画素値を生成する。データ処理部34は、第1のヒストグラムをフィッティングして、正規分布曲線のRTS閾値以内の画素値を画素値の重み付き平均することでRTS除外画素値を生成してよい。ステップ103において、閾値記憶部32は、予め記憶したRTS閾値を閾値生成部30が新たに生成したRTS閾値で更新する。
ステップ104において、閾値生成部30は、RTS除外画素値の第2ヒストグラムを生成する。つまり、閾値生成部30は、RTS除外画素値から予め定められた画素ブロック12における各画素13のRTS除外画素値をマッピングして第2ヒストグラムを作成する。閾値生成部30は、第2ヒストグラムに基づいて新たな前記点欠陥閾値を生成する。本例では、閾値生成部30は、第2ヒストグラムを正規分布曲線でフィッティングすることで、点欠陥閾値を生成する。
ステップ105において、閾値記憶部32は、予め記憶した点欠陥閾値を閾値生成部30が生成した点欠陥閾値で更新する。次に、ステップ105からステップ94に進み、データ処理部34は、閾値記憶部32から更新されたRTS閾値を読み出す。RTS閾値比較は上述の様に行われる。次に、ステップ95に進み、データ処理部34は、閾値記憶部32から更新された点欠陥閾値を読み出す。その後の処理は上述の通りである。なお、RST閾値および点欠陥閾値は、その後もユーザの指示に応じて何度でも更新してよい。
本例においては、製品の出荷前の試験において記憶されたRTS閾値および点欠陥閾値を、ユーザ指示に応じて更新する。これにより、RTSノイズおよび欠陥ノイズについて、先天性のノイズの閾値が経時およびストレス変化により生じた後天性のノイズの閾値により更新される。よって、製品の状態に応じて適切にRTS閾値および点欠陥閾値をアップデートすることができる。また、新品状態においては記憶された閾値を用いて迅速にノイズ補正を行い、一定期間経過後には経時劣化に応じたノイズ補正ができる。さらに、RTS閾値および点欠陥閾値を閾値算出時間と共に記録することにより、経時的なRTSノイズおよび点欠陥ノイズの発生頻度のデータを得ることもできる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順序で実施することが必須であることを意味するものではない。
10 撮像チップ、11 画素部、12 画素ブロック、13 画素、14 光電変換部、15 転送トランジスタ、16 リセットトランジスタ、17 増幅トランジスタ、18 選択トランジスタ、19 バンプ、20 信号処理チップ、21 CDS回路、23 信号処理部、24 AD変換器、25 マルチプレクサ、26 スイッチ、30 閾値生成部、32 閾値記憶部、34 データ処理部、70 フローチャート、90 フローチャート、200 撮像素子、340 シャッタユニット、410 光軸、400 一眼レフカメラ、500 レンズユニット、550 レンズマウント、600 カメラボディ、620 ボディ基板、622 CPU、624 画像処理部、625 画像処理ASIC、626 記録部、634 背面表示部、650 ファインダ、652 ピント板、654 ペンタプリズム、656 ファインダ光学系、660 ボディマウント、670 ミラーボックス、672 ミラー

Claims (9)

  1. 複数の画素を有し、それぞれの画素がリセットと信号出力とを予め定められた回数繰り返して複数の画素信号を出力する画素部と、
    RTSノイズを検出するRTS閾値を記憶する閾値記憶部と、
    それぞれの画素について、前記複数の画素信号のそれぞれと、前記RTS閾値とを比較して、それぞれの画素信号がRTSノイズか否かを判定し、RTSノイズと判定された画素信号を除外した残りの画素信号に基づいて、それぞれの画素のRTS除外画素値を生成するデータ処理部と
    を備える撮像装置。
  2. 前記閾値記憶部は、2以上の画素に対して共通の点欠陥閾値を更に記憶し、
    前記データ処理部は、それぞれの画素の前記RTS除外画素値と、前記点欠陥閾値とを比較して、点欠陥画素を検出する、
    請求項1に記載の撮像装置。
  3. ユーザの指示に応じて前記RTS閾値を新たに生成して、前記閾値記憶部が記憶した前記RTS閾値を更新する閾値生成部を更に備え、
    前記閾値生成部は、予め定められた画素ブロック内のそれぞれの画素について、前記予め定められた回数繰り返し出力される前記複数の画素信号の第1ヒストグラムを生成し、前記第1ヒストグラムに基づいて新たな前記RTS閾値を生成する、
    請求項2に記載の撮像装置。
  4. 前記データ処理部は、前記画素ブロック内のそれぞれの前記画素について前記RTS除外画素値を生成し、
    前記閾値生成部は、前記RTS除外画素値の第2ヒストグラムを生成し、前記第2ヒストグラムに基づいて新たな前記点欠陥閾値を生成し、前記閾値記憶部が記憶した前記点欠陥閾値を更に更新する、
    請求項3に記載の撮像装置。
  5. 複数の画素を有し、それぞれの画素がリセットと信号出力とを予め定められた回数繰り返して複数の画素信号を出力する画素部と、
    予め定められた画素ブロック内のそれぞれの画素について、前記予め定められた回数繰り返し出力される前記複数の画素信号の第1ヒストグラムを生成し、前記第1ヒストグラムに基づいて、RTSノイズを検出するためのRTS閾値を生成する閾値生成部と
    を備える撮像装置。
  6. 前記画素ブロック内のそれぞれの画素について、前記複数の画素信号のうち前記RTSノイズと判定される画素信号を除外した残りの画素信号に基づいてRTS除外画素値を生成するデータ処理部を更に備える、
    請求項5に記載の撮像装置。
  7. 前記データ処理部は、前記画素ブロック以外のそれぞれの画素と、前記RTS閾値とを比較して、それぞれの画素信号がRTSノイズか否かを判定し、RTSノイズと判定された画素信号を除外した残りの画素信号に基づいて、それぞれの画素のRTS除外画素値を生成する、
    請求項6に記載の撮像装置。
  8. 前記閾値生成部は、前記画素ブロック内のそれぞれの画素の前記RTS除外画素値の第2ヒストグラムを生成し、前記第2ヒストグラムに基づいて点欠陥を検出するための点欠陥閾値を生成する、
    請求項7に記載の撮像装置。
  9. 前記データ処理部は、前記画素ブロック以外のそれぞれの画素の前記RTS除外画素値と前記点欠陥閾値とを比較して、それぞれの画素が点欠陥画素か否かを判定する、
    請求項8に記載の撮像装置。
JP2014213846A 2014-10-20 2014-10-20 撮像装置 Active JP6413612B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014213846A JP6413612B2 (ja) 2014-10-20 2014-10-20 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014213846A JP6413612B2 (ja) 2014-10-20 2014-10-20 撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018189557A Division JP2019009824A (ja) 2018-10-04 2018-10-04 撮像装置

Publications (2)

Publication Number Publication Date
JP2016082484A JP2016082484A (ja) 2016-05-16
JP6413612B2 true JP6413612B2 (ja) 2018-10-31

Family

ID=55959328

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014213846A Active JP6413612B2 (ja) 2014-10-20 2014-10-20 撮像装置

Country Status (1)

Country Link
JP (1) JP6413612B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113938625B (zh) * 2021-10-25 2024-03-05 锐芯微电子股份有限公司 图像传感器及其读出方法、装置、计算机可读存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4544027B2 (ja) * 2005-05-12 2010-09-15 三菱電機株式会社 固体撮像装置及び点滅欠陥検出方法
JP2008245121A (ja) * 2007-03-28 2008-10-09 National Univ Corp Shizuoka Univ 撮像装置、およびイメージセンサデバイス
JP2008311834A (ja) * 2007-06-13 2008-12-25 Nec Corp 欠陥画素補正装置及び方法
JP4604078B2 (ja) * 2007-11-22 2010-12-22 アキュートロジック株式会社 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置
JP5455798B2 (ja) * 2009-07-16 2014-03-26 キヤノン株式会社 画像処理装置
JP5631325B2 (ja) * 2009-10-05 2014-11-26 キヤノン株式会社 撮像装置の欠陥検出方法及び撮像装置

Also Published As

Publication number Publication date
JP2016082484A (ja) 2016-05-16

Similar Documents

Publication Publication Date Title
US11089256B2 (en) Image sensor with correction of detection error
US7796176B2 (en) Phase adjusting device, phase adjusting method, and digital camera
JP4743243B2 (ja) 撮像装置、黒レベルの調整方法およびプログラム
US9948879B2 (en) Image processing apparatus, image processing method, and image capturing apparatus
US9083898B2 (en) Solid-state imaging device and camera module
CN107113383B (zh) 图像处理装置、图像处理方法和存储介质
US8913161B2 (en) Image capturing apparatus and control method thereof
US10158811B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US10027919B2 (en) Signal processing apparatus, image capturing apparatus, control apparatus, signal processing method, and control method
US20080174352A1 (en) Phase adjusting device and related art thereof
JP6413612B2 (ja) 撮像装置
JP2011244288A5 (ja)
US10491840B2 (en) Image pickup apparatus, signal processing method, and signal processing program
JP2019009824A (ja) 撮像装置
US10594912B2 (en) Flash band determination device for detecting flash band, method of controlling the same, storage medium, and image pickup apparatus
JP2011250249A (ja) 映像信号処理装置および映像信号処理方法
JP2010273147A (ja) 撮像信号特定状態検出装置、撮像装置、撮像信号特定状態検出方法、プログラムおよび集積回路
JP5720213B2 (ja) 撮像装置
US11843890B2 (en) Photoelectric conversion device, image pickup apparatus, control method, and storage medium
US8885072B2 (en) Solid-state imaging device, imaging method, and camera module
JP4952548B2 (ja) ノイズ検出装置、撮像装置、およびノイズ検出方法
JP2006100913A (ja) 画像処理装置および画像処理方法
JP2008028634A (ja) 撮像装置
JP2015177256A (ja) 固体撮像装置
JP4880777B2 (ja) 画像処理方法および撮像装置モジュール

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180917

R150 Certificate of patent or registration of utility model

Ref document number: 6413612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250