JP2018113725A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2018113725A
JP2018113725A JP2018073312A JP2018073312A JP2018113725A JP 2018113725 A JP2018113725 A JP 2018113725A JP 2018073312 A JP2018073312 A JP 2018073312A JP 2018073312 A JP2018073312 A JP 2018073312A JP 2018113725 A JP2018113725 A JP 2018113725A
Authority
JP
Japan
Prior art keywords
imaging
image signal
control unit
signal
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018073312A
Other languages
English (en)
Other versions
JP6702351B2 (ja
Inventor
寛信 村田
Hironobu Murata
寛信 村田
史郎 綱井
Shiro Tsunai
史郎 綱井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2018073312A priority Critical patent/JP6702351B2/ja
Publication of JP2018113725A publication Critical patent/JP2018113725A/ja
Application granted granted Critical
Publication of JP6702351B2 publication Critical patent/JP6702351B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】それぞれの撮像領域に最適な撮像条件を設定する。【解決手段】第1撮像領域および第2撮像領域を有し、第1撮像領域に入射した光に応じて生成された第1画像信号と、第2撮像領域に入射した光に応じて生成された第2画像信号とを出力する撮像部と、第1画像信号を第1デジタル画像信号に変換する第1信号変換部と、第2画像信号を第2デジタル画像信号に変換する第2信号変換部と、第1デジタル画像信号の上位ビットの少なくともいずれかのビットの状態を判定する第1判定部と、第2デジタル画像信号の上位ビットの少なくともいずれかのビットの状態を判定する第2判定部と、第1判定部の判定結果に基づいて第1撮像領域の撮像条件を制御するとともに、第2判定部の判定結果に基づいて第2撮像領域の撮像条件を制御する制御部とを備える撮像装置を提供する。【選択図】図1

Description

本発明は、撮像装置に関する。
撮像領域全体で一律に露光量等の撮像条件を制御する撮像装置が知られている(例えば、特許文献1参照)。
特許文献1 特開平08−22044号公報
従来の撮像装置では、撮像領域全体で一律の撮像条件で撮像するので、被写体によっては撮像領域の全ての場所で最適な撮像条件とはならない場合がある。
本発明の態様においては、第1撮像領域および第2撮像領域を有し、第1撮像領域に入射した光に応じて生成された第1画像信号と、第2撮像領域に入射した光に応じて生成された第2画像信号とを出力する撮像部と、第1画像信号を第1デジタル画像信号に変換する第1信号変換部と、第2画像信号を第2デジタル画像信号に変換する第2信号変換部と、第1デジタル画像信号の上位ビットの少なくともいずれかのビットの状態を判定する第1判定部と、第2デジタル画像信号の上位ビットの少なくともいずれかのビットの状態を判定する第2判定部と、第1判定部の判定結果に基づいて第1撮像領域の撮像条件を制御するとともに、第2判定部の判定結果に基づいて第2撮像領域の撮像条件を制御する制御部とを備える撮像装置を提供する。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本発明の実施形態に係る撮像装置500の構成の一例を示す図である。 撮像領域131の構成例を示す図である。 撮像装置500の動作例を示すタイミングチャートである。 図3に示した撮像装置500の動作の概要を示すフローチャートである。 撮像装置500の他の動作例を示すタイミングチャートである。 図5に示した撮像装置500の動作の概要を示すフローチャートである。 撮像装置500の他の動作例を示すタイミングチャートである。 図7に示した撮像装置500の動作の概要を示すフローチャートである。 撮像装置500の他の構成例を示す図である。 撮像領域131の他の構成例を示す図である。 撮像装置500の他の構成例を示す図である。 本実施形態に係る撮像素子200の断面図である。 撮像装置500のより詳細な構成例を示すブロック図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本発明の実施形態に係る撮像装置500の構成の一例を示す図である。撮像装置500は、例えば静止画または動画を撮像するカメラである。本例の撮像装置500は、撮像部100、複数のAD変換部180、複数の判定部182、および、制御部184を備える。
撮像部100は、複数の撮像領域131を有する。それぞれの撮像領域131は、入射光に応じた電荷を蓄積する。それぞれの撮像領域131は、入射光を電荷に変換して蓄積する1以上の光電変換部を有する。撮像装置500は、それぞれの撮像領域131が蓄積した電荷量を読み出すことで、入射光に応じた画像信号を生成する。図1においては、第1画像信号を生成する第1撮像領域131−1、および、第2画像信号を生成する第2撮像領域131−2を示している。第1撮像領域131−1は、1以上の第1光電変換部を有しており、第2撮像領域131−2は、1以上の第2光電変換部を有する。
AD変換部180は、それぞれの撮像領域131に対応して設けられる。図1においては、第1撮像領域131−1および第2撮像領域131−2に対応する第1AD変換部180−1および第2AD変換部180−2を示している。それぞれのAD変換部180は、対応する撮像領域131における電荷蓄積量に応じたアナログの画像信号をデジタル画像信号に変換する信号変換部の一例である。第1AD変換部180−1は、第1画像信号を第1デジタル画像信号に変換し、第2AD変換部180−2は、第2画像信号を第2デジタル画像信号に変換する。なお、一つのAD変換部180が、複数のAD変換部180として機能してもよい。この場合、一つのAD変換部180は、それぞれの撮像領域131が蓄積した電荷を順番に読み出して、デジタル画像信号に変換する。また、撮像領域131に複数の光電変換部が含まれる場合、AD変換部180は、複数の光電変換部が発生した電荷量を順番に読み出して、デジタル画像信号に変換してよい。
判定部182は、それぞれのAD変換部180に対応して設けられる。図1においては、第1AD変換部180−1および第2AD変換部180−2に対応する第1判定部182−1および第2判定部180−2を示している。それぞれの判定部182は、対応するAD変換部180が出力するデジタル画像信号の上位ビットの少なくともいずれかのビットの状態を判定する。つまり、複数の判定部182により、上位ビットの状態をデジタル画像信号毎に判定する。
なお、デジタル画像信号の「上位ビット」は、デジタル画像信号の各ビットを、対応する電荷蓄積量(または、画像信号の輝度値)の大きさの順に並べた場合に、電荷蓄積量が大きい側の半分のビットである。「対応する電荷蓄積量の大きさ」とは、当該ビットの値が遷移した場合の、電荷蓄積量の変動量の大きさに対応する。例えば、左側のビットから順番に2^(k−1)の大きさに対応しているMビットのデジタル画像信号においては(ただし、kはMから1の整数であり、最も左側のビットがk=Mであり、最も右側のビットがk=1である)、「上位ビット」とは、k=M〜(M/2)+1までのビットを指す。Mが奇数の場合、M/2は小数点以下を切り上げてよく、切り捨ててもよい。
なお、デジタル画像信号のビットのうち、対応する電荷蓄積量の大きさが最大のビット(上記の例では、k=Mのビット)を最上位ビット(MSB)、次に電荷蓄積量が大きいビット(上記の例では、k=M−1のビット)をMSB−1、以下同様に、MSB−2、MSB−3・・・と称する。
また、デジタル画像信号の各ビットは、電荷蓄積量(または、画像信号の輝度値)が小さい状態を示す第1の論理値から、大きい状態を示す第2の論理値に遷移する。本例において第1の論理値は「0」であり、第2の論理値は「1」である。
デジタル画像信号の上位ビットの状態を判定することで、対応する撮像領域131(すなわち、当該撮像領域131における光電変換部)が所定の電荷蓄積時間で蓄積した電荷蓄積量(すなわち入射光の明るさ)のおおよその値を容易に検出することができる。制御部184は、それぞれの判定部182における判定結果に基づいて、それぞれの判定部182に対応する撮像領域131における撮像条件を、撮像領域131毎に制御する。例えば制御部184は、第1判定部182−1の判定結果に基づいて第1撮像領域131−1の撮像条件を制御するとともに、第2判定部182−2の判定結果に基づいて第2撮像領域131−2の撮像条件を制御する。これにより、撮像領域131毎に最適な撮像条件が設定することができる。
例えば、デジタル画像信号の最上位ビットMSBの論理値が「0」の場合、対応する撮像領域131に対しては、電荷蓄積時間を2倍にしてもデジタル画像信号が飽和しないと推測される。制御部184は、デジタル画像信号のレンジを最大限利用するべく、当該撮像領域131の電荷蓄積時間をより長く設定する。また、制御部184は、AD変換部180の前段におけるアナログ信号の増幅率を、判定部182における判定結果に基づいて制御することもできる。このように、制御部184は、撮像領域131毎に様々な撮像条件を最適化することができる。撮像条件には、光電変換部における電荷蓄積時間、フレームレート、アナログ信号の増幅率以外にも、撮像装置500において制御可能なパラメータのうち、上記デジタル画像信号に影響を与える他の条件も含まれる。
また、判定部182は、最上位ビットMSB以外の上位ビットの状態を判定してもよい。例えば、判定部182は、最上位ビットMSBに加え、上位ビットMSB−1の状態を判定する。これらのビットの論理値がともに「0」の場合、対応する撮像領域131に対しては、電荷蓄積時間を4倍にしてもデジタル画像信号が飽和しないと推測される。制御部184は、当該撮像領域131の電荷蓄積時間を例えば4倍に設定する。
なお、複数のAD変換部180は、並行して画像信号を読み出し、それぞれデジタル画像信号に変換する。また、複数の判定部182は、並行してデジタル画像信号の上位ビットの状態を判定する。制御部184は、それぞれの撮像領域131に対して並行して、電荷蓄積時間等の撮像条件を設定する。
図2は、撮像領域131の構成例を示す図である。本例において、それぞれの撮像領域131は、一つの光電変換部104、転送トランジスタ152、リセットトランジスタ154、増幅トランジスタ156および選択トランジスタ158を有する。
転送トランジスタ152のソースおよびドレインはそれぞれ、光電変換部104の出力端、および、増幅トランジスタ156のゲートに接続される。光電変換部104の出力端と、転送トランジスタ152のソースとの間の配線における寄生容量は、光電変換部104が発生した電荷を蓄積する電荷蓄積部として機能する。本例において電荷蓄積部は光電変換部104の一部である。転送トランジスタ152のゲートには、電荷蓄積部が蓄積した電荷量を転送するか否かを制御する転送信号Txが入力される。
リセットトランジスタ154のドレインには基準電圧VDDが入力され、ソースは増幅トランジスタ156のゲートに接続される。リセットトランジスタ154のゲートには、電荷蓄積部が蓄積した電荷量をリセットするか否かを制御するリセット信号Rが入力される。
増幅トランジスタ156のドレインには基準電圧VDDが入力され、ソースは選択トランジスタ158のドレインに接続される。増幅トランジスタ156は、転送トランジスタ152から転送された電荷量に応じたアナログの画像信号を出力する。選択トランジスタ158のゲートには選択信号Sが入力され、ソースはAD変換部180に接続されている。転送トランジスタ152は、選択信号Sに応じて、転送トランジスタ152からの画像信号をAD変換部180に入力する。
本例においては、一つの光電変換部104に対して一つのAD変換部180および判定部182が設けられる。また、それぞれの撮像領域131に対して、転送信号Tx、リセット信号R、選択信号Sが独立して入力される。このため、光電変換部104毎にデジタル画像信号の上位ビットの状態を判定して、光電変換部104毎に電荷蓄積時間等の撮像条件を制御することができる。なお、本明細書においては、光電変換部104が蓄積した電荷、および、電荷蓄積時間を、当該光電変換部104が存在する撮像領域131が蓄積した電荷、および、電荷蓄積時間と称する場合がある。
図3は、撮像装置500の動作例を示すタイミングチャートである。図3において横軸は時間を示す。本例の撮像装置500は、予め設定される設定期間内に取得したデジタル画像信号に基づいて一つの画像を取得する。当該画像は静止画であってよく、動画における1コマの画像であってもよい。
本例の制御部184は、n個のデジタル画像信号の最上位ビットに基づいて、n個の撮像領域131の電荷蓄積時間を制御する。図3において、各デジタル画像信号のビットのうち、時間軸で最もマイナス方向寄りに記載されたビットが最上位ビットである。
本例における制御部184は、それぞれの撮像領域131の電荷蓄積時間の長さを、予め定められた長さのフレーム単位で制御する。本例において設定期間は、7つのフレームに分割される。
まず、それぞれの撮像領域131は、共通の長さのフレーム1を電荷蓄積期間として電荷を蓄積する。それぞれのAD変換部180は、対応する撮像領域131が蓄積した電荷をデジタル画像信号に変換する。それぞれの判定部182は、対応するデジタル画像信号の最上位ビットの状態を判定する。
制御部184は、最上位ビットが、電荷蓄積量が小さい状態を示す第1の論理値から、大きい状態を示す第2の論理値に遷移していない場合(すなわち論理値が「0」である場合)に、対応する撮像領域131の電荷蓄積時間を、予め設定されている電荷蓄積時間より長い時間に設定する。本例の制御部184は、当該撮像領域131の電荷蓄積時間を2フレーム分にする。
次に、対応するデジタル画像信号の最上位ビットが「0」の撮像領域131は、フレーム2および3を電荷蓄積時間として電荷を蓄積する。対応するAD変換部180および判定部182の動作は、フレーム1と同様である。また、制御部184は、フレーム1においてデジタル画像信号の最上位ビットが論理値「0」から論理値「1」に遷移している場合に、上記の設定期間が経過するまで、対応する撮像領域131が蓄積した電荷の読み出しを停止させる。AD変換部180の読み出し動作を停止させることで、消費電力を低減することができる。また、デジタル画像信号の最上位ビットが論理値「0」から論理値「1」に遷移した撮像領域の電荷の読み出しを停止させることで、デジタル画像信号を格納するために用いるメモリの数(容量)を減少させることができる。さらに、メモリ数の減少に伴い後段における画像処理等の演算量を減少させることができる。
制御部184は、フレーム2および3においてデジタル画像信号の最上位ビットが「0」と判定された撮像領域131の電荷蓄積時間を更に2倍にする。また、フレーム2および3においてデジタル画像信号の最上位ビットが「1」と判定されたAD変換部180は、以降の読み出し動作を停止する。
以上のように、制御部184は、予め定められた設定期間が経過するまで、それぞれの撮像領域131に対する電荷蓄積時間の設定を繰り返す。制御部184は、設定期間内で取得したデジタル画像信号に基づいて、それぞれの撮像領域131への入射光の明るさ(すなわち、画像信号の輝度値)を算出する。
本例の制御部184は、設定期間内で取得したデジタル画像信号を、撮像領域131毎に積算する。また、制御部184は、それぞれの撮像領域131の積算デジタル画像信号に、それぞれの撮像領域131の電荷蓄積時間に応じた係数を乗算して、それぞれの撮像領域131の輝度値を算出する。本例において当該係数は、設定期間の長さを、撮像領域131の電荷蓄積時間の積算値で除算して算出できる。
例えば、図3の例における撮像領域131−1については、フレーム1、フレーム2−3、フレーム4−7で取得した3つのデジタル画像信号を積算する。また、撮像領域131−1については、電荷蓄積時間の累積が、設定期間の全期間に渡るので、係数は1になる。撮像領域131−2については、フレーム1、フレーム2−3で取得した2つのデジタル画像信号を積算する。また、撮像領域131−2については、電荷蓄積時間の累積は、設定期間の3/7である。従って、係数は7/3になる。
同様に、撮像領域131−3については、フレーム1で取得したデジタル画像信号に、係数7を乗算する。このような処理により、それぞれの撮像領域131における電荷蓄積時間の累積値の相違を補償して、画像データの輝度値を算出することができる。また、それぞれの撮像領域131の電荷蓄積時間を最適化して、AD変換部180のデジタル値のレンジを最大限に活用できる。これにより、例えば高輝度の被写体に対応する撮像領域131から出力される画像信号の値が大きく、デジタル変換後のデジタル画像信号が飽和して輝度が一定となる、いわゆる白とびを低減させることができる。また、例えば低輝度の被写体に対応する撮像領域131から出力される画像信号の値が小さく、デジタル変換後のデジタル画像信号における階調差が出ない、いわゆる黒潰れを低減することができる。なお、電荷蓄積時間の初期値(例えばフレーム1の長さ)を十分短くすることで、白とびを防ぐことができる。
本例では、各撮像領域131について、設定期間内に取得したデジタル画像信号を積算したが、他の例では、各撮像領域131について最後に取得したデジタル画像信号だけを用いて輝度値を算出してよい。この場合、上記係数は、それぞれの撮像領域131について最後にデジタル画像信号を取得したときの電荷蓄積時間の長さの比で定まる。例えば撮像領域131−1については、フレーム4−7で取得したデジタル画像信号に係数1を乗算する。撮像領域131−2については、フレーム2−3で取得したデジタル画像信号に係数4/2=2を乗算する。撮像領域131−3については、フレーム1で取得したデジタル画像信号に係数4/1=4を乗算する。
また、本例の制御部184は、デジタル画像信号の最上位ビットが1になった撮像領域131に対して、電荷蓄積時間を2倍にしたが、倍率は2倍に限定されない。当該倍率は2倍以下の値であってよく、2倍より大きい値であってもよい。
また、本例の制御部184は、デジタル画像信号の最上位ビットだけに基づいて電荷蓄積時間を制御したが、デジタル画像信号の他の上位ビットに更に基づいて電荷蓄積時間を制御してもよい。この場合、電荷蓄積時間を再設定するときの倍率は、再設定に用いるデジタル画像信号の上位ビットの桁数に応じて制御してよい。例えば、デジタル画像信号の最上位ビットMSBおよび上位ビットMSB−1の上位2桁がともに「0」の場合、制御部184は、対応する撮像領域131の電荷蓄積時間を2桁×2=4倍にする。同様に上位p桁が全て「0」の場合、制御部184は、対応する撮像領域131の電荷蓄積時間を2×p倍にしてよい。
また、制御部184は、デジタル画像信号が所定の閾値を超えていない場合に、電荷蓄積時間を長く設定してもよい。例えば、制御部184は、デジタル画像信号が飽和値の90%を超えていない場合に、電荷蓄積時間をより長く設定する。この場合、電荷蓄積時間は、2倍に設定してよく、10/9倍に設定してよく、その他の倍率に設定してもよい。
また、図3の例においては、全ての撮像領域131の各電荷蓄積時間の始点(図3においては、フレーム1、フレーム2、フレーム4の始点)は同一であるが、当該始点は同一でなくともよい。また、図3の例においては、電荷蓄積時間の長さをフレーム単位で制御したが、フレームの長さを撮像領域131毎に変化させてもよい。それぞれの撮像領域131における電荷蓄積時間の長さは、図2において説明したリセット信号Rのタイミングと、選択信号Sのタイミングにより制御することができる。
図4は、図3に示した撮像装置500の動作の概要を示すフローチャートである。設定期間が始まると、まずS602において、それぞれの撮像領域131が所定の電荷蓄積時間で電荷を蓄積する。そして、AD変換部180が、電荷蓄積量をデジタル画像信号に変換する。
S604において、それぞれの判定部182は、対応する撮像領域131について、デジタル画像信号の最上位ビットMSBが「1」か否かを判定する。制御部184は、最上位ビットMSBが「1」でない撮像領域131について、電荷蓄積時間を2倍に再設定する(S606)。また、制御部184は、最上位ビットMSBが「1」である撮像領域131については、電荷の蓄積および電荷量の読み出しを停止させる(S608)。
S610において、制御部184は、所定の設定時間が終了したか否かを判定する。設定時間が終了していない場合、S606において再設定した電荷蓄積時間を用いて、S602からの処理を繰り返す。所定の設定時間が終了している場合、処理を終了する。当該処理の終了後、制御部184は、取得したそれぞれのデジタル画像信号に基づいて、それぞれの撮像領域131の輝度値を算出する。
図5は、撮像装置500の他の動作例を示すタイミングチャートである。本例の制御部184は、デジタル画像信号の最上位ビットが、第1の論理値「0」から第2の論理値「1」に遷移している場合に、所定の設定期間が経過するまで、対応する撮像領域131について電荷蓄積時間の設定を維持する。そして、対応する撮像領域131における光電変換部104に対して当該電荷蓄積時間での電荷の蓄積を繰り返させるとともに、対応するAD変換部180に当該電荷蓄積時間で蓄積された電荷の読み出しを繰り返させる。他の動作は、図3および図4において説明した例と同様である。
例えば、撮像領域131−2については、フレーム2−3において読み出したデジタル画像信号の最上位ビットが「1」なので、制御部184は撮像領域131−2における電荷蓄積時間を2フレーム分に維持して、電荷の蓄積および読み出しを繰り返す。また、撮像領域131−iについては、フレーム1において読み出したデジタル画像信号の最上位ビットが「1」なので、制御部184は撮像領域131−iにおける電荷蓄積時間を1フレーム分に維持して、電荷の蓄積および読み出しを繰り返す。
設定期間が終了した場合、制御部184は、それぞれの撮像領域131について、読み出したデジタル画像信号を積算する。本例では、それぞれの撮像領域131の累積電荷蓄積時間は等しい。このため、制御部184は、デジタル画像信号の積算値を、そのまま輝度値として算出してよい。
本例の撮像装置500は、それぞれの撮像領域131が、設定期間の全期間に渡って動作する。このため、設定期間内で生じたノイズ等を平均化することができる。また、それぞれの撮像領域131が動作する期間が同一なので、撮像領域131間の撮像タイミングを同一にすることができる。
図6は、図5に示した撮像装置500の動作の概要を示すフローチャートである。本例のフローチャートは、図4に示したフローチャートに対して、S608に代えてS612を有する点で相違する。本例においては、制御部184は、最上位ビットMSBが「1」である撮像領域131については、電荷蓄積時間の設定を維持する(S612)。撮像装置500は、当該電荷蓄積時間の設定を用いて、所定の設定時間が終了するまで電荷の蓄積および読み出しを繰り返す。
また、撮像装置500は、図3に示した動作と、図5に示した動作とを選択的に実行してよい。撮像装置500は、ユーザの操作に基づいて、いずれかの動作を選択してよい。また、撮像装置500は、電池の残量が所定値より少なくなった場合に、図3に示した省電力モードを選択し、電池の残量が所定値以上の場合に、図5に示した高精度モードを選択してよい。
図7は、撮像装置500の他の動作例を示すタイミングチャートである。本例の制御部184は、デジタル画像信号の全てのビットが、第1の論理値「0」から第2の論理値「1」に遷移している場合には、対応する撮像領域131の電荷蓄積時間を、現在設定されている電荷蓄積時間より短い時間に設定する。つまり、制御部184は、デジタル画像信号の最上位ビットが「1」の場合であっても、デジタル画像信号の全てのビットが「1」になっている場合には、電荷蓄積時間をより短くする。これにより、画像における白とびを防ぐことができる。他の動作は、図3から図6において説明したいずれかの動作例と同様である。
図7の例においては、撮像領域131−1のデジタル画像信号の全ビットが、フレーム1において「1」になっている。制御部184は、撮像領域131−1の電荷蓄積時間を、1フレーム分よりも短くする。例えば制御部184は、撮像領域131−1の電荷蓄積時間を0.5フレーム分にする。制御部184は、撮像領域131−1のデジタル画像信号が飽和(全ビットが「1」の状態)しなくなるまで、撮像領域131−1の電荷蓄積時間を徐々に短くする。
また、制御部184は、撮像領域131−1のデジタル画像信号の最上位ビットが「0」になった場合、撮像領域131−1の電荷蓄積時間を長くしてもよい。このとき、すでにデジタル画像信号が飽和することがわかっている電荷蓄積時間よりも短い時間に設定することが好ましい。例えば、1フレーム分の電荷蓄積時間の場合にデジタル画像信号が飽和し、0.4フレーム分の電荷蓄積時間の場合にデジタル画像信号の最上位ビットが「0」になった場合、次の電荷蓄積時間を、0.7フレーム分程度に設定する。図3から図7において説明した動作例において、制御部184は、新たに設定する電荷蓄積時間の長さを、設定期間の残りを任意の整数で除算することで算出してもよい。
また、制御部184は、それぞれの撮像領域131について、飽和したデジタル画像信号を除外して、デジタル画像信号を積算してよい。この場合、除外したデジタル画像信号に対応する電荷蓄積時間の長さに応じた係数を、積算デジタル画像信号に乗算する。これにより、デジタル画像信号の飽和による誤差をなくすことができる。
また、制御部184は、全ての撮像領域131について、デジタル画像信号の最上位ビットが「1」となり、且つ、デジタル画像信号が飽和していないことを条件として、設定期間の経過前に処理を終了してよい。これにより、処理時間を短縮することができる。
図8は、図7に示した撮像装置500の動作の概要を示すフローチャートである。本例のフローチャートは、図4または図6に示したフローチャートに対して、S614およびS616の処理が追加される。デジタル画像信号の最上位ビットが「1」と判定された場合(S604)、S614において、デジタル画像信号の全ビットが「1」、すなわち飽和しているか否かを判定する。デジタル画像信号が飽和している場合、対応する撮像領域131の電荷蓄積時間を例えば1/2倍にする(S616)。デジタル画像信号が飽和していない場合、S608以降の処理を実行する。なお、S608に代えて、図6に示したS612の処理を実行してもよい。
図9は、撮像装置500の他の構成例を示す図である。本例の撮像装置500は、図1に関連して説明した撮像装置500の構成に加え、操作部186を更に備える。操作部186は、ユーザの操作を受け付ける。
制御部184は、操作部186がユーザから第1の操作を受け付けた場合に、図3から図8に関連して説明したように、設定期間においてそれぞれの撮像領域131に対する電荷蓄積時間の設定を繰り返して、それぞれの撮像領域131について電荷蓄積時間の最適設定を予め取得する。ここで、電荷蓄積時間の最適設定とは、最後にデジタル画像信号を取得したときの電荷蓄積時間を指す。
例えば図3の例では、撮像領域131−1の電荷蓄積時間の最適設定は4フレーム分であり、撮像領域131−2の電荷蓄積時間の最適設定は2フレーム分であり、撮像領域131−3の電荷蓄積時間の最適設定は1フレーム分である。また、第1の操作は、例えば撮像装置500のシャッターボタンが半押しされた操作である。
制御部184は、操作部186がユーザから第2の操作を受け付けた場合に、電荷蓄積時間の最適設定を用いて撮像部100に被写体を撮像させる。この場合、制御部184は、それぞれの撮像領域131に対して電荷蓄積時間の最適設定を設定して、所定の撮像期間内において当該電荷蓄積時間での電荷の蓄積および読み出しを繰り返す。当該繰り返し回数は1回でもよい。第2の操作は、例えば撮像装置500のシャッターボタンが全押しされた操作である。
制御部184は、例えば撮像期間内で取得したデジタル画像信号を積算することで、それぞれの撮像領域131の輝度値を算出する。また、制御部184は、撮像領域131間における電荷蓄積時間の累積値の差異に応じた係数を、積算デジタル画像信号に乗算してもよい。本例の撮像装置500は、それぞれの撮像領域131の電荷蓄積時間の最適設定を予め取得するので、それぞれの撮像領域131の輝度値を効率よく算出することができる。
図10は、撮像領域131の他の構成例を示す図である。本例においてそれぞれの撮像領域131は、光電変換部104を複数有する。また、転送トランジスタ152、リセットトランジスタ154、増幅トランジスタ156および選択トランジスタ158を、それぞれの光電変換部104に対して有する。
本例においては、AD変換部180は、それぞれの撮像領域131に含まれる複数の光電変換部104が蓄積した電荷を順次読み出してデジタル画像信号に変換する。判定部182は、複数の光電変換部104に対応するそれぞれのデジタル画像信号の上位ビットの状態を判定する。例えば判定部182は、それぞれのデジタル画像信号を平均化した平均デジタル画像信号の上位ビットの状態を判定してよい。
制御部184は、判定部182における判定結果に基づいて、対応する撮像領域131の電荷蓄積時間等の撮像条件を制御する。本例において、撮像領域131に含まれるそれぞれの光電変換部104における撮像条件は同一である。電荷蓄積時間等の制御方法は、図1から図9に関連して説明した例と同様である。このような構成により、複数の光電変換部104を含むそれぞれの撮像領域131に対して、適切な撮像条件を設定することができる。
図11は、撮像装置500の他の構成例を示す図である。本例の撮像装置500は、図1から図10に関連して説明した撮像装置500の構成に加え、複数のアンプ188を備える。アンプ188は、それぞれの撮像領域131およびAD変換部180の間に設けられる。アンプ188は、対応する撮像領域131からのアナログの画像信号を増幅して、対応するAD変換部180に入力する。図11においては、第1AD変換部180−1および第2AD変換部180−2に対応する第1アンプ188−1および第2アンプ188−2を示している。なお、アンプ188は、対応するAD変換部180に内蔵されていてもよい。つまり、アンプ188およびAD変換部180が一つの素子として形成されてよい。
制御部184は、対応するデジタル画像信号の上位ビットおよび電荷蓄積時間に基づいて、それぞれのアンプ188における増幅率を独立に制御する。例えば制御部184は、電荷蓄積時間をより長い時間に再設定した場合に、所定の時間よりも長くなってしまう場合には、電荷蓄積時間を維持して、アンプ188における増幅率を増加させる。これにより、電荷蓄積時間が長くなりすぎることを防ぐことができる。
また、制御部184は、電荷蓄積時間を長くすることで、設定時間内にデジタル画像信号の最上位ビットが「1」になるかならないかを、デジタル画像信号の上位ビットに基づいて判別してもよい。制御部184は、最上位ビットが「1」にならないと判別した場合、アンプ188における増幅率を増加させてもよい。例えば、図3の例において、フレーム2−3において取得したデジタル画像信号の最上位ビットMSBおよび上位ビットMSB−1がともに「0」である場合、電荷蓄積時間を2倍しても、デジタル画像信号の最上位ビットMSBは「0」にならないと予測される。このような場合、制御部184は、電荷蓄積時間を2倍にしつつ、対応するアンプ188の増幅率を2倍に増加させる。また、図7に示した撮像領域131−1のデジタル画像信号のように、電荷蓄積時間がフレーム長よりも短くなる場合、電荷蓄積時間を維持してアンプ188における増幅率を低下させてもよい。
図12は、本実施形態に係る撮像素子200の断面図である。本例では、いわゆる裏面照射型の撮像素子200を示すが、撮像素子200は裏面照射型に限定されず、表面照射型であってもよい。撮像素子200は、撮像チップ113に積層された積層チップを備える構造であればよい。
本例の撮像素子200は、入射光に対応した画像信号を出力する撮像チップと113と、画像信号を処理する信号処理チップ111と、画像信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cu等の導電性を有する複数のバンプ109により互いに電気的に接続される。本例では、信号処理チップ111およびメモリチップ112が、上述した積層チップに相当する。
なお、図示するように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸に示すように、Z軸に直交する紙面右方向をX軸プラス方向、Z軸およびX軸に直交する紙面手前方向をY軸プラス方向とする。
撮像チップ113の一例は、裏面照射型のMOSイメージセンサである。撮像チップ113は、図1から図11に示した撮像部100に対応する。PD層106は、配線層108の裏面側に配されている。PD層106は、光に応じた電荷を生成する複数の光電変換部104を有する。撮像チップ113は、当該電荷に応じた画像信号を出力する。本例のPD層106は、二次元的に配された複数の光電変換部104、および、光電変換部104に対応して設けられたトランジスタ105を有する。トランジスタ105は、図2等における各トランジスタに対応する。
PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、光電変換部104のそれぞれに対応して特定の配列を有している。カラーフィルタ102、光電変換部104およびトランジスタ105の組が一つの画素を形成する。
カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応する光電変換部104へ向けて入射光を集光する。
配線層108は、PD層106からの画像信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子および能動素子が設けられてもよい。
配線層108の表面には複数のバンプ109が配される。当該複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされて、撮像チップ113と信号処理チップ111とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
同様に、信号処理チップ111およびメモリチップ112の互いに対向する面には、複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされて、信号処理チップ111とメモリチップ112とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用してもよい。また、バンプ109は、例えば後述する一つの出力配線に対して一つ設けてよく、複数設けてもよい。バンプ109の大きさは、光電変換部104のピッチよりも大きくてもよい。また、画素が配列された画素領域以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けてもよい。
信号処理チップ111は、撮像チップ113が出力するアナログの画像信号を受け取る。信号処理チップ111は、受け取った画像信号に対して所定の信号処理を行い、メモリチップ112に出力する。メモリチップ112は、信号処理チップ111から受け取る信号を保存する。
本例の信号処理チップ111には、複数のAD変換部180および複数の判定部182が設けられる。また、信号処理チップ111には、制御部184が更に設けられてもよい。それぞれのAD変換部180は、撮像チップ113が出力するアナログの画像信号を、デジタル画像信号に変換する。信号処理チップ111は、当該デジタル画像信号に対して、補正等の所定の演算を行ってよい。
複数のAD変換部180の少なくとも一部は、複数の画素が設けられた面と平行なADC配置面において、二次元に配置される。例えば、撮像チップ113において複数の画素が行方向および列方向に沿って二次元に配置されており、信号処理チップ111において複数のAD変換部180が行方向および列方向に沿って二次元に配置される。複数のAD変換部180は、信号処理チップ111において等間隔に配置されることが好ましい。
また、ADC配置面に配置された複数のAD変換部180のうちの少なくとも二以上のAD変換部180は並列動作する。並列動作とは、複数のAD変換部180におけるアナログ−デジタル変換処理が、略同時に行われることを指す。これにより、当該二以上のAD変換部180が略同時に発熱することとなり、複数のAD変換部180が独立に動く場合に比べて、温度分布のばらつきを低減することができる。なお、ADC配置面に配置された複数のAD変換部180の全てが略同時に動作することが好ましい。これにより、AD変換部180の発熱による温度分布を均等にすることができる。また、複数のAD変換部180は、信号処理チップ111のADC配置面において、不均一に配置されてもよい。例えば複数のAD変換部180は、信号処理チップ111のADC配置面の中央よりも、端部のほうが密度が高くなるように配置されてもよい。
また、複数のAD変換部180は、信号処理チップ111において、Z軸方向における位置が異なる複数のADC配置面に配置されてもよい。つまり、信号処理チップ111は多層チップであり、複数のAD変換部180は、異なる層に設けられてよい。この場合においても、複数のAD変換部180が配置された位置を、単一のADC配置面に投影した場合に、それぞれのAD変換部180が等間隔に配置されることが好ましい。
また、信号処理チップ111は、表裏面にそれぞれ設けられた回路を互いに接続するTSV(シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられることが好ましい。また、TSV110は、撮像チップ113の周辺領域、メモリチップ112にも設けられてよい。
図13は、撮像装置500のより詳細な構成例を示すブロック図である。撮像装置500は、撮影光学系としての撮影レンズ520を備え、撮影レンズ520は、光軸OAに沿って入射する被写体光束を撮像部100へ導く。撮影レンズ520は、撮像装置500に対して着脱できる交換式レンズであっても構わない。撮像装置500は、撮像部100、システム制御部501、駆動部502、測光部503、ワークメモリ504、記録部505、および表示部506を主に備える。
撮影レンズ520は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図13では瞳近傍に配置された仮想的な1枚のレンズで代表して表している。駆動部502は、システム制御部501からの指示に従って撮像部100のタイミング制御、領域制御等の電荷蓄積制御を実行する制御回路である。本例において駆動部502およびシステム制御部501は、図1から図12に関連して説明したAD変換部180、判定部182および制御部184の機能を担う。図12に示したように、駆動部502およびシステム制御部501を形成する制御回路の一部は、チップ化されて、撮像部100に積層されてもよい。
撮像部100は、画像信号をシステム制御部501の画像処理部511へ引き渡す。撮像部100は、図1から図12において説明した撮像部100と同一である。画像処理部511は、ワークメモリ504をワークスペースとして種々の画像処理を施し、画像データを生成する。例えば、JPEGファイル形式の画像データを生成する場合は、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、記録部505に記録されるとともに、表示信号に変換されて予め設定された時間の間、表示部506に表示される。
測光部503は、画像データを生成する一連の撮影シーケンスに先立ち、シーンの輝度分布を検出する。測光部503は、例えば100万画素程度のAEセンサを含む。システム制御部501の演算部512は、測光部503の出力を受けてシーンの領域ごとの輝度を算出する。演算部512は、算出した輝度分布に従ってシャッタ速度、絞り値、ISO感度を決定する。なお、上記AEセンサに用いられる画素を撮像部100内に設けてもよく、この場合には当該撮像部100とは別個の測光部503を設けなくてもよい。また、図1から図12に関連して説明した制御部184が、これらの撮像条件を制御してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
100 撮像部、101 マイクロレンズ、102 カラーフィルタ、103 パッシベーション膜、104 光電変換部、105 トランジスタ、106 PD層、107 配線、108 配線層、109 バンプ、110 TSV、111 信号処理チップ、112 メモリチップ、113 撮像チップ、131 撮像領域、152 転送トランジスタ、154 リセットトランジスタ、156 増幅トランジスタ、158 選択トランジスタ、180 AD変換部、182 判定部、184 制御部、186 操作部、188 アンプ、200 撮像素子、500 撮像装置、520 撮影レンズ、501 システム制御部、502 駆動部、503 測光部、504 ワークメモリ、505 記録部、506 表示部、511 画像処理部、512 演算部

Claims (13)

  1. 複数の撮像領域を有し、複数の前記撮像領域のうち、第1撮像領域で撮像された被写体の第1画像信号を出力する撮像部と、
    前記第1画像信号をデジタル信号に変換する第1信号変換部と、
    前記第1撮像領域の撮像条件を制御する制御部と、を備え、
    前記制御部は、前記第1信号変換部によりデジタル信号に変換された、前記第1撮像領域において予め設定された撮像条件で撮像された被写体の前記第1画像信号の上位ビット値が第1論理値から第2論理値に遷移していない場合、前記第1撮像領域に設定されている撮像条件を変更する撮像装置。
  2. 前記制御部は、前記第1信号変換部によりデジタル信号に変換された、前記第1撮像領域において予め設定された撮像条件で撮像された被写体の前記第1画像信号の最上位ビット値が第1論理値から第2論理値に遷移していない場合、前記第1撮像領域に設定されている撮像条件を変更する請求項1に記載の撮像装置。
  3. 前記第1撮像領域は、光を電荷に変換する第1光電変換部を含み、
    前記制御部は、前記第1光電変換部で変換された電荷の蓄積時間を制御する請求項1又は請求項2に記載の撮像装置。
  4. 前記制御部は、予め設定された期間が経過するまで、前記第1光電変換部で変換された電荷の蓄積時間の設定を繰り返す請求項3に記載の撮像装置。
  5. 前記制御部は、前記第1信号変換部によりデジタル信号に変換された、前記第1撮像領域において予め設定された撮像条件で撮像された被写体の前記第1画像信号の上位ビット値が第1論理値から第2論理値に遷移している場合、前記第1光電変換部で変換された電荷の読み出しを停止させる請求項4に記載の撮像装置。
  6. 前記第1画像信号を増幅する第1アンプを備え、
    前記第1信号変換部は、前記第1アンプで増幅された前記第1画像信号をデジタル信号に変換し、
    前記制御部は、前記第1信号変換部によりデジタル信号に変換された前記第1画像信号の上位ビット値に基づいて前記第1アンプの増幅率を制御する請求項1から5のいずれか一項に記載の撮像装置。
  7. 前記撮像部は、複数の前記撮像領域のうち、前記第1撮像領域とは異なる第2撮像領域で撮像された被写体の第2画像信号を出力し、
    前記制御部は、前記第2撮像領域の撮像条件を制御する請求項1から請求項6のいずれか一項に記載の撮像装置。
  8. 前記第2画像信号をデジタル信号に変換する第2信号変換部を備え、
    前記制御部は、前記第2信号変換部によりデジタル信号に変換された、前記第2撮像領域において予め設定された撮像条件で撮像された被写体の前記第2画像信号の上位ビット値が第1論理値から第2論理値に遷移していない場合、前記第2撮像領域に設定されている撮像条件を変更する請求項7に記載の撮像装置。
  9. 前記制御部は、前記第2信号変換部によりデジタル信号に変換された、前記第2撮像領域において予め設定された撮像条件で撮像された被写体の前記第2画像信号の最上位ビット値が第1論理値から第2論理値に遷移していない場合、前記第2撮像領域に設定されている撮像条件を変更する請求項8に記載の撮像装置。
  10. 前記第2撮像領域は、光を電荷に変換する第2光電変換部を含み、
    前記制御部は、前記第2光電変換部で変換された電荷の蓄積時間を制御する請求項8又は請求項9に記載の撮像装置。
  11. 前記制御部は、予め設定された期間が経過するまで、前記第2光電変換部で変換された電荷の蓄積時間の設定を繰り返す請求項10に記載の撮像装置。
  12. 前記制御部は、前記第2信号変換部によりデジタル信号に変換された、前記第2撮像領域において予め設定された撮像条件で撮像された被写体の前記第2画像信号の上位ビット値が第1論理値から第2論理値に遷移している場合、前記第2光電変換部で変換された電荷の読み出しを停止させる請求項11に記載の撮像装置。
  13. 前記第2画像信号を増幅する第2アンプを備え、
    前記第2信号変換部は、前記第2アンプで増幅された前記第2画像信号をデジタル信号に変換し、
    前記制御部は、前記第2信号変換部によりデジタル信号に変換された前記第2画像信号の上位ビット値に基づいて前記第2アンプの増幅率を制御する請求項8から12のいずれか一項に記載の撮像装置。
JP2018073312A 2018-04-05 2018-04-05 撮像装置 Active JP6702351B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018073312A JP6702351B2 (ja) 2018-04-05 2018-04-05 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018073312A JP6702351B2 (ja) 2018-04-05 2018-04-05 撮像装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013207212A Division JP6318526B2 (ja) 2013-10-02 2013-10-02 撮像装置

Publications (2)

Publication Number Publication Date
JP2018113725A true JP2018113725A (ja) 2018-07-19
JP6702351B2 JP6702351B2 (ja) 2020-06-03

Family

ID=62912567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018073312A Active JP6702351B2 (ja) 2018-04-05 2018-04-05 撮像装置

Country Status (1)

Country Link
JP (1) JP6702351B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020028081A (ja) * 2018-08-16 2020-02-20 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050195314A1 (en) * 1998-04-23 2005-09-08 Fossum Eric R. Digital exposure circuit for an image sensor
JP2011071958A (ja) * 2009-08-28 2011-04-07 Sony Corp 撮像素子およびカメラシステム
JP2012151847A (ja) * 2011-01-17 2012-08-09 Commissariat A L'energie Atomique Et Aux Energies Alternatives 高ダイナミックレンジイメージセンサ

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050195314A1 (en) * 1998-04-23 2005-09-08 Fossum Eric R. Digital exposure circuit for an image sensor
JP2011071958A (ja) * 2009-08-28 2011-04-07 Sony Corp 撮像素子およびカメラシステム
JP2012151847A (ja) * 2011-01-17 2012-08-09 Commissariat A L'energie Atomique Et Aux Energies Alternatives 高ダイナミックレンジイメージセンサ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020028081A (ja) * 2018-08-16 2020-02-20 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP7278039B2 (ja) 2018-08-16 2023-05-19 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
JP6702351B2 (ja) 2020-06-03

Similar Documents

Publication Publication Date Title
JP6593470B2 (ja) 撮像素子、撮像装置、および電子機器
US10958848B2 (en) Electronic apparatus
JP6282303B2 (ja) 撮像素子および撮像装置
WO2015083674A1 (ja) 撮像素子および撮像装置
CN105165005B (zh) 摄像单元、摄像装置及摄像控制程序
JP6405646B2 (ja) 撮像装置
US10056421B2 (en) Imaging device and imaging method
US10812704B2 (en) Focus detection device, method and storage medium, for controlling image sensor operations
JP6513164B2 (ja) 撮像素子および撮像装置
JP6702351B2 (ja) 撮像装置
JP6318526B2 (ja) 撮像装置
JP7055727B2 (ja) 撮像素子およびカメラ
JP2014230242A (ja) 撮像素子および撮像装置
JP6825665B2 (ja) 撮像素子および撮像装置
JP6597769B2 (ja) 撮像素子および撮像装置
JP5518025B2 (ja) 光電変換装置及び撮像装置
JP2024006293A (ja) 撮像素子および撮像装置
JP2023124783A (ja) 撮像装置及びその制御方法
KR20220127304A (ko) 촬상 소자 및 촬상 장치
JP2019009823A (ja) 撮像素子および撮像装置
JP2018207544A (ja) 撮像装置および撮像素子
JP2015023380A (ja) 撮像素子および撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180405

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190603

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200420

R150 Certificate of patent or registration of utility model

Ref document number: 6702351

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250