JP6819428B2 - 画像撮像装置 - Google Patents

画像撮像装置 Download PDF

Info

Publication number
JP6819428B2
JP6819428B2 JP2017076584A JP2017076584A JP6819428B2 JP 6819428 B2 JP6819428 B2 JP 6819428B2 JP 2017076584 A JP2017076584 A JP 2017076584A JP 2017076584 A JP2017076584 A JP 2017076584A JP 6819428 B2 JP6819428 B2 JP 6819428B2
Authority
JP
Japan
Prior art keywords
image
exposure time
image pickup
image sensor
texp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017076584A
Other languages
English (en)
Other versions
JP2018182445A (ja
Inventor
健 宇野
健 宇野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2017076584A priority Critical patent/JP6819428B2/ja
Publication of JP2018182445A publication Critical patent/JP2018182445A/ja
Application granted granted Critical
Publication of JP6819428B2 publication Critical patent/JP6819428B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Facsimile Scanning Arrangements (AREA)

Description

本発明は画像撮像装置に関するものである。より具体的には、1次元の撮像素子と集光光学系からなる撮像系を備え、所定の時間周期で撮像を繰り返すと同時に、撮像系と撮像対象物との位置関係をほぼ等速で平行移動することで撮像対象物の2次元画像データを取得するラインスキャン型の画像撮像装置において、信号のオフセット量を精度良く除去可能な画像撮像装置に関するものである。
CCD等の撮像素子が取得した画像信号には、(1)オフセットノイズ:画素ごとにおおむね決まった値で発生するノイズ、(2)暗電流:積分時間に応じて発生するノイズの2種類のノイズが、オフセット量として上乗せされる。すなわち、撮像素子が取得した画像撮像信号の総信号量は、有効信号にオフセットノイズと暗電流を足し合わせたものであり、有効信号のみを得るためには総信号量からオフセットノイズと暗電流を差し引く必要がある。
従来、撮像素子における画像信号のオフセット量除去方法、すなわち総信号量からオフセットノイズと暗電流を差し引くための従来技術としては複数の方法が採られている。
例えば、撮像素子のオフセットノイズを除去するために、(a)撮像素子の信号読出し後にも当該撮像素子の読み出し動作を行わせて疑似的な出力信号を発生させ、これをオフセット量とみなして取得した信号から差し引く方法(例えば、特許文献1参照)、(b)機械的なシャッタ等を備え、入射光を遮断したうえで暗時の画像データを取得し、これを明時の画像データから差し引く方法、(c)あらかじめ暗時のデータを取得しておき、これに基づきオフセット量を差し引く方法、等の技術が開示されている。
特開昭52−144219号公報
しかし、上述の(a)の方法においては、撮像装置の撮像素子およびその読出し・信号処理回路に特殊な構成が別途必要となる、(b)の方法においては、機械的なシャッタ等を備えることが困難な撮像装置においては適用できない、(c)の方法においては、オフセット量が変動した場合に変動分を除去できない、という課題があった。
本発明は係る課題を解決するためになされたものであり、特殊な撮像素子や読出し・信号処理回路や機械的なシャッタ等を用いることなく、また、オフセットノイズが変動した場合においても変動分を含めたオフセットノイズの除去を行うことができる画像撮像装置を提供することを目的とする。
この発明に係る画像撮像装置は、光学系により集光された光を光電変換する複数の撮像素子と、前記光電変換後の信号を処理して撮像対象の画像を生成する信号処理部と、を備え、前記撮像素子が、前記撮像対象上を一方向にスキャンしながら周期Tで前記撮像対象を撮像する画像撮像装置であって、周期Tの間において前記撮像対象からの光を受光する時間である第1の露光時間Texpと第2の露光時間Tbが、各々の時間が重なることなく設けられており、前記第2の露光時間Tbは、前記第1の露光時間Texpより短い時間であり、前記信号処理部は、前記第1の露光時間Texpの間に前記撮像素子が受光して得た各信号強度から、前記第2の露光時間Tbの間に前記撮像素子が受光して得た各信号強度を各々除去して画像を生成する。

本発明の画像撮像装置によれば、特殊な撮像素子や、読出し・信号処理回路や、機械的なシャッタ等を用いることなく、変動分を含めたオフセット量の除去を行うことができる。
本発明の実施の形態1による画像撮像装置の構成を示すブロック図である。 本発明の実施の形態1による画像撮像装置により対象物を撮像する際の配置関係を示す模式図である。 本発明の実施の形態1による画像撮像装置により対象物を撮像する際の、撮像周期と露光時間の関係を示すダイアグラム図である。 本発明の実施の形態1による画像撮像装置の画像撮像のフローを説明する図である。 本発明の実施の形態1による画像撮像装置における、第1の露光時間Texpと第2の露光時間Tbの時間配置の例を示した図である。 本発明の実施の形態2による画像撮像装置における、第1の露光時間Texpと第2の露光時間Tbの時間配置の例を示した図である。 本発明の実施の形態3による画像撮像装置における、第1の露光時間Texpと第2の露光時間Tbの時間配置の例を示した図である。 本発明の実施の形態4による画像撮像装置の構成を示すブロック図である。
実施の形態1.
図1は、本発明の実施の形態1による画像撮像装置100の構成を示すブロック図である。画像撮像装置100は、撮像対象物20から発せられる光50を集光し集光光51として出力する集光光学系1、集光光51を入力し、光電変換した電気信号52を出力する撮像素子2、電気信号52を信号処理する信号処理部3から構成される。
信号処理部3は、画像撮像装置100の動作を制御する制御部31、演算を行う演算部32、データを記憶する記憶部33を備える。
撮像素子2は一次元のライン型センサであり、複数(n個)の検出素子2_1,2_2,2_3,・・・,2_nが一次元に配列された撮像素子である。検出素子2_1,2_2,2_3,・・・,2_nの各々は例えばフォトダイオードである。
なお、以下の実施の形態では撮像素子2として一次元ライン型センサを例として説明するが、二次元型のセンサであっても本発明を適用することは可能である。
図2は、撮像対象物20を撮像する際の画像撮像装置100の各構成の配置関係を表した模式図である。
図2のように、集光光学系1と撮像対象物20は対向して配置される。撮像素子2は、集光光学系1を間に挟むように置かれ、集光光学系1により集光された集光光51を光電変換する。
ここで、撮像素子2を構成する各検出素子(2_1,2_2,2_3,・・・,2_n)は、集光光学系1を通して撮像対象物20に投影される。投影された領域にある撮像対象物20が検出素子(2_1,2_2,2_3,・・・,2_n)により撮像される。
撮像素子2は撮像対象物20上を一方向にスキャンして、投影領域の撮像対象物20を順次撮像する。ここで撮像素子2がスキャンするスキャン方向は、検出素子2_1,2_2,2_3,・・・,2_nが配列する配列方向に対して略垂直の方向である。
図2では、撮像素子2は検出素子の配列方向に対して略垂直の方向となる、A点からB点の方向にスキャンしながら撮像対象物20を撮像する。より詳しくは、図2において、画像撮像装置100と撮像対象物20との位置関係が略等速で、A点からB点の方向へ平行移動し、その間、撮像素子2が所定の撮像時間周期Tで撮像を繰り返すことで、撮像対象物20の2次元画像データを取得する。
図2の例では、撮像時間周期Tの間に撮像素子2は、撮像対象物20の斜線で示す帯状の領域L1を撮像し、次の撮像時間周期Tの間に領域L1に隣接する領域L2を撮像する。次の撮像時間周期Tの間には領域L2に隣接する領域L3を撮像する。このようにして、撮像素子2は撮像時間周期T毎に領域L1〜L10を順次撮像していく。
撮像時間周期Tは撮像素子2が撮影する1周期の撮像時間である。撮像時間周期Tは、撮像素子2が投影される投影エリアのスキャン方向の距離と撮像素子2がスキャンするスキャン速度(移動速度)により算出される。
撮像時間周期Tと、集光光学系1をとおして撮像対象物20に投影された撮像素子2に配置された画素の間隔5とが、撮像対象物20の空間分解能を規定する。
ラインスキャン型の画像撮像装置100においては、撮像素子2により規定されるスキャン方向に直交した方向の空間分解能と、撮像時間周期Tによって規定されるスキャン方向の空間分解能が等しくなるように、この撮像時間周期Tを決定することで、スキャン方向と、スキャン方向に直交した方向との画像の縦横比を等しくすることも可能である。
すなわち、撮像対象物20に対する相対速度である、撮像素子2の移動速度に撮像時間周期を乗じた距離と、集光光学系1により投影される撮像素子2の個々の検出素子の間隔とが一致するように設定することにより、撮像素子2により得られる2次元の画像の1画素の形状を正方形にすることも可能である。
なお、信号処理部3は集光光学系1や撮像素子2と共に撮像対象物20上を移動する必要はない。信号処理部3はセンサ側にあって、撮像素子2と電気的に接続されていればよい。
次に、実施の形態1に係る画像撮像装置の動作を図3、図4を用いて説明する。
図3は実施の形態1の画像撮像装置100により撮像対象物20を撮像する際の、撮像時間周期Tと第1の露光時間Texpの関係を示すダイアグラム図である。
撮像素子2の各検出素子2_1、2_2、2_3、・・・、2_nが、撮像対象物20からの光を受光して十分な信号量を得るために必要となる露光時間を、第1の露光時間Texpとする。
ここで撮像時間周期Tが撮像素子2の第1の露光時間Texpより長い(T>Texp)場合、1周期の撮像時間周期Tの間に、撮像素子2(検出素子)上への露光が不要となる時間が発生する。
以下の実施の形態においては、「撮像時間周期T>第1の露光時間Texp」であることを前提として本発明を説明する。
撮像時間周期T、第1の露光時間Texpは、例えば、撮像時間周期T=60[msec]、第1の露光時間Texp=10[msec]である。
撮像素子2(検出素子2_1,2_2,2_3,・・・,2_n)の受光面には、この第1の露光時間Texpの間、撮像対象物20からの光が露光されて信号電荷が発生する。
ここで、撮像時間周期Tで露光せずに信号電荷を発生しない時間を、未露光時間Ti(すなわち、Ti=T−Texp)とする。本発明では、この未露光時間Tiの間を利用して、撮像素子2が有するオフセット量の除去を行う。
なお、第1の露光時間Texpについては検出素子の基板電圧を変化させる電子シャッター(図示せず)により制御可能である。また、前述のとおり図2、図3では1次元の撮像素子を描いているが、2次元の撮像素子2であっても構わない。
図3は、図2のA点-A’点を結ぶ線と、B点-B’点を結ぶ線で挟まれる撮像対象物20の領域を、撮像時間周期T×10回の間に順次撮像することを説明するダイアグラム図であり、図3は、例えば横軸の0〜Tの時間の間に領域L1を撮像し、次のT〜2Tの時間の間に領域L2を撮像することを模擬的に表している。
図4は本実施の形態の画像撮像装置100が撮像を行う際のフローを説明する図である。以下、図4に記載の各ステップ(S10〜S16)に従い説明する。
(1)S10
まず、記憶部33に撮像時間周期T、第1の露光時間Texp、第2の露光時間Tbを設定する。
ここで、第2の露光時間Tbは、撮像素子2が受光する強度で、集光光学系1により集光された光の強度が無視でき得る程度まで短い露光時間であり、予め、計測等により第2の露光時間Tbを設定しておく。第2の露光時間Tbの値の目安としては、第1の露光時間Texpの百分の1(1/100)以下の時間であり、例えば、撮像時間周期T=60[msec]、第1の露光時間Texp=10[msec]の場合、第2の露光時間Tb=100[μsec]以下である。
記憶部33への各露光時間の設定は、キーボード等の入力インターフェースにより行うことができる。
(2)S11
次に制御部31は、電子シャッター(図示せず)により露光時間の制御を行い、撮像素子2は第1の露光時間Texpの間、撮像対象物20からの光を受光し信号電荷を発生させる。
(3)S12
制御部31の制御により、記憶部33は第1の露光時間Texpにおける撮像素子2の第1の出力信号Sexpを記憶する。
(4)S13
次に制御部31は電子シャッター(図示せず)により露光時間の制御を行い、撮像素子2は第2の露光時間Tbの間、撮像対象物20からの光を受光し信号電荷を発生させようとする。しかしながら先述のとおり、第2の露光時間Tbは撮像素子2が受光する光の強度が無視できる程度のごく短い露光時間であるため、光電変換による信号電荷の発生はない。
(5)S14
制御部31の制御により、記憶部33は第2の露光時間Tbにおける撮像素子2の第2の出力信号Sbを記憶する。
図3を用いてS11〜S14の工程を説明する。本実施の形態では、図3の4T〜5Tの撮像時間周期において領域L5を撮影する場合に示すように、まず、撮像素子2の第1の露光時間を撮像時間周期Tよりも短い第1の露光時間Texpに設定し、撮像動作を行う。次に、同じ4T〜5Tの撮像時間周期の間において、撮像時間周期Tの中で、露光時間を、集光光学系1により集光された光の強度が無視できる程度まで短い第2の露光時間Tbに設定し、撮像を再度実施する。これにより、同じ撮像時間周期Tの間で、撮像素子2により撮像対象物20を撮像した第1の出力信号Sexpと、撮像素子2が有するオフセット量のみを含む第2の出力信号Sbとを得ることができる。
(6)S15
次に計算部32は、第1の出力信号Sexpから第2の出力信号Sbを減算する。
これにより画像信号である第1の出力信号Sexpから、撮像素子2の有するオフセット量を除去することができる。
(7)S16
次に、S11からS15までの工程を、撮像時間周期Tで、繰り返し実行する。
撮像時間周期Tで繰り返し実行し得られる出力信号(第1の出力信号Sexpから第2の出力信号Sbを減算した出力信号)を、順番に並べることにより撮像対象物20について2次元の画像を得ることができる。
このように、信号処理部3は、第1の露光時間Texpで取得された第1の出力信号Sexpから、第2の露光時間Tbで取得された第2の出力信号Sbを差し引き、差し引いた後の出力信号を順に並べることによって、撮像素子2が有するオフセット量を除去した2次元の画像を、簡易に得ることができる。
図5に領域L1〜L10まで繰り返し実行したときの各領域での、第1の露光時間Texp、第2の露光時間Tbの時間配置の例を示す。
以上のように実施の形態1に係る画像撮像装置100によれば、撮像時間周期Tの中で撮像素子2に露光をしていない時間Tiを有効に使うことで、撮像時間周期Tにおける近似的なオフセット量を取得するようにした。このオフセット量を通常の撮影である第1の露光時間Texpで取得した画像から差し引くことで、撮像素子2が有するオフセット量を削除した画像を、簡易な構成で取得することができる。
実施の形態2.
実施の形態1では、1つの領域Li(i=1〜n)において、第1の露光時間Texpの後、第2の露光時間Tbを設けるようにし、1つの領域L内で第1の露光時間Texpの間の信号出力から第2の露光時間Tbの間の信号出力を差し引くことで、オフセット量を除去していた。
実施の形態2では、1つの領域L内で、先に第2の露光時間Tbを設け、その後に第1の露光時間Texpを設けるようにする。
図6は、実施の形態2による画像撮像装置における、第1の露光時間Texpと第2の露光時間Tbの時間配置の例を示した図である。このように、1つの領域L内で先に第2の露光時間Tbの間の信号出力を求め、その後に第1の露光時間Texpの間の信号出力を求めたのち、第1の露光時間Texpの間の信号出力から第2の露光時間Tbの間の信号出力を差し引くことで、オフセット量を除去するようにしてもよい。これにより、設計のバリエーションを増やすことができる。
実施の形態3.
実施の形態3では、第2の露光時間Tbの間の信号出力は、1回だけ行うこととする。 図7は、実施の形態3による画像撮像装置における、第1の露光時間Texpと第2の露光時間Tbの時間配置の例を示した図である。このように、第2の露光時間Tbの間における信号出力の測定は1回とし(図7では、時間t=4T〜5Tの間の1回)、この1回の第2の露光時間Tbの間における信号出力を用いて、L1からL10の各領域において、第1の露光時間Texpの間の信号出力から第2の露光時間Tbの間の信号出力を差し引くようにする。
これによれば、第2の露光時間Tbの間における信号出力の測定は1回でよいので、信号出力の測定回数を減らし、撮像対象物の画像を得るまでの時間を短縮することができる。
実施の形態4.
図8は、実施の形態4による画像撮像装置101の構成を示すブロック図である。実施の形態4では、撮像素子2で取得した画像を保持する画像保持部8を備え、一度、画像保持部8に画像を保持するようにした。
実施の形態4では、保持した画像は後の処理で信号処理部3に渡し、信号処理部3にて第1の露光時間Texpにより取得された画像から、第2の露光時間Tbにより取得された画像を差し引く処理を行うことで、処理のリソースを確保することができる。
実施の形態5.
実施の形態1〜4において、信号処理部3を撮像素子2と一体のシステムとしてハードウェア処理として配置する。第1の露光時間Texpにより取得された画像から、第2の露光時間Tbにより取得された画像を差し引く処理を、信号処理部3において撮像と同期して連続的に行うようにする。
これにより、リアルタイムにオフセット量を補正した画像を得ることができる。
1 集光光学系、2 撮像素子、2_1,2_2,2_3,・・・,2_n 検出素子、3 信号処理部、5 集光光学系1をとおして対象物に投影された、撮像素子2に配置された画素の間隔、8 画像保持部、20 撮像対象物、31 制御部、32 演算部、33 記憶部、50 撮像対象物20が発する光、51 集光光、52 電気信号、100,101 画像撮像装置、L 領域、T 撮像時間周期、Texp (第1の露光時間)1回の撮像時間周期Tよりも短い露光時間、Ti 未露光時間、Tb (第2の露光時間)集光光学系1により集光された光の強度が無視できる程度まで短い露光時間、Sexp 第1の露光時間Texpにおける撮像素子2の出力信号、Sb 第2の露光時間Tbにおける撮像素子2の出力信号。

Claims (6)

  1. 光学系により集光された光を光電変換する複数の撮像素子と、
    前記光電変換後の信号を処理して撮像対象の画像を生成する信号処理部と、
    を備え、
    前記撮像素子が、前記撮像対象上を一方向にスキャンしながら周期Tで前記撮像対象を撮像する画像撮像装置であって、
    周期Tの間において前記撮像対象からの光を受光する時間である第1の露光時間Texpと第2の露光時間Tbが、各々の時間が重なることなく設けられており、
    前記第2の露光時間Tbは、前記第1の露光時間Texpより短い時間であり、
    前記信号処理部は、前記第1の露光時間Texpの間に前記撮像素子が受光して得た各信号強度から、前記第2の露光時間Tbの間に前記撮像素子が受光して得た各信号強度を各々除去して画像を生成することを特徴とする画像撮像装置。
  2. 前記撮像素子が前記撮像対象上を一方向にスキャンする間、前記周期Tにおいて前記第1の露光時間Texpが、常に、前記第2の露光時間Tbよりも先に設けられていることを特徴とする請求項1記載の画像撮像装置。
  3. 前記撮像素子が前記撮像対象上を一方向にスキャンする間、前記周期Tにおいて前記第2の露光時間Tbが、常に、前記第1の露光時間Texpよりも先に設けられていることを特徴とする請求項1記載の画像撮像装置。
  4. 前記信号処理部は、周期Tにおいて前記第1の露光時間Texpの間に受光した前記撮像素子の各信号強度から、同じ周期Tにおいて前記第2の露光時間Tbの間に受光した前記撮像素子の各信号強度を各々除去して画像を生成することを特徴とする請求項1から3のいずれか記載の画像撮像装置。
  5. 光学系により集光された光を光電変換する複数の撮像素子と、
    前記光電変換後の信号を処理して撮像対象の画像を生成する信号処理部と、
    を備え、
    前記撮像素子が、前記撮像対象上を一方向にスキャンしながら周期Tで前記撮像対象を撮像する画像撮像装置であって、
    周期Tの間において前記撮像対象からの光を受光する時間である第1の露光時間Texpと第2の露光時間Tbが、各々の時間が重なることなく設けられており、
    前記第2の露光時間Tbは、前記第1の露光時間Texpより短い時間であり、
    前記撮像素子が前記撮像対象上を一方向にスキャンする間、前記撮像素子は、1回のみ、前記第2の露光時間Tbで前記撮像対象から受光し、
    前記信号処理部は、各周期Tにおいて前記第1の露光時間Texpの間に前記撮像素子が受光して得た信号強度から、前記撮像素子が1回のみ受光した前記第2の露光時間Tbにおける信号強度を除去し画像を生成することを特徴とする画像撮像装置。
  6. 前記第2の露光時間Tbは、前記第1の露光時間Texpの百分の1以下の時間であることを特徴とする請求項1から5いずれか記載の画像撮像装置。
JP2017076584A 2017-04-07 2017-04-07 画像撮像装置 Active JP6819428B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017076584A JP6819428B2 (ja) 2017-04-07 2017-04-07 画像撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017076584A JP6819428B2 (ja) 2017-04-07 2017-04-07 画像撮像装置

Publications (2)

Publication Number Publication Date
JP2018182445A JP2018182445A (ja) 2018-11-15
JP6819428B2 true JP6819428B2 (ja) 2021-01-27

Family

ID=64276185

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017076584A Active JP6819428B2 (ja) 2017-04-07 2017-04-07 画像撮像装置

Country Status (1)

Country Link
JP (1) JP6819428B2 (ja)

Also Published As

Publication number Publication date
JP2018182445A (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
US8223235B2 (en) Digital imager with dual rolling shutters
JP6335423B2 (ja) 情報処理装置および情報処理方法
KR101631073B1 (ko) 화상처리장치, 화상처리방법 및 기억매체, 및 화상처리장치를 갖는 촬상장치
CN109314742B (zh) 用于光圈模拟的方法、装置、设备及存储媒体
US9615017B2 (en) Focus detection apparatus and method, method of controlling focus detection apparatus, and image capturing apparatus
WO2014065056A1 (ja) 撮像装置、および画像処理方法、並びにプログラム
US9253424B2 (en) Image processing apparatus and control method thereof
JP6351231B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP6124720B2 (ja) 撮像装置、画像処理方法及び画像処理プログラム
JP6746359B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP5657184B2 (ja) 撮像装置及び信号処理方法
US20170257583A1 (en) Image processing device and control method thereof
JP6152772B2 (ja) 撮像装置、半導体集積回路および撮像方法
WO2019078335A1 (ja) 撮像装置および方法、並びに、画像処理装置および方法
JP6819428B2 (ja) 画像撮像装置
JP5520562B2 (ja) 立体形状測定システム及び立体形状測定方法
JP4972902B2 (ja) 撮像装置および撮像方法
KR20060053147A (ko) 촬상 장치 및 촬상 방법
JP6467289B2 (ja) 撮像装置およびその制御方法
JP6566800B2 (ja) 撮像装置及び撮像方法
JP6728005B2 (ja) 撮像装置、撮像方法およびプログラム
JP2021050988A (ja) 測距装置及び電子機器
JP2008058279A (ja) 距離画像生成装置、距離画像生成方法及びプログラム
JP2018110299A (ja) 画像処理方法、画像処理装置、および、撮像装置
JP2017188837A (ja) 画像処理装置、その制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201214

R151 Written notification of patent or utility model registration

Ref document number: 6819428

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151