JP7014648B2 - 信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム - Google Patents
信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム Download PDFInfo
- Publication number
- JP7014648B2 JP7014648B2 JP2018046827A JP2018046827A JP7014648B2 JP 7014648 B2 JP7014648 B2 JP 7014648B2 JP 2018046827 A JP2018046827 A JP 2018046827A JP 2018046827 A JP2018046827 A JP 2018046827A JP 7014648 B2 JP7014648 B2 JP 7014648B2
- Authority
- JP
- Japan
- Prior art keywords
- restoration
- signal
- signal data
- data
- function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 50
- 238000011084 recovery Methods 0.000 title description 3
- 230000006870 function Effects 0.000 claims description 257
- 238000012545 processing Methods 0.000 claims description 196
- 238000013527 convolutional neural network Methods 0.000 claims description 15
- 230000006866 deterioration Effects 0.000 claims description 10
- 238000013528 artificial neural network Methods 0.000 claims description 5
- 230000000306 recurrent effect Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 63
- 238000002591 computed tomography Methods 0.000 description 26
- 238000002059 diagnostic imaging Methods 0.000 description 25
- 230000015654 memory Effects 0.000 description 17
- 238000002595 magnetic resonance imaging Methods 0.000 description 14
- 230000002950 deficient Effects 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 10
- 230000007547 defect Effects 0.000 description 7
- 238000002600 positron emission tomography Methods 0.000 description 7
- 229910052704 radon Inorganic materials 0.000 description 6
- SYUHGPGVQRZVTB-UHFFFAOYSA-N radon atom Chemical compound [Rn] SYUHGPGVQRZVTB-UHFFFAOYSA-N 0.000 description 6
- 230000035945 sensitivity Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 238000002603 single-photon emission computed tomography Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 239000002184 metal Substances 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Description
図1は、第1の実施形態に係る信号復元装置の構成例を示す図である。図1の信号復元装置1は、DNNにおける順伝播機能を備えた装置である。信号復元装置1は、特定用途向け集積回路(Application Specific Integrated Circuit;ASIC)やFPGA(Field-Programmable Gate Array)などの集積回路により実現される。以下、信号復元装置1は、ASICであるとする。
処理回路11は、入力信号yおよび信頼度データmを入力する。
処理回路11は、入力信号yに復元関数R(0)を適用して復元信号x0を生成する。
処理回路11は、変数iに「1」を代入する。
処理回路11は、信頼度データmおよび復元信号xi-1に演算関数G(i)を適用してマスク信号maiを生成する。例えば、変数iに「1」が代入されている場合、処理回路11は、信頼度データmおよび復元信号x0に演算関数G(1)を適用してマスク信号ma1を生成する。例えば、演算関数G(1)は、信頼度データmと復元信号x0との要素積を行い、マスク信号ma1を生成する関数である。
処理回路11は、入力信号yと復元信号xi-1とマスク信号maiとに復元関数R(i)を適用して復元信号xiを生成する。例えば、変数iに「1」が代入されている場合、処理回路11は、入力信号yと復元信号x0とマスク信号ma1とに復元関数R(1)を適用して復元信号x1を生成する。
処理回路11は、変数iに所定の数「n」が代入されているか否かを判定する。変数iに所定の数「n」が代入されている場合(ステップSA6「YES」)、処理回路11は、ステップSA8の処理を行う。変数iに任意の数「n」が代入されていない場合(ステップSA6「NO」)、処理回路11は、ステップSA7の処理を行う。
処理回路11は、変数iをインクリメントする。例えば、変数iに「1」が代入されている場合、処理回路11は、変数iに「2」を代入する。ステップSA7の処理の後、処理はステップSA4へと戻る。
処理回路11は、復元関数R(n)によって生成された復元信号xnを出力信号xとして出力する。
処理回路11は、入力信号yおよび信頼度データmを入力する。
処理回路11は、入力信号yに復元関数R(0)を適用して復元信号x0を生成する。
処理回路11は、変数iに「1」を代入する。
処理回路11は、信頼度データmおよび復元信号xi-1に演算関数G(i)を適用してマスク信号maiを生成する。
処理回路11は、入力信号yおよびマスク信号maiに復元関数R(i)を適用して復元信号xiを生成する。
処理回路11は、変数iに所定の数「n」が代入されているか否かを判定する。変数iに所定の数「n」が代入されている場合(ステップSB6「YES」)、処理回路11は、ステップSB8の処理を行う。変数iに任意の数「n」が代入されていない場合(ステップSB6「NO」)、処理回路11は、ステップSB7の処理を行う。
処理回路11は、変数iをインクリメントする。ステップSB7の処理の後、処理はステップSB4へと戻る。
処理回路11は、復元関数R(n)によって生成された復元信号xnを出力信号xとして出力する。
処理回路11は、入力信号yおよび信頼度データmを入力する。
処理回路11は、入力信号yおよび信頼度データmに演算関数G(0)を適用してマスク信号ma0を生成する。
処理回路11は、入力信号yに復元関数R(0)を適用して復元信号x0を生成する。
処理回路11は、変数iに「1」を代入する。
処理回路11は、入力信号yと復元信号xi-1とマスク信号ma0とに復元関数R(i)を適用して復元信号xiを生成する。
処理回路11は、変数iに所定の数「n」が代入されているか否かを判定する。変数iに所定の数「n」が代入されている場合(ステップSC6「YES」)、処理回路11は、ステップSC8の処理を行う。変数iに任意の数「n」が代入されていない場合(ステップSC6「NO」)、処理回路11は、ステップSC7の処理を行う。
処理回路11は、変数iをインクリメントする。ステップSC7の処理の後、処理はステップSC5へと戻る。
処理回路11は、復元関数R(n)によって生成された復元信号xnを出力信号xとして出力する。
処理回路11は、入力信号yおよび信頼度データmを入力する。
処理回路11は、入力信号yおよび信頼度データmに演算関数G(0)を適用してマスク信号ma0を生成する。
処理回路11は、入力信号yに復元関数R(0)を適用して復元信号x0を生成する。
処理回路11は、変数iに「1」を代入する。
処理回路11は、信頼度データmおよび復元信号xi-1に演算関数G(i)を適用してマスク信号maiを生成する。
処理回路11は、入力信号yとマスク信号maiとマスク信号ma0とに復元関数R(i)を適用して復元信号xiを生成する。
処理回路11は、変数iに所定の数「n」が代入されているか否かを判定する。変数iに所定の数「n」が代入されている場合(ステップSD7「YES」)、処理回路11は、ステップSD9の処理を行う。変数iに任意の数「n」が代入されていない場合(ステップSD7「NO」)、処理回路11は、ステップSD8の処理を行う。
処理回路11は、変数iをインクリメントする。ステップSD8の処理の後、処理はステップSD5へと戻る。
処理回路11は、復元関数R(n)によって生成された復元信号xnを出力信号xとして出力する。
処理回路11は、入力信号yおよび信頼度データmを入力する。
処理回路11は、入力信号yおよび信頼度データmに演算関数G(0)を適用してマスク信号ma0を生成する。
処理回路11は、入力信号yに復元関数R(0)を適用して復元信号x0を生成する。
処理回路11は、変数iに「1」を代入する。
処理回路11は、信頼度データmおよび復元信号xi-1に演算関数G(i)を適用してマスク信号maiを生成する。
処理回路11は、入力信号yと復元信号xi-1とマスク信号maiとマスク信号ma0とに復元関数R(i)を適用して復元信号xiを生成する。
処理回路11は、変数iに所定の数「n」が代入されているか否かを判定する。変数iに所定の数「n」が代入されている場合(ステップSE7「YES」)、処理回路11は、ステップSE9の処理を行う。変数iに任意の数「n」が代入されていない場合(ステップSE7「NO」)、処理回路11は、ステップSE8の処理を行う。
処理回路11は、変数iをインクリメントする。ステップSE8の処理の後、処理はステップSE5へと戻る。
処理回路11は、復元関数R(n)によって生成された復元信号xnを出力信号xとして出力する。
処理回路51は、DNNの各パラメータを初期化する。パラメータの初期化には、例えば疑似乱数を用いることができる。
処理回路51は、複数の学習データ(入力信号y、信頼度データm、および正解出力信号xansの組)を入力する。正解出力信号xansは、入力信号yおよび信頼度データmを入力してDNNから出力される望ましい出力信号である。
処理回路51は、複数の学習データを、疑似乱数を用いて並べ替える。具体的には、処理回路51は、複数の学習データの並びを、疑似乱数で生成した順序で並べ替える。
処理回路51は、複数の学習データから所定の数の学習データを抽出する。このとき、所定の数をミニバッチサイズと呼び、抽出された学習データの集合をミニバッチと呼ぶ。換言すると、処理回路51は、複数の学習データからミニバッチを抽出する。
順伝播機能51aにおいて処理回路51は、入力信号yと信頼度データmとに基づくDNNの順伝播により推定出力信号xestを生成する。
逆伝播機能51bにおいて処理回路51は、ステップSF5で生成された推定出力信号xestと、ステップSF2で入力された正解出力信号xansとの誤差を計算する。具体的には、処理回路51は、正解出力信号xansから推定出力信号xestを減算して、誤差を算出する。
処理回路51は、ステップSF6において計算された誤差に基づくDNNの逆伝播により勾配ベクトルを計算する。
更新機能51cにおいて処理回路51は、ステップSF7において計算された勾配ベクトルに基づきパラメータを更新する。
判定機能51dにおいて処理回路51は、第1の終了条件を満たすか否かを判定する。第1の終了条件は、例えば、複数の学習データからミニバッチを全て抽出することに設定されてもよい。
判定機能51dにおいて処理回路51は、第2の終了条件を満たすか否かを判定する。第2の終了条件は、例えば、繰り返し数(これは、エポック(epoch)数とも称する)が規定回数に達したことに設定されてもよい。
処理回路51は、更新後のDNNを学習済みDNNとして出力する。学習済みDNNは、例えばメモリ52や外部の記憶装置などに記憶される。
図24は、第2の実施形態に係る医用画像診断装置の構成例を示す図である。図24の医用画像診断装置100は、第1の実施形態における信号復元装置1と、医用撮像装置6とを備える。一例を挙げれば、医用撮像装置6は架台に対応し、信号復元装置1は当該架台に接続されたコンソールに対応する。尚、信号復元装置1は、医用画像診断装置100の架台に設けられてもよいし、それ以外の別の構成要素によって実現されてもよい。当該別の構成要素としては、例えば、医用画像診断装置100が磁気共鳴イメージング(Magnetic Resonance Imaging;MRI)装置である場合、機械室に設置された、コンソール以外のコンピュータまたは専用の計算装置が挙げられる。
医用撮像装置6がMRI装置の架台である場合、当該架台は、静磁場磁石を介した静磁場の印加の下、傾斜磁場コイルを介した傾斜磁場の印加と送信コイルを介したRFパルスの印加とを繰り返す。RFパルスの印加に起因して被検体からMR信号が放出される。放出されたMR信号は、受信コイルを介して受信される。受信されたMR信号は、受信回路によりA/D変換などの信号処理が施される。A/D変換後のMR信号は、k空間データに対応する。k空間データは、生データとして信号復元装置1に伝送される。
医用撮像装置6がCT装置の架台である場合、当該架台は、X線管とX線検出器とを被検体回りに回転させながらX線管から被検体にX線を照射し、被検体を透過したX線をX線検出器により検出する。X線検出器においては、検出されたX線の線量に応じた波高値を有する電気信号が発生される。当該電気信号は、データ収集回路によりA/D変換などの信号処理が施される。A/D変換後の電気信号は投影データまたはサイノグラムデータと呼ばれる。投影データまたはサイノグラムデータは、生データとして信号復元装置1に伝送される。
医用撮像装置6がPET装置の架台である場合、当該架台は、被検体内に蓄積された放射性核種から発生される陽電子と当該放射性核種の周囲に存在する電子との対消滅に伴い発生する512keVの一対のガンマ線を同時計測回路により同時計測することにより、一対のガンマ線(LOR(Line Of Response))のエネルギー値と検出位置とに関するデジタル値を有するデジタルデータを生成する。当該デジタルデータは、コインシデンスデータまたはサイノグラムデータと呼ばれる。コインシデンスデータまたはサイノグラムデータは、生データとして信号復元装置1に伝送される。
図30は、第3の実施形態に係る距離画像撮影システムの構成例を示す図である。図30の距離画像撮影システム200は、第1の実施形態における信号復元装置1と、距離画像撮影装置9とを備える。尚、信号復元装置1は、距離画像撮影装置9に内蔵されていてもよい。
2A,2B,2C,2D,2E,2F,2G,2H…学習済みモデル
21,24,25…欠損部分
22…欠損データ
23…収集データ
310…入力ベクトル
310a…第1の入力範囲
310b…第2の入力範囲
310c…第3の入力範囲
330…出力ベクトル
330a…出力範囲
4…CNN
45…加算部
5…モデル学習装置
100…医用画像診断装置
7,7A,8…復元関数
74…k空間データ
83…サイノグラムデータ
84…欠損部分
200…距離画像撮影システム
91…距離画像データ
91a…収集部
91b…未収集部
92…信頼度データ
92a…高信頼度領域
92b…低信頼度領域
Claims (11)
- 入力信号データに第1の復元関数を適用して初期復元信号データを生成し、
前記初期復元信号データと前記入力信号データに含まれる劣化の程度を表す信頼度データとの要素積をとることによって第1の要素積信号データを生成し、
前記入力信号データおよび前記初期復元信号データのうちの少なくとも一つと、前記第1の要素積信号データとに第2の復元関数を適用して復元信号データを生成する処理部
を具備する、信号復元装置。 - 前記処理部は、前記入力信号データと前記信頼度データとの要素積をとることによって第2の要素積信号データを更に生成し、
前記第2の要素積信号データが生成された場合、
前記処理部は、前記入力信号データおよび前記初期復元信号データのうちの少なくとも一つと、前記第1の要素積信号データと、前記第2の要素積信号データとに前記第2の復元関数を適用して前記復元信号データを生成する、請求項1に記載の信号復元装置。 - 入力信号データに第1の復元関数を適用して初期復元信号データを生成し、
前記入力信号データと前記入力信号データに含まれる劣化の程度を表す信頼度データとの要素積をとることによって要素積信号データを生成し、
前記初期復元信号データおよび前記要素積信号データに第2の復元関数を適用して復元信号データを生成する処理部
を具備する、信号復元装置。 - 前記処理部は、前記入力信号データと前記初期復元信号データと前記要素積信号データとに前記第2の復元関数を適用して前記復元信号データを生成する、請求項3に記載の信号復元装置。
- 前記第2の復元関数は、深層ニューラルネットワークによって構成される、請求項1から請求項4までのいずれか一項に記載の信号復元装置。
- 前記第2の復元関数は、畳み込みニューラルネットワークによって構成される、請求項1から請求項4までのいずれか一項に記載の信号復元装置。
- 前記第2の復元関数は、リカレントニューラルネットワークによって構成される、請求項1から請求項4までのいずれか一項に記載の信号復元装置。
- 入力信号データに第1の復元関数を適用して初期復元信号データを生成することと、
前記初期復元信号データと前記入力信号データに含まれる劣化の程度を表す信頼度データとの要素積をとることによって第1の要素積信号データを生成することと、
前記入力信号データおよび前記初期復元信号データのうちの少なくとも一つと、前記第1の要素積信号データとに第2の復元関数を適用して復元信号データを生成することと
を具備する、信号復元方法。 - コンピュータを、
入力信号データに第1の復元関数を適用して初期復元信号データを生成する手段と、
前記初期復元信号データと前記入力信号データに含まれる劣化の程度を表す信頼度データとの要素積をとることによって第1の要素積信号データを生成する手段と、
前記入力信号データおよび前記初期復元信号データのうちの少なくとも一つと、前記第1の要素積信号データとに第2の復元関数を適用して復元信号データを生成する手段
として機能させる、信号復元プログラム。 - 入力信号データおよび前記入力信号データに含まれる劣化の程度を表す信頼度データに、請求項8に記載の信号復元方法を適用することによって、前記復元信号データに相当する推定復元信号データを生成することと、
前記入力信号データに対応する正解出力信号データと前記推定復元信号データとが近似するように、請求項8に記載の前記第2の復元関数のパラメータを更新することと、
更新された前記第2の復元関数に関する学習済みモデルを出力することと
を具備する、モデル学習方法。 - コンピュータを、
入力信号データおよび前記入力信号データに含まれる劣化の程度を表す信頼度データに、請求項9に記載の信号復元プログラムを適用することによって、前記復元信号データに相当する推定復元信号データを生成する手段と、
前記入力信号データに対応する正解出力信号データと前記推定復元信号データとが近似するように、請求項9に記載の前記第2の復元関数のパラメータを更新する手段と、
更新された前記第2の復元関数に関する学習済みモデルを出力する手段
として機能させる、モデル学習プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046827A JP7014648B2 (ja) | 2018-03-14 | 2018-03-14 | 信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046827A JP7014648B2 (ja) | 2018-03-14 | 2018-03-14 | 信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019159914A JP2019159914A (ja) | 2019-09-19 |
JP7014648B2 true JP7014648B2 (ja) | 2022-02-01 |
Family
ID=67996266
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018046827A Active JP7014648B2 (ja) | 2018-03-14 | 2018-03-14 | 信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7014648B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11493585B2 (en) | 2018-06-29 | 2022-11-08 | Canon Medical Systems Corporation | Medical information processing apparatus and medical information processing method |
JPWO2023106118A1 (ja) * | 2021-12-09 | 2023-06-15 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013089263A1 (ja) | 2011-12-12 | 2013-06-20 | 日本電気株式会社 | 画像処理装置及び画像処理方法 |
JP2015224909A (ja) | 2014-05-27 | 2015-12-14 | シャープ株式会社 | 3次元計測装置及び3次元計測方法 |
JP2016197381A (ja) | 2015-04-06 | 2016-11-24 | 日本電信電話株式会社 | 画像生成装置及びコンピュータプログラム |
JP2017092622A (ja) | 2015-11-06 | 2017-05-25 | クラリオン株式会社 | 画像処理システム |
-
2018
- 2018-03-14 JP JP2018046827A patent/JP7014648B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013089263A1 (ja) | 2011-12-12 | 2013-06-20 | 日本電気株式会社 | 画像処理装置及び画像処理方法 |
JP2015224909A (ja) | 2014-05-27 | 2015-12-14 | シャープ株式会社 | 3次元計測装置及び3次元計測方法 |
JP2016197381A (ja) | 2015-04-06 | 2016-11-24 | 日本電信電話株式会社 | 画像生成装置及びコンピュータプログラム |
JP2017092622A (ja) | 2015-11-06 | 2017-05-25 | クラリオン株式会社 | 画像処理システム |
Also Published As
Publication number | Publication date |
---|---|
JP2019159914A (ja) | 2019-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7106307B2 (ja) | 医用画像診断装置、医用信号復元方法、医用信号復元プログラム、モデル学習方法、モデル学習プログラム、および磁気共鳴イメージング装置 | |
JP7202302B2 (ja) | 断層撮影再構成に使用するためのデータのディープラーニングに基づく推定 | |
RU2510080C2 (ru) | Устройство для обработки изображения, способ обработки изображения и среда долговременного хранения информации | |
CN111448590A (zh) | 基于深度学习的散射校正 | |
JP6345486B2 (ja) | フォトンカウンティングx線コンピュータ断層撮影装置、および医用画像再構成プログラム | |
JP7337675B2 (ja) | 医用データ処理装置 | |
CN1875886B (zh) | 医用图像显示装置和系统、以及x射线计算机断层摄影装置 | |
US8897529B2 (en) | Apparatus, system, and method for non-convex prior image constrained compressed sensing | |
CN108742679B (zh) | 结节检测装置和方法 | |
JP2010223963A (ja) | コンテナを検査する方法及びシステム | |
JP7014648B2 (ja) | 信号復元装置、信号復元方法、信号復元プログラム、モデル学習方法、およびモデル学習プログラム | |
CN108280860B (zh) | 减少多能量ct成像中的光谱通道数目 | |
JP6656891B2 (ja) | X線ct装置、画像処理装置およびプログラム | |
US9495770B2 (en) | Practical model based CT construction | |
JP6917356B2 (ja) | 主成分材料組み合わせによる分解方法および装置 | |
US10867415B1 (en) | Device and method for constructing and displaying high quality images from imaging data by transforming a data structure utilizing machine learning techniques | |
US10019818B2 (en) | Concurrent forward- and back-projection iterative reconstruction system | |
JP2022180064A (ja) | 機械学習装置、機械学習方法、機械学習プログラム及び推論装置 | |
CN104173049A (zh) | 用于借助磁共振断层成像系统记录图像数据组的方法 | |
CN116090561A (zh) | 推理装置及方法、医用图像诊断装置及学习完成神经网络生成方法 | |
CN110023997A (zh) | 从光谱计算机断层扫描数据再现常规计算机断层扫描图像 | |
CN116670707A (zh) | 用于训练和调谐神经网络模型以进行去噪的方法和系统 | |
JP6803768B2 (ja) | 材料分析装置、材料分析方法及びx線ct装置 | |
US20220343634A1 (en) | Pseudo data generation apparatus, pseudo data generation method, and non-transitory storage medium | |
JP2019021258A (ja) | 画像データ復元装置、画像データ復元方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190104 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201221 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220120 |