JP2022100493A - X線画像処理装置およびx線画像処理方法 - Google Patents

X線画像処理装置およびx線画像処理方法 Download PDF

Info

Publication number
JP2022100493A
JP2022100493A JP2020214498A JP2020214498A JP2022100493A JP 2022100493 A JP2022100493 A JP 2022100493A JP 2020214498 A JP2020214498 A JP 2020214498A JP 2020214498 A JP2020214498 A JP 2020214498A JP 2022100493 A JP2022100493 A JP 2022100493A
Authority
JP
Japan
Prior art keywords
image
frequency component
resolution
ray
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020214498A
Other languages
English (en)
Inventor
遼 武田
Ryo Takeda
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2020214498A priority Critical patent/JP2022100493A/ja
Priority to US17/523,613 priority patent/US20220207723A1/en
Priority to CN202111402804.0A priority patent/CN114677268A/zh
Publication of JP2022100493A publication Critical patent/JP2022100493A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G06T3/4061Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution by injecting details from different spectral ranges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

Figure 2022100493000001
【課題】超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理装置を提供する。
【解決手段】このX線画像処理装置100は、X線画像10を取得する画像取得部1と、X線画像10を高周波成分画像11と低周波成分画像12とに周波数分解する周波数分解処理部2aと、画像の解像度を高めることを学習させた学習済みの学習モデル40によって、高周波成分画像11から高周波成分画像11よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部2bと、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像13を生成する画像合成部2cと、を含む。
【選択図】図1

Description

この発明は、X線画像処理装置およびX線画像処理方法に関し、特に、学習モデルによって画像の解像度を向上させるX線画像処理装置およびX線画像処理方法に関する。
従来、学習モデルによって画像の解像度を向上させるX線画像処理装置が知られている(たとえば、非特許文献1参照)。
上記非特許文献1には、学習済みの学習モデルによって、画像の解像度を向上させる構成が開示されている。具体的には、上記非特許文献1には、教師用の低解像画像と、教師用の高解像度画像とを用いて、低解像度画像から高精細な高解像度画像を推定する超解像処理を学習モデルに学習させる構成が開示されている。上記非特許文献1では、取得した画像である原画像に拡大処理を適用することにより作成した精細さが低い画像を、教師用の低解像度画像として用いる。また、上記非特許文献1では、原画像を教師用の高解像度画像として用いている。上記非特許文献1に開示されているような超解像処理は、教師用低解像度画像の精細さを教師用高解像度画像の精細さに近づけることを学習モデルに学習させる。また、上記非特許文献1では、学習モデルは、三層の畳み込み層で構成される。
Chao Dong et. al., Image Super-Resolution Using Deep Convolutional Networks, arXiv:1501.00092v3 [cs.CV], 31 July 2015
ここで、画像の周波数成分には、エッジ部分などの高周波成分と、背景などの低周波成分とが含まれる。医師などが着目する部位は、たとえば、血管や血管内に導入されたデバイスなどであり、高周波成分に含まれる。一般的に、画像に含まれる周波数成分の割合は、低周波成分のほうが高周波成分よりも多い。上記非特許文献1に開示されている超解像処理の学習では、画像に含まれる全ての周波数成分に対して精細さを向上させることを学習モデルに学習させる。そのため、上記非特許文献1に開示されている超解像処理の学習では、低周波成分の精細さを向上させることを学習する割合と、高周波成分の精細さを向上させることを学習する割合とを比較した場合、低周波成分の精細さを向上させることを学習する割合の方が大きくなる。したがって、上記非特許文献1に開示されているような超解像処理によって画像の解像度および精細さを向上させる処理を行った場合、低周波数成分の精細さの向上度合いと比較して、高周波成分の精細さの向上度合いが低くなるという不都合がある。この場合、超解像処理を施した場合でも、高周波成分が高精細化できない場合がある。その結果、高周波成分に含まれる医師などが着目する部位の視認性が向上しない場合があるという問題点がある。
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理装置およびX線画像処理方法を提供することである。
上記目的を達成するために、この発明の第1の局面によるX線画像処理装置は、X線画像を取得する画像取得部と、X線画像を高周波成分画像と低周波成分画像とに周波数分解する周波数分解処理部と、画像の解像度を高めることを学習させた学習済みの学習モデルによって、高周波成分画像から高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部と、低周波成分画像に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成する画像合成部と、を含む。
また、上記目的を達成するために、この発明の第2の局面によるX線画像処理方法は、X線画像を取得するステップと、X線画像を高周波成分画像と低周波成分画像とに周波数分解するステップと、学習済みの学習モデルによって、高周波成分画像から高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、低周波成分画像に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成するステップと、を含む。
上記第1の局面におけるX線画像撮像装置では、上記のように、X線画像を高周波成分画像と低周波成分画像とに周波数分解する周波数分解処理部と、高周波成分画像から高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部と、低周波成分画像に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成する画像合成部と、を含む。これにより、高解像度画像生成部が、低周波数成分画像と高周波成分画像とを分けた状態で解像度を向上させるため、高周波成分および低周波成分の両方の成分を含むX線画像に対して解像度を向上させる処理を行う構成と比較して、高周波成分画像の高精細化の度合いが低下することを抑制することができる。その結果、超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理装置を提供することができる。
また、上記第2の局面におけるX線画像処理方法では、上記のように、X線画像を高周波成分画像と低周波成分画像とに周波数分解するステップと、学習済みの学習モデルによって、高周波成分画像から高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、低周波成分画像に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成するステップと、を含む。これにより、上記第1の局面によるX線画像処理装置と同様に、超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理方法を提供することができる。
一実施形態によるX線画像処理装置の全体構成を示した模式図である。 X線画像撮像装置の構成を説明するための模式図である。 着目部位および非着目部位が写るX線画像を説明するための模式図である。 一実施形態による学習モデルの学習方法と、学習済みの学習モデルを用いてX線画像から高解像度X線画像を生成する方法とを説明するための模式図である。 一実施形態による周波数分解処理、拡大処理、解像度を向上させる処理、および、高解像度X線画像を生成する処理を説明するための模式図である。 X線画像、一実施形態による高解像度X線画像、比較例1によるX線画像、および、比較例2によるX線画像を説明するための模式図(A)~模式図(D)である。 一実施形態による高解像度X線画像、比較例1によるX線画像、および、比較例2によるX線画像におけるデバイスの精細さを説明するための模式図である。 一実施形態における画像処理部が、X線画像から拡大された高解像度X線画像を生成する処理を説明するためのフローチャートである。 第1変形例によるX線画像処理装置の全体構成を示した模式図である。 第1変形例による拡大処理、周波数分解処理、縮小処理、解像度を向上させる処理、および、高解像度X線画像を生成する処理を説明するための模式図である。 第1変形例における画像処理部が、X線画像から拡大された高解像度X線画像を生成する処理を説明するためのフローチャートである。 第2変形例によるX線画像処理装置の全体構成を示した模式図である。 第2変形例による拡大処理、周波数分解処理、解像度を向上させる処理、および、高解像度X線画像を生成する処理を説明するための模式図である。 第2変形例における画像処理部が、X線画像から拡大された高解像度X線画像を生成する処理を説明するためのフローチャートである。
以下、本発明を具体化した実施形態を図面に基づいて説明する。
図1および図2を参照して、一実施形態によるX線画像処理装置100の構成について説明する。なお、本実施形態では、医用X線画像の画像処理装置としてのX線画像処理装置100の構成について説明する。
(X線画像処理装置の構成)
X線画像処理装置100は、図1に示すように、画像取得部1と、画像処理部2と、記憶部3とを備える。
画像取得部1は、X線画像10を取得するように構成されている。本実施形態では、画像取得部1は、たとえば、X線画像撮像装置200からX線画像10を取得するように構成されている。画像取得部1は、たとえば、入出力インターフェースを含む。
画像処理部2は、取得したX線画像10の解像度を向上させた高解像度X線画像13を生成するように構成されている。画像処理部2は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、GPU(Graphics Processing Unit)、および、画像処理用に構成されたFPGA(Field-Programmable Gate Array)などプロセッサを含んで構成されたコンピュータである。また、ハードウェアとしてのCPUなどからなる画像処理部2は、ソフトウェア(プログラム)の機能ブロックとして、周波数分解処理部2aと、高解像度画像生成部2bと、画像合成部2cと、を含む。また、本実施形態では、画像処理部2は、機能ブロックとして、画像拡大部2dを含む。画像処理部2は、記憶部3に記憶されたプログラムを実行することにより、周波数分解処理部2a、高解像度画像生成部2b、画像合成部2c、および、画像拡大部2dとして機能する。周波数分解処理部2a、高解像度画像生成部2b、画像合成部2c、および、画像拡大部2dは、専用のプロセッサ(処理回路)を設けてハードウェアにより個別に構成されていてもよい。画像処理部2の各機能ブロックの詳細については、後述する。
記憶部3は、X線画像10、高解像度X線画像13、学習モデル40を記憶するように構成されている。また、記憶部3は、画像処理部2が実行する各種プログラムを記憶するように構成されている。記憶部3は、たとえば、HDD(Hard Disk Drive)、または、SSD(Solid State Drive)などの不揮発性のメモリを含む。
(X線画像撮像装置の構成)
図2に示すように、X線画像撮像装置200は、X線源201と、X線検出部202と、撮像装置制御部203と、撮像装置画像処理部204と、表示部205と、を備える。撮像装置制御部203は、X線源201、撮像装置画像処理部204、および、表示部205と、電気的に接続されている。また、X線検出部202は、撮像装置画像処理部204と電気的に接続している。X線画像撮像装置200は、被検者90を撮像することにより、X線画像10を生成する。また、X線画像撮像装置200は、生成したX線画像10をX線画像処理装置100へと送る。なお、図2に示す例では、電気的な接続を破線で図示し、情報の入出力を実線の矢印で図示している。
X線源201は、高電圧が印加されることにより、X線を発生させる。X線源201で発生されたX線は、X線検出部202が配置された方向に照射されるように構成されている。
X線検出部202は、X線源201から照射されたX線を検出するとともに、検出されたX線を電気信号に変換する。X線検出部202は、たとえば、FPD(Flat Panel Detector)である。X線検出部202の検出信号(画像信号)は、撮像装置画像処理部204へと送られる。
撮像装置制御部203は、X線画像撮像装置200を制御するように構成されている。撮像装置制御部203は、たとえば、CPU、ROMおよびRAMなどを含む。
撮像装置画像処理部204は、X線検出部202から送られた検出信号に基づいて、X線画像10を生成するように構成されている。撮像装置画像処理部204は、たとえば、GPU、または、画像処理用に構成されたFPGAなどのプロセッサを含む。
撮像装置画像処理部204において生成されたX線画像10は、X線画像処理装置100へと送られる。
表示部205は、X線画像処理装置100において生成された高解像度X線画像13を表示するように構成されている。表示部205は、たとえば、液晶モニタなどの表示装置を含む。
(X線画像)
図3に示すように、X線画像10は、被検者90(図2参照)を撮影した画像である。具体的には、X線画像10は、被検者90の血管90aおよび血管90aに導入されたデバイス91が写る画像である。また、X線画像10には、着目部位50と非着目部位51とが写る。着目部位50は、たとえば、血管90aのエッジ50a、および、デバイス91のエッジ50bを含む。また、非着目部位51は、たとえば、被検者90の心臓51a、肺51b、および、横隔膜51cを含む。また、デバイス91は、たとえば、ステント、カテーテル、ガイドワイヤなどを含む。
(画像処理方法)
次に、図4および図5を参照して、本実施形態による画像処理方法によって、X線画像10から拡大された高解像度X線画像13を生成する構成について説明する。
図4は、本実施形態による画像処理の流れを示したブロック図である。図4に示すように、本実施形態では、画像処理方法は、大きく分けて、X線画像処理方法101と、学習モデル41の学習方法102と、を含む。
(学習モデル生成)
本実施形態による学習モデル41の学習方法102は、教師用低解像度高周波成分画像42と、教師用高解像度高周波成分画像43とを用いて、高周波成分の解像度を向上させることを学習モデル41に学習させる。また、本実施形態では、学習モデル41を学習させる際に、解像度を向上させるとともに、画像を拡大することをさらに学習させる。なお、本明細書において、「拡大する」とは、画像の解像度を大きくすることを意味する。また、本明細書において、「高解像度」とは、精細さが高いことを意味する。また、「低解像度」とは、精細さが低いことを意味する。
本実施形態では、たとえば、1024×1024の解像度の画像を、2048×2048の解像度の画像となるように解像度を向上させることを学習モデル41に学習させる。また、本実施形態では、たとえば、画像を4倍のサイズに拡大させることを学習モデル41に学習させる。学習モデル41は、たとえば、図4に示す畳み込みニューラルネットワーク(Convolutional neural network;CNN)であるか、畳み込みニューラルネットワークを一部に含む。学習モデル41を学習させることにより生成された学習モデル40は、X線画像処理装置100の記憶部3(図1)に記憶される。なお、学習モデル41を学習させる手法については、問わない。
(X線画像処理方法)
本実施形態によるX線画像処理方法101は、高周波成分画像11から、高解像度高周波成分画像を生成するX線画像処理方法である。本実施形態によるX線画像処理方法101は、X線画像10を取得するステップと、X線画像10を高周波成分画像11と低周波成分画像12とに周波数分解するステップと、学習済みの学習モデル40によって、高周波成分画像11から高周波成分画像11よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像13を生成するステップと、を含む。X線画像処理方法101の各ステップの詳細な処理については、後述する。
本実施形態では、図4に示すように、X線画像10を取得するステップは、画像取得部1によって行われる。画像取得部1は、X線画像撮像装置200からX線画像10を取得する。また、画像取得部1は、周波数分解処理部2aに対して取得したX線画像10を出力する。
また、本実施形態では、図4に示すように、周波数分解するステップは、周波数分解処理部2aによって行われる。周波数分解処理部2aは、X線画像10を高周波成分画像11と低周波成分画像12とに周波数分解するように構成されている。
また、本実施形態では、図4に示すように、高解像度高周波成分画像を生成するステップは、高解像度画像生成部2bによって行われる。高解像度画像生成部2bは、画像の解像度を高めることを学習させた学習済みの学習モデル40によって、高周波成分画像11から高周波成分画像11よりも解像度が高い画像である高解像度高周波成分画像を生成するように構成されている。なお、図4に示すように、本実施形態では、高解像度画像生成部2bは、低周波成分画像12から低周波成分画像12よりも解像度が高い画像を生成する処理は行わず、高周波成分画像11から高解像度高周波成分画像を生成する処理を行うように構成されている。すなわち、本実施形態では、高解像度画像生成部2bは、高周波成分画像11のみに対して、解像度を向上させる処理を行う。
また、本実施形態では、図4に示すように、高解像度X線画像13を生成するステップは、画像合成部2cによって行われる。画像合成部2cは、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像13を生成するように構成されている。
(高解像度X線画像を生成する構成)
次に、図5を参照して、画像処理部2が、X線画像10から拡大された高解像度X線画像13を生成する構成について説明する。なお、図5に示す例では、X線画像10のサイズの4倍のサイズの高解像度X線画像13を生成する構成を示している。
周波数分解処理部2a(図4参照)は、画像取得部1からX線画像10を取得する。また、周波数分解処理部2aは、取得したX線画像10を周波数分解することにより、高周波成分画像11と、低周波成分画像12と、を生成する。また、周波数分解処理部2aは、生成した高周波成分画像11を高解像度画像生成部2bに対して出力する。また、周波数分解処理部2aは、生成した低周波成分画像12を画像拡大部2dに対して出力する。高周波成分画像11サイズおよび精細さは、X線画像10のサイズおよび精細さと同様である。また、低周波成分画像12のサイズおよび精細さも、X線画像10のサイズおよび精細さと同様である。
本実施形態では、周波数分解処理部2aは、分解する周波数帯域が、X線画像10のうちの所定の着目部位50の周波数成分が高周波側の成分となるように設定された周波数分解処理を行うように構成されている。具体的には、周波数分解処理部2aは、血管90a(図3参照)のエッジ50a(図3参照)の周波数成分、および、デバイス91(図3参照)のエッジ50b(図3参照)の周波数成分が、高周波側の成分となるように、所定の周波数でX線画像10を分解するように構成されている。すなわち、周波数分解処理部2aは、着目部位50の周波数成分が、高周波成分画像11および低周波成分画像12の両方に含まれるのではなく、高周波成分画像11に含まれていて、低周波成分画像12に含まれていない状態となるように、X線画像10を分解する。なお、着目部位50の周波数成分の大部分が高周波成分画像11に含まれていればよく、多少の周波数成分が低周波成分画像12に含まれることを許容する。
また、本実施形態では、周波数分解処理部2aは、X線画像10に対して平滑化フィルタ処理を行うことにより、低周波成分画像12を取得する。具体的には、周波数分解処理部2aは、X線画像10に対してガウシアンフィルタを用いることにより、低周波成分画像12を取得する。また、周波数分解処理部2aは、X線画像10から低周波成分画像12を差分することにより、高周波成分画像11を取得するように構成されている。すなわち、本実施形態では、周波数分解処理部2aは、X線画像10を、高周波成分画像11と低周波成分画像12との2つの画像に分解する。また、高周波成分画像11と低周波成分画像12とを合成した場合、X線画像10が得られる。
画像拡大部2d(図4参照)は、周波数分解処理部2aによる周波数分解処理を行う前、または、周波数分解処理を行った後のいずれかにおいて画像を拡大するように構成されている。本実施形態では、画像拡大部2dは、周波数分解処理が行われた後の画像を拡大する。すなわち、本実施形態では、画像拡大部2dには、低周波成分画像12が入力される。また、画像拡大部2dは、周波数分解処理部2aによって周波数分解することにより取得された低周波成分画像12を拡大することにより、低周波成分拡大画像14を生成するように構成されている。また、画像拡大部2dは、低周波成分拡大画像14を、画像合成部2cに対して出力する。
また、本実施形態では、画像拡大部2dは、可逆変換可能な補間アルゴリズムによって画像を拡大するように構成されている。可逆変換可能な補間アルゴリズムは、たとえば、最近傍法を含む。最近傍法とは、画像を拡大した際に、拡大によって生じた画素値が未定の画素から最も近い位置にある画素値を、その画素の画素値に用いる手法である。なお、低周波成分拡大画像14のサイズは、低周波成分画像12の4倍のサイズである。また、低周波成分拡大画像14の精細さは、低周波成分画像12の精細さよりも低くなる。低周波成分拡大画像14は、特許請求の範囲の「低周波分画像に基づく画像」の一例である。
また、本実施形態では、学習モデル40(図4参照)は、画像の解像度を高める際に、生成する画像を拡大することをさらに学習している。高解像度画像生成部2b(図4参照)は、学習モデル40によって、高周波成分画像11から、高周波成分画像11よりも解像度が向上し、かつ、拡大された高解像度高周波成分拡大画像15を生成するように構成されている。なお、図5に示す例では、高解像度画像生成部2bには、高周波成分画像11が入力される。また、高解像度画像生成部2bは、入力された高周波成分画像11のサイズおよび精細さを向上させる処理を行う。具体的には、高解像度画像生成部2bは、高周波成分画像11の4倍のサイズであり、かつ、高周波成分画像11よりも精細さの高い高解像度高周波成分拡大画像15を生成する。高解像度画像生成部2bは、生成した高解像度高周波成分拡大画像15を、画像合成部2cに対して出力する。高解像度高周波成分拡大画像15は、特許請求の範囲の「高解像度高周波分画像」および「高解像度高周波分画像に基づく画像」の一例である。
画像合成部2cには、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とが入力される。画像合成部2cは、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。本実施形態では、画像合成部2cは、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを加算することにより、高解像度X線画像13を生成する。図5に示す例では、高解像度X線画像13は、X線画像10の4倍のサイズであり、X線画像10よりも精細さが高い画像である。また、本実施形態では、画像合成部2cは、生成した高解像度X線画像13を、X線画像撮像装置200の表示部205に対して出力する。
(動画像)
本実施形態では、X線画像撮像装置200(図2参照)は、たとえば、カテーテル治療などのX線IVR(Interventional Radiology)において被検者90を透視撮影することによって、X線画像10を所定のフレームレートの動画像として撮影する。画像取得部1は、動画像としてのX線画像10を取得するように構成されている。具体的には、画像取得部1は、時系列的に連続してフレーム画像としてのX線画像10を取得する。周波数分解処理部2aは、動画像としてのX線画像10のフレームを取得する度に、取得したフレームに対して周波数分解処理を行うことにより、フレーム毎に低周波成分画像12と高周波成分画像11とを取得するように構成されている。高解像度画像生成部2bは、フレーム毎に取得された高周波成分画像11から高解像度高周波成分画像を生成するように構成されている。画像合成部2cは、フレーム毎の低周波成分画像12とフレーム毎の高解像度高周波成分画像とを合成することにより、動画像としての高解像度X線画像13を生成するように構成されている。また、画像合成部2cは、所定のフレームレートで動画像として高解像度X線画像13を表示部205(図2参照)に出力する。
なお、本実施形態による画像処理部2による高解像度X線画像13の生成処理は、医師などが、拡大表示を行う操作入力を行うことにより開始される。
(高解像度X線画像、比較例1、および、比較例2)
次に、図6および図7を参照して、本実施形態による画像処理部2が生成した高解像度X線画像13と、従来手法により生成された比較例1および比較例2とにおける、画像に写るデバイス91の精細さの違いについて説明する。
図6(A)は、デバイス91が写るX線画像10である。図6(B)は、本実施形態による画像処理部2が生成した高解像度X線画像13である。また、図6(C)は、X線画像10に対して周波数分解処理を行わず、解像度を高めることを学習させたモデルによって解像度を向上させるとともに、拡大した比較例1による画像60である。また、図6(D)は、非線形関数によってX線画像10を拡大した比較例2による画像61である。画像61は、たとえば、Bicubic補間アルゴリズムにより拡大された画像である。
図6(B)に示す高解像度X線画像13に写るデバイス91は、比較例1による画像60に写るデバイス91および比較例2による画像61に写るデバイス91よりも、鮮明に写っていることが確認された。なお、高解像度X線画像13に写るデバイス91が、比較例1による画像60に写るデバイス91および比較例2による画像61に写るデバイス91よりも、鮮明に写っていることを、図7に示すプロファイル80において確認された。
図7に示すプロファイル80は、横軸が画素の位置であり、縦軸が画素値である。また、プロファイル80は、本実施形態による高解像度X線画像13のプロファイル81と、比較例1による画像60のプロファイル82と、比較例2による画像61のプロファイル83とを含む。各プロファイルは、画像中の所定の位置の画素の画素値をプロットすることにより得られる。プロファイル81は、高解像度X線画像13(図6参照)中の直線70(図6参照)の位置の画素について、画素値の変化をプロットしたものである。また、プロファイル82は、画像60(図6参照)中の直線71(図6参照)の位置の画素について、画素値の変化をプロットしたものである。また、プロファイル83は、画像61(図6参照)中の直線72(図6参照)の位置の画素について、画素値の変化をプロットしたものである。
各プロファイルにおける画素値の最小値と、各プロファイルの谷部分の幅とを、デバイス91(図6参照)の精細さを示す指標とした。具体的には、各プロファイルの谷部分の幅が小さく、かつ、谷部分の深さが大きいほうが、より精細である。すなわち、各プロファイルの谷部分の傾き(エッジにおける輝度変化量)が大きいほど、精細さが高いことを意味する。なお、谷部分の幅とは、各プロファイルのうち、下方に突出している部分の幅を意味する。また、谷部分の深さとは、各プロファイルの谷部分の突出度合いを意味する。図7に示す例では、直線73に示す位置における幅に基づいて、デバイス91の精細さを確認した。
図7に示すように、プロファイル81の谷部分の幅81a、プロファイル82の谷部分の幅82a、および、プロファイル83の谷部分の幅83aを比較したところ、プロファイル81の谷部分の幅81aが最も小さいことが確認された。また、各プロファイルの画素値の最小値を比較したところ、プロファイル81の画素値の最小値が最も小さいことが確認された。すなわち、本実施形態による高解像度X線画像13、比較例1による画像60、および、比較例2による画像61のうち、高解像度X線画像13に写るデバイス91が最も鮮明であることが、プロファイル81~83により確認された。
次に、図8を参照して、本実施形態による画像処理部2がX線画像10から拡大された高解像度X線画像13を生成する処理について説明する。
ステップ101aにおいて、画像取得部1は、X線画像10を取得する。本実施形態では、動画像としてのX線画像10をフレーム単位で取得する。
ステップ101bにおいて、周波数分解処理部2aは、X線画像10に対して周波数分解処理を行い、高周波成分画像11および低周波成分画像12を取得する。
ステップ101cにおいて、高解像度画像生成部2bは、学習モデル40によって、高周波成分画像11から、高解像度高周波成分画像を生成する。本実施形態では、高解像度画像生成部2bは、高解像度高周波成分画像として、高解像度高周波成分拡大画像15を生成する。
ステップ101dにおいて、画像拡大部2dは、低周波成分画像12を拡大することにより、低周波成分拡大画像14を生成する。
ステップ101eにおいて、画像合成部2cは、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより、拡大された高解像度X線画像13を生成する。具体的には、画像合成部2cは、高解像度高周波成分拡大画像15と、低周波成分拡大画像14とを合成することにより、拡大された高解像度X線画像13を生成する。
本実施形態では、画像合成部2cは、動画像としてのX線画像10に対して、上記ステップ101a~ステップ101eの処理を行い、動画像としての拡大された高解像度X線画像13を生成する。なお、上記ステップ101cの処理と、上記ステップ101dの処理とは、どちらを先に行ってもよい。また、画像処理部2が同時並行で処理を行える場合、上記ステップ101cの処理と、上記ステップ101dの処理とを、同時並行で行ってもよい。
(本実施形態の効果)
本実施形態では、以下のような効果を得ることができる。
本実施形態では、上記のように、X線画像処理装置100は、X線画像10を取得する画像取得部1と、X線画像10を高周波成分画像11と低周波成分画像12とに周波数分解する周波数分解処理部2aと、画像の解像度を高めることを学習させた学習済みの学習モデル40によって、高周波成分画像11から高周波成分画像11よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部2bと、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像13を生成する画像合成部2cと、を含む。
これにより、高解像度画像生成部2bが、低周波成分画像12と高周波成分画像11とを分けた状態で解像度を向上させるため、高周波成分および低周波成分の両方の成分を含むX線画像10に対して解像度を向上させる処理を行う構成と比較して、高周波成分画像11の高精細化の度合いが低下することを抑制することができる。その結果、超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理装置100を提供することができる。
また、本実施形態では、上記のように、X線画像処理方法は、X線画像10を取得するステップと、X線画像10を高周波成分画像11と低周波成分画像12とに周波数分解するステップと、学習済みの学習モデル40によって、高周波成分画像11から高周波成分画像11よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像13を生成するステップと、を含む。
これにより、上記X線画像処理装置100と同様に、超解像処理を施した場合に高周波成分が高精細化できないことを抑制することにより、着目する部位の視認性を向上させることが可能なX線画像処理方法を提供することができる。
また、上記実施形態では、以下のように構成したことによって、下記のような更なる効果が得られる。
すなわち、本実施形態では、上記のように、高解像度画像生成部2bは、低周波成分画像12から低周波成分画像12よりも解像度が高い画像を生成する処理は行わず、高周波成分画像11から高解像度高周波成分画像を生成する処理を行うように構成されている。これにより、低周波成分画像12に対して解像度を向上させる処理が行われないので、高周波成分画像11とともに低周波成分画像12に対しても解像度を向上させる処理を行う構成と比較して、処理速度が低下すること、および、処理負荷が増加することを抑制することができる。
また、本実施形態では、上記のように、周波数分解処理部2aは、分解する周波数帯域が、X線画像10のうちの所定の着目部位50の周波数成分が高周波側の成分となるように設定された周波数分解処理を行うように構成されている。これにより、着目部位50の周波数成分が含まれる高周波成分画像11の解像度を向上させることにより、高解像度高周波成分拡大画像15において、着目部位50の精細さを向上させることができる。その結果、高解像度X線画像13において、着目部位50の視認性を向上させることができる。
また、本実施形態では、上記のように、X線画像10は、被検者90の血管90aおよび血管90aに導入されたデバイス91が写る画像であり、着目部位50は、血管90aのエッジ50a、および、デバイス91のエッジ50bである。これにより、高解像度X線画像13において、血管90aのエッジ50aおよびデバイス91のエッジ50bの精細さを向上させることが可能になるので、高解像度X線画像13において、血管90aおよびデバイス91の視認性を向上させることができる。
また、本実施形態では、上記のように、画像取得部1は、動画像としてのX線画像10を取得するように構成されており、周波数分解処理部2aは、動画像としてのX線画像10のフレームを取得する度に、取得したフレームに対して周波数分解処理を行うことにより、フレーム毎に低周波成分画像12と高周波成分画像11とを取得するように構成されており、高解像度画像生成部2bは、フレーム毎に取得された高周波成分画像11から高解像度高周波成分画像を生成するように構成されており、画像合成部2cは、フレーム毎の低周波成分画像12とフレーム毎の高解像度高周波成分画像とを合成することにより、動画像としての高解像度X線画像13を生成するように構成されている。これにより、動画像としての高解像度X線画像13が生成されるので、たとえば、表示装置などに動画像としての高解像度X線画像13を表示させることにより、操作者に対して着目部位50の視認性を向上させた動画像を提示することができる。その結果、操作者が手技を行っている際にリアルタイムで着目部位50の視認性を向上させた動画像を操作者に確認させることができる。
また、本実施形態では、上記のように、周波数分解処理部2aは、X線画像10に対して平滑化フィルタ処理を行うことにより、低周波成分画像12を取得するとともに、X線画像10から低周波成分画像12を差分することにより、高周波成分画像11を取得するように構成されている。これにより、平滑化フィルタ処理によって周波数分解処理を行うため、たとえば、X線画像10の全体を取得した後に周波数分解処理を行うフーリエ変換による周波数分解処理と異なり、X線画像10の一部を取得した段階で周波数分解処理を開始することができる。その結果、周波数分解処理の速度を向上させることができる。
また、本実施形態では、上記のように、画像を拡大する画像拡大部2dをさらに備え、画像拡大部2dは、周波数分解処理部2aによる周波数分解処理を行う前、または、周波数分解処理を行った後のいずれかにおいて画像を拡大するように構成されている。これにより、周波数分解処理の前および後のいずれかのうち、所望のタイミングにおいて画像の拡大処理を行うことが可能となるので、画像処理の構成の自由度を向上させることができる。
また、本実施形態では、上記のように、画像拡大部2dは、周波数分解処理部2aによって周波数分解することにより取得された低周波成分画像12を拡大することにより、低周波成分拡大画像14を生成するように構成されており、学習モデル40は、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、高解像度画像生成部2bは、学習モデル40によって、高周波成分画像11から、高周波成分画像11よりも解像度が向上し、かつ、拡大された高解像度高周波成分拡大画像15を生成するように構成されており、画像合成部2cは、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。これにより、高解像度画像生成部2bによって解像度を向上させるとともに、画像を拡大することが可能となるので、拡大した高周波成分画像11に対して解像度を向上させる構成と比較して、学習モデル40を適用する画像のサイズを小さくすることができる。その結果、学習モデル40による解像度を向上させる処理の負荷が増加することを抑制することができる。
また、本実施形態では、上記のように、画像拡大部2dは、可逆変換可能な補間アルゴリズムによって画像を拡大するように構成されている。これにより、拡大処理によって低周波成分画像12を拡大することにより低周波成分拡大画像14を生成した場合でも、低周波成分画像12に含まれる画素の画素値の情報が欠落することを抑制することができる。
[変形例]
今回開示された実施形態は、全ての点で例示であり制限的なものではないと考えられるべきである。本発明の範囲は上記実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内での全ての変更(変形例)が含まれる。
(第1変形例)
たとえば、上記実施形態では、画像拡大部2dが、周波数分解処理部2aがX線画像10に対して周波数分解処理を行った後に画像を拡大する構成の例を示したが、本発明はこれに限られない。たとえば、図9に示す第1変形例では、画像拡大部20dは、周波数分解処理部20aによって周波数分解が行われる前のX線画像10を拡大するように構成されていてもよい。
図9に示すように、第1変形例によるX線画像処理装置110は、画像処理部2の代わりに、画像処理部20を備える点、および、学習モデル40の代わりに学習モデル140が記憶部3に記憶されている点で、上記実施形態によるX線画像処理装置100とは異なる。
画像処理部20は、周波数分解処理部2aの代わりに周波数分解処理部20aを備える点、高解像度画像生成部2bの代わりに、高解像度画像生成部20bを備える点、画像拡大部2dの代わりに画像拡大部20dを備える点、および、画像を縮小する画像縮小部2eを備える点で、上記実施形態による画像処理部2とは異なる。
学習モデル140は、高周波成分画像11の代わりに、高周波成分縮小画像18(図10参照)から高解像度高周波成分拡大画像15を生成することを学習されている点で、上記実施形態による学習モデル40とは異なる。なお、高周波成分画像11のサイズおよび精細さと高周波成分縮小画像18のサイズおよび精細さとが等しい場合、学習モデル40を用いてもよい。
図10に示すように、第1変形例による画像拡大部20d(図9参照)は、周波数分解処理部2aによって周波数分解する前のX線画像10を拡大するように構成されている。具体的には、画像拡大部20dは、X線画像10を拡大することにより、拡大されたX線画像16を生成する。なお、拡大対象の画像のサイズおよび拡大率が等しい場合、画像拡大部2dを用いてもよい。
また、図10に示すように、第1変形例では、周波数分解処理部20a(図9参照)は、拡大されたX線画像16から、低周波成分拡大画像14と、高周波成分拡大画像17とを生成するように構成されている。周波数分解処理部20aが行う周波数分解処理は、上記実施形態による周波数分解処理部2aと同様であるので、詳細な説明は省略する。
また、図10に示すように、第1変形例では、画像縮小部2e(図9参照)は、高周波成分拡大画像17を縮小することにより、高周波成分縮小画像18を取得するように構成されている。第1変形例では、画像縮小部2eは、可逆変換可能な補間アルゴリズムによって画像を縮小するように構成されている。可逆変換可能な補間アルゴリズムは、たとえば、画素平均法を含む。なお、画像縮小部2eは、高周波成分縮小画像18のサイズが、X線画像10のサイズと等しくなるように、高周波成分拡大画像17を縮小する。
また、図10に示すように、第1変形例では、高解像度画像生成部20b(図9参照)は、学習モデル140によって、高周波成分縮小画像18から、高解像度高周波成分拡大画像15を生成するように構成されている。
また、図10に示すように、第1変形例では、画像合成部2c(図9参照)は、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。
次に、図11を参照して、第1変形例による画像処理部20が拡大された高解像度X線画像13を生成する処理について説明する。なお、上記実施形態による画像処理部2が行う処理と同様の処理については、同様の符号を付し、詳細な説明は省略する。
ステップ101aにおいて、画像取得部1は、X線画像10を取得する。
ステップ101fにおいて、画像拡大部20dは、X線画像10を拡大することにより、拡大されたX線画像16を取得する。
ステップ101gにおいて、周波数分解処理部20aは、拡大されたX線画像16に対して周波数分解処理を行い、高周波成分拡大画像17および低周波成分拡大画像14を取得する。
ステップ101hにおいて、画像縮小部2eは、高周波成分拡大画像17を縮小することにより、高周波成分縮小画像18を取得する。
ステップ101iにおいて、高解像度画像生成部20bは、学習モデル140によって、高周波成分縮小画像18から高解像度高周波成分拡大画像15を生成する。
ステップ101eにおいて、画像合成部2cは、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより、拡大された高解像度X線画像13を生成する。具体的には、画像合成部2cは、高解像度高周波成分拡大画像15と、低周波成分拡大画像14とを合成することにより、拡大された高解像度X線画像13を生成する。
なお、第1変形例によるX線画像処理装置110のその他の構成は、上記実施形態によるX線画像処理装置100と同様の構成である。
(第1変形例の効果)
第1変形例では、以下のような効果を得ることができる。
第1変形例では、上記のように、X線画像処理装置110は、画像を縮小する画像縮小部2eをさらに備え、画像拡大部20dは、周波数分解処理部20aによって周波数分解する前のX線画像10を拡大するように構成されており、学習モデル140は、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、周波数分解処理部20aは、拡大されたX線画像16から、低周波成分拡大画像14と、高周波成分拡大画像17とを生成するように構成されており、画像縮小部2eは、高周波成分拡大画像17を縮小することにより、高周波成分縮小画像18を取得するように構成されており、高解像度画像生成部20bは、学習モデル140によって、高周波成分縮小画像18から、高解像度高周波成分拡大画像15を生成するように構成されており、画像合成部2cは、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。
これにより、周波数分解処理を行う前に拡大されたX線画像16に基づいて、低周波成分拡大画像14および高周波成分拡大画像17が取得されるので、X線画像10を周波数分解処理によって低周波成分画像12および高周波成分画像11に分解し、それぞれの画像に対して拡大処理を行う構成と比較して、処理工程が増加することを抑制することができる。また、学習モデル140を用いて高周波成分縮小画像18から高解像度高周波成分拡大画像15を生成するため、高周波成分拡大画像17から高解像度高周波成分拡大画像15を生成する構成と比較して、学習モデル140を適用する画像のサイズを小さくすることが可能となるので、処理負荷が増加することを抑制することができる。
また、第1変形例では、上記のように、画像縮小部2eは、可逆変換可能な補間アルゴリズムによって画像を縮小するように構成されている。これにより、縮小処理によって高周波成分拡大画像17を縮小することにより高周波成分縮小画像18を生成した場合でも、高周波成分拡大画像17に含まれる画素値の情報が欠落することを抑制することができる。
なお、第1変形例のその他の効果は、上記実施形態による効果と同様である。
(第2変形例)
また、上記実施形態では、画像拡大部2dが、周波数分解処理部2aがX線画像10に対して周波数分解処理を行った後に画像を拡大する構成の例を示したが、本発明はこれに限られない。たとえば、図12に示す第2変形例では、画像拡大部21dは、周波数分解処理部21aによって周波数分解が行われる前のX線画像10を拡大するように構成されていてもよい。
図12に示すように、第2変形例によるX線画像処理装置120は、画像処理部2の代わりに、画像処理部21を備える点、および、学習モデル40の代わりに学習モデル240が記憶部3に記憶されている点で、上記実施形態によるX線画像処理装置100とは異なる。
画像処理部21は、周波数分解処理部2aの代わりに周波数分解処理部21aを備える点、高解像度画像生成部2bの代わりに、高解像度画像生成部21bを備える点、および、画像拡大部2dの代わりに画像拡大部21dを備える点で、上記実施形態による画像処理部2とは異なる。
学習モデル240は、高周波成分拡大画像17(図13参照)から高解像度高周波成分拡大画像15(図13参照)を生成することを学習されている点で、上記実施形態による学習モデル40と異なる。すなわち、学習モデル240は、学習モデル40とは異なり、画像を拡大することを学習されていない。
図13に示すように、画像拡大部21d(図12参照)は、周波数分解処理部21aによって周波数分解する前のX線画像10を拡大するように構成されている。すなわち、画像拡大部21dは、X線画像10を拡大することにより、拡大されたX線画像16を生成するように構成されている。言い換えると、画像拡大部21dは、上記第1変形例による画像拡大部20dと同様の構成である。
また、図13に示すように、第2変形例では、周波数分解処理部21a(図12参照)は、拡大されたX線画像16から、低周波成分拡大画像14と高周波成分拡大画像17とを生成するように構成されている。すなわち、周波数分解処理部21aは、上記第1変形例による周波数分解処理部20aと同様の構成である。
また、図13に示すように、第2変形例では、高解像度画像生成部21b(図12参照)は、学習モデル240によって、高周波成分拡大画像17から高解像度高周波成分拡大画像15を生成するように構成されている。
また、図13に示すように、第2変形例では、画像合成部2c(図12参照)は、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。
次に、図14を参照して、第2変形例による画像処理部21が拡大された高解像度X線画像13を生成する処理について説明する。なお、上記実施形態および第1変形例による画像処理部2が行う処理と同様の処理については、同様の符号を付し、詳細な説明は省略する。
ステップ101aにおいて、画像取得部1は、X線画像10を取得する。
ステップ101fにおいて、画像拡大部21dは、X線画像10を拡大することにより、拡大されたX線画像16を取得する。
ステップ101gにおいて、周波数分解処理部21aは、拡大されたX線画像16に対して周波数分解処理を行い、高周波成分拡大画像17および低周波成分拡大画像14を取得する。
ステップ101jにおいて、高解像度画像生成部21bは、学習モデル240によって、高周波成分拡大画像17から高解像度高周波成分拡大画像15を生成する。
ステップ101eにおいて、画像合成部2cは、低周波成分画像12に基づく画像と高解像度高周波成分画像に基づく画像とを合成することにより、拡大された高解像度X線画像13を生成する。具体的には、画像合成部2cは、高解像度高周波成分拡大画像15と、低周波成分拡大画像14とを合成することにより、拡大された高解像度X線画像13を生成する。
なお、第2変形例によるX線画像処理装置120のその他の構成は、上記実施形態によるX線画像処理装置100と同様の構成である。
(第2変形例の効果)
第2変形例では、以下のような効果を得ることができる。
第2変形例では、上記のように、画像拡大部21dは、周波数分解処理部21aによって周波数分解する前のX線画像10を拡大するように構成されており、周波数分解処理部21aは、拡大されたX線画像16から、低周波成分拡大画像14と高周波成分拡大画像17とを生成するように構成されており、高解像度画像生成部21bは、学習モデル240によって、高周波成分拡大画像17から高解像度高周波成分拡大画像15を生成するように構成されており、画像合成部2cは、低周波成分拡大画像14と、高解像度高周波成分拡大画像15とを合成することにより、高解像度X線画像13を生成するように構成されている。
これにより、拡大されたX線画像16に対して周波数分解処理を行うことにより、低周波成分拡大画像14および高周波成分拡大画像17が生成されるため、X線画像10を周波数分解処理することにより取得した低周波成分画像12および高周波成分画像11の各々を拡大する構成と比較して、処理工程が複雑化することを抑制することができる。
なお、第2変形例のその他の効果は、上記実施形態による効果と同様である。
(その他の変形例)
また、上記実施形態、上記第1変形例、および、上記第2変形例では、X線画像処理装置が、X線画像10として、医用X線画像の処理装置として構成される例を示したが、本発明はこれに限られない。たとえば、X線画像処理装置は、非破壊検査用途に撮影されたX線画像の処理装置として構成されていてもよい。
また、上記実施形態、上記第1変形例、および、上記第2変形例では、X線画像処理装置100が、X線画像撮像装置200の撮像装置画像処理部204と個別に構成される例を示したが、本発明はこれに限られない。たとえば、撮像装置画像処理部204が、X線画像処理装置100として機能するように構成されていてもよい。
また、上記実施形態、上記第1変形例および上記第2変形例では、画像拡大部が、画像を2倍に拡大する構成の例を示したが、本発明はこれに限られない。画像拡大部が画像を拡大する倍率は、任意の値であり得る。また、画像拡大部による画像の拡大率が2倍以外の場合、学習モデル40によって高周波成分画像11を拡大する倍率、または、学習モデル140によって高周波成分縮小画像18を拡大する倍率を、画像拡大部によって画像を拡大する倍率と同様の倍率にすればよい。また、拡大率は、変更可能に構成されていてもよい。拡大率が変更可能な場合、各拡大率に応じた学習モデルを記憶部3に記憶しておけばよい。また、拡大率が変更可能な場合、学習モデルを、画像拡大部が拡大する際の最大拡大率に画像を拡大するように学習させておき、所望も拡大率まで縮小させるように構成されていてもよい。
また、上記実施形態、上記第1変形例および上記第2変形例では、画像拡大部が、最近傍法により画像を拡大する構成の例を示したが、本発明はこれに限られない。たとえば、画像拡大部は、線形関数、または、非線形関数によって画像を拡大するように構成されていてもよい。
また、上記第1変形例では、画像縮小部2eが、画素平均法により画像を縮小する構成の例を示したが、本発明はこれに限られない。たとえば、画像縮小部2eは、線形関数、または、非線形関数によって画像を縮小するように構成されていてもよい。
また、上記実施形態、上記第1変形例および上記第2変形例では、画像処理部が、解像度が1024×1024のX線画像10から、解像度が2048×2048の高解像度X線画像13を生成する構成の例を示したが、本発明はこれに限られない。たとえば、画像処理部は、解像度が512×512のX線画像10から、解像度が1024×1024の高解像度X線画像13を生成するように構成されていてもよい。また、画像処理部は、解像度が2048×2048のX線画像10から、解像度が4096×4096の高解像度X線画像13を生成するように構成されていてもよい。高解像度X線画像13の解像度がX線画像10の解像度よりも高ければ、X線画像10および高解像度X線画像13の解像度は、どのような解像度であってもよい。
また、上記実施形態、および、上記第1変形例では、高解像度画像生成部が、学習モデル40(学習モデル140)によって、高周波成分画像11(高周波成分縮小画像18)から高解像度高周波成分拡大画像15を生成する構成の例を示したが、本発明はこれに限られない。たとえば、高解像度画像生成部は、高周波成分画像11(高周波成分縮小画像18)から高解像度高周波成分画像を生成するように構成されていてもよい。すなわち、学習モデル40(学習モデル140)は、画像を拡大する処理を学習されていなくてもよい。学習モデル40(学習モデル140)が画像を拡大する処理を学習されていない場合、画像拡大部によって、高解像度高周波成分画像を拡大することにより、高解像度高周波成分拡大画像15を生成するように構成すればよい。
また、上記実施形態、上記第1変形例および上記第2変形例では、高解像度画像生成部が、高周波成分画像11(高周波成分拡大画像17、および、高周波成分縮小画像18)から、高解像度高周波成分拡大画像15を生成する構成の例を示したが、本発明はこれに限られない。たとえば、高解像度画像生成部は、低周波成分画像12(低周波成分拡大画像14)の解像度を向上させるように構成されていてもよい。すなわち、高解像度画像生成部は、高周波成分画像11用の第1高解像度画像生成部と、低周波成分画像12用の第2高解像度画像生成部とを備えていてもよい。しかしながら、高解像度画像生成部が、低周波成分画像12(低周波成分拡大画像14)の解像度を向上させる構成の場合、処理の負荷が増加するとともに、処理時間が増加する。そのため、高解像度画像生成部は、低周波成分画像12(低周波成分拡大画像14)の解像度を向上させる処理を行わず、高周波成分画像11(高周波成分拡大画像17、および、高周波成分縮小画像18)の解像度を向上させる処理を行う構成のほうが好ましい。
また、上記実施形態、上記第1変形例および上記第2変形例では、画像処理部が、動画像としてのX線画像10から動画像としての拡大された高解像度X線画像13を生成する構成の例を示したが、本発明はこれに限られない。たとえば、画像処理部は、静止画としてのX線画像10から、静止画としての拡大された高解像度X線画像13を生成するように構成されていてもよい。また、画像処理部が静止画としての拡大された高解像度X線画像13を生成する構成の場合、周波数分解処理部は、平滑化フィルタ処理以外の処理により、周波数分解処理を行うように構成されていてもよい。平滑化フィルタ処理以外の処理は、たとえば、フーリエ変換を含む。
また、上記実施形態、上記第1変形例および上記第2変形例では、周波数分解処理部が、X線画像10を高周波成分画像11と低周波成分画像12との2つの画像に分化する構成の例を示したが、本発明はこれに限られない。たとえば、周波数分解処理部は、X線画像10を、3つ以上の画像に分解するように構成されていてもよい。着目部位50の周波数成分が含まれる画像を背景などの周波数成分が含まれる画像と分解することが可能であれば、分解する画像の数は問わない。
また、上記実施形態、上記第1変形例および上記第2変形例では、画像処理部が、画像のサイズおよび精細さを向上させる処理を行う高解像度画像生成部と、画像の分解、拡大、合成などを行う各処理部とを同一のプロセッサで実行する構成の例を示したが、本発明はこれに限られない。たとえば画像処理部2は、高解像度画像生成部を、画像の分解、拡大、合成などを行う各処理部を行うプロセッサとは異なる個別のプロセッサとして備えていてもよい。すなわち、画僧処理部は、高解像度画像生成部として、画像のサイズおよび精細さを向上させる処理を行う専用のプロセッサを備えていてもよい。
[態様]
上記した例示的な実施形態は、以下の態様の具体例であることが当業者により理解される。
(項目1)
X線画像を取得する画像取得部と、
前記X線画像を高周波成分画像と低周波成分画像とに周波数分解する周波数分解処理部と、
画像の解像度を高めることを学習させた学習済みの学習モデルによって、前記高周波成分画像から前記高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部と、
前記低周波成分画像に基づく画像と前記高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成する画像合成部と、を含む、X線画像処理装置。
(項目2)
前記高解像度画像生成部は、前記低周波成分画像から前記低周波成分画像よりも解像度が高い画像を生成する処理は行わず、前記高周波成分画像から前記高解像度高周波成分画像を生成する処理を行うように構成されている、項目1に記載のX線画像処理装置。
(項目3)
前記周波数分解処理部は、分解する周波数帯域が、前記X線画像のうちの所定の着目部位の周波数成分が高周波側の成分となるように設定された周波数分解処理を行うように構成されている、項目1または2に記載のX線画像処理装置。
(項目4)
前記X線画像は、被検者の血管および前記血管に導入されたデバイスが写る画像であり、
前記着目部位は、前記血管のエッジ、および、前記デバイスのエッジである、項目3に記載のX線画像処理装置。
(項目5)
前記画像取得部は、動画像としての前記X線画像を取得するように構成されており、
前記周波数分解処理部は、動画像としての前記X線画像のフレームを取得する度に、取得したフレームに対して周波数分解処理を行うことにより、フレーム毎に前記低周波成分画像と前記高周波成分画像とを取得するように構成されており、
前記高解像度画像生成部は、フレーム毎に取得された前記高周波成分画像から前記高解像度高周波成分画像を生成するように構成されており、
前記画像合成部は、フレーム毎の前記低周波成分画像とフレーム毎の前記高解像度高周波成分画像とを合成することにより、動画像としての前記高解像度X線画像を生成するように構成されている、項目1~4のいずれか1項に記載のX線画像処理装置。
(項目6)
前記周波数分解処理部は、前記X線画像に対して平滑化フィルタ処理を行うことにより、前記低周波成分画像を取得するとともに、前記X線画像から前記低周波成分画像を差分することにより、前記高周波成分画像を取得するように構成されている、項目1~5のいずれか1項に記載のX線画像処理装置。
(項目7)
画像を拡大する画像拡大部をさらに備え、
前記画像拡大部は、前記周波数分解処理部による周波数分解処理を行う前、または、周波数分解処理を行った後のいずれかにおいて画像を拡大するように構成されている、項目1~6のいずれか1項に記載のX線画像処理装置。
(項目8)
前記画像拡大部は、前記周波数分解処理部によって周波数分解することにより取得された前記低周波成分画像を拡大することにより、低周波成分拡大画像を生成するように構成されており、
前記学習モデルは、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、
前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分画像から、前記高周波成分画像よりも解像度が向上し、かつ、拡大された高解像度高周波成分拡大画像を生成するように構成されており、
前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、項目7に記載のX線画像処理装置。
(項目9)
画像を縮小する画像縮小部をさらに備え、
前記画像拡大部は、前記周波数分解処理部によって周波数分解する前の前記X線画像を拡大するように構成されており、
前記学習モデルは、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、
前記周波数分解処理部は、拡大された前記X線画像から、低周波成分拡大画像と、高周波成分拡大画像とを生成するように構成されており、
前記画像縮小部は、前記高周波成分拡大画像を縮小することにより、高周波成分縮小画像を取得するように構成されており、
前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分縮小画像から、高解像度高周波成分拡大画像を生成するように構成されており、
前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、項目7に記載のX線画像処理装置。
(項目10)
前記画像拡大部は、前記周波数分解処理部によって周波数分解する前の前記X線画像を拡大するように構成されており、
前記周波数分解処理部は、拡大された前記X線画像から、低周波成分拡大画像と高周波成分拡大画像とを生成するように構成されており、
前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分拡大画像から高解像度高周波成分拡大画像を生成するように構成されており、
前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、項目7に記載のX線画像処理装置。
(項目11)
前記画像拡大部は、可逆変換可能な補間アルゴリズムによって画像を拡大するように構成されている、項目7~10のいずれか1項に記載のX線画像処理装置。
(項目12)
前記画像縮小部は、可逆変換可能な補間アルゴリズムによって画像を縮小するように構成されている、項目9に記載のX線画像処理装置。
(項目13)
X線画像を取得するステップと、
前記X線画像を高周波成分画像と低周波成分画像とに周波数分解するステップと、
学習済みの学習モデルによって、前記高周波成分画像から前記高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、
前記低周波成分画像に基づく画像と前記高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成するステップと、を含む、X線画像処理方法。
1 画像取得部
2a、20a、21a 周波数分解処理部
2b、20b、21b 高解像度画像生成部
2c 画像合成部
2d、20d、21d 画像拡大部
2e 画像縮小部
10 X線画像
11 高周波成分画像
12 低周波成分画像
13 高解像度X線画像
14 低周波成分拡大画像
15 高解像度高周波成分拡大画像(高解像度高周波成分画像、高解像度高周波成分画像に基づく画像)
16 拡大されたX線画像
17 高周波成分拡大画像
18 高周波成分縮小画像
40、140、240 学習モデル
50 着目部位
50a エッジ(血管のエッジ)
50b エッジ(デバイスのエッジ)
90 被検者
90a 血管
91 デバイス
100、110、120 X線画像処理装置

Claims (13)

  1. X線画像を取得する画像取得部と、
    前記X線画像を高周波成分画像と低周波成分画像とに周波数分解する周波数分解処理部と、
    画像の解像度を高めることを学習させた学習済みの学習モデルによって、前記高周波成分画像から前記高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成する高解像度画像生成部と、
    前記低周波成分画像に基づく画像と前記高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成する画像合成部と、を含む、X線画像処理装置。
  2. 前記高解像度画像生成部は、前記低周波成分画像から前記低周波成分画像よりも解像度が高い画像を生成する処理は行わず、前記高周波成分画像から前記高解像度高周波成分画像を生成する処理を行うように構成されている、請求項1に記載のX線画像処理装置。
  3. 前記周波数分解処理部は、分解する周波数帯域が、前記X線画像のうちの所定の着目部位の周波数成分が高周波側の成分となるように設定された周波数分解処理を行うように構成されている、請求項1または2に記載のX線画像処理装置。
  4. 前記X線画像は、被検者の血管および前記血管に導入されたデバイスが写る画像であり、
    前記着目部位は、前記血管のエッジ、および、前記デバイスのエッジを含む、請求項3に記載のX線画像処理装置。
  5. 前記画像取得部は、動画像としての前記X線画像を取得するように構成されており、
    前記周波数分解処理部は、動画像としての前記X線画像のフレームを取得する度に、取得したフレームに対して周波数分解処理を行うことにより、フレーム毎に前記低周波成分画像と前記高周波成分画像とを取得するように構成されており、
    前記高解像度画像生成部は、フレーム毎に取得された前記高周波成分画像から前記高解像度高周波成分画像を生成するように構成されており、
    前記画像合成部は、フレーム毎の前記低周波成分画像とフレーム毎の前記高解像度高周波成分画像とを合成することにより、動画像としての前記高解像度X線画像を生成するように構成されている、請求項1~4のいずれか1項に記載のX線画像処理装置。
  6. 前記周波数分解処理部は、前記X線画像に対して平滑化フィルタ処理を行うことにより、前記低周波成分画像を取得するとともに、前記X線画像から前記低周波成分画像を差分することにより、前記高周波成分画像を取得するように構成されている、請求項1~5のいずれか1項に記載のX線画像処理装置。
  7. 画像を拡大する画像拡大部をさらに備え、
    前記画像拡大部は、前記周波数分解処理部による周波数分解処理を行う前、または、周波数分解処理を行った後のいずれかにおいて画像を拡大するように構成されている、請求項1~6のいずれか1項に記載のX線画像処理装置。
  8. 前記画像拡大部は、前記周波数分解処理部によって周波数分解することにより取得された前記低周波成分画像を拡大することにより、低周波成分拡大画像を生成するように構成されており、
    前記学習モデルは、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、
    前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分画像から、前記高周波成分画像よりも解像度が向上し、かつ、拡大された高解像度高周波成分拡大画像を生成するように構成されており、
    前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、請求項7に記載のX線画像処理装置。
  9. 画像を縮小する画像縮小部をさらに備え、
    前記画像拡大部は、前記周波数分解処理部によって周波数分解する前の前記X線画像を拡大するように構成されており、
    前記学習モデルは、画像の解像度を高める際に、生成する画像を拡大することをさらに学習されており、
    前記周波数分解処理部は、拡大された前記X線画像から、低周波成分拡大画像と、高周波成分拡大画像とを生成するように構成されており、
    前記画像縮小部は、前記高周波成分拡大画像を縮小することにより、高周波成分縮小画像を取得するように構成されており、
    前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分縮小画像から、高解像度高周波成分拡大画像を生成するように構成されており、
    前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、請求項7に記載のX線画像処理装置。
  10. 前記画像拡大部は、前記周波数分解処理部によって周波数分解する前の前記X線画像を拡大するように構成されており、
    前記周波数分解処理部は、拡大された前記X線画像から、低周波成分拡大画像と高周波成分拡大画像とを生成するように構成されており、
    前記高解像度画像生成部は、前記学習モデルによって、前記高周波成分拡大画像から高解像度高周波成分拡大画像を生成するように構成されており、
    前記画像合成部は、前記低周波成分拡大画像と、前記高解像度高周波成分拡大画像とを合成することにより、前記高解像度X線画像を生成するように構成されている、請求項7に記載のX線画像処理装置。
  11. 前記画像拡大部は、可逆変換可能な補間アルゴリズムによって画像を拡大するように構成されている、請求項7~10のいずれか1項に記載のX線画像処理装置。
  12. 前記画像縮小部は、可逆変換可能な補間アルゴリズムによって画像を縮小するように構成されている、請求項9に記載のX線画像処理装置。
  13. X線画像を取得するステップと、
    前記X線画像を高周波成分画像と低周波成分画像とに周波数分解するステップと、
    学習済みの学習モデルによって、前記高周波成分画像から前記高周波成分画像よりも解像度が高い画像である高解像度高周波成分画像を生成するステップと、
    前記低周波成分画像に基づく画像と前記高解像度高周波成分画像に基づく画像とを合成することにより高解像度X線画像を生成するステップと、を含む、X線画像処理方法。
JP2020214498A 2020-12-24 2020-12-24 X線画像処理装置およびx線画像処理方法 Pending JP2022100493A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020214498A JP2022100493A (ja) 2020-12-24 2020-12-24 X線画像処理装置およびx線画像処理方法
US17/523,613 US20220207723A1 (en) 2020-12-24 2021-11-10 X-ray image processing apparatus and x-ray image processing method
CN202111402804.0A CN114677268A (zh) 2020-12-24 2021-11-24 X射线图像处理装置和x射线图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020214498A JP2022100493A (ja) 2020-12-24 2020-12-24 X線画像処理装置およびx線画像処理方法

Publications (1)

Publication Number Publication Date
JP2022100493A true JP2022100493A (ja) 2022-07-06

Family

ID=82070455

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020214498A Pending JP2022100493A (ja) 2020-12-24 2020-12-24 X線画像処理装置およびx線画像処理方法

Country Status (3)

Country Link
US (1) US20220207723A1 (ja)
JP (1) JP2022100493A (ja)
CN (1) CN114677268A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220101494A1 (en) * 2020-09-30 2022-03-31 Nvidia Corporation Fourier transform-based image synthesis using neural networks

Also Published As

Publication number Publication date
CN114677268A (zh) 2022-06-28
US20220207723A1 (en) 2022-06-30

Similar Documents

Publication Publication Date Title
US9245323B2 (en) Medical diagnostic device and method of improving image quality of medical diagnostic device
WO2012026597A1 (ja) 画像処理装置および方法
EP2000976B1 (en) Image processing apparatus and image processing method
JP7405176B2 (ja) 画像処理方法および画像処理装置
JP2010067272A (ja) 高品質画像及び映像アップスケーリングのためのシステム及び方法
JPH10509824A (ja) 画像データの適応的補間のためのシステム及び方法
US8311392B2 (en) Image processing apparatus, image processing method, and storage medium
JP6523638B2 (ja) 表示パネルドライバ、表示装置、画像処理装置及び画像処理方法
RU2469308C2 (ru) Рентгеновский инструмент для трехмерного ультразвукового исследования
WO2013073627A1 (ja) 画像処理装置及び方法
WO2009122863A1 (ja) 画像表示システム及び画像表示プログラム
JP2022100493A (ja) X線画像処理装置およびx線画像処理方法
US20200074623A1 (en) Image processing apparatus , image processing method, and computer readable recording medium storing program
JP4773522B2 (ja) 画像表示装置および画像表示プログラム
JP2012205619A (ja) 画像処理装置、制御装置、内視鏡装置、画像処理方法及び画像処理プログラム
JP6002324B2 (ja) 放射線画像生成装置及び画像処理方法
Dorr et al. Space-variant spatio-temporal filtering of video for gaze visualization and perceptual learning
CN111462004B (zh) 图像增强方法和装置、计算机设备、存储介质
CN111434311B (zh) 超声波摄像装置以及图像处理方法
WO2016006554A1 (ja) 超音波診断装置
JP2004133592A (ja) 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム
WO2021033741A1 (ja) 医用画像処理装置、x線診断装置、および医用画像処理方法
JP2021026592A (ja) 画像処理方法、画像処理装置および学習モデル作成方法
KR20190056740A (ko) 영상 처리 방법 및 이를 이용한 표시장치
Guo et al. Adaptive Laplacian Filtering Interpolation Scaling Algorithm

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231031

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240227

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240507