JP2022164785A - 情報処理装置、情報処理方法、及びプログラム - Google Patents
情報処理装置、情報処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2022164785A JP2022164785A JP2022137145A JP2022137145A JP2022164785A JP 2022164785 A JP2022164785 A JP 2022164785A JP 2022137145 A JP2022137145 A JP 2022137145A JP 2022137145 A JP2022137145 A JP 2022137145A JP 2022164785 A JP2022164785 A JP 2022164785A
- Authority
- JP
- Japan
- Prior art keywords
- image
- statistic
- information processing
- area
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 56
- 238000003672 processing method Methods 0.000 title claims description 4
- 230000008859 change Effects 0.000 claims abstract description 63
- 238000004364 calculation method Methods 0.000 claims abstract description 55
- 238000006243 chemical reaction Methods 0.000 claims abstract description 13
- 238000005259 measurement Methods 0.000 abstract description 12
- 238000012545 processing Methods 0.000 description 85
- 238000000034 method Methods 0.000 description 77
- 230000008569 process Effects 0.000 description 41
- 230000006870 function Effects 0.000 description 38
- 238000007689 inspection Methods 0.000 description 34
- 238000002203 pretreatment Methods 0.000 description 27
- 230000003902 lesion Effects 0.000 description 19
- 238000004891 communication Methods 0.000 description 12
- 238000012937 correction Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 10
- 238000012986 modification Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 230000009466 transformation Effects 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000001959 radiotherapy Methods 0.000 description 4
- 230000001131 transforming effect Effects 0.000 description 4
- 210000000988 bone and bone Anatomy 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 210000001519 tissue Anatomy 0.000 description 2
- 238000002604 ultrasonography Methods 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 239000011295 pitch Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7425—Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4848—Monitoring or testing the effects of treatment, e.g. of medication
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/03—Computed tomography [CT]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
- A61B6/5217—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
- A61B6/5229—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
- A61B6/5235—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/168—Segmentation; Edge detection involving transform domain methods
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
- A61B6/505—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of bone
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
- A61B8/0875—Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of bone
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
- A61B8/5223—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
- A61B8/5238—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
- A61B8/5246—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/20—Drawing from basic elements, e.g. lines or circles
- G06T11/206—Drawing of charts or graphs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Public Health (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- High Energy & Nuclear Physics (AREA)
- Optics & Photonics (AREA)
- Quality & Reliability (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Human Computer Interaction (AREA)
- Physiology (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
【解決手段】 情報処理装置は、画像取得手段と、対応関係取得手段と、画像変換手段と、変化算出手段と、統計量算出手段とを有する。画像取得手段は、第1の画像および第2の画像を取得する。対応関係取得手段は、第1の画像と第2の画像の間の空間的な対応関係を取得する。画像変換手段は、対応関係に基づき、第2の画像を第1の画像に略一致するように変換した変換画像を取得する。変化算出手段は、対応関係に基づき、変換画像と第2の画像との間の体積または面積の変化を算出する。統計量算出手段は、体積または面積の変化に基づき、変換画像の画素値に関する統計量を算出する。
【選択図】 図2
Description
本発明の第一の実施形態に係る医療情報処理システムは、医療機関における医師や技師などのユーザに対して以下の機能を提供する。すなわち、ユーザが医療的な処置を行おうとする対象患者(被検体)に関する放射線治療前の検査画像(以下、治療前画像)と放射線治療後の検査画像(以下、治療後画像)における、病変等の注目領域の画素値の変化を定量的に計測できるようにする。より具体的には、治療前画像における注目領域と、治療後画像において該注目領域に対応する領域(以下、対応領域)の夫々において、画素値の統計量を計測できるようにする。なお、放射線治療前後の検査画像間の計測は、本発明の実施の一例に過ぎず、複数画像間の比較を目的とした計測であれば、他の何れの画像を処理対象として用いても良い。
本処理ステップにおいて検査画像取得部41は、処理の対象とする治療前画像を検査画像データベース23から取得する処理を実行する。すなわち、この処理は、第1の画像および第2の画像を取得する画像取得手段の一例に相当する。本実施形態における治療前画像は3次元画像のCT画像であり、3次元の座標軸の方向毎に等間隔に配列した画素の集合である。本実施形態では治療前画像をI1、または、治療前画像の画像座標系における座標値xを引数として該画像の画素値を返す関数I1(x)と表記する。ここで、引数として与えられる座標値xが画素と画素の間を示す場合には、I1(x)は当該位置の周辺の画素の画素値を補間した値を返す。補間の方法は、一般的によく知られた線形補間をはじめ、公知のいかなる方法を用いても良い。図3(A)の300は本実施形態における治療前画像I1を表す。治療前画像I1は3次元画像であるが、紙面での説明の都合上、2次元の断面画像に代替し表記する。治療前画像300には被検体310および、被検体内部の治療前の病変部位320がそれぞれ描出されている。
本処理ステップにおいて検査画像取得部41は、処理の対象とする治療後画像を検査画像データベース23から取得する処理を実行する。すなわち、この処理は、第1の画像および第2の画像を取得する画像取得手段の一例に相当する。具体的な処理はステップS1010と同様であるため説明を省略する。本実施形態では治療後画像をI2または、関数I2(x)と表記する。図3(B)の340は本実施形態における治療後画像I2を表す。治療後画像340にも、治療前画像300と同様に被検体310が描出されている。また、治療後画像340には(治療前の病変部位320と同じ病変部位である)治療後の病変部位350も描出されている。本実施形態では、治療後の病変部位350は治療前の病変部位320と比べて大きさが小さくなっている場合を例として説明する。
本処理ステップにおいて位置合わせ部42は、治療前画像I1と治療後画像I2との間の画像間の位置合わせ処理を実行する。本実施形態では、画像間の位置合わせとして変形位置合わせを行う場合を例として説明する。ここで、位置合わせ処理とは、画像間における位置の対応関係を求める処理であり、換言すると、画像間の変形を推定する処理である。画像間の位置合わせを周知のいかなる方法を用いても良い。例えば、変形後の画像間の画像類似度が高くなるように、一方の画像を変形させることにより求める。画像類似度としては、一般的に用いられているSum of Squared Difference(SSD)や相互情報量、相互相関係数などの公知の方法を用いることができる。また、画像の変形のモデルとしては、Thin Plate Spline(TPS)などの放射基底関数に基づく変形モデルや、Free Form Deformation(FFD)、Large Deformation Diffeomorphic Metric Mapping(LDDMM)等の公知の変形モデルを利用できる。上記の方法により、治療後画像を治療前画像に位置合わせする処理が実行され、治療後画像の画像座標と治療前画像の画像座標との間の対応関係が算出される。本実施形態では、前記対応関係を変換関数D(x)として取得する。すなわち、この処理は、第1の画像と第2の画像の間の空間的な対応関係を取得する対応関係取得手段の一例に相当する。ここでD(x)は治療前画像の画像座標値(3次元ベクトル)を引数とし、治療後画像の対応する位置の画像座標値(3次元ベクトル)を返す関数である。
本処理ステップにおいて変形画像生成部43は、ステップS1030の処理で取得した変換関数D(x)に基づき、治療後画像I2を治療前画像I1に略一致するように変形した変形画像(変換画像)を生成する処理を実行する。すなわち、この処理は、対応関係に基づき、第2の画像を第1の画像に略一致するように変換した変換画像を取得する画像変換手段の一例に相当する。具体的には式1の計算により、変形画像I3(x)の各位置xにおける画素値を算出する。
本処理ステップにおいて差分画像生成部44は、治療前画像I1と変形画像I3の差分画像を生成する処理を実行する。すなわち、この処理は、第1の画像および変換画像との間の差分画像を生成する差分画像生成手段の一例に相当する。図3(D)の390は、本処理ステップで生成する差分画像を表している。差分画像390には、治療前の病変部位320と変形画像360の中の治療後の病変部位400との間の差分が描出される。ここでは、病変部位の大きさの変動については位置合わせによって吸収され、当該部位の画素値の違いだけが描出される。本実施形態では、本処理ステップで生成する差分画像をI4または、関数I4(x)と表記する。差分画像I4を生成する方法は公知の任意の方法を用いても良く、例えば式2に示す単純な差演算によって生成することができる。
本処理ステップにおいて体積変化率計測部47は、ステップS1030で取得した変換関数D(x)に基づき、変形画像I3から治療後画像I2への変換による体積の変化率を算出する処理を実行する。すなわち、この処理は、対応関係に基づき、変換画像と第2の画像との間の体積または面積の変化を算出する変化算出手段の一例に相当する。また、この処理は、第1の画像および第2の画像が3次元画像である場合には、対応関係に基づき、変換画像と第2の画像との間の体積の変化を算出することを特徴とする変化算出手段の一例にも相当する。具体的には、まず、ステップS1030で算出した変換関数D(x)の空間微分である3行3列のヤコビ行列J(x)を式3の計算により算出する。
本処理ステップにおいて注目領域取得部45は、被検体の注目領域を取得する処理を実行する。すなわち、この処理は、第1の画像の注目領域を取得する注目領域取得手段の一例に相当する。本実施形態における注目領域は、図3(A)の330に示すように、治療前画像300において定義される。また治療前画像300に描出される病変部位320を含む領域として定義される。注目領域330は、例えば、治療前画像300をユーザが視認できるように表示部36に表示し、治療前画像300上でユーザが操作部35を介して注目領域330を設定できるようにできる。同様に、治療前画像300と位置合わせされた変形画像360や差分画像390を表示部36に表示し、それらの画像上でユーザが注目領域を設定できるようにしても良い。なお、注目領域は、3次元の領域であってもよいし、2次元の領域であってもよい。
本処理ステップにおいて統計量算出部46は、治療前画像I1の注目領域Rの画素値に関する統計量を算出する処理を実行する。本実施形態では、画素値に関する統計量の具体的な一例として、(治療前画像I1の注目領域Rの)画素値の頻度に関する体積ヒストグラムH1を算出する方法について説明する。以下、この処理の手順について、図4を用いて詳しく説明する。
本処理ステップにおいて統計量算出部46は、ヒストグラムH1(ビンH1_i(1≦i≦N)で構成される)の初期化を行う。ここで、添え字のiはヒストグラムのビンのインデックスを表す。また、Nはヒストグラムの階級数を表す。ここではN個のビンを持つヒストグラムの初期化を行う。すなわち、H1_i(1≦i≦N)の値を0にする。ここで、各階級に対応する画素値の値域は、CT画像における人体の一般的な画素値の分布等に基づいて適切に設定するのが望ましい。
本処理ステップにおいて統計量算出部46は、治療前画像I1(x)を構成する複数の画素のうち、ステップS10802からステップS10806までの繰り返し処理において、未だ処理の対象となっていない画素を選択し、その画素値を読み出す。この処理は、例えば治療前画像I1(x)を構成する画素をラスタースキャンの順に読み出す処理により実行される。以降の説明では、本処理ステップで読み出した画素の座標値をx’、画素値をv’と表記する。
本処理ステップにおいて統計量算出部46は、ステップS10802で選択した画素の座標値x’が注目領域に含まれるか否かを判定する。具体的にはR(x’)が1の場合には処理をステップS10804へと進め、そうでない場合には処理をステップS10802へ戻す。
本処理ステップにおいて統計量算出部46は、画素値v’が該当する階級を特定し、その階級のヒストグラムを更新する処理を実行する。すなわち、この処理は、第1の画像の画素値に関する第1の統計量を算出することを特徴とする統計量算出手段の一例に相当する。具体的には、画素値v’が該当する階級のヒストグラムを、当該画素の体積の分だけ増加させる処理を実行する。つまり、式5の計算処理を実行する。
本処理ステップにおいて統計量算出部46は、ステップS10802の処理で治療前画像I1(x)の全ての読み込みが行われたか否かの判定を行い、全ての読み込みが行われた場合には、ステップS1080の処理を終了させる。そうでない場合には処理をステップS10802へと戻す。
本処理ステップにおいて統計量算出部46は、変形画像I3の注目領域Rの画素値の統計量を算出する処理を実行する。本実施形態では、ステップS1080と同様に、画素値に関する統計量の具体的な一例として、(変形画像I3の注目領域Rの)画素値の頻度に関する体積ヒストグラムH2を算出する方法について説明する。以下、この処理の手順について、図5を用いて詳しく説明する。なお、ステップS1090におけるステップS10901~S10903及びS10906の夫々の処理は、処理対象が変形画像I3であることを除くとステップS1080におけるステップS10801~S10803及びS10806と同様であるので、説明を省略する。
本処理ステップにおいて統計量算出部46は、画素値v’が該当する階級を特定し、その階級のヒストグラムを更新する処理を実行する。具体的には、画素値v’が該当する階級のヒストグラムを、変形画像I3の当該画素に対応する治療後画像I2における領域の体積の分だけ増加させる処理を実行する。つまり、式6の計算処理を実行する。
本ステップにおいて制御部37は、ステップS1080およびステップS1090で算出した、治療前画像I1の注目領域Rと治療後画像I2の対応領域R’における画素値の統計量(具体例としては、ヒストグラムH1およびH2)を、表示部36に表示させる。この処理の具体例について図6を用いて説明する。図6は、本処理ステップにおける表示処理での画面構成の一例である。図に示すように、本処理ステップでは治療前画像300および変形画像360を並べて表示し、さらにステップS1080およびステップS1090で算出したヒストグラム410および420を、夫々の画像に関係づけて表示するようにできる。ここで、変形画像I3の代わりに治療後画像I2を表示してもよい。すなわち、この処理は、変換画像または第2の画像と統計量とを並べて表示部に表示させる表示制御手段の一例に相当する。また、この処理は、変換画像または第2の画像と第2の統計量とを並べて表示部に表示するとともに、第1の画像と第1の統計量とを並べて表示部に表示させることを特徴とする表示制御手段の一例に相当する。この時、注目領域330を夫々の画像に重畳するなどして、表示されたヒストグラムが各画像の何れの領域の画素値のヒストグラムなのかが容易に視認できるように表示することが望ましい。また、治療前画像I1の注目領域Rと治療後画像I2の対応領域R’における画素値の統計量の変化量(具体例としては、ヒストグラムH1とH2の差や比)を求めて表示してもよい。なお、算出した統計量を表示する処理は必ずしも必要ではなく、算出した統計量を、夫々の検査画像に対応付けて記憶部34や検査画像データベースに保存する処理のみを行ってもよい。
本実施形態ではステップS1070において、注目領域取得部がユーザによる操作を受け付け、それに基づいて注目領域を設定する場合を例として説明したが、本発明の実施はこれに限らない。例えば、治療前画像I1や治療後画像I2、変形画像I3、差分画像I4を画像処理することによって注目領域を設定するようにしても良い。一例としては、治療前画像I1から治療対象である臓器の領域を抽出し、その領域に対して注目領域を設定するようにしても良い。例えば、自動抽出した領域をそのまま注目領域とすることや、自動抽出した領域を包含する所定の形状(例えば矩形や球形)の領域を注目領域とすることができる。それ以外にも、差分画像I4から画素値の差分が大きい領域を抽出し、その領域に対して注目領域を設定するようにしても良い。すなわち、この処理は、差分画像に基づいて注目領域を取得することを特徴とする注目領域取得手段の一例に相当する。また、前記の複数の画像の画素値の相互の関係等に基づいて注目領域を設定するようにしても良い。以上の方法によれば、注目領域の設定に関してユーザによる操作を省略化、または簡易化できる効果がある。また算出する統計量に関する定量性や再現性が向上する効果がある。また注目領域は、必ずしも治療前画像I1の中の一部の領域である必要はなく、治療前画像I1の全体を注目領域としても良い。
本実施形態では統計量算出部46が算出する画素値の統計量の一例としてヒストグラムを算出する場合を例として説明したが、本発明の実施はこれに限らず、他の何れの画素値の統計量であっても良い。例えば、統計量算出部46は、注目領域における画素値の平均値を算出するようにしても良い。この場合、ステップS1080において、統計量算出部46は、注目領域Rにおける治療前画像I1の画素値の加算および画素数のカウントを行う。そして、全画素の処理が終了した後に、加算値を画素数で割ることで、治療前画像I1の注目領域Rにおける画素値の平均値を算出する。またステップS1090において、統計量算出部46は、注目領域Rにおける変形画像I3の画素値と当該位置の体積変化率との積を加算する処理を行うとともに画素値のカウントを行う。そして全画素の処理が終了した後に、加算値を画素数で割ることで、治療後画像I2の対応領域R’における画素値の平均値を算出する。なお、ステップS1090の処理は、上記の手順以外にも以下の手順によって行っても良い。まず、変形画像I3の各画素と、当該画素の座標値と同じ座標値の体積変化率マップVc(x)の値と掛け合わせた画像I5(x)を算出する。次に、画像I5を対象として前記ステップS1080と同様の処理を行い、画素値の平均値を算出する。上記いずれの方法でも、変形画像と治療後画像との間の変形による体積変化率を考慮して、変形を施す前の治療後画像における平均画素値を算出することができる。
本実施形態では治療前画像I1および治療後画像I2がそれぞれ3次元画像である場合を例として説明したが、本発明の実施はこれに限らない。例えば、治療前画像I1および治療後画像I2は、単純X線画像や眼底写真などの2次元画像であっても良い。この場合、ステップS1030の処理は2次元画像間の位置合わせを行う。また、ステップS1060では、前記2次元画像間の位置合わせの結果に基づいて、画像の変形に伴う局所的な面積の変化率を算出する処理を実行する。すなわち、この処理は、第1の画像および第2の画像が2次元画像である場合には、対応関係に基づき、変換画像と第2の画像との間の面積の変化を算出することを特徴とする変化算出手段の一例に相当する。ステップS1070以降も、前記実施形態に記載の処理と同様の処理を、2次元画像を対象として実行できる。つまり、本発明は2次元画像に対しても適用される。
本実施形態では変形画像と治療後画像との間の変形に伴う体積変化率を算出し、それに基づいて画素値の統計量を補正する場合を例として説明したが、本発明の実施はこれに限らない。例えば、体積変化率による補正を行うか否かをユーザによる設定等の任意の条件によって切り替えるようにしても良い。ここで、体積変化率による補正を行わない場合には、ステップS1090において、統計量算出部46は、ステップS1080と同様の処理を変形画像I3に対して実行する。これによれば、治療前画像と治療後画像との間の位置合わせ結果の局所的な体積変化が非常に小さいことが明らかである場合や、体積変化が及ぼす統計量への影響が許容可能な程度に小さい場合等に体積変化率による補正を省略し処理の効率化が行える効果がある。また、体積変化率による補正を行うか否かを切り替える条件は、上記のユーザによる設定に基づく場合に限らない。例えば、ステップS1060の処理よりも先にステップS1070の処理を実行して注目領域を取得し、前記注目領域における体積変化率を算出する。そして、算出した体積変化率の範囲や分散、平均等に基づき、画像全域にわたる体積変化率による補正を行うか否かを切り替えるようにできる。この場合、注目領域における体積変化率が統計量の算出に与える影響が大きいと予想される場合以外は、体積変化率による補正を省略することができる。また、上記の切り替えで体積変化率による補正を行う場合に、その事をユーザに提示するようにしても良い。これによれば、注目領域における体積変化に関する情報をユーザが間接的に観測できる効果がある。また、体積変化率で補正した統計量と補正しない統計量の両方を表示する構成であってもよい。
本実施形態では、ステップS1060において、変換関数の空間微分であるヤコビ行列を用いて、変形画像I3と治療後画像I2の間の体積変化率を算出していた。しかし、体積変化率の算出方法はこれに限定されるものではなく、他の何れの方法で算出してもよい。例えば、変形画像I3の注目画素の複数の(例えば6近傍の)隣接画素(座標x*)に注目して、当該隣接画素を頂点とする多面体の体積と、夫々のx*の治療後画像I2における対応位置であるD(x*)を頂点とする多面体の体積を求める。そして、その比によって当該注目画素の体積変化率を算出するようにしてもよい。
本発明の第二の実施形態について説明する。第一の実施形態では、治療後画像を治療前画像と略一致するように変形した変形画像における注目領域の画素値の統計量を体積変化率で補正することで、治療後画像における対応領域の画素値の統計量を算出する例を説明したが、本発明の実施はこれに限らない。第二の実施形態では、治療前画像上で定義した注目領域を、治療後画像の画像座標へ座標変換することで、治療後画像における対応領域の画素値の統計量を算出する場合を例として説明する。
ステップS2060において、注目領域変形部48はステップS2040で取得した注目領域Rを変形する処理を実行する。本処理における変形は、治療前画像I1の画像座標系において定義される注目領域Rを、治療後画像I2の画像座標系に変換して、治療後画像I2における対応領域R’を導出することである。すなわち、この処理は、対応関係に基づき、注目領域に対応する、第2の画像の対応領域を取得する対応領域取得手段の一例に相当する。より具体的には、式7に示す計算により注目領域R(x)を座標変換した変形後の注目領域(すなわち、対応領域)R’(x)を算出する。
本処理ステップにおいて統計量算出部46は、対応領域R’に含まれる治療後画像I2の画素値に関する統計量を算出する処理を実行する。具体的な処理は、注目領域Rにおける治療前画像I1のヒストグラムを生成するステップS2050と同様であり、対応領域R’における治療後画像I2のヒストグラムを生成する処理を実行する。すなわち、この処理は、対応領域に含まれる、第2の画像の画素値に関する統計量を算出する統計量算出手段の一例に相当する。これによりヒストグラムH2を算出する。
上述した複数の変形例のうち少なくとも二つを組み合わせることも可能である。
21 LAN
23 検査画像データベース
31 通信IF
32 ROM
33 RAM
34 記憶部
35 操作部
36 表示部
37 制御部
41 検査画像取得部
42 位置合わせ部
43 変形画像生成部
44 差分画像生成部
45 注目領域取得部
46 統計量算出部
47 体積変化率計測部
Claims (16)
- 第1の画像および第2の画像を取得する画像取得手段と、
前記第1の画像と前記第2の画像の間の空間的な対応関係を取得する対応関係取得手段と、
前記対応関係に基づき、前記第2の画像を前記第1の画像に略一致するように変換した変換画像を取得する画像変換手段と、
前記対応関係に基づき、前記変換画像と前記第2の画像との間の体積または面積の変化を算出する変化算出手段と、
前記体積または面積の変化に基づき、前記変換画像の画素値に関する統計量を算出する統計量算出手段と、
を有することを特徴とする情報処理装置。 - 前記第1の画像の注目領域を取得する注目領域取得手段
を更に有し、
前記統計量算出手段は、前記体積または面積の変化に基づき、前記注目領域に対応する、前記変換画像の画素値に関する統計量を算出することを特徴とする請求項1に記載の情報処理装置。 - 前記第1の画像および前記変換画像との間の差分画像を生成する差分画像生成手段
を更に有し、
前記注目領域取得手段は、前記差分画像に基づいて注目領域を取得することを特徴とする請求項2に記載の情報処理装置。 - 前記統計量算出手段は、前記変換画像の画素値に関する情報を、前記体積または面積の変化に応じて補正することで、前記統計量を算出することを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。
- 前記変化算出手段は、前記第1の画像および前記第2の画像が3次元画像である場合には、前記対応関係に基づき、前記変換画像と前記第2の画像との間の体積の変化を算出することを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。
- 前記変化算出手段は、前記第1の画像および前記第2の画像が2次元画像である場合には、前記対応関係に基づき、前記変換画像と前記第2の画像との間の面積の変化を算出することを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。
- 前記変換画像または前記第2の画像と前記統計量とを並べて表示部に表示させる表示制御手段
を更に有することを特徴とする請求項1から6のいずれか1項に記載の情報処理装置。 - 前記統計量は、第2の統計量であり、
前記統計量算出手段は、前記第1の画像の画素値に関する第1の統計量を更に算出し、前記表示制御手段は、前記変換画像または前記第2の画像と前記第2の統計量とを並べて前記表示部に表示するとともに、前記第1の画像と前記第1の統計量とを並べて前記表示部に表示させることを特徴とする請求項7に記載の情報処理装置。 - 前記表示制御手段は、前記統計量のヒストグラムを前記表示部に表示させることを特徴とする請求項7または8に記載の情報処理装置。
- 第1の画像および第2の画像を取得する画像取得手段と、
前記第1の画像と前記第2の画像の間の空間的な対応関係を取得する対応関係取得手段と、
前記第1の画像の注目領域を取得する注目領域取得手段と、
前記対応関係に基づき、前記注目領域に対応する、前記第2の画像の対応領域を取得する対応領域取得手段と、
前記対応領域に含まれる、前記第2の画像の画素値に関する統計量を算出する統計量算出手段と、
を有することを特徴とする情報処理装置。 - 前記第2の画像と前記統計量とを並べて表示部に表示させる表示制御手段
を更に有することを特徴とする請求項10に記載の情報処理装置。 - 前記統計量は、第2の統計量であり、
前記統計量算出手段は、前記第1の画像の画素値に関する第1の統計量を更に算出し、前記表示制御手段は、前記第2の画像と前記第2の統計量とを並べて前記表示部に表示するとともに、前記第1の画像と前記第1の統計量とを並べて前記表示部に表示させることを特徴とする請求項11に記載の情報処理装置。 - 前記表示制御手段は、前記統計量のヒストグラムを前記表示部に表示させることを特徴とする請求項11または12に記載の情報処理装置。
- 第1の画像および第2の画像を取得する画像取得ステップと、
前記第1の画像と前記第2の画像の間の空間的な対応関係を取得する対応関係取得ステップと、
前記対応関係に基づき、前記第2の画像を前記第1の画像に略一致するように変換した変換画像を取得する画像変換ステップと、
前記対応関係に基づき、前記変換画像と前記第2の画像との間の体積または面積の変化を算出する変化算出ステップと、
前記体積または面積の変化に基づき、前記変換画像の画素値に関する統計量を算出する統計量算出ステップと、
を有することを特徴とする情報処理方法。 - 第1の画像および第2の画像を取得する画像取得ステップと、
前記第1の画像と前記第2の画像の間の空間的な対応関係を取得する対応関係取得ステップと、
前記第1の画像の注目領域を取得する注目領域取得ステップと、
前記対応関係に基づき、前記注目領域に対応する、前記第2の画像の対応領域を取得する対応領域取得ステップと、
前記対応領域に含まれる、前記第2の画像の画素値に関する統計量を算出する統計量算出ステップと、
を有することを特徴とする情報処理方法。 - 請求項1から13のいずれか1項に記載の情報処理装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022137145A JP7409624B2 (ja) | 2018-02-15 | 2022-08-30 | 情報処理装置、情報処理方法、及びプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018025039A JP2019136444A (ja) | 2018-02-15 | 2018-02-15 | 情報処理装置、情報処理方法、及びプログラム |
JP2022137145A JP7409624B2 (ja) | 2018-02-15 | 2022-08-30 | 情報処理装置、情報処理方法、及びプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018025039A Division JP2019136444A (ja) | 2018-02-15 | 2018-02-15 | 情報処理装置、情報処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022164785A true JP2022164785A (ja) | 2022-10-27 |
JP7409624B2 JP7409624B2 (ja) | 2024-01-09 |
Family
ID=67540212
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018025039A Pending JP2019136444A (ja) | 2018-02-15 | 2018-02-15 | 情報処理装置、情報処理方法、及びプログラム |
JP2022137145A Active JP7409624B2 (ja) | 2018-02-15 | 2022-08-30 | 情報処理装置、情報処理方法、及びプログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018025039A Pending JP2019136444A (ja) | 2018-02-15 | 2018-02-15 | 情報処理装置、情報処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11138736B2 (ja) |
JP (2) | JP2019136444A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7556715B2 (ja) | 2020-07-27 | 2024-09-26 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JPWO2022234742A1 (ja) * | 2021-05-06 | 2022-11-10 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006239270A (ja) * | 2005-03-07 | 2006-09-14 | Fuji Photo Film Co Ltd | 異常陰影検出装置、異常陰影検出方法およびそのプログラム |
JP2010155017A (ja) * | 2009-01-05 | 2010-07-15 | Fujifilm Corp | 放射線画像表示方法及び装置、並びに放射線画像表示プログラム |
US20120033865A1 (en) * | 2009-04-15 | 2012-02-09 | Koninklijke Philips Electronics N.V. | Quantification of medical image data |
WO2014156973A1 (ja) * | 2013-03-29 | 2014-10-02 | 日立アロカメディカル株式会社 | 画像位置合せ表示方法及び超音波診断装置 |
JP2017196410A (ja) * | 2016-04-26 | 2017-11-02 | 東芝メディカルシステムズ株式会社 | 医用画像処理装置及び医用画像診断装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005120353A1 (en) | 2004-06-14 | 2005-12-22 | Canon Kabushiki Kaisha | Image processing device and method |
KR101961968B1 (ko) * | 2011-05-11 | 2019-03-25 | 아이큐브드 연구소 주식회사 | 화상 처리 장치, 화상 처리 방법 및 프로그램을 기록한 기록 매체 |
CN103518221B (zh) * | 2011-05-11 | 2017-03-08 | I<sup>3</sup>研究所股份有限公司 | 图像处理装置及方法、用计算机程序进行图像处理的方法 |
US8463012B2 (en) * | 2011-10-14 | 2013-06-11 | Siemens Medical Solutions Usa, Inc. | System for comparison of medical images |
JP6772123B2 (ja) * | 2017-12-27 | 2020-10-21 | キヤノン株式会社 | 画像処理装置、画像処理方法、画像処理システムおよびプログラム |
-
2018
- 2018-02-15 JP JP2018025039A patent/JP2019136444A/ja active Pending
-
2019
- 2019-02-12 US US16/273,990 patent/US11138736B2/en active Active
-
2022
- 2022-08-30 JP JP2022137145A patent/JP7409624B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006239270A (ja) * | 2005-03-07 | 2006-09-14 | Fuji Photo Film Co Ltd | 異常陰影検出装置、異常陰影検出方法およびそのプログラム |
JP2010155017A (ja) * | 2009-01-05 | 2010-07-15 | Fujifilm Corp | 放射線画像表示方法及び装置、並びに放射線画像表示プログラム |
US20120033865A1 (en) * | 2009-04-15 | 2012-02-09 | Koninklijke Philips Electronics N.V. | Quantification of medical image data |
WO2014156973A1 (ja) * | 2013-03-29 | 2014-10-02 | 日立アロカメディカル株式会社 | 画像位置合せ表示方法及び超音波診断装置 |
JP2017196410A (ja) * | 2016-04-26 | 2017-11-02 | 東芝メディカルシステムズ株式会社 | 医用画像処理装置及び医用画像診断装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2019136444A (ja) | 2019-08-22 |
US20190251691A1 (en) | 2019-08-15 |
US11138736B2 (en) | 2021-10-05 |
JP7409624B2 (ja) | 2024-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2252204B1 (en) | Ct surrogate by auto-segmentation of magnetic resonance images | |
JP7409624B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2020110661A (ja) | 診断支援装置、診断支援システム、情報処理方法、及びプログラム | |
JP6448356B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム | |
JP6316671B2 (ja) | 医療画像処理装置および医用画像処理プログラム | |
JP6971544B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2003265408A (ja) | 内視鏡誘導装置および方法 | |
US11954860B2 (en) | Image matching method and device, and storage medium | |
JP6995535B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20190236783A1 (en) | Image processing apparatus, image processing method, and program | |
EP3389006A1 (en) | Rib unfolding from magnetic resonance images | |
JP2024010085A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2024504867A (ja) | 断層撮影スキャンの画像ベースの計画 | |
JP2022111704A (ja) | 画像処理装置、医用画像撮像装置、画像処理方法、およびプログラム | |
JP2022111705A (ja) | 学習装置、画像処理装置、医用画像撮像装置、学習方法およびプログラム | |
CN117475250A (zh) | 基于解剖结构数据模拟病理图像 | |
JP7551419B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7086630B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP7562799B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6732593B2 (ja) | 画像処理装置および画像処理方法 | |
JP7015351B2 (ja) | 医用画像処理装置、医用画像処理方法 | |
JP7500360B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2022023564A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2022109778A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2019141719A (ja) | 医用画像処理装置、医用画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220927 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220927 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230808 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231003 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231114 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231213 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7409624 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |