JP2020010756A - 医療用画像処理装置及び医療用観察システム - Google Patents
医療用画像処理装置及び医療用観察システム Download PDFInfo
- Publication number
- JP2020010756A JP2020010756A JP2018133374A JP2018133374A JP2020010756A JP 2020010756 A JP2020010756 A JP 2020010756A JP 2018133374 A JP2018133374 A JP 2018133374A JP 2018133374 A JP2018133374 A JP 2018133374A JP 2020010756 A JP2020010756 A JP 2020010756A
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- fluorescent
- observation device
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/042—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/063—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0669—Endoscope light sources at proximal end of an endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0684—Endoscope light sources using light emitting diodes [LED]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0071—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7203—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/579—Depth or shape recovery from multiple images from motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/19007—Matching; Proximity measures
- G06V30/19013—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/63—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Pathology (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Optics & Photonics (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Quality & Reliability (AREA)
- Multimedia (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Artificial Intelligence (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
ここで、当該被写体画像は、白色光等を被写体に照射し、当該被写体にて反射した被写体像を撮像した画像である。また、当該蛍光画像は、近赤外励起光等を被写体に照射し、当該被写体における病変部に集積する薬剤が励起され、当該被写体から発せられた蛍光像を撮像した画像である。
そして、特許文献1に記載の医療用画像処理装置(画像処理プロセッサ)は、観察装置(挿入部及び撮像ユニット)から被写体画像及び蛍光画像をそれぞれ取得し、当該被写体画像及び当該蛍光画像を対応する領域同士で重畳して重畳画像を生成する。当該重畳画像は、表示装置に表示される。そして、医師は、表示装置に表示された重畳画像を確認することにより病変部を認識し、当該病変部を処置する。
このような場合には、被写体画像と蛍光画像との対応する観察部位同士がずれてしまう。このため、医師は、表示装置に表示された重畳画像から実際には病変部ではない部位を病変部と認識してしまう虞がある。すなわち、利便性の向上を図ることができない、という問題がある。
〔医療用観察システムの概略構成〕
図1は、本実施の形態1に係る医療用観察システム1の構成を示す図である。
医療用観察システム1は、医療分野において用いられ、被写体である生体内を観察するシステムである。この医療用観察システム1は、図1に示すように、挿入部2と、光源装置3と、ライトガイド4と、カメラヘッド5と、第1伝送ケーブル6と、表示装置7と、第2伝送ケーブル8と、制御装置9と、第3伝送ケーブル10とを備える。
光源装置3は、ライトガイド4の一端が接続され、制御装置9による制御の下、当該ライトガイド4の一端に生体内を照明するための光を供給する。本実施の形態1では、光源装置3は、白色光(通常光)を発するLEDと、近赤外の波長領域の近赤外励起光を発する半導体レーザとを備える。そして、光源装置3は、制御装置9による制御の下、当該生体内を照明するための光として、白色光と近赤外励起光とを時分割で交互に供給する。なお、本実施の形態1では、光源装置3は、制御装置9とは別体で構成されているが、これに限らず、当該制御装置9内部に設けられた構成を採用しても構わない。
なお、カメラヘッド5の詳細な構成については、後述する。
以上説明した挿入部2及びカメラヘッド5は、本発明に係る観察装置100(図1)に相当する。
なお、第1伝送ケーブル6を介したカメラヘッド5から制御装置9への画像信号等の伝送は、当該画像信号等を光信号で伝送してもよく、あるいは、電気信号で伝送しても構わない。第1伝送ケーブル6を介した制御装置9からカメラヘッド5への制御信号、同期信号、クロックの伝送も同様である。
第2伝送ケーブル8は、一端が表示装置7に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第2伝送ケーブル8は、制御装置9にて処理された映像信号を表示装置7に伝送する。
なお、制御装置9の詳細な構成については、後述する。
第3伝送ケーブル10は、一端が光源装置3に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第3伝送ケーブル10は、制御装置9からの制御信号を光源装置3に伝送する。
次に、カメラヘッド5の構成について説明する。
図2は、カメラヘッド5及び制御装置9の構成を示すブロック図である。
なお、図2では、説明の便宜上、制御装置9及びカメラヘッド5と第1伝送ケーブル6との間のコネクタCN1,CN2、制御装置9及び表示装置7と第2伝送ケーブル8との間のコネクタ、制御装置9及び光源装置3と第3伝送ケーブル10との間のコネクタの図示を省略している。
カメラヘッド5は、図2に示すように、レンズユニット51と、撮像部52と、通信部53とを備える。
撮像部52は、制御装置9による制御の下、被写体像や蛍光像を撮像する。この撮像部52は、具体的な図示は省略したが、レンズユニット51が結像した被写体像や蛍光像を受光して電気信号(アナログ信号)に変換するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子と、当該撮像素子からの電気信号(アナログ信号)に対して信号処理を行って画像信号(RAW信号(デジタル信号))を出力する信号処理部とを備える。
次に、制御装置9の構成について図2を参照しながら説明する。
制御装置9は、図2に示すように、通信部91と、画像処理部92と、表示制御部93と、制御部94と、入力部95と、報知部96と、記憶部97とを備える。
通信部91は、第1伝送ケーブル6を介して、カメラヘッド5(通信部53)から出力される画像信号(RAW信号(デジタル信号))を受信するレシーバとして機能する。この通信部91は、例えば、通信部53との間で、1Gbps以上の伝送レートで画像信号の通信を行う高速シリアルインターフェースで構成されている。
画像メモリ921は、カメラヘッド5から出力され、通信部91にて受信した画像信号(RAW信号(デジタル信号))をフレーム毎に、所定数のフレーム分だけ、順次、記憶する。すなわち、画像メモリ921に記憶された所定数のフレーム分の画像信号(所定数のフレーム分の撮像画像)は、カメラヘッド5にて新たに撮像された撮像画像に順次、書き換えられる。
なお、以下では、説明の便宜上、カメラヘッド5(撮像部52)にて撮像された撮像画像のうち、被写体像を撮像することで得られる撮像画像を被写体画像と記載し、蛍光像を撮像することで得られる撮像画像を蛍光画像と記載する。
ここで、第1の動き量算出処理では、カメラヘッド5から出力され、通信部91にて受信した被写体画像(以下、現被写体画像と記載)と、画像メモリ921に記憶され、当該現被写体画像に対して2フレーム前にカメラヘッド5にて撮像された被写体画像(以下、直前被写体画像と記載)とを第1の処理対象とする。ここで、カメラヘッド5にて交互に撮像された被写体画像及び蛍光画像のうち、被写体画像のみを見た場合には、直前被写体画像は、現被写体画像に対して、時系列で直前の被写体画像となる。すなわち、第1の処理対象は、時系列で連続する2つの被写体画像である。そして、第1の動き量算出処理では、現被写体画像における領域毎(本実施の形態1では画素毎)に当該直前被写体画像からの動き量(以下、第1の動き量と記載)を算出する。
そして、動き量算出部922は、第1,第2の動き量に応じた信号を制御部94に出力する。
具体的に、動き量算出部922は、以下に示すように、ブロックマッチング法を用いて第1の動き量算出処理を実行する。
動き量算出部922は、直前被写体画像CSB(図4)における全画素のうち、注目画素PI(図4)を選定する。また、動き量算出部922は、当該注目画素PIと、当該注目画素PIの周囲に位置する複数の周囲画素PS(図4)とを含む画素群Gr(図4)を選定する。なお、図4の例では、周囲画素PSの数を8個(画素群Grの数を3×3の9個)としているが、その数は、8個に限らず、その他の数(例えば、周囲画素PSの数を24個(画素群Grの数を5×5の25個))としても構わない。
動き量算出部922は、直前被写体画像CSBにおける全画素について注目画素PIを変更しながらそれぞれ上述した処理を順次、実行することで、図5に示すように、現被写体画像CSCにおける画素(注目画素PI´)毎の動きベクトルBを算出する。図5では、動きベクトルBの方向(動きの方向)を矢印で示し、当該動きベクトルBの大きさ(動き量(第1の動き量))を矢印の長さで表現している。点で示した動きベクトルBは、動き量(第1の動き量)が0であることを示している。
なお、第1,第2の動き量算出処理としては、上述したブロックマッチング法に限らず、その他の方法(例えば、勾配法)を用いても構わない。
重畳画像生成部924は、NR処理が施されているとともに時系列で連続する被写体画像及び蛍光画像を全ての領域について対応する領域(画素)同士で重畳して重畳画像を生成する。そして、重畳画像生成部924は、当該重畳画像を表示制御部93に出力する。なお、重畳画像生成部924は、制御部94により当該重畳が禁止されている場合には、NR処理が施された被写体画像のみを重畳画像として表示制御部93に出力する。
光源制御部941は、第3伝送ケーブル10を介して光源装置3に制御信号を出力し、当該光源装置3の状態を第1,第2の発光状態に時分割で交互に切り替える。ここで、第1の発光状態は、白色光を発する状態である。また、第2の発光状態は、近赤外励起光を発する状態である。
撮像制御部942は、第1伝送ケーブル6を介してカメラヘッド5に制御信号を出力し、光源装置3の状態の切替タイミングに同期させて、撮像部52に被写体像及び蛍光像を交互に撮像させる。
ここで、第1の判定処理では、判定部943は、現被写体画像CSCに動き領域が存在しているか否かを判定する。当該動き領域は、現被写体像CSCにおける全ての領域のうち、動き量算出部922にて算出された第1の動き量が特定の閾値を超える画素からなる領域である。そして、判定部943は、現被写体画像CSCに動き領域が存在している場合に、被写体と観察装置100との少なくとも一方が動いたと判定する。一方、判定部943は、現被写体画像CSCに動き領域が存在していない場合に、被写体と観察装置100との双方が動いていないと判定する。
報知制御部925は、判定部943にて被写体と観察装置100との少なくとも一方が動いたと判定された場合に、当該動いたことを示す情報を報知部96に報知させる。
報知部96は、本発明に係る報知装置に相当する。この報知部96は、報知制御部925による制御の下、動いたことを示す情報を報知する。この報知部96としては、例えば、点灯や点滅、あるいは、点灯した際の色により当該情報を報知するLED(Light Emitting Diode)、当該情報を表示する表示装置、当該情報を音声で出力するスピーカ等を例示することができる。なお、本実施の形態1では、報知部96は、制御装置9内部に設けられた構成としているが、これに限らず、当該制御装置9とは別体で構成してもよい。
記憶部97は、制御部94が実行するプログラムや、制御部94の処理に必要な情報等を記憶する。
次に、上述した制御装置9の動作について説明する。
図6は、制御装置9の動作を示すフローチャートである。
なお、以下では、腫瘍等の病変部に集積するインドシアニングリーン等の薬剤が被検体に対して予め投与されている。
先ず、光源制御部941は、光源装置3の動作を制御し、光源装置3の状態を第1,第2の発光状態に時分割で交互に切り替える(ステップS1)。これにより、生体内には、白色光及び近赤外励起光が交互に照射される。
一方、動き量算出部922は、撮像部52にて蛍光像が撮像された場合(通信部91にて現蛍光画像CFCを受信した場合)には、直前蛍光画像CFB及び現蛍光画像CFCを第2の処理対象とし、第2の動き量算出処理を実行する(ステップS6)。
第1の判定処理を実行した結果、現被写体画像CSCに動き領域が存在していないと判定(被写体と観察装置100との双方が動いていないと判定)された場合(ステップS7:No)には、重畳画像生成部924は、以下の処理を実行する(ステップS8)。
すなわち、重畳画像生成部924は、ステップS8において、現被写体画像CSCと当該現被写体画像CSCに対して時系列で直前の蛍光画像とを全ての領域について対応する画素同士で重畳して重畳画像を生成する。そして、重畳画像生成部924は、当該重畳画像を表示制御部93に出力する。
すなわち、重畳画像生成部924は、ステップS8において、現蛍光画像CFCと当該現蛍光画像CFCに対して時系列で直前の被写体画像とを全ての領域について対応する画素同士で重畳して重畳画像を生成する。そして、重畳画像生成部924は、当該重畳画像を表示制御部93に出力する。
ステップS11の後、報知制御部925は、動いたことを示す情報を報知部96に報知させる(ステップS12)。この後、制御装置9は、ステップS1に戻る。
次に、表示装置7に表示される画像の具体例について説明する。
図7は、表示装置7に表示される画像の具体例を示す図である。具体的に、図7(a)は、時系列的に並ぶ各タイミングt1〜t6においてカメラヘッド5にてそれぞれ撮像された被写体画像CS1〜CS3及び蛍光画像CF1〜CF3を示す図である。図7(b)は、重畳画像生成部924にて重畳される被写体画像及び蛍光画像の一方を示す図である。図7(c)は、表示装置7に表示される画像を示す図である。
なお、図7では、説明の便宜上、各画像CS1〜CS3,CF1〜CF3,D1〜D6において、マスク領域MAの図示を省略している。また、蛍光画像CF1〜CF3において、生体内でインドシアニングリーン等の薬剤が励起した励起領域を白で表現し、当該励起領域以外の領域を黒で表現している。さらに、重畳画像D3,D4,D6では、当該励起領域を斜め線で表現している。
本実施の形態1に係る制御装置9は、被写体像及び蛍光像の一方が撮像されるタイミングよりも前の時点から当該タイミングに至るまでに、被写体と観察装置100との少なくとも一方が動いたか否かを判定する。そして、制御装置9は、被写体と観察装置100との双方が動いていないと判定した場合に、被写体画像と蛍光画像との全ての領域について対応する画素同士で重畳して重畳画像を生成する。一方、制御装置9は、被写体と観察装置100との少なくとも一方が動いたと判定した場合に、被写体画像と蛍光画像との重畳を行わない。
このため、被写体と観察装置100との少なくも一方が動いた場合であっても、被写体画像と蛍光画像との対応する観察部位同士がずれた重畳画像が表示装置7に表示されることがない。すなわち、医師は、表示装置7に表示された重畳画像から実際には病変部ではない部位を病変部と認識することがない。したがって、本実施の形態1に係る制御装置9によれば、利便性の向上を図ることができる。
すなわち、被写体と観察装置100との少なくとも一方が動いたか否かの判定を被写体画像や蛍光画像の画像処理により実行することができるため、観察装置100に例えば加速度センサやジャイロセンサ等の機器を搭載する必要がない。したがって、医療用観察システム1の構造の簡素化を図ることができる。
特に、第1の動き量算出処理では、2つの被写体画像を第1の処理対象としている。また、第2の動き量算出処理でも同様に、2つの蛍光画像を第2の処理対象としている。
このため、例えば被写体画像と蛍光画像とを処理対象として動き量算出処理を実行する構成と比較して、動き量を高精度に算出することができ、被写体と観察装置100との少なくとも一方が動いたか否かを高精度に判定することができる。
このため、現被写体画像CSCや現蛍光画像CFCが撮像されるタイミングよりも直前の時点から当該タイミングに至るまでに、被写体と観察装置100との少なくとも一方が動いたか否かを適切に判定することができる。
このため、フレーム毎に同一の重畳画像を連続して表示することがなく、被写体が最新の状態を撮像することで得られた重畳画像(図7の例では重畳画像D3〜D6)をフレーム毎に順次、表示することができる。
ここで、本実施の形態1に係る医療用観察システム1では、被写体と観察装置100との少なくとも一方が動いたと判定した場合に、被写体画像を表示装置7に表示する。
すなわち、被写体と観察装置100との少なくとも一方が動いた場合に、表示装置7に表示される画像が消えることがなく、被写体の粘膜等の全体形状を認識し易い被写体画像が表示装置7に表示される。このため、医師は、被写体の状態を継続して確認することができる。したがって、利便性の向上をさらに図ることができる。
このため、医師等は、直前の重畳画像(図7の例では重畳画像D4)から現在の重畳画像(図7の例では重畳画像D5)に表示が替わる際に励起領域(図7の例では斜め線で表現)が消えた理由を当該情報により認識することができる。したがって、利便性の向上を図ることができる。
次に、本実施の形態2について説明する。
以下では、上述した実施の形態1と同様の構成には同一符号を付し、その詳細な説明は省略または簡略化する。
本実施の形態2では、上述した実施の形態1に対して、重畳画像生成部924及び重畳制御部944の機能を変更している。本実施の形態2に係る重畳画像生成部924及び重畳制御部944の機能については、以下の「制御装置9の動作」において説明する。
図8は、本実施の形態2に係る制御装置9の動作を示すフローチャートである。
本実施の形態2に係る制御装置9の動作では、図8に示すように、上述した実施の形態1で説明した制御装置9の動作に対して、ステップS10,S11の代わりにステップS13〜S15が実行される。このため、以下では、ステップS13〜S15についてのみ説明する。
次に、表示装置7に表示される画像の具体例について説明する。
図9は、表示装置7に表示される画像の具体例を示す図である。なお、図9は、図7に対応した図である。また、重畳画像D5では、重畳画像D3,D4,D6と同様に、生体内でインドシアニングリーン等の薬剤が励起した励起領域を斜め線で表現している。
以下では、時系列的に並ぶ各タイミングt1〜t6において、上述した実施の形態1で説明した画像(図7(a))と同一の被写体画像CS1〜CS3及び蛍光画像CF1〜CF3がカメラヘッド5にて撮像された場合について説明する。
そして、本実施の形態2では、上述した実施の形態1に対して、タイミングt5においてのみ異なる画像を表示することとなる。このため、以下では、タイミングt5についてのみ説明する。
ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態1,2によってのみ限定されるべきものではない。
上述した実施の形態1,2では、第1,第2の動き量算出処理にて算出された第1,第2の動き量に基づいて、被写体と観察装置100との少なくとも一方が動いたか否かを判定していたが、これに限らない。例えば、観察装置100に加速度センサやジャイロセンサ等の機器を搭載し、当該加速度センサやジャイロセンサ等の機器にて検出された加速度や角速度に基づいて、観察装置100が動いたか否かを判定しても構わない。
例えば、異なるタイミングで撮像された2つの被写体画像を対応する画素同士で画素レベルを比較する。そして、当該画素レベルの変化量を本発明に係る第1の動き量として算出しても構わない。同様に、異なるタイミングで撮像された2つの蛍光画像を対応する画素同士で画素レベルを比較する。そして、当該画素レベルの変化量を本発明に係る第2の動き量として算出しても構わない。この際、画素毎に第1,第2の動き量をそれぞれ算出する構成に限らず、複数の画素を含む画素群(領域)毎に第1,第2の動き量をそれぞれ算出しても構わない。上述した実施の形態1,2でも同様である。
なお、当該画素レベルとしては、被写体画像や蛍光画像がデモザイク処理前の画像であれば、撮像素子(撮像部52)の撮像面に設けられたカラーフィルタを構成するR,G,Bの各フィルタ群に対応するR(赤),G(緑),B(青)のいずれかの成分情報(画素値)を例示することができる。また、当該画素レベルとしては、被写体画像や蛍光画像がデモザイク処理後の画像であれば、RGB値(画素値)やY信号(輝度信号)に応じた輝度値を例示することができる。
同様に、上述した実施の形態1,2では、時系列で連続する2つの蛍光画像を第2の処理対象としていたが、これに限らず、時系列で連続していない2つの蛍光画像を第2の処理対象としても構わない。すなわち、現蛍光画像CFCと、当該現蛍光画像CFCに対して4フレーム前にカメラヘッド5にて撮像された蛍光画像とを第2の処理対象として採用しても構わない。
同様に、上述した実施の形態1,2では、被写体画像と蛍光画像とを重畳する際、現蛍光画像CFCと当該現蛍光画像CFCに対して時系列で直前の被写体画像とを重畳していたが、これに限らない。例えば、現蛍光画像CFCと当該現蛍光画像CFCに対して時系列で直後の被写体画像とを重畳しても構わない。
同様に、上述した実施の形態1,2において、撮像部52の構成は、上述した実施の形態1,2で説明した構成に限らず、被写体画像と蛍光画像とを生成することが可能な構成であれば、2つの撮像素子を用いた構成を採用しても構わない。
同様に、上述した実施の形態1,2では、蛍光画像を生成する際に、近赤外励起光を用いていたが、これに限らず、その他の特定の波長帯域の光を採用しても構わない。
上述した実施の形態1,2において、カメラヘッド5の一部の構成や制御装置9の一部の構成を例えばコネクタCN1やコネクタCN2に設けても構わない。
2 挿入部
3 光源装置
4 ライトガイド
5 カメラヘッド
6 第1伝送ケーブル
7 表示装置
8 第2伝送ケーブル
9 制御装置
10 第3伝送ケーブル
51 レンズユニット
52 撮像部
53 通信部
91 通信部
92 画像処理部
93 表示制御部
94 制御部
95 入力部
96 報知部
97 記憶部
100 観察装置
921 画像メモリ
922 動き量算出部
923 NR処理部
924 重畳画像生成部
941 光源制御部
942 撮像制御部
943 判定部
944 重畳制御部
945 報知制御部
AM 動き領域
B 動きベクトル
CF1〜CF3 蛍光画像
CFB 直前蛍光画像
CFC 現蛍光画像
CN1,CN2 コネクタ
CS1〜CS3 被写体画像
CSC 現被写体画像
CSB 直前被写体画像
D1〜D6 重畳画像
FI 蛍光像
Gr,Gr´ 画素群
MA マスク領域
PI,PI´ 注目画素
PS 周囲画素
SI 被写体像
t 矢印
t1〜t6 タイミング
Claims (10)
- 被写体にて反射した被写体像を撮像して被写体画像を生成するとともに前記被写体画像とは異なるタイミングで前記被写体から発せられる蛍光像を撮像して蛍光画像を生成する観察装置に接続する医療用画像処理装置であって、
前記被写体画像と前記蛍光画像とを対応する領域同士で重畳して重畳画像を生成する重畳画像生成部と、
前記被写体像及び前記蛍光像の一方が撮像されるタイミングよりも前の時点から当該タイミングに至るまでに、前記被写体と前記観察装置との少なくとも一方が動いたか否かを判定する判定部と、
前記判定部にて前記被写体と前記観察装置との少なくとも一方が動いたと判定された場合に、前記重畳画像生成部による前記被写体画像と前記蛍光画像との少なくとも一部の領域での重畳を禁止する重畳制御部とを備える
ことを特徴とする医療用画像処理装置。 - 前記観察装置は、
異なるタイミングで前記被写体像を撮像して前記被写体画像を順次、生成するとともに、異なるタイミングで前記蛍光像を撮像して前記蛍光画像を順次、生成し、
当該医療用画像処理装置は、
前記観察装置にて生成された2つの前記被写体画像を第1の処理対象とし、一方の前記被写体画像の各領域毎に他方の前記被写体画像からの第1の動き量を算出する第1の動き量算出処理と、前記観察装置にて生成された2つの前記蛍光画像を第2の処理対象とし、一方の前記蛍光画像の各領域毎に他方の前記蛍光画像からの第2の動き量を算出する第2の動き量算出処理との少なくとも一方を実行する動き量算出部をさらに備え、
前記判定部は、
前記第1の動き量に基づいて前記被写体と前記観察装置との少なくとも一方が動いたか否かを判定する第1の判定処理と、前記第2の動き量に基づいて前記被写体と前記観察装置との少なくとも一方が動いたか否かを判定する第2の判定処理との少なくとも一方を実行する
ことを特徴とする請求項1に記載の医療用画像処理装置。 - 前記第1の処理対象は、
時系列で連続する2つの前記被写体画像であり、
前記第2の処理対象は、
時系列で連続する2つの前記蛍光画像である
ことを特徴とする請求項2に記載の医療用画像処理装置。 - 前記観察装置は、
前記被写体像及び前記蛍光像を交互に撮像して前記被写体画像及び前記蛍光画像を交互に順次、生成し、
前記重畳画像生成部は、
時系列で連続する前記被写体画像及び前記蛍光画像を重畳して前記重畳画像を生成し、
前記動き量算出部は、
前記第1の動き量算出処理及び前記第2の動き量算出処理の双方をそれぞれ実行し、
前記判定部は、
前記第1の判定処理及び前記第2の判定処理の双方をそれぞれ実行する
ことを特徴とする請求項3に記載の医療用画像処理装置。 - 前記第1の判定処理では、
前記被写体画像に前記第1の動き量が特定の閾値を超える動き領域が存在していた場合に、前記被写体と前記観察装置との少なくとも一方が動いたと判定し、
前記第2の判定処理では、
前記蛍光画像に前記第2の動き量が特定の閾値を超える動き領域が存在していた場合に、前記被写体と前記観察装置との少なくとも一方が動いたと判定する
ことを特徴とする請求項2〜4のいずれか一つに記載の医療用画像処理装置。 - 前記重畳制御部は、
前記判定部にて前記被写体と前記観察装置との少なくとも一方が動いたと判定された場合に、前記重畳画像生成部による前記被写体画像と前記蛍光画像との前記動き領域での重畳を禁止するとともに前記動き領域以外の領域での重畳を許容する
ことを特徴とする請求項5に記載の医療用画像処理装置。 - 前記重畳制御部は、
前記判定部にて前記被写体と前記観察装置との少なくとも一方が動いたと判定された場合に、前記重畳画像生成部による前記被写体画像と前記蛍光画像との重畳を禁止する
ことを特徴とする請求項5に記載の医療用画像処理装置。 - 前記重畳画像生成部は、
前記重畳制御部にて重畳が禁止された領域を前記被写体画像における対応する領域とした前記重畳画像を生成する
ことを特徴とする請求項1〜7のいずれか一つに記載の医療用画像処理装置。 - 被写体にて反射した被写体像を撮像して被写体画像を生成するとともに前記被写体画像とは異なるタイミングで前記被写体から発せられる蛍光像を撮像して蛍光画像を生成する観察装置に接続する医療用画像処理装置であって、
前記被写体画像と前記蛍光画像とを対応する領域同士で重畳して重畳画像を生成する重畳画像生成部と、
前記被写体像及び前記蛍光像の少なくとも一方が撮像されるタイミングよりも前の時点から当該タイミングに至るまでに、前記被写体と前記観察装置との少なくとも一方が動いたか否かを判定する判定部と、
前記判定部にて前記被写体と前記観察装置との少なくとも一方が動いたと判定された場合に、当該動いたことを示す情報を報知装置に報知させる報知制御部とを備える
ことを特徴とする医療用画像処理装置。 - 被写体にて反射した被写体像を撮像して被写体画像を生成するとともに前記被写体画像とは異なるタイミングで前記被写体から発せられる蛍光像を撮像して蛍光画像を生成する観察装置と、
前記観察装置に接続し、前記被写体画像と前記蛍光画像とを処理する請求項1〜9のいずれか一つに記載の医療用画像処理装置と、
前記医療用画像処理装置にて生成された重畳画像を表示する表示装置とを備える
ことを特徴とする医療用観察システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018133374A JP7134759B2 (ja) | 2018-07-13 | 2018-07-13 | 医療用画像処理装置及び医療用観察システム |
US16/503,737 US11322245B2 (en) | 2018-07-13 | 2019-07-05 | Medical image processing apparatus and medical observation system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018133374A JP7134759B2 (ja) | 2018-07-13 | 2018-07-13 | 医療用画像処理装置及び医療用観察システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020010756A true JP2020010756A (ja) | 2020-01-23 |
JP7134759B2 JP7134759B2 (ja) | 2022-09-12 |
Family
ID=69138461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018133374A Active JP7134759B2 (ja) | 2018-07-13 | 2018-07-13 | 医療用画像処理装置及び医療用観察システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11322245B2 (ja) |
JP (1) | JP7134759B2 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011129255A1 (ja) * | 2010-04-12 | 2011-10-20 | オリンパス株式会社 | 蛍光観察装置および蛍光画像処理方法 |
JP2012110585A (ja) * | 2010-11-26 | 2012-06-14 | Olympus Corp | 蛍光内視鏡装置 |
WO2012161246A1 (ja) * | 2011-05-24 | 2012-11-29 | オリンパス株式会社 | 内視鏡装置および画像取得方法 |
JP2012239757A (ja) * | 2011-05-23 | 2012-12-10 | Olympus Medical Systems Corp | 医療機器及び医療用プロセッサ |
JP2017080246A (ja) * | 2015-10-30 | 2017-05-18 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 |
JP2018051364A (ja) * | 2017-12-27 | 2018-04-05 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7394053B2 (en) * | 2004-09-09 | 2008-07-01 | Beth Israel Deaconess Medical Center, Inc. | Systems and methods for multi-modal imaging having a spatial relationship in three dimensions between first and second image data |
DE102005001682A1 (de) * | 2005-01-13 | 2006-08-10 | Siemens Ag | Vorrichtung zum Sichtbarmachen einer krankhaften Veränderung eines mit einem Fluoreszenzfarbstoff markierten Körperteils |
JP4786910B2 (ja) * | 2005-02-07 | 2011-10-05 | Hoya株式会社 | 電子内視鏡 |
DE102005045906B4 (de) * | 2005-09-26 | 2007-11-29 | Siemens Ag | Vorrichtung zur Aufnahme eines einen Fluoreszenzfarbstoff enthaltenden Gewebes |
DE102008018637A1 (de) * | 2008-04-11 | 2009-10-15 | Storz Endoskop Produktions Gmbh | Vorrichtung und Verfahren zur Fluoreszenz-Bildgebung |
JP5242479B2 (ja) * | 2009-03-26 | 2013-07-24 | オリンパス株式会社 | 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法 |
WO2011078266A1 (ja) * | 2009-12-22 | 2011-06-30 | ジーニアルライト株式会社 | 生体内観察装置 |
JP6188721B2 (ja) * | 2012-12-13 | 2017-08-30 | オリンパス株式会社 | 蛍光観察装置 |
JP6357377B2 (ja) | 2014-07-24 | 2018-07-11 | オリンパス株式会社 | 観察装置 |
JP6574448B2 (ja) * | 2015-01-23 | 2019-09-11 | オリンパス株式会社 | 内視鏡装置及び内視鏡装置のフォーカス制御方法 |
US20210158553A1 (en) * | 2017-02-10 | 2021-05-27 | Sharp Kabushiki Kaisha | Image processing device and non-transitory medium |
-
2018
- 2018-07-13 JP JP2018133374A patent/JP7134759B2/ja active Active
-
2019
- 2019-07-05 US US16/503,737 patent/US11322245B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011129255A1 (ja) * | 2010-04-12 | 2011-10-20 | オリンパス株式会社 | 蛍光観察装置および蛍光画像処理方法 |
JP2012110585A (ja) * | 2010-11-26 | 2012-06-14 | Olympus Corp | 蛍光内視鏡装置 |
JP2012239757A (ja) * | 2011-05-23 | 2012-12-10 | Olympus Medical Systems Corp | 医療機器及び医療用プロセッサ |
WO2012161246A1 (ja) * | 2011-05-24 | 2012-11-29 | オリンパス株式会社 | 内視鏡装置および画像取得方法 |
JP2017080246A (ja) * | 2015-10-30 | 2017-05-18 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 |
JP2018051364A (ja) * | 2017-12-27 | 2018-04-05 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法 |
Also Published As
Publication number | Publication date |
---|---|
JP7134759B2 (ja) | 2022-09-12 |
US11322245B2 (en) | 2022-05-03 |
US20200020436A1 (en) | 2020-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109219385B (zh) | 内窥镜系统、图像处理装置、图像处理方法以及介质 | |
JP2019154816A (ja) | 医療用画像処理装置、医療用観察装置、及び医療用観察装置の作動方法 | |
US20170112356A1 (en) | Image processing apparatus, image processing method, computer-readable recording medium, and endoscope system | |
US20180307933A1 (en) | Image processing apparatus, image processing method, and computer readable recording medium | |
US20190246875A1 (en) | Endoscope system and endoscope | |
JP7374600B2 (ja) | 医療用画像処理装置及び医療用観察システム | |
JPWO2017022324A1 (ja) | 内視鏡システムの信号処理方法および内視鏡システム | |
WO2020178962A1 (ja) | 内視鏡システムおよび画像処理装置 | |
JP7116580B2 (ja) | 撮像装置、撮像装置を制御するための方法及びプログラム | |
JP6430880B2 (ja) | 内視鏡システム、及び、内視鏡システムの作動方法 | |
JP2020005844A (ja) | 医療用画像処理装置及び医療用観察装置 | |
US10901199B2 (en) | Endoscope system having variable focal length lens that switches between two or more values | |
US10462440B2 (en) | Image processing apparatus | |
JP7134759B2 (ja) | 医療用画像処理装置及び医療用観察システム | |
US11778325B2 (en) | Image processing apparatus, image processing method, and image processing program | |
JP7224963B2 (ja) | 医療用制御装置及び医療用観察システム | |
JP6937902B2 (ja) | 内視鏡システム | |
US11010895B2 (en) | Processor for electronic endoscope and electronic endoscope system | |
JP6663692B2 (ja) | 画像処理装置、内視鏡システム、及び画像処理装置の制御方法 | |
US20210290037A1 (en) | Medical image processing apparatus and medical observation system | |
US20230347170A1 (en) | Phototherapy device, phototherapy method, and computer-readable recording medium | |
US20230347168A1 (en) | Phototherapy device, phototherapy method, and computer-readable recording medium | |
US20230066301A1 (en) | Medical observation system, control device, and control method | |
US20220277432A1 (en) | Medical image processing device and medical observation system | |
JP2004329514A (ja) | 画像信号処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210527 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220426 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220510 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220831 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7134759 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |