JP7123247B2 - 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム - Google Patents

内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム Download PDF

Info

Publication number
JP7123247B2
JP7123247B2 JP2021513110A JP2021513110A JP7123247B2 JP 7123247 B2 JP7123247 B2 JP 7123247B2 JP 2021513110 A JP2021513110 A JP 2021513110A JP 2021513110 A JP2021513110 A JP 2021513110A JP 7123247 B2 JP7123247 B2 JP 7123247B2
Authority
JP
Japan
Prior art keywords
light
state
wavelength
unit
living body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021513110A
Other languages
English (en)
Other versions
JPWO2020208770A1 (ja
Inventor
成剛 温
恵仁 森田
昌士 弘田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2020208770A1 publication Critical patent/JPWO2020208770A1/ja
Application granted granted Critical
Publication of JP7123247B2 publication Critical patent/JP7123247B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0669Endoscope light sources at proximal end of an endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • A61B1/2736Gastroscopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Description

本発明は、内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム等に関する。
内視鏡装置において、狭帯域光等によって構成された特殊光を照射することで、特定部位を発見又は診断しやすくする手法が知られている。このような特殊光を用いた従来技術は例えば特許文献1に開示されている。特許文献1の内視鏡システムは、観察画像の画像データを解析し、粘膜の各層にある血管の密度に基づいて被観察部位の種類を判別し、その判別した被観察部位の種類に応じて最適な照明光を選択する。
特開2012-152333号公報
粘膜等の組織において、照明光の波長に応じて到達する深さが決まっている。しかしながら、生体に組織学的な変化が生じると、その変化の前後において照明光が散乱される程度が異なる場合がある。即ち、同一種類の部位であっても、組織学的な変化が生じる前と後では、組織内の所定深さに到達する光量が変化してしまう。このため、組織学的な変化が生じる前と後で画像の見え方が変化するという課題がある。
例えば、胃粘膜の除菌により胃粘膜表層部に組織学的変化が発生する。この場合、本来の所定深さに到達する光が、散乱の増加により到達しにくくなるため、所定深さの粘膜内の血管がぼけて見えにくくなる。
本発明の一態様は、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小を含む波長帯域間においてピーク波長を有する狭帯域光を照明光として発生する光源部と、前記照明光が照射された生体からの戻り光を撮像して撮像信号を出力する撮像部と、前記撮像信号により生成された撮像画像を用いて前記生体の状態を識別し、前記生体の状態を示す状態識別情報を出力し、前記状態識別情報に基づいて前記照明光の波長特性を制御する処理部と、を含む内視鏡装置に関係する。
また本発明の他の態様は、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小値を含む波長帯域間においてピーク波長を有する狭帯域光を、照明光として光源部に発生させる処理部と、前記照明光が照射された生体からの戻り光を撮像した撮像部から撮像信号を受信する撮像信号受信部と、を含み、前記処理部は、前記撮像信号により生成された撮像画像を用いて前記生体の状態を識別し、前記生体の状態を示す状態識別情報を出力し、前記状態識別情報に基づいて前記照明光の波長特性を制御する制御装置に関係する。
また本発明の更に他の態様は、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小値を含む波長帯域間においてピーク波長を有する狭帯域光を照明光として発生し、前記照明光が照射された生体からの戻り光を撮像して撮像信号を出力し、前記撮像信号により生成された撮像画像を用いて前記生体の状態を識別し、前記生体の状態を示す状態識別情報を出力し、前記状態識別情報に基づいて前記照明光の波長特性を制御する内視鏡装置の作動方法に関係する。
また本発明の更に他の態様は、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小値を含む波長帯域間においてピーク波長を有する狭帯域光を照明光として光源部に発生させ、前記照明光が照射された生体からの戻り光を撮像部に撮像させることで撮像信号を出力させ、前記撮像信号により生成された撮像画像を用いて前記生体の状態を識別し、前記生体の状態を示す状態識別情報を出力し、前記状態識別情報に基づいて前記照明光の波長特性を制御するステップを、コンピュータに実行させるプログラムに関係する。
内視鏡装置の構成例。 光源部の詳細構成例。 光源部が発生する狭帯域光の波長特性例。 光源部が発生する狭帯域光の波長特性例。 光源部が発生する狭帯域光の波長特性例。 処理部の詳細構成例。 処理部が行う処理の手順を説明するフローチャート。 処理部が行う処理の手順を説明するフローチャート。 処理部が行う処理の手順を説明するフローチャート。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.内視鏡装置
図1は、内視鏡装置の構成例である。内視鏡装置は、撮像部200と制御装置300と表示部400と外部I/F部500と光源部100とを含む。内視鏡装置としては、例えば消化管等に用いられる軟性鏡や、腹腔鏡等に用いられる硬性鏡を想定できるが、これらに限定されない。
光源部100は、照明光を発生する装置である。光源部100を光源装置とも呼ぶ。光源部100は、照明光として白色光及び特殊光を発生する。具体的には、光源部100はWLI(White Light Imaging)モードにおいて白色光を発生し、特殊光モードにおいて特殊光を発生する。特殊光モードは、例えば青色狭帯域光及び緑色狭帯域光を照明光とするNBI(Narrow Band Imaging)モードである。照明光の発光タイミングは、複数の光源を同時に発光させる同時式、又は複数の光源を順次に発光させる面順次式のいずれであってもよい。
撮像部200は、体内へ挿入されると共に被写体を撮像する部分である。撮像部200をスコープとも呼ぶ。撮像部200は、ライトガイド210と照明レンズ220と対物レンズ230と撮像素子240とを含む。撮像素子240はイメージセンサとも呼ぶ。撮像部200は不図示のコネクタを有し、そのコネクタにより制御装置300に対して着脱される。
ライトガイド210は、光源部100からの照明光を、撮像部200の先端まで導光する。照明レンズ220は、ライトガイド210により導光された照明光を被写体へ照射する。本実施形態において被写体は生体である。例えば上部消化管用の内視鏡装置において、被写体は、胃又は食道等の粘膜である。被写体からの反射光は、対物レンズ230へ入射する。対物レンズ230によって被写体像が結像され、撮像素子240が、その被写体像を撮像する。
撮像素子240は、照明光が照射された被写体からの戻り光を撮像して撮像信号を出力する。撮像素子240は、各画素にカラーフィルタが設けられたカラーイメージセンサ、又はモノクロイメージセンサのいずれであってもよい。カラーイメージセンサは、例えばベイヤ配列のカラーフィルタを有するベイヤ型イメージセンサ、或いは補色フィルタを有する補色イメージセンサである。
撮像部200はA/D変換回路を含む。A/D変換回路は、撮像素子240からのアナログ撮像信号をデジタル撮像信号にA/D変換する。A/D変換回路は、例えば撮像素子240に内蔵される。
制御装置300は、画像処理を含む信号処理を行う。また制御装置300は、内視鏡装置の各部を制御する。制御装置300を処理装置又はプロセッサ部とも呼ぶ。制御装置300は、処理部310と撮像信号受信部330とを含む。処理部310は処理回路又はプロセッサとも呼ぶ。
撮像信号受信部330は、撮像素子240からの撮像信号を受信する。撮像信号受信部330は、例えば撮像部200と制御装置300を接続するコネクタ、又は撮像信号を受信するインターフェース回路、又は撮像信号から画像データを生成する前処理回路等である。なお撮像信号受信部330と処理部310は別個のハードウェアにより実現されてもよいし、一体のハードウェアにより実現されてもよい。
処理部310は、撮像信号受信部330が受信した撮像信号に基づいて画像処理を行うことで、表示画像を生成し、その表示画像を表示部400へ出力する。また処理部310は、内視鏡装置の各部を制御する。具体的には、処理部310は、照明光の波長特性と光源の発光タイミングと撮像素子240の撮像タイミングを制御する。例えばユーザが外部I/F部500を操作してWLIモードと特殊光モードを切り替える。例えば特殊光モードが設定された場合、処理部310は、特殊光の発光を光源部100に指示し、撮像信号から特殊光画像を生成し、その特殊光画像を表示部400に出力する。WLIモードが設定された場合、処理部310は、白色光の発光を光源部100に指示し、撮像信号から白色光画像を生成し、その白色光画像を表示部400に出力する。
表示部400は、処理部310からの表示画像を表示する装置である。表示部400は、例えば液晶表示装置等である。外部I/F部500は、ユーザから内視鏡装置に対する操作を受け付ける装置である。例えば、外部I/F部500は、ボタン、ダイヤル、ポインティングデバイス、タッチパネル、又はフットスイッチ等である。
2.光源部
以下、特殊光観察がNBIである場合を例に説明するが、本実施形態の手法はNBI以外の特殊光観察にも適用できる。即ち、所定部位に組織学的変化が生じたことで、その所定部位における照明光の散乱状態が変化する場合に、本実施形態と同様の手法を適用できる。
図2は、光源部100の詳細構成例である。光源部100は、駆動部110と光源LDV1、LDV2、LDG、LDWと合波部120とを含む。
駆動部110には、各光源の発光タイミング及び光量を指示する制御信号が光源制御部312から入力される。図5で後述するように光源制御部312は処理部310に含まれる。駆動部110は、光源制御部312からの制御信号に基づいて光源LDV1、LDV2、LDG、LDWを駆動する。例えば、駆動部110は駆動電流を光源に供給することで光源を発光させる。
光源LDV1、LDV2、LDG、LDWの各々は、所定の波長特性を有する光を発生する。光源LDV1、LDV2、LDGは、それぞれ第1狭帯域光、第2狭帯域光、第3狭帯域光を発生する。狭帯域光の半値幅は例えば数nm~数10nmである。光源LDWは白色光を発生する。白色光は可視光帯域において連続スペクトルを有する。或いは、白色光は、複数帯域の光によって構成されてもよい。各光源は例えばLED又はレーザー等である。或いは、白色光源であるLDWはキセノンランプ等であってもよい。また光源LDV1、LDV2、LDGは、白色光源と、各狭帯域光を通過させる光学フィルタとによって実現されてもよい。
合波部120は、光源LDV1、LDV2、LDG、LDWが射出する光を合波し、その合波された光をライトガイド210へ入射させる。合波部120は、例えばダイクロイックミラーとレンズにより構成される。或いは合波部120は、複数の入射端から入射された光を1つの出射端に出射する光ファイバであってもよい。
図3、図4は、光源部100が発生する狭帯域光の波長特性例である。図3は、光源LDV1とLDGが発光している場合の波長特性例であり、図4は、光源LDV2とLDGが発光している場合の波長特性例である。
光源部100は、ヘモグロビンの吸光係数HBC上で極大を含む波長帯域から極小を含む波長帯域間においてピーク波長を有する狭帯域光を発生する。吸光係数HBCにおける極大は波長415nm付近であり、極小は波長500nm付近である。極大を含む波長帯域は、極大を含む所定波長範囲であり、極小を含む波長帯域は、極小を含む所定波長範囲である。極大を含む波長帯域から極小を含む波長帯域は、例えば400nm~520nmである。
具体的には、光源LDV1、LDV2が、それぞれ第1狭帯域光NV1、第2狭帯域光NV2を発生する。可視光帯域を青色域、緑色域、赤色域に分割したとき、第1狭帯域光NV1は、青色域にピーク波長を有する。第2狭帯域光NV2は、青色域において第1狭帯域光よりも長波長側にピーク波長を有する。図3、図4の例では、NV1はピーク波長415nmを有し、NV2はピーク波長430nmを有する。NV1のピーク波長415nmは、通常のNBIで用いられる青色狭帯域光のピーク波長である。NV2のピーク波長430nmは、NV1のピーク波長415nmを長波長側にシフトさせたものである。なお、NV1のピーク波長は、400nm~420nmの範囲内であればよく、NV2のピーク波長は、420nm~450nmの範囲内であればよい。
光源LDGは、第3狭帯域光NGを発生する。第3狭帯域光NGは、緑色域にピーク波長を有する。図4の例では、第3狭帯域光NGはピーク波長540nmを有する。NGのピーク波長540nmは、通常のNBIで用いられる緑色狭帯域光のピーク波長である。なお、NGのピーク波長は、530~550nmの範囲内であればよい。また、NV1とNGの光量比、及びNV2とNGの光量比は、任意であってよい。
図5は、光源LDV1とLDV2とLDGが発光している場合の波長特性例である。第1狭帯域光NV1の光量に対する第2狭帯域光NV2の光量の重み係数をαとする。NV1とNV2の光量比は(1-α):αと表され、αは0≦α≦1の実数である。光源制御部312が重み係数αを制御することで、NV1とNV2の光量比を制御する。なお、図3はα=0の場合に対応し、図4はα=1の場合に対応する。即ち、NV1又はNV2が消灯している場合も、重み付けによる発光制御に含まれる。
以上の本実施形態によれば、第1狭帯域光NV1と、それよりも長波長側にピーク波長を有する第2狭帯域光NV2とを用いる。NV2はNV1より長波長なので、組織内において散乱の度合いがNV1より小さく、NV1よりも組織表面から深くまで届く。このように散乱度合いが異なる2つの狭帯域光を用いることで、組織学的変化の前後において散乱状態が異なる場合であっても、適切な照明を行うことが可能になる。以下、この点について、処理部310の動作説明と共に説明する。
3.処理部
図6は、処理部310の詳細構成例である。処理部310は、状態識別部311と光源制御部312と画像出力部313とを含む。
状態識別部311は、撮像信号により生成された撮像画像を用いて生体の状態を識別し、その結果である状態識別情報を出力する。状態識別部311は、識別処理用に撮像画像を生成してもよいし、或いは、画像出力部313が生成した撮像画像を用いてもよい。光源制御部312は、状態識別情報に基づいて照明光の波長特性を制御する。具体的には、光源制御部312は、図3、図4のように第1狭帯域光NV1と第2狭帯域光NV2を切り替える。或いは、光源制御部312は、図5のように第1狭帯域光NV1と第2狭帯域光NV2の重み付けを変更する。
このようにすれば、組織学的変化の前後において散乱状態が異なる場合であっても、その変化前の状態であるか変化後の状態であるかを、状態識別部311が識別できる。そして、その識別結果に基づいて光源制御部312が照明光の波長特性を制御できる。これにより、生体の状態に合わせた適切な照明を行うことが可能になる。具体的には、散乱状態の変化によって注目被写体が視認しにくい状態となっている場合に、狭帯域光の波長を変更することで散乱の度合いを変化させることができる。これにより、注目被写体の視認性を回復できる。
図3等で説明したように、狭帯域光は、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小を含む波長帯域間においてピーク波長を有している。即ち、ヘモグロビンの吸光が比較的大きな波長領域において狭帯域光のピーク波長が制御される。注目被写体は、ヘモグロビンを含有する被写体であり、代表的には血管である。狭帯域光は、そのピーク波長に対応した深さの血管像を撮影できるが、光散乱の状態が変わると血管像の視認性が低下する。このとき、ピーク波長を変更することで血管に光を届かせることが可能となり、血管像の視認性を向上できる。
ここで、生体の状態とは、同一種類の部位における状態であり、状態変化の前後において少なくとも光の散乱強度が変化するような状態である。より具体的には、生体の状態は、状態変化の前後において組織学的な変化を伴う状態である。組織学的な変化としては、例えば組織の厚み変化、或いは組織の細胞間結合の変化等を想定できる。
状態識別情報とは、識別された生体の状態を示す情報である。例えば、状態識別部311は、複数の状態のうちいずれの状態であるかを識別し、その識別した状態を示すフラグ、インデックス又は識別データ等を状態識別情報として出力する。
また本実施形態では、第1狭帯域光NV1は青色域にピーク波長を有し、第2狭帯域光NV2は第1狭帯域光NV1よりも長波長側にピーク波長を有する。即ち、光源制御部312は、青色域のピーク波長を長波長側にシフトすることで、照明光の波長特性を制御する。
第1狭帯域光NV1は青色域にピーク波長を有するため、粘膜表層等の組織表層における血管像を撮像できる。しかし、組織学的変化により散乱が強くなった場合には、散乱により血管像のコントラストが低下したり、或いは散乱光により別種類の病変等に類似して見えたりする。
本実施形態によれば、相対的に散乱が強い状態において、第1狭帯域光NV1よりも散乱度合いが低い第2狭帯域光NV2にシフトできる。これにより、照明光が本来届くべき血管の深さまで届くため、血管像のコントラストを向上したり、或いは病変等の種類を判別しやすくなる。
また本実施形態では、第1狭帯域光NV1のピーク波長は、400nm~420nmの範囲内である。状態識別部311は、少なくとも第1狭帯域光NV1と第3狭帯域光NGにより撮像された撮像画像を用いて、胃粘膜が除菌後の状態であるか否かを識別する。
波長400nm~420nmは、ヘモグロビンの吸光係数HBCにおいて極大付近であるため、第1狭帯域光NV1は粘膜等の表層血管を高コントラストに撮影可能である。この第1狭帯域光NV1と第3狭帯域光NGを用いることで、NBIと呼ばれる特殊光観察が可能となる。
NBIは胃がんの診断に用いられるが、ピロリ菌の除菌前後において胃がんの視認性が異なる。具体的には、除菌によって胃粘膜に組織学的変化が生じることで、胃粘膜における第1狭帯域光NV1の散乱度合いが大きくなり、第1狭帯域光NV1が表層血管に届き難くなる。また、NBIにおいて、胃粘膜の炎症はホワイトゾーンに見えるが、除菌後の胃がんが疑似的なホワイトゾーンとして見える場合がある。ホワイトゾーンは、周囲より白く見える領域のことである。ホワイトゾーンが見えた場合、医師は胃粘膜の炎症を疑うので、除菌後の胃がんと炎症の区別が難しくなってしまう。
本実施形態によれば、状態識別部311が、胃粘膜が除菌後の状態であると識別したとき、光源制御部312が、第1狭帯域光NV1より長波長の第2狭帯域光NV2を発生できる。これにより、表層血管に第2狭帯域光NV2に届くようになるため、除菌後における胃がんの視認性を向上できる。
また本実施形態では、図8で後述するように、光源部100は、狭帯域光を含む第1照明光と、白色光である第2照明光とを発生してもよい。状態識別部311は、第2照明光により撮像された撮像画像を用いて生体の状態を識別し、光源制御部312は、状態識別情報に基づいて第1照明光の波長特性を制御してもよい。
このようにすれば、白色光画像を用いた方が生体状態を識別しやすい場合において、正確に生体状態を識別できるようになる。そして、その識別結果に応じて特殊光の波長を制御することで、生体状態に適した波長選択を、より高精度に実現できる。
また本実施形態では、図8で後述するように、状態識別部311は炎症粘膜を識別してもよい。即ち、状態識別部311は、画像に写る粘膜に炎症が存在するか否かを識別してもよい。
炎症粘膜は正常粘膜に比べて光の散乱が強いため、NBI観察においてホワイトゾーンに見える。このため、炎症粘膜下に存在する血管又は病変等の視認性が低下する。白色光画像において炎症粘膜は赤味が強い領域として写るため、画像の色等から識別可能である。そして、炎症粘膜が検出されたとき、光源制御部312が第2狭帯域光NV2を発光させることで、炎症粘膜下に第2狭帯域光NV2を届かせることができる。これにより、NBI観察において、炎症粘膜下に存在する血管又は病変等の視認性を向上できる。
また本実施形態では、状態識別部311が、生体の状態が第1状態であると検出したとき、光源制御部312が、重み係数αを第1重み係数に設定する。図5で説明したように、αは、第1狭帯域光NV1の光量に対する第2狭帯域光NV2の光量の重み係数である。状態識別部311が、生体の状態が第1状態と異なる第2状態であると検出したとき、光源制御部312が、重み係数αを、第1重み係数より大きい第2重み係数に設定する。第2状態は、生体の粘膜における照明光の散乱が第1状態よりも強い状態である。
このようにすれば、粘膜における照明光の散乱が相対的に強い第2状態が検出されたとき、長波長側の第2狭帯域光NV2の重みを増加できる。これにより、粘膜における狭帯域光の散乱度合いが低下するので、第2状態においても第1状態と同様に表層血管等の視認性を確保できる。
また本実施形態では、図9で後述するように、状態識別部311は、撮像部200と生体の近接度合いを推定してもよい。光源制御部312は、状態識別情報と近接度合いに基づいて照明光の波長特性を制御してもよい。近接度合いは、スコープ先端と被写体表面の距離である。例えば、近接度合いは、対物レンズ230のフォーカス位置、又は対物レンズ230のズーム倍率等から推定される。
医師は、生体内でスコープを動かしながらスクリーニングを行い、スクリーニングにおいて病変等と疑われる領域が見つかったとき、その領域にスコープを近接させて精査観察する。本実施形態によれば、近接度合いを用いて照明光の波長特性を制御することで、観察状態と連動した波長制御が可能となる。例えば、スクリーニングにおいて、生体の状態に関わらず通常のNBI照明を行い、精査観察において除菌後粘膜等の所定状態が検出されたとき第2狭帯域光NV2の重み係数αを増加させてもよい。
なお、状態識別部311が生体状態を識別する手法として、画像認識アルゴリズムを用いた識別手法、或いはAI(Artificial Intelligence)等の機械学習を用いた識別手法を採用できる。
画像認識アルゴリズムでは、例えば画像の特徴量又は被写体の形状に基づいて生体の状態を検出する。特徴量は、例えば画像の色又は輝度等である。被写体の形状は、例えば血管構造又は粘膜表面の構造等である。粘膜表面の構造は、例えば胃粘膜の萎縮又はポリープ等の病変形状である。
機械学習では、生体を撮影した学習用画像と、その学習用画像に付された正解ラベルとを教師データとして、学習モデルを学習させる。正解ラベルは医師等が作成したものである。例えば、正解ラベルは、除菌後の胃粘膜であるか否かを示すラベル、或いは粘膜に炎症が存在するか否かを示すラベル等である。学習モデルは、推論アルゴリズムとパラメータとを含む。推論アルゴリズムとしては、ニューラルネットワーク又はサポートベクタマシン等の種々の機械学習アルゴリズムを採用できる。パラメータは、推論アルゴリズムで用いられるものであり、例えばニューラルネットワークにおけるノード間重み係数等である。学習後の学習モデルを学習済みモデルと呼ぶ。
状態識別部311は、学習済みモデルを用いて撮像画像から生体の状態を識別する。学習済みモデルはプログラムとして実装されてもよいし、ハードウェアとして実装されてもよい。学習済みモデルがプログラムで記述される場合、プロセッサがプログラムを実行することで状態識別部311の機能が実現される。
画像出力部313は、撮像信号から表示画像を生成し、その表示画像を表示部400に出力する。WLIモードでは、撮像信号のRチャンネル、Gチャンネル、Bチャンネルを、それぞれ表示画像のRチャンネル、Gチャンネル、Bチャンネルに入力する。NBIモードでは、撮像信号のBチャンネルを表示画像のBチャンネルとGチャンネルに入力し、撮像信号のGチャンネルを表示画像のRチャンネルに入力する。撮像素子240がカラーイメージセンサである場合には、画像出力部313は補間処理等を更に行う。WLIモードとNBIモードは、例えばユーザから外部I/F部500を介して設定されてもよいし、或いは図9で説明するようにスコープと被写体の近接度合いに応じて設定されてもよい。画像出力部313は、これらのモード設定に基づいて表示画像を生成する。
なお、処理部310を含む制御装置300は以下のように構成されてもよい。即ち、制御装置300は、情報を記憶するメモリと、メモリに記憶された情報に基づいて動作するプロセッサと、を含む。情報は、例えばプログラムと各種のデータ等である。プロセッサは、ハードウェアを含む。プロセッサは、撮像信号により生成された撮像画像を用いて生体の状態を識別し、生体の状態を示す状態識別情報を出力し、状態識別情報に基づいて照明光の波長特性を制御する。
プロセッサは、例えば各部の機能が個別のハードウェアで実現されてもよいし、或いは各部の機能が一体のハードウェアで実現されてもよい。例えば、プロセッサはハードウェアを含み、そのハードウェアは、デジタル信号を処理する回路及びアナログ信号を処理する回路の少なくとも一方を含むことができる。例えば、プロセッサは、回路基板に実装された1又は複数の回路装置や、1又は複数の回路素子で構成することができる。1又は複数の回路装置は例えばIC等である。1又は複数の回路素子は例えば抵抗、キャパシター等である。プロセッサは、例えばCPU(Central Processing Unit)であってもよい。ただし、プロセッサはCPUに限定されるものではなく、GPU(Graphics Processing Unit)、或いはDSP(Digital Signal Processor)等、各種のプロセッサを用いることが可能である。またプロセッサはASIC(Application Specific Integrated Circuit)又はFPGA(Field Programmable Gate Array)等の集積回路装置でもよい。またプロセッサは、アナログ信号を処理するアンプ回路やフィルタ回路等を含んでもよい。
メモリは、SRAM、DRAMなどの半導体メモリであってもよいし、レジスターであってもよいし、ハードディスク装置等の磁気記憶装置であってもよいし、光学ディスク装置等の光学式記憶装置であってもよい。例えば、メモリはコンピュータにより読み取り可能な命令を格納しており、当該命令がプロセッサにより実行されることで、処理部310の機能が処理として実現されることになる。ここでの命令は、プログラムを構成する命令セットの命令でもよいし、プロセッサのハードウェア回路に対して動作を指示する命令であってもよい。
また、処理部310が行う処理を実現するプログラムは、例えばコンピュータにより読み取り可能な媒体である情報記憶媒体に格納できる。情報記憶媒体は、例えば光ディスク、メモリカード、HDD、或いは半導体メモリ(ROM)などにより実現できる。半導体メモリは例えばROMである。処理部310は、情報記憶媒体に格納されるプログラムとデータに基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体には、処理部310としてコンピュータを機能させるためのプログラムが記憶される。コンピュータは、入力装置、及び処理部、記憶部、出力部を備える装置である。
以下、図7~図9のフローチャートを用いて、処理部310が行う処理の手順を説明する。なお以下では生体の状態に応じて第1狭帯域光NV1と第2狭帯域光NV2を切り替える場合を例に説明するが、生体の状態に応じて第1狭帯域光NV1と第2狭帯域光NV2の光量比を切り替えてもよい。
図7は、NBI観察において生体状態を識別する場合の処理手順を示すフローチャートである。
ステップS1において、光源制御部312は、第1狭帯域光NV1と第3狭帯域光NGを光源部100に発光させる。ステップS2において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信する。
ステップS3において、状態識別部311が撮像画像から粘膜の色調を判断する。具体的には、状態識別部311は、NBI画像にホワイトゾーンの白色が存在するか否かを判断する。ステップS4において、状態識別部311は、色調判断の結果から除菌後粘膜であるか否かを識別する。除菌後粘膜において胃がんは疑似的なホワイトゾーンとして見えるため、ホワイトゾーンを検出することで除菌後粘膜を識別できる。なおステップS3、S4において機械学習を用いた状態識別を行ってもよい。
ステップS4において、除菌後粘膜でないと判断された場合、ステップS1~S4が再び実行される。ステップS4において、除菌後粘膜であると判断された場合、ステップS5において、光源制御部312は、波長特性の設定を第2狭帯域光NV2と第3狭帯域光NGに切り替える。ステップS6において、光源制御部312は、第2狭帯域光NV2と第3狭帯域光NGを光源部100に発光させる。ステップS7において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信し、ステップS6に戻る。
図8は、WLI観察において生体状態を識別する場合の処理手順を示すフローチャートである。
ステップS21において、光源制御部312は、白色光を光源部100に発光させる。ステップS22において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信する。
ステップS23において、状態識別部311が撮像画像から粘膜の色調を判断する。具体的には、状態識別部311は、白色光画像に炎症粘膜の赤色が存在するか否かを判断する。ステップS24において、状態識別部311は、色調判断の結果から炎症粘膜であるか否かを識別する。なおステップS23、S24において機械学習を用いた状態識別を行ってもよい。
ステップS24において、炎症粘膜であると判断された場合、ステップS25において、光源制御部312は、NBIモードにおける波長特性の設定を第2狭帯域光NV2と第3狭帯域光NGに設定する。ステップS24において、炎症粘膜ではない判断された場合、ステップS26において、光源制御部312は、NBIモードにおける波長特性の設定を第1狭帯域光NV1と第3狭帯域光NGに設定する。
ステップS27において、光源制御部312はWLIモードからNBIモードに切り替えられたか否かを判断する。具体的には、外部I/F部500を介してNBIモードに切り替える操作が行われたか否かを判断する。
ステップS27において、WLIモードと判断された場合、ステップS21に戻る。ステップS27において、NBIモードに切り替えられたと判断された場合、ステップS28において、光源制御部312は、ステップS25又はS26で設定された波長特性に従って光源部100に狭帯域光を発光させる。ステップS29において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信し、ステップS28に戻る。
図9は、状態識別情報と近接度合いを用いて波長特性を切り替える場合の処理手順を示すフローチャートである。
ステップS41において、光源制御部312は、第1狭帯域光NV1と第3狭帯域光NGを光源部100に発光させる。ステップS42において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信する。
ステップS43において、状態識別部311が撮像画像から粘膜の色調を判断する。ステップS44において、状態識別部311は、色調判断の結果から除菌後粘膜であるか否かを識別する。
ステップS44において、除菌後粘膜でないと判断された場合、ステップS41~S44が再び実行される。ステップS44において、除菌後粘膜であると判断された場合、ステップS45において、光源制御部312は、スコープ先端と被写体が近接しているか否かを判断する。例えば、対物レンズ230のフォーカス位置又はズーム倍率が外部I/F部500を介して操作される。この操作によって設定されたフォーカス位置又はズーム倍率に基づいて、光源制御部312が近接度合いを判断する。
ステップS45において、スコープ先端と被写体が近接していないと判断された場合、ステップS41~S44が再び実行される。ステップS45において、スコープ先端と被写体が近接していると判断された場合、ステップS46において、光源制御部312は、NBIモードにおける波長特性の設定を第2狭帯域光NV2と第3狭帯域光NGに切り替える。ステップS47において、光源制御部312は、第2狭帯域光NV2と第3狭帯域光NGを光源部100に発光させる。ステップS48において、撮像素子240が撮像を行い、撮像信号受信部330が撮像信号を受信し、ステップS47に戻る。
以上、本発明を適用した実施形態およびその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
100 光源部、110 駆動部、120 合波部、200 撮像部、210 ライトガイド、220 照明レンズ、230 対物レンズ、240 撮像素子、300 制御装置、310 処理部、311 状態識別部、312 光源制御部、313 画像出力部、330 撮像信号受信部、400 表示部、500 外部I/F部、HBC 吸光係数、LDG,LDV1,LDV2,LDW 光源、NG 第3狭帯域光、NV1 第1狭帯域光、NV2 第2狭帯域光

Claims (11)

  1. ヘモグロビンの吸光特性上で極大を含む波長帯域から極小を含む波長帯域間においてピーク波長を有する狭帯域光を照明光として光源部に発生させ、
    戻り光から撮像信号を出力する撮像部から、前記撮像信号を受信し、
    前記撮像信号により生成された撮像画像を用いて体の状態として、胃粘膜が除菌後の状態であるか否か、又は、炎症粘膜であるか否かの少なくとも一方を識別し、前記生体の状態を示す状態識別情報を出力し、前記状態識別情報に基づいて前記照明光の波長特性を制御する処理部を含むことを特徴とする内視鏡制御装置。
  2. 請求項1において、
    前記光源部に、
    青色域にピーク波長を有する第1狭帯域光と、前記第1狭帯域光よりも長波長側にピーク波長を有する第2狭帯域光と、を少なくとも含む前記照明光を発生させることを特徴とする内視鏡制御装置。
  3. 請求項2において、
    前記光源部に、
    緑色域にピーク波長を有する第3狭帯域光を更に含む前記照明光を発生させ、
    前記第2狭帯域光のピーク波長は、前記第1狭帯域光のピーク波長と前記第3狭帯域光のピーク波長の間にあることを特徴とする内視鏡制御装置。
  4. 請求項2において、
    前記第1狭帯域光のピーク波長は、400nm~420nmの範囲内であることを特徴とする内視鏡制御装置。
  5. 請求項3において、
    前記処理部は、
    少なくとも前記第1狭帯域光と前記第3狭帯域光により撮像された前記撮像画像を用いて、前記生体の状態として、胃粘膜が除菌後の状態であるか否かを識別することを特徴とする内視鏡制御装置。
  6. 請求項1において、
    前記光源部に、
    前記狭帯域光を含む第1照明光と、白色光である第2照明光とを発生させ、
    前記処理部は、
    前記第2照明光により撮像された前記撮像画像を用いて前記生体の状態を識別し、前記状態識別情報に基づいて前記第1照明光の波長特性を制御することを特徴とする内視鏡制御装置。
  7. 請求項1において、
    前記照明光は、第1狭帯域光と、前記第1狭帯域光よりも長波長側にピーク波長を有する第2狭帯域光と、を含み、
    前記処理部は、
    前記生体の状態が第1状態であると検出したとき、前記第1狭帯域光の光量に対する前記第2狭帯域光の光量の重み係数を第1重み係数に設定し、
    前記生体の状態が前記第1状態と異なる第2状態であると検出したとき、前記重み係数を、前記第1重み係数より大きい第2重み係数に設定することを特徴とする内視鏡制御装置。
  8. 請求項7において、
    前記第2状態は、前記生体の粘膜における前記照明光の散乱が前記第1状態よりも強い状態であることを特徴とする内視鏡制御装置。
  9. 請求項1において、
    前記処理部は、
    前記撮像部と前記生体の近接度合いを推定し、前記状態識別情報と前記近接度合いに基づいて前記照明光の前記波長特性を制御することを特徴とする内視鏡制御装置。
  10. 撮像信号受信部および処理部を含む内視鏡制御装置において、
    前記処理部が、光源部に、ヘモグロビンの吸光特性上で極大を含む波長帯域から極小値を含む波長帯域間においてピーク波長を有する狭帯域光を生体の状態判定用に出射する照明光として発生させ、
    前記撮像信号受信部が、撮像部が戻り光から生成した撮像信号を受信し、
    前記処理部が、前記撮像信号から撮像画像を生成し、
    前記処理部が、前記撮像画像を用いて前記生体の状態として、胃粘膜が除菌後の状態である否か、又は、炎症粘膜であるか否かの少なくとも一方を識別し、
    前記処理部が、識別した前記生体の状態に基づいて前記生体の観察用に出射する前記照明光の波長特性を変更することを特徴とする内視鏡制御装置による照明光の波長特性の変更方法。
  11. ヘモグロビンの吸光特性上で極大を含む波長帯域から極小値を含む波長帯域間においてピーク波長を有する狭帯域光を照明光として光源部に発生させ、
    戻り光から撮像信号を、撮像部に出力させ、
    前記撮像信号により生成された撮像画像を用いて体の状態として、胃粘膜が除菌後の状態である否か、又は、炎症粘膜であるか否かの少なくとも一方を識別し、前記生体の状態を示す状態識別情報を出力し、
    前記状態識別情報に基づいて前記照明光の波長特性を制御するステップを、コンピュータに実行させるプログラム。
JP2021513110A 2019-04-11 2019-04-11 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム Active JP7123247B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/015752 WO2020208770A1 (ja) 2019-04-11 2019-04-11 内視鏡装置、制御装置、内視鏡装置の作動方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020208770A1 JPWO2020208770A1 (ja) 2020-10-15
JP7123247B2 true JP7123247B2 (ja) 2022-08-22

Family

ID=72751223

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021513110A Active JP7123247B2 (ja) 2019-04-11 2019-04-11 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム

Country Status (4)

Country Link
US (1) US20220022739A1 (ja)
JP (1) JP7123247B2 (ja)
CN (1) CN113677250A (ja)
WO (1) WO2020208770A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012045265A (ja) 2010-08-30 2012-03-08 Fujifilm Corp 電子内視鏡システム、電子内視鏡システムのプロセッサ装置及び電子内視鏡システムにおける撮像制御方法
JP2012071007A (ja) 2010-09-29 2012-04-12 Fujifilm Corp 内視鏡装置
JP2012152332A (ja) 2011-01-25 2012-08-16 Fujifilm Corp 内視鏡システム及びその操作補助方法
JP2014166590A (ja) 2014-06-16 2014-09-11 Fujifilm Corp 内視鏡システム及び内視鏡システムの作動方法
WO2017130325A1 (ja) 2016-01-27 2017-08-03 オリンパス株式会社 内視鏡観察方法及び内視鏡装置
WO2017170232A1 (ja) 2016-03-30 2017-10-05 富士フイルム株式会社 内視鏡画像信号処理装置および方法並びにプログラム
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5972312B2 (ja) * 2014-03-24 2016-08-17 富士フイルム株式会社 医用画像処理装置及びその作動方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012045265A (ja) 2010-08-30 2012-03-08 Fujifilm Corp 電子内視鏡システム、電子内視鏡システムのプロセッサ装置及び電子内視鏡システムにおける撮像制御方法
JP2012071007A (ja) 2010-09-29 2012-04-12 Fujifilm Corp 内視鏡装置
JP2012152332A (ja) 2011-01-25 2012-08-16 Fujifilm Corp 内視鏡システム及びその操作補助方法
JP2014166590A (ja) 2014-06-16 2014-09-11 Fujifilm Corp 内視鏡システム及び内視鏡システムの作動方法
WO2017130325A1 (ja) 2016-01-27 2017-08-03 オリンパス株式会社 内視鏡観察方法及び内視鏡装置
WO2017170232A1 (ja) 2016-03-30 2017-10-05 富士フイルム株式会社 内視鏡画像信号処理装置および方法並びにプログラム
WO2017199509A1 (ja) 2016-05-19 2017-11-23 オリンパス株式会社 生体観察システム

Also Published As

Publication number Publication date
US20220022739A1 (en) 2022-01-27
CN113677250A (zh) 2021-11-19
WO2020208770A1 (ja) 2020-10-15
JPWO2020208770A1 (ja) 2020-10-15

Similar Documents

Publication Publication Date Title
JP5127639B2 (ja) 内視鏡システム、およびその作動方法
JP5259882B2 (ja) 撮像装置
WO2018159363A1 (ja) 内視鏡システム及びその作動方法
JP7125484B2 (ja) 内視鏡システム
JP4849985B2 (ja) 電子内視鏡システム
JP6471173B2 (ja) 画像処理装置、内視鏡装置の作動方法、画像処理プログラムおよび内視鏡装置
JP6883627B2 (ja) 血液を含む組織の画像形成装置
JP7176041B2 (ja) 医療画像処理装置及び方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
JP2010063590A (ja) 内視鏡システム、およびその駆動制御方法
WO2017104046A1 (ja) 内視鏡装置
EP1743568B1 (en) Image processing device
JP6839773B2 (ja) 内視鏡システム、内視鏡システムの作動方法及びプロセッサ
JP2023087014A (ja) 内視鏡システム及び内視鏡システムの作動方法
JP7374280B2 (ja) 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法
WO2021229684A1 (ja) 画像処理システム、内視鏡システム、画像処理方法及び学習方法
JP2021045337A (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理方法、及びプログラム
JP2007264537A (ja) 内視鏡装置
JP6203088B2 (ja) 生体観察システム
JP2007075366A (ja) 赤外観察システム
WO2021181564A1 (ja) 処理システム、画像処理方法及び学習方法
US20220351350A1 (en) Endoscope processor, method for operating endoscope processor, and storage medium
JP7123247B2 (ja) 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム
US20230039047A1 (en) Image processing apparatus, image processing method, navigation method and endoscope system
CN116322465A (zh) 图像处理装置、内窥镜系统、图像处理装置的工作方法及图像处理装置用程序
CN117241719A (zh) 内窥镜处理器、内窥镜装置以及诊断用图像生成方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211001

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220809

R151 Written notification of patent or utility model registration

Ref document number: 7123247

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151