JP7451679B2 - 内視鏡システム、内視鏡及び距離算出方法 - Google Patents

内視鏡システム、内視鏡及び距離算出方法 Download PDF

Info

Publication number
JP7451679B2
JP7451679B2 JP2022507037A JP2022507037A JP7451679B2 JP 7451679 B2 JP7451679 B2 JP 7451679B2 JP 2022507037 A JP2022507037 A JP 2022507037A JP 2022507037 A JP2022507037 A JP 2022507037A JP 7451679 B2 JP7451679 B2 JP 7451679B2
Authority
JP
Japan
Prior art keywords
light
nth
image
subject
lights
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022507037A
Other languages
English (en)
Other versions
JPWO2021181508A5 (ja
JPWO2021181508A1 (ja
Inventor
靖夫 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2021181508A1 publication Critical patent/JPWO2021181508A1/ja
Publication of JPWO2021181508A5 publication Critical patent/JPWO2021181508A5/ja
Application granted granted Critical
Publication of JP7451679B2 publication Critical patent/JP7451679B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0605Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for spatially modulated illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1076Measuring physical dimensions, e.g. size of the entire body or parts thereof for measuring dimensions inside body cavities, e.g. using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1079Measuring physical dimensions, e.g. size of the entire body or parts thereof using optical or photographic means

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Signal Processing (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、内視鏡システム、内視鏡及び距離算出方法等に関する。
内視鏡において病変部等の大きさを測定したい場合があるが、正確に大きさを測定するためにはスコープから病変部までの距離を測定する必要がある。従来より、物体の3次元計測等において測距が行われており、その測距方式として、視差方式、TOF(Time Of Flight)方式、及びストラクチャードライト方式が知られている。これらの測距方式が内視鏡に適するかを評価する観点として、リアルタイム測定、リアルタイム処理、及び細径化を考える。リアルタイム測定は、生体等の動きのある対象を高精度に測距するために、短時間に測定が完了するかを示す観点である。リアルタイム処理は、被写体を観察中にリアルタイムに情報を提示するために、短時間に測距演算を処理できるかを示す観点である。細径化は、内視鏡のスコープ先端に測距機構を搭載するに当たり、スコープ先端の径が太くなりすぎないかを示す観点である。
視差方式はステレオビジョンとも呼ばれ、2つの撮像系により視差画像を取得する。視差方式は、1フレームで視差画像を取得できるので、リアルタイム測定可能である。しかし、視差の演算負荷が大きくリアルタイム処理が難しく、2つの撮像系が必要であるため細径化が難しい。
TOF方式は、光の反射波がイメージセンサに到達する時間を測定する。TOF方式は、1フレームで測距できるのでリアルタイム測定可能であり、時間から距離に換算する処理負荷が小さいためリアルタイム処理可能である。しかし、観察画像を撮像するイメージセンサとは別にTOF専用のイメージセンサを設けるため、細径化が難しい。ストラクチャードライト方式は、互いに位相が異なる複数のパターン光を被写体に投影し、その画像を撮像する。
ストラクチャードライト方式は、各パターン光の写り方から距離に換算する処理負荷が小さいためリアルタイム処理可能であり、パターン光の投影機構はイメージセンサより小型であるため、他の測距方式に比べると細径化可能である。しかし、従来のストラクチャードライト方式は、1つのパターン投影に対して1フレームの撮像を行うため、全てのパターン投影を撮影するために複数フレームの撮像が必要である。例えば特許文献1には、3つの光源とグレーティングを含み、光源を1つずつ順次に点灯させることで、互いに位相が異なる3のパターン光を順次に投影し、各パターン光が投影された被写体を撮像することで3つの画像を取得し、その3つの画像から距離を演算する測距手法が開示されている。
米国特許出願公開第2009/0225321号明細書
上記のように、内視鏡において重要な細径化の観点からストラクチャードライト方式の採用が望ましいが、従来のストラクチャードライト方式は複数フレームの撮像を行うためリアルタイム測定が難しく、生体等の動きのある対象を高精度に測距することに不向きであるという課題があった。
本開示の一態様は、縞状又は格子状のパターンを有し且つ前記パターンの位相及び光の波長が互いに異なる第1~第nパターン光(nは2以上の整数)を、被写体に投影するパターン光投影部と、前記第1~第nパターン光が投影された前記被写体の像を1フレームの画像として撮像する撮像部と、前記1フレームの画像に基づいて、前記被写体までの距離又は前記被写体の形状を算出する処理部と、を含む内視鏡システムに関係する。
本開示の他の態様は、縞状又は格子状のパターンを有し且つ前記パターンの位相が互いに異なる第1~第nパターン光(nは2以上の整数)を、被写体に投影するパターン光投影部と、前記第1~第nパターン光が投影された前記被写体の像を撮像する撮像部と、前記撮像部により撮像された画像に基づいて、前記被写体までの距離又は前記被写体の形状を算出する処理部と、を含み、前記パターン光投影部は、DOE(Diffractive Optical Element)と、互いに波長が異なる第1~第n波長の成分を含む平行光を前記DOEに入射させる入射部と、前記DOEの出射光が入射され、前記第1~第n波長の前記第1~第nパターン光を前記被写体に投影するスリット部と、を含む内視鏡システムに関係する。
内視鏡システムの構成例。 内視鏡システムの第1動作例を説明する図。 内視鏡システムの第2動作例を説明する図。 パターン光の波長を説明する図。 撮像部が有するイメージセンサの分光特性の一例。 内視鏡システムの第1詳細構成例。 内視鏡システムの第2詳細構成例。 パターン光投影部の第1詳細構成例。 パターン光投影部の第2詳細構成例。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本開示の必須構成要件であるとは限らない。
1.構成例
図1は、内視鏡システム10の構成例である。内視鏡システム10は、パターン光投影部250と撮像部270と処理部110と観察用照明光出射部260とを含む。図1には内視鏡システム10が制御装置100を含み、測距処理を行う処理部110が制御装置100に含まれる場合を示すが、これに限定されず、制御装置100の外部に設けられた情報処理装置等に、測距処理を行う処理部110が設けられる構成としてもよい。内視鏡システム10は例えば医療用の内視鏡システムであり、上部消化管又は下部消化管に用いられるビデオスコープ、或いは外科手術に用いられる硬性鏡等を想定できる。
パターン光投影部250は、第1~第nパターン光を被写体5に投影する。nは2以上の整数であり、ここではn=3とする。パターン光PT1~PT3が第1~第3パターン光である。パターン光PT1~PT3は、縞状又は格子状のパターンを有し、そのパターンの位相及び光の波長が互いに異なる。撮像部270は、パターン光PT1~PT3が投影された被写体5の像を1フレームの画像として撮像する。処理部110は、その1フレームの画像に基づいて、被写体5までの距離又は被写体5の形状を算出する。
ここで、フレームとは、1枚の画像を撮像するための露出期間である。例えば動画像を撮像する際には周期的にフレームが繰り返されるが、そのうちの1つのフレームにおいて、上記1フレームの画像が撮像される。例えば図2、図3で後述するように、観察画像が撮像されるフレームの間のフレームにおいて、パターン光PT1~PT3が投影された被写体5の像が撮像される。
本実施形態によれば、パターン光PT1~PT3が投影された被写体5の像を1フレームで撮像するので、ストラクチャードライト方式の測距に必要な画像を、短時間に撮像できる。これにより、ストラクチャードライト方式においてリアルタイム測定が可能となり、生体等の動きのある対象を高精度に測距できる。パターン光PT1~PT3は互いに異なる波長を有することから、その波長の違いを利用して、パターン光PT1~PT3の各々が投影されたときの被写体像を、1フレームの画像から分離し、その情報から距離を演算できる。
また、内視鏡システム10はAIによる診断支援を行ってもよい。この場合、観察画像と共に、被写体5の距離又は形状の情報をAIに入力することで、診断支援の精度を向上できる。
また、測距により得られた形状は、注目部位が病変であるか否かを診断する際のエビデンスとして重要である。例えば、ポリープが発見された場合、そのポリープがガンであるか否かの診断において、ポリープのサイズ測定は重要なエビデンスを提供する。
以下、図1の構成例の詳細を説明する。パターン光投影部250は、第1~第3波長λ1~λ3の光を出射する第1~第3の光源S1~S3と、複数のスリットが設けられたスリット部252と、を含む。パターン光投影部250をパターン光投影装置とも呼ぶ。上述したように、パターン光PT1~PT3は縞状又は格子状である。
縞状とは、平行なラインが周期的又は略周期的に繰り返された模様である。パターン光PT1~PT3が縞状である場合、スリット部252には複数の線状スリットが設けられる。その線状スリットは互いに平行であり、線状スリットに直交する方向に並ぶ。
格子状とは、第1ライン群と第2ライン群とが直交し、各ライン群において平行なラインが周期的又は略周期的に繰り返された模様である。パターン光PT1~PT3が格子状である場合、スリット部252には格子状のスリットが設けられる。即ち、スリット部252には、第1の複数の線状スリットと、それに直交する第2の複数の線状スリットとが設けられる。スリット部252はグレーティングとも呼ばれる。またスリット部252は板状部材にスリットが設けられたものであり、スリット部252をスリット板とも呼ぶ。
光源S1~S3は、波長λ1~λ3をスペクトルのピーク波長とする光を出射する。光源S1~S3は、スペクトルが互いに十分分離される線幅の光を出射し、例えば数nm~数10nmの線幅を有する光を出射する。光源S1~S3は、第2実施形態で後述するように、レーザダイオードとDOE(Diffractive Optical Element)等を用いて生成される仮想的な光源である。或いは、光源S1~S3は、発光ダイオード等の発光素子とバンドパスフィルターで構成されてもよい。パターン光PT1~PT3が縞状である場合、光源S1~S3の各々は、線状スリットに平行な線状光源である。光源S1~S3は、スリット部252の平面に平行な面内に並んでおり、線状スリットが並ぶ方向と同じ方向に並ぶ。パターン光PT1~PT3が格子状である場合、光源S1~S3は点状光源であり、スリット部252の平面に平行な面内において異なる位置に配置される。
光源S1~S3からの光がスリット部252のスリットを通過することで、パターン光PT1~PT3が生成される。スリット部252の平面に平行な平坦な被写体にパターン光PT1~PT3が投影されたとき、パターン光PT1~PT3は縞状又は格子状であり、その縞又は格子の位相が互いに異なっている。例えば縞状のパターン光を例にとると、縞の1周期を位相360度として、ある基準となる0度の位置に対してパターン光PT1~PT3の縞がph1度~ph3度にあり、ph1度~ph3度が互いに異なる値となっている。光源S1~S3の位置が異なるので、パターン光PT1~PT3の位相関係は、被写体の距離に応じて変動する。但し、光源S1~S3が十分近い位置に配置されている場合、パターン光PT1~PT3の位相関係は、被写体の距離に関わらず一定とみなすことができる。
観察用照明光出射部260は、観察画像を撮影するための観察用照明光を被写体5に出射する。観察画像は、ユーザが被写体5を観察するための画像である。測距用の光及び画像と対比する意味で、観察用照明光を通常光とも呼び、観察画像を通常画像とも呼ぶ。観察用照明光は、観察目的に応じた分光特性の照明光であればよく、例えば白色光又は特殊光である。特殊光の一例は、緑色の狭帯域光及び青色の狭帯域光によって構成されたNBI用の照明光である。なお、観察用照明光出射部260を観察用照明光出射装置とも呼ぶ。
撮像部270は、被写体5を結像する対物レンズと、対物レンズが結像した被写体5を撮像するイメージセンサと、を含む。パターン光投影部250と観察用照明光出射部260は、いずれか一方が発光する。撮像部270は、パターン光投影部250が発光したとき、パターン光PT1~PT3が投影された被写体5の像を撮像し、観察用照明光出射部260が発光したとき、観察画像を撮像する。撮像部270は1つのイメージセンサを含み、その共通のイメージセンサが観察用照明光とパターン光を撮像する。
制御装置100は、内視鏡システム10の制御及び画像処理等を行う装置である。制御装置100にはスコープが接続され、そのスコープにパターン光投影部250、観察用照明光出射部260及び撮像部270が設けられる。制御装置100は処理部110を含む。
処理部110は、複数の回路部品が基板に実装された回路装置により実現される。或いは、処理部110は、プロセッサ、ASIC(Application Specific Integrated Circuit)又はFPGA(Field Programmable Gate Array)等の集積回路装置であってもよい。プロセッサは、CPU、マイクロコンピュータ、又はDSP等である。処理部110がプロセッサである場合、処理部110の動作を記述したプログラムをプロセッサが実行することで、処理部110の動作が実現される。プログラムは、例えば、不図示のメモリに記憶されている。なお、処理部110を処理回路又は処理装置とも呼ぶ。
処理部110は、パターン光PT1~PT3が投影されたときに撮像部270が撮像した画像に基づいて、画像の各位置における位相を算出し、その位相に基づいて、画像の各位置における被写体5までの距離を算出する。この距離の情報は、各画素に対して距離が算出されたZマップのような情報であり、被写体5の3次元形状を示す。処理部110は、算出した距離から被写体5の形状を算出する。算出される形状の情報は種々想定されるが、例えば注目部位の長さ、幅、長径、短径、高さ、又は深さであり、或いは注目部位の輪郭であり、或いは、これらのうち幾つかを組み合わせたものである。
注目部位の長さを例に、画像上の長さから実空間上での長さを求める手法を説明する。処理部110は、画像上の注目部位の長さと、注目部位の距離とに基づいて、実空間における注目部位の長さを求める。即ち、撮像部270の画角と、画像上の注目部位の長さから、撮像部270から見た注目部位の見込み角が分かる。処理部110は、この見込み角と注目部位の距離から実空間における注目部位の長さを求める。近似的には、見込み角と注目部位の距離を乗算したものが、実空間における注目部位の長さとなる。
処理部110は、注目部位の形状を算出する際に、傾き補正を行ってもよい。即ち、処理部110は、注目部位の周辺の距離から注目部位の傾きを算出し、画像上で算出された長さ等を傾き補正することで、注目部位が撮像部270に正対したときの長さ等に換算し、その補正された長さ等の情報を、被写体5の形状情報として出力する。
処理部110は、注目部位の形状だけでなく、2つの部位の間の距離を求めてもよい。例えば、大腸内視鏡において、ポリープと肛門の距離を測定することが想定される。2つの部位が離れていて1つの画像内に写らない場合には、その経路を分割して距離を測定する。即ち、処理部110は、2つの部位の間の経路において複数のパターン画像を取得し、各パターン画像から算出した距離を接続して2つの部位の間の距離を算出する。病変と肛門の距離は、機能温存手術の適用対象であるか否かを判断する材料となる。
本実施形態では、内視鏡システム10はパターン光PT1~PT3と観察用照明光を切り替えて被写体5に照射し、パターン光PT1~PT3による画像と、観察画像とを、1フレーム単位で取得する。この動作の一例として、以下に2つの例を示す。以下、パターン光PT1~PT3が投影されたときに撮像された画像をパターン画像と呼ぶ。
図2は、内視鏡システム10の第1動作例を説明する図である。観察用照明光出射部260は、連続するフレームF1~F7のうちF1、F3、F5、F7において観察用照明光を出射する。図2では、波形のハイレベルが点灯を意味し、ローレベルが消灯を意味する。撮像部270は、観察用照明光が出射されるフレームF1、F3、F5、F7において撮像を行う。この画像が観察画像となる。
パターン光投影部250は、観察用照明光が出射されないフレームにおいてパターン光PT1~PT3を投影する。図2では、例えばトリガ信号が入力された後のフレームF4においてパターン光投影部250がパターン光PT1~PT3を投影し、撮像部270がパターン画像を撮像する。図2では、波形のハイレベルがパターン光PT1~PT3の投影を意味し、ローレベルがパターン光PT1~PT3の消灯を意味する。パターン光PT1~PT3を投影する時間は任意であるが、測距精度の点からは短い方がよい。その時間は、例えばパターン光PT1~PT3の輝度と必要な測距精度等に基づいて設定されればよい。処理部110は、フレームF4において撮像されたパターン画像に基づいて測距処理を行う。図2では、波形のハイレベルが測距処理の実行を意味する。なお、内視鏡においては、観察用光源の光量不足の問題で、観察画像を取得するための蓄積時間をできるだけ長くしたい場合がある。この場合は図2の2フレーム分を1フレームとして観察画像を取得して、トリガ信号入力時のみ観察画像の取得を中止してパターン光を照射し、パターン画像を取得することが考えられる。この場合、観察画像を表示する際に、前のフレームの観察画像を表示する等の工夫が必要になる。
トリガ信号は、例えばユーザ操作により処理部110に入力される。例えば、スコープ操作部に測距指示用のボタンが設けられ、そのボタンが押されたときにスコープ操作部から処理部110にトリガ信号が入力される。或いは、トリガ信号は処理部110の内部で生成されてもよい。例えば処理部110が観察画像内に注目部位が存在するか否かの判定を行い、観察画像内に注目部位を検出したときにトリガ信号を発生させる。注目部位は、例えばガン又はポリープ等の病変部である。処理部110は、AI処理等によって注目部位を検出し、トリガ信号を発生させる。また処理部110は、AI処理により検出した注目部位の測距結果を用いて更にAI処理を行うことで、注目部位の判定精度を高めてもよい。例えば、AI処理は、測距により得られた注目部位のサイズ又は形状等を用いる。
図3は、内視鏡システム10の第2動作例を説明する図である。観察画像は、図2と同様に、フレームF1、F3、F5、F7において撮像される。図3では、トリガ信号に関係なく、観察用照明光が出射されない全てのフレームF2、F4、F6において、パターン光投影部250がパターン光PT1~PT3を投影し、撮像部270がパターン画像を撮像する。そして処理部110は、トリガ信号が入力されたときに測距処理を行う。即ち、処理部110は、トリガ信号が入力された後のフレームF4において撮像されたパターン画像に基づいて、測距処理を行う。この動作例では、各フレームのパターン画像を記録しておくことで、観察中に測距しなかったフレームについても、事後的に測距処理を行うことが可能となる。
図2、図3で説明したように、本実施形態では、パターン光投影部250はパターン光PT1~PT3を同時に被写体5に投影する。「同時に」とは、パターン光PT1~PT3の全てが投影されているタイミングが少なくとも存在することである。パターン光PT1~PT3の投影期間は一致しなくてもよいが、投影期間が一致することが、より望ましい。
本実施形態によれば、パターン光PT1~PT3が同時に投影されるので、各パターン光に対して1フレームずつ撮像する手法に比べて、時間差なくパターン光PT1~PT3が投影される。これにより、生体等の動きのある被写体に対して同時に3つのパターン光によるパターン画像が得られ、高精度な測距が可能となる。
また本実施形態では、第1フレームにおいて、観察用照明光出射部260は観察用照明光を被写体5に出射し、撮像部270は観察画像を撮像する。第1フレームとは異なる第2フレームにおいて、パターン光投影部250はパターン光PT1~PT3を被写体5に投影し、撮像部270はパターン画像を撮像する。第1フレームは、図2と図3のF1、F3、F5、F7のいずれかに対応する。第2フレームは、図2のF4、又は図3のF2、F4、F6のいずれかに対応する。
本実施形態によれば、観察画像を撮像してユーザに提示すると共に、そのバックグランドで測距を行い、その測距により得られた距離又は形状の情報を観察画像と共にユーザに提示することが可能となる。
2.光源の波長、及び測距処理
図4は、パターン光PT1~PT3の波長λ1~λ3を説明する図である。図4には、ヘモグロビンHbと酸化ヘモグロビンHbOの分光特性を示す。なお以下では、ヘモグロビンHbと酸化ヘモグロビンHbOを合わせて単にヘモグロビンと呼ぶ。
医療用内視鏡において観察対象は生体内であるが、生体の分光特性は主にヘモグロビンの分光特性により決まる。このため、本実施形態ではパターン光PT1~PT3の波長λ1~λ3をヘモグロビンの分光特性に基づいて設定する。
従来のストラクチャードライト方式では単色光を用いられているが、これは、被写体の分光特性に左右されずに各パターンの反射率を等しくするためである。本実施形態のように互いに異なる波長λ1~λ3を用いる場合には、各波長における被写体の反射率が同じであることが望ましいため、ヘモグロビンの分光特性において吸収係数ができるだけ平坦な波長領域を用いる。即ち、450nm以下の領域に存在する大きな吸収ピーク、及びその周辺の吸収係数変化が大きい領域を避けて、波長λ1~λ3を設定する。
具体的には、パターン光PT1~PT3の波長λ1~λ3は、460nm以上700nm以下の範囲に属する。460nm以上700nm以下の範囲において、ヘモグロビンの分光特性は変化が小さいため、各パターンの反射率がほぼ同じになる。更に、パターン光PT1~PT3の波長λ1~λ3は、460nm以上520nm以下の範囲に属することが望ましい。460nm以上520nm以下の範囲では、460nm以上700nm以下の範囲に比べて、ヘモグロビンの分光特性の変化が更に小さい。
医療用内視鏡が対象とする粘膜は表面付近に多くの毛細血管を有する。図4に示すように、460nm以下の波長領域においてヘモグロビンの吸収が大きいため、毛細血管のある位置において460nm以下の波長の戻り光は非常に弱くなる。ストラクチャードライト方式では、パターン光PT1~PT3の各点での光量比から距離を測定するので、パターンが持つ光の強弱以外の要因、即ち毛細血管等の反射率の違いによる戻り光の強弱があると、正確な測距ができなくなる。例えばパターン光PT1~PT3のうち1つが460nm以下の波長であった場合、そのパターン光は他のパターン光に比べて毛細血管からの戻り光が非常に弱くなるため、光量比が不正確になり、毛細血管の位置における距離が正確に測定できない。本実施形態では、パターン光PT1~PT3の波長を460nm以上700nm以下の範囲、又は460nm以上520nm以下の範囲に設定することで、戻り光の光量比が正確になり、正確な測距が可能となる。
次に、パターン光PT1~PT3を同時に照射して撮像された画像から距離を求める測距処理について説明する。以下、λ1=520nm、λ2=500nm、λ3=480nmである場合を例に説明する。
図5は、撮像部270が有するイメージセンサの分光特性の一例である。イメージセンサは、第1~第n色の光を受光する第1~第n色画素を有する。ここでは、n=3とし、イメージセンサはRGB原色ベイヤ型であるとし、Rを第1色とし、Gを第2色とし、Bを第3色とする。図5において、KRはR画素の相対感度であり、KGはG画素の相対感度であり、KBはB画素の相対感度である。
図5に示すように、第i色画素の第j波長λjにおける感度をaijとする。i、jは1以上n以下の整数である。処理部110は、感度aijと、パターン画像におけるR、G、Bの強度値p、p、pとに基づいて、各パターン光が投影されたときの被写体5の像を抽出する。そして処理部110は、各パターン光が投影されたときの被写体5の像に基づく位相から、被写体5までの距離又は被写体5の形状を算出する。以下、この処理の詳細について説明する。
まず、パターン画像から取得可能なR、G、Bの強度値p、p、pと、求める対象である各パターン光が投影されたときの被写体5の像との間には、下式(1)の関係がある。qは、波長λ1のパターン光PT1が投影されたときの被写体5の像における強度値である。同様に、q、qは、波長λ2、λ3のパターン光PT2、PT3が投影されたときの被写体5の像における強度値である。パターン画像における位置を(x,y)とする。位置(x,y)は例えば画素座標である。下式(1)において、左辺のq、q、qと右辺のp、p、pは、同じ位置(x,y)に関する強度値である。
Figure 0007451679000001
ijを要素とする行列をAとする。行列Aの各行ベクトルが1次独立となるように、即ち(a11,a12,a13)と(a21,a22,a23)と(a31,a32,a33)が1次独立となるように、波長λ1~λ3を選択しておく。そうすると、行列Aは逆行列を有するので、上式(1)を下式(2)に変形できる。処理部110は、下式(2)を用いて各(x,y)における強度値q、q、qを算出する。
Figure 0007451679000002
なお、下式(3)(4)は、上式(1)(2)の記載形式を別の形式に書き替えたものであるが、意味は同じである。Aijは、行列Aのij成分を意味する。
Figure 0007451679000003
Figure 0007451679000004
処理部110は、下式(5)に示すように、LUT(Look Up Tabel)を用いて強度値q、q、qを位相WPhに変換する。LUTは、強度値q、q、qの組み合わせと位相WPhとが対応付けられたテーブルであり、制御装置100内のメモリ等に予め格納しておく。位相WPhはラップされた位相であり、処理部110は、位相WPhをアンラップ処理し、そのアンラップ処理後の位相から距離を求める。アンラップ処理は、縞の周期の境界で不連続となっている位相を接続することで、連続した位相に変換する処理である。即ち、ラップされた位相において、1つの縞の位相が0~360度であり、その隣りの縞が再び0~360度であるが、アンラップ処理は、これらの位相を0~720度に接続する処理である。
Figure 0007451679000005
ある基準の距離に基準面を設定したとすると、その基準面におけるパターン光の位相が決まる。この基準となる位相と、上記処理によって求めた位相との差が、基準面と被写体5の相対的な距離を示す。即ち、処理部110は、所定の基準となる位相と、上記処理によって求めた位相との差から、被写体5までの距離を算出する。
図1において光源S1~S3の位置が十分近いと近似できる場合には、下式(6)に示すように関数演算により位相WPhを求めてもよい。arctan2は、引数をv/uとしたときuv直交座標における点(u,v)の偏角を求める関数である。arctan2の引数uは負であってもよく、値域は-π~+πである。
Figure 0007451679000006
本実施形態によれば、パターン光PT1~PT3が同時に投影された1フレームの画像から位相を決定することが可能であり、その位相を用いて被写体5までの距離を算出できる。また、全空間テーブル化手法を用いれば、各点のパターン光PT1~PT3の比率を位相に換算することなく、距離を計測することが可能である。
3.詳細構成例
図6は、内視鏡システム10の第1詳細構成例である。内視鏡システム10は、スコープ200と制御装置100と表示部300とを含む。なお図1等で既に説明した構成要素には同一の符号を付し、その構成要素の説明を適宜に省略する。
スコープ200は、生体内に挿入される軟性部210と、操作部220と、スコープ200を制御装置100に接続するコネクタ240と、操作部220と、コネクタ240を接続するユニバーサルコード230と、を含む。
パターン光投影部250と観察用照明光出射部260と撮像部270は、軟性部210の先端に設けられる。軟性部210の先端と反対側の端部は操作部220に接続される。操作部220は、軟性部210のアングル操作、処置具の操作、送気及び送水の操作等を行うための装置である。軟性部210と操作部220とユニバーサルコード230の内部には、光ファイバ251とライトガイド261と信号線271とが設けられる。光ファイバ251はパターン光投影部250とコネクタ240を接続する。ライトガイド261は観察用照明光出射部260とコネクタ240を接続する。信号線271は撮像部270とコネクタ240を接続する。光ファイバ251、ライトガイド261及び信号線271は、コネクタ240により制御装置100内の光ファイバ、ライトガイド及び信号線に接続される。
制御装置100は、処理部110と記憶部120とパターン光源150と観察用光源160とを含む。
観察用光源160は、観察用照明光を発生する光源である。観察用光源160は、白色光源と、白色光源が出射した光をライトガイドに入射させる光学系と、を含む。白色光源は、例えばキセノンランプ又は白色LEDである。
パターン光源150は、波長λ1~λ3のレーザ光を出射する光源である。パターン光源150は、波長λ1~λ3のレーザ光を発生する第1~第3レーザダイオードと、第1~第3レーザダイオードが出射したレーザ光を光ファイバに入射させる光学系と、を含む。
記憶部120は、メモリ又はハードディスクドライブ等の記憶装置である。メモリは半導体メモリであり、RAM等の揮発性メモリ、又はEEPROM等の不揮発性メモリである。記憶部120は、処理部110の動作に必要なプログラム及びデータ等を記憶する。また記憶部120は、上式(5)で説明したLUTをテーブル121として記憶する。上式(6)のように関数演算により位相を求める場合には、テーブル121が省略されてもよい。
処理部110は、光源コントローラ111と画像処理部112と測距処理部113と画像出力部114とを含む。これらの各部は個別のハードウェア回路により実現されてもよい。或いは、各部の動作を記述したプログラムをプロセッサが実行することで、各部の機能が実現されてもよい。
光源コントローラ111は、パターン光源150と観察用光源160を制御する。即ち、光源コントローラ111は、パターン光源150と観察用光源160の発光タイミング、発光期間、及び光量を制御する。
画像処理部112は、撮像部270から信号線271を介して入力される画像信号に対して画像処理を行う。画像処理部112は、RAW画像からRGBカラー画像を生成する処理を行う。また画像処理部112は、例えばホワイトバランス処理、階調処理、又は強調処理等を行ってもよい。観察用照明光が出射されるフレームで画像処理部112が出力する画像が観察画像であり、パターン光が投影されるフレームで画像処理部112が出力する画像がパターン画像である。
測距処理部113は、上式(1)~(6)で説明した測距処理を行うことで、被写体の各位置までの距離をパターン画像から求める。また測距処理部113は、被写体の各位置までの距離から形状を求める。上述したように、形状は、注目領域の短径、長径、幅、長さ、高さ、又は深さ等である。以下、距離又は形状の情報を、まとめて測距情報と呼ぶ。なお、測距処理部113は、パターン画像の全領域において各位置の距離を求めてもよいし、注目部位等の一部の領域のみにおいて各位置の距離を求めてもよい。また、測距処理部113は、ユーザにより指定された点の間の長さ又は高さ等を形状情報として求めてもよい。
測距処理部113は、形状の算出対象である注目部位の周辺までの距離に基づいて、注目部位の傾きを算出し、その傾きに基づいて注目部位の形状を傾き補正してもよい。例えば、後述するAI処理等によって処理部110は注目部位を検出する。測距処理部113は、注目部位の周辺における3点以上の距離を求め、その距離に基づいて、注目部位の周辺における被写体表面の傾きを求める。傾きとは、撮像部270のカメラ視線と面の成す角度である。測距処理部113は、撮像部270に対して被写体表面が正対するように射影変換を行うことで、その正対した被写体における注目部位の形状を求める。ここでの形状は、いわゆるサイズであり、例えば長さ、幅、長径又は短径等である。
画像出力部114は、観察画像と測距情報に基づいて表示画像を表示部300に出力する。表示部300は、液晶表示装置又はEL表示装置等のディスプレイである。画像出力部114は、表示部300の表示領域に、例えば観察画像301と測距情報302とを並べて表示させる。或いは、画像出力部114は、観察画像に測距情報を重畳して表示させてもよい。例えば注目領域に、その注目領域の形状を示す情報を重ねてもよい。
具体的には、画像処理部112は、第1フレームにおいて撮像部270により撮像された画像に基づいて観察画像を生成する。画像出力部114は、観察画像301を表示部300に表示させる。第1フレームは図2又は図3のF1、F3、F5、F7のいずれかに対応する。測距処理部113は、観察画像301の表示のバックグランド処理として、第1フレームにおいて撮像部270により撮像された画像に基づいて被写体までの距離又は被写体の形状を算出する。第2フレームは、図2のF4、又は図3のF2、F4、F6のいずれかに対応する。画像出力部114は、被写体までの距離又は被写体の形状に基づく測距情報302を観察画像301に付加して表示部300に表示させる。
なお、図6ではパターン光源150は制御装置100に設けられるが、パターン光源150は、スコープ200の操作部220に設けられてもよい。また、図6ではパターン光源150と観察用光源160を別に設けたが、観察用光源160に共通化してもよい。この場合、観察用光源160と観察用照明光出射部260を接続する光ファイバをスコープ200内で分岐し、その分岐した光ファイバをパターン光投影部250に接続する。これにより、パターン光投影部250と制御装置100の接続を省略できる。
図7は、内視鏡システム10の第2詳細構成例である。図7では、処理部110がAI処理部115を更に含む。なお図1と図6等で既に説明した構成要素には同一の符号を付し、その構成要素の説明を適宜に省略する。
画像処理部112は、第1フレームにおいて撮像部270により撮像された画像に基づいて観察画像を生成する。第1フレームは図2又は図3のF1、F3、F5、F7のいずれかに対応する。測距処理部113は、第2フレームにおいて撮像部により撮像された画像に基づいて被写体までの距離又は被写体の形状を算出する。第2フレームは、図2のF4、又は図3のF2、F4、F6のいずれかに対応する。AI処理部115は、観察画像と、被写体までの距離又は被写体の形状とに基づくAI処理により、注目部位の存在の検出又は状態の判別に係る判定を行う。注目部位の存在の検出とは、検出対象の注目部位が画像内に存在するか否かを検出することである。注目部位の状態の判別とは、注目部位の状態を示す分類カテゴリを判別することである。分類カテゴリとしては、例えばガン又はポリープ等の病変種類、或いはガンのステージ等の進行度を示す指標等である。
図2を例に、より詳細に説明する。フレームF1で撮像された観察画像がAI処理部115に入力され、その観察画像に基づいてAI処理部115がAI処理により注目部位を検出する。AI処理部115は、注目部位が検出された場合にトリガ信号を測距処理部113に出力する。測距処理部113は、トリガ信号が入力された後のフレームF4で撮像された画像に基づいて、被写体までの距離又は被写体の形状を算出し、その被写体までの距離又は被写体の形状をAI処理部115に入力する。またAI処理部115には、フレームF3又はF5等で撮像された観察画像が入力される。AI処理部115は、観察画像と、被写体までの距離又は被写体の形状とに基づいて、注目部位の存在の検出又は状態の判別に係る判定を行う。この2回目の判定結果は、再びトリガ信号を生成するために用いられてもよい。或いは、2回目の判定結果は画像出力部130に出力されてもよく、画像出力部130が、観察画像に判定結果を付与して表示部300に表示させてもよい。
図8は、パターン光投影部250の第1詳細構成例である。パターン光投影部250は、入射部256とDOE253とスリット部252とを含む。入射部256は、波長λ1~λ3の成分を含む平行光をDOE253に入射させる。スリット部252は、DOE253の出射光が入射され、波長λ1~λ3のパターン光PT1~PT3を被写体5に投影する。
本実施形態によれば、レーザ光源であるパターン光源150が制御装置100に設けられ、DOE253等で構成されたシンプルな光学系のみがスコープ200の先端に設けられる。これにより、スコープ200を細径化できると共に、レーザ光源により高輝度のパターン光PT1~PT3を投影できる。生体等の動きがある被写体を高精度に測距するためには、パターン光PT1~PT3の発光時間が出来るだけ短い必要があるが、レーザ光源を用いることで発光時間を短縮できる。レーザ光源は発光ダイオード等と比べて素子が大きいが、DOE253等を用いた構成としたことで、レーザ光源を制御装置100に設け、スコープ200を細径化することが可能となっている。また、発光ダイオード等の発熱源をスコープ200先端に設ける必要がないため、スコープ200先端の不要な発熱を防ぐことができる。
以下、図8の構成の詳細を説明する。入射部256は、レーザ光を導光する光ファイバ251と、光ファイバ251の出射光を平行光にするコリメートレンズ254と、を含む。波長λ1~λ3のレーザ光は、1本の光ファイバ251により導光され、光ファイバ251の出射端から拡散する。その拡散するレーザ光をコリメートレンズ254が平行光にする。
DOE253は、平行光に含まれる波長λ1~λ3の成分を、互いに位置が異なる第1~第3ライン状光LL1~LL3に収束させる。スリット部252は、互いに平行な複数のスリットを有する。そして、ライン状光LL1~LL3が複数のスリットを通過することで、パターン光PT1~PT3が被写体に投影される。
ライン状光LL1~LL3は、スリット部252に対して光を出射する仮想的な光源とし機能し、図1の光源S1~S3に対応している。各ライン状光は、スリット部252のスリットに平行である。ライン状光LL1~LL3は、スリット部252の平面に平行な方向で且つスリットに直交する方向において、異なる位置に配置されている。
DOE253は、回折現象を利用して出射光を特定の形状に制御する光学素子である。特定の形状は、DOE253の微細構造によって決まっており、その微細構造を設計することで所望の形状の光が得られる。本実施形態では、DOE253は、入射される平行光のm次回折光を所定の焦点距離にライン状に収束させる。m次回折光の収束位置は波長に応じて異なる。入射光は波長λ1~λ3の成分を有するので、各波長のm次回折光が、互いに異なる位置のライン状光LL1~LL3として収束される。なお、mは1以上の整数である。ここでは単にm次と記載しているが、m次は+m次又は-m次のいずれであってもよい。
DOE253は、0次、1次、2次、・・・の回折光のうちm次回折光を選択的に収束させる。即ち、DOE253が出射するm次回折光は、m次以外の回折光よりも強度が高い。より具体的には、DOE253は、0次、1次、2次、・・・の回折光のうち、ほぼm次回折光のみを出射する。
レーザ光の波長λ1~λ3は、例えば等間隔である。この場合、DOE253は、等間隔にライン状光LL1~LL3を収束させる。ここでの「間隔」は、スリット部252の平面に平行な方向で且つスリットに直交する方向における間隔である。ライン状光LL1~LL3が等間隔であることで、パターン光PT1~PT3の位相が等間隔となる。これにより、ストラクチャードライト方式に適したパターン光を発生できる。また、上式(6)で説明した関数演算を用いる場合には、パターン光PT1~PT3の位相が等間隔となっている必要がある。なお、レーザ光の波長λ1~λ3は非等間隔であってもよいし、DOE253が収束させるライン状光LL1~LL3は非等間隔であってもよい。この場合であっても、上式(5)で説明したように、LUTを用いることでパターン画像を距離に変換できる。

図9は、パターン光投影部250の第2詳細構成例である。図9では、パターン光投影部250がマスク部255を更に含む。なお図8で説明した構成要素には同一の符号を付し、その構成要素についての説明を適宜に省略する。
マスク部255は、DOE253とスリット部252の間に設けられる。マスク部255は、m次回折光によるライン状光LL1~LL3を通過させ、m次以外の回折光をマスクする。図9には、マスク部255が、1次回折光によるライン状光LL1~LL3を通過させ、0次、2次等の1次以外の回折光をマスクする例を示す。マスク部255は、スリット部252に平行な板状部材であり、その板状部材に開口が設けられる。その開口をライン状光LL1~LL3が通過するように、マスク部255が設置される。
DOE253はm次回折光を選択的に収束させるが、DOE253の出射光にはm次以外の回折光も含まれる。このm次以外の回折光がスリット部252を通過すると、本来のパターン光PT1~PT3以外の不要なパターン光が混入し、測距精度が低下するおそれがある。本実施形態によれば、マスク部255を設けたことで、m次以外の回折光がマスクされるので、本来のパターン光PT1~PT3のみが投影され、高精度な測距が可能となる。
図6において、処理部110はAI処理により診断支援情報を生成してもよい。この場合、記憶部120は、診断支援情報を生成するように学習された学習済みモデルを記憶し、処理部110は、その学習済みモデルを用いたAI処理を実行することで、診断支援情報を生成する。以下、AI処理の内容を説明する。
処理部110は、観察画像内において注目部位が指定されたとき、被写体の距離情報を取得し、その距離情報に基づいて注目部位の長さ又は高さ等を測定する。注目部位は、例えばユーザ操作により指定される。或いは、処理部110が、観察画像に対してAI画像認識を行うことで注目部位を検出し、それによって注目部位が指定されてもよい。処理部110は、取得された注目部位の長さ又は高さ等と、観察画像とをAI処理の入力として、診断支援情報を生成する。診断支援情報は、例えば病変か否か、病変の種類、病変の悪性度、又は病変の形状等の推定情報である。処理部110の画像出力部114は、診断支援情報を観察画像と共に表示部300に表示させる。
処理部110は、事後処理により上記診断支援情報を生成してもよい。即ち、記憶部120が観察画像及びパターン画像を記録しておき、処理部110が、記憶部120に記録された観察画像及びパターン画像を用いて上記AI処理を実行してもよい。
以上、本実施形態およびその変形例について説明したが、本開示は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、本開示の主旨を逸脱しない範囲内において種々の変形や応用が可能である。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
5 被写体、10 内視鏡システム、100 制御装置、110 処理部、111 光源コントローラ、112 画像処理部、113 測距処理部、114 画像出力部、115 AI処理部、120 記憶部、121 テーブル、150 パターン光源、151 光ファイバ、160 観察用光源、200 スコープ、210 軟性部、220 操作部、230 ユニバーサルコード、240 コネクタ、250 パターン光投影部、251 光ファイバ、252 スリット部、253 DOE、254 コリメートレンズ、255 マスク部、256 入射部、260 観察用照明光出射部、261 ライトガイド、270 撮像部、271 信号線、300 表示部、301 観察画像、302 測距情報、LL1~LL3 ライン状光、PT1~PT3 パターン光、λ1~λ3 波長

Claims (16)

  1. 第1~第n波長の光を出射する光源と、
    前記第1~第n波長の光を平行光にするレンズと、
    前記平行光に含まれる第1~第n波長の光の成分を、互いに位置が異なる第1~第nライン状光に収束させるDOE(Diffract ive Optical Element)と、
    前記第1~第nライン状光に基づいて、第1~第nパターン光を被写体に投影するスリットと、
    第1~第nパターン光が投影された前記被写体の像を1フレームの画像として撮像するイメージャと、
    前記イメージャにより撮像された前記画像に基づいて、前記被写体までの距離又は前記被写体の形状を算出する様に構成されたプロセッサと、
    を含むことを特徴とする内視鏡システム。
  2. 請求項1において、
    前記光源、前記レンズ、前記DOE及び前記スリットは、
    前記1フレームの画像が撮像されるフレームにおいて、前記第1~第nパターン光を同時に前記被写体に投影することを特徴とする内視鏡システム。
  3. 請求項1おいて、
    観察用照明光を射する観察用光源を含み、
    第1フレームにおいて、前記観察用光源は前記観察用照明光を射し、前記イメージャは、前記観察用照明光により照明された前記被写体の像を撮像し、
    前記第1フレームとは異なる第2フレームにおいて、前記光源、前記レンズ、前記DOE及び前記スリットは前記第1~第nパターン光を前記被写体に投影し、前記イメージャは、前記第1~第nパターン光が投影された前記被写体の像を撮像することを特徴とする内視鏡システム。
  4. 請求項3において、
    前記プロセッサは、
    前記第1フレームにおいて前記イメージャにより撮像された画像に基づいて観察画像を生成し、
    前記第2フレームにおいて前記イメージャにより撮像された画像に基づいて前記距離又は前記形状を算出し、
    前記観察画像と、前記距離又は前記形状とに基づくAI処理により、注目部位の存在の検出又は状態の判別に係る判定を行うことを特徴とする内視鏡システム。
  5. 請求項3において、
    前記プロセッサは、
    前記第1フレームにおいて前記イメージャにより撮像された画像に基づいて観察画像を生成し、前記観察画像をディスプレイに表示させ、
    前記観察画像の表示のバックグランド処理として、前記第2フレームにおいて前記イメージャにより撮像された画像に基づいて前記距離又は前記形状を算出し、
    前記距離又は前記形状に基づく情報を前記観察画像に付加して前記ディスプレイに表示させることを特徴とする内視鏡システム。
  6. 請求項1おいて、
    前記第1~第nパターン光の波長は、460nm以上700nm以下の範囲に属することを特徴とする内視鏡システム。
  7. 請求項6において、
    前記第1~第nパターン光の波長は、460nm以上520nm以下の範囲に属することを特徴とする内視鏡システム。
  8. 請求項1おいて、
    前記イメージャは、
    第1~第n色の光を受光する第1~第n色画素を有するイメージセンサを含み、
    前記第1~第nパターン光の波長を第1~第n波長とし、前記第i色画素(iは1以上n以下の整数)の前記第j波長(jは1以上n以下の整数)における感度をaijとしたとき、
    前記プロセッサは、
    前記感度aijと、前記1フレームの画像における前記第1~第n色の強度値とに基づいて、前記第1~第nパターン光の各パターン光が投影されたときの前記被写体の像を抽出し、前記各パターン光が投影されたときの前記被写体の像に基づく位相から、前記被写体までの前記距離又は前記被写体の前記形状を算出することを特徴とする内視鏡システム。
  9. 請求項8において、
    n=3であり、
    前記第1~第n色は、R、G及びBであり、
    前記aijを要素とする行列Aの各行ベクトルは1次独立であり、
    前記プロセッサは、
    前記1フレームの画像の各位置において、前記第i色の強度値pに対して
    =(A-1ji
    の演算を行うことで、前記第jパターン光が投影された前記被写体の像の前記各位置における強度値qを決定し、前記強度値qに基づく位相から、前記被写体までの前記距離又は前記被写体の前記形状を算出することを特徴とする内視鏡システム。
  10. 請求項1において、
    前記プロセッサは、
    前記形状の算出対象である注目部位の周辺までの前記距離に基づいて、前記注目部位の傾きを算出し、前記傾きに基づいて前記注目部位の前記形状を傾き補正することを特徴とする内視鏡システム。
  11. 請求項において、
    前記DOEは、
    前記平行光に含まれる前記第1~第n波長の成分のm次回折光(mは1以上の整数)を出射し、
    前記m次回折光は、m次以外の回折光よりも強度が高いことを特徴とする内視鏡システム。
  12. 請求項において、
    前記DOEと前記スリットの間に設けられるマスクを含み、
    前記DOEは、
    前記平行光に含まれる前記第1~第n波長の成分のm次回折光を出射し、
    前記m次回折光は、m次以外の回折光よりも強度が高く、
    前記マスクは、
    記m次回折光による前記第1~第nライン状光を通過させ、前記m次以外の回折光をマスクするとを特徴とする内視鏡システム。
  13. 請求項1において、
    前記第1~第n波長は、等間隔であることを特徴とする内視鏡システム。
  14. 請求項において、
    光ファイバを含み、
    前記光源は、前記第1~第n波長のレーザ光を出射
    前記光ファイバは、前記レーザ光を導光
    前記レンズは、前記光ファイバの出射光を前記平行光にするコリメートレンズであることを特徴とする内視鏡システム。
  15. 第1~第n波長の光を平行光にするレンズと、
    前記平行光に含まれる第1~第n波長の光の成分を、互いに位置が異なる第1~第nライン状光に収束させるDOE(Diffract ive Optical Element)と、
    前記第1~第nライン状光に基づいて、第1~第nパターン光を被写体に投影するスリットと、
    前記第1~第nパターン光が投影された前記被写体の像を1フレームの画像として撮像するイメージャと、
    を含むことを特徴とする内視鏡。
  16. 光源が、第1~第n波長の光を出射し、
    レンズが、前記第1~第n波長の光を平行光にし、
    DOE(Diffract ive Optical Element)が、前記平行光に含まれる第1~第n波長の光の成分を、互いに位置が異なる第1~第nライン状光に収束させ、
    スリットが、前記第1~第nライン状光に基づいて、第1~第nパターン光を被写体に出射し、
    イメージャが、第1~第nパターン光が出射された前記被写体の像を1フレームの画像として撮像し、
    プロセッサが、前記イメージャにより撮像された前記画像に基づいて、前記被写体までの距離又は前記被写体の形状を算出することを特徴とする距離算出方法。
JP2022507037A 2020-03-10 2020-03-10 内視鏡システム、内視鏡及び距離算出方法 Active JP7451679B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/010203 WO2021181508A1 (ja) 2020-03-10 2020-03-10 内視鏡システム

Publications (3)

Publication Number Publication Date
JPWO2021181508A1 JPWO2021181508A1 (ja) 2021-09-16
JPWO2021181508A5 JPWO2021181508A5 (ja) 2022-11-04
JP7451679B2 true JP7451679B2 (ja) 2024-03-18

Family

ID=77671260

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022507037A Active JP7451679B2 (ja) 2020-03-10 2020-03-10 内視鏡システム、内視鏡及び距離算出方法

Country Status (4)

Country Link
US (1) US20230000331A1 (ja)
JP (1) JP7451679B2 (ja)
CN (1) CN115243597A (ja)
WO (1) WO2021181508A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006314557A (ja) 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
US20090225321A1 (en) 2008-03-05 2009-09-10 Clark Alexander Bendall Fringe projection system and method for a probe suitable for phase-shift analysis
JP2015531271A (ja) 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置
JP2017070609A (ja) 2015-10-09 2017-04-13 サイバネットシステム株式会社 画像処理装置及び画像処理方法
JP2017536171A (ja) 2014-11-06 2017-12-07 ソニー株式会社 軸上色収差を有するレンズを含む撮像システム、内視鏡及び撮像方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006314557A (ja) 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
US20090225321A1 (en) 2008-03-05 2009-09-10 Clark Alexander Bendall Fringe projection system and method for a probe suitable for phase-shift analysis
JP2015531271A (ja) 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置
JP2017536171A (ja) 2014-11-06 2017-12-07 ソニー株式会社 軸上色収差を有するレンズを含む撮像システム、内視鏡及び撮像方法
JP2017070609A (ja) 2015-10-09 2017-04-13 サイバネットシステム株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
CN115243597A (zh) 2022-10-25
WO2021181508A1 (ja) 2021-09-16
JPWO2021181508A1 (ja) 2021-09-16
US20230000331A1 (en) 2023-01-05

Similar Documents

Publication Publication Date Title
US10104363B2 (en) Optical system in 3D focus scanner
US10383549B2 (en) Intraoral three-dimensional measuring device, intraoral three-dimensional measuring method, and intraoral three-dimensional measurement result display method
US8577212B2 (en) Handheld dental camera and method for carrying out optical 3D measurement
US20180213207A1 (en) Endoscope employing structured light providing physiological feature size measurement
JP6454489B2 (ja) 観察システム
US9300931B2 (en) Image pickup system
US10806336B2 (en) Endoscopic diagnosis apparatus, lesion portion size measurement method, program, and recording medium
CN110891471B (zh) 采用结构光提供生理特征尺寸测量的内窥镜
TWI597042B (zh) Endoscopic with distance measuring function and distance measuring method
JP2023099679A (ja) 内視鏡システム及び、データ作成方法
JP7451679B2 (ja) 内視鏡システム、内視鏡及び距離算出方法
JP6738465B2 (ja) 内視鏡システム
CN106576136B (zh) 摄像装置、摄像装置的工作方法
JP2021510337A (ja) 内視鏡非接触測定デバイス
JP2002065585A (ja) 内視鏡装置
US20170192219A1 (en) Image generating system, image generating method, and image generating apparatus
US20230194851A1 (en) Endoscope System with Adaptive Lighting Control
WO2017064746A1 (ja) 撮像装置、内視鏡装置及び撮像方法
JP2020069308A (ja) 内視鏡システム
JP2017086803A (ja) 計測装置、内視鏡システム、及び計測方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220905

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240306

R151 Written notification of patent or utility model registration

Ref document number: 7451679

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151