JP7480783B2 - 内視鏡システム、制御装置、および制御方法 - Google Patents

内視鏡システム、制御装置、および制御方法 Download PDF

Info

Publication number
JP7480783B2
JP7480783B2 JP2021537663A JP2021537663A JP7480783B2 JP 7480783 B2 JP7480783 B2 JP 7480783B2 JP 2021537663 A JP2021537663 A JP 2021537663A JP 2021537663 A JP2021537663 A JP 2021537663A JP 7480783 B2 JP7480783 B2 JP 7480783B2
Authority
JP
Japan
Prior art keywords
image
oblique
cut
rigid scope
entire image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021537663A
Other languages
English (en)
Other versions
JPWO2021024754A1 (ja
Inventor
素明 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2021024754A1 publication Critical patent/JPWO2021024754A1/ja
Application granted granted Critical
Publication of JP7480783B2 publication Critical patent/JP7480783B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00174Optical arrangements characterised by the viewing angles
    • A61B1/00179Optical arrangements characterised by the viewing angles for off-axis viewing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/06Panoramic objectives; So-called "sky lenses" including panoramic objectives having reflecting surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本開示は、内視鏡システム、制御装置、および制御方法に関し、特に、より良好な観察を行うことができるようにした内視鏡システム、制御装置、および制御方法に関する。
従来、低侵襲な手術として内視鏡を用いる手術が行われている。例えば、内視鏡による手術では、小さな切開部から体内に内視鏡を挿入して、病変部や処置すべき患部などを観察することができる。このとき、内視鏡により視認することが可能な範囲は、内視鏡の画角によって制限されるため、例えば、内視鏡の画角が60°~90°程度であるとき、狭い視野範囲で手術を行うことになる。これに対し、手術が安全に進められるようにするためには、限られた視野範囲の映像だけでなく、広範囲にわたって体内を観察可能とすることが望ましい。
そこで、特許文献1に開示されているように、超広角レンズを内視鏡に装着することによって、スコピストの操作がなくても視野範囲を広げることが試みられている超広角内視鏡が提案されている。
特許第3070022号公報
ところで、従来、内視鏡を操作するスコピストが、内視鏡の位置や角度を変更することによって視野方向を調整し、体内を広範囲に観察できるようにすることで、手術の安全性が高められている。しかしながら、良好な観察を行うためには、操作の工夫や経験による習熟など、スコピストの技能に依存することが多かった。
また、上述した特許文献1のように超広角レンズを内視鏡に装着した構成では、レンズ中心から離れるほど視野が歪むことになる。そのため、通常は、広範囲の視野の中から表示の中心点を指示し、その中心点を中心とした一定範囲に対して歪み補正処理を施した画像が表示される。しかしながら、この場合、スコピストが、ポインティングデバイスを用いて表示の中心点を指示する操作を行う必要があり、片手で内視鏡を保持しつつ、同時にポインティングデバイスを操作することになり、良好な観察を行うためには、より高い技能が必要となる。または、スコピストとは別の操作者がポインティングデバイスを操作する場合には、手術要員が増加するだけでなく、良好な観察を行うためには、スコピストおよび操作者の間で高度な連携が必要となる。
本開示は、このような状況に鑑みてなされたものであり、より良好な観察を行うことができるようにするものである。
本開示の一側面の内視鏡システムおよび制御装置は、硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される内視鏡から供給される、前記硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成する切り出し処理部と、前記カメラヘッドに対する相対的な前記硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ前記斜視画像の移動を指示する指示コマンドを取得する取得部と、前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させる領域設定部とを備える。
本開示の一側面の制御方法は、内視鏡システムの制御装置が、硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される内視鏡から供給される、前記硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成することと、前記カメラヘッドに対する相対的な前記硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ前記斜視画像の移動を指示する指示コマンドを取得することと、前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させることとを含む。
本開示の一側面においては、硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して硬性鏡を接続可能に構成される内視鏡から供給される、硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って全体画像の一部分が切り出されて、硬性鏡の光軸に対して斜め方向を見る斜視画像が生成され、カメラヘッドに対する相対的な硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ斜視画像の移動を指示する指示コマンドが取得され、その指示コマンドに従った方向へ、全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って切り出し領域が移動される。
本技術を適用した内視鏡システムの一実施の形態の構成例を示すブロック図である。 全体画像および直視画像の関係について説明する図である。 全体画像および斜視画像の関係について説明する図である。 回転操作が行われたときの斜視画像の表示について説明する図である。 表示画面の一例を示す図である。 制御装置の構成例を示すブロック図である。 制御処理の一例を説明するフローチャートである。 内視鏡の第2の構成例を示す図である。 第1のバリエーションの表示画面を示す図である。 第2のバリエーションの表示画面を示す図である。 第3のバリエーションの表示画面を示す図である。 第4のバリエーションの表示画面を示す図である。 第5のバリエーションの表示画面を示す図である。 回転操作中に斜視画像の表示内容の更新を停止する表示方法を説明する図である。 回転操作に応じて斜視画像の向きが回転するように移動する表示方法を説明する図である。 斜視画像の表示内容の上下方向を反転させる表示方法を説明する図である。 本技術を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
<内視鏡システムの構成例>
図1は、本技術を適用した内視鏡システムの一実施の形態の構成例を示すブロック図である。
図1において、内視鏡システム11は、表示装置12が載置されるカート13に、内視鏡下手術のための様々な装置が搭載されて構成され、例えば、内視鏡下手術に使用される内視鏡14により取得される画像に対する画像処理を施すことができる。
表示装置12は、内視鏡14により取得される画像や、その画像に対して画像処理が施された画像などを表示する。
カート13には、図1に示す例では、光源装置21、CCU(CCU:Camera Control Unit)22、および制御装置23が搭載されている。
光源装置21は、例えば、LED、キセノンランプ、ハロゲンランプ、レーザ光源、または、これらの組み合わせに相当する光源を備えて構成され、観察対象へ向けて照射されるべき照射光を、ライトガイドを通じて内視鏡14へ供給する。
CCU22は、カメラヘッド31に内蔵される撮像素子による撮像を制御し、その撮像素子が観察対象を撮像することにより得られる画像が供給される。
制御装置23は、内視鏡14により取得される画像に対する画像処理を制御する。なお、制御装置23の詳細な構成については、図6を参照して後述する。
内視鏡14は、カメラヘッド31および硬性鏡32が接続可能に構成され、硬性鏡32を介して高画角で術野を撮像する。
カメラヘッド31は、術野を撮像する撮像素子を有するカメラヘッド本体部41、硬性鏡32との接続に利用される内視鏡カプラ42、および、各種の操作を入力するための操作スイッチ43を有して構成される。
硬性鏡32は、鏡筒本体51、光源装置21に接続される光源接続部52、カメラヘッド31の内視鏡カプラ42に対して接続されるカプラ接続部53、および、回転操作を入力するための回転操作部54を有して構成される。
例えば、回転操作部54は、硬性鏡32を取り付ける内視鏡カプラ42の近傍に設けられており、鏡筒本体51に対して相対的に回転する機構によって、外周側のリング状部分が自在に回転可能となるように構成されている。そして、回転操作部54は、このリング状部分の回転量および回転速度を検出するロータリエンコーダを内蔵している。
このように内視鏡システム11は構成されており、術者やスコピストなどは、例えば、内視鏡14を把持したままで回転操作部54に対する回転操作を行うことができ、内視鏡14を安定して保持することができる。また、例えば、硬性鏡32そのものを回転させる従来の斜視ローテーション方法では、硬性鏡に配置されているライトガイドの取付け部が一緒に回転することによって、ライトガイドの絡みなどが発生しないように操作の慣れが必要となっていた。これに対し、内視鏡システム11では、回転操作部54を採用することで、硬性鏡32の向きを固定したまま回転操作部54に対する回転操作を行うことができるので、従来のような慣れを必要とすることがなく、ラーニングカーブを非常に短時間にすることができる。
図2乃至図4を参照して、内視鏡14により撮像される全体画像、並びに、その全体画像から切り出される直視画像および斜視画像について説明する。
図2において、実線で示されている正方形の領域は、内視鏡14の撮像素子の撮像エリアを表している。また、撮像エリアに内接するように、点線で示されている円形の領域が、硬性鏡32を介して撮像される全視野範囲を表しており、その視野範囲の画像が全体画像となる。つまり、全体画像は、硬性鏡32を介して撮像される画像の有効領域(ケラレが生じていない領域)となる略円形の画像であり、この有効領域の中心が全体画像の中心点となる。
そして、全体画像の中央において、破線で示されている長方形の領域が、全体画像から直視画像を切り出す範囲を示す切り出し領域を表している。即ち、全体画像の中央に設定される切り出し領域に従って全体画像を切り出すことで直視画像が生成される。
また、図2の下側には、硬性鏡32の鏡筒本体51の先端部分が示されており、硬性鏡32は、幾何学的に広い画角を有している。例えば、硬性鏡32の視野(FOV:Field of View)に対応する全体画像の画角αは略140°または略120°となっており、全体画像から切り出される直視画像の画角βは略80°の範囲に相当する。
ここで、内視鏡14の撮像素子としては、いわゆる4K解像度と称される4096×2304ドット以上であることが好適である。即ち、全体画像から直視画像または斜視画像を切り出す際に、手術において、十分な解像度を持つ映像を提供するためには、従来のHD(High Definition)解像度の撮像素子では、切り出して表示した際に解像度が低くなってしまう。そのため、従来のHD解像度の撮像素子は、内視鏡手術で使われる直視画像または斜視画像として十分な解像度を得ることができないことが懸念され、内視鏡14では、4K解像度の撮像素子が採用される。
また、図3のAに示されている全体画像において、破線で示されている長方形の領域が、全体画像から斜視画像を切り出す範囲を示す切り出し領域を表している。斜視画像の切り出し領域は、図2に示した直視画像の切り出し領域と同サイズであって、図3のAに示すように、全体画像の中央より下側であって、全体画像の内周に接する位置に設定される。
そして、図3のBには、斜視画像の切り出し領域に従って全体画像を切り出すことで生成される斜視画像が示されている。例えば、斜視画像の画角は、図2に示した直視画像と同様に、略80°の範囲に相当する。そして、図3のAに示すように全体画像の下側の内周に接する位置に設定される切り出し領域で全体画像から切り出された斜視画像は、光軸から下向き方向に略30°となる斜視角に相当する。なお、例えば、切り出し領域は、全体画像の中心点から外れた位置を中心に設定されていればよく、30°以下の斜視角に相当するように、全体画像の内周に接しない位置に設定してもよい。
なお、上述したようなFOVの値は、ここで説明したような値に限定されることなく、全体画像または斜視画像として観察を良好に行うことができるように適切な値に設定することができる。例えば、全体画像の画角αを略120°で、直視画像または斜視画像の画角βが略80°の範囲に相当するようにしてもよい。ここで、図3に示すように、全体画像から切り出された斜視画像は、正対姿勢状態で真下方向に向けられた斜視鏡によって撮像された画像に相当する。
そして、内視鏡システム11では、図1の回転操作部54に対する回転操作を行うことで、斜視画像の切り出し領域を全体画像の内周に沿って移動させることができる。
図4には、切り出し領域を全体画像の内周に沿って移動させたときの斜視画像の表示例が示されている。
例えば、図3に示したように真下方向の斜視画像が表示されているときに、回転操作部54に対して右回転方向(時計方向)の回転操作が行われると、図4のAに示すように、直視の中心軸を基準として、破線の長方形で示す切り出し領域が右回転方向へ全体画像に内周に沿って移動する。
このとき、切り出し領域は、図示するように、切り出し領域の向きが回転することなく、切り出し領域の移動方向が直視の中心軸を基準として回るように、例えば、切り出し領域の縦軸と全体画像の縦軸とが平行となったまま、切り出し領域の外形が全体画像の内周に接する状態で移動する。その結果、図4のBに示すように、切り出し領域に従って全体画像から切り出された斜視画像が表示される。なお、切り出し領域が全体画像の内周に接しない位置に設定されている場合には、全体画像の中心点を基準として切り出し領域を内接するような円に沿って斜視画像を移動させてもよい。
図5には、表示装置12に表示される表示画面の一例が示されている。
図5に示す表示画面では、右側に、硬性鏡32の全視野範囲を表す全体画像61が配置され、左側に、硬性鏡32の全視野範囲の一部分を切り出した斜視画像62が配置されている。また、表示画面では、破線の長方形で示すように、硬性鏡32の全視野範囲から斜視画像62を切り出した切り出し領域を示す領域マーカが、全体画像61に重畳して表示される。
内視鏡システム11では、このような表示画面を表示装置12に表示することで、例えば、術者やスコピストなどは、注視したい患部を表示する斜視画像62と同時に、全体画像61によって患部の周囲の状況を把握することができる。さらに、斜視画像62の切り出し領域を示す領域マーカを全体画像61に重畳して表示することで、術者やスコピストなどは、硬性鏡32の全視野範囲に対する、注視したい患部の範囲および方向を容易に把握することができる。
例えば、従来、全体画像61の右側にあるドットのハッチングが施された四角いエリアから、鉗子が挿入されていく際に、通常の斜視鏡であれば、ある程度奥に入ってから鉗子が斜め右上の辺りから画像内に映し出されることになり、術者やスコピストなどが驚くことがあった。
これに対し、内視鏡システム11では、術者やスコピストなどは、全体画像61によって挿入し始めたときから鉗子を確認することができる。さらに、内視鏡システム11では、術者やスコピストなどは、領域マーカによって斜視画像62が全体画像61の左下方向を見ていることを把握することができるので、斜視画像62の右上から鉗子が挿入されてくるように映し出されることを事前に認識することができる。従って、術者やスコピストなどは、それらの状況を的確に把握して、手術を進める事ができる。
このように、内視鏡システム11は、ある方向を斜視画像62で観察しているときにも、全体画像61によって斜視画像62の視野外を同時に観察すること、即ち、死角が生じないように観察することができる。従って、内視鏡システム11を使用することで、術者やスコピストなどは、より安全に手術を行うことができる。
<制御装置の構成例および制御処理の処理例>
図6は、制御装置23の構成例を示すブロック図である。
図6に示すように、制御装置23は、操作信号取得部71、音声認識部72、および画像処理部73を備えて構成される。また、画像処理部73は、領域設定部81、切り出し処理部82、マーカ生成部83、および表示画面生成部84を備えて構成される。
操作信号取得部71は、図1の操作スイッチ43および回転操作部54に対する操作が行われたときに出力される操作信号を取得し、その操作信号によって指示される指示コマンドを画像処理部73に供給する。例えば、操作信号取得部71は、回転操作部54に対する回転操作に従った操作信号を取得し、右回転方向または左回転方向へ全体画像の内周に沿った斜視画像の移動を指示する指示コマンドを画像処理部73に供給する。
音声認識部72は、図示しないマイクを介して、スコピストが発話した音声が供給され、その音声を認識する音声認識処理を行って、スコピストが発話した発話内容を認識する。そして、音声認識部33は、スコピストの発話内容から音声による指示コマンドを認識した場合、その指示コマンドを画像処理部34に供給する。例えば、音声認識部72は、スコピストが「時計方向に回して」と発話した音声に基づいて、時計回りに全体画像の内周に沿って斜視画像を移動させる指示コマンドを画像処理部73に供給することができる。その後、音声認識部72は、例えば、観察したい位置の画像になったところで、スコピストが「止めて」と発話した音声に基づいて、全体画像の内周に沿った斜視画像の移動を停止させる指示コマンドを画像処理部73に供給することができる。
画像処理部73は、操作信号取得部71または音声認識部72から供給される指示コマンドに従って、内視鏡14において撮像された画像に対して画像処理を施し、図5に示したような表示画面を表示装置12に表示させる。
領域設定部81は、硬性鏡32の全視野範囲が撮像された全体画像の一部分を切り出す切り出し領域を設定する。そして、領域設定部81は、指示コマンドに従った方向へ、全体画像の中心点を基準として切り出し領域を全体画像の内周に沿って移動させる。
切り出し処理部82は、領域設定部81により設定された切り出し領域に従って、内視鏡14から供給される全体画像の一部分を切り出して、斜視画像または直視画像を生成する。例えば、切り出し処理部82は、領域設定部81による切り出し領域の設定に従って、全体画像の中心点から外れた位置を中心にして切り出し領域が設定された場合には、硬性鏡32の光軸に対して斜め方向を見るような斜視画像を生成する。また、切り出し処理部82は、領域設定部81による切り出し領域の設定が切り替えられて、全体画像と中心点が一致する位置を中心にして切り出し領域が設定された場合には、硬性鏡32の光軸と同一の方向を見るような直視画像を生成する。
マーカ生成部83は、領域設定部81により設定された切り出し領域を示す領域マーカを生成して表示画面生成部84に供給し、全体画像に領域マーカを重畳させる。
表示画面生成部84は、例えば、図5に示したように全体画像および斜視画像を表示する表示画面を生成する。また、表示画面生成部84は、後述する図9乃至図13を参照して説明するように様々なバリエーションの表示画面を生成する。
ここで、音声認識部33による音声操作について説明する。
例えば、スコピストが「下に向けて」と発話すると、その発話の時点において直視画像が表示されていても、または、その発話の時点において斜視画像がどの方向を表示していたとしても、上述した図3に示したような真下方向の位置を切り出した斜視画像を表示するように、瞬時に、切り出し領域の設定が変更される。即ち、発話内容「下に向けて」は、時計方向の6時に相当する位置に切り出し領域を移動することを指示する指示コマンドとして音声認識される。同様に、発話内容「上に向けて」は時計方向の12時に相当する位置、発話内容「左に向けて」は時計方向の9時に相当する位置、および、発話内容「右に向けて」は時計方向の3時に相当する位置に切り出し領域を移動することを指示する指示コマンドとして音声認識される。
このような指示コマンドを用いることで、例えば、スコピストが「時計方向に回して」と発話して、現在の視野範囲から目的の位置に向かって徐々に視野を変えて観察したいときと、現在の視野範囲から目的の位置に瞬時に視野を変えたいときとで、使い分けることができる。これにより、スコピストは、より最適な視野を簡単に得る事が出る。
また、例えば、スコピストが「直視に変えて」と発話すると、直視の軸線上に切り出し領域を変更して、直視鏡を使用しているのと同等の視野に切り替える事ができる。そして、また、斜視ローテーションを再開した時には、スコピストが「斜視に変えて」と発話するだけで、斜視に切り替える事ができる。
ここで、従来の内視鏡では、直視鏡に変えたい場面になった時は、硬性鏡を付け替えなければならず、直視鏡および斜視鏡の両方を準備し、必要に応じて、それらを付け替える行為が必要であった。そのため、従来、直視鏡および斜視鏡の両方を配置する場所を確保し、直視鏡および斜視鏡を付け替える手間による時間ロスが発生していた。
これに対し、内視鏡システム11では、直視鏡および斜視鏡それぞれの機能を1つの硬性鏡32で提供し、直視画像と斜視画像とを必要に応じて切り替えることができる。このため、直視鏡および斜視鏡の両方を配置する場所を確保する必要がなく、直視鏡および斜視鏡を付け替える手間による時間ロスが発生することも回避して、手術を行うことができる。
また、この音声操作と、図1の回転操作部54、または、図8の磁気エンコーダ44とマグネット55との組み合わせを利用した操作方法を同時に使用できるようにしてもよい。その場合、例えば、スコピストが直接的に手で操作を行う一方で、必要に応じて、執刀医師が音声操作を使うような使い方も提供できる。
図7に示すフローチャートを参照して、制御装置23が実行する制御処理の一例について説明する。
ステップS11において、制御装置23は、内視鏡14において撮像された硬性鏡32の全視野範囲を表す全体画像、および、全体画像の中央を切り出した直視画像を表示装置12に表示する。即ち、制御装置23では、領域設定部81が、内視鏡14から供給される全体画像の中央(図2参照)に切り出し領域を設定し、切り出し処理部82が、その切り出し領域に従って全体画像を切り出して直視画像を生成する。そして、表示画面生成部84は、例えば、全体画像および直視画像が左右に並んで配置される表示画面を生成して、表示装置12に出力する。
ステップS12において、操作信号取得部71は、例えば、操作スイッチ43に対する操作が行われて、直視画像から斜視画像への切り替えを指示する指示コマンドが供給されたか否かを判定する。ステップS12において、操作信号取得部71が、直視画像から斜視画像への切り替えを指示する指示コマンドが供給されていないと判定した場合、処理はステップS11に戻り、処理は待機される。
一方、ステップS12において、操作信号取得部71が、直視画像から斜視画像への切り替えを指示する指示コマンドが供給されたと判定した場合、処理はステップS13に進む。
ステップS13において、領域設定部81は、切り出し領域の初期位置として、例えば、図3に示したような真下方向の位置に、斜視画像に対応する切り出し領域を設定する。そして、領域設定部81は、設定した切り出し領域を切り出し処理部82およびマーカ生成部83に通知する。
ステップS14において、切り出し処理部82は、ステップS13で領域設定部81により設定された切り出し領域に従って、全体画像から切り出して斜視画像を生成する。
ステップS15において、マーカ生成部83は、ステップS13で領域設定部81により設定された切り出し領域を示す領域マーカを生成して表示画面生成部84に供給し、全体画像に対して領域マーカを重畳させる。
ステップS16において、表示画面生成部84は、ステップS14で生成された斜視画像、および、領域マーカが重畳された全体画像が左右に並んで配置される表示画面を生成して、表示装置12に出力する。これにより、表示装置12の表示が、直視画像から斜視画像に切り替えられる。
ステップS17において、操作信号取得部71は、例えば、回転操作部54に対する回転操作が行われて、全体画像の内周に沿った斜視画像の移動を指示する指示コマンドが供給されたか否かを判定する。
ステップS17において、操作信号取得部71が、全体画像の内周に沿った斜視画像の移動を指示する指示コマンドが供給されていないと判定した場合、処理はステップS14に戻り、現時点で設定されている切り出し領域に従って、以下、同様の処理が繰り返して行われる。
一方、ステップS17において、操作信号取得部71が、全体画像の内周に沿った斜視画像の移動を指示する指示コマンドが供給されたと判定した場合、処理はステップS18に進む。
ステップS18において、領域設定部81は、回転操作部54に対する回転操作の回転量および回転速度に従って、斜視画像に対応する切り出し領域を全体画像の内周に沿って移動させ、切り出し領域を新たに設定する。その後、処理はステップS14に戻り、新たに設定された切り出し領域に従って、以下、同様の処理が繰り返して行われ、回転操作部54に対する回転操作に応じて全体画像の内周に沿って移動された斜視画像が表示される。
以上のように、制御装置23は、操作スイッチ43に対する操作に従って、直視画像および斜視画像の表示を切り替えることができる。そして、制御装置23は、斜視画像を表示する際には、斜視画像を切り出した切り出し領域に対応する領域マーカが重畳された全体画像を表示することができる。そして、制御装置23は、回転操作部54に対する回転操作に従って、全体画像の内周に沿って斜視画像を移動させることができる。
なお、制御装置23は、全体画像に対する切り出し領域の位置に応じて、切り出し処理部82により生成される斜視画像に対する歪補正を行うことができる。例えば、全体画像の中心点を基準として全体画像の内周に沿って斜視画像が移動することになるが、広角レンズに製造誤差などによって均一でない歪みが全体画像に生じていることも想定される。そこで、制御装置23の出荷前に広角レンズを校正し、その校正情報に従って、切り出し領域の位置に応じて斜視画像に対する歪補正を施すことで、より良好な斜視画像を得ることができる。
<内視鏡の第2の構成例>
図8を参照して、内視鏡14の第2の構成例について説明する。なお、図8に示す第2の構成例の内視鏡14aにおいて、図1に示した第1の構成例の内視鏡14と共通する構成については同一の符号を付し、その詳細な説明は省略する。
図8に示すように、内視鏡14aは、カメラヘッド31aに対して硬性鏡32aが装着可能に構成されている。図8のAには、カメラヘッド31aから硬性鏡32aが取り外された状態が示されており、図8のBには、カメラヘッド31aに硬性鏡32aが装着された状態が示されている。
カメラヘッド31aは、カメラヘッド本体部41、内視鏡カプラ42、および操作スイッチ43を備える点で、図1のカメラヘッド31と同様に構成されており、さらに磁気エンコーダ44を備えて構成される。硬性鏡32aは、鏡筒本体51、光源接続部52、およびカプラ接続部53を備える点で、図1の硬性鏡32と同様に構成されており、さらにマグネット55を備えて構成される。
磁気エンコーダ44は、内視鏡カプラ42に組み込まれており、マグネット55の磁気を検出する磁気検出手段である。マグネット55は、カプラ接続部53に組み込まれている。そして、カメラヘッド31aに対して硬性鏡32aを回転させると、磁気エンコーダ44がマグネット55の磁気を検出して回転方向および回転量を認識し、その回転方向および回転量を示す操作信号が操作信号取得部71に供給される。従って、制御装置23では、カメラヘッド31aに対して硬性鏡32aを回転させる回転操作に従って、全体画像の内周に沿った斜視画像の移動を制御することができる。
なお、内視鏡14aにおいて、内視鏡カプラ42は、従来と同様の構造が採用されており、例えば、マグネット55がカプラ接続部53に組み込まれていない従来の硬性鏡を内視鏡カプラ42に取り付けて使用することができる。このように、従来の硬性鏡が内視鏡カプラ42に接続された場合、磁気エンコーダ44は、磁気を検出しないことになる。従って、この場合、制御装置23は、全体画像から斜視画像を切り出す処理を行うことがなく、従来と同様に、硬性鏡により撮像された画像が表示装置12に表示される。
このような構成の内視鏡14aを使用した内視鏡システム11では、内視鏡14aと従来の硬性鏡とのいずれか一方を装着することで、制御装置23は、その装着された一方の機能の提供に自動的に対応することができる。即ち、内視鏡システム11は、内視鏡14aが装着された場合には、カメラヘッド31aに対する硬性鏡32aの回転操作に従って全体画像の内周に沿った斜視画像の移動を行う機能を提供することができ、従来の硬性鏡が装着された場合には、その硬性鏡に応じた機能を提供することができる。これにより、術者やスコピストなどは、従来の硬性鏡も含めて、違和感なく、内視鏡システム11を使用することができる。従って、内視鏡システム11は、操作方法習得のラーニングカーブが短く、従来の硬性鏡も使用できるので、医療経済性にも寄与することになる。
<表示画面のバリエーション>
図9乃至図13を参照して、表示装置12に表示される表示画面のバリエーションについて説明する。
図9に示す第1のバリエーションの表示画面では、硬性鏡32の全視野範囲の一部分を切り出した斜視画像62のみが画面全体に配置されている。この表示画面により、術者やスコピストなどは、大きく表示される斜視画像62に集中して、斜視画像62のみを観察して手術することができ、そのような場面において有効な表示画面である。なお、この表示画面では、斜視画像62と同時に全体画像61が表示されないため、全体画像61による周辺観察を同時に行うことはできないが、例えば、音声操作によって切り替えを指示して、瞬時に、全体画像61および斜視画像62が並んで表示されるような表示画面に変更できるようにすればよい。
図10に示す第2のバリエーションの表示画面では、左側に全体画像61が配置され、右側に斜視画像62が配置された構成となっている。また、全体画像61の表示サイズは、表示装置12の高さに応じた高さになるように調整され、斜視画像62の表示サイズは、全体画像61を表示した残りの表示装置12の幅に応じた幅になるように調整される。
図11に示す第3のバリエーションの表示画面では、左側に全体画像61が配置されるとともに、その残りの右側において、下側に斜視画像62が配置され、上側に直視画像63が配置された構成となっている。
図12に示す第4のバリエーションの表示画面では、左上側の斜視画像62と左上側の直視画像63とが並んで配置され、斜視画像62の下方に全体画像61が配置された構成となっている。
図13に示す第5のバリエーションの表示画面では、左側に、正方形に切り出された直視画像63が表示装置12の高さに応じて配置され、その残りの右側において、上側に全体画像61が配置され、下側に斜視画像62が配置された構成となっている。
以上のように、内視鏡システム11では、図9乃至図13に示したような各種のバリエーションの表示画面を表示装置12に表示することができる。これにより、例えば、手術の種類や、術者の意向などに沿って、表示画面のバリエーションを柔軟に変更できるので、従来の内視鏡よりも、多くの診療科で、最適な使用ができる。例えば、総合病院では、診療科ごとに準備するのではなく、内視鏡システム11を共通で使用できる設備とすることができるといった価値を提供する事も可能となる。
<斜視画像の表示方法のバリエーション>
図14乃至図16を参照して、斜視画像の表示方法のバリエーションについて説明する。
例えば、内視鏡システム11では、通常、斜視画像62に対する回転操作に従って全体画像の内周に沿って移動するように設定される切り出し領域に従って、全体画像61から切り出された一部分を表示内容として斜視画像62の表示をリアルタイムに更新する表示方法となっている。
これに対し、図14を参照して説明する表示方法では、斜視画像62に対する回転操作が開始されると、斜視画像62の表示内容の更新が停止されて、その回転操作が行われる直前の表示内容が保持される。そして、斜視画像62に対する回転操作が終了すると、その回転操作に従って全体画像の内周に沿って移動して設定された切り出し領域に従った表示内容に切り替わるように斜視画像62が表示される。
まず、図14の上段に示すように、斜視画像62に対する回転操作が行われていないとき、斜視画像62は、全体画像61に重畳して表示される切り出し領域に対応する表示内容を表示する。
そして、図14の中段に示すように、斜視画像62に対する回転操作が行われている間、その回転操作に応じて領域マーカの表示位置が全体画像の内周に沿って移動する一方で、斜視画像62は、回転操作が行われる直前の表示内容で更新が停止されている。即ち、領域設定部81は、回転操作に応じて全体画像の内周に沿って移動するように切り出し領域を設定し、マーカ生成部83は、切り出し領域に従って領域マーカの表示を更新するのに対し、切り出し処理部82は斜視画像62の切り出しを行わない。そのため、斜視画像62は、斜視画像62に対する回転操作が行われる直前の表示内容、この例では、図14の上段と同一の表示内容を保持した状態となっている。
その後、図14の下段に示すように、斜視画像62に対する回転操作が終了したタイミング(例えば、回転操作が終了して1秒後)で、斜視画像62は、そのときに全体画像61に重畳して表示される切り出し領域に対応する表示内容を表示する。即ち、領域設定部81は、回転操作の終了に応じて全体画像の内周に沿った移動を終了させた位置に切り出し領域を設定し、切り出し処理部82は、その切り出し領域に従った表示内容を全体画像61から切り出し、斜視画像62が表示される。
このような表示方法によって、スコピストは、全体画像61上を移動する領域マーカにより、回転操作を終了したときに斜視画像62に表示される表示内容を認識しながら、所望の領域まで切り出し領域を移動させることができる。そして、この回転操作が行われている間は、切り出し処理部82において斜視画像を切り出す画像処理は停止することになるので、画像処理部73の処理負荷を大幅に軽減することができる。これにより、例えば、画像処理部73の低コスト化を図ることができる。
なお、この表示方法の変形例として、斜視画像62に対する回転操作が行われている間、斜視画像62の表示内容の更新を停止するのに替えて、低解像度の斜視画像62を表示し、斜視画像62の解像感をあえて低下させ、斜視画像62に対する回転操作が終了したときに、元の解像度の斜視画像62を表示する表示方法もある。このような表示方法では、画像処理部73の処理負荷を軽減させることができるとともに、斜視画像62の表示内容が変化することによって回転操作が行われていることを容易に認識させることができる。
次に、図15および図16を参照して説明する表示方法では、例えば、図1の回転操作部54に対する回転操作に応じて、斜視画像の切り出し領域を全体画像の内周に沿って移動させる際に、その移動に伴って斜視画像の向きが回転するように切り出し領域が設定される。即ち、図15のAに示すように、切り出し領域の下方の両方の角部が全体画像の内周に常に接する状態で、直視の中心軸を回転中心として回転するように、全体画像に内周に沿って移動する。その結果、図15のBに示すように、切り出し領域に従って全体画像から切り出された斜視画像が表示される。
ところで、斜視画像の向きが回転する場合には、図16を参照して説明するように、切り出し領域の位置に応じて、斜視画像62の表示内容の上下方向が反転して表示することができる。
例えば、通常、図16のAおよび図16のBに示すように、切り出し領域の位置に関わらず、斜視画像62は、全体画像61から切り出された表示内容が、全体画像61の外周側が下となり、全体画像61の中心側が上となるような上下方向で表示される。
これに対し、図16のAに示すように、全体画像61の中心を通る水平線よりも下側の位置に切り出し領域の中心があるときには、通常の上下方向で斜視画像62を表示する一方、図16のCに示すように、全体画像61の中心を通る水平線よりも上側の位置に切り出し領域の中心があるときには、通常の上下方向に対して反転して斜視画像62を表示する。即ち、切り出し領域の中心が、全体画像61の中心を通る水平線に対して上側および下側のどちらにあるかに応じて、斜視画像62の表示内容の上下方向を反転して表示することができる。
このような表示方法によって、例えば、全体画像61の中心に対して真上に切り出し領域が設定されたとき、全体画像61に重畳された領域マーカ内における上下方向と、斜視画像62の表示内容の上下方向とが一致することになる。これにより、全体画像61に重畳された領域マーカと斜視画像62との関係性を、より容易に認識させることができる。
なお、内視鏡システム11では、図1に示したように1つの表示装置12を備える構成に限定されることなく、複数台の表示装置12を備える構成を採用してもよい。例えば、2台の表示装置12を設ける構成では、一方の表示装置12には、図9に示したように、斜視画像62のみが配置された表示画面とし、他方の表示装置12には、図5に示したように、全体画像61および斜視画像62が並んで配置された表示画面とする。これにより、執刀医師は、斜視画像62のみが配置された表示画面を見ながら手術を進め、スコピストは、全体画像61および斜視画像62が並んで配置された表示画面を見ながら安全に内視鏡14を操作することで、より有効活用することができる。
<コンピュータの構成例>
次に、上述した一連の処理(制御方法)は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
図17は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示すブロック図である。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
あるいはまた、プログラムは、ドライブ109によって駆動されるリムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウェアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。
CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。
これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
<構成の組み合わせ例>
なお、本技術は以下のような構成も取ることができる。
(1)
硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成する切り出し処理部と、
所定の回転方向へ前記斜視画像の移動を指示する指示コマンドを取得する取得部と、
前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させる領域設定部と
を備える内視鏡システム。
(2)
前記全体画像および前記斜視画像のうち少なくとも一方を表示する表示画面を生成する表示画面生成部と、
前記全体画像における前記切り出し領域を示す領域マーカを生成して、前記表示画面に表示される前記全体画像に前記領域マーカを重畳して表示させるマーカ生成部と
をさらに備える上記(1)に記載の内視鏡システム。
(3)
前記硬性鏡を介して高画角で術野を撮像して前記全体画像を前記切り出し処理部に供給する内視鏡
をさらに備える上記(1)または(2)に記載の内視鏡システム。
(4)
前記内視鏡は、前記術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される
上記(3)に記載の内視鏡システム。
(5)
前記硬性鏡は、前記カメラヘッドに対する接続に利用される接続部の近傍に、前記斜視画像の移動を行わせる回転操作を入力する回転操作部を有し、
前記回転操作部に対する回転操作に従って、前記取得部が前記指示コマンドを取得する
上記(4)に記載の内視鏡システム。
(6)
前記カメラヘッドは、前記硬性鏡の接続に利用されるカプラを有し、
前記硬性鏡は、前記カプラに対して接続される接続部を有し、
前記接続部および前記カプラのうち、一方にはマグネットが組み込まれるとともに、他方には磁気エンコーダが組み込まれており、
前記カメラヘッドに対して前記硬性鏡を回転させる回転操作に従って、前記取得部が前記指示コマンドを取得する
上記(4)に記載の内視鏡システム。
(7)
前記取得部は、音声から発話内容を認識することで前記指示コマンドを取得する音声認識部である
上記(1)から(6)までのいずれかに記載の内視鏡システム。
(8)
前記領域設定部は、前記全体画像の中心点から外れた位置を中心にした切り出し領域と、前記全体画像と中心点が一致する位置を中心にした切り出し領域とを切り替えて設定し、
前記切り出し処理部は、前記全体画像の中心点から外れた位置を中心にして設定された切り出し領域から前記斜視画像を生成し、前記全体画像と中心点が一致する位置を中心にして設定された切り出し領域から直視画像を生成する
上記(1)から(7)までのいずれかに記載の内視鏡システム。
(9)
前記全体画像の画角は略140°または略120°であり、前記全体画像の解像度は4096×2304ドット以上である
上記(1)から(8)までのいずれかに記載の内視鏡システム。
(10)
前記全体画像に対する前記切り出し領域の位置に応じて、前記斜視画像に対する歪補正が行われる
上記(1)から(9)までのいずれかに記載の内視鏡システム。
(11)
前記全体画像の中心点が、前記硬性鏡を介して撮像される画像の有効領域の中心である
上記(1)から(10)までのいずれかに記載の内視鏡システム。
(12)
前記切り出し領域は、移動に伴って前記斜視画像の向きが回転するように設定され、
前記切り出し領域の位置に応じて、前記斜視画像の表示内容の上下方向が反転して表示される
上記(1)から(11)までのいずれかに記載の内視鏡システム。
(13)
前記切り出し領域の位置が前記全体画像の中心点を通る水平線よりも上側または下側のどちらにあるかに応じて、前記斜視画像の表示内容の上下方向が反転される
上記(12)に記載の内視鏡システム。
(14)
前記斜視画像に対する回転操作が開始されると、前記斜視画像の表示内容の更新が停止されて、その回転操作が行われる直前の表示内容が保持され、
前記斜視画像に対する回転操作が終了すると、その回転操作に従って回転移動して設定された前記切り出し領域に従った表示内容で前記斜視画像が表示される
上記(1)から(13)までのいずれかに記載の内視鏡システム。
(15)
硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成する切り出し処理部と、
所定の回転方向へ前記斜視画像の移動を指示する指示コマンドを取得する取得部と、
前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させる領域設定部と
を備える内視鏡システムの制御装置。
(16)
内視鏡システムの制御装置が、
硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成することと、
所定の回転方向へ前記斜視画像の移動を指示する指示コマンドを取得することと、
前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させることと
を含む制御方法。
なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
11 内視鏡システム, 12 表示装置, 13 カート, 14 内視鏡, 21 光源装置, 22 CCU, 23 制御装置, 31 カメラヘッド, 32 硬性鏡, 41 カメラヘッド本体部, 42 内視鏡カプラ, 43 操作スイッチ, 44 磁気エンコーダ, 51 鏡筒本体, 52 光源接続部, 53 カプラ接続部, 54 回転操作部, 55 磁石, 71 操作信号取得部, 72 音声認識部, 73 画像処理部, 81 領域設定部, 82 切り出し処理部, 83 マーカ生成部, 84 表示画面生成部

Claims (14)

  1. 硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される内視鏡から供給される、前記硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成する切り出し処理部と、
    前記カメラヘッドに対する相対的な前記硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ前記斜視画像の移動を指示する指示コマンドを取得する取得部と、
    前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させる領域設定部と
    を備える内視鏡システム。
  2. 前記全体画像および前記斜視画像のうち少なくとも一方を表示する表示画面を生成する表示画面生成部と、
    前記全体画像における前記切り出し領域を示す領域マーカを生成して、前記表示画面に表示される前記全体画像に前記領域マーカを重畳して表示させるマーカ生成部と
    をさらに備える請求項1に記載の内視鏡システム。
  3. 前記硬性鏡は、前記カメラヘッドに対する接続に利用される接続部の近傍に、前記斜視画像の移動を行わせる回転操作を入力する回転操作部を有し、
    前記回転操作部に対する回転操作に従って、前記取得部が前記指示コマンドを取得する
    請求項1に記載の内視鏡システム。
  4. 前記カメラヘッドは、前記硬性鏡の接続に利用されるカプラを有し、
    前記硬性鏡は、前記カプラに対して接続される接続部を有し、
    前記接続部および前記カプラのうち、一方にはマグネットが組み込まれるとともに、他方には磁気エンコーダが組み込まれており、
    前記カメラヘッドに対して前記硬性鏡を回転させる回転操作に従って、前記取得部が前記指示コマンドを取得する
    請求項1に記載の内視鏡システム。
  5. 前記取得部は、音声から発話内容を認識することで前記指示コマンドを取得する音声認識部である
    請求項1に記載の内視鏡システム。
  6. 前記領域設定部は、前記全体画像の中心点から外れた位置を中心にした切り出し領域と、前記全体画像と中心点が一致する位置を中心にした切り出し領域とを切り替えて設定し、
    前記切り出し処理部は、前記全体画像の中心点から外れた位置を中心にして設定された切り出し領域から前記斜視画像を生成し、前記全体画像と中心点が一致する位置を中心にして設定された切り出し領域から直視画像を生成する
    請求項1に記載の内視鏡システム。
  7. 前記全体画像の画角は略140°または略120°であり、前記全体画像の解像度は4096×2304ドット以上である
    請求項1に記載の内視鏡システム。
  8. 前記全体画像に対する前記切り出し領域の位置に応じて、前記斜視画像に対する歪補正が行われる
    請求項1に記載の内視鏡システム。
  9. 前記全体画像の中心点が、前記硬性鏡を介して撮像される画像の有効領域の中心である
    請求項1に記載の内視鏡システム。
  10. 前記切り出し領域は、移動に伴って前記斜視画像の向きが回転するように設定され、
    前記切り出し領域の位置に応じて、前記斜視画像の表示内容の上下方向が反転して表示される
    請求項1に記載の内視鏡システム。
  11. 前記切り出し領域の位置が前記全体画像の中心点を通る水平線よりも上側または下側のどちらにあるかに応じて、前記斜視画像の表示内容の上下方向が反転される
    請求項10に記載の内視鏡システム。
  12. 前記斜視画像に対する回転操作が開始されると、前記斜視画像の表示内容の更新が停止されて、その回転操作が行われる直前の表示内容が保持され、
    前記斜視画像に対する回転操作が終了すると、その回転操作に従って移動して設定された前記切り出し領域に従った表示内容で前記斜視画像が表示される
    請求項1に記載の内視鏡システム。
  13. 硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される内視鏡から供給される、前記硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成する切り出し処理部と、
    前記カメラヘッドに対する相対的な前記硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ前記斜視画像の移動を指示する指示コマンドを取得する取得部と、
    前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させる領域設定部と
    を備える内視鏡システムの制御装置。
  14. 内視鏡システムの制御装置が、
    硬性鏡を介して高画角で術野を撮像する撮像素子を有するカメラヘッドに対して前記硬性鏡を接続可能に構成される内視鏡から供給される、前記硬性鏡の全視野範囲が撮像された全体画像の中心点から外れた位置を中心にして設定される切り出し領域に従って前記全体画像の一部分を切り出して、前記硬性鏡の光軸に対して斜め方向を見る斜視画像を生成することと、
    前記カメラヘッドに対する相対的な前記硬性鏡の光軸を中心とした回転方向の回転操作に従って、その回転方向へ前記斜視画像の移動を指示する指示コマンドを取得することと、
    前記指示コマンドに従った方向へ、前記全体画像の中心点を基準として前記切り出し領域を内接する円の内周に沿って前記切り出し領域を移動させることと
    を含む制御方法。
JP2021537663A 2019-08-02 2020-07-17 内視鏡システム、制御装置、および制御方法 Active JP7480783B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019143033 2019-08-02
JP2019143033 2019-08-02
PCT/JP2020/027778 WO2021024754A1 (ja) 2019-08-02 2020-07-17 内視鏡システム、制御装置、および制御方法

Publications (2)

Publication Number Publication Date
JPWO2021024754A1 JPWO2021024754A1 (ja) 2021-02-11
JP7480783B2 true JP7480783B2 (ja) 2024-05-10

Family

ID=74503450

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021537663A Active JP7480783B2 (ja) 2019-08-02 2020-07-17 内視鏡システム、制御装置、および制御方法

Country Status (4)

Country Link
US (1) US20220296087A1 (ja)
EP (1) EP3992690A4 (ja)
JP (1) JP7480783B2 (ja)
WO (1) WO2021024754A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111278344B (zh) * 2017-11-01 2023-09-05 索尼公司 手术臂系统和手术臂控制系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010017552A (ja) 2008-07-08 2010-01-28 Karl Storz Development Corp ソリッドステート型の観察方向可変型内視鏡
US20100125166A1 (en) 2008-11-17 2010-05-20 Marc Henzler Video endoscope
US20180196251A1 (en) 2017-01-06 2018-07-12 Karl Storz Imaging, Inc. Endoscope Incorporating Multiple Image Sensors For Increased Resolution
JP2018148973A (ja) 2017-03-10 2018-09-27 株式会社Jvcケンウッド 手術システム、手術器具、トロカール及び判定方法
WO2019026929A1 (ja) 2017-08-03 2019-02-07 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置
JP2019084334A (ja) 2017-11-01 2019-06-06 ソニー株式会社 医療用保持装置、医療用アームシステム、及びドレープ装着機構

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3070022B2 (ja) 1997-04-18 2000-07-24 工業技術院長 超広角内視鏡
JPH11104064A (ja) * 1997-10-01 1999-04-20 Olympus Optical Co Ltd 内視鏡の視野変換装置
US6930705B2 (en) * 2000-11-14 2005-08-16 Pentax Corporation Image search device
US10631712B2 (en) * 2011-02-10 2020-04-28 Karl Storz Imaging, Inc. Surgeon's aid for medical display
EP3106080A4 (en) * 2014-02-14 2017-10-25 Olympus Corporation Endoscope system
KR102388132B1 (ko) * 2014-12-15 2022-04-19 삼성메디슨 주식회사 대상체를 나타내는 바디 마커를 생성하는 방법, 장치 및 시스템.
WO2018116891A1 (ja) * 2016-12-19 2018-06-28 オリンパス株式会社 画像処理装置、超音波診断システム、画像処理装置の作動方法、及び画像処理装置の作動プログラム
CN111278344B (zh) * 2017-11-01 2023-09-05 索尼公司 手术臂系统和手术臂控制系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010017552A (ja) 2008-07-08 2010-01-28 Karl Storz Development Corp ソリッドステート型の観察方向可変型内視鏡
US20100125166A1 (en) 2008-11-17 2010-05-20 Marc Henzler Video endoscope
US20180196251A1 (en) 2017-01-06 2018-07-12 Karl Storz Imaging, Inc. Endoscope Incorporating Multiple Image Sensors For Increased Resolution
JP2018148973A (ja) 2017-03-10 2018-09-27 株式会社Jvcケンウッド 手術システム、手術器具、トロカール及び判定方法
WO2019026929A1 (ja) 2017-08-03 2019-02-07 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置
JP2019084334A (ja) 2017-11-01 2019-06-06 ソニー株式会社 医療用保持装置、医療用アームシステム、及びドレープ装着機構

Also Published As

Publication number Publication date
EP3992690A1 (en) 2022-05-04
US20220296087A1 (en) 2022-09-22
JPWO2021024754A1 (ja) 2021-02-11
WO2021024754A1 (ja) 2021-02-11
EP3992690A4 (en) 2022-09-07

Similar Documents

Publication Publication Date Title
US20190328208A1 (en) Image processing device, image processing method and recording medium
US11950968B2 (en) Surgical augmented reality
US10904437B2 (en) Control apparatus and control method
JP5009928B2 (ja) インプラント材料からインプラントを準備するための方法及び装置
US20200183066A1 (en) Imaging apparatus and image generating method
EP3603562B1 (en) Medical observation apparatus and observation field correction method
JPWO2018096987A1 (ja) 情報処理装置および方法、並びにプログラム
WO2019017208A1 (ja) 手術システム、制御方法、手術機器、並びにプログラム
JP2006320427A (ja) 内視鏡手術支援システム
JP7480783B2 (ja) 内視鏡システム、制御装置、および制御方法
WO2018180573A1 (ja) 手術用画像処理装置、画像処理方法、及び、手術システム
WO2018088237A1 (ja) 画像処理装置および設定方法、並びにプログラム
WO2018116582A1 (ja) 制御装置、制御方法、及び医療用観察システム
US11883120B2 (en) Medical observation system, medical signal processing device, and medical signal processing device driving method
WO2017145606A1 (ja) 画像処理装置、画像処理方法及び内視鏡システム
US20210228061A1 (en) Medical observation system, medical observation apparatus, and drive method of medical observation apparatus
WO2018088238A1 (ja) 画像処理装置および制御方法、並びにプログラム
WO2018088236A1 (ja) 画像処理装置および方法、並びにプログラム
CN113614607A (zh) 医学观察系统、方法和医学观察装置
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
EP3982624A1 (en) Image processing device, image processing method, and program
US20230218143A1 (en) Medical observation system, image processing method, and program
CN111684786B (zh) 成像装置、图像传感器单元、相机单元和控制方法
WO2020049993A1 (ja) 画像処理装置、画像処理方法及びプログラム
CN114144140A (zh) 医疗观察系统、控制装置和控制方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240408

R150 Certificate of patent or registration of utility model

Ref document number: 7480783

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150