JP2021022840A - 医療用観察システム、制御装置、および制御方法 - Google Patents
医療用観察システム、制御装置、および制御方法 Download PDFInfo
- Publication number
- JP2021022840A JP2021022840A JP2019138533A JP2019138533A JP2021022840A JP 2021022840 A JP2021022840 A JP 2021022840A JP 2019138533 A JP2019138533 A JP 2019138533A JP 2019138533 A JP2019138533 A JP 2019138533A JP 2021022840 A JP2021022840 A JP 2021022840A
- Authority
- JP
- Japan
- Prior art keywords
- image
- field
- wide
- angle
- magnified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/0012—Surgical microscopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/20—Surgical microscopes characterised by non-optical aspects
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Pathology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Gynecology & Obstetrics (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Endoscopes (AREA)
- Microscoopes, Condenser (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】観察部位が見失われることを回避する。【解決手段】広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像が生成される。そして、認識された撮像装置の動きに基づいて、撮像装置に動きが発生したことが認識された場合、拡大視野画像から広角視野画像へ出力が切り替えられ、その後、撮像装置の動きが停止したことが認識された場合、広角視野画像から拡大視野画像へ出力が切り替えられる。本技術は、例えば、手術箇所を観察部位として撮像する医療用観察システムに適用できる。【選択図】図3
Description
本開示は、医療用観察システム、制御装置、および制御方法に関し、特に、観察部位が見失われることを回避することができるようにした医療用観察システム、制御装置、および制御方法に関する。
近年、ビデオ画像による拡大視を可能とする医療用カメラ装置が登場しており、顕微鏡やルーペなどの光学機器を手術に使用するのに替えて、医療用カメラ装置が手術に使用されるようになってきている。
例えば、特許文献1には、医療器具が映っているか否かの検知結果に応じて、視野領域の狭い画像と視野領域の広い画像との表示を切り換えることができる医療用観察装置が開示されている。
ところで、医療用カメラ装置を使用して拡大観察を行っている際に、カメラを動かして視野を移動することがある。このとき、狭い視野領域で患部を拡大視していると、カメラの位置または姿勢の変化が僅かであっても、観察していた患部が画面外に外れてしまい、観察部位を見失ってしまうことがあった。そのため、画面外となった患部を視野内に収めるように、カメラの位置または姿勢を変更し直す作業が必要となる結果、手術時間が伸びることが懸念される。
例えば、上述した特許文献1で開示されている医療用観察装置では、撮像している画像の内容から医療器具が映っているか否かを検知し、その検知結果に応じて制御が行われるため、医療器具などの特定の被写体が画像に映されていないときには制御が行われない。しかしながら、実際の手術では術式によって撮像対象が異なるものとなるため、特定の被写体のみに基づいて制御が行われるか否かを依存することは好ましくないと考えられる。
本開示は、このような状況に鑑みてなされたものであり、観察部位が見失われることを回避することができるようにするものである。
本開示の一側面の医療用観察システムは、広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、前記撮像装置の動きを認識する動き認識部と、前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部とを備える。
本開示の一側面の制御装置は、広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、前記撮像装置の動きを認識する動き認識部と、前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部とを備える。
本開示の一側面の制御装置の制御方法は、制御装置を用いて、広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成することと、前記撮像装置の動きを認識することと、認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力することとを含む。
本開示の一側面においては、広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像が生成され、撮像装置の動きが認識され、認識された撮像装置の動きに基づいて、広角視野画像および拡大視野画像が切り替えられて出力される。
以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明
する。
する。
<医療用観察システムの構成例>
図1および図2を参照して、本技術を適用した医療用観察システムの一実施の形態の構成例について説明する。図1には、医療用観察システム11が利用される状況が模式的に示されており、図2には、医療用観察システム11の構成例を示すブロック図が示されている。
図1および図2を参照して、本技術を適用した医療用観察システムの一実施の形態の構成例について説明する。図1には、医療用観察システム11が利用される状況が模式的に示されており、図2には、医療用観察システム11の構成例を示すブロック図が示されている。
例えば、図1に示すように、医療用観察システム11は、患者ベッド上の患者に対する手術が行われるときに利用され、手術箇所を観察部位として撮像し、医者や看護師などの操作者によって操作される。また、医療用観察システム11は、撮像装置12、支持アーム13、操作デバイス14、音声入力装置15、表示装置16、および制御装置17を備えて構成される。
さらに、図2に示すように、撮像装置12は、撮像素子21Lおよび21R、並びに、動き検出部22を備えて構成される。また、制御装置17は、動き認識部31、操作信号取得部32、音声認識部33、および画像処理部34を備えて構成され、画像処理部34は、視野範囲変更部41およびマーカ表示部42を有している。
撮像装置12は、患者の患部全体を俯瞰できるように視野角が設定され、例えば、図1の破線で囲われる撮像範囲を撮像する。例えば、撮像装置12には、左目用の撮像素子21Lおよび右目用の撮像素子21Rによって、立体的なステレオ画像を撮像することが可能なステレオカメラが用いられる。そして、撮像素子21Lおよび21Rにより撮像された画像は、図示しないケーブルを介して、撮像装置12から制御装置17へ伝送される。
さらに、撮像装置12では、動き検出部22が、撮像装置12の動きを検出することができる。例えば、操作者が撮像装置12を動かすと、撮像装置12の動きが動き検出部22によって検出され、撮像装置12の動きを示す動き検出信号が、図示しないケーブルを介して、撮像装置12から制御装置17へ伝送される。例えば、動き検出部22には、加速度センサやジャイロセンサなどを組み合わせて用いることができ、加速度や角速度などを示す動き検出信号に基づいて、制御装置17において撮像装置12の位置および姿勢が特定される。
支持アーム13は、撮像装置12を支持するアーム機構を有する支持手段であり、アーム機構の関節の角度を変更することによって任意の位置で撮像装置12を支持することができる。例えば、支持アーム13の先端部に対して姿勢を変更可能に撮像装置12が固定され、支持アーム13の基端部は、制御装置17に対して回転可能に固定される。
また、支持アーム13は、例えば、ガス圧や、バネ力、摩擦力などを利用したアーム機構によって、外力が加わった時にだけ、操作者の手で操作できる力量でアーム機構の関節が回動することで、撮像装置12の位置または姿勢を自在に動かすことができるように構成されている。そして、支持アーム13は、外力が加わっていない時には、撮像装置12の位置および姿勢を維持するように構成されている。従って、支持アーム13は、撮像装置12が固定されている先端部を操作者が手で把持して動かすのに応じて撮像装置12が移動され、操作者が手の動きを止めたときの位置および姿勢で撮像装置12が保持されるような構成となっている。
操作デバイス14は、操作者による操作に応じた操作信号を取得して、制御装置17に供給する。例えば、操作デバイス14は、時計方向および反時計方向に向かって回す回転操作、並びに、上下方向および左右方向に向かって倒す傾倒操作を行えるように構成されている。また、操作デバイス14は、例えば、斜め方向などのように上下方向および左右方向を複合した方向に向かって倒すような傾倒操作も可能となっている。
例えば、操作デバイス14に対する回転操作によって、表示装置16に表示される画像の視野範囲の大きさの拡大または縮小を指示する指示コマンドを入力することができる。また、操作デバイス14に対する傾倒操作によって、表示装置16に表示される画像の視野範囲の移動を指示する指示コマンドを入力することができる。
音声入力装置15は、例えば、マイクロフォンなどにより構成され、操作者が発話した音声を取得して、その音声を示す音声信号を制御装置17に供給する。例えば、操作デバイス14を利用して入力される指示コマンドと同様に、操作者は、音声入力装置15を介して音声による指示コマンドを入力することができる。なお、音声入力装置15は、図1に示すように制御装置17の一部として設ける他、操作者の頭部に装着するような構成や、表示装置16の一部として設ける構成、撮像装置12または支持アーム13に組み込むような構成などを採用してもよい。
表示装置16は、撮像装置12により撮像される画像や、その画像に対して制御装置17において画像処理が施された画像などを表示する。また、表示装置16は、表示装置16によりステレオ画像が撮像された場合には、そのステレオ画像を立体的に表示することができる。
制御装置17は、撮像装置12の動きや、操作デバイス14または音声入力装置15を利用して入力される指示コマンドなどに基づいて、撮像装置12により撮像された画像に対する画像処理に必要となる制御を行う。
動き認識部31は、動き検出部22から出力される動き検出信号を取得し、例えば、加速度や角速度に従って撮像装置12の動きを認識する。そして、動き認識部31は、動き検出信号から求められる撮像装置12の動き量が所定の閾値以上となった場合、撮像装置12に動きが発生したことを画像処理部34に通知する。このとき、動き認識部31は、動き検出信号から求められる撮像装置12の位置および姿勢を画像処理部34に通知する。また、動き認識部31は、動き検出信号から求められる撮像装置12の動き量が所定の閾値未満となった場合、撮像装置12の動きが停止したことを画像処理部34に通知する。
操作信号取得部32は、操作デバイス14から出力される操作信号を取得し、取得した操作信号に従った指示コマンドを画像処理部34に供給する。例えば、操作信号取得部32は、操作デバイス14に対する回転操作を示す操作信号を取得すると、その回転方向に応じて視野範囲の大きさの拡大または縮小を指示する指示コマンドを画像処理部34に供給する。また、操作信号取得部32は、操作デバイス14に対する傾倒操作を示す操作信号を取得すると、その傾倒方向に応じた視野範囲の移動を指示する指示コマンドを画像処理部34に供給する。
音声認識部33は、音声入力装置15から出力される音声信号を取得し、取得した音声信号に従った操作者の発話内容を認識する。そして、音声認識部33は、操作者の発話内容から音声による指示コマンドを認識した場合、その指示コマンドを画像処理部34に供給する。例えば、音声認識部33は、音声による指示コマンド「ズームアップ」または「ズームダウン」を認識した場合、視野範囲の大きさの拡大または縮小を指示する指示コマンドを画像処理部34に供給する。また、音声認識部33は、音声による指示コマンド「○○方向へ移動」を認識した場合、その方向へ視野範囲を移動することを指示する指示コマンドを画像処理部34に供給する。
画像処理部34は、動き認識部31により認識された撮像装置12の動きに基づいて、視野範囲の広い画像である広角視野画像と、広角視野画像を拡大視した視野範囲が狭い画像である拡大視野画像とを切り替えて、表示装置16に出力する。広角視野画像は、撮像装置12の画角に合わせた全範囲の画像であり、拡大視野画像は、所望の患部を拡大視するために、視野範囲変更部41が広角視野画像の一部分を切り出して視野範囲を変更する画像処理によって生成される画像である。
例えば、画像処理部34は、拡大視野画像を出力しているときに、撮像装置12に動きが発生したことが動き認識部31から通知された場合、表示装置16への出力を拡大視野画像から広角視野画像に切り替える。このとき、マーカ表示部42によって、その時点における拡大視野画像の視野範囲を示す拡大視野マーカを、画像処理部34から出力される広角視野画像の対応する領域に重畳する画像処理が行われる。その後、画像処理部34は、撮像装置12の動きが停止したことが動き認識部31から通知された場合、表示装置16への出力を広角視野画像から拡大視野画像に切り替える。このとき、例えば、広角視野画像に重畳されていた拡大視野マーカで示されていた視野範囲を拡大視するような拡大視野画像が表示装置16に表示される。
視野範囲変更部41は、撮像装置12により撮像された広角視野画像の一部分を切り出して拡大視野画像を生成する画像処理を行う。さらに、視野範囲変更部41は、操作信号取得部32または音声認識部33から供給される指示コマンドに従って、拡大視野画像の視野範囲を拡大または縮小する画像処理、および、拡大視野画像の視野範囲を移動する画像処理を行うことができる。
マーカ表示部42は、画像処理部34が拡大視野画像を出力しているときに、撮像装置12に動きが発生したことが動き認識部31から通知されると、その時点における拡大視野画像の視野範囲を、拡大視野範囲として記憶する。そして、マーカ表示部42は、記憶している拡大視野範囲を示す拡大視野マーカを、広角視野画像において拡大視野範囲に対応する領域に重畳する画像処理を行う。
さらに、マーカ表示部42は、動き認識部31から通知される撮像装置12の位置および姿勢に基づいて、撮像装置12の動きに追従して、記憶している拡大視野範囲を示すように、広角視野画像に重畳する拡大視野マーカの表示位置および表示サイズを調整する。即ち、操作者が撮像装置12を動かしても表示装置16には常に、撮像装置12に動きが発生した時点の拡大視野範囲を示すように拡大視野マーカが表示される。従って、例えば、操作者が撮像装置12を動かすことによって、広角視野画像の中心から拡大視野範囲がずれたとしても、拡大視野マーカは常に、撮像装置12が動かされる直前の拡大視野画像で観察されていた患部を囲うように表示される。
ここで、図3を参照して、撮像装置12が動かされるのに伴う画像処理について説明する。
まず、図1において実線に示す位置および姿勢で保持された撮像装置12によって患部が撮像されているとき、図3の上段に示すような拡大視野画像が表示装置16に表示されている。図3に示す例では、拡大視野画像は、例えば、広角視野画像の全範囲の略1/4の範囲を切り出したものとなっている。
そして、観察位置を変更するため、操作者が撮像装置12を把持して、図1において二点鎖線で示す位置に向かって撮像装置12を動かし始める。このとき、撮像装置12の動きが動き検出部22によって検出され、動き認識部31が、撮像装置12に動きが発生したことを認識すると、図3の中段に示すような広角視野画像を表示するように表示装置16の表示が切り替えられる。ここで、図3の広角視野画像では、拡大視野マーカが破線の枠で表されている。
従って、操作者は、撮像装置12を動かしている間において表示装置16に広角視野画像が表示されているので、撮像装置12により撮像可能な全範囲の視野を見ながら撮像装置12を動かすことができる。例えば、拡大視野画像の場合には、撮像装置12の位置または姿勢が僅かに変化しても、患部が視野外となって見失われる可能性が高く、患部を見失わないようにするには撮像装置12を繊細に動かす必要があった。
これに対し、広角視野画像は、手術を行う際の手術箇所全体が見えるように設定されているため、撮像装置12を素早く動かしたとしても、動かし始めた直後から患部が視野外となることはなく、操作者は、患部を見失うことなく撮像装置12を動かすことができる。また、操作者は、撮像装置12を動かしている間、広範囲を視野範囲として視認することができるため、例えば、操作者以外の手や医療器具などに撮像装置12が接触してしまうリスクを回避することができる。
そして、広角視野画像には拡大視野マーカが重畳して表示されているため、操作者は、撮像装置12を動かし始めた時点において拡大視していた観察対象を認識しつつ、撮像装置12を動かすことができる。従って、操作者は、拡大視野マーカを参照して観察対象を認識しながら撮像装置12を動かすことができ、撮像装置12の動きを止めたときに表示される拡大視野画像を予測することができる。このため、操作者は、一度の素早い操作で、所望の患部を拡大視した拡大視野画像が表示装置16に表示されるように撮像装置12を動かすことができる。
その後、操作者が、図1において二点鎖線で示すような位置および姿勢で撮像装置12の動きを止めて手を離しても、支持アーム13のアーム機構によって撮像装置12の位置および姿勢が維持される。このとき、撮像装置12の動きが動き検出部22によって検出され、動き認識部31が、撮像装置12の動きが停止したことを認識すると、図3の下段に示すような拡大視野画像を表示するように表示装置16の表示が切り替えられる。
例えば、視野範囲変更部41は、マーカ表示部42が記憶していた拡大視野範囲に対応する領域を、撮像装置12の動きが停止した時点の広角視野画像から切り出して拡大視野画像を生成することができる。従って、操作者は、撮像装置12を動かす前に拡大視していた患部を、撮像装置12を動かした後でも同様に拡大視することができる。
さらに、医療用観察システム11では、広角視野画像から拡大視野画像に戻った後で、操作者が操作デバイス14を操作して観察位置および観察倍率を調整することができる。
ここで、操作者が撮像装置12の動きを止めた後の拡大視野画像において、そのときに表示装置16に表示されている患部よりも左側の位置にある患部を、より拡大して観察するように調整する一例に説明する。
まず、操作者は、操作デバイス14を左側に倒す傾倒操作を行い、その傾倒操作を示す操作信号が操作デバイス14から制御装置17に供給される。これに応じて、制御装置17では、操作信号取得部32が、左方向へ視野範囲を移動することを指示する指示コマンドを画像処理部34に供給する。そして、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す位置を、所定の速度で左側に移動させながら拡大視野画像を生成して表示装置16に表示する。
その後、操作者が、観察したい患部が表示装置16に表示された時点で操作デバイス14の傾倒操作を終了させると、操作信号取得部32は、視野範囲の移動を停止することを指示する指示コマンドを画像処理部34に供給する。従って、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す位置を移動する画像処理を停止して、その時点の位置で広角視野画像から切り出されている拡大視野画像が表示装置16に表示され続ける。
続いて、操作者は、操作デバイス14を時計方向に回す回転操作を行い、その回転操作を示す操作信号が操作デバイス14から制御装置17に供給される。これに応じて、制御装置17では、操作信号取得部32が、視野範囲を拡大することを指示する指示コマンドを画像処理部34に供給する。そして、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す範囲を、所定の速度で狭めながら拡大視野画像を生成して表示装置16に表示する。
その後、操作者が、観察したい患部が所望の倍率で表示装置16に表示された時点で操作デバイス14の回転操作を終了させると、制御装置17では、操作信号取得部32が、視野範囲の拡大を停止することを指示する指示コマンドを画像処理部34に供給する。従って、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す範囲を狭める画像処理を停止して、その時点の範囲で広角視野画像から切り出されている拡大視野画像が表示装置16に表示され続ける。
このように、医療用観察システム11は、操作者が操作デバイス14に対する操作を行うことで、所望の患部を所望の倍率で観察できるように観察位置および観察倍率を調整することができる。なお、ここでは、観察位置を左方向に移動して観察倍率を拡大する一例について説明したが、この一例に限られることなく、操作者は、観察位置の移動方向や観察倍率の拡大または縮小などの調整や、操作デバイス14に対する操作の順番などを任意に行うことができる。
また、医療用観察システム11では、操作デバイス14に対する操作と同様に、音声入力装置15を介して指示コマンドを入力することで、観察位置および観察倍率を調整することができる。
例えば、操作者が撮像装置12の動きを止めた後の拡大視野画像において、そのときに表示装置16に表示されている患部よりも左側の位置にある患部を、より拡大して観察するように調整する一例に説明する。
まず、操作者が「左へ移動」と発話すると、その音声が音声入力装置15によって制御装置17に供給される。これに応じて、制御装置17では、音声認識部33が発話内容を認識して、左方向へ視野範囲を移動することを指示する指示コマンドを画像処理部34に供給する。そして、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す位置を、所定の速度で左側に移動させながら拡大視野画像を生成して表示装置16に表示する。
その後、操作者が、観察したい患部が表示装置16に表示された時点で「停止」と発話すると、制御装置17では、音声認識部33が発話内容を認識して、視野範囲の移動を停止することを指示する指示コマンドを画像処理部34に供給する。従って、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す位置を移動する画像処理を停止して、その時点の位置で広角視野画像から切り出されている拡大視野画像が表示装置16に表示され続ける。
続いて、操作者が「ズームアップ」と発話すると、その音声が音声入力装置15によって制御装置17に供給される。これに応じて、制御装置17では、音声認識部33が発話内容を認識して、視野範囲を拡大することを指示する指示コマンドを画像処理部34に供給する。そして、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す範囲を、所定の速度で狭めながら拡大視野画像を生成して表示装置16に表示する。
その後、操作者が、観察したい患部が所望の倍率で表示装置16に表示された時点で「停止」と発話すると、制御装置17では、音声認識部33が発話内容を認識して、視野範囲の拡大を停止することを指示する指示コマンドを画像処理部34に供給する。従って、視野範囲変更部41は、広角視野画像から拡大視野画像を切り出す範囲を狭める画像処理を停止して、その時点の範囲で広角視野画像から切り出されている拡大視野画像が表示装置16に表示され続ける。
以上のように、医療用観察システム11では、操作者は、撮像装置12を動かして所望の拡大視野画像を表示装置16に表示させた後に、その拡大視野画像での観察位置および観察倍率を変更したくなった際に、観察位置および観察倍率を素早く調整することができる。さらに、医療用観察システム11は、観察位置および観察倍率を調整した後に撮像装置12を動かすことによって、上述したのと同様の処理を繰り返して行うことができる。即ち、撮像装置12が動かされている間では広角視野画像が表示装置16に表示され、撮像装置12の動きが停止したときに拡大視野マーカで示される視野範囲を拡大した拡大視野画像が表示装置16に表示されるという処理が繰り返して行われる。
従って、医療用観察システム11は、撮像装置12の動きに伴って観察部位が見失われることを回避することができ、操作者は、撮像装置12を動かす作業と、観察位置および観察倍率を調整する作業とを素早く繰り返すことができる。これにより、観察部位が見失われることによる時間のロスを削減することができ、手術時間が不要に長くなることを回避することができる。
さらに、医療用観察システム11は、音声入力装置15を介して音声により指示コマンドを入力する構成を採用した場合には、操作デバイス14を操作者の手元の位置に配置する必要がなく、手術レイアウトの自由度を高めることができる。
ここで、医療用観察システム11は、例えば、上述した特許文献1で開示されている医療用観察装置と異なり、撮像している画像の内容に基づく判断が行われる構成とはなっていない。そのため、医療用観察システム11は、特定の被写体に依存することなく、拡大視野画像と広角視野画像とを切り替えることができ、より汎用性を広げることができる。
また、上述した特許文献1で開示されている医療用観察装置では、広角視と拡大視の中心位置が基本的に一致しているのに対し、医療用観察システム11は、直前の拡大視野画像の視野範囲に基づいて広角視野画像から拡大視野画像へ表示の切り替えが行われる。これにより、医療用観察システム11では、操作者は、広角視野画像から切り替え後の拡大視野画像を容易に予測することができ、より操作性を良好にすることができる。
そして、医療用観察システム11は、広角視野画像から拡大視野画像へ表示を切り替えた後に、観察位置および観察倍率を調整することができるので、操作者は、拡大視したい患部を確実に観察し続けることができる。
<医療用観察システムの制御処理例>
図4に示すフローチャートを参照して、制御装置17において実行される制御処理の一例について説明する。
図4に示すフローチャートを参照して、制御装置17において実行される制御処理の一例について説明する。
例えば、拡大視野画像の表示を指示する指示コマンドが入力されると処理が開始され、ステップS11において、視野範囲変更部41は、撮像装置12により撮像されている広角視野画像の一部分を切り出して拡大視野画像を生成する画像処理を行う。そして、画像処理部34は、視野範囲変更部41により生成された拡大視野画像を、表示装置16に供給して表示させる。
ステップS12において、動き認識部31は、動き検出部22から出力される撮像装置12の動き検出信号を取得する。
ステップS13において、動き認識部31は、ステップS12で取得した動き検出信号に基づいて、撮像装置12の動き量が所定の閾値以上であるか否かを判定する。
ステップS13において、動き認識部31が、撮像装置12の動き量が所定の閾値以上ではないと判定した場合、即ち、撮像装置12の動き量が所定の閾値未満であると判定した場合、処理はステップS12に戻る。即ち、この場合、撮像装置12は動かされていないことになり、操作者が撮像装置12を動かすまで処理が待機される。
一方、ステップS13において、動き認識部31が、撮像装置12の動き量が所定の閾値以上であると判定した場合、動き認識部31は撮像装置12に動きが発生したことを画像処理部34に通知し、処理はステップS14に進む。
ステップS14において、マーカ表示部42は、撮像装置12が動かされる直前の拡大視野画像の視野範囲を、拡大視野範囲として記憶する。
ステップS15において、マーカ表示部42は、ステップS14で記憶した拡大視野範囲に従って、撮像装置12が動かされる直前の拡大視野画像の視野範囲を示す拡大視野マーカを、広角視野画像の対応する領域に重畳する画像処理を行う。
ステップS16において、画像処理部34は、ステップS15でマーカ表示部42により拡大視野マーカが重畳された広角視野画像を、表示装置16に出力して表示させる。
ステップS17において、動き認識部31は、動き検出部22から出力される撮像装置12の動き検出信号を取得する。
ステップS18において、動き認識部31は、ステップS17で取得した動き検出信号に基づいて、撮像装置12の動き量が所定の閾値未満となったか否かを判定する。
ステップS18におおいて、動き認識部31が、撮像装置12の動き量が所定の閾値未満となっていないと判定した場合、即ち、撮像装置12の動き量が所定の閾値以上であると判定した場合、処理はステップS15に戻る。従って、この場合、撮像装置12の動きに応じて拡大視野マーカが重畳された広角視野画像が表示装置16に表示され続ける。
一方、ステップS18において、動き認識部31が、撮像装置12の動き量が所定の閾値未満となったと判定した場合、動き認識部31は撮像装置12の動きが停止したことを画像処理部34に通知し、処理はステップS19に進む。
ステップS19において、画像処理部34では、視野範囲変更部41が、マーカ表示部42が記憶していた拡大視野範囲に対応する領域を、広角視野画像から切り出して拡大視野画像を生成する画像処理を行う。そして、画像処理部34は、視野範囲変更部41により生成された拡大視野画像を、表示装置16に供給して表示させる。
ステップS20において、画像処理部34は、視野範囲を調整することを指示する指示コマンドが、操作信号取得部32または音声認識部33から供給されたか否かを判定する。
ステップS20において、画像処理部34が、視野範囲を調整することを指示する指示コマンドが供給されていないと判定した場合、処理はステップS12に戻り、以下、同様の処理が繰り返して行われる。
一方、ステップS20において、画像処理部34が、視野範囲を調整することを指示する指示コマンドが供給されたと判定した場合、処理はステップS21に進む。即ち、この場合、操作者が操作デバイス14を操作するのに応じた操作信号が操作信号取得部32に入力され、または、操作者の発話が音声入力装置15を介して音声認識部33に入力されて音声による指示コマンドが認識されている。
ステップS21において、画像処理部34では、視野範囲変更部41が、操作者の操作または音声により入力された指示コマンドに従って視野範囲を調整した拡大視野画像を生成する画像処理を行う。そして、画像処理部34は、視野範囲変更部41により生成された拡大視野画像を、表示装置16に供給して表示させる。
その後、処理はステップS12に戻り、以下、拡大視野画像の表示が終了されるまで、同様の処理が繰り替えして行われる。
以上のように、医療用観察システム11では、操作者が、撮像装置12を動かして位置または姿勢を変更させるのに従って、表示装置16に表示される視野範囲を自動的に広くすることができる。これにより、操作者は、所望の患部を見失うことなく拡大視して、所望の位置および姿勢となるように撮像装置12を動かすことができる。このとき、操作者は、拡大視野マーカを確認しながら撮像装置12の位置および姿勢を変更することができるので、一度の操作で、所望の患部から外れることなく、素早く視野範囲を変更することができる。
さらに、医療用観察システム11では、操作者が撮像装置12の動きを停止したときに、拡大視野マーカで示されている拡大視野範囲、即ち、撮像装置12を動かす直前の拡大視野範囲に対応した拡大視野画像を表示することができる。これにより、例えば、広角視野画像の中心を拡大するような構成と比較して、操作者は、広角視野画像の中央に所望の患部が配置されるように意識して撮像装置12を動かしたり、注意して操作したりする必要がなく、より簡易に素早く撮像装置12を動かすことができる。
図5を参照して、観察位置を調整する他の例について説明する。
例えば、図5において白抜きの×印で表すような中心マーカを利用して観察位置を調整することができる。例えば、中心マーカは、撮像装置12の動きが停止するのに伴って拡大視野画像が表示される際に、その直後の拡大視野画像の中心に表示される。そして、操作者は、操作デバイス14を操作することで中心マーカを移動させることができる。
例えば、図5の1段目に示すように、マーカ表示部42は、撮像装置12の動きが停止した直後の拡大視野画像の中心に中心マーカを表示する。
そして、操作者が操作デバイス14を操作して中心マーカを移動させると、図5の2段目に示すように、マーカ表示部42は、拡大視野画像の中心から操作に応じた方向に中心マーカを移動させて表示する。このとき、マーカ表示部42は、拡大視野画像の中心と中心マーカとを直線的に結ぶように、中心マーカの移動方向を示す移動マーカを表示する。例えば、図5では、白抜きの二重丸印で移動マーカが表されている。
さらに、操作者が操作デバイス14の操作を継続し、拡大視野画像の端部まで中心マーカを移動させる直前で、図5の3段目に示すように、画像処理部34は、拡大視野画像から広角視野画像へと表示を切り替える。即ち、中心マーカを利用して広角視野画像に対する拡大視野画像の位置を移動させる際に、表示中の拡大視野画像の視野範囲を超えるように拡大視野画像の端部まで中心マーカを移動した場合に、表示中の拡大視野画像よりも広い範囲が見えるように広角視野画像が表示される。このとき、マーカ表示部42は、上述したのと同様に、拡大視野マーカを広角視野画像に対して重畳させる。従って、操作者は、より視野範囲が広い広角視野画像を見ながら、中心マーカを移動させることができる。
その後、操作者が操作デバイス14の操作を止めるのに応じて、中心マーカの移動が停止すると、視野範囲変更部41は、その時点における中心マーカの位置を中心として拡大視野画像を生成する。これにより、図5の4段目に示すように、画像処理部34は、広角視野画像から拡大視野画像へと表示を切り替える。
このように、医療用観察システム11では、広角視野画像から拡大視野画像に戻った後で、操作者が操作デバイス14を操作し、中心マーカを利用して観察位置を調整することができる。
なお、中心マーカを利用して観察位置を調整する際に、中心マーカの移動が停止する前に、中心マーカの移動速度が低下するのに応じて、広角視野画像から徐々に視野範囲を狭めて、少しずつ拡大表示が行われるようにしてもよい。また、マーカ表示部42が、過去の中心マーカの位置を中心履歴として記憶しておき、それらの位置を中心とした拡大視野画像を一括で表示するようにしてもよい。
また、本実施の形態においては、動き認識部31は、動き検出信号から求められる撮像装置12の動き量に従って、撮像装置12に動きが発生しているか否かを判定している。これに対し、例えば、動き認識部31は、動き検出部22により検出される加速度の絶対値または変化の割合や、角速度の絶対値または変化の割合などに基づいて、撮像装置12に動きが発生しているか否かを判定してもよい。
さらに、動き認識部31は、動き検出部22から供給される動き検出信号に従って、撮像装置12の動きの変化が一定の大きさ未満である場合には、撮像装置12に動きが発生したことを画像処理部34に通知せず、撮像装置12の動きの変化が一定の大きさ以上である場合に、撮像装置12に動きが発生したことを画像処理部34に通知するようにしてもよい。従って、この場合、画像処理部34は、撮像装置12の動き量が閾値以上であっても、撮像装置12の動きが遅ければ(動きの変化が一定の大きさ未満)、拡大視野画像を表示装置16に表示し続けることができる。つまり、撮像装置12の動きが速いときに、操作者が意図的に撮像装置12を動かしたものとして、広角視野画像を表示装置16に表示されるように制御が行われる。
なお、本技術は、上述したような医療用観察システム11の他、内視鏡やビデオ顕微鏡、オープンイメージングによる術野カメラなどに適用することができる。さらに、本技術は、医療以外の分野に適用してもよい。
<コンピュータの構成例>
次に、上述した一連の処理(制御方法)は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
次に、上述した一連の処理(制御方法)は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
図6は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示すブロック図である。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
あるいはまた、プログラムは、ドライブ109によって駆動されるリムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウェアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。
CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。
これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
<構成の組み合わせ例>
なお、本技術は以下のような構成も取ることができる。
(1)
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える医療用観察システム。
(2)
前記撮像装置と、
前記撮像装置に外力が加わったときには位置または姿勢を自在に動かすことを可能にして前記撮像装置を支持し、かつ、前記撮像装置に外力が加わっていないときには所定の位置および姿勢を維持して前記撮像装置を支持する支持部と
をさらに備える上記(1)に記載の医療用観察システム。
(3)
前記撮像装置は、手術箇所を前記観察部位として撮像し、
前記視野範囲変更部は、手術における所望の患部を拡大視するための前記拡大視野画像を生成する
上記(1)または(2)に記載の医療用観察システム。
(4)
前記撮像装置の動きを検出し、前記撮像装置の動きを示す動き検出信号を出力する動き検出部が前記撮像装置に設けられており、
前記動き認識部は、前記動き検出信号から前記撮像装置の動き量を求め、前記撮像装置の動き量が所定の閾値以上となったときに前記撮像装置に動きが発生したことを認識し、前記動き量が所定の閾値未満となったときに前記撮像装置の動きが停止したことを認識する
上記(1)から(3)までのいずれかに記載の医療用観察システム。
(5)
前記画像処理部は、前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替える
上記(4)に記載の医療用観察システム。
(6)
前記画像処理部は、前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
上記(4)または(5)に記載の医療用観察システム。
(7)
前記動き認識部は、前記撮像装置の動きの変化が一定の大きさ以上の変化である場合、前記撮像装置に動きが発生したことを前記画像処理部に通知し、
前記画像処理部は、前記動き認識部から前記撮像装置に動きが発生したことが通知されるのに従って、前記拡大視野画像から前記広角視野画像へ出力を切り替える
上記(4)に記載の医療用観察システム。
(8)
前記画像処理部は、
前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替え、
前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
上記(1)から(3)までのいずれかに記載の医療用観察システム。
(9)
前記画像処理部により前記拡大視野画像から前記広角視野画像へ出力が切り替えられる際に、前記拡大視野画像の視野範囲を拡大視野範囲として記憶し、前記拡大視野範囲を示す拡大視野マーカを、前記広角視野画像において前記拡大視野範囲に対応する領域に重畳して表示するマーカ表示部
をさらに備える上記(8)に記載の医療用観察システム。
(10)
前記マーカ表示部は、前記動き認識部により認識される前記撮像装置の位置および姿勢に基づき、前記撮像装置の動きに追従して、前記拡大視野範囲を示すように前記拡大視野マーカの表示位置および表示サイズを調整する
上記(9)に記載の医療用観察システム。
(11)
前記視野範囲変更部は、前記画像処理部により前記広角視野画像から前記拡大視野画像へ出力が切り替えられる際に、前記マーカ表示部が記憶していた前記拡大視野範囲に対応する領域を、前記拡大視野画像として生成する
上記(9)または(10)に記載の医療用観察システム。
(12)
前記広角視野画像に対する前記拡大視野画像の位置の移動、或いは、前記広角視野画像に対する前記拡大視野画像の倍率の拡大または縮小を指示する指示コマンドを取得して、前記視野範囲変更部に供給する取得部
をさらに備え、
前記視野範囲変更部は、前記指示コマンドに従って、前記広角視野画像から前記拡大視野画像を生成する
上記(1)から(11)までのいずれかに記載の医療用観察システム。
(13)
前記取得部は、操作者によって回転操作または傾倒操作が行われる操作部から出力される操作信号に基づいて前記指示コマンドを取得する
上記(12)に記載の医療用観察システム。
(14)
前記取得部は、操作者が発話した音声から発話内容を認識することで前記指示コマンドを取得する音声認識部である
上記(12)または(13)に記載の医療用観察システム。
(15)
前記拡大視野画像の中心を指定して、前記広角視野画像に対する前記拡大視野画像の位置を移動させる際に、表示中の前記拡大視野画像の範囲外が前記中心により指定される場合に、表示中の前記拡大視野画像よりも広い範囲が表示される
上記(12)から(14)までのいずれかに記載の医療用観察システム。
(16)
表示中の前記拡大視野画像よりも広い範囲の表示として、前記広角視野画像に表示が切り替えられる
上記(15)に記載の医療用観察システム。
(17)
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える制御装置。
(18)
制御装置を用いて、
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成することと、
前記撮像装置の動きを認識することと、
認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力することと
を含む前記制御装置の制御方法。
なお、本技術は以下のような構成も取ることができる。
(1)
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える医療用観察システム。
(2)
前記撮像装置と、
前記撮像装置に外力が加わったときには位置または姿勢を自在に動かすことを可能にして前記撮像装置を支持し、かつ、前記撮像装置に外力が加わっていないときには所定の位置および姿勢を維持して前記撮像装置を支持する支持部と
をさらに備える上記(1)に記載の医療用観察システム。
(3)
前記撮像装置は、手術箇所を前記観察部位として撮像し、
前記視野範囲変更部は、手術における所望の患部を拡大視するための前記拡大視野画像を生成する
上記(1)または(2)に記載の医療用観察システム。
(4)
前記撮像装置の動きを検出し、前記撮像装置の動きを示す動き検出信号を出力する動き検出部が前記撮像装置に設けられており、
前記動き認識部は、前記動き検出信号から前記撮像装置の動き量を求め、前記撮像装置の動き量が所定の閾値以上となったときに前記撮像装置に動きが発生したことを認識し、前記動き量が所定の閾値未満となったときに前記撮像装置の動きが停止したことを認識する
上記(1)から(3)までのいずれかに記載の医療用観察システム。
(5)
前記画像処理部は、前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替える
上記(4)に記載の医療用観察システム。
(6)
前記画像処理部は、前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
上記(4)または(5)に記載の医療用観察システム。
(7)
前記動き認識部は、前記撮像装置の動きの変化が一定の大きさ以上の変化である場合、前記撮像装置に動きが発生したことを前記画像処理部に通知し、
前記画像処理部は、前記動き認識部から前記撮像装置に動きが発生したことが通知されるのに従って、前記拡大視野画像から前記広角視野画像へ出力を切り替える
上記(4)に記載の医療用観察システム。
(8)
前記画像処理部は、
前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替え、
前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
上記(1)から(3)までのいずれかに記載の医療用観察システム。
(9)
前記画像処理部により前記拡大視野画像から前記広角視野画像へ出力が切り替えられる際に、前記拡大視野画像の視野範囲を拡大視野範囲として記憶し、前記拡大視野範囲を示す拡大視野マーカを、前記広角視野画像において前記拡大視野範囲に対応する領域に重畳して表示するマーカ表示部
をさらに備える上記(8)に記載の医療用観察システム。
(10)
前記マーカ表示部は、前記動き認識部により認識される前記撮像装置の位置および姿勢に基づき、前記撮像装置の動きに追従して、前記拡大視野範囲を示すように前記拡大視野マーカの表示位置および表示サイズを調整する
上記(9)に記載の医療用観察システム。
(11)
前記視野範囲変更部は、前記画像処理部により前記広角視野画像から前記拡大視野画像へ出力が切り替えられる際に、前記マーカ表示部が記憶していた前記拡大視野範囲に対応する領域を、前記拡大視野画像として生成する
上記(9)または(10)に記載の医療用観察システム。
(12)
前記広角視野画像に対する前記拡大視野画像の位置の移動、或いは、前記広角視野画像に対する前記拡大視野画像の倍率の拡大または縮小を指示する指示コマンドを取得して、前記視野範囲変更部に供給する取得部
をさらに備え、
前記視野範囲変更部は、前記指示コマンドに従って、前記広角視野画像から前記拡大視野画像を生成する
上記(1)から(11)までのいずれかに記載の医療用観察システム。
(13)
前記取得部は、操作者によって回転操作または傾倒操作が行われる操作部から出力される操作信号に基づいて前記指示コマンドを取得する
上記(12)に記載の医療用観察システム。
(14)
前記取得部は、操作者が発話した音声から発話内容を認識することで前記指示コマンドを取得する音声認識部である
上記(12)または(13)に記載の医療用観察システム。
(15)
前記拡大視野画像の中心を指定して、前記広角視野画像に対する前記拡大視野画像の位置を移動させる際に、表示中の前記拡大視野画像の範囲外が前記中心により指定される場合に、表示中の前記拡大視野画像よりも広い範囲が表示される
上記(12)から(14)までのいずれかに記載の医療用観察システム。
(16)
表示中の前記拡大視野画像よりも広い範囲の表示として、前記広角視野画像に表示が切り替えられる
上記(15)に記載の医療用観察システム。
(17)
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える制御装置。
(18)
制御装置を用いて、
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成することと、
前記撮像装置の動きを認識することと、
認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力することと
を含む前記制御装置の制御方法。
なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
11 医療用観察システム, 12 撮像装置, 13 支持アーム, 14 操作デバイス, 15 音声入力装置, 16 表示装置, 17 制御装置, 21Lおよび21R 撮像素子, 22 動き検出部, 31 動き認識部, 32 操作信号取得部, 33 音声認識部, 34 画像処理部, 41 視野範囲変更部, 42 マーカ表示部
Claims (18)
- 広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える医療用観察システム。 - 前記撮像装置と、
前記撮像装置に外力が加わったときには位置または姿勢を自在に動かすことを可能にして前記撮像装置を支持し、かつ、前記撮像装置に外力が加わっていないときには所定の位置および姿勢を維持して前記撮像装置を支持する支持部と
をさらに備える請求項1に記載の医療用観察システム。 - 前記撮像装置は、手術箇所を前記観察部位として撮像し、
前記視野範囲変更部は、手術における所望の患部を拡大視するための前記拡大視野画像を生成する
請求項1に記載の医療用観察システム。 - 前記撮像装置の動きを検出し、前記撮像装置の動きを示す動き検出信号を出力する動き検出部が前記撮像装置に設けられており、
前記動き認識部は、前記動き検出信号から前記撮像装置の動き量を求め、前記撮像装置の動き量が所定の閾値以上となったときに前記撮像装置に動きが発生したことを認識し、前記動き量が所定の閾値未満となったときに前記撮像装置の動きが停止したことを認識する
請求項1に記載の医療用観察システム。 - 前記画像処理部は、前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替える
請求項4に記載の医療用観察システム。 - 前記画像処理部は、前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
請求項4に記載の医療用観察システム。 - 前記動き認識部は、前記撮像装置の動きの変化が一定の大きさ以上の変化である場合、前記撮像装置に動きが発生したことを前記画像処理部に通知し、
前記画像処理部は、前記動き認識部から前記撮像装置に動きが発生したことが通知されるのに従って、前記拡大視野画像から前記広角視野画像へ出力を切り替える
請求項4に記載の医療用観察システム。 - 前記画像処理部は、
前記動き認識部により前記撮像装置に動きが発生したことが認識された場合、前記拡大視野画像から前記広角視野画像へ出力を切り替え、
前記動き認識部により前記撮像装置の動きが停止したことが認識された場合、前記広角視野画像から前記拡大視野画像へ出力を切り替える
請求項1に記載の医療用観察システム。 - 前記画像処理部により前記拡大視野画像から前記広角視野画像へ出力が切り替えられる際に、前記拡大視野画像の視野範囲を拡大視野範囲として記憶し、前記拡大視野範囲を示す拡大視野マーカを、前記広角視野画像において前記拡大視野範囲に対応する領域に重畳して表示するマーカ表示部
をさらに備える請求項8に記載の医療用観察システム。 - 前記マーカ表示部は、前記動き認識部により認識される前記撮像装置の位置および姿勢に基づき、前記撮像装置の動きに追従して、前記拡大視野範囲を示すように前記拡大視野マーカの表示位置および表示サイズを調整する
請求項9に記載の医療用観察システム。 - 前記視野範囲変更部は、前記画像処理部により前記広角視野画像から前記拡大視野画像へ出力が切り替えられる際に、前記マーカ表示部が記憶していた前記拡大視野範囲に対応する領域を、前記拡大視野画像として生成する
請求項9に記載の医療用観察システム。 - 前記広角視野画像に対する前記拡大視野画像の位置の移動、或いは、前記広角視野画像に対する前記拡大視野画像の倍率の拡大または縮小を指示する指示コマンドを取得して、前記視野範囲変更部に供給する取得部
をさらに備え、
前記視野範囲変更部は、前記指示コマンドに従って、前記広角視野画像から前記拡大視野画像を生成する
請求項1に記載の医療用観察システム。 - 前記取得部は、操作者によって回転操作または傾倒操作が行われる操作部から出力される操作信号に基づいて前記指示コマンドを取得する
請求項12に記載の医療用観察システム。 - 前記取得部は、操作者が発話した音声から発話内容を認識することで前記指示コマンドを取得する音声認識部である
請求項12に記載の医療用観察システム。 - 前記拡大視野画像の中心を指定して、前記広角視野画像に対する前記拡大視野画像の位置を移動させる際に、表示中の前記拡大視野画像の範囲外が前記中心により指定される場合に、表示中の前記拡大視野画像よりも広い範囲が表示される
請求項12に記載の医療用観察システム。 - 表示中の前記拡大視野画像よりも広い範囲の表示として、前記広角視野画像に表示が切り替えられる
請求項15に記載の医療用観察システム。 - 広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成する視野範囲変更部と、
前記撮像装置の動きを認識する動き認識部と、
前記動き認識部により認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力する画像処理部と
を備える制御装置。 - 制御装置を用いて、
広角の画角で観察部位を撮像する撮像装置により取得された広角視野画像から、視野範囲を変更した拡大視野画像を生成することと、
前記撮像装置の動きを認識することと、
認識された前記撮像装置の動きに基づいて、前記広角視野画像および前記拡大視野画像を切り替えて出力することと
を含む前記制御装置の制御方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019138533A JP2021022840A (ja) | 2019-07-29 | 2019-07-29 | 医療用観察システム、制御装置、および制御方法 |
PCT/JP2020/027509 WO2021020131A1 (ja) | 2019-07-29 | 2020-07-15 | 医療用観察システム、制御装置、および制御方法 |
EP20846540.1A EP4007274A4 (en) | 2019-07-29 | 2020-07-15 | MEDICAL OBSERVATION SYSTEM, CONTROL DEVICE AND CONTROL METHOD |
CN202080052961.0A CN114144140A (zh) | 2019-07-29 | 2020-07-15 | 医疗观察系统、控制装置和控制方法 |
US17/623,618 US20220321803A1 (en) | 2019-07-29 | 2020-07-15 | Medical observation system, control device, and control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019138533A JP2021022840A (ja) | 2019-07-29 | 2019-07-29 | 医療用観察システム、制御装置、および制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021022840A true JP2021022840A (ja) | 2021-02-18 |
Family
ID=74228292
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019138533A Pending JP2021022840A (ja) | 2019-07-29 | 2019-07-29 | 医療用観察システム、制御装置、および制御方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220321803A1 (ja) |
EP (1) | EP4007274A4 (ja) |
JP (1) | JP2021022840A (ja) |
CN (1) | CN114144140A (ja) |
WO (1) | WO2021020131A1 (ja) |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3506809B2 (ja) * | 1995-06-08 | 2004-03-15 | オリンパス株式会社 | 体腔内観察装置 |
JPH09149876A (ja) * | 1995-11-30 | 1997-06-10 | Olympus Optical Co Ltd | 内視鏡装置 |
JP4003172B2 (ja) * | 2002-08-02 | 2007-11-07 | 富士フイルム株式会社 | 画像信号処理装置及び電子カメラ |
US8079950B2 (en) * | 2005-09-29 | 2011-12-20 | Intuitive Surgical Operations, Inc. | Autofocus and/or autoscaling in telesurgery |
JP2008278480A (ja) * | 2007-04-02 | 2008-11-13 | Sharp Corp | 撮影装置、撮影方法、撮影装置制御プログラムおよび該プログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP5347802B2 (ja) * | 2009-07-27 | 2013-11-20 | ソニー株式会社 | 構図制御装置、撮像システム、構図制御方法、プログラム |
JP4884567B2 (ja) * | 2009-11-06 | 2012-02-29 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
JP6300606B2 (ja) * | 2014-04-02 | 2018-03-28 | オリンパス株式会社 | 顕微鏡システム |
JP6654006B2 (ja) | 2015-08-11 | 2020-02-26 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置 |
JP6611585B2 (ja) * | 2015-12-15 | 2019-11-27 | キヤノン株式会社 | ズーム制御装置およびズーム制御方法、撮像装置 |
EP3266403B1 (en) * | 2016-03-30 | 2020-04-15 | Sony Corporation | Control device, control method, and operating microscope device |
CN205883406U (zh) * | 2016-07-29 | 2017-01-11 | 深圳众思科技有限公司 | 双摄像头自动追焦装置及终端 |
JP6965338B2 (ja) * | 2017-03-28 | 2021-11-10 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置、制御装置、及び観察視野補正方法 |
US10917543B2 (en) * | 2017-04-24 | 2021-02-09 | Alcon Inc. | Stereoscopic visualization camera and integrated robotics platform |
DE102017110816A1 (de) * | 2017-05-18 | 2018-07-12 | Carl Zeiss Meditec Ag | Optisches Beobachtungsgerät und Verfahren zum effizienten Ausführen eines automatischen Fokussieralgorithmus |
JP6976720B2 (ja) * | 2017-05-26 | 2021-12-08 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置、およびズーム制御方法 |
JP6355146B1 (ja) * | 2017-11-20 | 2018-07-11 | 株式会社Medi Plus | 医療安全システム |
US11701190B2 (en) * | 2019-03-15 | 2023-07-18 | Cilag Gmbh International | Selectable variable response of shaft motion of surgical robotic systems |
-
2019
- 2019-07-29 JP JP2019138533A patent/JP2021022840A/ja active Pending
-
2020
- 2020-07-15 CN CN202080052961.0A patent/CN114144140A/zh not_active Withdrawn
- 2020-07-15 WO PCT/JP2020/027509 patent/WO2021020131A1/ja unknown
- 2020-07-15 EP EP20846540.1A patent/EP4007274A4/en active Pending
- 2020-07-15 US US17/623,618 patent/US20220321803A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4007274A1 (en) | 2022-06-01 |
EP4007274A4 (en) | 2022-08-17 |
CN114144140A (zh) | 2022-03-04 |
WO2021020131A1 (ja) | 2021-02-04 |
US20220321803A1 (en) | 2022-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3125737B1 (en) | Surgical control device and imaging control system | |
JP6904254B2 (ja) | 手術用制御装置、手術用制御方法、およびプログラム | |
US10992857B2 (en) | Input control device, input control method, and operation system | |
WO2017061293A1 (ja) | 手術システム、並びに、手術用制御装置および手術用制御方法 | |
EP2117225A1 (en) | Automatic tracking device and automatic tracking method | |
EP3547095A1 (en) | Information processing apparatus and method, and program | |
JP6965338B2 (ja) | 医療用観察装置、制御装置、及び観察視野補正方法 | |
JP2018161377A (ja) | 医療用システムの制御装置、医療用システムの制御方法及び医療用システム | |
JPWO2017169650A1 (ja) | 医療用観察装置、映像移動補正方法及び医療用観察システム | |
JP2005121820A (ja) | 画像観察装置 | |
WO2021020131A1 (ja) | 医療用観察システム、制御装置、および制御方法 | |
EP3603476A1 (en) | Medical system control device, medical system control method, and medical system | |
US12007567B2 (en) | Display device | |
JP7480783B2 (ja) | 内視鏡システム、制御装置、および制御方法 | |
EP3763488A1 (en) | Control device, control method, and master/slave system | |
JP2018161526A (ja) | 医療用観察システム、医療用観察方法、および医療用制御装置 | |
JP4262454B2 (ja) | 手術用観察装置 | |
JP6694544B1 (ja) | マイクロ作業ロボット | |
JP6858593B2 (ja) | 医療用観察装置、および制御方法 | |
WO2020049993A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021029276A (ja) | 医療用観察装置 | |
JP4628350B2 (ja) | カメラ制御装置、カメラ制御方法およびカメラ制御プログラム | |
CN115699782A (zh) | 医疗观察系统、图像处理方法和程序 |