JP2018099297A - 制御装置、制御方法、及び医療用観察システム - Google Patents
制御装置、制御方法、及び医療用観察システム Download PDFInfo
- Publication number
- JP2018099297A JP2018099297A JP2016246923A JP2016246923A JP2018099297A JP 2018099297 A JP2018099297 A JP 2018099297A JP 2016246923 A JP2016246923 A JP 2016246923A JP 2016246923 A JP2016246923 A JP 2016246923A JP 2018099297 A JP2018099297 A JP 2018099297A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- mirror
- control
- arm
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/00149—Holding or positioning arrangements using articulated arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/0016—Holding or positioning arrangements using motor drive units
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/24—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the mouth, i.e. stomatoscopes, e.g. with tongue depressors; Instruments for opening or keeping open the mouth
- A61B1/247—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the mouth, i.e. stomatoscopes, e.g. with tongue depressors; Instruments for opening or keeping open the mouth with means for viewing areas outside the direct line of sight, e.g. dentists' mirrors
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C19/00—Dental auxiliary appliances
- A61C19/04—Measuring instruments specially adapted for dentistry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2048—Tracking techniques using an accelerometer or inertia sensor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2059—Mechanical position encoders
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/30—Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
- A61B2090/309—Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure using white LEDs
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
- A61B2090/3618—Image-producing devices, e.g. surgical cameras with a mirror
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/20—Surgical microscopes characterised by non-optical aspects
- A61B90/25—Supports therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30036—Dental; Teeth
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Signal Processing (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Physics & Mathematics (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Dentistry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Robotics (AREA)
- Epidemiology (AREA)
- Microscoopes, Condenser (AREA)
- Endoscopes (AREA)
- Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
Abstract
【課題】制御装置、制御方法、及び医療用観察システムを提供する。【解決手段】撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得する取得部と、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部と、を備える制御装置。【選択図】図3
Description
本開示は、制御装置、制御方法、及び医療用観察システムに関する。
歯科治療では、患部を直視することは困難な場合があり、例えば、術者(歯科医師)は一方の手で把持したデンタルミラーの鏡面反射像を観察しながら、他方の手で把持した術具を用いて処置を行うことがある。また、特許文献1には、デンタルミラーの把柄部にビデオカメラを装着し、鏡面反射像をビデオカメラで撮像するシステムが開示されている。
一方、近年では歯科治療にビデオ顕微鏡が用いられつつある。ビデオ顕微鏡において所望の視野(表示画像)を得るためには、例えば術者がビデオ顕微鏡の位置や角度を決定することで、視野を決定することができる。その後、例えば術者は得られた視野に応じてデンタルミラーの位置や角度を調整して、患部を観察しながら歯科治療を行うことができる。
しかし、上述したように、歯科治療中の術者の両手はデンタルミラーと術具で塞がってしまうため、例えばより自由に患部を観察するため、ビデオ顕微鏡の位置や角度を変更することは困難な場合があった。
そこで、本開示では、ビデオ顕微鏡とデンタルミラーを用いた歯科治療において、より自由に患部(観察対象)を観察することが可能な、新規かつ改良された制御装置、制御方法、及び医療用観察システムを提案する。
本開示によれば、撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得する取得部と、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部と、を備える制御装置が提供される。
また、本開示によれば、撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得することと、プロセッサが、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行うことと、を含む、制御方法が提供される。
また、本開示によれば、撮像画像を取得する撮像装置と、前記撮像画像からのデンタルミラー検出情報を取得する取得部、及び前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部、を備える制御装置と、を含む、医療用観察システムが提供される。
以上説明したように本開示によれば、ビデオ顕微鏡とデンタルミラーを用いた歯科治療において、より自由に患部(観察対象)を観察することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
<<1.概要>>
<<2.実施形態>>
<2−1.第1の実施形態>
<2−2.第2の実施形態>
<2−3.第3の実施形態>
<2−4.第4の実施形態>
<2−5.第5の実施形態>
<<3.ハードウェア構成例>>
<<4.むすび>>
<<1.概要>>
<<2.実施形態>>
<2−1.第1の実施形態>
<2−2.第2の実施形態>
<2−3.第3の実施形態>
<2−4.第4の実施形態>
<2−5.第5の実施形態>
<<3.ハードウェア構成例>>
<<4.むすび>>
<<1.概要>>
まず、本開示をより明確なものとするために、本開示に係る実施形態が適用され得る医療用観察システムについて説明する。
まず、本開示をより明確なものとするために、本開示に係る実施形態が適用され得る医療用観察システムについて説明する。
図1は、本開示に係る実施形態が適用され得る医療用観察システム5300の概略的な構成の一例を示す図である。図1を参照すると、医療用観察システム5300は、顕微鏡装置5301と、制御装置5317と、表示装置5319と、から構成される。なお、以下の医療用観察システム5300についての説明において、「ユーザ」とは、例えば手術の術者及び助手等、医療用観察システム5300を使用する任意の医療スタッフのことを意味する。
顕微鏡装置5301は、観察対象(患者の術部等)を拡大観察するための顕微鏡部5303(撮像装置)と、顕微鏡部5303を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、を有する。
顕微鏡部5303は、略円筒形状の筒状部5305と、当該筒状部5305の内部に設けられる撮像部(図示せず)と、筒状部5305の外周の一部領域に設けられる操作部5307と、から構成される。顕微鏡部5303は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部(いわゆるビデオ式の顕微鏡部)である。
筒状部5305の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光(以下、観察光ともいう)は、当該カバーガラスを通過して、筒状部5305の内部の撮像部に入射する。なお、筒状部5305の内部には例えばLED(Light Emitting Diode)等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばBayer配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、RAWデータとして制御装置5317に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の合焦距離(合焦した観察対象までの距離)が調整され得る。また、撮像部には、AE(Auto Exposure)機能やAF(Auto Focus)機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
操作部5307は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部5307を介して、観察像の拡大倍率及び観察対象までの合焦距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び合焦距離が調整され得る。また、例えば、ユーザは、操作部5307を介して、アーム部5309の動作モード(後述するオールフリーモード及び固定モード)を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部5303を移動させようとする場合には、当該ユーザは筒状部5305を握るように把持した状態で当該顕微鏡部5303を移動させる様態が想定される。従って、操作部5307は、ユーザが筒状部5305を移動させている間でも操作可能なように、ユーザが筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
アーム部5309は、複数のリンク(第1リンク5313a〜第6リンク5313f)が、複数の関節部(第1関節部5311a〜第6関節部5311f)によって互いに回動可能に連結されることによって構成される。
第1関節部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部5303の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O1)まわりに回動可能に支持する。ここで、第1関節部5311aは、第1軸O1が顕微鏡部5303の撮像部の光軸と一致するように構成され得る。これにより、第1軸O1まわりに顕微鏡部5303を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第1リンク5313aは、先端で第1関節部5311aを固定的に支持する。具体的には、第1リンク5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸O1と直交する方向に延伸しつつ、当該一辺の端部が第1関節部5311aの外周の上端部に当接するように、第1関節部5311aに接続される。第1リンク5313aの略L字形状の基端側の他辺の端部に第2関節部5311bが接続される。
第2関節部5311bは、略円柱形状を有し、その先端で、第1リンク5313aの基端を、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能に支持する。第2関節部5311bの基端には、第2リンク5313bの先端が固定的に接続される。
第2リンク5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸O2と直交する方向に延伸しつつ、当該一辺の端部が第2関節部5311bの基端に固定的に接続される。第2リンク5313bの略L字形状の基端側の他辺には、第3関節部5311cが接続される。
第3関節部5311cは、略円柱形状を有し、その先端で、第2リンク5313bの基端を、第1軸O1及び第2軸O2と互いに直交する回転軸(第3軸O3)まわりに回動可能に支持する。第3関節部5311cの基端には、第3リンク5313cの先端が固定的に接続される。第2軸O2及び第3軸O3まわりに顕微鏡部5303を含む先端側の構成を回動させることにより、水平面内での顕微鏡部5303の位置を変更するように、当該顕微鏡部5303を移動させることができる。つまり、第2軸O2及び第3軸O3まわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第3リンク5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3関節部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3リンク5313cの基端側は角柱形状を有し、その端部に第4関節部5311dが接続される。
第4関節部5311dは、略円柱形状を有し、その先端で、第3リンク5313cの基端を、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能に支持する。第4関節部5311dの基端には、第4リンク5313dの先端が固定的に接続される。
第4リンク5313dは、略直線状に延伸する棒状の部材であり、第4軸O4と直交するように延伸しつつ、その先端の端部が第4関節部5311dの略円柱形状の側面に当接するように、第4関節部5311dに固定的に接続される。第4リンク5313dの基端には、第5関節部5311eが接続される。
第5関節部5311eは、略円柱形状を有し、その先端側で、第4リンク5313dの基端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能に支持する。第5関節部5311eの基端には、第5リンク5313eの先端が固定的に接続される。第4軸O4及び第5軸O5は、顕微鏡部5303を上下方向に移動させ得る回転軸である。第4軸O4及び第5軸O5まわりに顕微鏡部5303を含む先端側の構成を回動させることにより、顕微鏡部5303の高さ、すなわち顕微鏡部5303と観察対象との距離を調整することができる。
第5リンク5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5リンク5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5関節部5311eの基端が固定的に接続される。第5リンク5313eの第2の部材の基端(下端)には、第6関節部5311fが接続される。
第6関節部5311fは、略円柱形状を有し、その先端側で、第5リンク5313eの基端を、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能に支持する。第6関節部5311fの基端には、第6リンク5313fの先端が固定的に接続される。
第6リンク5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
第1関節部5311a〜第6関節部5311fの回転可能範囲は、顕微鏡部5303が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部5309においては、顕微鏡部5303の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部5303の動きに関して6自由度が実現されるようにアーム部5309を構成することにより、アーム部5309の可動範囲内において顕微鏡部5303の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
なお、図示するアーム部5309の構成はあくまで一例であり、アーム部5309を構成するリンクの数及び形状(長さ)、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部5303を自由に動かすためには、アーム部5309は6自由度を有するように構成されることが好ましいが、アーム部5309はより大きな自由度(すなわち、冗長自由度)を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部5309においては、顕微鏡部5303の位置及び姿勢が固定された状態で、アーム部5309の姿勢を変更することが可能となる。従って、例えば表示装置5319を見る術者の視界にアーム部5309が干渉しないように当該アーム部5309の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。
ここで、第1関節部5311a〜第6関節部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第1関節部5311a〜第6関節部5311fに設けられる各アクチュエータの駆動が制御装置5317によって適宜制御されることにより、アーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が制御され得る。具体的には、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部5309の現在の姿勢、並びに顕微鏡部5303の現在の位置及び姿勢を把握することができる。制御装置5317は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部5303の移動を実現するような各関節部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置5317によるアーム部5309の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置5317によってアーム部5309の駆動が適宜制御され、顕微鏡部5303の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部5303を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。
また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部5309が移動するように第1関節部5311a〜第6関節部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部5303を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部5303を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部5303を移動させることが可能となり、ユーザの利便性を向上させることができる。
また、アーム部5309は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部5303の光軸が空間上の所定の点(以下、ピボット点という)を常に向くように、顕微鏡部5303を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部5303が、その合焦距離を調整不可能に構成される場合には、顕微鏡部5303とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部5303とピボット点との距離を、顕微鏡部5303の固定的な合焦距離に調整しておけばよい。これにより、顕微鏡部5303は、ピボット点を中心とする合焦距離に対応する半径を有する半球面(図1に概略的に図示する)上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部5303が、その合焦距離を調整可能に構成される場合には、顕微鏡部5303とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部5303とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部5303の合焦距離を自動で調整してもよい。あるいは、顕微鏡部5303にAF機能が設けられる場合であれば、ピボット動作によって顕微鏡部5303とピボット点との距離が変化するごとに、当該AF機能によって自動で合焦距離の調整が行われてもよい。
また、第1関節部5311a〜第6関節部5311fには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置5317によって制御され得る。例えば、顕微鏡部5303の位置及び姿勢を固定したい場合には、制御装置5317は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部5303の位置及び姿勢を移動したい場合には、制御装置5317は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
このようなブレーキの動作は、上述した操作部5307を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部5303の位置及び姿勢を移動したい場合には、操作部5307を操作し、各関節部のブレーキを解除させる。これにより、アーム部5309の動作モードが、各関節部における回転を自由に行えるモード(オールフリーモード)に移行する。また、ユーザは、顕微鏡部5303の位置及び姿勢を固定したい場合には、操作部5307を操作し、各関節部のブレーキを作動させる。これにより、アーム部5309の動作モードが、各関節部における回転が拘束されたモード(固定モード)に移行する。
制御装置5317は、顕微鏡装置5301及び表示装置5319の動作を制御することにより、医療用観察システム5300の動作を統括的に制御する。例えば、制御装置5317は、所定の制御方式に従って第1関節部5311a〜第6関節部5311fのアクチュエータを動作させることにより、アーム部5309の駆動を制御する(アーム制御処理を行う)。また、例えば、制御装置5317は、第1関節部5311a〜第6関節部5311fのブレーキの動作を制御することにより、アーム部5309の動作モードを変更する。また、例えば、制御装置5317は、顕微鏡装置5301の顕微鏡部5303の撮像部によって取得された画像信号に各種の信号処理(画像処理)を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置5319に表示させる。当該信号処理では、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)及び/又は拡大処理(すなわち、電子ズーム処理)等、各種の公知の信号処理が行われてよい。
なお、制御装置5317と顕微鏡部5303との通信、及び制御装置5317と第1関節部5311a〜第6関節部5311fとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
制御装置5317は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置5317のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置5317は、顕微鏡装置5301と別個の装置として設けられているが、制御装置5317は、顕微鏡装置5301のベース部5315の内部に設置され、顕微鏡装置5301と一体的に構成されてもよい。あるいは、制御装置5317は、複数の装置によって構成されてもよい。例えば、顕微鏡部5303や、アーム部5309の第1関節部5311a〜第6関節部5311fにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置5317と同様の機能が実現されてもよい。
表示装置5319は、手術室内に設けられ、制御装置5317からの制御により、当該制御装置5317によって生成された画像データに対応する画像を表示する。つまり、表示装置5319には、顕微鏡部5303によって撮影された術部の画像が表示される。なお、表示装置5319は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置5319の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置5319は複数設けられてもよく、複数の表示装置5319のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置5319としては、液晶ディスプレイ装置又はEL(Electro Luminescence)ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
図2は、図1に示す医療用観察システム5300を用いた手術の様子を示す図である。図2では、術者5321が、医療用観察システム5300を用いて、患者ベッド5323上の患者5325に対して手術を行っている様子を概略的に示している。なお、図2では、簡単のため、医療用観察システム5300の構成のうち制御装置5317の図示を省略するとともに、顕微鏡装置5301を簡略化して図示している。
図2に示すように、手術時には、医療用観察システム5300を用いて、顕微鏡装置5301によって撮影された術部の画像が、手術室の壁面に設置される表示装置5319に拡大表示される。表示装置5319は、術者5321と対向する位置に設置されており、術者5321は、表示装置5319に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。
以上、本開示に係る実施形態が適用され得る医療用観察システム5300の一例について説明した。続いて、上述した医療用観察システム5300が歯科治療に用いられる場合について検討する。
歯科治療では、ユーザは一方の手で把持したデンタルミラーの鏡面反射像(患部)を観察しながら、他方の手で把持した術具を用いて処置を行うことがある。したがって、歯科治療中の術者の両手はデンタルミラーと術具で塞がってしまい、上述したアーム部5309を移動させることが困難となり得る。その結果、ユーザは自由に患部(観察対象)を観察するための所望の視野を得ることが困難な場合があった。
また、光学顕微鏡が用いられる場合には、ユーザの視線と、光学顕微鏡の光軸とが一致するため、ユーザは、肉眼においてデンタルミラーを用いる場合と同様の感覚でデンタルミラーの角度調整、及び位置調整を行うことが可能である。したがって、光学顕微鏡が用いられる場合、ユーザはデンタルミラーの角度調整、及び位置調整を直感的に行うことが可能であり、特に肉眼におけるデンタルミラーによる歯科治療に慣れたユーザにとって違和感が発生し難い。
一方で、ビデオ顕微鏡(顕微鏡部5303)を有する医療用観察システム5300が用いられる場合、図2に示すようにユーザ(術者5321)の視線は、表示装置5319に向かう。係る場合、ユーザの視線と顕微鏡部5303の光軸は一致しないため、ユーザは自らの視線ではなく、顕微鏡部5303の光軸に対する角度や位置を意識しながらデンタルミラーの角度調整、及び位置調整を行うことになる。したがって、ユーザにとってデンタルミラーの角度調整、及び位置調整を行うことは容易でなく、自由に患部(観察対象)を観察することは困難であった。
そこで、上記事情を一着眼点にして本開示に係る実施形態を創作するに至った。本開示に係る実施形態によれば、撮像画像からのデンタルミラー検出情報に基づいて、撮像画像に対する画像処理またはアーム部5309を制御するアーム制御処理を行うことで、より自由に患部(観察対象)を観察することが可能となる。以下、上記の効果を実現する本開示のいくつかの実施形態について説明を行う。
<<2.実施形態>>
<2−1.第1の実施形態>
ユーザがビデオ顕微鏡とデンタルミラーを用いて患部を観察する場合、表示装置に表示される出力画像のうち、デンタルミラー先端のミラー部が占める割合が小さいと、ユーザは鏡面反射像として当該ミラー部に映る患部を快適に観察することが困難である。そこで、本開示に係る第1の実施形態として、ミラー部が占める割合が高い出力画像を得ることが可能な制御装置について説明する。
<2−1.第1の実施形態>
ユーザがビデオ顕微鏡とデンタルミラーを用いて患部を観察する場合、表示装置に表示される出力画像のうち、デンタルミラー先端のミラー部が占める割合が小さいと、ユーザは鏡面反射像として当該ミラー部に映る患部を快適に観察することが困難である。そこで、本開示に係る第1の実施形態として、ミラー部が占める割合が高い出力画像を得ることが可能な制御装置について説明する。
(構成例)
まず、本開示の第1の実施形態の構成例について、図3を参照して説明する。図3は、本実施形態に係る制御装置1−1の機能構成の一例を示したブロック図である。図3に示す制御装置1−1は、図1を参照して説明した制御装置5317に相当する。図3に示すように、制御装置1−1は、制御部11、検出部20、インタフェース部30、及び記憶部40を備える。
まず、本開示の第1の実施形態の構成例について、図3を参照して説明する。図3は、本実施形態に係る制御装置1−1の機能構成の一例を示したブロック図である。図3に示す制御装置1−1は、図1を参照して説明した制御装置5317に相当する。図3に示すように、制御装置1−1は、制御部11、検出部20、インタフェース部30、及び記憶部40を備える。
制御部11は、制御装置1−1の各構成を制御する。また、本実施形態に係る制御部11は、画像処理部112としても機能する。以下、制御装置1−1の全体構成を説明した後に、制御部11の画像処理部112としての機能について説明する。
検出部20は、図1を参照して説明した顕微鏡部5303により取得される撮像画像からデンタルミラーの検出を行い、デンタルミラーの検出に係るデンタルミラー検出情報を取得する取得部として機能する。
例えば、検出部20は、デンタルミラーのうち、鏡面反射像を映すデンタルミラー先端のミラー部を検出してもよい。また、検出部20が取得し、制御部11に提供するデンタルミラー検出情報は、ミラー部の位置(例えばミラー部の重心位置)を示す情報、ミラー部の領域を示す情報、及びミラー部の検出に成功したか否かを示す情報を含んでもよい。なお、検出部20によるミラー部の検出は、周知の物体検出技術により行われてもよい。
インタフェース部30は、入出力のためのインタフェースである。例えば、インタフェース部30は、図1を参照して説明した顕微鏡装置5301、及び表示装置5319との間で情報の入出力を行う。例えば、制御部11は、インタフェース部30を介して、顕微鏡装置5301から、顕微鏡部5303による撮像画像を取得してもよい。また、制御部11は、インタフェース部30を介して、アーム部5309の制御を行うための制御信号を顕微鏡装置5301に出力させてもよい。また、制御部11は、インタフェース部30を介して表示装置5319へ出力画像を出力させてもよい。
記憶部40は、制御装置1−1の各構成が機能するためのプログラムやパラメータを記憶する。
以上、制御装置1−1の全体構成について説明した。続いて、制御部11の画像処理部112としての機能について説明する。
画像処理部112は、検出部20から提供されるデンタルミラー検出情報に基づいて、撮像画像に対する画像処理を行う。本実施形態に係る画像処理部112は、例えばデンタルミラー検出情報に基づいて、切出し領域を特定し、当該切出し領域を撮像画像から切出す画像処理を行ってもよい。
例えば、撮像画像が所謂4K解像度であり、表示装置5319が例えば2K解像度で表示可能な場合、画像処理部112は、ミラー部の領域を含む2K解像度相当の領域を切出し領域として特定してもよい。また、画像処理部112は、撮像画像から切出した当該切出し領域を、出力画像として表示装置5319へ出力させてもよい。
また、画像処理部112は、ミラー部の領域を含み、表示装置5319の解像度に相当する領域より小さい領域を切出し領域として特定してもよい。係る場合、画像処理部112は、当該切り出し領域を切出した後、拡大処理を行って、表示装置5319へ出力させる出力画像を生成してもよい。なお、画像処理部112による画像拡大処理は、超解像処理を含んでもよいし、Bi-cubic法、Bi-linear法等の周知の画像拡大処理を含んでもよい。
なお、画像処理部112は、切り出し領域の大きさを、検出されたミラー部の領域の面積に基づいて特定してもよいし、不図示のフットスイッチ等を介したユーザの入力に基づいて特定してもよい。また、画像処理部112は、切り出し領域の中心位置が、ミラー部の位置となるように、切り出し領域を特定してもよい。
図4は、画像処理部112による切出し処理、及び画像拡大処理の一例を示す説明図である。例えば、図4に示す撮像画像G12から、検出部20によりデンタルミラー5の先端のミラー部52が検出される。例えば、検出部20は、検出したミラー部52の領域として領域D12を制御部11へ提供し得る。制御部11の画像処理部112は、領域D12を含むような切り出し領域D10を特定し、切り出し領域D10を切出した後、画像拡大処理を行って、表示装置5319に表示される出力画像G14を生成する。
係る構成により、撮像画像のうち、デンタルミラー先端のミラー部の領域が占める割合が小さい場合であっても、表示装置5319にはミラー部が十分な大きさで表示され、ユーザは快適に患部を観察することが可能となる
(動作例)
以上、本実施形態に係る制御装置1−1の構成例について説明した。続いて、本実施形態の動作例について図5を参照して説明する。図5は、本実施形態に係る制御装置1−1の動作例を示すフローチャート図である。
以上、本実施形態に係る制御装置1−1の構成例について説明した。続いて、本実施形態の動作例について図5を参照して説明する。図5は、本実施形態に係る制御装置1−1の動作例を示すフローチャート図である。
図5に示すように、まず、撮像画像がインタフェース部30を介して入力される(S102)。続いて、検出部20により、デンタルミラー先端のミラー部が検出される(S104)。
続いて、画像処理部112は、検出部20により提供されるミラー部の領域に基づき、切出し領域を特定し(S106)、当該切出し領域を撮像画像から切出す(S108)。
さらに、画像処理部112は、ステップS108で得られた当該切出し領域を必要に応じて拡大し(S110)、得られた出力画像を表示装置5319へ出力させる(S112)。
上述したステップS102〜S112の処理は適宜繰り返されてもよい。
(効果)
以上、本開示の第1の実施形態について説明した。本開示の第1の実施形態によれば、撮像画像のうち、ミラー部の領域が占める割合が小さい場合であっても、鏡面反射像を映すミラー部が十分な大きさで表示され、ユーザは快適に患部を観察することが可能となる。
以上、本開示の第1の実施形態について説明した。本開示の第1の実施形態によれば、撮像画像のうち、ミラー部の領域が占める割合が小さい場合であっても、鏡面反射像を映すミラー部が十分な大きさで表示され、ユーザは快適に患部を観察することが可能となる。
なお、本実施形態に係る制御装置1−1はアーム制御処理を行わなくてもよいため、図1に示した顕微鏡装置5301がアーム部5309の駆動機構を備えていない場合であっても本実施形態は適用可能である。
<2−2.第2の実施形態>
上記第1の実施形態では、画像処理により、ユーザの所望の出力画像(ミラー部の占める割合のより大きい画像)を得る例を説明した。続いて、本開示の第2の実施形態として、画像処理に加え、アーム制御処理を行う例を説明する。
上記第1の実施形態では、画像処理により、ユーザの所望の出力画像(ミラー部の占める割合のより大きい画像)を得る例を説明した。続いて、本開示の第2の実施形態として、画像処理に加え、アーム制御処理を行う例を説明する。
(構成例)
まず、本開示の第2の実施形態の構成例について、図6を参照して説明する。図6は、本開示の第2の実施形態に係る制御装置1−2の機能構成の一例を示したブロック図である。図6に示す制御装置1−2は、図1を参照して説明した制御装置5317に相当する。図6に示すように、制御装置1−1は、制御部12、検出部20、インタフェース部30、及び記憶部40を備える。図6に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
まず、本開示の第2の実施形態の構成例について、図6を参照して説明する。図6は、本開示の第2の実施形態に係る制御装置1−2の機能構成の一例を示したブロック図である。図6に示す制御装置1−2は、図1を参照して説明した制御装置5317に相当する。図6に示すように、制御装置1−1は、制御部12、検出部20、インタフェース部30、及び記憶部40を備える。図6に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
制御部12は、制御装置1−2の各構成を制御する。また、本実施形態に係る制御部12は、図6に示すように画像処理部122、及びアーム制御部124としても機能する。
画像処理部122は、図3を参照して説明した画像処理部112と同様に、検出部20から提供されるデンタルミラー検出情報に基づいて、撮像画像に対する画像処理を行う。例えば、画像処理部122は、画像処理部112と同様に、切出し領域の特定処理、切出し処理、及び拡大処理等を行ってもよい。
また、本実施形態に係る画像処理部122は、切出し領域を特定する際に、切出し領域が撮像範囲の外に出そうか否かを判定してもよい。例えば、画像処理部122は、切出し領域が、撮像画像における所定の外周領域に含まれるか否かを判定することで、当該切出し領域が切出し領域が撮像範囲の外に出そうか否かを判定してもよい。また、画像処理部122は切出し領域の特定に用いられるミラー部の領域のうち少なくとも一部が撮像画像における所定の外周領域に含まれるか否かを判定することで、当該切出し領域が撮像範囲の外に出そうか否かを判定してもよい。画像処理部122は、当該判定の結果をアーム制御部124へ提供する。係る構成により、切出し領域が撮像範囲外に出そうな場合に、後述するアーム制御部124がアーム制御処理を行って、ミラー部が撮像範囲の外に出ることを防ぐことが可能となる。
アーム制御部124は、図1、図2を参照して説明したアーム部5309を制御するアーム制御処理を行う。例えば、本実施形態に係るアーム制御部124は、検出されたミラー部の位置に基づいて、アーム制御処理を行ってもよい。
アーム制御部124は、例えばミラー部の位置が、撮像画像における所定の位置(例えば中心位置)となるようにアーム制御処理を行ってもよい。アーム制御部124によるアーム制御処理は、例えば、画像処理部122により切出し領域が撮像範囲の外に出そうであると判定された場合に行われてもよい。係る場合の動作例については、図7を参照して後述する。また、アーム制御部124によるアーム制御処理は、常に行われてもよい。係る場合の動作例については、図8を参照して後述する。
係る構成により、ミラー部が撮像範囲の外に出ることを防ぐことが可能となる。したがって、ユーザが最初に設定した撮像範囲よりも術野が広い場合に、ユーザが撮像範囲を例えば手動で再設定を行う手間を省くことが可能となる。
また、アーム制御部124は、検出されたミラー部の領域が撮像画像に含まれ、かつ、撮像画像に占めるミラー部の領域の割合がより大きくなるように、アーム制御処理を行ってもよい。なお、係るアーム制御処理は、例えばビジュアルフィードバック制御により実現されてもよい。係るアーム制御処理によれば、画像処理部122による切出し処理により得られる画像と同様の画角の画像を、撮像により得ることが可能となる。そのため、係る場合に画像処理部122による切出し処理と拡大処理は、行われなくてもよく、出力画像は切出し処理と拡大処理が行われる場合よりも高画質となり得る。係る例では、顕微鏡部5303の撮像範囲がミラー部を追跡するように、アーム制御処理が行われるため、以下では係るアーム制御処理をミラー部の追跡と呼ぶ場合がある。
なお、ミラー部の追跡は、例えば予め設定される医療用観察システム5300のモード設定に応じて常時行われてもよい。また、不図示のフットスイッチ等を介したユーザの入力に基づいて、当該モードが切り替えられてもよい。係る場合の動作例については、図9を参照して後述する。
また、ミラー部の追跡は、不図示のフットスイッチ等を介したユーザの入力により指示されたタイミングにのみ行われてもよい。係る場合、ミラー部が連続的に追跡されないため、検出部20が撮像画像からミラー部の検出に失敗する恐れがある。そこで、アーム制御部124は、ミラー部の検出に失敗したことを示す情報がデンタルミラー検出情報に含まれていた場合に、顕微鏡部5303の撮像範囲が広くなるようにアーム制御処理を行ってもよい。例えば、アーム制御部124は、顕微鏡部5303が後方に移動するように、アーム制御処理を行ってもよい。係る場合の動作例については、図10を参照して後述する。
係る構成により、撮像画像にミラー部が含まれず、検出部20がミラー部の検出に失敗した場合であっても、顕微鏡部5303の撮像範囲が広くなるように、アーム制御処理が行われるため、検出部20はミラー部を検出し得る。
(動作例)
以上、本実施形態に係る制御装置1−2の構成例について説明した。続いて、本実施形態に係るいくつかの動作例について図7〜10を参照して説明する。
以上、本実施形態に係る制御装置1−2の構成例について説明した。続いて、本実施形態に係るいくつかの動作例について図7〜10を参照して説明する。
図7は、本実施形態に係る制御装置1−2の動作の一例を示すフローチャート図である。図7に示すステップS202〜S206の処理は、図5を参照して説明したステップS102〜S106の処理と同様であるため、説明を省略する。
ステップS208において、画像処理部122は、切出し領域が撮像範囲の外に出そうか否かを判定する。切出し領域が撮像範囲の外に出そうである場合(ステップS208においてYES)、アーム制御部124は、ミラー部の位置が、撮像画像における中心位置となるようにアーム制御処理を行い(S210)、処理はステップS202に戻る。
一方、切出し領域が撮像範囲の外に出そうと判定されない場合(ステップS208においてNO)、処理はステップS212に進む。図7に示すステップS212〜S216の処理は、図5を参照して説明したステップS108〜S112の処理と同様であるため、説明を省略する。
上述したステップS202〜S216の処理は適宜繰り返されてもよい。
図8は、本実施形態に係る制御装置1−2の動作の他の例を示すフローチャート図である。図8に示す例では、切出し領域が撮像範囲の外に出そうか否かに関わらず、常にアーム制御処理が行われ得る。
図8に示すステップS222〜S224の処理は、図5を参照して説明したステップS102〜S104の処理と同様であるため、説明を省略する。
ステップS226において、アーム制御部124は、ミラー部の位置が、撮像画像における中心位置となるようにアーム制御処理を行う(S226)。
続いて、画像処理部122が撮像画像の中央部分を切出す処理を行う(S228)。続くステップS230〜S232の処理は、図5を参照して説明したステップS110〜S112の処理と同様であるため、説明を省略する。
上述したステップS222〜S232の処理は適宜繰り返されてもよい。
図9は、本実施形態に係る制御装置1−2の動作の他の例を示すフローチャート図である。図9に示す例では、顕微鏡部5303の撮像範囲がミラー部を追跡するように、アーム制御処理が行われる。また、図9に示す例では、アーム制御処理に係る動作のみ示してあり、表示装置5319への画像出力は、本動作とは独立に行われ得る。例えば、顕微鏡部5303の撮像画像がそのまま出力画像として、表示装置5319へ出力されてもよい。
図9に示すように、まず、撮像画像がインタフェース部30を介して入力される(S242)。続いて、撮像範囲がミラー部を追跡するモードであるか否かが判定される(S244)。撮像範囲がミラー部を追跡するモードでない場合(S244においてNO)、処理は終了する。
一方、撮像範囲がミラー部を追跡するモードである場合(S244においてYES)、検出部20により、デンタルミラー先端のミラー部が検出される(S246)。続いて、アーム制御部124が、撮像画像に検出されたミラー部の領域が含まれ、かつ、撮像画像に占めるミラー部の領域の割合がより大きくなるようにアーム制御処理を行う(S248)。
上述したステップS242〜S248の処理は適宜繰り返されてもよい。
図10は、本実施形態に係る制御装置1−2の動作の他の例を示すフローチャート図である。図10に示す例では、例えばユーザにより指示されたタイミングのみ、顕微鏡部5303の撮像範囲がミラー部を追跡するように、アーム制御処理が行われる。
また、図10に示す例では、アーム制御処理に係る動作のみ示してあり、表示装置5319への画像出力は、本動作とは独立に行われ得る。例えば、顕微鏡部5303の撮像画像がそのまま出力画像として、表示装置5319へ出力されてもよい。
図10に示すように、まず、撮像画像がインタフェース部30を介して入力される(S262)。続いて、例えばユーザの入力により撮像範囲がミラー部を追跡する指示が行われているか否かが判定される(S264)。撮像範囲がミラー部を追跡する指示が行われていない場合(S264においてNO)、処理は終了する。
一方、撮像範囲がミラー部を追跡する指示が行われている場合(S264においてYES)、検出部20により、デンタルミラー先端のミラー部の検出処理が行われる(S266)。
ステップS266において、ミラー部の検出に成功した場合(S268においてYES)、アーム制御部124は、検出されたミラー部の領域が撮像画像に含まれ、かつ、撮像画像に占めるミラー部の領域の割合がより大きくなるようにアーム制御処理を行う(S270)。
ステップS266において、ミラー部の検出に失敗した場合(S268においてNO)、観察対象との距離(例えば合焦距離)等の状態が記憶部40に記憶される(S278)。続いて、アーム制御部124は、顕微鏡部5303の撮像範囲が広くなるように、アーム制御処理を行う(S280)。
続いて、検出部20が、再度ミラー部の検出処理を行う(S282)。ステップS282において、ミラー部の検出に成功した場合(S284においてYES)、アーム制御部124は、撮像画像に検出されたミラー部の領域が含まれ、かつ、撮像画像に占めるミラー部の領域の割合がより大きくなるようにアーム制御処理を行う(S286)。また、アーム制御部124は、ステップS278で記憶された状態に復帰するようにアーム制御処理を行う(S292)。一方、ステップS282において、ミラー部の検出に失敗した場合(S284においてNO)、制御部12は、表示装置5319へエラー画面を出力させ(S294)、処理は終了する。
上述したステップS262〜S294の処理は適宜繰り返されてもよい。
(効果)
以上、本開示の第2の実施形態について説明した。本開示の第2の実施形態によれば、例えば術野が広い場合や、患者が移動した場合であっても、ミラー部が撮像範囲に含まれるようにアーム制御処理が行われ、ユーザが手動で撮像範囲を再設定する手間を省くことが可能となる。
以上、本開示の第2の実施形態について説明した。本開示の第2の実施形態によれば、例えば術野が広い場合や、患者が移動した場合であっても、ミラー部が撮像範囲に含まれるようにアーム制御処理が行われ、ユーザが手動で撮像範囲を再設定する手間を省くことが可能となる。
<2−3.第3の実施形態>
続いて、本開示の第3の実施形態として、デンタルミラーのミラー部を、アーム制御処理のためのUI(User Interface)として用いる例について説明する。
続いて、本開示の第3の実施形態として、デンタルミラーのミラー部を、アーム制御処理のためのUI(User Interface)として用いる例について説明する。
上述したように、歯科治療中のユーザの両手はデンタルミラーと術具で塞がってしまうため、ユーザ自身がアーム部5309を直接動かすことが出来ない。そこで、本実施形態では、デンタルミラーのミラー部の位置と角度をユーザが動かすことに応じて、顕微鏡部5303が、図1を参照して説明したピボット動作をするようにアーム制御処理を行う。
(構成例)
まず、本開示の第3の実施形態の構成例について、図11を参照して説明する。図11は、本開示の第3の実施形態に係る制御装置1−3の機能構成の一例を示したブロック図である。図11に示す制御装置1−3は、図1を参照して説明した制御装置5317に相当する。図11に示すように、制御装置1−3は、制御部13、検出部20、インタフェース部30、及び記憶部40を備える。図11に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
まず、本開示の第3の実施形態の構成例について、図11を参照して説明する。図11は、本開示の第3の実施形態に係る制御装置1−3の機能構成の一例を示したブロック図である。図11に示す制御装置1−3は、図1を参照して説明した制御装置5317に相当する。図11に示すように、制御装置1−3は、制御部13、検出部20、インタフェース部30、及び記憶部40を備える。図11に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
制御部13は、制御装置1−3の各構成を制御する。また、本実施形態に係る制御部13は、図11に示すようにアーム制御部134、及びミラー角度特定部136としても機能する。
アーム制御部134は、図1、図2を参照して説明したアーム部5309を制御するアーム制御処理を行う。例えば、アーム制御部134は、検出されたミラー部の位置に基づいて、アーム制御処理を行ってもよい。また、アーム制御部134は、後述するミラー角度特定部136により特定されるミラー部の角度に基づいて、アーム制御処理を行う。
例えば、アーム制御部134は、第一の時刻(過去)におけるミラー部の位置と、第二の時刻(現在)のミラー部の位置との差に応じて、顕微鏡部5303が平行移動するように、アーム制御処理を行ってもよい。
また、アーム制御部134は、第一の時刻(過去)におけるミラー部の角度と、第二の時刻(現在)のミラー部の角度との差に応じて、ミラー部の中心位置をピボット軸として、顕微鏡部5303がピボット動作するように、アーム制御処理を行ってもよい。
上述した平行移動と、ピボット動作は同時に行われてもよい。すなわち、撮像画像から検出されるミラー部の位置に応じて顕微鏡部5303を平行移動させて、ミラー部を撮像画像の中心に捉え、かつその時点のミラー部の角度に応じて、ミラー部の中心位置をピボット軸として、ピボット動作させてもよい。
係る構成により、ユーザはミラー部の位置や角度を変更することで、第一の時刻においてミラー部に映っていた患部を、他の角度から観察することが可能となる。
ミラー角度特定部136は、検出部20により検出されたミラー部の角度を特定する。例えば、ミラー角度特定部136は、検出部20により検出されたミラー部の領域に対してハフ変換処理による楕円形状検出を行い、検出された楕円形状の曲率(歪み)に基づいて、ミラー部の角度を特定してもよい。
(動作例)
以上、本実施形態に係る制御装置1−3の構成例について説明した。続いて、本実施形態に係る動作例について図12を参照して説明する。
以上、本実施形態に係る制御装置1−3の構成例について説明した。続いて、本実施形態に係る動作例について図12を参照して説明する。
図12は、本実施形態に係る制御装置1−3の動作例を示すフローチャート図である。図12に示すステップS302〜S304の処理は、図5を参照して説明したステップS102〜S104の処理と同様であるため、説明を省略する。
続いて、ミラー角度特定部136は、ステップS304で検出されたミラー部の角度を特定する(S306)。続いて、ステップS308において、現時刻(第一の時刻)におけるミラー部の位置、及び角度が記憶部40に記憶される(S308)。なお、ステップS308において患部(観察対象)は撮像画像におけるミラー部に含まれており、ミラー部の位置、及び角度を記憶するトリガは、例えばユーザの入力であってもよい。
続いて、デンタルミラーによるアーム操作を行うか否かが判定される(S310)。ステップS310の判定は、例えばユーザ入力や、予め設定される医療用観察システム5300のモード設定に基づいて行われてもよい。デンタルミラーによるアーム操作が行われない場合(S310においてNO)、処理はステップS302に戻る。
続いて、ミラーによるアーム操作が行われる場合(S310においてYES)、処理はステップS312へ進む。ステップS312〜S316の処理は、ステップS302〜S306の処理と同様であるため、説明を省略する。
続いて、ステップS308で記憶された第一の時刻におけるミラー部の位置、及び角度と、現在(第二の時刻)におけるミラー部の位置、及び角度との差が算出される(S318)。
続いて、アーム制御部134は、ステップS318で算出されたミラー部の位置の差に応じて顕微鏡部5303が平行移動するようにアーム制御処理を行う(S320)。さらに、アーム制御部134は、ステップS318で算出されたミラー部の角度の差に応じて顕微鏡部5303がピボット動作するようにアーム制御処理を行う(S322)。続いて、処理はステップS310へ戻る。
(効果)
以上、本開示の第3の実施形態について説明した。本開示の第3の実施形態によれば、ユーザはミラー部の位置や角度を変更することで、患部を他の角度から観察することが可能となる。係る観察は、例えば肉眼での観察において、ユーザが頭を動かしながら角度を変えて観察することに相当し、ユーザにとってより直観的な観察が実現され得る。
以上、本開示の第3の実施形態について説明した。本開示の第3の実施形態によれば、ユーザはミラー部の位置や角度を変更することで、患部を他の角度から観察することが可能となる。係る観察は、例えば肉眼での観察において、ユーザが頭を動かしながら角度を変えて観察することに相当し、ユーザにとってより直観的な観察が実現され得る。
本実施形態によれば、例えばユーザがドリル等の術具の位置を変更した際、顕微鏡部5303の視線と術具が干渉して所望の視野が得られない場合に、ミラー部の位置や角度を調整することで、顕微鏡部5303を移動させて、所望の視野を得ることが可能となる。
<2−4.第4の実施形態>
続いて、第4の実施形態として、ミラー部に観察対象が含まれるような、ミラー部の好適な角度(好適角度)を特定し、好適角度を実現するようにユーザを誘導するナビゲーション情報を表示させる例を説明する。本実施形態によれば、何らかの理由で顕微鏡部5303の位置や姿勢が変更され、患部を観察できなくなってしまった場合に、現状の顕微鏡部5303の位置や姿勢をさらに変更することなく、患部を観察するためのナビゲーション情報をユーザに提供し得る。例えば、ユーザがナビゲーション情報に従ってミラー部の角度を変更することで、患部を観察することが可能となる。
続いて、第4の実施形態として、ミラー部に観察対象が含まれるような、ミラー部の好適な角度(好適角度)を特定し、好適角度を実現するようにユーザを誘導するナビゲーション情報を表示させる例を説明する。本実施形態によれば、何らかの理由で顕微鏡部5303の位置や姿勢が変更され、患部を観察できなくなってしまった場合に、現状の顕微鏡部5303の位置や姿勢をさらに変更することなく、患部を観察するためのナビゲーション情報をユーザに提供し得る。例えば、ユーザがナビゲーション情報に従ってミラー部の角度を変更することで、患部を観察することが可能となる。
(構成例)
まず、本開示の第4の実施形態の構成例について、図13〜図17を参照して説明する。図13は、本開示の第4の実施形態に係る制御装置1−4の機能構成の一例を示したブロック図である。図13に示す制御装置1−4は、図1を参照して説明した制御装置5317に相当する。図13に示すように、制御装置1−4は、制御部14、検出部20、インタフェース部30、及び記憶部40を備える。図13に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
まず、本開示の第4の実施形態の構成例について、図13〜図17を参照して説明する。図13は、本開示の第4の実施形態に係る制御装置1−4の機能構成の一例を示したブロック図である。図13に示す制御装置1−4は、図1を参照して説明した制御装置5317に相当する。図13に示すように、制御装置1−4は、制御部14、検出部20、インタフェース部30、及び記憶部40を備える。図13に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
制御部14は、制御装置1−4の各構成を制御する。また、本実施形態に係る制御部14は、図13に示すように画像処理部142、ミラー角度特定部146、及び好適ミラー角度特定部148としても機能する。
画像処理部142は、検出部20から提供されるデンタルミラー検出情報に基づいて、撮像画像に対する画像処理を行う。本実施形態に係る、画像処理部142は、後述する好適ミラー角度特定部148により特定されるミラー部の好適角度に誘導するナビゲーション情報を、撮像画像に合成する画像処理を行う。例えば、画像処理部142は、撮像画像にナビゲーション情報を重畳合成して、出力画像を生成してもよい。なお、ナビゲーション情報の例については、図17を参照して後述する。
ミラー角度特定部146は、図11を参照して説明したミラー角度特定部136と同様に、検出部20により検出されたミラー部の角度を特定する。また、好適ミラー角度特定部148は、ミラー角度特定部146により特定されたミラー部の角度に基づいて、撮像画像におけるミラー部に、観察対象(例えば患部)が含まれるようなミラー部の好適角度を特定する。好適ミラー角度特定部148は、さらに顕微鏡部5303に係るカメラパラメータ(位置、及び姿勢)に基づいて、ミラー部の好適角度を特定する。なお、顕微鏡部5303に係るカメラパラメータは、例えばアーム部5309の各関節角度と長さの情報に基づいて得られてもよいし、顕微鏡部5303に光学的、または磁気的なマーカが取り付けられ、光学センサまたは磁気センサによりセンシングされて得られてもよい。
以下、図14〜図16を参照して、好適ミラー角度特定部148による好適角度の特定について説明する。
図14は、位置Pに存在する患部(観察対象)が観察可能な初期状態を示している。また、図14に示す平面図C12と、側面図C14において、原点Oに対するカメラ(顕微鏡部5303)の位置Cの相対座標と姿勢が得られている。さらに、カメラからミラー部52までの距離CM、カメラから患部までの合焦距離CM+MP、ミラー部の角度θ0、及びφ0が観測可能である。上記の観測可能な情報から、原点Oに対する患部の位置Pの相対座標を求めることが可能となる。
図15は、図14に示した状態から、カメラの位置と姿勢が変更された状態における平面図C22である。ここで、原点Oと患部の位置Pの相対関係が不変である場合、移動後のカメラ位置C’と、ミラー部52までの距離C’M、及び患部の位置Pから、好適ミラー角度特定部148はミラー部の好適角度θvを特定することが可能である。なお、好適角度におけるミラー部の姿勢は、符号V52として図15に示されている。
また、現在のミラー部52の角度は、ミラー角度特定部146により特定されるため、ミラー部52と好適角度におけるミラー部V52との角度差を算出することも可能となる。なお、上記では、平面図において、Z軸周りの角度差を算出する例を説明したが、側面図でも同様に、X軸周りの角度差を算出することが可能である。
図16は、より詳細に好適角度を算出する手順を説明するための説明図である。図16において、カメラ、好適角度におけるミラー部、及び観察対象のそれぞれの位置と向きを(t,n)t,n∈R3で表す。また、nCはカメラ光軸、nM、nOはそれぞれ好適角度におけるミラー部と観察対象の法線方向であり、
であるとする。また、カメラからミラー部を介した観察対象までの光路長が、カメラの合焦距離lに等しいとすると、
の関係が得られる。ここで、
とすると、次式(1)の関係が得られる。
また、ミラー部の位置tMは、次の2つのベクトルの交点である。
したがって、次式(2)の関係が得られる。
上記の式(1)、式(2)より、a,bはそれぞれ以下のように求められる。
また、ミラー部の位置tMは、次式(3)で得られる。
また、ミラー部に対する入射角と反射角は等しいため、観察対象を観察可能なミラー部の向き(好適角度)nMは、次式(4)で表される。
以上、説明したように、好適ミラー角度特定部148は、ミラー部の好適角度を特定し得る。
図17は、上述した好適角度に誘導するナビゲーション情報の例を示す説明図である。例えば、画像処理部142は、図17に示す出力画像G20のように、現在のミラー部を、好適角度に誘導する回転方向を示す矢印であるナビゲーション情報G22を撮像画像に合成してもよい。また、画像処理部142は、図17に示す出力画像G30のように、好適角度におけるデンタルミラーのイメージを示すナビゲーション情報G32を撮像画像に合成してもよい。
図17に示したような、好適角度に誘導するナビゲーション情報が撮像画像に合成された出力画像が表示されることで、ユーザは好適角度にミラー部を調整することが可能であり、患部(観察対象)を観察可能となる。なお、図17に示した例は一例であって、ナビゲーション情報は図17の例に限定されない。例えば、ナビゲーション情報は、好適角度や、好適角度と現在のミラー部の角度との差を示す数値情報等を含んでもよい。また、ナビゲーション情報は、回転方向を示す矢印のアニメーション情報や、デンタルミラーのイメージの角度が変化するアニメーション情報を含んでもよい。
(動作例)
以上、本実施形態に係る制御装置1−4の構成例について説明した。続いて、本実施形態に係る動作例について図18を参照して説明する。
以上、本実施形態に係る制御装置1−4の構成例について説明した。続いて、本実施形態に係る動作例について図18を参照して説明する。
図18は、本実施形態に係る制御装置1−4の動作例を示すフローチャート図である。図18に示すステップS402〜S406の処理は、図12を参照して説明したステップS302〜S306の処理と同様であるため、説明を省略する。
続いて、ステップS408において、図14を参照して説明した初期状態の情報が記憶部40に記憶される。なお、ステップS408において患部(観察対象)は撮像画像におけるミラー部に含まれており、初期状態を記憶するトリガは、例えばユーザの入力であってもよい。
続いて、撮像画像がインタフェース部30を介して入力される(S410)。続いて、ナビゲーション情報を出力させるモードであるか否かが判定される(S412)。ステップS412の判定は、予め設定される医療用観察システム5300のモード設定に基づいて行われてもよいし、ユーザの入力に基づいて行われてもよい。ナビゲーション情報を出力させるモードではない場合(S412においてNO)、処理はステップS410に戻る。
ナビゲーション情報を出力させるモードであると判定された場合(S412においてYES)、現時点の顕微鏡部5303に係るカメラパラメータ(位置、及び姿勢)が取得される(S414)。なお、ステップS414における顕微鏡部5303に係るカメラパラメータは、ステップS408において初期状態として記憶された顕微鏡部5303に係るカメラパラメータと異なっていてもよい。
続くステップS416〜S418の処理は、ステップS404〜S406の処理と同様であるため説明を省略する。続いて、ステップS416において検出されたミラー部の位置が、図14、図15を参照して説明した原点Oに対する相対座標に変換される(S420)。
続いて、好適ミラー角度特定部148は例えば、図14〜図16を参照して説明したように、原点Oに対する相対座標におけるミラー部の好適角度(好適ミラー角度)を特定する(S422)。さらに、好適ミラー角度特定部148はステップS422で得られた好適角度を、画面内の角度(撮像画像における角度)に変換する(S424)。続いて、ステップS424において得られたミラー部の好適角度と、ステップS418において特定されたミラー部の角度の差が算出される(S426)。
続いて、ステップS426で得られる角度の差に基づいて、画像処理部142が、好適角度に誘導するナビゲーション情報を撮像画像に重畳合成する画像処理を行う(S428)。ステップS428において重畳合成されて得られた出力画像が、表示装置5319へ出力される(S430)。続いて、処理はステップS410に戻る。
(効果)
以上、本開示の第4の実施形態について説明した。本開示の第4の実施形態によれば、何らかの理由で顕微鏡部5303の位置や姿勢が変更され、患部を観察できなくなってしまった場合に、現状の顕微鏡部5303の位置や姿勢をさらに変更することなく、患部を観察するためのナビゲーション情報を表示させることができる。また、ユーザは、当該ナビゲーション情報に従ってミラー部の角度を変更することで、患部を観察することが可能となる。
以上、本開示の第4の実施形態について説明した。本開示の第4の実施形態によれば、何らかの理由で顕微鏡部5303の位置や姿勢が変更され、患部を観察できなくなってしまった場合に、現状の顕微鏡部5303の位置や姿勢をさらに変更することなく、患部を観察するためのナビゲーション情報を表示させることができる。また、ユーザは、当該ナビゲーション情報に従ってミラー部の角度を変更することで、患部を観察することが可能となる。
なお、本実施形態に係る制御装置1−4はアーム制御処理を行わなくてもよいため、図1に示した顕微鏡装置5301がアーム部5309の駆動機構を備えていない場合であっても本実施形態は適用可能である。
<2−5.第5の実施形態>
上述した第4の実施形態では、現状のカメラ(顕微鏡部5303)の位置、及び姿勢を変更せずに患部(観察対象)を観察可能にするためにユーザを誘導するナビゲーション情報をユーザに提供する例を説明した。
上述した第4の実施形態では、現状のカメラ(顕微鏡部5303)の位置、及び姿勢を変更せずに患部(観察対象)を観察可能にするためにユーザを誘導するナビゲーション情報をユーザに提供する例を説明した。
続いて、第5の実施形態として、患部とミラー部との両方を基準として、現在のミラー部の位置と姿勢に応じて、患部が観察可能なカメラの位置や姿勢となるようにアーム制御処理を行う例を説明する。
(構成例)
まず、本開示の第5の実施形態の構成例について、図19を参照して説明する。図19は、本開示の第5の実施形態に係る制御装置1−5の機能構成の一例を示したブロック図である。図19に示す制御装置1−5は、図1を参照して説明した制御装置5317に相当する。図19に示すように、制御装置1−5は、制御部15、検出部20、インタフェース部30、及び記憶部40を備える。図19に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
まず、本開示の第5の実施形態の構成例について、図19を参照して説明する。図19は、本開示の第5の実施形態に係る制御装置1−5の機能構成の一例を示したブロック図である。図19に示す制御装置1−5は、図1を参照して説明した制御装置5317に相当する。図19に示すように、制御装置1−5は、制御部15、検出部20、インタフェース部30、及び記憶部40を備える。図19に示す構成のうち、検出部20、インタフェース部30、及び記憶部40の構成は、それぞれ図3を参照して説明した検出部20、インタフェース部30、及び記憶部40の構成と実質的に同一であるため、ここでの説明は省略する。
制御部15は、制御装置1−5の各構成を制御する。また、本実施形態に係る制御部15は、図19に示すようにアーム制御部154、ミラー角度特定部156、及び好適カメラパラメータ特定部158としても機能する。
アーム制御部154は、図1、図2を参照して説明したアーム部5309を制御するアーム制御処理を行う。本実施形態に係るアーム制御部154は、後述する好適カメラパラメータ特定部158により特定される、顕微鏡部5303に係るカメラパラメータ(位置、及び姿勢)に基づき、例えば当該カメラパラメータを実現するように、アーム制御処理を行う。
ミラー角度特定部156は、図11を参照して説明したミラー角度特定部136と同様に、検出部20により検出されたミラー部の角度を特定する。
好適カメラパラメータ特定部158は、ミラー角度特定部156により特定されたミラー部の角度に基づいて、撮像画像におけるミラー部に観察対象が含まれるような、顕微鏡部5303に係るカメラパラメータ(以下、好適カメラパラメータと呼ぶ)を特定する。
ここで、図16を参照して、好適カメラパラメータ特定部158による好適カメラパラメータの特定について説明する。
図16を参照して導出した式(4)より、好適カメラパラメータに含まれるカメラの向き(姿勢)nCは、次式(5)のように算出される。
図16を参照して導出した式(3)、及び上式(5)より、好適カメラパラメータに含まれるカメラの位置tCは、次式のように算出される。
以上説明したように、好適カメラパラメータ特定部158は、顕微鏡部5303に係る好適カメラパラメータ(位置、及び姿勢)を特定し得る。
(動作例)
以上、本実施形態に係る制御装置1−5の構成例について説明した。続いて、本実施形態に係る動作例について図20を参照して説明する。図20は、本実施形態に係る制御装置1−5の動作例を示すフローチャート図である。なお、図20に示す例では、アーム制御処理に係る動作のみ示してあり、表示装置5319への画像出力は、本動作とは独立に行われ得る。例えば、顕微鏡部5303の撮像画像がそのまま出力画像として、表示装置5319へ出力されてもよい。
以上、本実施形態に係る制御装置1−5の構成例について説明した。続いて、本実施形態に係る動作例について図20を参照して説明する。図20は、本実施形態に係る制御装置1−5の動作例を示すフローチャート図である。なお、図20に示す例では、アーム制御処理に係る動作のみ示してあり、表示装置5319への画像出力は、本動作とは独立に行われ得る。例えば、顕微鏡部5303の撮像画像がそのまま出力画像として、表示装置5319へ出力されてもよい。
図20に示すステップS502〜S510の処理は、図18を参照して説明したステップS402〜S410の処理と同様であるため、説明を省略する。
続いて、カメラが患部(観察対象)を追跡するモードであるか否かが判定される(S512)。ステップS512の判定は、予め設定される医療用観察システム5300のモード設定に基づいて行われてもよいし、ユーザの入力に基づいて行われてもよい。カメラが患部を追跡するモードではない場合(S512においてNO)、処理はステップS510に戻る。
カメラが患部を追跡するモードであると判定された場合(S512においてYES)、処理はステップS514に進む。続くステップS514〜S520の処理は、図18を参照して説明したステップS414〜S420の処理と同様であるため説明を省略する。
好適カメラパラメータ特定部158が、好適カメラパラメータを特定する(S522)。さらに、アーム制御部154が、好適カメラパラメータに基づいて、アーム制御処理を行う(S524)。続いて、処理はステップS510に戻る。
(効果)
以上、本開示の第5の実施形態について説明した。本開示の第5の実施形態によれば、ユーザがミラー部の位置、角度を変更させた場合であっても、患部を観察可能なように自動的に顕微鏡部5303の位置、及び姿勢が制御される。したがって、ユーザは、顕微鏡部5303の位置や姿勢を意識することなく、より直感的にミラー部の位置、角度を変更させながら患部の観察を行うことが可能となる。
以上、本開示の第5の実施形態について説明した。本開示の第5の実施形態によれば、ユーザがミラー部の位置、角度を変更させた場合であっても、患部を観察可能なように自動的に顕微鏡部5303の位置、及び姿勢が制御される。したがって、ユーザは、顕微鏡部5303の位置や姿勢を意識することなく、より直感的にミラー部の位置、角度を変更させながら患部の観察を行うことが可能となる。
<<3.ハードウェア構成>>
以上、本開示の実施形態を説明した。最後に、図21を参照して、本実施形態に係る情報処理装置のハードウェア構成について説明する。図21は、本実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。なお、図21に示す情報処理装置900は、例えば、制御装置1−1、制御装置1−2、制御装置1−3、制御装置1−4、制御装置1−5を実現し得る。本実施形態に係る制御装置1−1、制御装置1−2、制御装置1−3、制御装置1−4、制御装置1−5による情報処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
以上、本開示の実施形態を説明した。最後に、図21を参照して、本実施形態に係る情報処理装置のハードウェア構成について説明する。図21は、本実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。なお、図21に示す情報処理装置900は、例えば、制御装置1−1、制御装置1−2、制御装置1−3、制御装置1−4、制御装置1−5を実現し得る。本実施形態に係る制御装置1−1、制御装置1−2、制御装置1−3、制御装置1−4、制御装置1−5による情報処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
図21に示すように、情報処理装置900は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、情報処理装置900は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911、通信装置913、及びセンサ915を備える。情報処理装置900は、CPU901に代えて、又はこれとともに、DSP若しくはASIC等の処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、例えば、制御部11、制御部12、制御部13、制御部14、及び制御部15を形成し得る。
CPU901、ROM902及びRAM903は、CPUバスなどを含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置900の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などを含んでいてもよい。情報処理装置900のユーザは、この入力装置906を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置907は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音声出力装置や、プリンタ装置等がある。出力装置907は、例えば、情報処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、情報処理装置900が行った各種処理により得られた結果を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
ストレージ装置908は、情報処理装置900の記憶部の一例として形成されたデータ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。上記ストレージ装置908は、例えば、記憶部40を形成し得る。
ドライブ909は、記憶媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。
通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。
センサ915は、例えば、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、音センサ、測距センサ、力センサ等の各種のセンサである。センサ915は、情報処理装置900の姿勢、移動速度等、情報処理装置900自身の状態に関する情報や、情報処理装置900の周辺の明るさや騒音等、情報処理装置900の周辺環境に関する情報を取得する。また、センサ915は、GPS信号を受信して装置の緯度、経度及び高度を測定するGPSセンサを含んでもよい。
なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP−VPN(Internet Protocol−Virtual Private Network)などの専用回線網を含んでもよい。
以上、本実施形態に係る情報処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
なお、上述のような本実施形態に係る情報処理装置900の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
<<4.むすび>>
以上説明したように、本開示の実施形態によれば、より自由に患部(観察対象)を観察することが可能である。
以上説明したように、本開示の実施形態によれば、より自由に患部(観察対象)を観察することが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、制御装置が備える検出部がデンタルミラーのミラー部を検出する例を説明したが、本技術は係る例に限定されず、ミラー部の検出は制御装置以外の装置で行われてもよい。また、係る場合、例えば、インタフェース部が取得部として機能し、デンタルミラー検出情報を他の装置から受信して取得してもよい。
また、制御装置が備える制御部は、顕微鏡部5303の光学倍率(焦点距離)をさらに制御してもよい。例えば、上述した第2の実施形態において、顕微鏡部5303の撮像範囲が広くなるように、アーム制御処理を行う例を説明したが、制御部は、当該アーム制御処理に代えて、または加えて、上記光学倍率を制御することで、撮像範囲を広くしてもよい。
また、制御装置が備える制御部は、ユーザへの警告を通知する警告情報を重畳合成する画像処理を行ってもよい。例えば、上述した第2の実施形態において、切出し領域、またはミラー部が撮像範囲の外に出そうであると判定された場合に、切出し領域、またはミラー部が撮像範囲の外に出そうであるという警告を通知する警告情報を撮像画像に重畳合成してもよい。係る構成により、ユーザは切出し領域、またはミラー部が撮像範囲の外に出ないように、ミラー部の位置や角度を調整することが可能となる。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得する取得部と、
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部と、
を備える制御装置。
(2)
前記制御部は、少なくとも前記画像処理を行い、
前記画像処理は、前記デンタルミラー検出情報に基づいて特定される切出し領域を切出す処理を含む、前記(1)に記載の制御装置。
(3)
前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の領域を示す情報を含み、
前記切出し領域は、前記ミラー部の領域を含む、前記(2)に記載の制御装置。
(4)
前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の位置を示す情報を含み、
前記制御部は、前記ミラー部の位置に基づいて前記アーム制御処理を行う、前記(1)〜(3)のいずれか一項に記載の制御装置。
(5)
前記制御部は、前記ミラー部の位置が前記撮像画像における所定の位置となるように、前記アーム制御処理を行う、前記(4)に記載の制御装置。
(6)
前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域のうち少なくとも一部が前記撮像画像の外周領域と重なる場合に、前記アーム制御処理を行う、前記(5)に記載の制御装置。
(7)
前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域を含み、前記撮像画像に占める前記デンタルミラーの領域の割合がより大きくなるように、前記アーム制御処理を行う、前記(4)に記載の制御装置。
(8)
前記デンタルミラー検出情報は、デンタルミラーのミラー部の検出に成功したか否かを示す情報をさらに含み、
前記制御部は、前記デンタルミラー検出情報に、前記ミラー部の検出に失敗したことを示す情報が含まれていた場合に、前記撮像装置の撮像範囲が広くなるように、前記アーム制御処理を行う、前記(7)に記載の制御装置。
(9)
前記制御部は、前記撮像画像から検出されたデンタルミラーのミラー部の角度に基づいて、前記アーム制御処理を行う、前記(1)に記載の制御装置。
(10)
前記制御部は、第一の時刻における前記ミラー部の角度と、第二の時刻における前記ミラー部の角度との差に応じて、前記アーム制御処理を行う、前記(9)に記載の制御装置。
(11)
前記制御部は、前記ミラー部の角度に基づいて、前記撮像画像における前記ミラー部に観察対象が含まれるような、前記撮像装置に係るカメラパラメータを特定し、前記カメラパラメータに基づいて、前記アーム制御処理を行う、前記(9)に記載の制御装置。
(12)
前記制御部は、前記撮像画像におけるデンタルミラーのミラー部に観察対象が含まれるような、前記ミラー部の好適角度を特定し、前記好適角度に誘導するナビゲーション情報を、前記撮像画像に合成する前記画像処理を行う、前記(1)に記載の制御装置。
(13)
撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得することと、
プロセッサが、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行うことと、
を含む、制御方法。
(14)
撮像画像を取得する撮像装置と、
前記撮像画像からのデンタルミラー検出情報を取得する取得部、及び
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部、
を備える制御装置と、
を含む、医療用観察システム。
(1)
撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得する取得部と、
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部と、
を備える制御装置。
(2)
前記制御部は、少なくとも前記画像処理を行い、
前記画像処理は、前記デンタルミラー検出情報に基づいて特定される切出し領域を切出す処理を含む、前記(1)に記載の制御装置。
(3)
前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の領域を示す情報を含み、
前記切出し領域は、前記ミラー部の領域を含む、前記(2)に記載の制御装置。
(4)
前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の位置を示す情報を含み、
前記制御部は、前記ミラー部の位置に基づいて前記アーム制御処理を行う、前記(1)〜(3)のいずれか一項に記載の制御装置。
(5)
前記制御部は、前記ミラー部の位置が前記撮像画像における所定の位置となるように、前記アーム制御処理を行う、前記(4)に記載の制御装置。
(6)
前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域のうち少なくとも一部が前記撮像画像の外周領域と重なる場合に、前記アーム制御処理を行う、前記(5)に記載の制御装置。
(7)
前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域を含み、前記撮像画像に占める前記デンタルミラーの領域の割合がより大きくなるように、前記アーム制御処理を行う、前記(4)に記載の制御装置。
(8)
前記デンタルミラー検出情報は、デンタルミラーのミラー部の検出に成功したか否かを示す情報をさらに含み、
前記制御部は、前記デンタルミラー検出情報に、前記ミラー部の検出に失敗したことを示す情報が含まれていた場合に、前記撮像装置の撮像範囲が広くなるように、前記アーム制御処理を行う、前記(7)に記載の制御装置。
(9)
前記制御部は、前記撮像画像から検出されたデンタルミラーのミラー部の角度に基づいて、前記アーム制御処理を行う、前記(1)に記載の制御装置。
(10)
前記制御部は、第一の時刻における前記ミラー部の角度と、第二の時刻における前記ミラー部の角度との差に応じて、前記アーム制御処理を行う、前記(9)に記載の制御装置。
(11)
前記制御部は、前記ミラー部の角度に基づいて、前記撮像画像における前記ミラー部に観察対象が含まれるような、前記撮像装置に係るカメラパラメータを特定し、前記カメラパラメータに基づいて、前記アーム制御処理を行う、前記(9)に記載の制御装置。
(12)
前記制御部は、前記撮像画像におけるデンタルミラーのミラー部に観察対象が含まれるような、前記ミラー部の好適角度を特定し、前記好適角度に誘導するナビゲーション情報を、前記撮像画像に合成する前記画像処理を行う、前記(1)に記載の制御装置。
(13)
撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得することと、
プロセッサが、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行うことと、
を含む、制御方法。
(14)
撮像画像を取得する撮像装置と、
前記撮像画像からのデンタルミラー検出情報を取得する取得部、及び
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部、
を備える制御装置と、
を含む、医療用観察システム。
1 制御装置
5 デンタルミラー
11、12、13、14、15 制御部
20 検出部
30 インタフェース部
40 記憶部
52 ミラー部
112 画像処理部
124 アーム制御部
136 ミラー角度特定部
148 好適ミラー角度特定部
158 好適カメラパラメータ特定部
5 デンタルミラー
11、12、13、14、15 制御部
20 検出部
30 インタフェース部
40 記憶部
52 ミラー部
112 画像処理部
124 アーム制御部
136 ミラー角度特定部
148 好適ミラー角度特定部
158 好適カメラパラメータ特定部
Claims (14)
- 撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得する取得部と、
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部と、
を備える制御装置。 - 前記制御部は、少なくとも前記画像処理を行い、
前記画像処理は、前記デンタルミラー検出情報に基づいて特定される切出し領域を切出す処理を含む、請求項1に記載の制御装置。 - 前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の領域を示す情報を含み、
前記切出し領域は、前記ミラー部の領域を含む、請求項2に記載の制御装置。 - 前記デンタルミラー検出情報は、検出されたデンタルミラーのミラー部の位置を示す情報を含み、
前記制御部は、前記ミラー部の位置に基づいて前記アーム制御処理を行う、請求項1に記載の制御装置。 - 前記制御部は、前記ミラー部の位置が前記撮像画像における所定の位置となるように、前記アーム制御処理を行う、請求項4に記載の制御装置。
- 前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域のうち少なくとも一部が前記撮像画像の外周領域と重なる場合に、前記アーム制御処理を行う、請求項5に記載の制御装置。 - 前記デンタルミラー検出情報は、前記ミラー部の領域を示す情報をさらに含み、
前記制御部は、前記デンタルミラーの領域を含み、前記撮像画像に占める前記デンタルミラーの領域の割合がより大きくなるように、前記アーム制御処理を行う、請求項4に記載の制御装置。 - 前記デンタルミラー検出情報は、デンタルミラーのミラー部の検出に成功したか否かを示す情報をさらに含み、
前記制御部は、前記デンタルミラー検出情報に、前記ミラー部の検出に失敗したことを示す情報が含まれていた場合に、前記撮像装置の撮像範囲が広くなるように、前記アーム制御処理を行う、請求項7に記載の制御装置。 - 前記制御部は、前記撮像画像から検出されたデンタルミラーのミラー部の角度に基づいて、前記アーム制御処理を行う、請求項1に記載の制御装置。
- 前記制御部は、第一の時刻における前記ミラー部の角度と、第二の時刻における前記ミラー部の角度との差に応じて、前記アーム制御処理を行う、請求項9に記載の制御装置。
- 前記制御部は、前記ミラー部の角度に基づいて、前記撮像画像における前記ミラー部に観察対象が含まれるような、前記撮像装置に係るカメラパラメータを特定し、前記カメラパラメータに基づいて、前記アーム制御処理を行う、請求項9に記載の制御装置。
- 前記制御部は、前記撮像画像におけるデンタルミラーのミラー部に観察対象が含まれるような、前記ミラー部の好適角度を特定し、前記好適角度に誘導するナビゲーション情報を、前記撮像画像に合成する前記画像処理を行う、請求項1に記載の制御装置。
- 撮像装置により取得される撮像画像からのデンタルミラー検出情報を取得することと、
プロセッサが、前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行うことと、
を含む、制御方法。 - 撮像画像を取得する撮像装置と、
前記撮像画像からのデンタルミラー検出情報を取得する取得部、及び
前記デンタルミラー検出情報に基づいて、前記撮像画像に対する画像処理、前記撮像装置を支持するアーム部を制御するアーム制御処理、のうち少なくともいずれか一方を行う制御部、
を備える制御装置と、
を含む、医療用観察システム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016246923A JP2018099297A (ja) | 2016-12-20 | 2016-12-20 | 制御装置、制御方法、及び医療用観察システム |
US16/469,151 US20200093545A1 (en) | 2016-12-20 | 2017-10-10 | Control apparatus, control method, and medical observation system |
CN201780077361.8A CN110087531A (zh) | 2016-12-20 | 2017-10-10 | 控制装置、控制方法、以及医疗观察系统 |
PCT/JP2017/036587 WO2018116582A1 (ja) | 2016-12-20 | 2017-10-10 | 制御装置、制御方法、及び医療用観察システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016246923A JP2018099297A (ja) | 2016-12-20 | 2016-12-20 | 制御装置、制御方法、及び医療用観察システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018099297A true JP2018099297A (ja) | 2018-06-28 |
Family
ID=62626208
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016246923A Pending JP2018099297A (ja) | 2016-12-20 | 2016-12-20 | 制御装置、制御方法、及び医療用観察システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20200093545A1 (ja) |
JP (1) | JP2018099297A (ja) |
CN (1) | CN110087531A (ja) |
WO (1) | WO2018116582A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7143092B2 (ja) * | 2018-03-12 | 2022-09-28 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用画像処理装置、医療用観察装置、および画像処理方法 |
JP6949383B2 (ja) * | 2019-10-17 | 2021-10-13 | 株式会社吉田製作所 | 歯科用撮像画像取得装置 |
CN114285975B (zh) * | 2021-12-27 | 2023-06-02 | 江西边际科技有限公司 | 一种异步图像可变角度图像拾取设备 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
MX2013006104A (es) * | 2010-12-02 | 2013-09-02 | Ultradent Products Inc | Sistema y metodo para ver y hacer seguimiento de imagenes estereoscopicas de video. |
JP5832379B2 (ja) * | 2012-06-04 | 2015-12-16 | 株式会社デンソー | 開口器 |
JP2015093063A (ja) * | 2013-11-12 | 2015-05-18 | 照雄 今井 | 歯科検査装置 |
WO2016108276A1 (ja) * | 2014-12-29 | 2016-07-07 | タカラテレシステムズ株式会社 | 歯科用光学撮影装置 |
JP2017023339A (ja) * | 2015-07-21 | 2017-02-02 | 株式会社デンソー | 医療行為支援装置 |
-
2016
- 2016-12-20 JP JP2016246923A patent/JP2018099297A/ja active Pending
-
2017
- 2017-10-10 WO PCT/JP2017/036587 patent/WO2018116582A1/ja active Application Filing
- 2017-10-10 CN CN201780077361.8A patent/CN110087531A/zh not_active Withdrawn
- 2017-10-10 US US16/469,151 patent/US20200093545A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
WO2018116582A1 (ja) | 2018-06-28 |
CN110087531A (zh) | 2019-08-02 |
US20200093545A1 (en) | 2020-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110622500B (zh) | 成像设备和成像方法 | |
WO2016208246A1 (ja) | 医療用立体観察装置、医療用立体観察方法、及びプログラム | |
JP7392654B2 (ja) | 医療用観察システム、医療用観察装置及び医療用観察方法 | |
CN110832842B (zh) | 成像装置和图像产生方法 | |
JP7226325B2 (ja) | 焦点検出装置および方法、並びにプログラム | |
JP6666467B2 (ja) | 医療用観察装置、及び制御方法 | |
JP7059934B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN110612720B (zh) | 信息处理装置、信息处理方法以及可读存储介质 | |
WO2019092956A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2021192313A (ja) | 情報処理装置および方法、並びにプログラム | |
WO2020054566A1 (ja) | 医療用観察システム、医療用観察装置及び医療用観察方法 | |
JPWO2018168261A1 (ja) | 制御装置、制御方法、及びプログラム | |
JP6939801B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
WO2018116582A1 (ja) | 制御装置、制御方法、及び医療用観察システム | |
WO2018123198A1 (ja) | 手術用ルーペ | |
JP7146735B2 (ja) | 制御装置、外部機器、医療用観察システム、制御方法、表示方法およびプログラム | |
US20190281233A1 (en) | Image processing device, setting method, and program | |
JPWO2017169014A1 (ja) | 医療用立体観察装置、医療用立体観察方法、及びプログラム | |
US20190268547A1 (en) | Image processing device and method, and program | |
WO2018043205A1 (ja) | 医療用画像処理装置、医療用画像処理方法、プログラム | |
WO2018088238A1 (ja) | 画像処理装置および制御方法、並びにプログラム | |
WO2022196093A1 (ja) | 情報処理装置、視線検出方法、プログラム | |
WO2021230001A1 (ja) | 情報処理装置及び情報処理方法 | |
JP6858593B2 (ja) | 医療用観察装置、および制御方法 |