JP2020151407A - 画像処理装置及び医療用観察システム - Google Patents

画像処理装置及び医療用観察システム Download PDF

Info

Publication number
JP2020151407A
JP2020151407A JP2019055736A JP2019055736A JP2020151407A JP 2020151407 A JP2020151407 A JP 2020151407A JP 2019055736 A JP2019055736 A JP 2019055736A JP 2019055736 A JP2019055736 A JP 2019055736A JP 2020151407 A JP2020151407 A JP 2020151407A
Authority
JP
Japan
Prior art keywords
brightness
unit
brightness adjustment
image
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019055736A
Other languages
English (en)
Other versions
JP7252023B2 (ja
Inventor
利幸 佐々木
Toshiyuki Sasaki
利幸 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Priority to JP2019055736A priority Critical patent/JP7252023B2/ja
Priority to US16/802,600 priority patent/US11336838B2/en
Publication of JP2020151407A publication Critical patent/JP2020151407A/ja
Application granted granted Critical
Publication of JP7252023B2 publication Critical patent/JP7252023B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microscoopes, Condenser (AREA)
  • Endoscopes (AREA)

Abstract

【課題】画像中の高輝度領域に対して、柔軟に輝度調整を行うことができる画像処理装置及び医療用観察システムを提供すること。【解決手段】観察対象を拡大して撮像可能とする撮像部と、観察状態に基づいて、輝度調整モードを、予め設定された感度で輝度調整を行う第1輝度調整モード、及び輝度調整の感度が第1輝度調整モードの感度よりも低く、かつ高輝度領域の輝度を抑制する第2輝度調整モードのいずれかに切り替えるモード切替部と、モード切替部が切り替えた輝度調整モードに応じた輝度調整を行う輝度調整部と、輝度調整部による輝度調整後の画像を生成する画像処理部と、を備える。【選択図】図1

Description

本発明は、被観察体の微小部位を観察する画像処理装置及び医療用観察システムに関する。
従来、被観察体である患者の脳や心臓等における微小部位の手術を行う際に該微小部位を観察するための医療用観察システムとして、複数のアーム部を有し、並進3自由度及び回転3自由度の計6自由度の動きを実現する支持部と、支持部の先端に設けられ、該微小部位を拡大する拡大光学系や撮像素子を有する顕微鏡部とを備えた光学式の顕微鏡システムが知られている。
手術時には、電子撮像式の医療用観察システムにおいて、被観察体である手術部位の明るさが頻繁に変わるため、観察画像に応じて輝度を制御する必要がある。よって、医療用観察システムでは、観察画像の輝度を測光して、輝度が適切になるように制御している(例えば、特許文献1を参照)。
特許文献1では、設定された術野エリアに対し、この術野エリア外に対し、輝度が高い領域の輝度を低減している。特許文献1では、術野エリア外において、高輝度領域を抽出し、抽出した領域に対して輝度を低減している。
特開2012−147221号公報
ところで、顕微鏡部を備える医療用観察システムは、撮像されたエリア全体(画像全体)が術野エリアに相当するため、特許文献1のような制御だと、術野エリア外が存在せず、高輝度領域の低減ができなくなる。また、設定によって術野エリアを決めると、被観察体と輝度差が大きい術者の手や手術用器具が術野エリア内に写り込んでも輝度調整ができず、明暗が大きい、観察には不適な画像となる。
本開示は、上記に鑑みてなされたものであって、画像中の高輝度領域に対して、柔軟に輝度調整を行うことができる画像処理装置及び医療用観察システムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本開示にかかる画像処理装置は、観察対象を拡大して撮像可能とする撮像部の観察状態に基づいて、輝度調整モードを、予め設定された感度で輝度調整を行う第1輝度調整モード、及び前記輝度調整の感度が前記第1輝度調整モードの感度よりも低く、かつ高輝度領域の輝度を抑制する第2輝度調整モードのいずれかに切り替えるモード切替部と、前記モード切替部が切り替えた輝度調整モードに応じた輝度調整を行う輝度調整部と、前記輝度調整部による輝度調整後の画像を生成する画像処理部と、を備えることを特徴とする。
また、本開示にかかる画像処理装置は、上記開示において、前記撮像部による撮像視野の変動の有無を検出する観察状態検出部、をさらに備え、前記モード切替部は、前記観察状態検出部の検出結果に基づいて、前記輝度調整モードを、前記第1輝度調整モード及び前記第2輝度調整モードのいずれかに切り替えることを特徴とする。
また、本開示にかかる画像処理装置は、上記開示において、前記輝度調整部は、前記第2輝度調整モードにおいて、前記撮像部が撮像した画像を測光して、予め設定された画素領域ごとに輝度を算出し、予め設定された抽出用閾値と比較して高輝度領域を抽出することを特徴とする。
また、本開示にかかる画像処理装置は、上記開示において、前記輝度調整部は、前記第2輝度調整モードにおいて、前記撮像部が撮像した画像を測光して、予め設定された画素領域ごとに輝度を算出し、算出した輝度と、予め設定された第1閾値とを比較して高輝度領域を仮抽出し、仮抽出した画素領域の大きさに応じて第2閾値を設定し、算出した輝度と、前記第2閾値とを比較して高輝度領域を抽出することを特徴とする。
また、本開示にかかる画像処理装置は、上記開示において、前記第2閾値は、前記仮抽出した画素領域の大きさが大きくなるにしたがって低くなることを特徴とする。
また、本開示にかかる画像処理装置は、上記開示において、前記高輝度領域の抽出において、前記撮像部が撮像した画像における前記画素領域の大きさが部分的に異なることを特徴とする。
また、本開示にかかる医療用観察システムは、観察対象を拡大して撮像可能とする撮像部と、前記撮像部の観察状態に基づいて、輝度調整モードを、予め設定された感度で輝度調整を行う第1輝度調整モード、及び前記輝度調整の感度が前記第1輝度調整モードの感度よりも低く、かつ高輝度領域の輝度を抑制する第2輝度調整モードのいずれかに切り替えるモード切替部と、前記モード切替部が切り替えた輝度調整モードに応じた輝度調整を行う輝度調整部と、前記輝度調整部による輝度調整後の画像を生成する画像処理部と、を備えることを特徴とする。
本開示によれば、画像中の高輝度領域に対して、柔軟に輝度調整を行うことができるという効果を奏する。
図1は、一実施の形態に係る医療用観察システムの外観構成を示す斜視図である。 図2は、本発明の一実施の形態に係る医療用観察装置の顕微鏡部とその周辺の構成を示す拡大斜視図である。 図3は、一実施の形態に係る医療用観察システムの制御装置の構成を示すブロック図である。 図4は、一実施の形態に係る医療用観察システムの制御装置が行う処理の流れを示すフローチャートである。 図5は、高輝度領域の輝度抑制処理前の画像の一例を示す図である。 図6は、高輝度領域の抽出処理を説明する図である。 図7は、高輝度領域の輝度抑制処理後の画像の一例を示す図である。 図8は、実施の形態の変形例1に係る高輝度領域の抽出処理を説明する図である。 図9は、実施の形態の変形例2に係る医療用観察システムの制御装置が行う処理の流れを示すフローチャートである。 図10は、変形例2における、高輝度領域の抽出処理に用いる閾値を説明する図である。
以下、添付図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)を説明する。なお、図面はあくまで模式的なものであり、図面の相互間においても互いの寸法の関係や比率が異なる部分が含まれる場合がある。
(実施の形態)
図1は、一実施の形態に係る医療用観察システムの構成を示す図である。同図に示す医療用観察システム1は、被観察体の微細構造を拡大して撮像する顕微鏡としての機能を有する医療用観察装置(以下、観察装置という)2と、医療用観察システム1の動作を統括して制御する制御装置3と、観察装置2が撮像した画像を表示する表示装置4とを備える。
観察装置2は、床面上を移動可能なベース部5と、ベース部5に支持される支持部6と、支持部6の先端に設けられて被観察体の微小部位を拡大して撮像する柱状の顕微鏡部7と、を備える。また、観察装置2には、光ファイバ等によって構成されたライトガイド81を介して観察装置2に照明光を供給する光源装置8が接続される。
観察装置2において、例えば、制御装置3と顕微鏡部7との間の信号伝送を行うための信号線を含む伝送ケーブルや、光源装置8から顕微鏡部7までの照明光の導光を行うためのライトガイドケーブル等を含むケーブル群が、ベース部5から顕微鏡部7にわたって配設されている。ケーブル群は、支持部6に沿って配設されている。
支持部6は、第1関節部11、第1アーム部21、第2関節部12、第2アーム部22、第3関節部13、第3アーム部23、第4関節部14、第4アーム部24、第5関節部15、第5アーム部25、および第6関節部16を有する。
支持部6は、2つのアーム部および2つのアーム部の一方(先端側)を他方(基端側)に対して回動可能に連結する関節部からなる組を4組有する。この4組は、具体的には、(第1アーム部21、第2関節部12、第2アーム部22)、(第2アーム部22、第3関節部13、第3アーム部23)、(第3アーム部23、第4関節部14、第4アーム部24)、(第4アーム部24、第5関節部15、第5アーム部25)である。
第1関節部11は、先端側で顕微鏡部7を回動可能に保持するとともに、基端側で第1アーム部21の先端部に固定された状態で第1アーム部21に保持される。第1関節部11は円筒状をなし、高さ方向の中心軸である第1軸O1のまわりに回動可能に顕微鏡部7を保持する。第1アーム部21は、第1関節部11の側面から第1軸O1と直交する方向に延びる形状をなす。
第2関節部12は、先端側で第1アーム部21を回動可能に保持するとともに、基端側で第2アーム部22の先端部に固定された状態で第2アーム部22に保持される。第2関節部12は円筒状をなしており、高さ方向の中心軸であって第1軸O1と直交する軸である第2軸O2のまわりに回動可能に第1アーム部21を保持する。第2アーム部22は略L字状をなし、L字の縦線部分の端部で第2関節部12に連結する。
第3関節部13は、先端側で第2アーム部22のL字の横線部分を回動可能に保持するとともに、基端側で第3アーム部23の先端部に固定された状態で第3アーム部23に保持される。第3関節部13は、円筒状をなしており、高さ方向の中心軸であって第2軸O2と直交する軸であり、かつ第2アーム部22が延びる方向と平行な軸である第3軸O3のまわりに回動可能に第2アーム部22を保持する。第3アーム部23は先端側が円筒状をなしており、基端側に先端側の円筒の高さ方向と直交する方向に貫通する孔部が形成されている。第3関節部13は、この孔部を介して第4関節部14に回動可能に保持される。
第4関節部14は、先端側で第3アーム部23を回動可能に保持するとともに、基端側で第4アーム部24に固定された状態で第4アーム部24に保持される。第4関節部14は円筒状をなしており、高さ方向の中心軸であって第3軸O3と直交する軸である第4軸O4のまわりに回動可能に第3アーム部23を保持する。
第5関節部15は、先端側で第4アーム部24を回動可能に保持するとともに、基端側で第5アーム部25に固定して取り付けられる。第5関節部15は円筒状をなしており、高さ方向の中心軸であって第4軸O4と平行な軸である第5軸O5のまわりに第4アーム部24を回動可能に保持する。第5アーム部25は、L字状をなす部分と、L字の横線部分から下方へ延びる棒状の部分とからなる。第5関節部15は、基端側で第5アーム部25のL字の縦線部分の端部に取り付けられる。
第6関節部16は、先端側で第5アーム部25を回動可能に保持するとともに、基端側でベース部5の上面に固定して取り付けられる。第6関節部16は円筒状をなしており、高さ方向の中心軸であって第5軸O5と直交する軸である第6軸O6のまわりに第5アーム部25を回動可能に保持する。第6関節部16の先端側には、第5アーム部25の棒状の部分の基端部が取り付けられる。
以上説明した構成を有する支持部6は、顕微鏡部7における並進3自由度および回転3自由度の計6自由度の動きを実現する。
第1関節部11〜第6関節部16は、顕微鏡部7および第1アーム部21〜第5アーム部25の回動をそれぞれ禁止する電磁ブレーキを有する。各電磁ブレーキは、顕微鏡部7に設けられるアーム操作スイッチ73(後述)が押下された状態で解除され、顕微鏡部7および第1アーム部21〜第5アーム部25の回動を許容する。なお、電磁ブレーキの代わりにエアブレーキを適用してもよい。
各関節部には、上述した電磁ブレーキのほか、エンコーダ及びアクチュエータをそれぞれ搭載してもよい。エンコーダは、例えば、第1関節部11に設けられている場合、第1軸O1における回転角度を検出する。アクチュエータは、例えばサーボモータ等の電動モータによって構成され、制御装置3からの制御により駆動され、関節部における回転を所定の角度だけ生じさせる。関節部における回転角度は、例えば顕微鏡部7の移動の前後において観察点が変化しないように顕微鏡部7を移動させるために必要な値として、各回転軸(第1軸O1〜第6軸O6)における回転角度に基づいて制御装置3によって設定される。このように、アクチュエータ等の能動的な駆動機構が設けられる関節部は、当該アクチュエータの駆動が制御されることにより能動的に回転する回転軸を構成する。
図2は、観察装置2の顕微鏡部7とその周辺の構成を示す拡大斜視図である。以下、図2を参照して、顕微鏡部7の構成を説明する。
顕微鏡部7は、円筒状をなす筒状部71と、筒状部71の中空部に設けられ、被観察体の像を拡大して撮像する撮像部72と、第1関節部11〜第6関節部16における電磁ブレーキを解除して各関節部の回動を許容する操作入力を受け付けるアーム操作スイッチ73と、撮像部72における拡大倍率および被観察体までの焦点距離を変更可能な十字レバー74とを有する。
なお、顕微鏡部7には、撮像部72の上部の周囲に形成され、第1関節部11に嵌入される上カバー(図示せず)や、該上カバーから第1軸O1に沿って延びる中空円筒状の軸部(図示せず)が設けられる。
筒状部71は、第1関節部11よりも径が小さい円筒状をなしており、下端部の開口面には、撮像部72を保護するカバーガラスが設けられている(図示せず)。なお、筒状部71の形状は円筒状に限られるわけではなく、例えば高さ方向と直交する断面が楕円または多角形であるような筒状をなしていてもよい。
撮像部72は、光軸が第1軸O1と一致するように配置される複数のレンズを有し、被観察体からの光を集光して結像する光学系721と、光学系721が集光した光を受光して光電変換することによって撮像信号を生成する撮像素子722とを有する。なお、図2では、光学系721が有する複数のレンズを収容する筒状の筐体のみを記載している。
光学系721は、十字レバー74の操作に応じて被観察体像の拡大倍率および被観察体までの焦点距離を変更可能である。
撮像素子722は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)を用いてそれぞれ構成される。撮像素子722は、2次元画像生成用の撮像信号を生成する。これらの撮像信号は、デジタル信号として撮像素子722から出力される。なお、二つの撮像素子を設けて、3次元画像生成用の撮像信号として、互いに視差を有する2つの撮像信号を生成するようにしてもよい。
アーム操作スイッチ73は、押しボタン式のスイッチである。ユーザがアーム操作スイッチ73を押下している間、第1関節部11〜第6関節部16の電磁ブレーキが解除される。アーム操作スイッチ73は、顕微鏡部7の操作時にユーザが向かい合う側面と反対側の側面、換言すると顕微鏡部7の操作時にユーザの死角となる側面に設けられる。アーム操作スイッチ73は、観察装置2に対する操作入力を受け付ける操作入力部の一部をなす。
十字レバー74は、筒状部71の高さ方向および該高さ方向と直交する周方向に沿って操作可能である。十字レバー74は、筒状部71の側面であって筒状部71の高さ方向に沿ってアーム操作スイッチ73の下方の側面に設けられる。十字レバー74も、アーム操作スイッチ73と同様に、観察装置2に対する操作入力を受け付ける操作入力部の一部をなす。
図2に示す位置から筒状部71の高さ方向に沿って十字レバー74を操作すると拡大倍率が変更され、図2に示す位置から筒状部71の周方向に沿って十字レバー74を操作すると被観察体までの焦点距離が変更される。例えば、筒状部71の高さ方向に沿って十字レバー74を上方へ動かすと拡大倍率が大きくなり、筒状部71の高さ方向に沿って十字レバー74を下方へ動かすと拡大倍率が小さくなる。また、筒状部71の周方向に沿って十字レバー74を時計回りに動かすと被観察体までの焦点距離が遠くなり、筒状部71の周方向に沿って十字レバー74を反時計回りに動かすと被観察体までの焦点距離が近くなる。なお、十字レバー74の移動方向と操作の割り当ては、ここで説明したものに限られるわけではない。
制御装置3は、観察装置2が出力した撮像信号を受信し、この撮像信号に所定の信号処理を施すことによって表示用の画像データを生成する。なお、制御装置3をベース部5の内部に設置して観察装置2と一体化してもよい。
図3は、一実施の形態に係る医療用観察システムの制御装置の構成を示すブロック図である。制御装置3は、輝度調整部31と、観察状態検出部32と、画像処理部33と、モード切替部34と、入力部35と、出力部36と、記憶部37と、制御部38とを備える。なお、制御装置3には、観察装置2及び制御装置3を駆動するための電源電圧を生成し、制御装置3の各部にそれぞれ供給するとともに、伝送ケーブルを介して観察装置2に供給する電源部(図示略)などが設けられていてもよい。実施の形態では、少なくとも、輝度調整部31、画像処理部33及びモード切替部34を用いて画像処理装置を構成する。
輝度調整部31は、設定される輝度調整モードに応じた輝度調整を行う。ここでいう輝度とは、RGB成分を輝度(Y)と色差(Cb、Cr)に変換して得られるYの値である。
実施の形態では、取得した撮像信号を測光した輝度が適切になるように輝度調整を行う第1輝度調整モードと、第1輝度調整モードによる輝度調整を停止して、撮像信号に基づく撮像画像から、高輝度領域を抽出し、この抽出した領域において輝度の抑制処理を行う第2輝度調整モードとのいずれかが設定される。
輝度調整部31は、第1輝度調整モードに設定されている場合、画像全体(各画素)の輝度から平均輝度や、最高輝度、最低輝度等を取得して、これらの輝度が予め設定された輝度範囲(感度)によって画像全体が適切な輝度となるように輝度を調整する。第1輝度調整モードでは、公知の自動輝度調整方法を採用することができる。
また、輝度調整部31は、第2輝度調整モードに設定されている場合、第1輝度調整モードよりも輝度調整の感度を低くして、撮像画像から高輝度領域を抽出し、この抽出した領域における輝度の低減処理を実施し、撮像画像に対して低減処理後の高輝度領域の画像を合成し、撮像画像における高輝度領域の画像を、低減処理後の画像に置き換える。実施の形態では、第2輝度調整モードに設定されている場合、高輝度領域のみ輝度調整を行う例を説明する。
観察状態検出部32は、アーム操作スイッチ73が押下されたか否かを検出することによって、顕微鏡部7による撮像位置が移動し得る状態であるか、撮像位置が固定されている状態であるかを検出するとともに、十字レバー74の操作によって、撮像範囲が変更され得る状態であるか、撮像範囲が固定されている状態であるかを検出する。観察状態検出部32は、検出結果をモード切替部34に出力する。
画像処理部33は、顕微鏡部7が出力した撮像信号に対してノイズ除去や、必要に応じてA/D変換等の信号処理を行う。画像処理部33は、信号処理後の撮像信号をもとに、表示装置4が表示する表示用の画像信号を生成する。画像処理部33は、撮像信号に対して、所定の信号処理を実行して被写体画像を含む表示用の画像信号を生成する。ここで、画像処理部33は、検波処理や、補間処理、色補正処理、色強調処理、及び輪郭強調処理等の各種画像処理等の公知の画像処理を行う。画像処理部33は、生成した画像信号を表示装置4に出力する。
また、画像処理部33が、入力されたフレームの撮像信号を基に、各フレームの所定のAF用評価値を出力するAF処理部、及び、AF処理部からの各フレームのAF用評価値から、最も合焦位置として適したフレームまたはフォーカスレンズ位置等を選択するようなAF演算処理を行うAF演算部を有していてもよい。
モード切替部34は、観察状態検出部32の検出結果に基づいて、輝度調整モードを、第1輝度調整モード及び第2輝度調整モードのいずれかに設定する。具体的に、モード切替部34は、装置起動時には、まず第1輝度調整モードに設定し、アーム操作スイッチ73及び十字レバー74が操作されていない、撮像位置及び撮像範囲がともに固定されている状態の場合に、輝度調整モードを、第2輝度調整モードに切り替える。また、第2輝度調整モード設定時において、撮像位置及び撮像範囲の少なくとも一方が変化し得る場合は、第1輝度調整モードに切り替える。
入力部35は、キーボード、マウス、タッチパネル等のユーザインタフェースを用いて実現され、各種情報の入力を受け付ける。
出力部36は、スピーカーやプリンタ、ディスプレイ等を用いて実現され、各種情報を出力する。
記憶部37は、フラッシュメモリやDRAM(Dynamic Random Access Memory)等の半導体メモリを用いて実現され、通信情報データ(例えば、通信用フォーマット情報など)が記録されている。なお、記憶部37は、制御部38が実行する各種プログラム等が記録されていてもよい。
制御部38は、制御装置3及び観察蔵置2を含む各構成部の駆動制御、及び各構成部に対する情報の入出力制御などを行う。制御部38は、記憶部37に記録されている通信情報データ(例えば、通信用フォーマット情報など)を参照して制御信号を生成し、該生成した制御信号を顕微鏡部7へ送信する。
なお、制御部38は、顕微鏡部7及び制御装置3の同期信号、及びクロックを生成する。顕微鏡部7への同期信号(例えば、撮像タイミングを指示する同期信号等)やクロック(例えばシリアル通信用のクロック)は、図示しないラインで顕微鏡部7に送られ、この同期信号やクロックを基に、顕微鏡部7が駆動する。
上述した輝度調整部31、観察状態検出部32、画像処理部33、モード切替部34及び制御部38は、プログラムが記録された内部メモリ(図示略)を有するCPU(Central Processing Unit)等の汎用プロセッサやASIC(Application Specific Integrated Circuit)等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて実現される。また、プログラマブル集積回路の一種であるFPGA(Field Programmable Gate Array:図示略)を用いて構成するようにしてもよい。なお、FPGAにより構成される場合は、コンフィグレーションデータを記憶するメモリを設け、メモリから読み出したコンフィグレーションデータにより、プログラマブル集積回路であるFPGAをコンフィグレーションしてもよい。
表示装置4は、制御装置3が生成した画像データを制御装置3から受信し、該画像データに対応する画像を表示する。このような表示装置4は、液晶または有機EL(Electro Luminescence)からなる表示パネルを備える。
なお、表示装置4のほか、スピーカーやプリンタ等を用いて情報を出力する出力装置を備えてもよい。
次に、以上の構成を有する医療用観察システム1を用いて行われる手術の概要を説明する。術者は、表示装置4が表示する画像を目視しながら、顕微鏡部7のアーム操作スイッチを押下した状態で顕微鏡部7を把持して所望の位置まで移動させ、顕微鏡部7の撮像視野を決定した後、アーム操作スイッチから指を離す。これにより、第1関節部11〜第6関節部16では電磁ブレーキが動作し、顕微鏡部7の撮像視野が固定される。その後、術者は、拡大倍率および被観察体までの焦点距離の調整等を行う。表示装置4が画像を表示するため、術者は画像を通して術部を立体的に把握することができる。観察中は、予め設定されたフレームレートで撮像処理が実行され、表示装置4には、撮像された画像が順次表示(動画表示)される。
続いて、制御装置3が行う輝度調整処理について、図4〜図7を参照して説明する。図4は、一実施の形態に係る医療用観察システムの制御装置が行う処理の流れを示すフローチャートである。図4に示すフローチャートは、制御装置3の起動後に開始される処理の例を示す。また、顕微鏡部7が生成した撮像信号は、順次制御装置3に送られ、制御装置3の画像処理部33において画像処理が施された後、記憶部37に記憶される。
制御装置3が起動されると、モード切替部34は、輝度調整モードを、第1輝度調整モードに設定して、順次取得される撮像信号に対して輝度調整処理を実施する(ステップS101)。
観察状態検出部32は、撮像位置、撮像範囲に変化がないか否かを判断する。観察状態検出部32は、アーム操作スイッチ73及び十字レバー74が操作されていない、撮像位置及び撮像範囲がともに固定されている(変化がない)状態であるか否かを判断する。観察状態検出部32は、アーム操作スイッチ73が押下によって顕微鏡部7による撮像位置が移動し得る状態、十字レバー74の操作によって撮像範囲が変更され得る状態の少なくとも一方の状態が成り立つ場合、撮像位置、撮像範囲に変化があると判断し(ステップS102:No)、ステップS101に戻って第1輝度調整モードによる輝度調整を実施する。一方、観察状態検出部32は、撮像位置、撮像範囲に変化がないと判断した場合(ステップS102:Yes)、ステップS103に移行する。
ステップS103において、モード切替部34は、輝度調整モードを第2輝度調整モードに切り替える。第2輝度調整モードに切り替わると、輝度調整部31は、まず、第1輝度調整モードによる輝度調整処理を停止する。
ステップS103に続くステップS104において、輝度調整部31は、記憶部37に記憶されている最新の画像を読み出す。
そして、輝度調整部31は、高輝度領域を抽出する(ステップS105)。
図5は、高輝度領域の輝度抑制処理前の画像の一例を示す図である。例えば、読み出した画像G1に、照明光を反射する術者の手(像H1)が写っている場合、この像H1は、高輝度な像となる。輝度調整部31は、画像G1から、像H1を含む最小の領域を高輝度領域として抽出する。
輝度調整部31は、画像G1を構成する複数の画素を、例えば3×3の画素からなる画素群S1にグループ化し、画素群S1ごとに輝度(代表値)を算出し、輝度が抽出用閾値よりも大きい画素群を抽出する。画素群の代表値は、例えば、最高値、平均値及び最頻値などである。抽出用閾値は、予め設定され、記憶部37に記憶されている。
図6は、高輝度領域の抽出処理を説明する図である。図6に示す例では、像H1を含む複数の画素群S1が抽出される。輝度調整部31は、これらの画素群S1によって構成される高輝度領域RHを抽出する。
高輝度領域を抽出後、輝度調整部31は、高輝度領域の輝度抑制処理を実施する(ステップS106)。輝度調整部31は、高輝度領域の輝度を低減する。輝度調整部31は、例えば、予め設定された割合で輝度を低減する。輝度調整部31は、高輝度領域の輝度を低減した画像を、制御部38を経て画像処理部33に出力する。
その後、画像処理部33が、輝度低減後の高輝度領域の画像と、対応する画像とを合成して、高輝度領域の輝度が低減された画像を生成する(ステップS107)。
図7は、高輝度領域の輝度抑制処理後の画像の一例を示す図である。画像処理部33による合成処理によって、図7に示す画像G3のような、高輝度領域RHの輝度が、高輝度領域の輝度抑制処理前の画像(図5参照)の輝度と比して低減された画像が得られる。
上述した合成後の画像が、表示装置4に表示され、術者によって観察される。この際、表示されている画像に輝度低減処理が施されている旨を表示画面中に表示してもよいし、出力部36によって音又は光によって輝度低減処理が施されている旨を報知してもよい。
その後、制御部38は、撮像処理を終了するか否かを判断する(ステップS108)。制御部38は、例えば、動画撮影の停止指示が、入力部35を介して入力されているか、又は、動画撮影が停止されていれば(ステップS108:Yes)、輝度調整処理を終了する。一方、制御部38は、動画撮影が継続されている場合は(ステップS108:No)、ステップS102に戻り、輝度調整処理を繰り返す。
以上説明した実施の形態は、画像全体から高輝度の領域を抽出して、抽出した高輝度領域の輝度を低減するようにしたので、画像中に存在する高輝度領域に対して輝度を低減することができる。実施の形態によれば、関心領域等、画像中に設定される領域の有無によらず、画像中の高輝度領域に対して、柔軟に輝度調整を行うことができる。例えば、画像G1(図5参照)において関心領域が設定され、関心領域内に、術者の手の像(像H1)の一部が含まれる場合に、関心領域内の像H1の輝度が低減され、関心領域内の高輝度な像の輝度が抑制される。
また、実施の形態では、輝度のみを用いて高輝度領域を抽出して、輝度低減処理を行うため、処理負荷が比較的軽い演算処理とすることができる。これにより、動画表示など、リアルタイムで画像を表示する場合において、フレームレートの低下を抑制して動画表示することができる。
なお、上述した実施の形態では、高輝度領域を、第1閾値で仮抽出した後、仮抽出した領域に応じて第2閾値を設定して、該第2閾値を用いて高輝度領域を抽出する例を説明したが、第1閾値によって抽出した領域を高輝度領域、すなわち、予め設定される第1閾値のみによって高輝度領域を抽出するようにしてもよい。
(変形例1)
次に、実施の形態の変形例1について、図8を参照して説明する。図8は、実施の形態の変形例1に係る高輝度領域の抽出処理を説明する図である。変形例1に係る医療用観察システムは、上述した実施の形態の医療用観察システム1と同じ構成であるため、説明を省略する。以下、実施の形態とは異なる処理について説明する。変形例1に係る輝度調整処理は、実施の形態(図4)と同じ流れである。変形例1では、高輝度抽出処理が実施の形態とは異なる。
変形例1では、高輝度領域の抽出処理(図4のステップS105)において、画像G4の中央の領域RDと、領域RDの外側の領域との画素群の画素構成数を変える。具体的には、輝度調整部31は、領域RD外の画素を、例えば3×3の画素からなる画素群S1にグループ化し、領域RDの画素を2×2からなる画素群S2にグループ化する。これにより、画像G4の中央では、詳細に高輝度領域の抽出が行われ、観察したい部位の輝度が低減されてしまうのを抑制できる。
なお、上述した変形例1では、画像G4の中央の領域RDと、領域RDの外側の領域との画素群の画素構成数を変える例を説明したが、関心領域が設定される場合には、関心領域内を画素群の構成数を、関心領域外の画素群の構成数と比して少なくするようにしてもよい。これにより、設定される関心領域における高輝度領域の抽出処理を、高精度に実施することができる。
(変形例2)
次に、実施の形態の変形例2について、図9、10を参照して説明する。変形例2に係る医療用観察システムは、上述した実施の形態の医療用観察システム1と同じ構成であるため、説明を省略する。以下、実施の形態とは異なる処理について説明する。
図9は、変形例2に係る医療用観察システムの制御装置が行う処理の流れを示すフローチャートである。図9に示すフローチャートは、実施の形態と同様に、制御装置3の起動後に開始される処理の例を示す。
制御装置3が起動されると、モード切替部34は、輝度調整モードを、第1輝度調整モードに設定して、順次取得される撮像信号に対して輝度調整処理を実施する(ステップS201)。
観察状態検出部32は、ステップS102と同様にして、撮像位置、撮像範囲に変化がないか否かを判断する。観察状態検出部32は、撮像位置、撮像範囲に変化があると判断した場合(ステップS202:No)、ステップS201に戻って第1輝度調整モードによる輝度調整を実施する。一方、観察状態検出部32は、撮像位置、撮像範囲に変化がないと判断した場合(ステップS202:Yes)、ステップS203に移行する。
ステップS203において、モード切替部34は、輝度調整モードを第2輝度調整モードに切り替える。第2輝度調整モードに切り替わると、輝度調整部31は、まず、第1輝度調整モードによる輝度調整処理を停止する。
ステップS203に続くステップS204において、輝度調整部31は、記憶部37に記憶されている最新の画像を読み出す。
そして、輝度調整部31は、高輝度領域を抽出する(ステップS205〜S207)。
輝度調整部31は、画像G1を構成する複数の画素を、例えば3×3の画素からなる画素群S1にグループ化し、画素群S1ごとに輝度(代表値)を算出し、輝度が第1閾値よりも大きい画素群を仮抽出する(ステップS205)。画素群の代表値は、例えば、最高値、平均値及び最頻値などである。第1閾値は、予め設定され、記憶部37に記憶されている。
その後、輝度調整部31は、仮抽出された画素群が画像G2に対して占める領域の広さ(例えば画素数)を算出し、高輝度領域として本抽出するための第2閾値を決定する(ステップS206)。
図10は、高輝度領域の抽出処理に用いる第2閾値を説明する図である。図10に示すグラフは、仮抽出された画素群が画像に対して占める領域(仮抽出された領域の広さ)と、第2閾値との関係を示す。図10に示す直線L1は、仮抽出した領域が広いほど、第2閾値が小さくなる。輝度調整部31は、仮抽出した領域の広さと直線L1とに基づいて、第2閾値を決定する。
なお、第1閾値は、第2閾値の最低値よりも低い値に設定される。
輝度調整部31は、画素群S1ごとに輝度(代表値)が第2閾値よりも大きい画素群を抽出する(ステップS207)。
高輝度領域を抽出後、輝度調整部31は、高輝度領域の輝度抑制処理を実施する(ステップS208)。輝度調整部31は、高輝度領域の輝度を低減する。輝度調整部31は、例えば、予め設定された割合で輝度を低減する。輝度調整部31は、高輝度領域の輝度を低減した画像を、制御部38を経て画像処理部33に出力する。
その後、画像処理部33が、輝度低減後の高輝度領域の画像と、対応する画像とを合成して、高輝度領域の輝度が低減された画像を生成する(ステップS209)。合成後の画像は表示装置4に表示され、術者によって観察される。
その後、制御部38は、撮像処理を終了するか否かを判断する(ステップS210)。制御部38は、例えば、動画撮影の停止指示が、入力部35を介して入力されているか、又は、動画撮影が停止されていれば(ステップS210:Yes)、輝度調整処理を終了する。一方、制御部38は、動画撮影が継続されている場合は(ステップS210:No)、ステップS202に戻り、輝度調整処理を繰り返す。
以上説明した変形例2は、実施の形態と同様に、画像全体から高輝度の領域を抽出して、抽出した高輝度領域の輝度を低減するようにしたので、画像中に存在する高輝度領域に対して輝度を低減することができる。実施の形態によれば、関心領域等、画像中に設定される領域の有無によらず、画像中の高輝度領域に対して、柔軟に輝度調整を行うことができる。
また、変形例2では、画像全体から高輝度の領域を仮抽出し、仮抽出した領域の大きさに応じて新たに閾値を設定後、高輝度領域を抽出するようにしたので、画像において高輝度領域が占める大きさに応じて、輝度低減対象の高輝度領域が抽出される。ここで、高輝度領域の大きさが大きいほど、観察の妨げになりやすいため、領域の大きさに応じて、高輝度として抽出する領域が広くなるような閾値(第2閾値)を設定し、仮抽出した領域が大きいほど、輝度を低減する領域を大きく抽出することによって、観察の妨げとなる高輝度領域を低減することができる。
なお、上述した変形例2では、グラフを用いて第2閾値を決定する例を説明したが、仮抽出された領域の広さと、第2閾値とが関連付いて、第2閾値が決定できればよく、例えば、関数や、ルックアップテーブルなどを用いて第2閾値を決定するようにしてもよい。
ここまで、本発明を実施するための形態を説明してきたが、本発明は、上述した実施の形態によってのみ限定されるべきものではない。例えば、支持部6は、2つのアーム部および該2つのアーム部の一方を他方に対して回動可能に連結する関節部からなる組を少なくとも1組有していればよい。
なお、実施の形態では、輝度調整部31が、第2輝度調整モードに切り替えた際、第1輝度調整モードに応じた輝度調整処理を停止する例を説明したが、第2輝度調整モードの輝度調整の感度が、第1輝度調整モードの輝度調整の感度より低ければよく、例えば、徐々に第1輝度調整モードの処理の効果を鈍くしていくようにしてもよい。例えば、輝度調整部31は、輝度調整の度合いを、フレームが進むごとに小さくすることによって、徐々に第1輝度調整モードによる輝度調整効果を小さくしていってもよい。
また、上述した輝度調整処理におけるモード切り替えは、設定によって有効及び無効を選択できるようにしてもよい。
また、上述した輝度調整処理では、輝度を低減する例を説明したが、高輝度領域の色を、低輝度の色に置き換えるようにしてもよい。また、輝度の低減と、高輝度領域の色の置き換えとを、設定によって選択できるようにしてもよい。
また、医療用観察装置を、設置場所の天井から吊り下げて配置する構成としてもよい。
また、上述した実施の形態では、手術用の顕微鏡システムである例を説明したが、上述した輝度調整に係る構成を、撮像部を備える硬性又は軟性の内視鏡装置に適用してもよい。
このように、本発明は、特許請求の範囲に記載した技術的思想を逸脱しない範囲内において、さまざまな実施の形態等を含み得るものである。
以上のように、本開示にかかる画像処理装置及び医療用観察システムは、画像中の高輝度領域に対して、柔軟に輝度調整を行うのに有用である。
1 医療用観察システム
2 医療用観察装置
3 制御装置
4 表示装置
5 ベース部
6 支持部
7 顕微鏡部
8 光源装置
11 第1関節部
12 第2関節部
13 第3関節部
14 第4関節部
15 第5関節部
16 第6関節部
21 第1アーム部
22 第2アーム部
23 第3アーム部
24 第4アーム部
25 第5アーム部
31 輝度調整部
32 観察状態検出部
33 画像処理部
34 モード切替部
35 入力部
36 出力部
37 記憶部
38 制御部

Claims (7)

  1. 観察対象を拡大して撮像可能とする撮像部の観察状態に基づいて、輝度調整モードを、予め設定された感度で輝度調整を行う第1輝度調整モード、及び前記輝度調整の感度が前記第1輝度調整モードの感度よりも低く、かつ高輝度領域の輝度を抑制する第2輝度調整モードのいずれかに切り替えるモード切替部と、
    前記モード切替部が切り替えた輝度調整モードに応じた輝度調整を行う輝度調整部と、
    前記輝度調整部による輝度調整後の画像を生成する画像処理部と、
    を備える画像処理装置。
  2. 前記撮像部による撮像視野の変動の有無を検出する観察状態検出部、
    をさらに備え、
    前記モード切替部は、前記観察状態検出部の検出結果に基づいて、前記輝度調整モードを、前記第1輝度調整モード及び前記第2輝度調整モードのいずれかに切り替える、
    請求項1に記載の画像処理装置。
  3. 前記輝度調整部は、前記第2輝度調整モードにおいて、前記撮像部が撮像した画像を測光して、予め設定された画素領域ごとに輝度を算出し、予め設定された抽出用閾値と比較して高輝度領域を抽出する、
    請求項1に記載の画像処理装置。
  4. 前記輝度調整部は、前記第2輝度調整モードにおいて、
    前記撮像部が撮像した画像を測光して、予め設定された画素領域ごとに輝度を算出し、
    算出した輝度と、予め設定された第1閾値とを比較して高輝度領域を仮抽出し、
    仮抽出した画素領域の大きさに応じて第2閾値を設定し、
    算出した輝度と、前記第2閾値とを比較して高輝度領域を抽出する、
    請求項1に記載の画像処理装置。
  5. 前記第2閾値は、前記仮抽出した画素領域の大きさが大きくなるにしたがって低くなる、
    請求項4に記載の画像処理装置。
  6. 前記高輝度領域の抽出において、前記撮像部が撮像した画像における前記画素領域の大きさが部分的に異なる、
    請求項3又は4に記載の画像処理装置。
  7. 観察対象を拡大して撮像可能とする撮像部と、
    前記撮像部の観察状態に基づいて、輝度調整モードを、予め設定された感度で輝度調整を行う第1輝度調整モード、及び前記輝度調整の感度が前記第1輝度調整モードの感度よりも低く、かつ高輝度領域の輝度を抑制する第2輝度調整モードのいずれかに切り替えるモード切替部と、
    前記モード切替部が切り替えた輝度調整モードに応じた輝度調整を行う輝度調整部と、
    前記輝度調整部による輝度調整後の画像を生成する画像処理部と、
    を備える医療用観察システム。
JP2019055736A 2019-03-22 2019-03-22 画像処理装置及び医療用観察システム Active JP7252023B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019055736A JP7252023B2 (ja) 2019-03-22 2019-03-22 画像処理装置及び医療用観察システム
US16/802,600 US11336838B2 (en) 2019-03-22 2020-02-27 Image processing apparatus and medical observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019055736A JP7252023B2 (ja) 2019-03-22 2019-03-22 画像処理装置及び医療用観察システム

Publications (2)

Publication Number Publication Date
JP2020151407A true JP2020151407A (ja) 2020-09-24
JP7252023B2 JP7252023B2 (ja) 2023-04-04

Family

ID=72515112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019055736A Active JP7252023B2 (ja) 2019-03-22 2019-03-22 画像処理装置及び医療用観察システム

Country Status (2)

Country Link
US (1) US11336838B2 (ja)
JP (1) JP7252023B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008229210A (ja) * 2007-03-23 2008-10-02 Hoya Corp 電子内視鏡システムの画像処理プロセッサ
US20130184530A1 (en) * 2012-01-13 2013-07-18 Olympus Corporation Endoscope apparatus and brightness control method
WO2018230066A1 (ja) * 2017-06-12 2018-12-20 ソニー株式会社 医療用システム、医療用装置および制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5085957B2 (ja) * 2007-02-26 2012-11-28 株式会社ニデック 視標呈示装置
JP2012147221A (ja) 2011-01-12 2012-08-02 Panasonic Corp 医療用画像表示装置
EP2698985B1 (en) * 2012-04-16 2018-05-30 Olympus Corporation Imaging system and imaging method
KR102049783B1 (ko) * 2012-09-28 2019-11-28 삼성전자 주식회사 조도 변화에 따른 화면 밝기 제어 방법 및 장치
KR102278806B1 (ko) * 2014-03-17 2021-07-19 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 조직 접촉 검출과 자동-노출 및 조명 제어를 위한 시스템 및 방법
EP3406184A4 (en) * 2016-01-20 2019-10-23 Olympus Corporation PROCESSOR FOR ENDOSCOPE

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008229210A (ja) * 2007-03-23 2008-10-02 Hoya Corp 電子内視鏡システムの画像処理プロセッサ
US20130184530A1 (en) * 2012-01-13 2013-07-18 Olympus Corporation Endoscope apparatus and brightness control method
JP2013144008A (ja) * 2012-01-13 2013-07-25 Olympus Corp 内視鏡装置及び調光制御方法
WO2018230066A1 (ja) * 2017-06-12 2018-12-20 ソニー株式会社 医療用システム、医療用装置および制御方法
US20200077012A1 (en) * 2017-06-12 2020-03-05 Sony Corporation Medical system, medical apparatus, and control method

Also Published As

Publication number Publication date
US11336838B2 (en) 2022-05-17
US20200304722A1 (en) 2020-09-24
JP7252023B2 (ja) 2023-04-04

Similar Documents

Publication Publication Date Title
JP7400802B2 (ja) 撮像装置、およびスイッチ
KR20200024209A (ko) 촬상 장치 및 화상 생성 방법
US20210019921A1 (en) Image processing device, image processing method, and program
JP7146735B2 (ja) 制御装置、外部機器、医療用観察システム、制御方法、表示方法およびプログラム
US20220217260A1 (en) Signal processing device, imaging device, and signal processing method
JP2014228851A (ja) 内視鏡装置、画像取得方法および画像取得プログラム
WO2018142993A1 (ja) 発光制御装置、発光制御方法、プログラム、発光装置、および撮像装置
JP5389483B2 (ja) 観察装置
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
US11778325B2 (en) Image processing apparatus, image processing method, and image processing program
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP2020151406A (ja) 医療用保持装置及び医療用観察システム
JP2020151407A (ja) 画像処理装置及び医療用観察システム
JP2019166156A (ja) 医療用観察システム
JP7355009B2 (ja) 撮像装置、ゲイン設定方法及びプログラム
JP2020151408A (ja) 医療用画像処理装置、医療用観察装置、医療用画像処理装置の作動方法および医療用画像処理プログラム
WO2018088236A1 (ja) 画像処理装置および方法、並びにプログラム
EP3982624A1 (en) Image processing device, image processing method, and program
JP7299046B2 (ja) 医療用観察制御装置及び医療用観察システム
JPWO2018088238A1 (ja) 画像処理装置および制御方法、並びにプログラム
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230323

R151 Written notification of patent or utility model registration

Ref document number: 7252023

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151