JP7253129B2 - 画像処理装置及び観察システム - Google Patents

画像処理装置及び観察システム Download PDF

Info

Publication number
JP7253129B2
JP7253129B2 JP2019000843A JP2019000843A JP7253129B2 JP 7253129 B2 JP7253129 B2 JP 7253129B2 JP 2019000843 A JP2019000843 A JP 2019000843A JP 2019000843 A JP2019000843 A JP 2019000843A JP 7253129 B2 JP7253129 B2 JP 7253129B2
Authority
JP
Japan
Prior art keywords
signal
unit
image processing
processing unit
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019000843A
Other languages
English (en)
Other versions
JP2020109928A (ja
Inventor
泰平 道畑
敏 三井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Olympus Medical Solutions Inc
Sony Group Corp
Original Assignee
Sony Corp
Sony Olympus Medical Solutions Inc
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Olympus Medical Solutions Inc, Sony Group Corp filed Critical Sony Corp
Priority to JP2019000843A priority Critical patent/JP7253129B2/ja
Priority to US16/720,011 priority patent/US11375167B2/en
Publication of JP2020109928A publication Critical patent/JP2020109928A/ja
Application granted granted Critical
Publication of JP7253129B2 publication Critical patent/JP7253129B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00057Operational features of endoscopes provided with means for testing or calibration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Radiology & Medical Imaging (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Endoscopes (AREA)

Description

本開示は、画像処理装置及び観察システムに関する。
一般に、デジタルカメラ等の撮像装置では、画像処理の1つとして、ホワイトバランスを調整することで色の補正を行う処理が行われ得る。ホワイトバランスの調整により、撮像画像に写る撮像対象の色の色相がずれる色回りという現象が生じることがある。色回りが生じると、撮像画像に写る撮像対象の色が、本来の撮像対象の色とは異なる色で表示され得る。そこで、色回りが生じた箇所の色の補正を行う技術が開発されている。
例えば、下記特許文献1には、画像データの中から色成分を示す階調値が飽和レベルとなっている画素を検出し、検出した画素の色成分の階調値を補正する技術が開示されている。
特開2013-179400号公報
上記特許文献1の技術では、検出した画素の色成分の階調値を補正することで色回りを抑制することができる。しかしながら、階調値が飽和レベルとなり、色の飽和(以下では、サチュレーションとも称される)が生じたことにより失われた撮像画像のディテールを復元することまでは考慮されていない。
そこで、本開示では、サチュレーションが生じた領域のディテールを復元することが可能な、新規かつ改良された画像処理装置及び観察システムを提案する。
本開示によれば、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、前記サチュレーションが生じた領域を検出する検出部と、を備え、前記補正部は、前記検出部が検出した前記サチュレーションが生じた領域と対応する前記ディテール成分のみを前記輝度信号に反映し、前記補正輝度信号を生成する、画像処理装置が提供される。
また、本開示によれば、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、を備え、前記第2の信号処理部は、前記第1の信号に対して、前記第1の信号処理部よりも小さいゲインによる前記ホワイトバランスの調整を行い、前記ホワイトバランスの調整により前記サチュレーションが生じていない領域のみを含む第3の信号に基づき、前記ディテール成分を抽出する、画像処理装置が提供される。
また、本開示によれば、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、色差信号と前記補正輝度信号に基づき画像を生成する画像生成部と、を備え、前記第1の信号処理部は、前記第2の信号から前記色差信号をさらに生成する、画像処理装置が提供される。
また、本開示によれば、撮像対象を撮像する撮像デバイスと、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、前記サチュレーションが生じた領域を検出する検出部と、を備える画像処理装置と、を備え、前記補正部は、前記検出部が検出した前記サチュレーションが生じた領域と対応する前記ディテール成分のみを前記輝度信号に反映し、前記補正輝度信号を生成する、観察システムが提供される。
また、本開示によれば、撮像対象を撮像する撮像デバイスと、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、を備える画像処理装置と、を備え、前記第2の信号処理部は、前記第1の信号に対して、前記第1の信号処理部よりも小さいゲインによる前記ホワイトバランスの調整を行い、前記ホワイトバランスの調整により前記サチュレーションが生じていない領域のみを含む第3の信号に基づき、前記ディテール成分を抽出する、観察システムが提供される。
また、本開示によれば、撮像対象を撮像する撮像デバイスと、複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、色差信号と前記補正輝度信号に基づき画像を生成する画像生成部と、を備える画像処理装置と、を備え、前記第1の信号処理部は、前記第2の信号から前記色差信号をさらに生成する、観察システムが提供される。
本開示の一実施形態に係る医療用観察システムの外部構成の第1の例を示す図である。 同実施形態に係る医療用観察装置が備える撮像デバイスの外部構成例を示す図である。 同実施形態に係る医療用観察システムの外部構成の第2の例を示す図である。 同実施形態に係る医療用観察装置の機能構成例を示すブロック図である。 画像処理の一例を示す図である。 本開示の第1の実施形態に係る画像処理部の機能構成例を示すブロック図である。 同実施形態に係る画像処理の流れを示すフローチャートである。 本開示の第2の実施形態に係る画像処理部の機能構成例を示すブロック図である。 同実施形態に係る画像処理の流れを示すフローチャートである。 本開示の第3の実施形態に係る画像処理部の機能構成例を示すブロック図である。 同実施形態に係る画像処理の流れを示すフローチャートである。 本開示の第4の実施形態に係る画像処理部の機能構成例を示すブロック図である。 同実施形態に係る画像処理の流れを示すフローチャートである。 本開示の第5の実施形態に係る画像処理部の機能構成例を示すブロック図である。 同実施形態に係る画像処理の流れを示すフローチャートである。 本開示の一実施形態に係る画像処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。例えば、実質的に同一の機能構成を有する複数の構成要素は、必要に応じて画像処理部180a及び画像処理部180bのように区別される。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。例えば、画像処理部180a及び画像処理部180bを特に区別する必要が無い場合には、単に画像処理部180と称する。
なお、説明は以下の順序で行うものとする。
1.一実施形態に係る観察システムの外部構成
1-1.第1の例に係る観察システム
1-2.第2の例に係る観察システム
1-3.他の例に係る観察システム
2.一実施形態に係る観察装置の機能構成
3.第1の実施形態に係る画像処理部
3-1.画像処理部の機能構成
3-2.画像処理の流れ
4.第2の実施形態に係る画像処理部
4-1.画像処理部の機能構成
4-2.画像処理の流れ
5.第3の実施形態に係る画像処理部
5-1.画像処理部の機能構成
5-2.画像処理の流れ
6.第4の実施形態に係る画像処理部
6-1.画像処理部の機能構成
6-2.画像処理の流れ
6-3.変形例
7.第5の実施形態に係る画像処理部
7-1.画像処理部の機能構成
7-2.画像処理の流れ
7-3.変形例
8.変形例
9.ハードウェア構成例
10.まとめ
<<1.一実施形態に係る観察システムの外部構成>>
まず、本開示の一実施形態に係る観察システムの外部構成について説明する。以下では、本実施形態に係る観察装置が本実施形態に係る画像処理装置を備え、観察装置にて画像処理を行う場合について、主に説明する。なお、本実施形態に係る観察システムにおいて、画像処理装置を備える装置は、本実施形態に係る観察装置に限られない。例えば、本実施形態に係る観察システムでは、後述する表示装置が、本実施形態に係る画像処理装置を備えてもよい。また、本実施形態に係る観察システムでは、メディカルコントローラなどの画像処理を行うことが可能な任意の装置が、画像処理装置を備えてもよい。
<1-1.第1の例に係る観察システム>
まず、観察システムの第1の例として、観察システムが医療に用いられる医療用観察システムである例を説明する。図1は、本開示の一実施形態に係る医療用観察システム1000の外部構成の第1の例を示す図である。図1に示すように、医療用観察システム1000は、例えば、医療用観察装置100と表示装置200を有する。なお、第1の例に係る医療用観察システム1000は、図1に示す例に限られない。
例えば、第1の例に係る医療用観察システム1000は、医療用観察装置100における各種動作を制御する制御装置(図示せず)を、さらに有していてもよい。図1に示す医療用観察システム1000では、後述するように、医療用観察装置100が制御部(後述する)を備えることにより、医療用観察装置100が制御装置(図示せず)の機能を有している例を示している。制御装置(図示せず)としては、例えば、“メディカルコントローラ”や、“サーバなどのコンピュータ”などが、挙げられる。また、制御装置(図示せず)は、例えば、上記のような機器に組み込むことが可能な、IC(Integrated Circuit)であってもよい。
また、第1の例に係る医療用観察システム1000は、医療用観察装置100と表示装置200との一方または双方を複数有する構成であってもよい。医療用観察装置100を複数有する場合、医療用観察装置100それぞれにおいて、後述する画像処理が行われる。また、第1の例に係る医療用観察システム1000が医療用観察装置100と表示装置200とを複数有する構成である場合、医療用観察装置100と表示装置200とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの表示装置200に対応付けられていてもよい。複数の医療用観察装置100が1つの表示装置200に対応付けられている場合、表示装置200では、例えば切り替え操作などが行われることによって、どの医療用観察装置100において撮像された撮像画像を表示画面に表示させるのかが、切り替えられる。
(1)表示装置200
表示装置200は、第1の例に係る医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。表示装置200は、例えば、医療用観察装置100において撮像された医療用撮像画像や、UI(User Interface)に係る画像などの、様々な画像を表示画面に表示する。また、表示装置200は、任意の方式により3D表示が可能な構成を有していてもよい。表示装置200における表示は、例えば、医療用観察装置100、または、制御装置(図示せず)によって制御される。
医療用観察システム1000において表示装置200は、手術室の壁面や天井、床面などの、手術室内において術者などの手術に関わる者により視認されうる任意の場所に設置される。
表示装置200としては、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどが挙げられる。なお、表示装置200は、上記に示す例に限られない。例えば、表示装置200は、ヘッドマウントディスプレイやアイウェア型の装置などのような、術者などが身体に装着して用いる任意のウェアラブル装置であってもよい。
表示装置200は、例えば、表示装置200が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
(2)医療用観察装置100
図1に示す医療用観察装置100は、電子撮像式の医療用観察装置である。例えば手術時に図1に示す医療用観察装置100が用いられる場合、術者(医療用観察装置100の使用者の一例)は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部(患部)を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。図1に示すように、医療用観察装置100は、例えば、ベース102と、アーム104と、撮像デバイス106とを備える。
また、図1では示していないが、医療用観察装置100は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサ(図示せず)と、ROM(Read Only Memory。図示せず)と、RAM(Random Access Memory。図示せず)と、記録媒体(図示せず)と、通信デバイス(図示せず)とを、備えていてもよい。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
プロセッサ(図示せず)は、医療用観察装置100における制御部(後述する)として機能する。ROM(図示せず)は、プロセッサ(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、プロセッサ(図示せず)により実行されるプログラムなどを一時的に記憶する。
記録媒体(図示せず)は、医療用観察装置100における記憶部(図示せず)として機能する。記録媒体(図示せず)には、例えば、本実施形態に係る画像処理に係るデータや、各種アプリケーションなどの、様々なデータが記憶される。ここで、記録媒体(図示せず)としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記録媒体(図示せず)は、医療用観察装置100から着脱可能であってもよい。
通信デバイス(図示せず)は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と、無線または有線で通信を行う役目を果たす。ここで、通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。
(2-1)ベース102
ベース102は、医療用観察装置100の基台であり、アーム104の一端が接続されて、アーム104と撮像デバイス106とを支持する。また、ベース102には例えばキャスタが設けられ、医療用観察装置100は、キャスタを介して床面と接地する。キャスタが設けられることにより、医療用観察装置100は、キャスタによって床面上を容易に移動することが可能である。
(2-2)アーム104
アーム104の構成は、複数のリンクが関節部によって互いに連結された構成である。また、アーム104は、撮像デバイス106を支持する。アーム104により支持された撮像デバイス106は3次元的に移動可能であり、移動後の撮像デバイス106は、アーム104によって、位置および姿勢が保持される。
より具体的には、アーム104は、例えば、複数の関節部110a、110b、110c、110d、110e、110fと、関節部110a、110b、110c、110d、110e、110fによって互いに回動可能に連結される複数のリンク112a、112b、112c、112d、112e、112fとから構成される。関節部110a、110b、110c、110d、110e、110fそれぞれの回転可能範囲は、アーム104の所望の動きが実現されるように、設計段階や製造段階などにおいて任意に設定される。
つまり、図1に示す医療用観察装置100では、アーム104を構成する6つの関節部110a、110b、110c、110d、110e、110fに対応する6つの回転軸(第1軸O1、第2軸O2、第3軸O3、第4軸O4、第5軸O5、および第6軸O6)によって、撮像デバイス106の移動に関して6自由度が実現されている。より具体的には、図1に示す医療用観察装置100では、並進3自由度、および回転3自由度の6自由度の動きが実現される。
関節部110a、110b、110c、110d、110e、110fそれぞれには、アクチュエータ(図示せず)が設けられ、関節部110a、110b、110c、110d、110e、110fそれぞれは、アクチュエータ(図示せず)の駆動によって、対応する回転軸で回転する。アクチュエータ(図示せず)の駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。
関節部110a、110b、110c、110d、110e、110fそれぞれには、6つの回転軸における回転角度をそれぞれ検出することが可能な角度センサ(図示せず)が、設けられうる。角度センサとしては、例えば、ロータリエンコーダや角速度センサなどの、6つの回転軸それぞれにおける回転角度を得ることが可能な任意のセンサが、挙げられる。
関節部110a、110b、110c、110d、110e、110fそれぞれが、アクチュエータ(図示せず)の駆動により対応する回転軸で回転することによって、例えばアーム104を伸ばす、縮める(折り畳む)などの、様々なアーム104の動作が、実現される。
関節部110aは、略円柱形状を有し、関節部110aの先端部分(図1における下端部分)で、撮像デバイス106(図1における撮像デバイス106の上端部分)を、撮像デバイス106の中心軸と平行な回転軸(第1軸O1)まわりに回動可能なように支持する。ここで、医療用観察装置100の構成は、第1軸O1が撮像デバイス106における光軸と一致する構成である。つまり、図1に示す第1軸O1まわりに撮像デバイス106を回動させることによって、撮像デバイス106により撮像された医療用撮像画像は、視野が回転するように変更される画像となる。
リンク112aは、略棒状の部材であり、関節部110aを固定的に支持する。リンク112aは、例えば、第1軸O1と直交する方向に延伸され、関節部110bに接続される。
関節部110bは、略円柱形状を有し、リンク112aを、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能なように支持する。また、関節部110bには、リンク112bが固定的に接続される。
リンク112bは、略棒状の部材であり、第2軸O2と直交する方向に延伸される。また、リンク112bには、関節部110bと関節部110cとがそれぞれ接続される。
関節部110cは、略円柱形状を有し、リンク112bを、第1軸O1および第2軸O2それぞれと互いに直交する回転軸(第3軸O3)まわりに回動可能なように支持する。また、関節部110cには、リンク112cの一端が固定的に接続される。
ここで、第2軸O2および第3軸O3まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、水平面内での撮像デバイス106の位置が変更されるように、撮像デバイス106を移動させることができる。つまり、医療用観察装置100では、第2軸O2および第3軸O3まわりの回転が制御されることにより、医療用撮像画像の視野を平面内で移動させることが可能になる。
リンク112cは、一端が略円柱形状を有し、他端が略棒状を有する部材である。リンク112cの一端側には、関節部110cの中心軸と略円柱形状の中心軸とが同一となるように、関節部110cが固定的に接続される。また、リンク112cの他端側には、関節部110dが接続される。
関節部110dは、略円柱形状を有し、リンク112cを、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能なように支持する。関節部110dには、リンク112dが固定的に接続される。
リンク112dは、略棒状の部材であり、第4軸O4と直交するように延伸される。リンク112dの一端は、関節部110dの略円柱形状の側面に当接するように、関節部110dに固定的に接続される。また、リンク112dの他端(関節部110dが接続される側とは反対側の端)には、関節部110eが接続される。
関節部110eは、略円柱形状を有し、リンク112dの一端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能なように支持する。また、関節部110eには、リンク112eの一端が固定的に接続される。
ここで、第4軸O4および第5軸O5は、撮像デバイス106を垂直方向に移動させうる回転軸である。第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106の垂直方向の位置が変わる。よって、第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106と、撮像対象との距離を変えることが、可能となる。撮像対象は、例えば、患者の術部などの観察対象である。以下では、撮像対象は、観察対象とも称される。
リンク112eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材とが、組み合わされた部材である。リンク112eの第1の部材の鉛直方向に延伸する部位には、関節部110eが固定的に接続される。また、リンク112eの第2の部材には、関節部110fが接続される。
関節部110fは、略円柱形状を有し、リンク112eを、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能なように支持する。また、関節部110fには、リンク112fが固定的に接続される。
リンク112fは、略棒状の部材であり、鉛直方向に延伸される。リンク112fの一端は、関節部110fが接続される。また、リンク112fの他端(関節部110fが接続される側とは反対側の端)は、ベース102に固定的に接続される。アーム104が上記に示す構成を有することによって、医療用観察装置100では、撮像デバイス106の移動に関して6自由度が実現される。
なお、アーム104の構成は、上記に示す例に限られない。例えば、アーム104の関節部110a、110b、110c、110d、110e、110fそれぞれには、関節部110a、110b、110c、110d、110e、110fそれぞれにおける回転を規制するブレーキが設けられていてもよい。本実施形態に係るブレーキとしては、例えば、機械的に駆動するブレーキや、電気的に駆動する電磁ブレーキなど、任意の方式のブレーキが挙げられる。
上記ブレーキの駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。上記ブレーキの駆動が制御されることにより、医療用観察装置100では、アーム104の動作モードが設定される。アーム104の動作モードとしては、例えば、固定モードとフリーモードとが挙げられる。
ここで、本実施形態に係る固定モードとは、例えば、アーム104に設けられる各回転軸における回転がブレーキにより規制されることにより、撮像デバイス106の位置および姿勢が固定される動作モードである。アーム104が固定モードとなることによって、医療用観察装置100の動作状態は、撮像デバイス106の位置および姿勢が固定される固定状態となる。
また、本実施形態に係るフリーモードとは、上記ブレーキが解除されることにより、アーム104に設けられる各回転軸が自由に回転可能となる動作モードである。例えば、フリーモードでは、術者による直接的な操作によって撮像デバイス106の位置および姿勢を調整することが可能となる。ここで、本実施形態に係る直接的な操作とは、例えば、術者が手で撮像デバイス106を把持し、当該撮像デバイス106を直接移動させる操作のことを意味する。
(2-3)撮像デバイス106
撮像デバイス106は、アーム104により支持され、撮像対象を撮像するデバイスである。例えば、撮像デバイス106は、患者の術部などの観察対象を撮像する。撮像デバイス106における撮像は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。撮像デバイス106は、例えば電子撮像式の顕微鏡に対応する構成を有する。
図2は、本開示の一実施形態に係る医療用観察装置100が備える撮像デバイス106の外部構成例を示す図である。図2に示すように、撮像デバイス106は、例えば、撮像部材120と、略円筒形状を有する筒状部材122とを有し、撮像部材120は、筒状部材122内に設けられる。筒状部材122の下端(図2における下側の端)の開口面には、例えば、撮像部材120を保護するためのカバーガラス(図示せず)が設けられる。
また、例えば筒状部材122の内部には光源(図示せず)が設けられ、撮像時には、当該光源からカバーガラス越しに被写体に対して照明光が照射される。照明光が照射された被写体からの反射光(観察光)が、カバーガラス(図示せず)を介して撮像部材120に入射することにより、撮像部材120によって被写体を示す画像信号(医療用撮像画像を示す画像信号)が得られる。撮像部材120としては、各種の公知の電子撮像式の顕微鏡部に用いられている構成を適用することが可能である。
一例を挙げると、撮像部材120は、例えば、光学系120aと、光学系120aを通過した光により観察対象の像を撮像する撮像素子を含むイメージセンサ120bとで構成される。光学系120aは、例えば、対物レンズ、ズームレンズおよびフォーカスレンズなどの1または2以上のレンズとミラーなどの光学素子で構成される。イメージセンサ120bとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を複数用いたイメージセンサが、挙げられる。
撮像部材120は、例えば、光学系120aおよびイメージセンサ120bで構成される撮像デバイスを、2つ以上有することなどにより、いわゆるステレオカメラとして機能する。ステレオカメラとして機能する撮像デバイス106の構成において、光学系は、ガリレオ式光学系であってもよいし、グリノー式光学系であってもよい。撮像部材120を構成する撮像デバイスには、ズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)、AF(Auto Focus)機能などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能が搭載される。
また、撮像部材120は、例えば4K、8Kなどの、いわゆる高解像度での撮像が可能な構成であってもよい。撮像部材120が高解像度での撮像が可能に構成されることにより、所定の解像度(例えば、Full HD画質など)を確保しつつ、例えば50インチ以上などの大画面の表示画面を有する表示装置200に画像を表示させることが可能となるので、当該表示画面を見る術者の視認性が向上する。また、撮像部材120が高解像度での撮像が可能に構成されることにより、撮像画像が電子ズーム機能によって拡大されて表示装置200の表示画面に表示されたとしても、所定の解像度を確保することが可能となる。さらに、電子ズーム機能を用いて所定の解像度が確保される場合には、撮像デバイス106における光学ズーム機能の性能を抑えることが可能となるので、撮像デバイス106の光学系をより簡易にすることができ、撮像デバイス106をより小型に構成することができる。
撮像デバイス106には、例えば、撮像デバイス106の動作を制御するための各種の操作デバイスが設けられる。例えば図2では、ズームスイッチ124と、フォーカススイッチ126と、動作モード変更スイッチ128とが、撮像デバイス106に設けられている。なお、ズームスイッチ124、フォーカススイッチ126、および動作モード変更スイッチ128が設けられる位置と形状とが、図2に示す例に限られないことは、言うまでもない。
ズームスイッチ124とフォーカススイッチ126とは、撮像デバイス106における撮像条件を調整するための操作デバイスの一例である。ズームスイッチ124は、例えば、ズーム倍率(拡大率)を大きくするズームインスイッチ124aと、ズーム倍率を小さくするズームアウトスイッチ124bとで構成される。ズームスイッチ124に対する操作が行われることによりズーム倍率が調整されて、ズームが調整される。
フォーカススイッチ126は、例えば、観察対象(被写体)までの焦点距離を遠くする遠景フォーカススイッチ126aと、観察対象までの焦点距離を近くする近景フォーカススイッチ126bとで構成される。フォーカススイッチ126に対する操作が行われることにより焦点距離が調整されて、フォーカスが調整される。
動作モード変更スイッチ128は、撮像デバイス106におけるアーム104の動作モードを変更するための操作デバイスの一例である。動作モード変更スイッチ128に対する操作が行われることにより、アーム104の動作モードが変更される。アーム104の動作モードとしては、例えば上述したように、固定モードとフリーモードとが挙げられる。
動作モード変更スイッチ128に対する操作の一例としては、動作モード変更スイッチ128を押下する操作が、挙げられる。例えば、術者が動作モード変更スイッチ128を押下している間、アーム104の動作モードがフリーモードとなり、術者が動作モード変更スイッチ128を押下していないときには、アーム104の動作モードが固定モードとなる。
また、撮像デバイス106には、各種操作デバイスに対する操作を行う操作者が操作を行う際の操作性や利便性などをより高めるために、例えば、滑り止め部材130と、突起部材132とが設けられる。
滑り止め部材130は、例えば操作者が筒状部材122を手などの操作体で操作を行う際に、操作体の滑りを防止するために設けられる部材である。滑り止め部材130は、例えば、摩擦係数が大きい材料で形成され、凹凸などのより滑りにくい構造を有する。
突起部材132は、操作者が筒状部材122を手などの操作体で操作を行う際に、当該操作体が光学系120aの視野を遮ってしまうことや、当該操作体で操作を行う際に、カバーガラス(図示せず)に当該操作体が触れることにより当該カバーガラスが汚れることなどを、防止するために設けられる部材である。
なお、滑り止め部材130および突起部材132それぞれが設けられる位置と形状とが、図2に示す例に限られないことは、言うまでもない。また、撮像デバイス106には、滑り止め部材130と突起部材132との一方または双方が設けれられていなくてもよい。
撮像デバイス106における撮像により生成された画像信号(画像データ)は、例えば後述する制御部として機能するプロセッサにおいて、画像処理が行われる。本実施形態に係る画像処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。また、本実施形態に係る画像処理には、例えば後述する画像処理が含まれうる。
なお、本実施形態に係る医療用観察システムが、医療用観察装置100における各種動作を制御する制御装置(図示せず)を有する場合には、本実施形態に係る画像処理は、当該制御装置(図示せず)において行われてもよい。この場合、制御装置(図示せず)は、本実施形態に係る画像処理を行うことが可能な画像処理装置として機能する
医療用観察装置100は、例えば、表示制御信号と、上記のような画像処理が行われた画像信号とを、表示装置200に送信する。表示制御信号と画像信号とが表示装置200に送信されることによって、表示装置200の表示画面には、観察対象が撮像された医療用撮像画像(例えば、術部が撮像された撮像画像)が、光学ズーム機能と電子ズーム機能との一方または双方によって所望の倍率に拡大または縮小されて表示される。
図1に示す医療用観察装置100は、例えば図1、図2を参照して示したハードウェア構成を有する。なお、本実施形態に係る医療用観察装置のハードウェア構成は、図1、図2を参照して示した構成に限られない。例えば、本実施形態に係る医療用観察装置は、ベース102を備えず、手術室などの天井や壁面などにアーム104が直接取り付けられる構成であってもよい。例えば、天井にアーム104が取り付けられる場合には、本実施形態に係る医療用観察装置は、アーム104が天井から吊り下げられる構成となる。
また、図1では、アーム104の構成が、撮像デバイス106の駆動に関して6自由度が実現される構成である例を示しているが、アーム104の構成は、撮像デバイス106の駆動に関する自由度が6自由度となる構成に限られない。例えば、アーム104の構成は、用途に応じて撮像デバイス106を適宜移動しうる構成であればよく、関節部およびリンクの数や配置、関節部の駆動軸の方向などは、アーム104が所望の自由度を有するように適宜設定することが可能である。
また、図1、図2では、撮像デバイス106の動作を制御するための各種の操作デバイスが、撮像デバイス106に設けられる例を示しているが、図1、図2に示す操作デバイスのうちの一部または全部は、撮像デバイス106に設けられなくてもよい。一例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、本実施形態に係る医療用観察装置を構成する撮像デバイス106以外の他の部位に設けられていてもよい。また、他の例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、フットスイッチやリモートコントローラなどの、外部の操作デバイスであってもよい。
また、撮像デバイス106は、複数の観察モードを切り替えることが可能な構成であってもよい。本実施形態に係る観察モードとしては、例えば、自然光で撮像を行う観察モード、特殊光で撮像を行う観察モード、NBI(Narrow Band Imaging)などの画像強調観察技術を利用して撮像を行う観察モードなどが、挙げられる。本実施形態に係る特殊光とは、例えば、近赤外線の波長帯域の光や、5-ALA(5-Aminolevulinic Acid)を用いた蛍光観察の蛍光波長帯域の光など、特定の波長帯域の光である。
複数の観察モードを切り替えることが可能な撮像デバイス106の構成の一例としては、例えば、“特定の波長帯域の光を透過させ、他の波長帯域の光を透過させないフィルタと、当該フィルタを光路上に選択的に配置する移動機構と、を備える構成”が、挙げられる。本実施形態に係るフィルタが透過させる特定の波長帯域としては、例えば、近赤外線の波長帯域(例えば、約0.7マイクロメートル~2.5マイクロメートルの波長帯域)や、5-ALAを用いた蛍光観察による蛍光波長帯域(例えば、約0.6マイクロメートル~0.65マイクロメートルの波長帯域)、ICG(Indocyanine Green)の蛍光波長帯域(例えば、約0.82マイクロメートル~0.85マイクロメートルの波長帯域)などが、挙げられる。
なお、撮像デバイス106には、透過させる波長帯域が異なる複数のフィルタが設けられていてもよい。また、上記では、フィルタが光路上に配置されることにより、特定の波長帯域の光で撮像が行われる例を示したが、特定の波長帯域の光で撮像を行うための撮像デバイス106の構成が、上記に示す例に限られないことは、言うまでもない。
<1-2.第2の例に係る観察システム>
以上、第1の例に係る観察システムについて説明した。本開示の一実施形態に係る医療用観察システム1000は、図1に示す第1の例の構成に限られない。次いで、観察システムの第2の例として、観察システムが内視鏡装置として機能する医療用観察装置100を有する医療用観察システム1000である例を説明する。
図3は、本開示の一実施形態に係る医療用観察システム1000の外部構成の第2の例を示す図である。図3に示す医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200とを有する。例えば、図3に示す医療用観察装置100が手術時に用いられる場合、術者は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
なお、第2の例に係る医療用観察システム1000は、図3に示す例に限られない。例えば、第2の例に係る医療用観察システム1000は、第1の例に係る医療用観察システム1000と同様に、医療用観察装置100における各種動作を制御する制御装置(図示せず)を、さらに有していてもよい。また、第2の例に係る医療用観察システム1000は、第1の例に係る医療用観察システム1000と同様に、医療用観察装置100と表示装置200との一方または双方を複数有する構成であってもよい。
(1)表示装置200
表示装置200は、第2の例に係る医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。第2の例に係る医療用観察システム1000を構成する表示装置200は、第1の例に係る医療用観察システム1000を構成する表示装置200と同様である。
(2)医療用観察装置100
図3に示す医療用観察装置100は、例えば、挿入部材134と、光源ユニット136と、ライトガイド138と、カメラヘッド140と、ケーブル142と、制御ユニット144とを備える。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
挿入部材134は、細長形状を有し、入射光を集光する光学系を内部に備える。挿入部材134の先端は、例えば、患者の体腔内に挿入される。挿入部材134の後端はカメラヘッド140の先端と着脱可能に接続される。また、挿入部材134は、ライトガイド138を介して光源ユニット136と接続され、光源ユニット136から光が供給される。挿入部材134は、例えば、可撓性を有さない素材で形成されてもよいし、可撓性を有する素材で形成されてもよい。挿入部材134を形成する素材によって、医療用観察装置100は、硬性鏡または軟性鏡と呼ばれうる。
光源ユニット136は、ライトガイド138を介して挿入部材134と接続される。光源ユニット136は、ライトガイド138を介して挿入部材134に光を供給する。
光源ユニット136は、例えば、波長が異なる光を発光する複数の光源を有する。光源ユニット136が有する複数の光源としては、例えば、赤色の光を発光する光源、緑色の光を発光する光源、および青色の光を発光する光源が挙げられる。赤色の光を発光する光源としては、例えば、1または2以上の赤色発光ダイオードが挙げられる。緑色の光を発光する光源としては、例えば、1または2以上の緑色発光ダイオードが挙げられる。青色の光を発光する光源としては、例えば、1または2以上の青色発光ダイオードが挙げられる。なお、光源ユニット136が有する複数の光源が、上記に示す例に限られないことは、言うまでもない。光源ユニット136は、例えば、複数の光源を単一チップで有し、または、複数の光源を複数のチップで有する。光源ユニット136は、制御ユニット144と有線または無線で接続され、光源ユニット136における発光は、制御ユニット144により制御される。
挿入部材134に供給された光は、挿入部材134の先端から出射され、患者の体腔内組織などの観察対象に照射される。そして、観察対象からの反射光は、挿入部材134内の光学系によって集光される。
カメラヘッド140は、撮像対象を撮像するデバイスである。例えば、カメラヘッド140は、観察対象を撮像する。カメラヘッド140は、信号伝送部材であるケーブル142を介して制御ユニット144と接続される。
カメラヘッド140は、イメージセンサを有し、挿入部材134によって集光された観察対象からの反射光を光電変換することにより観察対象を撮像し、撮像によって得られた画像信号(医療用撮像画像を示す信号)を制御ユニット144へケーブル142を介して出力する。カメラヘッド140が有するイメージセンサとしては、例えば、CMOSやCCDなどの撮像素子を複数用いたイメージセンサが、挙げられる。
内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材134、光源ユニット136、およびカメラヘッド140が、“患者の体内に挿入されて、体内を撮像する撮像デバイス”の役目を果たす。
なお、内視鏡装置として機能する医療用観察装置100は、例えば、いわゆるステレオカメラとして機能する複数の撮像デバイスを備える構成であってもよい。ステレオカメラとして機能する撮像デバイスの構成において、光学系は、第1の例に係る医療用観察システム1000を構成する医療用観察装置100と同様に、ガリレオ式光学系であってもよいし、グリノー式光学系であってもよい。
制御ユニット144は、撮像デバイスを制御する。より具体的には、制御ユニット144は、光源ユニット136およびカメラヘッド140それぞれを制御する。また、制御ユニット144は、通信デバイス(図示せず)を含み、カメラヘッド140から出力された画像信号を任意の無線通信または任意の有線通信で、表示装置200へ送信する。制御ユニット144は、画像信号と表示制御信号とを表示装置200へ送信してもよい。
制御ユニット144が含む通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、光通信用デバイス(有線通信または無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。通信デバイス(図示せず)は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
また、制御ユニット144は、カメラヘッド140から出力された画像信号に対して所定の処理を行い、所定の処理が行われた画像信号を表示装置200へ送信してもよい。画像信号に対する所定の処理としては、例えば、ホワイトバランスの調整や、電子ズーム機能に係る画像の拡大または縮小、画素間補正などが、挙げられる。画像信号に対する所定の処理には、例えば後述する画像処理が含まれうる。
なお、制御ユニット144は、画像信号に基づく医療用撮像画像を記憶してもよい。また、制御ユニット144としては、例えばCCU(Camera Control Unit)が挙げられる。
内視鏡装置として機能する医療用観察装置100は、例えば図3を参照して示したハードウェア構成を有する。内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材134、光源ユニット136、およびカメラヘッド140が、撮像デバイスの役目を果たし、制御ユニット144により撮像デバイスにおける撮像が制御される。
<1-3.他の例に係る観察システム>
本開示の一実施形態に係る観察システムは、図1に示す第1の例に示す構成、図3に示す第2の例に示す構成に限られない。例えば、本開示の一実施形態に係る医療用観察システム1000を構成する医療用観察装置100は、光学式の医療用観察装置100に対して複数の撮像デバイスが設けられる構成であってもよい。複数の撮像デバイスが設けられる光学式の医療用観察装置100においても、後述する画像処理を適用することが可能である。以下では、本開示の一実施形態に係る医療用観察システム1000を構成する医療用観察装置100が、図1、図3に示す医療用観察装置100である場合を例に挙げる。なお、本開示の一実施形態に係る観察システム及び観察装置は、医療用である例に限られない。
<<2.一実施形態に係る観察装置の機能構成>>
以上、本開示の一実施形態に係る観察システムの外部構成について説明した。次に、本開示の一実施形態に係る医療用観察装置100の機能構成について説明する。図4は、本開示の一実施形態に係る医療用観察装置100の機能構成例を示すブロック図である。図4に示すように、医療用観察装置100は、例えば、撮像部150と、制御部160と、通信部195とを備える。
(1)撮像部150
撮像部150は、撮像対象を撮像する機能を有する。撮像部150は、例えば、観察対象を撮像対象として撮像する。撮像部150は、例えば、“撮像デバイス106”(図1に示す医療用観察装置100の場合)や、“挿入部材134、光源ユニット136、およびカメラヘッド140”(図3に示す医療用観察装置100の場合)で構成される。撮像部150における撮像は、例えば、制御部160によって制御される。撮像部150が観察対象を撮像することにより生成される信号は、以下では、撮像信号(第1の信号)とも称される。撮像部150により生成された撮像信号は、制御部160に入力される。
撮像信号には、複数の波長帯域に対応している信号としてRGB信号が含まれる。複数の波長帯域には、例えば、赤色の波長帯域、緑色の波長帯域、及び青色の波長帯域が少なくとも含まれる。赤色の波長帯域は、RGB信号のR成分と対応する。緑色の波長帯域は、RGB信号のG成分と対応する。青色の波長帯域は、RGB信号のB成分と対応する。
(2)制御部160
制御部160は、観察装置の動作全般を制御する画像処理装置である。本開示の一実施形態では、制御部160は、医療用観察装置100に備えられるため、医療用画像処理装置として機能してもよい。なお、制御部160は、例えば上述したプロセッサ(図示せず)で構成され、医療用観察装置100全体を制御する役目を果たす。また、制御部160は、後述する画像処理に係る処理を主導的に行う役目を果たす。なお、制御部160における画像処理に係る処理は、複数の処理回路(例えば、複数のプロセッサなど)で分散して行われてもよい。図4に示すように、制御部160は、例えば、撮像制御部170と、画像処理部180と、表示制御部190とを有する。
(2-1)撮像制御部170
撮像制御部170は、撮像部150を構成する撮像デバイスを制御する。撮像デバイスの制御としては、例えば、少なくともズーム機能(光学ズーム機能および電子ズーム機能)を含む、AF機能の制御などの一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能の制御が、挙げられる。
(2-2)画像処理部180
画像処理部180は、複数の撮像デバイスそれぞれにより観察対象が撮像された複数の医療用撮像画像に対して、本実施形態に係る画像処理を行う。例えば、画像処理部180は、撮像部150から入力される、複数の波長帯域に対応する撮像信号に対してホワイトバランスの調整を行う。なお、本開示の一実施形態では、撮像信号に対するホワイトバランスの調整により出力される信号には、サチュレーション(飽和)が生じた領域が含まれるものとする。当該ホワイトバランスの調整によりサチュレーションが生じた領域を含む信号は、以下では、飽和信号(第2の信号)とも称される。
画像処理部180は、飽和信号から、輝度信号を生成する処理を行う。例えば、画像処理部180は、飽和信号に含まれるRGB信号を輝度信号に変換する変換処理を行うことで、輝度信号を生成する。輝度信号は、以下では、Y信号とも称される。なお、輝度信号には、飽和信号と同様にサチュレーションが生じた領域が含まれている。
画像処理部180は、撮像信号に基づきディテール成分を抽出する処理を行う。ディテール成分は、例えば、撮像対象の表面の詳細を示す情報である。例えば、画像処理部180は、撮像信号から直接ディテール成分を抽出する処理を行う。なお、ディテール成分の抽出元は、サチュレーションが生じた領域を含まない信号であれば、撮像信号に限定されない。
そして、画像処理部180は、抽出したディテール成分を輝度信号に反映し、補正輝度信号を生成する。上述のように、画像処理部180は、サチュレーションが生じた領域を含む輝度信号に対して、サチュレーションが生じる前の撮像対象の情報を含むディテール成分を反映する。これにより、画像処理部180は、サチュレーションが生じた領域のディテールを復元することができる。
また、画像処理部180は、飽和信号から、色差信号をさらに生成する処理も行う。例えば、画像処理部180は、飽和信号に含まれるRGB信号を色差信号に変換する変換処理を行うことで、色差信号を生成する。画像処理部180は、生成した補正輝度信号と色差信号に基づき、画像を生成する。
(2-3)表示制御部190
表示制御部190は、例えば、表示制御信号と画像信号とを通信部195を構成する通信デバイス(図示せず)に伝達し、表示制御信号と画像信号とを表示装置200に対して送信させることによって、表示装置200における表示を制御する。表示制御部190が送信させる画像信号には、画像処理部180において画像処理が行われた後の画像信号が含まれうる。なお、通信部195における通信の制御は、制御部160を構成する通信制御部(図示せず)により行われてもよい。
制御部160は、例えば、画像処理部180を有することにより、本実施形態に係る画像処理を主導的に行う役目を果たす。また、制御部160は、例えば、撮像制御部170、および表示制御部190を有することによって、医療用観察装置100全体を制御する役目を果たす。
なお、制御部160の機能構成は、図4に示す例に限られない。例えば、制御部160は、本実施形態に係る画像処理の切り分け方に応じた構成など、医療用観察装置100が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
一例を挙げると、医療用観察装置100が図1に示す構成である場合、制御部160は、アーム104の駆動を制御するアーム制御部(図示せず)をさらに有していてもよい。アーム104の駆動の制御の一例としては、例えば、“関節部110a、110b、110c、110d、110e、110fそれぞれに対応するアクチュエータ(図示せず)に対して、駆動を制御する制御信号を印加すること”などが挙げられる。
医療用観察装置100は、例えば図4に示す機能構成によって、後述する本実施形態に係る画像処理を行う。なお、本開示の一実施形態に係る医療用観察装置100の機能構成は、図4に示す構成に限られない。例えば、本開示の一実施形態に係る医療用観察装置100は、図4に示す撮像制御部170、画像処理部180、および表示制御部190のうちの一部または全部を、制御部160とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、本開示の一実施形態に係る医療用観察装置100において、本開示の一実施形態に係る画像処理を実行することが可能な機能構成は、図4に示す構成に限られない。例えば、本開示の一実施形態に係る医療用観察装置100は、本開示の一実施形態に係る画像処理の切り分け方に応じた機能構成をとることが可能である。
また、本開示の一実施形態に係る医療用観察装置100が図1に示す構成である場合、本開示の一実施形態に係る医療用観察装置100は、アーム104で構成されるアーム部(図示せず)を有する。アーム部(図示せず)を構成するアーム104は、撮像部150を構成する撮像デバイス106を支持する。
また、例えば、本開示の一実施形態に係る医療用観察システム1000が、制御装置(図示せず)を有する構成であり、本開示の一実施形態に係る医療用観察装置100が当該制御装置(図示せず)により制御されるとする。この場合、本開示の一実施形態に係る医療用観察装置100は、制御部160を備えていなくてもよい。
ここで、制御装置(図示せず)は、例えば、制御部160と同様の機能、構成を有する制御部を備えることによって、後述する本開示の一実施形態に係る画像処理を行う。また、制御装置(図示せず)は、本開示の一実施形態に係る医療用観察装置100が備える撮像部150などの各構成要素における動作を制御する。制御装置(図示せず)は、備えている通信デバイス、または、接続されている外部の通信デバイスを介して、本開示の一実施形態に係る医療用観察装置100と通信を行うことによって、本開示の一実施形態に係る医療用観察装置100が備える各構成要素における動作を制御する。
さらに、例えば、本開示の一実施形態に係る医療用観察システム1000が、制御装置(図示せず)を有する構成であり、本開示の一実施形態に係る医療用観察装置100が当該制御装置(図示せず)により制御されるものであるとする。この場合、本開示の一実施形態に係る医療用観察装置100は、制御部160の一部の機能を有さない構成をとることも可能である。
(3)通信部195
通信部195は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と無線または有線で通信を行う役目を果たす。通信部195は、例えば、上述した通信デバイス(図示せず)で構成される。通信部195における通信は、例えば制御部160によって制御される。
また、例えば、通信部195と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本開示の一実施形態に係る医療用観察装置100は、通信部195を備えていなくてもよい。
(課題の整理)
ここで、図5を参照しながら、課題の整理を行う。図5は、画像処理の一例を示す図である。図5の上図は、撮像信号に対してホワイトバランスの調整を行った際に、調整後のRGB信号の各成分の信号レベルが同じ値となる例を示す図である。図5の下図は、撮像信号に対してホワイトバランスの調整を行った際に、調整後のRGB信号のR成分のみにサチュレーションが生じた例を示す図である。なお、図5は、信号レベルが100%より大きい場合にサチュレーションが生じ、信号レベルが100%以下の場合にサチュレーションが生じない例を示している。また、図5の上図では、RGB信号の各成分の信号レベルは、ホワイトバランスの調整により80%となるように調整されている。なお、信号レベルは、RGB信号の各成分の信号レベルが調整後に同一の値(同一の比率)であれば、ホワイトバランスの調整により100%、50%、または30%等の任意の値に調整されてもよい。
RGB信号に対してホワイトバランスの調整を行う場合、一般的には、各成分の信号レベルが同じ値となるように、各成分に対してゲインがかけられる。例えば、図5の上図に示す例の場合、G成分62aの信号レベルは80%であるため、R成分61aとB成分63aの信号レベルも80%になるように、R成分61aとB成分63aに対してゲインがかけられる。そして、信号レベルが80%のR成分61b、G成分62b、及びB成分63bを含むRGB信号をY信号に変換すると、信号レベルが80%のY信号64aが得られる。当該Y信号64aに基づき画像を生成すると、サチュレーションが生じておらず、ディテールも失われていない画像が生成される。
これに対し、図5の下図に示すように、R成分61cの信号レベルが一番大きく、G成分62cとB成分63cの信号レベルがR成分61cの信号レベルよりも極めて低いRGB信号が入力されたとする。当該RGB信号の各成分に対してホワイトバランスの調整を行う際に、図5の上図の場合と同一のゲインをかけた場合、R成分61dの信号レベルは100%を超えてしまう。100%を超えた部分であるR成分65はカットされるため、サチュレーションが生じる。G成分62cとB成分63cの信号レベルは、R成分61cの信号レベルよりも極めて低い値である。そのため、図5の上図の場合と同一のゲインをかけた後のB成分63dの信号レベルは、ゲインをかける前よりも増幅するが、R成分61dの信号レベルよりも増幅率が低く、100%を超えていない。なお、図5の上図の場合と同一のゲインをかけた後のG成分62dの信号レベルは変化しない。そして、信号レベルが100%のR成分61d、及び信号レベルが100%未満であるG成分62dとB成分63dを含むRGB信号をY信号に変換すると、信号レベルが100%に達していないY信号64bが得られる。当該Y信号64bに基づき画像を生成すると、サチュレーションが生じたことによりディテールが失われた画像が生成される。
本開示の実施形態では、上記の点に着目して発想されたものであり、サチュレーションが生じた領域のディテールを復元することが可能な技術を提案する。以下、各実施形態について順次詳細に説明する。以下の各実施形態では、信号レベルが100%より大きい場合にサチュレーションが生じ、信号レベルが100%以下の場合にサチュレーションが生じないものとする。なお、サチュレーションが生じるか否かの判定基準となる値は、100%に限定されず、任意の値であってよい。
<<3.第1の実施形態に係る画像処理部>>
まず、本開示の第1の実施形態に係る画像処理部について説明する。図6は、本開示の第1の実施形態に係る画像処理部180aの機能構成例を示すブロック図である。第1の実施形態では、補正部184aが第1の信号処理部182aから出力される輝度信号の全体にディテール成分を反映する例について説明する。
<3-1.画像処理部の機能構成>
図6に示すように、画像処理部180aは、クランプ処理部181a、第1の信号処理部182a、第2の信号処理部183a、補正部184a、及び画像生成部185aを備える。
(1)クランプ処理部181a
クランプ処理部181aは、入力される信号に対してクランプ処理を行う機能を有する。例えば、クランプ処理部181aは、撮像部150から入力される撮像信号に対して、クランプ処理を行う。そして、クランプ処理部181aは、クランプ処理後の撮像信号を第1の信号処理部182a及び第2の信号処理部183aへ出力する。
(2)第1の信号処理部182a
第1の信号処理部182aは、入力される信号に対して、ホワイトバランスの調整を行い、ホワイトバランスの調整後の信号から輝度信号を生成する機能を有する。例えば、第1の信号処理部182aは、クランプ処理部181aから入力される撮像信号から輝度信号を生成する。具体的に、まず、第1の信号処理部182aは、クランプ処理部181aから入力される撮像信号に対して、ホワイトバランスの調整を行う。そして、第1の信号処理部182aは、ホワイトバランスの調整により生成される飽和信号から、輝度信号を生成する。
また、第1の信号処理部182aは、ホワイトバランスの調整後の信号から色差信号を生成する機能を有する。例えば、第1の信号処理部182aは、飽和信号から色差信号をさらに生成する。
上述の機能を実現するために、第1の信号処理部182aは、図6に示すように、ホワイトバランス調整部1821a、デモザイク処理部1822a、リニアマトリクス演算部1823a、ガンマ補正部1824a、及びRGB-YCC変換部1825aを備える。
(2-1)ホワイトバランス調整部1821a
ホワイトバランス調整部1821aは、入力される信号に対してホワイトバランスの調整を行う機能を有する。例えば、例えば、ホワイトバランス調整部1821aは、クランプ処理部181aから入力される撮像信号に対して、ホワイトバランスの調整を行う。そして、ホワイトバランス調整部1821aは、ホワイトバランスの調整により出力される飽和信号をデモザイク処理部1822aへ出力する。
(2-2)デモザイク処理部1822a
デモザイク処理部1822aは、入力される信号に対して、デモザイク処理を行う機能を有する。例えば、デモザイク処理部1822aは、ホワイトバランス調整部1821aから入力される飽和信号に対して、デモザイク処理を行う。そして、デモザイク処理部1822aは、デモザイク処理後の飽和信号をリニアマトリクス演算部1823aへ出力する。
(2-3)リニアマトリクス演算部1823a
リニアマトリクス演算部1823aは、入力される信号に対して、リニアマトリクス演算を行う機能を有する。例えば、リニアマトリクス演算部1823aは、デモザイク処理部1822aから入力される第2の撮像撮像信号に対して、リニアマトリクス演算を行う。そして、リニアマトリクス演算部1823aは、リニアマトリクス演算後の飽和信号をガンマ補正部1824aへ出力する。
(2-4)ガンマ補正部1824a
ガンマ補正部1824aは、入力される信号に対して、ガンマ補正を行う機能を有する。例えば、ガンマ補正部1824aは、リニアマトリクス演算部1823aから入力される飽和信号に対して、ガンマ補正を行う。そして、ガンマ補正部1824aは、ガンマ補正後の飽和信号をRGB-YCC変換部1825aへ出力する。
(2-5)RGB-YCC変換部1825a
RGB-YCC変換部1825aは、入力される信号から輝度信号を生成する機能を有する。例えば、RGB-YCC変換部1825aは、ガンマ補正部1824aから入力される飽和信号に含まれるRGB信号を輝度信号に変換する変換処理を行う。そして、RGB-YCC変換部1825aは、変換処理により生成した輝度信号を補正部184aへ出力する。
また、RGB-YCC変換部1825aは、入力される信号から色差信号を生成する機能を有する。例えば、RGB-YCC変換部1825aは、ガンマ補正部1824aから入力される飽和信号に含まれるRGB信号を色差信号に変換する変換処理を行う。そして、RGB-YCC変換部1825aは、変換処理により生成した色差信号を補正部184aへ出力する。
(3)第2の信号処理部183a
第2の信号処理部183aは、入力される信号から、ディテール成分を抽出する機能を有する。例えば、第2の信号処理部183aは、クランプ処理部181aから入力される撮像信号に基づきディテール成分を抽出する。当該機能を実現するために、第2の信号処理部183aは、図6に示すように抽出部1831aを備える。
(3-1)抽出部1831a
抽出部1831aは、入力される信号からディテール成分を抽出する機能を有する。例えば、抽出部1831aは、クランプ処理部181aから入力される撮像信号から、ディテール成分を抽出する。そして、抽出部1831aは、抽出したディテール成分を補正部184aへ出力する。
なお、抽出部1831aが撮像信号からディテール成分を抽出する方法は特に限定されない。抽出部1831aは、例えば、低域の信号を遮断して高域の信号のみを通すハイパスフィルタ(HPF:High-Pass Filter)を用いてよい。抽出部1831aは、ハイパスフィルタにより所定の周波数以下の成分(例えばDC成分)を遮断することで、撮像信号からディテール成分を抽出する。ここでの所定の周波数とは、例えば、DC成分の周波数の上限値である。これにより、抽出部1831aは、撮像信号からDC成分が含まれないディテール成分を抽出することができる。
(4)補正部184a
補正部184aは、入力される信号に対して、補正処理を行う機能を有する。例えば、補正部184aは、輝度信号に対して、抽出部1831aから入力されるディテール成分を、RGB-YCC変換部1825aから入力される輝度信号に反映し、補正輝度信号を生成する。補正輝度信号は、サチュレーションが生じた領域のディテール成分が復元された輝度信号である。補正部184aは、ディテール成分を輝度信号に反映することで、サチュレーションが生じた領域のディテールを復元することができる。そして、補正部184aは、補正処理により生成された補正輝度信号を画像生成部185aへ出力する。
補正部184aは、ディテール成分を輝度信号に対して所定の割合で加算することで、補正輝度信号を生成する。なお、補正部184aがディテール成分を輝度信号に反映する方法は、加算に限定されない。例えば、補正部184aは、ディテール成分を輝度信号に対して、所定の割合で減算してもよい。
なお、補正部184aは、補正輝度信号の信号レベルが小さくなるように調整してもよい。例えば、補正部184aは、ディテール成分を輝度信号に加算する際に、加算する割合を小さくすることで、補正輝度信号の信号レベルを小さくしてもよい。また、例えば、補正部184aは、ディテール成分を輝度信号に減算する際に、減算する割合を大きくすることで、補正輝度信号の信号レベルを小さくしてもよい。また、例えば、補正部184aは、ディテール成分を加算または減算して生成された補正輝度信号に対して、所定の係数を乗算することで、補正輝度信号の信号レベルを生成時よりも小さくしてもよい。なお、補正輝度信号の信号レベルが小さくなるように調整する場合、補正部184aは、表示装置200側で信号レベルが増幅されることを考慮した上で、補正輝度信号の信号レベルを調整することが望ましい。例えば、補正部184aは、表示装置200にて信号レベルが増幅されても、表示される画像にサチュレーションが生じないように、補正輝度信号の信号レベルの大きさを調整する。これにより、表示装置200は、画像信号の信号レベルを増幅しても、サチュレーションが生じず、ディテールが復元された画像を表示することができる。
(5)画像生成部185a
画像生成部185aは、入力される信号に基づき、画像を生成する機能を有する。例えば、画像生成部185aは、補正部184aから入力される色差信号と補正輝度信号に基づき画像を生成する。そして、画像生成部185aは、生成した画像を画像信号として通信部195へ出力する。画像生成部185aが生成した画像は、画像信号として通信部195を介して表示装置200へ送信され、表示装置200にて画像として表示される。
<3-2.画像処理の流れ>
図7は、本開示の第1の実施形態に係る画像処理の流れを示すフローチャートである。まず、画像処理部180aは、撮像信号を取得する(S100)。次いで、画像処理部180aは、撮像信号のホワイトバランスを調整し、飽和信号を取得する(S102)。次いで、画像処理部180aは、取得した飽和信号から、輝度信号及び色差信号を生成する(S104)。S102及びS104の処理と並行して、画像処理部180aは、撮像信号からディテール成分を抽出する(S106)。
画像処理部180aは、生成した輝度信号に抽出したディテール成分を反映し、補正輝度信号を生成する(S108)。そして、画像処理部180aは、生成した補正輝度信号と色差信号に基づき、画像を生成する(S110)。
<<4.第2の実施形態に係る画像処理部>>
以上、本開示の第1の実施形態に係る画像処理部について説明した。次に、本開示の第2の実施形態に係る画像処理部について説明する。図8は、本開示の第2の実施形態に係る画像処理部180bの機能構成例を示すブロック図である。第1の実施形態では、補正部184aが第1の信号処理部182aから出力される輝度信号の全体にディテール成分を反映する例について説明した。第2の実施形態では、補正部184bがサチュレーションの生じた領域のみにディテール成分を反映する例について説明する。なお、以下では、第1の実施形態と異なる点についてのみを詳細に説明する。
<4-1.画像処理部の機能構成>
図8に示すように、画像処理部180bは、クランプ処理部181b、第1の信号処理部182b、第2の信号処理部183b、補正部184b、画像生成部185b、及び検出部186bを備える。
(1)クランプ処理部181b
クランプ処理部181bは、第1の実施形態にて説明したクランプ処理部181aと同様の機能を有するため、詳細な説明を省略する。
(2)第1の信号処理部182b
第1の信号処理部182bは、第1の実施形態にて説明した第1の信号処理部182aと同様の機能を有する。第1の信号処理部182bは、図8に示すように、ホワイトバランス調整部1821b、デモザイク処理部1822b、リニアマトリクス演算部1823b、ガンマ補正部1824b、及びRGB-YCC変換部1825bを備える。
(2-1)ホワイトバランス調整部1821b
ホワイトバランス調整部1821bは、第1の実施形態にて説明したホワイトバランス調整部1821aと同様の機能を有するため、詳細な説明を省略する。なお、ホワイトバランス調整部1821bが飽和信号を、デモザイク処理部1822bだけでなく検出部186bへも出力する点は、第1の実施形態のホワイトバランス調整部1821aと異なる。
(2-2)デモザイク処理部1822b
デモザイク処理部1822bは、第1の実施形態にて説明したデモザイク処理部1822aと同様の機能を有するため、詳細な説明を省略する。
(2-3)リニアマトリクス演算部1823b
リニアマトリクス演算部1823bは、第1の実施形態にて説明したリニアマトリクス演算部1823aと同様の機能を有するため、詳細な説明を省略する。
(2-4)ガンマ補正部1824b
ガンマ補正部1824bは、第1の実施形態にて説明したガンマ補正部1824aと同様の機能を有するため、詳細な説明を省略する。
(2-5)RGB-YCC変換部1825b
RGB-YCC変換部1825bは、第1の実施形態にて説明したRGB-YCC変換部1825aと同様の機能を有するため、詳細な説明を省略する。
(3)第2の信号処理部183b
第2の信号処理部183bは、第1の実施形態にて説明した第2の信号処理部183aと同様の機能を有するため、詳細な説明を省略する。第2の信号処理部183bは、図8に示すように、抽出部1831bを備える。
(3-1)抽出部1831b
抽出部1831bは、第1の実施形態にて説明した抽出部1831aと同様の機能を有するため、詳細な説明を省略する。
(4)補正部184b
補正部184bは、第1の実施形態の補正部184aと異なり、検出部186bが検出したサチュレーションが生じた領域のみに対して補正処理を行う機能を有する。例えば、補正部184bは、検出部186bが検出したサチュレーションが生じた領域と対応するディテール成分のみを輝度信号に反映し、補正輝度信号を生成する。これにより、補正部184bは、サチュレーションが生じていない領域にはディテール成分を反映しないため、サチュレーションが生じていない領域における過強調を防ぐことができる。
(5)画像生成部185b
画像生成部185bは、第1の実施形態にて説明した画像生成部185aと同様の機能を有するため、詳細な説明を省略する。
(6)検出部186b
検出部186bは、入力される信号からサチュレーションが生じた領域を検出する機能を有する。例えば、検出部186bは、ホワイトバランス調整部1821bから入力される飽和信号からサチュレーションが生じた領域を検出する。そして、検出部186bは、検出結果を補正部184bへ出力する。これにより、補正部184bは、検出部186bによる検出結果に基づき、ディテール成分を反映する領域を特定することができる。
例えば、検出部186bは、飽和信号と対応する複数の波長帯域に対する閾値処理に基づき、サチュレーションが生じた領域を検出する。具体的に、検出部186bは、複数の波長帯域の各々と対応する画素値の内、最も高い画素値と次に高い画素値との差が所定の閾値以上である場合、当該複数の波長帯域と対応する領域をサチュレーションが生じた領域として検出する。例えば、検出部186bに入力された飽和信号に含まれるRGB信号のR成分の画素値が最も高く、B成分の画素値が次に高いとする。この時、R成分の画素値とB成分の画素値の差が所定の閾値以上である場合、検出部186bは、当該R成分及びB成分と対応する領域をサチュレーションが生じている領域として検出する。なお、検出部186bが飽和信号からサチュレーションが生じた領域を検出する方法は、上述の例に限定されない。
検出部186bは、赤色の波長帯域、緑色の波長帯域、または青色の波長帯域の内の少なくとも1つを、サチュレーションが生じた波長帯域として検出する。なお、検出部186bは、サチュレーションが生じた波長帯域として特定の波長帯域を検出するように予め設定されてもよい。例えば、検出部186bは、赤色の波長帯域をサチュレーションが生じた波長帯域として検出するように設定される。これにより、検出部186bは、サチュレーションが生じた赤色の波長帯域と対応する領域をサチュレーションが生じた領域として検出することができる。即ち、検出部186bは、表示装置200にて表示される画像にて、赤系の色で表示されている領域の中からサチュレーションが生じた領域を検出することができる。
なお、検出部186bが検出するサチュレーションが生じた波長帯域は、赤色の波長帯域のみに限られない。例えば、検出部186bは、青色の波長帯域のみをサチュレーションが生じた波長帯域として検出してもよい。また、検出部186bは、緑色の波長帯域のみをサチュレーションが生じた波長帯域として検出してもよい。また、検出部186bは、赤色の波長帯域、緑色の波長帯域、または青色の波長帯域の任意の組み合わせをサチュレーションが生じた波長帯域として検出してもよい。
また、検出部186bが検出した結果を補正部184bへ出力することで、補正部184bは、赤系の色で表示されている領域の中でサチュレーションが生じている領域のディテールを復元することができる。このように、赤系の色で表示されている領域の中でサチュレーションが生じている領域のディテールを復元することは、赤系の色が多い患者の体内を撮像対象とする医療用観察装置100においては特に有効である。
なお、予め設定される特定の波長帯域は、赤色の波長帯域に限定されない。例えば、予め設定される特定の波長帯域は、緑色の波長帯域のみ、または青色の波長帯域のみであってもよい。また、特定の波長帯域は、赤色の波長帯域、緑色の波長帯域、または青色の波長帯域の任意の組み合わせであってもよい。
<4-2.画像処理の流れ>
図9は、本開示の第2の実施形態に係る画像処理の流れを示すフローチャートである。まず、画像処理部180bは、撮像信号を取得する(S200)。次いで、画像処理部180bは、撮像信号のホワイトバランスを調整し、飽和信号を取得する(S202)。次いで、画像処理部180bは、取得した飽和信号から、輝度信号及び色差信号を生成する(S204)。S202及びS204の処理と並行して、画像処理部180bは、撮像信号からディテール成分を抽出する(S206)。
画像処理部180bは、飽和信号からサチュレーションが生じた領域の検出を行う(S208)。次いで、画像処理部180bは、輝度信号のサチュレーションが生じた領域のみに抽出したディテール成分を反映し、補正輝度信号を生成する(S210)。そして、画像処理部180bは、生成した補正輝度信号と色差信号に基づき、画像を生成する(S212)。
<<5.第3の実施形態に係る画像処理部>>
以上、本開示の第2の実施形態に係る画像処理部について説明した。次に、本開示の第3の実施形態に係る画像処理部について説明する。図10は、本開示の第3の実施形態に係る画像処理部180cの機能構成例を示すブロック図である。第2の実施形態では、補正部184bがサチュレーションの生じた領域のみにディテール成分を反映する例について説明した。第3の実施形態では、第2の信号処理部183cが、第1の信号処理部182cよりも小さいゲインで撮像信号に対してホワイトバランスの調整を行う。そして、第2の信号処理部183cが、ホワイトバランスの調整により出力される飽和信号が変換された輝度信号からディテール成分を抽出する例について説明する。なお、以下では、第1及び第2の実施形態と異なる点についてのみを詳細に説明する。
<5-1.画像処理部の機能構成>
図10に示すように、画像処理部180cは、クランプ処理部181c、第1の信号処理部182c、第2の信号処理部183c、補正部184c、画像生成部185c、及び検出部186cを備える。
(1)クランプ処理部181c
クランプ処理部181cは、第2の実施形態にて説明したクランプ処理部181bと同様の機能を有するため、詳細な説明を省略する。
(2)第1の信号処理部182c
第1の信号処理部182cは、第2の実施形態にて説明した第1の信号処理部182bと同様の機能を有する。第1の信号処理部182cは、図10に示すように、ホワイトバランス調整部1821c、デモザイク処理部1822c、リニアマトリクス演算部1823c、ガンマ補正部1824c、及びRGB-YCC変換部1825cを備える。
(2-1)ホワイトバランス調整部1821c
ホワイトバランス調整部1821cは、第2の実施形態にて説明したホワイトバランス調整部1821bと同様の機能を有するため、詳細な説明を省略する。
(2-2)デモザイク処理部1822c
デモザイク処理部1822cは、第1及び第2の実施形態にて説明したデモザイク処理部1822と同様の機能を有するため、詳細な説明を省略する。
(2-3)リニアマトリクス演算部1823c
リニアマトリクス演算部1823cは、第1及び第2の実施形態にて説明したリニアマトリクス演算部1823と同様の機能を有するため、詳細な説明を省略する。
(2-4)ガンマ補正部1824c
ガンマ補正部1824cは、第1及び第2の実施形態にて説明したガンマ補正部1824と同様の機能を有するため、詳細な説明を省略する。
(2-5)RGB-YCC変換部1825c
RGB-YCC変換部1825cは、第1及び第2の実施形態にて説明したRGB-YCC変換部1825と同様の機能を有するため、詳細な説明を省略する。
(3)第2の信号処理部183c
第2の信号処理部183cは、第1及び第2の実施形態にて説明した第2の信号処理部183と異なり、ホワイトバランスの調整を行い出力される飽和信号を、RGB信号から輝度信号に変換する機能を有する。そして、第2の信号処理部183cは、変換した輝度信号からディテール成分を抽出する。第2の信号処理部183cは、図10に示すように、ホワイトバランス調整部1832c、RGB-YCC変換部1833c、及び抽出部1831cを備える。
(3-1)ホワイトバランス調整部1832c
ホワイトバランス調整部1832cは、基本的には、第1の信号処理部182cのホワイトバランス調整部1821cと同様の機能を有する。しかしながら、ホワイトバランス調整部1832cが、撮像信号に対して、第1の信号処理部182cのホワイトバランス調整部1821cよりも小さいゲインによるホワイトバランスの調整を行う点は、ホワイトバランス調整部1821cと異なる。例えば、ホワイトバランス調整部1832cは、ホワイトバランスの調整後の信号レベルが100%を超えないようにゲインを設定して、ホワイトバランスの調整を行う。これにより、ホワイトバランス調整部1832cは、ホワイトバランスの調整によるサチュレーションが生じていない領域のみを含む信号を出力することができる。ホワイトバランスの調整によるサチュレーションが生じていない領域のみを含む信号は、以下では、未飽和信号(第3の信号)とも称される。
(3-2)RGB-YCC変換部1833c
RGB-YCC変換部1833cは、第1の信号処理部182cのRGB-YCC変換部1825cと同様の機能を有するため、詳細な説明を省略する。
(3-3)抽出部1831c
抽出部1831cは、基本的には、第1及び第2の実施形態にて説明した抽出部1831と同様の機能を有する。しかしながら、抽出部1831cが、飽和信号ではなく、未飽和信号に基づきディテール成分を抽出する点は、第1及び第2の実施形態の抽出部1831と異なる。具体的に、抽出部1831cは、RGB-YCC変換部1833cにより未飽和信号が変換された輝度信号からディテール成分を抽出する。
(4)補正部184c
補正部184cは、第2の実施形態にて説明した補正部184bと同様の機能を有するため、詳細な説明を省略する。
(5)画像生成部185c
画像生成部185cは、第1及び第2の実施形態にて説明した画像生成部185と同様の機能を有するため、詳細な説明を省略する。
(6)検出部186c
検出部186cは、第2の実施形態にて説明した検出部186bと同様の機能を有するため、詳細な説明を省略する。
<5-2.画像処理の流れ>
図11は、本開示の第3の実施形態に係る画像処理の流れを示すフローチャートである。まず、画像処理部180cは、撮像信号を取得する(S300)。次いで、画像処理部180cは、撮像信号のホワイトバランスを調整し、飽和信号を取得する(S302)。次いで、画像処理部180cは、取得した飽和信号から、輝度信号及び色差信号を生成する(S304)。S302及びS304の処理と並行して、画像処理部180cは、撮像信号のホワイトバランスを調整し、未飽和信号を取得する(S306)。次いで、画像処理部180cは、未飽和信号が変換された輝度信号からディテール成分を抽出する(S308)。
画像処理部180cは、サチュレーションが生じた領域の検出を行う(S310)。次いで、画像処理部180cは、輝度信号のサチュレーションが生じた領域のみに抽出したディテール成分を反映し、補正輝度信号を生成する(S312)。そして、画像処理部180cは、生成した補正輝度信号と色差信号に基づき、画像を生成する(S314)。
<<6.第4の実施形態に係る画像処理部>>
以上、本開示の第3の実施形態に係る画像処理部について説明した。次に、本開示の第4の実施形態に係る画像処理部について説明する。図12は、本開示の第4の実施形態に係る画像処理部180dの機能構成例を示すブロック図である。第1~第3の実施形態では、並列に接続された第1の信号処理部182と第2の信号処理部183が、1つの撮像信号に基づき信号処理を行う例について説明した。第4の実施形態では、直列に接続された第1の信号処理部182と第2の信号処理部183が、異なる時系列の2つの撮像信号に基づき信号処理を行う例について説明する。
第4の実施形態に係る画像処理部180dは、取得した時間が異なる2つの撮像信号に基づき、補正輝度信号を生成する。例えば、画像処理部180dは、1つ目の撮像信号に基づき、補正対象となる1つ目の輝度信号を生成し、2つ目の撮像信号に基づき、ディテール成分の抽出対象となる2つ目の輝度信号を生成する。そして、画像処理部180dは、補正対象となる1つ目の輝度信号に対して、2つ目の輝度信号から抽出したディテール成分を反映することで、補正輝度信号を生成する。このように、画像処理部180dは、直列で時分割処理を行う構成を有することにより、第3の実施形態の画像処理部180cよりも簡易な構成の装置により補正輝度信号を生成することができる。
<6-1.画像処理部の機能構成>
図12に示すように、画像処理部180dは、クランプ処理部181d、第1の信号処理部182d、第2の信号処理部183d、補正部184d、画像生成部185d、検出部186d、及び記憶部187dを備える。
(1)クランプ処理部181d
クランプ処理部181dは、基本的には、第1~第3の実施形態にて説明したクランプ処理部181と同様の機能を有する。しかしながら、クランプ処理部181dによる撮像信号の出力先が、第1の信号処理部182dのみである点は、第1~第3の実施形態のクランプ処理部181と異なる。
(2)第1の信号処理部182d
第1の信号処理部182dは、基本的には、第1~第3の実施形態の第1の信号処理部182と同様の機能を有する。しかしながら、第1の信号処理部182dが、時系列の異なる2つの撮像信号に基づき、2つの輝度信号を生成する点は、第1~第3の実施形態の第1の信号処理部182と異なる。第1の信号処理部182dは、図12に示すように、ホワイトバランス調整部1821d、デモザイク処理部1822d、リニアマトリクス演算部1823d、ガンマ補正部1824d、及びRGB-YCC変換部1825dを備える。
(2-1)ホワイトバランス調整部1821d
ホワイトバランス調整部1821dは、第2及び第3の実施形態にて説明したホワイトバランス調整部1821と同様の機能を有するため、詳細な説明を省略する。
(2-2)デモザイク処理部1822d
デモザイク処理部1822dは、第1~第3の実施形態にて説明したデモザイク処理部1822と同様の機能を有するため、詳細な説明を省略する。
(2-3)リニアマトリクス演算部1823d
リニアマトリクス演算部1823dは、第1~第3の実施形態にて説明したリニアマトリクス演算部1823と同様の機能を有するため、詳細な説明を省略する。
(2-4)ガンマ補正部1824d
ガンマ補正部1824dは、第1~第3の実施形態にて説明したガンマ補正部1824と同様の機能を有するため、詳細な説明を省略する。
(2-5)RGB-YCC変換部1825d
RGB-YCC変換部1825dは、基本的には、第1~第3の実施形態にて説明したRGB-YCC変換部1825と同様の機能を有する。しかしながら、RGB-YCC変換部1825dが、1つ目の輝度信号を記憶部187dへ出力し、2つ目の輝度信号を第2の信号処理部183dの抽出部1831dへ出力する点は、第1~第3の実施形態のRGB-YCC変換部1825と異なる。
(3)第2の信号処理部183d
第2の信号処理部183dは、基本的には、第1及び第2の実施形態にて説明した第2の信号処理部183と同様の機能を有する。しかしながら、第2の信号処理部183dが、第1の信号処理部182dから入力された輝度信号からディテール成分を抽出する点は、第1及び第2の実施形態の第2の信号処理部183と異なる。第2の信号処理部183dは、図12に示すように、抽出部1831dを備える。
(3-1)抽出部1831d
抽出部1831dは、基本的には、第1及び第2の実施形態にて説明した抽出部1831と同様の機能を有する。しかしながら、抽出部1831dが、クランプ処理部181ではなく、RGB-YCC変換部1825dから入力される輝度信号からディテール成分を抽出する点は、第1及び第2の実施形態の抽出部1831と異なる。
(4)補正部184d
補正部184dは、基本的には、第2及び第3の実施形態にて説明した補正部184と同様の機能を有する。しかしながら、補正部184dが、記憶部187dから入力される1つ目の輝度信号に対して、記憶部187dから入力される検出結果に基づき、抽出部1831dから入力されるディテール成分を反映する点は、第2及び第3の実施形態の補正部184と異なる。
(5)画像生成部185d
画像生成部185dは、第1~第3の実施形態にて説明した画像生成部185と同様の機能を有するため、詳細な説明を省略する。
(6)検出部186d
検出部186dは、基本的には、第2及び第3の実施形態にて説明した検出部186と同様の機能を有する。しかしながら、検出部186dは、サチュレーションが生じた領域の検出結果を記憶部187dへ出力する点は、第2及び第3の実施形態の検出部186と異なる。
(7)記憶部187d
記憶部187dは、画像処理部180dで生成されるデータを記憶する機能を有する。例えば、記憶部187dは、第1の信号処理部182dのRGB-YCC変換部1825dが生成する1つ目の輝度信号を記憶する。そして、記憶部187dは、記憶した1つ目の輝度信号を必要に応じて補正部184dへ出力する。また、記憶部187dは、検出部186dによるサチュレーションが生じた領域の検出結果を記憶する。そして、記憶部187dは、記憶した検出結果を必要に応じて補正部184dへ出力する。
<6-2.画像処理の流れ>
図13は、本開示の第4の実施形態に係る画像処理の流れを示すフローチャートである。まず、画像処理部180dは、1つ目の撮像信号を取得する(S400)。次いで、画像処理部180dは、1つ目の撮像信号のホワイトバランスを調整し、1つ目の飽和信号を取得する(S402)。次いで、画像処理部180dは、取得した1つ目の飽和信号から、1つ目の輝度信号及び1つ目の色差信号を生成し、記憶する(S404)。また、画像処理部180dは、取得した1つ目の飽和信号におけるサチュレーションが生じた領域の検出を行い、検出結果を記憶する(S406)。
1つ目の輝度信号及び1つ目の色差信号の記憶後、画像処理部180dは、1つ目の撮像信号とは異なる2つ目の撮像信号を取得する(S408)。次いで、画像処理部180dは、1つ目の飽和信号の取得時よりもゲインを小さく設定する(S410)。次いで、画像処理部180dは、2つ目の撮像信号のホワイトバランスを調整し、2つ目の飽和信号を取得する(S412)。次いで、画像処理部180dは、2つ目の飽和信号から、2つ目の輝度信号及び2つ目の色差信号を生成する(S414)そして、画像処理部180dは、2つ目の輝度信号からディテール成分を抽出する(S416)。
画像処理部180dは、記憶した検出結果に基づき、記憶した1つ目の輝度信号のサチュレーションが生じた領域のみに抽出したディテール成分を反映し、補正輝度信号を生成する(S418)。そして、画像処理部180dは、生成した補正輝度信号と色差信号に基づき、画像を生成する(S420)。
<6-3.変形例>
画像処理部180dは、抽出部1831dが抽出したディテール成分を記憶部187dが記憶する構成であってもよい。当該構成により、画像処理部180dは、1つ目の撮像信号に基づき生成した1つ目の輝度信号からディテール成分を抽出し、抽出したディテール成分を記憶部187dに記憶することできる。これにより、画像処理部180dは、2つ目の撮像信号から生成した輝度信号に対して、1つ目の輝度信号から抽出して記憶部187dに記憶されたディテール成分を反映し、補正輝度信号を生成することができる。
<<7.第5の実施形態に係る画像処理部>>
以上、本開示の第4の実施形態に係る画像処理部について説明した。次に、本開示の第5の実施形態に係る画像処理部について説明する。図14は、本開示の第5の実施形態に係る画像処理部180eの機能構成例を示すブロック図である。第4の実施形態では、直列に接続された第1の信号処理部182と第2の信号処理部183が、異なる時系列の2つの撮像信号に基づき信号処理を行う例について説明した。第5の実施形態では、直列に接続された第1の信号処理部182と第2の信号処理部183が、1つの撮像信号に基づき信号処理を行う例について説明する。
第5の実施形態に係る画像処理部180eは、1つの撮像信号に基づき、補正輝度信号を生成する。例えば、画像処理部180eは、取得した撮像信号に基づき、補正対象となる1つ目の輝度信号を生成する。また、画像処理部180eは、取得時に撮像信号を記憶部187eに記憶しておき、記憶した撮像信号に基づき、ディテール成分の抽出対象となる2つ目の輝度信号を生成する。そして、画像処理部180eは、補正対象となる1つ目の輝度信号に対して、2つ目の輝度信号から抽出したディテール成分を反映することで、補正輝度信号を生成する。このように、画像処理部180eは、第1の信号処理部182dと第2の信号処理部183eが直列に接続されていても、1つの撮像信号に基づき、補正輝度信号を生成することができる。これにより、画像処理部180eは、第4の実施形態の画像処理部180dと比較して、時系列のずれにより生じるノイズを低減することができる。
<7-1.画像処理部の機能構成>
図14に示すように、画像処理部180eは、クランプ処理部181e、第1の信号処理部182e、第2の信号処理部183e、補正部184e、画像生成部185e、検出部186e、及び記憶部187eを備える。
(1)クランプ処理部181e
クランプ処理部181eは、基本的には、第1~第4の実施形態にて説明したクランプ処理部181と同様の機能を有する。しかしながら、クランプ処理部181eによる撮像信号の出力先が、第1の信号処理部182eのみでなく、記憶部187eへも出力する点は、第1~第4の実施形態のクランプ処理部181と異なる。
(2)第1の信号処理部182e
第1の信号処理部182eは、基本的には、第4の実施形態の第1の信号処理部182dと同様の機能を有する。しかしながら、第1の信号処理部182eが、クランプ処理部181eから入力される撮像信号と記憶部187dから入力される撮像信号とに基づき、2つの輝度信号を生成する点は、第4の実施形態の第1の信号処理部182dと異なる。第1の信号処理部182eは、図14に示すように、ホワイトバランス調整部1821e、デモザイク処理部1822e、リニアマトリクス演算部1823e、ガンマ補正部1824e、及びRGB-YCC変換部1825eを備える。
(2-1)ホワイトバランス調整部1821e
ホワイトバランス調整部1821eは、基本的には、第4の実施形態にて説明したホワイトバランス調整部1821dと同様の機能を有する。しかしながら、ホワイトバランス調整部1821eは、クランプ処理部181eからだけでなく、記憶部187eから入力される撮像信号に対してもホワイトバランスの調整を行う点は、第4の実施形態のホワイトバランス調整部1821dと異なる。
(2-2)デモザイク処理部1822e
デモザイク処理部1822eは、第1~第4の実施形態にて説明したデモザイク処理部1822と同様の機能を有するため、詳細な説明を省略する。
(2-3)リニアマトリクス演算部1823e
リニアマトリクス演算部1823eは、第1~第4の実施形態にて説明したリニアマトリクス演算部1823と同様の機能を有するため、詳細な説明を省略する。
(2-4)ガンマ補正部1824e
ガンマ補正部1824eは、第1~第4の実施形態にて説明したガンマ補正部1824と同様の機能を有するため、詳細な説明を省略する。
(2-5)RGB-YCC変換部1825e
RGB-YCC変換部1825eは、第4の実施形態にて説明したRGB-YCC変換部1825dと同様の機能を有するため、詳細な説明を省略する。
(3)第2の信号処理部183e
第2の信号処理部183eは、第4の実施形態にて説明した第2の信号処理部183dと同様の機能を有するため、詳細な説明を省略する。図14に示すように、第2の信号処理部183eは、抽出部1831eを備える。
(3-1)抽出部1831e
抽出部1831eは、第4の実施形態にて説明した抽出部1831dと同様の機能を有するため、詳細な説明を省略する。
(4)補正部184e
補正部184eは、第4の実施形態にて説明した補正部184dと同様の機能を有するため、詳細な説明を省略する。
(5)画像生成部185e
画像生成部185eは、第1~第4の実施形態にて説明した画像生成部185と同様の機能を有するため、詳細な説明を省略する。
(6)検出部186e
検出部186eは、第4の実施形態にて説明した検出部186dと同様の機能を有するため、詳細な説明を省略する。
(7)記憶部187e
記憶部187eは、基本的には、第4の実施形態にて説明した記憶部187dと同様の機能を有する。しかしながら、記憶部187eが、クランプ処理部181eから撮像信号を入力される点と、ホワイトバランス調整部1821eへ撮像信号を出力する点は、第4の実施形態の記憶部187dと異なる。
<7-2.画像処理の流れ>
図15は、本開示の第5の実施形態に係る画像処理の流れを示すフローチャートである。まず、画像処理部180eは、撮像信号を取得する(S500)。次いで、画像処理部180eは、取得した撮像信号のホワイトバランスを調整し、1つ目の飽和信号を取得する(S502)。次いで、画像処理部180eは、1つ目の飽和信号から、1つ目の輝度信号及び1つ目の色差信号を生成し、記憶する(S504)。そして、画像処理部180eは、取得した1つ目の飽和信号におけるサチュレーションが生じた領域の検出を行い、検出結果を記憶する(S506)。
1つ目の輝度信号及び1つ目の色差信号の記憶後、画像処理部180eは、1つ目の飽和信号の取得時よりもゲインを小さく設定する(S508)。次いで、画像処理部180eは、記憶した撮像信号のホワイトバランスを調整し、2つ目の飽和信号を取得する(S510)。次いで、画像処理部180eは、2つ目の飽和信号から、2つ目の輝度信号及び2つ目の色差信号を生成する(S512)そして、画像処理部180eは、2つ目の輝度信号からディテール成分を抽出する(S514)。
画像処理部180eは、記憶した検出結果に基づき、記憶した1つ目の輝度信号のサチュレーションが生じた領域のみに抽出したディテール成分を反映し、補正輝度信号を生成する(S516)。そして、画像処理部180eは、生成した補正輝度信号と色差信号に基づき、画像を生成する(S518)。
<7-3.変形例>
画像処理部180eは、抽出部1831eが抽出したディテール成分を記憶部187eが記憶する構成であってもよい。当該構成により、画像処理部180eは、撮像信号に基づき生成した1つ目の輝度信号からディテール成分を抽出し、抽出したディテール成分を記憶部187eに記憶することできる。これにより、画像処理部180eは、撮像信号から生成した輝度信号に対して、記憶部187dに記憶されたディテール成分を反映し、補正輝度信号を生成することができる。
<<8.変形例>>
以上、本開示の実施形態について説明した。続いて、本開示の一実施形態に係る変形例について説明する。なお、以下に説明する変形例は、本開示の実施形態で説明した構成に代えて適用されてもよいし、本実施形態で説明した構成に対して追加的に適用されてもよい。
上述の第2~第5の実施形態では、第1の信号処理部182における撮像信号に対するホワイトバランス調整により、飽和信号が生成される例について説明した。しかしながら、上述の第2~第5の実施形態では、第1の信号処理部182における撮像信号に対するホワイトバランス調整により、未飽和信号が生成されてもよい。第1の信号処理部182にて未飽和信号が生成された場合、当該未飽和信号が入力される検出部186は、サチュレーションが生じた領域を検出することができない。この場合、画像処理部180は、補正輝度信号を生成する処理を行わなくてよい。そして、画像処理部180は、未飽和信号が変換された輝度信号に基づき、画像を生成してよい。
これにより、画像処理部180は、不要な処理を省略することができ、画像処理の効率を向上することができる。また、画像処理部180は、不要な処理を省略することにより、消費電力を削減することもできる。
<<9.ハードウェア構成例>>
最後に、図16を参照しながら、本開示の一実施形態に係る画像処理装置のハードウェア構成例について説明する。図16は、本開示の一実施形態に係る画像処理装置のハードウェア構成例を示すブロック図である。なお、図16に示す画像処理装置900は、例えば、図1、図3、及び図4に示した医療用観察装置100を実現し得る。本実施形態に係る画像処理装置900による画像処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
図16に示すように、画像処理装置900は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、及びRAM(Random Access Memory)903を備える。また、画像処理装置900は、ホストバス904a、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート910、及び通信装置911を備える。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ハードウェア構成は、ここで示される構成要素以外の構成要素をさらに含んでもよい。
CPU901は、例えば、演算処理装置又は制御装置として機能し、ROM902、RAM903、又はストレージ装置908に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。ROM902は、CPU901に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM903には、例えば、CPU901に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。これらはCPUバスなどから構成されるホストバス904aにより相互に接続されている。CPU901、ROM902およびRAM903は、例えば、ソフトウェアとの協働により、図1を参照して説明した医療用観察装置100の制御装置(図示せず)、図3を参照して説明した制御ユニット144、及び図4を参照して説明した制御部160の機能を実現し得る。
CPU901、ROM902、及びRAM903は、例えば、高速なデータ伝送が可能なホストバス904aを介して相互に接続される。一方、ホストバス904aは、例えば、ブリッジ904を介して比較的データ伝送速度が低速な外部バス904bに接続される。また、外部バス904bは、インタフェース905を介して種々の構成要素と接続される。
入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、画像処理装置900の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などを含んでいてもよい。画像処理装置900のユーザは、この入力装置906を操作することにより、画像処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
他にも、入力装置906は、ユーザに関する情報を検知する装置により形成され得る。例えば、入力装置906は、画像センサ(例えば、カメラ)、深度センサ(例えば、ステレオカメラ)、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、音センサ、測距センサ(例えば、ToF(Time of Flight)センサ)、力センサ等の各種のセンサを含み得る。また、入力装置906は、画像処理装置900の姿勢、移動速度等、画像処理装置900自身の状態に関する情報や、画像処理装置900の周辺の明るさや騒音等、画像処理装置900の周辺環境に関する情報を取得してもよい。また、入力装置906は、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して装置の緯度、経度及び高度を含む位置情報を測定するGNSSモジュールを含んでもよい。また、位置情報に関しては、入力装置906は、Wi-Fi(登録商標)、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知するものであってもよい。入力装置906は、例えば、図1を参照して説明した撮像デバイス106、図3を参照して説明した挿入部材134、光源ユニット136、及びカメラヘッド140からなる撮像デバイス、並びに図4を参照して説明した撮像部150の機能を実現し得る。
出力装置907は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置、レーザープロジェクタ、LEDプロジェクタ及びランプ等の表示装置や、スピーカ及びヘッドフォン等の音声出力装置や、プリンタ装置等がある。出力装置907は、例えば、画像処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、画像処理装置900が行った各種処理により得られた結果を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
ストレージ装置908は、画像処理装置900の記憶部の一例として形成されたデータ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。
ドライブ909は、記憶媒体用リーダライタであり、画像処理装置900に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
接続ポート910は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS-232Cポート、又は光オーディオ端子等のような外部接続機器を接続するためのポートである。
通信装置911は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置911は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置911は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置911は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。通信装置911は、例えば、図4を参照して説明した通信部195の機能を実現し得る。
なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。
以上、本実施形態に係る画像処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
<<10.まとめ>>
以上説明したように、本開示の実施形態に係る画像処理装置は、複数の波長帯域に対応する撮像信号に対してホワイトバランスの調整を行う。次いで、画像処理装置は、ホワイトバランスの調整によりサチュレーションが生じた領域を含む飽和信号から、輝度信号を生成する。また、画像処理装置は、撮像信号に基づきディテール成分を抽出する。そして、画像処理装置は、ディテール成分を輝度信号に反映し、補正輝度信号を生成する。
上述のように、画像処理装置は、サチュレーションが生じていない撮像信号から抽出したディテール成分を、サチュレーションが生じた領域を含む輝度信号に反映することで、サチュレーションが生じた領域の失われたディテールを復元することができる。
よって、サチュレーションが生じた領域のディテールを復元することが可能な、新規かつ改良された画像処理装置及び観察システムを提供することが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、本明細書において説明した各装置は、単独の装置として実現されてもよく、一部または全部が別々の装置として実現されても良い。例えば、図4に示した医療用観察装置100が備える撮像部150と制御部160の少なくともいずれか一方が、単独の装置として実現されてもよい。例えば、撮像部150は、センサ装置等の独立した装置として実現され、ネットワーク等を介して医療用観察装置100と接続されてもよい。また、制御部160は、サーバ装置等の独立した装置として実現され、ネットワーク等を介して医療用観察装置100と接続されてもよい。
また、本明細書において説明した各装置による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記録媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、コンピュータによる実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。
また、本明細書においてフローチャートを用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、
前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、
前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、
を備える、画像処理装置。
(2)
前記サチュレーションが生じた領域を検出する検出部をさらに備え、
前記補正部は、前記検出部が検出した前記サチュレーションが生じた領域と対応する前記ディテール成分のみを前記輝度信号に反映し、前記補正輝度信号を生成する、前記(1)に記載の画像処理装置。
(3)
前記検出部は、前記第2の信号と対応する前記複数の波長帯域に対する閾値処理に基づき、前記サチュレーションが生じた領域を検出する、前記(2)に記載の画像処理装置。
(4)
前記検出部は、前記複数の波長帯域の各々と対応する画素値の内、最も高い画素値と次に高い画素値との差が所定の閾値以上である場合、前記複数の波長帯域と対応する領域を前記サチュレーションが生じた領域として検出する、前記(3)に記載の画像処理装置。
(5)
前記検出部は、赤色の波長帯域、緑色の波長帯域、または青色の波長帯域の内の少なくとも1つを、サチュレーションが生じた波長帯域として検出する、前記(2)~(4)のいずれか一項に記載の画像処理装置。
(6)
前記検出部は、前記赤色の波長帯域を前記サチュレーションが生じた波長帯域として検出する、前記(5)に記載の画像処理装置。
(7)
前記補正部は、前記ディテール成分を前記輝度信号に対して所定の割合で加算することで、前記補正輝度信号を生成する、前記(1)~(6)のいずれか一項に記載の画像処理装置。
(8)
前記補正部は、前記補正輝度信号の信号レベルが小さくなるように調整する、前記(7)に記載の画像処理装置。
(9)
前記第2の信号処理部は、ハイパスフィルタにより前記第1の信号から前記ディテール成分を抽出する、前記(1)~(8)のいずれか一項に記載の画像処理装置。
(10)
前記第2の信号処理部は、前記第1の信号に対して、前記第1の信号処理部よりも小さいゲインによる前記ホワイトバランスの調整を行い、前記ホワイトバランスの調整により前記サチュレーションが生じていない領域のみを含む第3の信号に基づき、前記ディテール成分を抽出する、前記(1)~(9)のいずれか一項に記載の画像処理装置。
(11)
色差信号と前記補正輝度信号に基づき画像を生成する画像生成部をさらに備え、
前記第1の信号処理部は、前記第2の信号から前記色差信号をさらに生成する、前記(1)~(10)のいずれか一項に記載の画像処理装置。
(12)
撮像対象を撮像する撮像デバイスと、
複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、を備える画像処理装置と、
を備える、観察システム。
(13)
複数のリンクが関節部によって互いに連結されたアームをさらに備え、
前記撮像デバイスは、前記アームにより支持される、前記(12)に記載の観察システム。
(14)
前記撮像デバイスは、患者の体内に挿入され、前記体内を前記撮像対象として撮像する、前記(12)に記載の観察システム。
100 医療用観察装置
150 撮像部
160 制御部
170 撮像制御部
180 画像処理部
181 クランプ処理部
182 第1の信号処理部
183 第2の信号処理部
184 補正部
185 画像生成部
186 検出部
187 記憶部
190 表示制御部
195 通信部
200 表示装置
1000 医療用観察システム

Claims (15)

  1. 複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、
    前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、
    前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、
    前記サチュレーションが生じた領域を検出する検出部と、
    を備え
    前記補正部は、前記検出部が検出した前記サチュレーションが生じた領域と対応する前記ディテール成分のみを前記輝度信号に反映し、前記補正輝度信号を生成する、画像処理装置。
  2. 前記検出部は、前記第2の信号と対応する前記複数の波長帯域に対する閾値処理に基づき、前記サチュレーションが生じた領域を検出する、請求項に記載の画像処理装置。
  3. 前記検出部は、前記複数の波長帯域の各々と対応する画素値の内、最も高い画素値と次に高い画素値との差が所定の閾値以上である場合、前記複数の波長帯域と対応する領域を前記サチュレーションが生じた領域として検出する、請求項に記載の画像処理装置。
  4. 前記検出部は、赤色の波長帯域、緑色の波長帯域、または青色の波長帯域の内の少なくとも1つを、サチュレーションが生じた波長帯域として検出する、請求項のいずれか一項に記載の画像処理装置。
  5. 前記検出部は、前記赤色の波長帯域を前記サチュレーションが生じた波長帯域として検出する、請求項に記載の画像処理装置。
  6. 前記補正部は、前記ディテール成分を前記輝度信号に対して所定の割合で加算することで、前記補正輝度信号を生成する、請求項1~のいずれか一項に記載の画像処理装置。
  7. 前記補正部は、前記補正輝度信号の信号レベルが小さくなるように調整する、請求項に記載の画像処理装置。
  8. 前記第2の信号処理部は、ハイパスフィルタにより前記第1の信号から前記ディテール成分を抽出する、請求項1~のいずれか一項に記載の画像処理装置。
  9. 複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、
    前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、
    前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、
    を備え、
    前記第2の信号処理部は、前記第1の信号に対して、前記第1の信号処理部よりも小さいゲインによる前記ホワイトバランスの調整を行い、前記ホワイトバランスの調整により前記サチュレーションが生じていない領域のみを含む第3の信号に基づき、前記ディテール成分を抽出する、画像処理装置。
  10. 複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、
    前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、
    前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、
    色差信号と前記補正輝度信号に基づき画像を生成する画像生成部と、
    を備え、
    前記第1の信号処理部は、前記第2の信号から前記色差信号をさらに生成する、画像処理装置。
  11. 撮像対象を撮像する撮像デバイスと、
    複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、前記サチュレーションが生じた領域を検出する検出部と、を備える画像処理装置と、
    を備え、
    前記補正部は、前記検出部が検出した前記サチュレーションが生じた領域と対応する前記ディテール成分のみを前記輝度信号に反映し、前記補正輝度信号を生成する、観察システム。
  12. 複数のリンクが関節部によって互いに連結されたアームをさらに備え、
    前記撮像デバイスは、前記アームにより支持される、請求項11に記載の観察システム。
  13. 前記撮像デバイスは、患者の体内に挿入され、前記体内を前記撮像対象として撮像する、請求項11に記載の観察システム。
  14. 撮像対象を撮像する撮像デバイスと、
    複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、を備える画像処理装置と、
    を備え、
    前記第2の信号処理部は、前記第1の信号に対して、前記第1の信号処理部よりも小さいゲインによる前記ホワイトバランスの調整を行い、前記ホワイトバランスの調整により前記サチュレーションが生じていない領域のみを含む第3の信号に基づき、前記ディテール成分を抽出する、観察システム。
  15. 撮像対象を撮像する撮像デバイスと、
    複数の波長帯域に対応する第1の信号に対してホワイトバランスの調整を行い、前記ホワイトバランスの調整によりサチュレーションが生じた領域を含む第2の信号から、輝度信号を生成する第1の信号処理部と、前記第1の信号に基づきディテール成分を抽出する第2の信号処理部と、前記ディテール成分を前記輝度信号に反映し、補正輝度信号を生成する補正部と、色差信号と前記補正輝度信号に基づき画像を生成する画像生成部と、を備える画像処理装置と、
    を備え、
    前記第1の信号処理部は、前記第2の信号から前記色差信号をさらに生成する、観察システム。
JP2019000843A 2019-01-07 2019-01-07 画像処理装置及び観察システム Active JP7253129B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019000843A JP7253129B2 (ja) 2019-01-07 2019-01-07 画像処理装置及び観察システム
US16/720,011 US11375167B2 (en) 2019-01-07 2019-12-19 Image processing apparatus and observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019000843A JP7253129B2 (ja) 2019-01-07 2019-01-07 画像処理装置及び観察システム

Publications (2)

Publication Number Publication Date
JP2020109928A JP2020109928A (ja) 2020-07-16
JP7253129B2 true JP7253129B2 (ja) 2023-04-06

Family

ID=71403989

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019000843A Active JP7253129B2 (ja) 2019-01-07 2019-01-07 画像処理装置及び観察システム

Country Status (2)

Country Link
US (1) US11375167B2 (ja)
JP (1) JP7253129B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002077645A (ja) 2000-08-25 2002-03-15 Sharp Corp 画像処理装置
WO2018179675A1 (ja) 2017-03-29 2018-10-04 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置、および制御方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2650062B2 (ja) * 1989-04-28 1997-09-03 キヤノン株式会社 カラー撮像装置
JP3255982B2 (ja) * 1992-08-24 2002-02-12 富士写真光機株式会社 電子内視鏡用ビデオ信号処理回路
US7508421B2 (en) * 2002-06-24 2009-03-24 Fujifilm Corporation Image pickup apparatus and image processing method
JP4049257B2 (ja) * 2002-12-02 2008-02-20 富士フイルム株式会社 固体撮像装置及びデジタルカメラ
KR100895160B1 (ko) * 2004-08-30 2009-05-04 올림푸스 가부시키가이샤 내시경 장치
JP2007094742A (ja) * 2005-09-28 2007-04-12 Olympus Corp 画像信号処理装置及び画像信号処理プログラム
JP2013179400A (ja) 2012-02-28 2013-09-09 Nikon Corp 画像処理装置および画像処理プログラム
JP6080505B2 (ja) * 2012-11-06 2017-02-15 キヤノン株式会社 像振れ補正装置およびその制御方法
CN104468578B (zh) * 2014-12-10 2017-12-26 怀效宁 一种无线通讯的优先通讯系统和通讯方法
WO2016098641A1 (ja) * 2014-12-18 2016-06-23 ソニー株式会社 撮像装置、撮像方法、およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002077645A (ja) 2000-08-25 2002-03-15 Sharp Corp 画像処理装置
WO2018179675A1 (ja) 2017-03-29 2018-10-04 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置、および制御方法

Also Published As

Publication number Publication date
US20200221059A1 (en) 2020-07-09
JP2020109928A (ja) 2020-07-16
US11375167B2 (en) 2022-06-28

Similar Documents

Publication Publication Date Title
US11642004B2 (en) Image processing device, image processing method and recording medium
EP3571662B1 (en) Video signal processing apparatus, video signal processing method, and program for dynamic range compression
WO2018079259A1 (ja) 信号処理装置および方法、並びにプログラム
WO2018216302A1 (ja) 医療用観察装置、処理方法、および医療用観察システム
WO2018179564A1 (ja) 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム
WO2017212909A1 (ja) 撮像素子、撮像装置、電子機器
JP7230807B2 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP7355009B2 (ja) 撮像装置、ゲイン設定方法及びプログラム
JP7253129B2 (ja) 画像処理装置及び観察システム
JP2023109802A (ja) 医療用制御装置、および医療用観察システム
WO2018216538A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
WO2018173605A1 (ja) 手術用制御装置、制御方法、手術システム、およびプログラム
JP2019146882A (ja) 医療用制御装置、医療用観察装置、および制御方法
JP2019154883A (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法
JP7143092B2 (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法
JP7023643B2 (ja) 医療用観察装置、および医療用観察システム
JP7073145B2 (ja) 医療用調光制御装置、および医療用調光制御装置の作動方法
JP7160042B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2019225323A1 (ja) ケーブル装置、ノイズキャンセリング装置、及びノイズキャンセリング方法
JP2019154886A (ja) 医療用表示制御装置、および表示制御方法
US20220167085A1 (en) Audio processing device, audio processing method, and program

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230302

R150 Certificate of patent or registration of utility model

Ref document number: 7253129

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150