JP7196833B2 - 撮像装置、映像信号処理装置および映像信号処理方法 - Google Patents

撮像装置、映像信号処理装置および映像信号処理方法 Download PDF

Info

Publication number
JP7196833B2
JP7196833B2 JP2019506264A JP2019506264A JP7196833B2 JP 7196833 B2 JP7196833 B2 JP 7196833B2 JP 2019506264 A JP2019506264 A JP 2019506264A JP 2019506264 A JP2019506264 A JP 2019506264A JP 7196833 B2 JP7196833 B2 JP 7196833B2
Authority
JP
Japan
Prior art keywords
video signal
luminance
signal
image
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019506264A
Other languages
English (en)
Other versions
JPWO2018169003A1 (ja
Inventor
浩二 神谷
真人 伊澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018169003A1 publication Critical patent/JPWO2018169003A1/ja
Application granted granted Critical
Publication of JP7196833B2 publication Critical patent/JP7196833B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本技術は、ビデオカメラなどの撮像装置、撮像装置などに用いられる映像信号処理装置および映像信号処理方法に関する。
HDR(High Dynamic Range)イメージングでは、ダイナミックレンジの広い映像の表現が可能であり、通常のモニターで表示可能な標準的なダイナミックレンジを持つSDR(Standard Dynamic Range)の映像信号で表現しきれなかった、暗部の表現や、輝度の高い色の表現などが可能である。
HDRおよびLDRの映像信号処理に関する公知技術には、HDRビデオとLDRビデオとを同時生成する技術(特許文献1参照)、LDRビデオをHDRビデオに変換する技術(特許文献2参照)などがある。なお、LDRはSDRと同義である。
特開2016-195379号公報 国際公開第2011/04222
しかしながら、HDRで撮像をすることが可能なカメラで撮像された映像信号から、SDRの映像信号をニー補正などによって生成する場合には、高輝度部分のコントラストが著しく押さえられてしまい、表示映像の視認性が低下するなど、様々な問題があり、その十分な解決方法は未だ確立されていない。
本技術の目的は、HDRで撮像された映像信号から高輝度部のコントラストを確保したSDRの映像信号を生成することのできる撮像装置、映像信号処理装置および映像信号処理方法に関する。
上記の課題を解決するために、本技術に係る第1の形態である撮像装置は、
撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する第2の映像信号処理部と
を具備する。
前記輝度領域は、所定の閾値を越える高輝度部分の領域であってよい。
上記撮像装置は、前記第2の映像信号を表示部に出力する第1の出力部をさらに具備するものであってよい。
上記撮像装置は、前記第1の映像信号を外部装置に出力する第2の出力部をさらに具備するものであってよい。
上記撮像装置は、前記第2の映像信号を出力するビューファインダーをさらに具備するものであってよい。
前記第2の映像信号処理部は、前記第1の映像信号に対してニー補正を行って前記輝度抑制映像信号を生成するように構成されてもよい。
前記第2の映像信号処理部は、前記第1の映像信号からハイパスフィルターを使って前記高域の輝度変化成分を抽出するように構成されてもよい。
前記第2の映像信号処理部は、前記抽出された高域の輝度変化成分に所定のゲインを乗じることによって、前記輝度変化成分の情報信号を生成するように構成されてもよい。
前記第1の映像信号がカラー映像信号であり、
前記第2の映像信号処理部は、前記カラー映像信号から複数の演算式により複数の前記輝度信号を生成し、絶対値の最も大きい前記輝度信号を選択して前記高域の輝度変化成分を生成するように構成されてもよい。
前記第2の映像信号処理部は、前記高域の輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成され、前記高域の輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記高域の輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするように構成されてもよい。
上記撮像装置は、ユーザによる操作を受け付ける少なくとも1つ以上の操作子を有する操作入力部を更に具備し、前記制御部は、撮影時、前記少なくとも1つ以上の操作子の状態を検出し、前記操作に基づいた設定情報を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成されてもよい。
前記設定情報は前記ゲインの情報または演算式の情報であってよい。
上記撮像装置は、少なくとも1つ以上の操作子に対して、前記設定情報の種類の割り当てを設定可能なユーザインタフェースをさらに具備するものであってよい。
前記第1の映像信号処理部は、前記撮像部により得られた画素信号の補正を含む前処理を行って前記第1の映像信号を出力する補正回路であってよい。
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成するものであってよい。
前記第2の映像信号処理部は、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成するように構成されてもよい。
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成するか、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成するかを切り替え可能に構成されたものであってよい。
本技術に係る他の形態である映像信号処理装置は、撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する第2の映像信号処理部と

を具備する。
さらに本技術に係る他の形態である映像信号処理方法は、第1の映像信号処理部が、撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成し、
第2の映像信号処理部が、前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する、というものである。
以上のように、本技術によれば、HDRで撮像された映像信号から高輝度部のコントラストを確保したSDRの映像信号を生成することができる。
本技術に係る第1の実施形態の撮像装置の構成を示すブロック図である。 HDRとSDRを比較して示す図である。 VF信号処理部16によるHDRの映像信号に対するニー補正を示す図である。 HDRの映像信号の表示映像を示す図である。 HDRの映像信号に対するニー補正によって得られるSDRの映像信号の表示映像を示す図である。 高輝度部分のコントラストが強調された第2の映像信号の表示映像を示す図である。 HDRの映像信号の高輝度部のニー補正によって生成される輝度抑制映像信号を示す図である。 図7の輝度抑制映像信号(系列1)の輝度スケールを変えて示した図である。 コントラスト強調信号生成部15によって生成されるコントラスト強調信号を示す図である。 コントラスト強調信号と輝度抑制映像信号との加算により得られたSDRの映像信号を示す図である。 HDR映像信号から高域の輝度変化成分を抽出する方法の変形例1を説明する図である。 コントラスト強調機能に関するユーザ設定のためのUI画面を示す図である。 撮像装置1のコントラスト強調機能に関する操作子を示す側面図である。 図12に示したUI画面で操作子を変更する場合の操作方法を示す図である。 図12に示したUI画面における複数のダイヤル間の切替順を示す図である。 図12に示したUI画面における複数のボタン間の切替順を示す図である。 図12に示したUI画面において、操作子の重複設定が発生した場合の表示例を示す図である。 本技術に係る第2の実施形態の撮像装置1Aの構成を示すブロック図である。 図18の撮像装置1Aのより詳細な構成を示すブロック図である。 第3の実施形態の撮像装置1Bの構成を示すブロック図である。 図20の撮像装置1Bのより詳細な構成を示すブロック図である。 本技術に係る第4の実施形態の撮像システムの構成を示すブック図である。 コントラスト強調信号の生成方法1を説明するための図である。 コントラスト強調信号の生成方法2を説明するための図である。 コントラスト強調信号の生成方法3を説明するための図である。 輝度信号Yのコントラスト強調信号を用いてコントラストが強調されたSDR映像と、画像のRGB毎の値から生成されたコントラスト強調信号を用いてコントラストが強調されたSDR映像のある画素の値をRGB毎に示した図である。 コントラスト強調信号の生成方法4を説明するための図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図B3に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<第1の実施形態>
[全体の構成]
図1は、本技術に係る第1の実施形態の撮像装置の構成を示すブロック図である。
この撮像装置1は、光学ブロック11と、撮像部12と、本線映像信号処理部13と、出力部14と、コントラスト強調信号生成部15と、VF信号処理部16と、VF(ビューファインダー)17と、制御ユニット18と、操作入力部19とを備える。
光学ブロック11は、レンズ、フォーカス調整機構、シャッター機構、絞り(アイリス)機構などを有している。光学ブロック11は、被写体からの反射光をレンズによって撮像部12の撮像素子の撮像面に結像する。
撮像部12は、撮像素子、アナログ信号処理回路、A/D変換回路などを有する。撮像素子はCCD(Charge Coupled Device)イメージセンサー、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサーなどで構成される。撮像素子は、例えばHDR(High Dynamic Range)の画素信号を得ることのできる撮像素子である。撮像部12の撮像素子で得られた画素信号は本線映像信号処理部13に供給される。
本線映像信号処理部13は、特許請求の範囲の「第1の映像信号処理部」に相当するものであり、撮像部12より供給されたHDRの画素信号に対して、例えば、欠陥補正、ノイズ除去、レンズ収差補正、A/D変換、RAW現像などの信号処理を行うことによって、HDRの映像信号を生成する。生成された第1の映像信号は出力部14、コントラスト強調信号生成部15およびVF信号処理部16に供給される。
出力部14は、本線映像信号処理部13によって得られたHDRの映像信号をカメラケーブルを通じてCCU(カメラ制御ユニット)などの外部の映像機器やディスプレイに出力したりする処理を行う。CCUでは、撮像装置1よりカメラケーブルを通じて伝送されたHDRの映像信号などを受信し、例えば、伝送に適した形式のデジタル映像信号、アナログ映像信号に変換して伝送する処理などが行われる。また、出力部14は、VF信号処理部16によって生成されたVF映像信号を外部のディスプレイなどに出力することが可能である。
なお、本線映像信号処理部13によって得られたHDRの映像信号はSSD(Solid State Drive)などの記録媒体に記録されてもよい。
コントラスト強調信号生成部15は、本線映像信号処理部13によって得られたHDRの映像信号から少なくとも高輝度部分の高域の輝度変化成分を抽出し、抽出した輝度変化成分に所定のゲインを乗じた信号をコントラスト強調信号として生成する。生成されたコントラスト強調信号はVF信号処理部16に供給される。ここで、高輝度部分とは、HDRの映像信号において輝度が所定の閾値を越える領域である。
VF信号処理部16は、本線映像信号処理部13によって得られたHDRの映像信号に対して、高輝度部の例えばニー補正などを行って、SDRの輝度抑制映像信号を生成する。VF信号処理部16は、この輝度抑制映像信号にコントラスト強調信号生成部15より供給されたコントラスト強調信号を加算して、SDRの映像信号を生成し、キャラクタおよびマーカーの合成などの他の信号処理を行ってVF映像信号としてVF17に供給する。
操作入力部19は、ユーザから撮像装置1を操作するための命令や各種設定などの入力を受け付けるものであり、例えば、ボタン、スイッチ、ダイヤル、VF17の画面に設けられたタッチパネルセンサーなどにより構成される。
制御ユニット18は、撮像装置1の各部を制御するためのコントローラであり、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Member)などで構成される。RAMあるいはROMには、CPUにより実行されるプログラムや各種パラメータなどが格納される。制御ユニット18は、操作入力部19において受け付けられたユーザの操作入力の情報を解釈し、解釈した入力情報に応じて撮像装置1を制御する。
上記のコントラスト強調信号生成部15およびVF信号処理部16は、特許請求の範囲の「第2の映像信号処理部」に相当するものである。したがって、コントラスト強調信号生成部15およびVF信号処理部16は1つのユニットとして構成されてもよい。
[課題について]
図2は、HDRとSDRを比較して示す図である。
SDRのレンジを100%とすると、HDRのレンジは例えば800%、1000%、あるいは1300%などとされる。したがって、HDRの映像信号からSDRの映像信号を生成する方法の1つとして、図3に示すように、HDRの映像信号の所定の輝度値(ニー補正ポイント)以上の高輝度部分をニー補正する方法がある。しかし、この方法によると、ニー補正により得られる映像信号の高輝度部のコントラストが著しく抑えられてしまう。そのため、表示映像において次のような課題が生じる。
図4はHDRの映像信号の表示映像を示す図、図5はHDRの映像信号に対するニー補正によって得られるSDRの映像信号の表示映像を示す図である。図4に示すHDRの映像信号の表示映像では、高輝度部分である空中内の白いボールBを判別することができるが、図5に示すように、ニー補正によって得られた表示映像では、高輝度部分のコントラストの著しい低下によってボールBの判別が困難である。したがって、空中を飛翔するボールBをVF17の表示映像を視認して追跡することが困難である。
なお、HDRの映像信号をVF17に表示させることは技術的問題は無いが、HDRの映像を凝視し続けた場合にカメラマンの目の負担が大きく、健康上望ましくないと言われている。したがって、SDRの映像を用いつつ、上記問題を解決する対策が期待されている。
そこで本実施形態の撮像装置1は、HDRの映像信号から少なくとも高輝度部分の高域の輝度変化成分の情報信号をコントラスト強調信号として生成し、HDRの映像信号の高輝度部の輝度値を抑制してSDRの輝度抑制映像信号を生成し、コントラスト強調信号と加算することによって得た第2の映像信号を生成するコントラスト強調信号生成部15およびVF信号処理部16を備えて構成されたものである。
図6は、コントラスト強調信号生成部15およびVF信号処理部16によって生成されたSDRの映像信号の表示映像を示す図である。同図に示すように、高輝度部分のコントラストが強調されたSDRの映像信号が得られることによって、空中内の白いボールBを判別可能な映像となることが分かる。
[コントラスト強調信号生成部15およびVF信号処理部16の動作]
次に、上記のコントラスト強調信号生成部15およびVF信号処理部16の動作の詳細を説明する。
VF信号処理部16で、HDRの映像信号に対してニー補正が行われる。
図7は、HDRの映像信号の高輝度部(例えばSDRの95%以上の高輝度部)のニー補正によって生成される輝度抑制映像信号を示す図であり、横軸はHDRの映像信号の時間軸、縦軸は輝度である。点線はニー補正前のHDRの高輝度部の映像信号(系列2)、実線はニー補正によって得られた輝度抑制映像信号(系列1)である。
図8は図7の輝度抑制映像信号(系列1)の輝度スケールを変えて示した図である。ニー補正によって、映像信号の高輝度部のコントラストがつぶれたことが分かる。
図9はコントラスト強調信号生成部15によって生成されるコントラスト強調信号を示す図である。コントラスト強調信号生成部15は、本線映像信号処理部13によって得られたHDRの映像信号から、例えばハイパスフィルターなどを使って高域の輝度変化成分を抽出し、抽出した輝度変化成分に所定のゲインを乗じた信号をコントラスト強調信号として生成する。ここで、与えられるゲインの値は、固定値であっても、あるいは、操作入力部19を用いてユーザにより設定された可変値であってもよい。本例では、例えば輝度変化成分の信号を1/15倍に圧縮することによって得られたコントラスト強調信号を示している。
このコントラスト強調信号生成部15により生成されたコントラスト強調信号はVF信号処理部16に出力され、VF信号処理部16にて、ニー補正によって得られた輝度抑制映像信号と加算されて、SDRの映像信号が得られる。
図10は、コントラスト強調信号と輝度抑制映像信号との加算により得られたSDRの映像信号を示す図である。このように、輝度抑制映像信号にコントラスト強調信号が加算されることによって、高輝度部のコントラストが強調されたSDRの映像信号が得られる。
<変形例1>
上記の実施形態では、HDRの映像信号からハイパスフィルターを使って高域の輝度変化部を抽出し、コントラスト強調信号を生成することとした。但し、HDRの映像信号に対するニー補正によってコントラストが抑制されるのは高輝度部であることから、HDRの映像信号からの高域の輝度変化部の抽出は高輝度部からのみ行われることが理想である。
そこで、図11に示すように、コントラスト強調信号生成部15において、HDRの映像信号91からニー補正ポイントKEE上の高輝度部の映像信号92を抽出し、この高輝度部のHDRの映像信号92に対してハイパスフィルターなどを使って高域の輝度変化成分93を抽出するようにしてもよい。
この方法を採った場合、ハイパスフィルターの特性上、このハイパススフィルターを通るHDR映像信号がニー補正ポイントKEEを通過した直後にHDR映像信号の輝度変化とは無関係の信号94、95が発生する場合がある。この信号94、95を除去するため、コントラスト強調信号生成部15において、ゲインがかけられる際に、高輝度部の映像信号92の抽出期間以外のゲインを下げるようにすることが望ましい。
<変形例2>
HDRの映像信号から少なくとも高輝度部分の高域の輝度変化成分の情報信号を生成する他の方法としては、HDRの映像信号からローパスフィルターを使って低域の輝度変化成分を抽出し、HDRの映像信号から当該低域の輝度変化成分を減算する方法がある。
<変形例3>
HDRの映像信号からSDRの映像信号を生成するほかの方法としては、HDRの映像信号に対してニー補正に代えて、高輝度になるほどコントラストの圧縮率が高くなるLog特性を付与する方法などがある。
<変形例4>
ここまでの実施形態では、背景の部分の輝度と、ボールなどの前景の部分の輝度が同じで、色に違いがある場合、輝度のコントラストに差が得られないため、有意なコントラスト強調信号が得られない。
そこで、カラーの映像信号から画素単位あるいはn画素単位で複数の計算方法により複数の輝度信号を生成し、画素単位あるいはn画素単位で絶対値の最も大きい方の輝度信号を選択して、高域の輝度変化成分の情報信号を生成することとしてもよい。
コントラスト強調信号生成部15は、例えば、下記の一般的な輝度演算式と下記の他の輝度演算式によって2種類の輝度信号Y、Y'を生成する。
Y=0.299R+0.587G+0.114B
Y'=0.333R+0.333G+0.333B
コントラスト強調信号生成部15は、2種類の輝度信号Y、Y'のうち、絶対値の大きい方を採用する。
これにより、有意なコントラスト強調信号が得られる確率が高くなり、高輝度部のコントラストが強調されたSDRの映像信号が得られることがより保証される。
<変形例5>
ニー補正により得られたSDRの映像信号は、ニー補正された部分がSDRの上限あるいは略上限に達している。このため、コントラスト強調信号の正の値の部分よりも負の値がコントラストを実質的に発生させるように作用する。
そこで、コントラスト強調信号生成部15は、HDR映像信号から抽出した高域の輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成されてもよい。具体的には、高域の輝度変化成分の値が負であるときに用いられる第1のゲインに対して、高域の輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするようにすればよい。
これにより、ニー補正されたSDR映像信号に、コントラスト強調信号を有益な形で加えることができる。
<変形例6>
[ブロック繋ぎ機能に関するユーザ設定について]
以上説明した撮像装置1では、上記のコントラスト強調機能に関して、ユーザによる次のような設定が可能である。
1.コントラスト強調機能のオン/オフ
2.ゲイン値
3.輝度計算方法
コントラスト強調機能のオン/オフは、上述したコントラスト強調機能のオン/オフを切り替える設定である。
ゲイン値は、HDRの映像信号から抽出された高域の輝度変化成分に対して乗じられるゲイン値の設定である。
輝度計算方法は、輝度の計算に用いる輝度計算方法の設定である。輝度計算方法は、例えば、上述しように、一般的な輝度演算式と特殊な輝度演算式との間で選択可能である。
ダイヤル方向は、ゲインの設定に割り当てられた操作子(ダイヤル)の回転操作方向(時計回り方向、反時計回り方向)に対するゲイン値の増減の向きの設定である。
図12は、上記ユーザ設定のためのUI(User Interface)画面を示す図である。
このUIに関して、例えば、撮像装置1のVF17や外部ディスプレイなどがUI表示部として用いられ、撮像装置1に設けられた特定の操作ボタンなどが設定入力部として用いられる。
UI画面では、設定項目毎に割り当てる操作子を複数の操作子群のなかからユーザが選択することが可能とされる。設定項目に対して割り当てが可能な操作子群は、撮像装置1の操作入力部19に設けられた特定のボタン群およびダイヤル群などである。
図13は撮像装置1のコントラスト強調機能に関する操作子を示す側面図である。同図に示すように、撮像装置1は、コントラスト強調機能に関する各設定項目の割り当てが可能な操作子群として、複数のボタンB1、B2、B3、B4、B5と複数のダイヤルD1、D2、D3、D4を備える。
なお、この図では操作子群が撮像装置1のボディ1Aの側面に設けられる場合を示したが、撮像装置1の上面など、他の面に設けられたものであってよいし、VF17に設けられてもよい。
次に、図12に示したUI画面で、ユーザが、撮像装置1の操作子群において、任意の設定項目に対して任意の操作子を割り当てる方法を説明する。
なお、図12に示したUI画面には、設定項目毎に操作子の初期値が設定されている場合を想定している。例えば、コントラスト強調機能のオン/オフの設定にはボタンB1の操作子が、ゲイン値にはダイヤルD1の操作子が、輝度計算方法の設定にはダイヤルD3の操作子が、ダイヤル方向の設定にはボタンB3が各々初期値として設定される。
図14は図12に示したUI画面で、ゲイン値の設定に割り当てられた操作子をダイヤルD1からダイヤルD3に変更する場合の操作方法を示す図である。
UI画面においてユーザは、操作子を変更したい設定項目を、例えば操作入力部19に設けられたカーソルキー20などを操作して選択する。例えば、カーソルキー20の下キー20dが1回押されると、操作子の変更対象となる設定項目は、コントラスト強調機能のオン/オフからゲイン値に移動する。次に、カーソルキー20の右キー20rが一回押されると、ブロックサイズの設定項目に対する操作子の表示がダイヤルD1からダイヤルD3に変更される。これにより、ゲイン値の設定項目に対する操作子の割り当てがダイヤルD1からダイヤルD3に変更される。なお、カーソルキー20の右キー20rが二回押された場合には、ゲイン値の設定項目に対する操作子の表示がダイヤルD1からダイヤルD4に変更される。これにより、横のブロックサイズの設定項目に対する操作子の割り当てがダイヤルD1からダイヤルD4に変更される。同様の要領により、他の設定項目に対する操作子の割り当ても変更することができる。
図15は、複数のダイヤルD1-D4間の切替順を示す図である。このように、設定変更前のダイヤルがダイヤルD1である場合、カーソルキー20の右キー20rが一回押されるたびに、選択されたダイヤルはダイヤルD2、ダイヤルD3、ダイヤルD4、ダイヤルD1の順にスイッチされる。また、図16に示すように、ボタンB1-B5についても同様のルールで切り替えられるようになっている。
なお、ゲイン値の設定項目に対する操作子の割り当てがダイヤルD1からダイヤルD3に変更された場合、輝度計算方法の設定に割り当てられた操作子と重複する。このように複数の設定項目に対する操作子の重複が発生した場合、図17に示すように、以前よりその操作子が割り当てられた側の操作項目(例えば輝度計算方法の設定項目)に対する操作子の設定変更を促すように、その操作項目が反転表示などによって判別可能な状態で表示される。これによりユーザは、操作子の重複設定を避けるように、操作子の割り当てを変更することができる。
[設定変更に伴うVF映像生成へのリアルタイム反映]
ユーザは、撮影時に、コントラスト強調機能に関する各設定項目に割り当てられた各々の操作子を操作することによって、VF17や外部ディスプレイなどに表示させる第2の映像信号のコントラストの強調具合をリアルタイムに変化させることができる。これにより、視認によるフォーカス調整に最適な設定値をユーザが選定することができる。
すなわち、制御ユニット18は、操作入力部19においてコントラスト強調機能に関する各設定項目に個別に割り当てられた各操作子の状態をそれぞれ検出する。制御ユニット18は、検出した状態に対応する各設定値を生成し、コントラスト強調信号生成部15に設定する。コントラスト強調信号生成部15は、制御ユニット18により与えられた各設定値をもとにコントラスト強調信号を生成し、VF信号処理部16に出力する。
<第2の実施形態>
次に、本技術に係る第2の実施形態を説明する。
図18は第2の実施形態の撮像装置1Aの構成を示すブロック図である。
同図に示すように、この撮像装置1Aは、光学ブロック11Aと、撮像部12Aと、プリプロセス部131AおよびSDRプロセス部132Aを有する本線映像信号処理部13Aと、SDR映像出力部14Aと、コントラスト強調信号生成部15Aと、VF映像出力部16Aと、VF17とを有する。
撮像部12Aは、撮像装置1Aの出力映像のダイナミックレンジよりも広いダイナミックレンジの画素信号を出力する。例えば、撮像装置1Aの出力映像のダイナミックレンジをSDRとしてこれを100%とすると、撮像素子12Aから出力される画素信号のダイナミックレンジは例えば600%から1300%などの範囲であってよい。
プリプロセス部131Aは、撮像部12Aより供給された画素信号に対して、例えば、欠陥補正、ノイズ除去、レンズ収差補正などの各種補正、ホワイトバランス処理、マスターゲインによる増幅などの画像化のための前処理を行う。
SDRプロセス部132Aは、プリプロセス部131Aより出力された映像信号からSDRの映像信号を生成する。
コントラスト強調信号生成部15Aは、本線映像信号処理部13A内のプリプロセス部131Aより出力された画素信号から少なくとも高輝度部分の高域の輝度変化成分を抽出し、抽出した輝度変化成分に所定のゲインを乗じた信号をコントラスト強調信号として生成する。生成されたコントラスト強調信号はVF映像出力部16Aに供給される。
VF映像出力部16Aは、SDRプロセス部132Aによって得られたSDRの映像信号にコントラスト強調信号生成部15Aによって生成されたコントラスト強調信号を加算することによって、コントラストの強調されたSDRの映像信号を生成し、キャラクタおよびマーカーの合成などの他の信号処理を行ってVF映像信号としてVF17Aに供給する。
図19は撮像装置1Aのより詳細な構成を示すブロック図である。
同図に示すように、SDRプロセス部132Aは、マトリクス処理部133A、ディテール処理部134A、ニー処理部135A、およびSDRガンマ処理部136Aを有する。
マトリクス処理部133Aは、プリプロセス部131Aより出力された映像信号に対するデベイヤー処理、リニアマトリクス処理などを行ってカラー画像データを生成する。
ディテール処理部134Aは、カラー画像データに対するディテールの処理を行う。
ニー補正部135Aは、ディテールの処理後のカラー画像データに対するニー(KNEE)補正を行うことによって、高輝度部の輝度値を抑制したSDRの映像信号を生成する。
SDRガンマ処理部136Aは、SDRの映像信号に対するディスプレイ用のガンマ処理を行う。
SDRプロセス部132Aによって生成されたSDRの映像信号はSDR映像出力部14Aに供給されるとともにVF映像出力部16Aに供給される。
SDR映像出力部14Aは加算器141Aとフォーマッター142Aを有する。加算器141AはSDRプロセス部132Aによって生成されたSDRの映像信号にコントラスト強調信号生成部15Aによって生成されたコントラスト強調信号を加算してコントラストの強調されたSDR映像信号を生成し、フォーマッター142Aに供給する。フォーマッター142Aはコントラストの強調されたSDR映像信号を伝送フォーマットに変換し、カメラケーブルを通じてCCU(カメラ制御ユニット)などの外部の映像機器やディスプレイに出力したりする処理を行う。
CCUでは、撮像装置1Aよりカメラケーブルを通じて伝送されたSDRの映像信号などを受信し、例えば、伝送に適した形式のデジタル映像信号、アナログ映像信号に変換して伝送する処理などが行われる。
VF映像出力部16Aは、加算器161Aとフォーマッター162Aを有する。加算器161AはSDRプロセス部132Aによって生成されたSDRの映像信号にコントラスト強調信号生成部15Aによって生成されたコントラスト強調信号を加算してコントラストの強調されたSDR映像信号を生成し、フォーマッター162Aに供給する。フォーマッター162Aはコントラストの強調されたSDR映像信号をVF用の伝送フォーマットに変換してVF17Aに供給する。
以上のように、本実施形態の撮像装置1Aによれば、撮像部12Aからの画素信号に対して補正などの前処理を行うプリプロセス部131Aの出力からコントラスト強調信号を生成して、高輝度部分のコントラストが強調されたVF出力用のSDR映像を得ることができる。
<第3の実施形態>
次に、本技術に係る第3の実施形態を説明する。
図20は第3の実施形態の撮像装置1Bの構成を示すブロック図である。
同図に示すように、この撮像装置1Bは、光学ブロック11Bと、撮像部12Bと、プリプロセス部131B、SDRプロセス部132BおよびHDRプロセス部191Bを有する本線映像信号処理部13Bと、SDR映像出力部14Bと、コントラスト強調信号生成部15Bと、VF映像出力部16Bと、VF17Bと、HDR映像出力部18Bとを有する。すなわち、本実施形態の撮像装置1Bは、第2の実施形態の撮像装置1Aに、主に、プリプロセス部131Bより出力された映像信号からHDR映像信号を生成するHDRプロセス部191Bと、HDRプロセス部191Bによって得られたHDR映像信号を伝送するHDR映像出力部18Bを付加したものである。
図21は第3の実施形態の撮像装置1Bのより詳細な構成を示すブロック図である。
ここでは、第2の実施形態の撮像装置1Aの構成との相違点を主に説明する。
HDRプロセス部191Bは、マトリクス処理部192B、ディテール処理部193B、ニー処理部194BおよびOETF部195Bを有する。
マトリクス処理部192Bは、プリプロセス部131Bより出力された映像信号に対するデベイヤー処理、リニアマトリクス処理などを行ってカラー画像データを生成する。
ディテール処理部193Bは、カラー画像データのディテールの処理を行う。
ニー処理部194Bは、ディテールの処理後のカラー画像データに対するニー(KNEE)補正を行う。
OETF部195Bは、カラー画像データに対してOETF(Optical-Electro Transfer Function:光電気伝達関数)により階調圧縮を行う。
なお、SDRプロセス部132Bは、マトリクス処理部133Bの前段にSDRゲイン調整部138Bが追加される点で第2の実施形態の撮像装置1AのSDRプロセス部132Aと異なり、その他の構成は同じである。SDRゲイン調整部138Bは、HDRの映像のダイナミックレンジに対するSDRの映像のダイナミックレンジの相関を設定するリレイティブゲインをもとに、プリプロセス部131Bのマスターゲインに対するSDRゲイン調整部138Bのマスターゲインの比を調整する。SDRゲイン調整部138Bのマスターゲインによって増幅された映像信号はマトリクス処理部133Bに供給されてカラー画像化される。以降は、第2の実施形態の撮像装置1Aと同様に、ディテール処理部134B、ニー処理部135BおよびSDRガンマ処理部136BによってSDRの映像信号が生成され、生成されたSDRの映像信号はSDR映像出力部14Bに供給されるとともにVF映像出力部16Bに供給される。
SDR映像出力部14B、VF映像出力部16Bおよびコントラスト強調信号生成部15Bは第2の実施形態の撮像装置1Aと同じであるため、ここでの重複する説明は省略する。
以上のように、本実施形態の撮像装置1Bによれば、高輝度部分のコントラストが強調されたVF出力用および本線出力用のSDR映像に加えて、本線出力用のHDR映像を得ることができる。
<第4の実施形態>
[撮像システム]
図22は本技術に係る第4の実施形態の撮像システムの構成を示すブック図である。
この撮像システム25は、撮像装置1CとCCU(カメラ制御ユニット)23とで構成される。撮像装置1Cは、光学ブロック11Cと、撮像部12Cと、プリプロセス部131C、伝送部21Cを有する。撮像装置1Cの伝送部21Cは、プリプロセス部131Cで得た画素信号をカメラケーブルなどの伝送路22を通じてCCU23に伝送する。
CCU23は、伝送部24Cと、SDRプロセス部132Cと、HDRプロセス部191Cと、SDR映像出力部14Cと、コントラスト強調信号生成部15Cと、VF映像出力部16Cと、VF17Cとを有する。CCU23は、伝送路22を通じて撮像装置1Cより伝送された画素信号を伝送部24Cに受信し、SDRプロセス部132CとHDRプロセス部191Cとコントラスト強調信号生成部15Cに供給する。
このように撮像装置1CとCCU(カメラ制御ユニット)23とで構成される撮像システム25においても、高輝度部分のコントラストが強調されたVF出力用のSDR映像を得ることができる。
次に、コントラスト強調信号の生成方法について説明する。
[コントラスト強調信号の生成方法1]
図23は、コントラスト強調信号の生成方法1として、画像の輝度信号Yからコントラスト強調信号を生成する方法を示す図である。
コントラスト強調信号生成部151は、プリプロセス部より出力されたRGB画素信号71から輝度信号Yを生成し、この輝度信号Yからコントラスト成分を抽出する。コントラスト強調信号生成部151は、コントラスト成分信号にゲインGm、Gvfを乗じることによってSDR本線用のコントラスト強調信号およびVF用のコントラスト強調信号をそれぞれ生成する。SDR本線用のコントラスト強調信号は、SDRプロセス部132Aによって生成されたSDR映像信号に加算されることによって、SDR本線用のSDR映像信号72となる。また、VF用のコントラスト強調信号は、SDRプロセス部132Aによって生成されたSDR映像信号に加算されることによって、VF用のSDR映像信号73となる。
[コントラスト強調信号の生成方法2]
図24は、コントラスト強調信号の生成方法2として、画像のRGB毎の値からコントラスト強調信号を生成する方法を示す図である。
コントラスト強調信号生成部152は、プリプロセス部より出力されたRGB画素信号71のRGB毎の値からRGB毎のコントラスト成分を抽出する。コントラスト強調信号生成部152は、RGB毎のコントラスト成分信号にゲインGm、Gvfを乗じることによってSDR本線用のRGB毎のコントラスト強調信号およびVF用のRGB毎のコントラスト強調信号をそれぞれ生成する。
SDR本線用のRGB毎のコントラスト強調信号は、SDRプロセス部132Aによって生成されたSDR映像信号にRGB毎に加算されることによって、SDR本線用のSDR映像信号72となる。また、VF用のRGB毎のコントラスト強調信号は、SDRプロセス部132Aによって生成されたSDR映像信号にRGB毎の加算されることによって、VF用のSDR映像信号73となる。
[コントラスト強調信号の生成方法3]
図25は、画像の輝度信号Yからコントラスト強調信号を生成する方法と画像のRGB毎の値からコントラスト強調信号を生成する方法との切り替えを可能としたものである。
コントラスト強調信号生成部153は、例えば、ユーザにより与えられた選択命令に従って、スイッチSW1、SW2、SW3をy側とc側との間で一斉に切り替える。
スイッチSW1は、Rの画素の値から生成されるコントラスト成分信号と輝度信号Yから生成されるコントラスト成分信号とを切り替えるスイッチであり、c側が選択されているときはRの画素の値から生成されるコントラスト成分信号を選択し、y側が選択されているときは輝度信号Yから生成されるコントラスト成分信号を選択する。
スイッチSW2は、Gの画素の値から生成されるコントラスト成分信号と輝度信号Yから生成されるコントラスト成分信号とを切り替えるスイッチであり、c側が選択されているときはGの画素の値から生成されるコントラスト成分信号を選択し、y側が選択されているときは輝度信号Yから生成されるコントラスト成分信号を選択する。
スイッチSW3は、Bの画素の値から生成されるコントラスト成分信号と輝度信号Yから生成されるコントラスト成分信号とを切り替えるスイッチであり、c側が選択されているときはBの画素の値から生成されるコントラスト成分信号を選択し、y側が選択されているときは輝度信号Yから生成されるコントラスト成分信号を選択する。
スイッチSW1、SW2、SW3がともにy側に選択されている場合には画像の輝度信号Yからコントラスト強調信号が生成され、スイッチSW1、SW2、SW3がともにc側に選択されている場合には画像のRGB毎の値からコントラスト強調信号が生成される。これにより、ユーザは、画像の輝度信号Yからコントラスト強調信号を生成する場合と画像のRGB毎の値からコントラスト強調信号を生成する場合とで、SDR映像のコントラストがより強調される方法を適宜選択することができる。
図26は、輝度信号Yのコントラスト強調信号を用いてコントラストが強調されたSDR映像と、画像のRGB毎の値から生成されたコントラスト強調信号を用いてコントラストが強調されたSDR映像のある画素の値をRGB毎に示した図である。横軸は時間軸、縦軸は輝度である。輝度情報Yのコントラスト強調信号を用いて得られたSDR映像の、高輝度領域の信号の諧調の再現性は良いが、RGBそれぞれの高輝度領域の信号レベルの差が小さくなり、色味の情報が一部失われる可能性がある。一方、画像のRGB毎の値のコントラスト強調信号を用いて生成されたSDR映像では、元信号に存在する諧調に加えて、RGBの高輝度領域の信号レベルの差も再現されることで色味情報も保存される。
[コントラスト強調信号の生成方法4]
図27は、画像の輝度信号Yからコントラスト強調信号を生成する方法と画像のRGB毎の値からコントラスト強調信号を生成する方法の切り替えを可能とした場合の変形例を示す図である。
コントラスト強調信号生成部154は、例えば、ユーザにより与えられた選択命令に従って、スイッチSW4、SW5、SW6を一斉にy側とc側との間で切り替える。
スイッチSW4は、Rの画素の値から生成されるコントラスト成分信号と輝度信号から生成されるコントラスト成分信号とを切り替えるスイッチであり、c側が選択されているときはRの画素の値から生成されるコントラスト成分信号を選択し、y側が選択されているときは輝度信号から生成されるコントラスト成分信号を選択する。
スイッチSW5は、Bの画素の値から生成されるコントラスト成分信号と輝度信号から生成されるコントラスト成分信号とを切り替えるスイッチであり、c側が選択されているときはBの画素の値から生成されるコントラスト成分信号を選択し、y側が選択されているときは輝度信号から生成されるコントラスト成分信号を選択する。
スイッチSW6は、Bの画素の値と輝度信号との間でコントラスト成分信号を生成する情報を切り替えるスイッチであり、c側が選択されているときはGの画素の値が選択され、y側が選択されているときは輝度信号が選択される。
スイッチSW4、SW5、SW6がy側に選択されている場合には画像の輝度信号Yからコントラスト強調信号が生成され、スイッチSW4、SW5、SW6がc側に選択されている場合には画像のRGB毎の値から生成されたRGB毎のコントラスト強調信号が得られる。したがって、この方法の場合も、ユーザは、画像の輝度信号Yからコントラスト強調信号を生成する場合と画像のRGB毎の値からコントラスト強調信号を生成する場合とで、SDR映像のコントラストがより強調される方法を適宜選択することができる。
<<応用例1>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図B1は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図B1を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図B1では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A~5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A~5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A~5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A~5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図B1では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図B2は、集中操作パネル5111における操作画面の表示例を示す図である。図B2では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図B2を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図B3は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図B1に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図B3では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a~5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a~5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図B1に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図B3では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a~5147cにはアクチュエータが設けられており、関節部5147a~5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a~5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a~5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a~5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図B4を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図B4は、図B3に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図B4を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、例えばシーリングカメラ5187及び術場カメラ5189などにより撮像された患者の体腔内の術部の画像および術場の画像を、CCU5153内の画像処理部5175が処理して表示装置5103A~5103Dに表示させる系などに応用することができる。すなわち、CCU5153内の画像処理部5175に本開示に係る技術における第1の映像信号処理部および第2の映像信号処理部を応用することによって、コントラストの強調された術部の画像および術場の画像が得られ、観察精度の向上を図ることができ、手術効率および手術精度の向上を図ることができる。
<<応用例2>>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図1021は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図1021に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12030に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図1021の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図1022は、撮像部12031の設置位置の例を示す図である。
図1022では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図1022には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
本開示に係る技術は、以上説明した車両制御システムの構成のうち、撮像部12101、12102、12103、12104、12105によって撮像された画像をマイクロコンピュータ12051が処理して表示部12062などに表示する系などに応用することができる。すなわち、マイクロコンピュータ12051による画像処理に本開示に係る技術における第1の映像信号処理部および第2の映像信号処理部を応用することによって、コントラストの強調された車外あるいは車外の画像を表示部12062に表示させることができ、観察精度の向上を図ることができ、車両運転の安全性の向上を図ることができる。
なお、本技術は以下のような構成もとることができる。
(1)
撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する第2の映像信号処理部と

を具備する撮像装置。
(2)前記(1)に記載の撮像装置であって、
前記輝度領域は、所定の閾値を越える高輝度部分の領域である
撮像装置
(3)前記(1)または(2)に記載の撮像装置であって、
前記第2の映像信号を表示部に出力する第1の出力部
をさらに具備する撮像装置。
(4)前記(1)ないし(3)のいずれかに記載の撮像装置であって、
前記第1の映像信号を外部装置に出力する第2の出力部
をさらに具備する撮像装置。
(5)前記(1)ないし(4)のいずれかに記載の撮像装置であって、
前記第2の映像信号を出力するビューファインダー
をさらに具備する撮像装置。
(6)前記(1)ないし(5)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号に対してニー補正を行って前記輝度抑制映像信号を生成するように構成された
撮像装置。
(7)前記(1)ないし(6)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号からハイパスフィルターを使って前記高域の輝度変化成分を抽出するように構成された
撮像装置。
(8)前記(1)ないし(7)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記抽出された高域の輝度変化成分に所定のゲインを乗じることによって、前記輝度変化成分の情報信号を生成するように構成された
撮像装置。
(9)前記(1)ないし(8)のいずれかに記載の撮像装置であって、
前記第1の映像信号がカラー映像信号であり、
前記第2の映像信号処理部は、前記カラー映像信号から複数の演算式により複数の前記輝度信号を生成し、絶対値の最も大きい前記輝度信号を選択して前記高域の輝度変化成分を生成するように構成される
撮像装置。
(10)前記(1)ないし(9)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記高域の輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成され、前記高域の輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記高域の輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするように構成される
撮像装置。
(11)前記(1)ないし(10)のいずれかに記載の撮像装置であって、
前記ゲインのユーザによる第1の設定情報を受け付ける第1の操作子と前記演算式のユーザによる第2の設定情報を受け付ける第2の操作子を含む複数の操作子群を有する操作入力部と、
撮影時、前記第1の操作子および前記第2の操作子の状態を検出し、前記第1の設定情報および前記第2の設定情報の少なくとも1つを前記第2の映像信号処理部の動作にリアルタイムで反映させる制御部と
をさらに具備する撮像装置。
(12)前記(11)に記載の撮像装置であって、
前記設定情報は前記ゲインの情報または演算式の情報である
撮像装置。
(13)前記(11)または(12)に記載の撮像装置であって、
前記少なくとも1つ以上の操作子に対して、前記設定情報の種類の割り当てを設定可能なユーザインタフェースをさらに具備する
撮像装置。
(14)前記(1)ないし(13)のいずれかに記載の撮像装置であって、
前記第1の映像信号処理部が、
前記撮像部により得られた画素信号の補正を含む前処理を行って前記第1の映像信号を出力する補正回路である
撮像装置。
(15)前記(1)ないし(14)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する

撮像装置。
(16)前記(1)ないし(14)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成する
撮像装置。
(17)前記(1)ないし(14)のいずれかに記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成するか、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成するかを切り替え可能に構成された
撮像装置。
(18)撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する第2の映像信号処理部と


を具備する映像信号処理装置。
(19)前記(18)に記載の映像信号処理装置であって、
前記輝度領域は、所定の閾値を越える高輝度部分の領域である
映像信号処理装置
(20)前記(18)または(19)に記載の映像信号処理装置であって、
前記第2の映像信号を表示部に出力する第1の出力部
をさらに具備する映像信号処理装置。
(21)前記(18)ないし(20)のいずれかに記載の映像信号処理装置であって、
前記第1の映像信号を外部装置に出力する第2の出力部
をさらに具備する映像信号処理装置。
(22)前記(18)ないし(21)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号を出力するビューファインダー
をさらに具備する映像信号処理装置。
(23)前記(18)ないし(22)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号に対してニー補正を行って前記輝度抑制映像信号を生成するように構成された
映像信号処理装置。
(24)前記(18)ないし(23)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号からハイパスフィルターを使って前記高域の輝度変化成分を抽出するように構成された
映像信号処理装置。
(25)前記(18)ないし(24)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記抽出された高域の輝度変化成分に所定のゲインを乗じることによって、前記輝度変化成分の情報信号を生成するように構成された
映像信号処理装置。
(26)前記(18)ないし(25)のいずれかに記載の映像信号処理装置であって、
前記第1の映像信号がカラー映像信号であり、
前記第2の映像信号処理部は、前記カラー映像信号から複数の演算式により複数の前記輝度信号を生成し、絶対値の最も大きい前記輝度信号を選択して前記高域の輝度変化成分を生成するように構成される
映像信号処理装置。
(27)前記(18)ないし(26)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記高域の輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成され、前記高域の輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記高域の輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするように構成される
映像信号処理装置。
(28)前記(18)ないし(27)のいずれかに記載の映像信号処理装置であって、
前記ゲインのユーザによる第1の設定情報を受け付ける第1の操作子と前記演算式のユーザによる第2の設定情報を受け付ける第2の操作子を含む複数の操作子群を有する操作入力部と、
撮影時、前記第1の操作子および前記第2の操作子の状態を検出し、前記第1の設定情報および前記第2の設定情報の少なくとも1つを前記第2の映像信号処理部の動作にリアルタイムで反映させる制御部と
をさらに具備する映像信号処理装置。
(29)前記(28)に記載の映像信号処理装置であって、
前記設定情報は前記ゲインの情報または演算式の情報である
映像信号処理装置。
(30)前記(28)または(29)に記載の映像信号処理装置であって、
前記少なくとも1つ以上の操作子に対して、前記設定情報の種類の割り当てを設定可能なユーザインタフェースをさらに具備する
映像信号処理装置。
(31)前記(18)ないし(30)のいずれかに記載の映像信号処理装置であって、
前記第1の映像信号処理部が、
前記撮像部により得られた画素信号の補正を含む前処理を行って前記第1の映像信号を出力する補正回路である
映像信号処理装置。
(32)前記(18)ないし(31)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する

映像信号処理装置。
(33)前記(18)ないし(31)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成する
映像信号処理装置。
(34)前記(18)ないし(31)のいずれかに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成するか、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成するかを切り替え可能に構成された
映像信号処理装置。
(35)第1の映像信号処理部が、撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成し、
第2の映像信号処理部が、前記第1の映像信号から所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する
映像信号処理方法。
(36)前記(35)に記載の映像信号処理方法であって、
前記輝度領域は、所定の閾値を越える高輝度部分の領域である
映像信号処理方法
(37)前記(35)または(36)に記載の映像信号処理方法であって、
第1の出力部が、前記第2の映像信号を表示部に出力する
映像信号処理方法。
(38)前記(35)ないし(37)のいずれかに記載の映像信号処理方法であって、
第2の出力部が、前記第1の映像信号を外部装置に出力する
映像信号処理方法。
(39)前記(35)ないし(38)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号をビューファインダーに表示させる
映像信号処理方法。
(40)前記(35)ないし(39)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号に対してニー補正を行って前記輝度抑制映像信号を生成する
映像信号処理方法。
(41)前記(35)ないし(40)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号からハイパスフィルターを使って前記高域の輝度変化成分を抽出する
映像信号処理方法。
(42)前記(35)ないし(41)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記抽出された高域の輝度変化成分に所定のゲインを乗じることによって、前記輝度変化成分の情報信号を生成する
映像信号処理方法。
(43)前記(35)ないし(42)のいずれかに記載の映像信号処理方法であって、
前記第1の映像信号がカラー映像信号であり、
前記第2の映像信号処理部は、前記カラー映像信号から複数の演算式により複数の前記輝度信号を生成し、絶対値の最も大きい前記輝度信号を選択して前記高域の輝度変化成分を生成する
映像信号処理方法。
(44)前記(35)ないし(43)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記高域の輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じ、前記高域の輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記高域の輝度変化成分の値が正であるときに用いられる第2のゲインを小さくする
映像信号処理方法。
(45)前記(35)ないし(44)のいずれかに記載の映像信号処理方法であって、
制御部が、撮影時、前記ゲインのユーザによる第1の設定情報を受け付ける第1の操作子と前記演算式のユーザによる第2の設定情報を受け付ける第2の操作子の状態を検出し、前記第1の設定情報および前記第2の設定情報の少なくとも1つを前記第2の映像信号処理部の動作にリアルタイムで反映させる
映像信号処理方法。
(46)前記(45)に記載の映像信号処理方法であって、
前記設定情報は前記ゲインの情報または演算式の情報である
映像信号処理方法。
(47)前記(45)または(46)に記載の映像信号処理方法であって、
前記少なくとも1つ以上の操作子に対して、前記設定情報の種類の割り当てを設定する
映像信号処理方法。
(48)前記(35)ないし(47)のいずれかに記載の映像信号処理方法であって、
前記第1の映像信号処理部が、
前記撮像部により得られた画素信号の補正を含む前処理を行って前記第1の映像信号を出力する
映像信号処理方法。
(49)前記(35)ないし(48)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成する

映像信号処理方法。
(50)前記(35)ないし(48)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成する
映像信号処理方法。
(51)前記(35)ないし(48)のいずれかに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号の輝度信号から、所定の輝度領域における輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とに基づいて第2の映像信号を生成するか、前記第1の映像信号の色成分毎の所定の輝度領域における輝度変化成分の情報信号を生成し、当該色成分毎の情報信号と前記第2のダイナミックレンジの色成分毎の輝度抑制映像信号とに基づいて前記第2の映像信号を生成するかを切り替える
映像信号処理方法。
1…映像信号処理装置
11…光学ブロック
12…撮像部
13…本線映像信号処理部
14…伝送部
15…コントラスト強調信号生成部
16…VF信号処理部
17…VF
18…制御ユニット
19…操作入力部

Claims (3)

  1. 撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、
    前記第1の映像信号から所定の閾値を越える高輝度部分の領域である所定の輝度領域における輝度変化成分に所定のゲインを乗じて前記輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とを加算して第2の映像信号を生成する第2の映像信号処理部とを具備し、
    前記第2の映像信号処理部は、前記輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成され、前記輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするように構成される
    撮像装置。
  2. 撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成する第1の映像信号処理部と、
    前記第1の映像信号から所定の閾値を越える高輝度部分の領域である所定の輝度領域における輝度変化成分に所定のゲインを乗じて前記輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とを加算して第2の映像信号を生成する第2の映像信号処理部とを具備し、
    前記第2の映像信号処理部は、前記輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じるように構成され、前記輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記輝度変化成分の値が正であるときに用いられる第2のゲインを小さくするように構成される
    映像信号処理装置。
  3. 第1の映像信号処理部が、撮像部により得られた画素信号から第1のダイナミックレンジの第1の映像信号を生成し、
    第2の映像信号処理部が、前記第1の映像信号から所定の閾値を越える高輝度部分の領域である所定の輝度領域における輝度変化成分に所定のゲインを乗じて前記輝度変化成分の情報信号を生成し、前記第1の映像信号から前記第1のダイナミックレンジより狭い第2のダイナミックレンジの輝度抑制映像信号を生成し、当該輝度抑制映像信号と前記輝度変化成分の情報信号とを加算して第2の映像信号を生成し、
    前記第2の映像信号処理部が、前記輝度変化成分の値が正であるときと負であるときで異なるゲインを乗じ、前記輝度変化成分の値が負であるときに用いられる第1のゲインに対して、前記輝度変化成分の値が正であるときに用いられる第2のゲインを小さくする
    映像信号処理方法。
JP2019506264A 2017-03-15 2018-03-15 撮像装置、映像信号処理装置および映像信号処理方法 Active JP7196833B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017050652 2017-03-15
JP2017050652 2017-03-15
PCT/JP2018/010238 WO2018169003A1 (ja) 2017-03-15 2018-03-15 撮像装置、映像信号処理装置および映像信号処理方法

Publications (2)

Publication Number Publication Date
JPWO2018169003A1 JPWO2018169003A1 (ja) 2020-01-23
JP7196833B2 true JP7196833B2 (ja) 2022-12-27

Family

ID=63523147

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019506264A Active JP7196833B2 (ja) 2017-03-15 2018-03-15 撮像装置、映像信号処理装置および映像信号処理方法

Country Status (5)

Country Link
US (1) US10965879B2 (ja)
EP (1) EP3598733B1 (ja)
JP (1) JP7196833B2 (ja)
CN (1) CN110383818A (ja)
WO (1) WO2018169003A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6852411B2 (ja) * 2017-01-19 2021-03-31 ソニー株式会社 映像信号処理装置、映像信号処理方法およびプログラム
JP7329932B2 (ja) * 2019-02-27 2023-08-21 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7263053B2 (ja) 2019-02-28 2023-04-24 キヤノン株式会社 撮像装置、画像処理装置、それらの制御方法、プログラム
JP7446847B2 (ja) 2020-02-18 2024-03-11 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
EP3902244B1 (en) * 2020-04-23 2022-03-23 Axis AB Controlling a pan-tilt-zoom camera
JPWO2022004518A1 (ja) * 2020-06-30 2022-01-06
WO2023170889A1 (ja) * 2022-03-10 2023-09-14 オリンパス株式会社 画像処理装置、エネルギー処置具、処置システムおよび画像処理方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007108317A1 (ja) 2006-03-20 2007-09-27 Sony Corporation 画像信号処理装置及び画像信号処理方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5638138A (en) * 1994-06-09 1997-06-10 Hickman; Charles B. Method for electronic image dynamic range and contrast modification
JP3629875B2 (ja) * 1997-01-31 2005-03-16 株式会社島津製作所 X線画像デジタル処理装置
JPH10285448A (ja) * 1997-04-04 1998-10-23 Sony Corp 撮像装置及び撮像装置の遠隔制御装置
JP2003230022A (ja) * 2002-02-01 2003-08-15 Sony Corp 画像処理装置および方法、並びに記録媒体
JP4260707B2 (ja) 2004-08-05 2009-04-30 三菱電機株式会社 撮像装置
US8014445B2 (en) * 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
WO2011004222A1 (en) 2009-07-10 2011-01-13 Kamil Bal Pedicular screw system
JP6136086B2 (ja) * 2011-12-28 2017-05-31 ソニー株式会社 撮像装置および画像処理装置
JP6017201B2 (ja) * 2012-07-04 2016-10-26 オリンパス株式会社 撮影機器
US9148580B2 (en) * 2013-07-16 2015-09-29 Texas Instruments Incorporated Transforming wide dynamic range images to reduced dynamic range images
JP6202330B2 (ja) * 2013-10-15 2017-09-27 ソニー株式会社 復号装置および復号方法、並びに符号化装置および符号化方法
JP6233424B2 (ja) * 2016-01-05 2017-11-22 ソニー株式会社 撮像システムおよび撮像方法
JP6237797B2 (ja) 2016-01-05 2017-11-29 ソニー株式会社 ビデオシステム、ビデオ処理方法、プログラム、およびビデオコンバーター
JP6460014B2 (ja) 2016-03-04 2019-01-30 ソニー株式会社 信号処理装置、信号処理方法およびカメラシステム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007108317A1 (ja) 2006-03-20 2007-09-27 Sony Corporation 画像信号処理装置及び画像信号処理方法

Also Published As

Publication number Publication date
EP3598733A4 (en) 2020-03-25
EP3598733B1 (en) 2021-10-20
US10965879B2 (en) 2021-03-30
CN110383818A (zh) 2019-10-25
US20200007735A1 (en) 2020-01-02
WO2018169003A1 (ja) 2018-09-20
JPWO2018169003A1 (ja) 2020-01-23
EP3598733A1 (en) 2020-01-22

Similar Documents

Publication Publication Date Title
JP7196833B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
US10958847B2 (en) Imaging device, image processing method, and image processing system
WO2018123613A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7095693B2 (ja) 医療用観察システム
JP2019083501A (ja) 撮像装置
JP6950706B2 (ja) 情報処理装置および方法、並びにプログラム
KR20190109406A (ko) 영상 신호 처리 장치, 영상 신호 처리 방법, 및 다이나믹 레인지 압축용 프로그램
WO2021117307A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019239942A1 (ja) 手術用観察装置、手術用観察方法、手術用光源装置、及び手術用の光照射方法
WO2019187502A1 (ja) 画像処理装置と画像処理方法およびプログラム
US20200382823A1 (en) Display control apparatus, display control method, and video output apparatus
WO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
WO2020217874A1 (ja) 表示制御装置、表示制御方法および表示制御プログラム
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JPWO2018142993A1 (ja) 発光制御装置、発光制御方法、プログラム、発光装置、および撮像装置
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2019167555A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
JPWO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7420141B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JPWO2019049595A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP7347499B2 (ja) 撮像装置、撮像信号処理装置、撮像信号処理方法
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2020088729A (ja) 固体撮像装置、固体撮像装置の駆動方法、及び電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220620

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220620

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221128

R151 Written notification of patent or utility model registration

Ref document number: 7196833

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151