JP7063321B2 - 撮像装置、映像信号処理装置および映像信号処理方法 - Google Patents

撮像装置、映像信号処理装置および映像信号処理方法 Download PDF

Info

Publication number
JP7063321B2
JP7063321B2 JP2019505905A JP2019505905A JP7063321B2 JP 7063321 B2 JP7063321 B2 JP 7063321B2 JP 2019505905 A JP2019505905 A JP 2019505905A JP 2019505905 A JP2019505905 A JP 2019505905A JP 7063321 B2 JP7063321 B2 JP 7063321B2
Authority
JP
Japan
Prior art keywords
video signal
pixels
pixel
image pickup
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019505905A
Other languages
English (en)
Other versions
JPWO2018168571A1 (ja
Inventor
浩二 神谷
幸裕 木下
康貴 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018168571A1 publication Critical patent/JPWO2018168571A1/ja
Application granted granted Critical
Publication of JP7063321B2 publication Critical patent/JP7063321B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/815Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/02Viewfinders
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/18Signals indicating condition of a camera member or suitability of light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/393Enlarging or reducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/015High-definition television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Viewfinders (AREA)
  • Automatic Focus Adjustment (AREA)
  • Television Systems (AREA)

Description

本技術は、ビデオカメラなどの撮像装置、撮像装置などに用いられる映像信号処理装置および映像信号処理方法に関する。
ビデオカメラの撮像画素数が増大してきている。近年では、4K(3840×2160)の撮像画素数を有するカメラも多い。これに対して、ビデオカメラに搭載されるビューファインダーには、画面サイズが最大でも10インチ程度のものが採用されることが主流である。このため、撮像した映像をダウンコンバートなどによって縮小してビューファインダーに表示したり、撮像した映像からビューファインダーの画面解像度分の信号を切り出してビューファインダーに表示したりすることが行われている(特許文献1参照)。
特開2007-336257号公報
ビデオカメラの撮像画素数が増大してくると、フォーカス調整の精度も要求される。しかしながら、ダウンコンバートによって得られた映像は、エリアシンクノイズの除去のため帯域制限フィルターによって高周波成分が除かれているため、フォーカス状態の視認性が良くない。また、これらの課題に限らず、撮像画素数よりも低い画面解像度のビューファインダーを有する撮像装置には解決が求められる様々な課題が残されている。
本技術の目的は、ビューファインダーの表示映像を視認しながらのフォーカス調整を良好に行うことのできる撮像装置、映像信号処理装置および映像信号処理方法に関する。
上記の課題を解決するために、本技術に係る第1の形態である撮像装置は、
撮像素子を有する撮像部と、
前記撮像部により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部と、
前記第2の映像信号を表示するビューファインダーとを具備する。
前記第2の映像信号処理部は、
各々の前記差分データに所定のゲインをかけることによって前記中央部分の横2×縦2画素の画素毎の加算値を算出するように構成されてもよい。
前記第2の映像信号処理部は、前記第1の映像信号を帯域制限し、画素間引きによってダウンコンバートを行うように構成されてもよい。
前記輝度代表値は、前記ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度の平均値とすることができる。
前記第2の映像信号処理部は、前記差分データに特定のゲインを乗じたデータを、差分データに応じた値として生成するように構成されたものであってよい。
本技術に係る撮像装置は、
前記中央部分画素の第1の軸方向の数を第1の設定値として選択可能な第1の操作子と前記中央部分画素の第2の軸方向の数を第2の設定値として選択可能な第2の操作子を含む操作子群と、
撮影時、前記第1の操作子および前記第2の操作子の各状態を検出し、前記検出結果をもとに、前記第1の設定値および前記第2の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させる制御部とをさらに具備するものであってよい。
前記操作子群が、前記ゲインの値を第3の設定値として選択可能な第3の操作子をさらに含み、
前記制御部は、撮影時、前記第3の操作子の状態を検出し、前記検出結果をもとに、前記第3の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成されたものであってよい。
本技術に係る撮像装置は、前記操作子群における前記第1の操作子、前記第2の操作子、前記第3の操作子の割り当てるためのユーザインタフェースをさらに具備するものであってよい。
また、前記第2の映像信号処理部は、各々の前記差分データから絶対値上で一定の値を減算したデータに特定のゲインをかけた値を、前記差分データに応じた値として算出するように構成されたものであってよい。
前記第2の映像信号処理部は、各々の前記差分データから絶対値上で一定の値を減算するとき、絶対値上で任意の値で前記各々の差分データをクリップするように構成されてもよい。
本技術に係る第2の形態である映像信号処理装置は、
撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部とを具備する。
本技術に係る映像信号処理方法は、
第1の映像信号処理部が、撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成し、
第2の映像信号処理部が、前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する。
以上のように、本技術によれば、ビューファインダーの表示映像を視認しながらのフォーカス調整を良好に行うことができる。
本技術に係る第1の実施形態の撮像装置の構成を示す領域図である。 図1の撮像装置1におけるVF信号処理部15の機能的な構成を示す領域図である。 ダウンコンバータ151による解像度変換を輝度と画素の一方向の並びとの2つの次元空間において示した図である。 ダウンコンバータ151による4K解像度の映像信号からHD解像度の映像信号への解像度変換を縦横の画素配列空間において示す図である。 4K解像度の映像信号とHD解像度の映像信号による合焦点のピークの現れ方の違いを示す図である。 フォーカスアシスト情報の生成の手順を示すフローチャートである。 4K解像度の第1の映像信号からHD解像度のVF映像信号が生成されるまでの処理を、輝度と画素の一方向の並びとの2つの次元空間において示した図である。 ダウンコンバータ151による8K解像度の映像信号からHD解像度の映像信号への解像度変換を示す図である。 横2画素以上×縦2画素以上の複数の中央部分画素が横3画素×縦3画素の計9画素である場合を示す図である。 フォーカスアシスト機能に関するユーザ設定のためのUI画面を示す図である。 撮像装置1のフォーカスアシスト機能に関する操作子を示す側面図である。 図10に示したUI画面で横の中央部分画素数の操作子をダイヤルD2からダイヤルD3に変更する場合の操作方法を示す図である。 図10に示したUI画面における複数のダイヤル間の切替順を示す図である。 図10に示したUI画面における複数のボタン間の切替順を示す図である。 図10に示したUI画面において、操作子の重複設定が発生した場合の表示例を示す図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 図16に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<第1の実施形態>
図1は、本技術に係る第1の実施形態の撮像装置の構成を示す領域図である。
この撮像装置1は、光学ブロック11と、撮像部12と、本線映像信号処理部13と、出力部14と、VF信号処理部15と、VF(ビューファインダー)16と、制御ユニット17と、操作入力部18とを備える。
光学ブロック11は、レンズ、フォーカス調整機構、シャッター機構、絞り(アイリス)機構などを有している。光学ブロック11は、被写体からの反射光をレンズによって撮像部12の撮像素子の撮像面に結像する。
撮像部12は、撮像素子、アナログ信号処理回路、A/D変換回路などを有する。撮像素子はCCD(Charge Coupled Device)イメージセンサー、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサーなどで構成される。撮像素子は、例えば4K(3840×2160)、8K(7680×4320)など、比較的高い有効画素数を有する。撮像部12の撮像素子で得られた画素信号は本線映像信号処理部13に供給される。
本線映像信号処理部13は、特許請求の範囲の「第1の映像信号処理部」に相当するものであり、撮像部12より供給された画素信号に対して、例えば、欠陥補正、ノイズ除去、レンズ収差補正、A/D変換、RAW現像などの信号処理を行うことによって、撮像素子の有効画素数に対応する第1の解像度の第1の映像信号を生成する。第1の映像信号は、例えば、4K映像信号、8K映像信号など、比較的高い解像度の映像信号である。なお、本明細書では、4K映像信号が生成される場合を想定して説明を続ける。生成された第1の映像信号は出力部14およびVF信号処理部15に供給される。
出力部14は、本線映像信号処理部13によって得られた第1の映像信号をカメラケーブルを通じてCCU(カメラ制御ユニット)などの外部の映像機器に伝送する処理を行う。CCUでは、撮像装置1よりカメラケーブル30を通じて伝送された第1の映像信号などを受信し、例えば、伝送に適した形式のデジタル映像信号、アナログ映像信号に変換して伝送する処理などが行われる。
なお、本線映像信号処理部13によって得られた第1の映像信号はSSD(Solid State Drive)などの記録媒体に記録されてもよい。
VF信号処理部15は、特許請求の範囲の「第2の映像信号処理部」に相当するものであり、本線映像信号処理部13によって得られた第1の解像度の第1の映像信号から、VF16の画面解像度である第2の解像度の第2の映像信号としてのVF映像信号を生成する。
VF16は、VF映像信号を表示可能な画面を有する。
操作入力部18は、ユーザから撮像装置1を操作するための命令や各種設定などの入力を受け付けるものであり、例えば、ボタン、スイッチ、ダイヤル、VF16の画面に設けられたタッチパネルセンサーなどにより構成される。
制御ユニット17は、撮像装置1の各部を制御するためのコントローラであり、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Member)などで構成される。RAMあるいはROMには、CPUにより実行されるプログラムや各種パラメータなどが格納される。制御ユニット17は、操作入力部18において受け付けられたユーザの操作入力の情報を解釈し、解釈した入力情報に応じて撮像装置1を制御する。
次に、上記のVF信号処理部15の詳細について説明する。
図2は、VF信号処理部15の機能的な構成を示す領域図である。
VF信号処理部15は、ダウンコンバータ151、フォーカスアシスト情報生成部152、ディテール処理部153、加算部154および他のVF信号処理部155を有する。
ダウンコンバータ151は、入力された第1の解像度の第1の映像信号を、ダウンコンバートによって第1の解像度よりも低い第2の解像度のダウンコンバート映像信号に変換する。より具体的には、ダウンコンバータ151は、エリアシンクノイズの除去のため第1の映像信号から帯域制限フィルターによって高周波成分を除去し、画素間引きによって例えば縦2×横2の4画素を1画素に変換する。これにより、ダウンコンバータ151は、例えば4K解像度の映像信号をHD解像度のダウンコンバート映像信号(第2の映像信号)に変換する。
フォーカスアシスト情報生成部152は、差分算出部156およびゲイン部157を有する。
差分算出部156は、ダウンコンバート映像信号の横2×縦2画素に対応する第1の映像信号の、例えば横4×縦4画素などの横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の横2画素以上×縦2画素以上の各々の画素を中央部分画素として、ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度代表値の、平均輝度値からの差分データを算出する。ここで、平均輝度値は、各中央部分画素の輝度値の平均値である。輝度代表値は、ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度値の平均値である。
ゲイン部157は、差分算出部156によって算出された各々の差分データに一定のゲイン(α)を乗算することによってフォーカスアシスト情報を生成する。
加算部154は、ダウンコンバータ151により生成されたダウンコンバート映像信号の個々の画素の輝度値に、フォーカスアシスト情報生成部152により生成された対応するフォーカスアシスト情報を加算して、輝度コントラストをより高めた第2の解像度の第2の映像信号を生成する。生成された第2の映像信号は、他のVF信号処理部155にて、キャラクタおよびマーカーの合成などの他の信号処理が施されることによって第2の解像度のVF映像信号となってVF16に供給される。
ディテール処理部153は、ダウンコンバータ151により生成された第2の解像度のダウンコンバート映像信号に対して被写体の輪郭を強調するディテール処理を行う。
なお、ディテール処理部153は、制御ユニット17からの制御命令に従ってオンオフが切り替えられる。
上記の撮像装置1の構成において、本線映像信号処理部13とVF信号処理部15は、本技術に係る特許請求の範囲の「映像信号処理装置」に相当するものである。
(VF映像信号の生成動作の説明)
次に、本実施形態の撮像装置1によるVF映像信号の生成の動作を図3から図7を用いて説明する。
(ダウンコンバータ151の動作と課題)
まず、上記のVF信号処理部15におけるダウンコンバータ151の動作から説明する。
なお、この動作の例では、第1の映像信号の解像度は4K、第2の映像信号の解像度はHDである場合を想定する。
図3は、ダウンコンバータ151による解像度変換を輝度と画素の一方向の並びとの2つの次元空間において示した図である。
図4は、ダウンコンバータ151による解像度変換を縦横の画素配列空間において示す図である。
ダウンコンバータ151は、エリアシンクノイズの除去のため、4K解像度の第1の映像信号(図3(a))から帯域制限フィルターによって高い周波数成分を制限し(図3(b))、解像度変換(画素間引き)によりHD解像度の映像信号(図3(c))を生成する。4K解像度からHD解像度への変換は、図4に示すように、縦2×横2の4画素を1画素に間引くことによって行われる。
このようにダウンコンバートによって得られたHD解像度の映像信号は高い周波数成分が除かれている。このため、図5に示すように、変換前の4K解像度の映像信号に比べ、フォーカス点のピークの現れ方が緩慢になり、それだけピント合わせが困難になる。本実施形態の撮像装置1は、4K解像度の第1の映像信号から、ダウンコンバート映像信号の各画素に対応する各々のフォーカスアシスト情報を生成し、4K解像度の第1の映像信号をダウンコンバートすることによって得たHD解像度のダウンコンバート映像信号の各々の画素の輝度値に個別に加算することによって、輝度コントラストをより高めたHD解像度の第2の映像信号を生成するように構成されたものである。以下に、その動作を説明する。
(フォーカスアシスト情報生成部152の動作)
図6は、フォーカスアシスト情報の生成手順を示すフローチャートである。
フォーカスアシスト情報生成部152において、まず差分算出部156が、HD解像度のダウンコンバート映像信号の横2×縦2画素に対応する、4K解像度の第1の映像信号の横4×縦4画素の領域21における中央部分22の、例えば横2×縦2の4画素(中央部分画素)の輝度値を抽出し(ステップS101)、各々の輝度値の平均輝度値M1を次式(1)により算出する(ステップS102)。
M1=(A1+B1+C1+D1)/4 ・・・(1)
ここで、A1、B1、C1、D1は、第1の映像信号の横4×縦4画素の領域21における中央部分22の4画素(中央部分画素)それぞれの輝度値である。
次に、差分算出部156は、4画素(中央部分画素)それぞれの輝度値A1、B1、C1、D1を、ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する中央部分画素の輝度代表値として、それぞれの輝度代表値A1、B1、C1、D1について、平均輝度値M1との差分データa1、b1、c1、d1を次式(2)のように算出する(ステップS103)。
a1=A1-M1
b1=B1-M1
c1=C1-M1
d1=D1-M1 ・・・(2)
次に、ゲイン部157が、各々の差分データa1、b1、c1、d1に一定のゲインαを乗算して、フォーカスアシスト情報fa1、fb1、fc1、fd1を生成する(ステップS104)。
fa1=a1*α
fb1=b1*α
fc1=c1*α
fd1=d1*α ・・・(3)
このようにフォーカスアシスト情報生成部152によって生成されたフォーカスアシスト情報fa1、fb1、fc1、fd1はそれぞれ、加算部154にて、ダウンコンバータ151によって生成されたHD解像度のダウンコンバート映像信号の画素Y11、Y12、Y21、Y22(図4参照)の値に個別に加算される。
図7は、4K解像度の第1の映像信号からHD解像度のVF映像信号が生成されるまでの処理を、輝度と画素の一方向の並びとの2つの次元空間において示した図である。
なお、同図には、4K解像度の第1の映像信号からフォーカスアシスト情報生成部152によって生成された図6に示すフォーカスアシスト情報fa1、fb1、fc1、fd1のうちの2つのフォーカスアシスト情報fa1、fb1と、次の領域から生成された2つのフォーカスアシスト情報fa2、fb2が表記されている。
図7の例では、フォーカスアシスト情報fa1は正の値であるから、ダウンコンバート映像信号の対応する画素Y11の値に対して加算部154で加算され、また、フォーカスアシスト情報fb1は負の値であるから、ダウンコンバート映像信号の対応する画素Y12の値に対して加算部154で減算される。したがって、画素間の輝度コントラストを上げたHD解像度のVF映像信号が得られるようになり、VF16の画面で、視認によるフォーカス調整をより良好に行うことが可能になる。
[他の動作例]
上記の動作説明においては、HD解像度のダウンコンバート映像信号の横2×縦2画素に対応する、4K解像度の第1の映像信号の横4×縦4画素の領域における中央部分の横2×縦2の4画素について、各々の輝度値の平均輝度値からの差分データを算出することとした。本技術は、これに限定されるものではない。
例えば、本技術は、第1の映像信号の解像度を8K、第2の映像信号の解像度を4Kとした場合にも適用できる。この場合、4K解像度のダウンコンバート映像信号の横2×縦2画素に対応する8K解像度の第1の映像信号の横4×縦4画素の領域における中央部分の横2×縦2の4画素について、各々の輝度値を輝度代表値として、平均輝度値からの差分データを算出することによってフォーカスアシスト情報を生成し、4K解像度のダウンコンバート映像信号の横2×縦2画素にそれぞれ加算すればよい。
また、第1の映像信号の解像度を8K、第2の映像信号の解像度をHDとした場合にも本技術は応用され得る。この場合、HD解像度のダウンコンバート映像信号の横2×縦2画素に対応する、8K解像度の第1の映像信号の横8×縦8画素の領域における中央部分の横2×縦2の4画素について、各々の輝度値を輝度代表値として、平均輝度値からの差分データを算出することによってフォーカスアシスト情報を生成し、HD解像度のダウンコンバート映像信号の横2×縦2画素にそれぞれ加算すればよい。
さらに、第1の映像信号の解像度を8K、第2の映像信号の解像度をHDとした場合、HD解像度のダウンコンバート映像信号の横2×縦2画素に対応する、8K解像度の第1の映像信号の横8×縦8画素の領域における中央部分の横4×縦4の16画素について処理してもよい。
この場合、差分算出部156は、中央部分の横4×縦4の16画素を縦横等分する4組の横2×縦2の4画素を、ダウンコンバート映像信号の横2×縦2画素におけるそれぞれの画素に対応する4組の中央部分画素のまとまりとして扱う。差分算出部156は、ダウンコンバート映像信号の横2×縦2画素におけるそれぞれの画素に対応する4組の中央部分画素のまとまりについて、一組の中央部分画素のまとまり毎に輝度代表値を算出し、平均輝度値からの差分データを算出することによってフォーカスアシスト情報を生成する。
図8は、8K解像度の第1の映像信号からHD解像度の第2の映像信号への解像度変換を示す図である。
ダウンコンバータ151は、8K解像度の第1の映像信号の画素d11-d14、d21-d24、d31-d34、d41-d44から、画素間引きによってHD解像度のダウンコンバート映像信号の横2×縦2画素における画素Y11を生成する。同様に、ダウンコンバータ151は、8K解像度の第1の映像信号の画素d15-d18、d25-d28、d35-d38、d45-d48から画素間引きによってHD解像度のダウンコンバート映像信号の横2×縦2画素における画素Y12を生成する。同様に、ダウンコンバータ151は、8K解像度の第1の映像信号の画素d51-d54、d61-d64、d71-d74、d81-d84から画素間引きによってHD解像度のダウンコンバート映像信号の横2×縦2画素における画素Y21を生成する。そしてダウンコンバータ151は、8K解像度の第1の映像信号の画素d55-d58、d65-d68、d75-d78、d85-d88から画素間引きによってHD解像度のダウンコンバート映像信号の横2×縦2画素における画素Y22を生成する。
次に、差分算出部156は、HD解像度のダウンコンバート映像信号の画素Y11に対応する中央部分画素d33、d34、d43、d44の輝度値の平均値を、画素Y11に対応する中央部分画素の輝度代表値Arとして算出する。同様に、差分算出部156は、画素Y12に対応する中央部分画素d35、d36、d45、d46の輝度値の平均値を、画素Y12に対応する中央部分画素の輝度代表値Brとして算出する。同様に、差分算出部156は、画素Y21に対応する中央部分画素d53、d54、d63、d64の輝度値の平均値を、画素Y21に対応する中央部分画素の輝度代表値Crとして算出する。同様に、差分算出部156は、画素Y22に対応する中央部分画素d55、d56、d65、d66の輝度値の平均値を、画素Y22に対応する中央部分画素の輝度代表値Drとして算出する。
次に、差分算出部156は、輝度代表値Ar、Br、Cr、Drの平均値を平均輝度値M1として算出する。
次に、差分算出部156は、それぞれの輝度代表値Ar、Br、Cr、Drについて、平均輝度値M1との差分データa1、b1、c1、d1を算出する。
次に、ゲイン部157が、各々の差分データa1、b1、c1、d1に一定のゲインαを乗算して、フォーカスアシスト情報fa1、fb1、fc1、fd1を生成する。
このようにフォーカスアシスト情報生成部152によって生成されたフォーカスアシスト情報fa1、fb1、fc1、fd1はそれぞれ、加算部154にて、ダウンコンバータ151によって生成されたHD解像度のダウンコンバート映像信号の画素Y11、Y12、Y21、Y22の輝度値に個別に加算される。
このように、第1の映像信号の解像度が8K、第2の映像信号の解像度がHDである場合にも本技術は適用することができる。
要するに、本技術は、第2の映像信号の横2×縦2画素に対応する第1の映像信号の領域が、横2N×縦2N画素(Nは2以上の2のべき乗数)である場合において適用可能である。
次に、横2画素以上×縦2画素以上の複数の中央部分画素について説明を補充する。
ここまでの説明では、横2画素以上×縦2画素以上の複数の中央部分画素が、横2画素×縦2画素の計4画素、横4画素×縦4画素の計16画素である場合を説明してきたが、横3画素×縦3画素の計9画素である場合にも本技術は適用できる。
図9は、横2画素以上×縦2画素以上の複数の中央部分画素が横3画素×縦3画素の計9画素である場合を示す図である。
ここで、第1の映像信号の解像度は4K、第2の映像信号の解像度はHDとする。
差分算出部156は、HD解像度のダウンコンバート映像信号の横2×縦2画素に対応する、4K解像度の第1の映像信号の横4×縦4画素の領域における中央部分の各画素を含む横3×縦3画素の計9画素の輝度値を抽出する。
次に、差分算出部156は、HD解像度のダウンコンバート映像信号の画素Y11に対応する中央部分画素d22の輝度値を、画素Y11に対応する中央部分画素の輝度代表値Arとして算出する。同様に、差分算出部156は、画素Y12に対応する中央部分画素d23、d24の輝度値の平均値を、画素Y12に対応する中央部分画素の輝度代表値Brとして算出する。同様に、差分算出部156は、画素Y21に対応する中央部分画素d32、d42の輝度値の平均値を、画素Y21に対応する中央部分画素の輝度代表値Crとして算出する。同様に、差分算出部156は、画素Y22に対応する中央部分画素d33、d34、d43、d44の輝度値の平均値を、画素Y22に対応する中央部分画素の輝度代表値Drとして算出する。
次に、差分算出部156は、輝度代表値Ar、Br、Cr、Drの平均値を平均輝度値M1として算出し、それぞれの輝度代表値Ar、Br、Cr、Drについて、平均輝度値M1との差分データa1、b1、c1、d1を算出する。
次に、ゲイン部157が、各々の差分データa1、b1、c1、d1に一定のゲインαを乗算して、フォーカスアシスト情報fa1、fb1、fc1、fd1を生成する。
このようにフォーカスアシスト情報生成部152によって生成されたフォーカスアシスト情報fa1、fb1、fc1、fd1はそれぞれ、加算部154にて、ダウンコンバータ151によって生成されたHD解像度のダウンコンバート映像信号の画素Y11、Y12、Y21、Y22の値に個別に加算される。
このように、本技術は、横3画素×縦3画素の計9画素を中央部分画素とする場合にも適用できる。
同様に、横5画素以上×縦5画素以上を中央部分画素とすることも可能である。
さらに、第1の映像信号の中央部分画素の画素数は縦横等しい場合のみならず、縦4画素、横2画素のように、縦横で画素数が異なるようにしても本技術は適用可能である。
[フォーカスアシスト機能に関するユーザ設定]
本実施形態の撮像装置1は、フォーカスアシスト機能に関して、ユーザによる次のような設定が可能である。
1.フォーカスアシストのオン/オフ
2.縦の中央部分画素数(2-n)
3.横の中央部分画素数(2-m)
4.ゲイン値
フォーカスアシストのオン/オフは、フォーカスアシストの機能のオン/オフを切り替える設定である。
縦の中央部分画素数(2-n)は、ダウンコンバート映像信号の横2×縦2画素に対応する第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における縦の中央部分画素の数の設定値である。
横の中央部分画素数(2-m)は、ダウンコンバート映像信号の横2×縦2画素に対応する第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における横の中央部分画素の数の設定値である。
なお、縦の中央部分画素数(2-n)において設定可能な最大値nは、ダウンコンバート映像信号の横2×縦2画素に対応する第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域全体の縦の画素数である。
また、横の中央部分画素数(2-m)において設定可能な最大値mは、ダウンコンバート映像信号の横2×縦2画素に対応する第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域全体の横の画素数である。
ゲイン値は、差分データa1、b1、c1、d1に共通に掛けられるゲインαである。
図10は、上記ユーザ設定のためのUI(User Interface)画面を示す図である。
このUIに関して、例えば、撮像装置1のVF16や外部ディスプレイなどがUI表示部として用いられ、撮像装置1に設けられた特定の操作ボタンなどが設定入力部として用いられる。
UI画面では、設定項目毎に割り当てる操作子を複数の操作子群のなかからユーザが選択することが可能とされる。設定項目に対して割り当てが可能な操作子群は、撮像装置1の操作入力部18に設けられた特定のボタン群およびダイヤル群などである。
図11は撮像装置1のフォーカスアシスト機能に関する操作子を示す側面図である。同図に示すように、撮像装置1は、フォーカスアシスト機能に関する各設定項目の割り当てが可能な操作子群として、複数のボタンB1、B2、B3、B4、B5と複数のダイヤルD1、D2、D3、D4を備える。
なお、この図では操作子群が撮像装置1のボディ1Aの側面に設けられる場合を示したが、撮像装置1の上面など、他の面に設けられたものであってよいし、VF16に設けられてもよい。
次に、図10に示したUI画面で、ユーザが、撮像装置1の操作子群において、任意の設定項目に対して任意の操作子を割り当てる方法を説明する。
なお、図10に示したUI画面には、設定項目毎に操作子の初期値が設定されている場合を想定している。例えば、フォーカスアシストのオン/オフにはボタンB1の操作子が、縦の中央部分画素数にはダイヤルD1の操作子が、横の中央部分画素数にはダイヤルD2の操作子が、ゲイン値にはダイヤルD3の操作子が、各々初期値として設定される。
図12は図10に示したUI画面で、横の中央部分画素数の操作子をダイヤルD2からダイヤルD3に変更する場合の操作方法を示す図である。
UI画面においてユーザは、操作子を変更したい設定項目を、例えば操作入力部18に設けられたカーソルキー20などを操作して選択する。例えば、カーソルキー20の下キー20dが2回押されると、操作子の変更対象となる設定項目は、フォーカスアシストのオン/オフから横の中央部分画素数に移動する。次に、カーソルキー20の右キー20rが一回押されると、横の中央部分画素数の設定項目に対する操作子の表示がダイヤルD2からダイヤルD3に変更される。これにより、横の中央部分画素数の設定項目に対する操作子の割り当てがダイヤルD2からダイヤルD3に変更される。なお、カーソルキー20の右キー20rが二回押された場合には、横の中央部分画素数の設定項目に対する操作子の表示がダイヤルD2からダイヤルD4に変更される。これにより、横の中央部分画素数の設定項目に対する操作子の割り当てがダイヤルD2からダイヤルD4に変更される。同様の要領により、他の設定項目に対する操作子の割り当ても変更することができる。
図13は、複数のダイヤルD1-D4間の切替順を示す図である。このように、設定変更前のダイヤルがダイヤルD2である場合、カーソルキー20の右キー20rが一回押されるたびに、選択されたダイヤルはダイヤルD3、ダイヤルD4、ダイヤルD1の順にスイッチされる。また、図14に示すように、ボタンB1-B5についても同様のルールで切り替えられるようになっている。
なお、横の中央部分画素数の設定項目に対する操作子の割り当てがダイヤルD2からダイヤルD3に変更された場合、ゲイン値の設定項目に対して割り当てられた操作子と重複する。このように複数の設定項目に対する操作子の重複が発生した場合、図15に示すように、以前よりその操作子が割り当てられた側の操作項目(例えばゲイン値の設定項目)に対する操作子の設定変更を促すように、その操作項目が反転表示などによって判別可能な状態で表示される。これによりユーザは、操作子の重複設定を避けるように、操作子の割り当てを変更することができる。
[設定変更によるVF映像生成へのリアルタイム反映]
ユーザは、撮影時に、フォーカスアシスト機能に関する各設定項目に割り当てられた各々の操作子を操作することによって、VF16や外部ディスプレイなどに表示させる第2の映像信号の輝度コントラストをリアルタイムに変化させることができる。これにより、視認によるフォーカス調整に最適な設定値をユーザが選定することができる。
すなわち、制御ユニット17は、操作入力部18においてフォーカスアシスト機能に関する各設定項目に個別に割り当てられた各操作子の状態をそれぞれ検出する。制御ユニット17は、検出した状態に対応する各設定値を生成し、VF信号処理部15に設定する。VF信号処理部15は、制御ユニット17により与えられた各設定値をもとにVF映像信号を生成し、VF16に出力する。
次に、本技術に係る変形例を説明する。
<変形例1>
フォーカスアシスト情報生成部152は、ノイズの除去を目的として、下記のように各々の差分データa1、b1、c1、d1に対して、絶対値上で任意の値Sを減算し、絶対値が減算された各々の差分データa1'、b1'、c1'、d1'にゲインαをかけてフォーカスアシスト情報fa1'、fb1'、fc1'、fd1'を生成してもよい。
|a1'|=|a1|-|S|
|b1'|=|b1|-|S|
|c1'|=|c1|-|S|
|d1'|=|d1|-|S|
<変形例2>
フォーカスアシスト情報生成部152は、エリアシングの低減を目的として、差分データa1、b1、c1、d1に対する任意の値Sの減算において、下記のように、絶対値上で任意の値Xで差分データa1をクリップしてもよい。
|a1'|=|a1|-|S| if|a1|≦|X|
|a1'|=|X|-|S| if|a1|>|X|
他の差分データb1、c1、d1についても同様である。
<<応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図16は、本開示に係る技術が適用され得る内視鏡手術システム5000の概略的な構成の一例を示す図である。図16では、術者(医師)5067が、内視鏡手術システム5000を用いて、患者ベッド5069上の患者5071に手術を行っている様子が図示されている。図示するように、内視鏡手術システム5000は、内視鏡5001と、その他の術具5017と、内視鏡5001を支持する支持アーム装置5027と、内視鏡下手術のための各種の装置が搭載されたカート5037と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5025a~5025dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5025a~5025dから、内視鏡5001の鏡筒5003や、その他の術具5017が患者5071の体腔内に挿入される。図示する例では、その他の術具5017として、気腹チューブ5019、エネルギー処置具5021及び鉗子5023が、患者5071の体腔内に挿入されている。また、エネルギー処置具5021は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5017はあくまで一例であり、術具5017としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5001によって撮影された患者5071の体腔内の術部の画像が、表示装置5041に表示される。術者5067は、表示装置5041に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5021や鉗子5023を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5019、エネルギー処置具5021及び鉗子5023は、手術中に、術者5067又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5027は、ベース部5029から延伸するアーム部5031を備える。図示する例では、アーム部5031は、関節部5033a、5033b、5033c、及びリンク5035a、5035bから構成されており、アーム制御装置5045からの制御により駆動される。アーム部5031によって内視鏡5001が支持され、その位置及び姿勢が制御される。これにより、内視鏡5001の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5001は、先端から所定の長さの領域が患者5071の体腔内に挿入される鏡筒5003と、鏡筒5003の基端に接続されるカメラヘッド5005と、から構成される。図示する例では、硬性の鏡筒5003を有するいわゆる硬性鏡として構成される内視鏡5001を図示しているが、内視鏡5001は、軟性の鏡筒5003を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5003の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5001には光源装置5043が接続されており、当該光源装置5043によって生成された光が、鏡筒5003の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5071の体腔内の観察対象に向かって照射される。なお、内視鏡5001は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5005の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5039に送信される。なお、カメラヘッド5005には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5005には撮像素子が複数設けられてもよい。この場合、鏡筒5003の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5039は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5001及び表示装置5041の動作を統括的に制御する。具体的には、CCU5039は、カメラヘッド5005から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5039は、当該画像処理を施した画像信号を表示装置5041に提供する。また、CCU5039は、カメラヘッド5005に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置5041は、CCU5039からの制御により、当該CCU5039によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5001が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5041としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5041として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5041が設けられてもよい。
光源装置5043は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5001に供給する。
アーム制御装置5045は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5027のアーム部5031の駆動を制御する。
入力装置5047は、内視鏡手術システム5000に対する入力インタフェースである。ユーザは、入力装置5047を介して、内視鏡手術システム5000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5047を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5047を介して、アーム部5031を駆動させる旨の指示や、内視鏡5001による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5021を駆動させる旨の指示等を入力する。
入力装置5047の種類は限定されず、入力装置5047は各種の公知の入力装置であってよい。入力装置5047としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5057及び/又はレバー等が適用され得る。入力装置5047としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5041の表示面上に設けられてもよい。
あるいは、入力装置5047は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5047は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5047は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5047が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5067)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5049は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5021の駆動を制御する。気腹装置5051は、内視鏡5001による視野の確保及び術者の作業空間の確保の目的で、患者5071の体腔を膨らめるために、気腹チューブ5019を介して当該体腔内にガスを送り込む。レコーダ5053は、手術に関する各種の情報を記録可能な装置である。プリンタ5055は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5000において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5027は、基台であるベース部5029と、ベース部5029から延伸するアーム部5031と、を備える。図示する例では、アーム部5031は、複数の関節部5033a、5033b、5033cと、関節部5033bによって連結される複数のリンク5035a、5035bと、から構成されているが、図16では、簡単のため、アーム部5031の構成を簡略化して図示している。実際には、アーム部5031が所望の自由度を有するように、関節部5033a~5033c及びリンク5035a、5035bの形状、数及び配置、並びに関節部5033a~5033cの回転軸の方向等が適宜設定され得る。例えば、アーム部5031は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5031の可動範囲内において内視鏡5001を自由に移動させることが可能になるため、所望の方向から内視鏡5001の鏡筒5003を患者5071の体腔内に挿入することが可能になる。
関節部5033a~5033cにはアクチュエータが設けられており、関節部5033a~5033cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5045によって制御されることにより、各関節部5033a~5033cの回転角度が制御され、アーム部5031の駆動が制御される。これにより、内視鏡5001の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5045は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5031の駆動を制御することができる。
例えば、術者5067が、入力装置5047(フットスイッチ5057を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5045によってアーム部5031の駆動が適宜制御され、内視鏡5001の位置及び姿勢が制御されてよい。当該制御により、アーム部5031の先端の内視鏡5001を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5031は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5031は、手術室から離れた場所に設置される入力装置5047を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5045は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5031が移動するように、各関節部5033a~5033cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5031に触れながらアーム部5031を移動させる際に、比較的軽い力で当該アーム部5031を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5001を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5001が支持されていた。これに対して、支持アーム装置5027を用いることにより、人手によらずに内視鏡5001の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5045は必ずしもカート5037に設けられなくてもよい。また、アーム制御装置5045は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5045は、支持アーム装置5027のアーム部5031の各関節部5033a~5033cにそれぞれ設けられてもよく、複数のアーム制御装置5045が互いに協働することにより、アーム部5031の駆動制御が実現されてもよい。
(光源装置)
光源装置5043は、内視鏡5001に術部を撮影する際の照射光を供給する。光源装置5043は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5043において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5005の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5043は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5005の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5043は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5043は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図17を参照して、内視鏡5001のカメラヘッド5005及びCCU5039の機能についてより詳細に説明する。図17は、図16に示すカメラヘッド5005及びCCU5039の機能構成の一例を示すブロック図である。
図17を参照すると、カメラヘッド5005は、その機能として、レンズユニット5007と、撮像部5009と、駆動部5011と、通信部5013と、カメラヘッド制御部5015と、を有する。また、CCU5039は、その機能として、通信部5059と、画像処理部5061と、制御部5063と、を有する。カメラヘッド5005とCCU5039とは、伝送ケーブル5065によって双方向に通信可能に接続されている。
まず、カメラヘッド5005の機能構成について説明する。レンズユニット5007は、鏡筒5003との接続部に設けられる光学系である。鏡筒5003の先端から取り込まれた観察光は、カメラヘッド5005まで導光され、当該レンズユニット5007に入射する。レンズユニット5007は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5007は、撮像部5009の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5009は撮像素子によって構成され、レンズユニット5007の後段に配置される。レンズユニット5007を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5009によって生成された画像信号は、通信部5013に提供される。
撮像部5009を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5067は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5009を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5067は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5009が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5007も複数系統設けられる。
また、撮像部5009は、必ずしもカメラヘッド5005に設けられなくてもよい。例えば、撮像部5009は、鏡筒5003の内部に、対物レンズの直後に設けられてもよい。
駆動部5011は、アクチュエータによって構成され、カメラヘッド制御部5015からの制御により、レンズユニット5007のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5009による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5013は、CCU5039との間で各種の情報を送受信するための通信装置によって構成される。通信部5013は、撮像部5009から得た画像信号をRAWデータとして伝送ケーブル5065を介してCCU5039に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5067が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5013には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5065を介してCCU5039に送信される。
また、通信部5013は、CCU5039から、カメラヘッド5005の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5013は、受信した制御信号をカメラヘッド制御部5015に提供する。なお、CCU5039からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5013には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5015に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5039の制御部5063によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5001に搭載される。
カメラヘッド制御部5015は、通信部5013を介して受信したCCU5039からの制御信号に基づいて、カメラヘッド5005の駆動を制御する。例えば、カメラヘッド制御部5015は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5009の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5015は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5011を介してレンズユニット5007のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5015は、更に、鏡筒5003やカメラヘッド5005を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5007や撮像部5009等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5005について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5039の機能構成について説明する。通信部5059は、カメラヘッド5005との間で各種の情報を送受信するための通信装置によって構成される。通信部5059は、カメラヘッド5005から、伝送ケーブル5065を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5059には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5059は、電気信号に変換した画像信号を画像処理部5061に提供する。
また、通信部5059は、カメラヘッド5005に対して、カメラヘッド5005の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5061は、カメラヘッド5005から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5061は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5061は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5061が複数のGPUによって構成される場合には、画像処理部5061は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5063は、内視鏡5001による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5063は、カメラヘッド5005の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5063は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5001にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5063は、画像処理部5061による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5063は、画像処理部5061によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5041に表示させる。この際、制御部5063は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5063は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5021使用時のミスト等を認識することができる。制御部5063は、表示装置5041に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5067に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5005及びCCU5039を接続する伝送ケーブル5065は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5065を用いて有線で通信が行われていたが、カメラヘッド5005とCCU5039との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5065を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5065によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム5000の一例について説明した。なお、ここでは、一例として内視鏡手術システム5000について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成に表示装置5041よりも画面解像度の低い第2の表示装置を追加した場合に、CCU5039にて、カメラヘッド5005により撮像された画像から第2の表示装置に表示させる画像を生成する処理において好適に適用され得る。これにより、画面解像度が低い第2の表示装置の画面に輝度コントラストをより高めた画像を表示させることができ、術者5067によるピント合わせを容易かつ精度良く行うことができ、手術をより安全にかつより確実に行うことが可能になる。
なお、本技術は以下のような構成もとることができる。
(1)撮像素子を有する撮像部と、
前記撮像部により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部と、
前記第2の映像信号を表示するビューファインダーとを具備する
を具備する撮像装置。
(2)前記(1)に記載の撮像装置であって、
前記第2の映像信号処理部は、前記第1の映像信号を帯域制限し、画素間引きによってダウンコンバートを行うように構成された
撮像装置。
(3)前記(1)または(2)に記載の撮像装置であって、
前記輝度代表値は、前記ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度の平均値である
撮像装置。
(4)前記(1)ないし(3)のいずれか1つに記載の撮像装置であって、
前記第2の映像信号処理部は、前記差分データに特定のゲインを乗じたデータを、差分データに応じた値として生成するように構成された
撮像装置。
(5)前記(1)ないし(4)のいずれか1つに記載の撮像装置であって、
前記中央部分画素の第1の軸方向の数を第1の設定値として選択可能な第1の操作子と前記中央部分画素の第2の軸方向の数を第2の設定値として選択可能な第2の操作子を含む操作子群と、
撮影時、前記第1の操作子および前記第2の操作子の各状態を検出し、前記検出結果をもとに、前記第1の設定値および前記第2の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させる制御部とをさらに具備する
撮像装置。
(6)前記(5)に記載の撮像装置であって、
前記操作子群が、前記ゲインの値を第3の設定値として選択可能な第3の操作子をさらに含み、
前記制御部は、
撮影時、前記第3の操作子の状態を検出し、前記検出結果をもとに、前記第3の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成された
撮像装置。
(7)前記(6)に記載の映像信号処理装置であって、
前記操作子群における前記第1の操作子、前記第2の操作子、前記第3の操作子の割り当てるためのユーザインタフェースをさらに具備する
撮像装置。
(8)前記(1)ないし(7)のいずれか1つに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算したデータに特定のゲインをかけた値を、前記差分データに応じた値として算出するように構成された
撮像装置。
(9)前記(1)ないし(7)のいずれか1つに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算するとき、絶対値上で任意の値で前記各々の差分データをクリップするように構成された
撮像装置。
(10)撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部と
を具備する映像信号処理装置。
(11)前記(10)に記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記第1の映像信号を帯域制限し、画素間引きによってダウンコンバートを行うように構成された
映像信号処理装置。
(12)前記(10)または(11)に記載の映像信号処理装置であって、
前記輝度代表値は、前記ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度の平均値である
映像信号処理装置。
(13)前記(10)ないし(12)のいずれか1つに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、前記差分データに特定のゲインを乗じたデータを、差分データに応じた値として生成するように構成された
映像信号処理装置。
(14)前記(10)ないし(13)のいずれか1つに記載の映像信号処理装置であって、
前記中央部分画素の第1の軸方向の数を第1の設定値として選択可能な第1の操作子と前記中央部分画素の第2の軸方向の数を第2の設定値として選択可能な第2の操作子を含む操作子群と、
撮影時、前記第1の操作子および前記第2の操作子の各状態を検出し、前記検出結果をもとに、前記第1の設定値および前記第2の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させる制御部とをさらに具備する
映像信号処理装置。
(15)前記(14)に記載の映像信号処理装置であって、
前記操作子群が、前記ゲインの値を第3の設定値として選択可能な第3の操作子をさらに含み、
前記制御部は、
撮影時、前記第3の操作子の状態を検出し、前記検出結果をもとに、前記第3の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成された
映像信号処理装置。
(16)前記(15)に記載の映像信号処理装置であって、
前記操作子群における前記第1の操作子、前記第2の操作子、前記第3の操作子の割り当てるためのユーザインタフェースをさらに具備する
映像信号処理装置。
(17)前記(10)ないし(16)のいずれか1つに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算したデータに特定のゲインをかけた値を、前記差分データに応じた値として算出するように構成された
映像信号処理装置。
(18)前記(10)ないし(16)のいずれか1つに記載の映像信号処理装置であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算するとき、絶対値上で任意の値で前記各々の差分データをクリップするように構成された
映像信号処理装置。
(19)第1の映像信号処理部が、撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成し、
第2の映像信号処理部が、前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する
映像信号処理方法。
(20)前記(19)に記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記第1の映像信号を帯域制限し、画素間引きによってダウンコンバートを行う
映像信号処理方法。
(21)前記(19)または(20)に記載の映像信号処理方法であって、
前記輝度代表値は、前記ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度の平均値である
映像信号処理方法。
(22)前記(19)ないし(21)のいずれか1つに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、前記差分データに特定のゲインを乗じたデータを、差分データに応じた値として生成する
映像信号処理方法。
(23)前記(19)ないし(22)のいずれか1つに記載の映像信号処理方法であって、
制御部が、前記中央部分画素の第1の軸方向の数を第1の設定値として選択可能な第1の操作子と前記中央部分画素の第2の軸方向の数を第2の設定値として選択可能な第2の操作子の各状態を検出し、前記検出結果をもとに、前記第1の設定値および前記第2の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させる
映像信号処理方法。
(24)前記(19)ないし(23)のいずれか1つに記載の映像信号処理方法であって、
制御部が、前記中央部分画素の第1の軸方向の数を第1の設定値として選択可能な第1の操作子と前記中央部分画素の第2の軸方向の数を第2の設定値として選択可能な第2の操作子と前記ゲインの値を第3の設定値として選択可能な第3の操作子の各状態を検出し、前記検出結果をもとに、前記第1の設定値、前記第2の設定値および前記第3の設定値を前記第2の映像信号処理部の動作にリアルタイムで反映させる
映像信号処理方法。
(25)前記(24)に記載の映像信号処理方法であって、
前記制御部が、前記操作子群における前記第1の操作子、前記第2の操作子、前記第3の操作子の割り当てるためのユーザインタフェースをユーザに提供する
映像信号処理方法。
(26)前記(19)ないし(25)のいずれか1つに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算したデータに特定のゲインをかけた値を、前記差分データに応じた値として算出する
映像信号処理方法。
(27)前記(19)ないし(25)のいずれか1つに記載の映像信号処理方法であって、
前記第2の映像信号処理部は、
各々の前記差分データから絶対値上で一定の値を減算するとき、絶対値上で任意の値で前記各々の差分データをクリップする
映像信号処理方法。
1…撮像装置
11…光学ブロック
12…撮像部
13…本線映像信号処理部
14…出力部
15…VF信号処理部
16…VF
17…制御ユニット
18…操作入力部
151…ダウンコンバータ
152…フォーカスアシスト情報生成部
154…加算部
156…差分算出部
157…ゲイン部

Claims (15)

  1. 撮像素子を有する撮像部と、
    前記撮像部により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
    前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部と、
    前記第2の映像信号を表示するビューファインダーとを具備する
    撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記第2の映像信号処理部は、前記第1の映像信号を帯域制限し、画素間引きによってダウンコンバートを行うように構成された
    撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記輝度代表値は、前記ダウンコンバート映像信号の横2×縦2画素における個々の画素に対応する1以上の中央部分画素の輝度の平均値である
    撮像装置。
  4. 請求項1に記載の撮像装置であって、
    前記第2の映像信号処理部は、前記差分データに特定のゲインを乗じたデータを、差分データに応じた値として生成するように構成された
    撮像装置。
  5. 請求項1に記載の撮像装置であって、
    ユーザによる操作を受け付ける少なくとも1つ以上の操作子を有する操作入力部と、
    影時、前記少なくとも1つ以上の操作子の状態を検出し、前記操作に基づいた設定情報を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成される制御部と、をさらに具備する
    撮像装置。
  6. 請求項5に記載の撮像装置であって、
    前記設定情報は前記中央部分画素の第1の軸方向の数を第1の設定値とし、前記中央部分画素の第2の軸方向の数を第2の設定値とする
    撮像装置。
  7. 請求項5に記載の撮像装置であって、
    前記設定情報は前記中央部分画素の数である
    撮像装置。
  8. 請求項5に記載の撮像装置であって、
    前記少なくとも1つ以上操作子に対して、前記設定情報の割り当てを設定可能なユーザインタフェースをさらに具備する
    撮像装置。
  9. 請求項4に記載の撮像装置であって、
    ユーザによる操作を受け付ける少なくとも1つ以上の操作子を有する操作入力部と、
    影時、前記少なくとも1つ以上の操作子の状態を検出し、前記操作に基づいた設定情報を前記第2の映像信号処理部の動作にリアルタイムで反映させるように構成される制御部と、をさらに具備する
    撮像装置。
  10. 請求項9に記載の撮像装置であって、
    前記設定情報は、前記ゲインの値を第3の設定値とする
    撮像装置。
  11. 請求項9に記載の撮像装置であって、
    前記少なくとも1つ以上操作子に対して、前記設定情報の割り当てを設定可能なユーザインタフェースをさらに具備する
    撮像装置。
  12. 請求項3に記載の撮像装置であって、
    前記第2の映像信号処理部は、
    各々の前記差分データから絶対値上で一定の値を減算したデータに特定のゲインをかけた値を、前記差分データに応じた値として算出するように構成された
    撮像装置。
  13. 請求項3に記載の撮像装置であって、
    前記第2の映像信号処理部は、
    各々の前記差分データから絶対値上で一定の値を減算するとき、絶対値上で任意の値で前記各々の差分データをクリップするように構成された
    撮像装置。
  14. 撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成する第1の映像信号処理部と、
    前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する第2の映像信号処理部と
    を具備する映像信号処理装置。
  15. 第1の映像信号処理部が、撮像装置により得られた画素信号から第1の解像度の第1の映像信号を生成し、
    第2の映像信号処理部が、前記第1の映像信号処理部により生成された前記第1の映像信号をダウンコンバートすることによって前記第1の解像度より低い第2の解像度のダウンコンバート映像信号を生成し、前記ダウンコンバート映像信号の横2×縦2画素に対応する前記第1の映像信号の横2N×縦2N画素(Nは2以上の2のべき乗数)の領域における中央部分の各画素を含む横2画素以上×縦2画素以上の各々の画素を中央部分画素として、前記ダウンコンバート映像信号の個々の画素に対応する1以上の前記中央部分画素の輝度代表値の、前記領域毎の中央部分画素の平均輝度値からの差分データに応じた値を、前記ダウンコンバート映像信号の対応する画素の輝度値に個別に加算することによって、前記第2の解像度の第2の映像信号を生成する
    映像信号処理方法。
JP2019505905A 2017-03-15 2018-03-06 撮像装置、映像信号処理装置および映像信号処理方法 Active JP7063321B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017050649 2017-03-15
JP2017050649 2017-03-15
PCT/JP2018/008570 WO2018168571A1 (ja) 2017-03-15 2018-03-06 撮像装置、映像信号処理装置および映像信号処理方法

Publications (2)

Publication Number Publication Date
JPWO2018168571A1 JPWO2018168571A1 (ja) 2020-05-14
JP7063321B2 true JP7063321B2 (ja) 2022-05-09

Family

ID=63522255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019505905A Active JP7063321B2 (ja) 2017-03-15 2018-03-06 撮像装置、映像信号処理装置および映像信号処理方法

Country Status (5)

Country Link
US (1) US10778889B2 (ja)
EP (1) EP3598732B1 (ja)
JP (1) JP7063321B2 (ja)
CN (1) CN110393005A (ja)
WO (1) WO2018168571A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020084999A1 (ja) * 2018-10-25 2020-04-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP6800938B2 (ja) * 2018-10-30 2020-12-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005136456A (ja) 2003-10-28 2005-05-26 Victor Co Of Japan Ltd フォーカス調整用ビデオデータ発生回路
JP2011130112A (ja) 2009-12-16 2011-06-30 Sony Corp 表示支援装置及び撮像装置
JP2014230176A (ja) 2013-05-23 2014-12-08 ソニー株式会社 画像信号処理装置、画像信号処理方法、撮像装置および画像表示方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4363308B2 (ja) * 2004-11-02 2009-11-11 ソニー株式会社 固体撮像素子の信号処理装置及び方法並びに撮像装置
CN1319383C (zh) * 2005-04-07 2007-05-30 西安交通大学 高性能空域可伸缩的运动估计与运动矢量编码实现方法
JP2007336257A (ja) 2006-06-15 2007-12-27 Matsushita Electric Ind Co Ltd フォーカスアシスト機能付撮像装置
JP2008145226A (ja) * 2006-12-08 2008-06-26 Olympus Corp 欠陥検査装置及び欠陥検査方法
JP2009194896A (ja) * 2008-01-18 2009-08-27 Sanyo Electric Co Ltd 画像処理装置及び方法並びに撮像装置
JP5490514B2 (ja) 2009-12-22 2014-05-14 三星電子株式会社 撮像装置及び撮像方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005136456A (ja) 2003-10-28 2005-05-26 Victor Co Of Japan Ltd フォーカス調整用ビデオデータ発生回路
JP2011130112A (ja) 2009-12-16 2011-06-30 Sony Corp 表示支援装置及び撮像装置
JP2014230176A (ja) 2013-05-23 2014-12-08 ソニー株式会社 画像信号処理装置、画像信号処理方法、撮像装置および画像表示方法

Also Published As

Publication number Publication date
CN110393005A (zh) 2019-10-29
EP3598732A4 (en) 2020-03-11
WO2018168571A1 (ja) 2018-09-20
US10778889B2 (en) 2020-09-15
US20200112670A1 (en) 2020-04-09
JPWO2018168571A1 (ja) 2020-05-14
EP3598732A1 (en) 2020-01-22
EP3598732B1 (en) 2021-12-22

Similar Documents

Publication Publication Date Title
JP7088185B2 (ja) 医療用システム、医療用装置および制御方法
WO2018123613A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7196833B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP7095693B2 (ja) 医療用観察システム
WO2019187502A1 (ja) 画像処理装置と画像処理方法およびプログラム
US11729519B2 (en) Video signal processing apparatus, video signal processing method, and image-capturing apparatus
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2020195246A1 (ja) 撮像装置、撮像方法、及びプログラム
JPWO2018142993A1 (ja) 発光制御装置、発光制御方法、プログラム、発光装置、および撮像装置
JP2021108793A (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
WO2018179875A1 (ja) 撮像装置とフォーカス制御方法およびフォーカス判定方法
WO2021010020A1 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JPWO2019049595A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2022004250A1 (ja) 医療システム、情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220307

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220404

R151 Written notification of patent or utility model registration

Ref document number: 7063321

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151