JP6860000B2 - 医療用画像処理装置、システム、方法、プログラム、画像処理システム及び医療用画像処理システム - Google Patents

医療用画像処理装置、システム、方法、プログラム、画像処理システム及び医療用画像処理システム Download PDF

Info

Publication number
JP6860000B2
JP6860000B2 JP2018502551A JP2018502551A JP6860000B2 JP 6860000 B2 JP6860000 B2 JP 6860000B2 JP 2018502551 A JP2018502551 A JP 2018502551A JP 2018502551 A JP2018502551 A JP 2018502551A JP 6860000 B2 JP6860000 B2 JP 6860000B2
Authority
JP
Japan
Prior art keywords
specific
image signal
specific component
component
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018502551A
Other languages
English (en)
Other versions
JPWO2017149932A1 (ja
Inventor
菊地 大介
大介 菊地
貴美 水倉
貴美 水倉
高橋 康昭
康昭 高橋
浩司 鹿島
浩司 鹿島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017149932A1 publication Critical patent/JPWO2017149932A1/ja
Application granted granted Critical
Publication of JP6860000B2 publication Critical patent/JP6860000B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Description

本開示は、医療用画像処理装置、システム、方法プログラム、画像処理システム及び医療用画像処理システムに関する。
近年、医療の場面において内視鏡又は顕微鏡といった医療用観察装置が広く利用されている。医療用観察装置は、被写体を光学的に観察可能とする装置に加えて、撮像部(カメラ)により撮像された被写体の画像を表示部に電子的に表示させる装置を含む。例えば、内視鏡下手術又は顕微鏡下手術(所謂、マイクロサージャリー)では、術者は、電子的に表示される画像を通じて患部又は手術器具を観察しながら、様々な作業を行う。カプセル内視鏡は、主に検査又は診断の目的で利用され、被検者の体内で、目的とされる器官を撮像する。
上で例示したような医療上の作業のために撮像画像を表示する場合、表示される画像に被写体が可能な限り鮮明に映っていることが求められる。しかし、実際には、画素値のダイナミックレンジの制約に起因して、白とび又は黒つぶれと呼ばれる視覚情報の欠損が生じることが少なくない。特許文献1は、こうした白とび又は黒つぶれを防止して自然な画像を提供するために、視野へ向けて照射される照明光の配光分布のピーク位置を可変的に制御する仕組みを提案している。
特開2014−230708号公報
しかしながら、白とび又は黒つぶれの防止を狙った既存の技術は、医療上の作業において観察される被写体の、色成分ごとの階調の偏りを考慮していない。例えば、生体の体内が観察される場合、被写体の階調には赤成分の大きさが強く影響し得る。また、特殊光観察(例えば、蛍光観察又は染色を用いた観察など)では、赤以外の特定色が被写体の階調の中で特に意味を持つこともある。これらケースにおいて、複数の色成分のダイナミックレンジを画一的に調整しようとすると、特定色成分のダイナミックレンジが結果的に最適にはならず、観察されるべき階調が欠損する事態が生じ得る。
本開示に係る技術は、こうした既存の技術の欠点を解消し又は少なくとも軽減することを目的とする。
本開示によれば、特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、を備える医療用画像処理装置が提供される。
また、本開示によれば、被写体を撮像する撮像装置と、前記撮像装置から取得される1つ以上の画像信号を処理してカラー画像信号を生成する画像処理装置と、を含み、前記画像処理装置は、特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、を備える、医療用画像処理システムが提供される。
また、本開示によれば、医療用画像処理システムが備えるプロセッサが、特定の色成分についての第1の露光量を伴う第1の特定成分画像信号を取得することと、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号を取得することと、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号を取得することと、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成することと、前記合成により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成することと、を実行する医療用画像処理システムの動作方法が提供される。
また、本開示によれば、医療用画像処理装置を制御するプロセッサ、特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得処理と、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成処理と、前記合成処理により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成処理と、を実行させるためのプログラムが提供される。
本開示に係る技術によれば、医療上の作業において観察されるべき被写体の特定色成分の階調が欠損してしまうリスクを低減し、従来よりも鮮明な被写体の画像を提供することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果と共に、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
一実施形態に係る医療用画像処理システムの概略的な構成について説明するための説明図である。 一実施形態に係る撮像装置(カメラヘッド)及び画像処理装置(CCU)の構成の一例を示すブロック図である。 図2に示した信号取得部へ入力される画像信号及び当該信号取得部から出力される画像信号について概略的に説明するための説明図である。 互いに異なる露光量を伴う画像信号を取得するための第1の手法について説明するための説明図である。 互いに異なる露光量を伴う画像信号を取得するための第2の手法について説明するための説明図である。 互いに異なる露光量を伴う画像信号を取得するための第3の手法について説明するための説明図である。 互いに異なる露光量を伴う画像信号を取得するための第4の手法について説明するための説明図である。 図2に示した合成部における信号の合成について説明するための説明図である。 特定成分画像信号の信号値と合成重みとの関係の一例を描いたグラフを示している。 図2に示したカラー画像生成部のより詳細な構成の一例を示すブロック図である。 ダイナミックレンジの圧縮のための非線型的な補正の一例について説明するためのグラフを示している。 2つの特定成分画像信号の合成に起因する色調の変動の一例について説明するための説明図である。 色調の変動を打ち消した後の3つの色成分の信号値の分布について説明するための説明図である。 一実施形態に係る画像信号処理の流れの一例を示すフローチャートである。 信号取得処理のより詳細な流れの第1の例を示すフローチャートである。 信号取得処理のより詳細な流れの第2の例を示すフローチャートである。 信号取得処理のより詳細な流れの第3の例を示すフローチャートである。 信号取得処理のより詳細な流れの第4の例を示すフローチャートである。 カラー画像生成処理のより詳細な流れの一例を示すフローチャートである。 人間の視覚の典型的なコントラスト感度について説明するためのグラフを示している。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下の順序で説明を行う。
1.システムの概要
2.装置の構成例
2−1.撮像装置
2−2.画像処理装置
3.詳細な実施例
3−1.画像信号の取得
3−2.特定成分合成画像信号の生成
3−3.カラー画像の生成
4.処理の流れ
4−1.全体的な流れ
4−2.信号取得処理
4−3.カラー画像生成処理
5.人間の視覚のコントラスト感度
6.まとめ
<1.システムの概要>
本節では、本開示に係る技術が適用され得る例示的なシステムの概要を説明する。図1は、一実施形態に係る医療用画像処理システム1の概略的な構成の一例を示している。医療用画像処理システム1は、内視鏡下手術システムである。図1の例では、術者(医師)3が、医療用画像処理システム1を用いて、患者ベッド5上の患者7に内視鏡下手術を行っている。医療用画像処理システム1は、内視鏡10と、その他の術具30と、内視鏡10を支持する支持アーム装置40と、内視鏡下手術のための様々な装置が搭載されたカート50と、から構成される。
内視鏡下手術では、腹壁を切って開腹する代わりに、トロッカと呼ばれる筒状の開孔器具37a〜37dが腹壁に複数穿刺される。そして、トロッカ37a〜37dから、内視鏡10の鏡筒11、及びその他の術具30が、患者7の体腔内に挿入される。図1の例では、その他の術具30として、気腹チューブ31、エネルギー処置具33及び鉗子35が示されている。エネルギー処置具33は、高周波電流又は超音波振動での、組織の切開若しくは剥離又は血管の封止などの処置のために利用される。なお、図示した術具30は一例に過ぎず、他の種類の術具(例えば、攝子又はレトラクタなど)が利用されてもよい。
内視鏡10によって撮像される患者7の体腔内の画像は、表示装置53により表示される。術者3は、表示画像をリアルタイムで見ながら、エネルギー処置具33及び鉗子35を用いて、例えば患部を切除するなどの処置を行う。なお、図示を省略しているが、気腹チューブ31、エネルギー処置具33及び鉗子35は、手術中に、術者3又は助手などのユーザによって支持される。
支持アーム装置40は、ベース部41から延伸するアーム部43を備える。図1の例では、アーム部43は、関節部45a、45b及び45c、並びにリンク47a及び47bから構成され、内視鏡10を支持している。アーム部43がアーム制御装置57からの制御に従って駆動される結果として、内視鏡10の位置及び姿勢が制御され、内視鏡10の安定的な位置の固定もまた実現され得る。
内視鏡10は、鏡筒11と、鏡筒11の基端に接続されるカメラヘッド13と、から構成される。鏡筒11の先端からある長さまでの一部分は、患者7の体腔内に挿入される。図1の例では、硬性の鏡筒11を有するいわゆる硬性鏡として内視鏡10が構成されているが、内視鏡10は、いわゆる軟性鏡として構成されてもよい。
鏡筒11の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡10には光源装置55が接続されており、光源装置55によって生成された光が、鏡筒11の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者7の体腔内の観察対象に向かって照射される。なお、内視鏡10は、直視鏡であってもよく、又は斜視鏡若しくは側視鏡であってもよい。
カメラヘッド13は、光学系と、駆動系と、イメージセンサとを内蔵する撮像装置である。カメラヘッド13のイメージセンサは、光学系により集光される観察対象からの反射光(観察光)を光電変換し、電気信号である画像信号を生成する。生成された画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)51へ送信される。カメラヘッド13の駆動系は、ヘッド内の光学系を駆動させることにより、倍率及び焦点距離といった撮像条件を調整する。カメラヘッド13は、単眼カメラとして構成されてもよく、又は複眼カメラとして構成されてもよい。カメラヘッド13は、立体視(3D表示)画像のための画像信号を生成してもよい。
CCU51は、CPU(Central Processing Unit)又はGPU(Graphics Processing Unit)などのプロセッサを有し、内視鏡10及び表示装置53の動作を統括的に制御する。具体的には、CCU51は、カメラヘッド13から取得される画像信号を処理して、表示画像を生成する。一実施形態では、CCU51により生成される表示画像は、カラー画像である。一連の表示画像は、動画(映像)を構成し得る。CCU51において実行される画像処理は、例えば現像及びノイズ低減などの一般的な処理に加えて、後に詳細に説明する、本開示に係る技術に固有の処理を含む。CCU51は、表示画像を表現する画像信号を表示装置53に提供する。また、CCU51は、カメラヘッド13へ制御信号を送信し、カメラヘッド13の駆動を制御する。当該制御信号には、例えば上述した撮像条件を指定する情報が含まれ得る。
表示装置53は、CCU51からの制御に従い、入力される画像信号に基づいて画像を表示する。内視鏡10が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)などの高解像度の撮像を行う場合、及び/又は立体視画像の撮像が行われる場合、表示装置53として、それぞれに対応するケイパビリティ(高解像度表示及び/又は3D表示)を有する装置が用いられ得る。
光源装置55は、例えばLED、キセノンランプ、レーザ光源、又はこれらの組み合わせに相当する光源を含み、観察対象へ向けて照射されるべき照射光を、ライトガイドを通じて内視鏡10へ供給する。
アーム制御装置57は、例えばCPUなどのプロセッサを有し、所定のプログラムに従って動作することにより支持アーム装置40のアーム部43の駆動を制御する。
入力装置59は、医療用画像処理システム1へのユーザ入力を受け付ける1つ以上の入力インタフェースを含む。ユーザは、入力装置59を介して、医療用画像処理システム1へ様々な情報を入力し又は様々な指示を入力することができる。例えば、ユーザは、入力装置59を介して、患者の身体情報、又は後述する特定色情報若しくは手術情報を入力してもよい。特定色情報は、観察対象の主たる色成分である特定色成分を直接的に示し得る。手術情報は、手術の術式を示し、及び特定色成分に関連付けられ得る。また、例えば、ユーザは、入力装置59を介して、アーム部43を駆動させる旨の指示、内視鏡10における撮像条件(照射光の種類、倍率及び焦点距離など)を変更する旨の指示、又はエネルギー処置具33を駆動させる旨の指示などを入力する。
入力装置59は、いかなる種類のユーザ入力を扱ってもよい。例えば、入力装置59は、マウス、キーボード、スイッチ(例えば、フットスイッチ69)又はレバーなどの機構を介して物理的なユーザ入力を検出してもよい。入力装置59は、タッチパネルを介してタッチ入力を検出してもよい。入力装置59は、メガネ型デバイス又はHMD(Head Mounted Display)といったウェアラブルデバイスの形態で実現され、ユーザの視線又はジェスチャを検出してもよい。また、入力装置59は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声コマンドを検出してもよい。
処置具制御装置61は、組織の焼灼若しくは切開又は血管の封止などの処置のために、エネルギー処置具33の駆動を制御する。気腹装置63は、内視鏡10により観察される視野を確保し及び術者の作業空間を確保する目的で、患者7の体腔を膨らませるために、気腹チューブ31を介して当該体腔内にガスを送り込む。レコーダ65は、手術に関する様々な情報(例えば、身体情報、特定色情報、手術情報、画像情報及びバイタルセンサ(図示せず)からの測定情報のうちの1つ以上)を記録媒体へ記録する。プリンタ67は、手術に関する様々な情報を、テキスト、画像又はグラフなどの何らかの形式で印刷する。
こうした医療用画像処理システム1では、通常、表示装置53により表示される画像に、観察対象の被写体が可能な限り鮮明に映っていることが求められる。被写体の階調の十分な再現性がもたらされることは、術者によるミスの無い処置又は正確な診断のために重要である。しかし、実際には、画像信号のダイナミックレンジが被写体の階調に適合しない結果として、白とび又は黒つぶれと呼ばれる視覚情報の欠損が生じることがある。白とび又は黒つぶれの防止を狙った技術は既にいくつか存在するものの、そうした既存の技術は、観察対象の被写体の色成分ごとの階調の偏りを考慮せず、ほとんどの場合、複数の色成分を画一的に扱う。しかし、医療上の作業のために生体の体内が観察される場合、血液及び組織の主要な色成分である赤成分の大きさが、被写体の階調に強く影響し得る。また、特殊光観察では、赤以外の特定色が、正確な診断等の目的のために、被写体の階調の中で特に意味を持つこともある。そこで、本開示に係る技術の実施形態は、複数の色成分のダイナミックレンジを画一的に扱うのではなく、特定色成分を他の色成分よりも重視してそのダイナミックレンジを拡張し又は調整する。それにより、観察されるべき階調の欠損を可能な限り低減した最適な表示画像を得ることが可能となる。
<2.装置の構成例>
図1に例示した医療用画像処理システム1の構成要素の中で、特に、撮像装置の役割を有するカメラヘッド13、及び画像処理装置の役割を有するCCU51が、被写体の撮像及び撮像画像に基づく画像の表示に主に関与する。そこで、本節では、これら2つの装置の具体的な構成について詳細に説明する。
なお、医療用画像処理システム1では、これら撮像装置及び画像処理装置がそれぞれ別体に構成され互いに信号線で接続されるが、本開示に係る技術は、かかる例に限定されない。例えば、後に説明する画像処理装置の機能は、撮像装置に内蔵されるプロセッサに実装されてもよい。また、撮像装置が画像信号を記録媒体に記録し、画像処理装置がその記録媒体から読み出される画像信号を処理してもよい(この場合、これら2つの装置の間に信号線が存在しなくてよい)。
[2−1.撮像装置]
図2には、撮像装置であるカメラヘッド13の構成の一例が示されている。図2を参照すると、カメラヘッド13は、光学系110、イメージセンサ120、通信部130及び駆動系140を備える。
光学系110は、典型的には一組のレンズ(レンズユニットともいう)を含み、鏡筒11の先端から取り込まれる被写体からの観察光(照射光の反射光)を、イメージセンサ120へ向けて集光する。光学系110のレンズユニットは、例えばズームレンズ及びフォーカスレンズを含み得る。ズームレンズ及びフォーカスレンズの位置は、倍率及び焦点位置といった撮像条件を可変的に制御するために、駆動系140により駆動されて変化し得る。
イメージセンサ120は、光学系110により集光される観察光を光電変換し、電気信号である画像信号を生成する。イメージセンサ120は、3つの色成分の画像信号をそれぞれ生成する別個の撮像素子を有する3板式センサであってもよく、又は単板式若しくは2板式といった他のタイプのイメージセンサであってもよい。イメージセンサ120の撮像素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)又はCCD(Charge-Coupled Device)などであってよい。一実施形態において、イメージセンサ120は、フレームタイミングごとに、少なくとも1つの特定色成分の画像信号(以下、特定成分画像信号)と、2つの非特定色成分の画像信号(以下、非特定成分画像信号)を生成する。そして、イメージセンサ120は、生成したこれら画像信号を通信部130へ出力する。
通信部130は、信号線を介してCCU51へ接続される通信インタフェースである。通信部130とCCU51との間の信号線は、例えば光ケーブルなどの、双方向の通信を可能とする高速の伝送線である。例えば、通信部130は、イメージセンサ120から入力される上述した画像信号をCCU51へ送信する。また、通信部130は、CCU51から制御信号が受信されると、受信された制御信号をイメージセンサ120又は駆動系140へ出力する。
駆動系140は、アクチュエータとコントローラとを有する。アクチュエータは、光学系110に含まれるズームレンズ又はフォーカスレンズといった可動部材を、CCU51からの制御信号を解釈するコントローラによる制御に従って動かす。コントローラは、例えば、制御信号により指定される倍率及び焦点距離といった撮像条件を実現するように、アクチュエータの動作を決定する。なお、駆動系140へ設定される倍率及び焦点距離、又はイメージセンサ120へ設定されるフレームレートなどの撮像条件は、CCU51から制御されることなく、カメラヘッド13内で自動的に調整され、又は予め固定的に設定されてもよい。
[2−2.画像処理装置]
図2には、画像処理装置であるCCU51の構成の一例もまた示されている。図2を参照すると、CCU51は、信号取得部210、合成部220、カラー画像生成部230及び制御部240を備える。
信号取得部210は、上述したカメラヘッド13の通信部130へ信号線を介して接続される通信インタフェースを含み得る。一実施形態において、信号取得部210は、特定色成分についての第1の露光量を伴う画像信号である、第1の特定成分画像信号を取得する。また、信号取得部210は、特定色成分についての第2の露光量を伴う画像信号である、第2の特定成分画像信号をも取得する。信号取得部210は、第1及び第2の特定成分画像信号の双方をカメラヘッド13から取得してもよい。その代わりに、信号取得部210は、第1及び第2の特定成分画像信号の一方をカメラヘッド13から取得し、取得した当該一方の特定成分画像信号から他方の特定成分画像信号を生成してもよい。本明細書において、「露光量Eを伴う画像信号」との表現は、(主に露光時間と絞りとにより決定される)露光量Eでの実際の撮像の結果である画像信号のみならず、信号値の演算を通じて仮想的に露光量Eで撮像されたのと同等の信号値を有することになる画像信号をも意味し得るものとする。例えば、露光量E/2でそれぞれ実際に撮像された2つの画像信号の信号値を加算することにより、仮想的に露光量E(=E/2+E/2)を伴う画像信号の信号値を導出することができる。
さらに、信号取得部210は、上記特定色成分とは異なる2つの色成分にそれぞれ対応する画像信号である、2つの非特定成分画像信号をも取得する。信号取得部210は、取得されるこれら画像信号について、解像度を調整するためのリサイズ又はフレームタイミングを合わせるための同期などの、付随的な処理を行ってもよい。信号取得部210は、取得した第1及び第2の特定成分画像信号、並びに2つの非特定成分画像信号を、合成部220へ出力する。信号取得部210における信号取得処理のいくつかのより詳細な例について、後にさらに説明する。
合成部220は、信号取得部210から入力される第1及び第2の特定成分画像信号を、特定色成分の強さに応じた合成重みで合成することにより、特定成分合成画像信号を生成する。上述したように、第1及び第2の特定成分画像信号は、互いに異なる露光量E,Eを伴う画像信号である。ここで、第2の露光量Eは、第1の露光量Eよりも多いものとする(E>E)。典型的には、合成部220は、特定色成分の弱い画素においては、第1の特定成分画像信号に適用される合成重みWRSを、第2の特定成分画像信号に適用される合成重みWRLよりも相対的に低い値に設定する。なお、WRS+WRL=1であるものとする。即ち、特定色成分の弱い画素において、より多くの露光量を伴う画像信号へより高い重みを適用することにより、低信号値領域の階調の欠損が回避され又は軽減される。同時に、合成部220は、特定色成分の強い画素においては、第1の特定成分画像信号に適用される合成重みWRSを、第2の特定成分画像信号に適用される合成重みWRLよりも相対的に高い値に設定する。即ち、特定色成分の強い画素において、より少ない露光量を伴う画像信号へより高い重みを適用することにより、高信号値領域の階調の欠損(信号値の飽和)もまた回避され又は軽減される。合成部220は、このような合成の結果として生成される特定成分合成画像信号を、カラー画像生成部230へ出力する。また、合成部220は、信号取得部210から入力される2つの非特定成分画像信号を、そのままカラー画像生成部230へ出力する。
カラー画像生成部230は、合成部220から入力される特定成分合成画像信号、及び2つの非特定成分画像信号から、カラー画像信号を生成する。カラー画像生成部230は、例えば、入力される特定成分合成画像信号のダイナミックレンジが非特定成分画像信号のダイナミックレンジよりも大きい場合に、特定成分合成画像信号のダイナミックレンジを圧縮してもよい。また、カラー画像生成部230は、各画像信号について、例えばノイズ低減、ホワイトバランス調整、ボケ補正及び高解像度化のうちの1つ以上を含み得る高品質化処理を行ってもよい。カラー画像生成部230は、例えばこうした様々な画像信号処理を経た後の特定成分合成画像信号及び2つの非特定成分画像信号を多重化することによりカラー画像信号を生成し、生成したカラー画像信号を表示装置53又はレコーダ65へ出力する。
一実施形態において、カラー画像生成部230は、合成部220における第1の特定成分画像信号及び第2の特定成分画像信号の合成に起因する色調の変動を打ち消すように、特定成分合成画像信号又は2つの非特定成分画像信号を調整してもよい。典型的には、露光量Eを伴う第1の特定成分画像信号と露光量E(E>E)を伴う第2の特定成分画像信号との合成は、ダイナミックレンジの全体から見ると信号値のピークを下方へずらすように作用する。そのため、例えば観察光の3つの色成分が同じレベルであったとすると(即ち、白色光)、ダイナミックレンジが揃えられた後の特定成分合成画像信号の信号レベルは、非特定成分画像信号の信号レベルよりも低い値を示すことになり、即ち生成される画像の色調が変動し得る。そこで、カラー画像生成部230は、こうした望ましくない色調の変動を打ち消す処理を行うことにより、表示画像の色調が不自然となることを防止する。カラー画像生成部230のより詳細な構成の例について、後にさらに説明する。
制御部240は、ユーザ(例えば、術者3)が望む通りの画像が撮像されるように、入力装置59により検出されるユーザ入力と、(図示しない記憶部により記憶される)設定情報とに基づいて、内視鏡10の動作を制御する。また、制御部240は、表示装置53により適切な画像が表示されるように、上述した信号取得部210、合成部220及びカラー画像生成部230により実行される画像処理を制御する。
一例として、制御部240は、観察対象の色成分に関連付けられる設定情報を取得し、取得した設定情報に応じて特定色成分を設定してもよい。例えば、設定情報は、主として観察されるべき色成分を直接的に示す色成分情報であってもよい。また、設定情報は、手術情報であってもよく、手術情報と観察対象の色成分との関連付けが予め定義されていてもよい。例えば、手術情報が示す術式が通常のタイプの手術を示す場合には、制御部240は、赤(R)成分を特定色成分に、緑(G)成分及び青(B)成分を非特定色成分に設定し得る。また、制御部240は、設定情報が示す術式が特殊光観察を要する手術を示す場合には、個々の術式において主として観察されるべき色成分を特定色成分に設定し得る。本明細書では、これ以降、カラー画像の画像信号がR成分、G成分及びB成分から構成される例を主に説明するが、本開示に係る技術は、画像信号が他の色成分を含むケースにも適用可能である。
<3.詳細な実施例>
本節では、上述したCCU51の各部の構成についてのより詳細な実施例を説明する。ここでは、説明のための例として、特定色成分は赤(R)成分であるものとする。しかしながら、特定色成分が他の色である場合にも、以下の説明は同等に適用可能であることに留意されたい。
[3−1.画像信号の取得]
図3は、図2に示した信号取得部210へ入力される画像信号、及び信号取得部210から出力される画像信号について概略的に説明するための説明図である。図3には、カメラヘッド13のイメージセンサ120の構成の一例も示されている。ここでは、イメージセンサ120は、3板式センサであり、R成分用センサ121、G成分用センサ123及びB成分用センサ125を含む。
信号取得部210には、R成分用センサ121により生成される少なくとも1つの入力特定成分画像信号Iin_Rが供給される。例えば、入力特定成分画像信号は、第1の露光量を伴う第1の特定成分画像信号IRS及び第2の露光量を伴う第2の特定成分画像信号IRLを含んでもよい。その代わりに、信号取得部210は、入力特定成分画像信号から第1の特定成分画像信号IRS及び第2の特定成分画像信号IRLの一方又は双方を生成してもよい。さらに、信号取得部210には、G成分用センサ123により生成される入力非特定成分(G成分)画像信号Iin_G、及びB成分用センサ125により生成される入力非特定成分(B成分)画像信号Iin_Bが供給される。なお、イメージセンサ120がベイヤ配列を有する単板式センサである場合には、信号取得部210は、これ以降で説明される処理の前に、イメージセンサ120により生成される画像信号をデモザイクすることにより、3種類の色成分の入力画像信号を分離し得る。
図4A〜図4Dは、互いに異なる露光量を伴う画像信号を取得するための例示的な4つの手法についてそれぞれ説明するための説明図である。
(1)第1の手法
図4Aに示した第1の手法によれば、信号取得部210は、特定の色成分について第1の露光時間での露光を通じて生成される第1の特定成分画像信号、及び、特定の色成分について第2の露光時間での露光を通じて生成される第2の特定成分画像信号を取得する。
より具体的には、R成分用センサ121は、斜線でハッチングされた画素位置に対応する露光時間の長い画素(長畜画素)の集合と、ドットでハッチングされた画素位置に対応する露光時間の短い画素(短畜画素)の集合とを有する。信号取得部210へ入力される入力特定成分画像信号Iin_Rは、これら双方の画素の集合からの画素値を含む。信号取得部210は、入力特定成分画像信号Iin_Rから、短蓄画素の信号値のみ(RS1a,RS1b,RS2a,RS2a,…)を抽出し、並びに必要に応じてリサイズ及び平均演算(例えば、RS=(RS1a+RS1b)/2)を実行することにより、第1の特定成分画像信号IRS(RS,RS,RS,RS,…)を取得する。同様に、信号取得部210は、入力特定成分画像信号Iin_Rから、長蓄画素の信号値のみ(RL1a,RL1b,RL2a,RL2a,…)を抽出し、並びに必要に応じてリサイズ及び平均演算(例えば、RL=(RL1a+RL1b)/2)を実行することにより、第2の特定成分画像信号IRL(RL,RL,RL,RL,…)を取得する。
G成分用センサ123及びB成分用センサ125の全ての画素は、均一の露光時間を有し、その露光時間は、R成分用センサ121の長蓄画素の露光時間及び短蓄画素の露光時間のいずれと等しくてもよい。信号取得部210は、例えば、G成分用センサ123からの入力非特定成分画像信号Iin_Gの信号値について、色成分の間の解像度の相違が解消されるようにリサイズ及び平均演算(例えば、G=(G1a+G1b+G1c+G1d)/4)を実行することにより、第1の非特定成分画像信号Iを取得する。また、信号取得部210は、B成分用センサ125からの入力非特定成分画像信号Iin_Bの信号値について、同様にリサイズ及び平均演算(例えば、B=(B1a+B1b+B1c+B1d)/4)を実行することにより、第2の非特定成分画像信号Iを取得する。こうしたリサイズによって画像の解像度はいくらか減少し得るが、近年利用されているイメージセンサは十分に高い解像度を有するため、そうした解像度の減少は画像の実用性には影響しない。
図4Aの例では、R成分用センサ121において露光時間の長い画素群及び露光時間の短い画素群が空間的に交互に配置されていたが、これら画素群は、他の空間的パターンで配置されてもよい。
なお、2種類の露光時間で露光される画素群が空間的に分散される代わりに、R成分用センサ121において、時間分割方式で2種類の露光時間での露光及び撮像が行われてもよい。この場合、R成分用センサ121の画素群は、第1のタイミングにて第1の露光時間で露光され、及び第2のタイミングにて第2の露光時間で露光される。そして、信号取得部210は、第1のタイミングでR成分用センサ121から第1の特定成分画像信号を取得し、第2のタイミングでR成分用センサ121から第2の特定成分画像信号を取得し得る。
(2)第2の手法
図4Bに示した第2の手法によれば、信号取得部210は、特定の色成分について第1の露光時間で露光される画素群から第1の特定成分画像信号を取得し、及び、第1の特定成分画像信号における隣り合う画素の信号値を加算することにより、第2の特定成分画像信号を取得する。
第2の手法では、R成分用センサ121、G成分用センサ123及びB成分用センサ125の全ての画素は、均一の露光時間を有していてよい。信号取得部210へ入力される入力特定成分画像信号Iin_Rは、そのまま第1の特定成分画像信号IRS(R,R,…,R,RK+1,…)として扱われる。また、信号取得部210は、入力特定成分画像信号Iin_Rの各画素位置の信号値に、隣接する画素位置の信号値(R,R,…,RK+1,RK+2,…)を加算することにより、第2の特定成分画像信号IRL(R´,R´,…,R´,RK+1´,…)を取得する。第2の特定成分画像信号IRLは、第1の特定成分画像信号IRSよりも多くの露光量を疑似的に伴う画像信号となる。
信号取得部210は、図4Bに示したように、第1の入力非特定成分画像信号Iin_G及び第2の入力非特定成分画像信号Iin_Bを、そのまま第1の非特定成分画像信号I及び第2の非特定成分画像信号Iとして扱ってもよい。その代わりに、信号取得部210は、非特定成分画像信号についても隣り合う画素の信号値を加算することにより、より多くの露光量を疑似的に伴う非特定成分画像信号を生成してもよい。
(3)第3の手法
図4Cに示した第3の手法によれば、信号取得部210は、特定色成分について第1の露光時間で露光される画素群から第1のフレームレートで第1の特定成分画像信号を取得し、及び、時間的に連続する複数のフレームにわたる第1の特定成分画像信号の信号値の加算により、第2の特定成分画像信号を取得する。
第3の手法においても、R成分用センサ121、G成分用センサ123及びB成分用センサ125の全ての画素は、均一の露光時間を有していてよい。信号取得部210へ入力される入力特定成分画像信号Iin_Rは、そのまま第1の特定成分画像信号IRS(R,R,…,R,RK+1,…)として扱われる。また、信号取得部210は、時刻T=tで取得される入力特定成分画像信号Iin_Rの信号値と、時刻T=t+dt(dtはフレームレートの逆数)で取得される入力特定成分画像信号Iin_Rの信号値とを共通する画素位置ごとに加算することにより、第2の特定成分画像信号IRL(R´,R´,…,R´,RK+1´,…)を取得する。第2の特定成分画像信号IRLは、実質的に第1の特定成分画像信号IRSよりも多くの露光量を伴う画像信号となる。
なお、第2の特定成分画像信号IRLは、第1のフレームレートの半分に等しい第2のフレームレートで生成されてもよい(例えば、第1のフレームレートF=120[frames/sec]の場合、第2のフレームレートF=60[frames/sec])。その代わりに、例えばK番目及びK+1番目のフレームの加算の次にK+1番目及びK+2番目のフレームの加算をすることにより、第1のフレームレートに等しいレートで第2の特定成分画像信号IRLが取得されてもよい(即ち、F=F)。
信号取得部210は、図4Cに示したように、第1の入力非特定成分画像信号Iin_G及び第2の入力非特定成分画像信号Iin_Bを、そのまま第1の非特定成分画像信号I及び第2の非特定成分画像信号Iとして扱ってもよい。その代わりに、信号取得部210は、入力非特定成分画像信号について時間的に連続する複数のフレームにわたる信号値を加算することにより、より多くの露光量を伴う非特定成分画像信号を生成してもよい。
(4)第4の手法
図4Dに示した第4の手法によれば、信号取得部210は、第1の透過率を有するフィルタを通じて特定色成分を受光する画素群と、第1の透過率とは異なる透過率を有するフィルタを通じて特定の色成分を受光する画素群とを有する撮像装置から、第1の特定成分画像信号及び第2の特定成分画像信号を取得する。
図4Dの例では、R成分について、相対的に透過率の高いフィルタ122を通過した光に基づく入力特定成分画像信号Iin_RLと、相対的に透過率の低いフィルタ124を通過した光に基づく入力特定成分画像信号Iin_RSとが示されている。第4の手法においても、R成分用センサ121、G成分用センサ123及びB成分用センサ125の全ての画素は、均一の露光時間を有していてよい。信号取得部210は、例えば、入力特定成分画像信号Iin_RSを第1の特定成分画像信号IRS(RS,RS,RS,RS,…)として、入力特定成分画像信号Iin_RLを第2の特定成分画像信号IRL(RL,RL,RL,RL,…)として扱う。なお、2つの入力特定成分画像信号Iin_RS及びIin_RLのための画素は、図4Aを用いて説明したように単一のR成分用センサ121に混在してもよく、又は別個のセンサにそれぞれ配置されてもよい。後者の場合には、一方のセンサにフィルタ122が付設され、他方のセンサにフィルタ124が付設される。
さらに、信号取得部210は、フィルタ126を通過した光に基づく入力特定成分画像信号Iin_Gを第1の非特定成分画像信号Iとして扱い、フィルタ128を通過した光に基づく入力特定成分画像信号Iin_Bを第2の非特定成分画像信号Iとして扱う。フィルタ126及び128の透過率は、図4Dに示したように、フィルタ124の(相対的に低い)透過率に等しくてもよく、又はフィルタ122の(相対的に高い)透過率に等しくてもよい。また、フィルタ122及び124のうちの一方と、フィルタ126及び128とがイメージセンサ120の構成から省略されてもよい。
信号取得部210は、本項で説明したいずれかの手法で取得される4種類の画像信号、即ち第1の特定成分画像信号IRS、第2の特定成分画像信号IRL、第1の非特定成分画像信号I及び第2の非特定成分画像信号Iを、合成部220へ出力する。
[3−2.特定成分合成画像信号の生成]
次に、図5及び図6を用いて、合成部220における信号の合成についてあらためて説明する。図5の上段において左から現れる矢印は第1の特定成分画像信号IRSを、下段において左から現れる矢印は第2の特定成分画像信号IRLを表現している。合成部220は、第1の特定成分画像信号IRSに合成重みWRSを、第2の特定成分画像信号IRLに合成重みWRLを適用する。合成重みWRSと合成重みWRLとの和は1に等しく、合成重みWRS及びWRLは共にゼロ以上1以下の実数である。合成重みWRS及びWRLの値は可変的であり、合成部220はこれら重みの値を、画素ごとに、特定成分画像信号の信号値(即ち、特定色成分の強さ)に依存して決定する。
図6は、第2の特定成分画像信号IRLの信号値と合成重みWRLとの関係の一例を描いたグラフを示している。図6のグラフ221によれば、特定成分画像信号の信号値が閾値THを下回る区間では、合成重みWRLは1.0に等しい。特定成分画像信号の信号値が閾値TH以上かつ閾値TH以下である区間では、合成重みWRLは1.0からゼロへと単調減少する。特定成分画像信号の信号値が閾値THを上回る(最大値RLmaxまでの)区間では、合成重みWRLはゼロに等しい。このように合成重みが決定される場合、特定色成分であるR成分の弱い画像領域では、第2の特定成分画像信号IRLが合成画像信号により多く寄与する一方、R成分の強い画像領域では、第1の特定成分画像信号IRSが合成画像信号により多く寄与する。その結果、合成部220により生成される合成画像信号において、低信号値領域でも高信号値領域でも、R成分の階調の欠損が回避され又は軽減される。なお、信号値と合成重みとの関係を示すグラフは、図6に示した例に限定されず、信号値の増加に伴って減少する傾向を有する限りいかなる軌跡を描いてもよい。
合成部220は、このように生成される特定成分合成画像信号Iを、カラー画像生成部230へ出力する。
[3−3.カラー画像の生成]
図7は、図2に示したカラー画像生成部230のより詳細な構成の一例を示している。図7を参照すると、カラー画像生成部230は、ダイナミックレンジ(DR)補正部231、色調調整部233及び多重化部236を有する。
(1)ダイナミックレンジの補正
ある実施例によれば、信号取得部210により取得される4種類の画像信号のうち第2の特定成分画像信号IRLのみが、非特定成分画像信号を含む他の画像信号よりも多くの露光量を伴う。この場合、カラー画像生成部230へ入力される特定成分合成画像信号Iのダイナミックレンジは、2つの非特定成分画像信号I及びIのダイナミックレンジよりも大きくなり得る。そこで、DR補正部231は、特定成分合成画像信号I、非特定成分画像信号I及び非特定成分画像信号Iのダイナミックレンジが互いに等しくなるように、特定成分合成画像信号Iのダイナミックレンジを圧縮する。より具体的には、DR補正部231は、1よりも小さい補正率を特定成分合成画像信号Iに乗算することにより、そのダイナミックレンジを圧縮し得る。例えば、DR補正部231は、ダイナミックレンジの幅の比に相当する固定的な補正率を用いて、信号値を線型的に補正してもよい。その代わりに、DR補正部231は、ガンマ補正などの非線型的な補正を実行してもよい。
図8は、ダイナミックレンジの圧縮のための非線型的な補正の一例について説明するためのグラフを示している。図8を参照すると、ゼロから2.0までの入力値をゼロから1.0までの出力値へと補正する際に利用され得る補正率曲線232aが示されている。補正率曲線232aは、いわゆるハイパーガンマ曲線に相当する。DR補正部231は、このような曲線を描く補正率を用いて特定成分合成画像信号Iをガンマ補正することにより、R成分の高信号値領域における階調をより良好に残しながら、特定成分合成画像信号Iのダイナミックレンジを圧縮することができる。一方、図8の補正率曲線232bは、入力値と出力値との間でダイナミックレンジを変化させない、通常のガンマ曲線である。DR補正部231は、補正率曲線232bに従って非特定成分画像信号I及びIをもガンマ補正してもよい。
なお、DR補正部231は、特定成分合成画像信号Iのダイナミックレンジを圧縮する代わりに、特定成分合成画像信号I、並びに非特定成分画像信号I及びIのダイナミックレンジが互いに等しくなるように、非特定成分画像信号I及びIのダイナミックレンジを伸長してもよい。
(2)色調の調整
既に述べたように、合成部220における互いに異なる露光量を伴う2つの特定成分画像信号の合成は、より多くの露光量を伴う画像信号のダイナミックレンジの全体から見ると、信号値のピークを下方へずらすように作用する。そして、特定色成分の信号値のみが押し下げられた場合、最終的に得られるはずのカラー画像の色調が意図に反して変動し得る。
図9Aは、2つの特定成分画像信号の合成に起因する色調の変動の一例について説明するための説明図である。図9Aの横軸は、各色成分の、ゼロから最大値Xmaxまでのダイナミックレンジを表す。縦軸は、信号値の度数を表す。グラフ234aはR成分の信号値の分布、グラフ234bはG成分の信号値の分布、グラフ234cはB成分の信号値の分布をそれぞれ表す。例えば、観察光の色調が白色に近かったとして、特定色成分であるR成分についてのみ、上述した異なる露光量を伴う2つの特定成分画像信号を合成すると、R成分の信号値のピークのみが、例えば値Xから値Xへと押し下げられる。非特定色成分であるG成分及びB成分の信号値のピークは、値X付近のまま維持される。このまま色調を調整することなくカラー画像を表示させると、白色に近かった被写体は、赤の補色で着色されたように表示され得る。
そこで、色調調整部233は、こうした色調の変動を打ち消すように、少なくとも1つの色成分の画像信号を調整する。一例として、色調調整部233は、色調の変動を打ち消す方向に非特定成分画像信号I及びIのピークを移動させるトーンカーブを、非特定成分画像信号I及びIに適用する。
図9Bは、トーンカーブを非特定成分画像信号I及びIに適用することにより、色調の変動を打ち消した後の、3つの色成分の信号値の分布を示している。グラフ235bはG成分の信号値の分布、グラフ235cはB成分の信号値の分布をそれぞれ表す。図9Bから理解されるように、トーンカーブの適用後に、3つの色成分の信号値のピークは全て、信号値X付近に位置している。このように調整された画像信号に基づいてカラー画像を表示させると、白色に近かった被写体は、画面上でも白色に近い色で表示される。また、グラフ234aは不変であり、即ち特定成分合成画像信号Iは維持されるため、観察されるべき特定色成分であるR成分の高信号値領域における階調は良好に保全される。
(3)多重化
多重化部236は、色調調整部233による色調調整後の特定成分合成画像信号I並びに2つの非特定成分画像信号I及びIを多重化することによりカラー画像信号Ioutを生成し、生成したカラー画像信号Ioutを表示装置53又はレコーダ65へ出力する。
図7には示していないものの、カラー画像生成部230は、上述した画像信号処理のうちの任意のタイミングで、個々の色成分の画像又はカラー画像の品質を向上させるために、例えばノイズ低減、ホワイトバランス調整、ボケ補正及び高解像度化のうちの1つ以上を含み得る高品質化処理を行ってもよい。
<4.処理の流れ>
本節では、上述した実施形態においてCCU51により実行され得る処理の流れの例を、いくつかのフローチャートを用いて説明する。なお、フローチャートに複数の処理ステップが記述されるが、それら処理ステップは、必ずしもフローチャートに示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
[4−1.全体的な流れ]
図10は、一実施形態に係る画像信号処理の流れの一例を示すフローチャートである。図10を参照すると、まず、制御部240は、例えば予め記憶される設定情報を取得し、取得した設定情報に応じて特定色成分を設定する(ステップS110)。
次に、信号取得部210は、信号取得処理を実行して、カラー画像の1フレームを生成するために要する、第1の特定成分画像信号、第2の特定成分画像信号、及び2つの非特定成分画像信号を取得する(ステップS120)。第1の特定成分画像信号は、特定色成分について第1の露光量を伴う。第2の特定成分画像信号は、特定色成分について上記第1の露光量とは異なる第2の露光量を伴う。2つの非特定成分画像信号は、2つの非特定色成分それぞれについて、第1の露光量又は第2の露光量を伴う。ここで実行される信号取得処理のいくつかのより詳細な流れの例を、後にさらに説明する。信号取得部210は、取得したこれら画像信号を、合成部220へ出力する。
次に、合成部220は、信号取得部210から入力される第1及び第2の特定成分画像信号を、特定色成分の強さに応じた合成重みで合成することにより、特定成分合成画像信号を生成する(ステップS160)。第2の露光量が第1の露光量よりも多いものとして、典型的には、合成部220は、特定色成分の弱い画素において第2の特定成分画像信号に適用される合成重みを相対的に高く、特定色成分の強い画素において第1の特定成分画像信号に適用される合成重みを相対的に高く設定する。それにより、特定色成分についての階調の再現性が高められる。そして、合成部220は、特定成分合成画像信号、及び2つの非特定成分画像信号をカラー画像生成部230へ出力する。
次に、カラー画像生成部230は、カラー画像生成処理を実行して、特定成分合成画像信号及び2つの非特定成分画像信号からカラー画像信号を生成する(ステップS170)。ここで実行されるカラー画像生成処理のより詳細な流れの例を、後にさらに説明する。カラー画像生成部230により生成されたカラー画像信号は、例えば、カラー画像の表示のために表示装置53へと出力されてもよく、又は画像若しくは動画の記録のためにレコーダ65へと出力されてもよい。
上述したステップS120〜ステップS170は、画像信号処理の終了条件が満たされるまで繰り返される(ステップS190)。例えば、処理の終了を指示するユーザ入力が入力装置59を介して検出されると、上述した画像信号処理は終了する。
[4−2.信号取得処理]
(1)第1の例
図11Aは、図10に示した信号取得処理のより詳細な流れの第1の例を示すフローチャートである。第1の例は、図4Aを用いて説明したシナリオに対応する。
図11Aを参照すると、まず、信号取得部210は、イメージセンサ120において露光時間Eで露光された特定色成分X(例えば、XはR、G又はBのうちの1つ)の画素群から、第1の特定成分画像信号を取得する(ステップS121)。そして、信号取得部210は、第1の特定成分画像信号のN画素分のブロックごとに、信号値を平均する(ステップS122)。図4Aの例によればN=2であり、但しNは任意の整数であってよい。
また、信号取得部210は、イメージセンサ120において露光時間Eで露光された非特定色成分Y、Z(例えば、Y及びZは、R、G又はBのうちの残りの2つ)の画素群から、対応する2つの非特定成分画像信号を取得する(ステップS123)。そして、信号取得部210は、各非特定成分画像信号について、M画素分のブロックごとに信号値を平均する(ステップS124)。図4Aの例によればM=4であり、但しMは任意の整数であってよい。
次に、信号取得部210は、イメージセンサ120において露光時間Eで露光された特定色成分Xの画素群から、第2の特定成分画像信号を取得する(ステップS125)。そして、信号取得部210は、第2の特定成分画像信号のN画素分のブロックごとに、信号値を平均する(ステップS126)。
(2)第2の例
図11Bは、図10に示した信号取得処理のより詳細な流れの第2の例を示すフローチャートである。第2の例は、図4Bを用いて説明したシナリオに対応する。
図11Bを参照すると、まず、信号取得部210は、イメージセンサ120において露光時間Eで露光された特定色成分Xの画素群から、第1の特定成分画像信号を取得する(ステップS131)。
また、信号取得部210は、イメージセンサ120において露光時間Eで露光された非特定色成分Y、Zの画素群から、対応する2つの非特定成分画像信号を取得する(ステップS133)。
次に、信号取得部210は、第1の特定成分画像信号における隣り合う画素の信号値を加算することにより、第2の特定成分画像信号を取得する(ステップS135)。
(3)第3の例
図11Cは、図10に示した信号取得処理のより詳細な流れの第3の例を示すフローチャートである。第3の例は、図4Cを用いて説明したシナリオに対応する。
図11Cを参照すると、まず、信号取得部210は、イメージセンサ120から、特定色成分Xについてのi番目のフレームの第1の特定成分画像信号を取得する(ステップS141)。
また、信号取得部210は、イメージセンサ120から、非特定色成分Y、Zについてのi番目のフレームの対応する2つの非特定成分画像信号を取得する(ステップS143)。
次に、信号取得部210は、イメージセンサ120から、特定色成分Xについてのi+1番目のフレームの第1の特定成分画像信号を取得する(ステップS145)。
また、信号取得部210は、イメージセンサ120から、非特定色成分Y、Zについてのi+1番目のフレームの対応する2つの非特定成分画像信号を取得する(ステップS147)。
次に、信号取得部210は、時間的に連続するi番目及びi+1番目のフレームにわたる第1の特定成分画像信号の信号値を画素ごとに加算することにより、特定色成分Xについての第2の特定成分画像信号を取得する(ステップS149)。
(4)第4の例
図11Dは、図10に示した信号取得処理のより詳細な流れの第4の例を示すフローチャートである。第4の例は、図4Dを用いて説明したシナリオに対応する。
図11Dを参照すると、まず、信号取得部210は、イメージセンサ120において透過率αのフィルタを介して生成された、特定色成分Xについての第1の特定成分画像信号を取得する(ステップS151)。
また、信号取得部210は、イメージセンサ120において透過率αのフィルタを介して生成された、非特定色成分Y、Zに対応する2つの非特定成分画像信号を取得する(ステップS153)。
また、信号取得部210は、イメージセンサ120において透過率α(例えば、α<α)のフィルタを介して生成された、特定色成分Xについての第2の特定成分画像信号を取得する(ステップS155)。
[4−3.カラー画像生成処理]
図12は、図10に示したカラー画像生成処理のより詳細な流れの一例を示すフローチャートである。
図12を参照すると、まず、カラー画像生成部230は、特定成分合成画像信号、及び2つの非特定成分画像信号のダイナミックレンジが互いに等しくなるように、特定成分合成画像信号のダイナミックレンジを圧縮する(ステップS171)。
次に、カラー画像生成部230は、露光量の異なる2つの特定成分画像信号の合成に起因する色調の変動を打ち消すように、色調の変動を打ち消す方向に信号のピークを移動させるトーンカーブを2つの非特定成分画像信号に適用する(ステップS173)。
そして、カラー画像生成部230は、色調調整部233による色調調整後の特定成分合成画像信号、及び2つの非特定成分画像信号から、カラー画像信号を生成する(ステップS175)。
なお、図12には示していないものの、カラー画像生成部230は、カラー画像生成処理の中の任意のタイミングで、例えばノイズ低減、ホワイトバランス調整、ボケ補正又は高解像度化といった、何らかの高品質化処理を行ってよい。
<5.人間の視覚のコントラスト感度>
図13は、人間の視覚の典型的なコントラスト感度について説明するためのグラフを示している。図13の横軸は、視野に現れるテキスチャの空間周波数である。縦軸は、ゼロから1までの範囲に正規化された、コントラスト感度の大きさである。グラフG1は、輝度についての人間の視覚のコントラスト感度を表すCSF(Contrast Sensitivity Function)曲線の一例である。グラフG2は、赤−緑領域におけるCSF曲線の一例である。グラフG3は、黄−青領域におけるCSF曲線の一例である。図13から理解されることとして、人間の視覚の、特定色成分のコントラスト感度のピークは、輝度のコントラスト感度のピークよりも低帯域側に有意にズレている。従って、3つの色成分について画一的に例えばHDR合成をした場合と比較して、特定の色成分に限って同様の処理をした場合には、ユーザにより感知される主観的な画質の劣化(例えば、解像感の低下)はより小さくて済む。こうした観点からも、観察されるべき特定色成分を特に対象として階調を維持し又は強調しようとする上述した実施形態は、3つの色成分を共通的に扱う既存の手法と比較して有利である。
<6.まとめ>
ここまで、図1〜図13を用いて本開示に係る技術の実施形態について詳しく説明した。上述した実施形態によれば、特定色成分についての第1の露光量を伴う第1の特定成分画像信号及び第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号が、特定色成分の強さに応じた重みで合成され、当該合成の結果として生成される特定成分合成画像信号と、2つの非特定成分画像信号とに基づいて、カラー画像信号が生成される。従って、被写体の階調に強く影響する色成分又は被写体の階調の中で特に意味を持つ色成分に相当する特定色成分のダイナミックレンジを適切に調整し、観察されるべき階調が欠損してしまうリスクを効果的に低減することができる。
また、上述した実施形態によれば、上記第1の特定成分画像信号及び上記第2の特定成分画像信号の合成に起因する色調の変動を打ち消すように画像信号が調整された後に、上記カラー画像信号が生成され得る。従って、特定色成分に特化した信号の調整に起因する望ましくない色調の変動が最終的に出力されるカラー画像に現れることを防止することができる。
また、上述した実施形態によれば、色調の上記変動を打ち消すために、上記非特定成分画像信号にそれらのピークを移動させるトーンカーブが適用され得る。従って、望ましくない色調の変動を防止しながら、例えば特定色成分の高信号値領域における階調を良好に保全することができる。
また、ある実施例によれば、上記第1の特定成分画像信号は、第1の露光時間での露光を通じて又は第1の透過率を有するフィルタを通じて生成され、上記第2の特定成分画像信号は、第2の露光時間での露光を通じて又は第2の透過率を有するフィルタを通じて生成され得る。この場合、被写体の動きに起因する動きボケを特定成分合成画像信号において生じさせることなく、かつ解像感を犠牲にすることなく、特定色成分の階調を維持し又は強調することができる。
また、ある実施例によれば、上記第1の特定成分画像信号は、第1の露光時間で露光される画素群から取得され、上記第2の特定成分画像信号は、上記第1の特定成分画像信号における隣り合う画素の信号値を加算することにより生成される。この場合、撮像装置において2通りの露光量を扱うための特別な構成又は制御を要することなく、疑似的に上記第1の特定成分画像信号よりも多くの露光量を伴う第2の特定成分画像信号を取得することができる。
また、ある実施例によれば、上記特定色成分は、動的に取得される設定情報に応じて設定され得る。従って、通常の手術における赤色及び特殊光観察における特定色など、様々な色成分を動的に特定色成分として設定することが可能であり、システムが利用される場面ごとに異なる特定色成分のダイナミックレンジを柔軟に調整することができる。
なお、本明細書では、手術用内視鏡を含む画像処理システムの例を主に説明した。しかしながら、本開示に係る技術は、かかる例に限定されず、カプセル内視鏡などの他の種類の内視鏡、又は、顕微鏡などの他の種類の医療用観察装置にも適用可能である。また、本開示に係る技術は、そうした医療用観察装置に搭載される画像処理モジュール(例えば、画像処理チップ)又はカメラモジュールとして実現されてもよい。
本明細書において説明した画像処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、実行時にRAM(Random Access Memory)に読み込まれ、CPUなどのプロセッサにより実行される。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果と共に、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、
前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、
前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、
を備える医療用画像処理装置。
(2)
前記カラー画像生成部は、前記第1の特定成分画像信号及び前記第2の特定成分画像信号の前記合成に起因する色調の変動を打ち消すように、前記特定成分合成画像信号又は前記2つの非特定成分画像信号を調整する、前記(1)に記載の医療用画像処理装置。
(3)
前記カラー画像生成部は、前記色調の前記変動を打ち消す方向に前記非特定成分画像信号のピークを移動させるトーンカーブを前記非特定成分画像信号に適用することにより、前記非特定成分画像信号を調整する、前記(2)に記載の医療用画像処理装置。
(4)
前記信号取得部は、前記特定の色成分について第1の露光時間での露光を通じて生成される前記第1の特定成分画像信号、及び、前記特定の色成分について第2の露光時間での露光を通じて生成される前記第2の特定成分画像信号を取得する、前記(1)〜(3)のいずれか1項に記載の医療用画像処理装置。
(5)
前記信号取得部は、前記特定の色成分について前記第1の露光時間で露光される画素群及び前記特定の色成分について前記第2の露光時間で露光される画素群の双方を有する撮像装置から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、前記(4)に記載の医療用画像処理装置。
(6)
前記信号取得部は、前記特定の色成分についての画素群であって、第1のタイミングにて前記第1の露光時間で露光され及び第2のタイミングにて前記第2の露光時間で露光される当該画素群から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、前記(4)に記載の医療用画像処理装置。
(7)
前記信号取得部は、前記特定の色成分について第1の露光時間で露光される画素群から前記第1の特定成分画像信号を取得し、及び、前記第1の特定成分画像信号における隣り合う画素の信号値を加算することにより、前記第2の特定成分画像信号を取得する、前記(1)〜(3)のいずれか1項に記載の医療用画像処理装置。
(8)
前記信号取得部は、前記特定の色成分について第1の露光時間で露光される画素群から第1のフレームレートで前記第1の特定成分画像信号を取得し、及び、時間的に連続する複数のフレームにわたる前記第1の特定成分画像信号の信号値の加算により、前記第2の特定成分画像信号を取得する、前記(1)〜(3)のいずれか1項に記載の医療用画像処理装置。
(9)
前記信号取得部は、第1の透過率を有するフィルタを通じて前記特定の色成分を受光する画素群、及び前記第1の透過率とは異なる透過率を有するフィルタを通じて前記特定の色成分を受光する画素群の双方を有する撮像装置から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、前記(1)〜(3)のいずれか1項に記載の医療用画像処理装置。
(10)
前記第2の露光量は、前記第1の露光量よりも多く、
前記合成部は、前記特定の色成分の弱い画素において、相対的に高い合成重みを前記第2の特定成分画像信号に適用し、前記特定の色成分の強い画素において、相対的に高い合成重みを前記第1の特定成分画像信号に適用する、
前記(1)〜(9)のいずれか1項に記載の医療用画像処理装置。
(11)
前記特定の色成分は、赤成分である、前記(1)〜(10)のいずれか1項に記載の医療用画像処理装置。
(12)
観察対象の色成分に関連付けられる設定情報を取得し、取得した設定情報に応じて前記特定の色成分を設定する制御部、
をさらに備える、前記(1)〜(10)のいずれか1項に記載の医療用画像処理装置。
(13)
被写体を撮像する撮像装置と、
前記撮像装置から取得される1つ以上の画像信号を処理してカラー画像信号を生成する画像処理装置と、
を含み、
前記画像処理装置は、
特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、
前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、
前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、
を備える、
医療用画像処理システム。
(14)
特定の色成分についての第1の露光量を伴う第1の特定成分画像信号を取得することと、
前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号を取得することと、
前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号を取得することと、
前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成することと、
前記合成により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成することと、
を含む医療用画像処理方法。
(15)
医療用画像処理装置を制御するプロセッサを、
特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、
前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、
前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、
として機能させるためのプログラム。
1 医療用画像処理システム
13 カメラヘッド(撮像装置)
51 CCU(画像処理装置)
53 モニタ(表示装置)
210 信号取得部
220 合成部
230 カラー画像生成部
240 制御部

Claims (18)

  1. 特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、
    前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、
    を備える医療用画像処理装置。
  2. 前記カラー画像生成部は、前記第1の特定成分画像信号及び前記第2の特定成分画像信号の前記合成に起因する色調の変動を打ち消すように、前記特定成分合成画像信号又は前記2つの非特定成分画像信号を調整する、請求項1に記載の医療用画像処理装置。
  3. 前記カラー画像生成部は、前記色調の前記変動を打ち消す方向に前記非特定成分画像信号のピークを移動させるトーンカーブを前記非特定成分画像信号に適用することにより、前記非特定成分画像信号を調整する、請求項2に記載の医療用画像処理装置。
  4. 前記信号取得部は、前記特定の色成分について第1の露光時間での露光を通じて生成される前記第1の特定成分画像信号、及び、前記特定の色成分について第2の露光時間での露光を通じて生成される前記第2の特定成分画像信号を取得する、請求項1〜3のいずれか1項に記載の医療用画像処理装置。
  5. 前記信号取得部は、前記特定の色成分について前記第1の露光時間で露光される画素群及び前記特定の色成分について前記第2の露光時間で露光される画素群の双方を有する撮像装置から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、請求項4に記載の医療用画像処理装置。
  6. 前記信号取得部は、前記特定の色成分についての画素群であって、第1のタイミングにて前記第1の露光時間で露光され及び第2のタイミングにて前記第2の露光時間で露光される当該画素群から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、請求項4に記載の医療用画像処理装置。
  7. 前記信号取得部は、前記特定の色成分について第1の露光時間で露光される画素群から前記第1の特定成分画像信号を取得し、及び、前記第1の特定成分画像信号における隣り合う画素の信号値を加算することにより、前記第2の特定成分画像信号を取得する、請求項1〜3のいずれか1項に記載の医療用画像処理装置。
  8. 前記信号取得部は、前記特定の色成分について第1の露光時間で露光される画素群から第1のフレームレートで前記第1の特定成分画像信号を取得し、及び、時間的に連続する複数のフレームにわたる前記第1の特定成分画像信号の信号値の加算により、前記第2の特定成分画像信号を取得する、請求項1〜3のいずれか1項に記載の医療用画像処理装置。
  9. 前記信号取得部は、第1の透過率を有するフィルタを通じて前記特定の色成分を受光する画素群、及び前記第1の透過率とは異なる透過率を有するフィルタを通じて前記特定の色成分を受光する画素群の双方を有する撮像装置から、前記第1の特定成分画像信号及び前記第2の特定成分画像信号を取得する、請求項1〜3のいずれか1項に記載の医療用画像処理装置。
  10. 前記第2の露光量は、前記第1の露光量よりも多く、
    前記合成部は、前記特定の色成分の弱い画素において、相対的に高い合成重みを前記第2の特定成分画像信号に適用し、前記特定の色成分の強い画素において、相対的に高い合成重みを前記第1の特定成分画像信号に適用する、
    請求項1〜9のいずれか1項に記載の医療用画像処理装置。
  11. 前記特定の色成分は、赤成分である、請求項1〜10のいずれか1項に記載の医療用画像処理装置。
  12. 観察対象の色成分に関連付けられる設定情報を取得し、取得した設定情報に応じて前記特定の色成分を設定する制御部、
    をさらに備える、請求項1〜10のいずれか1項に記載の医療用画像処理装置。
  13. 被写体を撮像する撮像装置と、
    前記撮像装置から取得される1つ以上の画像信号を処理してカラー画像信号を生成する画像処理装置と、
    を含み、
    前記画像処理装置は、
    特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得部と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成部と、
    前記合成部により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成部と、
    を備える、
    医療用画像処理システム。
  14. 医療用画像処理システムが備えるプロセッサが、
    特定の色成分についての第1の露光量を伴う第1の特定成分画像信号を取得することと、
    前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号を取得することと、
    前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号を取得することと、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成することと、
    前記合成により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成することと、
    実行する医療用画像処理システムの動作方法。
  15. 医療用画像処理装置を制御するプロセッサ
    特定の色成分についての第1の露光量を伴う第1の特定成分画像信号、前記特定の色成分についての前記第1の露光量とは異なる第2の露光量を伴う第2の特定成分画像信号、及び、前記特定の色成分とは異なる2つの色成分にそれぞれ対応する2つの非特定成分画像信号、を取得する信号取得処理と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を前記特定の色成分の強さに応じた重みで合成することにより特定成分合成画像信号を生成する合成処理と、
    前記合成処理により生成される前記特定成分合成画像信号及び前記2つの非特定成分画像信号からカラー画像信号を生成するカラー画像生成処理と、
    を実行させるためのプログラム。
  16. 第1の露光量で撮像された特定の色成分の第1の特定成分画像信号と、第2の露光量で撮像された前記特定の色成分の第2の特定成分画像信号と、前記特定の色成分とは異なる非特定成分画像信号と、を取得する信号取得部と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を合成することにより特定成分画像信号を生成する合成部と、
    前記合成された特定成分画像信号と、前記非特定成分画像信号と、を合成して画像を生成する画像生成部と、
    を備える画像処理システム。
  17. 医療用撮像装置によって第1の露光量で撮像された特定の色成分の第1の特定成分画像信号と、前記医療用撮像装置によって第2の露光量で撮像された前記特定の色成分の第2の特定成分画像信号と、前記医療用撮像装置によって撮像された前記特定の色成分とは異なる非特定成分画像信号と、を取得する信号取得部と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を合成することにより特定成分画像信号を生成する合成部と、
    前記合成された特定成分画像信号と、前記非特定成分画像信号と、を合成して画像を生成する画像生成部と、
    を備える医療用画像処理システム。
  18. 第1の露光量で撮像された特定の波長帯域成分の第1の特定成分画像信号と、第2の露光量で撮像された前記特定の波長帯域成分の第2の特定成分画像信号と、前記特定の波長帯域成分とは異なる非特定成分画像信号と、を取得する信号取得部と、
    前記第1の特定成分画像信号及び前記第2の特定成分画像信号を合成することにより特定成分画像信号を生成する合成部と、
    前記合成された特定成分画像信号と、前記非特定成分画像信号と、を合成して画像を生成する画像生成部と、
    を備える画像処理システム。
JP2018502551A 2016-03-03 2017-01-10 医療用画像処理装置、システム、方法、プログラム、画像処理システム及び医療用画像処理システム Active JP6860000B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016040760 2016-03-03
JP2016040760 2016-03-03
PCT/JP2017/000424 WO2017149932A1 (ja) 2016-03-03 2017-01-10 医療用画像処理装置、システム、方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2017149932A1 JPWO2017149932A1 (ja) 2018-12-27
JP6860000B2 true JP6860000B2 (ja) 2021-04-14

Family

ID=59743847

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018502551A Active JP6860000B2 (ja) 2016-03-03 2017-01-10 医療用画像処理装置、システム、方法、プログラム、画像処理システム及び医療用画像処理システム

Country Status (4)

Country Link
US (1) US11244478B2 (ja)
EP (1) EP3424403B1 (ja)
JP (1) JP6860000B2 (ja)
WO (1) WO2017149932A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
US11272844B2 (en) * 2017-11-13 2022-03-15 Sony Corporation Information processing device, information processing method, and fluorescence image capturing system

Family Cites Families (265)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB1271505A (en) * 1968-07-22 1972-04-19 Agfa Gevaert Method and apparatus for determining the exposure of a recording material
GB1551531A (en) * 1976-01-30 1979-08-30 Uchebno Tech Sredstva Method and apparatus for illumination
JPS59123387A (ja) * 1982-12-29 1984-07-17 Canon Inc 撮像装置
US4667228A (en) * 1983-10-14 1987-05-19 Canon Kabushiki Kaisha Image signal processing apparatus
US4565441A (en) * 1985-01-25 1986-01-21 Viva-Tech, Inc. Light source for photographic color printers
DE3750012T2 (de) * 1986-09-09 1994-09-29 Fuji Photo Film Co Ltd Elektronische Stehbildkamera zur Kompensierung der Farbtemperaturabhängigkeit von Farbvideosignalen.
US4942424A (en) * 1987-06-12 1990-07-17 Fuji Photo Film Co., Ltd. Method of and apparatus for printing color photograph as well as color filter for use in the same apparatus
US5042078A (en) * 1987-06-19 1991-08-20 Fuji Photo Film Co., Ltd. Method of effecting gradation and color correction of a composite image
US4764807A (en) * 1987-08-16 1988-08-16 Fuji Photo Film Co., Ltd. CRT image printing apparatus
US5260774A (en) * 1989-04-20 1993-11-09 Canon Kabushiki Kaisha White balance control for still image sensing apparatus
US5255077A (en) * 1989-09-29 1993-10-19 Canon Kabushiki Kaisha White balance control based upon magnitude of flicker
US5148809A (en) * 1990-02-28 1992-09-22 Asgard Medical Systems, Inc. Method and apparatus for detecting blood vessels and displaying an enhanced video image from an ultrasound scan
DE69122668T2 (de) * 1990-06-20 1997-03-13 Canon Kk Verfahren und Vorrichtung zur Bildverarbeitung
US5422738A (en) * 1990-10-22 1995-06-06 Matsushita Electric Industrial Co., Ltd. Color image forming method and an apparatus employed therefor, and a correction factor determining method
US5740481A (en) * 1991-01-08 1998-04-14 Nikon Corporation Exposure calculation device for camera
EP0587128B1 (en) * 1992-09-08 1998-07-29 Fuji Photo Film Co., Ltd. Image processing system and method for faithfully reproducing colors of objects from negative film
US5300381A (en) * 1992-09-24 1994-04-05 Eastman Kodak Company Color image reproduction of scenes with preferential tone mapping
US5461457A (en) * 1992-11-25 1995-10-24 Fuji Photo Film Co., Ltd. Method of determining amount of exposure
US5589879A (en) * 1993-03-26 1996-12-31 Fuji Photo Film Co., Ltd. Performing white balance correction on integrated divided areas of which average color is substantially white
JP3134660B2 (ja) * 1994-04-14 2001-02-13 松下電器産業株式会社 色変換方法および色変換装置
JP3366431B2 (ja) * 1994-04-18 2003-01-14 日本フィリップス株式会社 高輝度カラー抑圧回路
US6115148A (en) * 1994-06-02 2000-09-05 Canon Kabushiki Kaisha Image processing apparatus
US5828362A (en) * 1994-08-04 1998-10-27 Sony Corporation Plane sequential color display apparatus and method for driving same
US5528339A (en) * 1994-08-26 1996-06-18 Eastman Kodak Company Color image reproduction of scenes with color enhancement and preferential tone mapping
JPH0879784A (ja) * 1994-08-31 1996-03-22 Sony Corp 映像信号処理装置
JP3620547B2 (ja) * 1995-02-14 2005-02-16 ソニー株式会社 高輝度圧縮装置およびそれを適用したビデオカメラ装置
US6111911A (en) * 1995-06-07 2000-08-29 Sanconix, Inc Direct sequence frequency ambiguity resolving receiver
JP3738785B2 (ja) * 1995-09-14 2006-01-25 富士写真フイルム株式会社 写真プリンタにおけるグレーバランス調整方法
JP3624483B2 (ja) * 1995-09-29 2005-03-02 富士写真フイルム株式会社 画像処理装置
US6011636A (en) * 1995-10-13 2000-01-04 Fuji Photo Film Co., Ltd. Method of controlling exposure in film scanner
US5631748A (en) * 1995-11-16 1997-05-20 Xerox Corporation Color images having multiple separations with minimally overlapping halftone dots and reduced interpixel contrast
JP3334463B2 (ja) * 1995-11-20 2002-10-15 ソニー株式会社 ビデオ信号処理回路
US5802214A (en) * 1995-12-08 1998-09-01 Xerox Corporation Method for determining and loading an image-dependent look-up table for generating an enhanced image representation
JPH09171220A (ja) * 1995-12-20 1997-06-30 Fuji Photo Film Co Ltd 露光量決定方法
US5817440A (en) * 1996-02-23 1998-10-06 Hirai; Hiroyuki Silver halide photosensitive material for color filter and method for producing color filter using the same
JPH09322191A (ja) * 1996-03-29 1997-12-12 Ricoh Co Ltd 画像入力装置
JP3509448B2 (ja) * 1996-04-12 2004-03-22 ソニー株式会社 ビデオカメラ装置、映像信号処理装置、カラー映像信号のレベル圧縮方法および階調変換方法
JP3649515B2 (ja) * 1996-05-13 2005-05-18 セイコーエプソン株式会社 カラー画像読取方法、カラー画像読取装置およびカラー画像読取システム
JPH1013697A (ja) * 1996-06-18 1998-01-16 Canon Inc 画像処理装置およびその方法
KR100237284B1 (ko) * 1997-04-28 2000-01-15 윤종용 화상신호로부터 조명색을 검출하는 방법
US5891607A (en) * 1997-09-15 1999-04-06 Eastman Kodak Company Color motion picture print film for use with digital output
US6190847B1 (en) * 1997-09-30 2001-02-20 Eastman Kodak Company Color negative film for producing images of reduced granularity when viewed following electronic conversion
DE69900872D1 (de) * 1998-04-03 2002-03-21 Da Vinci Systems Inc Primär- und Sekundärfarbverarbeitung unter Verwendung von Farbe, Sättigung, Luminanz und Flächenisolierung
JP2000013814A (ja) * 1998-06-19 2000-01-14 Pioneer Electron Corp 映像信号処理回路
JP3565723B2 (ja) * 1998-09-30 2004-09-15 富士写真光機株式会社 カラー画像処理装置
KR100375806B1 (ko) * 1999-02-01 2003-03-15 가부시끼가이샤 도시바 색 얼룩 보정 장치 및 휘도 얼룩 보정 장치
JP4443658B2 (ja) * 1999-02-09 2010-03-31 株式会社河合楽器製作所 楽音発生装置、電子楽器、及び記録媒体
US7324143B1 (en) * 1999-04-13 2008-01-29 Rochester Institute Of Technology Method and system for reducing noise in a digital image and apparatus thereof
KR100363826B1 (ko) * 1999-06-07 2002-12-06 히다치덴시 가부시키가이샤 넓은 다이내믹레인지의 영상신호를 생성하는텔레비젼신호처리장치와 그 신호처리장치를 가지는텔레비젼카메라 및 텔레비젼신호처리방법
JP4773594B2 (ja) * 1999-08-30 2011-09-14 エーユー オプトロニクス コーポレイション カラー画像処理方法、カラー画像処理装置、液晶表示装置
JP2001094810A (ja) * 1999-09-22 2001-04-06 Toshiba Tec Corp 画像処理方法及び画像処理装置並びに画像形成装置
DE10018305C2 (de) * 2000-04-13 2002-02-14 Bosch Gmbh Robert Verfahren und Vorrichtung zur Analyse von Strömungen
US7081918B2 (en) * 2000-04-28 2006-07-25 Fuji Photo Film Co., Ltd. Image processing method, image processing apparatus and recording medium storing program therefor
US6844941B1 (en) * 2000-06-23 2005-01-18 Xerox Corporation Color halftoning using a single successive-filling halftone screen
US6372418B1 (en) * 2000-07-18 2002-04-16 Eastman Kodak Company Color motion picture print film with improved tonescale
JP4003399B2 (ja) * 2000-10-23 2007-11-07 ソニー株式会社 画像処理装置および方法、並びに記録媒体
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
JP4294896B2 (ja) * 2001-09-26 2009-07-15 富士フイルム株式会社 画像処理方法および装置並びにそのためのプログラム
JP4231661B2 (ja) * 2002-05-23 2009-03-04 オリンパス株式会社 色再現装置
AU2003250947A1 (en) * 2002-07-12 2004-02-02 X3D Technologies Gmbh Autostereoscopic projection system
US6836076B2 (en) * 2002-07-18 2004-12-28 Fuji Photo Film Co., Ltd. Exposure device
TWI249959B (en) * 2003-05-16 2006-02-21 Seiko Epson Corp Image processing system, projector, information memorizing medium and image processing method
US7492391B1 (en) * 2003-07-14 2009-02-17 Arecont Vision, Llc. Wide dynamic range network camera
JP4333544B2 (ja) * 2004-02-13 2009-09-16 セイコーエプソン株式会社 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体
JP4143569B2 (ja) * 2004-05-14 2008-09-03 キヤノン株式会社 カラー表示装置
KR100565810B1 (ko) * 2004-06-16 2006-03-29 삼성전자주식회사 색신호 처리장치 및 방법
JP2006081037A (ja) * 2004-09-10 2006-03-23 Eastman Kodak Co 撮像装置
KR100680471B1 (ko) * 2004-11-24 2007-02-08 매그나칩 반도체 유한회사 보색 컬러 필터를 채택한 SoC 카메라 시스템
US7456384B2 (en) * 2004-12-10 2008-11-25 Sony Corporation Method and apparatus for acquiring physical information, method for manufacturing semiconductor device including array of plurality of unit components for detecting physical quantity distribution, light-receiving device and manufacturing method therefor, and solid-state imaging device and manufacturing method therefor
US7570290B2 (en) * 2004-12-27 2009-08-04 Sony Corporation Drive method for solid-state imaging device, solid-state imaging device, and imaging apparatus
JP2006311240A (ja) * 2005-04-28 2006-11-09 Olympus Corp 撮像装置
DE102005022832A1 (de) * 2005-05-11 2006-11-16 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Scheinwerfer für Film- und Videoaufnahmen
WO2006129611A1 (ja) * 2005-05-30 2006-12-07 Matsushita Electric Industrial Co., Ltd. レーザ画像表示装置およびカラー画像表示方法
US8139130B2 (en) * 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US8274715B2 (en) * 2005-07-28 2012-09-25 Omnivision Technologies, Inc. Processing color and panchromatic pixels
US20070046807A1 (en) * 2005-08-23 2007-03-01 Eastman Kodak Company Capturing images under varying lighting conditions
US7889216B2 (en) * 2005-10-13 2011-02-15 Seiko Epson Corporation Image display device, electronic apparatus, and pixel location determining method
US8303505B2 (en) * 2005-12-02 2012-11-06 Abbott Cardiovascular Systems Inc. Methods and apparatuses for image guided medical procedures
US7995092B2 (en) * 2006-04-05 2011-08-09 Barret Lippey Two-dimensional and three-dimensional projecting
EP2023642B1 (en) * 2006-05-15 2014-07-16 Sharp Kabushiki Kaisha Color image display device and color conversion device
US8078265B2 (en) * 2006-07-11 2011-12-13 The General Hospital Corporation Systems and methods for generating fluorescent light images
JP4337849B2 (ja) * 2006-07-26 2009-09-30 ソニー株式会社 記録装置、記録方法および記録プログラム、ならびに、撮像装置、撮像方法および撮像プログラム
EP2061233B1 (en) * 2006-09-14 2013-06-26 Mitsubishi Electric Corporation Image processing device and image processing method
JP2008096548A (ja) * 2006-10-10 2008-04-24 Hitachi Displays Ltd 表示装置
US8223143B2 (en) * 2006-10-27 2012-07-17 Carl Zeiss Meditec, Inc. User interface for efficiently displaying relevant OCT imaging data
US7911486B2 (en) * 2006-10-30 2011-03-22 Himax Display, Inc. Method and device for images brightness control, image processing and color data generation in display devices
JP4802991B2 (ja) * 2006-11-14 2011-10-26 富士ゼロックス株式会社 色処理装置、色処理方法およびプログラム
JP4720757B2 (ja) * 2007-02-23 2011-07-13 ソニー株式会社 光源装置および液晶表示装置
JP2008276482A (ja) * 2007-04-27 2008-11-13 Seiko Epson Corp 画像処理装置、画像処理方法及び画像処理用プログラム。
JP4341695B2 (ja) * 2007-05-17 2009-10-07 ソニー株式会社 画像入力処理装置、撮像信号処理回路、および、撮像信号のノイズ低減方法
JP4386096B2 (ja) * 2007-05-18 2009-12-16 ソニー株式会社 画像入力処理装置、および、その方法
JP4815470B2 (ja) * 2007-06-15 2011-11-16 富士フイルム株式会社 画像表示装置及び画像表示方法
JP4495197B2 (ja) * 2007-07-31 2010-06-30 シャープ株式会社 画像処理装置、画像形成装置、画像処理プログラムおよび画像処理プログラムを記録する記録媒体
JP4496239B2 (ja) * 2007-07-31 2010-07-07 シャープ株式会社 画像処理方法、画像処理装置、画像形成装置、画像読取装置、コンピュータプログラム、及び記録媒体
WO2009019824A1 (ja) * 2007-08-07 2009-02-12 Panasonic Corporation 撮像処理装置および撮像装置、画像処理方法およびコンピュータプログラム
US8022994B2 (en) * 2007-08-31 2011-09-20 Omnivision Technologies, Inc. Image sensor with high dynamic range in down-sampling mode
WO2009102174A1 (en) * 2008-02-15 2009-08-20 Semisolution Co., Ltd. Method for performing digital processing on an image signal output from ccd image sensors
JP4966894B2 (ja) * 2008-03-18 2012-07-04 株式会社リコー 画像撮像装置
US20090290052A1 (en) * 2008-05-23 2009-11-26 Panavision Imaging, Llc Color Pixel Pattern Scheme for High Dynamic Range Optical Sensor
JP2010016664A (ja) * 2008-07-04 2010-01-21 Hitachi Ltd 撮像装置
KR100978659B1 (ko) * 2008-07-17 2010-08-30 삼성전기주식회사 색신호 이득 제어 장치 및 방법
JP4561912B2 (ja) * 2008-09-12 2010-10-13 ソニー株式会社 撮像装置、撮像方法及びプログラム
US8103120B2 (en) * 2008-09-22 2012-01-24 Solomon Systech Limited Method and apparatus of local contrast enhancement
JP4770907B2 (ja) * 2008-10-21 2011-09-14 ソニー株式会社 撮像装置、撮像方法及びプログラム
JP5195395B2 (ja) * 2008-12-19 2013-05-08 株式会社リコー 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
US8641621B2 (en) * 2009-02-17 2014-02-04 Inneroptic Technology, Inc. Systems, methods, apparatuses, and computer-readable media for image management in image-guided medical procedures
JP2010279016A (ja) * 2009-04-30 2010-12-09 Sony Corp 固体撮像素子とその駆動方法および撮像装置
JP2010272067A (ja) * 2009-05-25 2010-12-02 Hitachi Automotive Systems Ltd 画像処理装置
JP2011045039A (ja) * 2009-07-21 2011-03-03 Fujifilm Corp 複眼撮像装置
JP5326943B2 (ja) * 2009-08-31 2013-10-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US8860751B2 (en) * 2009-09-01 2014-10-14 Entertainment Experience Llc Method for producing a color image and imaging device employing same
JP5474586B2 (ja) * 2010-01-25 2014-04-16 オリンパス株式会社 画像処理装置
JP5774498B2 (ja) * 2010-02-09 2015-09-09 株式会社日立メディコ 超音波診断装置
JP5724185B2 (ja) * 2010-03-04 2015-05-27 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5583439B2 (ja) * 2010-03-17 2014-09-03 パナソニック株式会社 画像符号化装置及びカメラシステム
JP5432799B2 (ja) * 2010-03-30 2014-03-05 オリンパスイメージング株式会社 撮像装置、撮像システム、撮像方法
JP5724208B2 (ja) * 2010-04-23 2015-05-27 株式会社ニコン 撮像装置
JP5554139B2 (ja) * 2010-05-11 2014-07-23 パナソニック株式会社 複合型撮像素子およびそれを備えた撮像装置
WO2011142774A1 (en) * 2010-05-14 2011-11-17 Omnivision Technologies, Inc. Alternative color image array and associated methods
EP2592838B1 (en) * 2010-07-08 2015-12-16 Panasonic Intellectual Property Management Co., Ltd. Image capture device
JP5593920B2 (ja) * 2010-07-27 2014-09-24 ソニー株式会社 液晶表示装置
US20120038758A1 (en) * 2010-08-12 2012-02-16 3D Digital, Llc Apparatus, method and article for generating a three dimensional effect using active glasses
JP5675215B2 (ja) * 2010-08-20 2015-02-25 オリンパス株式会社 デジタルカメラ
JP2012063528A (ja) * 2010-09-15 2012-03-29 Fujitsu Ltd 反射型カラー表示素子およびカラー表示装置
US9785246B2 (en) * 2010-10-06 2017-10-10 Nuvasive, Inc. Imaging system and method for use in surgical and interventional medical procedures
US9930316B2 (en) * 2013-08-16 2018-03-27 University Of New Brunswick Camera imaging systems and methods
JP2012105225A (ja) * 2010-11-12 2012-05-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
KR101878362B1 (ko) * 2010-11-26 2018-08-07 엘지디스플레이 주식회사 영상표시장치 및 그 구동방법
US9007432B2 (en) * 2010-12-16 2015-04-14 The Massachusetts Institute Of Technology Imaging systems and methods for immersive surveillance
JP5655626B2 (ja) * 2011-02-24 2015-01-21 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
TW201248579A (en) * 2011-05-18 2012-12-01 Wintek Corp Image processing method and pixel array of flat display panel
JP5901175B2 (ja) * 2011-08-08 2016-04-06 アイキューブド研究所株式会社 コンテンツ処理装置、コンテンツ処理方法、およびプログラム
JP5954661B2 (ja) * 2011-08-26 2016-07-20 パナソニックIpマネジメント株式会社 撮像素子、及び撮像装置
JP2013066140A (ja) * 2011-08-31 2013-04-11 Sony Corp 撮像装置、および信号処理方法、並びにプログラム
JP2013066142A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
KR101982149B1 (ko) * 2011-09-05 2019-05-27 삼성전자주식회사 의료 영상의 일부 정보를 활용한 장기 영상 생성 방법 및 장치
JP5603506B2 (ja) * 2011-10-31 2014-10-08 富士フイルム株式会社 撮像装置及び画像処理方法
JP5832855B2 (ja) * 2011-11-01 2015-12-16 クラリオン株式会社 画像処理装置、撮像装置および画像処理プログラム
JP5802520B2 (ja) * 2011-11-11 2015-10-28 株式会社 日立産業制御ソリューションズ 撮像装置
US20130128083A1 (en) * 2011-11-23 2013-05-23 Himax Imaging Limited High dynamic range image sensing device and image sensing method and manufacturing method thereof
CN104041020B (zh) * 2011-12-27 2015-11-25 富士胶片株式会社 彩色摄像元件
CN104025582B (zh) * 2011-12-27 2015-08-26 富士胶片株式会社 彩色摄像元件
JP2013162347A (ja) * 2012-02-06 2013-08-19 Sony Corp 画像処理装置、画像処理方法、プログラム、および装置
WO2013145487A1 (ja) * 2012-03-27 2013-10-03 ソニー株式会社 画像処理装置、撮像素子、および画像処理方法、並びにプログラム
JP6014349B2 (ja) * 2012-04-10 2016-10-25 キヤノン株式会社 撮像装置、制御方法、及びプログラム
CN104471929B (zh) * 2012-07-06 2016-04-06 富士胶片株式会社 彩色摄像元件及摄像装置
CN104429060B (zh) * 2012-07-06 2016-04-20 富士胶片株式会社 彩色摄像元件及摄像装置
DE112013003422B4 (de) * 2012-07-06 2017-09-07 Fujifilm Corporation Farbbildaufnahmeelement und Bildaufnahmevorrichtung
CN104412582B (zh) * 2012-07-06 2016-04-13 富士胶片株式会社 彩色摄像元件和摄像装置
DE112013003464B4 (de) * 2012-07-06 2016-05-19 Fujifilm Corporation Farbbildgebungselement und Bildgebungsvorrichtung
JP5623469B2 (ja) * 2012-07-06 2014-11-12 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡用制御プログラム
JP5702895B2 (ja) * 2012-07-06 2015-04-15 富士フイルム株式会社 カラー撮像素子および撮像装置
CN104412579B (zh) * 2012-07-06 2016-08-24 富士胶片株式会社 彩色摄像元件以及摄像装置
US9509917B2 (en) * 2012-07-26 2016-11-29 DePuy Synthes Products, Inc. Wide dynamic range using monochromatic sensor
AU2013295568B2 (en) * 2012-07-26 2017-09-07 DePuy Synthes Products, Inc. YCbCr pulsed illumination scheme in a light deficient environment
US9040892B2 (en) * 2012-07-27 2015-05-26 Apple Inc. High dynamic range image sensor having symmetric interleaved long and short exposure pixels
WO2014036499A1 (en) * 2012-08-30 2014-03-06 Truevision Systems, Inc. Imaging system and methods displaying a fused multidimensional reconstructed image
US20140063300A1 (en) * 2012-09-06 2014-03-06 Aptina Imaging Corporation High dynamic range imaging systems having clear filter pixel arrays
WO2014054379A1 (ja) * 2012-10-04 2014-04-10 コニカミノルタ株式会社 画像処理装置及びプログラム
KR102086509B1 (ko) * 2012-11-23 2020-03-09 엘지전자 주식회사 3차원 영상 획득 방법 및 장치
JP5777825B2 (ja) * 2012-12-05 2015-09-09 富士フイルム株式会社 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体
US9363425B2 (en) * 2012-12-06 2016-06-07 Semiconductor Components Industries, Llc Color filter arrangements for fused array imaging systems
US20150334276A1 (en) * 2012-12-31 2015-11-19 Given Imaging Ltd. System and method for displaying an image stream
JP6020199B2 (ja) * 2013-01-24 2016-11-02 株式会社ソシオネクスト 画像処理装置、方法、及びプログラム、並びに撮像装置
KR102114415B1 (ko) * 2013-01-29 2020-05-22 삼성전자주식회사 의료 영상 정합 방법 및 장치
JP6231284B2 (ja) * 2013-02-21 2017-11-15 クラリオン株式会社 撮像装置
CN105190290B (zh) * 2013-03-12 2019-06-14 赛拓维瓦公司 定位生物和非生物介质中的纳米颗粒的三维图像处理
KR101992933B1 (ko) * 2013-03-14 2019-06-25 삼성전자주식회사 광역 역광 보정 이미지 처리 방법 및 이를 이용하는 이미지 신호 프로세서
US8824752B1 (en) * 2013-03-15 2014-09-02 Heartflow, Inc. Methods and systems for assessing image quality in modeling of patient anatomic or blood flow characteristics
US9786056B2 (en) * 2013-03-15 2017-10-10 Sunnybrook Research Institute Data display and processing algorithms for 3D imaging systems
US20140300753A1 (en) * 2013-04-04 2014-10-09 Apple Inc. Imaging pipeline for spectro-colorimeters
US9573277B2 (en) * 2013-04-15 2017-02-21 Alan Rosen Intelligent visual humanoid robot and computer vision system programmed to perform visual artificial intelligence processes
US20140307055A1 (en) * 2013-04-15 2014-10-16 Microsoft Corporation Intensity-modulated light pattern for active stereo
JP2014230708A (ja) 2013-05-30 2014-12-11 パナソニック株式会社 内視鏡
CN109256404B (zh) * 2013-07-04 2023-08-15 株式会社尼康 摄像元件以及电子设备
JP2015033107A (ja) * 2013-08-07 2015-02-16 ソニー株式会社 画像処理装置および画像処理方法、並びに、電子機器
US10210599B2 (en) * 2013-08-09 2019-02-19 Intuitive Surgical Operations, Inc. Efficient image demosaicing and local contrast enhancement
JP2015041890A (ja) * 2013-08-22 2015-03-02 ソニー株式会社 制御装置、制御方法、および電子機器
US9438827B2 (en) * 2013-08-27 2016-09-06 Semiconductor Components Industries, Llc Imaging systems and methods for generating binned high-dynamic-range images
TWI690209B (zh) * 2013-09-25 2020-04-01 新力股份有限公司 固體攝像裝置、攝像裝置及電子機器
JP6552798B2 (ja) * 2013-11-29 2019-07-31 キヤノンメディカルシステムズ株式会社 医用画像処理装置、x線診断装置及び医用画像処理プログラム
KR20150069413A (ko) * 2013-12-13 2015-06-23 삼성디스플레이 주식회사 표시 장치 및 그 구동 방법
KR102149453B1 (ko) * 2014-02-21 2020-08-28 삼성전자주식회사 이미지를 획득하기 위한 전자 장치 및 방법
AU2015244473B2 (en) * 2014-04-11 2018-05-10 Samsung Electronics Co., Ltd. Method and apparatus for rendering sound signal, and computer-readable recording medium
KR102233427B1 (ko) * 2014-04-14 2021-03-29 삼성전자주식회사 의료 영상 정합 방법 및 장치
US10089729B2 (en) * 2014-04-23 2018-10-02 Toshiba Medical Systems Corporation Merging magnetic resonance (MR) magnitude and phase images
US9711553B2 (en) * 2014-04-28 2017-07-18 Samsung Electronics Co., Ltd. Image sensor including a pixel having photoelectric conversion elements and image processing device having the image sensor
KR102250086B1 (ko) * 2014-05-16 2021-05-10 삼성전자주식회사 의료 영상 정합 방법, 이를 포함하는 장치 및 컴퓨터 기록 매체
JP6471953B2 (ja) * 2014-05-23 2019-02-20 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、及び撮像方法
US9342871B2 (en) * 2014-05-30 2016-05-17 Apple Inc. Scene motion correction in fused image systems
US9344636B2 (en) * 2014-05-30 2016-05-17 Apple Inc. Scene motion correction in fused image systems
WO2015198127A1 (ja) * 2014-06-24 2015-12-30 日立マクセル株式会社 撮像処理装置および撮像処理方法
JP6039606B2 (ja) * 2014-06-24 2016-12-07 富士フイルム株式会社 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法
US9832388B2 (en) * 2014-08-04 2017-11-28 Nvidia Corporation Deinterleaving interleaved high dynamic range image by using YUV interpolation
US9894304B1 (en) * 2014-08-18 2018-02-13 Rambus Inc. Line-interleaved image sensors
JP2016096430A (ja) * 2014-11-13 2016-05-26 パナソニックIpマネジメント株式会社 撮像装置及び撮像方法
JP6533050B2 (ja) * 2014-11-13 2019-06-19 クラリオン株式会社 車載カメラシステム
WO2016088427A1 (ja) * 2014-12-02 2016-06-09 オリンパス株式会社 カプセル型内視鏡システム及びカプセル型内視鏡システムの作動方法
KR101632120B1 (ko) * 2014-12-04 2016-06-27 한국과학기술원 골격계 영상 재구성 장치 및 방법
US9621741B2 (en) * 2014-12-10 2017-04-11 Intel Corporation Techniques for context and performance adaptive processing in ultra low-power computer vision systems
US10462390B2 (en) * 2014-12-10 2019-10-29 Sony Corporation Image pickup apparatus, image pickup method, program, and image processing apparatus
KR102218832B1 (ko) * 2014-12-16 2021-02-24 삼성전자주식회사 컬러 프린지를 제거하기 위한 이미지 처리 장치
US10154239B2 (en) * 2014-12-30 2018-12-11 Onpoint Medical, Inc. Image-guided surgery with surface reconstruction and augmented reality visualization
JP6072372B2 (ja) * 2015-01-16 2017-02-01 オリンパス株式会社 内視鏡システム
US20160119532A1 (en) * 2015-01-22 2016-04-28 Mediatek Inc. Method And Apparatus Of Utilizing Image/Video Data From Multiple Sources
CN107530452A (zh) * 2015-02-02 2018-01-02 诺瓦达克技术公司 用于表征受试者的组织的方法和系统
JP6345612B2 (ja) * 2015-02-06 2018-06-20 株式会社ソニー・インタラクティブエンタテインメント 撮像装置、情報処理システム、マット、および画像生成方法
CN107205618B (zh) * 2015-02-10 2019-03-26 奥林巴斯株式会社 图像处理装置、内窥镜系统、图像处理方法以及记录介质
US10560188B2 (en) * 2015-02-17 2020-02-11 Kookmin University Industry Academy Cooperation Foundation Image sensor communication system and communication method using rolling shutter modulation
KR102277178B1 (ko) * 2015-03-09 2021-07-14 삼성전자 주식회사 카메라 모듈을 포함하는 전자 장치 및 전자 장치의 이미지 처리 방법
JP6702306B2 (ja) * 2015-03-26 2020-06-03 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP6095868B2 (ja) * 2015-03-30 2017-03-15 オリンパス株式会社 内視鏡
DE112015006338T5 (de) * 2015-04-21 2017-11-30 Olympus Corporation Endoskopvorrichtung
EP3291725A4 (en) * 2015-05-07 2018-11-07 Novadaq Technologies Inc. Methods and systems for laser speckle imaging of tissue using a color image sensor
CN104835464B (zh) * 2015-05-11 2017-11-03 深圳市华星光电技术有限公司 显示屏动态帧频驱动电路及驱动方法
KR101711060B1 (ko) * 2015-05-29 2017-02-28 주식회사 코어라인소프트 레이 캐스팅의 가속화 방법 및 장치
CN107205629B (zh) * 2015-06-30 2019-08-02 奥林巴斯株式会社 图像处理装置和摄像系统
US9467632B1 (en) * 2015-07-13 2016-10-11 Himax Imaging Limited Dual exposure control circuit and associated method
US9858872B2 (en) * 2015-07-15 2018-01-02 Htc Corporation Electronic device and control method
JP6639138B2 (ja) * 2015-07-30 2020-02-05 キヤノン株式会社 画像処理装置および画像処理方法、プログラム
US9903809B2 (en) * 2015-09-16 2018-02-27 The Boeing Company System for measuring thermal degradation of composites and method of making and using
CN113162722B (zh) * 2015-09-21 2024-04-12 Hyphy美国有限公司 用于通过不完美的电磁通路传输采样信号的系统
WO2017090300A1 (ja) * 2015-11-24 2017-06-01 ソニー株式会社 画像処理装置、および画像処理方法、ならびにプログラム
US9848137B2 (en) * 2015-11-24 2017-12-19 Samsung Electronics Co., Ltd. CMOS image sensors having grid array exposure control
CN108289599B (zh) * 2015-11-25 2020-08-11 奥林巴斯株式会社 内窥镜系统和拍摄方法
JP2017108211A (ja) * 2015-12-07 2017-06-15 ソニー株式会社 撮像装置、撮像制御方法、および、プログラム
US10250814B2 (en) * 2016-03-07 2019-04-02 Kabushiki Kaisha Toshiba Image signal processor apparatus and image signal processing method
JP2017173379A (ja) * 2016-03-18 2017-09-28 富士ゼロックス株式会社 ホログラム記録装置
WO2017168477A1 (ja) * 2016-03-28 2017-10-05 パナソニックIpマネジメント株式会社 撮像装置および画像処理方法
US9787909B1 (en) * 2016-03-31 2017-10-10 Stmicroelectronics (Research & Development) Limited Controlling signal-to-noise ratio in high dynamic range automatic exposure control imaging
CA3024346A1 (en) * 2016-05-19 2017-11-23 Huron Technologies International Inc. Spectrally-resolved scanning microscope
US9883128B2 (en) * 2016-05-20 2018-01-30 Semiconductor Components Industries, Llc Imaging systems with high dynamic range and phase detection pixels
CN107438148B (zh) * 2016-05-27 2021-08-24 松下知识产权经营株式会社 摄像系统
JP6765860B2 (ja) * 2016-06-01 2020-10-07 キヤノン株式会社 撮像素子、撮像装置、および撮像信号処理方法
US10244182B2 (en) * 2016-06-23 2019-03-26 Semiconductor Components Industries, Llc Methods and apparatus for reducing spatial flicker artifacts
JP6400053B2 (ja) * 2016-07-22 2018-10-03 キヤノン株式会社 放射線撮像装置及び放射線撮像システム、それらの制御方法及びそのプログラム
WO2018021048A1 (ja) * 2016-07-27 2018-02-01 凸版印刷株式会社 色校正装置、色校正システム、色校正用ホログラム、色校正方法及びプログラム
DE102017217589A1 (de) * 2016-10-04 2018-04-05 Toshiba Medical Systems Corporation Medizininformationsverarbeitungsvorrichtung und Medizininformationsverarbeitungsverfahren
US20180108169A1 (en) * 2016-10-14 2018-04-19 Toshiba Medical Systems Corporation Image rendering apparatus and method
CN106507019B (zh) * 2016-11-29 2019-05-10 Oppo广东移动通信有限公司 控制方法、控制装置、电子装置
JP6362116B2 (ja) * 2016-11-30 2018-07-25 キヤノン株式会社 表示装置及びその制御方法、プログラム、記憶媒体
JP6710151B2 (ja) * 2016-12-02 2020-06-17 富士フイルム株式会社 内視鏡装置及び内視鏡装置の作動方法
EP3569135A4 (en) * 2017-01-16 2020-09-16 Sony Corporation OPTICAL BYPASS SYSTEM, IMAGING DEVICE AND IMAGING SYSTEM
CN108419062B (zh) * 2017-02-10 2020-10-02 杭州海康威视数字技术股份有限公司 图像融合设备和图像融合方法
US10531067B2 (en) * 2017-03-26 2020-01-07 Apple Inc. Enhancing spatial resolution in a stereo camera imaging system
CN106873205B (zh) * 2017-04-21 2019-10-29 京东方科技集团股份有限公司 液晶显示装置及其驱动方法
JP6800806B2 (ja) * 2017-05-09 2020-12-16 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
KR102354991B1 (ko) * 2017-05-24 2022-01-24 삼성전자주식회사 픽셀 회로 및 이를 포함하는 이미지 센서
JP6904788B2 (ja) * 2017-05-25 2021-07-21 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
DE102017210528A1 (de) * 2017-06-22 2018-12-27 Siemens Healthcare Gmbh Visualisierung eines medizintechnischen Objekts
US10553244B2 (en) * 2017-07-19 2020-02-04 Microsoft Technology Licensing, Llc Systems and methods of increasing light detection in color imaging sensors
JP2019053619A (ja) * 2017-09-15 2019-04-04 株式会社東芝 信号識別装置、信号識別方法、及び運転支援システム
CN107799079B (zh) * 2017-10-10 2019-06-11 惠科股份有限公司 液晶显示驱动方法、装置及设备
CN107919099B (zh) * 2017-10-10 2019-09-17 惠科股份有限公司 液晶显示驱动方法、装置及设备
US10582112B2 (en) * 2017-10-11 2020-03-03 Olympus Corporation Focus detection device, focus detection method, and storage medium storing focus detection program
CN107863085B (zh) * 2017-12-20 2019-08-06 惠科股份有限公司 一种显示装置的驱动方法及显示装置
CN107993624B (zh) * 2017-12-21 2019-12-03 惠科股份有限公司 显示装置的驱动方法、驱动装置及显示装置
CN107967900B (zh) * 2017-12-21 2020-09-11 惠科股份有限公司 显示装置的驱动方法、驱动装置及显示装置
US10645294B1 (en) * 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
EP3839555A4 (en) * 2018-10-16 2022-07-06 Brookman Technology, Inc. DISTANCE MEASURING DEVICE, CAMERA AND METHOD OF ADJUSTING THE DRIVE OF A DISTANCE MEASURING DEVICE
US11475854B2 (en) * 2018-12-11 2022-10-18 HKC Corporation Limited Driving method of display module, driving system thereof, and display device
US10916036B2 (en) * 2018-12-28 2021-02-09 Intel Corporation Method and system of generating multi-exposure camera statistics for image processing
JP7080195B2 (ja) * 2019-02-19 2022-06-03 富士フイルム株式会社 内視鏡システム
US10819927B1 (en) * 2019-07-02 2020-10-27 Omnivision Technologies, Inc. Image sensor with self-testing black level correction
US11659141B2 (en) * 2019-11-22 2023-05-23 Hanwha Techwin Co., Ltd. Image processing apparatus and method

Also Published As

Publication number Publication date
US20190051022A1 (en) 2019-02-14
EP3424403A1 (en) 2019-01-09
US11244478B2 (en) 2022-02-08
EP3424403A4 (en) 2019-03-20
JPWO2017149932A1 (ja) 2018-12-27
EP3424403B1 (en) 2024-04-24
WO2017149932A1 (ja) 2017-09-08

Similar Documents

Publication Publication Date Title
JP7088185B2 (ja) 医療用システム、医療用装置および制御方法
JP2021094421A (ja) 画像処理装置、画像処理方法、及び記録媒体
JP7074065B2 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7095693B2 (ja) 医療用観察システム
WO2017141544A1 (ja) 画像処理装置、画像処理方法及びプログラム
WO2017010157A1 (ja) 医療用観察装置及び医療用観察方法
US20190037202A1 (en) Medical image processing device, system, method, and program
US11729519B2 (en) Video signal processing apparatus, video signal processing method, and image-capturing apparatus
JP6860000B2 (ja) 医療用画像処理装置、システム、方法、プログラム、画像処理システム及び医療用画像処理システム
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP7444163B2 (ja) 撮像装置、撮像方法、及びプログラム
WO2020202904A1 (ja) 信号処理装置、撮像装置、信号処理方法
US20230039047A1 (en) Image processing apparatus, image processing method, navigation method and endoscope system
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
JPWO2018168578A1 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP7140113B2 (ja) 内視鏡
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP6344608B2 (ja) 画像処理装置、画像処理方法、プログラム、及び、手術システム
WO2020246181A1 (ja) 画像処理装置、画像処理方法、プログラム
CN115720505A (zh) 医疗系统、信息处理装置和信息处理方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210309

R151 Written notification of patent or utility model registration

Ref document number: 6860000

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151