JP6751763B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP6751763B2
JP6751763B2 JP2018530221A JP2018530221A JP6751763B2 JP 6751763 B2 JP6751763 B2 JP 6751763B2 JP 2018530221 A JP2018530221 A JP 2018530221A JP 2018530221 A JP2018530221 A JP 2018530221A JP 6751763 B2 JP6751763 B2 JP 6751763B2
Authority
JP
Japan
Prior art keywords
correction
correction coefficient
image processing
image
representative value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018530221A
Other languages
English (en)
Other versions
JPWO2018020560A1 (ja
Inventor
光隆 木村
光隆 木村
昌士 弘田
昌士 弘田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2018020560A1 publication Critical patent/JPWO2018020560A1/ja
Application granted granted Critical
Publication of JP6751763B2 publication Critical patent/JP6751763B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • G06T5/70
    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging

Description

本発明は、生体の管腔内を撮像することによって取得された画像に対して画像処理を行う画像処理装置、画像処理方法およびプログラムに関する。
従来、内視鏡において、所定の波長帯域を有する照明光を被写体に照射し、この被写体を撮像後、生体組織のヘモグロビン吸光特性において狭帯域の分光特性を有する第1の画像信号と、この第1の画像信号よりも吸収特性における値が低い分光特性を有する第2の画像信号と、の差異に基づいて、第1の画像信号を強調する補正処理を施して画像信号を生成する技術が知られている(特許文献1参照)。
国際公開第2013/145409号
しかしながら、上述した特許文献1の技術を用いて時間的に連続する時系列画像群を閲覧した場合、各画像に施す補正処理の補正量が異なることによって、時間的に隣接する画像間において画像が変化してしまい、時系列画像群がブレて見えてしまうという問題点があった。
本発明は、上記に鑑みてなされたものであって、時系列画像群のブレを抑制することができる画像処理装置、画像処理方法およびプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得部と、前記複数の画像のうち補正対象フレームに基づいて、補正係数を算出する補正係数算出部と、前記補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正部と、前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成部と、を備えたことを特徴とする。
また、本発明に係る画像処理方法は、画像処理装置が実行する画像処理方法であって、照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得ステップと、前記複数の画像のうち補正対象フレームに基づいて、前記複数の画像の各々を補正するための補正係数を算出する補正係数算出ステップと、前記補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正ステップと、前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成ステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、画像処理装置に、照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得ステップと、前記複数の画像のうち補正対象フレームに基づいて、前記複数の画像の各々を補正するための補正係数を算出する補正係数算出ステップと、前記補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正ステップと、前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成ステップと、を実行させることを特徴とする。
本発明によれば、時系列画像群のブレを抑制することができるという効果を奏する。
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。 図2は、本発明の実施の形態1に係る画像処理装置が実行する画像処理の概要を示すフローチャートである。 図3は、図2の補正係数修正処理の概要を示すフローチャートである。 図4は、図3の代表値算出処理の概要を示すフローチャートである。 図5は、従来の時系列画像の一例を模式的に示す図である。 図6は、本発明の実施の形態1に係る画像処理装置による画像処理後の時系列画像の一例を模式的に示す図である。 図7は、本発明の実施の形態1に係る画像処理装置による画像処理後の時系列画像の別の一例を模式的に示す図である。 図8は、本発明の実施の形態1の変形例に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。 図9は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。 図10は、本発明の実施の形態2に係る画像処理装置が実行する画像処理の概要を示すフローチャートである。 図11は、図10の補正係数修正処理の概要を示すフローチャートである。 図12は、図11の乖離度算出処理の概要を示すフローチャートである。 図13は、図11の代表値算出処理の概要を示すフローチャートである。 図14は、本発明の実施の形態2の変形例1に係る画像処理装置が実行する乖離度算出処理の概要を示すフローチャートである。 図15は、本発明の実施の形態2の変形例2に係る画像処理装置が実行する乖離度算出処理の概要を示すフローチャートである。 図16は、本発明の実施の形態2の変形例3に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。 図17は、本発明の実施の形態3に係る画像処理装置の構成を示すブロック図である。 図18は、本発明の実施の形態3に係る画像処理装置が実行する画像処理の概要を示すフローチャートである。 図19は、図18の補正係数修正処理の概要を示すフローチャートである。 図20は、図19の状況判定処理の概要を示すフローチャートである。 図21は、図19の代表値算出処理の概要を示すフローチャートである。 図22は、本発明の実施の形態3の変形例1に係る代表値算出処理の概要を示すフローチャートである。 図23は、本発明の実施の形態3の変形例2に係る代表値算出処理の概要を示すフローチャートである。 図24は、本発明の実施の形態3の変形例3に係る画像処理装置の構成を示すブロック図である。 図25は、本発明の実施の形態3の変形例3に係る画像処理装置が実行する状況判定処理の概要を示すフローチャートである。 図26は、本発明の実施の形態3の変形例3に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。
以下、本発明の実施の形態に係る画像処理装置、画像処理方法およびプログラムについて、図面を参照しながら説明する。なお、これらの実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一の部分には同一の符号を付して示している。
(実施の形態1)
〔画像処理装置の構成〕
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。本実施の形態1に係る画像処理装置1は、一例として、内視鏡(軟性内視鏡や硬性内視鏡等の内視鏡スコープ)またはカプセル型内視鏡(以下、これらをまとめて単に「内視鏡」という)によって、所定の波長帯域の光が照射された生体の管腔を連続的に撮像することにより取得された時間的に連続する複数の管腔内画像で構成された管腔内画像群(管腔内画像の動画データ)に対して、生体の組織、粘膜、血管および病変等を強調した表示画像、画像の明るさを補正した表示画像、血管を観察しやすくするように補正した表示画像および散乱物質を観察しやすくするように補正した表示画像のいずれかを生成する画像処理を実行する装置である。また、管腔内画像は、通常、各画素位置において、R(赤)、G(緑)、B(青)の波長成分に対する画素レベル(画素値)を持つカラー画像である。
図1に示す画像処理装置1は、内視鏡によって撮像された画像に対応する画像データ(画像信号)や被写体を連続的に撮像して生成された時間的に連続する複数の画像によって構成された時系列画像(動画データ)を内視鏡または外部から取得する画像取得部2と、外部からの操作によって入力された入力信号を受け付ける入力部3と、画像や各種情報を表示する表示部4と、画像取得部2によって取得された画像データ、動画データおよび各種プログラムを記録する記録部5と、画像処理装置1全体の動作を制御する制御部6と、画像や管腔内画像群に対して所定の画像処理を行う演算部7と、を備える。
画像取得部2は、内視鏡を含むシステムの態様に応じて適宜構成される。例えば、画像取得部2は、内視鏡との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、この記録媒体を着脱自在に装着し、記録された画像データを読み出すリーダ装置として構成される。また、画像取得部2は、内視鏡によって撮像された画像データを記録するサーバを用いる場合、このサーバと双方向に通信可能な通信装置等で構成され、サーバとデータ通信を行うことによって画像データを取得する。さらにまた、画像取得部2は、内視鏡からケーブルを介して画像データが入力されるインターフェース装置等で構成してもよい。
入力部3は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、外部からの操作に応じて受け付けた入力信号を制御部6へ出力する。
表示部4は、液晶や有機EL(Electro Luminescence)の表示パネル等の表示装置によって実現され、制御部6の制御のもと、管腔内画像を含む各種画面を表示する。
記録部5は、フラッシュメモリ、ROM(Read Only Memory)およびRAM(Random
Access Memory)といった各種ICメモリ、および内蔵若しくはデータ通信端子で接続されたハードディスク等によって実現される。記録部5は、画像取得部2によって取得された画像データや動画データの他、画像処理装置1を動作させるとともに、種々の機能を画像処理装置1に実行させるためのプログラム、このプログラムの実行中に使用されるデータ等を記録する。例えば、記録部5は、管腔内画像群に対して生体内の組織、粘膜、血管および病変等を強調した強調画像を生成する画像処理プログラム51、および、このプログラムの実行中に使用される種々の情報等を記録する。
制御部6は、CPU(Central Processing Unit)等を用いて実現され、記録部5に記録された各種プログラムを読み込むことにより、画像取得部2から入力される画像データや入力部3から入力される入力信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
演算部7は、CPU等によって実現され、記録部5が記録する画像処理プログラム51を読み込むことによって画像群に対して生体内の組織、粘膜、血管および病変(以下、「特定部位」という)を強調した表示画像を生成する画像処理を実行する。
〔演算部の詳細な構成〕
次に、演算部7の詳細な構成について説明する。
演算部7は、補正係数算出部10と、補正係数修正部11と、画像作成部12と、を備える。
補正係数算出部10は、画像取得部2が取得した複数の画像のうち補正対象フレームの画像に基づいて、複数の画像の各々を補正するための補正係数を算出する。
補正係数算出部10は、補正対象フレームの画像の撮影時刻から予め設定された所定の時間内における複数のフレーム(以下、「時系列近傍フレーム」という)の各々の複数の補正係数に基づいて、補正対象フレームの画像の補正係数を修正する。補正係数算出部10は、フレーム設定部111と、代表値算出部112と、を有する。
フレーム設定部111は、代表値を設定するために用いる時系列近傍のフレームを設定する。
代表値算出部112は、補正対象フレームの補正係数と、フレーム設定部111が設定した時系列近傍フレームの補正係数と、に基づいて、代表値を算出する。
画像作成部12は、補正対象フレームの画像と補正係数とに基づいて、表示画像を作成し、この作成した補正画像を記録部5に記録または制御部6を介して表示部4に出力する。
〔画像処理装置の処理〕
次に、画像処理装置1が実行する画像処理方法について説明する。図2は、画像処理装置1が実行する処理の概要を示すフローチャートである。
図2に示すように、まず、画像取得部2は、外部から内視鏡等によって撮像された画像を取得し、取得した画像を記録部5に記録する(ステップS1)。ここで、画像としては、消化管、血管および臓器のいずれかを撮像した管腔内画像が含まれる。また、管腔内画像を撮像した際の照明光は、自然光、LED(Light Emitting Diode)光源による照明光、レーザ光源による照明光、ハロゲンランプによる照明光のいずれかである。さらに、管腔内画像を撮像した際の照明光は、意図的に所定の波長帯域に制限した照明光であってもよい。所定の波長帯域としては、例えば770nm近傍の波長帯域を有する照明光、395nmから445nmの波長帯域を有する照明光、530nmから550nmの波長帯域を有する照明光、585nmから615nmの波長帯域を有する照明光および610nmから730nmの波長帯域を有する照明光のいずれかである。
続いて、補正係数算出部10は、画像から補正係数を算出する(ステップS2)。具体的には、補正係数算出部10は、画像の明るさを補正したり、特定部位を強調したり、血管を観察しやすくするように補正したり、散乱物質を観察しやすくするように補正したりする補正係数を算出する。例えば、補正係数としては、複数枚の画像に基づいて、特定深度における血管を抽出し、この抽出した血管を任意の画像に合成する処理の場合、この画像に合成される血管に関する血管情報である。
その後、補正係数修正部11は、補正対象フレームおよび時系列近傍フレームの複数フレームの補正係数に基づいて代表値を算出し、この算出した代表値を補正係数として修正する補正係数修正処理を実行する(ステップS3)。
図3は、図2のステップS3における補正係数修正処理の概要を示すフローチャートである。図3に示すように、フレーム設定部111は、代表値を算出するために用いる時系列近傍の複数フレームを設定する(ステップS11)。例えば、フレーム設定部111は、補正対象フレームを含まない補正対象フレームの画像の撮影時刻より時系列前(撮影時刻が前)の1つ以上のフレームの画像、または補正対象フレームを含まない補正対象フレームの撮影時刻より時系列後(撮影時刻が後)の1つ以上のフレームの画像を、代表値を算出するために用いる時系列近傍の複数フレームとして設定する。なお、フレーム設定部11は、代表値を算出するために用いる時系列近傍の複数フレームに、補正対象フレームを含めてもよい。
続いて、代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームにおける補正係数とに基づいた情報により代表値を算出して補正対象フレームの補正係数を修正する代表値算出処理を実行する(ステップS12)。ステップS12の後、画像処理装置1は、図2のメインルーチンへ戻る。
図4は、図3のステップS12における代表値算出処理の概要を示すフローチャートである。図4に示すように、代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームの補正係数との平均値を補正対象フレームの補正係数に修正する(ステップS21)。
従来では、補正係数がフレーム間で極端に変化した場合において、補正結果を反映した画像を動画として表示したとき、画像にブレが生じるため、ユーザにとって観察し難くなる。具体的には、図5に示すように、時系列近傍フレームをt−3からtまでとし、画像P1の補正係数をK_t−3、画像P2の補正係数をK_t−2、画像P3の補正係数をK_t−1、画像P4の補正係数をK_tとした場合、補正係数が時系列で大きく変化しているため、画像P4の特定部位B1がブレる(破線部分)。
これに対して、本実施の形態1に係る代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームの各補正係数との平均値を補正対象フレームの補正係数に修正することによって、フレーム間における補正係数の変化を小さくすることができるので、ブレを抑制することができる。具体的には、図6に示すように、時系列近傍フレームをt−3からtまでとし、画像P1の補正係数をK_t−3、画像P2の補正係数をK_t−2、画像P3の補正係数をK_t−1、画像P4の補正係数をK_tとした場合、代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームの補正係数との平均値(((K_t−3)+(K_t−2)+(K_t−1)+(K_t))/4)を補正対象フレームの補正係数に修正する。これにより、補正係数が時系列で変化しないため、ブレを抑制することができる。また、図7に示すように、時系列近傍フレームをt−3からt−1までとした場合、代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームの補正係数との平均値(((K_t−3)+(K_t−2)+(K_t−1)/3)を補正対象フレームの補正係数に修正する。これにより、ブレを防止することができる。
また、代表値算出部112は、平均値を算出する場合、フレーム間で各画素の位置合わせを行った後に、補正対象フレームの補正係数と時系列近傍フレームの各補正係数との平均値を算出してもよい。なお、代表値算出部112は、補正対象フレームの補正係数と時系列近傍フレームの各補正係数との平均値を代表値として算出し、この代表値を補正対象フレームの補正係数に修正していたが、対象画像の被写体の種別によって算出方法を変更、例えば平均値に換えて中央値等を算出してもよい。ステップS21の後、画像処理装置1は、図3の補正係数修正処理へ戻る。
図2に戻り、ステップS4以降の説明を続ける。
ステップS4において、画像作成部12は、補正係数に基づいた補正画像を作成する。具体的には、画像作成部12は、補正対象フレームの画像と補正係数とに基づいた補正画像を作成する。ステップS4の後、画像処理装置1は、本処理を終了する。
以上説明した本発明の実施の形態1によれば、画像のブレを抑制することができる。
(実施の形態1に係る変形例)
次に、本発明の実施の形態1に係る変形例について説明する。本実施の形態1に係る変形例は、画像処理装置が実行する代表値算出処理が異なる。以下においては、本実施の形態1の変形例に係る画像処理装置が実行する代表値算出処理について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
図8は、本実施の形態1の変形例に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。図8に示すように、代表値算出部112は、補正対象フレームおよび時系列近傍フレームの補正係数における最大値を補正対象フレームの補正係数に修正する(ステップS22)。従来では、補正係数がフレーム毎にばらついている場合において、補正結果を反映した画像を動画として表示したとき、画像がちらつくため、ユーザにとって観察し難くなる(上述した図5を参照)。これに対して、本実施の形態1の変形例に係る代表値算出部112は、補正対象フレームおよび時系列近傍フレームの各補正係数における最大値を補正対象フレームの補正係数に修正することによって、フレームが変化しても補正係数が変化しにくくなるので(類似した画像を出力することができるので)、画像のちらつきを軽減することができる(上述した図6を参照)。なお、代表値算出部112は、上述した実施の形態1と同様に、最大値を算出する場合、フレーム間で各画素の位置合わせを行った後に、補正対象フレームおよび時系列近傍フレームの各々の補正係数における最大値を算出してもよい。なお、代表値算出部112は、補正対象フレームおよび時系列近傍フレームの各々の補正係数における最大値を代表値として算出し、この代表値を補正対象フレームの補正係数に修正していたが、対象画像の被写体の種別によって算出方法を変更、例えば最小値等を算出してもよい。ステップS22の後、画像処理装置1は、図3の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態1の変形例によれば、時系列画像群のブレを抑制することができる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2に係る画像処理装置は、上述した実施の形態1に係る画像処理装置1と構成が異なる。以下において、本実施の形態2に係る画像処理装置の構成を説明後、本実施の形態2に係る画像処理装置が実行する画像処理方法について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
〔画像処理装置の構成〕
図9は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。図9に示す画像処理装置1aは、上述した実施の形態1に係る画像処理装置1の演算部7に換えて、演算部7aを備える。
演算部7aは、CPU等によって実現され、記録部5が記録する画像処理プログラム51を読み込むことによって画像群に基づいて表示画像を生成する画像処理を実行する。
〔演算部の詳細な構成〕
次に、演算部7aの詳細な構成について説明する。
演算部7aは、上述した実施の形態1に係る演算部7の補正係数修正部11に換えて、補正係数修正部11aを備える。
補正係数修正部11aは、フレーム設定部111と、乖離度算出部113と、代表値算出部114と、を有する。
乖離度算出部113は、特定の時系列区間内のフレームにおける補正係数に対する、補正対象フレームの補正係数または時系列近傍フレームにおける1つ以上のフレームの補正係数の乖離度を算出する。また、乖離度算出部113は、時系列近傍フレームの各々の補正係数に基づく分布状態から、特定の時系列区間内のフレームにおける補正係数に対する乖離度を算出する統計的乖離度算出部113aを有する。
代表値算出部114は、補正対象フレームの補正係数と、フレーム設定部111が設定した1つ以上のフレームの補正係数と、に基づいて、代表値を算出する。また、代表値算出部114は、乖離度に基づいて補正対象フレームの補正係数の代表値を算出する乖離度代表値算出部114aを有する。
〔画像処理装置の処理〕
次に、画像処理装置1aが実行する画像処理方法について説明する。図10は、画像処理装置1aが実行する画像処理の概要を示すフローチャートである。図10において、ステップS31、ステップS32およびステップS34は、上述した図2のステップS1、ステップS2およびステップS4それぞれと同様のため、説明を省略する。
ステップS33において、補正係数修正部11aは、補正対象フレームにおける時系列近傍フレームの補正係数に基づいて代表値を算出し、この算出した代表値を補正係数として修正する補正係数修正処理を実行する。ステップS33の後、画像処理装置1aは、ステップS34へ移行する。
図11は、図10のステップS33の補正係数修正処理の概要を示すフローチャートである。図11において、ステップS41は、上述した図3のステップS11と同様のため、説明を省略する。
ステップS42において、乖離度算出部113は、特定の時系列区間内のフレームにおける補正係数に対する、補正対象フレームの補正係数または時系列近傍フレームにおける1つ以上のフレームの補正係数の乖離度を算出する乖離度算出処理を実行する。特定の時系列区間内のフレームの設定方法としては、時系列近傍フレームを特定の時系列区間内のフレームとして設定してもよい。また、乖離度算出部113による算出方法としては、例えば時系列区間内のフレームの補正係数と補正対象フレームの補正係数との差を乖離度として算出したり、または時系列区間内のフレームの補正係数と、時系列近傍フレームにおける1つ以上のフレームの補正係数との差を乖離度として算出したりしてもよい。ステップS42の後、画像処理装置1aは、後述するステップS43へ移行する。
図12は、図11のステップS42の乖離度算出処理の概要を示すフローチャートである。図12に示すように、画像処理装置1aが統計情報を利用する場合(ステップS51:Yes)、画像処理装置1aは、後述するステップS52へ移行する。これに対して、画像処理装置1aが統計情報を利用しない場合(ステップS51:No)、画像処理装置1aは、後述するステップS53へ移行する。なお、ユーザが入力部3を操作することによって入力された指示信号に応じた設定に応じて統計情報を利用するか否かを演算部7aが判断する。なお、演算部7aは、補正係数の大小関係によって統計情報を利用するか否かを自動的に判断してもよい。
ステップS52において、統計的乖離度算出部113aは、時系列区間内のフレームにおける補正係数の分布状態から中央値を算出し、この算出した中央値と補正対象フレームの補正係数または時系列近傍フレームにおける1つ以上の特定フレームの補正係数との差分を算出する。これにより、補正対象フレームの乖離度、または時系列近傍フレームにおける1つ以上の特定フレームの乖離度が算出されるので、1または複数の乖離度が算出される。ステップS52の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
ステップS53において、乖離度算出部113は、時系列区間内の特定フレームにおける補正係数と、補正対象フレームの補正係数または時系列近傍フレームにおける特定フレームの補正係数との差分を算出する。この場合、乖離度算出部113は、時系列区間内に特定フレームが複数存在するとき、複数の特定フレームの各々の補正係数と、補正対象フレームの補正係数または時系列近傍フレームにおける特定フレームの補正係数との差分を算出し、この算出した差分の合計値を乖離度として算出してもよい。これにより、補正対象フレームの乖離度、または時系列近傍フレームにおける1つ以上の特定フレームの乖離度が算出されるので、1または複数の乖離度が算出される。なお、乖離度算出部113は、複数の特定フレームの各々の補正係数と、補正対象フレームの補正係数または時系列近傍フレームにおける特定フレームの補正係数との差分の合計値に代えて、差分の平均値であってもよい。さらに、乖離度算出部113は、上述した実施の形態1と同様に、画素の位置合わせを行った後に、画素単位で行ってもよく、画像全体における各画素の補正係数の平均値等を用いて画像単位で行ってもよい。ステップS53の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
図11に戻り、ステップS43以降の説明を続ける。
ステップS43において、代表値算出部114は、乖離度と、補正対象フレームの補正係数と、時系列近傍フレームにおける補正係数と、に基づいた情報により代表値を算出する。ステップS43の後、画像処理装置1aは、図10のメインルーチンへ戻る。
図13は、図11のステップS43における代表値算出処理の概要を示すフローチャートである。図13に示すように、乖離度代表値算出部114aは、乖離度に基づいて、補正対象フレームの補正係数と時系列近傍フレームの補正係数の各々に重みを設定し、重みに基づいて代表値を算出する(ステップS61)。具体的には、乖離度代表値算出部114aは、乖離度が大きいほど重みの値が小さくなるように設定する。例えば、乖離度代表値算出部114aは、事前に乖離度と補正係数の差が大きいほど重みの値が小さくなるテーブルを参照して、重みの値を設定する。その後、乖離度代表値算出部114aは、各フレームにおける補正係数の重みと補正係数とを乗算した後、乗算後の各フレームの補正係数の平均値を代表値として算出する。ステップS61の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態2によれば、時系列画像群のブレを抑制することができる。
(実施の形態2の変形例1)
次に、本発明の実施の形態2に係る変形例1について説明する。本実施の形態2に係る変形例1は、画像処理装置が実行する乖離度算出処理が異なる。以下においては、本実施の形態2の変形例1に係る画像処理装置が実行する乖離度算出処理について説明する。なお、上述した実施の形態2に係る画像処理装置1aと同一の構成には同一の符号を付して説明を省略する。
図14は、本実施の形態2の変形例1に係る画像処理装置1aが実行する乖離度算出処理の概要を示すフローチャートである。図14において、ステップS71およびステップS73は、上述した図12のステップS51およびステップS53それぞれに対応するため、説明を省略する。
ステップS72において、統計的乖離度算出部113aは、時系列区間内のフレームにおける補正係数の分布状態から平均値を算出し、この算出した平均値と補正対象フレームの補正係数または時系列近傍フレームにおける1つ以上の特定フレームの補正係数との差分を算出する。これにより、補正対象フレームの乖離度、または時系列近傍フレームにおける1つ以上の特定フレームの乖離度が算出されるので、1または複数の乖離度が算出される。ステップS72の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態2の変形例1によれば、時系列画像群のブレを抑制することができる。
(実施の形態2の変形例2)
次に、本発明の実施の形態2に係る変形例2について説明する。本実施の形態2に係る変形例2は、画像処理装置が実行する乖離度算出処理が異なる。以下においては、本実施の形態2の変形例2に係る画像処理装置が実行する乖離度算出処理について説明する。なお、上述した実施の形態2に係る画像処理装置1aと同一の構成には同一の符号を付して説明を省略する。
図15は、本実施の形態2の変形例2に係る画像処理装置が実行する乖離度算出処理の概要を示すフローチャートである。図15において、ステップS81およびステップS83は、上述した図12のステップS51およびステップS53それぞれに対応するため、説明を省略する。
ステップS82において、時系列区間内のフレームにおける補正係数の分布状態からマハラノビス距離を算出する。これにより、補正対象フレームの乖離度、または時系列近傍フレームにおける1つ以上の特定フレームの乖離度が算出されるので、1つまたは複数の乖離度が算出される。ステップS82の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態2の変形例2によれば、時系列画像群のブレを抑制することができる。
(実施の形態2の変形例3)
次に、本発明の実施の形態2に係る変形例3について説明する。本実施の形態2の変形例3は、画像処理装置が実行する代表値算出処理が異なる。以下においては、本実施の形態2の変形例3に係る画像処理装置が実行する代表値算出処理について説明する。なお、上述した実施の形態2に係る画像処理装置1aと同一の構成には同一の符号を付して説明を省略する。
図16は、本実施の形態2の変形例3に係る画像処理装置が実行する代表値算出処理の概要を示すフローチャートである。
図16に示すように、制御部6は、乖離度算出部113が算出した乖離度が所定値より大きいか否かを判断する(ステップS91)。制御部6によって乖離度算出部113が算出した乖離度が所定値より大きいと判断された場合(ステップS91:Yes)、画像処理装置1aは、後述するステップS92へ移行する。これに対して、制御部6によって乖離度算出部113が算出した乖離度が所定値より大きくないと判断された場合(ステップS91:No)、画像処理装置1aは、後述するステップS93へ移行する。
ステップS92において、代表値算出部114は、時系列近傍フレームの補正係数に基づいて代表値を算出する。具体的には、補正対象フレームの乖離度のみを用いる場合において、乖離度が所定値より大きいとき、補正対象フレームの補正係数が中央値から離れているため、補正対象フレームの補正係数の信頼度が考えられる。このため、代表値算出部114は、時系列近傍フレームの補正係数に基づいて代表値を算出する。例えば、上述した図13と同様に、乖離度に基づいて、補正対象フレームの補正係数と時系列近傍フレームの補正係数の各々に重みを設定し、各フレームにおける補正係数の重みと補正係数とを乗算した後、乗算後の各フレームの補正係数の平均値を代表値として算出する。ステップS92の後、画像処理装置1aは、図11の補正係数修正処理へ戻る。
ステップS93において、代表値算出部114は、乖離度の算出に用いたフレームの最大値を代表値として算出する。具体的には、乖離度が所定値より大きくない場合、補正係数に大きな変化が発生しない。このため、代表値算出部114は、補正対象フレームの補正係数および時系列近傍フレームの補正係数のうち最大値の補正係数を代表値として算出する。フレーム毎に補正係数を適応するよりも、最大値を用いることによって、フレーム毎のちらつきを軽減することができる。
以上説明した本発明の実施の形態2の変形例3によれば、時系列画像群のブレを抑制することができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3に係る画像処理装置は、上述した実施の形態1に係る画像処理装置1と構成が異なる。以下において、本実施の形態3に係る画像処理装置の構成を説明後、本実施の形態3に係る画像処理装置が実行する画像処理方法について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
〔画像処理装置の構成〕
図17は、本発明の実施の形態3に係る画像処理装置の構成を示すブロック図である。図17に示す画像処理装置1bは、上述した実施の形態1に係る画像処理装置1の演算部7に換えて、演算部7bを備える。
演算部7bは、CPU等によって実現され、記録部5が記録する画像処理プログラム51を読み込むことによって画像群に基づいて表示画像を生成する画像処理を実行する。
〔演算部の詳細な構成〕
次に、演算部7bの詳細な構成について説明する。
演算部7bは、上述した実施の形態1に係る演算部7の補正係数修正部11に換えて、補正係数修正部11bを備える。
補正係数修正部11bは、フレーム設定部111と、状況判定部115と、代表値算出部116と、を有する。
状況判定部115は、補正に利用する画像の取得タイミングまたは補正係数の求め易さを判定する。
代表値算出部116は、補正対象フレームの補正係数と、複数のフレームの各々の前記補正係数と、に基づいて、代表値を算出する。また、代表値算出部116は、状況判定部115の判定結果に基づいて、代表値を算出する状況代表値算出部116aを有する。さらに、状況代表値算出部116aは、状況算出部115aが算出した算出結果に基づいて、前記代表値を算出する取得状況代表値算出部116bを有する。
〔画像処理装置の処理〕
次に、画像処理装置1bが実行する画像処理方法について説明する。図18は、画像処理装置1bが実行する画像処理の概要を示すフローチャートである。図18において、ステップS101、ステップS102、ステップS104は、上述した図2のステップS1、ステップS2およびステップS4それぞれと同様のため、説明を省略する。
ステップS103において、補正係数修正部11bは、時系列近傍フレームの1つ以上のクレームの各補正係数に基づいて代表値を算出し、この算出した代表値を補正係数として修正する補正係数修正処理を実行する。ステップS103の後、画像処理装置1bは、ステップS104へ移行する。
図19は、図18のステップS103における補正係数修正処理の概要を示すフローチャートである。ステップS201は、上述した図3のステップS11と同様のため、説明を省略する。
ステップS202において、状況判定部115は、補正フレームの補正係数を修正するために用いる画像の状況を判定する状況判定処理を実行する。ステップS202の後、画像処理装置1bは、ステップS203へ移行する。
図20は、図19のステップS202における状況判定処理の概要を示すフローチャートである。図20に示すように、状況算出部115aは、補正フレームの補正係数を修正するために用いる画像の状況(取得タイミング)を判定する(ステップS301)。具体的には、状況算出部115aは、取得タイミングを把握するフレームを、補正対象の画像、または補正したい情報が高いコントラストで表れる画像のいずれかによって判定する。ステップS301の後、画像処理装置1bは、図19の補正係数修正処理へ戻る。
図19に戻り、ステップS203以降の説明を続ける。
ステップS203において、代表値算出部116は、補正対象フレームおよび時系列近傍フレームにおける補正係数に基づいた情報により代表値を算出する。ステップS203の後、画像処理装置1bは、図18のメインルーチンへ戻る。
図21は、図19のステップS203における代表値算出処理の概要を示すフローチャートである。図21に示すように、状況代表値算出部116aは、補正に用いる画像間の取得タイミングが近傍なフレームほど重みを大きくし、重みに基づいて代表値を算出する(ステップS401)。例えば、状況代表値算出部116aは、状況算出部115aが画像信号の近傍フレーム、例えば画像が面順次の内視鏡によって生成されている場合、補正対象フレームを含めて1枚の画像となるフレーム間の時系列近傍フレームの補正係数に対する重みを大きく設定し、各フレームにおける補正係数の重みと補正係数とを乗算した後、乗算後の各フレームの補正係数の平均値を代表値として算出する。ステップS401の後、画像処理装置1bは、図19の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態3によれば、時系列画像群のブレを抑制することができる。
(実施の形態3の変形例1)
次に、本発明の実施の形態3の変形例1について説明する。本実施の形態3の変形例1は、画像処理装置が実行する代表値算出処理が異なる。以下においては、本実施の形態3の変形例1に係る画像処理装置が実行する代表値算出処理について説明する。なお、上述した実施の形態3に係る画像処理装置1bと同一の構成には同一の符号を付して説明を省略する。
図22は、本実施の形態3の変形例1に係る画像処理装置1bが実行する代表値算出処理の概要を示すフローチャートである。図22に示すように、状況代表値算出部116aは、補正対象の画像が更新されたフレームである程重みを大きくし、重みに基づいて代表値を算出する(ステップS501)。補正対象の画像が更新された場合において、前回の更新時から状況が変化している可能性がある(例えば明るさ変化等)。このとき、過去の補正係数は、変化前の状況で算出された可能性がある。このため、状況代表値算出部116aは、補正対象の画像が更新されたフレームである程、補正係数に対する重みを大きく設定し、各フレームにおける補正係数の重みと補正係数とを乗算した後、乗算後の各フレームの補正係数の平均値を代表値として算出する。ステップS501の後、画像処理装置1bは、図19の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態3の変形例1によれば、時系列画像群のブレを抑制することができる。
(実施の形態3の変形例2)
次に、本発明の実施の形態3の変形例2について説明する。本実施の形態3の変形例2は、画像処理装置が実行する代表値算出処理が異なる。以下においては、本実施の形態3の変形例2に係る画像処理装置が実行する代表値算出処理について説明する。なお、上述した実施の形態3に係る画像処理装置1bと同一の構成には同一の符号を付して説明を省略する。
図23は、本実施の形態3の変形例2に係る画像処理装置1bが実行する代表値算出処理の概要を示すフローチャートである。図23に示すように、状況代表値算出部116aは、補正対象の情報が高コントラストで表される画像が更新されたフレームほど重みを大きくし、重みに基づいて代表値を算出する(ステップS601)。補正対象の画像が更新された場合において、前回の更新時から状況が変化している可能性がある(例えばコントラスト変化等)。このとき、過去の補正係数は、変化前の状況で算出された可能性がある。このため、状況代表値算出部116aは、補正対象の情報が高コントラストで表される画像が更新されたフレームであるほど、補正係数に対する重みを大きく設定し、各フレームにおける補正係数の重みと補正係数とを乗算した後、乗算後の各フレームの補正係数の平均値を代表値として算出する。ステップS601の後、画像処理装置1bは、図19の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態3の変形例2によれば、時系列画像群のブレを抑制することができる。
(実施の形態3の変形例3)
次に、本発明の実施の形態3の変形例3について説明する。本実施の形態3の変形例3に係る画像処理装置は、上述した実施の形態3に係る画像処理装置1bと構成が異なるうえ、状況判定処理および代表値算出処理が異なる。以下においては、本実施の形態3の変形例3に係る画像処理装置の構成を説明後、本実施の形態3の変形例3に係る画像処理装置が実行する状況判定処理および代表値算出処理について説明する。なお、上述した実施の形態3に係る画像処理装置1bと同一の構成には同一の符号を付して説明を省略する。
〔画像処理装置の構成〕
図24は、本発明の実施の形態3の変形例3に係る画像処理装置の構成を示すブロック図である。図24に示す画像処理装置1cは、上述した実施の形態3に係る画像処理装置1bの演算部7bに換えて、演算部7cを備える。
演算部7cは、CPU等によって実現され、記録部5が記録する画像処理プログラム51を読み込むことによって画像群に基づいて表示画像を生成する画像処理を実行する。
〔演算部の詳細な構成〕
次に、演算部7cの詳細な構成について説明する。
演算部7cは、上述した実施の形態3に係る演算部7の補正係数修正部11bに換えて、補正係数修正部11cを備える。
補正係数修正部11cは、フレーム設定部111と、状況判定部117と、代表値算出部118と、を有する。
状況判定部117は、補正に利用する前記画像の取得状況を判定する。また、状況判定部117は、補正に利用する画像間の位置ズレ量を算出する位置ズレ量算出部117aを有する。
代表値算出部118は、補正対象フレームの補正係数と、フレーム設定部111が設定した1つ以上のフレームの補正係数と、に基づいて、代表値を算出する。状況判定部117の判定結果に基づいて、代表値を算出する状況代表値算出部118aを有する。さらに、状況代表値算出部118aは、位置ズレ量に基づいて、補正対象フレームおよび複数のフレームの各々の補正係数に対する重みを算出し、この重みに基づいて代表値を算出する位置ズレ代表値算出部118bを有する。
〔画像処理装置の処理〕
次に、画像処理装置1cが実行する画像処理装置について説明する。画像処理装置1cが実行する画像処理方法は、上述した実施の形態3に係る画像処理装置1bが実行する画像処理方法の各処理のうち、状況判定処理および代表値算出処理のみ異なる。このため、以下においては、画像処理装置1cが実行する状況判定処理および代表値算出処理について説明する。
図25は、画像処理装置1cが実行する状況判定処理の概要を示すフローチャートである。図25に示すように、位置ズレ量算出部117aは、補正に利用する画像間の位置ズレ量を算出する(ステップS701)。具体的には、位置ズレ量算出部117aは、各画像で算出した移動ベクトルの差分、各画像を撮像した際にジャイロセンサ等に検出された移動量等の一般的な技術を用いて各画像間の位置ズレ量を算出する。この場合において、位置ズレ量算出部117aは、ジャイロセンサ等による移動量を用いるとき、各画像のメタデータやヘッダ情報に格納されたジャイロセンサ等の検出結果を用いて、各画像間の位置ズレ量を算出する。ステップS701の後、画像処理装置1cは、図19の補正係数修正処理へ戻る。
図26は、画像処理装置1cが実行する代表値算出処理の概要を示すフローチャートである。図26に示すように、位置ズレ代表値算出部118bは、位置ズレ量算出部117aが算出した位置ズレ量に基づいて重みを設定し、重みに基づいて代表値を算出する(ステップS801)。具体的には、補正対象フレームと時系列近傍フレームの位置ズレ量が所定値より大きい場合、画像が大きく変化していると考えられるため、補正対象フレームより過去の時系列近傍フレームの補正係数を考慮する必要がなくなる。よって、位置ズレ代表値算出部118bは、補正対象フレームの重みを大きくし、時系列近傍フレームの補正係数の重みを小さくして代表値を算出する。これに対して、位置ズレ代表値算出部118bは、補正対象フレームと時系列近傍フレームの位置ズレ量が所定値以下である場合、画像があまり変化していないと考えられるため、補正フレームおよび時系列近傍フレームの各々の補正係数に対する重みを同等にして代表値を算出する。なお、位置ズレ代表値算出部118bは、時系列近傍フレーム内において、位置ズレ量が所定値より大きい場合、位置ズレ量が所定値より大きいフレームの重みを小さくする一方、位置ズレ量が所定値以下の場合、位置ズレ量が所定値以下のフレームの重みを大きくしてもよい。ステップS801の後、画像処理装置1bは、図19の補正係数修正処理へ戻る。
以上説明した本発明の実施の形態3の変形例3によれば、時系列画像群のブレを抑制することができる。
(その他の実施の形態)
本発明では、記録装置に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク(LAN)、広域エリアネットワーク(WAN)、または、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1〜2およびこれらの変形例に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続されたビュアーやプリンタ等の種々の出力機器に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置、例えばネットワークに接続された読取装置によって読み取り可能な記録媒体等に画像処理結果を格納するようにしても良い。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、本発明を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。すなわち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
なお、本発明は、実施の形態1〜3およびこれらの変形例に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
1,1a,1b,1c 画像処理装置
2 画像取得部
3 入力部
4 表示部
5 記録部
6 制御部
7,7a,7b,7c 演算部
10 補正係数算出部
11,11a,11b,11c 補正係数修正部
12 画像作成部
51 画像処理プログラム
111 フレーム設定部
112 代表値算出部
113 乖離度算出部
113a 統計的乖離度算出部
114,116,118 代表値算出部
114a 乖離度代表値算出部
115,117 状況判定部
116a,118a 状況代表値算出部
116b 取得状況代表値算出部
117a 位置ズレ量算出部
118b 位置ズレ代表値算出部

Claims (20)

  1. 照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得部と、
    前記複数の画像の各々の補正係数を算出する補正係数算出部と、
    前記複数の画像のうち補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正部と、
    前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成部と、
    を備えたことを特徴とする画像処理装置。
  2. 前記複数の画像の各々は、被写体に所定の波長帯域を有する照明光が照射されて撮像されることによって生成された画像または生体内管腔を撮像されて生成された画像の少なくとも一方であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正係数修正部は、
    前記補正係数の代表値を算出するために用いる前記複数のフレームを設定するフレーム設定部と、
    前記補正対象フレームの前記補正係数と、前記複数のフレームの各々の前記補正係数と、に基づいて、前記補正係数の代表値を算出する代表値算出部と、
    を有し、
    前記補正係数修正部は、前記代表値を修正後の前記補正対象フレームの前記補正係数とすることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記補正係数修正部は、
    特定の時系列区間内のフレームにおける前記補正係数に対する、前記補正対象フレームの前記補正係数または前記複数のフレームにおける1つ以上の前記補正係数の乖離度を算出する乖離度算出部をさらに有することを特徴とする請求項3に記載の画像処理装置。
  5. 前記乖離度算出部は、前記補正対象フレームの前記補正係数と前記複数のフレームにおける1つ以上の前記補正係数との差分を前記乖離度として算出することを特徴とする請求項4に記載の画像処理装置。
  6. 前記乖離度算出部は、前記複数のフレームの各々の前記補正係数に基づく前記補正係数の分布状態から前記乖離度を算出する統計的乖離度算出部をさらに有することを特徴とする請求項4に記載の画像処理装置。
  7. 前記統計的乖離度算出部は、前記分布状態から中央値、平均値およびマハラノビス距離のいずれか1つを算出し、前記中央値または前記平均値と前記補正対象フレームの前記補正係数との差分または前記マハラノビス距離を前記乖離度として算出することを特徴とする請求項6に記載の画像処理装置。
  8. 前記代表値算出部は、
    前記乖離度に基づいて前記補正対象フレームの前記補正係数の前記代表値を算出する乖離度代表値算出部をさらに備えることを特徴とする請求項4に記載の画像処理装置。
  9. 前記乖離度代表値算出部は、前記乖離度に基づいて、前記補正対象フレームおよび前記複数のフレームの各々の前記補正係数に対する重みを算出し、この重みに基づいて前記代表値を算出することを特徴とする請求項8に記載の画像処理装置。
  10. 前記乖離度代表値算出部は、前記乖離度が所定値より大きい場合、前記複数のフレームの各々の前記補正係数に基づいて、前記代表値を算出する一方、前記乖離度が前記所定値以下の場合、前記乖離度の算出に用いた前記複数のフレームにおける前記補正係数の最大値を前記代表値として算出することを特徴とする請求項8に記載の画像処理装置。
  11. 前記補正係数修正部は、
    補正に利用する前記画像の取得タイミングまたは前記補正係数の求め易さを判定する状況判定部をさらに有し、
    前記代表値算出部は、
    前記状況判定部の判定結果に基づいて、前記代表値を算出する状況代表値算出部と、
    を有することを特徴とする請求項3に記載の画像処理装置。
  12. 前記状況判定部は、補正に利用する前記画像の取得状況を判定することを特徴とする請求項11に記載の画像処理装置。
  13. 前記状況代表値算出部は、前記状況判定部の判定結果に基づいて、前記代表値を算出する取得状況代表値算出部を有することを特徴とする請求項12に記載の画像処理装置。
  14. 前記取得状況代表値算出部は、前記状況判定部の判定結果に基づいて、前記補正対象フレームおよび前記複数のフレームの各々の前記補正係数に対する重みを算出し、該重みに基づいて前記代表値を算出することを特徴とする請求項13に記載の画像処理装置。
  15. 前記取得状況代表値算出部は、前記補正対象フレームの撮影時刻に近いフレーム、前記補正対象フレームの画像が更新されたフレームおよび前記補正対象フレームの情報が高コントラストで表れる画像が更新されたフレームのいずれか1つであるほど前記複数のフレームの各々の前記補正係数に対する重みを大きくして前記代表値を算出することを特徴とする請求項14に記載の画像処理装置。
  16. 前記状況判定部は、
    補正に利用する画像間の位置ズレ量を算出する位置ズレ量算出部を有することを特徴とする請求項11に記載の画像処理装置。
  17. 前記状況代表値算出部は、
    前記位置ズレ量に基づいて、補正対象フレームおよび前記複数のフレームの各々の前記補正係数に対する重みを算出し、該重みに基づいて前記代表値を算出する位置ズレ量代表値算出部を有することを特徴とする請求項16に記載の画像処理装置。
  18. 前記補正係数は、生体内の組織、粘膜および血管のいずれか1つ以上を強調する際の係数または画像を合成する際の係数であることを特徴とする請求項1に記載の画像処理装置。
  19. 画像処理装置が実行する画像処理方法であって、
    照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得ステップと、
    前記複数の画像の各々の補正係数を算出する補正係数算出ステップと、
    前記複数の画像のうち補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正ステップと、
    前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成ステップと、
    を含むことを特徴とする画像処理方法。
  20. 画像処理装置に、
    照明光が照射された被写体を連続的に撮像して生成された時間的に連続する複数の画像を取得する画像取得ステップと、
    前記複数の画像の各々の補正係数を算出する補正係数算出ステップと、
    前記複数の画像のうち補正対象フレームの撮影時刻から予め設定された所定の時間内における複数のフレームの各々の前記補正係数に基づいて、前記補正対象フレームの前記補正係数を修正する補正係数修正ステップと、
    前記補正対象フレームと前記補正係数とに基づいて、表示画像を作成する画像作成ステップと、
    を実行させることを特徴とするプログラム。
JP2018530221A 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム Active JP6751763B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/071777 WO2018020560A1 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2018020560A1 JPWO2018020560A1 (ja) 2019-05-09
JP6751763B2 true JP6751763B2 (ja) 2020-09-09

Family

ID=61016412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018530221A Active JP6751763B2 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム

Country Status (3)

Country Link
US (1) US11361406B2 (ja)
JP (1) JP6751763B2 (ja)
WO (1) WO2018020560A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190103085A (ko) * 2019-08-15 2019-09-04 엘지전자 주식회사 지능형 진단 디바이스
CN111915520B (zh) * 2020-07-30 2023-11-10 黑芝麻智能科技(上海)有限公司 用于改善拼接图像的亮度的方法、装置和计算机设备

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102036599B (zh) * 2008-03-18 2013-06-19 诺瓦达克技术公司 用于组合的全色反射和近红外成像的成像系统
JP5657375B2 (ja) * 2010-12-24 2015-01-21 オリンパス株式会社 内視鏡装置及びプログラム
JP5819428B2 (ja) * 2011-08-03 2015-11-24 株式会社日立メディコ 画像診断装置及び画像補正方法
EP2700349A4 (en) 2012-03-30 2015-08-26 Olympus Medical Systems Corp ENDOSCOPIC DEVICE
WO2015044996A1 (ja) * 2013-09-24 2015-04-02 オリンパス株式会社 内視鏡装置及び内視鏡装置の制御方法
WO2017057133A1 (ja) * 2015-10-01 2017-04-06 オリンパス株式会社 撮像システム、処理装置、制御方法及び制御プログラム

Also Published As

Publication number Publication date
WO2018020560A1 (ja) 2018-02-01
US11361406B2 (en) 2022-06-14
JPWO2018020560A1 (ja) 2019-05-09
US20190122344A1 (en) 2019-04-25

Similar Documents

Publication Publication Date Title
JP5715311B2 (ja) 内視鏡システム
JP5715312B2 (ja) 内視鏡システム
JP7127785B2 (ja) 情報処理システム、内視鏡システム、学習済みモデル、情報記憶媒体及び情報処理方法
JP6072372B2 (ja) 内視鏡システム
JP6764574B2 (ja) 画像処理装置、画像処理方法、プログラム、及び、手術システム
JP5486432B2 (ja) 画像処理装置、その作動方法およびプログラム
US10594931B2 (en) Reducing smoke occlusion in images from surgical systems
JP5948512B2 (ja) 処理装置、撮像装置および内視鏡システム
KR102632193B1 (ko) 광 레벨 적응 필터 및 방법
US11176671B2 (en) Medical image processing apparatus, and method
JP6663571B2 (ja) 内視鏡画像処理装置、および、内視鏡画像処理装置の作動方法、並びにプログラム
JP6751763B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6807869B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN113168699B (zh) 计算机程序、信息处理方法以及内窥镜用处理器
JP2022516472A (ja) 部分的深度マップからの合成3次元撮像の発生
JP7385731B2 (ja) 内視鏡システム、画像処理装置の作動方法及び内視鏡
JP7457415B2 (ja) コンピュータプログラム、学習モデルの生成方法、及び支援装置
WO2021181564A1 (ja) 処理システム、画像処理方法及び学習方法
US20220246303A1 (en) Learning support system and learning support method
JP6344608B2 (ja) 画像処理装置、画像処理方法、プログラム、及び、手術システム
WO2018159288A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
Zampokas et al. Real‐time stereo reconstruction of intraoperative scene and registration to preoperative 3D models for augmenting surgeons' view during RAMIS
WO2022249572A1 (ja) 画像処理装置、画像処理方法及び記録媒体
WO2023187886A1 (ja) 画像処理装置、画像処理方法及び記憶媒体
US20220375089A1 (en) Endoscope apparatus, information processing method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200721

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200817

R151 Written notification of patent or utility model registration

Ref document number: 6751763

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250