JP6797306B2 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents
画像処理装置、画像処理方法、及び画像処理プログラム Download PDFInfo
- Publication number
- JP6797306B2 JP6797306B2 JP2019533847A JP2019533847A JP6797306B2 JP 6797306 B2 JP6797306 B2 JP 6797306B2 JP 2019533847 A JP2019533847 A JP 2019533847A JP 2019533847 A JP2019533847 A JP 2019533847A JP 6797306 B2 JP6797306 B2 JP 6797306B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- static
- subregion
- static information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 20
- 230000003068 static effect Effects 0.000 claims description 118
- 239000000203 mixture Substances 0.000 claims description 95
- 238000004364 calculation method Methods 0.000 claims description 66
- 238000000034 method Methods 0.000 claims description 41
- 230000008859 change Effects 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 31
- 230000009467 reduction Effects 0.000 claims description 22
- 230000033001 locomotion Effects 0.000 claims description 18
- 238000011946 reduction process Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 25
- 238000004891 communication Methods 0.000 description 13
- 230000005540 biological transmission Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000002156 mixing Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 6
- 238000003491 array Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 210000001015 abdomen Anatomy 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
Description
前記画像処理部は、第1〜第3画像処理部を備え、前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、前記第1画像処理部は、前記入力画像を画像処理して前記静止状態に対応する第1中間画像を生成し、前記第2画像処理部は、前記入力画像を画像処理して前記動作状態に対応する第2中間画像を生成し、前記第3画像処理部は、前記ブレンド率に基づいて、前記第1及び第2中間画像を重ね合わせて前記出力画像を生成する。
好ましくは、パラメータ算出部を更に備え、前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、前記パラメータ算出部は、前記ブレンド率に基づいて、前記静止状態に対応する静止パラメータと、前記動作状態に対応する動作パラメータとを重ね合わせて静動パラメータを算出し、前記画像処理部は、前記静動パラメータを用いて前記出力画像を生成する。
好ましくは、前記第2小領域は、前記第1小領域の上側、左上側、左側において前記第1小領域と隣接する小領域である。
好ましくは、前記画像処理部は、前記ブレンド率に基づいてノイズリダクション処理及び鮮鋭化処理のうち少なくとも一方を実施して前記出力画像を生成する。
好ましくは、前記画像処理部は、前記ブレンド率に基づいて超解像処理を実施して前記出力画像を生成する。
好ましくは、前記入力画像は、3次元ノイズリダクション処理が予め施されている画像である。
図1は、本発明の実施形態に係る画像処理装置3を用いたシステム1の構成概要を示す機能ブロック図である。システム1は、内視鏡システム2と、画像処理装置3と、表示部4とを備える。
内視鏡システム2は、内視鏡21と、画像処理部22とを備える。内視鏡21は不図示のビジョンセンサ(カメラ)を有し、例えばこれを被験体の口腔部から腹部に向けて挿入することで、被検体の腹部等を撮像可能に構成される。なお、情報処理という観点において、撮像された画像データは、2次元の画素の集合体(ピクセル配列)である。また、画像処理部22は、内視鏡21によって撮像された画像データに所定の画像処理を施す。ここでは当該画像処理は、上述の課題で例示した3Dノイズリダクションであるものとする。つまり、内視鏡21によって撮像された画像データのうち特に時系列において隣接する2フレームを用いて、画像に重畳しているノイズを低減する。
画像処理装置3は、内視鏡システム2より送信された画像データ(上述の通り3Dノイズリダクションが施されているもの)に対して所定の画像処理を実行する装置である。画像処理装置3は、制御部31と、記憶部32と、入力部33と、送受信部34と、静動情報算出部35と、ブレンド率決定部36と、画像処理部37とを備え、これらが通信バス3Bを介して接続されている。以下、構成要素31〜37をそれぞれ詳述する。
制御部31は、画像処理装置3に関連する全体動作の処理・制御を行う。制御部31は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部31は、記憶部32に記憶された所定のプログラムを読み出すことによって、画像処理装置3ないしはシステム1に係る種々の機能を実現する。例えば、所定のプログラムを読み出して、内視鏡21のリアルタイムの表示画像を含むグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示部4に表示させることが含まれる。
記憶部32は、上述の通り、制御部31により実現させるための種々のプログラム等を記憶する。これは、例えばハードディスクドライブ(Hard Disk Drive:HDD)又はソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして実施されうる。また記憶部32は、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとしても実施されうる。また、これらの組合せであってもよい。
入力部33は、例えば、画像処理装置3自体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部33は、タッチパネルとして実施されうる。或いは、スイッチボタン、マウス、キーボード等のユーザインターフェースを採用してもよい。入力部33を介して、操作者(例えば、医師)の指示(コマンド)を受け付ける。当該指示は、通信バス3Bを介して制御部31に転送され、制御部31が必要に応じて所定の制御や演算を実行しうる。当該指示の一例として、操作者は、入力部33を介して、表示部4に表示されている内視鏡21が撮像中の画像を一時停止することができる。つまり、内視鏡システム2において、内視鏡21が画像の撮像を一時停止(中断)することができ、その一方で画像処理部22が3Dノイズリダクションを実施することができる。この結果、一時停止された場合、3Dノイズリダクションがされていない画像が、システム1の送受信部34に送信されることとなる。
送受信部34は、画像処理装置3と、画像処理装置3以外の外部機器との通信のためのユニットである。すなわち、送受信部34を介して、内視鏡システム2より入力画像となる画像データを受信し、これを画像処理した後出力画像として表示部4に送信しうる。なお、送受信部34による通信は、画像データに限るものではない。例えば、有線LANネットワーク通信、Bluetooth通信、無線LANネットワーク通信等を含む複数の通信手段の集合体であって通信対象について適切な通信規格を含むように実施することが好ましい。
静動情報算出部35は、送受信部34を介して内視鏡システム2から受信した入力画像の静動情報を算出する。静動情報とは、入力画像とそれより過去に撮像された参照画像とを比較したときの静動変化(過去の所定のフレームから現在のフレームへのピクセルデータの変化)を示したピクセル配列である。静動情報の算出に関する詳細については、第2節に述べるものとする。
ブレンド率決定部36は、静動情報算出部35によって算出された静動情報に所定の代数演算を施して、入力画像に対するブレンド率を決定する。ブレンド率とは、静止状態に対応する(好ましくは、最適化された)画像処理(静止画用処理)と、動作状態に対応する(好ましくは、最適化された)画像処理(動画用処理)の重み付けとなるピクセル配列である。例えば、ブレンド率は静動情報をもとに算出される。注目領域(特許請求の範囲における「第1小領域」の一例)、及び、その周辺領域(特許請求の範囲における「第2小領域」の一例)における動作領域の割合が大きい場合、静止画処理に対して動画処理の重み付けが大きくなる。一方、注目領域、及び、周辺領域における静止領域の割合が大きい場合、動画処理に対して静止画処理の重み付けが大きくなる。なお、ブレンド率の決定に関する詳細については、第3節に述べるものとする。
画像処理部37は、ブレンド率に基づいて所定の画像処理を実行することで、静止状態及び動作状態の両方に最適化された出力画像を生成する。なお、かかる出力画像が通信バス3B及び送受信部34を介して表示部4に送信され、表示部4が当該出力画像を表示する。画像処理方法に関する詳細については、第2節に述べるものとする。
表示部4は、画像処理装置3によって画像処理された画像データが入力されると、各ピクセルデータ(各ピクセルが有する輝度値等の情報)に基づいてこれを映像として表示する媒体であり、例えばLCDモニタ、CRTモニタ、有機ELモニタ等であってよい。なお、画像処理装置3が表示部4を含んでもよい。
続いて、静動情報について詳述する。
図2は、本発明の実施形態に係る静動情報算出部35による静動情報の算出方法を示すフローチャートである。以下、図2における各ステップに基づいて流れを説明するものとする。
(ステップS1−1)
入力画像I(f)(特許請求の範囲における「現在フレーム」の一例)について、入力画像I(1)を縮小処理して得られる縮小画像J(1)を参照画像Rとして登録し、次のステップであるステップS1−2に進む。
続いて、参照画像R(特許請求の範囲における「過去フレーム」の一例)が、現在の入力画像I(f)よりもΔfフレーム前に撮像されたフレームかどうかが判定される。ここでΔfの値については、元の画像データのフレームレートによって適宜設定されることが好ましい。特に限定されるものではないが、例えばΔf=1、2、3、4、5、6、7、8、9、10、11、12、13、14、15等が考えられる。表示部4の表示フレームレートに合わせるため、元々はフレームレートの低い画像データをアップコンバート(例えば24fps→60fps等)したものを入力画像I(f)に使用する場合は、時系列で隣接する入力画像I(k)、I(k+1)が同一の画像である場合を含むこととなる。そのため、このようなものを排除しうる適切なΔfの設定が必要である。或いは、入力画像I(f)のフレームレート判定を行う処理を追加し、適切なΔfが設定されるように実施してもよい。参照画像Rが現在の入力画像I(f)よりもΔfフレーム前に撮像されたフレームである場合は次のステップであるステップS1−3に進み、そうではない場合はステップS1−2aに進む。なお、ステップS1−2aではfの値が+1インクリメントされて、再度ステップS1−2が実行される。
続いて、入力画像I(f)を縮小処理して縮小画像J(f)が生成され、次のステップであるステップS1−4に進む。なお、かかる縮小処理については、第2.2節で詳述する。
続いて、ステップS1−3において生成された縮小画像J(f)と、参照画像Rとに対して差分演算処理を実行することによって差分画像S(f)が生成され、次のステップであるステップS1−5に進む。なお、かかる差分演算処理については、第2.2節で詳述する。
続いて、ステップS1−4において生成された差分画像S(f)に対して2値化処理を実行することによってバイナリ画像B(f)が生成され、次のステップであるステップS1−5に進む。なお、かかる2値化処理については、第2.2節で詳述する。また、本実施形態では、バイナリ画像B(f)が静動情報である。
最後に、参照画像Rを現在の縮小画像であるJ(f)に上書き更新する。その後、ステップS1−2aに戻り上述のステップS1−2〜S1−6が繰り返されるが、最終フレームである場合にはそのフレームをもって処理を終了する。
[終了]
ここでは、上述の静動情報の算出方法において登場した各演算処理について説明する。図3は、入力画像I(f)から縮小画像J(f)を生成する際の概要図である。図4A及び図4Bは、図3の入力画像I(f)から生成された縮小画像J(f)と、過去の縮小画像J(f−Δf)である参照画像Rを示す概要図であり、特に、図4Aは縮小画像J(f)、図4Bは参照画像Rを示している。図5A及び図5Bは、図4A及び図4Bの縮小画像J(f)と参照画像Rとから生成される差分画像S(f)と、差分画像S(f)を2値化処理したバイナリ画像B(f)とを示す概要図であり、特に、図5Aは差分画像S(f)、図5Bはバイナリ画像B(f)を示している。図6は、入力画像I(f)の一例を示すもので、内視鏡システム2が送信するような医療画像に係るものではないが、敢えて簡単な例示として採用している。図7A〜図7Cは、図6の入力画像I(f)に関する、縮小画像J(f)、参照画像R、及びバイナリ画像B(f)の例を示す概要図であり、特に、図7Aは縮小画像J(f)、図7Bは参照画像R、図7Cはバイナリ画像B(f)を示している。
入力画像I(f)は、図3に示されるようなM×Nのピクセル配列(行列)を有する画像であり、左上を基準としてm行n列目のピクセルをピクセルi_m.nと表記している。この縮小処理は、入力画像I(f)を1/4倍も縮小するものであり、4×4の小領域に含まれる16個のピクセルi_m.nのピクセルデータの平均値を、縮小画像J(f)の1つのピクセルにおけるピクセルデータとして採用する。例えば、入力画像I(f)における小領域A1について、ピクセルi_1.1〜ピクセルi_4.4のピクセルデータの平均値が算出され、入力画像I(f)における小領域A2について、ピクセルi_5.5〜ピクセルi_8.8のピクセルデータの平均値が算出される。これを各小領域について繰り返すことで得られる画像が、図4Aに示される縮小画像J(f)である。
参照画像Rは、上述の通り現在の縮小画像J(f)よりもΔfフレーム前に撮像された縮小画像J(f−Δf)である。ここでは参照画像Rのピクセルをピクセルr_m.nと表記している。各ピクセルr_m.nは、入力画像I(f)における小領域に対応するものである。差分演算処理では、縮小画像J(f)と参照画像Rとの行列における差分演算が実行され、差分画像S(f)が生成される(数式(1)参照)。
S(f)=|J(f)−R| (1)
換言すると、差分画像S(f)における各ピクセルs_m.nのピクセルデータは、縮小画像J(f)における各ピクセルj_m.nのピクセルデータと参照画像Rにおける各ピクセルr_m.nのピクセルデータの差で表される。
2値化処理では、差分画像S(f)の各ピクセルs_m.nのピクセルデータが所定の閾値を超えるか否かが判定され、バイナリ画像B(f)の各ピクセルb_m.nのピクセルデータが0(閾値未満)又は1(閾値以上)を有するようにバイナリ画像B(f)が生成される(数式(2)参照)。
B(f)=bin(S(f)) (2)
上述の通り、本実施形態では、バイナリ画像B(f)が静動情報として採用される。これについて少し補足する。図7A〜図7Cに示されるように、図6の入力画像I(f)を縮小した縮小画像J(f)と、Δfフレーム前の縮小画像J(f−Δf)である参照画像Rとにおいて、動きがある場合は、対応するピクセルであるピクセルj_m.nのピクセルデータとピクセルr_m.nのピクセルデータに変化が起こる。そのため、その後の差分演算処理及び2値化処理を介することでバイナリ画像B(f)の各ピクセルb_m.nは、ピクセルデータとして0(黒:動きなし)又は1(白:動きあり)を有することとなる。このような理由でバイナリ画像B(f)が入力画像I(f)における各小領域の静動変化を示す静動情報として採用されうる。
続いて、ブレンド率について詳述する。ブレンド率は、メディアンフィルタや膨張縮小処理による誤判定低減処理と、スムージングフィルタによる静動境界平滑化や隣接するピクセルのピクセルデータを用いた変動量制御とを組合せて決定されうるものだが、一例として注目ピクセル(入力画像I(f)に対しては小領域に対応)の近傍の3ピクセルを用いた変動量制御と、線形拡大とを組合せた方法について以下、説明する。
図8は、本発明の実施形態に係るブレンド率決定部36によるブレンド率の決定方法を示すフローチャートである。本算出方法では、まず、ステップS2−1〜ステップS2−6に示されるように、バイナリ画像B(f)の各ピクセルb_m.nから縮小ブレンド率X(f)を決定する。縮小ブレンド率X(f)は、[M/4]×[N/4]のピクセル配列(行列)を有する画像であり、左上を基準としてm行n列目のピクセルをピクセルx_m.nと表記することにする。最後に、ステップS2−7において線形拡大処理をすることによって、ブレンドY(f)が決定される。以下、図8における各ステップに基づいて流れを説明するものとする。
(ステップS2−1)
各ピクセルb_m.nが左上の端部を構成するピクセルb_m.nであるかが判定される。端部を構成するピクセルb_m.nである場合は、ステップS2−1aに示されるようにこれに対応するピクセルx_m.nのピクセルデータをピクセルb_m.nのピクセルデータ(0又は1)とし、ステップS2−1bに示されるように次のピクセルb_m.n+1(又はピクセルb_m+1.1)に処理を進める。端部を構成するピクセルb_m.nでない場合は、次のステップであるステップS2−2に進む。
ピクセルb_m.nのピクセルデータが0又は1かが判定される。換言すると、入力画像I(f)における対応する小領域が静止領域(0)か動作領域(1)かが判定されている。ピクセルb_m.nのピクセルデータが0である場合は、ステップS2−3及びS2−4に進み、ピクセルb_m.nのピクセルデータが1である場合は、ステップS2−5及びS2−6に進む。
今回処理するピクセルb_m.nに対応するピクセルx_m.n(これからピクセルデータを決定する注目ピクセル)の上、左上、左の3つのピクセルのピクセルデータに着目する。それぞれ、ピクセルx_m−1.n、ピクセルx_m−1.n−1、ピクセルx_m.n−1である。そして、これら3つの各ピクセルデータのうちの最小値をαとして抽出し、次のステップであるステップS2−4に進む。
ステップS2−3において決定されたαから所定のパラメータdの値を減算した値と、0とのうち大きい方の値が、ピクセルx_m.nのピクセルデータとして決定される。なお、パラメータdは、自由に調節できるパラメータである。その後ステップS2−1bに示されるように次のピクセルb_m.n+1(又はピクセルb_m+1.1)に処理を進め、次のピクセルがない場合には処理を終了する。
今回処理するピクセルb_m.nに対応するピクセルx_m.n(これからピクセルデータを決定する注目ピクセル)の上、左上、左の3つのピクセルのピクセルデータに着目する。それぞれ、ピクセルx_m−1.n、ピクセルx_m−1.n−1、ピクセルx_m.n−1である。そして、これら3つの各ピクセルデータのうちの最大値をβとして抽出し、次のステップであるステップS2−6に進む。
ステップS2−5において決定されたβから所定のパラメータdの値を加算した値と、1とのうち小さい方の値が、ピクセルx_m.nのピクセルデータとして決定される。なお、パラメータdは、自由に調節できるパラメータである。その後ステップS2−1bに示されるように次のピクセルb_m.n+1(又はピクセルb_m+1.1)に処理を進め、次のピクセルがない場合には処理を終了する。
[終了]
図9A及び図9Bは、図8に示したブレンド率の決定方法を適用した一例であり、図9Aはバイナリ画像B(f)の一部の領域、図9Bはこの領域に対応する縮小ブレンド率X(f)であって計算途中のものを示している。また、図10は、図8に示したブレンド率の決定方法を適用した一例であり、決定された縮小ブレンド率X(f)を示している。
続いて、画像処理方法について説明する。簡単のためここでは、入力画像I(f)に画像処理フィルタFを左から乗算することで出力画像O(f)が得られる場合を考えるものとする(数式(3)参照)。特に、例えば、小領域毎の入力画像I(f)に画像処理フィルタFを左から乗算することで小領域毎の出力画像O(f)が得られる。かかる乗算は、上述の画像処理部37が実施しうるものである。
O(f)=F×I(f) (3)
また、画像処理フィルタFは、静止領域(又は静止状態)に最適化された画像処理フィルタF0と、動作領域(又は動作状態)に最適化された画像処理フィルタF1とが用意されていることに留意されたい。例えば、画像処理フィルタF(F0、F1含む)は、入力画像I(f)に対して鮮鋭化処理を行うようなフィルタや、ノイズリダクション処理を行うようなフィルタが例として想定されうる。一方、フィルタF0(又はF1)を鮮鋭化処理フィルタとし、フィルタF1(又はF0)をノイズリダクション処理フィルタとする、というようにフィルタF0、F1をそれぞれ異なる処理を実行するフィルタとしてもよい。以下、いくつかの画像処理方法を説明する。
第1画像処理方法では、静止領域に最適化して得られる第1中間画像M0(f)と、動画領域に最適化して得られる第2中間画像M1(f)とを、ブレンド率Y(f)に基づいて重ね合わせることにより、静止領域及び動作領域の両方に最適化された出力画像O(f)を生成するものである(数式(4)〜(6)参照)。
M0(f)=F0×I(f) (4)
M1(f)=F1×I(f) (5)
O(f)=Y(f)×M0(f)+{1−Y(f)}×M1(f) (6)
なお、かかる演算はあくまでも一例であり、更に何らかの重み付けを考慮してもよいし、静動状態によって変えるべき複数のパラメータについてそれぞれ実施してもよい。例えば、スパースコーディングを用いた超解像処理であれば、ノイズリダクションに用いる係数と鮮鋭度向上に用いる係数が例示されうる。例えば、ノイズリダクションに用いる係数について説明すると、F0はノイズリダクションについて静止領域に最適化された係数であり、F1はノイズリダクションについて動作領域に最適化された係数である。また、鮮鋭度向上について説明すると、F0は鮮鋭度向上について静止領域に最適化された係数であり、F1は鮮鋭度向上について動作領域に最適化された係数である。かかるブレンド率Y(f)を用いることで、これらの係数をそれぞれ最適化することができる。なお、ここでは画像処理部37が特許請求の範囲における第1〜第3画像処理部の一例として機能している。
第2画像処理方法では、静止領域に最適化された画像処理フィルタF0(特許請求の範囲における「静止パラメータ」の一例)と、動作領域に最適化された画像処理フィルタF1(特許請求の範囲における「動作パラメータ」の一例)とをブレンド率Y(f)に基づいて重ね合わせることにより、最適化フィルタF2(特許請求の範囲における「静動パラメータ」の一例)を生成し、更に入力画像I(f)に最適化フィルタF2を左から乗算することで静止領域及び動作領域の両方に最適化された出力画像O(f)を生成するものである(数式(7)及び(8)参照)。
F2=Y(f)×F0+{1−Y(f)}×F1 (7)
O(f)=F2×I(f) (8)
特に、第1画像処理方法とは異なって画像処理そのものは、数式(8)に示されるように1度で済むため、画像処理部37の回路構成が第1画像処理方法に比してシンプルで済むという効果がある。また、こちらについても、かかる演算はあくまでも一例であり、更に何らかの重み付けを考慮してもよいし、複数の静動状態によって変えるべき複数のパラメータについて実施してもよい。なお、ここでは画像処理部37が特許請求の範囲におけるパラメータ算出部の一例として機能している。
図11A〜図11Fは、種々の画像処理結果を示す図であり、特に図11A〜図11Dは比較例、図11E及び図11Fは本発明に係る実施例である。何れもスパースコーディングを用いた超解像処理が実施されているものである。例えば、図11Aに示されるように、静止領域に最適化された画像処理フィルタF0を動作領域に適用すると鮮鋭度が著しく低い画像となる。また、図11Dに示されるように、動作領域に最適化された画像処理フィルタF1を静止領域に適用すると鮮鋭度が高く且つノイズが強調された画像となる。一方、本実施形態に係る画像処理方法(ここでは一例として第2画像処理方法)を実施すると、画像処理フィルタF2によって、静止領域/動作領域ともに適切な鮮鋭度を有する出力画像が出力されている。特に、ブレンド率Y(f)は動作領域と静止領域の境界において自然な出力画像を出力するためのピクセルデータを有するように構成されるため、動作領域と静止領域が混在している場合は、最適化に際してより大きな効果を奏するといえる。
上述の本実施形態に係る画像処理方法は、以下の態様によっても実施することができる。
以上のように、本実施形態によれば、動作領域と静止領域の両方を含みうる入力画像に対して適切な鮮鋭度の画像を出力しうる画像処理装置、画像処理方法及び画像処理プログラムを提供することができる。
Claims (12)
- 静動情報算出部と、ブレンド率決定部と、画像処理部とを備え、
画像の一部であって少なくとも1つのピクセルからなる領域を「小領域」と定義し、動画において過去フレームから現在フレームへの静動変化を前記小領域毎に示した情報を「静動情報」と定義した場合において、
前記静動情報算出部は、入力された入力画像の静動情報を0又は1に2値化されたピクセルデータを有する画像として算出し、
前記ブレンド率決定部は、前記入力画像の前記静動情報に所定の演算を実施してブレンド率を決定し、
前記画像処理部は、前記ブレンド率に基づいて前記入力画像を画像処理することで前記静動変化に対して最適化された出力画像を生成し、
前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、
前記ブレンド率は、前記静止状態に対して最適化された画像処理と、前記動作状態に対して最適化された画像処理の重み付けに用いられ、
前記静動情報の第1小領域に対応する前記ブレンド率の決定では、前記第1小領域及びその周辺に位置する第2小領域において当該2値がそれぞれ占める割合を使用する、
画像処理装置。 - 静動情報算出部と、ブレンド率決定部と、画像処理部とを備え、
画像の一部であって少なくとも1つのピクセルからなる領域を「小領域」と定義し、動画において過去フレームから現在フレームへの静動変化を前記小領域毎に示した情報を「静動情報」と定義した場合において、
前記静動情報算出部は、入力された入力画像の静動情報を算出し、
前記ブレンド率決定部は、前記入力画像の前記静動情報に所定の演算を実施してブレンド率を決定し、
前記画像処理部は、前記ブレンド率に基づいて前記入力画像を画像処理することで前記静動変化に対して最適化された出力画像を生成し、
前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、
前記ブレンド率は、前記静止状態に対して最適化された画像処理と、前記動作状態に対して最適化された画像処理の重み付けに用いられ、
前記静動情報の第1小領域に対応する前記ブレンド率は、前記第1小領域及びその周辺に位置する第2小領域において、前記静止状態にある小領域の割合が大きい場合には前記静止状態に対して最適化された前記画像処理の重み付けが大きくなり、前記動作状態にある小領域の割合が大きい場合には前記動作状態に対して最適化された前記画像処理の重み付けが大きくなるように決定される、
画像処理装置。 - 前記静動情報は、0又は1に2値化されたピクセルデータを有する画像であり、
前記所定の演算では、前記静動情報における第1小領域とこの周辺に位置する第2小領域とについて当該2値がそれぞれ占める割合を使用する、
請求項2に記載の画像処理装置。 - 前記画像処理部は、前記ブレンド率に基づいて前記入力画像における1つのフレームを画像処理することで前記静動変化に対して最適化された出力画像を生成する、
請求項1〜請求項3の何れか1つに記載の画像処理装置。 - 前記画像処理部は、第1〜第3画像処理部を備え、
前記第1画像処理部は、前記入力画像を画像処理して前記静止状態に対応する第1中間画像を生成し、
前記第2画像処理部は、前記入力画像を画像処理して前記動作状態に対応する第2中間画像を生成し、
前記第3画像処理部は、前記ブレンド率に基づいて、前記第1及び第2中間画像を重ね合わせて前記出力画像を生成する、
請求項1〜請求項4の何れか1つに記載の画像処理装置。 - パラメータ算出部を更に備え、
前記パラメータ算出部は、前記ブレンド率に基づいて、前記静止状態に対応する静止パラメータと、前記動作状態に対応する動作パラメータとを重ね合わせて静動パラメータを算出し、
前記画像処理部は、前記静動パラメータを用いて前記出力画像を生成する、
請求項1〜請求項5の何れか1つに記載の画像処理装置。 - 前記第2小領域は、前記第1小領域の上側、左上側、左側において前記第1小領域と隣接する小領域である、
請求項1〜請求項6の何れか1つに記載の画像処理装置。 - 前記画像処理部は、前記ブレンド率に基づいてノイズリダクション処理及び鮮鋭化処理のうち少なくとも一方を実施して前記出力画像を生成する、
請求項1〜請求項7の何れか1つに記載の画像処理装置。 - 前記画像処理部は、前記ブレンド率に基づいて超解像処理を実施して前記出力画像を生成する、
請求項1〜請求項8の何れか1つに記載の画像処理装置。 - 前記入力画像は、3次元ノイズリダクション処理が予め施されている画像である、
請求項1〜請求項9の何れか1つに記載の画像処理装置。 - 静動情報算出ステップと、ブレンド率決定ステップと、画像処理ステップとを備え、
画像の一部であって少なくとも1つのピクセルからなる領域を「小領域」と定義し、動画において過去フレームから現在フレームへの静動変化を前記小領域毎に示した情報を「静動情報」と定義した場合において、
前記静動情報算出ステップでは、入力された入力画像の静動情報が0又は1に2値化されたピクセルデータを有する画像として算出され、
前記ブレンド率決定ステップでは、前記入力画像の前記静動情報に所定の演算を実施してブレンド率が決定され、
前記画像処理ステップでは、前記ブレンド率に基づいて前記入力画像を画像処理することで前記静動変化に対して最適化された出力画像が生成され、
前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、
前記ブレンド率は、前記静止状態に対して最適化された画像処理と、前記動作状態に対して最適化された画像処理の重み付けに用いられ、
前記静動情報の第1小領域に対応するブレンド率の決定では、前記第1小領域及びその周辺に位置する第2小領域において当該2値がそれぞれ占める割合を使用する、
画像処理方法。 - コンピュータに、所定の機能を実現させるプログラムであって、
前記所定の機能は、静動情報算出機能と、ブレンド率決定機能と、画像処理機能とを備え、
画像の一部であって少なくとも1つのピクセルからなる領域を「小領域」と定義し、動画において過去フレームから現在フレームへの静動変化を前記小領域毎に示した情報を「静動情報」と定義した場合において、
前記静動情報算出機能では、入力された入力画像の静動情報が0又は1に2値化されたピクセルデータを有する画像として算出され、
前記ブレンド率決定機能では、前記入力画像の前記静動情報に所定の演算を実施してブレンド率が決定され、
前記画像処理機能では、前記ブレンド率に基づいて前記入力画像を画像処理することで前記静動変化に対して最適化された出力画像が生成され、
前記静動変化について、変化がない状態を静止状態と定義し且つ変化がある状態を動作状態と定義した場合において、
前記ブレンド率は、前記静止状態に対して最適化された画像処理と、前記動作状態に対して最適化された画像処理の重み付けに用いられ、
前記静動情報の第1小領域に対応するブレンド率の決定では、前記第1小領域及びその周辺に位置する第2小領域において当該2値がそれぞれ占める割合を使用する、
画像処理プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/028320 WO2019026263A1 (ja) | 2017-08-03 | 2017-08-03 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019026263A1 JPWO2019026263A1 (ja) | 2020-04-16 |
JP6797306B2 true JP6797306B2 (ja) | 2020-12-09 |
Family
ID=65232436
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019533847A Active JP6797306B2 (ja) | 2017-08-03 | 2017-08-03 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11132776B2 (ja) |
JP (1) | JP6797306B2 (ja) |
CN (1) | CN110959284B (ja) |
DE (1) | DE112017007815T5 (ja) |
WO (1) | WO2019026263A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115102892B (zh) * | 2022-05-18 | 2023-03-17 | 慧之安信息技术股份有限公司 | 基于gat 1400协议的模拟测试方法 |
EP4322104A1 (en) * | 2022-08-10 | 2024-02-14 | Leica Instruments (Singapore) Pte Ltd | Data processing device and computer-implemented method for motion-dependent image processing in a medical observation device and medical observation device |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07131808A (ja) | 1993-10-29 | 1995-05-19 | Mitsubishi Electric Corp | 色信号ノイズリダクション装置 |
EP2017788A4 (en) * | 2006-05-09 | 2012-05-09 | Pioneer Corp | SHIELD OBJECT VIDEO IMAGE IDENTIFICATION DEVICE AND METHOD |
JP2009027604A (ja) * | 2007-07-23 | 2009-02-05 | Elmo Co Ltd | ノイズ低減装置およびノイズ低減方法 |
JP2011166535A (ja) | 2010-02-10 | 2011-08-25 | Mitsubishi Electric Corp | 撮像装置 |
JP2011237998A (ja) | 2010-05-10 | 2011-11-24 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
US10697155B2 (en) | 2010-07-29 | 2020-06-30 | Jerry L. McKinney | Wastewater re-use systems |
JP2012186593A (ja) | 2011-03-04 | 2012-09-27 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP5733565B2 (ja) | 2011-03-18 | 2015-06-10 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP2012216109A (ja) | 2011-04-01 | 2012-11-08 | Sony Corp | 画像処理装置と画像処理方法 |
JP5178898B1 (ja) | 2011-10-21 | 2013-04-10 | 株式会社東芝 | 画像信号補正装置、撮像装置、内視鏡装置 |
EP3001669B1 (en) | 2013-05-22 | 2018-03-14 | Sony Semiconductor Solutions Corporation | Image processing apparatus, image processing method and program |
JP6128987B2 (ja) | 2013-06-25 | 2017-05-17 | オリンパス株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2015177322A (ja) | 2014-03-14 | 2015-10-05 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
US10163029B2 (en) * | 2016-05-20 | 2018-12-25 | Gopro, Inc. | On-camera image processing based on image luminance data |
-
2017
- 2017-08-03 WO PCT/JP2017/028320 patent/WO2019026263A1/ja active Application Filing
- 2017-08-03 CN CN201780093464.3A patent/CN110959284B/zh active Active
- 2017-08-03 JP JP2019533847A patent/JP6797306B2/ja active Active
- 2017-08-03 US US16/628,692 patent/US11132776B2/en active Active
- 2017-08-03 DE DE112017007815.6T patent/DE112017007815T5/de active Pending
Also Published As
Publication number | Publication date |
---|---|
DE112017007815T5 (de) | 2020-04-16 |
US20200184615A1 (en) | 2020-06-11 |
JPWO2019026263A1 (ja) | 2020-04-16 |
WO2019026263A1 (ja) | 2019-02-07 |
US11132776B2 (en) | 2021-09-28 |
CN110959284B (zh) | 2021-09-21 |
CN110959284A (zh) | 2020-04-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7051457B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN104284126B (zh) | 影像插补方法以及应用该方法的影像插补装置与影像装置 | |
CN111292236B (zh) | 一种减少中央凹注视渲染中的混叠伪像的方法和计算系统 | |
WO2014083949A1 (ja) | 立体画像処理装置、立体画像処理方法、及びプログラム | |
KR20160001675A (ko) | 그래픽스 프로세싱을 수행하는 방법 및 그래픽스 시스템 | |
EP2485190A1 (en) | Adapting the resolution of a graphic representation of metadata | |
KR102245745B1 (ko) | 이미지 블러링 방법 및 장치 | |
CN106780336B (zh) | 一种图像缩小方法及装置 | |
US11423512B2 (en) | Super-resolution processing apparatus, method, and program | |
JP2006526834A (ja) | ボリューム・レンダリング用の適応画像補間 | |
JP6797306B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
EP3901899A1 (en) | Imaging system and method incorporating selective denoising | |
JP4668289B2 (ja) | 画像処理装置および方法並びにプログラム | |
JP5493155B2 (ja) | 立体画像処理装置、立体画像処理方法、及びプログラム | |
JP2008067915A (ja) | 医用画像表示装置 | |
CN111247554B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
JP7034690B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5674659B2 (ja) | 画像処理装置、x線画像診断装置 | |
JP6749510B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP7414496B2 (ja) | 画像処理方法 | |
JP4242824B2 (ja) | デジタル画像拡大・縮小方法、デジタル画像拡大・縮小装置、及びデジタル画像拡大・縮小プログラム | |
JP2021010102A (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20130114888A1 (en) | Image processing apparatus, computer program product, and image processing method | |
JP5721410B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2000348199A (ja) | テクスチャマッピング方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191209 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200728 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200903 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201117 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6797306 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |