JP6900395B2 - 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 - Google Patents

画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 Download PDF

Info

Publication number
JP6900395B2
JP6900395B2 JP2018553565A JP2018553565A JP6900395B2 JP 6900395 B2 JP6900395 B2 JP 6900395B2 JP 2018553565 A JP2018553565 A JP 2018553565A JP 2018553565 A JP2018553565 A JP 2018553565A JP 6900395 B2 JP6900395 B2 JP 6900395B2
Authority
JP
Japan
Prior art keywords
image
hue
input image
pixels
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018553565A
Other languages
English (en)
Other versions
JPWO2018100662A1 (ja
Inventor
祐一 楠美
祐一 楠美
智暁 井上
智暁 井上
義明 井田
義明 井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JPWO2018100662A1 publication Critical patent/JPWO2018100662A1/ja
Application granted granted Critical
Publication of JP6900395B2 publication Critical patent/JP6900395B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4738Diffuse reflection, e.g. also for testing fluids, fibrous materials
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • G01N21/57Measuring gloss
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Analytical Chemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Color Image Communication Systems (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体に関する。
入力画像を拡散反射成分と鏡面反射成分とに分離することで、撮影後の画像処理において様々な画像生成を行うことができる。例えば、分離した拡散反射成分と光沢成分である鏡面反射成分を用いることで、光沢感を制御した画像を生成することが可能である。
また、被写体のライティングを変更した画像を生成するために必要な面法線を高精度に取得することが可能となる。被写体の見えは、被写体の形状情報、被写体の反射率情報、光源情報等で決定される。光源から出た光が被写体によって反射された反射光の物理的な振る舞いは局所的な面法線に依存するため、形状情報としては3次元形状ではなく被写体の面法線を用いることが特に有効である。そのような被写体の面法線を取得する方法として、照度差ステレオ法が用いられる。照度差ステレオ法では、被写体がランバート拡散反射である仮定の下で面法線を取得するため、入力画像における拡散反射成分のみが必要である。したがって、画像から拡散反射成分を推定する技術が必要となる。画像から拡散反射成分が推定できれば、画像から拡散反射成分を差し引くことで、鏡面反射成分も同時に取得することができる。
特許文献1や非特許文献1では、物体が2色性反射モデルに従うことを利用し、入力画像における色相毎に抽出した画素に基づいて、入力画像から拡散反射成分を推定する手法について開示している。2色性反射モデルでは、被写体からの反射光を、物体色である拡散反射成分と光源色である鏡面反射成分の線形和で表すことができる。
この手法では、同じ拡散反射率である被写体毎に拡散反射成分を推定するために、入力画像の色相毎に画素の抽出を行う。光源が白色である場合、被写体の色相は物体色である拡散反射成分のみに依存し、光源色である鏡面反射成分の有無には無関係であるため、色相を用いることで同じ拡散反射率である被写体のみから画素を抽出することができる。
特開2013−65215号公報
肥後 智昭, 宮崎 大輔, 池内 克史、"二色性反射モデルに基づくリアルタイム鏡面反射成分除去"、研究報告コンピュータビジョンとイメージメディア、pp.211−218、2006
しかしながら、入力画像にノイズが存在する場合には、入力画像における色相がばらつくことに起因して画素の抽出精度が低下し、その結果、拡散反射成分の推定精度も低下してしまう。
特許文献1では、ノイズ影響による入力画像の色相のばらつきに対して、画素を抽出する際の色相範囲を調節することで抽出精度の低下を抑制する手法について開示している。つまり、ノイズが多い場合には抽出する画素の色相範囲を広げる。
しかしながら、抽出する色相の範囲を広げると、近い色相を持つ別の被写体から画素を抽出してしまう恐れがある。各色相毎に抽出した画素が、全て同じ拡散反射率の被写体であるとみなして拡散反射成分を推定するため、異なる拡散反射率の被写体の画素を混同して抽出してしまうと、拡散反射成分の推定精度が低下する。
このような課題に鑑みて、本発明は、ノイズの影響を低減して、入力画像から高精度に拡散反射成分を推定可能な画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体を提供することを目的とする。
本発明の一側面としての画像処理装置は、入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得する色相取得部と、ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する抽出部と、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定する推定部と、前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成する画像生成部と、を有し、前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行われることを特徴とする。
また、本発明の他の画像処理装置は、入力画像または入力画像における第一の色相に対 してノイズ低減処理を行い、ノイズが低減された第二の色相を取得する色相取得部と、ノ イズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する抽出 部と、前記抽出部により抽出された複数の画素における彩度と第一の強度に基づいて拡散 反射成分の第二の強度を推定する推定部と、前記複数の画素における前記第一の色相と前 記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成する 画像生成部と、を有し、前記ノイズ低減処理は、前記入力画像における鏡面反射成分であ る仮の鏡面反射画像に基づいて行われることを特徴とする。
また、本発明の他の画像処理装置は、入力画像または入力画像における第一の色相に対 してノイズ低減処理を行い、ノイズが低減された第二の色相を取得する色相取得部と、ノ イズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する抽出 部と、前記抽出部により抽出された複数の画素における彩度と第一の強度に基づいて拡散 反射成分の第二の強度を推定する推定部と、前記複数の画素における前記第一の色相と前 記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成する 画像生成部と、を有し、前記ノイズ低減処理は、前記入力画像における色の鮮やかさに基 づいて行われることを特徴とする。
また、本発明の他の側面としての撮像装置は、被写体を撮像する撮像素子と、入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得し、ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出し、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定し、前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成する画像処理部と、を有し、前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行われることを特徴とする。
また、本発明の他の側面としての画像処理方法は、入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得するステップと、ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出するステップと、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定するステップと、前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成するステップと、を含み、前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行わ れることを特徴とする。
また、本発明の他の画像処理方法は、入力画像または入力画像における第一の色相に対 してノイズ低減処理を行い、ノイズが低減された第二の色相を取得するステップと、ノイ ズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出するステッ プと、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強 度を推定するステップと、前記複数の画素における前記第一の色相と前記第二の色相の一 方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成するステップと、を含 み、前記ノイズ低減処理は、前記入力画像における鏡面反射成分である仮の鏡面反射画像 に基づいて行われることを特徴とする。
また、本発明の他の画像処理方法は、入力画像または入力画像における第一の色相に対 してノイズ低減処理を行い、ノイズが低減された第二の色相を取得するステップと、ノイ ズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出するステッ プと、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強 度を推定するステップと、前記複数の画素における前記第一の色相と前記第二の色相の一 方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成するステップと、を含 み、前記ノイズ低減処理は、前記入力画像における色の鮮やかさに基づいて行われること を特徴とする。
本発明によれば、ノイズの影響を低減して、入力画像から高精度に拡散反射成分を推定可能な画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体を提供することができる。
実施例1、2の撮像装置のブロック図である。 実施例1の画像処理方法を示すフローチャートである。 入力画像から拡散反射画像を取得するフローの模式図である。 彩度−強度平面における拡散反射成分と鏡面反射成分を示す図である。 拡散反射成分の推定を示す図である。 入力画像と拡散反射画像と鏡面反射画像を示す図である。 実施例2の画像処理方法を示すフローチャートである。 実施例2の画像処理方法における仮の鏡面反射画像を取得するフローの模式図である。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
以下に本発明の第一の実施形態の具体例を記す。
本実施例の撮像装置は、入力画像から拡散反射成分を推定する。
図1は、撮像装置のブロック図である。撮像光学系101は、絞り101aを備え、被写体からの光を撮像素子102上に結像させる。撮像素子102は、CCDセンサやCMOSセンサ等の光電変換素子により構成され、被写体を撮像する。撮像素子102の光電変換によって生成されたアナログ電気信号は、A/Dコンバータ103でデジタル信号に変換されて画像処理部104に入力される。なお、撮像光学系101は、撮像装置100に内蔵される構成であってもよいし、一眼レフカメラのように撮像装置100に着脱可能に取り付けられる構成であってもよい。
画像処理部104は、デジタル信号に対して一般的に行われる画像処理と併せて、入力画像から拡散反射成分を推定する。画像処理部104は、入力画像取得部104a、ノイズが低減された色相(第二の色相)を取得する色相取得部104b、色相毎に画素を抽出する抽出部104c、抽出した画素から拡散反射成分を推定する推定部104dを備える。さらに、推定した拡散反射成分に基づいて拡散反射画像を取得(生成)する拡散反射画像取得部(画像生成部)104e、拡散反射画像および鏡面反射画像に基づいて画像の光沢制御を行う光沢制御部104fを備える。
画像処理部104で処理された出力画像は、半導体メモリや光ディスク等の画像記録部108に保存される。また、出力画像を、表示部105に表示してもよい。
本実施例では、入力画像取得部104a、色相取得部104b、抽出部104c、推定部104d、拡散反射画像取得部(画像生成部)104eおよび光沢制御部104fが、撮像装置に内蔵されている。しかしながら、これらを備える画像処理装置として、撮像装置とは別に構成されていてもよい。
情報入力部107は、ユーザーによって選択された撮影条件(絞り値、露出時間、および焦点距離など)をシステムコントローラ109に供給する。撮像制御部106は、システムコントローラ109からの情報に基づいて、ユーザーが選択した所望の撮影条件で画像を取得する。
図2は、本実施例の画像処理方法を示すフローチャートであり、図3は入力画像から拡散反射画像を取得(生成)するフローを模式的に示した図である。本実施例の画像処理方法は、システムコントローラ109および画像処理部104により、コンピュータプログラムとしての画像処理プログラムに従って実行される。なお、画像処理プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録してもよい。
ステップS101では、入力画像取得部104aは、撮像装置100から撮影画像を入力画像110として取得する。入力画像取得部104aは、撮影画像に対してノイズ低減処理が施された画像を入力画像として取得しても良い。画像処理部104が画像処理装置として撮像装置とは別に構成されている場合、入力画像110の取得は、撮像装置と画像処理装置とを有線または無線による通信を介して行ってもよいし、半導体メモリや光ディスク等の記憶媒体を介して行ってもよい。
ステップS102では、色相取得部104bは、ノイズが低減された色相(第二の色相112)を取得する。上述したように、入力画像110にノイズが存在する場合には、色相がばらつくことに起因して後述する画素の抽出精度が低下し、その結果、拡散反射成分の推定精度も低下してしまう。したがって、ノイズが低減された色相を取得して用いることでノイズ影響を低減する。
例えば、入力画像110に対してノイズ低減処理を施した画像における第二の色相112を取得する。あるいは、入力画像110における色相(第一の色相111)に対してノイズ低減処理を施して第二の色相112を取得しても良い。
光源が白色である場合、入力画像110の色相111は拡散反射成分のみに依存し、鏡面反射成分の有無には無関係であるため、後述するステップS103において、色相111を用いることで同じ拡散反射率である被写体のみから画素を抽出することができる。したがって、予め撮影画像や入力画像110に対してホワイトバランス補正を行うことで白色光源下における画像としておくことが好ましい。
色相hueは、以下の式(1)および式(2)に基づいて算出される。r、gおよびbは色相hueを算出する画像におけるRGB値である。
Figure 0006900395
Figure 0006900395
つまり、色相hueは、式(1)、(2)より以下の式(3)で算出される。
Figure 0006900395
ノイズ低減処理は一般的に用いられる種々の手法を用いてよい。さらに言うと、エッジを保存したままノイズを低減可能な手法が好ましい。エッジ保存ノイズ低減手法としては、バイラテラルフィルタやNLM(Non Local Means)フィルタ、ガイデッドフィルタ等が用いられる。あるいは、複数枚の画像を用いてノイズ低減処理を行っても良い。
ここで、色相のばらつきは入力画像110のノイズ量によって変化するため、入力画像110のノイズ量に基づいてノイズ低減処理を行うことが好ましい。入力画像110のノイズ量が多い領域ほど色相のばらつきも大きくなるため、ノイズ低減処理の強さを強くする。入力画像110のノイズ量は撮影時のISO感度や輝度値に基づいて決定することができる。あるいは入力画像110からノイズ量を推定してもよい。
また、ノイズによる色相のばらつきは入力画像110における色の鮮やかさによっても変化するため、入力画像110における色の鮮やかさに基づいてノイズ低減処理を行ってもよい。画像のRGB値それぞれの差が小さい領域ほど、つまり色の鮮やかさが低い領域ほど色相のばらつきが大きくなるため、ノイズ低減処理の強さを強くする。色の鮮やかさとしては、HLS、HSV等の色空間における彩度を用いてもよいし、RGB値それぞれの差などを用いればよい。また、後述する式(4)で示される彩度saturationを用いてもよい。
ステップS103では、抽出部104cは、ステップS102で取得した第二の色相112に基づいて入力画像110から画素を抽出する。
非特許文献1では本実施例における第一の色相111に基づいて入力画像110から画素を抽出するが、上記したように、第一の色相111はノイズの影響によりばらつきが生じたものである。そのため、入力画像110から画素を抽出する精度が低下する。本実施例ではノイズが低減された第二の色相112に基づいて画素を抽出するため、高精度に画素を抽出することができる。本ステップでは、第二の色相112に基づいて入力画像110から色相毎に画素を抽出するが、抽出する画素の色相に対して範囲を設定しても良い。
次に、ステップS104において、推定部104dは、ステップS103で色相毎に抽出した画素に基づいて入力画像110における拡散反射成分を推定する。
図4に示すように、色相毎に抽出した画素を式(4)、式(5)で算出される彩度saturation、強度intensity平面でプロットすると、拡散反射成分120は原点を通る直線121上に存在する。さらに、光源が白色である場合、拡散反射成分に鏡面反射が加わった成分122は彩度が変化せずに強度のみが変化する。
Figure 0006900395
Figure 0006900395
そこで、ステップS103で色相毎に抽出した画素における彩度113、強度(第一の強度114)を取得し、拡散反射成分110が存在する直線121の傾きを推定する。
直線121の傾きは、種々のフィッティング方法を用いて推定すればよい。直線121の傾きを推定する際には、拡散反射成分120のみが必要であるが、鏡面反射が加わった成分122は不要な外れ値であるため、外れ値を回避するようなフィッティング方法が好ましい。鏡面反射が加わった成分122を除外するために、各彩度において最小である第一の強度114の画素のみから直線121の傾きを推定してもよい。
推定した傾きから求められる直線121、つまり拡散反射成分120の強度(拡散反射強度)よりも大きい第一の強度114を有する画素は鏡面反射が加わった成分122であるとみなすことができる。そのような画素における第一の強度114を、図5に示すように、直線121上になるように第二の強度115に置き換えることで、鏡面反射成分が除かれた拡散反射成分を取得できる。あるいは、抽出した全画素における第一の強度114を、直線121で示される拡散反射強度である第二の強度115に置換してもよい。
推定した直線121の傾きは被写体の拡散反射率で決定されるパラメータであり、被写体ごとに異なる。そのため、被写体の色相毎に画素を抽出して直線121の傾きを求めることで、色相で分類された被写体ごとに拡散反射成分を取得する。
また、光源が白色である場合のみ、鏡面反射が加わった成分122は拡散反射成分120に比べて彩度が変化せずに強度のみ変化する。このため、予め入力画像110に対してホワイトバランス補正を行うことにより、白色光源下における画像としておくことが好ましい。
次に、ステップS105において、拡散反射画像取得部(画像生成部)104eは、ステップS104において取得した拡散反射成分の第二の強度115、彩度113および色相に基づいて拡散反射画像116を取得(生成)する。ここで言う色相は、第一の色相111に相当する、抽出した画素における色相である。あるいは、ステップS102で取得した第二の色相112を用いても良い。拡散反射画像116の取得(生成)には上述した式(1)〜(5)を逆変換することで算出できる。
また、取得した拡散反射画像116と入力画像110を用いて、鏡面反射画像117を取得(生成)してもよい。すなわち、図6に示されるように、鏡面反射画像117は、入力画像110から拡散反射画像116を差し引くことで取得(生成)できる。ここで、図6の入力画像110における領域118は鏡面反射領域であり、拡散反射画像116における領域119は、入力画像110から鏡面反射成分が除かれた領域である。
さらに、光沢制御部104fは、取得した拡散反射画像116と鏡面反射画像117あるいは入力画像110を用いて光沢感を制御した画像を取得(生成)しても良い。画像の光沢感は鏡面反射成分に基づいたものであるため、取得した拡散反射画像116に対して足し合わせる鏡面反射画像117の割合を変化させる重み付き加算によって光沢感を制御した画像を取得することができる。足し合わせる鏡面反射画像117の割合はあらかじめ設定した割合としてもよいし、光沢感としてユーザーに任意に決定させてもよい。画像の光沢感は拡散反射画像116と鏡面反射画像117を用いて制御することができるが、入力画像110から差し引く鏡面反射画像117の割合を変化させる重み付き減算によって制御してもよい。
以上説明したように、本実施例では、ノイズの影響を低減して、入力画像から高精度に拡散反射成分を推定することができる。
本実施例では、入力画像における鏡面反射成分である仮の鏡面反射画像に基づいたノイズ低減処理により第二の色相を取得し、入力画像から拡散反射成分を推定する方法について説明する。
図7は、本実施例の画像処理方法を示すフローチャートであり、図8は本実施例で用いる仮の鏡面反射画像を取得するフロー(ステップS201〜S203)を模式的に示した図である。本実施例の画像処理方法は、システムコントローラ109および画像処理部104により、コンピュータプログラムとしての画像処理プログラムに従って実行される。なお、画像処理プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録してもよい。本実施例のステップS201およびS205〜S207はそれぞれ、実施例1におけるステップS101およびS103〜S105と同様であるため、詳細な説明は省略する。
ステップS202において、色相取得部104bは、入力画像210における色相(第一の色相211)を取得する。色相は、実施例1と同様に式(1)式および式(2)に基づいて算出される。
次に、ステップS203において、色相取得部104bは、入力画像210に含まれる鏡面反射成分である仮の鏡面反射画像216を取得(生成)する。仮の鏡面反射画像216は、第一の色相211に基づいて実施例1のステップS103〜S105と同様のフローで仮の拡散反射画像215を取得(生成)した後、入力画像210から仮の拡散反射画像215を差し引くことで取得(生成)することができる。
次に、ステップS204において、色相取得部104bは、ステップS203において取得した仮の鏡面反射画像216に基づいてノイズ低減された色相(第二の色相)を取得する。入力画像における鏡面反射領域118は、拡散反射領域よりも輝度値が高く、色の鮮やかさが低下しているため、ノイズにより色相のばらつきが大きくなる。したがって、鏡面反射が多い領域ほどノイズ低減処理の強さを強くする。ここで、ステップS203において取得した仮の鏡面反射画像216は第一の色相211に基づいて取得した仮の拡散反射画像215を用いており、ノイズの影響により推定精度が低下したものである。したがって、仮の鏡面反射画像216に対して平滑化処理を施した画像を用いても良い。
本実施例においても実施例1と同様に、入力画像に対してノイズ低減処理を施した画像における第二の色相を取得してもよいし、入力画像における色相(第一の色相)に対してノイズ低減処理を施した第二の色相を取得しても良い。
ステップS205〜S207において、実施例1と同様に、第二の色相を用いて拡散反射画像を取得(生成)する。本実施例においては仮の鏡面反射画像216に基づいてノイズ低減された第二の色相を用いるため、ノイズの影響を低減して、入力画像から高精度に拡散反射成分を推定することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
101 撮像光学系
102 撮像素子
103 A/Dコンバータ
104 画像処理部
104a 入力画像取得部
104b 色相取得部
104c 抽出部
104d 推定部
104e 画像生成部
104f 光沢制御部
105 表示部
106 撮像制御部
107 情報入力部
108 画像記録部
109 システムコントローラ

Claims (21)

  1. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得する色相取得部と、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する抽出部と、
    前記抽出部により抽出された複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定する推定部と、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成する画像生成部と、
    を有し、
    前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行われることを特徴とする画像処理装置。
  2. 前記色相取得部は、前記入力画像に対してノイズ低減処理を行い、ノイズが低減された該入力画像における前記第二の色相を取得することを特徴とする請求項1に記載の画像処理装置。
  3. 前記色相取得部は、前記入力画像における前記第一の色相に対してノイズ低減処理を行い、ノイズが低減された前記第二の色相を取得することを特徴とする請求項1に記載の画像処理装置。
  4. 前記拡散反射画像と前記入力画像に基づいて鏡面反射画像を取得する光沢制御部を有することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記光沢制御部は、前記拡散反射画像および前記鏡面反射画像の重み付き加算により画像の光沢制御を行うことを特徴とする請求項4に記載の画像処理装置。
  6. 前記光沢制御部は、前記入力画像および前記鏡面反射画像の重み付き減算により画像の光沢制御を行うことを特徴とする請求項4に記載の画像処理装置。
  7. 前記ノイズ低減処理は、前記入力画像における鏡面反射成分である仮の鏡面反射画像に基づいて行われることを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記仮の鏡面反射画像は、前記第一の色相に基づいて前記入力画像から複数の画素を抽出し、抽出した該複数の画素に基づいて仮の拡散反射画像を推定し、推定した該仮の拡散反射画像に基づいて推定した仮の鏡面反射画像であることを特徴とする請求項7に記載の画像処理装置。
  9. 前記ノイズ低減処理は、前記入力画像における色の鮮やかさに基づいて行われることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  10. 前記ノイズ低減処理は、前記入力画像における色の鮮やかさが低いほど強いことを特徴とする請求項9に記載の画像処理装置。
  11. 前記ノイズ量は、撮影時のISO感度および前記入力画像における輝度値に基づいて決定されることを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが 低減された第二の色相を取得する色相取得部と、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する 抽出部と、
    前記抽出部により抽出された複数の画素における彩度と第一の強度に基づいて拡散反射 成分の第二の強度を推定する推定部と、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前 記第二の強度を用いて拡散反射画像を生成する画像生成部と、
    を有し、
    前記ノイズ低減処理は、前記入力画像における鏡面反射成分である仮の鏡面反射画像に 基づいて行われることを特徴とする画像処理装置。
  13. 前記仮の鏡面反射画像は、前記第一の色相に基づいて前記入力画像から複数の画素を抽 出し、抽出した該複数の画素に基づいて仮の拡散反射画像を推定し、推定した該仮の拡散 反射画像に基づいて推定した仮の鏡面反射画像であることを特徴とする請求項12に記載 の画像処理装置。
  14. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが 低減された第二の色相を取得する色相取得部と、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する 抽出部と、
    前記抽出部により抽出された複数の画素における彩度と第一の強度に基づいて拡散反射 成分の第二の強度を推定する推定部と、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前 記第二の強度を用いて拡散反射画像を生成する画像生成部と、
    を有し、
    前記ノイズ低減処理は、前記入力画像における色の鮮やかさに基づいて行われることを 特徴とする画像処理装置。
  15. 前記ノイズ低減処理は、前記入力画像における色の鮮やかさが低いほど強いことを特徴 とする請求項14に記載の画像処理装置。
  16. 被写体を撮像する撮像素子と、
    入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得し、ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出し、抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定し、前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成するする画像処理部と、を有し、
    前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行われることを特徴とする撮像装置。
  17. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが低減された第二の色相を取得するステップと、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出するステップと、
    抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を推定するステップと、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前記第二の強度を用いて拡散反射画像を生成するステップと、
    を含み、
    前記ノイズ低減処理は、前記入力画像におけるノイズ量に基づいて行われることを特徴とする画像処理方法。
  18. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが 低減された第二の色相を取得するステップと、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する ステップと、
    抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を 推定するステップと、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前 記第二の強度を用いて拡散反射画像を生成するステップと、
    を含み、
    前記ノイズ低減処理は、前記入力画像における鏡面反射成分である仮の鏡面反射画像に 基づいて行われることを特徴とする画像処理方法。
  19. 入力画像または入力画像における第一の色相に対してノイズ低減処理を行い、ノイズが 低減された第二の色相を取得するステップと、
    ノイズが低減された前記第二の色相に基づいて前記入力画像から複数の画素を抽出する ステップと、
    抽出した複数の画素における彩度と第一の強度に基づいて拡散反射成分の第二の強度を 推定するステップと、
    前記複数の画素における前記第一の色相と前記第二の色相の一方と、前記彩度および前 記第二の強度を用いて拡散反射画像を生成するステップと、
    を含み、
    前記ノイズ低減処理は、前記入力画像における色の鮮やかさに基づいて行われることを 特徴とする画像処理方法。
  20. 請求項17乃至19のいずれか1項に記載の画像処理方法をコンピュータに実行させるためのプログラム。
  21. 請求項20に記載のプログラムを記録したコンピュータが読み取り可能な記録媒体。
JP2018553565A 2016-11-30 2016-11-30 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 Active JP6900395B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/085511 WO2018100662A1 (ja) 2016-11-30 2016-11-30 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体

Publications (2)

Publication Number Publication Date
JPWO2018100662A1 JPWO2018100662A1 (ja) 2019-10-17
JP6900395B2 true JP6900395B2 (ja) 2021-07-07

Family

ID=62190284

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018553565A Active JP6900395B2 (ja) 2016-11-30 2016-11-30 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体

Country Status (3)

Country Link
US (1) US10565687B2 (ja)
JP (1) JP6900395B2 (ja)
WO (1) WO2018100662A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109523619A (zh) * 2018-11-12 2019-03-26 厦门启尚科技有限公司 一种通过多角度打光的图片生成3d材质贴图的方法
CN109342317B (zh) * 2018-11-15 2021-04-20 中国电子科技集团公司第四十一研究所 一种用于平面黑材料的光学参数测试装置及方法
CN110866860B (zh) * 2019-11-01 2023-12-26 上海菲戈恩微电子科技有限公司 生物特征识别用的cis芯片的图像处理方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008099149A (ja) * 2006-10-13 2008-04-24 Konica Minolta Business Technologies Inc 画像処理装置、画像処理方法および画像処理プログラム
US8264585B2 (en) * 2008-01-31 2012-09-11 Panasonic Corporation Imaging apparatus capable of readily specifying undesirable photographing parameters form auto photographing parameters
JP2013065215A (ja) * 2011-09-16 2013-04-11 Toshiba Corp 画像処理装置及び画像処理方法
JP6152635B2 (ja) * 2012-11-08 2017-06-28 ソニー株式会社 画像処理装置および方法、並びに、プログラム
JP2014137691A (ja) * 2013-01-16 2014-07-28 Honda Motor Co Ltd 画像処理装置
JP6265640B2 (ja) * 2013-07-18 2018-01-24 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
JP6485078B2 (ja) * 2014-02-18 2019-03-20 パナソニックIpマネジメント株式会社 画像処理方法および画像処理装置

Also Published As

Publication number Publication date
JPWO2018100662A1 (ja) 2019-10-17
US10565687B2 (en) 2020-02-18
WO2018100662A1 (ja) 2018-06-07
US20180150941A1 (en) 2018-05-31

Similar Documents

Publication Publication Date Title
JP6351903B1 (ja) 画像処理装置、画像処理方法、及び撮影装置
CN107277356B (zh) 逆光场景的人脸区域处理方法和装置
JP4041687B2 (ja) フラッシュアーチファクトを除去する方法および装置
TWI416940B (zh) 影像處理裝置及影像處理程式
CN106464816A (zh) 图像处理设备及其图像处理方法
JP2010039758A (ja) 画像処理装置及び画像処理方法
JP6720881B2 (ja) 画像処理装置及び画像処理方法
JP6563751B2 (ja) 画像処理装置及び画像処理方法
JP2022036179A (ja) 画像処理装置およびその制御方法及びプログラム
US9674427B2 (en) Image processing method and apparatus
JP6900395B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体
TWI408955B (zh) 修正在攝影時之光源影響的影像修正裝置及其影像修正方法
CN114584700A (zh) 对焦标记方法、标记装置以及电子设备
WO2013114803A1 (ja) 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム
US11069031B2 (en) Image processing apparatus, control method for image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium to control reflected color components of input image
US10721395B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
JP6827782B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体
JP2007258923A (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP6346431B2 (ja) 画像処理装置及び画像処理方法
JP5115297B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5225491B2 (ja) 画像処理装置及び画像処理方法
CN110876042B (zh) 用以控制图像捕获设备的电路及相关的控制方法
JP2011176487A (ja) 信号処理装置及び撮像装置
JP2016024482A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP5627730B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210518

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210616

R151 Written notification of patent or utility model registration

Ref document number: 6900395

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151