JPWO2017051909A1 - 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム - Google Patents

画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム Download PDF

Info

Publication number
JPWO2017051909A1
JPWO2017051909A1 JP2017540934A JP2017540934A JPWO2017051909A1 JP WO2017051909 A1 JPWO2017051909 A1 JP WO2017051909A1 JP 2017540934 A JP2017540934 A JP 2017540934A JP 2017540934 A JP2017540934 A JP 2017540934A JP WO2017051909 A1 JPWO2017051909 A1 JP WO2017051909A1
Authority
JP
Japan
Prior art keywords
image
imaging data
wavelength
invisible
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017540934A
Other languages
English (en)
Other versions
JP6645504B2 (ja
Inventor
潤弥 萩原
潤弥 萩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2017051909A1 publication Critical patent/JPWO2017051909A1/ja
Application granted granted Critical
Publication of JP6645504B2 publication Critical patent/JP6645504B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/42Absorption spectrometry; Double beam spectrometry; Flicker spectrometry; Reflection spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Spectrometry And Color Measurement (AREA)

Abstract

画像処理装置は、可視外の波長を通過帯域とするn種類(nは3以上の自然数)の波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを取得するデータ取得部と、可視外撮像データが示す画像内の複数の部分領域を設定する設定部と、複数の部分領域のそれぞれにおいて、通過帯域のそれぞれに対する光の強度を可視外撮像データから解析する解析部と、解析部による解析結果に基づいてm種類(mは2以上n未満の自然数)の可視外撮像データを選択する選択部と、選択された可視外撮像データのそれぞれに、少なくとも一部の帯域が異なる可視波長帯域を関連付けて可視画像データを生成する画像生成部とを備える。

Description

本発明は、画像処理装置、画像処理プログラム、撮像装置、および撮像プログラムに関する。
互いに中心波長が異なる非可視の3波長帯のそれぞれに可視の3原色(RGB)を割り当てる撮像システムが知られている(例えば、特許文献1参照)。
[特許文献1]特許第5034953号公報
物体は、対象物ごとに非可視の波長帯域における吸収スペクトルが異なる。このため、可視画像を生成するにあたりバンドパスフィルターの組み合わせが適切でない場合には、観察者にとって、複数の対象物を区別して認識するための弁別が良好なカラー画像を得ることができなかった。
本発明の第1の態様における画像処理装置は、可視外の波長を通過帯域とするn種類(nは3以上の自然数)の波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを取得するデータ取得部と、可視外撮像データが示す画像内の複数の部分領域を設定する設定部と、複数の部分領域のそれぞれにおいて、通過帯域のそれぞれに対する光の強度を可視外撮像データから解析する解析部と、解析部による解析結果に基づいてm種類(mは2以上n未満の自然数)の可視外撮像データを選択する選択部と、選択された可視外撮像データのそれぞれに、少なくとも一部の帯域が異なる可視波長帯域を関連付けて可視画像データを生成する画像生成部とを備える。
本発明の第2の態様における画像処理プログラムは、可視外の波長を通過帯域とするn種類(nは3以上の自然数)の波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを取得するデータ取得ステップと、可視外撮像データが示す画像内の複数の部分領域を設定する設定ステップと、複数の部分領域のそれぞれにおいて、通過帯域のそれぞれに対する光の強度を可視外撮像データから解析する解析ステップと、解析ステップによる解析結果に基づいてm種類(mは2以上n未満の自然数)の可視外撮像データを選択する選択ステップと、選択ステップによって選択された可視外撮像データのそれぞれに、少なくとも一部の帯域が異なる可視波長帯域を関連付けて可視画像データを生成する画像生成ステップとをコンピュータに実行させる。
本発明の第3の態様における撮像装置は、可視外の波長を通過帯域とするn種類(nは3以上の自然数)の波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを生成するデータ生成部と、可視外撮像データが示す画像内の複数の部分領域を設定する設定部と、複数の部分領域のそれぞれにおいて、通過帯域のそれぞれに対する光の強度を可視外撮像データから解析する解析部と、解析部による解析結果に基づいてm種類(mは2以上n未満の自然数)の可視外撮像データを選択する選択部と、選択部が選択した可視外撮像データの情報に基づいて可視外撮像データを加工する加工部とを備える。
本発明の第4の態様における撮像プログラムは、可視外の波長を通過帯域とするn種類(nは3以上の自然数)の波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを生成するデータ生成ステップと、可視外撮像データが示す画像内の複数の部分領域を設定する設定ステップと、複数の部分領域のそれぞれにおいて、通過帯域のそれぞれに対する光の強度を可視外撮像データから解析する解析ステップと、解析ステップによる解析結果に基づいて、m種類(mは2以上n未満の自然数)の可視外撮像データを選択する選択ステップと、選択ステップによって選択された可視外撮像データの情報に基づいて可視外撮像データを加工する加工ステップとをコンピュータに実行させる。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
第1実施形態におけるデジタルカメラの構成を説明する図である。 撮像素子の各光電変換部上に配置されたバンドパスフィルターを説明する図である。 バンドパスフィルターの分光透過率特性を説明する図である。 第1実施形態における実施例に係る色弁別処理の対象を説明する図である。 NIR1フィルターに対応する画像レイヤーデータを示す図である。 NIR2フィルターに対応するレイヤー画像を示す図である。 NIR3フィルターに対応するレイヤー画像を示す図である。 NIR4フィルターに対応するレイヤー画像を示す図である。 NIR5フィルターに対応するレイヤー画像を示す図である。 NIR6フィルターに対応するレイヤー画像を示す図である。 解析領域における波長ごとの強度分布を示す図である。 得られた可視画像を示す図である。 比較画像を示す図である。 第2実施形態における実施例に係る色弁別処理の対象を説明する図である。 NIR1フィルターに対応するレイヤー画像を示す図である。 NIR2フィルターに対応するレイヤー画像を示す図である。 NIR3フィルターに対応するレイヤー画像を示す図である。 NIR4フィルターに対応するレイヤー画像を示す図である。 NIR5フィルターに対応するレイヤー画像を示す図である。 NIR6フィルターに対応するレイヤー画像を示す図である。 解析領域における波長ごとの強度分布を示す図である。 得られた画像を示す図である。 解析領域を指定するためのインターフェースの一例を示す図である。 デジタルカメラ10における処理手順を示すフローチャート図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、第1実施形態に係る画像処理装置の一例としてのデジタルカメラ10の構成を説明する図である。デジタルカメラ10は、可視外帯域の被写体光束を撮像することができる。デジタルカメラ10は、撮影光学系としての撮影レンズ20と、撮像素子100とを備える。撮影レンズ20は、光軸21に沿って入射する被写体光束を撮像素子100へ導く。デジタルカメラ10は、撮影レンズ20および撮像素子100に加えて、制御部201、A/D変換回路202、ワークメモリ203、駆動部204、画像処理部205、システムメモリ206、メモリカードIF207、操作部208、表示部209、LCD駆動回路210、および通信部211を備える。
撮影レンズ20は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。撮影レンズ20は、デジタルカメラ10に対して着脱できる交換式レンズであっても構わない。この場合には、カメラボディが画像処理装置として機能する。なお、図1では撮影レンズ20を説明の都合上、瞳近傍に配置された仮想的な1枚のレンズで代表して表している。
撮像素子100は、撮影レンズ20の焦点面近傍に配置されている。撮像素子100は、可視外帯域に受光感度を有する近赤外波長帯域用のイメージセンサである。本実施形態においては、その一例として、撮像素子100は、近赤外帯域である800nmから2500nmのうち800nmから2000nmの範囲に受光感度を有する。なお、この近赤外帯域及び受光感度の範囲は、本例に限られない。例えば、近赤外帯域を広くとらえ、下限を700nmとしてもよい。また、近赤外帯域の上限を3000nmとしてもよい。
撮像素子100は、二次元的に配列された複数の画素を備える。複数の画素のそれぞれは、光電変換部と、当該光電変換部に対応して設けられたバンドパスフィルターとを備える。詳しくは後述するが、本実施形態においては、6種類のバンドパスフィルターが存在し、複数の光電変換部のそれぞれには、後述するNIR1フィルター、NIR2フィルター、NIR3フィルター、NIR4フィルター、NIR5フィルター、およびNIR6フィルターのうち、いずれかのバンドパスフィルターが設けられている。
撮像素子100は、駆動部204によりタイミング制御されて、受光面上に結像された被写体像を画素信号に変換してA/D変換回路202へ出力する。A/D変換回路202は、撮像素子100が出力する出力信号としての画素信号をデジタル信号に変換する。そして、デジタル変換により得られた撮像データをワークメモリ203へ出力する。
上述のように、複数の光電変換部のそれぞれには6種類のバンドパスフィルターのいずれかが設けられている。上記撮像データは、6種類のバンドパスフィルターそれぞれを通過した被写体光束に応じて得られた撮像要素を含む。撮像要素の具体的な一例は、NIR1フィルターが配置された画素における画素値データで構成される画像レイヤーデータである。つまり、本実施形態において、撮像データは、バンドパスフィルターそれぞれの可視外帯域の波長帯域に応じた6種類の画像レイヤーデータを含む。なお、画像レイヤーデータについて、詳細は後述する。
画像処理部205は、ワークメモリ203をワークスペースとして、撮像データに対して輝度補正処理等の種々の処理を施す。本実施形態において、画像処理部205は、可視外撮像データを取得する取得部としての役割を担う。画像処理部205は、可視外の波長帯域を通過帯域とする6つの波長帯域フィルターのそれぞれを通過した被写体からの光によって撮像された撮像データから、6つの画像レイヤーデータを抽出する。そして、画像処理部205は、当該6つの画像レイヤーデータそれぞれに対して、後述する補間処理を行い、可視外撮像データとしての画像レイヤーデータを生成する。なお、以下の説明において、波長帯域フィルターにおける波長の通過帯域を透過波長帯域と称する場合がある。
制御部201は、後述する操作部208とともに作用して設定部としての役割を担う。本実施形態においては、設定部は、ユーザの指示を受け付けて、画像レイヤーデータが示す画像内に解析領域としての部分領域を複数設定する。解析領域については後述する。
また、制御部201は、画像処理部205とともに作用して、解析部としての役割を担う。解析部は、設定された解析領域のそれぞれにおいて、各バンドパスフィルターの通過帯域のそれぞれに対する被写体からの光の強度を、画像レイヤーデータの強度値から解析する。ここで強度値は、例えば、それぞれの解析領域に含まれる画素の輝度値(画素値)の積分値である。なお、以下の説明において、強度値をスペクトル強度と称する場合がある。
さらに、制御部201は、画像処理部205とともに作用して、選択部としての役割を担う。詳細は後述するが、選択部は、解析部による解析結果に応じて、3種類の画像レイヤーデータを選択する。
画像処理部205は、画像生成部としての役割を担う。画像生成部は、選択部によって選択された可視外撮像データのそれぞれに、少なくとも一部の帯域が異なる可視波長帯域を関連付けて可視画像データを生成する。画像処理部205は、生成したカラー画像データをメモリカードIF207に装着されているメモリカード220に記録する。
また、生成された可視画像データは、LCD駆動回路210により表示信号に変換され、表示部209に可視画像として表示される。なお、表示部209には、各種設定のためのメニュー画面も表示される。例えば、後述する観察対象物における解析領域の設定に関するメニュー画面が表示される。
システムメモリ206は、デジタルカメラ10を制御するプログラム、各種パラメータ等を記録する。本実施形態において、システムメモリ206は、6つのバンドパスフィルターそれぞれの分光透過率データを記録する。分光透過率データには、透過率のピーク波長、波長ごとの透過率が含まれる。分光透過率データは、波長を変数とした関数の形式で記録されてもよいし、波長と透過率の関係を示すデータテーブルの形式で記録されてもよい。また分光透過率データは、それぞれ対応するバンドパスフィルターの識別子と関連付けて記録される。
操作部208は、ユーザの操作を受け付ける。操作部208は受け付けたユーザの操作に応じた操作信号を制御部201に出力する。例えば、観察対象物における解析領域の設定に関するメニュー画面が表示部209に表示された場合に、ユーザの操作に応じて、観察対象物における解析領域の設定に関する操作信号を制御部201に出力する。
また、操作部208はレリーズスイッチ、十字キー、OKキー等の操作部材を含む。レリーズスイッチは、押下げ方向に2段階に検知できる押しボタンで構成されている。制御部201は、1段階目の押下げであるSW1の検知により撮影準備動作であるAF、AE等を実行し、2段階目の押下げであるSW2の検知により撮像素子100による被写体像の取得動作を実行する。なお、本実施形態においてAFは、赤外波長帯域で被写体像が合焦するように実行される。
通信部211は、他の装置と通信する。通信部211は、操作部208を介したユーザの操作に応じて撮像データを他の装置に送信する。他の装置として、パーソナルコンピュータ、スマートフォン、タブレット端末等の表示部を備えた装置、インターネット上のサーバ装置等を挙げることができる。
図2は、撮像素子100の各光電変換部上に配置されたバンドパスフィルターの説明図である。6種類のバンドパスフィルターのそれぞれは、被写体光束のうち連続する近赤外帯域の一部を通過させる。通過させる帯域は、6種類のバンドパスフィルターで互いに異なる。図示されるように、本実施形態においては、6種類のバンドパスフィルターとしてNIR1フィルター、NIR2フィルター、NIR3フィルター、NIR4フィルター、NIR5フィルター、およびNIR6フィルターが設けられている。以下の説明では、6種類のバンドパスフィルターそれぞれを単にNIR1、NIR2、NIR3、NIR4、NIR5、およびNIR6と称する場合がある。
NIR1からNIR6は、3画素×2画素(x×y)からなる単位6画素101に対してそれぞれ割り当てられる。図2では、NIR1が上段左側の画素に、NIR2が上段中央の画素に、そしてNIR3が上段右側の画素に割り当てられている。また、NIR4が下段左側の画素に、NIR5が下段中央の画素に、そしてNIR6が下段右側の画素に割り当てられている。なお、バンドパスフィルターの配置は、本例に限られない。
撮像素子100の全体としては、2次元的に配列された複数の画素のそれぞれが離散的にNIR1からNIR6のいずれかを備えることになる。したがって、撮像素子100は、入射する被写体光束をそれぞれの波長帯域に分離して検出する。換言すれば、撮像素子100は、受光面に結像する被写体像を赤外波長帯域であって互いに異なる6つの波長帯域に分離して光電変換する。
画像処理部205は、撮像データからそれぞれのバンドパスフィルターに対応する画素値データから構成される画像レイヤーデータを分離する。具体的には、画像処理部205は、撮像データから、NIR1が配置された画素における画素値データのみを含む画像レイヤーデータを抽出する。NIR2からNIR6のそれぞれについても、同様に画像レイヤーデータを抽出する。このように、画像処理部205は、撮像データからバンドパスフィルターそれぞれに対応した6つの画像レイヤーデータを抽出する。
本実施形態においては、一つの画素上には6つのバンドパスフィルターのいずれかが配置される。したがって、例えば、NIR1が配置されている画素の画素値データのみを抽出した画像レイヤーデータは、全画素に亘って画素値データが格納されてはおらず、画素値データが格納されていない画素が存在する。以降の説明では、画素値が格納されていない画素を欠損画素と称する場合がある。
画像処理部205は、各画像レイヤーデータの欠損画素における画素値を、周囲の画素における画素値から補間処理により算出して、全画素に亘って画素値データの欠損がない画像レイヤーデータを生成する。具体的には、例えば、補間処理対象となる欠損画素の周辺画素の画素値を用いて、バイリニア補間、バイキュービック補間により画素値を算出する。なお、補間処理方法は、これらの方法に限定されず、公知の補間処理方法を採用し得る。以降の説明において、単に画像レイヤーデータと記した場合には、特に断らない限り、上記の補間処理後の画像レイヤーデータを指す。また、本実施形態において、可視外撮像データは、当該補間処理後の画像レイヤーデータである。
図3は、バンドパスフィルターの分光透過率特性を説明する図である。特に、各バンドパスフィルターの分光透過率曲線を示す。横軸は波長[nm]を示し、縦軸は透過率[%]を示す。図3に示すように、NIR1からNIR6の分光透過率曲線の形状のそれぞれは、全体的に略同一である。また、本実施形態において、NIR1からNIR6の分光透過率は、それぞれ単峰性の分布であり、透過波長帯域の中心波長と、透過率のピーク波長とが実質的に同一である。そして、これら複数の波長帯域フィルターのうち、中心波長(またはピーク波長)が最も近い波長帯域フィルターどうし(NIR1とNIR2、NIR2とNIR3など)の透過波長帯域は、一部が互いに重なり合う。なお、分光透過率は単峰性に限らず様々な分布をとり得る。分光透過率が単峰性の分布であってもそれ以外の分布であっても、分布形状に合わせて中心波長を決定することができる。例えば、最大透過率の50%となる透過率における分光透過率曲線の幅の中央の波長、または透過率が50%における分光透過率曲線の幅の中央の波長を中心波長としてもよいし、単峰性の分布で対称性を有する場合は、上記のようにピーク波長を中心波長としてもよい。また、多峰性の分布である場合には、分光透過率を二次関数やガウス関数などの単峰性の関数でフィッティングして、当該フィッティングにより求まった透過率曲線のピーク波長を中心波長としてもよい。さらに、透過率を有する波長帯域の中央を中心波長としてもよい。なお、中心波長は、実質的に分光透過率の分布の中央を示していれば、上記の定義に限らない。
より詳細には、NIR1は、約700nmから約1100nmに透過率を有し、透過率のピーク波長λaは900nmである。NIR2は、約800nmから約1250nmに透過率を有し、透過率のピーク波長λbは1050nmである。NIR3は、約950nmから約1400nmに透過率を有し、透過率のピーク波長λcは1150nmである。NIR4は、約1100nmから約1500nmに透過率を有し、透過率のピーク波長λdは1300nmである。NIR5は、約1200nmから約1700nmに透過率を有し、透過率のピーク波長λeは1450nmである。NIR6は、約1350nmから約1850nmに透過率を有し、透過率のピーク波長λfは1600nmである。
NIR1、NIR2、NIR3、NIR4、NIR5およびNIR6のそれぞれは、中心波長が隣り合う他のバンドパスフィルターの透過率のピーク波長で透過率を有する。図3に示したNIR1、NIR2、およびNIR3の分光透過率曲線を参照して、具体的に説明すると、NIR1は、NIR2のピーク波長で透過率を有する。同様に、NIR3は、NIR2のピーク波長で透過率を有する。また、NIR2は、NIR1およびNIR3のピーク波長のそれぞれで透過率を有する。
なお、撮像素子100が出力する画素信号の特性は、NIR1からNIR6の分光透過率特性と、撮像素子100の分光感度特性と、光源の分光特性、撮像レンズの分光特性等の合成により定まるが、本実施形態においては、説明を簡略化するために、バンドパスフィルターの分光透過率特性を撮像素子100からの出力特性として説明する。もし、撮像素子100の分光感度特性が分布を有する場合、これを考慮してNIR1からNIR6の分光透過率特性が設定され、撮像素子100が出力する画素信号の特性が、図3に示すような曲線となる。すなわち、「波長帯域フィルター」には、バンドパスフィルターだけでなく、光源や撮像レンズ等の分光特性や撮像素子100の分光感度特性によるフィルター効果が含まれてもよい。
図4は、第1実施形態における実施例に係る色弁別処理の対象を説明する図である。図4は、色弁別処理の対象を含む画像300を示す。本実施例において色弁別処理の対象は、「水」である。同一形状の6つの容器である容器1から容器6に、それぞれ異なる量の水が入っている。図4において、水が存在する領域を各容器中の破線で囲んだ領域で示す。水の量は、容器1から容器6に向かって多くなっている。したがって、容器の底から水面までの距離、すなわち水の深さは、容器1から容器6に向かって深くなっている。
図4の各容器内に矩形で示された領域1から領域6は、ユーザにより指定された色弁別の対象領域における解析領域を意味している。ここで、解析領域は、対象となる画像において、弁別対象となる2つ以上の領域内の部分領域であり、スペクトル強度を演算するための画素値を取得する画素範囲を指定する領域である。なお、以降の説明において、解析領域は、矩形かつ固定された大きさの領域として説明するが、解析領域の形状および大きさはこれに限定されず、任意の形状および大きさとすることができる。解析領域の指定方法については後述する。
デジタルカメラ10は、各バンドパスフィルターに対応する画像レイヤーデータにおける領域1から領域6の強度値を算出して、解析領域、および対応するバンドパスフィルターのピーク波長に関連付けてワークメモリ203に格納する。なお、以降の説明において、強度値、解析領域、およびバンドパスフィルターのピーク波長がそれぞれ関連付けられたデータを分光スペクトルデータと称する場合がある。
デジタルカメラ10は、領域1から領域6に含まれる画素の画素値の情報を用いて作成した分光スペクトルデータの解析結果に応じて、可視画像データを合成するための画像レイヤーデータを選択する。このとき、デジタルカメラ10は、中心波長が最も近いフィルターどうしの通過帯域の少なくとも一部が互いに重なり合う波長帯域フィルターのそれぞれを通過した光によって撮像された3つの画像レイヤーデータを選択する。詳細は後述する。
図5Aから図5Fは、6つのバンドパスフィルターそれぞれに対応するレイヤー画像を示す図である。これらのレイヤー画像は、上述した補間処理後の画像レイヤーデータから生成される。図5Aは、NIR1に対応するレイヤー画像を示す。図5Bは、NIR2に対応するレイヤー画像を示す。図5Cは、NIR3に対応するレイヤー画像を示す。図5Dは、NIR4に対応するレイヤー画像を示す。図5Eは、NIR5に対応するレイヤー画像を示す。図5Fは、NIR6に対応するレイヤー画像を示す。
図5Aから図5Fに向かって、画像中の水の存在領域部分の輝度が徐々に低下していることがわかる。水は、近赤外波長帯域において、970nmと1450nmと1940nmに固有の吸収帯があることが知られている。特に、NIR5は1450nm近傍の波長帯域にしか透過率を有さないため、NIR5に対応するレイヤー画像は、水の存在領域部分において他のレイヤー画像よりも低い輝度を示している。
図6は、解析領域における波長ごとの強度分布を示す図である。図6において、横軸は波長[nm]を示し、縦軸は正規化したスペクトル強度を示す。図5Aから図5Fに示した6つのレイヤー画像に対応する画像レイヤーデータそれぞれについて、領域1から領域6におけるスペクトル強度を算出した。図6は、領域1から領域6それぞれにおいて算出したスペクトル強度を各バンドパスフィルターの透過率のピーク波長λaからλfに対応付けてプロットした結果を示す。
NIR1に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λa(900nm)の位置に示され、いずれも1.0であった。NIR2に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λb(1050nm)の位置に示され、最大値は領域1の1.0であり、最小値は領域6の0.88である。NIR3に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λc(1150nm)の位置に示され、最大値は領域1の0.8であり、最小値は領域6の0.52である。
NIR4に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λd(1300nm)の位置に示され、最大値は領域1の0.55であり、最小値は領域6の0.18である。NIR5に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λe(1450nm)の位置に示され、最大値は領域1の0.15であり、最小値は領域6の0.06である。NIR6に対応する画像レイヤーデータから算出した領域1から領域6におけるスペクトル強度は、波長λf(1600nm)の位置に示され、最大値は領域1の0.11であり、最小値は領域6の0.06である。
本実施形態において、解析部は、ピーク波長λaからλfごとに全ての解析領域において最大のスペクトル強度と最小のスペクトル強度との差を演算する。本実施形態において、解析部は、各バンドパスフィルターのピーク波長ごとに全ての解析領域において、スペクトル強度の最大値と最小値の差を算出する。そして、選択部は、スペクトル強度の最大値と最小値との差が最も大きくなる波長を透過波長帯域に含むバンドパスフィルターを基準波長帯域フィルターとして、対応する画像レイヤーデータを選択する。以下の説明において、基準波長帯域フィルターを基準フィルターと称し、基準波長帯域フィルターに対応する画像レイヤーデータを第1レイヤーデータと称する場合がある。
次に、選択部は、選択した基準フィルターの中心波長よりも中心波長が長波長側に位置するバンドパスフィルターに対応する画像レイヤーデータを選択する。以下の説明において、基準フィルターの中心波長よりも、中心波長が長波長側に位置するバンドパスフィルターに対応する画像レイヤーデータを第2レイヤーデータと称する場合がある。
最後に、選択部は、選択した基準フィルターの中心波長よりも中心波長が短波長側に位置するバンドパスフィルターに対応する画像レイヤーデータを選択する。以下の説明において、基準フィルターの中心波長よりも、中心波長が短波長側に位置するバンドパスフィルターに対応する画像レイヤーデータを第3レイヤーデータと称する場合がある。
選択部は、第2レイヤーデータおよび第3レイヤーデータの選択において、基準フィルターの分光透過率曲線に対して、分光透過率曲線の重なり量が最も大きいバンドパスフィルターに対応する画像レイヤーデータをそれぞれ選択する。換言すると、第2レイヤーデータを選択する場合には、基準フィルターよりも長波長側に中心波長を有し、基準フィルターとの間で分光透過率曲線どうしの重なり部分の面積が最も大きいバンドパスフィルターに対応する画像レイヤーデータを選択する。また、第3レイヤーデータを選択する場合には、基準フィルターよりも短波長側に中心波長を有し、基準フィルターとの間で分光透過率曲線どうしの重なり部分の面積が最も大きいバンドパスフィルターに対応する画像レイヤーデータを選択する。なお、選択部は、分光透過率曲線の重なり量ではなく、中心波長(またはピーク波長)の大小関係で第2レイヤーデータおよび第3レイヤーデータを選択してもよい。この場合、基準フィルターよりも長波長側であって中心波長が最も近い波長帯域フィルターに対応する画像レイヤーデータを第2レイヤーデータとして選択する。また、基準フィルターよりも短波長側であって中心波長が最も近い波長帯域フィルターに対応する画像レイヤーデータを第3レイヤーデータとして選択する。
図6に示した例では、λd=1300nmにおいて、正規化スペクトル強度の最大値と最小値の差が0.37と最も大きいため、デジタルカメラ10は、第1レイヤーデータとして、NIR4に対応する画像レイヤーデータを選択する。
次に、デジタルカメラ10は、NIR4の中心波長よりも中心波長が大きいNIR5、NIR6のうち、NIR4の分光透過率曲線に対して分光透過率曲線の重なる部分の面積が最も大きいバンドパスフィルターであるNIR5を選択する。そして、デジタルカメラ10は、第2レイヤーデータとしてNIR5に対応する画像レイヤーデータを選択する。
最後に、デジタルカメラ10は、NIR4の中心波長よりも中心波長が小さいNIR1、NIR2およびNIR3のうち、NIR4の分光透過率曲線に対して分光透過率曲線の重なる部分の面積が最も大きいバンドパスフィルターであるNIR3を選択する。そして、デジタルカメラ10は、第3レイヤーデータとしてNIR3に対応する画像レイヤーデータを選択する。
上述のように、デジタルカメラ10は、第1レイヤーデータ、第2レイヤーデータ、および第3レイヤーデータを選択する。デジタルカメラ10は、3つの画像レイヤーデータを選択したのち、それぞれに対してRGBのカラーチャンネルを割り当てて、可視画像データを生成する。
図7Aは、選択した画像レイヤーデータを合成した可視画像を示す図である。特に、NIR3、NIR4、およびNIR5に対応する画像レイヤーデータから合成された可視画像を示す。具体的には、第1レイヤーデータであるNIR4に対応する画像レイヤーデータに緑(G)のカラーチャンネルを割り当てた。そして、第2レイヤーデータであるNIR5に対応する画像レイヤーデータに赤(R)のカラーチャンネルを割り当て、第3レイヤーデータであるNIR3に対応する画像レイヤーデータに青(B)のカラーチャンネルを割り当てた。図7Bは、比較のための画像を示す図である。特に、波長帯域フィルターの1つであるNIR1に対応する近赤外のレイヤー画像を示す。
図7Aおよび図7Bにおいて、破線で示した領域は水が存在する領域を示す。図7Aでは、水の存在領域に、それぞれ青の色相をもつ画像が得られた。容器1から容器6に向かって、徐々に階調が変化していることがわかる。すなわち、水の深さに対する弁別性に優れた画像である。一方、図7Bでは、容器1から容器6の水の存在領域において、階調の変化はほとんど確認することができない。上述したように、水は、近赤外波長帯域において、970nmと1450nmと1940nmに固有の吸収帯があることが知られている。図3を参照して説明したように、NIR1は、水の吸収帯である970nmを含む約700nmから約1100nmに透過率を有しているが、970nmはOH結合の第二倍音であるため、1450nm、1940nmに比べて吸収が小さい。したがって、NIR1を通過する波長帯域の近赤外光を水が吸収する量が少ないため、容器1から6に入った水の深さの差異が画素値の差異として検出されない。
このように、本実施形態では、各バンドパスフィルターに対応する画像レイヤーデータから得られたスペクトル強度の情報を用いて、全ての解析領域において、スペクトル強度の最大値と最小値との差が最も大きくなる波長を特定する。そして、当該波長において透過率を有するバンドパスフィルターに対応した画像レイヤーデータを含む3つの画像レイヤーデータを選択して、カラー画像データを生成することにより、色弁別性の高いカラー画像を得ることができる。
図8は、第2実施形態における実施例に係る色弁別処理の対象を説明する図である。図8には、「塩」、「砂糖」、および「合成甘味料」が、それぞれ破線で囲まれた領域で示されている。本実施例では、「砂糖」と「合成甘味料」を色弁別の対象とする。そして、「砂糖」と「合成甘味料」の領域内に示された矩形領域である領域aおよび領域bは、解析領域を示す。
図9Aから図9Fは、6つのバンドパスフィルターそれぞれにおけるレイヤー画像を示す図である。図9Aは、NIR1に対応するレイヤー画像を示す。図9Bは、NIR2に対応するレイヤー画像を示す。図9Cは、NIR3に対応するレイヤー画像を示す。図9Dは、NIR4に対応するレイヤー画像を示す。図9Eは、NIR5に対応するレイヤー画像を示す。図9Fは、NIR6に対応するレイヤー画像を示す。
図9Dと図9Eを参照すると、図9Dから図9Eに向かって、「合成甘味料」の画像領域の輝度低下と、「砂糖」の画像領域の輝度低下は概ね同等である。一方、図9Eと図9Fを参照すると、図9Eから図9Fに向かって、「合成甘味料」の画像領域の輝度低下に対して、「砂糖」の画像領域の輝度低下は緩やかである。詳細は後述するが、本実施形態では、弁別対象とする画像領域間における輝度の勾配変化に着目して、画像レイヤーデータを選択する。
図10は、解析領域における波長ごとの強度分布を示す図である。図10において、横軸は波長[nm]を示し、縦軸は正規化したスペクトル強度を示す。図9Aから図9Fに示した6つのレイヤー画像に対応する画像レイヤーデータそれぞれについて、領域aおよび領域bにおけるスペクトル強度を算出した。図10は、算出したスペクトル強度を各バンドパスフィルターの透過率のピーク波長に対応付けてプロットした結果を示す。
NIR1に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λa(900nm)の位置に示され、領域aは1.0、領域bは0.96である。NIR2に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λb(1050nm)の位置に示され、領域aは0.98、領域bは1.0である。NIR3に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λc(1150nm)の位置に示され、領域aは0.92、領域bは0.92である。
NIR4に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λd(1300nm)の位置に示され、領域aは0.78、領域bは0.8である。NIR5に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λe(1450nm)の位置に示され、領域aは0.4、領域bは0.5である。NIR6に対応する画像レイヤーデータから算出した領域aおよび領域bにおけるスペクトル強度は、波長λf(1600nm)の位置に示され、領域aは0.3、領域bは0.18である。
本実施形態において、デジタルカメラ10は、解析部によって解析された複数の部分領域のうちの少なくとも2つにおける波長に対するスペクトル強度が互いに逆転する波長に対応する波長帯域フィルターを通過した被写体からの光によって撮像された画像レイヤーデータを選択する。
図10では、λe=1450nmにおける領域aと領域bのスペクトル強度の大小関係に対して、λf=1600nmにおける領域aと領域bのスペクトル強度の大小関係が逆転している。このため、デジタルカメラ10は、λeおよびλfを中心波長とするバンドパスフィルターに対応する画像レイヤーデータを、3つの画像レイヤーデータのうち、2つの画像レイヤーデータとして選択する。具体的には、デジタルカメラ10は、1450nmおよび1600nmを透過率のピーク波長とするバンドパスフィルターであるNIR5およびNIR6に対応する画像レイヤーデータを含む3つの画像レイヤーデータを選択する。
ここで、図6を用いて説明した基準フィルターとして、NIR5とNIR6のいずれかを選択し得る。本実施形態において、中心波長がNIR6よりも長波長側に位置するバンドパスフィルターを備えていないため、デジタルカメラ10は、基準フィルターとしてNIR5を選択する。したがって、デジタルカメラ10は、NIR5に対応する画像レイヤーデータを第1レイヤーデータとして選択する。そして、デジタルカメラ10は、NIR6に対応する画像レイヤーデータを第2レイヤーデータとして選択する。
デジタルカメラ10は、3つ目の画像レイヤーデータの選択において、図6を用いて説明したように、基準フィルターの分光透過率曲線に対して分光透過率曲線の重なる部分の面積が最も大きいバンドパスフィルターに対応する画像レイヤーデータを選択する。具体的には、NIR5の中心波長よりも中心波長が小さいバンドパスフィルターからNIR4を選択し、NIR4に対応する画像レイヤーデータを第3レイヤーデータとして選択する。そして、図7Aを用いて説明した同様の方法で、NIR4、NIR5およびNIR6に対応する画像レイヤーデータにRGBのカラーチャンネルを割り当てて、可視画像データを生成する。
なお、本実施例では、基準フィルターとしてNIR5を選択したが、NIR6よりも長波長側に中心波長を有するバンドパスフィルターを備える場合には、NIR6も基準フィルターとして選択し得る。いずれのバンドパスフィルターを基準フィルターとして選択するかは、いずれの側において領域aと領域bのスペクトル強度の差が大きいかによって決定してもよい。例えば、NIR5の短波長側における当該スペクトル強度の差よりも、NIR6の長波長側における当該スペクトル強度の差の方が大きい場合には、NIR6を基準フィルターとして選択する。
図11は、得られた画像を示す図である。図11において、「砂糖」の領域は青色の色相をもち、「合成甘味料」の領域は青緑色(シアン)の色相をもつカラー画像が得られた。このように、本実施形態においては、対象物が互いに異なる物質からなる場合に、色相を変化させることにより弁別能を向上させたカラー画像データを生成することができる。
図12は、解析領域を設定するためのインターフェースの一例を示す図である。図12(a)は、解析領域の設定の初期状態における表示部209の表示の一例を示す。図12(a)において、表示部209には、解析領域の設定のための領域選択画像301、選択カーソル302が表示されている。また、表示部209には、「解析領域の設定」、「選択カーソルを移動させて解析領域を選択してください。」、「解析領域を選択したら、OKボタンを押してください。」、「全ての解析領域の指定が終了したら、完了ボタンをクリックしてください。」というメッセージと共に「完了」ボタンが表示されている。図12(b)は、解析領域の設定途中の状態における表示部209の表示の一例を示す。図12(b)において、表示部209には、図12(a)に加えて、選択が決定された領域を示す選択決定表示303が表示されている。
画像生成部は、図2を参照して説明した補間処理後の6つの画像レイヤーデータから、ユーザが解析領域を設定するために表示する領域選択画像301の画像データを生成する。具体的には、画像生成部は、画像レイヤーデータの各画素において、各画像レイヤーデータ間で画素値を平均化した画像データを生成する。以降の説明において、各画像レイヤーデータ間で各画素について画素値を平均化した画像データを、平均化画像データと称する場合がある。図12(a)および図12(b)に示したように、制御部201は、生成した画像データを領域選択画像301として表示部209に表示する。
図12(a)に示したインターフェースにおいて、ユーザは、操作部208に含まれる十字キーを操作して、選択カーソル302を色弁別の対象となる領域へ移動する。次に、ユーザは、操作部208に含まれるOKキーを押下する。すると、図12(b)に示す様に、破線で表示されていた選択カーソル302の位置に、実線で表示された選択決定表示303が表示され、解析領域の指定が確定する。以降、同様の手順で、操作部208の十字キーおよびOKボタンを使用して、複数の解析領域を指定する。そして、全ての解析領域の指定が完了したら、ユーザは、操作部208の十字キーで選択カーソル302を「完了」ボタン上に移動させて、OKボタンを押下する。すると、制御部201は、ユーザが指定した複数の領域を解析領域として設定する。以上で、解析領域の設定が完了する。
他の例としては、ユーザが指定した広い領域のなかで、予め定められた配列にある複数の領域を解析領域として設定してもよい。予め定められた配列の例として、二次元方向に一定間隔をあけて並んだ、一または複数画素からなる領域の配列などが挙げられる。この場合、ユーザが操作部208を用いて色弁別の対象としたいおおよその対象領域(例えば被写体の外周をなぞって形成された領域)を指定すると、制御部201は、そのなかで予め定められた配列にある複数の領域を解析領域として設定する。なお、対象領域は、ユーザが指定するのではなく、画像処理部205が画像から物体認識によって抽出した被写体の領域を用いてもよい。さらに、画像全体が色弁別の対象範囲として設定されている場合、制御部201は、画像全体において予め定められた配列にある複数の領域を解析領域として設定してもよい。
図13は、デジタルカメラ10における処理手順を示すフローチャート図である。本フローに示すプログラムは、システムメモリ206に格納されており、当該プログラムを制御部201が呼び出して実行することによって実現される。本フローは、例えば、デジタルカメラ10の電源がオンされて、撮影可能状態になった時点で開始される。以下の本フローの説明において、デジタルカメラ10を構成する要素は、いずれも制御部201による制御により動作する。また、本フローは、第1実施形態を用いて説明する。
ユーザによるレリーズスイッチのSW2を操作部208が検知すると、制御部201の制御により、デジタルカメラ10は被写体像の撮像データを取得してワークメモリ203に格納する(ステップS101)。図1を参照して説明したように、当該撮像データは、6つのバンドパスフィルターそれぞれに対応する欠損画素を含む画像レイヤーデータが含まれる。
画像処理部205は、撮像データをワークメモリ203より読み込む。そして、画像処理部205は、撮像データから各バンドパスフィルターに対応する画像レイヤーデータを抽出する。そして、画像処理部205は、抽出した画像レイヤーデータそれぞれについて、画素値データの欠損画素の補間処理を実行して、全画素に画素値データを有する画像レイヤーデータを生成する(ステップS102)。そして、生成した画像レイヤーデータをワークメモリ203に格納する。
画像処理部205は、ステップS102で生成した画像レイヤーデータから、ユーザが解析領域を設定するための画像としての領域選択画像301の画像データを生成する(ステップS103)。そして、領域選択画像301の画像データをワークメモリ203に格納する。
制御部201は、ワークメモリ203から領域選択画像301の画像データを呼び出して、表示部209に領域選択画像301を表示する。そして、図12を参照して説明したように、制御部201は、ユーザからの指示を受け付けて、領域選択画像301上で複数の部分領域を解析領域として設定する(ステップS104)。
解析領域を設定すると、制御部201は、画像レイヤーデータごとに解析領域内における画素の画素値の積分値を演算して、分光スペクトルデータを作成してワークメモリ203に格納する。
制御部201は、分光スペクトルデータの解析を行う(ステップS105)。具体的には、図6を参照して説明したように、制御部201は、設定した全ての解析領域においてスペクトル強度の最大値と最小値との差が最も大きくなる波長を割り出す。
制御部201は、ステップS105での分光スペクトルデータの解析により割り出した波長を透過波長帯域に含むバンドパスフィルターを基準フィルターとして選択する。そして、当該基準フィルターに対応する画像レイヤーデータを基準として、6つの画像レイヤーデータから3つの画像レイヤーデータを選択する(ステップS106)。具体的には、図6を参照して説明したように、基準フィルターの分光透過率曲線に対して、分光透過率曲線の重なりが最も大きなバンドパスフィルターに対応する画像レイヤーデータを選択する。
制御部201の制御により、画像処理部205は、選択された3つの画像レイヤーデータから、カラー画像データを生成する(ステップS107)。具体的には、3つの画像レイヤーデータそれぞれにRGBを割り当ててカラー画像データを生成する。そして、画像処理部205は、生成したカラー画像データをワークメモリ203に格納する。最後に、制御部201は、LCD駆動回路210を介して、生成したカラー画像データを表示部209にカラー画像として表示させて(ステップS108)、本フローを終了する。
以上の説明では、一例として6つのバンドパスフィルターを有するデジタルカメラ10を用いて説明したが、バンドパスフィルターを3つ以上有していればよい。これは、複数の色からなるカラーの可視画像データを生成するためには、少なくとも2つの画像レイヤーデータのそれぞれにカラーチャンネルを割り当てる必要があり、バンドパスフィルターの選択性を考慮すると、それよりも多い3つ以上のバンドパスフィルターが必要となるからである。
以上の説明では、RGBの3色に基づくカラーの可視画像データを生成するために、6つのバンドパスフィルターに対応する画像レイヤーデータから3つの画像レイヤーデータを選択して、可視画像データを生成する例を用いて説明した。しかし、選択する画像レイヤーデータの数は、備えられたバンドパスフィルターの種類よりも少なければよい。例えば、可視画像データを生成するために、6つのバンドパスフィルターに対応する画像レイヤーデータから4つの画像レイヤーデータを選択してもよいし、5つの画像レイヤーデータを選択してもよい。4つ以上の画像レイヤーデータを選択する場合には、例えば、4番目以降の画像レイヤーデータに、黄(Y)やシアン(C)など他のカラーチャンネルを割り当ててもよい。一方、上記のように、2つの画像レイヤーデータを選択してそれぞれにカラーチャンネルを割り当ててもよい。すなわち、選択部は、n種類(nは3以上の自然数)のバンドパスフィルターに対応する可視外撮像データ(画像レイヤーデータ)から、m種類(mは2以上n未満の自然数)のバンドパスフィルターに対応する可視外撮像データ(画像レイヤ―データ)を選択することができる。
以上の説明では、可視画像データの生成において、基準フィルターに対応する第1レイヤーデータに緑(G)、第2レイヤーデータに赤(R)、第3レイヤーデータに青(B)を割り当てた。しかし、カラーチャンネルの割り当てはこの例に限定されず、良好な色弁別性を実現するという観点から、カラーチャンネルの割り当てを適宜変更し得る。また、カラーチャンネルとして、例えば、シアン(C)マゼンタ(M)、黄(Y)などのRGB以外を割り当ててもよい。
以上の説明では、一例として撮像素子100の1画素につき1種類のバンドパスフィルターが配置されたマルチバンドパスフィルターを用いて説明したが、1回の撮影につき、1種類のバンドパスフィルターを全画素に対して適用して、バンドパスフィルターの種類ごとに複数回撮影することにより、各バンドパスフィルターを通過した被写体からの光で形成される光学像から可視外撮像データを生成して、取得してもよい。これにより、上述の補間処理が不要となり、補間ノイズのない可視画像を生成することができる。
以上の説明では、設定部は、ユーザからの指示を受け付けて解析領域を設定したが、予め定められた特徴量が予め定められた条件を満たす領域を解析領域として設定するように構成されてもよい。例えば、各画像レイヤーデータと平均化画像データとの差分データを算出することにより、特徴量としての画素値の変化が全ての画像レイヤーデータに亘って予め定められた閾値を超える領域を解析領域として自動設定してもよい。
以上の説明では、3つの画像レイヤーデータの選択の例として2つの実施形態を記載したが、全ての解析領域においてスペクトル強度の最大値と最小値の差が予め定められた閾値を超えた波長を透過波長帯域に含むバンドパスフィルターに対応する画像レイヤーデータを含むように選択してもよい。この場合には、1度の撮影で取得した画像データにおいて、選択される3つの画像レイヤーデータの組が複数決定され得るため、複数のカラー画像が生成され得る。また、3つの画像レイヤーデータの選択において、全ての解析領域におけるスペクトル強度の最大値と最小値の差ではなく、全ての解析領域におけるスペクトル強度の分散が最も大きくなる波長、または全ての解析領域におけるスペクトル強度の分散が予め定められた閾値を超えた波長を透過波長帯域に含むバンドパスフィルターに対応する画像レイヤーデータを基準としてもよい。
以上の説明では、画像処理装置の一例としてのデジタルカメラ10が可視外撮像データを得るための構成として撮影レンズ20、撮像素子100、画像処理部205等を備えたが、これらの構成を備えなくてもよい。他のデジタルカメラ等の撮像装置により生成された可視外撮像データを取得してもよい。
以上の説明では、デジタルカメラ10は、選択部で選択した可視外撮像データから可視画像データを生成するまでの処理を行う例を用いて説明した。しかし、デジタルカメラ10は、可視外撮像データの選択までを実行し、図13を用いて説明したステップS107、S108の工程を外部の画像処理装置で実行するように構成してもよい。この場合に、デジタルカメラ10は、選択された可視外撮像データのヘッダーに選択部で選択されたことを示す情報をメタデータとして付加する。当該可視外撮像データへメタデータを付加する加工は、加工部が行う。ここで、画像処理部205は、加工部として機能する。画像処理部205は、選択した3つの画像レイヤーデータに対して、第1レイヤーデータ、第2レイヤーデータ、第3レイヤーデータであることを識別できる情報をメタデータとして付加する。これにより、外部の画像処理装置で可視画像データを生成する場合に、選択された可視外撮像データを識別することができる。そして、画像処理部205は、当該メタデータを付加した画像レイヤーデータを、メモリカード220に保存する。ユーザは、メモリカード220に保存された画像レイヤーデータを、外部の画像処理装置で読み込み、カラーチャンネルの割り当て処理を行って可視画像データを生成することができる。また、外部の画像処理装置との間での当該画像レイヤーデータの受け渡しは、通信部211を介して行ってもよい。さらに、画像処理部205は、選択されなかった可視外撮像データを破棄してもよい。これにより、メモリカード220の記憶容量を節約することができる。
以上の説明では、非可視の波長帯域として近赤外波長帯域を例に説明したが、他の波長帯域においても同様の処理を適用することができる。例えば、200nmから380nmの波長帯域の紫外波長帯域において同様の処理を適用し得る。これにより、紫外波長帯域に吸収帯をもつ観察対象物においても、観察者にとって色弁別が良好な画像を生成することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 デジタルカメラ、20 撮影レンズ、21 光軸、100 撮像素子、101 単位6画素、201 制御部、202 A/D変換回路、203 ワークメモリ、204 駆動部、205 画像処理部、206 システムメモリ、207 メモリカードIF、208 操作部、209 表示部、210 LCD駆動回路、211 通信部、220 メモリカード、300 画像、301 領域選択画像、302 選択カーソル、303 選択決定表示

Claims (12)

  1. 可視外の波長を通過帯域とする少なくともn種類(nは3以上の自然数)のバンドパスフィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを取得するデータ取得部と、
    前記可視外撮像データが示す画像内の複数の部分領域を設定する設定部と、
    前記複数の部分領域のそれぞれにおいて、前記通過帯域のそれぞれに対する前記光の強度を前記可視外撮像データから解析する解析部と、
    前記解析部による解析結果に基づいてm種類(mは2以上n未満の自然数)の前記可視外撮像データを選択する選択部と、
    選択された前記可視外撮像データのそれぞれに、異なる可視波長帯域を関連付けて可視画像データを生成する画像生成部と
    を備える画像処理装置。
  2. 前記選択部は、中心波長が最も近いフィルターどうしの前記通過帯域の少なくとも一部が互いに重なり合う前記バンドパスフィルターのそれぞれを通過した前記光によって撮像された、m種類の前記可視外撮像データを選択する請求項1に記載の画像処理装置。
  3. 前記選択部は、前記複数の部分領域どうしの前記強度の差が最も大きくなる波長に対応する前記バンドパスフィルターを通過した前記光によって撮像された前記可視外撮像データを少なくとも選択する請求項1または2に記載の画像処理装置。
  4. 前記選択部は、同一波長での前記複数の部分領域どうしの前記強度の分散が最も大きくなる波長に対応する前記バンドパスフィルターを通過した前記光によって撮像された前記可視外撮像データを少なくとも選択する請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記選択部は、前記複数の部分領域のうちの少なくとも2つにおける、波長に対する前記強度が互いに逆転する波長に対応する前記バンドパスフィルターを通過した前記光によって撮像された前記可視外撮像データを少なくとも選択する請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記選択部は、選択した前記可視外撮像データに対応する前記バンドパスフィルターを基準フィルターとして、前記基準フィルターよりも前記通過帯域の中心波長が大きい前記バンドパスフィルターのうち、前記基準フィルターとの波長に対する透過率の分布の重なりが最も大きい前記バンドパスフィルターと、前記基準フィルターよりも前記通過帯域の中心波長が小さい前記バンドパスフィルターのうち、前記基準フィルターとの波長に対する透過率の分布の重なりが最も大きい前記バンドパスフィルターを通過した前記光によって撮像された前記可視外撮像データのいずれかを少なくとも選択する請求項3から5のいずれか1項に記載の画像処理装置。
  7. 前記設定部は、ユーザの指示を受け付けて前記複数の部分領域を設定する請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記設定部は、予め定められた特徴量が予め定められた条件を満たす領域を前記複数の部分領域として設定する請求項1から6のいずれか1項に記載の画像処理装置。
  9. 前記画像生成部は、選択された複数の前記可視外撮像データの組を複数決定してそれぞれの組に対応する前記可視画像データを生成する請求項2に記載の画像処理装置。
  10. 可視外の波長を通過帯域とするn種類(nは3以上の自然数)のバンドパスフィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを取得するデータ取得ステップと、
    前記可視外撮像データが示す画像内の複数の部分領域を設定する設定ステップと、
    前記複数の部分領域のそれぞれにおいて、前記通過帯域のそれぞれに対する前記光の強度を前記可視外撮像データから解析する解析ステップと、
    前記解析ステップによる解析結果に基づいてm種類(mは2以上n未満の自然数)の前記可視外撮像データを選択する選択ステップと、
    前記選択ステップによって選択された前記可視外撮像データのそれぞれに、異なる可視波長帯域を関連付けて可視画像データを生成する画像生成ステップと
    をコンピュータに実行させる画像処理プログラム。
  11. 可視外の波長を通過帯域とする少なくともn種類(nは3以上の自然数)のバンドパスフィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを生成するデータ生成部と、
    前記可視外撮像データが示す画像内の複数の部分領域を設定する設定部と、
    前記複数の部分領域のそれぞれにおいて、前記通過帯域のそれぞれに対する前記光の強度を前記可視外撮像データから解析する解析部と、
    前記解析部による解析結果に基づいてm種類(mは2以上n未満の自然数)の前記可視外撮像データを選択する選択部と、
    前記選択部が選択した前記可視外撮像データを加工する加工部と
    を備える撮像装置。
  12. 可視外の波長を通過帯域とする少なくともn種類(nは3以上の自然数)のバンドパスフィルターのそれぞれを通過した被写体からの光によって撮像された可視外撮像データを生成するデータ生成ステップと、
    前記可視外撮像データが示す画像内の複数の部分領域を設定する設定ステップと、
    前記複数の部分領域のそれぞれにおいて、前記通過帯域のそれぞれに対する前記光の強度を前記可視外撮像データから解析する解析ステップと、
    前記解析ステップによる解析結果に基づいて、m種類(mは2以上n未満の自然数)の前記可視外撮像データを選択する選択ステップと、
    前記選択ステップによって選択された前記可視外撮像データを加工する加工ステップと
    をコンピュータに実行させる撮像プログラム。
JP2017540934A 2015-09-25 2016-09-23 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム Active JP6645504B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015188692 2015-09-25
JP2015188692 2015-09-25
PCT/JP2016/078121 WO2017051909A1 (ja) 2015-09-25 2016-09-23 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム

Publications (2)

Publication Number Publication Date
JPWO2017051909A1 true JPWO2017051909A1 (ja) 2018-06-14
JP6645504B2 JP6645504B2 (ja) 2020-02-14

Family

ID=58386047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017540934A Active JP6645504B2 (ja) 2015-09-25 2016-09-23 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム

Country Status (2)

Country Link
JP (1) JP6645504B2 (ja)
WO (1) WO2017051909A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019128295A (ja) * 2018-01-25 2019-08-01 国立研究開発法人産業技術総合研究所 撮像装置、撮像システム、及び撮像方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004003878A (ja) * 2002-04-30 2004-01-08 Kobe Steel Ltd 植物の活性度測定装置およびその方法
JP2013113802A (ja) * 2011-11-30 2013-06-10 Sumitomo Electric Ind Ltd 対象検出装置および対象検出方法
WO2014065121A1 (ja) * 2012-10-25 2014-05-01 コニカミノルタ株式会社 2次元画像データ処理装置、2次元色彩輝度計、2次元画像データ処理方法及び2次元画像データ処理プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004003878A (ja) * 2002-04-30 2004-01-08 Kobe Steel Ltd 植物の活性度測定装置およびその方法
JP2013113802A (ja) * 2011-11-30 2013-06-10 Sumitomo Electric Ind Ltd 対象検出装置および対象検出方法
WO2014065121A1 (ja) * 2012-10-25 2014-05-01 コニカミノルタ株式会社 2次元画像データ処理装置、2次元色彩輝度計、2次元画像データ処理方法及び2次元画像データ処理プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
藤垣元治 ほか: "植物の活性度評価のためのフォルスカラー赤外線撮影システムの試作", 平成12年度秋季大会講演概要集, JPN6016045305, 8 November 2000 (2000-11-08), pages 101 - 104, ISSN: 0004074615 *

Also Published As

Publication number Publication date
WO2017051909A1 (ja) 2017-03-30
JP6645504B2 (ja) 2020-02-14

Similar Documents

Publication Publication Date Title
JP6455604B2 (ja) 撮像装置、撮像プログラムおよび撮像方法
US9494768B2 (en) Image capturing module and image capturing apparatus
JP5976676B2 (ja) レンズ部の縦の色収差を利用したイメージングシステム及びその操作方法
US10645268B2 (en) Image processing method and apparatus of terminal, and terminal
JP4466569B2 (ja) カラー画像再生装置
US9288457B2 (en) Image processing device, method of processing image, and image processing program including false color correction
EP1748656A1 (en) Image processing apparatus, image processing method, and computer program
US9860516B2 (en) Image processing apparatus, image processing method and recording medium
JP2007318753A (ja) イメージ撮像装置及びその動作方法
WO2016052101A1 (ja) 撮像装置および画像データ生成プログラム
JP2017011633A (ja) 撮像装置
US10334185B2 (en) Image capturing device, signal separation device, and image capturing method
US20110149126A1 (en) Multiband image pickup method and device
JP6645504B2 (ja) 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム
US8441543B2 (en) Image processing apparatus, image processing method, and computer program
JP5108013B2 (ja) カラー撮像素子及びこれを用いた撮像装置及びフィルタ
JP2007043312A (ja) 撮影装置
US10602112B2 (en) Image processing apparatus
JP5874334B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラム
JP6384595B2 (ja) 撮像装置、データ生成装置および画像処理装置
JP6896053B2 (ja) 特に顕微鏡および内視鏡のための、蛍光発光性蛍光体のhdrモノクローム画像を作成するためのシステムおよび方法
CN112335233B (zh) 图像生成装置以及摄像装置
JP6019611B2 (ja) 撮像装置
JP5028119B2 (ja) 画像処理装置,画像処理方法及び撮像装置
JP2017118293A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190426

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191015

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191223

R150 Certificate of patent or registration of utility model

Ref document number: 6645504

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250