JP2010264276A - マルチスペクトル皮膚画像による診断方法 - Google Patents

マルチスペクトル皮膚画像による診断方法 Download PDF

Info

Publication number
JP2010264276A
JP2010264276A JP2010161988A JP2010161988A JP2010264276A JP 2010264276 A JP2010264276 A JP 2010264276A JP 2010161988 A JP2010161988 A JP 2010161988A JP 2010161988 A JP2010161988 A JP 2010161988A JP 2010264276 A JP2010264276 A JP 2010264276A
Authority
JP
Japan
Prior art keywords
skin
image
multispectral
wavelength
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010161988A
Other languages
English (en)
Other versions
JP2010264276A5 (ja
JP5165732B2 (ja
Inventor
Masahiro Yamaguchi
雅浩 山口
Masanori Mitsui
正法 三井
Yuri Murakami
百合 村上
Nagaaki Oyama
永昭 大山
Yasuo Kubota
泰夫 窪田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kagawa University NUC
Tokyo Institute of Technology NUC
Original Assignee
Kagawa University NUC
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kagawa University NUC, Tokyo Institute of Technology NUC filed Critical Kagawa University NUC
Priority to JP2010161988A priority Critical patent/JP5165732B2/ja
Publication of JP2010264276A publication Critical patent/JP2010264276A/ja
Publication of JP2010264276A5 publication Critical patent/JP2010264276A5/ja
Application granted granted Critical
Publication of JP5165732B2 publication Critical patent/JP5165732B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】
マルチスペクトル皮膚画像の画像解析により、病変の特徴のみを抽出できるマルチスペクトル皮膚画像による診断方法を提供する。
【解決手段】
皮膚の病変部を撮影する第1ステップと、撮影されたマルチスペクトル皮膚画像又は別途撮影した皮膚の正常部を含むマルチスペクトル皮膚画像の一部又は全体の領域で主成分分析を行う第2ステップ、主成分ベクトルのうち指定した数の主成分ベクトルの和として再構成されたマルチスペクトル皮膚画像と、第1ステップで得られたマルチスペクトル皮膚画像との差分を計算することによって、差分マルチスペクトル皮膚画像を得る第3ステップと、差分マルチスペクトル皮膚画像のうち皮膚疾患の種類によって指定された一つ又は複数のチャネルの画像を選択する第4ステップと、選択された画像に対して画像処理を行うことで病変部を抽出し、抽出された病変部に基づき、皮膚疾患状態の数値化又は画像化を行う第5ステップとを有する。
【選択図】 図1

Description

本発明は、マルチスペクトル画像処理方法に関し、特に、波長方向に特徴をもつ物体(対象物)を被写体として撮影して得られたマルチスペクトル画像に基づいて、対象物の分類や領域の抽出などの処理を行うマルチスペクトル画像処理方法に関する。
また、本発明は、マルチスペクトル皮膚画像による診断方法に関し、特に、皮膚を被写体として撮影して得られたマルチスペクトル画像(以下、単にマルチスペクトル皮膚画像と称する)を用いて、乾癬やざ瘡(にきび)などの各種皮膚疾患の状態を定量化して表示することによって、皮膚科医による診断を支援するマルチスペクトル皮膚画像による診断方法に関する。
従来、特定の対象物の分光的な特徴に基づいて、対象物の分類を行う方法としては、例えば、特許文献1に開示されている「色分類装置」において、クラスが既知の対象物の反射分光スペクトルから統計的手法を用いて、クラスが未知の前記対象物の分類を行う方法が用いられている。しかし、このような方法では、注目する分光的な特徴以外の成分に空間的なムラや個人差があった場合に、その影響を除去しきれないという問題が生じてしまう。
また、皮膚の分光的な特徴に基づいて、特定部分の可視化や領域抽出を行う従来技術としては、例えば、ランバートベアの法則によって分光反射率から吸収色素濃度を求めて画像化する方法(特許文献2参照)や、2つの異なる波長の光で撮影した画像の差分を計算することによって特定部分の可視化を行う方法(特許文献3参照)等がある。
しかし、特許文献2に開示されている「診断システム]において、ランバートベアの法則を用いるためには、分光反射率の絶対値を計測しなければならないことや波長毎の光路長が既知でなければならないことなどの制約があり、適用対象が限られており、且つ、撮影装置が複雑になるといった問題点があった。
また、特許文献3に開示されている「画像診断装置」において、2つの異なる波長の光で撮影した画像の差分を計算することによって特定部分の可視化を行う方法では、注目する分光的な特徴以外の成分に空間的なムラや個人差があった場合に、その影響を除去しきれないという問題が生じてしまう。
また、非特許文献1において、マルチスペクトル画像を用いて、下地の色の分布をそのままに特徴の張る波長成分のみを強調したカラー画像を作成する方法が開示されている。
特許第3469619号 特許第3417235号 特開2002−272744号公報
エム.ミツイ(M.Mitsui)・ワイ.ムラカミ(Y.Murakami)・ティー.オビ(T.Obi)・エム.ヤマグチ(M.Yamaguchi)・エヌ.オオヤマ(N.Ohyama)共著,『カラー エンハンスメント イン マルチスペクトル イメージ オフ ヒューマン スキン"Color enhancement in multispectral image of human skin"』,プロク. オフ SPIE(Proc. Of SPIE),第4959巻,p.83-88,2003年
ところで、マルチスペクトル画像は、3チャネルのカラー画像と比べて、波長方向に多数の情報をもち、被写体のスペクトルの特徴をより細かく表すことができる。このマルチスペクトル画像から、スペクトルの特徴がある特定の領域を抽出したり、そのスペクトル特徴により画像を分類したりすることで、解析を行うことがよく行われている。
このような目的では、特定の波長成分の画像を用いる画像があるが、下地の色の影響を受けやすく、注目するスペクトルの特徴のみを抽出することができないといった問題が生じてしまう。
この問題を解決するために、つまり、下地の色の影響を取り除く方法として、マルチスペクトル画像の異なる波長帯域の画像間の差分や比率を用いる方法が用いられている。要するに、これは、注目するスペクトルの特徴と下地の色が含まれる波長成分と、下地の色が含まれる波長成分の二つの波長を選び、その二つの波長成分間で差を計算することなどによって、注目する特徴を抽出するものである。
例えば、注目するスペクトルの特徴をv(λ)、その特徴成分の量をa、下地の色のスペクトルをu(λ)、下地の色の成分の量をbとするときに、ある波長λでのスペクトルは、下記数1で表される。
Figure 2010264276
波長λに注目する特徴が含まれており、波長λに下地の色の成分のみが含まれているときに、下記数2、数3が得られる。
Figure 2010264276
Figure 2010264276
数2と数3の差分を計算すると、下記数4が得られる。
Figure 2010264276
u(λ)−u(λ)が一定であるとすれば、Δgは注目する特徴成分の量に比例するので、下地の影響を取り除くことが可能である。しかし、実際には数2、数3が成立するような波長を常に選択できるとは限らない。
また、数1では、下地の色がu(λ)という一つの関数で表されるとしているが、下地の色のばらつきが複数の関数の組み合わせで表されるときには、上述の方法で下地の色をキャンセルすることができないといった問題が生じてしまう。
つまり、マルチスペクトル画像の異なる波長帯域の画像間で差分や比を算出することによって領域抽出などを行うような従来技術では、下地の色にばらつきがある場合に、差分や比の値にばらつきが生じてしまい、安定して領域抽出を行うことが困難になるという問題が生じてしまう。
本発明は、上述のような事情よりなされたものであり、本発明の目的は、皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像を用いて、乾癬やざ瘡(にきび)などの各種皮膚疾患の状態を定量化して表示することによって、皮膚科医による診断を支援し、かつ、正常皮膚の色が個々人または日焼けなどの状態によって異なっていても病変の特徴のみを抽出できるようにしたマルチスペクトル皮膚画像による診断方法を提供することにある。
本発明は、皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像を用いて、画像解析によって、病変の特徴を抽出し、皮膚疾患の状態を定量化できるようにしたマルチスペクトル皮膚画像による診断方法に関し、本発明の上記目的は、異なる波長帯域に感度を持つ多チャネルの画像撮影装置を用いて、皮膚の病変部を撮影する第1のステップと、第1のステップで撮影されたマルチスペクトル皮膚画像、または、別途撮影した皮膚の正常部を含むマルチスペクトル皮膚画像の一部または全体の領域で、主成分分析を行う第2のステップ、第2のステップで得られた主成分ベクトルのうち、指定した数の主成分ベクトルの和として再構成されたマルチスペクトル皮膚画像と、第1のステップで皮膚の病変部を撮影して得られた前記マルチスペクトル皮膚画像との差分を計算することによって、差分マルチスペクトル皮膚画像を得る第3のステップと、第3のステップで得られた前記差分マルチスペクトル皮膚画像のうち、前記皮膚疾患の種類によって指定された一つまたは複数のチャネルの画像を選択する第4のステップと、第4のステップで選択された画像に対して、画像処理を行うことで、1以上のカテゴリに属する病変部を抽出し、抽出された病変部の面積、個数または形状を基に前記皮膚疾患の状態の数値化または画像化を行う第5のステップとを有することによって効果的に達成される。
また、本発明は、診断対象である皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像を用いて、画像解析によって、前記皮膚の病変の特徴を抽出し、診断しようとする皮膚疾患の状態を定量化できるようにしたマルチスペクトル皮膚画像による診断方法に関し、本発明の上記目的は、前記皮膚疾患の種類に応じて、一つまたは複数の波長を指定するステップD1と、前記皮膚の正常部の特徴を表す部分空間の次元数Mを指定するステップD2と、ステップD1で指定された一つまたは複数の波長を含む波長帯域に分光感度を持つチャネルと、前記皮膚の正常部を表すM次元部分空間への投影値を求めるために必要な所定の種類の異なる分光感度のチャネルとを持つ撮像装置で、前記皮膚を撮影するステップD3と、ステップD3で撮影して得られたマルチスペクトル皮膚画像を、別途に記憶された前記皮膚の正常部の分光的特徴を表すM次元の基底関数の張る部分空間に投影して得られる、M次元部分空間成分皮膚画像のうち、前記指定された一つまたは複数の波長に該当する波長成分の画像を求めて、M次元部分空間上での特定波長成分皮膚画像とするステップD4と、ステップD3で撮影して得られた前記マルチスペクトル皮膚画像から、前記指定された一つまたは複数の波長に対応する波長成分の特定波長皮膚画像を抽出するステップD5と、ステップD4で得られた前記M次元部分空間上での特定波長成分皮膚画像と、ステップD5で抽出された前記特定波長皮膚画像とについて、前記指定された一つまたは複数の波長に対応する波長成分ごとに差分を計算することによって、指定された波長に対応する差分特定波長皮膚画像を抽出するステップD6と、ステップD6で抽出された指定された波長に対応する一つまたは複数のチャネルの前記差分特定波長皮膚画像の画素値を用いて、画像中の各画素または領域を複数のクラスに分類するステップD7と、ステップD7で分類された前記クラスの特徴に基づいて、前記皮膚疾患の状態を画像中の領域ごとに数値化もしくは画像化するステップD8とを有することにより、或いは、前記皮膚の正常部を表すM次元部分空間への投影値を、ステップD1で指定された一つまたは複数の波長帯域の画像を含めて計算することにより、或いは、前記別途に記憶された前記皮膚の正常部の分光的特徴を表すM次元の基底関数を、同一患者の正常部の皮膚を撮影した画像から求めることにより、或いは、前記皮膚疾患は乾癬を含む炎症性皮膚疾患であって、前記炎症性皮膚疾患の血流量の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長550nm付近の成分のみを抽出し、これを2次元部分空間上での特定波長成分皮膚画像とすることにより、或いは、前記皮膚疾患は尋常性ざ瘡(にきび)であって、前記尋常性ざ瘡(にきび)の重症度の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長430nm、580nm、620nm付近の成分をそれぞれ抽出し、これを2次元部分空間上での特定波長成分皮膚画像とすることにより、或いは、前記皮膚疾患は自己免疫性皮膚疾患であって、前記自己免疫性皮膚疾患の可能性の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長430nm、580nm、710nm付近の成分をそれぞれ抽出し、これを2次元部分空間上での特定波長成分皮膚画像とすることによって効果的に達成される。
本発明に係るマルチスペクトル皮膚画像による診断方法は、「差分マルチスペクトル皮膚画像」から選択した一つまたは複数の特定のチャネルの画像から皮膚病変の状態に関連した数値を算出する点に顕著な特徴がある。従って、本発明に係るマルチスペクトル皮膚画像による診断方法によれば、正常皮膚の色が異なっていても、安定して病態の定量化を行うことができ、皮膚疾患の状態を正確に診断することができるといった優れた効果を奏する。
つまり、本発明に係るマルチスペクトル皮膚画像による診断方法において、患者の皮膚の正常部の分光的特徴を差し引いた特定波長成分を用いることによって、正常部の皮膚の色の個人差や日焼けの状態などによる、正常皮膚の分光的特徴のばらつきをキャンセルすることができる。これによって、乾癬などの炎症性皮膚疾患の血流量を定量化して病変部の面積を計測すること、皮疹を分析して重症度を判定すること、皮膚疾患が自己免疫性疾患によるものか否かを数値的に判定することなどが可能になる。
本発明に係るマルチスペクトル皮膚画像による診断方法によれば、皮膚科診断を定量的な数値に基づいて行うこと、遠隔診断において画像のみから判断することが困難な症例に付加的な情報を提供すること、投薬などの治療効果の定量化と判定が可能になることなどの効果がある。
本発明に係るマルチスペクトル画像処理方法の好適な第1実施形態を説明するための流れ図である。 本発明に係るマルチスペクトル画像処理方法の好適な第2実施形態を説明するための流れ図である。 本発明に係るマルチスペクトル画像処理方法の好適な第3実施形態を説明するための流れ図である。 マルチスペクトルカメラの構成の一例を示す模式図である。 差分特定波長画像の生成に適した、広帯域画像撮影機能と狭帯域画像撮影機能とを具備する撮像システムの概念図である。 本発明に係るマルチスペクトル皮膚画像による診断方法の好適な実施形態を説明するための流れ図である。 本発明において、波長と抽出される成分との関係を示す概念図である。 本発明を適用して得られた炎症性皮膚疾患の解析結果の表示方法の一例を示す図である。 実施例2において、3次元空間でのクラス分類を示す概念図である。 実施例2において、尋常性ざ瘡(にきび)診断結果の提示方法の例を示す図である。
以下、本発明を実施するための形態を図面を参照して説明する。
まず、本発明に係るマルチスペクトル画像処理方法について説明する。
本発明に係るマルチスペクトル画像処理方法とは、波長方向に特徴をもつ物体(対象物)を被写体として、複数の波長帯域の画像を撮影して得られたマルチスペクトル画像を用いて、対象物(以下、撮影対象物とも称する)のスペクトルに空間的なムラや個体差がある場合にその影響を除去した上で、分光的な特徴に基づいて撮影された対象物に含まれる特定部分(特定領域)を可視化・抽出し、または、対象物の分類を行うことを可能にしたものである。
要するに、本発明に係るマルチスペクトル画像処理方法は、波長方向にNチャネルを持つマルチスペクトル画像をM次元(M<N)の基底関数の張る部分空間に投影して得られる成分画像のうち、一つまたは複数の指定された波長成分の画像と、元のマルチスペクトル画像の対応する波長成分の画像とについて、対応する波長成分ごとに差分を計算し、指定された波長に対応する差分画像を得るようにし、そして、得られた一つまたは複数チャネルの差分画像の画素値を用いて、画像内の各点の属するクラスを判定することを最大な特徴としている。
ところで、下地の色のばらつきが複数の関数の線形的な組み合わせで表されるときに、数1は以下のようになる。
Figure 2010264276
本発明では、画像の全体または一部の領域で主成分分析を行い、得られた主成分ベクトルのうちで指定した数の主成分ベクトルの和で現される成分を基準画像として、撮影された画像から基準画像を差し引くことにより、数5の第2項の成分をキャンセルする。これによって、下地の色が変化しても、その影響を受けずにスペクトルの特徴だけを抽出することが可能になる。なお、基準画像は、画像の全体または一部の領域で主成分分析を行って得られた主成分ベクトルでなくてもよく、他の画像を主成分分析して得られる主成分ベクトルや主成分分析以外の方法によって得られる基底ベクトルによって構成することもできる。
本発明に係るマルチスペクトル画像処理方法の好適な実施形態を以下のように説明する。
本発明に係るマルチスペクトル画像処理方法の好適な第1実施形態は、撮影対象物の分光的な特徴に基づいて画素群を分類する画像処理方法であり、以下のステップを有することを特徴とする。
ステップA1:
波長方向に特徴をもつ対象物を被写体として、波長方向にNチャネル(Nは2以上の整数である)を持つマルチスペクトル画像を撮影する。
ステップA2:
ステップA1で撮影して得られた対象物のマルチスペクトル画像を、M次元(M<N、Mは整数である)の基底関数の張る部分空間に投影して、対象物のM次元部分空間成分画像を得る。
ステップA3:
ステップA1で得られた対象物のマルチスペクトル画像と、ステップA2で得られた対象物のM次元部分空間成分画像との差分を計算することにより、対象物の差分マルチスペクトル画像を得る。
ステップA4:
ステップA3で得られた対象物の差分マルチスペクトル画像のうち、指定された波長に対応する一つまたは複数のチャネルの差分画像(この「差分画像」を「差分特定波長画像」とも称する)を抽出する。
ステップA5:
ステップA4で抽出された一つまたは複数のチャネルの差分画像の画素値を用いて、画像内の各点(各画素)の属するクラスを判定し、つまり、画素群の分類を行う。
上記ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法では、Nチャネルを持つマルチスペクトル画像を、M次元(M<N)の基底関数の張る部分空間に投影して、M次元部分空間成分画像を得るようにしているので、M次元の基底関数が撮影対象物の典型的なスペクトルの分布を表すものである場合に、Nチャネルを持つマルチスペクトル画像とM次元部分空間成分画像との差分を表す差分マルチスペクトル画像は、撮影対象物の典型的なスペクトルの分布から逸脱した成分のみを持つようになる。
また、上記ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法では、差分マルチスペクトル画像の特定のチャネルのみを用いて、画像内の各点(各画素)の属するクラスを判定するようにしているので、撮影対象物の典型的なスペクトルに空間的なムラや個体差があったとしても、その影響をキャンセルして、画像内の特定領域の抽出や画像内の画素群の分類などの処理を行うことができる。
よって、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法は、撮影対象物の典型的なスペクトルの分布から逸脱した成分のみを用いるので、撮影対象物内の異常部の検出や領域抽出などに対して、特に有効である。
また、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法では、ランバートベアの法則を用いる必要が無いので、絶対的な分光反射率を得る必要がない。そのため、通常のカメラのような簡便な撮像装置を用いることが可能で、撮影も容易である。また、波長毎の光路長分布が未知であっても、本発明のマルチスペクトル画像処理方法を利用することができる。
そして、本発明のマルチスペクトル画像処理方法において、M次元の基底関数としては、ステップA1で撮影して得られたNチャネルを持つマルチスペクトル画像全体、又は、ステップA1で撮影して得られたNチャネルを持つマルチスペクトル画像の一部の指定された領域のスペクトルデータを主成分分析し、そのうち主成分分析に用いた元のデータに対する寄与の大きい主成分から、M個を選んだものを用いればよい。
また、ステップA1で撮影して得られたNチャネルを持つマルチスペクトル画像とは別のマルチスペクトル画像から、同様にして、画像全体又は画像の一部の指定された領域のスペクトルデータを主成分分析し、そのうち主成分分析に用いた元のデータに対する寄与の大きい主成分からM個を選んだものを用いてもよい。このとき、別のマルチスペクトル画像として、複数枚の画像を用いることもできる。このようにして、予め対象物の典型的なスペクトルの分布を限定できる場合には、前もって用意した別のマルチスペクトル画像または点計測によって取得したスペクトルデータ群からM次元の基底関数を作成して保存しておくこともできる。
また、本発明のマルチスペクトル画像処理方法では、基底関数のうちの一つを照明光の分光分布とすれば、表面反射の成分をキャンセルできるので、表面反射の影響を除去して処理することが可能である。
さらに、本発明のマルチスペクトル画像処理方法において、波長方向にNチャネルを持つマルチスペクトル画像は、カメラで撮影された画像の値の対数を計算したものでも良い。このとき、基底関数のうちの一つを照明光の分光分布とすれば、照明光の成分をキャンセルできるので、異なる種類の照明光のもとで撮影された画像も同様に処理することが可能である。
本発明に係るマルチスペクトル画像処理方法の好適な第2実施形態は、本発明に係るマルチスペクトル画像処理方法の好適な第1実施形態と同等な処理を、M次元部分空間成分画像を得るステップ(つまり、ステップA2)を省略することによって、より効率的に行う画像処理方法であり、以下のステップを有することを特徴とする。
ステップB1:
波長方向に特徴をもつ対象物を被写体として、波長方向にNチャネル(Nは2以上の整数である)を持つマルチスペクトル画像を撮影する。
ステップB2:
ステップB1で撮影して得られた対象物のマルチスペクトル画像を、M次元(M<N、Mは整数である)の基底関数の張る部分空間に投影して得られる対象物のM次元部分空間成分画像のうち、指定された一つまたは複数の波長成分の画像を計算して、M次元部分空間上での特定波長成分画像とする。
ステップB3
ステップB1で撮影して得られた対象物のマルチスペクトル画像から、ステップB2で指定された一つまたは複数の波長成分に対応する波長成分の画像(この「画像」を「特定波長画像」とも称する)を抽出する。
ステップB4:
ステップB2で得られたM次元部分空間上での特定波長成分画像と、ステップB3で抽出された特定波長画像とについて、指定された波長成分に対応する波長成分ごとに差分を計算することによって、指定された波長に対応する差分画像(この「差分画像」を「差分特定波長画像」とも称する)を得る。
ステップB5:
ステップB4で得られた指定された波長に対応する差分画像(つまり、指定された波長に対応する一つまたは複数のチャネルの差分画像)の画素値を用いて、画像内の各点(各画素)の属するクラスを判定し、つまり、画素群の分類を行う。
前述したように、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法では、撮影されたマルチスペクトル画像をM次元(M<N)の基底関数の張る部分空間に投影して、M次元部分空間成分画像を得た上で、撮影されたマルチスペクトル画像とM次元部分空間成分画像との差分を計算して、差分マルチスペクトル画像とするようにしている。
しかし、ステップB1〜B5を有する本発明のマルチスペクトル画像処理方法では、差分マルチスペクトル画像のうち、指定された波長成分に対応する一つまたは複数のチャネルの差分画像を得るようにしているので、M次元部分空間成分画像を求めなくても、ステップB1で撮影して得られた対象物のマルチスペクトル画像を、M次元(M<N)の基底関数の張る部分空間に投影して得られる対象物のM次元部分空間成分画像のうち、一つまたは複数の指定された波長成分の画像のみを計算して、M次元部分空間上での特定波長成分画像とすれば、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法に比べて、より効率的に同等の計算を行うことができる。
上述したステップB1〜B5を有する本発明のマルチスペクトル画像処理方法では、撮影して得られた対象物のマルチスペクトル画像を、いったんM次元の基底関数の張る部分空間に投影してから差分を計算しているが、本発明はそれに限られることがなく、例えば、M次元の基底関数の張る部分空間への投影と差分は、一回の行列・ベクトル積演算によって行うことも可能である。
具体的には、下記数6とすると、差分特定波長成分画像
Figure 2010264276
は下記数7になる。
Figure 2010264276
Figure 2010264276
ただし、
Figure 2010264276
はN×Nの単位行列である。また、
Figure 2010264276
は、特定波長成分数をLとするとき、L行N列の行列で、各行の値が、特定波長に対応する列のみ1で、あとは0の値を持つ行列である。
そこで、下記数8のように、L×Nの行列
Figure 2010264276
を定義すれば、
Figure 2010264276
をかけるだけで、差分特定波長成分画像を得ることができる。
Figure 2010264276
本発明に係るマルチスペクトル画像処理方法の好適な第3実施形態は、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法と同等な結果を、改良された画像撮影装置(つまり、後述する図5に示される撮像システム)を用いることによって、さらに効率的に得る画像処理方法であり、以下のステップを有することを特徴とする。
ステップC1:
M種類以上の異なる分光感度のチャネルを持つ第1の撮像装置と、指定された一つまたは複数の波長に対応するチャネルの画像を撮影するための第2の撮像装置を用いて、同一の対象物を撮影する。
ステップC2:
第1の撮像装置で撮影して得られた対象物の画像を、M次元の基底関数の張る部分空間に投影して得られる対象物のM次元部分空間成分画像のうち、ステップC1で指定された波長に該当する一つまたは複数の波長成分の画像を計算して、M次元部分空間上での特定波長成分画像とする。
ステップC3:
ステップC2で得られたM次元部分空間上での特定波長成分画像と、第2の撮像装置で撮影して得られた一つまたは複数の波長成分画像とについて、それぞれ対応する波長ごとに差分を計算する。
ステップC4:
ステップC3で抽出された指定された波長に対応する一つまたは複数のチャネルの差分画像(この「差分画像」を「差分特定波長画像」とも称する)の画素値を用いて、画像内の各点(各画素)の属するクラスを判定し、つまり、画素群の分類を行う。
ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法は、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法と同様の効果を得ることを目的とする方法である。
つまり、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法は、予めM次元の基底関数を別途求めておくことを前提としており、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法におけるM次元の基底関数の張る部分空間に投影して得られるM次元部分空間成分画像の代わりに、M種類以上の異なる分光感度のチャネルを持つ第1の撮像装置によって撮影された画像を用いる画像処理方法である。
また、M種類以上の異なる分光感度のチャネルを持つ第1の撮像装置には、狭帯域の分光感度を持つ必要が無く、例えば、Mが3以下のときに、RGB3原色のセンサを持つ通常のカラーカメラを第1の撮像装置として用いることができる。
一方、指定された一つまたは複数の波長に対応するチャネルの画像を撮影するための第2の撮像装置としては、第1の撮像装置として用いられる撮像装置を用いることができる。要するに、例えば、第1の撮像装置として用いられたカラーカメラを、第2の撮像装置として、対象物を撮影する際に、指定された波長に該当する波長を有するLEDまたはレーザ光源を点灯して照明することなどによって、指定された波長に対応するチャネルの画像を撮影することができる。
このため、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法を用いれば、撮像装置をさらに簡便化することができるという効果を奏する。
また、上述した本発明に係るマルチスペクトル画像処理方法の三つの好適な実施形態、つまり、ステップA1〜A5を有する本発明のマルチスペクトル画像処理方法、ステップB1〜B5を有する本発明のマルチスペクトル画像処理方法、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法の手順を流れ図で表すと、図1、図2、図3となる。
ここで、図1、図2及び図3に示された処理の流れに基づいて、本発明のマルチスペクトル画像処理方法を以下のように更に詳細に説明する。
本発明に使用される、マルチスペクトル画像を撮影するためのマルチスペクトルカメラシステムについて、その一例として、可視領域の波長範囲を16チャネルで撮影する回転フィルタ方式のマルチスペクトルカメラの構成を図4に示す。
図4に示されたこのマルチスペクトルカメラは、400万画素のCCDを備える専用光学ユニット10と、16種類の異なる特性を持つ干渉フィルタ20と、モータ30と、モータ制御装置40と、フィルタ・コントローラ50と、カメラ・コントローラ60と、コンピュータI/F70と、カメラ全体を制御するコンピュータ80と、観察用モニタ90と、操作用モニタ100とから構成されている。撮影された画像は、USBインタフェースを介して、コンピュータ80に保存される。
なお、本発明において、マルチスペクトル画像を撮影するためのマルチスペクトルカメラのチャネル数は、抽出対象の波長成分の画像と下地の色の分光的特徴を取得するのに十分な数だけがあればよく、16チャネル以下の必要な数であってもよい。
図4に示されたマルチスペクトルカメラは、CCDの暗電流の成分を取得するために、17チャネル目としてフィルタ部を完全に覆った画像を取得する構造になっており、1〜16番目のチャネルの画像から、17チャネル目から推定される暗電流レベルを差し引くことによって、暗電流の影響を取り除くようにしている。この暗電流補正は、別途測定された暗電流レベルを差し引くことによって行っても良い。
また、画像を撮影する際の照明光が一定の場合には、照明光の影響を補正しなくても本発明の効果を得ることはできるが、照明環境に依存せずに本発明の画像処理を行うためには、以下の方法で照明環境の補正を行うことができる。
まず、酸化マグネシウムなどがコーティングされた標準白色板を、マルチスペクトルカメラで撮影する。撮影された16チャネルの画素値から各チャネルについての白色レベルを取得して、その白色レベルの値で、被写体を撮影したマルチスペクトル画像の各チャネルの画素値を除算する。なお、照明光の分光分布は、標準白色板を分光放射輝度計などで撮影したものから求めてもよい。
ここで、本発明のマルチスペクトル画像処理方法において、用いられる主成分分析について説明する。
Nチャネルのマルチスペクトル画像(つまり、上記の「暗電流補正」処理や「照明環境補正」処理によって補正された後のマルチスペクトル画像信号値)をN次元ベクトル
Figure 2010264276
で表現したときに、その主成分分析を行うことで、
Figure 2010264276
は下記数9のようにN個の主成分の和で表現することができる。ただし、
Figure 2010264276
は主成分ベクトルで、αは係数である。
Figure 2010264276
本発明において、主成分分析を行う対象としては、次の3通りが考えられる。
(1) 撮影されたマルチスペクトル画像全体
(2) 撮影されたマルチスペクトル画像のうち、指定した領域
(3) 別途撮影された一枚または複数枚のマルチスペクトル画像
(1)及び(2)の場合は、撮影されたマルチスペクトル画像から主成分ベクトルを求めるので、画像ごとに下地の色を表す基底ベクトルが異なっていても対応できる。画像ごとに基底ベクトルを変える必要が無いときは、(3)のように別途撮影された一枚または複数枚のマルチスペクトル画像を用いることができる。
また、(1)の場合は、領域の指定が不要であるが、撮影された画像の範囲によって基底ベクトルが変化するので、安定した結果が得られない場合がある。(2)の場合は、手作業または自動的に基準とする領域を選択しなければならないが、基準とする領域は、なるべく下地の色のみが含まれている領域であることが望ましい。つまり、基準とする領域を適切に選択すれば、(2)の方法が最も良い結果をもたらす。
主成分分析を行った結果、固有値が大きいものから順にM個の主成分ベクトルを選択し、選択されたM個の主成分ベクトルを基底ベクトルとする。この基底ベクトルは、撮影対象物の下地の色を表すものと考えることができる。従って、次元数Mは、撮影対象物の下地の色を表すのに最低限必要な数を選択する。
上述したように、本発明のマルチスペクトル画像処理方法では、主成分分析を用いて基底ベクトルを求めているが、本発明はそれに限ることがなく、他の方法を用いて基底ベクトルを決定するようにしても良い。
次に、本発明のマルチスペクトル画像処理方法において、M次元部分空間成分画像算出について説明する。
本発明では、前述した「暗電流補正」や「照明環境補正」などの補正後のマルチスペクトル画像信号値
Figure 2010264276
を、上述したように主成分分析によって求められたM個の基底ベクトルの張る部分空間に投影することによって、M次元部分空間成分画像を得るようにしている。これを数式で表現すると、下記数10になる。ただし、tはベクトルの転置を表す。
Figure 2010264276
つまり、数10で表す処理をマルチスペクトル画像の各画素に対して適用することによって、M次元部分空間成分画像を算出することができる。
次に、差分マルチスペクトル画像の算出について説明する。
差分マルチスペクトル画像
Figure 2010264276
は、前述した「暗電流補正」や「照明環境補正」などの補正後のマルチスペクトル画像信号値
Figure 2010264276
と、数10から算出されるM次元部分空間成分画像
Figure 2010264276
との差をとることによって、下記数11に表されるように、算出することができる。
Figure 2010264276
なお、この差分マルチスペクトル画像のうち、実際に本発明の画像処理に用いるのは、指定された特定波長成分のみであるので、数10や数11を用いて、全ての波長成分に対して計算を行わなくても、指定された特定波長成分のみについて差分を計算すれば十分である。つまり、指定された特定波長成分のみについて差分を計算する方法が、ステップB1〜B5を有する本発明のマルチスペクトル画像処理方法(図2参照)である。
次に、特定波長成分指定について説明する。
本発明において、特定波長成分指定とは、数11で得られた差分マルチスペクトル画像から、一つ又は複数の波長帯域の画像を選択することを意味する。波長帯域の選択は、注目する特徴が最もよく現れる波長帯域を用いる。例として、皮膚の発赤部の抽出を行う場合に、ヘモグロビンの吸収に特徴のある550nm付近の波長成分を用いることが好ましい。
次に、画素群の分類について説明する。
本発明において、画素群の分類は、指定された特定波長成分の
Figure 2010264276
の値に基づいて、閾値処理などの方法によって行う。複数の波長成分を指定した場合には、複数の波長成分の値で構成される多次元空間において、多変量解析の方法などを適用することによって行う。これによって、下地の色のばらつきは、差分マルチスペクトル画像を求める際の上位主成分で表されるM次元部分空間成分画像に吸収されるので、下地の色のばらつきに影響されず、スペクトルの特徴だけを抽出することができるようになる。
実際に部分空間を構成するために用いる基底の次元数Mを2とし、550nm近辺の画像に対して、数11を適用して得られた特定波長成分の画像に閾値処理を適用することによって、視覚的にはわずかな色の違いしか認められない発赤部分を抽出することができるようになる。このとき、M次元部分空間成分画像との差分をとらない場合には、下地の色の影響で発赤部分をうまく抽出することができない場合がある。
ところで、前述したように、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法において、M種類以上の異なる分光感度のチャネルを持つ第1の撮像装置と、指定された一つまたは複数の波長に対応するチャネルの画像を撮影するための第2の撮像装置とが用いられているが、この第1の撮像装置と第2の撮像装置は、別個の撮像装置である必要性がなく、例えば、広帯域画像撮影機能と狭帯域画像撮影機能とを具備する撮像装置(撮像システム)を用いれば良い。このような広帯域撮影機能と狭帯域撮影機能とを具備する撮像装置(撮像システム)は、差分特定波長画像の生成に適している。
本発明に用いられる、差分特定波長画像の生成に適した撮像装置(つまり、広帯域画像撮影機能と狭帯域画像撮影機能とを具備する撮像システム)について説明する。
図5は、本発明に用いられる、差分特定波長画像の生成に適した撮像システムの概念図である。図5に示されるように、差分特定波長画像の生成に適した撮像システムとは、広帯域の画像を例えば、一般的な赤(R)・緑(G)・青(B)の3原色で撮影する広帯域画像撮影機能と、注目する特定波長にのみ感度を持つような狭帯域の画像を撮影する狭帯域画像撮影機能とを具備する撮像システムである。
このような撮像システムの好適例としては、一般的な赤(R)・緑(G)・青(B)の3原色で撮影するデジタルカメラと、例えば注目する波長で狭帯域の光を発光する発光ダイオード(LED)などの特殊な照明装置とから構成される。そして、デジタルカメラを用いて、通常照明下で撮影された画像(つまり、広帯域画像)と、特殊な照明装置(例えば、LED)の照明下で撮影された画像(つまり、狭帯域画像)とに基づいて、差分特定波長画像を生成することができる。
図5に示されたような撮像システムを用いて、差分特定波長画像を生成する方法の流れは図3に示されている。つまり、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法において、図5に示された撮像システムを用いて撮影した広帯域画像と狭帯域画像とに基づいて、差分特定波長画像を生成することができる。
要するに、図5に示された撮像システムを用いて、そして、ステップC1〜C4を有する本発明のマルチスペクトル画像処理方法が用いられた場合に、撮影対象物となる物体と類似した性質を持つ物体のマルチスペクトル画像または点計測によって得た分光反射率などのスペクトルに対して、主成分分析などを行って、主成分ベクトルを予め取得しておく。そして、図5に示された撮像システムで撮影された広帯域画像から、M次元部分空間成分画像、または、M次元部分空間上での注目する特定波長成分の画像を下記のように算出する。
つまり、広帯域のnチャネル目の分光感度をS(λ)とし、数1のようなモデルが成立するときに、撮影されたnチャネル目の画素値xは、下記数12で表される。
Figure 2010264276
ここで、抽出対象の特徴成分aが小さいとき、または、S(λ)とv(λ)とがスペクトル空間上でほぼ直交しているときに、数12の第1項を無視することができる。
また、u(λ)は、波長空間上での主成分ベクトルと考えて差し支えない。このとき、数12は下記数13で表されるように、行列・ベクトル積の形で書き直すことができる。
Figure 2010264276
下地の色の分布を表す基底関数の次元数Kが、広帯域画像のチャネル数Jよりも小さければ、行列
Figure 2010264276
の擬似逆行列Tを用いて、
Figure 2010264276
すなわちbを推定することができる。また、u(λ)が波長空間上での主成分ベクトルであれば、特定波長λでの部分空間成分画像は、下記数14に基づいて求めることができる。
Figure 2010264276
仮に、図5に示された撮像システムの狭帯域撮影機能によって得られる画像をg)というように単一波長での値で表したとすると、波長λでの差分特定波長画像Δg(λ)は、下記数15に基づいて求めることができる。
Figure 2010264276
実際の図5に示された撮像システムの狭帯域撮影機能では、分光感度に幅を持つので、それを考慮に入れるには、数14を下記数16に置き換えればよい。ここで、S(λ)はλに中心波長を持つ狭帯域チャネルの分光感度である。
Figure 2010264276
次に、本発明に係るマルチスペクトル皮膚画像による診断方法について説明する。
本発明に係るマルチスペクトル皮膚画像による診断方法とは、皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像に基づいて、皮膚疾患の状態を定量化して表示することによって、皮膚科医による診断を支援する診断方法であって、より詳細に、異なる波長帯域に感度を持つマルチスペクトル画像撮影装置を用いて、皮膚の病変部を撮影して得られたマルチスペクトル皮膚画像、または、別途撮影した皮膚の正常部を含むマルチスペクトル皮膚画像の一部または全体の領域で主成分分析を行い、得られた主成分ベクトルのうち、指定した数の主成分ベクトルの和として再構成されたマルチスペクトル皮膚画像と、皮膚の病変部を撮影して得られたマルチスペクトル皮膚画像との差分を計算し、皮膚疾患の種類によって選択された一つまたは複数のチャネルの差分画像を用いて、皮膚の病変部(以下、病変領域とも称する)の抽出や、抽出された病変領域の面積、個数または形状などの算出を行うことを可能にしたものである。
要するに、本発明に係るマルチスペクトル皮膚画像による診断方法では、異なる波長帯域に感度を持つ多チャネルの画像撮影装置を用いて、皮膚の病変部を撮影し、撮影されたマルチスペクトル皮膚画像、または、別途撮影した皮膚の正常部を含むマルチスペクトル皮膚画像の一部または全体の領域で主成分分析を行い、得られた主成分ベクトルのうち、指定した数の主成分ベクトルの和として再構成されたマルチスペクトル皮膚画像と、皮膚の病変部を撮影して得られたマルチスペクトル皮膚画像との差分を計算することによって、「差分マルチスペクトル皮膚画像」が得られ、そして、得られた「差分マルチスペクトル皮膚画像」のうち、皮膚疾患の種類によって指定された一つまたは複数のチャネルの画像を選択し、選択された画像に対して処理を行うことで、一つまたは複数のカテゴリに属する病変部を抽出し、さらに抽出された病変領域の面積、個数または形状などを基に病態(皮膚疾患の状態)の数値化または画像化を行うことによって、皮膚疾患を診断することを最大な特徴としている。
本発明に係るマルチスペクトル皮膚画像による診断方法の好適な実施形態を以下のように説明する。
本発明に係るマルチスペクトル皮膚画像による診断方法の好適な実施形態は、「差分マルチスペクトル皮膚画像」に基づいて、皮膚疾患の状態を分析・診断する皮膚画像による診断方法であり、以下のステップを有することを特徴とする。
ステップD1:
診断しようとする皮膚疾患の種類(つまり、皮膚疾患の病名)に応じて、一つまたは複数の波長を指定する。
ステップD2:
診断対象である皮膚の正常部の特徴を表す部分空間の次元数Mを指定する。
ステップD3:
ステップD1で指定された一つまたは複数の波長を含む波長帯域に分光感度を持つチャネルと、皮膚の正常部を表すM次元部分空間への投影値を求めるために必要な所定の種類の異なる分光感度のチャネルとを持つ撮像装置で、診断対象である皮膚を撮影する。
なお、皮膚の正常部を表すM次元部分空間への投影値は、ステップD1で指定された一つまたは複数の波長帯域の画像を含めて計算しても良い。
ステップD4:
ステップD3で撮影して得られたマルチスペクトル皮膚画像を、別途に記憶された皮膚の正常部の分光的特徴を表すM次元の基底関数の張る部分空間に投影して得られる、M次元部分空間成分皮膚画像のうち、ステップD1で指定された一つまたは複数の波長に該当する波長成分の画像を求めて、M次元部分空間上での特定波長成分皮膚画像とする。
なお、別途に記憶された皮膚の正常部の分光的特徴を表すM次元の基底関数は、同一患者の正常部の皮膚を撮影した画像から求めてもよい。
ステップD5:
ステップD3で撮影して得られたマルチスペクトル皮膚画像から、ステップD1で指定された一つまたは複数の波長に対応する波長成分の特定波長皮膚画像を抽出する。
ステップD6:
ステップD4で得られたM次元部分空間上での特定波長成分皮膚画像と、ステップD5で抽出された特定波長皮膚画像とについて、ステップD1で指定された一つまたは複数の波長に対応する波長成分ごとに差分を計算することによって、指定された波長に対応する差分特定波長皮膚画像を抽出する。
ステップD7:
ステップD6で抽出された指定された波長に対応する一つまたは複数のチャネルの差分特定波長皮膚画像の画素値を用いて、画像中の各画素または領域を複数のクラスに分類する。
ステップD8:
ステップD7で分類されたクラスの特徴に基づいて、皮膚疾患の状態を画像中の領域ごとに数値化もしくは画像化する。
上述した本発明に係るマルチスペクトル皮膚画像による診断方法の好適な実施形態、つまり、ステップD1〜D8を有する本発明のマルチスペクトル皮膚画像による診断方法の手順を流れ図で表すと、図6となる。
次に、上述したステップD1〜D8を有する本発明のマルチスペクトル皮膚画像による診断方法を実際に具体的な皮膚疾患に適用した実施例について説明する。
実施例1としては、本発明のマルチスペクトル皮膚画像による診断方法を「乾癬などの炎症性皮膚疾患の血流量の診断」に適用した例である。
なお、本実施例では、Nチャネルのマルチスペクトルカメラで、診断対象である皮膚を撮影することを前提としているが、他の方法で撮影する撮像装置を用いてもかまわない。
本発明において、波長と抽出される成分との関係を示す概念図を図7に示す。図7に示されるように、皮膚の主な吸収体はヘモグロビンとメラニンであるが、光散乱に波長依存性があるため、短い波長にはごく表層近くの特徴が反映され、長い波長では真皮よりも深い部分の吸収体の特徴が反映されやすい。
慢性の炎症性皮膚疾患の病態と血管新生とは密接な関係があり、表層近くの毛細血管の状態が病勢の指標となる場合がある。本発明のマルチスペクトル皮膚画像による診断方法を「炎症性皮膚疾患の血流量の診断」に適用した実施例1の場合には、表層近くの毛細血管の血液成分と相関の高い550nm付近を中心波長として指定する。
一方、後述する、本発明のマルチスペクトル皮膚画像による診断方法を「尋常性ざ瘡(にきび)の重症度の診断」に適用した実施例2の場合には、そのほかに表層近くのメラニンに感度のある波長帯域(430nm付近)や少し深い部位での血液の吸収に感度のある波長帯域(620nm)を用いる。
そして、本発明のマルチスペクトル皮膚画像による診断方法を「自己免疫性皮膚疾患の可能性の診断」に適用した実施例3の場合には、実施例2に用いられる620nmの帯域よりも、さらに深い部分の血液量に感度のある波長帯域として710nm付近を用いる。
もちろん、本発明では、可視領域だけでなく近赤外の波長帯域を用いることも可能である。
本発明のマルチスペクトル皮膚画像による診断方法では、診断対象である皮膚(つまり、診断対象部分)のマルチスペクトル皮膚画像と、正常皮膚(つまり、正常部分)のマルチスペクトル皮膚画像とを撮影し、正常部分のマルチスペクトル皮膚画像からM個の主成分ベクトルを求めるようにしている。
なお、この正常部分のマルチスペクトル皮膚画像は、診断対象部分のマルチスペクトル皮膚画像の中に含まれる一部の領域が正常皮膚と判断された場合に、正常皮膚と判断されたその一部の領域を用いることも可能である。
そして、正常皮膚成分を主成分上位M個、例えば2個の基底関数で表し、診断対象である皮膚を撮影して得られたマルチスペクトル皮膚画像を、その2次元の基底関数の張る部分空間に投影して中心波長550nm付近の成分のみを抽出し、これをM次元部分空間上での特定波長成分皮膚画像とする。
次に、診断対象である皮膚を撮影して得られたマルチスペクトル画像から、中心波長550nm付近の成分を抽出し、これを特定波長皮膚画像とする。
そして、特定波長皮膚画像と、M次元部分空間上での特定波長成分皮膚画像との差分画像(つまり、差分特定波長皮膚画像)を求める。求められた差分画像の画素値に対して、閾値処理をすることにより、クラス分類を行う。これによって、毛細血管の血液量が増加している部分の抽出を行うことができる。
皮膚疾患の状態を数値化、表示する方法の一例を図8に示す。図8に示されるように、この例では、画像中の小領域ごとに閾値を越えた画素の密度を計算し、その密度に応じて異なる色を割り当てた画像を作成して表示する。また、閾値を越えた画素の密度が特定の範囲の値をとる領域の面積を算出して数値化もしくはグラフ化して表示する。
さらに、本発明のマルチスペクトル皮膚画像による診断方法を、同一対象症例について異なる時期に撮影された複数枚の画像に対して適用すれば、定量化した血液量分布の変化を比較することが可能になり、病状の進行度や治療効果を判定することができる。
次に、本発明のマルチスペクトル皮膚画像による診断方法を「尋常性ざ瘡(にきび)の重症度の診断」に適用した実施例2について説明する。
本発明のマルチスペクトル皮膚画像による診断方法を尋常性ざ瘡(にきび)の診断へ適用する場合には、つまり、実施例2の場合には、430nm、580nm、620nmといった3つの波長を中心波長として指定する。
正常皮膚成分を主成分上位M個、例えば2個の基底関数で表し、診断対象である皮膚を撮影して得られたマルチスペクトル皮膚画像を、その2次元の基底関数の張る部分空間に投影して中心波長430nm、580nm、620nm付近の成分をそれぞれ抽出し、これをM次元部分空間上での特定波長成分皮膚画像とする。
そして、診断対象である皮膚を撮影して得られたマルチスペクトル皮膚画像から、430nm、580nm、620nmに対応する中心波長付近の成分を抽出し、各波長成分について差分画像を求める。
このようにして、得られた3種類の差分画像の画素値を、図9に示すように、3次元空間で複数のクラスに分類し、分類結果を画像化する。
つまり、画像中の小領域ごとに、分類された画素の数をクラスごとに計算し、その数に応じてにきびの領域を抽出する。また、にきびの領域ごとに分類された画素の数を算出し、その結果から皮疹の状態(炎症状態、化膿した状態、色素沈着など)を分析し、にきびの重症度を判定する。
その解析結果は、図10に示されるように、判定されたにきびの領域、進行度、重症度ごとに、面積または皮疹の数を算出して数値化もしくはグラフ化して表示する。
次に、本発明のマルチスペクトル皮膚画像による診断方法を「自己免疫性皮膚疾患の可能性の診断」に適用した実施例3について説明する。
膠原病を代表とする自己免疫性皮膚疾患の皮疹は、専門医も時に誤診する微妙な皮膚変化を伴うものが多い。
本発明のマルチスペクトル皮膚画像による診断方法を膠原病(例えば皮膚筋炎)などの自己免疫性皮膚疾患の可能性の診断へ適用する場合には、つまり、実施例3の場合には、例えば、430nm、580nm、710nmといった3つの波長を中心波長として指定する。
正常皮膚成分を主成分上位M個、例えば2個の基底関数で表し、診断対象である皮膚を撮影して得られたマルチスペクトル皮膚画像を、その2次元の基底関数の張る部分空間に投影して中心波長430nm、580nm、710nm付近の成分をそれぞれ抽出し、これをM次元部分空間上での特定波長成分皮膚画像とする。
そして、診断対象である皮膚を撮影して得られたマルチスペクトル皮膚画像から、430nm、580nm、710nmに対応する中心波長付近の成分を抽出し、各波長成分について差分画像を求める。
このようにして、得られた3種類の差分画像から、病変部の画素値を抽出する。抽出された病変部の画素値の分布と、別途保存された参照データを比較し、比較結果に基づいて自己免疫性皮膚疾患に特有な特徴がどの程度含まれているか、または、炎症性皮膚疾患に特有な特徴がどの程度含まれているか、を数値化、グラフ化、もしくは画像化して表示する。
なお、上述した本発明に係るマルチスペクトル画像処理方法を皮膚科医の診断に適用した場合、つまり、本発明のマルチスペクトル皮膚画像による診断方法を例として説明したが、本発明はそれに限られることがなく、例えば、撮影対象物を鮮魚或いは果物として、鮮魚或いは果物の痛み具合のチェックにも適用することができる。

Claims (7)

  1. 皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像を用いて、画像解析によって、病変の特徴を抽出し、皮膚疾患の状態を定量化できるようにしたマルチスペクトル皮膚画像による診断方法であって、
    異なる波長帯域に感度を持つ多チャネルの画像撮影装置を用いて、皮膚の病変部を撮影する第1のステップと、
    第1のステップで撮影されたマルチスペクトル皮膚画像、または、別途撮影した皮膚の正常部を含むマルチスペクトル皮膚画像の一部または全体の領域で、主成分分析を行う第2のステップ、
    第2のステップで得られた主成分ベクトルのうち、指定した数の主成分ベクトルの和として再構成されたマルチスペクトル皮膚画像と、第1のステップで皮膚の病変部を撮影して得られた前記マルチスペクトル皮膚画像との差分を計算することによって、差分マルチスペクトル皮膚画像を得る第3のステップと、
    第3のステップで得られた前記差分マルチスペクトル皮膚画像のうち、前記皮膚疾患の種類によって指定された一つまたは複数のチャネルの画像を選択する第4のステップと、
    第4のステップで選択された画像に対して、画像処理を行うことで、1以上のカテゴリに属する病変部を抽出し、抽出された病変部の面積、個数または形状を基に前記皮膚疾患の状態の数値化または画像化を行う第5のステップと、
    を有することを特徴とするマルチスペクトル皮膚画像による診断方法。
  2. 診断対象である皮膚を被写体として撮影して得られたマルチスペクトル皮膚画像を用いて、画像解析によって、前記皮膚の病変の特徴を抽出し、診断しようとする皮膚疾患の状態を定量化できるようにしたマルチスペクトル皮膚画像による診断方法であって、
    前記皮膚疾患の種類に応じて、一つまたは複数の波長を指定するステップD1と、
    前記皮膚の正常部の特徴を表す部分空間の次元数Mを指定するステップD2と、
    ステップD1で指定された一つまたは複数の波長を含む波長帯域に分光感度を持つチャネルと、前記皮膚の正常部を表すM次元部分空間への投影値を求めるために必要な所定の種類の異なる分光感度のチャネルとを持つ撮像装置で、前記皮膚を撮影するステップD3と、
    ステップD3で撮影して得られたマルチスペクトル皮膚画像を、別途に記憶された前記皮膚の正常部の分光的特徴を表すM次元の基底関数の張る部分空間に投影して得られる、M次元部分空間成分皮膚画像のうち、前記指定された一つまたは複数の波長に該当する波長成分の画像を求めて、M次元部分空間上での特定波長成分皮膚画像とするステップD4と、
    ステップD3で撮影して得られた前記マルチスペクトル皮膚画像から、前記指定された一つまたは複数の波長に対応する波長成分の特定波長皮膚画像を抽出するステップD5と、
    ステップD4で得られた前記M次元部分空間上での特定波長成分皮膚画像と、ステップD5で抽出された前記特定波長皮膚画像とについて、前記指定された一つまたは複数の波長に対応する波長成分ごとに差分を計算することによって、指定された波長に対応する差分特定波長皮膚画像を抽出するステップD6と、
    ステップD6で抽出された指定された波長に対応する一つまたは複数のチャネルの前記差分特定波長皮膚画像の画素値を用いて、画像中の各画素または領域を複数のクラスに分類するステップD7と、
    ステップD7で分類された前記クラスの特徴に基づいて、前記皮膚疾患の状態を画像中の領域ごとに数値化もしくは画像化するステップD8と、
    を有することを特徴とするマルチスペクトル皮膚画像による診断方法。
  3. 前記皮膚の正常部を表すM次元部分空間への投影値を、ステップD1で指定された一つまたは複数の波長帯域の画像を含めて計算する請求項2に記載のマルチスペクトル皮膚画像による診断方法。
  4. 前記別途に記憶された前記皮膚の正常部の分光的特徴を表すM次元の基底関数を、同一患者の正常部の皮膚を撮影した画像から求める請求項2又は請求項3に記載のマルチスペクトル皮膚画像による診断方法。
  5. 前記皮膚疾患は乾癬を含む炎症性皮膚疾患であって、前記炎症性皮膚疾患の血流量の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長550nm付近の成分のみを抽出し、これを2次元部分空間上での特定波長成分皮膚画像とする請求項2乃至請求項4のいずれかに記載のマルチスペクトル皮膚画像による診断方法。
  6. 前記皮膚疾患は尋常性ざ瘡(にきび)であって、前記尋常性ざ瘡(にきび)の重症度の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長430nm、580nm、620nm付近の成分をそれぞれ抽出し、これを2次元部分空間上での特定波長成分皮膚画像とする請求項2乃至請求項4のいずれかに記載のマルチスペクトル皮膚画像による診断方法。
  7. 前記皮膚疾患は自己免疫性皮膚疾患であって、前記自己免疫性皮膚疾患の可能性の診断を定量化し、正常皮膚成分を主成分上位2個の基底関数で表し、前記マルチスペクトル皮膚画像をその2次元の基底関数の張る部分空間に投影して、中心波長430nm、580nm、710nm付近の成分をそれぞれ抽出し、これを2次元部分空間上での特定波長成分皮膚画像とする請求項2乃至請求項4のいずれかに記載のマルチスペクトル皮膚画像による診断方法。
JP2010161988A 2010-07-16 2010-07-16 マルチスペクトル画像処理方法、画像処理装置、及び画像処理システム Expired - Fee Related JP5165732B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010161988A JP5165732B2 (ja) 2010-07-16 2010-07-16 マルチスペクトル画像処理方法、画像処理装置、及び画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010161988A JP5165732B2 (ja) 2010-07-16 2010-07-16 マルチスペクトル画像処理方法、画像処理装置、及び画像処理システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004271953A Division JP4599520B2 (ja) 2004-09-17 2004-09-17 マルチスペクトル画像処理方法

Publications (3)

Publication Number Publication Date
JP2010264276A true JP2010264276A (ja) 2010-11-25
JP2010264276A5 JP2010264276A5 (ja) 2011-03-24
JP5165732B2 JP5165732B2 (ja) 2013-03-21

Family

ID=43361767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010161988A Expired - Fee Related JP5165732B2 (ja) 2010-07-16 2010-07-16 マルチスペクトル画像処理方法、画像処理装置、及び画像処理システム

Country Status (1)

Country Link
JP (1) JP5165732B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014061057A (ja) * 2012-09-20 2014-04-10 Sony Corp 情報処理装置、情報処理方法、プログラム、及び測定システム
JP2014512900A (ja) * 2011-03-24 2014-05-29 レツド・ソフト・アイ・テイー−サービス・ゲー・エム・ベー・ハー 皮膚の炎症値を判定する装置および方法
WO2016121518A1 (ja) * 2015-01-29 2016-08-04 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
ITUB20152522A1 (it) * 2015-07-27 2017-01-27 Linkverse S R L Apparato e metodo per la rilevazione, quantificazione e classificazione di lesioni epidermiche
JP2018043041A (ja) * 2017-12-08 2018-03-22 カシオ計算機株式会社 診断支援装置並びに画像処理方法及びそのプログラム
US10521893B2 (en) 2015-05-22 2019-12-31 Canon Kabushiki Kaisha Image processing apparatus, imaging system and image processing method
WO2020090348A1 (ja) * 2018-10-30 2020-05-07 シャープ株式会社 係数決定装置、色素濃度計算装置、係数決定方法、および情報処理プログラム
KR20210012455A (ko) * 2019-07-25 2021-02-03 광운대학교 산학협력단 병변 면적비율 산출 방법 및 그를 위한 장치
US11389092B2 (en) 2019-08-20 2022-07-19 Samsung Electronics Co., Ltd. Apparatus and method for estimating bio-information
CN116842436A (zh) * 2023-06-07 2023-10-03 中国医学科学院北京协和医院 一种多光谱组合的皮肤基底细胞癌识别方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230057650A (ko) 2021-10-22 2023-05-02 삼성전자주식회사 이미지 센서의 스펙트럼 데이터를 처리하는 장치 및 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002272744A (ja) * 2001-03-19 2002-09-24 Hochiki Corp 画像診断装置
JP2002369833A (ja) * 2001-06-15 2002-12-24 J Morita Tokyo Mfg Corp 歯の分光学的特性に基づく歯色識別法と歯色判定器
JP3417235B2 (ja) * 1996-12-13 2003-06-16 ミノルタ株式会社 診断システム
JP2003240773A (ja) * 2002-02-19 2003-08-27 Jasco Corp 癌診断における異常部及び異常度特定方法
JP3469619B2 (ja) * 1993-10-22 2003-11-25 オリンパス光学工業株式会社 色分類装置
JP2004077501A (ja) * 2003-12-01 2004-03-11 Olympus Corp 色分類装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3469619B2 (ja) * 1993-10-22 2003-11-25 オリンパス光学工業株式会社 色分類装置
JP3417235B2 (ja) * 1996-12-13 2003-06-16 ミノルタ株式会社 診断システム
JP2002272744A (ja) * 2001-03-19 2002-09-24 Hochiki Corp 画像診断装置
JP2002369833A (ja) * 2001-06-15 2002-12-24 J Morita Tokyo Mfg Corp 歯の分光学的特性に基づく歯色識別法と歯色判定器
JP2003240773A (ja) * 2002-02-19 2003-08-27 Jasco Corp 癌診断における異常部及び異常度特定方法
JP2004077501A (ja) * 2003-12-01 2004-03-11 Olympus Corp 色分類装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6010026058; 三井正法,外6名: '"マルチスペクトル画像を用いた皮膚病変部の色再現精度の検討"' 第65回応用物理学会学術講演会 No.3, 20040901, p.907 *
JPN6010026060; Bautista P A,et al.: '"Classification of unstained pathological tissue components using multi-spectral imaging"' 第51回応用物理学関係連合講演会講演予稿集 No.3, 200403, p.1130 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014512900A (ja) * 2011-03-24 2014-05-29 レツド・ソフト・アイ・テイー−サービス・ゲー・エム・ベー・ハー 皮膚の炎症値を判定する装置および方法
JP2014061057A (ja) * 2012-09-20 2014-04-10 Sony Corp 情報処理装置、情報処理方法、プログラム、及び測定システム
US9646378B2 (en) 2012-09-20 2017-05-09 Sony Corporation Information processing apparatus, information processing method, program, and measuring system
WO2016121518A1 (ja) * 2015-01-29 2016-08-04 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US10682089B2 (en) 2015-01-29 2020-06-16 Sony Corporation Information processing apparatus, information processing method, and program
JPWO2016121518A1 (ja) * 2015-01-29 2017-11-09 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US10521893B2 (en) 2015-05-22 2019-12-31 Canon Kabushiki Kaisha Image processing apparatus, imaging system and image processing method
WO2017017590A1 (en) * 2015-07-27 2017-02-02 Linkverse S.R.L. Apparatus and method for detection, quantification and classification of epidermal lesions
ITUB20152522A1 (it) * 2015-07-27 2017-01-27 Linkverse S R L Apparato e metodo per la rilevazione, quantificazione e classificazione di lesioni epidermiche
JP2018043041A (ja) * 2017-12-08 2018-03-22 カシオ計算機株式会社 診断支援装置並びに画像処理方法及びそのプログラム
WO2020090348A1 (ja) * 2018-10-30 2020-05-07 シャープ株式会社 係数決定装置、色素濃度計算装置、係数決定方法、および情報処理プログラム
JPWO2020090348A1 (ja) * 2018-10-30 2021-10-07 シャープ株式会社 係数決定装置、色素濃度計算装置、係数決定方法、および情報処理プログラム
JP2022023916A (ja) * 2018-10-30 2022-02-08 シャープ株式会社 脈波検出装置、脈波検出方法、および情報処理プログラム
JP7141509B2 (ja) 2018-10-30 2022-09-22 シャープ株式会社 脈波検出装置、脈波検出方法、および情報処理プログラム
KR20210012455A (ko) * 2019-07-25 2021-02-03 광운대학교 산학협력단 병변 면적비율 산출 방법 및 그를 위한 장치
KR102556350B1 (ko) * 2019-07-25 2023-07-17 광운대학교 산학협력단 병변 면적비율 산출 방법 및 그를 위한 장치
US11389092B2 (en) 2019-08-20 2022-07-19 Samsung Electronics Co., Ltd. Apparatus and method for estimating bio-information
CN116842436A (zh) * 2023-06-07 2023-10-03 中国医学科学院北京协和医院 一种多光谱组合的皮肤基底细胞癌识别方法
CN116842436B (zh) * 2023-06-07 2024-01-16 中国医学科学院北京协和医院 一种多光谱组合的皮肤基底细胞癌识别方法

Also Published As

Publication number Publication date
JP5165732B2 (ja) 2013-03-21

Similar Documents

Publication Publication Date Title
JP5165732B2 (ja) マルチスペクトル画像処理方法、画像処理装置、及び画像処理システム
JP4599520B2 (ja) マルチスペクトル画像処理方法
US8155413B2 (en) Method and system for analyzing skin conditions using digital images
US11330985B2 (en) Near-infrared optical imaging system for hemodynamic imaging, pulse monitoring, and mapping spatio-temporal features
US9986913B2 (en) Method and system for analyzing physical conditions using digital images
USRE47921E1 (en) Reflectance imaging and analysis for evaluating tissue pigmentation
JP5885344B2 (ja) 皮膚又は外皮の色調を特徴付けるための方法
US20080080766A1 (en) Apparatus and Method for Analyzing Skin Using L*a*b* Colorspace
US8861863B2 (en) Method and system for analyzing lip conditions using digital images
JP2015500722A (ja) 皮膚ゾーンにおける皮膚症状を検出して数量化する方法および装置
WO2016152900A1 (ja) 画像処理装置及び撮像装置
JP5405994B2 (ja) 画像処理装置、画像処理方法、画像処理システム、肌評価方法
JP2007252891A (ja) 肌の美しさの目視評価値の推定方法
WO2018161078A1 (en) Image adjustment and standardization
US20230363697A1 (en) Acne severity grading methods and apparatuses
EP1938245A2 (en) Systems and methods for analyzing skin conditions of people using digital images
WO2021067451A1 (en) System and method for analyzing surface features using a low-dimensional color space camera
Ohtsuki et al. Appearance analysis of human skin with cosmetic foundation
de Moura et al. Skin lesions classification using multichannel dermoscopic Images
Martinez-Vega et al. Statistics-based Classification Approach for Hyperspectral Dermatologic Data Processing
Udrea Pigmented Nevi Risk Assessment Based on the Correlation Dimension of the Associated Lesion's Attractor

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100812

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100812

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20101008

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20101008

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100812

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121219

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5165732

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees