JP2011010258A - 画像処理装置、画像表示システム、画像抽出装置 - Google Patents
画像処理装置、画像表示システム、画像抽出装置 Download PDFInfo
- Publication number
- JP2011010258A JP2011010258A JP2009262802A JP2009262802A JP2011010258A JP 2011010258 A JP2011010258 A JP 2011010258A JP 2009262802 A JP2009262802 A JP 2009262802A JP 2009262802 A JP2009262802 A JP 2009262802A JP 2011010258 A JP2011010258 A JP 2011010258A
- Authority
- JP
- Japan
- Prior art keywords
- image
- infrared
- visible
- light
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】背景が特定し難く、背景情報が容易に変動する環境にあっても、確実かつ簡素な方法で抽出対象を抽出することができる画像処理装置を提供する。
【解決手段】本発明の画像処理装置2は、赤外LED6と、赤外CCDカメラ7と、可視CCDカメラ8と、赤外画像と可視画像とに基づいて画像処理を行う画像処理部と、を備え、画像処理部が、赤外光照射時赤外画像と赤外光非照射時赤外画像との差分画像を作成する差分画像作成部と、差分画像に閾値処理を施してマスクパターンを作成するマスクパターン作成部と、可視画像とマスクパターンとを合成する合成画像作成部と、を備えている。
【選択図】図1
【解決手段】本発明の画像処理装置2は、赤外LED6と、赤外CCDカメラ7と、可視CCDカメラ8と、赤外画像と可視画像とに基づいて画像処理を行う画像処理部と、を備え、画像処理部が、赤外光照射時赤外画像と赤外光非照射時赤外画像との差分画像を作成する差分画像作成部と、差分画像に閾値処理を施してマスクパターンを作成するマスクパターン作成部と、可視画像とマスクパターンとを合成する合成画像作成部と、を備えている。
【選択図】図1
Description
本発明は、画像処理装置、画像表示システム、画像抽出装置に関する。
近年、ネットワークを用いた通信環境の充実により、ネットワーク経由でのリアルタイムなテレビ会議システムが普及しつつある。このようなテレビ会議システムでは、最大限の臨場感を出すため、プライベートな環境を相手に見せないようにするため、伝送データ量を削減するため、等の理由により、対象となる人物のみを切り出した映像を伝送する方式が考えられている。これを実現するために様々な手法が提案されている。
例えば、クロマキーや背景差分を利用した技術が従来から知られている。ところが、クロマキーを用いた手法では、青色等の均一な色を持った専用の背景(壁)を準備しなければならず、非常に不便である。また、背景差分を用いた手法では、例えばオフィス等の環境において背景の中で対象となる人物以外の人物が動いた場合、その人物の動きを検出してしまう等の問題がある。
そこで、上記の問題を解決する手法として、赤外光を用いた手法が2つ提案されている。
一つは、赤外光源と、ハーフミラーを介して直交配置された第1,第2のカメラと、第1のカメラの入射側に配置された赤外透過フィルターと、第2のカメラの入射側に配置された赤外カットフィルターと、を備えた画像生成装置である。この装置においては、被写体を抽出するためのマスク画像となる第1の画像を赤外光によって取得する一方、背景と被写体とを含む第2の画像を可視光によって取得し、これら画像に基づいて被写体のみを背景から抽出した画像を得ることができる(下記の特許文献1参照)。
他の一つは、赤外光によって被写体までの距離等の奥行き情報を取得し、被写体を抽出する装置である(下記の特許文献2参照)。
一つは、赤外光源と、ハーフミラーを介して直交配置された第1,第2のカメラと、第1のカメラの入射側に配置された赤外透過フィルターと、第2のカメラの入射側に配置された赤外カットフィルターと、を備えた画像生成装置である。この装置においては、被写体を抽出するためのマスク画像となる第1の画像を赤外光によって取得する一方、背景と被写体とを含む第2の画像を可視光によって取得し、これら画像に基づいて被写体のみを背景から抽出した画像を得ることができる(下記の特許文献1参照)。
他の一つは、赤外光によって被写体までの距離等の奥行き情報を取得し、被写体を抽出する装置である(下記の特許文献2参照)。
しかしながら、赤外光を用いた上記の2つの手法にもそれぞれ問題があった。
特許文献1の装置では、ハーフミラーを介して第1のカメラと第2のカメラとを直交配置する必要があるため、装置が大型化するという問題があった。また、背景の中に光源と同一波長の強い赤外光が含まれると、被写体と背景とを確実に分離できないという問題があった。
また、特許文献2の装置は、3次元位置(距離画像)の計測を目的としているため、奥行き情報を取得しているが、被写体を抽出するのに奥行き情報は必ずしも必要がなく、必要以上の演算処理により計算負荷がかかり、また不必要に高価なシステムとなってしまう。
特許文献1の装置では、ハーフミラーを介して第1のカメラと第2のカメラとを直交配置する必要があるため、装置が大型化するという問題があった。また、背景の中に光源と同一波長の強い赤外光が含まれると、被写体と背景とを確実に分離できないという問題があった。
また、特許文献2の装置は、3次元位置(距離画像)の計測を目的としているため、奥行き情報を取得しているが、被写体を抽出するのに奥行き情報は必ずしも必要がなく、必要以上の演算処理により計算負荷がかかり、また不必要に高価なシステムとなってしまう。
本発明は、上記の課題を解決するためになされたものであって、背景が特定し難く、背景情報が容易に変動する環境にあっても、確実かつ簡素な方法で抽出対象を抽出することができる画像処理装置、画像表示システム、画像抽出装置を提供することを目的とする。
上記の目的を達成するために、本発明の画像処理装置は、抽出対象に向けて赤外光を照射する赤外光源と、赤外光による画像を撮像する赤外撮像手段と、可視光による画像を撮像する可視撮像手段と、前記赤外撮像手段が取得した赤外画像と前記可視撮像手段が取得した可視画像とに基づいて画像処理を行う画像処理手段と、を備え、前記画像処理手段が、前記赤外光源から前記抽出対象に向けて前記赤外光が照射されている期間に取得した赤外光照射時赤外画像と、前記赤外光が照射されていない期間に取得した赤外光非照射時赤外画像と、の差分を取ることにより差分画像を作成する差分画像作成部と、前記差分画像に閾値処理を施すことによりマスクパターンを作成するマスクパターン作成部と、前記可視画像と前記マスクパターンとを合成することにより抽出対象画像を含む合成画像を作成する合成画像作成部と、を備えたことを特徴とする。
本発明の画像処理装置は赤外光源と赤外撮像手段とを備えており、赤外撮像手段は赤外光源から抽出対象に向けて赤外光が照射されている期間に赤外光照射時赤外画像を取得する一方、赤外光が照射されていない期間に赤外光非照射時赤外画像を取得する。このとき、赤外光源に対して相対的に近い位置に存在する抽出対象からの赤外反射光は強く、離れた位置に存在する物体からの赤外反射光は弱いため、赤外光の反射強度により赤外光源から物体までの距離の類推が可能となり、その結果、抽出対象と背景との分離が可能になる。また、赤外光照射時赤外画像と赤外光非照射時赤外画像とを比較すると、反射強度の強い抽出対象の部分が大きく異なり、反射強度の弱い背景の部分はほとんど変わらないものとなる。さらに、背景に強い赤外光の部分が含まれていたとしても、その部分は赤外光照射時赤外画像と赤外光非照射時赤外画像とで変化しない。
そして、画像処理手段の差分画像作成部は、赤外光照射時赤外画像と赤外光非照射時赤外画像との差分を取り、差分画像を作成する。すると、赤外光照射時赤外画像と赤外光非照射時赤外画像とで抽出対象の部分が大きく異なり、背景の部分はほとんど変わらないため、差分を取った後は抽出対象の部分だけが赤外画像として残り、背景の部分が消去された状態の差分画像が得られる。
そして、マスクパターン作成部は、差分画像作成部が作成した差分画像に閾値処理を施すことによりマスクパターンを作成する。ここでは、例えば差分画像を構成する各画素の輝度値に着目し、輝度値が所定の閾値未満である画素(背景部分を構成する画素に対応)を黒表示とし、輝度値が所定の閾値以上である画素(抽出対象部分を構成する画素に対応)を白表示とするといった2値化を行い、黒表示の画素で構成されるマスクパターンを作成する。そして、合成画像作成部は、可視撮像手段が取得した可視画像と上記のマスクパターンとを合成することにより、可視画像からなる抽出対象画像を含み、背景部分が消去された状態の合成画像を作成する。
従来の技術では、例えば背景に光源と同一波長の強い赤外光が含まれると、抽出対象と背景とを確実に分離できないという問題があった。これに対して、本発明の画像処理装置では、赤外光照射時赤外画像と赤外光非照射時赤外画像とから差分画像を作成し、差分画像からマスクパターンを作成するという手法を用いるため、赤外光の強度や閾値処理の閾値を適切に設定することにより、新たに設けた赤外光源からの赤外反射光強度が十分に強い抽出対象と、新たに設けた赤外光源からの赤外反射光強度が十分に弱い背景とを確実に分離することができる。また、赤外光源と赤外撮像手段と可視撮像手段とを抽出対象に対して同じ側に並べて配置できるため、従来の装置のようにハーフミラー等を用いる必要がなく、装置の小型化が図れる。このように、本発明の画像処理装置によれば、背景が特定し難く、背景情報が容易に変動する環境にあっても、確実かつ簡素な方法で抽出対象が抽出され、背景部分が消去された合成画像を作成することができる。
ここで、差分画像に対する閾値処理を一つの閾値のみに基づいて行うと、必要な領域と不要な領域との輝度差が少ない場合に、必要な領域の抽出や不要な領域の除去が困難となりやすい。これを改善するための方法としては、以下の2通りが考えられる。
例えば、本発明の画像処理装置において、前記マスクパターン作成部は、前記差分画像について、第1の閾値以上の画像領域を抽出する閾値処理を施し、第1マスクを作成する処理と、前記赤外画像について、第2の閾値以下の画像領域を抽出する閾値処理を施して抽出マスクを作成し、前記抽出マスクと前記差分画像とを合成して前記差分画像から抽出差分画像を作成する処理と、前記抽出差分画像について、前記第1の閾値より小さい第3の閾値以上の画像領域を抽出する閾値処理を施し、第2マスクを作成する処理と、前記第1マスクと前記第2マスクとにより前記マスクパターンを作成する処理と、を行うことが望ましい。
または、前記マスクパターン作成部は、前記差分画像について、第1の閾値以上の画像領域を抽出する閾値処理を施し、第1マスクを作成する処理と、前記可視画像について、前記可視光の輝度における第2の閾値以下の画像領域を抽出する閾値処理を施して抽出マスクを作成し、前記抽出マスクと前記差分画像とを合成して前記差分画像から抽出差分画像を作成する処理と、前記抽出差分画像について、前記第1の閾値より小さい第3の閾値以上の画像領域を抽出する閾値処理を施し、第2マスクを作成する処理と、前記第1マスクと前記第2マスクとにより前記マスクパターンを作成する処理と、を行うことが望ましい。
これらの構成では、マスクパターン生成部が複数の閾値に基づいた閾値処理を行うことにより、精度良く抽出対象の抽出を行うこととしている。その際、マスクパターン作成部は、差分画像から低輝度画像領域に対応する領域を抽出することで、まず不要な領域の除去を行い、抽出した差分画像に対して閾値処理を行うこととしている。これにより、必要な領域と不要な領域との輝度差が少ない場合であっても、差分画像の輝度差とは異なる観点から不要な領域の除去を行うことで精度良く必要な領域の抽出を行い、良好に背景部分が消去された合成画像を作成することができる。
本発明の画像処理装置において、前記抽出対象は人物像であって、前記第2マスクとして抽出される領域は前記人物像の毛髪の領域であり、前記第3の閾値は、前記可視画像または前記赤外画像における前記毛髪の領域を抽出できるように設定されることが望ましい。
黒色の毛髪は、赤外線を吸収しやすいために赤外反射光量が少なくなりやすく、得られるマスクパターンには毛髪部分の領域が含まれやすい。すると、人物像の可視画像とマスクパターンとを合成した合成画像は、毛髪部分が除かれた人物像となってしまう。しかし、この構成によれば、毛髪の領域を抽出出来るように、毛髪の領域の光強度に基づいて第1の閾値を設定するため、毛髪の領域まで良好に抽出した合成画像を得ることができる。
黒色の毛髪は、赤外線を吸収しやすいために赤外反射光量が少なくなりやすく、得られるマスクパターンには毛髪部分の領域が含まれやすい。すると、人物像の可視画像とマスクパターンとを合成した合成画像は、毛髪部分が除かれた人物像となってしまう。しかし、この構成によれば、毛髪の領域を抽出出来るように、毛髪の領域の光強度に基づいて第1の閾値を設定するため、毛髪の領域まで良好に抽出した合成画像を得ることができる。
本発明の画像処理装置において、前記赤外撮像手段の画像取得周期が前記可視撮像手段の画像取得周期の1/n倍(n:2以上の整数)であり、前記可視撮像手段の1回の画像取得周期の中で前記赤外光源をn回点灯または消灯させることが望ましい。
例えば赤外撮像手段の画像取得周期を可視撮像手段の画像取得周期の1/2とし、可視撮像手段の1回の画像取得周期の中で赤外光源を2回点灯または消灯させる構成とすれば、たとえ背景に光源と同一波長の強い赤外光が含まれる場合でも、任意の1画像取得周期内に取得された可視画像に対して抽出対象のみを確実に抽出することができる。
また本発明において、赤外撮像手段の画像取得周期の絶対値(時間)は特に限定されることはなく、長くても良い。しかしながら、赤外撮像手段の画像取得周期の絶対値(時間)が長すぎると、例えば背景に光源と同一波長の強い赤外光が含まれるときに背景となる物体が徐々に動いた場合など、抽出対象以外の変化した部分も抽出してしまう虞がある。
その点で、赤外撮像手段の画像取得周期は短い方が望ましい。
例えば赤外撮像手段の画像取得周期を可視撮像手段の画像取得周期の1/2とし、可視撮像手段の1回の画像取得周期の中で赤外光源を2回点灯または消灯させる構成とすれば、たとえ背景に光源と同一波長の強い赤外光が含まれる場合でも、任意の1画像取得周期内に取得された可視画像に対して抽出対象のみを確実に抽出することができる。
また本発明において、赤外撮像手段の画像取得周期の絶対値(時間)は特に限定されることはなく、長くても良い。しかしながら、赤外撮像手段の画像取得周期の絶対値(時間)が長すぎると、例えば背景に光源と同一波長の強い赤外光が含まれるときに背景となる物体が徐々に動いた場合など、抽出対象以外の変化した部分も抽出してしまう虞がある。
その点で、赤外撮像手段の画像取得周期は短い方が望ましい。
本発明の画像処理装置において、前記赤外撮像手段および前記可視撮像手段を、互いに異なる光軸上に配置された赤外撮像素子と可視撮像素子とで構成することができる。
この構成によれば、赤外画像専用の撮像素子と可視画像専用の撮像素子とを別個に用意すれば良いため、各撮像素子の全ての画素を赤外画像、可視画像のいずれか一方の画像専用に用いることができる。これにより、各撮像素子により得られる画像の解像度を高めることができる。
この構成によれば、赤外画像専用の撮像素子と可視画像専用の撮像素子とを別個に用意すれば良いため、各撮像素子の全ての画素を赤外画像、可視画像のいずれか一方の画像専用に用いることができる。これにより、各撮像素子により得られる画像の解像度を高めることができる。
本発明の画像処理装置において、前記マスクパターン作成部が、前記閾値処理を行う閾値処理部と、前記閾値処理により得られた前記マスクパターンを、前記可視画像上での所望の抽出対象領域外の部分と重なるように空間変換処理する空間変換処理部と、を備えることが望ましい。
別体の赤外撮像素子と可視撮像素子とを異なる光軸上に配置した上記構成の場合、各撮像素子が抽出対象を撮像する角度が異なるため、赤外画像を基に作成されたマスクパターンが可視画像上で本来マスクしたい領域からずれることが考えられる。この場合、上記の空間変換処理部を備えた構成によれば、マスクパターンを、可視画像上での所望の抽出対象領域外の部分、すなわち本来マスクしたい領域と重なるように空間変換処理するため、空間変換後のマスクパターンが可視画像に対応したものとなり、抽出対象を正確に抽出することができる。
別体の赤外撮像素子と可視撮像素子とを異なる光軸上に配置した上記構成の場合、各撮像素子が抽出対象を撮像する角度が異なるため、赤外画像を基に作成されたマスクパターンが可視画像上で本来マスクしたい領域からずれることが考えられる。この場合、上記の空間変換処理部を備えた構成によれば、マスクパターンを、可視画像上での所望の抽出対象領域外の部分、すなわち本来マスクしたい領域と重なるように空間変換処理するため、空間変換後のマスクパターンが可視画像に対応したものとなり、抽出対象を正確に抽出することができる。
本発明の画像処理装置において、前記赤外撮像手段および前記可視撮像手段を、赤外・可視撮像素子で構成し、前記赤外・可視撮像素子が、赤外画像を撮像するための赤外画像撮像用画素と、可視画像を撮像するための複数の画素からなる複数の可視画像撮像用画素と、を有する構成とすることができる。
この構成によれば、赤外撮像手段と可視撮像手段とが一体の赤外・可視撮像素子であり、赤外画像を撮像する角度と可視画像を撮像する角度とが一致する。そのため、上記のマスクパターンのずれが発生せず、空間変換処理が不要となる。これにより、短い処理時間でマスクパターンを作成でき、画像処理全体に要する時間を短縮できる。また、赤外撮像手段と可視撮像手段が一体の撮像素子で構成されるため、装置の小型化が図れる。
この構成によれば、赤外撮像手段と可視撮像手段とが一体の赤外・可視撮像素子であり、赤外画像を撮像する角度と可視画像を撮像する角度とが一致する。そのため、上記のマスクパターンのずれが発生せず、空間変換処理が不要となる。これにより、短い処理時間でマスクパターンを作成でき、画像処理全体に要する時間を短縮できる。また、赤外撮像手段と可視撮像手段が一体の撮像素子で構成されるため、装置の小型化が図れる。
本発明の画像処理装置において、前記赤外・可視撮像素子が、赤外光を透過する画素領域と可視光に含まれる各色光を透過する画素領域とを含む帯域透過フィルターを備えた構成としても良い。
この構成によれば、上記の画素構成を有する赤外・可視撮像素子を容易に得ることができる。
この構成によれば、上記の画素構成を有する赤外・可視撮像素子を容易に得ることができる。
本発明の画像処理装置において、前記赤外撮像手段を赤外撮像素子で構成するとともに、前記可視撮像素子を、可視光に含まれる色光毎の画像を取得する複数の色光撮像素子で構成し、前記赤外撮像素子と前記複数の色光撮像素子とが、同一の光軸から分岐した光軸上にそれぞれ配置された構成としても良い。
この構成によれば、上述の別体の撮像素子を備えた構成と同様、赤外画像専用の撮像素子と各色光画像専用の撮像素子とを別個に用意すれば良いため、画像の解像度を高めることができる。それに加えて、上述の一体の赤外・可視撮像素子を備えた構成と同様、赤外画像を撮像する角度と可視画像を撮像する角度とが一致するため、空間変換処理が不要となり、画像処理全体に要する時間を短縮できる。
この構成によれば、上述の別体の撮像素子を備えた構成と同様、赤外画像専用の撮像素子と各色光画像専用の撮像素子とを別個に用意すれば良いため、画像の解像度を高めることができる。それに加えて、上述の一体の赤外・可視撮像素子を備えた構成と同様、赤外画像を撮像する角度と可視画像を撮像する角度とが一致するため、空間変換処理が不要となり、画像処理全体に要する時間を短縮できる。
本発明の画像表示システムは、前記本発明の画像処理装置と、前記画像処理装置によって得られた抽出画像を表示する表示装置と、を備えたことを特徴とする。
本発明の画像表示システムによれば、前記本発明の画像処理装置を備えたことにより、背景が容易に変動する状況であっても、確実かつ簡素な方法で背景部分が消去された合成画像を作成でき、テレビ会議システム等に用いて好適な画像表示システムを構築することができる。
本発明の画像表示システムによれば、前記本発明の画像処理装置を備えたことにより、背景が容易に変動する状況であっても、確実かつ簡素な方法で背景部分が消去された合成画像を作成でき、テレビ会議システム等に用いて好適な画像表示システムを構築することができる。
本発明の画像抽出装置は、抽出対象に向けて赤外光を照射する赤外光源と、赤外光による画像を撮像する赤外撮像手段と、前記赤外撮像手段が取得した赤外画像に基づいて画像処理を行う画像処理手段と、を備え、前記画像処理手段が、前記赤外光源から前記抽出対象に向けて前記赤外光が照射されている期間に取得した赤外光照射時赤外画像と、前記赤外光が照射されていない期間に取得した赤外光非照射時赤外画像と、の差分を取ることにより、差分画像からなる抽出画像を作成することを特徴とする。
本発明の画像抽出装置によれば、上記本発明の画像処理装置と同様、背景が容易に変動する状況であっても、確実かつ簡素な方法で抽出対象のみを抽出することができる。
本発明の画像抽出装置によれば、上記本発明の画像処理装置と同様、背景が容易に変動する状況であっても、確実かつ簡素な方法で抽出対象のみを抽出することができる。
[第1実施形態]
以下、本発明の第1実施形態について、図1〜図5を用いて説明する。
本実施形態の画像表示システムは、例えば相手方の画像をスクリーンに表示して会議を行う際に用いるテレビ会議システム等に用いて好適なシステムの構成例である。
以下、本発明の第1実施形態について、図1〜図5を用いて説明する。
本実施形態の画像表示システムは、例えば相手方の画像をスクリーンに表示して会議を行う際に用いるテレビ会議システム等に用いて好適なシステムの構成例である。
本実施形態の画像表示システム1は、図1に示すように、使用者A(抽出対象)と背景Bの画像を撮像して画像処理を行う画像処理装置2と、相手方の画像を表示するためのプロジェクター3(表示装置)およびスクリーン4を備えている。本実施形態では、相手方も同一の画像表示システムを有しており、使用者Aの画像は相手方の画像表示システムのプロジェクターに伝送され、表示されるものとする。なお、表示装置としては、プロジェクター3に限らず、例えばテレビジョン、パーソナルコンピューターのディスプレイ等、いかなる表示装置を用いても良い。また、画像を相手方に伝送する手段についても、一般的に用いられている種々の手段を用いることができる。
画像処理装置2は、赤外LED6(Light Emitting Diode)(赤外光源)と、赤外CCD(Charge Coupled Device)カメラ7(赤外撮像手段)と、可視CCDカメラ8(可視撮像手段)と、制御装置9と、を備えている。赤外LED6は、使用者Aに向けて赤外光を照射するためのものである。赤外CCDカメラ7は、赤外光による画像を撮像するものであり、可視CCDカメラ8は、可視光による画像を撮像するものである。制御装置9は、赤外LED6の駆動を制御するとともに、後述の画像処理部を含み、画像処理を行うものである。赤外CCDカメラ7と可視CCDカメラ8とは隣接して異なる光軸上に配置されている。
制御装置9は、図2に示すように、赤外LED駆動部11と、同期信号生成部12と、画像処理部13(画像処理手段)と、を備えている。赤外LED駆動部11は、赤外LED6を駆動する際の駆動信号を生成し、その駆動信号を赤外LED6に向けて出力する機能を有する。同期信号生成部12は、赤外LED6と赤外CCDカメラ7、可視CCDカメラ8の相互の動作を同期させる同期信号を生成し、これらに向けて出力する機能を有する。画像処理部13は、赤外CCDカメラ7が取得した赤外画像と可視CCDカメラ8が取得した可視画像とに基づいて画像処理を行うものである。
画像処理部13は、赤外CCDカメラ7、可視CCDカメラ8の各々に対応した画像取得部15,16と、差分画像作成部17と、マスクパターン作成部18と、合成画像作成部19と、を備えている。画像取得部15,16は、各CCDカメラ7,8から得られた画像データを読み出す機能を有しており、読み出した画像データを記憶するメモリーを含んでいる。差分画像作成部17は、赤外光照射時の赤外画像と赤外光非照射時の赤外画像との差分画像を作成する機能を有する。マスクパターン作成部18は、差分画像作成部17が作成した差分画像からマスクパターンを作成する機能を有する。合成画像作成部19は、マスクパターン作成部18が作成したマスクパターンと可視画像とを合成し、合成画像を作成する機能を有する。
さらに、マスクパターン作成部18は、閾値処理部20と、空間変換処理部21と、を備えている。閾値処理部20は、差分画像作成部17が作成した差分画像に閾値処理を施す機能を有する。空間変換処理部21は、閾値処理部20により得られたマスクパターンを、可視画像上での所望の抽出対象領域外の部分と重なるように空間変換処理を施す機能を有する。
以下、制御装置9の動作を、図3のフローチャートに沿って説明する。
なお、以下の図5(A)〜(H)に示す画像例は、本発明者が本実施形態と同等のシステムを用いて実際に取得したものである。
本実施形態において、可視CCDカメラ8が得た画像データは画像取得部16によって読み出され、画像取得部16は、例えば60Hzの周波数、1/60秒の画像取得周期で可視画像を取得する(図3のステップS1)。
なお、以下の図5(A)〜(H)に示す画像例は、本発明者が本実施形態と同等のシステムを用いて実際に取得したものである。
本実施形態において、可視CCDカメラ8が得た画像データは画像取得部16によって読み出され、画像取得部16は、例えば60Hzの周波数、1/60秒の画像取得周期で可視画像を取得する(図3のステップS1)。
図5(A)は、可視CCDカメラ8から得られた可視画像の一例である。この可視画像は実際にはフルカラーで表現されており、抽出対象である使用者Aの画像の後に背景Bが写り込んでいるのがわかる。
一方、赤外CCDカメラ7が得た画像データは画像取得部15によって読み出され、画像取得部15は、120Hzの周波数、1/120秒の画像取得周期で画像を取得する。
すなわち、赤外CCDカメラ7側の画像取得部15は、可視CCDカメラ8側の画像取得部16の2倍の周波数、1/2の画像取得周期で画像を取得する。また、赤外CCDカメラ7が赤外画像を取得する間、赤外LED6には赤外LED駆動部11から駆動信号が入力され、赤外LED6は、120Hzの周波数で点灯、または消灯を交互に繰り返す。ここで、赤外LEDの1周期とは、1回の点灯または1回の消灯、のいずれかが行われる時間を指すこととする。
すなわち、赤外CCDカメラ7側の画像取得部15は、可視CCDカメラ8側の画像取得部16の2倍の周波数、1/2の画像取得周期で画像を取得する。また、赤外CCDカメラ7が赤外画像を取得する間、赤外LED6には赤外LED駆動部11から駆動信号が入力され、赤外LED6は、120Hzの周波数で点灯、または消灯を交互に繰り返す。ここで、赤外LEDの1周期とは、1回の点灯または1回の消灯、のいずれかが行われる時間を指すこととする。
このとき、図2に示す同期信号生成部12から出力された同期信号を受けて、図4に示すように、可視CCDカメラ8による画像取得、赤外CCDカメラ7による画像取得、赤外LED6の発光動作が所定のタイミングで同期して実行される。すなわち、赤外LED6が120Hzの周波数で点灯、または消灯を交互に繰り返しているので、赤外LED6が点灯し、使用者Aに赤外光が照射されている期間に同期して、赤外CCDカメラ7の画像取得部15が赤外画像を取得する(図3のステップS2)。
図5(B)は、赤外LED6から赤外光が照射された状態で赤外CCDカメラ7から得られた赤外画像の一例である。図から判るように、使用者Aからの反射のみならず、背景の中にも強い赤外光の部分が含まれており、赤外画像を単純に取得しただけでは対象物の抽出は困難である。
続いて、赤外LED6が消灯し、使用者Aに赤外光が照射されていない期間に同期して、赤外CCDカメラ7の画像取得部15が赤外画像を取得する(図3のステップS3)。
なお、以下では説明の便宜上、赤外光が照射されている期間の赤外画像を「第1の赤外画像(赤外光照射時赤外画像)」と称し、赤外光が照射されていない期間の赤外画像を「第2の赤外画像(赤外光非照射時赤外画像)」と称する。このようにして、可視CCDカメラ8の画像取得部16が可視画像を1回取得する期間(以下、フレーム期間とも言う)内に、赤外LED6が2回点灯または消灯し、赤外CCDカメラ7の画像取得部15が第1の赤外画像と第2の赤外画像とを1回ずつ取得する。後述するように、ここで得られた第1の赤外画像、第2の赤外画像は、可視CCDカメラ8の1フレーム期間におけるマスクパターンを作成するのに用いられる。
なお、以下では説明の便宜上、赤外光が照射されている期間の赤外画像を「第1の赤外画像(赤外光照射時赤外画像)」と称し、赤外光が照射されていない期間の赤外画像を「第2の赤外画像(赤外光非照射時赤外画像)」と称する。このようにして、可視CCDカメラ8の画像取得部16が可視画像を1回取得する期間(以下、フレーム期間とも言う)内に、赤外LED6が2回点灯または消灯し、赤外CCDカメラ7の画像取得部15が第1の赤外画像と第2の赤外画像とを1回ずつ取得する。後述するように、ここで得られた第1の赤外画像、第2の赤外画像は、可視CCDカメラ8の1フレーム期間におけるマスクパターンを作成するのに用いられる。
図5(C)は、赤外LED6の消灯時に赤外CCDカメラから得られた赤外画像の一例である。図5(B)で強い反射強度に表現されていた顔の表面や服の部分も図5(C)では弱い反射強度に変化しているが、背景の部分は図5(B)の状態から変化していない。
次に、差分画像作成部17が、上記の第1の赤外画像と第2の赤外画像との差分を取り、差分画像を作成する(図3のステップS4)。
図5(D)は、図5(B)に示す第1の赤外画像と図5(C)に示す第2の赤外画像の2枚の赤外画像から得られた差分画像の一例である。主に顔や身体の正面部分が強い反射強度に、その周辺が中間の反射強度に、それ以外の部分が弱い反射強度に表現されている。特に、背景の部分は黒色1色で塗りつぶされた状態となり、使用者Aの後に写り込んでいた背景Bは強い赤外光が見られた部分を含めて消えている。
赤外LED6と赤外CCDカメラ7は抽出対象を抽出するために用いているが、自然界には太陽光などの赤外光を含む光が存在するため、赤外LED6から赤外光を照射しただけでは抽出対象を抽出することは不可能である。そこで、赤外光を照射していない期間にも赤外CCDカメラ7で赤外画像を取得し、赤外光を照射した期間の赤外画像との差分を取れば、図5(D)に示したように、赤外光の反射強度が強い部分を持つ背景を含む画像から、赤外光の反射光強度が強い抽出対象を正確に分離することができる。
次に、閾値処理部20は、差分画像作成部17が作成した差分画像に閾値処理を施すことにより元マスクパターンを作成する(図3のステップS5)。具体的には、例えば差分画像を構成する各画素の輝度値に着目し、輝度値が所定の閾値未満である画素(背景部分を構成する画素に対応)を黒表示とし、輝度値が所定の閾値以上である画素(抽出対象部分を構成する画素に対応)を白表示とするといった2値化を行い、黒表示の画素で構成される元マスクパターンCを作成する。
図5(E)は、図5(D)の差分画像を閾値処理して得られた元マスクパターンCの一例である。本実施形態の場合、背景の部分に加えて髪の毛の部分も元マスクパターンCの一部になっている。
次に、空間変換処理部21は、閾値処理により得られた元マスクパターンCを、可視画像上での所望の抽出対象領域外の部分と重なるように空間変換処理し、マスクパターンDを作成する(図3のステップS6)。この空間変換処理は、空間変換処理部21に予め記憶させておいた座標情報に基づき、周知の演算方法により行うことができる。
図5(A)と図5(B)を比較すると判るように、本実施形態では赤外CCDカメラ7と可視CCDカメラ8とが異なる光軸上に配置されているため、各CCDカメラ7,8が抽出対象を撮像する角度が若干異なる。したがって、赤外画像を基に作成された元マスクパターンCは、可視画像上で本来マスクしたい領域からずれることになる。したがって、上記の空間変換処理を行えば、マスクパターンDが可視画像上での所望の抽出対象領域外の部分、すなわち本来マスクしたい領域と重なるため、抽出対象を正確に抽出することができる。
図5(F)は、図5(E)の元マスクパターンCを空間変換処理して得られたマスクパターンDの一例である。
次に、合成画像作成部19は、図5(F)に示すマスクパターンDから、対象領域が正確に抽出できるように髪の毛の領域等を補正した図5(G)に示すマスクパターンEを作成した後、可視CCDカメラ8が取得した可視画像と上記のマスクパターンとを合成する。これにより、可視画像からなる抽出対象画像を含み、背景の部分が消去された状態の合成画像を作成し(図3のステップS7)、画像処理部13から出力する(図3のステップS8)。
図5(H)は、図5(A)の可視画像と図5(G)のマスクパターンEを合成して得られた抽出画像の一例である。抽出対象がフルカラーで表現され、背景の部分が黒で塗りつぶされた状態の合成画像が得られた。
本実施形態の画像表示システム1では、赤外光照射時の第1の赤外画像と赤外光非照射時の第2の赤外画像とから差分画像を作成し、差分画像からマスクパターンを作成するという手法を用いている。そのため、照射する赤外光の強度や閾値処理の閾値を適切に設定することにより、赤外反射光強度が十分に強い抽出対象と赤外反射光強度が十分に弱い背景とを確実に分離することができる。また、赤外LED6と赤外CCDカメラ7と可視CCDカメラ8とを抽出対象に対して同じ側に並べて配置できるため、従来の装置のようにハーフミラー等を用いる必要がなく、装置の小型化が図れる。このように、本実施形態の画像表示システム1によれば、背景が特定し難く、背景情報が容易に変動する環境にあっても、確実かつ簡素な方法で抽出対象が抽出され、背景部分が消去された合成画像を作成することができる。
また、本実施形態では赤外CCDカメラ7の画像取得周期を可視CCDカメラ8の画像取得周期の1/2とし、可視CCDカメラ8の1フレーム期間の中で赤外LED6を2回点灯または消灯させる構成とした。そのため、たとえ背景に光源と同一波長の強い赤外光が含まれるときに背景となる物体が徐々に動いたとしても、その人物が1フレーム期間より短い時間で画面を出入りする程すばやく動くのは不可能であるから、その人物が抽出されることはなく、任意の1フレーム期間内に取得された可視画像に対して抽出対象のみを確実に抽出することができる。
また、本実施形態では、互いに異なる光軸上に配置された赤外CCDカメラ7と可視CCDカメラ8とを用いており、赤外画像専用のCCDカメラと可視画像専用のCCDカメラとを別個に用意すれば良いため、各CCDカメラ7,8の全ての撮像素子の画素を赤外画像、可視画像のいずれか一方の画像専用に用いることができる。これにより、各CCDカメラ7,8により得られる画像の解像度を高めることができる。
なお、本実施形態において、使用者A(抽出対象)の位置が奥行き方向に変化する場合には、赤外LED6からの赤外光の照射量を適宜変化させる、もしくは、マスクパターンを作成する際の閾値の設定値を適宜変更する、などの方法を採れば良い。また、抽出する予定にない人物が背景に入り込んだ際にも、赤外光の照射量の設定、閾値の設定を最適化することにより、確実なマスク処理を行うことができる。本実施形態の画像表示システム1によれば、マスクパターンには空間変換処理を施しているが、可視画像に対してはマスク処理を行っただけであるから、偽りのない自然な表情で使用者Aの画像を伝送することができる。
[第2実施形態]
以下、本発明の第2実施形態について、図6から図9を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、マスクパターンを作成する方法が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、マスクパターンの作成に係わる部分のみを説明する。
以下、本発明の第2実施形態について、図6から図9を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、マスクパターンを作成する方法が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、マスクパターンの作成に係わる部分のみを説明する。
第1実施形態との違いを概略すると、第1実施形態の画像表示システムでは、図5(E)に示したように背景の部分に加えて髪の毛の部分も元マスクパターンの一部になっており、後の画像処理で対象領域が正確に抽出できるように髪の毛の領域等を補正することとした。対して本実施形態では、閾値処理によって、髪の毛の領域に対応する差分画像を別途作成し、確実に髪の毛の部分も除いたマスクパターンを作成することとしている。以下、順に説明する。
図6は、本実施形態の画像表示システムが有する制御装置の構成を示すブロック図であり、図2に対応する図である。図に示すように、本実施形態の制御装置9では、画像取得部16で取得する可視画像のデータが、マスクパターン作成部18が有する閾値処理部20に入力され、マスクパターンの作成時の閾値処理に利用する構成となっている。
図7は、本実施形態の閾値処理について説明する説明図である。図7(A)は、可視CCDカメラ8から得られた可視画像の一例であり、図5(A)に対応する図である。図7(B)は、赤外CCDカメラ7から得られた赤外LED6の点灯時画像と消灯時画像との差分画像であり、図5(D)に対応する図である。図7(C)は、閾値処理を説明する概略図である。以下、図7(A)(B)の線分A−A’における画像の光強度に基づいて説明する。
図7(A)(B)に示すように、線分A−A’上には、背景部分である領域AR1,AR5、人物の髪の毛にあたる領域AR2,AR4、人物の皮膚にあたる領域AR3があり、それぞれ異なる明るさ(光強度)を示している。人物の髪の毛にあたる領域AR2,AR4は、赤外線の反射率が低いことに起因して赤外CCDカメラ7に対する赤外線の反射光量が少ない。よって、領域AR2,AR4は、本発明における低反射領域に該当する。人物の皮膚にあたる領域AR3は、赤外線の反射率が高いことに起因して赤外CCDカメラ7に対する赤外線の反射光量が多い。よって、領域AR3は、本発明における高反射領域に該当する。
これらの光強度をグラフに示すと、概ね図7(C)のようになる。グラフ上では、図7(A)の線分A−A’における明るさであるVR光強度を鎖線で、図7(B)の線分A−A’における明るさであるIR光差分強度を実線で、それぞれ示している。領域AR1から領域ARにおけるそれぞれの境(例えば、領域AR1と領域AR2との境)では明るさが不連続に変化するため、グラフでは飛び飛びの値を示している。
本実施形態の画像表示システムでは、まずIR光差分強度について、第1の閾値Th1より大きい値を示す領域のみ抽出する第1の閾値処理を行い、抽出対象のうち赤外線の反射率が高く赤外光の反射光強度が強い領域AR3を抽出する。この第1の閾値処理は、第1実施形態の画像表示システムで行う閾値処理と同様のものである。
この時、髪の毛の領域は赤外LED6に近接しているにもかかわらず、赤外線を吸収しやすい、即ち赤外線の反射率が所定の値より低いために赤外線の反射光量が少なくなっている。一方、背景部分の領域では赤外LED6からの距離が遠いため赤外線の反射光量が少なくなっている。そのため、これらの領域は光強度の差が小さく、図7(B)に示すIR光差分画像では、髪の毛の領域と背景部分の領域との間の光強度の差が少なくなりやすい。すると、図7(B)において、髪の毛の領域(領域AR2,AR4)と背景部分(領域AR1,AR5)とを切り離すような閾値設定を行うことが困難となりやすい。また、仮に髪の毛の領域と背景部分の領域とを切り離すような閾値を設定したとすると、髪の毛の領域よりも明るい領域はすべて切り出すようなマスクパターンとなるため、不要な部分をノイズとして含みやすい。
そこで本実施形態では、図7(A)に示すように、可視画像においては髪の毛の領域と背景部分の領域との境が明確であることに着目し、可視画像における光量で閾値設定を行い、髪の毛の領域と背景部分とを良好に切り離して、髪の毛の領域AR2,AR4を抽出する第2の閾値処理を行うこととしている。これは、次の事象に基づいている。抽出対象が人物像である場合においては、赤外線の反射率が低い領域は同時に可視光の反射率が低い領域である。一方、背景部分では赤外線の反射光量が少なくても、多くの可視光が可視CCDカメラ8に入射する、即ち明るい、領域がある。
すなわち第2の閾値処理では、可視光量が少ない領域を抽出するため、まず可視画像について、図7(C)のVR光強度の値から第2の閾値Th2より小さい値を示す領域を抽出する閾値処理を行い、可視画像における低輝度領域を抽出するマスクを作成する。図7(A)から明らかなように、可視画像においては髪の毛の領域と背景部分の領域との境が明確であるため、容易に第2閾値Th2を設定することができる。
次いで、作成した低輝度領域抽出用マスクと図7(B)の差分画像とを合成し、可視画像における低輝度領域を抽出したIR光差分画像を作成する。その後、作成した差分画像について第3の閾値Th3を設定し、第3の閾値Th3より大きい値を示す領域を抽出する閾値処理を行うことにより、良好に領域AR2,AR4を抽出する。
また、ここでは可視画像に基づいて第2の閾値Th2を用いた閾値処理を行い、低輝度領域抽出用マスクを作成することとしたが、例えば、差分を取る前のIR光画像に基づいて閾値(第2の閾値)Th4を用いた閾値処理を行い、低輝度領域抽出用マスクを作成することとしても良い。低輝度領域抽出用マスクの作成においては、可視画像に基づくかIR光画像に基づくかを適宜選択し、ノイズが少なく精度が高い抽出が可能となる低輝度領域抽出用マスクを作成すると良い。例えば、図7(C)の場合には、閾値Th4の方が抽出する光強度の幅が小さくなるため、閾値Th2から閾値Th4の間の光強度の領域がノイズとして含まれなくなり好ましい。
図8は、図7で示した閾値処理を説明するフローチャートであり、図3に対応する図である。図9は、本字実施形態の画像表示システムによるマスクパターン作成の模式図である。
まず制御装置9では、第1実施形態と同様にステップS1にて可視画像を取得し(図9(A))、ステップS2からステップS4を行ってIR赤外画像の差分画像を作成して(図9(B))、閾値Th1を用いて第1の閾値処理を行い第1のマスクデータを作成する(ステップS51、図9(C))。
同時に、可視画像に対して閾値Th2を用いた閾値処置を行い、可視画像における低輝度領域抽出用マスクを作成する(ステップS52)。そして、作成した抽出用マスクを用いてIR画像の差分画像から可視画像における低輝度領域のみを抽出する(ステップS53,図9(D))。
次いで、低輝度領域のみを抽出したIR画像の差分画像に対し、閾値Th3を用いた閾値処理を行い第2のマスクデータを作成する(ステップS54,図9(E))。そして、第1のマスクデータと第2のマスクデータとを合成し、図5(E)に対応する元マスクパターンを合成する(ステップS55,図9(F))。
その後は、第1実施形態と同様に、ステップS6において元マスクパターンを空間変換処理してマスクパターンとした後、ステップS7において可視画像とマスクパターンとを合成し、ステップS8において画像処理部13から出力する。
このような構成の画像処理システムにおいては、第1実施形態の効果に加え、複数の閾値を設定して閾値処理を行うことにより、赤外線を吸収しやすいために赤外線の反射光量が少ない領域であっても良好に抽出したマスクパターンを作成することができる。そのため、精度良く抽出対象の抽出を行うことが可能なマスクパターンを作成し、確実かつ簡素な方法で抽出対象が抽出され、良好に背景部分が消去された合成画像を作成することができる。
[第3実施形態]
以下、本発明の第3実施形態について、図10を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、可視撮像手段、赤外撮像手段の具体的構成が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、撮像手段に係わる部分のみを説明する。
図10は本実施形態の赤外・可視CCD素子を示す図であって、図10(A)は断面図、図10(B)は拡大平面図である。
以下、本発明の第3実施形態について、図10を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、可視撮像手段、赤外撮像手段の具体的構成が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、撮像手段に係わる部分のみを説明する。
図10は本実施形態の赤外・可視CCD素子を示す図であって、図10(A)は断面図、図10(B)は拡大平面図である。
第1実施形態では、赤外撮像手段、可視撮像手段として個別の赤外CCDカメラ、可視CCDカメラを用いた。これに対し、本実施形態では、赤外撮像手段、可視撮像手段として、赤外撮像機能、可視撮像機能を兼ね備えた赤外・可視CCD素子23を用いている。
赤外・可視CCD素子23は、図10(A)に示すように、撮像素子本体24と、撮像素子本体の光入射側に配置された帯域透過フィルター25と、を備えている。
赤外・可視CCD素子23は、図10(A)に示すように、撮像素子本体24と、撮像素子本体の光入射側に配置された帯域透過フィルター25と、を備えている。
帯域透過フィルター25は、撮像素子本体24の各画素に対応して、赤外光を透過するサブ画素領域と、可視光に含まれる各色光を透過するサブ画素領域と、を有している。本実施形態の場合、帯域透過フィルター25は、図10(B)に示すように、赤外光(IR光)を透過するサブ画素領域IRと、赤色光(R光)を透過するサブ画素領域Rと、緑色光(G光)を透過するサブ画素領域Gと、青色光(B光)を透過するサブ画素領域Bの4個のサブ画素領域を有し、これら4個のサブ画素領域が縦横に2個ずつ配列された形態で1個の画素を構成する。
本実施形態の場合、赤外撮像素子と可視撮像素子とが一体であるため、可視画像と赤外画像は全く同一方向から撮像した画像となる。したがって、赤外画像に基づいて作成されるマスクパターンが可視画像に対してずれることはなく、第1実施形態の空間変換処理が不要となる。空間変換処理を除く、他の画像処理の手順や方法は第1実施形態と共通であるため、説明を省略する。
本実施形態の画像表示システムによれば、空間変換処理が不要であるため、短い処理時間でマスクパターンを作成でき、画像処理全体に要する時間を短縮できる。また、赤外撮像機能と可視撮像機能を兼ね備えた一体の赤外・可視CCD素子23を用いたことで、装置の小型化を図ることができる。
[第4実施形態]
以下、本発明の第4実施形態について、図11を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、可視撮像手段、赤外撮像手段の具体的構成が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、撮像手段に係わる部分のみを説明する。
図11は本実施形態の撮像手段を示す概略構成図である。
以下、本発明の第4実施形態について、図11を用いて説明する。
本実施形態の画像表示システムの基本構成は第1実施形態と同様であり、可視撮像手段、赤外撮像手段の具体的構成が第1実施形態と異なるのみである。
したがって、画像表示システムの基本構成の説明は省略し、撮像手段に係わる部分のみを説明する。
図11は本実施形態の撮像手段を示す概略構成図である。
第1実施形態では、赤外撮像手段、可視撮像手段として個別の赤外CCDカメラ、可視CCDカメラを用いた。また、第3実施形態では、赤外撮像機能、可視撮像機能を兼ね備えた赤外・可視CCD素子を用いた。これに対して、本実施形態では、赤外撮像用に1個、可視撮像用に3個、計4個のCCD素子を用いている。具体的には、図11に示すように、赤外光(IR光)による画像を撮像する赤外CCD素子27(赤外撮像素子)と、赤色光(R光)による画像を撮像する赤色光用CCD素子28(色光撮像素子)と、緑色光(G光)による画像を撮像する緑色光用CCD素子29(色光撮像素子)と、青色光(B光)による画像を撮像する青色光用CCD素子30(色光撮像素子)と、を備えている。
各CCD素子27,28,29,30には同一のカメラレンズ31を経て各画像光が入射する構成となっており、各CCD素子27,28,29,30は、カメラレンズ31の光軸上およびカメラレンズ31の光軸から分岐した光軸上にそれぞれ配置されている。カメラレンズ31の光軸上には、B光を反射し、G光、R光、IR光を透過する第1ダイクロイックミラー32と、G光を反射し、R光、IR光を透過する第2ダイクロイックミラー33と、R光を反射し、IR光を透過する第3ダイクロイックミラー34と、がカメラレンズ31側からこの順に配置されている。
この構成により、カメラレンズ31から入射した画像光のうち、B光が第1ダイクロイックミラー32で反射され、ミラー35を経てB光用CCD素子30に入射される。また、第1ダイクロイックミラー32を透過した光のうち、G光が第2ダイクロイックミラー33で反射され、G光用CCD素子29に入射される。また、第2ダイクロイックミラー33を透過した光のうち、R光が第3ダイクロイックミラー34で反射され、R光用CCD素子28に入射される一方、IR光が第3ダイクロイックミラー34を透過し、IR光用CCD素子27に入射される。
本実施形態の場合、4個のCCD素子27,28,29,30がカメラレンズ31の光軸上およびカメラレンズ31の光軸から分岐した光軸上に配置されているため、可視画像と赤外画像は全く同一方向から撮像した画像となる。したがって、第3実施形態と同様、赤外画像に基づいて作成されるマスクパターンが可視画像に対してずれることはなく、第1実施形態の空間変換処理が不要となる。空間変換処理を除く、他の画像処理の手順や方法は第1実施形態と共通であるため、説明を省略する。
本実施形態の画像表示システムによれば、空間変換処理が不要であるため、短い処理時間でマスクパターンを作成でき、画像処理全体に要する時間を短縮できる。また、赤外画像専用のCCD素子と各色光画像専用のCCD素子を別個に用意すれば良く、各CCD素子の全画素を赤外画像専用もしくは各色光画像専用に用いることができるため、画像の解像度を高めることができる。
なお、本発明の技術範囲は上記実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲において種々の変更を加えることが可能である。例えば第1実施形態では、可視CCDカメラと赤外CCDカメラを異なる光軸上に配置し、空間変換処理を行う例を挙げたが、可視画像とマスクパターンとの多少のずれを許容できる場合には、空間変換処理を必ずしも行なわなくても良い。
また、上記実施形態では、赤外CCDカメラの画像取得周期を可視CCDカメラの画像取得周期の1/2に設定し、可視CCDカメラの1フレーム期間内に第1、第2の赤外画像を取得する構成としたが、赤外CCDカメラの画像取得周期はこれに限定されるものではない。背景が変化する虞が少ない場合には、赤外CCDカメラの画像取得周期を可視CCDカメラの画像取得周期のm倍(m:1以上の整数)に設定し、例えば可視CCDカメラの10フレーム期間内に第1、第2の赤外画像を取得する構成としても良い。その場合、マスクパターンを作成するのに費やせる画像処理時間が長くて良いため、画像処理部の負荷を軽減することができる。
その他、各構成要素の配置、数等の具体的な構成は、上記実施形態に限らず、適宜変更が可能である。
その他、各構成要素の配置、数等の具体的な構成は、上記実施形態に限らず、適宜変更が可能である。
また、上記実施形態では本発明の画像表示システムを例示したが、上記実施形態の画像表示システムから可視CCDカメラ、画像取得部、合成画像作成部を除く構成とすれば、差分画像を作成してこれを抽出画像として出力する本発明の画像抽出装置を実現できる。
この画像抽出装置は上で例示した画像表示システムの他、例えば画像認識システム、検査・計測システム等に利用することもできる。
この画像抽出装置は上で例示した画像表示システムの他、例えば画像認識システム、検査・計測システム等に利用することもできる。
1…画像表示システム、2…画像処理装置、3…プロジェクター(表示装置)、6…赤外LED(赤外光源)、7,27…赤外CCDカメラ(赤外撮像手段)、8…可視CCDカメラ(可視撮像手段)、13…画像処理部(画像処理手段)、17…差分画像作成部、18…マスクパターン作成部、19…合成画像作成部、20…閾値処理部、21…空間変換処理部、23…赤外・可視CCD素子(赤外・可視撮像素子)、25…帯域透過フィルター、27…赤外光用CCD素子(赤外撮像素子)、28…赤色光用CCD素子(色光撮像素子)、29…緑色光用CCD素子(色光撮像素子)、30…青色光用CCD素子(色光撮像素子)、AR2,AR4…低反射領域、AR3…高反射領域、Th1…第1の閾値、Th2…第2の閾値、Th3…第3の閾値
Claims (12)
- 抽出対象に向けて赤外光を照射する赤外光源と、
赤外光による画像を撮像する赤外撮像手段と、
可視光による画像を撮像する可視撮像手段と、
前記赤外撮像手段が取得した赤外画像と前記可視撮像手段が取得した可視画像とに基づいて画像処理を行う画像処理手段と、を備え、
前記画像処理手段が、前記赤外光源から前記抽出対象に向けて前記赤外光が照射されている期間に取得した赤外光照射時赤外画像と、前記赤外光が照射されていない期間に取得した赤外光非照射時赤外画像と、の差分を取ることにより差分画像を作成する差分画像作成部と、前記差分画像について閾値処理を施すことによりマスクパターンを作成するマスクパターン作成部と、前記可視画像と前記マスクパターンとを合成することにより抽出対象画像を含む合成画像を作成する合成画像作成部と、を備えたことを特徴とする画像処理装置。 - 前記マスクパターン作成部は、前記差分画像について、第1の閾値以上の画像領域を抽出する閾値処理を施し、第1マスクを作成する処理と、
前記赤外画像について、第2の閾値以下の画像領域を抽出する閾値処理を施して抽出マスクを作成し、前記抽出マスクと前記差分画像とを合成して前記差分画像から抽出差分画像を作成する処理と、
前記抽出差分画像について、前記第1の閾値より小さい第3の閾値以上の画像領域を抽出する閾値処理を施し、第2マスクを作成する処理と、
前記第1マスクと前記第2マスクとにより前記マスクパターンを作成する処理と、を行うことを特徴とする請求項1に記載の画像処理装置。 - 前記マスクパターン作成部は、前記差分画像について、第1の閾値以上の画像領域を抽出する閾値処理を施し、第1マスクを作成する処理と、
前記可視画像について、前記可視光の輝度における第2の閾値以下の画像領域を抽出する閾値処理を施して抽出マスクを作成し、前記抽出マスクと前記差分画像とを合成して前記差分画像から抽出差分画像を作成する処理と、
前記抽出差分画像について、前記第1の閾値より小さい第3の閾値以上の画像領域を抽出する閾値処理を施し、第2マスクを作成する処理と、
前記第1マスクと前記第2マスクとにより前記マスクパターンを作成する処理と、を行うことを特徴とする請求項1に記載の画像処理装置。 - 前記抽出対象は人物像であって、前記第2マスクとして抽出される領域は前記人物像の毛髪の領域であり、
前記第3の閾値は、前記可視画像または前記赤外画像における前記毛髪の領域を抽出できるように設定されることを特徴とする請求項2または3に記載の画像処理装置。 - 前記赤外撮像手段の画像取得周期が前記可視撮像手段の画像取得周期の1/n倍(n:2以上の整数)であり、前記可視撮像手段の1回の画像取得周期の中で前記赤外光源をn回点灯または消灯させることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- 前記赤外撮像手段および前記可視撮像手段が、互いに異なる光軸上に配置された赤外撮像素子と可視撮像素子とで構成されていることを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
- 前記マスクパターン作成部が、前記閾値処理を行う閾値処理部と、前記閾値処理により得られた前記マスクパターンを、前記可視画像上での所望の抽出対象領域外の部分と重なるように空間変換処理する空間変換処理部と、を備えたことを特徴とする請求項6に記載の画像処理装置。
- 前記赤外撮像手段および前記可視撮像手段が赤外・可視撮像素子で構成され、
前記赤外・可視撮像素子が、赤外画像を撮像するための赤外画像撮像用画素と、可視画像を撮像するための複数の画素からなる複数の可視画像撮像用画素と、を有することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記赤外・可視撮像素子が、赤外光を透過する画素領域と可視光に含まれる各色光を透過する画素領域とを含む帯域透過フィルターを備えたことを特徴とする請求項8に記載の画像処理装置。
- 前記赤外撮像手段が赤外撮像素子で構成されるとともに、前記可視撮像素子が、可視光に含まれる色光毎の画像を取得する複数の色光撮像素子で構成され、
前記赤外撮像素子と前記複数の色光撮像素子とが、同一の光軸から分岐した光軸上にそれぞれ配置されていることを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 請求項1ないし10のいずれか一項に記載の画像処理装置と、前記画像処理装置によって得られた抽出画像を表示する表示装置と、を備えたことを特徴とする画像表示システム。
- 抽出対象に向けて赤外光を照射する赤外光源と、
赤外光による画像を撮像する赤外撮像手段と、
前記赤外撮像手段が取得した赤外画像に基づいて画像処理を行う画像処理手段と、を備え、
前記画像処理手段が、前記赤外光源から前記抽出対象に向けて前記赤外光が照射された期間に取得した赤外光照射時赤外画像と、前記赤外光が照射されていない期間に取得した赤外光非照射時赤外画像と、の差分を取ることにより、差分画像からなる抽出画像を作成することを特徴とする画像抽出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009262802A JP2011010258A (ja) | 2009-05-27 | 2009-11-18 | 画像処理装置、画像表示システム、画像抽出装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009127510 | 2009-05-27 | ||
JP2009262802A JP2011010258A (ja) | 2009-05-27 | 2009-11-18 | 画像処理装置、画像表示システム、画像抽出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011010258A true JP2011010258A (ja) | 2011-01-13 |
Family
ID=43566357
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009262802A Pending JP2011010258A (ja) | 2009-05-27 | 2009-11-18 | 画像処理装置、画像表示システム、画像抽出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011010258A (ja) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015510169A (ja) * | 2012-01-17 | 2015-04-02 | リープ モーション, インコーポレーテッドLeap Motion, Inc. | 物体検出のためのコントラストの改善及び光学画像化による特徴評価 |
US9285893B2 (en) | 2012-11-08 | 2016-03-15 | Leap Motion, Inc. | Object detection and tracking with variable-field illumination devices |
US9436998B2 (en) | 2012-01-17 | 2016-09-06 | Leap Motion, Inc. | Systems and methods of constructing three-dimensional (3D) model of an object using image cross-sections |
US9465461B2 (en) | 2013-01-08 | 2016-10-11 | Leap Motion, Inc. | Object detection and tracking with audio and optical signals |
US9495613B2 (en) | 2012-01-17 | 2016-11-15 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging using formed difference images |
US9613262B2 (en) | 2014-01-15 | 2017-04-04 | Leap Motion, Inc. | Object detection and tracking for providing a virtual device experience |
US9679215B2 (en) | 2012-01-17 | 2017-06-13 | Leap Motion, Inc. | Systems and methods for machine control |
JP2017157127A (ja) * | 2016-03-04 | 2017-09-07 | Necソリューションイノベータ株式会社 | 捜索支援装置、捜索支援方法、及びプログラム |
KR20180134014A (ko) * | 2017-06-08 | 2018-12-18 | 한국 한의학 연구원 | 영상 처리 장치 및 방법 |
US10585193B2 (en) | 2013-03-15 | 2020-03-10 | Ultrahaptics IP Two Limited | Determining positional information of an object in space |
US10609285B2 (en) | 2013-01-07 | 2020-03-31 | Ultrahaptics IP Two Limited | Power consumption in motion-capture systems |
US10691219B2 (en) | 2012-01-17 | 2020-06-23 | Ultrahaptics IP Two Limited | Systems and methods for machine control |
US10846942B1 (en) | 2013-08-29 | 2020-11-24 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
US11099653B2 (en) | 2013-04-26 | 2021-08-24 | Ultrahaptics IP Two Limited | Machine responsiveness to dynamic user movements and gestures |
US20210327069A1 (en) * | 2018-08-03 | 2021-10-21 | Nippon Telegraph And Telephone Corporation | Image processing device, image processing method, and image processing program |
US11353962B2 (en) | 2013-01-15 | 2022-06-07 | Ultrahaptics IP Two Limited | Free-space user interface and control using virtual constructs |
CN116437198A (zh) * | 2021-12-29 | 2023-07-14 | 荣耀终端有限公司 | 图像处理方法与电子设备 |
US11720180B2 (en) | 2012-01-17 | 2023-08-08 | Ultrahaptics IP Two Limited | Systems and methods for machine control |
US11740705B2 (en) | 2013-01-15 | 2023-08-29 | Ultrahaptics IP Two Limited | Method and system for controlling a machine according to a characteristic of a control object |
US11778159B2 (en) | 2014-08-08 | 2023-10-03 | Ultrahaptics IP Two Limited | Augmented reality with motion sensing |
US11775033B2 (en) | 2013-10-03 | 2023-10-03 | Ultrahaptics IP Two Limited | Enhanced field of view to augment three-dimensional (3D) sensory space for free-space gesture interpretation |
US11868687B2 (en) | 2013-10-31 | 2024-01-09 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
-
2009
- 2009-11-18 JP JP2009262802A patent/JP2011010258A/ja active Pending
Cited By (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10410411B2 (en) | 2012-01-17 | 2019-09-10 | Leap Motion, Inc. | Systems and methods of object shape and position determination in three-dimensional (3D) space |
US9767345B2 (en) | 2012-01-17 | 2017-09-19 | Leap Motion, Inc. | Systems and methods of constructing three-dimensional (3D) model of an object using image cross-sections |
US9436998B2 (en) | 2012-01-17 | 2016-09-06 | Leap Motion, Inc. | Systems and methods of constructing three-dimensional (3D) model of an object using image cross-sections |
US11720180B2 (en) | 2012-01-17 | 2023-08-08 | Ultrahaptics IP Two Limited | Systems and methods for machine control |
JP2016186793A (ja) * | 2012-01-17 | 2016-10-27 | リープ モーション, インコーポレーテッドLeap Motion, Inc. | 物体検出のためのコントラストの改善及び光学画像化による特徴評価 |
US9495613B2 (en) | 2012-01-17 | 2016-11-15 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging using formed difference images |
JP2015510169A (ja) * | 2012-01-17 | 2015-04-02 | リープ モーション, インコーポレーテッドLeap Motion, Inc. | 物体検出のためのコントラストの改善及び光学画像化による特徴評価 |
US10691219B2 (en) | 2012-01-17 | 2020-06-23 | Ultrahaptics IP Two Limited | Systems and methods for machine control |
US9626591B2 (en) | 2012-01-17 | 2017-04-18 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging |
US9652668B2 (en) | 2012-01-17 | 2017-05-16 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US9672441B2 (en) | 2012-01-17 | 2017-06-06 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US9679215B2 (en) | 2012-01-17 | 2017-06-13 | Leap Motion, Inc. | Systems and methods for machine control |
US9697643B2 (en) | 2012-01-17 | 2017-07-04 | Leap Motion, Inc. | Systems and methods of object shape and position determination in three-dimensional (3D) space |
US9741136B2 (en) | 2012-01-17 | 2017-08-22 | Leap Motion, Inc. | Systems and methods of object shape and position determination in three-dimensional (3D) space |
US10699155B2 (en) | 2012-01-17 | 2020-06-30 | Ultrahaptics IP Two Limited | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US11308711B2 (en) | 2012-01-17 | 2022-04-19 | Ultrahaptics IP Two Limited | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US9778752B2 (en) | 2012-01-17 | 2017-10-03 | Leap Motion, Inc. | Systems and methods for machine control |
US9934580B2 (en) | 2012-01-17 | 2018-04-03 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US10366308B2 (en) | 2012-01-17 | 2019-07-30 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging based on differences between images |
US11782516B2 (en) | 2012-01-17 | 2023-10-10 | Ultrahaptics IP Two Limited | Differentiating a detected object from a background using a gaussian brightness falloff pattern |
US10565784B2 (en) | 2012-01-17 | 2020-02-18 | Ultrahaptics IP Two Limited | Systems and methods for authenticating a user according to a hand of the user moving in a three-dimensional (3D) space |
US9285893B2 (en) | 2012-11-08 | 2016-03-15 | Leap Motion, Inc. | Object detection and tracking with variable-field illumination devices |
US10609285B2 (en) | 2013-01-07 | 2020-03-31 | Ultrahaptics IP Two Limited | Power consumption in motion-capture systems |
US10097754B2 (en) | 2013-01-08 | 2018-10-09 | Leap Motion, Inc. | Power consumption in motion-capture systems with audio and optical signals |
US9626015B2 (en) | 2013-01-08 | 2017-04-18 | Leap Motion, Inc. | Power consumption in motion-capture systems with audio and optical signals |
US9465461B2 (en) | 2013-01-08 | 2016-10-11 | Leap Motion, Inc. | Object detection and tracking with audio and optical signals |
US11740705B2 (en) | 2013-01-15 | 2023-08-29 | Ultrahaptics IP Two Limited | Method and system for controlling a machine according to a characteristic of a control object |
US11874970B2 (en) | 2013-01-15 | 2024-01-16 | Ultrahaptics IP Two Limited | Free-space user interface and control using virtual constructs |
US11353962B2 (en) | 2013-01-15 | 2022-06-07 | Ultrahaptics IP Two Limited | Free-space user interface and control using virtual constructs |
US10585193B2 (en) | 2013-03-15 | 2020-03-10 | Ultrahaptics IP Two Limited | Determining positional information of an object in space |
US11693115B2 (en) | 2013-03-15 | 2023-07-04 | Ultrahaptics IP Two Limited | Determining positional information of an object in space |
US11099653B2 (en) | 2013-04-26 | 2021-08-24 | Ultrahaptics IP Two Limited | Machine responsiveness to dynamic user movements and gestures |
US11776208B2 (en) | 2013-08-29 | 2023-10-03 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
US11282273B2 (en) | 2013-08-29 | 2022-03-22 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
US11461966B1 (en) | 2013-08-29 | 2022-10-04 | Ultrahaptics IP Two Limited | Determining spans and span lengths of a control object in a free space gesture control environment |
US10846942B1 (en) | 2013-08-29 | 2020-11-24 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
US11775033B2 (en) | 2013-10-03 | 2023-10-03 | Ultrahaptics IP Two Limited | Enhanced field of view to augment three-dimensional (3D) sensory space for free-space gesture interpretation |
US11868687B2 (en) | 2013-10-31 | 2024-01-09 | Ultrahaptics IP Two Limited | Predictive information for free space gesture control and communication |
US9613262B2 (en) | 2014-01-15 | 2017-04-04 | Leap Motion, Inc. | Object detection and tracking for providing a virtual device experience |
US11778159B2 (en) | 2014-08-08 | 2023-10-03 | Ultrahaptics IP Two Limited | Augmented reality with motion sensing |
JP2017157127A (ja) * | 2016-03-04 | 2017-09-07 | Necソリューションイノベータ株式会社 | 捜索支援装置、捜索支援方法、及びプログラム |
KR20180134014A (ko) * | 2017-06-08 | 2018-12-18 | 한국 한의학 연구원 | 영상 처리 장치 및 방법 |
KR101989225B1 (ko) * | 2017-06-08 | 2019-06-13 | 한국 한의학 연구원 | 영상 처리 장치 및 방법 |
US11881005B2 (en) * | 2018-08-03 | 2024-01-23 | Nippon Telegraph And Telephone Corporation | Image processing device, image processing method, and image processing program |
US20210327069A1 (en) * | 2018-08-03 | 2021-10-21 | Nippon Telegraph And Telephone Corporation | Image processing device, image processing method, and image processing program |
CN116437198A (zh) * | 2021-12-29 | 2023-07-14 | 荣耀终端有限公司 | 图像处理方法与电子设备 |
CN116437198B (zh) * | 2021-12-29 | 2024-04-16 | 荣耀终端有限公司 | 图像处理方法与电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2011010258A (ja) | 画像処理装置、画像表示システム、画像抽出装置 | |
US10605661B2 (en) | Image capturing with filters of overlapping passbands | |
JP7314976B2 (ja) | 撮像装置及び撮像方法 | |
RU2510235C2 (ru) | Система визуализации для получения комбинированного изображения из полноцветного изображения в отраженном свете и изображение в ближней инфракрасной области | |
US10048206B2 (en) | Fluorescence viewing device and fluorescence viewing method | |
KR102127100B1 (ko) | 광 부족 환경에서 ycbcr 펄싱된 조명 수법 | |
JP5545016B2 (ja) | 撮像装置 | |
JP4440239B2 (ja) | 距離画像作成方法及び距離画像センサ、及び撮影装置 | |
US9186111B2 (en) | System and method for converting an input signal into an output signal | |
JP2004304718A (ja) | 近接領域画像抽出装置及び近接領域画像抽出方法 | |
JPWO2015104870A1 (ja) | 画像生成装置 | |
KR20160050755A (ko) | 전자 장치 및 그의 홍채 인식 방법 | |
JP2008252173A (ja) | 画像処理システム、画像取得方法及びプログラム | |
JP2011182026A (ja) | 画像処理装置、画像表示システム、画像抽出装置 | |
JPH10210486A (ja) | 画像撮像装置および方法 | |
US11179035B2 (en) | Real-time removal of IR LED reflections from an image | |
JP6462594B2 (ja) | 撮像装置、画像処理装置および画像処理方法 | |
JP6419093B2 (ja) | 撮像装置 | |
JP2009253447A (ja) | 近赤外光/可視光共用の固体撮像素子及び固体撮像装置 | |
KR101945969B1 (ko) | 물체 색상 비의존적 카메라 통신 시스템 및 그 통신 방법 | |
WO2019244247A1 (ja) | 内視鏡装置、内視鏡装置の作動方法及びプログラム | |
JP5861881B2 (ja) | 画像合成装置、画像合成方法、プログラム、及び、画像合成システム | |
CN214231268U (zh) | 内窥镜成像装置和电子设备 | |
JP2015056674A (ja) | カメラ | |
JP6044702B2 (ja) | 画像処理装置、画像処理方法、プログラム、及び、画像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20120201 |