JP7310030B2 - 撮像におけるピクセル強度値の決定 - Google Patents

撮像におけるピクセル強度値の決定 Download PDF

Info

Publication number
JP7310030B2
JP7310030B2 JP2022549982A JP2022549982A JP7310030B2 JP 7310030 B2 JP7310030 B2 JP 7310030B2 JP 2022549982 A JP2022549982 A JP 2022549982A JP 2022549982 A JP2022549982 A JP 2022549982A JP 7310030 B2 JP7310030 B2 JP 7310030B2
Authority
JP
Japan
Prior art keywords
images
image
sequence
imaging device
intensity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022549982A
Other languages
English (en)
Other versions
JP2023506590A (ja
Inventor
マシヴァナン ダモダラン
フェルハヘン リエコ
ヤニク パルリアン ジュリアン ブールキン
ジョナサン アランブラ パレロ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2023506590A publication Critical patent/JP2023506590A/ja
Application granted granted Critical
Publication of JP7310030B2 publication Critical patent/JP7310030B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、特定の設定における撮像において用いる方法、装置及び有形の機械可読媒体に関する。
非影響測定及びモニタリングの分野における関心トピックは、パーソナルケア及び健康アプリケーションのための皮膚検知に関する。皮膚の定量化と、検出するには小さすぎ、気付くには微かすぎ、又はフォローするには遅すぎる情報をユーザに提供することができる、皮膚における特徴のモニタリングとを請け合う皮膚検知システムが開発されている。ユーザに受け入れられる結果をもたらすために、かかる皮膚検知システムは、皮膚検知を行う場合に感度及び特異度を提供する必要がある。かかる皮膚検知システムによって測られた測定値が概ね正しく信頼できると分かると、ユーザはこれらの皮膚検知システムに信頼を寄せる。
撮像系の皮膚検知システムは、周囲照明における変化等の制御困難なパラメータによって影響を及ぼされる可能性がある情報を決定する必要がある。例えば、ユーザの自宅における等、特定の制御されていない環境は、定義されていない及び/又は変化する可能性がある周囲照明を特徴とする。そのような制御されていない環境は、ユーザの皮膚の誤った測定を引き起こす可能性があり、これにより、ユーザにとって受け入れられない又は信頼できない結果が生じかねない。幾つかの撮像系の皮膚検知システムにおいて用いられる幾つかのカメラ(スマートフォンカメラ等)の撮像性能は変わりやすく、そのため、撮像データは予測不可能であるか又は信頼できない。
皮膚以外の表面から情報を取得する他の撮像系の検知システムの性能もまた、特定の制御されていない環境によって悪影響を及ぼされる可能性がある。例えば、制御されてない環境において特定のアプリケーションのためにオブジェクトの画像を取得することを望んでいるユーザは、画像がどのように知覚されるか又は後にどのように処理されるかに影響を及ぼす可能性がある容認できない照明変化を画像が特徴とし得ることが分かるであろう。
本明細書において記載される態様又は実施形態は、特定の設定における撮像を改善することに関する。本明細書において記載される態様又は実施形態は、制御されていない環境における撮像に関連付けられる1つ又は複数の課題を排除する。
第1の態様において、方法が記載される。方法は、コンピュータ実施方法である。方法は、周囲光と時間的な正弦波強度変調を有する照明とにより照らされた対象の画像のシーケンスからのデータにアクセスするステップを有する。画像のシーケンスは、撮像装置によって得られる。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。方法は、画像のシーケンスの少なくとも1つの画像に見られる周囲光のレベルに比して低減したレベルの周囲光が対象の修正画像に見られるよう、該修正画像を生成するために、画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定するステップをさらに有する。
第2の態様において、方法が記載される。方法は、コンピュータ実施方法である。方法は、時間的な正弦波強度変調を有する照明により照らされた対象の(例えば撮像装置によって得られた)画像のシーケンスからのデータにアクセスするステップを有する。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。方法は、画像における周囲光変化を低減させるために、画像のシーケンスの各画像における空間的強度変調パターンに基づいて、対象の画像についての推定強度分布を決定するステップをさらに有する。
第1又は第2の態様に関する特定の実施形態を以下で記載する。
幾つかの実施形態において、一組の修正されたピクセル強度値は、周囲光のレベル及び空間的強度変調パターンの変調度が双方とも修正画像において画像のシーケンスの少なくとも1つの画像に比して低減されるように、決定される。
幾つかの実施形態において、一組の修正されたピクセル強度値を決定するステップは、該一組の各ピクセルについて、画像のシーケンスの各画像からのピクセルの測定されたピクセル強度値の特定の組み合わせを求めることを有する。特定の組み合わせは、照明の正弦波強度変調に基づいて決定される。
幾つかの実施形態において、修正画像について一組の修正されたピクセル強度値又は推定強度分布を決定するステップは、画像のシーケンスからの3枚又は4枚の連続画像に基づいている。
幾つかの実施形態において、画像について一組の修正されたピクセル強度値又は推定強度分布を決定するステップは、画像のシーケンスからの3枚の連続画像に基づいており、画像のシーケンスにおける第1及び第4の連続画像について空間的強度変調パターンは同じである。
幾つかの実施形態において、正弦波強度変調の周波数及び撮像装置のフレームレートと、正弦波強度変調と撮像装置のフレーム取得タイミングとの位相差と、のうちの少なくとも一方は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるようなものである。
幾つかの実施形態において、正弦強度変調の周波数は、撮像装置のフレームレートの重積分ではない。
幾つかの実施形態において、撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように、シーケンスの各画像内に画像の第1の空間部分を画像の第2の異なる空間部分とは異なる時点で得るように構成される。
幾つかの実施形態において、方法は、照明源に、時間的な正弦波強度変調を有する照明を提供させるステップを有する。
幾つかの実施形態において、修正画像についての一組の修正されたピクセル強度値又は推定強度分布Aは、以下:
Figure 0007310030000001
によって示され、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す。
幾つかの実施形態において、方法は、画像のシーケンスにおける空間的強度変調パターンの位相進行φTを、以下:
Figure 0007310030000002
に従って、計算するステップであって、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す、計算するステップを有する。
幾つかの実施形態において、方法は、画像のシーケンスからのデータにアクセスするステップ及び一組の修正されたピクセル強度値又は推定強度分布を決定するステップの前に、撮像装置の非線形応答を補償するステップを有する。撮像装置の非線形応答は、撮像装置によって取得されたオブジェクトの一組の画像からサンプリングされたカーネルの平均強度の表示を得ることと、表示に基づいて撮像装置の非線形応答を決定することと、によって決定される。
幾つかの実施形態において、方法は、照明源に、照明機能に従って該照明源を変調することによってオブジェクトを照明させるステップを有する。照明機能は、一組の画像からサンプリングされたカーネルの平均強度の表示を得つつ、特定の時間間隔にわたって該照明機能の強度を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行うように構成される。
幾つかの実施形態において、方法は、撮像装置に、画像取得機能に従って一組の画像を取得させるステップを有する。画像取得機能は、一組の画像からサンプリングされたカーネルの平均強度の表示を得つつ、一組の画像の各後続の画像についての露光時間を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行うように構成される。
第3の態様において、有形の機械可読媒体が記載される。有形の機械可読媒体は、少なくとも1つのプロセッサによって実行されると該少なくとも1つのプロセッサに本明細書に記載された第1の態様又は任意の他の組み合わせによる方法を実施させる命令を記憶する。
第4の対応において、装置が記載される。装置は、処理回路を備える。処理回路は、アクセスモジュール及び決定モジュールを含む。アクセスモジュールは、周囲光と時間的な正弦波強度変調を有する照明とにより照らされた対象の画像のシーケンスからのデータにアクセスするように構成される。画像のシーケンスは、撮像装置によって得られる。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。決定モジュールは、画像のシーケンスの少なくとも1つの画像に見られる周囲光のレベルに比して低減したレベルの周囲光が対象の修正画像に見られるよう、該修正画像を生成するために、画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定するように構成される。
第5の態様において、装置が記載される。装置は、処理回路を備える。処理回路は、アクセスモジュールを含む。アクセスモジュールは、時間的な正弦波強度変調を有する照明により照らされた対象の(例えば撮像装置によって得られた)画像のシーケンスからのデータにアクセスするように構成される。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。処理回路は、決定モジュールをさらに含む。決定モジュールは、画像における周囲光変化を低減させるために、画像のシーケンスの各画像における空間的強度変調パターンに基づいて、対象の画像についての推定強度分布を決定するように構成される。
第4又は第5の態様に関する特定の実施形態を以下に記載する。
幾つかの実施形態において、装置は、照明を提供する照明源をさらに備える。
幾つかの実施形態において、装置は、撮像装置をさらに備える。
本発明のこれら及び他の態様は、以下に記載される実施形態から明らかとなるとともにその実施形態を参照しながら説明される。
次に、本発明の例示的な実施形態を、単に例として、添付の図面を参照しながら記載する。
一実施形態による、特定の設定における撮像を改善する方法を示す図である。 一実施形態による、特定の設定における撮像を改善するシステムの概略図である。 一実施形態による、特定の設定における撮像を改善する手順の概略図である。 一実施形態による、特定の設定における撮像を改善する手順の概略図である。 一実施形態による、特定の設定における撮像を改善する手順の概略図である。 一実施形態による、特定の設定における撮像を改善する方法を示す図である。 一実施形態による、特定の設定における撮像を改善する機械可読媒体の概略図である。 一実施形態による、特定の設定における撮像を改善する装置の概略図である。
図1は、特定の設定における撮像を改善する方法100(例えば、コンピュータ実施方法)を示す。例えば、撮像は、照明/周囲光が定義されていない及び/又は変化する可能性がある、制御されていない環境における等、特定の設定によって影響を及ぼされ得る。以下でより詳細に記載されるように、本明細書において記載される特定の方法及び装置は、制御されていない環境において対象を撮像する場合に、定義されていない及び/又は変化する可能性があるいずれもの照明/周囲光の影響を低減、該照明/周囲光を補償又は補正する。
方法100は、ブロック102において、対象の画像のシーケンスからのデータにアクセスするステップを有する。画像のシーケンスは撮像装置によって得られる。対象は、周囲光と時間的な正弦波強度変調を有する照明とにより照らされる。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。
撮像装置は、対象が照明により照らされている(及び周囲光によって照らされている)間、(例えば或る時間期間にわたって継続的に)画像のシーケンスを得る。幾つかの実施形態において、データは、(例えば、撮像装置の動作時に)撮像装置からデータを直接得ることによってアクセスされてもよい。幾つかの実施形態において、データは、データを記憶するメモリにアクセスすることによってアクセスされてもよい(例えば、データは、撮像装置によって得られた後、メモリに記憶されてもよい)。
シーケンスにおける各画像は、撮像装置によって取得された個々のフレームに対応する。したがって、撮像装置のフレームレートは、或る時間期間にわたって撮像装置によって得られるフレーム/画像の数に関係する。
時間的な正弦波強度変調とは、対象が、経時的に正弦波的に変化する強度を有する照明により照らされることを意味する。換言すると、照明は、強度変化が正弦波パターンを辿るように変調される。
正弦波強度変調は、変調の周波数(例えば、正弦波パターンの周波数)に関連付けられる。以下でより詳細に説明されるように、この周波数は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるようなものである。
方法100は、ブロック104において、画像のシーケンスの少なくも1つの画像に見られる周囲光のレベルに比して低減したレベルの周囲光が対象の修正画像に見られるよう、該修正画像を生成するために、画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定するステップを含む。換言すると、所定の組の修正されたピクセル強度値は、画像(すなわち「修正画像」)における周囲光変化を低減させるために、対象の画像についての推定強度分布を示す。この決定は、シーケンスの各画像における空間的強度変調パターン(又は対応する「一組の測定されたピクセル強度値」)に基づいている。
本明細書において言及されるように、用語「推定強度分布」とは、「一組の修正されたピクセル強度値」を指す。用語「空間的強度変調パターン」とは、対応する「一組の測定されたピクセル強度値」を指す。
推定強度分布とは、画像に見られるいかなる周囲光変化も考慮する画像についての強度分布を指す。例えば、周囲光が、対象の特定の部分が対象の別の部分についての周囲光よりも明るい周囲光によって照らされるようなものである場合、この周囲光変化は、画像において低減、補償、又は他の場合では補正される。
上記に挙げた例において、推定強度分布は、周囲光変化に起因する、対象のより明るい部分について、対象のこの部分に対応するピクセル強度値が低減される(例えば、そのため、「補正」画像はこの部分が明るく見えない)ことを示す。同様に、推定強度分布は、周囲光変化に起因する、対象のより暗い部分について、対象のこの部分に対応するピクセル強度値が増加される(例えば、そのため、「補正」画像はこの部分がより明るく見える)ことを示す。他の場合では、周囲光変化を特徴とする部分の全てについてピクセル値を調整するのではなく、画像の複数の部分のうちの1つの部分についてピクセル値が調整されてもよい。本明細書に記載される特定の実施形態は、推定強度分布が周囲光変化を低減させる様々な考えられ得るやり方を示す。
場合によっては、推定強度分布が決定される画像は、データを提供する画像のシーケンスのうちの1つの画像であってもよい。場合によっては、画像は、画像のシーケンスとは異なる(例えば後続の)画像であってもよい。
幾つかの実施形態において、その時点での設定における周囲光変化が特定の画像に及ぼす影響を減らすために、その画像についての推定強度分布が計算される。換言すると、設定における周囲光変化を考慮する(例えば、その影響を減らす)特定の画像についてピクセル強度値が計算される。
幾つかの実施形態において、一組の修正されたピクセル強度値は、周囲光のレベル及び空間的強度変調パターンの変調度が双方とも修正画像において画像のシーケンスのうちの少なくとも1つの画像に比して低減されるように決定される。
幾つかの実施形態において、変調度は、空間的強度変調パターンを含む上記シーケンスの画像における測定された最大ピクセル強度値と測定された最小ピクセル強度値との間の差を示す。例えば、空間的強度変調パターンは、正弦波空間的変調パターンに対応する。修正画像において、空間的強度変調パターンの変調度は、(例えば適用された)照明が修正画像にわたって空間的に均一に分布されるように見えると同時に見かけの周囲光が低減されるように低減又は排除される。したがって、幾つかの実施形態において、修正画像に見られる照明は周囲照明ではなく照明によるものである(又は少なくとも照明は周囲照明に対して支配的である)。
幾つかの実施形態において、一組の修正されたピクセル強度値を決定するステップは、一組の各ピクセルについて、画像のシーケンスの各画像からのピクセルの測定されたピクセル強度値の特定の組み合わせを求めることを有する。特定の組み合わせは、照明の正弦波強度変調に基づいて決定される。
幾つかの実施形態において、特定の組み合わせを決定するために照明の正弦波(時間的)強度変調特性が活用される。例えば、照明の正弦波(時間的)強度変調特性により、「画像のシーケンスからの測定されたピクセル強度値の特定の組み合わせ」を決定することができ、この特定の組み合わせは、修正画像に見られる低減したレベルの周囲光に対応する一組の修正されたピクセル値を生成し、同時にまた、画像のシーケンスに見られる(空間的)強度変調パターンの「変調度」(すなわち、照明の正弦波(時間的)強度変調特性とローリングシャッタモードで動作している等の撮像装置の構成とに起因する)を低減又は排除する。特定の組み合わせの一例を以下に挙げる。
幾つかの実施形態において、正弦波強度変調の周波数及び撮像装置のフレームレートは、異なる空間的強度変調パターンがシーケンスの連続画像に見られるようなものである。例えば、正弦強度変調の周波数は、撮像装置のフレームレートの重積分ではない。
幾つかの実施形態において、正弦波強度変調と撮像装置のフレーム取得タイミングとの位相差は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるようなものである。
上記2つの実施形態の組み合わせが、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように実施されてもよい。
上述したように、撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。これに関して、幾つかの実施形態において、撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように、シーケンスの各画像内に画像の第1の空間部分を画像の第2の異なる空間部分とは異なる時点で得るように構成される。
正弦波強度変調による、特定の時点で提供される照明のレベルに応じて、画像の種々の異なる空間部分は種々の異なる強度レベルを示す。換言すると、照明のレベルが変化するにつれ、特定の時点で撮像データを収集する、撮像装置の空間部分は、その特定の時点での照明レベルに対応する撮像データを収集する。例えば、変調された照明レベルが、特定の時点で最小である場合、その特定の時点で撮像データを収集した、画像の空間部分は、暗い。しかしながら、変調された照明レベルが、異なる特定の時点で最大である場合、その異なる特定の時点で撮像データを収集した、画像の空間部分は、比較的明るい。
幾つかの実施形態において、撮像装置は、ローリングシャッタモードで動作するように構成される。ローリングシャッタモードにおいて、画像の種々の異なる空間部分は、単一フレーム内で種々の異なる時点でサンプリングされる。
ローリングシャッタモードの一例は、撮像装置センサのピクセルからのデータが順次のピクセルラインで取得される画像取得方法を示す(場合によっては、複数のピクセルラインがセンサにわたっていつでも走査されてもよい)。例えば、データは、撮像装置センサにわたって縦又は横に走査しながら撮像装置センサの各ピクセル行/列からピクセル値を取得することによって得られる。したがって、ピクセルデータは、撮像装置センサのピクセルの全てから同時には得られない。そうではなく、同じフレーム内の種々の異なるピクセル行/列からのピクセルデータ間に時間遅延がある。撮像される対象が特定の速さで動いている(又は他の場合では画像が変化している)場合、撮像装置のフレームレートに応じて、ローリングシャッタモードは、画像内の「ローリングシャッタ効果」と呼ばれるものを生じさせる。
例えば、ローリングシャッタモードと照明の正弦波強度変調との組み合わせ効果は、シーケンスの各画像に見られる空間的強度変調パターンを生じさせる。したがって、照明強度が時間的に変調されるにつれ、撮像装置センサにおける所与の位置にあるピクセルは、所与の時点で対応する(すなわち、周囲光及び変調された照明からの)照明レベルを検出する。撮像装置によってキャプチャされた単一画像(フレーム)内に、(撮像装置センサの特定の位置における)ピクセルに起因して照明の変調が見られ、これらピクセルは、(例えば、ローリングシャッタモードに起因して)特定の時点で強度値を記録し、その時点における検出された照明レベルは、照明の変調に応じて決まる。例えば、(変調に起因する)ピーク照明レベルがフレーム内で時間t1において生じる場合、その時間t1においてその読み取りをもたらすピクセルは、フレーム内で別の時間t2において(撮像装置センサにおける種々の異なる空間位置における)ピクセルよりも大きい強度値を記録する(例えば、ここでは、時間t2は、照明レベルが変調に起因してその最も低いレベルにあるときを示す)。この効果の結果、画像のそれぞれに空間的強度変調パターンが見られる。以下でより詳細に説明されるように、画像のシーケンスに見られる空間的強度変調パターンの差は、推定強度分布を決定するのに利用される。
幾つかの例において、本明細書に記載される特定の方法及び装置は、色、テクスチャ及び/又は任意の他の表面特徴等の特定の表面特徴の厳密及び/又は正確な測定を容易にする。例えば、対象がヒト(又は任意の動物)であり、撮像される表面がその皮膚(例えば顔の皮膚)である場合、本明細書に記載される特定の方法及び装置は、(周囲光が制御されていない及び/又は変化する場合等の)特定の設定における撮像を改善する。特定のアプリケーションのための関心であり得る、皮膚の表面特徴は、例えば、皮膚の色、皮膚の健康、皮膚のテクスチャ、及び/又は、関心であり得る、皮膚の任意の他の特徴を含む。肌の撮像は、例えば、パーソナルケア及び健康アプリケーションのための皮膚検知等の特定のアプリケーションのために、皮膚特徴の特性評価、及び/又は、経時的に皮膚をトラッキング/モニタリングすることを容易にする。
図2は、特定の設定における撮像を改善するシステム200の概略図である。システム200は、本明細書に記載される特定の方法(例えば、方法100)を実施する。この実施形態において、対象202は、制御されていない及び/又は変化する可能性がある周囲光がある設定にいる。
システム200は、対象202の画像(例えば、画像のシーケンス)を得る撮像装置204を備える。
システム200は、スマートフォンフラッシュ、又は、正弦波強度変調を有する照明を提供することが可能な他のデバイス等の照明源206をさらに備える。例えば、コントローラ(例えば、照明源206自体のコントローラ又は外部コントローラ)が、経時的に正弦波変調に従って、照明源206に供給される電力(例えば、電圧及び/又は電流)を変化させる。
システム200は、特定の機能性を実施する制御モジュール208をさらに備える。幾つかの実施形態において、制御モジュール208は、撮像装置204を制御する(例えば、撮像装置204に画像を得させ、それら画像を撮像装置204から受信し、及び/又は、それら画像に対応するデータを制御モジュール208のメモリ又は制御モジュール208にアクセス可能なメモリに記憶する)。幾つかの実施形態において、制御モジュール208は、照明源206を制御する(例えば、照明源206に該照明源が提供する照明の強度を変調させ、及び/又は、照明源206に供給された電力を制御する)。幾つかの実施形態において、制御モジュール208は、本明細書に記載される特定の方法を実施する。例えば、制御モジュール208は、図1の方法100を実施する。上記の実施形態の任意の組み合わせが制御モジュール208によって実施される。
幾つかの実施形態において、撮像装置204、照明源206及び制御モジュール208は、同じデバイス(例えば、スマートフォン、タブレット等のような「スマート」デバイス)によって実施される。
幾つかの実施形態において、撮像装置204及び照明源206は、同じデバイス(例えば、スマートフォン、タブレット等のような「スマート」デバイス)によって実施され、その一方、制御モジュール208は、異なるデバイス又はサービス(例えば、ユーザコンピュータ、専用処理装置、サーバ、クラウドベースのサービス、又は他のタイプの処理装置)によって実施される。
幾つかの実施形態において、撮像装置204及び照明源206は、異なるデバイスによって実施される(例えば、撮像装置204及び照明源206のうちの一方がスマートデバイスによって実施され、その一方、撮像装置204及び照明源206のうちの他方が別個のデバイス(例えば、専用デバイス)によって実施される)。かかる実施形態において、制御モジュール208は、別の別個のデバイス(例えば、ユーザコンピュータ、専用処理装置、サーバ、クラウドベースのサービス、又は他のタイプの処理装置)によって実施されるか、又は、制御モジュール208は、撮像装置204及び照明源206のうちの一方によって実施される。
スマートデバイスの場合、内蔵カメラが撮像装置204の機能性を提供し、内蔵フラッシュが照明源206の機能性を提供し、及び/又は、内蔵処理回路が制御モジュール208の機能性を提供する。
図3は、一実施形態による、特定の設定における撮像を改善する手順300を示す。手順300は、上述した空間的強度変調パターンを特徴とする画像302(この例では4枚の連続画像)のシーケンスからのデータにアクセスするステップを有する。画像302における対象は顔であるが、その表面特徴が設定における関心である任意の他のオブジェクトとすることができる。図3に見ることができるように、各連続画像は異なる空間的強度変調パターンを有する(この実施形態において、これは、ローリングシャッタモードで動作している撮像装置と正弦波強度変調された照明とに起因する)。この情報に基づいて、設定における周囲光変化の影響を低減、該周囲光変化を補償又は他の場合では補正する、画像についての強度分布を決定するために、画像における周囲光変化を決定することができる。
撮像装置センサの座標x1,y1におけるピクセルについてのピクセル強度値a(x1,y1)が、画像302のシーケンス(すなわち「ピクセル列」)にわたって追跡されて、画像(フレーム)数の関数としてこのピクセルにおける強度値を決定する。図3においてグラフ304によって示されているように、選択されたピクセルa(x1,y1)は、画像302(30フレームがグラフ304によって示されている)のシーケンスにわたって相対的に繰り返し可能なやり方でその強度値(すなわち、ピクセルにおける「変調された振幅」)に関して変化する。以下でより詳細に説明されるように、「補正」振幅(すなわち、「強度値」)は、グラフ304におけるデータに基づいて検索される。したがって、画像302のシーケンスにわたるピクセルの全てについてのピクセル強度値を追跡することによって、このデータから「補正」画像306を再構成することができる(すなわち、画像306はここで、この周囲光変化の影響を低減、該周囲光変化を補償又は他の場合には補正するためにその設定における周囲光変化を考慮する)。
調波時間変調の畳み込み特性に起因して、例えばローリングシャッタモードで動作している撮像装置と照明の正弦波変調との組み合わせの結果、得られる画像のシーケンスの各個々の「ピクセルデータストリーム」もまた、得られる画像内に正弦波空間変調を厳密に示す。これらの条件下で、設定における対象の画像についての強度分布を決定することを必要とされる画像は比較的少ないことが見出されている。
例えば、「ピクセル列」における各ピクセルが時間的に等間隔である場合、時間変調の振幅は、4枚の連続画像で検索されることができる。したがって、幾つかの実施形態において、画像についての推定強度分布を決定することは、画像のシーケンスからの4枚の連続画像に基づいている。
別の例において、照明の正弦波変調と撮像装置のフレームレートとの位相関係が、シーケンスにおける第4の画像毎に、シーケンスにおける第1の画像の空間的強度変調パターンと同じ空間的強度変調パターンを有するようなものであり、その場合、時間変調の振幅が3枚の連続画像で検索されることができる。したがって、幾つかの実施形態において、画像についての推定強度分布を決定することは、画像のシーケンスからの3枚の連続画像に基づいている。さらに、幾つかの実施形態において、画像についての推定強度分布を決定することは、画像のシーケンスからの3枚の連続画像に基づいており、画像のシーケンスにおける第1及び第4の連続画像について空間的強度変調パターンは同じである。
対象が動いている(例えば、ヒト等の対象が随意運動及び/又は不随意運動に起因して静止していない)シナリオにおいて、この動きの影響は短時間にわたって見かけの周囲光変化を変える。(より多くの画像ではなく)3枚又は4枚の画像を用いることができることにより、この動きの影響が或る程度低減する。4枚の画像が用いられる、毎秒30フレーム(fps)撮像装置について、これら画像は、133ミリ秒にわたって取得される。これは、強度分布の推定の結果に悪影響を及ぼす、対象による随意運動又は不随意運動の機会を最小限にしつつ、画像のシーケンスからデータを収集するのに十分に短いタイムスケールとみなされる。
幾つかの実施形態において、正弦波強度変調の周波数は、撮像装置のフレームレートの2倍を超える。この場合、(例えば、図3に示されているように)シーケンスの各画像に少なくとも2つの強度ピークが見られる。
幾つかの実施形態において、正弦波強度変調の周波数は(例えばちらつきを感じさせない場合)少なくとも70Hzである。これは、正弦波強度変調の周波数が撮像装置のフレームレート(例えば30Hzのフレームレートの場合)の2倍を超える例である。異なるフレームレート(例えば、より速いフレームレート)が撮像装置により可能である場合、正弦波強度変調の周波数は、これに応じて調整される(例えば、撮像装置のフレームレートの少なくとも2倍になるように増加される)。
幾つかの実施形態において、正弦波強度変調の周波数と撮像装置のフレームレートとの別の関係があってもよい。例えば、正弦波強度変調の周波数は、撮像装置のフレームレートが30Hzである場合、約50Hzであってもよい。
強度分布を決定する特定の手順を上述してきた。幾つかの実施形態において、画像についての推定強度分布Aは、以下:
Figure 0007310030000003
によって示され、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す。すなわち、画像における各ピクセル値(x,y)について、画像のシーケンスからのデータを用いることによって、周囲光変化を考慮する画像についての強度分布を決定することができる。この手順は、各新たなフレームが取得されるにつれ、このデータが前の3つのフレームからのデータを用いつつ「A」についての式に入力されるように連続的に実行される。これにより、周囲光変化を考慮する画像の連続した更新が可能となる。
場合によっては、撮像装置による画像取得プロセスの不十分な制御により、特定の想定される挙動がもたらされる可能性がある。例えば、撮像装置のタイミングがそれまで十分に制御されている場合、照明の正弦波変調と画像取得プロセスとを調整することが困難である可能性がある。したがって、画像のシーケンスにおける空間的強度変調パターンの位相進行φTを以下:
Figure 0007310030000004
に従って、計算することができ、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す。この位相進行は、画像における強度分布を決定する場合に考慮される。場合によっては、位相進行は、照明についての正弦波強度変調と撮像装置の画像キャプチャタイミングとの調整を改善するのに用いられてもよい。
(幾つかの非科学的カメラ等の)幾つかの画像装置は、固有の非線形(例えばガンマ)補正(例えば、撮像装置の非線形応答の一例)を有する。この非線形補正は、本明細書に記載される特定の方法を実施する前に特性化されていなければ、撮像装置によって取得された画像を用いて任意の定量的測定を行うように試みる場合に計上される必要がある。撮像装置がガンマ補正を実施する、強度分布を決定するために、場合によっては、ガンマ「逆補正」(すなわち、逆ガンマ補正)が有用である。シナリオによっては、特定の撮像装置によって実施されるガンマ補正は、(例えば、製造業者がこの情報を公開する場合は)撮像装置を用いていかなる特定の測定も行うことなく本明細書に記載される方法を実施するユーザが利用可能であってもよい。
したがって、幾つかの実施形態において、撮像装置の非線形応答は、画像のシーケンスからのデータにアクセスするステップ及び推定強度分布を決定するステップの前に補償される。
幾つかの実施形態において、撮像装置の非線形応答は、撮像装置によって取得されたオブジェクト(例えば、上記又は別のオブジェクトと呼ばれる対象)の一組の画像からサンプリングされた(例えば、一組の画像から一画像の一部がサンプリングされてもよく、及び/又は、一組の画像から複数の画像がサンプリングされてもよい)カーネル(画像において選択された少なくとも1つのピクセルを示す)の平均強度の表示を得ることによって決定される。その場合、撮像装置の非線形応答は、その表示に基づいて決定されることができる。この非線形応答は、撮像装置の非線形応答を補償するために画像のシーケンスに対応するデータに適用する補償(例えば、逆ガンマ補正を含む)を識別するのに用いられることができる。
例えば、撮像装置の非線形応答を補償するステップは、撮像装置によって取得された画像に適用されるガンマ補正に起因する非線形応答を補償するように逆ガンマ補正を行うことを有する。
図4は、一実施形態による特定の設定における撮像を改善する手順400を示す。手順400は、撮像装置(図示せず)によって実施される非線形(例えば、ガンマ)補正の特性を決定するために、撮像装置の非線形応答を特性化すること(及び、それにより、補償が、本明細書に記載される特定の方法を実施する前に画像のシーケンスに適用される非線形応答を補償することを可能にすること)を有する。
この実施形態において、照明源は、照明機能に従って該照明源を変調することによってオブジェクトを照明させられる。この実施形態における照明機能402は、一組の画像からサンプリングされたカーネル(例えば、ピクセル強度値、すなわち、図4におけるa(x1,y1)、a(x2,y2)及びa(x3,y3))の平均強度の表示を得つつ、特定の時間間隔にわたって照明機能402の強度を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行うように構成される。照明機能402によって示されるこの線形増加及び線形減少により、照明源が、これに応じて、提供される照明のレベルを増加及び減少させる。撮像装置(図示せず)は或る時間期間にわたって一組の画像を得る。これらの組の画像にわたってカーネルを追跡することによって、グラフ404を作成するために、各カーネルについての強度値が記録される。このグラフから見ることができるように、照明における線形増加又は線形減少は、撮像装置の線形応答に対応しない。撮像装置の応答の曲率(すなわち非線形性)に基づいて、適切な補償(例えば、逆ガンマ補正)が決定されることができる。これは、本明細書に記載される特定の方法を実施する前に考慮される。つまり、特定の強度レベルについてのピクセル値は、かかる方法を実施する前に適切に調整される。
図5は、一実施形態による、特定の設定おける撮像を改善する手順500を示す。手順400のように、手順500は、撮像装置(図示せず)によって実施される非線形(例えば、ガンマ)補正の特性を決定するために、撮像装置の応答を特性化すること(及び、それにより、補償が、本明細書に記載される特定の方法を実施する前に画像のシーケンスに適用される非線形応答を補償することを可能にすること)を有する。
この実施形態において、撮像装置は、画像取得機能に従って一組の画像を取得させられる。この実施形態における画像取得機能は、一組の画像からサンプリングされたカーネル(例えば、ピクセル強度値、すなわち、図5におけるa(x1,y1)、a(x2,y2)及びa(x3,y3))の平均強度の表示を得つつ、一組の画像の各後続の画像についての露光時間を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行うように構成される。
露光時間のこの線形増加及び/又は減少により、一組の画像のそれぞれが、対応する増加及び/又は減少する強度レベルを記録する。これらの組の画像にわたってカーネルを追跡することによって、グラフ502を作成するために、各カーネルについての強度値が記録される。このグラフから見ることができるように、露光時間における線形増加又は減少は、撮像装置の線形応答に対応しない。撮像装置の応答の曲率(すなわち非線形性)に基づいて、適切な補償(例えば、逆ガンマ補正)が決定されることができる。これは、本明細書に記載される特定の方法を実施する前に考慮される。つまり、特定の強度レベルについてのピクセル値は、かかる方法を実施する前に適切に調整される。
図6は、特定の設定における撮像を改善する方法600(例えば、コンピュータ実施方法)を示す。例えば、撮像は、照明/周囲光が定義されていない及び/又は変化する可能性がある制御されていない環境における等、特定の設定によって影響を及ぼされ得る。方法600は、方法100に関連して又はその一部として、及び/又は手順300、400、500を参照しながら実施される。この例において、方法600は、図1のブロック102~104を有する。方法600のブロックのいずれも、必要に応じて、省略されもよく、及び/又は順序変更されてもよい。
幾つかの実施形態において、方法600は、ブロック602において、画像のシーケンスからのデータにアクセスするステップ及び推定強度分布を決定するステップの前に、(例えば上述したように)撮像装置の非線形応答を補償するステップを有する。
幾つかの実施形態において、方法600は、ブロック604において、照明源に、時間的な正弦波強度変調を有する照明を提供させるステップを有する。
幾つかの実施形態において、方法600は、ブロック606において、(例えば上述したように)画像における空間的強度変調パターンの位相進行φTを計算するステップを有する。
図7は、命令702を格納する有形の機械可読媒体700を示し、これら命令は、少なくとも1つのプロセッサ704によって実行されると、少なくとも1つのプロセッサ704に、本明細書に記載される特定の方法(方法100及び/又は方法600等)を実施させる。
この実施形態において、命令702は、少なくとも1つのプロセッサ704に方法100のブロック102を実施させる命令706を含む。命令702は、少なくとも1つのプロセッサ704に方法100のブロック104を実施させる命令708をさらに含む。
図8は、方法100及び/又は方法800等、本明細書に記載される特定の方法を実施するのに使用される装置800を示す。装置800は、図2のシステム200に関して記載された特定の特徴に対応する機能性を有する、その制御モジュール208等のモジュールを備える。
装置800は、処理回路802を備える。処理回路802は、アクセスモジュール804を含む。アクセスモジュール804は、周囲光と時間的な正弦波強度変調を有する照明とにより照らされた対象の画像のシーケンスからのデータにアクセスするように構成される。撮像装置は、異なる空間的強度変調パターンがシーケンスの連続画像に見られるように構成される。
処理回路802は、決定モジュール806をさらに含む。決定モジュール806は、画像のシーケンスの少なくとも1つの画像に見られる周囲光のレベルに比して低減したレベルの周囲光が対象の修正画像に見られるよう、該修正画像を生成するために、画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定するように構成される。換言すると、決定モジュール806は、シーケンスの各画像において空間的強度モジュールパターン(又は「一組の測定されたピクセル強度値」)に基づいて、画像における周囲光変化を低減させるために、対象の画像についての推定強度分布(又は「一組の修正されたピクセル強度値」)を決定するように構成される。
幾つかの実施形態において、装置800は、照明を提供する照明源(例えば、図2の照明源206)をさらに備える。幾つかの実施形態において、装置は、撮像装置(例えば、図2の撮像装置204)をさらに備える。
本発明は、図面及び上記の記載において詳細に図示及び記載されてきたが、かかる図示及び記載は、例証的又は例示的とみなされ、限定的とはみなされず、本発明は、開示された実施形態に限定されない。
一実施形態に記載された1つ又は複数の特徴は、別の実施形態に記載された特徴と組み合わせられてもよく又はそれに置き換えてもよい。例えば、図1又は図6の、方法100、600は、図2、図3、図4、図5、図8の、システム200、手順300、400、500及び/又は装置800に対して記載された特徴に基づいて変更されてもよく、またその逆が行われてもよい。
本開示における実施形態は、方法、システム、又は、機械可読命令と処理回路との組み合わせとして提供されることができる。かかる機械可読命令は、コンピュータ可読プログラムコードが中又は上にある非一時的な機械(例えば、コンピュータ)可読記憶媒体(ディスク記憶装置、CD-ROM、光学記憶装置等を含むがこれらに限定されない)に含まれる。
本開示は、本開示の実施形態による方法、装置及びシステムの、フローチャート及びブロック図を参照しながら記載されている。上記に記載されたフローチャートは特定の実行順序を示しているが、実行順序は記載されている実行順序とは異なってもよい。1つのフローチャートに対して記載されたブロックは、別のフローチャートのブロックと組み合わせられてもよい。フローチャート及び/又はブロック図における各ブロック、並びに、フローチャート及び/又はブロック図におけるブロックの組み合わせは、機械可読命令によって具現されることができることが理解されるべきである。
機械可読命令は例えば、記載及び図面に記載された機能を具現するために、汎用コンピュータ、専用コンピュータ、組み込みプロセッサ、又は他のプログラム可能なデータ処理装置のプロセッサによって実行される。特に、プロセッサ又は処理回路、又はそのモジュールが、機械可読命令を実行する。したがって、システム200及び/又は装置800の機能モジュール(例えば、制御モジュール208、アクセスモジュール804及び/又は決定モジュール804)並びに本明細書に記載される他の装置は、メモリに記憶された機械可読命令を実行するプロセッサによって、又は、論理回路に組み込まれた命令に従って動作するプロセッサによって実施される。用語「プロセッサ」とは、CPU、処理ユニット、ASIC、論理ユニット、又はプログラム可能なゲートアレイ等を含むように広範に解釈されるものとする。方法及び機能モジュールは、単一のプロセッサによって全て行われてもよく、又は、幾つかのプロセッサの間で分割されてもよい。
かかる機械可読命令はまた、特定のモードで動作するようにコンピュータ又は他のプログラム可能なデータ処理装置をガイドすることができるコンピュータ可読記憶装置に記憶されてもよい。
かかる機械可読命令はまた、コンピュータ又は他のプログラム可能なデータ処理装置にロードされてもよく、それにより、コンピュータ又は他のプログラム可能なデータ処理装置は、一連の動作を行ってコンピュータ実施処理を生成し、したがって、コンピュータ又は他のプログラム可能なデータ処理装置上で実行される命令は、フローチャート及び/又はブロック図におけるブロック(複数可)によって指定される機能を具現する。
さらに、本明細書における教示は、コンピュータプログラム製品であって、記憶媒体に記憶され、本開示の実施形態に記載の方法をコンピュータ装置に実施させる複数の命令を含むコンピュータプログラム製品の形態で実施されてもよい。
一実施形態に対して記載された要素又はステップは、別の実施形態に対して記載された要素又はステップと組み合わせられてもよく又はそれらに置き換えられてもよい。開示された実施形態の他の変形例が、図面、開示、及び添付の特許請求の範囲の検討から、特許請求された発明を実施する当業者によって理解されるとともに行われることができる。特許請求の範囲において、「備える、有する、含む」という語は、他の要素又はステップを排除するものではなく、単数形は複数を排除するものではない。単一のプロセッサ又は他のユニットは、特許請求の範囲において記載された複数のアイテムの機能を果たすことができる。相互に異なる従属請求項において特定の手段が記載されているという単なることは、これらの手段の組み合わせがうまく用いられることができないことを示すものではない。コンピュータプログラムは、他のハードウェアとともに又はその一部として供給される光学記憶媒体又はソリッドステート媒体等の好適な媒体に記憶又は配信されるが、インターネット又は他の有線又は無線通信システムを介して等、他の形態で配信されてもよい。特許請求の範囲におけるいかなる参照符号も、その範囲を限定するもとみなされるべきではない。

Claims (13)

  1. 周囲光と時間的な正弦波強度変調を有する照明とにより照らされた対象の画像のシーケンスであって、撮像装置によって得られた当該画像のシーケンスからのデータにアクセスするステップであって、前記撮像装置は、前記シーケンスの各画像内において、当該画像の第1の空間部分を当該画像の第2の異なる空間部分とは異なる時点で得るようにローリングシャッタモードで動作し、前記正弦波強度変調の周波数と前記撮像装置のフレームレートとの間の関係は、異なる空間的強度変調パターンが前記シーケンスの連続画像に見られるようなものである、前記データにアクセスするステップと、
    前記画像のシーケンスの少なくとも1つの画像に見られる空間的強度変調パターンの変調深さ及び周囲光のレベルに比して修正画像に見える空間的強度変調パターンの低減された変調深さ及び周囲光の低減したレベルに対応する一組の修正されたピクセル値を生成する、前記画像のシーケンスの各々からのピクセルの測定されたピクセル強度値の特定の組み合わせを、前記一組の各ピクセルについて、求めることにより、前記対象の前記修正画像を生成するために、前記画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定するステップと、
    を有し、
    前記特定の組み合わせは、前記画像のシーケンスの各々から前記ピクセルの測定されたピクセル強度値の各々が、前記画像のシーケンス間の正弦波強度変調を示す結果となる前記照明の前記正弦波強度変調と前記ローリングシャッタモードで動作する前記撮像装置との組み合わせに基づく、コンピュータ実施方法。
  2. 前記一組の修正されたピクセル強度値は、前記周囲光の前記レベル及び前記空間的強度変調パターンの変調度両方が前記画像のシーケンスの少なくとも1つの画像に比して前記修正画像において低減されるように決定される、請求項1に記載のコンピュータ実施方法。
  3. 前記修正画像について前記一組の修正されたピクセル強度値を決定するステップは、前記画像のシーケンスからの3枚又は4枚の連続画像に基づいている、請求項1又は2に記載のコンピュータ実施方法。
  4. 前記正弦波強度変調の周波数及び前記撮像装置のフレームレートと、
    前記正弦波強度変調と前記撮像装置のフレーム取得タイミングとの位相差と、
    のうちの少なくとも一方は、前記異なる空間的強度変調パターンが前記シーケンスの連続画像に見られるようなものである、請求項1から3のいずれか一項に記載のコンピュータ実施方法。
  5. 前記正弦波強度変調の周波数は、前記撮像装置の前記フレームレートの重積分ではない、請求項4に記載のコンピュータ実施方法。
  6. 照明源に、前記時間的な正弦波強度変調を有する前記照明を提供させるステップを有する、請求項1から5のいずれか一項に記載のコンピュータ実施方法。
  7. 前記修正画像についての前記一組の修正されたピクセル強度値Aは、以下の前記特定の組み合わせ
    Figure 0007310030000005
    によって示され、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、前記画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す、請求項1から6のいずれか一項に記載のコンピュータ実施方法。
  8. 前記画像のシーケンスにおける前記空間的強度変調パターンの位相進行φTを、以下:
    Figure 0007310030000006
    に従って、計算するステップであって、ここで、I1(x,y)、I2(x,y)、I3(x,y)及びI4(x,y)はそれぞれ、前記画像のシーケンスにおける第1、第2、第3及び第4の連続画像のピクセル強度値を表す、位相進行φTを計算するステップを有する、請求項1から7のいずれか一項に記載のコンピュータ実施方法。
  9. 前記コンピュータ実施方法は、前記画像のシーケンスからの前記データにアクセスするステップ及び前記一組の修正されたピクセル強度値を決定するステップの前に、前記撮像装置の非線形応答を補償するステップを有し、前記撮像装置の前記非線形応答は、
    前記撮像装置によって取得されたオブジェクトの一組の画像からサンプリングされたカーネルの平均強度の表示を得ることと、
    前記表示に基づいて前記撮像装置の前記非線形応答を決定することと、
    によって決定される、請求項1から8のいずれか一項に記載のコンピュータ実施方法。
  10. 照明源に、照明機能に従って該照明源を変調することによって前記対象を照明させるステップであって、前記照明機能は、前記一組の画像からサンプリングされた前記カーネルの前記平均強度の表示を得つつ、特定の時間間隔にわたって該照明機能の強度を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行う、前記対象を照明させるステップを有する、請求項9に記載のコンピュータ実施方法。
  11. 前記撮像装置に、画像取得機能に従って前記一組の画像を取得させるステップであって、前記画像取得機能は、前記一組の画像からサンプリングされた前記カーネルの平均強度の前記表示を得つつ、前記一組の画像の各後続の画像についての露光時間を線形に増加させること及び線形に減少させることのうちの少なくとも一方を行う、前記一組の画像を取得させるステップを有する、請求項9に記載のコンピュータ実施方法。
  12. 少なくとも1つのプロセッサによって実行されると該少なくとも1つのプロセッサに請求項1から11のいずれか一項に記載のコンピュータ実施方法を実施させる命令を記憶する、有形の機械可読媒体。
  13. 処理回路を備える装置であって、前記処理回路は、
    周囲光と時間的な正弦波強度変調を有する照明とにより照らされた対象の画像のシーケンスであって、撮像装置によって得られた当該画像のシーケンスからのデータにアクセスする、アクセスモジュールであって、前記撮像装置は、前記シーケンスの各画像内において、当該画像の第1の空間部分を当該画像の第2の異なる空間部分とは異なる時点で得るようにローリングシャッタモードで動作し、前記正弦波強度変調の周波数と前記撮像装置のフレームレートとの間の関係は、異なる空間的強度変調パターンが前記シーケンスの連続画像に見られるようなものである、アクセスモジュールと、
    前記画像のシーケンスの少なくとも1つの画像に見られる空間的強度変調パターンの変調深さ及び周囲光のレベルに比して修正画像に見える空間的強度変調パターンの低減された変調深さ及び周囲光の低減したレベルに対応する一組の修正されたピクセル値を生成する、前記画像のシーケンスの各々からのピクセルの測定されたピクセル強度値の特定の組み合わせを、前記一組の各ピクセルについて、求めることにより、前記対象の前記修正画像を生成するために、前記画像のシーケンスの各画像における一組の測定されたピクセル強度値に基づいて、一組の修正されたピクセル強度値を決定する、決定モジュールと、
    を含み、
    前記特定の組み合わせは、前記画像のシーケンスの各々から前記ピクセルの測定されたピクセル強度値の各々が、前記画像のシーケンス間の正弦波強度変調を示す結果となる前記照明の前記正弦波強度変調と前記ローリングシャッタモードで動作する前記撮像装置との組み合わせに基づく、装置。
JP2022549982A 2020-02-20 2021-02-03 撮像におけるピクセル強度値の決定 Active JP7310030B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP20158431.5A EP3869781A1 (en) 2020-02-20 2020-02-20 Determining intensity distributions in imaging
EP20158431.5 2020-02-20
PCT/EP2021/052460 WO2021165035A1 (en) 2020-02-20 2021-02-03 Determining pixel intensity values in imaging

Publications (2)

Publication Number Publication Date
JP2023506590A JP2023506590A (ja) 2023-02-16
JP7310030B2 true JP7310030B2 (ja) 2023-07-18

Family

ID=69740102

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022549982A Active JP7310030B2 (ja) 2020-02-20 2021-02-03 撮像におけるピクセル強度値の決定

Country Status (5)

Country Link
US (1) US11812167B2 (ja)
EP (2) EP3869781A1 (ja)
JP (1) JP7310030B2 (ja)
CN (1) CN115136577A (ja)
WO (1) WO2021165035A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4220074A1 (en) 2022-01-28 2023-08-02 Koninklijke Philips N.V. Determining a parameter map for a region of a subject's body

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009017214A (ja) 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
JP2011160090A (ja) 2010-01-29 2011-08-18 Sony Corp 画像処理装置、および信号処理方法、並びにプログラム
JP2016191773A (ja) 2015-03-31 2016-11-10 株式会社メガチップス 投影システム、プロジェクター装置、撮像装置、および、プログラム
WO2017169436A1 (ja) 2016-03-29 2017-10-05 ソニー株式会社 液晶表示装置、および液晶表示制御方法、並びにプログラム
US20190026527A1 (en) 2017-07-18 2019-01-24 Shenzhen GOODIX Technology Co., Ltd. Anti-spoofing sensing for rejecting fake fingerprint patterns in under-screen optical sensor module for on-screen fingerprint sensing

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04165876A (ja) 1990-10-30 1992-06-11 Canon Inc 撮像装置
JP4934326B2 (ja) 2005-09-29 2012-05-16 富士フイルム株式会社 画像処理装置およびその処理方法
JP4842639B2 (ja) 2005-12-28 2011-12-21 三星電子株式会社 カメラ
US8144241B2 (en) 2008-04-04 2012-03-27 Sony Corporation Imaging apparatus, image processing apparatus, and exposure control method
JP2010016664A (ja) 2008-07-04 2010-01-21 Hitachi Ltd 撮像装置
JP5215820B2 (ja) 2008-11-14 2013-06-19 パナソニック株式会社 撮像装置
JP2010157925A (ja) 2008-12-26 2010-07-15 Canon Inc 撮像装置及びその制御方法及びプログラム
US8289300B2 (en) 2009-07-17 2012-10-16 Microsoft Corporation Ambient correction in rolling image capture system
US8786767B2 (en) 2012-11-02 2014-07-22 Microsoft Corporation Rapid synchronized lighting and shuttering
US10244183B2 (en) * 2014-08-27 2019-03-26 Sony Corporation Image capturing device and method of controlling image capturing device
EP3218851A4 (en) 2014-11-13 2018-07-11 Intel Corporation Image quality compensation system and method
EP3430472B1 (en) 2016-03-13 2023-06-07 B.G. Negev Technologies and Applications Ltd. at Ben-Gurion University Method of producing video images that are independent of the background lighting
KR20170111460A (ko) * 2016-03-28 2017-10-12 삼성전자주식회사 카메라를 통해 획득한 영상 처리 방법 및 장치전자 장치
WO2018211511A1 (en) * 2017-05-16 2018-11-22 Technion Research & Development Foundation Limited Computational imaging of the electric grid
GB2568924B (en) * 2017-11-30 2022-07-20 Apical Ltd Method of flicker reduction
JP7242185B2 (ja) 2018-01-10 2023-03-20 キヤノン株式会社 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体
US11039082B2 (en) * 2018-11-27 2021-06-15 Canon Kabushiki Kaisha Image capturing apparatus, control method thereof, and storage medium
US10863155B2 (en) * 2018-12-24 2020-12-08 Gopro, Inc. Reduction of banding artifacts in image processing

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009017214A (ja) 2007-07-04 2009-01-22 Canon Inc フリッカ検出装置及びフリッカ検出方法
JP2011160090A (ja) 2010-01-29 2011-08-18 Sony Corp 画像処理装置、および信号処理方法、並びにプログラム
JP2016191773A (ja) 2015-03-31 2016-11-10 株式会社メガチップス 投影システム、プロジェクター装置、撮像装置、および、プログラム
WO2017169436A1 (ja) 2016-03-29 2017-10-05 ソニー株式会社 液晶表示装置、および液晶表示制御方法、並びにプログラム
US20190026527A1 (en) 2017-07-18 2019-01-24 Shenzhen GOODIX Technology Co., Ltd. Anti-spoofing sensing for rejecting fake fingerprint patterns in under-screen optical sensor module for on-screen fingerprint sensing

Also Published As

Publication number Publication date
CN115136577A (zh) 2022-09-30
EP3869781A1 (en) 2021-08-25
EP4107936B1 (en) 2023-08-02
EP4107936A1 (en) 2022-12-28
US11812167B2 (en) 2023-11-07
US20230089886A1 (en) 2023-03-23
WO2021165035A1 (en) 2021-08-26
JP2023506590A (ja) 2023-02-16

Similar Documents

Publication Publication Date Title
JP7327733B2 (ja) フリッカ低減のための方法、装置およびコンピュータ可読媒体
US20150243041A1 (en) Systems and methods for image and video signal measurement
WO2017203913A1 (ja) 肌診断装置および肌診断方法
JP2016095687A (ja) 情報処理装置、情報処理方法、及びプログラム
JP7310030B2 (ja) 撮像におけるピクセル強度値の決定
WO2019102966A1 (ja) 脈波検出装置、脈波検出方法、及び記憶媒体
JP5586858B2 (ja) 表示制御装置、及び表示制御方法
US20230016923A1 (en) A system for performing ambient light image correction
EP4165865B1 (en) Signal-to-noise ratio targeting
EP3922168A1 (en) Determining intensity distributions
JP6827838B2 (ja) 撮像装置及び画像処理装置とその制御方法並びにプログラム
JP7449459B1 (ja) 物体を分析する方法及びシステム
US11800134B2 (en) System for performing image motion compensation
JPWO2018159288A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2018190201A (ja) 画像処理装置、画像処理方法およびプログラム
JP2021178055A (ja) 情報処理装置、情報処理方法、及びプログラム
WO2021123404A1 (en) Illumination compensation in imaging
KR20110050306A (ko) 동영상 화질 측정 장치 및 방법
JP2015097357A (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220819

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220819

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230705

R150 Certificate of patent or registration of utility model

Ref document number: 7310030

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150