JP6626841B2 - カメラ及びスクリーンを備える装置 - Google Patents

カメラ及びスクリーンを備える装置 Download PDF

Info

Publication number
JP6626841B2
JP6626841B2 JP2016566267A JP2016566267A JP6626841B2 JP 6626841 B2 JP6626841 B2 JP 6626841B2 JP 2016566267 A JP2016566267 A JP 2016566267A JP 2016566267 A JP2016566267 A JP 2016566267A JP 6626841 B2 JP6626841 B2 JP 6626841B2
Authority
JP
Japan
Prior art keywords
image
lighting
camera
light output
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016566267A
Other languages
English (en)
Other versions
JP2017520144A (ja
Inventor
ヤウェン チェン
ヤウェン チェン
シェン ペン
シェン ペン
シャオダン タン
シャオダン タン
シュグアン クアイ
シュグアン クアイ
カンジュン リウ
カンジュン リウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Signify Holding BV
Original Assignee
Signify Holding BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=53059055&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP6626841(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Signify Holding BV filed Critical Signify Holding BV
Publication of JP2017520144A publication Critical patent/JP2017520144A/ja
Application granted granted Critical
Publication of JP6626841B2 publication Critical patent/JP6626841B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Description

本発明は、カメラ及びスクリーンを備える装置に関する。
人々にとって、自分の写真を撮影し、メディア共有プラットフォームを用いて友人とこれら写真を共有することが益々一般化している。写真を共有する前、あるユーザはよく、自分をよりよく見せるためフォトショップ(登録商標)等のアプリケーションを用いて写真を処理することがある。これは、例えば、白くする(whitening)、暖色にする(warm colouring)等のある効果を加えることを伴う。このようにして写真を改善することにより、人々は、自分により自信を持ち、より社会的にアクティブになるかもしれない。
この写真の処理は時間を消費し、写真又はビデオのリアルタイムの共有は不可能である。例えば、処理は、ビデオチャット又はビデオ会議を実行しながらリアルタイムで実行されることはできない。
それゆえ、画像処理の必要性を単純にする若しくは回避するようなやり方で、及び/又はリアルタイムで実行され得るやり方で画像を向上できるようにする必要性がある。
本発明は、各請求項に規定される。
本発明の例示の態様によれば、
カメラ、
カメラにより捉えられた画像を表示するスクリーン、
ユーザ入力インタフェース、及び
プロセッサ、を有する装置であって、
プロセッサは、
シーンを示すスクリーン上に表示された画像に対する所望の修正を表すユーザ入力を受ける、及び
後に捉えられる画像が所望の修正を反映するようにシーンに対する照明を変えるため照明装置の所要の光出力特性を導出する、装置が提供される。
この装置は、ユーザが、(例えば、色又は輝度等の照明条件により影響され得るパラメータの観点における)所望の画像外観を指定することを可能にし、該装置は、(いかなる画像処理の必要もなく)後の画像が所望の外観を持つように当該シーンを照明するための光出力を計算する。ユーザは、例えば、(例えば、肌の色合い、顔のしわ等の観点における)最も魅力的な画像を選択し、後の画像は、これら所望の画像特性を与えるようになるであろう。このようにして、照明条件を変更することにより、画像を編集する必要性が回避される。これは、携帯機器を用いたビデオ会議アプリケーション又は写真の共有等の画像のライブでの共有(live sharing)のために特に興味深い。
所望の修正を表すユーザ入力は、例えば、上述又は後述するように、1)色又は輝度等の照明条件により影響され得るパラメータの観点における、2)一組の代替的な修正画像から所望の修正画像を選択する、3)“私をよりやさしく見せる光が欲しい(I want the light make me look more gentle)”、“ロマンチックな雰囲気が欲しい(I would like an romantic atmosphere)”及び“顔のしわをなくして欲しい(Please eliminate the wrinkles on my face)”等、口頭又は文字で所望の画像効果を述べる等種々あり得る。
プロセッサは、ユーザ入力に基づいて所望の修正画像を生成し(及び任意にスクリーン上に該所望の修正画像を表示し)、後に捉えられる画像が所望の修正画像に近づくように捉えられた画像及び所望の修正画像の差に基づいて当該シーンに対する照明を変えるため照明装置の所要の光出力特性を導出することができる。
しかしながら、所望の修正画像を生成するステップは、プロセッサに不可欠なステップではない。プロセッサは単に、ユーザ入力に直接基づいて照明装置の所要の光出力特性を導出することもできる。例えば、プロセッサは、2つの関連する情報、画像効果及び関連する光出力特性を保持する予め格納された表又はリストを持つ。
斯くして、本発明は、処理された画像のユーザが指定した効果を自動的に再現することができ、そして、リアルタイムで当該効果を再生するため環境照明を調整することができる、インテリジェントな照明システムを提供する。修正は、例えば、色相、彩度及び輝度等の画像特性に関してもよい。
所望の修正画像をもたらす、所要の光出力特性は、LED駆動電流等のLED駆動信号に変換され得る。
シーンを照明する光出力を提供する照明装置は、装置が用いられるエリアの一部を形成する固定照明であってもよい。この場合、装置は、照明条件の所望の変化を実現するため前記固定照明と通信してもよい。
さらに、装置は、照明装置を有してもよい。この場合、装置自体が、所要の照明を提供する。斯くして、装置は、任意の環境で用いられることができ、外部の照明ユニットを制御する必要がない。
プロセッサは、一組の修正画像のうちの選択された修正画像を特定するユーザ入力を受けるように適応されてもよい。
このようにして、ユーザは、組から好ましい画像を単純に選択することができ、照明条件は、カメラにより捉えられる将来の画像が所望の画像外観に近似する、ましては所望の画像外観と同じになるように修正される。
プロセッサは、選択された修正画像を表すメトリック及び元の画像を表すメトリックの差を導出する、及び該差から所要の光出力を導出するように適応されてもよい。このメトリックは、例えば、修正画像の選択された顔面領域を形成するピクセルの平均RGB値であってもよい。
差信号を処理することにより、所要の照明条件が、単純な処理で導出され得る。メトリックは、照明条件の指標(indication)を提供する尺度(measure)である。例えば、メトリックは、元の画像及び所望の修正画像のRGBピクセル値から導出されてもよい。
例えば、修正画像の選択された顔面領域からサンプリングされることになる複数のピクセル(Np)が先ず決定されてもよい。これらピクセルからのRGB値は、所要の照明パラメータを導出するために用いられるであろう。導出された照明パラメータは、分析されるピクセルの組の大きさNpに依存するであろう。例えば、修正画像及び元の画像の各ピクセルのRGB値間のオフセットであろう。この場合、赤色オフセット、緑色オフセット及び青色オフセットの平均が、照明システムに出力されることができ、照明システムのこれら色成分の調整が、所望の照明効果をもたらす照明を供給する。
装置は、携帯電話又はタブレット等の携帯機器を有し、照明装置は、該携帯機器のカメラのフラッシュを有してもよい。これは、リアルタイムの画像共有が任意のロケーションで実行され得るような完全一体型の携帯可能な解決策を提供する。後に捉えられる画像は、静止画であり得る、又はビデオシーケンスを形成し得る。これら画像は、例えば、メディア共有プラットフォーム上で共有されるべき写真、又は2人以上の参加者間のライブビデオリンク又は会議のために用いられるビデオ画像であってもよい。
捉えられた画像及び後に捉えられる画像は、ユーザの顔面を含むことが好ましい。ユーザは、とりわけ、自分の顔について所望の見え方を作り出すことに敏感であるかもしれない。
この場合、プロセッサは、
顔認識機能を実行する、
当該画像の顔面領域について及び所望の修正画像の顔面領域についてピクセル特性を表すメトリックを導出する、及び
これらメトリックの差から前記光出力特性を導出する、ように適応されてもよい。
このようにして、照明は、ユーザの顔の画像に所望の修正を生み出すように誂えられる。
本発明はまた、
カメラ及びスクリーンを持つ装置を用いて照明を制御する方法であって、
装置のカメラを用いてシーンの画像を捉えるステップ、
装置のスクリーン上に前記画像を表示するステップ、
表示された画像に対する所望の修正を表すユーザ入力を受けるステップ、
後に捉えられる画像が所望の修正を反映するようにシーンに対する照明を変えるため照明装置の所要の光出力特性を導出するステップ、及び
所要の光出力特性を出力するため照明装置を制御するステップ、
を含む、方法を提供する。
本発明はまた、通信ネットワークからダウンロード可能な並びに/又はコンピュータ可読媒体及び/若しくはマイクロプロセッサが実行可能な媒体に格納されたコンピュータプログラムであって、当該プログラムがコンピュータ上で実行された場合、カメラ及びスクリーンを持つ装置を用いて照明を制御する上述した方法を実施するためのプログラムコード命令を有する、コンピュータプログラムを提供する。
本発明はまた、上述したコンピュータプログラムを格納した媒体を提供する。媒体は、RAM、PROM、EPROM、メモリスティック若しくはフラッシュドライブ等の揮発性メモリ及び不揮発性メモリ、又はハードディスク若しくは光学媒体等の他の不揮発性ストレージ等の任意の媒体であり得る。
本発明の例が、添付の図面を参照して詳細に述べられるであろう。
図1は、一実施形態による装置を示す。 図2は、第1の動作方法を説明するために用いられる。 図3は、第2の動作方法を説明するために用いられる。 図4は、より詳細に装置の第1の例を示す。 図5は、より詳細に装置の第2の例を示す。
本発明は、カメラ、及び該カメラにより捉えられた画像を表示するスクリーンを持つ装置を提供する。ユーザは、所望の修正画像を生成するためスクリーン上に表示された画像に対する所望の修正を指定する。これは、例えば、ユーザをより魅力的に見えるようにしてもよい。次いで、照明装置が、新規に変更された照明を用いて後に捉えられる画像が前記所望の修正画像に近づくように制御される。
照明は、装置自体により提供され得るか、装置と別個であり得る。
図1は、照明が装置自体により提供され、装置がタブレット又は携帯電話等の携帯機器である一実施形態による装置を示す。
携帯機器10は、カメラ12(そのレンズが示されている)及び該カメラにより捉えられた画像を表示するスクリーン14を有する。カメラのフラッシュ16の形態の照明装置が備えられ、本例においては、汎用定照明源(general constant illumination source)としても用いられる。装置は、スクリーン、ボタン(その一つが符号18として示されている)又はこれらの組み合わせを有し得るユーザ入力インタフェースを持つ。
装置は、所望の修正画像を生成するため、シーンを示すスクリーン14上に表示された画像に対する所望の修正を表すユーザ入力を受けるプロセッサを持つ。後に捉えられる画像が前記所望の修正画像に近づくように前記シーンに対する照明を変えるための照明装置16の光出力特性が導出される。
図2は、第1の動作方法(operating method)を説明するために用いられる。上部は、ユーザにより撮影され、スクリーン上に表示された元の画像19を示す。ユーザが修正バージョンを選択できるようにするため、一組の代替的な修正画像20が、下部に示されるように提示される。
これら修正画像は、色又は輝度等の照明条件により影響される変えられるパラメータを持つ。斯かる画像の修正は、画像の外観をより温かくする(warmer)若しくは涼しくする(cooler)、明るくする若しくは暗くする、又はそれほど飽和していない色(less saturated colours)を持たせる若しくはより飽和した色(more saturated colours)を持たせる等のため、画像処理アプリケーションにおいてよく知られている。
この場合、修正画像の組は、環境光を制御することにより得られ得る視覚効果の変化に対応する。例えば、画像修正は、異なる色の環境照明及び/又は異なる強度の環境照明に起因する外観の変化に対応し得る。
これは、後の画像の画像処理が所望の画像修正に近似させるために必要とされないように、環境照明を変えることにより所望の画像修正を再現できることを意味する。
ユーザは、修正画像20のうちの所望の修正画像を選択する。次いで、装置は、画像のピクセル特性に関するメトリックを計算する。一例において、メトリックは、画像の顔面領域からのピクセルの平均RGB値(すなわち、平均R値、平均G値及び平均B値)である。この顔面領域は、自動的に特定され得る、又はユーザにより規定され得る。
このメトリックが元の画像19とユーザにより選択された画像20との間でどの程度変わったかを比較することにより、メトリックは、光出力を決定するために用いられる。次いで、この光出力は、いかなる画像処理も必要とすることなく後の画像が所望の外観を持つようにシーンを照明するために用いられる。光出力は、例えば、LED光源に適した電流駆動値を選択することにより制御される。
R、G、B値の変化は、ユーザのための複数のオプション20を生成するために用いられる画像変換関数から容易に利用できるであろう。
LEDランプ又は照明器具の各タイプのために、駆動電流値及び光出力特性の関係を格納したルックアップテーブルが用いられ得る。
これら光出力特性は、
RGB値、
色相、彩度及び輝度値、又は
色座標
として提示され得る。
ルックアップテーブルは、照明コントローラに格納され得る。駆動電流値及び光出力特性のこの関係は、例えば、照明システムの稼動前に測定され得る。
この関係は、照明装置を調整するための開始点として用いられ得る。しかしながら、以下に説明されるように、捉えられた画像が所望の修正画像と許容可能な程小さな違いしか持たなくなるように、数回の後の反復(several subsequent iterations)があってもよい。
次いで、フラッシュ16が、所要の環境照明を供給するために制御される。画像21は、変更された照明条件で撮影された画像である。
ユーザは、例えば、(例えば、肌の色合い、顔のしわ等の観点において)最も魅力的な画像を与える画像修正を選択してもよく、この場合、後の画像は、画像処理を要することなくこれら所望の画像特性を与えることになるであろう。
図3は、代替的な方法を示す。この場合、装置は、予め規定された修正画像を提示することに代えて、画像特性を調整可能な、この場合スライダ30、32として示されている制御入力をユーザに提示する。一方のスライダは、適応されるべき照明の色に対応することができ、他方のスライダは、強度に対応することができる。
照明ユニットは、例えば、制御可能なRGB成分及び全体輝度(overall luminance)を持ってもよい。RGB並びに色の色相及び彩度の直接マッピングがあり、照明制御は、等価的に(by equivalence)これらパラメータの制御を有してもよい。
例えば、色相のため1つ、彩度のため1つ及び輝度のため1つの3つの制御があってもよい。代替的に、赤のため1つ、緑のため1つ及び青のため1つの3つの制御があってもよい。6つ全ての制御があってもよく、ゆえに、ユーザは、調整すべき制御を選択することができ、RGB及び色相/彩度/輝度のマッピングは、コントローラにより維持されるであろう。
図4は、より詳細に装置の第1の例を示す。
装置は、上述したようにカメラ12、ディスプレイ14及び光源16を有する。コントローラ40は、ユーザ入力インタフェース42からユーザ入力を受けると共に、ディスプレイ14からの出力画像を制御する。ユーザ入力インタフェース42は、タッチスクリーン入力を持つディスプレイ自体を含んでもよい。
トランスミッタ44は、例えば携帯電話ネットワークを通じて、照明の制御の後画像を出力する。画像は、例えば、メディア共有プラットフォームにポストされる、又はライブビデオ通信に用いられてもよい。
図5は、より詳細に装置の第2の例を示す。
ここでも、装置は、カメラ12、ディスプレイ14、コントローラ40及び入力インタフェース42を有する。
この例において、照明システム50は、当該装置の一部ではない。装置は、光源50と通信するための短距離トランスミッタ52を持ち、該光源50の設定を変更する。これは、例えば、WiFi(登録商標)、Bluetooth(登録商標)若しくはZigbee(登録商標)インタフェース、又はその他任意の短距離標準規格(short range standard)であってもよい。携帯電話トランスミッタ44も設けられる。
この場合、シーンを照明するため光を提供する照明システム50は、当該装置が用いられる領域の一部を形成する固定照明であってもよい。この場合、装置は、照明条件の所望の変更を実現するためこの固定照明と通信する。
本発明の装置及び方法は、リアルタイムで写真をアップロードするため、又は携帯機器を用いてオンラインビデオチャットを行うために用いられ得るが、リアルタイムアプリケーションが唯一興味深いものではなく、自然なやり方で向上された画像を提供するやり方として用いられ得るものである。とりわけ、画像は、操作(manipulation)のない直接の画像であり、照明条件しか変更されていない。斯くして、本発明の装置及び方法は、カメラデバイスを用いて、固定室内照明等の照明を制御することにより画像の品質を改善するため簡単に用いられ得る。
所要の光出力を導出するため、捉えられた画像及び修正画像のRGB値は、ピクセル毎に分析されてもよい。
この場合、メトリックは、例えば、画像全体についての平均赤色、緑色及び青色値であり得る。斯くして、メトリックは、一組の値(すなわち、ベクトル)を有してもよい。この場合、あるメトリックは、元の画像を表し、あるメトリックは、選択された修正画像を表す。この場合、所要の光出力は、これらメトリックの差から導出され得る。
差は、メトリック以外の他のパラメータの形態で測定されてもよいことに留意されたい。例えば、元の画像及び選択された修正画像の全てのピクセルのH、S、L値又はR、G、B値の平均値の差であってもよい。代替的には、元の画像及び選択された修正画像の単一のピクセルのH、S、L値又はR、G、B値の差であってもよい。好ましくは、単一のピクセルは、写真内のユーザの顔に位置する。
一例として、コントローラは、顔(又は複数の顔)を含む画像の領域を特定するため顔認識アルゴリズムを実装することができる。照明条件は、典型的には、顔の外観を改善するために選択され、ゆえに、照明制御は、顔面領域の分析に基づくことができる。
この場合、顔面領域の平均赤色、緑色及び青色値が決定される。そして、赤色、緑色及び青色値の差は、元の捉えられた画像及び選ばれた修正画像間で得られる。
照明制御の目的は、これらの差をゼロにすることにある。
顔面領域が用いられる場合、顔認識は、先ず、選択された顔面領域からサンプリングされるピクセルの数(Np)を決定することを伴い、次いで、これらピクセルからのRGB値が、照明パラメータをオフセットするため計算される。元の画像における平均色値及び選択された修正画像における平均色値のオフセットの平均が、照明システムに出力し、期待される照明効果を供給するため照明を調整するための制御信号として用いられる。
照明ユニットは、制御可能な色点(colour point)を持つ任意の照明構成を有することができる。一例は、赤色、緑色及び青色LEDを備えるLED照明構成である。少なくとも3つの色のLEDが選択される必要があり、これら3つの色により決定される三角形が色域である。より多くのLEDが選択されるほど、より大きな色域となる。
赤色、緑色及び青色LEDは、選ばれる3つの典型的な色である。色は、青色LED及び適切な蛍光体層の組み合わせを用いて生成されてもよい。この場合、色域は、青色LEDの色点及び蛍光体の特性により決定される。上述した方法により、制御可能な色点が決定される。
色は、利用可能な変換式により互いに変換可能である、RGB座標、HSL(色相(Hue)、彩度(Saturation)、輝度(Lightness))又はHSV(色相、彩度、明度(Value))で規定され得る。この場合、照明ユニットへの制御信号は、色を別個に制御するため異なるLED色についてのPWM(パルス幅変調)信号を有する。
図5の例のように、光源が装置の外部にある場合、光源は、該装置から送られる照明パラメータを示す信号を受信し、照明制御のため該信号を所要のPWM信号に復号することができる通信モジュール(例えば、Zigbee(登録商標))を持つ。
捉えられた画像の所望の変化を達成するために所要の光出力は、光源の性質及び向きと共に、ユーザに対する光源の位置に依存する。光源が携帯機器のフラッシュである場合、その特性は既知である。ユーザに対し見込まれる位置も既知である。斯くして、光源がユーザの照明を変えるやり方を予めモデル化することができる。このようにして、照明条件(すなわち、RGB差)の所望の変化及び所要の光制御信号の単純なマッピングが可能である。
最も単純な実施においては、関心のある画像の部分(すなわち、全体画像又は顔面部分)の平均赤色含有量(content)の差が、照明源の所望の赤色含有量を導出するため単純にスケーリングされる。同様に、平均青色含有量の差が、照明源の所望の青色含有量を導出するため(同量又は異なる量だけ)スケーリングされる。同様に、平均緑色含有量の差が、照明源の所望の緑色含有量を導出するため(同量又は異なる量だけ)スケーリングされる。
RGB値の代わりに、2つの画像の色相、輝度及び彩度値が、照明制御信号を導出するために処理されることができる。上述したように、異なる色座標系間の直接マッピングがあり、ゆえに、所要の処理は本質的に同じである。本質的に、元の画像及び所望の修正画像の光特性の差(又は差の組)が特定される。そして、この差が、照明を制御するために用いられる。画像のRGB含有量が分析されてもよいが、照明は、HSL又はHSV制御コマンドを用いて制御されることができる。同様に、画像のHSL又はHSV含有量が分析されてもよく、照明は、RGB値等の他のパラメータにより制御されることができる。
無論、所望の光出力は、照明の所要のR、G及びB成分を導出するためR、G及びB値の単純な平均化よりも複雑なアルゴリズムにより導出されてもよい。
例えば、色成分の比率が、絶対ピクセル値に代えて用いられてもよい。さらに、最大及び/又は最小の色成分値は、照明条件を導出するため用いられる処理から切り捨てられてもよい。斯くして、メトリックは、個々のピクセル特性の単純な平均より複雑であってもよい。
装置の一部ではない光源について、照明効果は、予め既知ではないであろう。例えば、光出力及びユーザ間の角度は既知ではなく、光源からユーザまでの距離も既知ではないであろう。この場合、フィードバックアプローチが用いられてもよい。例えば、修正画像が選択された後、照明条件は、一連の仮定及び捉えられた新しい画像に基づいて変えられ得る。修正画像の選択は、ユーザが修正画像の選択を繰り返すことによりフィードバックを与え、照明が適切な光出力条件に収束するように(一回以上)繰り返されることができる。
システムは、各反復から学習することができる。例えば、光出力に対する最初の調整が、画像に対する所望の修正を達成しない場合、一連の仮定が、次の反復がよりよい結果を与えることができるように変えられ得る。これは、所要の反復回数を最小に保つ。
フィードバックは、手動に代えて、自動であってもよい。この場合、照明は、ユーザ入力なく、しかしながら、システムはユーザにより最初に選ばれた修正画像及び結果の画像の差を最小にすることを目的として、複数回変えるために制御されることができる。
可能な自動反復処理の一例が以下に述べられる。目標画像特性が(Rt、Gt、Bt)である場合、この目標情報が、照明器具に入力として送られ、照明制御信号が導出される。上述したように、これら照明制御信号は、目標画像特性及び実際の画像特性の差から導出され、格納されたルックアップテーブルから得られるR、G、BLEDの対応する駆動電流値に変換される。このルックアップテーブルは、照明器具を制御するために用いられる。
照明修正の後顔面領域上に実際に生じる実現RGB照明値(realized RGB lighting values)は、実現画像特性(realized image properties)、例えば、値(Rr、Gr、Br)を与えるであろう。肌の反射率及び環境の反射率に起因して、目標色値及び実現色値の差が出る可能性がある。
上述したように、本発明の照明制御方法の目的は、これらの差をゼロ又は許容可能な誤差に至らせることである。許容可能な誤差の量は、ユーザにより選択されることができ、ゆえに、エンドユーザが非常に正確な精度を望まない場合、より大きな誤差が許容され得る。反復回数は、所望の精度に依存するであろう。
目標画像特性が(Rt、Gt、Bt)として設定される場合、調整値(Ra、Ga、Ba)が、新しい目標値と見なされてもよく、これらの値は、以下のように設定される。
Ra=2Rt−Rr
Ga=2Gt−Gr
Ba=2Bt−Br
各反復において、値Ra、Ga、Baは、照明設定を導出するために処理される。これらの処理は、Rt=Rr、Gt=Gr、Bt=Brという点に収束するであろう。斯くして、(所望の修正画像特性及び実現画像特性間の)誤差は、各繰り返し毎にゼロに近付くであろう。誤差が目標を下回る場合、繰り返しは停止する。無論、最大反復回数があってもよい。例えば、照明ユニットが、制御できない環境照明が優勢である結果として所望の画像修正を提供できない場合があるかもしれない。
一体型光源を持つ上述の例において、該光源は、カメラのフラッシュを有する。しかしながら、一方がフラッシュ機能(すなわち高輝度短期間バースト)に最適化され、他方が色制御を備えたより低輝度の連続的な照明に最適化されているような、別個の光源が設けられてもよい。
上述した例は携帯機器を示すが、本発明はこれに限定されない。例えば、装置は、フォトグラフィシステム、例えば、オンラインチャットに用いられるブースの一部であってもよい。この場合、ブース内の照明は、ユーザが自分の外観を最良にする照明を選択することにより制御されることができる。
上述した例は、顔認識(画像のどの部分が顔であるかの認識を意味し、誰の顔かの認識は意味しない)を用いている。代替例は、肌の色合い用のフィルタを用いることであり、これにより、肌の色合いを含む画像の部分が、顔認識ソフトウェアを必要とすることなく特定されることができる。
ユーザが修正した画像が、照明システムが照明条件を修正することにより模倣しようと試みる基準画像と見なされてもよい。照明条件は、該基準画像と捉えられた画像が閾値以下の量しか違わなくなるまで修正される。比較される画像データは、RGB情報、CMYK情報、色相及び彩度情報又は色温度情報(又はこれらの組み合わせ)を有することができる。
装置は、照明を制御するアルゴリズムを実装するコントローラを用いる。コントローラに用いられてもよいコンポーネントは、従来のマイクロプロセッサ、特定用途向け集積回路(ASIC)及びフィールド・プログラマブル・ゲート・アレイ(FPGA)を含むが、これらに限定されない。
種々の実施において、プロセッサ又はコントローラは、RAM、PROM、EPROM及びEEPROM等の揮発性及び不揮発性コンピュータメモリ等の1つ以上の記憶媒体に関連付けられてもよい。記憶媒体は、1つ以上のプロセッサ及び/又はコントローラ上で実行された場合、所要の機能を実行する1つ以上のプログラムがエンコードされてもよい。種々の記憶媒体は、プロセッサ又はコントローラ内に固定されてもよく、又は該記憶媒体に格納された1つ以上のプログラムがプロセッサ又はコントローラにロードされ得るように可搬形であってもよい。
開示された実施の形態に対する他のバリエーションが、図面、開示及び添付の特許請求の範囲の研究から、特許請求の範囲の発明を実践する当業者によって理解され、実施され得るであろう。請求項において、“有する”という用語は他の要素又はステップを除外するものではなく、単数表記は複数を除外するものではない。特定の手段が相互に異なる従属請求項に記載されるという単なる事実は、これらの手段の組み合わせが有効に用いられ得ないことを示すものではない。

Claims (11)

  1. カメラ、
    前記カメラにより捉えられた画像を表示するスクリーン、
    ユーザ入力インタフェース、及び
    プロセッサ、を有する装置であって、
    前記プロセッサは、
    シーンを示す前記スクリーン上に表示された画像に対する所望の修正を表すユーザ入力を受ける、及び
    後に捉えられる画像が前記所望の修正を反映するように前記シーンに対する照明を変えるため照明装置の所要の光出力特性を導出する、装置であり、
    前記ユーザ入力は、一組の修正画像のうちの選択された修正画像を特定し、
    前記プロセッサは、前記選択された修正画像を表すメトリック及び元の画像を表すメトリックの差を導出する、及び該差から所要の光出力を導出する、装置
  2. 前記プロセッサは、
    所望の修正画像を生成するため前記ユーザ入力を用いる、及び
    後に捉えられる画像が前記所望の修正画像に近づくように前記捉えられた画像及び前記所望の修正画像の差に基づいて前記シーンに対する照明を変えるため照明装置の所要の光出力特性を導出する、請求項1に記載の装置。
  3. 前記修正は、色相、彩度及び輝度等の画像特性に関する、請求項1に記載の装置。
  4. 携帯電話又はタブレット等の携帯機器を有する請求項1乃至のいずれか一項に記載の装置であって、前記照明装置は、該携帯機器のカメラのフラッシュを有する、装置。
  5. 前記後に捉えられる画像は、静止画である、又はビデオシーケンスを形成する、請求項1乃至のいずれか一項に記載の装置。
  6. カメラ、
    前記カメラにより捉えられた画像を表示するスクリーン、
    ユーザ入力インタフェース、及び
    プロセッサ、を有する装置であって、
    前記プロセッサは、
    シーンを示す前記スクリーン上に表示された画像に対する所望の修正を表すユーザ入力を受ける、及び
    後に捉えられる画像が前記所望の修正を反映するように前記シーンに対する照明を変えるため照明装置の所要の光出力特性を導出する、装置であり、
    前記捉えられた画像及び前記後に捉えられる画像は、ユーザの顔面を含み、前記プロセッサは、
    顔認識機能を実行する、
    当該画像の顔面領域について及び前記所望の修正画像の顔面領域についてピクセル特性を表すメトリックを導出する、及び
    これらメトリックの差から前記光出力特性を導出する装置。
  7. カメラ及びスクリーンを持つ装置を用いて照明を制御する方法であって、
    前記装置の前記カメラを用いてシーンの画像を捉えるステップ、
    前記装置の前記スクリーン上に前記画像を表示するステップ、
    記表示された画像に対する所望の修正を表すユーザ入力を受けるステップ、
    後に捉えられる画像が所望の正画像に近づくように前記シーンに対する照明を変えるため照明装置の所要の光出力特性を導出するステップ、及び
    前記所要の光出力特性を出力するため前記照明装置を制御するステップ、
    を含む、方法であり、
    前記スクリーン上に前記画像を表示するステップは、一組の修正画像を表示するステップを含み、前記ユーザ入力を受けるステップは、前記一組の修正画像のうちの1つの修正画像の選択を受けるステップを含み、
    所要の光出力を導出するステップが、前記選択された修正画像を表すメトリック及び元の画像を表すメトリックの差を導出するステップ、及び該差から所要の光出力を導出するステップを含む、方法。
  8. カメラ及びスクリーンを持つ装置を用いて照明を制御する方法であって、
    前記装置の前記カメラを用いてシーンの画像を捉えるステップ、
    前記装置の前記スクリーン上に前記画像を表示するステップ、
    前記表示された画像に対する所望の修正を表すユーザ入力を受けるステップ、
    後に捉えられる画像が所望の修正画像に近づくように前記シーンに対する照明を変えるため照明装置の所要の光出力特性を導出するステップ、及び
    前記所要の光出力特性を出力するため前記照明装置を制御するステップ、
    を含む、方法であり、
    顔認識機能を実行するステップ、
    当該画像の顔面領域について及び前記所望の修正画像の顔面領域についてピクセル特性を表すメトリックを導出するステップ、及び
    これらメトリックの差から光出力特性を導出するステップ、
    を含む方法。
  9. 前記装置は、携帯電話又はタブレット等の携帯機器を有し、前記照明装置を制御するステップは、該携帯機器のカメラのフラッシュを制御するステップを含む、請求項7又は8に記載の方法。
  10. 通信ネットワークからダウンロード可能な並びに/又はコンピュータ可読媒体及び/若しくはマイクロプロセッサが実行可能な媒体に格納されたコンピュータプログラムであって、当該プログラムがコンピュータ上で実行された場合、カメラ及びスクリーンを持つ装置を用いて照明を制御する方法であって、請求項乃至のいずれか一項に記載の方法を実施するプログラムコード命令を有する、コンピュータプログラム。
  11. 請求項10に記載のコンピュータプログラムを格納した媒体。
JP2016566267A 2014-05-05 2015-04-24 カメラ及びスクリーンを備える装置 Active JP6626841B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
CN2014076818 2014-05-05
CNPCT/CN2014/076818 2014-05-05
EP14173099 2014-06-19
EP14173099.4 2014-06-19
PCT/EP2015/058866 WO2015169619A1 (en) 2014-05-05 2015-04-24 Device with a camera and a screen

Publications (2)

Publication Number Publication Date
JP2017520144A JP2017520144A (ja) 2017-07-20
JP6626841B2 true JP6626841B2 (ja) 2019-12-25

Family

ID=53059055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016566267A Active JP6626841B2 (ja) 2014-05-05 2015-04-24 カメラ及びスクリーンを備える装置

Country Status (7)

Country Link
US (1) US11172119B2 (ja)
EP (1) EP3140982B1 (ja)
JP (1) JP6626841B2 (ja)
CN (1) CN106664360B (ja)
ES (1) ES2692412T3 (ja)
RU (1) RU2689124C2 (ja)
WO (1) WO2015169619A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102495763B1 (ko) * 2018-02-23 2023-02-06 삼성전자주식회사 제1 이미지 처리 방식으로 보정된 이미지를 제2 이미지 처리 방식을 이용하여 외부 전자 장치에서 보정하기 위한 전자 장치 및 방법
WO2023214927A1 (en) * 2022-05-04 2023-11-09 Pd Group Ab Improved user appearance in workstation applications

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3139028B2 (ja) 1991-02-04 2001-02-26 株式会社ニコン 撮影装置
KR100227679B1 (ko) * 1994-06-15 1999-11-01 유무성 카메라의 피사계 심도 단계별 연속 촬영 장치 및 그 방법
US6542180B1 (en) 2000-01-07 2003-04-01 Mitutoyo Corporation Systems and methods for adjusting lighting of a part based on a plurality of selected regions of an image of the part
JP4277452B2 (ja) * 2000-02-25 2009-06-10 ソニー株式会社 記録装置、再生装置
EP1379641B1 (en) * 2000-12-20 2005-06-29 ALTANA Pharma AG Process for the production and purification of secreted proteins and the production of arrays of proteins
US20020180973A1 (en) * 2001-04-04 2002-12-05 Mackinnon Nicholas B. Apparatus and methods for measuring and controlling illumination for imaging objects, performances and the like
US7889275B2 (en) 2003-01-28 2011-02-15 Microsoft Corp. System and method for continuous flash
US20040207743A1 (en) 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
JP4127521B2 (ja) * 2003-05-20 2008-07-30 富士フイルム株式会社 ディジタル・カメラおよびその制御方法
US8363951B2 (en) 2007-03-05 2013-01-29 DigitalOptics Corporation Europe Limited Face recognition training method and apparatus
JP2005225025A (ja) * 2004-02-12 2005-08-25 Konica Minolta Holdings Inc 顔画像処理システム
US7247056B2 (en) * 2004-09-27 2007-07-24 Lockheed Martin Corporation Rugged, removable, electronic device
JP4519708B2 (ja) 2005-05-11 2010-08-04 富士フイルム株式会社 撮影装置および方法並びにプログラム
US7663691B2 (en) * 2005-10-11 2010-02-16 Apple Inc. Image capture using display device as light source
CN101346082B (zh) 2005-12-23 2012-03-21 皇家飞利浦电子股份有限公司 用于商店的展示系统的颜色匹配
JP4533860B2 (ja) 2006-03-09 2010-09-01 富士フイルム株式会社 撮影装置及び露出制御方法
JP4432054B2 (ja) * 2006-06-20 2010-03-17 富士フイルム株式会社 撮像装置及び方法
US8285006B2 (en) 2007-04-13 2012-10-09 Mira Electronics Co., Ltd. Human face recognition and user interface system for digital camera and video camera
KR101357776B1 (ko) * 2007-04-25 2014-02-05 삼성전자주식회사 설정정보 변경이 용이한 촬영장치 및 그 제어방법
RU2497317C2 (ru) * 2007-11-06 2013-10-27 Конинклейке Филипс Электроникс Н.В. Система управления светом и способ автоматического предоставления сцены освещения
KR101411318B1 (ko) 2007-12-12 2014-06-25 삼성전자주식회사 디지털 영상 처리장치 및 그 제어방법
TWI401522B (zh) * 2008-12-31 2013-07-11 Altek Corp Flash intensity adjustment method
FR2942404B1 (fr) 2009-02-23 2011-08-26 Oreal Procede de photomaquillage utilisant une composition photochromique a l'etat deja revele
US8081216B2 (en) 2009-03-26 2011-12-20 Hong Kong Science and Technology Research Institute Co., Ltd. Lighting control system and method
US20100317398A1 (en) * 2009-06-10 2010-12-16 Ola Thorn Camera system and method for flash-based photography
HUP1000183D0 (en) 2010-04-07 2010-06-28 Naturen Kft Controlling multicolor lighting based on image colors
EP2583537B1 (en) * 2010-06-17 2015-07-08 Koninklijke Philips N.V. Display and lighting arrangement for a fitting room
JP5819431B2 (ja) 2010-10-15 2015-11-24 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 照明システムを制御する方法及びユーザ対話システム、持ち運び可能な電子デバイス並びにコンピュータプログラム
EP2515526A3 (en) 2011-04-08 2014-12-24 FotoNation Limited Display device with image capture and analysis module
US8848029B2 (en) 2011-05-27 2014-09-30 Microsoft Corporation Optimizing room lighting based on image sensor feedback
US9513724B2 (en) * 2011-08-30 2016-12-06 Blackberry Limited Device and method for adjusting object illumination
KR20130051576A (ko) 2011-11-10 2013-05-21 삼성전자주식회사 시인성 최적화 방법 및 시스템과, 이를 기반으로 운용되는 단말기
US8953094B2 (en) 2011-11-10 2015-02-10 Apple Inc. Illumination system
US8922673B2 (en) 2011-12-21 2014-12-30 Xerox Corporation Color correction of digital color image
JP6188319B2 (ja) * 2012-02-01 2017-08-30 キヤノン株式会社 発光システム、発光制御装置及びその制御方法、プログラム、記憶媒体
WO2013157368A1 (ja) * 2012-04-16 2013-10-24 オリンパスメディカルシステムズ株式会社 撮像システム、撮像方法

Also Published As

Publication number Publication date
US20170078562A1 (en) 2017-03-16
EP3140982A1 (en) 2017-03-15
RU2016147374A3 (ja) 2018-12-11
CN106664360A (zh) 2017-05-10
ES2692412T3 (es) 2018-12-03
US11172119B2 (en) 2021-11-09
RU2689124C2 (ru) 2019-05-24
WO2015169619A1 (en) 2015-11-12
JP2017520144A (ja) 2017-07-20
EP3140982B1 (en) 2018-08-29
RU2016147374A (ru) 2018-06-05
CN106664360B (zh) 2019-11-26

Similar Documents

Publication Publication Date Title
CN105744174B (zh) 一种自拍方法、装置及移动终端
JP5161228B2 (ja) 環境照明システム又は一般照明システムのための色変換方法
US10120267B2 (en) System and method for re-configuring a lighting arrangement
JP6224822B2 (ja) 毛髪コンサルテーションツール装置及び方法
US10681317B2 (en) Color correction method, system, and computer-readable medium
TW201502685A (zh) 相機裝置以及閃光燈控制方法
CN104243793B (zh) 具影像辨识机制的摄像装置及方法
WO2016073523A2 (en) Systems and methods for high-dynamic range images
JP6626841B2 (ja) カメラ及びスクリーンを備える装置
TW201515472A (zh) 基於人類視覺系統的光度補償系統
JP5824423B2 (ja) 照明光色推定装置、照明光色推定方法及び照明光色推定プログラム
US20230332764A1 (en) Method and apparatus, electronic device and storage medium for controlling flashing color lamps
CN108419024B (zh) 一种摄像系统及摄像补光方法
US11960193B2 (en) Backdrop rear-illumination apparatus, an active green screen and a method for dynamic backdrop rear-illumination
WO2018000154A1 (zh) 一种智能终端拍照方法
CN102377928A (zh) 摄像设备及其控制方法
US20210378076A1 (en) Creating a combined image by sequentially turning on light sources
WO2022271161A1 (en) Light compensations for virtual backgrounds
CN218920468U (zh) 一种背景后照明装置及活动绿屏
Lluis-Gomez et al. A novel colour management system for image signal processors in commercial digital cameras
JP6523908B2 (ja) コード読取装置、コード読取方法、およびプログラム
CN117424970A (zh) 灯光控制方法、装置、移动终端及存储介质
Okuro et al. CICS/PUI: Color-lighting and illuminance control system using paper UI
US20180227557A1 (en) Color corrected images for projectors

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170609

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191202

R150 Certificate of patent or registration of utility model

Ref document number: 6626841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250