JP2009535865A - 露光を制御するためのシステム、方法、および装置 - Google Patents

露光を制御するためのシステム、方法、および装置 Download PDF

Info

Publication number
JP2009535865A
JP2009535865A JP2009501687A JP2009501687A JP2009535865A JP 2009535865 A JP2009535865 A JP 2009535865A JP 2009501687 A JP2009501687 A JP 2009501687A JP 2009501687 A JP2009501687 A JP 2009501687A JP 2009535865 A JP2009535865 A JP 2009535865A
Authority
JP
Japan
Prior art keywords
image
pixels
exposure control
pixel
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009501687A
Other languages
English (en)
Inventor
クアン、シュシェ
チウ、チンチュアン・アンドリュー
ジャン、シャオユン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2009535865A publication Critical patent/JP2009535865A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only
    • H04N1/628Memory colours, e.g. skin or sky
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Exposure Control For Cameras (AREA)
  • Color Image Communication Systems (AREA)
  • Image Analysis (AREA)
  • Image Input (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

実施形態は、画像の画素が色にしたがって分類される画像処理方法を含む。露光制御動作は、この画素分類に従って実行される。一例において、画素は、色空間の予め定めた区分にしたがって、予測されたセンサ応答に基づいて分類される。別の例において、画素は、少なくとも2つの色から選択された色にしたがって分類される。

Description

本発明は、画像処理に関する。
カメラまたはその他のイメージング装置または画像処理装置にとって、幾つかの種類の露光制御動作を実行することが普通である。画像キャプチャ中、例えば、シーン内で明瞭に輝く範囲が、装置内のイメージ・センサ(例えば、CCD(電荷結合素子)またはCMOS(相補性金属酸化膜半導体))または感光性物質(例えば、写真フィルムまたは紙)のダイナミック・レンジに一致するように露光制御動作が実行される。そのような動作は、装置のシャッター速度および/またはレンズ・アパチャ停止を変えることを含む。
幾つかの異なる測光モードに従った露光制御動作が知られている。そのような1つのモードは、フレーム平均露光制御である。ここでは、シーンまたは画像の平均輝度レベルに従って露光制御される。もう1つの露光制御の測光モードは、中心重み付け露光制御である。ここでは、露光制御が、シーンまたは画像の中心領域の輝度レベルに従って重み付けられる。
撮影されているシーンが1または複数の人を含む場合、あるいは処理されている画像が、1または複数の人々の肖像写真またはその他の描写である場合、既存の露光制御方法は、次善の結果をもたらす。例えば、フレーム平均スキームは、人が強調される場合には明るすぎ、人がバックライト照明される場合には暗すぎるように人の画像を生成する。
写真は、興味のある主要な対象(例えば、人の顔)が、中心を外して位置している場合に、より美しく気持ち良く現れるかもしれない。そのような対象の1つの好適な配置は、垂直寸法および/または水平寸法に沿った何れかの端から離れ、寸法内の画像のサイズの約61.8%からなる距離における黄金比(Golden Ratio)に従う。このように構成されるシーンまたは画像と共に使用される場合、中心重み露光制御スキームは、興味のある主要な対象が、不適切に露光されるという結果をもたらす。
例えば人間の顔のように、興味のある主要な対象が、適切に露光される画像を得ることが望ましい。
発明の概要
1つの実施形態に従う画像処理方法は、色空間の予め定めた区分に従って、画像の複数の画素の各々を分類することを含む。この方法はまた、複数の画像の各々を分類した結果に基づいて、露光制御動作を実行することを含む。画像は、センサによってキャプチャされた生の画像に基づいており、色空間の予め定めた区分は、センサの予測された複数の応答に基づく。
別の実施形態による露光制御装置は、生の画像をキャプチャするように構成されたセンサと、色空間の予め定めた区分に従って、生の画像に基づいて画像の画素を分類するように構成された画素クラシファイヤとを含む。この装置はまた、画素分類に基づいて、露光制御動作を実行するように構成された露光コントローラを含む。色空間の予め定めた区分は、センサの複数の予測された応答に基づく。
他の実施形態に従った画像処理方法は、少なくとも2つの異なる色から色を選択することと、この選択された色に従って、画像の複数の画素の各々を分類することとを含む。この方法はまた、複数の画素の各々を分類した結果に基づいて、露光制御係数を計算することと、露光制御係数に従って、画像の複数の画素の各々の輝度値を変えることとを含む。
別の実施形態にしたがった露光制御装置は、少なくとも2つの異なる色から選択された色に従って、画像の画素を分類するように構成された画素クラシファイヤを含む。この装置はまた、画素分類に基づいて露光制御係数を計算し、露光制御係数に従って、画像の複数の画素の各々の輝度値を変えるように構成された露光コントローラを含む。
詳細な説明
実施形態は、予測されたセンサ応答に基づいて露光制御動作を実行するように構成された装置、方法、およびシステムを含む。実施形態は更に、選択された色に基づいて露光制御動作を実行するように構成された装置、方法、およびシステムを含む。
本明細書で記述された実施形態の応用は、適応性のある露光補正、および皮膚色を優先した適応性のある露光制御を含んでいる。例えば、少なくとも幾つかの実施形態は、利用可能な範囲の中心の輝度レベルを用いて、画像のうちの最も重要な領域の再生を可能にするために適用される。
本明細書で開示された原理は、2005年8月18日に出願され、その出願の開示全体が、あたかも本明細書で明確に再現されたかのように参照によって本明細書に組み込まれている、"SYSTEMS, METHODS, AND APPARATUS FOR IMAGE PROCESSING, FOR COLOR CLASSIFICATION, AND FOR SKIN COLOR DETECTION"と題され、本願とともに譲渡された同時係属中の米国特許出願11/208、261号に開示された動作、要素、および構成と連携して用いられうることが明らかに考慮される。
図1aは、実施形態に従った露光制御方法N100のフローチャートを示す。タスクU110は、色空間の予め定めた区分に従って、画像i150(図4a)の画素を分類する。タスクU120は、画素分類に基づいて露光制御動作を行なう。
図4aの画像i150は、例えばCCDアレイまたはCMOSアレイのような画像センサによってキャプチャされた生の画像i110に基づく。画像i150は、例えば、デモザイク、ホワイト・バランス、ブラック・クランピング、ガンマ補正、色補正、および/または色変換のような処理動作を実行することによって生の画像i110から取得されうる。そのような動作の例、それらを含む構成、およびそれらを実行するように構成された装置は、米国特許出願11/208,261号に記載されている。幾つかの場合、1または複数のそのような動作は、画像センサ内で実行されうる。
少なくとも幾つかの処理動作は、(A)画像の区分化によって記述されるブロックまたはゾーンにわたったパラメータの平均値を計算することと、(B)これら平均値の1または複数に基づいて、画像に適用されるグローバル値を計算することとを含む。例えば、生の画像i110を画像i150へ処理することは、オートフォーカス、露光制御、および/またはホワイト・バランス動作を実行することを含み、それらのうちの1または複数は、画像の区分化に従って実行されうる。
生の画像i110を処理することは、その画素が次のタスクにおいて高い信頼性で分類される画像i150を得るために重要でありうる。例えば、画像i150を得るために、予備的な露光制御動作を実行することが望ましいかあるいは必要とされうる。この露光制御動作は、フレーム平均化または中心重み付けがなされ、画像の各画素(のRGB(赤、緑、青)値の各色値、あるいは、YCbCr(lumaおよびchroma)値の輝度値)に適用されるゲイン係数を計算することによって実施される。
幾つかの構成では、露光制御動作は、上述したような画像の区分化に従って、ゲイン係数を計算することを含む。そのような場合、動作は、画像の特定領域(例えば、中心)、または画像における各ブロックの平均輝度値を計算することと、これら平均値のうちの1または複数に基づいて(例えば、これら平均値の平均値に基づいて)ゲイン係数を計算することとを含みうる。ゲイン係数は、ガンマ補正演算を実行する前に計算されうる。この場合、ゲイン係数は、画像または選択された領域にわたって、256レベルのうちの約50レベル(またはその等価物)まで平均輝度レベルをスケールするように選択されうる。あるいは、ゲイン係数は、ガンマ補正演算を実行した後に計算される。この場合、ゲイン係数は、画像または選択された領域にわたって、256レベルのうちの約110レベル(またはその等価物)まで平均輝度レベルをスケールするように選択される。
処理動作はまた、例えば、2005年11月8日に出願され、"SKIN COLOR PRIORITIZED AUTOMATIC FOCUS CONTROL VIA SENSOR-DEPENDENT SKIN COLOR"と題され、譲渡された米国仮出願60/734,992号に記述されたような焦点制御動作をも含む。幾つかの場合、露光制御動作および/または焦点制御動作の結果に従って、カメラまたはその他の画像装置を再構成し、新たな構成に従って生の画像i110を再キャプチャすることが望ましい。
本明細書に組み込まれた米国特許出願11/208,261に開示したように、画像i150を得るために生の画像i110を処理することは、ガンマ補正演算を行なうことを含みうる。そのような動作は、例えば、RGB画素値の各成分を補正することによって、主要な色空間の画素色値を補正するように構成されうる。あるいは、そのような動作は、例えばYCbCr画素値の輝度成分を補正することによって、輝度クロミナンス色空間内の画素色値を補正するように構成されうる。
ガンマ補正演算は、一般に、入力値の検出力関数(power function)に基づく。一例では、出力値yは、式y=mx1/gに従って、対応する入力値xから計算される。この例において、gはガンマ補正係数(1つの典型的な値は2.2である)を示し、mは、所望の出力範囲に従って選択されるマッピング定数を示す。
従来の検出力関数の代わりに、実施形態は、対数関数に従ってガンマ補正演算を実行するように構成されうる。そのような関数を含む式の一例はy=mlogxである。ここでmは、所望の出力範囲に従って選択されるマッピング定数を示す。特に、基底数2の対数を用いるそのような関数は、一般に、検出力関数よりも少ない計算費用で計算することが可能である。図2は、関数の各タイプのプロット例を示す。ここで、対数関数はy=32logxであり、検出力関数はy=2550.550.45である。幾つかの場合において、ガンマ補正演算の計算の複雑さ、および/または、プロセッサ・サイクル、および/または、そのような演算によって使用される記憶空間は、例えば区分線形実施のような1または複数の線形関数または多項式関数を用いて、ガンマ補正関数の全てまたは一部を近似することによって低減されうる。
本明細書に組み込まれている米国特許出願11/208,261で開示されているように、画像を1つの色空間から別の色空間へと変換することは望ましい。例えば、処理、符合化、および/または圧縮のために、画像を、センサの元々の色空間(例えばRGBまたはsRGB)から、例えばYCbCrのような色空間に変換することが望ましいかもしれない。そのような変換を実行するために、以下の式に示すような変換行列が適用されうる。
Figure 2009535865
主要な色空間(例えば、RGB、sRGB)と、輝度クロミナンス空間(例えばYCbCr、YPbPr)との間の変換のための幾つかの類似の周知の行列(例えば、ITU−R BT.601、ITU−R BT.709)のうちの何れか、またはそのような行列の等価物もまた使用されうる。
更なる例では、以下の式に示すように、単純化された変換行列が使用されうる。
Figure 2009535865
この行列の潜在的な1つの長所は、実施形態に従った方法の幾つかの固定小数点実施のために、係数1/2と1/4とが1ビットおよび2ビットの右シフトとして実施されるので、いかなる乗算を行うこともなく適用できることである。
以下の式は、シフトを用いて実行される別の色空間変換を表す。
Figure 2009535865
別の例では、上記2つの簡略化された変換のうちの何れかが、以下の式に従ってYを計算するために修正される。
Figure 2009535865
タスクU110は、色空間の予め定めた区分にしたがって、画像i150の画素を分類する。区分は、所望の色範囲(例えば、人間の皮膚色)を示す1つの範囲によって記述されうる。この場合、タスクU110は、各画素を、その色値が範囲の内側にあるか外側にあるかにしたがって、「一致」クラスおよび「不一致」クラスのうちの1つに割り当てる。もしあるのであれば、範囲上に色値を持っている画素は、設計選択によって1つのクラスあるいは他のクラスに割り当てられる。
あるいは、区分領域が多くの範囲によって記述されうる。特に、タスクU110は、組み込まれている米国特許出願11/208,261に記載されているように、輝度レベルの異なる範囲内の単一の区分領域を記述するために、CbCr平面内の異なる区分領域(省略)を使用することができる。そのような場合、タスクU110は、各画素を、そのCbCr値が適切な範囲の内部にあるか外部にあるかにしたがって、一致クラスまたは不一致クラスのうちの1つに割り当てる。
典型的な実施では、タスクU110(図1a)は、各画素の分類結果を示すマップi160(図4a)を生成するように構成される。画素分類マップi160は、画像i150の対応する画素の色値が所望の区分領域内にあるかを示す(言い換えれば、画素が割り当てられたクラスを示す)2進数値を、このマップの各要素が有することができるように、2進数でありうる。
あるいは、タスクU110は、その要素が非2進数値を有する画素分類マップを生成するように実現されうる。そのようなマップの一例では、各要素が、画像i150の対応する画素の色値と、対応する区分化基準との間の一致の程度を示す。この一致の程度は、画素の色値と、所望の色値あるいは範囲との間の距離に基づきうる。例えば、この距離は、一致の程度を計算するために、あるいは、一致の程度をテーブルから検索するために使用されうる。
あるいは、一致の程度は、同心状領域を示し、対応する画素値が中にある、2またはそれ以上の区分化範囲のうちの何れかによって示される。そのような場合、タスクU110は、各画素を、2より多いクラスのうちの1つへ割り当てる。ここで、各クラスは、別の区分領域および対応する一致の程度に対応している。
画像i150よりも少ない要素を有する画素分類マップを生成するようにタスクU110を構成することが望ましい場合がある。タスクU110は、画像i150のうちの1つよりも多くの画素に対応する領域の色値を分類することによって、そのようなマップを生成するように構成されうる。これらの領域は、重複しているかもしれないし、していないかもしれない。一例では、タスクU110は、3×3画素からなる重複していない領域の平均色値を分類するように構成される。この場合、結果として得られる画素分類マップは、画像i150の約1/9の要素しか有さない。別の例では、5×5画素からなる重複していない領域が使用される。
画像i150よりも少数の要素しか有さない画素分類マップを生成するように構成された別の構成では、画像i150を得るための生の画像i110の処理は、画素分類タスクU110がより小さな画像について実行できるように、画像をより小さなサイズにスケールすることを含む。そのような場合、処理目的のみのために、縮小されたサイズの画像を使用すること、および、結果として得られる露光制御動作を、オリジナル・サイズの画像について実行することとが望まれうる。
タスクU110が、生の画像i110をキャプチャするために使用される画像センサの1または複数の特性に基づく区分化にしたがって画素分類を実行することが望まれうる。センサ特性は、組み込まれた米国特許出願11/208,261に記載されている。米国特許出願11/208,261はまた、予測されたセンサ応答の1または複数のセットに基づいて区分を取得し、それを人間の皮膚の色に適用するように構成されたシステム、方法、および装置を開示している。
1より多い代替例の中からタスクU110に適用される区分化を選択することが望まれうる。例えば、タスクU110は、生の画像i110に示されるシーンの光源にしたがって、幾つかの異なる区分から1つを選択するように構成されうる。組み込まれている米国特許出願11/208,261号は、シーンの光源を識別するための技術を開示している。
タスクU120は、画素分類マップに基づいて、露光制御動作を実行する。この露光制御動作は、1または複数の露光制御係数を計算し、画像のキャプチャ中、および/または、キャプチャされた画像の処理中にこれらを適用することによって、実施されうる。タスクU120は、画像i150、次の画像、および/または、1より多い次の画像(例えば、ビデオ・ストリーム)について露光制御動作を実行するように構成されうる。
一例において、タスクU120は、画像のキャプチャ中に使用される露光制御係数を選択、算出、あるいは計算して、例えば、シャッター速度および/または画像センサ(例えば、CCDまたはCMOSアレイ)の感度、レンズ・ダイアフラムのアパチャ停止または絞り、および/またはAGC(自動ゲイン制御)回路のゲインのような装置の局面を制御する。あるいは、またはそれに加えて、露光制御動作は、装置のストロボまたはLED(発光ダイオード)のフラッシュ照明動作を制御することを含むことができる。また、フラッシュ照明動作は、例えば焦点制御動作中に取得された距離情報に基づきうる。
別の例では、タスクU120は、画像処理中に使用され、例えば、画像全体の輝度レベルを変えるために適用されるゲイン係数のような露光制御係数を選択、算出、あるいは計算する。そのような動作は、画像の特定の部分(例えば、人間の皮膚の色、または選択された別の色)を良く見えるようにするため、および/または、画像内の輝度レベルの範囲を、所望のダイナミック・レンジ(例えば、ディスプレイのダイナミック・レンジ)に一致させるために実行されうる。この種の露光制御動作は、画像の色チャネルまたは輝度チャネルに適用されるゲイン係数を変えることを含む。
タスクU120は、画像の区分化にしたがって露光制御係数を計算するように構成されうる。図1bは、露光制御タスクU120のそのような実施U220を含む方法N100の実施N200のフローチャートを示す。タスクU220は、画素分類マップに基づいて画像i150のブロックを分類するタスクU222と、このブロック分類に基づいて露光制御動作を実行するタスクU224とを含む。
タスクU222は、区分化によって記述される画像i150のブロックを分類する。一般的な例では、区分化は、重複しない8×8アレイ、または16×16アレイのブロックを記述するグリッドに従って画像i150を区分する。各ブロックは、約100×100画素のサイズを有する。しかしながら、他のグリッドあるいはブロック・サイズが使用されてもよい。各ブロックは同じサイズを有する必要は無く、重複ブロックを含む区分化も可能である。生のキャプチャ画像から画像i150を取得するために区分化が使用される場合、タスクU222は、同じ区分化を用いるように構成されうる。
タスクU222は、画素分類マップの対応する領域で示されたクラス・メンバシップにしたがって各ブロックを分類する。各画素が、一致クラスまたは不一致クラスの何れかに割り当てられる典型的な場合、タスクU222は、一致クラスに割り当てられた画素の数(または割合)を決定し、かつ、その値をしきい値と比較することによって、各ブロックを分類するように構成される。その値がしきい値を越えるブロックは、2つのクラスのうちの1つ(「支配的な」クラス)に割り当てられ、その値がしきい値未満であるブロックは、その他のクラス(「非支配的な」クラス)に割り当てられる。もしあれば、その値がしきい値に等しいブロックが、設計選択にしたがって支配的または非支配的として分類される。その他任意の適切な値を使用することが可能であるが、しきい値の一般的な値は、半分(例えば、ブロック内の画素の合計数の半分)であり、ブロックは、半分未満のしきい値が使用される場合でさえ、支配的であるとして分類されることもできる。
他の実施では、ブロックが、比較的支配的な2より多いクラスのうちの1つに割り当てられるように、1より大きいしきい値が使用されうる。画素が、2より多い区分クラスのうちの1つに割り当てられる場合、タスクU222は、これらクラスのうちの2またはそれ以上のうちの何れかに属するブロックの画素の数(または割合)の重み付けられた結合として一致度合いを計算し、単数または複数のしきい値をこの度合いと比較するように構成されうる。
タスクU224は、ブロック分類に基づいて、露光制御係数を計算する。一般的な例では、タスクU224は、例えば支配的なブロックの平均輝度値のような支配的なブロックの1または複数の特性に基づいて露光制御係数を計算するように構成される。他の実施では、タスクU224は、非支配的なブロックの1または複数の特性にも基づいて露光制御係数を計算するように構成される。
図3aは、タスクU322、U324、およびU326を含むタスクU224の実施U320のフローチャートを示す。タスクU322は、支配的なブロック各々の平均輝度値を計算する。この平均は一般に、ブロック内の画素の平均(例えば、中間またはメジアン)Y値として計算されるが、RGB画素値からも計算されうる。他の実施では、タスクU322は、1または複数の非支配的ブロックの平均輝度値をも計算するように構成される。そのような場合、タスクU322は、画像の特定領域(例えば、中心)および/または特定の非支配的クラスにおける各非支配的ブロックの平均輝度値を計算するように構成される。あるいは、タスクU322は、画像内の各ブロックの平均輝度値を計算するように構成されうる。
支配的なブロックの平均輝度値に基づいて、タスクU324は、全体的な平均輝度値を計算する。一般的な例では、タスクU324は、支配的なブロックの平均輝度値の平均(例えば、中間またはメジアン)として、全体的な平均輝度値を計算するように構成される。
他の実施では、タスクU324は、非支配的なブロックの平均輝度値に基づいて、全体的な平均輝度値を計算するように構成される。例えば、タスクU324は、以下の2つの式のうちの1つに従って全体的な平均輝度値を計算するように構成される。
Figure 2009535865
ここで、avgoverallは、全体的な平均輝度値を示し、avgは、支配的なブロックの平均輝度値の平均を示し、avgは、計算において参照されている非支配的なブロックの全ての平均輝度値の平均を示し、avgは、計算において参照されているブロックの全ての平均輝度値の平均を示し、w、wはそれぞれ重み係数を示す。幾つかの実施では、wとwとの比は、装置のユーザによって調節可能である。
各ブロックが2より多いクラスのうちの1つに割り当てられる実施の場合、タスクU324は、例えば以下のような式に従って全体的な平均輝度値を計算するように構成される。
Figure 2009535865
ここでavgは、計算において参照されているクラスiのブロックの平均輝度値の平均を示し、wは、クラスiの重み係数を示す。一般に、より大きな重み係数は、より高い一致度を持つクラスに使用される。
全体的な平均輝度値と、所望される目標輝度値との関係に基づいて、U326は、露光制御係数を計算する。例えば、タスクU326は、全体的な平均輝度値に対する目標輝度値の比として、露光制御係数を計算するように構成される。目標輝度値の一般例は、256レベルのうちの50、55、および60(あるいはそれらと等価な)レベルを含む。
図3bは、タスクU320の実施U330を示すフローチャートを示す。これは、露光制御係数を適用するように構成されたタスクU328を含む。一例において、タスクU328は、画像i150の各画素の輝度値に、露光制御係数を乗じるように構成される。別の例において、タスクU328は、画像キャプチャ動作中に、例えば、アパチャ、シャッター速度、センサ感度、および/または、フラッシュ強度のようなパラメータを制御するために露光制御係数を適用するように構成される。
図4aおよび図4bは、方法N100の実施に従ったシーケンスの1つの例を示す。生の画像i110が、画像センサによってキャプチャされる。本明細書で記述されるような処理動作は、生の画像i110から画像i150を取得するために実行される。例えばタスクU110のような画像分類動作が、画素分類マップi160を生成するために画像i150について実行される。この例では、対象の露出された顔および上げられた手に対応する画素が、一致クラスに割り当てられる。画素分類マップi160および画像i150の区分化に従って、例えばタスクU220のようなブロック分類動作が実行される。ブロック分類に基づいて、露光制御係数が生成される。そして、この係数は、露光調節された画像i170を得るために画像i150に適用される。
他のアプリケーションでは、人間の皮膚の色ではない色に従って、画像i150の画素を分類することが望まれうる。例えば、木および/または草のような葉の緑、空や水の青、あるいは動物、花、またはその他興味のある物体の色を選択することが望まれうる。図5aは、興味のある色を選択するタスクU310を含む他の実施形態に従った方法N300のフローチャートを示す。タスクU310は、例えば2またはそれ以上の異なる色のパッチを表すテーブルから、興味のある色を選択することを含みうる。
あるいは、タスクU310は、画像i150自体から興味のある色を選択することを含みうる。例えば、実施形態に従った装置は、画像i150を(例えば、LCD(液晶ディスプレイ)スクリーンに)表示し、オペレータが、マウス、4方向ナビゲーション・キーまたはジョイスティック、あるいはその他の入力デバイスを用いて、画像の小領域をインタラクティブに選択することを可能にする。選択領域のサイズは、(例えば、3×3画素または5×5画素に)プリセットされているか、1より大きなサイズからユーザ選択可能であるか、あるいはユーザ設定可能でありうる。そのような装置は、その領域内の平均色を計算し、その色の指定範囲にしたがって画素分類タスクU110を実行するように構成されうる。この装置はまた、一致する色のブロックをオペレータに対して表示するようにも構成されうる。
タスクU315は、選択された色に従って、画像i150の画素を分類する。区分は、選択された色の周囲の領域を示す単一の範囲によって記述されうる。あるいは、区分領域は、対応する異なる輝度レベル範囲のCbCr平面内の異なる区分化範囲のような複数の範囲によって記述されうる。区分範囲のサイズおよび/または形状は、例えば半径のように、予め設定された、選択可能な、および/または、ユーザ調節可能な1または複数のパラメータによって特徴付けられる。一つの例において、区分範囲は、選択された色値の周りの半径5画素の球によって定義されうる。異なる区分範囲を用いることとは別に、タスクU315は、対応する画素分類マップを生成するために、上述したタスクU110と同じ方式で、および同じ代替構成のうちの何れかを用いて実行される。
図5bは、上述したタスクU120の実施U220を含む実施形態に従った方法N400のフローチャートを示す。そのような方法はまた、上述したようなタスクU220の実施U320またはU330を含むように構成されうる。
画素分類タスクU110またはU315のパフォーマンスは、画像i150内の画素が非常に高い輝度値または非常に低い輝度値を持つ場合に低下する。例えば、非常に高い輝度値または非常に低い輝度値を持つRGB値から導出されるクロミナンス情報は、信頼性が低く、誤った画素分類に至る可能性がある。更なる実施形態に従った方法では、この場合、露光調節された画像(またはこの画像に基づく画像)について、タスクU110(またはU315)およびU120が繰り返される。そのような方法は、オリジナル画像において一致した画素の平均輝度値が過度に高いか低いのであれば、あるいは、極端に高いか低いかの何れかに近い輝度値を持つ一致画素の割合が、あるしきい値を満足しているか、あるいは超えているのであれば、そのような繰り返しを開始するように構成されうる。
方法N100、N200、N300またはN400の中間結果または最終結果は、その他の処理動作において使用されうる。例えば、画素分類マップまたはブロック分類マップは、ホワイト・バランス動作を調節するためにも使用される。そのような調節は、特に、画像内のそのような画素の数が、しきい割合よりも大きい場合(あるいは、画像内のそのようなブロックの数が、しきい値を超えている場合)、ホワイト・バランス動作中に、考慮から、選択された色(例えば、人間の皮膚の色)の画素を除くことを含む。そのようなマップが使用されうるその他の動作は、自動焦点制御動作を含む。
方法N100、N200、N300あるいはN400の潜在的な1つの長所は、調節された画像内の皮膚の色(またはその他の選択された色)の適切な輝度を与えることである。例えば、そのような方法は、異なる背景の前で撮影された肖像写真に、より調和した皮膚の色の輝度を与える。別のアプリケーションでは、この方法が適用されるか、あるいは、リサイズ動作または再合成動作(例えば、光学またはデジタル・ズーム動作)の後に再適用される。そのような方法の実施形態は、このように、皮膚の色の輝度(またはその他の選択された色)を、その色範囲が画像のうちのある程度を比例的に占有する適切なレベルに維持するために使用されうる。
フレーム平均制御あるいは中心重み付け露光制御の1つの一般的な結果は、画像のほとんど(あるいは中心領域)を占有する非常に明るいまたは非常に暗い背景が、灰色として不適切に再現されることである。方法N100、N200、N300、またはN400の別の潜在的な長所は、そのような背景の輝度が、オリジナルのシーンの背景の輝度をより正確に描く、調節された画像を生成することである。
方法N100の更なる実施では、1または複数のエンハンスメント動作が、ブロック分類のために使用される前に、画素分類について実行される。例えば、斑点またはその他のノイズを除去するために、画素分類マップを処理することが望まれうる。図6aおよび図6bは、方法N100およびN300それぞれの実施N500およびN600のフローチャートを示す。これらは、画素分類についてノイズ低減動作を実行するように構成されたタスクU117を含む。これらの例において、タスクU120の実施U120aは、ノイズ低減された画素分類に基づいて露光制御動作を行なうように構成される。
一例において、タスクU117は、画素分類マップに平均化フィルタを適用する。図7aは、適切な方法で取り扱われるマップ境界に沿った領域を用いて、そのようなフィルタを実施するために使用される畳み込みマスクの幾つかの形状(3×3サイズ画素の正方形、5×5サイズ画素の正方形、および十字形)を示す。
2進数の画素分類マップの場合、タスクU117は、画素分類マップにモード・フィルタを適用するように構成されうる。そのようなフィルタは、画素の値を、画素の近隣の最も一般的な値と交換するように構成された畳み込みマスクとして実施されうる。例えば、3×3マスクの場合、そのようなフィルタは、以下の式によって実施されうる。
Figure 2009535865
ここで、iおよびjは行番号および列番号をそれぞれ示し、fおよびgはオリジナルの画素分類およびノイズが低減された画素分類をそれぞれ示す。
別の例では、ノイズ低減タスクU117の実施U217は、画素分類マップについて領域ラベリング動作を実行する。そのような動作は、2進数の画素分類マップについて、あるいは、その他の制限されたクラスを有する画素分類マップについて実行されうる。図7bは、タスクU217のフローチャートを示す。ここではタスクU227が、画素分類マップの接続成分にラベル付けし、タスクU237が、成分サイズとしきい値との間の関係に従って、成分のラベルを変える。
一般的な例では、タスクU237は、しきい値未満のサイズを有する(あるいは、しきい値を超えないサイズを有する)成分のラベルを変えるように構成される。この成分のサイズは、成分内の画素数や成分の最小寸法のように、その特性がタスクU237によって計算されうる特性によって示されうる。タスクU217は、一致した画素を含む接続成分のみについて、あるいは、接続成分の全てについて、タスクU237を実行するように構成されうる。
タスクU227は、周知のあるいは開発される任意の接続成分アルゴリズムを適用するように構成されており、近隣の4つの接続、8つの接続、あるいはその他幾つかの判定基準を使用することができる。そのようなアルゴリズムの一般的な二部構成の例は、以下のように進む(マップの境界に沿った特別な場合を除く)。パート(I)。先頭から最後までの各行iについて、左から右までの各列jについて、要素f(i,j)について以下の動作を実行する。要素f(i、j)の値が1である場合、A)4つ全ての以前に訪れた8接続近隣のf(i,j)の値が0であれば、新たなラベルをf(i,j)に割り当て、B)そうではなく、これら近隣のうち1つのみが1を有するのであれば、そのラベルをf(i,j)に割り当てる。C)そうでないのであれば、値1を有する等価な近隣を記録し、それらのラベルのうちの1つをf(i,j)へ割り当てる。パート(II)。記録された等価な近隣を、等価クラスにソートし、ユニークなラベルを、各等価クラスに割り当てる。次に、マップを再度スキャンして、各ラベルを、その等価クラスに割り当てられたユニークなラベルと交換する。
ノイズ低減動作の計算費用を低減することが望ましい。例えば、例えば領域ラベリングのようなノイズ低減動作を、画素分類マップi160の縮小バージョンについて実行することが望ましい。図8は、マップi160に基づいて縮小されたサイズを有する画素分類マップを生成するノイズ低減タスクU217の実施U317のフローチャートを示す。ノイズ低減動作が、縮小されたマップ上で実行された後、結果として得られるマップは、画素分類マップi160を更新するために使用されるか、あるいは、例えばブロック分類のような1または複数の更なるタスクにおいて、画素分類マップとして使用されうる。この例において、タスクU227の実施U227aは、縮小されたマップの接続成分をラベルするように構成されうる。
タスクU317は、画素分類マップi160の縮小バージョンを生成するように構成されたタスクU327を含む。タスクU327は、マクロブロックを使用して縮小マップを計算するように構成されうる。例えば、2進数画素分類マップの場合、タスクU327は、その要素の各々が、画素分類マップの対応するマクロブロックのモードとなるように、縮小マップを計算するように構成されうる。その他の限定されたクラス数を有する画素分類マップの場合、タスクU327は、その要素の各々が、対応するマクロブロックのモードであるかあるいはメジアンであるように、縮小マップを計算するように構成されうる。
8×8サイズのマクロブロック区分を適用することによって、タスクU317は、500万要素からなる画素分類マップを、約80,000のみの要素からなる縮小マップへ圧縮するために使用される。そのような縮小化は、例えばカメラまたはカメラ付き電話のようなポータブルあるいは組込式デバイスに適用可能な領域ラベル動作を行うために必要とされうる。同様に、幾つかのアプリケーションでは、それぞれの画素が、画像i150の対応するマクロブロックの中間(あるいはメジアン)である縮小サイズの画像について画素分類タスクU110またはU315を実行することが望ましい。
図9は、実施形態に従った装置300のブロック図を示す。センサ110は、例えばCCDセンサやCMOSセンサのような多くの放射応答素子を有する画像センサを含む。プロセッサ310は、例えばマイクロプロセッサ、組込式コントローラ、およびIPコアのような1または複数の論理要素のアレイとして実現されうる。メモリ320は、例えば、半導体メモリ(限定する訳ではないが、動的RAMまたは静的RAM、ROM、および/またはフラッシュRAMを含む)、あるいは強誘電体メモリ、磁気抵抗式メモリ、オブシンスキー効果メモリ、重合体メモリ、あるいは相転移メモリのような記憶素子のアレイとして実現されうる。ディスプレイ160は、LCDパネルまたはOLEDパネルとして実現されるが、特定のアプリケーションに適切な任意のディスプレイが使用されうる。例えば、装置300の実装は、例えばカメラまたはセルラ電話のようなデバイスに含まれる。
命令、画像データ、および/または区分化データを格納可能なメモリ320と連携して、プロセッサ310は、センサ110によってキャプチャされた画像に基づいて、本明細書で開示されたような方法N100、N200、N300、N400、N500、および/または、N600のうちの少なくとも1つの実施を画像について行うように構成される。プロセッサ310はまた、(例えば、ブラック・クランピング、ホワイト・バランス、色補正、ガンマ補正、および/または、色空間変換等のように)本明細書で記載されたように、画像についてその他の信号処理動作を実行するようにも構成されうる。ディスプレイ160は、センサ110によってキャプチャされた画像を、プロセッサ310によって処理されたように表示するように構成される。
図10aは、実施形態にしたがった装置400のブロック図を示す。画素クラシファイヤ150は、本明細書に記載したように、タスクU110またはU315の1または複数の実施にしたがって、画像の画素を分類するように構成される。画素クラシファイヤ150および/または装置400もまた、(例えば、ブラック・クランピング、ホワイト・バランス、色補正、ガンマ補正、および/または、色空間変換等のように)本明細書で記載されたように、画像についてその他の信号処理動作を実行するように構成されうる。露光コントローラ330は、本明細書で記載したようなタスクU120のうちの1または複数の実施に従って、画素分類に基づいて、露光制御動作を実行するように構成される。センサ110によってキャプチャされた画像に基づいており、画素クラシファイヤ150によって実行される画素分類にしたがって処理される画像を表示するようにディスプレイ160が構成される。
画素クラシファイヤ150および露光コントローラ330は、例えば、マイクロプロセッサ、組込式コントローラ、IPコアのような論理素子の1または複数のアレイとして、および/または、そのようなアレイによって実行可能な命令の1または複数のセットとして実施されうる。装置400を含むデバイスまたはシステムに関して、そのようなアレイはまた、例えば、装置400の動作に直接的に関連していない命令のようなその他の命令のセットを実行するために使用されうる。一つの例では、画素クラシファイヤ150および/または露光コントローラ340は、セルラ電話の動作を制御するように構成されたモバイル局チップまたはチップセット内に実装される。
装置300または装置400の別の実施は、センサの光学経路内に1または複数のレンズを含むことができる。これらレンズは、調節可能なアパチャおよび/または焦点機能を含むことができる。装置300または装置400の実施はまた、赤外線阻止フィルタまたは紫外線阻止フィルタを、センサの光学経路に含むこともできる。装置300および/または装置400の実施の範囲は、例えばデジタル・スチル・カメラまたはビデオ・カメラのようなポータブル・デバイスあるいはハンドヘルド・デバイスと、例えばセルラ電話のような1または複数のカメラを含むポータブル通信デバイスとを含む。
図10bは、装置400の実施410のブロック図を示す。区分記憶装置140は、色空間の1または複数の区分を格納する。各区分は、センサ110の予測応答の対応するセットから導かれる。そのような1つまたは複数の区分は、限定される訳ではないが、組み込まれている米国特許出願11/208,261に記載されているような方法M500および/または方法M600の1または複数の実施にしたがって導かれる。区分記憶装置140は、上述するようなメモリ320の一部として実施されうる。画素クラシファイヤ150の実装155は、区分記憶装置140の1または複数の区分に従って、画像の画素を分類するように構成されうる。例えば、画素クラシファイヤ155は、本明細書で記述したようなタスクU110の1または複数の実施にしたがって画像の画素を分類するように構成されうる。
図11aは、装置400の実施420のブロック図を示す。色セレクタ380は、タスクU310に従って選択された色を取得して、対応する区分領域を画素クラシファイヤ158に書き込むように構成される。例えば、色セレクタ380は、ディスプレイ160および入力デバイス(例えば、4方向ナビゲーション・キー)を介して、装置420のユーザによってなされる色選択をサポートするように構成されうる。色セレクタ380は、装置420の論理素子のアレイによって実行可能なソフトウェアおよび/またはファームウェアにおけるインタラクティブなルーチンとして実施されうる。このアレイはまた、画素クラシファイヤ158の命令を実行するようにも構成されうる。画素クラシファイヤ150の実装158は、選択された色に従って、画像の画素を分類するように構成される。例えば、画素クラシファイヤ158は、本明細書で記述されたようなタスクU315の1または複数の実施に従って、画像の画素を分類するように構成されうる。
図11bは、装置400の実施430のブロック図を示す。露光コントローラ330の実装335は、画像ブロック・クラシファイヤ340および計算機350を含む。画像ブロック・クラシファイヤ340は、画素クラシファイヤ150によって生成された画素分類に従って、画像のブロックを分類するように構成される。例えば、画像ブロック・クラシファイヤ340は、本明細書で記載したようなタスクU222の1または複数の実施を行うように構成されうる。計算機350は、画像ブロック・クラシファイヤ340によって生成されたブロック分類に従って、露光制御係数を計算するように構成される。例えば、計算機350は、本明細書で記載したようなタスクU320の1または複数の実施を行なうように構成されうる。画素クラシファイヤ150、画像ブロック・クラシファイヤ340、および計算機350は、マイクロプロセッサ、組込式コントローラ、およびIPコアのような論理素子の1または複数のアレイとして、および/または、そのような単数または複数のアレイによって実行可能な命令の1または複数のセットとして実施されうる。
記述された実施形態の先の紹介は、いかなる当業者も、本発明を製造または使用することを可能にするために提供される。これらの実施形態への様々な変形も可能である。また、本明細書で示された総括的な原理は、他の実施形態にも同様に適用されうる。本明細書で記述されるような方法は、ハードウェア、ソフトウェア。および/またはファームウェアで実現されうる。そのような方法の様々なタスクは、例えば、マイクロプロセッサ、組込式コントローラ、あるいはIPコアのような論理素子の1または複数のアレイによって実行可能な命令のセットとして実行されうる。一例では、1または複数のそのようなタスクが、例えばセルラ電話のようなパーソナル通信デバイスからなる様々なデバイスの動作を制御するように構成されたモバイル局モデム・チップまたはチップセット内での実行のために構成される。
実施形態に従う方法または装置は、露光調節された画像について、例えば、JPEG、PNG、MPEG、またはQuicktimeのような標準的フォーマットに従う符合化または圧縮動作、画像認識、顔認識、あるいはアイデンティティ認証動作、および/または、セルラ電話のようなデバイスからの画像の送信のような1または複数の更なる動作を実行するように構成される。
実施形態は、特定用途向け集積回路へ組み込まれた回路構成として、あるいは、不揮発性記憶装置へロードされたファームウェア・プログラムまたは機械読取可能コードとしてデータ記憶媒体からロードされたから、データ記憶媒体へロードされるソフトウェア・プログラムとして一部または全体がハード・ワイヤ回路として実施される。このようなコードは、例えばマイクロプロセッサまたはその他のデジタル信号処理ユニットのような論理素子のアレイによって実行することが可能である。データ記憶媒体は、半導体メモリ(限定する訳ではないが、動的RAMまたは静的RAM、ROM、および/またはフラッシュRAMを含む)、あるいは強誘電体メモリ、磁気抵抗式メモリ、オブシンスキー効果メモリ、重合体メモリ、あるいは相転移メモリ、あるいは磁気ディスクや光ディスクのようなディスク媒体のような記憶素子のアレイとして実施されうる。又は磁気あるいは光ディスクのようなディスク媒体。
CCDセンサおよびCMOSセンサが本明細書で述べられたが、用語「画像センサ」は、アモルファス・センサおよび水晶シリコン・センサのみならず、その他の材料、半導体、および/または異質接合を用いて生成されたセンサを含む複数の光感知サイトまたは素子を有する任意のセンサを含む。本明細書で開示された原理はまた、例えばカラー・フィルム画像を感光紙に自動印刷する装置、インクジェット・プリンタまたはレーザ・プリンタ、複写機、スキャナ等のようなその他の画像生成装置にも適用可能である。従って、本発明は、上記された実施形態に限定されているとは意図されず、本明細書で何れかの方式で開示された原理および斬新な特徴と一致する最も広い範囲が与えられるべきである。
図1aは、実施形態に従った方法N100のフローチャートである。 図1bは、方法N100の実施N200のフローチャートである。 図2は、ガンマ補正の対数関数と、ガンマ補正の検出力関数(power function)とのプロットを示す。 図3aは、露光制御タスクU224の実施U320のフローチャートを示す。 図3bは、露光制御タスクU320の実施U330のフローチャートを示す。 図4aは、方法N100の実施に従ったシーケンスの一例を示す。 図4bは、方法N100の実施に従ったシーケンスの一例を示す。 図5aは、実施形態に従った方法N300のフローチャートである。 図5bは、方法N300の実施N400のフローチャートである。 図6aは、方法N100の実施N500のフローチャートである。 図6bは、方法N300の実施N600のフローチャートである。 図7aは、平均化フィルタを実現するために使用されうる畳込み演算マスクの幾つかの形状を示す。 図7bは、ノイズ低減タスクU117の実施U217のフローチャートを示す。 図8は、ノイズ低減タスクU217の実施U317のフローチャートを示す。 図9は、実施形態に従った装置300のブロック図を示す。 図10aは、実施形態に従った装置400のブロック図を示す。 図10bは、装置400の実施410のブロック図を示す。 図11aは、装置400の実施420のブロック図を示す。 図11bは、装置400の実施430のブロック図を示す。

Claims (27)

  1. 画像処理方法であって、
    色空間の予め定めた区分に従って、画像の複数の画素の各々を分類することと、
    前記複数の画素の各々を分類した結果に基づいて、露光制御動作を実行することとを備え、
    前記画像は、センサによってキャプチャされた生の画像に基づき、前記色空間の予め定めた区分は、前記センサの予測された複数の応答に基づく方法。
  2. 前記色空間の予め定めた区分は、人間の皮膚の表面に対する前記センサの予測された複数の応答に基づく請求項1に記載の画像処理方法。
  3. 前記予め定めた区分に従って、複数の画素の各々を分類することは、前記予め定めた区分と前記画素の色値との関係に従って、前記複数の画素の各々を、第1の画素クラスと第2の画素クラスとのうちの1つに割り当てることを含み、
    前記露光制御動作を実行することは、前記画像の複数のブロックの各々を、(A)前記第1の画素クラスに割り当てられたブロック内の画素の数と、(B)しきい値との関係に従って、第1のブロック・クラスと第2のブロック・クラスとのうちの1つに割り当てることを含み、
    前記露光制御動作を実行することは、前記第1のブロック・クラスに割り当てられたブロックの平均輝度値に基づいて露光制御係数を計算することを含む請求項1に記載の画像処理方法。
  4. 前記露光制御動作を実行することは、
    前記複数の画素の各々を分類した結果に基づいて露光制御係数を計算することと、
    前記露光制御係数に従って、前記画像の複数の画素の各々の輝度値を変えることと
    を含む請求項1に記載の画像処理方法。
  5. 前記露光制御動作を実行することは、
    前記複数の画素の各々を分類した結果に従って、前記画像の複数のブロックの各々を、複数のブロック・クラスのうちの1つに割り当てることと、
    前記ブロック・クラスのうちの1つのブロックの平均輝度値に基づいて、露光制御係数を計算することと
    を含む請求項1に記載の画像処理方法。
  6. 前記露光制御動作を実行することは、前記露光制御係数に従って、前記画像の複数の画素の各々の輝度値を変えることを含む請求項5に記載の画像処理方法。
  7. 前記画像の複数の画素の各々を分類することは、画素分類マップの要素の値を計算することを含み、
    前記方法は、前記画素分類マップについてノイズ低減動作を実行することを含み、
    前記露光制御動作を実行することは、前記ノイズ低減された画素分類マップに基づく請求項1に記載の画像処理方法。
  8. 請求項1に記載の画像処理方法を記述する機械実行可能命令を有するデータ記憶媒体。
  9. 生の画像をキャプチャするように構成されたセンサと、
    色空間の予め定めた区分にしたがって、前記生の画像に基づき画像の画素を分類するように構成された画素クラシファイヤと、
    前記画素の分類に基づいて、露光制御動作を実行するように構成された露光コントローラとを備え、
    前記色空間の予め定めた区分は、前記センサの予測された複数の応答に基づく装置。
  10. 前記色空間の予め定めた区分は、人間の皮膚の表面に対する前記センサの予測された複数の応答に基づく請求項9に記載の装置。
  11. 前記画素クラシファイヤは、前記予め定めた区分と前記画素の色値との関係に従って、前記複数の画素の各々を、第1の画素クラスと第2の画素クラスとのうちの1つに割り当てるように構成され、
    前記露光コントローラは、前記画像の複数のブロックの各々を、(A)前記第1の画素クラスに割り当てられたブロック内の画素の数と、(B)しきい値との関係に従って、第1のブロック・クラスと第2のブロック・クラスとのうちの1つに割り当てるように構成され、
    前記露光コントローラは、前記第1のブロック・クラスに割り当てられたブロックの平均輝度値に基づいて露光制御係数を計算するように構成された請求項9に記載の装置。
  12. 前記露光コントローラは、前記画素の分類の結果に基づいて露光制御係数を計算し、前記露光制御係数に従って、前記画像の複数の画素の各々の輝度値を変えるように構成された請求項9に記載の装置。
  13. 前記露光コントローラは、前記画素の分類に従って、前記画像の複数のブロックの各々を、複数のブロック・クラスのうちの1つに割り当てるように構成された画像ブロック・クラシファイヤを含み、
    前記露光コントローラは、前記ブロック・クラスのうちの1つのブロックの平均輝度値に基づいて、露光制御係数を計算するように構成された計算機を含む請求項9に記載の装置。
  14. 前記露光コントローラは、前記露光制御係数に従って、前記画像の複数の画素の各々の輝度値を変えるように構成された請求項13に記載の装置。
  15. 前記画素クラシファイヤは、画素分類マップの要素の値を計算するように構成され、
    前記装置は、前記画素分類マップについてノイズ低減動作を実行するように構成され、
    前記露光コントローラは、前記ノイズ低減された画素分類マップに基づいて前記露光制御動作を実行するように構成された請求項9に記載の装置。
  16. 前記装置はカメラを備える請求項9に記載の装置。
  17. 前記装置は無線通信デバイスを備える請求項9に記載の装置。
  18. 少なくとも2つの異なる色から色を選択することと、
    前記選択された色にしたがって、画像の複数の画素の各々を分類することと、
    前記複数の画素の各々の分類の結果に基づいて、露光制御係数を計算することと、
    前記露光制御係数にしたがって、前記画像の複数の画素の各々の輝度値を変えることと
    を備える画像処理方法。
  19. 前記少なくとも2つの異なる色から色を選択することは、前記画像から色を選択することを含む請求項18に記載の画像処理方法。
  20. 前記方法は、前記露光制御係数に基づいて、画像キャプチャ動作中、画像装置の動作を制御することを含む請求項18に記載の画像処理方法。
  21. 前記露光制御係数を計算することは、
    前記複数の画素の各々を分類した結果にしたがって、前記画像の複数のブロックの各々を、複数のブロック・クラスのうちの1つへ割り当てることと、
    前記ブロック・クラスのうちの1つのブロックの平均輝度値に基づいて前記露光制御係数を計算することと
    を含む請求項18に記載の画像処理方法。
  22. 請求項18に記載の画像処理方法を記述する機械実行可能命令を有するデータ記憶媒体。
  23. 少なくとも2つの異なる色から選択された色にしたがって、画像の画素を分類するように構成された画素クラシファイヤと、
    前記画素の分類に基づいて、露光制御係数を計算し、前記露光制御係数にしたがって、前記画像の複数の画素の各々の輝度値を変えるように構成された露光コントローラと
    を備える装置。
  24. 前記露光コントローラは、前記画像から選択された色を取得するように構成された色セレクタを含む請求項23に記載の装置。
  25. 前記露光コントローラは、前記露光制御係数に基づいて、画像キャプチャ動作中、画像装置の動作を制御するように構成された請求項23に記載の装置。
  26. 前記露光コントローラは、前記画素の分類にしたがって、前記画像の複数のブロックの各々を、複数のブロック・クラスのうちの1つへ割り当てるように構成され、
    前記露光コントローラは、前記ブロック・クラスのうちの1つのブロックの平均輝度値に基づいて前記露光制御係数を計算するように構成された請求項23に記載の装置。
  27. 前記装置はカメラを備える請求項23に記載の装置。
JP2009501687A 2006-03-17 2007-03-19 露光を制御するためのシステム、方法、および装置 Withdrawn JP2009535865A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/378,720 US8107762B2 (en) 2006-03-17 2006-03-17 Systems, methods, and apparatus for exposure control
PCT/US2007/064332 WO2007109632A2 (en) 2006-03-17 2007-03-19 Systems, methods, and apparatus for exposure control

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010227263A Division JP5318838B2 (ja) 2006-03-17 2010-10-07 露光を制御するためのシステム、方法、および装置

Publications (1)

Publication Number Publication Date
JP2009535865A true JP2009535865A (ja) 2009-10-01

Family

ID=38517350

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2009501687A Withdrawn JP2009535865A (ja) 2006-03-17 2007-03-19 露光を制御するためのシステム、方法、および装置
JP2010227263A Active JP5318838B2 (ja) 2006-03-17 2010-10-07 露光を制御するためのシステム、方法、および装置
JP2012259898A Withdrawn JP2013081209A (ja) 2006-03-17 2012-11-28 露光を制御するためのシステム、方法、および装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2010227263A Active JP5318838B2 (ja) 2006-03-17 2010-10-07 露光を制御するためのシステム、方法、および装置
JP2012259898A Withdrawn JP2013081209A (ja) 2006-03-17 2012-11-28 露光を制御するためのシステム、方法、および装置

Country Status (6)

Country Link
US (2) US8107762B2 (ja)
EP (1) EP1996913B1 (ja)
JP (3) JP2009535865A (ja)
KR (1) KR101002195B1 (ja)
CN (1) CN102017608B (ja)
WO (1) WO2007109632A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013021658A (ja) * 2011-07-14 2013-01-31 Canon Inc 撮像装置及び撮像装置の制御方法

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8417055B2 (en) 2007-03-05 2013-04-09 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US7269292B2 (en) 2003-06-26 2007-09-11 Fotonation Vision Limited Digital image adjustable compression and resolution using face detection information
US20110102553A1 (en) * 2007-02-28 2011-05-05 Tessera Technologies Ireland Limited Enhanced real-time face models from stereo imaging
US8107762B2 (en) 2006-03-17 2012-01-31 Qualcomm Incorporated Systems, methods, and apparatus for exposure control
JP4925271B2 (ja) * 2006-08-21 2012-04-25 株式会社メガチップス 一眼レフデジタルカメラにおける連続撮像方法
TW200820123A (en) * 2006-10-20 2008-05-01 Primax Electronics Ltd Method and system of generating high dynamic range image corresponding to specific scene
EP2115662B1 (en) 2007-02-28 2010-06-23 Fotonation Vision Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
US20100044676A1 (en) 2008-04-18 2010-02-25 Invisage Technologies, Inc. Photodetectors and Photovoltaics Based on Semiconductor Nanocrystals
US8525287B2 (en) 2007-04-18 2013-09-03 Invisage Technologies, Inc. Materials, systems and methods for optoelectronic devices
CN103839955B (zh) 2007-04-18 2016-05-25 因维萨热技术公司 用于光电装置的材料、系统和方法
US8063942B2 (en) * 2007-10-19 2011-11-22 Qualcomm Incorporated Motion assisted image sensor configuration
IL189020A (en) * 2008-01-24 2015-08-31 Rafael Advanced Defense Sys A method and device for multi-spectral imaging
US8138567B2 (en) * 2008-04-18 2012-03-20 Invisage Technologies, Inc. Materials, fabrication equipment, and methods for stable, sensitive photodetectors and image sensors made therefrom
US8203195B2 (en) * 2008-04-18 2012-06-19 Invisage Technologies, Inc. Materials, fabrication equipment, and methods for stable, sensitive photodetectors and image sensors made therefrom
JP2010177821A (ja) * 2009-01-27 2010-08-12 Sony Corp 撮像装置及び撮像方法
JP5456159B2 (ja) * 2009-05-29 2014-03-26 デジタルオプティックス・コーポレイション・ヨーロッパ・リミテッド 背景から前景の頭頂部を分離するための方法および装置
JP5219934B2 (ja) * 2009-06-17 2013-06-26 キヤノン株式会社 撮像装置およびその制御方法
US8351726B2 (en) * 2009-06-29 2013-01-08 DigitalOptics Corporation Europe Limited Adaptive PSF estimation technique using a sharp preview and a blurred image
TWI383673B (zh) * 2009-09-01 2013-01-21 Quanta Comp Inc 測光權重調整方法及其裝置
KR20110046808A (ko) * 2009-10-29 2011-05-06 삼성전자주식회사 상 변화 메모리 장치의 데이터 리드 회로 및 이를 포함하는 장치들
US8477377B2 (en) * 2009-12-09 2013-07-02 Infoprint Solutions Company Llc Mechanism for integration of print quality enhancement (PQE) and multi-bit halftone data
US8916947B2 (en) 2010-06-08 2014-12-23 Invisage Technologies, Inc. Photodetector comprising a pinned photodiode that is formed by an optically sensitive layer and a silicon diode
US8971628B2 (en) 2010-07-26 2015-03-03 Fotonation Limited Face detection using division-generated haar-like features for illumination invariance
JP5375814B2 (ja) * 2010-12-22 2013-12-25 株式会社デンソー 露出制御装置
IL210461A (en) 2011-01-05 2015-07-30 Rafael Advanced Defense Sys A method and device for multi-spectral imaging
US8804819B1 (en) 2011-04-19 2014-08-12 Google Inc. Method and apparatus for encoding video using data frequency
US8705620B1 (en) * 2011-04-28 2014-04-22 Google Inc. Method and apparatus for encoding anchor frame by encoding features using layers
US9749638B1 (en) 2011-04-28 2017-08-29 Google Inc. Method and apparatus for encoding video with dynamic quality improvement
JP2013005017A (ja) * 2011-06-13 2013-01-07 Sony Corp 撮像装置、および撮像装置制御方法、並びにプログラム
US8982237B2 (en) * 2011-12-09 2015-03-17 Htc Corporation Portable electronic device with auto-exposure control adaptive to environment brightness and image capturing method using the same
JP5899894B2 (ja) * 2011-12-19 2016-04-06 富士通株式会社 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法
JP2013239904A (ja) * 2012-05-15 2013-11-28 Sony Corp 画像処理装置と画像処理方法およびプログラム
US9781447B1 (en) 2012-06-21 2017-10-03 Google Inc. Correlation based inter-plane prediction encoding and decoding
US9167268B1 (en) 2012-08-09 2015-10-20 Google Inc. Second-order orthogonal spatial intra prediction
US9380298B1 (en) 2012-08-10 2016-06-28 Google Inc. Object-based intra-prediction
US9344742B2 (en) 2012-08-10 2016-05-17 Google Inc. Transform-domain intra prediction
US9369732B2 (en) 2012-10-08 2016-06-14 Google Inc. Lossless intra-prediction video coding
US9628790B1 (en) 2013-01-03 2017-04-18 Google Inc. Adaptive composite intra prediction for image and video compression
US9225979B1 (en) 2013-01-30 2015-12-29 Google Inc. Remote access encoding
US9247251B1 (en) 2013-07-26 2016-01-26 Google Inc. Right-edge extension for quad-tree intra-prediction
TWI604413B (zh) * 2013-12-16 2017-11-01 華碩電腦股份有限公司 影像處理方法及影像處理裝置
TWI505233B (zh) * 2014-02-20 2015-10-21 Asustek Comp Inc 影像處理方法及影像處理裝置
US20150356944A1 (en) * 2014-06-09 2015-12-10 Optoma Corporation Method for controlling scene and electronic apparatus using the same
US9361502B2 (en) * 2014-07-31 2016-06-07 Symbol Technologies, Llc System for, and method of, controlling target illumination for an imaging reader
US9712744B2 (en) 2014-11-13 2017-07-18 Intel Corporation Image quality compensation system and method
KR20160092537A (ko) * 2015-01-27 2016-08-05 삼성디스플레이 주식회사 유기 발광 표시 장치 및 이의 로고 영역 휘도 조절 방법
JP6277984B2 (ja) * 2015-03-23 2018-02-14 株式会社Jvcケンウッド 画像補正装置、画像補正方法及び画像補正プログラム
US10170157B2 (en) 2015-06-07 2019-01-01 Apple Inc. Method and apparatus for finding and using video portions that are relevant to adjacent still images
KR102465212B1 (ko) * 2015-10-30 2022-11-10 삼성전자주식회사 다중 노출 센서를 이용하는 촬영 장치 및 이의 촬영 방법
CN105491301B (zh) * 2015-12-03 2018-09-28 浙江大华技术股份有限公司 一种成像控制方法及装置
CN105516613A (zh) * 2015-12-07 2016-04-20 凌云光技术集团有限责任公司 基于人脸识别的智能曝光方法及系统
US10451714B2 (en) 2016-12-06 2019-10-22 Sony Corporation Optical micromesh for computerized devices
US10536684B2 (en) * 2016-12-07 2020-01-14 Sony Corporation Color noise reduction in 3D depth map
US10495735B2 (en) 2017-02-14 2019-12-03 Sony Corporation Using micro mirrors to improve the field of view of a 3D depth map
US10795022B2 (en) 2017-03-02 2020-10-06 Sony Corporation 3D depth map
US10979687B2 (en) 2017-04-03 2021-04-13 Sony Corporation Using super imposition to render a 3D depth map
CN107045863B (zh) * 2017-06-26 2018-02-16 惠科股份有限公司 一种显示面板的灰阶调整方法及装置
CN107241590B (zh) * 2017-06-29 2020-03-27 明基智能科技(上海)有限公司 影像增强方法及影像增强装置
CN107343156B (zh) 2017-07-10 2020-03-13 Oppo广东移动通信有限公司 人脸区域自动曝光控制的调整方法和装置
US10484667B2 (en) 2017-10-31 2019-11-19 Sony Corporation Generating 3D depth map using parallax
CN107911625A (zh) * 2017-11-30 2018-04-13 广东欧珀移动通信有限公司 测光方法、装置、可读存储介质和计算机设备
US10951879B2 (en) 2017-12-04 2021-03-16 Canon Kabushiki Kaisha Method, system and apparatus for capture of image data for free viewpoint video
CN108449549B (zh) * 2018-03-19 2021-02-12 浙江国自机器人技术股份有限公司 一种调节led补光灯板亮度的方法、装置和存储介质
CN108616687B (zh) * 2018-03-23 2020-07-21 维沃移动通信有限公司 一种拍照方法、装置和移动终端
US10549186B2 (en) 2018-06-26 2020-02-04 Sony Interactive Entertainment Inc. Multipoint SLAM capture
US11687635B2 (en) 2019-09-25 2023-06-27 Google PLLC Automatic exposure and gain control for face authentication
CN113163101B (zh) * 2020-01-22 2023-02-28 浙江宇视科技有限公司 图像曝光调整方法、装置、设备和介质
CN111479074A (zh) * 2020-03-12 2020-07-31 北京爱芯科技有限公司 图像采集方法、装置、计算机设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09284784A (ja) * 1996-04-12 1997-10-31 Sony Corp カラー撮像装置
JP2002314874A (ja) * 2001-04-13 2002-10-25 Fuji Photo Film Co Ltd デジタルカメラ及びその露出制御方法
JP2004040462A (ja) * 2002-07-03 2004-02-05 Minolta Co Ltd 撮像装置
JP2005165684A (ja) * 2003-12-02 2005-06-23 Canon Inc 画像処理方法および装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4974017A (en) * 1988-09-27 1990-11-27 Fuji Photo Film Co., Ltd. Method of determining exposure
US5281995A (en) * 1990-07-27 1994-01-25 Fuji Photo Film Co., Ltd. Method of determining an exposure for use in an image forming apparatus
US6249317B1 (en) * 1990-08-01 2001-06-19 Minolta Co., Ltd. Automatic exposure control apparatus
US6072526A (en) * 1990-10-15 2000-06-06 Minolta Co., Ltd. Image sensing device that can correct colors corresponding to skin in a video signal
JP3612762B2 (ja) * 1994-12-19 2005-01-19 ソニー株式会社 撮像装置
US6026065A (en) * 1995-03-04 2000-02-15 Lg Electronics Inc. Optical pick-up apparatus capable of reading data irrespective of disc type
JP3461626B2 (ja) 1995-07-28 2003-10-27 シャープ株式会社 特定画像領域抽出方法及び特定画像領域抽出装置
US5907629A (en) * 1996-11-15 1999-05-25 Funt; Brian Vicent Method of estimating chromaticity of illumination using neural networks
JP2000041178A (ja) 1998-07-23 2000-02-08 Sony Corp ビデオカメラの露出制御装置
JP3820497B2 (ja) * 1999-01-25 2006-09-13 富士写真フイルム株式会社 撮像装置及び自動露出制御の補正処理方法
US6707940B1 (en) * 2000-03-31 2004-03-16 Intel Corporation Method and apparatus for image segmentation
US6785414B1 (en) * 2000-09-28 2004-08-31 Media Cybernetics, Inc. System and method for establishing an aggregate degree of brightness for each primary color to create a composite color digital image
US7298412B2 (en) 2001-09-18 2007-11-20 Ricoh Company, Limited Image pickup device, automatic focusing method, automatic exposure method, electronic flash control method and computer program
US7598983B2 (en) * 2001-10-23 2009-10-06 Seiko Epson Corporation Control of image output using image processing control data
JP3513506B2 (ja) 2002-02-20 2004-03-31 キヤノン株式会社 ホワイトバランス補正装置およびそれを搭載した撮像装置、及びホワイトバランス補正方法
EP1570429A2 (en) 2002-12-05 2005-09-07 Koninklijke Philips Electronics N.V. Method and apparatus for removing false edges from a segmented image
US7508961B2 (en) * 2003-03-12 2009-03-24 Eastman Kodak Company Method and system for face detection in digital images
EP1482724B1 (fr) * 2003-05-19 2007-07-11 STMicroelectronics S.A. Méthode de traitement d'images numériques avec correction d'exposition par reconnaissance de zones appartenant à la peau du sujet photographié
US7042523B2 (en) 2003-06-30 2006-05-09 Texas Instruments Incorporated Video correction system and method using logarithmic conversion
JP3918788B2 (ja) 2003-08-06 2007-05-23 コニカミノルタフォトイメージング株式会社 撮像装置、およびプログラム
US7453506B2 (en) 2003-08-25 2008-11-18 Fujifilm Corporation Digital camera having a specified portion preview section
US7598961B2 (en) 2003-10-21 2009-10-06 Samsung Electronics Co., Ltd. method and apparatus for converting from a source color space to a target color space
US7426296B2 (en) * 2004-03-18 2008-09-16 Sony Corporation Human skin tone detection in YCbCr space
US7619637B2 (en) 2004-04-09 2009-11-17 Samsung Electronics Co., Ltd. Systems and methods for improved gamut mapping from one image data set to another
JP4602688B2 (ja) * 2004-04-19 2010-12-22 富士フイルム株式会社 画像処理方法、画像処理装置およびそのプログラム
KR100557219B1 (ko) * 2004-07-06 2006-03-07 삼성전자주식회사 자동 노출 보정 방법 및 보정 장치
US7542600B2 (en) * 2004-10-21 2009-06-02 Microsoft Corporation Video image quality
US7831067B2 (en) * 2005-05-16 2010-11-09 Cisco Technology, Inc. Methods and apparatus for automated, multi-level red eye correction
US20060256858A1 (en) * 2005-05-16 2006-11-16 Douglas Chin Method and system for rate control in a video encoder
US8154612B2 (en) 2005-08-18 2012-04-10 Qualcomm Incorporated Systems, methods, and apparatus for image processing, for color classification, and for skin color detection
US7728904B2 (en) 2005-11-08 2010-06-01 Qualcomm Incorporated Skin color prioritized automatic focus control via sensor-dependent skin color detection
US8107762B2 (en) 2006-03-17 2012-01-31 Qualcomm Incorporated Systems, methods, and apparatus for exposure control

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09284784A (ja) * 1996-04-12 1997-10-31 Sony Corp カラー撮像装置
JP2002314874A (ja) * 2001-04-13 2002-10-25 Fuji Photo Film Co Ltd デジタルカメラ及びその露出制御方法
JP2004040462A (ja) * 2002-07-03 2004-02-05 Minolta Co Ltd 撮像装置
JP2005165684A (ja) * 2003-12-02 2005-06-23 Canon Inc 画像処理方法および装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013021658A (ja) * 2011-07-14 2013-01-31 Canon Inc 撮像装置及び撮像装置の制御方法
US9131197B2 (en) 2011-07-14 2015-09-08 Canon Kabushiki Kaisha Imaging apparatus capable of controlling exposure including flash amount control of flash apparatus, and control method thereof

Also Published As

Publication number Publication date
KR101002195B1 (ko) 2010-12-20
US20120105675A1 (en) 2012-05-03
CN102017608A (zh) 2011-04-13
EP1996913A2 (en) 2008-12-03
CN102017608B (zh) 2013-03-20
JP2013081209A (ja) 2013-05-02
JP5318838B2 (ja) 2013-10-16
KR20080109026A (ko) 2008-12-16
US8107762B2 (en) 2012-01-31
US8824827B2 (en) 2014-09-02
WO2007109632A2 (en) 2007-09-27
US20070216777A1 (en) 2007-09-20
WO2007109632A3 (en) 2011-04-07
EP1996913B1 (en) 2019-04-17
JP2011061809A (ja) 2011-03-24

Similar Documents

Publication Publication Date Title
JP5318838B2 (ja) 露光を制御するためのシステム、方法、および装置
EP3611916B1 (en) Imaging control method and electronic device
US8340512B2 (en) Auto focus technique in an image capture device
US10992845B1 (en) Highlight recovery techniques for shallow depth of field rendering
EP3162048B1 (en) Exposure metering based on background pixels
US20180241927A1 (en) Exposure Metering Based On Depth Map
US8290357B2 (en) Auto-exposure technique in a camera
WO2019019904A1 (zh) 白平衡处理方法、装置和终端
US11977319B2 (en) Saliency based capture or image processing
JP4290965B2 (ja) デジタル画像の品質を改善する方法
JP2014103643A (ja) 撮像装置及び被写体認識方法
US8970739B2 (en) Devices and methods for creating structure histograms for use in image enhancement
CN113228621B (zh) 一种成像控制方法、系统和非暂时性计算机可读介质
EP4090006A2 (en) Image signal processing based on virtual superimposition
CN113709438B (zh) 一种图像的白平衡校正方法、装置、存储介质及设备
US11688046B2 (en) Selective image signal processing
JP2017182668A (ja) データ処理装置、撮像装置、及びデータ処理方法
JP2007258890A (ja) 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
JP2014139738A (ja) 画像処理装置、撮像装置及び画像処理方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100712

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20101130