JP2005521927A - デジタルスチルカメラにおける取り込み画像の写真品質を評価する方法及び装置 - Google Patents

デジタルスチルカメラにおける取り込み画像の写真品質を評価する方法及び装置 Download PDF

Info

Publication number
JP2005521927A
JP2005521927A JP2003568611A JP2003568611A JP2005521927A JP 2005521927 A JP2005521927 A JP 2005521927A JP 2003568611 A JP2003568611 A JP 2003568611A JP 2003568611 A JP2003568611 A JP 2003568611A JP 2005521927 A JP2005521927 A JP 2005521927A
Authority
JP
Japan
Prior art keywords
image
camera
quality
merit
photographic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003568611A
Other languages
English (en)
Other versions
JP4351911B2 (ja
Inventor
キアン・リン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Publication of JP2005521927A publication Critical patent/JP2005521927A/ja
Application granted granted Critical
Publication of JP4351911B2 publication Critical patent/JP4351911B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634Warning indications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

デジタルカメラ(20)は、3つの写真品質属性(すなわち、写真のシャープネス、顔の画像品質、およびフレアの存否)のそれぞれの性能指数をこのデジタルカメラ内で計算し、次いで、各性能指数を、それぞれの予め設定された閾値と比較して、その性能指数が閾値を越えているかどうかを判断する。性能指数がすべての閾値を越えている場合、このデジタルカメラ(20)は、取り込み画像が許容可能な品質であることをユーザに通知し、いずれかの性能指数が閾値を越えていない場合、警告情報をユーザに通知する。

Description

[発明の背景]
本発明は、包括的には、デジタル画像処理に関し、より詳細には、デジタルスチルカメラのユーザに写真品質フィードバックを提供する目的で取り込みデジタル画像の写真品質をカメラ内で評価する方法およびシステムに関する。
[発明の背景]
デジタル画像処理は、一般に、或る方法で取り込み画像を改善したり、取り込み画像から情報を抽出してさらに処理することに関係するものである。一般的なオペレーションは、取り込み画像からぶれを除去すること、画像の粒状性、スペックル、または雑音を平滑化して除去すること、画像の表示前に画像のコントラストを改善すること、オブジェクトや背景等の領域に画像をセグメント化すること、画像を拡大または回転すること等を含む。デジタル画像は、スキャナを使用したり、デジタルスチルカメラを使用して写真を直接撮ることによって、従来の写真印画、ネガ、またはスライドから作成することができる。
デジタルスチルカメラは、一部に、CCD(電荷結合素子)またはCMOS(相補型金属酸化膜半導体)センサ、レンズ、ファインダ、およびフラットLCD(液晶ディスプレイ)スクリーンを含む。フラットLCDスクリーンは、取り込みモード中の実際のファンダとして、または、取り込み画像をプレビューするために使用される。あいにく、表示されたLCD画像は、一般に、あまりにも小さく、また、あまりにも解像度が低いので、写真の印刷を進める前に、取り込み画像の写真品質をユーザに正確に評価させることはできない。また、屋外で撮影する際に、空がほとんど曇っている場合を除いていずれの天候の下でも、LCDは、ウォッシュアウトする(wash out)傾向がある。デジタルカメラの価格は、LCDのサイズおよび/または解像度の増加に伴い高くなっているので、一般に、LCDスクリーンのサイズ、解像度、および明度は、ユーザがデジタルカメラを購入する際に検討する重要な要素となっている。皮肉なことに、撮影したばかりの写真を維持するのか、それともその写真を消去してより良い条件下で写真の取り直しを試みるのかをユーザがどれだけ正確に判断できるかを決定するものは、LCDスクリーン上でプレビューされている画像の品質である。代替的なものとしては、撮影したばかりの写真の拡大版をコンピュータモニタ上で観察して、より正確な写真品質の評価を行うことが挙げられるが、これは、かなり多くの時間を必要とし、特に現場では、現実的なプロセスではない。
デジタル写真撮影は、一般に、独特な課題を平均的なユーザに提示する。このような1つの課題は、カラー写真品質に関係するものである。デジタルカメラは、極めて高いカラー写真品質を達成する可能性を有するが、ユーザが写真撮影に十分習熟していない場合、操作の柔軟性および容易さが、一般に低品質な結果を生み出している。低品質な結果には、ハイライト部分または陰影部分の保存が可変であることによるのっぺりとした画像、飽和した画像、または不飽和の画像が含まれる。さらに、デジタルカメラが、CCD/CMOS画像センサに記録されたダイナミックレンジを出力画像ファイルにどのようにマッピングするかも、カラー写真品質に重大な影響を与える。デジタルカメラは、例えば、空といった画像の大きく重要な部分をウォッシュアウトさせることが多い。これは、過度の飽和(フレア)につながる露出オーバによって引き起こされることがある。従来の写真撮影と異なり、ピクセルが一旦飽和すると、画像情報は失われるので、この種の露出オーバは、画像を取り込んだ後に補正することはできない。
特開2001−145117号 特開2000−262501号 米国特許第6016354号 JE-HO LEE他,「IMPLEMENTATION OF A PASSIVE AUTOMATIC FOCUSING ALGORITHM FOR DIGITAL STILL CAMERA」, 1995年8月1日, IEEE TRANSACTIONS ON CONSUMER ELECTRONICS, IEEE INC. NEW YORK, US, vol. 41, No. 3, p449-454 WEN-HSIN CHAN他,「VIDEO CCD BASED PORTABLE DIGITAL STILL CAMERA」, 1995年8月1日, IEEE TRANSACTIONS ON CONSUMER ELECTRONICS, IEEE INC. NEW YORK, US, vol. 41, No. 3, p455-459 A.K. Jain,「Fundamentals of Digital Image Processing」, 1989, Prentice Hall Edward M. Granger,「Photo Quality of Digital Cameras」, IS & T's 1998 PICS Conference, p188-191 Nicolas Tsapatsoulis, Yanis Avrithis及びStefanos Kollias, 「Efficient Face Detection For Multimedia Applications」, ICIP 2000会報, September, 2000, Vancouver, Canada, IEEE International Conference on Image Proceeding Tsuyoshi Kawaguchi, Daisuke Hidaka及びMohamed Rizon, 「Detection of Eyes From Human Faces by Hough Transform and Separability Filter」, ICIP 2000会報, September, 2000, Vancouver, Canada, IEEE International Conference on Image Proceeding K. Fukui及びO. Yamaguchi, 「Facial Feature Point Extraction Method Based on Combination of Shape Extraction and Pattern Matching」,1997, IEICE Transactions, Vol. J80-D-II, No. 8, p2170-2177
上記のように、写真の印刷を進める前に、取り込み画像の写真品質をユーザに正確に評価させることは困難である。
したがって、デジタルカメラは、より「知的な」装置として設計されることが必要とされている。より具体的には、客観的な写真品質フィードバックをユーザに提供できるシステム及び方法が必要とされている。
[発明の概要]
本発明は、デジタルカメラにおいて取り込み画像の写真品質を評価する方法を対象とする。この方法は、取り込み画像の写真品質をカメラ内でチェックして、その結果によって、写真品質が許容可能であるかどうかをカメラ内で判断するステップと、対応する写真品質フィードバックをカメラユーザに提供するステップとを含む。
本発明のこれらの態様および他の態様は、本発明の好ましい実施の形態の添付図面および以下の詳細な説明を見直すことにより明らかになる。
[好ましい実施の形態の詳細な説明]
本発明は、デジタルスチルカメラで取り込まれた画像の写真品質をカメラ内で評価する方法を対象とする。この方法は、取り込み画像の写真品質をチェックして適切な写真品質フィードバックをカメラユーザに提供できるように、(好ましくは)製造時にデジタルスチルカメラを構成することを含む。これにより、カメラユーザは、取り込み画像を維持するのか、それとも撮影し直すのかを客観的に判断できる。デジタルスチルカメラは、3つの写真品質属性、すなわち(a)写真のシャープネス、(b)顔の画像品質、および(c)フレアの存否に基づいて、写真品質を自動的にチェックする。具体的には、デジタルスチルカメラは、3つの写真品質属性のそれぞれの性能指数を計算し、次いで、各性能指数を、それぞれの予め設定された閾値と比較して、その性能指数が閾値を越えているかどうかを判断する。性能指数がすべての閾値を越えている場合、カメラは、取り込み画像が許容可能な品質であることをユーザに通知する。
図1に概ね示すように、デジタルスチルカメラ20は、ファインダ22、電源スイッチ24、シャッタ26、およびLCDプレビュースクリーン28を有する。このデジタルスチルカメラ20は、特注の内蔵ASIC(特定用途向け集積回路、図示せず)、DSP(デジタル信号プロセッサ、図示せず)、または汎用プロセッサ(図示せず)を使用して、取り込み画像(カラー写真)の写真品質をカメラ内で自動的にチェックし、写真品質フィードバックをユーザに提供するように、好ましくは製造時に構成される。通常、カメラユーザは、取り込み画像の写真品質に関する予備的な主観的判断を行おうとして、例えば画像30(図2)または画像32(図3)といった取り込み画像のサムネイル版をLCDスクリーン28上でプレビューする。LCDスクリーン28は、ユーザが取り込み画像の写真品質をより客観的に評価できるには、比較的小さなサイズであり、低解像度であることから、このような判断は、一般に、平均的なユーザにとって容易に行える作業ではない。
同じオブジェクトおよび同じ背景の2つの写真が、同じデジタルスチルカメラ(20)を使用して、表面的には同一の条件下で撮影されると、LCDスクリーン28上の対応するサムネイル画像は、平均的なユーザには実質的に同一に見える。図2および図3に示すように、サムネイル画像30およびサムネイル画像32は、LCDスクリーン28上にプレビューされると、ほぼ同一に見える。しかしながら、コンピュータモニタ上で拡大して観察したり、高品質印画紙に印刷したりすると、図4および図5に示すように、同じ画像は、写真品質において顕著な相違を示すことがある。具体的には、カメラユーザが、いずれの場合も、ほぼ同じ条件下で同じシーンを撮影していた場合であっても、図3のサムネイル画像32に対応する図5の拡大画像33のスイレン39および背景41は、図2のサムネイル画像30に対応する図4の拡大画像31のスイレン35および背景37と比較すると、幾分ぼけて見える。図5の明らかなぼけについて考えられる原因は、ユーザの手のわずかな動き、焦点、視角のわずかな変化等であった可能性がある。いずれにしても、比較的低解像度で小さなサイズのカメラLCDスクリーン上でサムネイル画像を見せられた場合に、平均的なユーザが、取り込み画像の写真品質の予備的な客観的判断を行うことは事実上不可能である。
図6に概ね示すように、ステップ36において、画像データが、内蔵CCDまたはCMOSセンサ(図示せず)を介して取り込まれ、ステップ38において、従来のデジタル画像処理パイプラインによってカメラ内で処理され、カラー写真が作成される。このカラー写真は、LCDスクリーン28上でプレビューすることができる。
本発明の好ましい実施の形態によると、従来技術のやり方から主に脱却した点として、取り込まれて処理された画像データ(カラー写真)が、LCDスクリーンのプレビュー用に直ちに利用可能にされるのではなく、ステップ42(図6)において、処理された画像の写真品質を客観的にチェックする目的で、特注の内蔵ASIC、内蔵DSP、または内蔵汎用プロセッサを使用してカメラ内で付加的な画像処理を受ける。カメラ内の写真品質チェックが完了した後(ステップ54)、デジタルスチルカメラ20は、それぞれステップ56、58において、処理された画像の写真品質が、許容可能であるのか、それとも許容可能でないのかについてユーザに通知する。この付加的なカメラ内の画像処理は、3つの写真品質属性、すなわち、写真のシャープネス、顔の画像品質、およびフレアの存否を評価するように、(デジタルスチルカメラ20の)内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを、好ましくは製造時にプログラムすることによって可能にされる。具体的には、カメラASICまたはDSPまたは汎用プロセッサは、(a)ステップ60、64、および68(図7)において、3つの写真品質属性のそれぞれの性能指数を計算し、(b)ステップ62、66、および70(図7)において、計算した性能指数のそれぞれを事前に設定された各閾値と比較して、各性能指数がその各閾値を越えているかどうかを判断し、(c)ステップ56、58(図6)において、適切な視覚的なおよび/または可聴式の写真品質フィードバックをLCDプレビュースクリーン28を介してユーザに提供する、ようにプログラムされる。
例えば、可聴式の写真品質フィードバックは、ビープ音によって提供することができ、それによって、(3つの)写真品質属性の1つに関連した問題があることを示すことができる。視覚的な写真品質フィードバックは、例えば、LCDプレビュースクリーン28の所定の部分にテキストを表示することによって行うことができ、それによって、例えば、画像がぼけていることを、ぼけを補正できる方法に関する具体的な指示、例えば「再焦点設定」、「光量の増大」等と共に、ユーザに警告することができる。デジタルカメラ20が、取り込み画像にフレアの存在を検出すると、適切な「フレア」警告メッセージを、例えば「窓の回避」、「アングルの変更」等といった、補正方法に関する簡単な指示と共に、LCDスクリーン28上に表示することができる。
本発明の一実施の形態では、図8に概ね示すように、LCDプレビュースクリーン28は、いくつかの警告灯を、取り込み(かつ処理された)画像44の一方の側の列に配列して示すことができる。例えば、警告灯46は、フレアが画像44に存在することを示す赤の点滅光とすることができる。警告灯48は、(画像44に示される人の)顔の画像品質が許容可能であることを示す緑の光とすることができる。警告灯50は、画像44にぼけが存在しない、すなわち、画像44が十分にシャープであることを示す緑の光とすることができる。
本発明の別の好ましい実施の形態によると、以下の1次元勾配アルゴリズムを実行することによって、画像30(図2)等の、取り込まれて処理された画像の写真シャープネス属性を評価するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサをプログラムすることができる。
ステップ1。取り込み(サムネイル)画像30(図2)のラインピクセルプロファイル(すなわち、赤チャネル用の、中心を横切る水平ラインのプロファイル)を生成する。このラインピクセルプロファイルは、赤チャネルのグレーレベル対ピクセル位置で、グラフ76(図9)にプロットされる。
ステップ2。取り込み画像30の水平方向に隣接するピクセル間の赤チャネルのグレーレベルの絶対差を、画像30のラインピクセルプロファイル(図9)を使用して計算する。
ステップ3。(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)計算した絶対差を、グラフ80(図11)に、取り込み画像30のピクセル位置に対してプロットする。
ステップ4。(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)最大絶対差を写真シャープネス性能指数として選択する。例えば、グラフ80(図11)の(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)最大絶対差は、約「75」(写真シャープネス性能指数)である。
ステップ5。写真シャープネス性能指数が、予め設定された写真シャープネス閾値を越えているどうかを判断する。写真シャープネス性能指数がこの閾値を越えている場合には、取り込み画像は「シャープな画像」である。写真シャープネス性能指数がこの閾値を越えていない場合には、取り込み画像は「ぼけ画像」である。例えば、グラフ80の写真シャープネス閾値は、(図11の「絶対差」軸において)「20」に示される。写真シャープネス性能指数=75>20であるので、取り込み画像30は、「シャープな画像」である。図4も参照されたい。
以下のように同じ方法で、取り込み(サムネイル)画像32(図3)の写真シャープネス属性を、デジタルスチルカメラ20のASICまたはDSPまたは汎用プロセッサによって評価することができる。
ステップ1。取り込み画像32(図3)のラインピクセルプロファイル(すなわち、赤チャネル用の、中心を横切る水平ラインのプロファイル)を生成する。このラインピクセルプロファイルは、赤チャネルのグレーレベル対ピクセル位置で、グラフ78(図10)にプロットされる。
ステップ2。取り込み画像32(図3)の水平方向に隣接するピクセル間の赤チャネルのグレーレベルの絶対差を、画像32のラインピクセルプロファイル(図10)を使用して計算する。
ステップ3。(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)計算した絶対差を、グラフ82(図12)に、取り込み画像32のピクセル位置に対してプロットする。
ステップ4。(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)最大絶対差を写真シャープネス性能指数として選択する。例えば、グラフ82(図12)の(水平方向に隣接するピクセル間の赤チャネルのグレーレベルの)最大絶対差は、約「16」(写真シャープネス性能指数)である。
ステップ5。写真シャープネス性能指数が、予め設定された写真シャープネス閾値を越えているどうかを判断する。この場合、グラフ82の写真シャープネス閾値は、(図12の「絶対差」軸において)「20」に示される。写真シャープネス性能指数=16<20であるので、取り込み画像32は、「ぼけた画像」である。画像33(図5)のぼけたスイレン39およびぼけた背景41も参照されたい。
一例では、以下のMATLAB(商標)(マサチューセッツ州ナティックのMathWorks Companyのソフトウェア製品)コードを使用して、図9〜図12のグラフを生成することができる。
%シャープな画像およびぼけた画像を読み込む
a=imread('big.jpg');
b=imread('big_blur.jpg');
%各画像の赤チャネル用の、中心を横切る水平ラインのプロファイルをプロットする
plot(a(600,1:2000,1));
figure
plot(b(600,1:2000,1));
%水平方向に隣接するピクセル間の絶対差を計算して、その絶対差をプロットする
a_int=double(a);
b_int=double(b);
for i=1:2000
c(i)=abs(a_int(600, i+1, 1)-a_int(600, i, 1));
end
plot(c)
for i=1:2000
d(i)=abs(b_int(600, i+1, 1)-b_int(600, i, 1));
end
plot(d)
本発明の代替的な実施の形態によると、絶対差の比較的大きなスパイクが、時に雑音に関係していることがあることを考慮して、ステップ4が、ロバスト性の観点から以下のように変更されることができる。
ステップ4a。計算した絶対差の値(またはデータ点)を大きな値から小さな値に並べる。例えば、グラフ80(図11)に示すように、データ点1=75、データ点2=53、データ点3=45、…、データ点2000=0.5となる。
ステップ4b。ロバスト性を得るために、データ点の上位1%を写真シャープネス性能指数の考慮の対象から外す。例えば、2000の1%=20個のデータ点、すなわちデータ点1およびデータ点20を含めたデータ点1〜データ点20の値が、雑音に関係しているものと仮定されることから、これらのデータ点が、性能指数の考慮の対象から外されることになる。
ステップ4c。次の最上位の値のデータ点を写真シャープネス性能指数として選択する。この場合、データ点21が、写真シャープネス性能指数として選択されることになる。データ点21(すなわち、写真シャープネス性能指数)の値が20を超える限り、取り込み画像は、「シャープな画像」となる。
デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを、上述した絶対差ロバスト性(ADR(absolute difference robustness))アルゴリズムを実行するようにプログラムすることができる。さらに、カメラ製造者のニーズに応じて、上位1%ではなく、上位2%、上位3%、上位4%等を性能指数の考慮の対象から外すようにステップ4bを変更することも、このような変更が本発明の精神および範囲から逸脱しない限り、可能である。
本発明の別の実施の形態によると、以下の1次元勾配アルゴリズムを実行するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、取り込み画像の写真シャープネス属性をカメラ内において定量的に評価することができる。
ステップ1。取り込み画像データをRGB色空間からYCrCb色空間に変換する。YCrCb色空間では、輝度(画像ピクセルの明度に対応する)情報が、単一の成分(Y)として記憶され、クロミナンス(画像ピクセルの色に対応する)情報が、2つの色差成分(Cb)および(Cr)として記憶される。Cbは、青成分と基準値との差を表す。Crは、赤成分と基準値との差を表す。
ステップ2。変換した画像データ(図示せず)のラインピクセルプロファイルを生成する。
ステップ3。生成したラインピクセルプロファイル(図示せず)を使用して、水平方向に隣接するピクセル間のYチャネルのグレーレベルの絶対差を計算する。
ステップ4。計算した絶対差をピクセル位置に対してプロットする(図示せず)。
ステップ5。最大絶対差を写真シャープネス性能指数として選択する。このステップは、カメラ製造者のニーズに応じて、上述したADRアルゴリズムを使用して変更することができる。
ステップ6。写真シャープネス性能指数が、予め設定された写真シャープネス閾値「N」を越えているかどうかを判断する。写真シャープネス性能指数がNを超えている場合、取り込み画像は「シャープな画像」である。写真シャープネス性能指数がNより小さい場合、取り込み画像は「ぼけ画像」である。
本発明のさらに別の実施の形態によると、以下の1次元勾配アルゴリズムを実行するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、取り込み画像の写真シャープネス属性をカメラ内において定量的に評価することができる。
ステップ1。取り込み画像データをRGB色空間からC.I.E.(国際照明委員会)のL*a*b*色空間に変換する。L*a*b*色空間では、(L*)が、輝度(または明度)成分を表し、(a*b*)が、クロミナンス成分を表す。
ステップ2。変換した画像データ(図示せず)のラインピクセルプロファイルを生成する。
ステップ3。生成したラインピクセルプロファイル(図示せず)を使用して、水平方向に隣接するピクセル間のL*チャネルのグレーレベルの絶対差を計算する。
ステップ4。計算した絶対差をピクセル位置に対してプロットする(図示せず)。
ステップ5。最大絶対差を写真シャープネス性能指数として選択する。このステップは、カメラ製造者のニーズに応じて、上述したADRアルゴリズムを使用して変更することができる。
ステップ6。写真シャープネス性能指数が、予め設定された写真シャープネス閾値「P」を越えているかどうかを判断する。写真シャープネス性能指数がPを超えている場合、取り込み画像は「シャープな画像」である。写真シャープネス性能指数がPよりも小さい場合、取り込み画像は「ぼけ画像」である。
上述した1次元勾配アルゴリズムを変形したものが、緑チャネルもしくは青チャネルまたは垂直方向を利用できることは、当業者ならば容易に理解されよう。さらに、これらの1次元勾配アルゴリズムは、2次元勾配演算子と共に使用するように変更することもできる。
このタイプの勾配演算子は、従来、1対のマスクH、Hによって表されていた。この1対のマスクは、2つの直交方向において、
Figure 2005521927
から計算される勾配の大きさ(magnitude gradient)g(m,n)を用いて画像u(m,n)の勾配を測定する。ここで、g(m,n)およびg(m,n)は双方向の勾配である。使用可能な1つの一般的な既知の勾配演算子は、
Figure 2005521927
および
Figure 2005521927
によって特徴付けられた平滑化(Prewitt)勾配(smoothed gradient)演算子である。他の一般的な勾配演算子には、Sobel勾配演算子および等方性勾配演算子が含まれる。これらの演算子は、平滑化(Prewitt)演算子と共に、局所的な和の水平差および垂直差を計算する。なお、この平滑化演算子は、データの雑音の影響を削減する。また、これらの演算子は、一様な領域に対してゼロをもたらす望ましい特性も有する。g(m,n)が或る閾値Tを越えている場合、ピクセル位置(m,n)はエッジ位置に宣言される。エッジ点の位置は、以下のように定義されるエッジマップE(m,n)を構成する。
Figure 2005521927
このエッジマップは、画像のオブジェクト境界をトレースするのに必要なデータを与える。最大勾配を有するピクセルの5%〜10%がエッジとして宣言されるように、通常、g(m,n)の累積ヒストグラムを使用してTを選択することができる。2次元勾配演算子のさらに詳細な内容は、A. K. Jain著「Fundamentals of Digital Image Processing」Prentice Hall, 1989に見ることができる。
本発明のさらに別の好ましい実施の形態によると、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、取り込み画像の写真シャープネス属性をカメラ内において定量的に評価して、以下の2次元勾配アルゴリズムを実行することができる。
ステップ1。取り込み画像データをRGB色空間からYCrCb色空間に変換する。
ステップ2。上記特定した式を使用して、Y成分(チャネル)の2次元勾配の大きさを計算する。
ステップ3。計算したY成分の2次元勾配の大きさをピクセル位置に対してプロットする(図示せず)。
ステップ4。最大(2次元)勾配の大きさを写真シャープネス性能指数として選択する。
ステップ5。写真シャープネス性能指数が、予め設定された写真シャープネス閾値「T」を越えているかどうかを判断する。写真シャープネス性能指数がTを超えている場合、取り込み画像は「シャープな画像」である。写真シャープネス性能指数がTよりも小さい場合、取り込み画像は「ぼけ画像」である。
あるいは、ロバスト性の観点から、以下のようにステップ4を変更することもできる。
ステップ4a。計算した2次元勾配の大きさの値(またはデータ点)を大きな値から小さな値に並べる。例えば、データ点1=K1、データ点2=K2、データ点3=K3、…、データ点f=Kfとなる。ここで、K1>K2>K3>…>Kfである。
ステップ4b。ロバスト性を得るために、データ点の上位1%を写真シャープネス性能指数の考慮の対象から外す。例えば、fの1%=0.01f=m個のデータ点、すなわちデータ点1およびデータ点mを含めたデータ点1〜データ点mの値が、雑音に関係しているものと仮定されることから、これらのデータ点が、性能指数の考慮の対象から外されることになる。
ステップ4c。次の最上位の値のデータ点を写真シャープネス性能指数として選択する。この場合、データ点(m+1)が、写真シャープネス性能指数として選択されることになる。データ点(m+1)(すなわち、写真シャープネス性能指数)の値がTを越えている限り、取り込み画像は、「シャープな画像」となる。
デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを、上述した2次元勾配の大きさロバスト性(2−DGMR(two-dimensional gradient magnitude robustness))アルゴリズムを実行するようにプログラムすることができる。さらに、カメラ製造者のニーズに応じて、上位1%ではなく、上位2%、上位3%、または上位4%等を性能指数の考慮の対象から外すようにステップ4bを変更することも、このような変更が本発明の精神および範囲から逸脱しない限り、可能である。
一例では、ステップ1〜3に関して、以下のMATLAB(商標)コードを使用することができる。
a=imread('big.jpg');
b=imread('big_blur.jpg');

a_int=double(rgb2ycbcr(a));
b_int=double(rgb2ycbcr(b));

for i=2:1500
for j=2:2000
c(i,j)=abs((a_int(i+1,j-1,1)+a_int(i+1,j,1)+a_int(i+1,j+1,1))-(a_int(i-1,j-1,1)+a_int(i-1,j,1)+a_int(i-1,j+1,1)))+abs((a_int(i+1,j+1,1)+a_int(i,j+1,1)+a_int(i-1,j+1,1))-(a_int(i-1,j-1,1)+a_int(i,j-1,1)+a_int(i+1,j-1,1)));
end
end
for i=2:1500
for j=2:2000
a(i,j,1)=c(i,j)/3;
a(i,j,2)=c(i,j)/3;
a(i,j,3)=c(i,j)/3;
end
end
image(a);

figure;

for i=2:1500
for j=2:2000
d(i,j)=abs((b_int(i+1,j-1,1)+b_int(i+1,j,1)+b_int(i+1,j+1,1))-(b_int(i-1,j-1,1)+b_int(i-1,j,1)+b_int(i-1,j+1,1)))+abs((b_int(i+1,j+1,1)+b_int(i,j+1,1)+b_int(i-1,j+1,1))-(b_int(i-1,j-1,1)+b_int(i,j-1,1)+b_int(i+1,j-1,1)));
end
end
for i=2:1500
for j=2:2000
b(i,j,1)=d(i,j)/3;
b(i,j,2)=d(i,j)/3;
b(i,j,3)=d(i,j)/3;
end
end
image(b);
本発明の代替的な実施の形態によると、写真シャープネス性能指数は、以下の2次元勾配アルゴリズムを実行することによって、カメラ内で計算することができる。
ステップ1。取り込み画像データをRGB色空間からL*a*b*色空間に変換する。
ステップ2。上記式を使用して、L*成分の2次元勾配の大きさを計算する。
ステップ3。L*成分の2次元勾配の大きさをピクセル位置に対してプロットする(図示せず)。
ステップ4。最大(2次元)勾配の大きさを写真シャープネス性能指数として選択する。このステップは、カメラ製造者のニーズに応じて、上述した2−DGMRアルゴリズムを使用して変更することができる。
ステップ5。写真シャープネス性能指数が、予め設定された写真シャープネス閾値「M」を越えているかどうかを判断する。写真シャープネス性能指数がMを越えている場合、取り込み画像は「シャープな画像」である。写真シャープネス性能指数がMよりも小さい場合、取り込み画像は「ぼけた画像」である。
デジタルスチルカメラ20の写真シャープネス閾値は、デジタルスチルカメラ20に対していわゆる「ナイフエッジ」テストを実行して、カメラがシャープなエッジにどのように反応するかを判断することによって、製造時に設定することができる。あらゆるデジタルスチルカメラは、このテストによって測定できる一定の周波数応答を有する。具体的には、このテストは、CCDアレイの列に対してわずかな角度で配置されたナイフエッジターゲットを使用する。CCDアレイの列に対するナイフエッジのピッチは、少なくとも10:1であることが好ましい。すなわち、ナイフエッジは、1列のピクセルを横断する間に10行を横切る。エッジは、このように使用されると、線広がり関数を拡大する。完全なエッジトレースを得るには、単一の列から読み取られたデータは、10行と交差しなければならない。換言すると、広がり関数の倍率は10:1である。列に沿って取得されたエッジデータは、次に、2次モーメントデータに直接変換される。この2次モーメントデータは、次に、変調伝達関数に変換でき、次いで、写真品質メトリックに変換できる。ナイフエッジテストに関するより詳細な内容は、例えば、ミシガン州グランビルにあるX-Rite, Inc.のEdward M. Granger著「Photo quality Of Digital Cameras」pp. 188-191, IS&T's 1998 PICS Conferenceに見ることができる。
あるいは、本発明の好ましい実施の形態によると、デジタルカメラの製造者は、理想的な条件下で一連のテスト写真を撮影して、各写真に存在する最大の第1レベル勾配を計算することができる。計算されたすべての第1レベル勾配の最大値の中から最小の第1レベル勾配を選択することによって、閾値を求めることができる。次いで、この閾値は、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサにプログラムされる。
上述したテストおよびアルゴリズムは、全体的にぼやけた取り込み画像に対して有益である。取り込み画像の一定の部分がぼけて、他の部分がシャープである場合には、従来の検出方法を使用して、注目領域(例えば、顔の領域)を検出し、上述の技法は、その検出された注目領域にのみ、写真シャープネスの評価を適用することができる。
さまざまな従来の顔および目の検出アルゴリズムを使用して、顔および目の領域を検出し、次いで、ステップ64(図7)において、検出領域の顔の品質性能指数を計算することによって、顔の品質属性をカメラ内で評価することができる。計算された顔の品質性能指数は、ステップ66(図7)において、予め設定された閾値と比較され、その性能指数が、閾値を越えているかどうかが判断される。性能指数が閾値を越えている場合には、取り込み(かつ処理された)画像の顔の品質は許容可能である。そうでない場合には、顔の品質は許容可能ではなく、適切な警告が、上述した方法でカメラユーザに発行される。
顔の品質性能指数の計算は、数個のステップで行われる。具体的には、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサは、各検出領域における(a)明度性能指数の計算、(b)雑音レベル性能指数の計算、(c)コントラスト性能指数の計算、および(d)赤目の存否のチェック、を行うようにプログラムされる。
適切な顔の検出アルゴリズムは、例えば、2000年9月のカナダのバンクーバでのIEEE International Conference on Image ProcessingにおけるNicolas Tsapatsoulis、Yannis Avrithis、およびStefanos Kolliasによる題名「Efficient Face Detection For Multimedia Applications」、Proceedings ICIP 2000の論文に記載されている。このアルゴリズムは、既知の多重解像度再帰的最短スパニングツリー(M−RSST(multi-resolution recursive shortest spanning tree))色セグメント化アルゴリズム(color segmentation algorithm)を、皮膚の色分布のガウスモデルおよび全体形状の特徴と組み合わせ、続いて、その結果生成されたセグメントを顔の確率に関連付けるものである。顔の確率には、インデックスを付けることができ、この確率を使用して、マルチメディアデータベースから顔画像を検索することができる。具体的には、第1段階において、M−RSST色セグメント化アルゴリズムが、検査対象の画像/フレームに適用される。第2段階において、各セグメントが、皮膚色確率に関連付けられ、第3段階において、形状の制約条件が、全体の顔の確率の推定値を提供するために考慮される。このアルゴリズムは、マクロブロックまたはピクセルではなくセグメントが皮膚色確率に関連付けられる点で、他の既知のアルゴリズムよりも顔の検出効率が良い。セグメント確率は、システム出力となり、顔のインデックスおよび検索に使用される。あらゆるセグメントが、その確率を保持するので、適応型皮膚色モデルを使用して、アルゴリズムの実行を拡張することができる。低い確率の顔セグメントは、適応後に再評価することができる。さらに、セグメントは、ピクセルやマクロブロックよりも照明条件の影響を受けにくい。これは、顔の形状がより効率的に取り込まれて、顔の形状を最後の段階で使用して肌色確率から顔確率に移ることができるので、かなり好都合である。顔検出アルゴリズムに関するより詳細な内容は、上記特定した刊行物に見ることができる。
適切な目の検出アルゴリズムは、例えば、2000年9月のカナダのバンクーバでのIEEE International Conference on Image ProcessingにおけるTsuyoshi Kawaguchi、Daisuke Hidaka、およびMohamed Rizonによる題名「Detection Of Eyes From Human Faces By Hough Transform And Separability Filter」、Proceedings ICIP 2000の論文に記載されている。このアルゴリズムは、強度画像における人間の顔からの両眼の虹彩の検出を取り扱っている。画像は、無背景の頭から肩までのものであることが好ましい。両眼の虹彩は、画像内に現れていなければならない。すなわち、y軸の回りの頭の回転は、約−30度から30度までである。FukuiおよびYamaguchiの可分離フィルタ(separability filter)を使用すると、アルゴリズムは、まず、強度の谷間、すなわち「ブロブ」を虹彩の可能な候補として抽出し、次いで、ハフ(Hough)変換および可分離フィルタを使用して各対のブロブのコストを計算して、ブロブ対の画像に対する適合性を計算する。アルゴリズムは、最小のコストを有するブロブ対を両眼の虹彩として選択するようにプログラムされている。最後のステップは、以下のサブステップ、すなわち(a)眼のテンプレートにおける虹彩の中心が、2つのブロブの中心に配置されるように、眼のテンプレートの縮尺、変換、および向きを正規化するサブステップ、(b)FukuiおよびYamaguchiの可分離フィルタを使用して、テンプレートと画像との間の正規化された相互相関値を計算するサブステップ、および(c)テンプレートと画像との間の正規化された相互相関値<0.1である場合、その正規化された相互相関値=0.1に設定するサブステップ、を含む。FukuiおよびYamaguchiの可分離フィルタは、例えば、K. FukuiおよびO. Yamaguchi著「Facial Feature Point Extraction Method Based On Combination Of Shape Extraction And Pattern Matching」,IEICE Transactions, Vol. J80-D-II, No. 8, pp. 2170-2177, 1997に記載されている。この眼の検出アルゴリズムの1つの利点は、テンプレートマッチングまたは主成分分析を利用する他の既知の眼の検出アルゴリズムで実践されているような、画像における顔のサイズおよび向きの正規化を行う必要がないということである。この眼の検出アルゴリズムのさらに詳細な内容は、上記特定したKawaguchi等の刊行物に見ることができる。
他の既知の顔および/または眼の検出アルゴリズムも、本発明の範囲内に含まれる限り使用できるということが、当業者には容易に理解されよう。
明度は、一般に、視覚の属性として定義され、その属性に応じて、或るエリアは、光を多く示すように見えたり、光を少なく示すように見えたりする。さまざまな従来の研究では、カメラユーザが、一定の明度レベルおよびコントラストレベルを有する写真および/またはデジタル画像を見ることを好むということを示されている。すなわち、検出した顔領域のピクセル値の平均偏差または標準偏差の望ましいレベル、すなわちいわゆる「ターゲット」レベルまたは「閾値」レベルが存在することが示されている。顔領域が検出されると、ステップ90(図13)において、以下のアルゴリズムを実行するようにデジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、明度性能指数を計算することができる。
ステップ1。ステップ92(図13)において、取り込み顔画像データをRGB色空間からL*a*b*色空間に変換する。
ステップ2。ステップ94(図13)において、検出した顔領域のL*の平均を計算して、(a*b*)成分を無視した明度性能指数を得る。
ステップ3。計算した明度性能指数が、予め設定された明度閾値範囲「B」内にあるかどうかを判断する。明度性能指数がB内に含まれる場合、検出した顔画像データは十分明るいことになる。明度性能指数がB内に含まれない場合、検出した顔画像データは十分明るくなく、デジタルスチルカメラ20は、適切な可聴式のおよび/または視覚的な警告をユーザに発行する。
予め設定された明度閾値(またはターゲット)範囲は、主観的な画質の調査で得ることができる。主要な被写体として人々が写っているデジタル画像の明度を調整することができ、それに応じて、非常に多くのテストカメラユーザによってそのデジタル画像を評価することができる。顔領域の明度についてのユーザの好みを記録することができる。写真の顔が暗すぎるか、または、明るすぎると、ユーザの好みは、通常、低下し、カメラユーザのほとんどがその範囲の境界に同意したときに、閾値範囲またはターゲット範囲に到達する。すなわち、そのコントラストレベルを越えると画質が劣化する上限コントラストレベルおよび下限コントラストレベルのそれぞれに到達する。次いで、明度のターゲット/閾値範囲は、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサの論理回路にプログラムされる。
以下のアルゴリズムを実行するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、雑音性能指数を計算することができる。
ステップ1。ステップ92(図13)において、取り込み顔画像データをRGB色空間からL*a*b*色空間に変換する。
ステップ2。ステップ96(図13)において、検出した顔領域のL*の局所的な標準偏差を(直接隣接した3×3のピクセルを使用して)計算し、(a*b*)成分を無視した雑音性能指数を得る。
ステップ3。ステップ95(図13)において、計算した雑音性能指数が、事前に設定された雑音閾値「F」を超えているかどうかを判断する。雑音性能指数がFを越えている場合、検出した顔画像データの雑音レベルは許容可能である。雑音指数がFよりも小さい場合、検出した顔画像データの雑音レベルは許容可能でなく、デジタルスチルカメラ20は、適切な可聴式のおよび/または視覚的な警告をユーザに発行する。
雑音閾値は、上述した明度範囲の調査と同様に、主観的な画質の調査で求めることができる。具体的には、主要な被写体として人々が写っているデジタル画像の雑音レベルを調整することができ、それに応じて、非常に多くのテストカメラユーザによってそのデジタル画像を評価することができる。顔領域の雑音レベルについてのユーザの好みが記録される。一定の雑音レベルが高すぎる(許容可能でない)ことにテストユーザが同意すると、雑音閾値に到達する。次いで、この雑音閾値は、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサの論理回路にプログラムされる。
以下のアルゴリズムを実行するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを製造時にプログラムすることによって、コントラスト性能指数を計算することができる。
ステップ1。ステップ92(図13)において、取り込み顔画像データをRGB色空間からL*a*b*色空間に変換する。
ステップ2。ステップ98(図13)において、検出した顔領域のL*の全体の標準偏差を計算し、(a*b*)成分を無視したコントラスト性能指数を得る。
ステップ3。ステップ97(図13)において、計算したコントラスト性能指数が、予め設定されたコントラスト閾値範囲「C」内にあるかどうかを判断する。コントラスト性能指数がC内に含まれる場合、検出した顔画像データは十分なコントラストを有する。コントラスト性能指数がC内に含まれない場合、検出した顔画像データのコントラストは十分ではなく、デジタルスチルカメラ20は、適切な可聴式のおよび/または視覚的な警告をユーザに発行する。
予め設定されたコントラストの「ターゲット」範囲または「閾値」範囲は、上述した明度および雑音レベルの画質の調査と同様に、主観的な画質の調査で得ることができる。具体的には、顔領域のコントラストについてのテストカメラユーザの好みがテストされて記録される。テストユーザのほとんどが、コントラスト範囲の境界、すなわち、そのコントラストレベルを越えると画質が劣化する上限コントラストレベルおよび下限コントラストレベルのそれぞれに同意すると、コントラスト閾値(ターゲット)範囲に到達する。次いで、このコントラスト閾値範囲は、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサの論理回路にプログラムされる。
Lin(本出願の発明者)他に付与された「Apparatus and A Method For Reducing Red-Eye in a Digital Image」という発明の名称の米国特許第6,016,354号に一般的に開示された技法を利用するように、デジタルスチルカメラ20の内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサをプログラムすることによって、検出した眼の領域における赤目の存否をカメラ内で計算することができる。この米国特許の内容は、参照により本明細書に援用される。具体的には、マスクモジュールが使用されて、マーキングされたエリアのカラー画像が読み取られ、カラー画像のピクセルデータが、2値マスクに変換される。この2値マスクでは、ピクセルのそれぞれが、「白」ピクセルまたは「黒」ピクセルのいずれかとなっている。2値マスクは、原画像のマーキングされたエリアと同じサイズとすることもできるし、マーキングされたエリアよりも小さなサイズとすることもできる。2値マスクは、マーキングされたエリアのすべての赤いピクセルを特定するのに使用され、したがって、赤色ピクセルを示す第1段階領域と、赤以外の色を有するピクセルを示す第2段階領域とを含む。第1段階領域は、白(最大グレースケール値)ピクセルによって表される一方、第2段階領域は、黒(最小グレースケール値)ピクセルによって表される。グレースケール値が8ビットデータによって表される場合、最大グレースケール値は255であり、最小グレースケール値は0である。2値マスクが白ピクセルを有しない場合、赤目は存在しないことになる。2値マスクが白ピクセルを含む場合、赤目が存在し、フラグが自動的に立てられ、それに伴って、適切な可聴式/視覚的警告がカメラユーザに発行される。この技法に関するより詳細な内容は、例えば、米国特許第6,016,354号の第5欄の第5行および第67行を含む第5行〜第67行ならびに第6欄の第1行および第49行を含む第1行〜第49行に見ることができる。
カメラのASICまたはDSPまたは汎用プロセッサを製造時にプログラムすることによって、取り込みデジタル画像のフレアの存否をカメラ内で評価し、フレア性能指数を計算し(ステップ68;図7)、次いで、フレア性能指数を予め設定された閾値と比較して、フレア性能指数がこの閾値を越えているかどうかを判断する(ステップ70;図7)ことができる。具体的には、カメラのASICまたはDSPまたは汎用プロセッサは、画像84(図14)等の取り込みデジタル画像において、ほぼ白である(255,255,255)のRGBピクセルレベルのエリアを検出するようにプログラムされる。
フレアは、一般に、連続した領域(図14)に多数の飽和したピクセルが存在する場合に問題となる。カメラ内のフレア検出は、以下のステップを含むことが好ましい。
ステップ1。取り込み画像84の2値マッピングまたは2値画像86(図15)を生成する。一般に、2値画像は、そのピクセルが2つの可能な強度値しか有しない画像である。数値として、2つの値は、多くの場合、黒が0であり、白が1または255のいずれかである。(画像の)オブジェクトまたは領域をその背景から分離するために、2値画像は、通常、黒および白で表示され、通例、グレースケール画像またはカラー画像を閾値処理することによって生成される。オブジェクトの色(通例、白)は、前景色として参照される。その残りの色(通例、黒)は、背景色として参照される。閾値処理される画像に応じて、この極性は、反転されることがある。反転された場合、オブジェクトは、ゼロ値で表示される一方、背景は、非ゼロ値で表示される。
ステップ2。2値マッピング86を複数の領域、例えば5×5領域(図15)に分割する。
ステップ3。図15の各領域において、飽和した(白)ピクセルの個数をカウントし、領域内の飽和した(白)ピクセルの割合を計算する。例えば、領域88(図15)は、大部分が飽和した(白)ピクセルを含む。
ステップ4。少なくとも1つの領域(例えば、図15の領域88)の飽和した(白)ピクセルの割合(フレア性能指数)が、予め設定された閾値(割合)を越えているかどうかを判断する。この閾値は、本発明を実践する最良の形態によると、少なくとも50%であるべきである。少なくとも1つの領域のフレア性能指数が50%を越えている場合、デジタル画像84(図14)には、フレアが存在することになる。この場合、対応する可聴式のまたは視覚的な警告をカメラユーザに与えることができる。警告は、例えば、赤い警告灯46(図8)の形態、または、簡単なテキストメッセージをLCDスクリーン28の所定の部分に表示する形態で行うことができる。このテキストメッセージは、窓等の「明るいエリアを避けること」、「カメラを別の場所に移動させること」等(図示せず)をカメラユーザにアドバイスするものである。(2値画像86の)各領域のフレア性能指数がいずれも50%未満である場合、デジタル画像84(図14)にフレアは存在しないことになる。
一例では、以下のMATLAB(商標)コードを使用して、図15に示すタイプの2値マッピングを生成することができる。
a=imread('dsc00001.jpg');
b=imread('dsc00001.jpg');
for i=1:1200
for j=1:1600
count=0;
b(i,j,1)=0;
b(i,j,2)= 0;
b(i,j,3)= 0;
if a(i,j,1)>200
count=1;
end
if a(i,j,2)>200
count=2;
end
if a(i,j,3)>200
count=3;
end
if count=3
b(i,j,1)=255;
b(i,j,2)= 255;
b(i,j,3)= 255;
end
end
end
image(b)
デジタルスチルカメラ20が、上述した3つの写真品質属性のそれぞれに関する問題を検出しない場合、カメラユーザには、取り込み画像の写真品質が許容可能な品質であることが通知される(ステップ56;図6)。このような通知は、図8に概ね示すように、例えば、LCDスクリーン28の一方の側に3つの緑の光を表示する形態で行うことができる。他のタイプおよび/またはモードの通知も、そのような他のタイプおよび/またはモードの通知が本発明の意図した目的から逸脱しない場合には、利用することができる。
デジタルカメラ20のそれぞれのASICまたはDSPまたは汎用プロセッサが、カメラ製造者によってどのように構成されているかに応じて、3つの写真品質属性のそれぞれのカメラ内での評価は、並列に実行することもできるし、逐次実行することもできることが、当業者には理解されよう。
図16に示すように、本発明は、取り込み画像の写真品質をカメラ内で評価して、デジタルスチルカメラのユーザに写真品質のフィードバックを提供する、参照符号100によって包括的に参照されるシステムをも対象とする。このシステム100は、画像取り込み装置102と、画像プロセッサ104と、画像プロセッサ104と表示装置またはLCDプレビュースクリーン114との間に動作可能に結合された写真品質チェック装置106とを備える。画像取り込み装置102は、CCDまたはCMOSセンサ(図示せず)を含むことができる。画像プロセッサ104は、取り込み画像データに対して画像処理パイプラインを実行する内蔵ASICまたは内蔵DSPまたは内蔵汎用プロセッサを含むことができる。
本発明の好ましい実施の形態によると、写真品質チェック装置106は、写真シャープネスチェックモジュール108と、顔品質チェックモジュール110と、フレアチェックモジュール112とを備える。これら3つのモジュール(108、110、112)のそれぞれは、ASICまたはDSPまたは汎用プロセッサ上に実装され、それぞれ、図6〜図15を参照して上述したように機能することを目的としたものである。これら3つのモジュール(108、110、112)のそれぞれは、カメラの構成に応じて、同じASICまたはDSPまたは汎用プロセッサ上に実装されてもよいし、実装されなくてもよい。
取り込み(かつ、画像プロセッサ104によって処理された)画像データが各モジュール(108、110、112)によって処理される順序は、並列(図16)に行うこともできるし、逐次(図示せず)に行うこともできる。写真シャープネスチェックモジュール108が、取り込んで処理した画像(カラー写真)にぼけを検出する場合、適切な可聴式/視覚的警告が、表示装置114上に提供される。顔品質チェックモジュール110が、例えば、カラー写真に赤目の存在を検出すると、それぞれの可聴式/視覚的警告が、カメラユーザに対して表示装置114上に提供される。フレアチェックモジュール112が、カラー写真にフレアを検出すると、それぞれの可聴式/視覚的警告が、カメラユーザに対して表示装置114上に提供される。3つのすべてのモジュールが、カラー写真に関して問題を検出しない場合、デジタルカメラ20は、適切な可聴式/視覚的通知をユーザに発行する。このような通知は、例えば、表示装置114の一方の側の列に3つの緑の光(図示せず)を表示する形態等とすることができる。
このように、客観的な写真品質フィードバックがユーザに提供されることにより、画像の撮影およびプレビューの全プロセスは、はるかに効率的なものになる。
本発明の一実施の形態による、LCDプレビュースクリーンが使用されるデジタルスチルカメラの側面斜視図である。 図1のデジタルカメラのLCDプレビュースクリーン上に表示されたオブジェクトおよび背景の第1のサムネイル画像である。 図1のデジタルカメラのLCDプレビュースクリーン上に表示された同じオブジェクトおよび同じ背景の第2のサムネイル画像である。 図2の第1のサムネイル画像の拡大図である。 図3の第2のサムネイル画像の拡大図である。 本発明の一実施の形態によるプロセスの動作フローチャートである。 本発明の一実施の形態による別のプロセスの動作フローチャートである。 本発明の一実施の形態による図1のデジタルスチルカメラの背面斜視図である。 図4の画像のピクセル位置に対する赤チャネルのグレーレベルのグラフである。 図5の画像のピクセル位置に対する赤チャネルのグレーレベルのグラフである。 本発明の一実施の形態による、図4の画像のピクセル位置に対する隣接ピクセル間の赤チャネルのグレーレベルの絶対差のグラフである。 本発明の一実施の形態による、図5の画像のピクセル位置に対する隣接ピクセル間の赤チャネルのグレーレベルの絶対差のグラフである。 本発明の一実施の形態によるさらに別のプロセスの動作フローチャートである。 図1のデジタルスチルカメラにより撮影された、フレア問題を示す写真である。 本発明の一実施の形態による図14の写真の2値マッピングである。 本発明の一実施の形態によるデジタルスチルカメラの取り込み画像の写真品質を評価するシステムのブロック図である。
符号の説明
100・・・システム
102・・・画像取り込み装置
104・・・画像プロセッサ
106・・・写真品質チェック装置
108・・・写真シャープネスチェックモジュール
110・・・顔品質チェックモジュール
112・・・フレアチェックモジュール
114・・・LCDプレビュースクリーン

Claims (10)

  1. デジタルカメラ(20)において取り込み画像(30),(32)の写真品質を評価する方法であって、
    前記取り込み画像(30),(32)の前記写真品質をカメラ内でチェックして(42),(54)、前記写真品質が許容可能であるかどうかをカメラ内で判断することと、
    対応する写真品質フィードバックをカメラユーザに提供すること(56),(58)と、
    を含む方法。
  2. 前記チェックするステップ(42),(54)は、
    前記取り込み画像(30),(32)の写真シャープネス性能指数を計算すること(60)と、
    前記計算された写真シャープネス性能指数を閾値と比較して(62)、この写真シャープネス性能指数が前記閾値を越えているかどうかを判断することと、
    を含む請求項1に記載の取り込み画像の写真品質を評価する方法。
  3. 前記計算するステップ(60)は、
    前記取り込み画像(30),(32)のラインピクセルプロファイルを生成すること(76),(78)と、
    前記ラインピクセルプロファイルを使用して、水平方向に隣接するピクセル間のチャネルのグレーレベルの絶対差を計算すること(80),(82)と、
    その最大絶対差を前記写真シャープネス性能指数として選択することと、
    を含む請求項2に記載の取り込み画像の写真品質を評価する方法。
  4. 前記チェックするステップ(42),(54)は、
    チャネルの2次元勾配の大きさを計算することと、
    最大の2次元勾配の大きさを前記写真シャープネス性能指数として選択することと、
    を含む請求項2に記載の取り込み画像の写真品質を評価する方法。
  5. 前記チェックするステップ(42),(54)は、
    前記取り込み画像(30),(32)の顔の品質性能指数を計算すること(64)と、
    前記計算した顔の品質性能指数を閾値と比較して(66)、この顔の品質性能指数が前記閾値を越えているかどうかを判断することと、
    をさらに含む請求項1に記載の取り込み画像の写真品質を評価する方法。
  6. 前記計算するステップ(64)は、
    前記取り込み画像(30),(32)から顔画像データを検出すること(90)と、
    前記検出された顔画像データを、赤色のピクセルを表す白ピクセル、および、赤以外の色のピクセルを表す黒ピクセルのみからなる2値マスクに変換することと、
    前記2値マスクに白ピクセルが存在するかどうかをチェックすることと、
    を含む請求項5に記載の取り込み画像の写真品質を評価する方法。
  7. 前記チェックするステップ(42),(54)は、
    前記取り込み画像(30),(32)のフレア性能指数を計算すること(68)と、
    前記計算されたフレア性能指数を閾値と比較して(70)、このフレア性能指数が前記閾値を越えているかどうかを判断することと、
    対応するフレアフィードバックを前記カメラユーザに提供することと、
    を含む請求項1に記載の取り込み画像の写真品質を評価する方法。
  8. 前記計算するステップ(68)は、
    黒ピクセルおよび前記取り込み画像の飽和したピクセルを表す白ピクセルのみを含む、前記取り込み画像(30),(32)の2値マッピングを生成して、該2値マッピングを複数の領域に分割することと、
    各領域の白ピクセルの割合を計算して、フレア性能指数を得ることと、
    少なくとも1つの領域の前記フレア性能指数がフレア閾値を越えているかどうかを判断することと、
    を含む請求項7に記載の取り込み画像の写真品質を評価する方法。
  9. デジタルカメラ(20)において取り込み画像(30),(32)の写真品質を評価する方法であって、
    前記取り込み画像の写真シャープネス性能指数をカメラ内で計算するステップ(60)と、
    前記計算された写真シャープネス性能指数を閾値とカメラ内で比較して、この写真シャープネス性能指数が前記閾値を越えているかどうかを判断するステップ(62)と、
    対応する写真シャープネスフィードバックをカメラユーザに提供するステップと、
    前記取り込み画像の顔の品質性能指数をカメラ内で計算するステップ(64)と、
    前記計算した顔の品質性能指数を閾値とカメラ内で比較して、この顔の品質性能指数が前記閾値を越えているかどうかを判断するステップ(66)と、
    対応する顔の品質フィードバックを前記カメラユーザに提供するステップと、
    前記取り込み画像のフレア性能指数をカメラ内で計算するステップ(68)と、
    前記計算したフレア性能指数を閾値とカメラ内で比較して、このフレア性能指数が前記閾値を越えているかどうかを判断するするステップ(70)と、
    対応するフレアフィードバックを前記カメラユーザに提供するステップと、
    を含む方法。
  10. デジタルカメラ(20)において取り込み画像(30),(32)の写真品質を評価するシステムであって、
    画像取り込み装置(102)と、
    該画像取り込み装置(102)に動作可能に結合されて、前記取り込み画像(30),(32)を処理する画像プロセッサ(104)と、
    該画像プロセッサ(104)に動作可能に結合されて、前記処理された画像の写真品質をカメラ内でチェックする写真品質チェック装置(106)と、
    該写真品質チェック装置(106)に動作可能に結合されて、対応する写真品質フィードバックをカメラユーザに提供する表示装置(114)と、
    を備えるシステム。
JP2003568611A 2002-02-12 2003-02-12 デジタルスチルカメラにおける取り込み画像の写真品質を評価する方法及び装置 Expired - Fee Related JP4351911B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/074,179 US7362354B2 (en) 2002-02-12 2002-02-12 Method and system for assessing the photo quality of a captured image in a digital still camera
PCT/US2003/004545 WO2003069559A2 (en) 2002-02-12 2003-02-12 Assessing the photo quality of a captured image in a digital still camera

Publications (2)

Publication Number Publication Date
JP2005521927A true JP2005521927A (ja) 2005-07-21
JP4351911B2 JP4351911B2 (ja) 2009-10-28

Family

ID=27659826

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003568611A Expired - Fee Related JP4351911B2 (ja) 2002-02-12 2003-02-12 デジタルスチルカメラにおける取り込み画像の写真品質を評価する方法及び装置

Country Status (7)

Country Link
US (1) US7362354B2 (ja)
EP (1) EP1474779B1 (ja)
JP (1) JP4351911B2 (ja)
AU (1) AU2003217423A1 (ja)
DE (1) DE60324528D1 (ja)
TW (1) TWI255642B (ja)
WO (1) WO2003069559A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010024265A1 (ja) 2008-08-26 2010-03-04 ソニー株式会社 画像処理装置および方法、学習装置および方法、並びにプログラム
JP2013546092A (ja) * 2010-12-13 2013-12-26 ユニヴェルシテ パリ ディドロ−パリ セットゥ デジタル画像中のぼけを検出および定量化する方法

Families Citing this family (208)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030206654A1 (en) * 2002-05-01 2003-11-06 Heng-Tun Teng Replacing method of an object in a dynamic image
WO2004030378A2 (en) * 2002-09-24 2004-04-08 Hasselblad A/S Image quality indicator
US20050219400A1 (en) * 2002-09-24 2005-10-06 Hasselblad A/S Image quality indicator
JP2004147018A (ja) * 2002-10-23 2004-05-20 Fuji Photo Film Co Ltd 画像処理方法及びデジタルカメラ
ATE412223T1 (de) * 2002-10-24 2008-11-15 L 1 Identity Solutions Ag Prüfung von bildaufnahmen von personen
US7327504B2 (en) * 2002-12-06 2008-02-05 Eastman Kodak Company Method of detecting clipped image pixels
KR100530746B1 (ko) * 2002-12-24 2005-11-23 삼성테크윈 주식회사 촬영 상태가 부적절하였음을 알려주는 디지털 카메라 및그 제어방법
US7039222B2 (en) * 2003-02-28 2006-05-02 Eastman Kodak Company Method and system for enhancing portrait images that are processed in a batch mode
US8494286B2 (en) 2008-02-05 2013-07-23 DigitalOptics Corporation Europe Limited Face detection in mid-shot digital images
US8498452B2 (en) 2003-06-26 2013-07-30 DigitalOptics Corporation Europe Limited Digital image processing using face detection information
US7269292B2 (en) 2003-06-26 2007-09-11 Fotonation Vision Limited Digital image adjustable compression and resolution using face detection information
US8948468B2 (en) 2003-06-26 2015-02-03 Fotonation Limited Modification of viewing parameters for digital images using face detection information
US8264576B2 (en) 2007-03-05 2012-09-11 DigitalOptics Corporation Europe Limited RGBW sensor array
US8180173B2 (en) 2007-09-21 2012-05-15 DigitalOptics Corporation Europe Limited Flash artifact eye defect correction in blurred images using anisotropic blurring
US8593542B2 (en) 2005-12-27 2013-11-26 DigitalOptics Corporation Europe Limited Foreground/background separation using reference images
US8417055B2 (en) 2007-03-05 2013-04-09 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US7844076B2 (en) 2003-06-26 2010-11-30 Fotonation Vision Limited Digital image processing using face detection and skin tone information
US8989516B2 (en) * 2007-09-18 2015-03-24 Fotonation Limited Image processing method and apparatus
US7636486B2 (en) * 2004-11-10 2009-12-22 Fotonation Ireland Ltd. Method of determining PSF using multiple instances of a nominally similar scene
US7639889B2 (en) * 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method of notifying users regarding motion artifacts based on image analysis
US9160897B2 (en) * 2007-06-14 2015-10-13 Fotonation Limited Fast motion estimation method
US7471846B2 (en) * 2003-06-26 2008-12-30 Fotonation Vision Limited Perfecting the effect of flash within an image acquisition devices using face detection
US7440593B1 (en) 2003-06-26 2008-10-21 Fotonation Vision Limited Method of improving orientation and color balance of digital images using face detection information
US7792970B2 (en) 2005-06-17 2010-09-07 Fotonation Vision Limited Method for establishing a paired connection between media devices
US7565030B2 (en) 2003-06-26 2009-07-21 Fotonation Vision Limited Detecting orientation of digital images using face detection information
US8896725B2 (en) 2007-06-21 2014-11-25 Fotonation Limited Image capture device with contemporaneous reference image capture mechanism
US8989453B2 (en) 2003-06-26 2015-03-24 Fotonation Limited Digital image processing using face detection information
US9692964B2 (en) 2003-06-26 2017-06-27 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
US8682097B2 (en) 2006-02-14 2014-03-25 DigitalOptics Corporation Europe Limited Digital image enhancement with reference images
US8155397B2 (en) 2007-09-26 2012-04-10 DigitalOptics Corporation Europe Limited Face tracking in a camera processor
US7317815B2 (en) * 2003-06-26 2008-01-08 Fotonation Vision Limited Digital image processing composition using face detection information
US8199222B2 (en) 2007-03-05 2012-06-12 DigitalOptics Corporation Europe Limited Low-light video frame enhancement
US7620218B2 (en) 2006-08-11 2009-11-17 Fotonation Ireland Limited Real-time face tracking with reference images
US9129381B2 (en) 2003-06-26 2015-09-08 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
US8330831B2 (en) 2003-08-05 2012-12-11 DigitalOptics Corporation Europe Limited Method of gathering visual meta data using a reference image
US7574016B2 (en) 2003-06-26 2009-08-11 Fotonation Vision Limited Digital image processing using face detection information
US7835572B2 (en) * 2003-09-30 2010-11-16 Sharp Laboratories Of America, Inc. Red eye reduction technique
US7755669B2 (en) * 2003-11-28 2010-07-13 Canon Kabushiki Kaisha Image capture apparatus and image capture method in which an image is processed by a plurality of image processing devices
JP2005184391A (ja) * 2003-12-18 2005-07-07 Ricoh Co Ltd 撮像装置およびその異常検出方法
US20050134719A1 (en) * 2003-12-23 2005-06-23 Eastman Kodak Company Display device with automatic area of importance display
US7916940B2 (en) * 2004-01-31 2011-03-29 Hewlett-Packard Development Company Processing of mosaic digital images
JP2005309409A (ja) * 2004-03-25 2005-11-04 Fuji Photo Film Co Ltd 赤目防止装置、プログラムおよびプログラムを記録した記録媒体
US20050275737A1 (en) * 2004-06-10 2005-12-15 Cheng Brett A System and method for effectively utilizing a live preview mode in an electronic imaging device
US7430369B2 (en) * 2004-08-16 2008-09-30 Canon Kabushiki Kaisha Image capture apparatus and control method therefor
US7764844B2 (en) * 2004-09-10 2010-07-27 Eastman Kodak Company Determining sharpness predictors for a digital image
JP2006115446A (ja) * 2004-09-14 2006-04-27 Seiko Epson Corp 撮影装置、及び画像評価方法
US9384619B2 (en) * 2006-07-31 2016-07-05 Ricoh Co., Ltd. Searching media content for objects specified using identifiers
US8838591B2 (en) * 2005-08-23 2014-09-16 Ricoh Co., Ltd. Embedding hot spots in electronic documents
US7672543B2 (en) * 2005-08-23 2010-03-02 Ricoh Co., Ltd. Triggering applications based on a captured text in a mixed media environment
US8176054B2 (en) * 2007-07-12 2012-05-08 Ricoh Co. Ltd Retrieving electronic documents by converting them to synthetic text
US8195659B2 (en) * 2005-08-23 2012-06-05 Ricoh Co. Ltd. Integration and use of mixed media documents
US8156427B2 (en) * 2005-08-23 2012-04-10 Ricoh Co. Ltd. User interface for mixed media reality
US9373029B2 (en) 2007-07-11 2016-06-21 Ricoh Co., Ltd. Invisible junction feature recognition for document security or annotation
US8385589B2 (en) 2008-05-15 2013-02-26 Berna Erol Web-based content detection in images, extraction and recognition
US7917554B2 (en) * 2005-08-23 2011-03-29 Ricoh Co. Ltd. Visibly-perceptible hot spots in documents
US8949287B2 (en) * 2005-08-23 2015-02-03 Ricoh Co., Ltd. Embedding hot spots in imaged documents
US8369655B2 (en) 2006-07-31 2013-02-05 Ricoh Co., Ltd. Mixed media reality recognition using multiple specialized indexes
US7991778B2 (en) * 2005-08-23 2011-08-02 Ricoh Co., Ltd. Triggering actions with captured input in a mixed media environment
US8156116B2 (en) * 2006-07-31 2012-04-10 Ricoh Co., Ltd Dynamic presentation of targeted information in a mixed media reality recognition system
US7970171B2 (en) 2007-01-18 2011-06-28 Ricoh Co., Ltd. Synthetic image and video generation from ground truth data
US8521737B2 (en) * 2004-10-01 2013-08-27 Ricoh Co., Ltd. Method and system for multi-tier image matching in a mixed media environment
US7702673B2 (en) * 2004-10-01 2010-04-20 Ricoh Co., Ltd. System and methods for creation and use of a mixed media environment
US8086038B2 (en) 2007-07-11 2011-12-27 Ricoh Co., Ltd. Invisible junction features for patch recognition
US7920759B2 (en) * 2005-08-23 2011-04-05 Ricoh Co. Ltd. Triggering applications for distributed action execution and use of mixed media recognition as a control input
US7885955B2 (en) * 2005-08-23 2011-02-08 Ricoh Co. Ltd. Shared document annotation
US8184155B2 (en) 2007-07-11 2012-05-22 Ricoh Co. Ltd. Recognition and tracking using invisible junctions
US9405751B2 (en) * 2005-08-23 2016-08-02 Ricoh Co., Ltd. Database for mixed media document system
US8144921B2 (en) 2007-07-11 2012-03-27 Ricoh Co., Ltd. Information retrieval using invisible junctions and geometric constraints
US8332401B2 (en) * 2004-10-01 2012-12-11 Ricoh Co., Ltd Method and system for position-based image matching in a mixed media environment
US9171202B2 (en) * 2005-08-23 2015-10-27 Ricoh Co., Ltd. Data organization and access for mixed media document system
US8600989B2 (en) * 2004-10-01 2013-12-03 Ricoh Co., Ltd. Method and system for image matching in a mixed media environment
US8868555B2 (en) * 2006-07-31 2014-10-21 Ricoh Co., Ltd. Computation of a recongnizability score (quality predictor) for image retrieval
US8856108B2 (en) * 2006-07-31 2014-10-07 Ricoh Co., Ltd. Combining results of image retrieval processes
US7639387B2 (en) * 2005-08-23 2009-12-29 Ricoh Co., Ltd. Authoring tools using a mixed media environment
US8825682B2 (en) * 2006-07-31 2014-09-02 Ricoh Co., Ltd. Architecture for mixed media reality retrieval of locations and registration of images
US9530050B1 (en) 2007-07-11 2016-12-27 Ricoh Co., Ltd. Document annotation sharing
US7669148B2 (en) * 2005-08-23 2010-02-23 Ricoh Co., Ltd. System and methods for portable device for mixed media system
US7812986B2 (en) * 2005-08-23 2010-10-12 Ricoh Co. Ltd. System and methods for use of voice mail and email in a mixed media environment
US8005831B2 (en) * 2005-08-23 2011-08-23 Ricoh Co., Ltd. System and methods for creation and use of a mixed media environment with geographic location information
US10192279B1 (en) 2007-07-11 2019-01-29 Ricoh Co., Ltd. Indexed document modification sharing with mixed media reality
US8276088B2 (en) 2007-07-11 2012-09-25 Ricoh Co., Ltd. User interface for three-dimensional navigation
US7587412B2 (en) * 2005-08-23 2009-09-08 Ricoh Company, Ltd. Mixed media reality brokerage network and methods of use
US8335789B2 (en) * 2004-10-01 2012-12-18 Ricoh Co., Ltd. Method and system for document fingerprint matching in a mixed media environment
US8510283B2 (en) * 2006-07-31 2013-08-13 Ricoh Co., Ltd. Automatic adaption of an image recognition system to image capture devices
US20060072820A1 (en) * 2004-10-05 2006-04-06 Nokia Corporation System and method for checking framing and sharpness of a digital image
US8320641B2 (en) 2004-10-28 2012-11-27 DigitalOptics Corporation Europe Limited Method and apparatus for red-eye detection using preview or other reference images
US7639888B2 (en) * 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts
JP4534750B2 (ja) * 2004-12-21 2010-09-01 株式会社ニコン 画像処理装置および画像処理プログラム
JP4566732B2 (ja) * 2004-12-24 2010-10-20 富士フイルム株式会社 情報処理装置
KR100608596B1 (ko) * 2004-12-28 2006-08-03 삼성전자주식회사 얼굴 검출을 기반으로 하는 휴대용 영상 촬영 기기 및영상 촬영 방법
US7315631B1 (en) 2006-08-11 2008-01-01 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
US8503800B2 (en) 2007-03-05 2013-08-06 DigitalOptics Corporation Europe Limited Illumination detection using classifier chains
US20060152606A1 (en) * 2005-01-07 2006-07-13 Nucore Technology, Inc. Displaying a smear leakage icon on the display of a digital camera
US7586527B2 (en) * 2005-01-07 2009-09-08 Mediatek Usa Inc Detecting smear leakage in an image sensor exposed to a bright light source
US9769354B2 (en) 2005-03-24 2017-09-19 Kofax, Inc. Systems and methods of processing scanned data
US20060215042A1 (en) * 2005-03-24 2006-09-28 Motorola, Inc. Image processing method and apparatus with provision of status information to a user
US7860319B2 (en) 2005-05-11 2010-12-28 Hewlett-Packard Development Company, L.P. Image management
US7693304B2 (en) * 2005-05-12 2010-04-06 Hewlett-Packard Development Company, L.P. Method and system for image quality calculation
JP4405942B2 (ja) * 2005-06-14 2010-01-27 キヤノン株式会社 画像処理装置およびその方法
US20070014542A1 (en) * 2005-06-30 2007-01-18 Hasselblad A/S Electronic camera with classification of images according to image quality
US20070041657A1 (en) * 2005-08-19 2007-02-22 Samsung Electronics Co., Ltd. Image processing device to determine image quality and method thereof
US7769772B2 (en) * 2005-08-23 2010-08-03 Ricoh Co., Ltd. Mixed media reality brokerage network with layout-independent recognition
US7773805B2 (en) * 2005-12-30 2010-08-10 Aptina Imaging Corporation Method and apparatus for flare cancellation for image contrast restoration
KR100726258B1 (ko) * 2006-02-14 2007-06-08 삼성전자주식회사 휴대단말의 사진파일 및 음성파일을 이용한 영상물 제작방법
US7742083B2 (en) * 2006-04-13 2010-06-22 Eastman Kodak Company In-camera dud image management
IES20070229A2 (en) 2006-06-05 2007-10-03 Fotonation Vision Ltd Image acquisition method and apparatus
EP2033142B1 (en) 2006-06-12 2011-01-26 Tessera Technologies Ireland Limited Advances in extending the aam techniques from grayscale to color images
US20080021857A1 (en) * 2006-07-10 2008-01-24 Kabushiki Kaisha Toshiba Electronic Data Storing Apparatus
US8201076B2 (en) 2006-07-31 2012-06-12 Ricoh Co., Ltd. Capturing symbolic information from documents upon printing
US9020966B2 (en) * 2006-07-31 2015-04-28 Ricoh Co., Ltd. Client device for interacting with a mixed media reality recognition system
US8676810B2 (en) * 2006-07-31 2014-03-18 Ricoh Co., Ltd. Multiple index mixed media reality recognition using unequal priority indexes
US8073263B2 (en) 2006-07-31 2011-12-06 Ricoh Co., Ltd. Multi-classifier selection and monitoring for MMR-based image recognition
US9063952B2 (en) * 2006-07-31 2015-06-23 Ricoh Co., Ltd. Mixed media reality recognition with image tracking
US8489987B2 (en) 2006-07-31 2013-07-16 Ricoh Co., Ltd. Monitoring and analyzing creation and usage of visual content using image and hotspot interaction
US9176984B2 (en) 2006-07-31 2015-11-03 Ricoh Co., Ltd Mixed media reality retrieval of differentially-weighted links
US7916897B2 (en) 2006-08-11 2011-03-29 Tessera Technologies Ireland Limited Face tracking for controlling imaging parameters
US7403643B2 (en) 2006-08-11 2008-07-22 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
US20080056566A1 (en) * 2006-09-01 2008-03-06 Texas Instruments Incorporated Video processing
JP4460560B2 (ja) * 2006-09-29 2010-05-12 富士フイルム株式会社 撮像装置及び撮影方法
JP2008116823A (ja) * 2006-11-07 2008-05-22 Nikon Corp カメラ
US8081227B1 (en) * 2006-11-30 2011-12-20 Adobe Systems Incorporated Image quality visual indicator
US8055067B2 (en) 2007-01-18 2011-11-08 DigitalOptics Corporation Europe Limited Color segmentation
JP4254873B2 (ja) * 2007-02-16 2009-04-15 ソニー株式会社 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム
JP5049356B2 (ja) 2007-02-28 2012-10-17 デジタルオプティックス・コーポレイション・ヨーロッパ・リミテッド テクスチャ空間分解に基づく統計的顔モデリングにおける指向性照明変動性の分離
WO2008107002A1 (en) 2007-03-05 2008-09-12 Fotonation Vision Limited Face searching and detection in a digital image acquisition device
US7773118B2 (en) 2007-03-25 2010-08-10 Fotonation Vision Limited Handheld article with movement discrimination
US8649625B2 (en) * 2007-04-25 2014-02-11 Nec Corporation Method, device and program for measuring image quality adjusting ability, and method, device and program for adjusting image quality
US9262818B2 (en) 2007-05-01 2016-02-16 Pictometry International Corp. System for detecting image abnormalities
US8385672B2 (en) 2007-05-01 2013-02-26 Pictometry International Corp. System for detecting image abnormalities
US7916971B2 (en) 2007-05-24 2011-03-29 Tessera Technologies Ireland Limited Image processing method and apparatus
WO2009012364A1 (en) * 2007-07-19 2009-01-22 Nikon Corporation Device and method for estimating if an image is blurred
US9036871B2 (en) 2007-09-01 2015-05-19 Eyelock, Inc. Mobility identity platform
US8553948B2 (en) * 2007-09-01 2013-10-08 Eyelock, Inc. System and method for iris data acquisition for biometric identification
US9002073B2 (en) 2007-09-01 2015-04-07 Eyelock, Inc. Mobile identity platform
US9117119B2 (en) 2007-09-01 2015-08-25 Eyelock, Inc. Mobile identity platform
US8212870B2 (en) 2007-09-01 2012-07-03 Hanna Keith J Mirror system and method for acquiring biometric data
US7847380B2 (en) * 2007-09-20 2010-12-07 Samsung Electronics Co., Ltd. Tape substrate and semiconductor module for smart card, method of fabricating the same, and smart card
JP5034820B2 (ja) * 2007-09-21 2012-09-26 セイコーエプソン株式会社 画像処理装置、画像処理プログラム
US7816985B2 (en) * 2007-11-15 2010-10-19 Intersil Americas Inc. Switching amplifiers
US7805066B2 (en) * 2007-12-24 2010-09-28 Microsoft Corporation System for guided photography based on image capturing device rendered user recommendations according to embodiments
US8340452B2 (en) 2008-03-17 2012-12-25 Xerox Corporation Automatic generation of a photo guide
US7855737B2 (en) 2008-03-26 2010-12-21 Fotonation Ireland Limited Method of making a digital camera image of a scene including the camera user
KR101060488B1 (ko) * 2008-04-21 2011-08-30 주식회사 코아로직 최적 영상 선택 방법 및 장치
CN106919911A (zh) 2008-07-30 2017-07-04 快图有限公司 使用脸部检测的自动脸部和皮肤修饰
US20100091127A1 (en) * 2008-09-30 2010-04-15 University Of Victoria Innovation And Development Corporation Image reconstruction method for a gradient camera
CN101448174A (zh) * 2008-12-26 2009-06-03 深圳华为通信技术有限公司 一种图像质量评价装置和方法
US8125557B2 (en) * 2009-02-08 2012-02-28 Mediatek Inc. Image evaluation method, image capturing method and digital camera thereof for evaluating and capturing images according to composition of the images
US9767354B2 (en) 2009-02-10 2017-09-19 Kofax, Inc. Global geographic information retrieval, validation, and normalization
US9576272B2 (en) 2009-02-10 2017-02-21 Kofax, Inc. Systems, methods and computer program products for determining document validity
US8498486B2 (en) * 2009-03-12 2013-07-30 Qualcomm Incorporated Response to detection of blur in an image
CN101860680B (zh) 2009-04-08 2011-12-21 鸿富锦精密工业(深圳)有限公司 影像处理装置及其影像处理方法
US8385660B2 (en) * 2009-06-24 2013-02-26 Ricoh Co., Ltd. Mixed media reality indexing and retrieval for repeated content
JP5397059B2 (ja) * 2009-07-17 2014-01-22 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
US8379130B2 (en) * 2009-08-07 2013-02-19 Qualcomm Incorporated Apparatus and method of processing images based on an adjusted value of an image processing parameter
US8379917B2 (en) 2009-10-02 2013-02-19 DigitalOptics Corporation Europe Limited Face recognition performance using additional image features
US20110090327A1 (en) * 2009-10-15 2011-04-21 General Electric Company System and method for imaging with enhanced depth of field
US20110091125A1 (en) * 2009-10-15 2011-04-21 General Electric Company System and method for imaging with enhanced depth of field
US8314837B2 (en) * 2009-10-15 2012-11-20 General Electric Company System and method for imaging with enhanced depth of field
US20120105663A1 (en) * 2010-11-01 2012-05-03 Cazier Robert P Haptic Feedback Response
US20120198386A1 (en) * 2011-01-31 2012-08-02 Nokia Corporation Causing display of thumbnail images
CN103477351B (zh) 2011-02-17 2019-06-28 眼锁有限责任公司 用于采用单个传感器采集场景图像和虹膜图像的高效方法和系统
US9058331B2 (en) 2011-07-27 2015-06-16 Ricoh Co., Ltd. Generating a conversation in a social network based on visual search results
US8659667B2 (en) * 2011-08-29 2014-02-25 Panasonic Corporation Recipe based real-time assistance for digital image capture and other consumer electronics devices
US9165187B2 (en) 2012-01-12 2015-10-20 Kofax, Inc. Systems and methods for mobile image capture and processing
US10146795B2 (en) 2012-01-12 2018-12-04 Kofax, Inc. Systems and methods for mobile image capture and processing
US8810666B2 (en) * 2012-01-16 2014-08-19 Google Inc. Methods and systems for processing a video for stabilization using dynamic crop
US9575641B2 (en) * 2012-03-20 2017-02-21 Adobe Systems Incorporated Content aware image editing
KR101906827B1 (ko) 2012-04-10 2018-12-05 삼성전자주식회사 연속 사진 촬영 장치 및 방법
US8441548B1 (en) * 2012-06-15 2013-05-14 Google Inc. Facial image quality assessment
EP2706396A1 (en) * 2012-09-06 2014-03-12 ESSILOR INTERNATIONAL (Compagnie Générale d'Optique) Method for adapting the optical function of an adaptive ophtalmic lenses system
WO2014064690A1 (en) 2012-10-23 2014-05-01 Sivan Ishay Real time assessment of picture quality
US10196850B2 (en) 2013-01-07 2019-02-05 WexEnergy LLC Frameless supplemental window for fenestration
US10883303B2 (en) 2013-01-07 2021-01-05 WexEnergy LLC Frameless supplemental window for fenestration
US8923650B2 (en) * 2013-01-07 2014-12-30 Wexenergy Innovations Llc System and method of measuring distances related to an object
US9845636B2 (en) 2013-01-07 2017-12-19 WexEnergy LLC Frameless supplemental window for fenestration
US9691163B2 (en) 2013-01-07 2017-06-27 Wexenergy Innovations Llc System and method of measuring distances related to an object utilizing ancillary objects
US9569440B2 (en) * 2013-02-22 2017-02-14 Sony Corporation Method and apparatus for content manipulation
US9355312B2 (en) 2013-03-13 2016-05-31 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US9208536B2 (en) 2013-09-27 2015-12-08 Kofax, Inc. Systems and methods for three dimensional geometric reconstruction of captured image data
CN105283884A (zh) 2013-03-13 2016-01-27 柯法克斯公司 对移动设备捕获的数字图像中的对象进行分类
US20140316841A1 (en) 2013-04-23 2014-10-23 Kofax, Inc. Location-based workflows and services
WO2014179752A1 (en) 2013-05-03 2014-11-06 Kofax, Inc. Systems and methods for detecting and classifying objects in video captured using mobile devices
WO2015044947A1 (en) * 2013-09-30 2015-04-02 Yanai Danielle Image and video processing and optimization
WO2015073920A1 (en) 2013-11-15 2015-05-21 Kofax, Inc. Systems and methods for generating composite images of long documents using mobile video data
US20150189166A1 (en) * 2013-12-30 2015-07-02 Telefonica Digital España, S.L.U. Method, device and system for improving the quality of photographs
US20160334892A1 (en) * 2014-01-31 2016-11-17 Hewlett-Packard Development Company, L.P. Display unit manager
US9354489B2 (en) 2014-02-10 2016-05-31 Raytheon Company Robust autofocus algorithm for multi-spectral imaging systems
TWI578780B (zh) * 2014-10-02 2017-04-11 晶睿通訊股份有限公司 模糊影像偵測方法及其相關攝影機和影像處理系統
US9760788B2 (en) 2014-10-30 2017-09-12 Kofax, Inc. Mobile document detection and orientation based on reference object characteristics
JP6494313B2 (ja) * 2015-02-09 2019-04-03 キヤノン株式会社 画像処理方法、装置システム、プログラム、記憶媒体
WO2016203282A1 (en) 2015-06-18 2016-12-22 The Nielsen Company (Us), Llc Methods and apparatus to capture photographs using mobile devices
US10242285B2 (en) 2015-07-20 2019-03-26 Kofax, Inc. Iterative recognition-guided thresholding and data extraction
CN105227841A (zh) * 2015-10-13 2016-01-06 广东欧珀移动通信有限公司 拍照提示方法及装置
US9942472B2 (en) 2015-11-27 2018-04-10 International Business Machines Corporation Method and system for real-time image subjective social contentment maximization
CN105430384B (zh) * 2015-12-10 2018-05-29 青岛海信网络科技股份有限公司 一种视频质量诊断方法和系统
US9779296B1 (en) 2016-04-01 2017-10-03 Kofax, Inc. Content-based detection and three dimensional geometric reconstruction of objects in image and video data
US20180082416A1 (en) * 2016-09-16 2018-03-22 Qualcomm Incorporated Systems and methods for analyzing image quality
CN107870666B (zh) * 2016-09-28 2020-12-29 腾讯科技(深圳)有限公司 一种终端控制方法及终端
KR102615070B1 (ko) * 2016-10-12 2023-12-19 삼성전자주식회사 디스플레이 장치, 및 그 제어방법
CN108174185B (zh) * 2016-12-07 2021-03-30 中兴通讯股份有限公司 一种拍照方法、装置及终端
IL271006B1 (en) 2017-05-30 2024-05-01 WexEnergy LLC Complementary window without a frame for window design
WO2019022725A1 (en) 2017-07-25 2019-01-31 Hewlett-Packard Development Company, L.P. DETERMINATIONS OF SHARED CHARACTER RECOGNITION
US10803350B2 (en) 2017-11-30 2020-10-13 Kofax, Inc. Object detection and image cropping using a multi-detector approach
FR3080936B1 (fr) * 2018-05-04 2020-04-24 Imginit Methode de detection et de quantification du flou dans une image numerique
CN109785343B (zh) * 2019-01-17 2021-10-19 深圳英飞拓科技股份有限公司 基于清晰度的人脸抠图图片的优选方法及装置
EP4047923A4 (en) 2020-12-22 2022-11-23 Samsung Electronics Co., Ltd. ELECTRONIC DEVICE COMPRISING A CAMERA AND THEIR METHOD
CN113450340B (zh) * 2021-07-13 2024-03-19 北京美医医学技术研究院有限公司 一种皮肤纹理检测系统
CN115984720B (zh) * 2022-12-19 2024-04-12 山东和同信息科技股份有限公司 一种基于大数据技术的供热管网管理系统

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01106582A (ja) 1987-10-19 1989-04-24 Nec Home Electron Ltd 撮像装置
US6463173B1 (en) * 1995-10-30 2002-10-08 Hewlett-Packard Company System and method for histogram-based image contrast enhancement
US5773810A (en) 1996-03-29 1998-06-30 Welch Allyn, Inc. Method for generating real time degree of focus signal for handheld imaging device
FR2765393B1 (fr) 1997-06-25 2001-11-30 France Telecom Procede de gravure d'une couche de si1-xgex polycristallin ou d'un empilement d'une couche de si1-xgex polycristallin et d'une couche de si polycristallin, et son application a la microelectronique
US6016354A (en) 1997-10-23 2000-01-18 Hewlett-Packard Company Apparatus and a method for reducing red-eye in a digital image
US6298168B1 (en) * 1998-03-03 2001-10-02 Minolta Co., Ltd. Image coding apparatus
JPH11325685A (ja) 1998-05-19 1999-11-26 Hitachi Ltd 発熱体の冷却装置
US6134339A (en) * 1998-09-17 2000-10-17 Eastman Kodak Company Method and apparatus for determining the position of eyes and for correcting eye-defects in a captured frame
JP2000262501A (ja) 1999-03-15 2000-09-26 Fuji Photo Film Co Ltd 放射線固体検出装置
JP3990081B2 (ja) 1999-11-16 2007-10-10 オリンパス株式会社 電子撮像装置及び撮像光学系
US6298198B1 (en) 2000-01-28 2001-10-02 Eastman Kodak Company Motion verifying camera and motion verifying photography method
GB2370438A (en) * 2000-12-22 2002-06-26 Hewlett Packard Co Automated image cropping using selected compositional rules.
US6577821B2 (en) * 2001-07-17 2003-06-10 Eastman Kodak Company Camera having oversized imager and method
US7286177B2 (en) * 2001-12-19 2007-10-23 Nokia Corporation Digital camera

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010024265A1 (ja) 2008-08-26 2010-03-04 ソニー株式会社 画像処理装置および方法、学習装置および方法、並びにプログラム
US8494256B2 (en) 2008-08-26 2013-07-23 Sony Corporation Image processing apparatus and method, learning apparatus and method, and program
JP2013546092A (ja) * 2010-12-13 2013-12-26 ユニヴェルシテ パリ ディドロ−パリ セットゥ デジタル画像中のぼけを検出および定量化する方法

Also Published As

Publication number Publication date
US20030151674A1 (en) 2003-08-14
WO2003069559A2 (en) 2003-08-21
AU2003217423A8 (en) 2003-09-04
TWI255642B (en) 2006-05-21
TW200303139A (en) 2003-08-16
DE60324528D1 (de) 2008-12-18
EP1474779A2 (en) 2004-11-10
WO2003069559A3 (en) 2004-05-13
JP4351911B2 (ja) 2009-10-28
EP1474779B1 (en) 2008-11-05
AU2003217423A1 (en) 2003-09-04
US7362354B2 (en) 2008-04-22

Similar Documents

Publication Publication Date Title
JP4351911B2 (ja) デジタルスチルカメラにおける取り込み画像の写真品質を評価する方法及び装置
US7551800B2 (en) Detection of airborne flash artifacts using preflash image
US6654507B2 (en) Automatically producing an image of a portion of a photographic image
JP4772839B2 (ja) 画像識別方法および撮像装置
US8977056B2 (en) Face detection using division-generated Haar-like features for illumination invariance
US20090169101A1 (en) Image processing method and apparatus, image sensing apparatus, and program
US8340512B2 (en) Auto focus technique in an image capture device
US20090123063A1 (en) Detecting Redeye Defects in Digital Images
US20030161506A1 (en) Face detection computer program product for redeye correction
JP2008523504A (ja) ディジタル画像受容可能性自動判別
JP2004357277A (ja) デジタル画像処理方法
JP5725194B2 (ja) 夜景画像ボケ検出システム
JP2006050494A (ja) 画像撮影装置
JP2005122721A (ja) 画像処理方法および装置並びにプログラム
Chen et al. SmartDCap: semi-automatic capture of higher quality document images from a smartphone
JP2009123081A (ja) 顔検出方法及び撮影装置
JP2007080136A (ja) 画像内に表現された被写体の特定
JP2007258923A (ja) 画像処理装置、画像処理方法、画像処理プログラム
US20080199073A1 (en) Red eye detection in digital images
RU2338252C1 (ru) Способ предотвращения печати размытых фотографий
JP6776532B2 (ja) 画像処理装置、撮像装置、電子機器及び画像処理プログラム
JP3473832B2 (ja) ディジタル画像の自動補正方法及びそのシステム
CN111275045A (zh) 图像的主体识别方法、装置、电子设备和介质
JP7458723B2 (ja) 画像処理装置、撮像装置、制御方法、およびプログラム
JP2005202567A (ja) 画像処理方法、画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080221

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080513

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080924

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081218

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090716

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090727

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4351911

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees