JP2012520628A - 画像内のぼやけ検出に対する対応 - Google Patents

画像内のぼやけ検出に対する対応 Download PDF

Info

Publication number
JP2012520628A
JP2012520628A JP2011554248A JP2011554248A JP2012520628A JP 2012520628 A JP2012520628 A JP 2012520628A JP 2011554248 A JP2011554248 A JP 2011554248A JP 2011554248 A JP2011554248 A JP 2011554248A JP 2012520628 A JP2012520628 A JP 2012520628A
Authority
JP
Japan
Prior art keywords
blurred
region
image
regions
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011554248A
Other languages
English (en)
Other versions
JP5475021B2 (ja
Inventor
フォルタンプーア、ババク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2012520628A publication Critical patent/JP2012520628A/ja
Application granted granted Critical
Publication of JP5475021B2 publication Critical patent/JP5475021B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations

Abstract

画像内のぼやけた関心領域の検出に対応するシステムおよび方法が開示される。1つの実施形態は、デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を位置決めする領域ロケータを含む。実施形態は更に、関心領域がぼやけているかどうかを検出するためのぼやけた領域検出器を含む。ぼやけた領域インジケータは、ぼやけた領域が検出されたときにユーザに対してインジケートする。ぼやけた領域が検出されると、ディスプレイ・インタフェースは、検出されたぼやけた領域の拡大画像を提供する。いくつかの実施形態は、改善された結果を伴って再度シーンを取り込む方法についての提案を提供する。

Description

本開示は一般に、画像内のぼやけ検出に関する。
カメラあるいは、例えばカメラ電話のような、その他の画像取込デバイスは、ユーザが良質なピクチャを撮ることを支援するためのオート・フォーカス能力および手ぶれ低減機能を提供しうる。しかし時折、ピクチャはぼやけうるし、ユーザが焦点を合わせたいピクチャ内の領域は焦点があっていないことがある。いくつかの従来のカメラでは、カメラ上のアクティブ・ディスプレイが、カメラによって「とらえられた(seen)」画像を表示して、ユーザが撮ろうとしているピクチャの品質についての有用な手がかりをユーザに与える。しかし時々、取り込もうとするシーン全体のディスプレイを見ている場合、アクティブ・ティスプレイのサイズに比べて小さい関心領域がいつ焦点が外れるかを知ることは困難である。そのために、ピクチャを撮ったものの、そのピクチャをより大きなディスプレイを有するデスクトップ・コンピュータあるいはラップトップに転送した後に初めて、そのピクチャが友人と共有したり、プリント・アウトするには品質が悪すぎるということに気付くというのは、ユーザにとってよくあることである。
本明細書における実施形態は、例えばぼやけた顔のような、画像のぼやけた領域を検出し、そのぼやけた領域のクローズ・アップを、ユーザがよりはっきりと見ることができるようにディスプレイ上に表示するための方法およびデバイスを提供する。いくつかの実施形態において、いくつかの検出されたぼやけた領域のクローズ・アップが表示されるだけでなく、比較のために、ぼやけた領域の隣に鮮明であると判定されたな領域も表示される。ぼやけた領域のクローズ・アップを表示することで、デバイスのユーザは、ぼやけた領域がシーン内に存在することをよりはっきりと見ることができ、また、ピクチャを撮り直すことを選択できる。本明細書において説明される実施形態は、ユーザが、ピクチャ取込デバイスのアクティブ・ディスプレイ上では良質に見えるピクチャを撮り、後になってからピクチャ内にぼやけた領域があることに気付くという問題を克服する。関心領域を定めて、その領域を分析してぼやけているがどうかを判定するためのアルゴリズムが完了すると、ぼやけた領域が検出されたかどうかの通知がユーザに提供される。
特定の実施形態において、画像のぼやけた領域のクローズ・アップを検出および表示するための装置が開示される。この装置は、デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を定める領域ロケータを含む。この装置は更に、1又は複数の該定められた領域がぼやけているときを検出するぼやけ検出器を含む。例えば、ぼやけ検出器は、定められた領域内で検出されたソフト・エッジの、ハード・エッジに対する比に基づいて、当該定められた領域が「過度にぼやけている」と判定しうる。この装置は更に、ぼやけ検出器に応答して、ぼやけた領域の検出に応じて信号を生成するインジケータを含む。この装置は更に、ぼやけた領域の拡大画像をディスプレイ・デバイスに提供するディスプレイ・インタフェースを含む。
別の特定の実施形態において、取り込まれた画像内の1又は複数の関心領域を定めることを含む方法が開示される。この方法は更に、定められた関心領域の中の1又は複数のぼやけた領域を検出することを含む。この方法は更に、第1のぼやけた領域を検出することに応じてユーザ通知信号を生成することと、ディスプレイ・デバイスによって表示される第1のぼやけた領域の拡大画像を生成することとを含む。
別の特定の実施形態において、コンピュータ読取可能有形媒体は、画像のぼやけた領域をコンピュータに検出させるコンピュータ・コードを含む。このコンピュータ・コードは更に、該コンピュータに、検出されたぼやけた領域の通知を提供させ、該コンピュータに、検出されたぼやけた領域の拡大画像の表示を開始させる。
別の特定の実施形態において、装置は、デジタル化された画像のぼやけた領域を検出する手段を含む。この方法は更に、検出する手段に応答して、検出されたぼやけた領域の通知を生成する手段を含む。この装置は更に、検出されたぼやけた領域の拡大画像の表示を開始する手段を含む。
このように、開示された実施形態によって提供された1つの特定の利点は、ユーザがよりはっきりと見ることができるように、検出されたぼやけた領域の拡大ビューが示されるということである。
本開示のその他の態様、利点、および特徴は、以下のセクション、すなわち、図面の簡単な説明、詳細な説明、および請求項を含む本願全体のレビュー後に、より明らかとなるだろう。
図1は、画像取込および処理システムの実施形態のブロック図である。 図2は、ぼやけた領域を検出するカメラの実施形態のブロック図である。 図3は、ハード・エッジおよびソフト・エッジと、エッジをハードあるいはソフトとして特徴付けるために使用される線分の傾斜との実施形態の例示である。 図4は、画像を取り込み、その画像がぼやけた領域を含んでいるかどうかを判定する方法の実施形態のフロー・チャートである。 図5は、比較のために、ぼやけた顔と鮮明な顔とを表示するグラフィック・ユーザ・インタフェースの実施形態の図である。 図6は、画像のぼやけた領域を表示するグラフィック・ユーザ・インタフェースの実施形態の図である。 図7は、画像のぼやけた領域を表示するグラフィック・ユーザ・インタフェースの実施形態の図である。 図8は、画像内のぼやけた領域を評価する実施形態のフロー・チャートである。 図9は、ユーザがしきい値を指定することによってカメラを調整できるようにするグラフィック・ユーザ・インタフェースの実施形態の図である。 図10は、ぼやけ検出器と、検出されたぼやけた領域の拡大画像を表示するディスプレイとを有する無線通信デバイスの実施形態のブロック図である。
図1は、関心領域ロケータ118とぼやけ検出器122とを有する画像処理システム130を含む画像取込および処理システムの実施形態のブロック図である。システム100は、画像処理システム130に結合された画像取込デバイス101を含む。画像処理システム130は、画像記憶デバイス140に結合される。画像処理システム130は、画像取込デバイス101から画像データ109を受信し、該画像データ109に対し、画像の領域を検出することと、その領域がぼやけているかどうかを判定することとを含む操作を実行することによって、受信された画像データ109を処理するように構成される。一般に、システム100は、比較的制限された処理リソースを使用してリアル・タイムな画像処理を実行するように構成された電子デバイスにおいて実施されうる。
特定の実施形態において、画像取込デバイス101は、例えば、ビデオ・カメラあるいは静止カメラのようなカメラである。その他の実施形態において、画像取込デバイス101は、セルラ電話、携帯情報端末(PDA)、あるいはその他のポータブル電子デバイスに組み込まれたカメラでありうる。画像取込デバイス101は、フォーカス・モジュール104と露出モジュール106とに応答するレンズ102を含む。センサ108は、レンズ102を介して光を受け取り、レンズ102を介して受け取られた画像に応じて画像データ109を生成する。フォーカス・モジュール104は、センサ108に応答しうる、また、レンズ102のフォーカスを自動的に制御するよう適合されうる。露出モジュール106も、センサ108に応答しうる、また、画像の露出を自動的に制御するように適合されうる。特定の実施形態において、センサ108は、隣接する検出器が異なる色の光を検出できるように配置された複数の検出器または画素ウェル(pixel wells)を含む。例えば、受け取られた光は、各検出器が赤、緑、あるいは青の入射光(incoming light)を受け取るようにフィルタされる。
画像取込デバイス101は、画像処理システム130に画像データ109を提供する。画像処理システム130は、画像取込デバイス101から受信された画像データ109にデモザイク操作を行うデモザイク・モジュール110を含む。色補正モジュール112は、デモザイクされた画像データに色補正を行うように構成される。ガンマ・モジュール114は、色補正モジュール112から受信されたデータからガンマ補正された画像データを生成するように構成される。色変換モジュール116は、ガンマ補正された画像に色空間変換を実行し、結果として生じた画像を提供するために、関心領域ロケータ118に結合されている。圧縮および格納モジュール120は、ぼやけ検出器122の出力を受信し、画像記憶デバイス140に、圧縮された出力データを格納するために結合されている。画像記憶デバイス140は、例えば、1又は複数のディスプレイ・バッファ、レジスタ、キャッシュ、フラッシュ・メモリ要素、ハード・ディスク、その他任意の記憶デバイス、あるいはそれら任意の組み合わせのような、任意の種類の記憶媒体を含みうる。
関心領域ロケータ118は、ピクチャ内の関心領域を検出するためのアルゴリズムを実行するように構成される。特に、特定の実施形態において、関心領域ロケータ118が定める領域は、顔検出器119によって検出される顔でありうる。特定の実施形態において、関心領域ロケータ118は更に、サブ領域アイソレータ121を含む。サブ領域アイソレータ121は、関心領域ロケータ118によって見つけられた関心領域内の1又は複数のサブ領域の分離を提供しうる。例えば、関心領域ロケータ118は、最初に顔の位置を定める(位置決めする)。次に、サブ領域アイソレータ121は、サブ関心領域として、顔のうちの目に関する領域を分離しうる。その後、いくつかの実施形態において、関心領域ロケータ118は顔の位置を定め、いくつかの実施形態においては、関心領域ロケータ118は、目や口のような、顔の特定の部分を位置決めする。
ぼやけ検出器122は、画像データ内のぼやけた領域を検出するよう動作する。ぼやけ検出器122は、関心領域ロケータ118によって位置決めされた領域のいずれかがぼやけているかどうかを検出する。ぼやけ検出器122は、位置決めされた領域をサブ領域に分割し、各サブ領域がぼやけているか否かを判定しうる。別の実施形態において、ぼやけ検出器122は領域をサブ領域に分割せず、当該領域がそのままで分析されうる。画像のぼやけた領域が検出されると、ぼやけ領域クロッパー(cropper)124は、ぼやけた領域がディスプレイおよびユーザ通知器126によって「クローズ・アップ」して表示されうるように、このぼやけた領域を切り取る(crop)する。すなわち、利用可能なディスプレイ・エリアのうちの実質的により大きなエリアが、切り取られた(crop)ぼやけた領域によって占められうる。ぼやけた領域のクローズ・アップを表示することによって、ユーザは、シーン全体がディスプレイのビューを占める場合よりもはっきりとぼやけた領域を見ることができるようになる。従って、ぼやけた領域の拡大画像が表示されうる。いくつかの実施形態において、ぼやけ検出器122は、ぼやけた領域の検出を無効にするための無効メカニズム123を含む。ぼやけ検出器122を無効にすることで、画像処理システム130によって消費される電力を節約しうる。
ディスプレイおよびユーザ通知器126は、ぼやけた領域が検出されたことをカメラのユーザに通知するように構成されうる。ぼやけた領域が検出されたという通知は、例えば、音、光、バイブレーション、あるいは、ステートメントを含みうる。画像は、ユーザ・セレクタ128に応答して、圧縮および格納ユニット120に渡される。ユーザ・セレクタ128は、ユーザが画像を保持することと破棄することとのどちらを望んでいるかを示す入力を、ユーザから受け取るように構成されている。ユーザ・セレクタ128は、いくつかの実施形態において、ぼやけた領域の検出のためのしきい値をユーザが調節できるようにしうる。ユーザが画像を保持することを選択した場合、信号が圧縮および格納ユニット120に送られ、圧縮および格納ユニット120に、画像を圧縮させ、画像を画像記憶デバイス140に格納させる。
従って、特定の実施形態において、画像処理システム130は、顔のような関心領域を検出するためにアルゴリズムを実行する。画像処理システム130は更に、検出された関心領域の中のぼやけた領域を検出するために、アルゴリズムを実行する。例えば、焦点の合っていない顔は、画像を見る人にとって特に好ましくないものとなりうる。より具体的には、目に焦点が合っているかどうかが視覚上の品質に影響を与えうる。位置決めされた領域は、ぼやけているかどうか分析される。位置決めされた領域がぼやけている場合、この領域は切り取られ、画像処理システム130によってディスプレイに提示される。ぼやけた領域は、シーン全体が表示される場合よりも非常に大きなエリアをディスプレイ内に占めるように表示される。
図2は、ぼやけた領域を検出するカメラ200の実施形態のブロック図である。カメラ200は、アパチャ201と、レンズ202と、画像取込構成要素204と、記憶装置206とを含む。画像取込構成要素204は、電荷結合デバイスを含む。カメラ200は更に、ぼやけ検出器208と、ぼやけ領域インジケータ220と、ぼやけ領域ディスプレイ222とを含む。アパチャ201は、カメラ200に入る光の量を調節する。画像取込構成要素204は、レンズ202を通過する画像に応答して、その画像を、記憶装置206に格納される電子信号に変換する。
特定の実施形態において、関心領域ロケータ210は、ぼやけ検出器208の構成要素である。関心領域ロケータ210は、カメラ200によって取り込まれた画像内の1又は複数の関心領域を位置決めするように構成されている。関心領域ロケータ210は、関心領域を位置決めするために、当該技術分野において周知である、あるいは開発される、複数の検出アルゴリズムのうちの1つを実施しうる。いくつかの実施形態において、関心領域は顔でありうる。従って、いくつかの実施形態において、ユーザは画像内の顔を検出するという選択肢を与えられる。いくつかの実施形態において、ユーザは、ぼやけ検出器208を無効にできる。ユーザが顔を検出することを選択した場合、例えば、目や、口や、鼻を位置決めするために、図2には図示されていないサブ領域アイソレータが用いられる。
いくつかの画像取込デバイスにおいて、顔検出は、ピクチャの撮影を遅らせることがないように、低解像度で素早く動作するアルゴリズムによる画像プレビュー・モードで動作されうる。いくつかの実施形態において、完了するまでに少し時間を要するが、より正確な結果をもたらすアルゴリズムを使用することによって、このプレビュー・モード顔検出は改良される。従って、プレビュー・モード顔検出器は、ピクチャ内で顔を位置決めするように動作しうる。その後、顔がプレビュー・モード顔検出器によって低解像度で位置決めされている画像上で、後プレビュー・モード顔検出器が動作する。更に、プレビュー・モードは、人物の頭部が傾いている場合、その人物の顔を検出できないことがありうる。プレビュー・モード顔検出器は、33ミリ秒ほどの持続時間で動作しうるが、より長く、より正確なアルゴリズムが完了するまでに2秒ほどを要しうる。従って、プレビュー・モード顔検出器は、画像内の全ての顔を検出するのに十分なほどロバストではないこともありうる。いくつかの実施形態において、高解像度のピクチャが撮られた直後、かつ、そのピクチャが符号化される前に、より正確な顔検出器が、画像内の全ての顔をポーズにかかわらず検出する改良された性能で動作し、それらの顔のシャープネスのレベルを評価する。例えば、プレビュー・モードの顔検出器が、厳しいリアル・タイム制約のもとで、複数の顔全てを検出できた場合でも、ピクチャが取り込まれた時の被写体あるいは撮影者の手の動きのために、スナップショットに取り込まれた複数の顔に実際に焦点が合っていることを、プレビュー・モードの顔検出器は必ずしも意味するわけではない。従って、撮影者がシーンを残す前に、最後のスナップショットを分析することはメリットがある。
従って、ぼやけ検出器208は、エッジ検出器および分類器212を含む。1つの実施形態において、エッジ検出器は、領域内の各画素について4つの1次導関数を計算して、検出された領域内のエッジの検出を達成する。エッジ検出器および分類器212は、所与の画素が、ソフト・エッジの一部として分類されるべきか、ハード・エッジの一部として分類されるべきか、あるいはエッジの一部としては分類されないのかを判定することができる。一般に、ハード・エッジは焦点の合った特徴を示し、ソフト・エッジは焦点が合っていないか、さもなければ、例えば、ピクチャを撮影している間のカメラ・ユーザの手の動きや、カメラが関心のある主被写体の代わりに背景エレメントに焦点を当てていたことや、被写体が画像取込中に動いていたことに起因する、ぼやけた特徴を示す。
いくつかの実施形態が、ぼやけた顔を検出するように特に適合されているが、いくつかの実施形態は、例えば、木や、水中用途においては魚といった、その他の関心のある対象物におけるぼやけを検出するように特に適合されうるということに留意されたい。更に、いくつかの実施形態は、例えば、植物の葉や、魚の鱗のような、顔の特徴以外のサブ領域を評価するように適合されうる。
ぼやけた領域検出器208は更に、複数のエッジ・カウンタ213を含む。複数のエッジ・カウンタ213のうちの1つのカウンタは、エッジ検出器および分類器212によって検出された顔の領域において検出されたソフト・エッジの数をカウントし、複数のエッジ・カウンタ213のうちの別のカウンタは、エッジ検出器および分類器212によって当該領域内で検出されたハード・エッジの数をカウントする。ぼやけ検出器208の比率(ratio)コンピュータ214は、関心領域ロケータ210によって検出された顔の領域内で検出されたソフト・エッジの数の、ハード・エッジの数に対する比を計算するように構成される。しきい値比較器216は、比率コンピュータ214が計算した比をしきい値と比較するように構成される。いくつかの実施形態において、しきい値は13である。いくつかの実施形態においては、ユーザがしきい値を設定する。比がしきい値よりも大きい場合、その領域はぼやけていると見なされ、そうでない場合は、その領域はシャープであると見なされる。
いくつかの実施形態において、領域はサブ領域には分割されず、領域内のハード・エッジの数と、ソフト・エッジの数とがカウントされ、ソフト・エッジの数のハード・エッジ数に対する比がしきい値と比較され、その領域がぼやけているかどうかが判定される。いくつかの実施形態において、顔のような関心領域は、目や口のサブ領域に分割される。目サブ領域の全ソフト・エッジは、口サブ領域の全ソフト・エッジに加えられ、目サブ領域の全ハード・エッジは、口サブ領域の全ハード・エッジに加えられる。顔の残りのサブ領域は評価されないこともありうる。ソフト・エッジの総数が、ハード・エッジの総数をしきい値分超えている場合、その顔はぼやけているものとして扱われ、拡大サイズで表示される。
ぼやけ領域インジケータ220は、ぼやけた領域が検出されると、カメラ200のユーザに通知するように構成される。この通知は、ぼやけた領域が検出されるとカメラ200から生じる光あるいは音でありうる。検出されたぼやけた領域をユーザに通知することに加えて、ぼやけ領域ディスプレイ222は、検出されたぼやけた領域の拡大ビュー(例えば、クローズ・アップ・ビュー)を表示しうる。すなわち、ぼやけた領域は切り取られ、そのぼやけた領域がより高い解像度で表示されるように、ディスプレイのより大きなエリアを占めるように拡大される。
従って、特定の実施形態において、装置は、画像内のぼやけた領域を検出および表示する。この装置は、画像のぼやけた領域を検出するぼやけ検出器を含む。いくつかの実施形態において、ぼやけた領域は、写真を撮られている人物の顔である。ぼやけ検出器は更に、領域内のエッジを検出するエッジ検出器を含む。エッジ検出器は、いくつかの実施形態において、様々なポイントにおける信号の1次導関数を計算して、エッジを検出しうる。検出されたエッジは、ソフト・エッジあるいはハード・エッジのいずれかに分類される。ぼやけ検出器は、領域内のソフト・エッジの第1の数と、ハード・エッジの第2の数とを識別するためのロジックを含む。ぼやけ検出器は更に、ソフト・エッジの第1の数の、ハード・エッジの第2の数に対する比をしきい値と比較して、その比がしきい値を上回るかどうかを判定する比較器を含みうる。いくつかの実施形態において、しきい値は、装置のユーザによって指定される。更に、ぼやけ検出器は、領域内の、ぼやけたサブ領域の数とぼやけていないサブ領域の数とをカウントし、ぼやけたサブ領域の数がぼやけていないサブ領域の数を超える場合は、その領域をぼやけているとして分類しうる。
いくつかの実施形態において、領域はサブ領域に分割されず、領域全体についてソフト・エッジの数とハード・エッジの数とが判定され、ソフト・エッジのハード・エッジに対する比がしきい値と比較される。いくつかの実施形態において、領域のうちの全てのサブ領域よりも少ないサブ領域がぼやけの存在に関して評価され、1つのサブ領域あるいはほんのいくつかの領域がぼやけている場合、領域はぼやけていると見なされる。ぼやけ検出器がぼやけた領域を検出することに応答するインジケータは、検出されたぼやけた領域に応じて、装置においてユーザ通知を生成する。いくつかの実施形態において、ユーザは、ぼやけ検出器を無効にすることが可能であり、その結果、ぼやけ検出器が必要とされない場合に電力を節約できる。
図3は、ハード・エッジおよびソフト・エッジの具体例と、エッジをハードあるいはソフトと特徴付けるために使用される線分の傾斜との例示である。図3は、ソフト・エッジ302およびハード・エッジ308の特定の具体例を図示する。画像処理システム130(例えば、図1の画像処理システム130)は、ソフト・エッジ302のポイントA、B、Cを検出する。
この検出は、いくつかの実施形態において、5つのポイント・エッジ検出器を使用することによって実施されうる。エッジ検出のために使用されるカーネルの1つの特定の実例は、水平方向のエッジを検出するための
Figure 2012520628
と、垂直方向のエッジを検出するための
Figure 2012520628
である。使用されるカーネルは、高次元あるいは低次元のカーネルでありうる。5×5のカーネルは、大きな顔について、ハード・エッジとソフト・エッジとを正確に区別するのには十分ではないことに留意されたい。いくつかの実施形態において、検出された全ての顔は、例えば、100×126画素のような所定のサイズに規格化される。いくつかの実施形態において、5×5エッジ検出器はソフト・エッジを検出するために使用され、3×3エッジ検出器は、ハード・エッジを検出するために使用される。
上記で与えられたエッジ検出カーネルの動作を例示するために、ソフト・エッジ302のような、ソフト・エッジを生じさせる画素値の行列の具体例が、以下によって与えられる。
Figure 2012520628
この画素値のソフト・エッジ行列の第1の列における画素値と5×5カーネルの第1の列における数値との積を加算することによって、−40(=−1×10−2×10−1×10)が結果として生じる。列3の画素値の積を加算すると、−120000(=−1000×30−2000×30−1000×30)が生じる。列5の画素値の積を加算すると、200200(1001×50+1002×50+1001×50)が生じる。これらの3つの結果を加算すると、80160が生じる。この数は1000で割られ、80と余りの160が生じる。これらの値のうちの第1の値80は、因数2によって正規化され、画像中のAからCへの距離が、B−C間の距離の2倍であるという事実を補う。従って、80に2が乗算され、160が生じる。これによって、160と160の数の対が結果として生じる。これらの2つの数の比は厳密に1であり、これは、これらのポイントが同一直線上にあり、従って、平滑(smooth)エッジであるということを意味している。一実施形態において、0.8と1.2との間の比が、エッジをソフトとして分類するためのしきい値として使用される。例示のために、線BC306が線AC304とほぼ並行であり、そのために、この傾斜の比は0.8と1.2との間にあることから、ソフト・エッジ302は、ソフトとして表されうる。
ハード・エッジ308に関して、このハード・エッジを生じさせる画素値の行列の例が以下に示される。
Figure 2012520628
前と同じ5×5カーネルを使用してこの画素ブロックにエッジ検出を実行することにより、320と160という数の対が生じる。この場合において、線DF310の傾斜に対する線EF312の傾斜の比は、1より大きく、かつしきい値を超えており、ハード・エッジであることを示している。その他のカーネルがエッジ検出のために使用されうること、また、現在周知であるか、あるいは将来開発されるその他のエッジ検出方法が用いられうるということに留意されたい。
図4は、画像を取り込み、その画像がぼやけた領域を含んでいるかどうかを判定する方法の実施形態のフローチャートである。402において開始すると、画像がユーザによって取り込まれる。続いて404において、画像内の1又は複数の関心領域を位置決めするための、関心領域ロケータ・アルゴリズムが適用される。406に進むと、発見された関心領域にエッジ検出が実行される。いくつかの実施形態において、関心領域が全体として分析される。その他の実施形態においては、領域が複数のサブ領域に分割され、サブ領域のうちのいくつかあるいはすべてが個別に分析され、その後、それらの結果が当該領域について結合される。408に移動すると、各検出されたエッジは、ハードあるいはソフトに分類される。410に進むと、ソフト・エッジの数とハード・エッジの数とがカウントされる。次に、412において、領域内のソフト・エッジの数の、領域内のハード・エッジの数に対する比が算出される。
続いて414において、ソフト・エッジのハード・エッジに対する比がしきい値を下回る場合、415において、その領域はぼやけていないとして分類され、ぼやけていない領域カウンタが418においてインクリメントされる。そうでない場合、416においてその領域はぼやけているとして分類され、ぼやけた領域カウンタが419においてインクリメントされる。続いて422において、未だ分析されていない別の関心領域が存在する場合、処理は406にループ・バックし、ここで、次の関心領域上でエッジ検出が実行される。位置決めされた全ての領域がエッジ検出によって評価された場合、424において、システムは、図5、6、7、8を参照してより完全に説明されるように、やり直し(do-over)オプションとディスプレイとを提供する。処理は428において終了する。
いくつかの実施形態において、関心領域は顔である。顔は、例えば、1つのサブ領域が1つの目を含み、別のサブ領域が1つの口を含むように、複数のサブ領域に分割されうる。特定の実施形態において、顔が関心領域として検出されると、目サブ領域内のハード・エッジの数と、口サブ領域内のハード・エッジの数とが合計され、また、目サブ領域内のソフト・エッジの数と、口サブ領域内のソフト・エッジの数とが合計される。ソフト・エッジのハード・エッジ画素の数に対する比が、顔についてのしきい値13のような、あるしきい値よりも大きい場合、関心領域は、ぼやけているとしてタグ付けされうる。そうでない場合は、顔はシャープであると分類される。このように、いくつかの実施形態において、領域がぼやけているかどうかの決定は、その領域の全てのサブ領域よりも少ないサブ領域の分析に依存する。
従って、装置は、デジタル化された画像のぼやけた領域を検出する手段と、この検出する手段に応答して、検出されたぼやけた領域を装置のユーザに通知する手段と、検出されたぼやけた領域の拡大ビューのディスプレイを提供する手段とを含みうる。これらの機能を実行する手段は、特定用途向け回路、適切な命令群を実行するデジタル・プロセッサ、あるいは、デジタル・プロセッサと特定用途向け回路との組み合わせを含みうる。特定用途向け回路は、プログラムされたロジック・デバイスを含みうる。画像を格納する手段は、ランダム・アクセス・メモリあるいはその他の記憶媒体を含みうる。いくつかの実施形態において、デジタル化された画像内の顔領域を検出し、顔領域のエッジ検出を実行する手段は更に、特定用途向け回路あるいはデジタル・プロセッサを含みうる。検出されたぼやけた領域の拡大画像を表示する手段は、フラット・パネル・ディスプレイあるいはその他のディスプレイ・メカニズムを含みうる。
図5は、比較のために、ぼやけた顔とシャープな顔とを表示するグラフィック・ユーザ・インタフェースの実施形態の図である。このインタフェースは、例えば、図1のシステム100や、図2のカメラ200や、図8を参照して説明されるシステム800のようなデバイスによって使用される。特に、図5は、カメラが2つのぼやけた顔と1つのシャープな顔とを検出するイベントにおいて、(例えば、図2のカメラ200のような)カメラによって表示されうる第1のインタフェース501を図示する。カメラのユーザが比較できるように、当該2つのぼやけた顔502の両方および1つのシャープな顔504が表示される。シーン全体ではなくて、シーン全体のうちの検出された領域のみが表示されるので、表示された検出された領域は、ディスプレイのより大きなエリアを占め、従って、より高解像度で、よりはっきりと見ることができる。
例示されるいくつかの実施形態において、ディスプレイ501は、「いくつかの顔がぼやけています。ピクチャ内の被写体が静止していることを確認してから、やり直すことをおすすめします。やり直しますか?」という旨のステートメントを含む。ユーザは、ボタン506を使用して、「はい(Yes)」あるいは「いいえ(No)」を選択できる。例えば、ボタン506によって示されるオプションは、タッチ・センサ式スクリーンで提供されるか、ナビゲートおよび選択機能を使用することによって提供されうる。ユーザが「はい」を選択した場合、一番最近に撮られた画像がメモリから消去され、ユーザがピクチャを撮り直すだけである。ユーザが「いいえ」を選択した場合、「いくつかの顔がぼやけていますが、やり直しは選択されませんでした。しきい値を上げますか?」というステートメントを含む第2のインタフェース507が表示されうる。第2のインタフェース507は、ソフト・エッジのハード・エッジに対する比が比較されるしきい値を上げて、ぼやけ検出メカニズムが今後、関心領域をぼやけていると分類する際にいまよりも厳しくならないようにシステムを調整するというオプションをユーザに与える。このオプションに対してユーザが「はい」を選択した場合、しきい値の設定を可能にする別のディスプレイが表示される。
一実施形態において、ディスプレイは更に、複数のぼやけた領域のうちのどれが最もぼやけているかを示しうる。従って、図5において、ぼやけた顔ナンバ1が最もぼやけているとして示されている。ソフト・エッジのハード・エッジに対する比が最も高いぼやけた領域を選択することによって、複数のぼやけた領域の中で最もぼやけている領域が決定されうる。代替的に、別の実例として、領域内のぼやけていないサブ領域の数に対する、当該領域内のぼやけたサブ領域の数の比が最も高いぼやけた領域を選択することによって、最もぼやけた領域が決定されうる。どの領域が最もぼやけているかを決定するために、その他の測定基準が用いられうる。
図6は、手ぶれの結果でありうるぼやけた領域を表示するグラフィック・ユーザ・インタフェースの実施形態の図である。特に、図6は、画像内の顔602の全てがぼやけていると判定されたことを示している。これは、ピクチャを撮っている間のぎくしゃくした(jerky)手の動きの結果として生じたものでありうる。図8を参照して説明されるように、全ての顔がぼやけている場合、ピクチャ全体がぼやけているかどうかの判定がなされうる。ピクチャ全体がぼやけていると判定されなかった場合、図7のディスプレイが示される。ピクチャ全体がぼやけている場合、図6の「全ての顔がぼやけており、背景がぼやけています。手ぶれ低減を使用することをおすすめします。やり直しますか?」というステートメントがユーザに対して示されます。ユーザが選択しうる1つのオプション604は、ピクチャを撮る間に生じる手の動きに起因する手ぶれを低減するために動作する、手ぶれ低減(HJR)アルゴリズムを用いてピクチャを撮り直すことである。代替的に、ユーザは、オプション606を選択して手ぶれ低減を用いずにピクチャを撮り直すか、あるいは、ユーザは「いいえ」を選択してピクチャを保持しうる。
図7は、画像内の顔以外の対象物に焦点を合わせた結果であるぼやけた領域702を表示するグラフィック・ユーザ・インタフェースの実施形態の図である。例えば、ユーザは、2つの顔の間にカメラを向けて、うっかり背景の木に焦点を合わせてしまうことがある。従って、全ての顔がぼやけている場合、カメラは背景上の特徴がシャープであるかどうかを判定する。そうである場合、「全ての顔がぼやけていますが、背景はシャープです。一人の人物に焦点を当てることをおすすめします。やり直しますか?」というメッセージが表示される。ユーザは、ボタン704、706を使用して、ピクチャを再度撮るか否かを選択できる。
図8は、ピクチャ内のぼやけた領域を評価する実施形態のフローチャートである。802において開始すると、画像あるいはピクチャが取り込まれる。804において、ピクチャ内に複数の関心領域が位置決めされ、ぼやけについて各領域が評価される。続いて806において、全ての領域がぼやけているかどうかの判定がなされる。全ての領域がぼやけているのでなければ、808において、少なくとも1つのぼやけた領域が、ぼやけていない領域と共に表示される。810に移ると、ユーザがピクチャを撮り直すかどうかを決定できる。従って、例えば、2つの顔がぼやけており、1つの顔がぼやけていない場合、図5に図示されるように、2つのぼやけた顔が、1つのぼやけていない顔と共に表示されうる。1つの顔がぼやけていないので、顔がぼやけている2人の人物は画像取込中に動いていた可能性が高く、2つのぼやけた顔がピクチャの撮影者の手の動きの結果であるという可能性は低い。ユーザが再度ピクチャを撮ると決めた場合、処理は802に進む。そうでない場合は、処理は820で終了する。
続いて806において、位置決めされた領域が全てぼやけている場合、812において、位置決めされた領域の外側の画像にエッジ検出が実行される。ピクチャのうちの位置決めされた全ての領域がぼやけていると判定された場合、ピクチャの撮影者の手が動いたことや、あるいは、カメラのオート・フォーカス機能が所望の焦点を捕らえることに失敗したことが原因でありうる。ぼやけが手ぶれに起因する場合、位置決めされた領域の外側の画像内の特徴も同様にぼやけているだろう。位置決めされた領域の外側のぼやけ(blurriness)は、位置決めされた領域の外側の画像に実行されるエッジ検出を用いて検出されうる。従って、812において、エッジ検出は画像全体に実行される。814において、ピクチャ全体がぼやけている場合は、816において、ぼやけている領域が表示され、手ぶれ低減を用いてピクチャを撮り直すというオプションがユーザに与えられる。818においてユーザがピクチャを再度撮ることを選択した場合、処理は802に戻る。そうでない場合、処理は820において終了する。画像のいくつかの領域がぼやけていない(例えば、シーン内にぼやけていない木が存在する場合)場合、815で、ぼやけた領域が表示される。818において、ユーザは、所望の対象物により適切に焦点が合うようカメラを向けるよう促される。ユーザがピクチャを撮り直すことを選択した場合、処理は802に戻る。ユーザがピクチャを撮り直すことを選択しなかった場合、処理は820において終了する。
いくつかの実施形態において、ぼやけた領域が検出されない場合、カメラはぼやけていない領域と、「ぼやけた領域は検出されませんでした。しきい値をデクリメントしますか?」というステートメントとを表示しうる。その後、ユーザは「はい」あるいは「いいえ」を選択しうる。ユーザが「はい」を選択した場合、しきい値は1ずつデクリメントされ、また、ユーザはピクチャを再度撮ることができる。
従って、いくつかの実施形態において、全ての関心領域がぼやけている場合、取り込まれた画像の全体にエッジ検出が実行される。取り込まれた画像全体についてのエッジ検出が、ピクチャ全体がぼやけていると示している場合、手ぶれ低減アルゴリズムを使用して画像を再度取り込むというオプションがユーザに与えられる。取り込まれた画像全体についてのエッジ検出が、関心領域の外側のシャープな特徴を示している場合、ユーザはカメラをより適切に向けるようにアドバイスされうる。
図9は、ユーザがしきい値を指定することによって(例えば、図2のカメラ200のような)カメラを調整できるようにするグラフィック・ユーザ・インタフェースの実施形態の図である。図9のディスプレイは、カメラによって取り込まれた画像を見るために使用されるコンピュータによって提供されるか、あるいは「フォト・アルバム・モード」のカメラによって提供されうる。図9のディスプレイに、ぼやけたピクチャ906が図示される。オプション902は、ユーザが、「クロップ(CROP)」、「セピア」、および「グレースケール化」オプションを含む編集が利用可能である。「カメラ調整」とラベルされた別のオプション904が提供される。このオプションを選択することによって、ユーザは、ソフト・エッジのハード・エッジに対する比と比較されるしきい値を調節できる。しきい値を上げることで、領域がぼやけていると見なされる尤度は下がり、しきい値を下げることで、領域がぼやけていると見なされる尤度は上がる。例えば、カメラによって撮られたコンピュータ上の画像を見ることで、ユーザはカメラのぼやけ検出器によって検出されなかったぼやけた領域を含む画像を発見し、ソフト・エッジ対ハード・エッジ比を、工場出荷時の設定よりも低い値に下げることを選択して、以後、ぼやけた領域にフラグをたてるアルゴリズムをより敏感な(susceptible)ものにしうる。特定の実施形態において、「カメラ調整」オプション804を選択することによって、ユーザがしきい値を選択できるようにするインタフェースが表示される。「カメラ調整」オプション804を選択することによって、ユーザはしきい値を上げて調節できるようになる。
図10は、ぼやけ検出器と、検出されたぼやけた領域の拡大画像を表示するためのディスプレイとを有する無線通信デバイスの実施形態のブロック図である。システム1000は、ポータブル電子デバイスにおいて実施され、デジタル・シグナル・プロセッサ(DSP)あるいはマイクロコントローラのような、メモリ1032に結合されたプロセッサ1010を含む。メモリ1032は、プロセッサ1010によって実行されると、このプロセッサにぼやけた領域検出のための動作および他の処理を実行させるコンピュータ・コード1042を記憶するための有形の読取可能媒体である。プロセッサ1010は、図1のぼやけ検出器122や、図2のぼやけ検出器208のようなぼやけ検出器1062を含む。プロセッサ1010は、スピーカ1036を通して音を立てることによって、あるいは、図5、6、7に図示される1又は複数のユーザ・インタフェースのような、ディスプレイ1028上にディスプレイを提供するもしくは光を提供することによって、検出されたぼやけた領域をユーザに通知しうる。
カメラ・インタフェース1068は、プロセッサ1010に結合され、更に、カメラ1070に結合される。カメラ1070は、ビデオ・カメラあるいは静止画像カメラでありうるか、あるいは、それら両方の機能を実現する。ディスプレイ・コントローラ1026は、プロセッサ1010に結合され、また、ディスプレイ・デバイス1028に結合される。オーディオ・コントローラ1034も、プロセッサ1010に結合されうる。スピーカ1036およびマイクロフォン1038は、オーディオ・コントローラ1034に結合されうる。無線インタフェース1040は、プロセッサ1010に結合されうる、また、アンテナ1042に結合されうる。入力を受信し、それをシステム1000に結合させる入力デバイス1030も、入力コントローラ1031によってシステム1000に結合されうる。
図10のシステムの動作中、ユーザは、カメラ1070を使用してピクチャを撮りうる。カメラ1070によって取り込まれた画像データは、カメラ・インタフェース1068を経由して、プロセッサ1010に結合される。プロセッサ1010内のぼやけ検出器1062は、メモリ1032に格納されたコンピュータ・コード1042に従って、結果として生じた画像内の1又は複数のぼやけた領域を検出しうる。ディスプレイ1028は、検出されたぼやけた領域の拡大画像を表示しうる。入力デバイス1030は、ユーザが、ぼやけた領域を有するピクチャを保持するか、ピクチャを撮り直すか、を選択できる。カメラ1070によって取り込まれた画像は、無線インタフェース1040とアンテナ1042とを経由して、無線でシステム1000によって送信されうる。取り込まれた画像は更に、メモリ1032に格納されうる。
本明細書において開示された実施形態に関連付けて説明された多様な実例的なロジック・ブロック、構成、モジュール、回路、およびアルゴリズム・ステップは、電子ハードウェア、コンピュータ・ソフトウェア、あるいはそれら両方の組み合わせによって実現されうるということを、当業者は更に理解するだろう。このハードウェアおよびソフトウェアの互換性を明確に例示するために、多様な実例的な構成要素、ブロック、構成、モジュール、回路、およびステップが、一般にそれらの機能の観点から上記で説明されている。そのような機能がハードウェアとして、あるいはソフトウェアとして実現されるかどうかは、システム全体に課せられている特定のアプリケーションおよび設計の制約に依存する。当業者は、各特定のアプリケーションのために方式を変化させることによって、述べられた機能性を実施しうるがこういった実施判定は本発明の技術的範囲からの逸脱をまねくものと解釈されるべきではない。
本明細書において開示された実施形態に関連付けて説明された方法あるいはアルゴリズムのステップは、ハードウェアにおいて直接に実現されるか、プロセッサによって実行されるソフトウェア・モジュールにおいて実現されるか、あるいはそれら2つの組み合わせにおいて実現されうる。ソフトウェア・モジュールは、ランダム・アクセス・メモリ(RAM)、フラッシュ・メモリ、読取専用メモリ(ROM)、プログラマブル読取専用メモリ(PROM)、消去可能プログラマブル読取専用メモリ(EPROM)、電子消去可能プログラマブル読取専用メモリ(EEPROM)、レジスタ、ハード・ディスク、リムーバブル・ディスク、コンパクト・ディスク読取専用メモリ(CD−ROM)、あるいは当該技術分野において周知のその他任意の形態の記憶媒体に存在しうる。 典型的な記憶媒体は、記憶媒体からの情報を読み取り、記憶媒体に情報を書き込むことができるプロセッサのようなプロセッサと結合される。代替例においては、記憶媒体はプロセッサに統合されうる。プロセッサ及び記憶媒体は特定用途向け集積回路(ASIC)内に存在しうる。ASICはコンピューティング・デバイスあるいはユーザ端末内に存在しうる。代替例においては、プロセッサ及び記憶媒体は離散的な構成要素としてユーザ端末内に存在しうる。
従って、1つの実施形態は、コンピュータに画像のぼやけた領域を検出させるコンピュータ・コードを含む有形のコンピュータ読取可能媒体である。このコンピュータ・コードは更に、コンピュータに、検出されたぼやけた領域の通知を提供させる。コンピュータ・コードは更に、ハード・エッジとソフト・エッジとを含む領域を、ぼやけているあるいはぼやけていないと分類する前に、ハード・エッジの数に対するソフト・エッジの数の比がしきい値を超えているかをコンピュータに判定させうる。コンピュータ・コードは、検出されたぼやけた領域の拡大画像を表示させる。
開示された実施形態についての先の説明は、当業者が開示された実施形態を製造あるいは使用できるように提供される。これらの実施形態に対する多様な変形例は当業者に対して容易に明らかになるであろう。また本明細書において規定された原理は、この開示の技術的範囲から逸脱することなくその他の実施形態に適用されうる。よって、本開示は本明細書において示される実施形態に限定されるよう意図されたものではなく、以下の特許請求の範囲によって定義されるような原理および新規の特徴と矛盾しない最大の技術的範囲であると認められるべきである。
開示された実施形態についての先の説明は、当業者が開示された実施形態を製造あるいは使用できるように提供される。これらの実施形態に対する多様な変形例は当業者に対して容易に明らかになるであろう。また本明細書において規定された原理は、この開示の技術的範囲から逸脱することなくその他の実施形態に適用されうる。よって、本開示は本明細書において示される実施形態に限定されるよう意図されたものではなく、以下の特許請求の範囲によって定義されるような原理および新規の特徴と矛盾しない最大の技術的範囲であると認められるべきである。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[1]デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を位置決めする領域ロケータと、
1又は複数の位置決めされた領域がぼやけている場合を検出するぼやけ検出器と、
前記ぼやけ検出器に応じて、検出されたぼやけた領域を示す信号を生成するインジケータと、
前記1又は複数の検出されたぼやけた領域の拡大画像をディスプレイ・デバイスに提供するディスプレイ・インタフェースと、
を備える装置。
[2]前記ぼやけ検出器は更に、関心領域内のエッジを検出するエッジ検出器を備える[1]記載の装置。
[3]前記検出されたエッジは、ソフト・エッジとハード・エッジとのうちの1つに分類される[2]記載の装置。
[4]前記ぼやけ検出器は、検出されたハード・エッジの第2の数に対する検出されたソフト・エッジの第1の数の比をしきい値と比較する比較器を備える[3]記載の装置。
[5]前記しきい値は、前記装置のユーザによって調節可能である[4]記載の装置。
[6]前記エッジ検出器は、前記関心領域内の各画素について4つの1次導関数を計算するロジックを含む[2]記載の装置。
[7]前記ぼやけ検出器は、前記領域のサブ領域内のソフト・エッジの第1の数とハード・エッジの第2の数とを識別するロジックを含む[2]記載の装置。
[8]複数のぼやけた領域のうちの少なくとも1つが、比較のために、ぼやけていない領域のそばに表示される[1]記載の装置。
[9]前記ぼやけ検出器は、
全ての位置決めされた領域がぼやけている場合を決定し、
全ての位置決めされた領域がぼやけていると決定することに応じて、前記位置決めされた領域の外側の領域がぼやけているかどうかを決定し、
前記位置決めされた領域の外側の領域がぼやけていると決定することに応じて、手ぶれによるぼやけを低減するための手ぶれ低減アルゴリズムを用いて別のピクチャを撮るというオプションを提供する
ように構成された[1]記載の装置。
[10]前記画像は、前記装置の構成要素によって取り込まれる[1]記載の装置。
[11]ぼやけた領域の検出を無効にする無効メカニズムを更に備える[1]記載の装置。
[12]前記画像を取り込むカメラを更に備える[1]記載の装置。
[13]取り込まれた画像内の1又は複数の関心領域を位置決めすることと、
前記位置決めされた関心領域の中から1又は複数のぼやけた領域を検出することと、
第1のぼやけた領域を検出することに応じて、ユーザ通知信号を生成することと、
ディスプレイ・デバイスによって表示される前記第1のぼやけた領域の拡大画像を生成することと、
を備える方法。
[14]前記1又は複数のぼやけた領域を検出することは更に、
前記取り込まれた画像の領域内のソフト・エッジの数に対応する第1の値を決定し、前記領域内のハード・エッジの数に対応する第2の値を決定することと、
前記第2の値に対する前記第1の値の比をしきい値と比較することと、
を備える[13]記載の方法。
[15]前記関心領域内の各画素について4つの1次導関数を計算し、前記4つの1次導関数を使用して、前記第1の値および前記第2の値を決定することを更に備える[13]記載の方法。
[16]位置決めされた領域を複数のサブ領域に分割することと、
前記複数のサブ領域の中の特定のサブ領域内のソフト・エッジの数を決定することと、
前記特定のサブ領域内のハード・エッジの数を決定することと、
を更に備える[13]記載の方法。
[17]少なくとも1つのぼやけた領域の拡大ビューと、少なくとも1つのぼやけていない領域の拡大ビューとを同時に表示することを更に備える[13]記載の方法。
[18]前記画像の複数のぼやけた領域の拡大ビューを同時に表示することを更に備える[13]記載の方法。
[19]全ての関心領域がぼやけていると決定することに応じて、前記位置決めされた関心領域内ではない、前記取り込まれた画像のうちの少なくとも一部にエッジ検出を実行することを更に備える[13]記載の方法。
[20]前記位置決めされた関心領域内ではない前記取り込まれた画像のうちの一部がぼやけていると決定することに応じて、手ぶれ低減アルゴリズムを使用するというオプションをユーザに提供することを更に備える[19]記載の方法。
[21]前記位置決めされた関心領域内ではない前記取り込まれた画像の一部がぼやけていないと決定することに応じて、より適切に狙いを定めるようユーザにアドバイスするインタフェースを生成することを更に備える[19]記載の方法。
[22]コンピュータ実行可能コードを記憶する有形のコンピュータ読取可能媒体であって、前記コンピュータ実行可能コードは、
コンピュータに、画像のぼやけた領域を検出させるコードと、
前記コンピュータに、前記検出されたぼやけた領域の通知を提供させるコードと、
前記コンピュータに、前記検出されたぼやけた領域の拡大画像の表示を開始させるコードと、
を備えるコンピュータ読取可能媒体。
[23]前記コンピュータに、前記画像のぼやけた領域を検出させるコードは、
前記コンピュータに、前記画像の領域内のソフト・エッジの数に対応する第1の値を決定させ、前記領域内のハード・エッジの数に対応する第2の値を決定させるコードと、
前記コンピュータに、前記第2の値に対する前記第1の値の比がしきい値を超える場合を決定させるコードと、
を備える[22]記載のコンピュータ読取可能媒体。
[24]デジタル画像のぼやけた領域を検出する手段と、
前記検出する手段に応答して、前記検出されたぼやけた領域の通知を生成する手段と、
前記検出されたぼやけた領域の拡大画像の表示を開始する手段と、
を備える装置。
[25]前記デジタル画像を記憶する手段を更に備える[24]記載の装置。
[26]前記デジタル画像の前記ぼやけた領域を検出する手段は、前記デジタル化された画像の顔領域を検出する手段を備える[24]記載の装置。
[27]デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を位置決めする手段と、
1又は複数の位置決めされた領域がぼやけている場合を検出する手段と、
検出されたぼやけた領域を示す信号を生成する手段と、
前記1又は複数の検出されたぼやけた領域の拡大画像を表示手段に提供する手段と、
を備える装置。

Claims (27)

  1. デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を位置決めする領域ロケータと、
    1又は複数の位置決めされた領域がぼやけている場合を検出するぼやけ検出器と、
    前記ぼやけ検出器に応じて、検出されたぼやけた領域を示す信号を生成するインジケータと、
    前記1又は複数の検出されたぼやけた領域の拡大画像をディスプレイ・デバイスに提供するディスプレイ・インタフェースと、
    を備える装置。
  2. 前記ぼやけ検出器は更に、関心領域内のエッジを検出するエッジ検出器を備える請求項1記載の装置。
  3. 前記検出されたエッジは、ソフト・エッジとハード・エッジとのうちの1つに分類される請求項2記載の装置。
  4. 前記ぼやけ検出器は、検出されたハード・エッジの第2の数に対する検出されたソフト・エッジの第1の数の比をしきい値と比較する比較器を備える請求項3記載の装置。
  5. 前記しきい値は、前記装置のユーザによって調節可能である請求項4記載の装置。
  6. 前記エッジ検出器は、前記関心領域内の各画素について4つの1次導関数を計算するロジックを含む請求項2記載の装置。
  7. 前記ぼやけ検出器は、前記領域のサブ領域内のソフト・エッジの第1の数とハード・エッジの第2の数とを識別するロジックを含む請求項2記載の装置。
  8. 複数のぼやけた領域のうちの少なくとも1つが、比較のために、ぼやけていない領域のそばに表示される請求項1記載の装置。
  9. 前記ぼやけ検出器は、
    全ての位置決めされた領域がぼやけている場合を決定し、
    全ての位置決めされた領域がぼやけていると決定することに応じて、前記位置決めされた領域の外側の領域がぼやけているかどうかを決定し、
    前記位置決めされた領域の外側の領域がぼやけていると決定することに応じて、手ぶれによるぼやけを低減するための手ぶれ低減アルゴリズムを用いて別のピクチャを撮るというオプションを提供する
    ように構成された請求項1記載の装置。
  10. 前記画像は、前記装置の構成要素によって取り込まれる請求項1記載の装置。
  11. ぼやけた領域の検出を無効にする無効メカニズムを更に備える請求項1記載の装置。
  12. 前記画像を取り込むカメラを更に備える請求項1記載の装置。
  13. 取り込まれた画像内の1又は複数の関心領域を位置決めすることと、
    前記位置決めされた関心領域の中から1又は複数のぼやけた領域を検出することと、
    第1のぼやけた領域を検出することに応じて、ユーザ通知信号を生成することと、
    ディスプレイ・デバイスによって表示される前記第1のぼやけた領域の拡大画像を生成することと、
    を備える方法。
  14. 前記1又は複数のぼやけた領域を検出することは更に、
    前記取り込まれた画像の領域内のソフト・エッジの数に対応する第1の値を決定し、前記領域内のハード・エッジの数に対応する第2の値を決定することと、
    前記第2の値に対する前記第1の値の比をしきい値と比較することと、
    を備える請求項13記載の方法。
  15. 前記関心領域内の各画素について4つの1次導関数を計算し、前記4つの1次導関数を使用して、前記第1の値および前記第2の値を決定することを更に備える請求項13記載の方法。
  16. 位置決めされた領域を複数のサブ領域に分割することと、
    前記複数のサブ領域の中の特定のサブ領域内のソフト・エッジの数を決定することと、
    前記特定のサブ領域内のハード・エッジの数を決定することと、
    を更に備える請求項13記載の方法。
  17. 少なくとも1つのぼやけた領域の拡大ビューと、少なくとも1つのぼやけていない領域の拡大ビューとを同時に表示することを更に備える請求項13記載の方法。
  18. 前記画像の複数のぼやけた領域の拡大ビューを同時に表示することを更に備える請求項13記載の方法。
  19. 全ての関心領域がぼやけていると決定することに応じて、前記位置決めされた関心領域内ではない、前記取り込まれた画像のうちの少なくとも一部にエッジ検出を実行することを更に備える請求項13記載の方法。
  20. 前記位置決めされた関心領域内ではない前記取り込まれた画像のうちの一部がぼやけていると決定することに応じて、手ぶれ低減アルゴリズムを使用するというオプションをユーザに提供することを更に備える請求項19記載の方法。
  21. 前記位置決めされた関心領域内ではない前記取り込まれた画像の一部がぼやけていないと決定することに応じて、より適切に狙いを定めるようユーザにアドバイスするインタフェースを生成することを更に備える請求項19記載の方法。
  22. コンピュータ実行可能コードを記憶する有形のコンピュータ読取可能媒体であって、前記コンピュータ実行可能コードは、
    コンピュータに、画像のぼやけた領域を検出させるコードと、
    前記コンピュータに、前記検出されたぼやけた領域の通知を提供させるコードと、
    前記コンピュータに、前記検出されたぼやけた領域の拡大画像の表示を開始させるコードと、
    を備えるコンピュータ読取可能媒体。
  23. 前記コンピュータに、前記画像のぼやけた領域を検出させるコードは、
    前記コンピュータに、前記画像の領域内のソフト・エッジの数に対応する第1の値を決定させ、前記領域内のハード・エッジの数に対応する第2の値を決定させるコードと、
    前記コンピュータに、前記第2の値に対する前記第1の値の比がしきい値を超える場合を決定させるコードと、
    を備える請求項22記載のコンピュータ読取可能媒体。
  24. デジタル画像のぼやけた領域を検出する手段と、
    前記検出する手段に応答して、前記検出されたぼやけた領域の通知を生成する手段と、
    前記検出されたぼやけた領域の拡大画像の表示を開始する手段と、
    を備える装置。
  25. 前記デジタル画像を記憶する手段を更に備える請求項24記載の装置。
  26. 前記デジタル画像の前記ぼやけた領域を検出する手段は、前記デジタル化された画像の顔領域を検出する手段を備える請求項24記載の装置。
  27. デジタル画像取込デバイスによって取り込まれた画像内の1又は複数の関心領域を位置決めする手段と、
    1又は複数の位置決めされた領域がぼやけている場合を検出する手段と、
    検出されたぼやけた領域を示す信号を生成する手段と、
    前記1又は複数の検出されたぼやけた領域の拡大画像を表示手段に提供する手段と、
    を備える装置。
JP2011554248A 2009-03-12 2010-03-12 画像内のぼやけ検出に対する対応 Expired - Fee Related JP5475021B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/403,126 2009-03-12
US12/403,126 US8498486B2 (en) 2009-03-12 2009-03-12 Response to detection of blur in an image
PCT/US2010/027214 WO2010105212A1 (en) 2009-03-12 2010-03-12 Response to detection of blur in an image

Publications (2)

Publication Number Publication Date
JP2012520628A true JP2012520628A (ja) 2012-09-06
JP5475021B2 JP5475021B2 (ja) 2014-04-16

Family

ID=42145014

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011554248A Expired - Fee Related JP5475021B2 (ja) 2009-03-12 2010-03-12 画像内のぼやけ検出に対する対応

Country Status (7)

Country Link
US (1) US8498486B2 (ja)
EP (1) EP2406946B1 (ja)
JP (1) JP5475021B2 (ja)
KR (1) KR101297524B1 (ja)
CN (1) CN102349292B (ja)
TW (1) TW201103317A (ja)
WO (1) WO2010105212A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015156189A (ja) * 2014-02-21 2015-08-27 株式会社ニコン 画像評価装置、および画像評価プログラム
JP2019096364A (ja) * 2019-03-18 2019-06-20 株式会社ニコン 画像評価装置
JP2020170555A (ja) * 2020-07-13 2020-10-15 株式会社ニコン 画像評価装置、カメラおよびプログラム

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9137417B2 (en) 2005-03-24 2015-09-15 Kofax, Inc. Systems and methods for processing video data
US9769354B2 (en) 2005-03-24 2017-09-19 Kofax, Inc. Systems and methods of processing scanned data
US8885229B1 (en) 2013-05-03 2014-11-11 Kofax, Inc. Systems and methods for detecting and classifying objects in video captured using mobile devices
US9460491B2 (en) * 2008-08-25 2016-10-04 Xerox Corporation Method for binary to contone conversion with non-solid edge detection
US9576272B2 (en) 2009-02-10 2017-02-21 Kofax, Inc. Systems, methods and computer program products for determining document validity
US8958605B2 (en) 2009-02-10 2015-02-17 Kofax, Inc. Systems, methods and computer program products for determining document validity
US9767354B2 (en) 2009-02-10 2017-09-19 Kofax, Inc. Global geographic information retrieval, validation, and normalization
US9349046B2 (en) 2009-02-10 2016-05-24 Kofax, Inc. Smart optical input/output (I/O) extension for context-dependent workflows
US8774516B2 (en) 2009-02-10 2014-07-08 Kofax, Inc. Systems, methods and computer program products for determining document validity
US8879846B2 (en) 2009-02-10 2014-11-04 Kofax, Inc. Systems, methods and computer program products for processing financial documents
CN102333176A (zh) * 2010-07-14 2012-01-25 鸿富锦精密工业(深圳)有限公司 拍照装置及其拍照方法
US20120075354A1 (en) * 2010-09-29 2012-03-29 Sharp Laboratories Of America, Inc. Capture time reduction for correction of display non-uniformities
FR2968811A1 (fr) * 2010-12-13 2012-06-15 Univ Paris Diderot Paris 7 Methode de detection et de quantification du flou dans une image numerique.
US8760561B2 (en) * 2011-02-23 2014-06-24 Canon Kabushiki Kaisha Image capture for spectral profiling of objects in a scene
US9338352B2 (en) * 2011-12-30 2016-05-10 Flir Systems Ab Image stabilization systems and methods
US8989515B2 (en) 2012-01-12 2015-03-24 Kofax, Inc. Systems and methods for mobile image capture and processing
US9483794B2 (en) 2012-01-12 2016-11-01 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
US10146795B2 (en) 2012-01-12 2018-12-04 Kofax, Inc. Systems and methods for mobile image capture and processing
US9058580B1 (en) 2012-01-12 2015-06-16 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
US9058515B1 (en) 2012-01-12 2015-06-16 Kofax, Inc. Systems and methods for identification document processing and business workflow integration
US9208536B2 (en) 2013-09-27 2015-12-08 Kofax, Inc. Systems and methods for three dimensional geometric reconstruction of captured image data
US9355312B2 (en) 2013-03-13 2016-05-31 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US9311531B2 (en) 2013-03-13 2016-04-12 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US20140316841A1 (en) 2013-04-23 2014-10-23 Kofax, Inc. Location-based workflows and services
US9386235B2 (en) 2013-11-15 2016-07-05 Kofax, Inc. Systems and methods for generating composite images of long documents using mobile video data
CN103702024B (zh) * 2013-12-02 2017-06-20 宇龙计算机通信科技(深圳)有限公司 图像处理装置和图像处理方法
US9760788B2 (en) 2014-10-30 2017-09-12 Kofax, Inc. Mobile document detection and orientation based on reference object characteristics
US9626582B2 (en) * 2014-12-30 2017-04-18 Kodak Alaris Inc. System and method for measuring mobile document image quality
US9635276B2 (en) 2015-06-10 2017-04-25 Microsoft Technology Licensing, Llc Determination of exposure time for an image frame
US9916861B2 (en) * 2015-06-17 2018-03-13 International Business Machines Corporation Editing media on a mobile device before transmission
WO2016203282A1 (en) * 2015-06-18 2016-12-22 The Nielsen Company (Us), Llc Methods and apparatus to capture photographs using mobile devices
US10242285B2 (en) 2015-07-20 2019-03-26 Kofax, Inc. Iterative recognition-guided thresholding and data extraction
US9779296B1 (en) 2016-04-01 2017-10-03 Kofax, Inc. Content-based detection and three dimensional geometric reconstruction of objects in image and video data
US20180089809A1 (en) * 2016-09-27 2018-03-29 Nikon Corporation Image deblurring with a multiple section, regularization term
US11062176B2 (en) 2017-11-30 2021-07-13 Kofax, Inc. Object detection and image cropping using a multi-detector approach
US10686991B2 (en) 2018-09-11 2020-06-16 Sony Corporation Techniques for improving photograph quality for fouled lens or sensor situations

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001160142A (ja) * 1999-12-03 2001-06-12 Noritsu Koki Co Ltd 画像の鮮鋭度判断方法、画像の鮮鋭度を判断する処理を行うためのプログラムを記録した記録媒体、画像処理装置および写真焼付装置
JP2002314814A (ja) * 2001-04-12 2002-10-25 Ricoh Co Ltd 画像処理装置
JP2003078813A (ja) * 2001-07-17 2003-03-14 Eastman Kodak Co 修正再撮影カメラ及び方法
JP2007281646A (ja) * 2006-04-04 2007-10-25 Nikon Corp 電子カメラ
WO2008038909A1 (en) * 2006-09-29 2008-04-03 Samsung Electronics Co., Ltd. Device having camera function and display method and medium therefor
JP2008178031A (ja) * 2007-01-22 2008-07-31 Fujifilm Corp 撮像装置

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5227835A (en) 1990-12-21 1993-07-13 Eastman Kodak Company Teachable camera
JPH1132215A (ja) 1997-07-10 1999-02-02 Fuji Photo Film Co Ltd 写真画像、その形成方法及び装置、並びにそのための記録媒体
JPH11249212A (ja) 1998-03-02 1999-09-17 Olympus Optical Co Ltd ブレ警告機能付カメラ
US6516154B1 (en) 2001-07-17 2003-02-04 Eastman Kodak Company Image revising camera and method
US7362354B2 (en) 2002-02-12 2008-04-22 Hewlett-Packard Development Company, L.P. Method and system for assessing the photo quality of a captured image in a digital still camera
JP2003345340A (ja) * 2002-05-30 2003-12-03 Fuji Photo Film Co Ltd 画像表示制御装置
KR100474312B1 (ko) 2002-12-12 2005-03-10 엘지전자 주식회사 디지털 카메라의 자동 주밍 방법
US8989453B2 (en) * 2003-06-26 2015-03-24 Fotonation Limited Digital image processing using face detection information
US7437005B2 (en) 2004-02-17 2008-10-14 Microsoft Corporation Rapid visual sorting of digital files and data
JP2005309559A (ja) 2004-04-19 2005-11-04 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2005309560A (ja) * 2004-04-19 2005-11-04 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
US20060045381A1 (en) 2004-08-31 2006-03-02 Sanyo Electric Co., Ltd. Image processing apparatus, shooting apparatus and image display apparatus
JP4578197B2 (ja) 2004-09-29 2010-11-10 三洋電機株式会社 画像表示装置
JP3781050B1 (ja) * 2005-02-22 2006-05-31 三菱電機株式会社 画像処理装置、画像処理方法、および画像表示装置
EP1959390A4 (en) * 2005-10-12 2010-05-05 Panasonic Corp VISUAL PROCESSING APPARATUS, DISPLAY APPARATUS, VISUAL PROCESSING METHOD, PROGRAM, AND INTEGRATED CIRCUIT
US7697024B2 (en) * 2005-11-03 2010-04-13 Broadcom Corp. Method and system of tracking and stabilizing an image transmitted using video telephony
US7643659B2 (en) 2005-12-31 2010-01-05 Arcsoft, Inc. Facial feature detection on mobile devices
US8120658B2 (en) * 2006-01-19 2012-02-21 Qualcomm Incorporated Hand jitter reduction system for cameras
TWI311679B (en) * 2006-04-28 2009-07-01 Primax Electronics Ltd A method of evaluating minimum sampling steps of auto focus
JP4904108B2 (ja) 2006-07-25 2012-03-28 富士フイルム株式会社 撮影装置及び画像表示制御方法
JP2008092299A (ja) 2006-10-02 2008-04-17 Nikon System:Kk 電子カメラ
US20080137982A1 (en) * 2006-12-06 2008-06-12 Ayahiro Nakajima Blurring determination device, blurring determination method and printing apparatus
JP2009017539A (ja) * 2007-06-06 2009-01-22 Panasonic Corp カメラシステム
JP2009065224A (ja) * 2007-09-04 2009-03-26 Seiko Epson Corp 画像データ解析装置、画像データ解析方法、およびプログラム
US8049817B2 (en) * 2008-10-02 2011-11-01 Interra Systems Inc. Method and system for calculating interlace artifact in motion pictures
US8150191B2 (en) * 2008-10-14 2012-04-03 Interra Systems Inc. Method and system for calculating blur artifacts in videos using user perception threshold

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001160142A (ja) * 1999-12-03 2001-06-12 Noritsu Koki Co Ltd 画像の鮮鋭度判断方法、画像の鮮鋭度を判断する処理を行うためのプログラムを記録した記録媒体、画像処理装置および写真焼付装置
JP2002314814A (ja) * 2001-04-12 2002-10-25 Ricoh Co Ltd 画像処理装置
JP2003078813A (ja) * 2001-07-17 2003-03-14 Eastman Kodak Co 修正再撮影カメラ及び方法
JP2007281646A (ja) * 2006-04-04 2007-10-25 Nikon Corp 電子カメラ
WO2008038909A1 (en) * 2006-09-29 2008-04-03 Samsung Electronics Co., Ltd. Device having camera function and display method and medium therefor
JP2008178031A (ja) * 2007-01-22 2008-07-31 Fujifilm Corp 撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015156189A (ja) * 2014-02-21 2015-08-27 株式会社ニコン 画像評価装置、および画像評価プログラム
JP2019096364A (ja) * 2019-03-18 2019-06-20 株式会社ニコン 画像評価装置
JP2020170555A (ja) * 2020-07-13 2020-10-15 株式会社ニコン 画像評価装置、カメラおよびプログラム

Also Published As

Publication number Publication date
KR20110125271A (ko) 2011-11-18
CN102349292B (zh) 2015-01-07
EP2406946A1 (en) 2012-01-18
CN102349292A (zh) 2012-02-08
US8498486B2 (en) 2013-07-30
US20100232706A1 (en) 2010-09-16
JP5475021B2 (ja) 2014-04-16
TW201103317A (en) 2011-01-16
EP2406946B1 (en) 2015-07-29
WO2010105212A1 (en) 2010-09-16
KR101297524B1 (ko) 2013-08-16

Similar Documents

Publication Publication Date Title
JP5475021B2 (ja) 画像内のぼやけ検出に対する対応
JP5246275B2 (ja) 撮像装置およびプログラム
JP5136669B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4582423B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP4542011B2 (ja) カメラ及び手ぶれ補正方法及び手ぶれ補正プログラム
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP5262417B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR20070075346A (ko) 촬상장치 및 그 제어 방법
US20150116471A1 (en) Method, apparatus and storage medium for passerby detection
JP5144724B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
US10412321B2 (en) Imaging apparatus and image synthesis method
US9001254B2 (en) Digital photographing apparatus and method of controlling the same
JP2006019874A (ja) 手ぶれ・ピンボケレベル報知方法および撮像装置
JP2013017218A (ja) 画像処理装置、画像処理方法及びプログラム
JP2005182745A (ja) 画像処理方法および装置並びにプログラム
US8514305B2 (en) Imaging apparatus
JP5453998B2 (ja) デジタルカメラ
JP2011103618A (ja) 撮像装置
JP6645614B2 (ja) 撮像装置及び電子機器
CN112954204B (zh) 拍照控制方法及装置、存储介质、终端
JP6645612B1 (ja) 撮像装置及び電子機器
WO2024034390A1 (ja) 情報処理装置、情報処理方法、プログラム
JP2008178031A (ja) 撮像装置
JP6245802B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP6271985B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131002

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140205

R150 Certificate of patent or registration of utility model

Ref document number: 5475021

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees