JP2018524623A - モバイル機器キャプチャからの最適画像選択方法 - Google Patents
モバイル機器キャプチャからの最適画像選択方法 Download PDFInfo
- Publication number
- JP2018524623A JP2018524623A JP2017559309A JP2017559309A JP2018524623A JP 2018524623 A JP2018524623 A JP 2018524623A JP 2017559309 A JP2017559309 A JP 2017559309A JP 2017559309 A JP2017559309 A JP 2017559309A JP 2018524623 A JP2018524623 A JP 2018524623A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- energy
- mobile device
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/44—Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
- A61B5/441—Skin evaluation, e.g. for skin disorder diagnosis
- A61B5/442—Evaluating skin mechanical properties, e.g. elasticity, hardness, texture, wrinkle assessment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
- G06V10/993—Evaluation of the quality of the acquired pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30088—Skin; Dermal
Abstract
Description
本出願は、2015年5月14日に出願された、「SURFACE METROLOGY, ILLUMINATION CONTROL, AND DIALOG-DRIVEN IMAGE CAPTURE USING A SMARTPHONE-LIKE DEVICE」という名称の米国仮特許出願第62/161,318号、および2015年9月24日に出願された、「METHOD OF BEST CAPTURE OF CLOSE-UP IMAGES USING MOBILE PHONES」という名称の米国仮特許出願第62/222,897号の優先権の恩典を主張するものであり、どちらの仮特許出願も参照により全体が本明細書に組み入れられる。
健康を確保することは人生にとって重要である。画像処理が、保健医療において診断およびモニタリングにますます使用されるようになってきている。例えば、人間の皮膚は、私たちが世界に対して示す文字どおりの顔であることに加えて、個人の健康の指標となりうるものである。皮膚の物理的特性、例えば、人の肌のきめ、発疹の重症度および変化、隆起、あざ、水分レベルなどはすべて、個人の健康への洞察を提供することができる。にもかかわらず、これらの特性はまだ広く利用されていない。というのは、正確な測定には、通常、専用の特注のイメージングシステムや専門家を訪ねることが必要だからである。専用のシステムは、制御された照明、適切なカメラアングル、および関心対象物からの適切な距離の下で動作する必要があるため、高価でかさばる。専門家を訪れることは、時間を要し、費用がかさむ。これらの手法のどちらも個人の日常的な使用には適さない。
本開示の概念は、様々な改変および代替形態が可能であるが、それらの特定の態様を図面に例示し、以下で詳細に説明する。本開示の概念を開示の特定の形態だけに限定する意図はないことを理解されたい。むしろ、本開示および添付の特許請求の範囲と一致するすべての改変、均等物、および代替物をカバーすることが意図されている。
本明細書で開示する技術の説明例を以下で提供する。これらの技術の一態様は、後述する例のうちの任意の1つまたは複数、およびそれらの組み合わせを含むことができる。
モバイル機器のカメラを固定焦点距離に設定する工程、
カメラを用いて、皮膚表面の複数の画像のうちの現在の画像を取り込む工程であって、複数の画像が、順序を有し、かつ、カメラを用いて現在の画像の直前に取り込まれた第1の前の画像およびカメラを用いて第1の前の画像の直前に取り込まれた第2の前の画像を含む、現在の画像を取り込む工程、
現在の画像からグレースケール画像を生成する工程、
ラプラシアンピラミッドを用いて、グレースケール画像から複数の第1の輝度値を生成し、複数の第1の輝度値から複数の第2の輝度値を生成するために、グレースケール画像を変換する工程、
第1のエネルギー値を生成するために、複数の第1の輝度値のうちの対応する第1の輝度値の二乗を各々が含む複数の第1の二乗値を平均する工程、
第2のエネルギー値を生成するために、複数の第2の輝度値のうちの対応する第2の輝度値の二乗を各々が含む複数の第2の二乗値を平均する工程、
第1のエネルギー値対第2のエネルギー値の第1の比率を計算する工程、
第1の前の画像の第1のエネルギー値の平均値として、第1のエネルギー値、第1の前の画像の対応する第1のエネルギー値、および第2の前の画像の対応する第1のエネルギー値の平均値を計算する工程、
第1の前の画像の第1の比率の平均値として、第1の比率、第1の前の画像の対応する第1の比率、および第2の前の画像の対応する第1の比率の平均値を計算する工程、
第1の前の画像は複数の有効な画像のうちの1つであると決定する工程であって、複数の有効な画像の各有効な画像が、複数の画像のうちの画像であり、
エネルギー閾値を上回る対応する第1のエネルギー値の平均値、および
1.0にほぼ等しい対応する第1の比率の平均値
を有する、工程、
複数の有効な画像のうちの第1の有効な画像がベストフォーカス画像であると決定する工程であって、第1の有効な画像が、
第1の有効な画像の直前に取り込まれた、前の有効な画像、および
第1の有効な画像の直後に取り込まれた、後の有効な画像
の対応する第1のエネルギー値の平均値より大きい対応する第1のエネルギー値の平均値を有する、工程、ならびに
ベストフォーカス画像と関連付けられた動作を行う工程。
現在の画像を取り込む工程は、
モバイル機器が皮膚表面から第1の距離だけ離れた第1の点と皮膚表面から第2の距離だけ離れた第2の点との間を連続して移動される際に、ある取り込み速度で複数の画像を自動的に取り込む段階であって、第1の距離が焦点距離より小さく、第2の距離が焦点距離より大きい、段階
を含み、
動作を行う工程は、
現在の画像が複数の画像のうちの最後に取り込まれた画像になるように、複数の画像の取り込みを停止する段階
を含み、
本方法は、ベストフォーカス画像を決定する前に、複数の有効な画像が少なくとも最小限の数の複数の画像を含む、と判定する工程、をさらに含む。
複数の画像の取り込み時に被写体がモバイル機器を移動させている間はモバイル機器のディスプレイが被写体から見えないように皮膚表面が位置しており、
複数の画像を取り込む工程は、
モバイル機器の加速度計を用いて、モバイル機器が移動されている速度が所定の速度制限を超えている、と判定する段階、および
モバイル機器を用いて、モバイル機器の移動を遅くするよう被写体に指示する聴覚的アラートを生成する段階
を含み、
動作を行う工程は、
モバイル機器を用いて、ベストフォーカス画像が取り込まれたという聴覚的指示を生成する段階
をさらに含む。
本方法は、
ラプラシアンピラミッドを用いて、複数の第2の輝度値から複数の第3の輝度値を生成するために、グレースケール画像をさらに変換する工程、
第3のエネルギー値を生成するために、複数の第3の輝度値のうちの対応する第3の輝度値の二乗を各々が含む複数の第3の二乗値を平均する工程、
第1のエネルギー値対第3のエネルギー値の第2の比率を計算する工程、
第1の前の画像の第2のエネルギー値の平均値として、第2のエネルギー値、第1の前の画像の対応する第2のエネルギー値、および第2の前の画像の対応する第2のエネルギー値の平均値を計算する工程、
第1の前の画像の第3のエネルギー値の平均値として、第3のエネルギー値、第1の前の画像の対応する第3のエネルギー値、および第2の前の画像の対応する第3のエネルギー値の平均値を計算する工程、ならびに
第1の前の画像の第2の比率の平均値として、第2の比率、第1の前の画像の対応する第2の比率、および第2の前の画像の対応する第2の比率の平均値を計算する工程、
をさらに含み、
複数の有効な画像の各有効な画像は、
どちらもエネルギー閾値を上回る対応する第2のエネルギー値の平均値および対応する第3のエネルギー値の平均値、ならびに
1.0にほぼ等しい対応する第2の比率の平均値
をさらに有する。
モバイル機器を用いて、凹凸面のベストフォーカス画像を決定する方法は、以下の工程を含む:
カメラが固定焦点距離に設定されている間にモバイル機器のカメラによって取り込まれた、凹凸面の複数の画像を受け取る工程、
複数の画像のうちの第1の画像にラプラシアンピラミッドを適用する工程であって、第1の画像に基づく第1のレベルと、第1のレベルに基づく第2のレベルとを有するラプラシアンピラミッドを生成する、工程、
第1のレベルのラプラシアンエネルギーを表す、第1の画像の第1のエネルギー値を決定する工程、
第2のレベルのラプラシアンエネルギーを表す、第1の画像の第2のエネルギー値を決定する工程、
第1のエネルギー値がエネルギー閾値を超えておりかつ第2のエネルギー値にほぼ等しい、と判定する工程、
第1の画像の第1のエネルギー値および複数の有効な画像の各有効な画像の対応する第1のエネルギー値に少なくとも一部は基づき、第1の画像はベストフォーカス画像であると決定する工程であって、複数の有効な画像が、エネルギー閾値を超えておりかつ対応する第2のエネルギー値にほぼ等しい対応する第1のエネルギー値を有するすべての複数の画像を含む、工程、ならびに
ベストフォーカス画像と関連付けられた動作を行う工程。
複数の画像を受け取る工程は、
モバイル機器が凹凸面から第1の距離だけ離れた第1の点と凹凸面から第2の距離だけ離れた第2の点との間を連続して移動される際に、ある取り込み速度で複数の画像を取り込むようにカメラを制御する段階であって、第1の距離が焦点距離より小さく、第2の距離が焦点距離より大きい、段階
を含む。
複数の画像を受け取る工程は、
モバイル機器の1つまたは複数の状態を判定する段階、および
モバイル機器を用いて、1つまたは複数の状態に基づく1つまたは複数の聴覚的合図を生成する段階であって、1つまたは複数の聴覚的合図が、モバイル機器のユーザが複数の画像のうちの1つまたは複数を取り込むためにモバイル機器を位置決めするのを支援する、段階
をさらに含む。
1つまたは複数の状態を判定する工程は、
モバイル機器の加速度計を用いて、モバイル機器が移動されている速度は所定の速度制限を超えていると判定する段階、
を含み、
1つまたは複数の聴覚的合図を生成する工程は、
モバイル機器の移動を遅くするようユーザに指示する聴覚的アラートを生成する段階
を含む。
複数の画像は、第1の画像の直後に取り込まれた現在の画像を含み、
動作を行う工程は、
現在の画像が複数の画像の最後に取り込まれるように複数の画像の取り込みを停止するようカメラを制御する段階
を含む。
第1の画像はベストフォーカス画像であると決定する工程
第1の画像、現在の画像、および、第1の画像の直前に取り込まれた複数の画像のうちの前の画像の、対応する第1のエネルギー値から第1のエネルギー値の平均値を計算する段階、
各々が複数の画像のうちの対応する画像と関連付けられた、画像の対応する第1のエネルギー値と画像の対応する第2のエネルギー値とを比較する、複数の第1の比率の第1の比率から平均値を計算する段階であって、複数の第1の比率が、第1の画像、前の画像、および現在の画像の各々の対応する第1の比率を含む、段階、
第1のエネルギー値の平均値がエネルギー閾値を超えておりかつ第1の比率の平均値がほぼ1.0である、と判定する段階、ならびに
第1の画像の第1のエネルギー値の平均値が、
第1の画像の直前に取り込まれた、複数の有効な画像のうちの前の有効な画像、および
第1の画像の直後に取り込まれた、複数の有効な画像のうちの後の有効な画像
の各々の対応する第1のエネルギー値の平均値より大きい、と判定する段階
を含む。
ラプラシアンピラミッドを適用する工程は、ラプラシアンピラミッドの1つまたは複数のパラメータを、
モバイル機器が焦点距離より小さい第1の距離だけ凹凸面から離れているときに取り込まれた第1の非合焦画像に基づく第1のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが対応する第2のレベルのラプラシアンエネルギーと比べてより高くかつほぼ等しくはない第1のレベルおよび第2のレベルを呈するように、および
モバイル機器が焦点距離より大きい第2の距離だけ凹凸面から離れているときに取り込まれた第2の非合焦画像に基づく第2のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーがエネルギー閾値を超えない第1のレベルを呈するように
選択する段階、を含む。
動作を行う工程は、
第1の画像のぼやけがぼやけ閾値を超えている、と判定する段階、および
複数の画像を廃棄すべきでありかつ凹凸面の複数の新しい画像を取り込まなければならない、と指示する合図を、モバイル機器を用いて生成する段階
を含む。
凹凸面は被写体の皮膚表面であり、
皮膚表面は、基本外観と、基本外観から、かつ/または他の1つもしくは複数の弱い特徴から各々明確に区別されない1つもしくは複数の弱い特徴とを有し、
動作を行う工程は、
ベストフォーカス画像内の1つまたは複数の弱い特徴を検出し、1つまたは複数の弱い特徴に関する情報を生成する段階
を含む。
1つまたは複数の弱い特徴は、深いしわ、しわ、および孔を含む群の中から選択される。
モバイル機器は、
焦点距離に設定されたカメラと、
デバイス論理およびラプラシアンピラミッドを記憶するメモリと、
メモリおよびカメラと電気的に連通するプロセッサと
を含み、
プロセッサはデバイス論理を実行して、
カメラから関心領域の複数の画像を受け取り、
各画像に離散ラプラス演算子を適用して、画像に基づく第1のレベルと、第1のレベルに基づく第2のレベルとを有する対応するラプラシアンピラミッドを生成し、
対応するピラミッドの第1のレベルのラプラシアンエネルギーを表す対応する第1のエネルギー値を、複数の画像の画像ごとに決定し、
対応するピラミッドの第2のレベルのラプラシアンエネルギーを表す対応する第2のエネルギー値を、複数の画像の画像ごとに決定し、
複数の画像のうちの1つであり、エネルギー閾値を超えておりかつ第2のエネルギー値にほぼ等しい第1のエネルギー値を有する、ベストフォーカス画像を含む複数の有効な画像の各有効な画像の、対応する第1のエネルギー値に少なくとも一部は基づいて複数の画像のうちのベストフォーカス画像を決定し、
ベストフォーカス画像に基づいて動作を行う。
離散ラプラス演算子は、所定のサイズおよび所定の周波数のハイパス・フィルタリング・カーネルを含み、
所定のサイズおよび所定の周波数は、
モバイル機器が焦点距離より小さい第1の距離だけ被写体から離れているときに取り込まれた第1の非合焦画像の第1のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが対応する第2のレベルのラプラシアンエネルギーと比べてより高くかつほぼ等しくはない第1のレベルおよび第2のレベルを呈するように、および
モバイル機器が焦点距離より大きい第2の距離だけ被写体から離れているときに取り込まれた第2の非合焦画像に基づく第2のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーがエネルギー閾値を超えない第1のレベルを呈するように
選択される。
オートフォーカスモータをさらに含み、
カメラの焦点距離はオートフォーカスモータによって最小焦点距離から最大焦点距離まで調整可能であり、
複数の画像を受け取るために、カメラによる複数の画像の取り込み時に、プロセッサがデバイス論理を実行して焦点距離を最小焦点距離に固定しかつ、オートフォーカスモータを無効にする。
プロセッサと電気的に連通する距離センサをさらに含み、
関心領域は凹凸面を含み、
複数の画像を受け取るために、プロセッサはデバイス論理を実行して、
距離センサから信号を受け取り、
焦点距離より小さい第1の距離だけ凹凸面から離れている第1の点にモバイル機器が位置決めされていることを距離センサが検出したと信号が指示している、と判定し、
モバイル機器が、第1の点から、焦点距離より大きい第2の距離だけ凹凸面から離れている第2の点まで連続して移動される際、ある取り込み速度で複数の画像を取り込むようカメラを制御する。
複数の画像が第1の順序を有し、複数の有効な画像が、複数の有効な画像のうちの1つではない複数の画像の各画像が除去された第1の順序を含む第2の順序を有するように、
プロセッサは、画像が取り込まれる際に複数の画像の各画像を受け取り、
複数の有効な画像の各有効な画像は、エネルギー閾値を超えておりかつほぼ等しい対応する第1のエネルギー値の平均値および対応する第2のエネルギー値の平均値をさらに有し、
プロセッサはデバイス論理を実行して、
有効な画像、第1の順序で有効な画像の直前に位置決めされた前の画像、および第1の順序で有効な画像の直後に位置決めされた後の画像の、対応する第1のエネルギー値から対応する第1のエネルギー値の平均値を計算し、
有効な画像、前の画像、および後の画像の、対応する第2のエネルギー値から対応する第2のエネルギー値の平均値を計算し、
対応する第1のエネルギー値の平均値がエネルギー閾値を超えておりかつ対応する第2のエネルギー値の平均値にほぼ等しい、と判定し、
ベストフォーカス画像を決定するために、プロセッサはデバイス論理を実行して、
複数の有効な画像の第1の画像の対応する第1のエネルギー値の平均値は、
第2の順序で第1の画像の直前に位置決めされた、複数の有効な画像のうちの、前の有効な画像、および
第2の順序で第1の画像の直後に位置決めされた、複数の有効な画像のうちの、後の有効な画像
の各々の対応する第1のエネルギー値の平均値より大きい、と判定し、
動作を行うために、プロセッサはデバイス論理を実行して、複数の画像の取り込みを停止するようカメラを制御する。
スピーカをさらに含み、
複数の画像を受け取るために、プロセッサはデバイス論理を実行して、
モバイル機器の1つまたは複数の状態を判定し、
複数の画像のうちの1つまたは複数を取り込むためにモバイル機器のユーザがモバイル機器を位置決めするのを支援する、1つまたは複数の状態に基づく1つまたは複数の聴覚的合図を生成し、
スピーカを介して1つまたは複数の聴覚的合図を出力する。
Claims (20)
- モバイル機器を用いて、被写体の皮膚表面のベストフォーカス画像を取り込む方法であって、以下の工程を含む、方法:
前記モバイル機器のカメラを固定焦点距離に設定する工程;
前記カメラを用いて、前記皮膚表面の複数の画像のうちの現在の画像を取り込む工程であって、前記複数の画像が、順序を有し、かつ、前記カメラを用いて前記現在の画像の前に取り込まれた第1の前の画像および前記カメラを用いて前記第1の前の画像の前に取り込まれた第2の前の画像を含む、現在の画像を取り込む前記工程;
前記現在の画像から修正画像を生成する工程;
ラプラシアンピラミッドを用いて、前記修正画像から複数の第1の輝度値を生成し、前記複数の第1の輝度値から複数の第2の輝度値を生成するために、前記修正画像を変換する工程;
第1のエネルギー値を生成するために、前記複数の第1の輝度値のうちの対応する第1の輝度値の二乗を各々が含む複数の第1の二乗値を平均する工程;
第2のエネルギー値を生成するために、前記複数の第2の輝度値のうちの対応する第2の輝度値の二乗を各々が含む複数の第2の二乗値を平均する工程;
前記第1のエネルギー値対前記第2のエネルギー値の第1の比率を計算する工程;
前記第1の前の画像の第1のエネルギー値の平均値として、前記第1のエネルギー値、前記第1の前の画像の対応する第1のエネルギー値、および前記第2の前の画像の対応する第1のエネルギー値の平均値を計算する工程;
前記第1の前の画像の第1の比率の平均値として、前記第1の比率、前記第1の前の画像の対応する第1の比率、および前記第2の前の画像の対応する第1の比率の平均値を計算する工程;
前記第1の前の画像は複数の有効な画像のうちの1つであると決定する工程であって、前記複数の有効な画像の各有効な画像が、前記複数の画像のうちの画像であり、
エネルギー閾値を上回る対応する第1のエネルギー値の平均値;および
1.0にほぼ等しい対応する第1の比率の平均値
を有する、工程;
前記複数の有効な画像のうちの第1の有効な画像が前記ベストフォーカス画像であると決定する工程であって、前記第1の有効な画像が、
前記第1の有効な画像の直前に取り込まれた、前の有効な画像;および
前記第1の有効な画像の直後に取り込まれた、後の有効な画像
の前記対応する第1のエネルギー値の平均値より大きい対応する第1のエネルギー値の平均値を有する、工程;ならびに
前記ベストフォーカス画像と関連付けられた動作を行う工程。 - 前記現在の画像を取り込む前記工程が、
前記モバイル機器が前記皮膚表面から第1の距離だけ離れた第1の点と前記皮膚表面から第2の距離だけ離れた第2の点との間を連続して移動される際に、ある取り込み速度で前記複数の画像を自動的に取り込む段階であって、前記第1の距離が前記焦点距離より小さく、前記第2の距離が前記焦点距離より大きい、段階
を含み、
前記動作を行う前記工程が、
前記現在の画像が前記複数の画像のうちの最後に取り込まれた画像になるように、前記複数の画像の前記取り込みを停止する段階
を含み、
前記方法が、
前記ベストフォーカス画像を決定する前に、前記複数の有効な画像が少なくとも最小限の数の前記複数の画像を含む、と判定する工程、をさらに含む、請求項1記載の方法。 - 前記複数の画像の取り込み時に前記被写体が前記モバイル機器を移動させている間は前記モバイル機器のディスプレイが前記被写体から見えないように前記皮膚表面が位置しており、
前記複数の画像を取り込む前記工程が、
前記モバイル機器の加速度計を用いて、前記モバイル機器が移動されている速度が所定の速度制限を超えている、と判定する段階;および
前記モバイル機器を用いて、前記モバイル機器の移動を遅くするよう前記被写体に指示する聴覚的アラートを生成する段階
を含み、
前記動作を行う前記工程が、
前記モバイル機器を用いて、前記ベストフォーカス画像が取り込まれたという聴覚的指示を生成する段階
をさらに含む、請求項2記載の方法。 - 前記ラプラシアンピラミッドを用いて、前記複数の第2の輝度値から複数の第3の輝度値を生成するために、前記修正画像をさらに変換する工程;
第3のエネルギー値を生成するために、前記複数の第3の輝度値のうちの対応する第3の輝度値の二乗を各々が含む複数の第3の二乗値を平均する工程;
前記第1のエネルギー値対前記第3のエネルギー値の第2の比率を計算する工程;
前記第1の前の画像の第2のエネルギー値の平均値として、前記第2のエネルギー値、前記第1の前の画像の対応する第2のエネルギー値、および前記第2の前の画像の対応する第2のエネルギー値の平均値を計算する工程;
前記第1の前の画像の第3のエネルギー値の平均値として、前記第3のエネルギー値、前記第1の前の画像の対応する第3のエネルギー値、および前記第2の前の画像の対応する第3のエネルギー値の平均値を計算する工程;ならびに
前記第1の前の画像の第2の比率の平均値として、前記第2の比率、前記第1の前の画像の対応する第2の比率、および前記第2の前の画像の対応する第2の比率の平均値を計算する工程;
をさらに含み、
前記複数の有効な画像の各有効な画像が、
どちらも前記エネルギー閾値を上回る対応する第2のエネルギー値の平均値および対応する第3のエネルギー値の平均値;ならびに
1.0にほぼ等しい対応する第2の比率の平均値
をさらに有する、請求項1記載の方法。 - モバイル機器を用いて、凹凸面のベストフォーカス画像を決定する方法であって、以下の工程を含む、方法:
前記カメラが固定焦点距離に設定されている間に前記モバイル機器のカメラによって取り込まれた、前記凹凸面の複数の画像を受け取る工程;
前記複数の画像のうちの第1の画像にラプラシアンピラミッドを適用する工程であって、前記第1の画像に基づく第1のレベルと、前記第1のレベルに基づく第2のレベルとを有するラプラシアンピラミッドを生成する、工程;
前記第1のレベルのラプラシアンエネルギーを表す、前記第1の画像の第1のエネルギー値を決定する工程;
前記第2のレベルのラプラシアンエネルギーを表す、前記第1の画像の第2のエネルギー値を決定する工程;
前記第1のエネルギー値がエネルギー閾値を超えておりかつ前記第2のエネルギー値にほぼ等しい、と判定する工程;
前記第1の画像の前記第1のエネルギー値および複数の有効な画像の各有効な画像の対応する第1のエネルギー値に少なくとも一部は基づき、前記第1の画像は前記ベストフォーカス画像であると決定する工程であって、前記複数の有効な画像が、前記エネルギー閾値を超えておりかつ対応する第2のエネルギー値にほぼ等しい対応する第1のエネルギー値を有するすべての前記複数の画像を含む、工程;ならびに
前記ベストフォーカス画像と関連付けられた動作を行う工程。 - 前記複数の画像を受け取る前記工程が、
前記モバイル機器が前記凹凸面から第1の距離だけ離れた第1の点と前記凹凸面から第2の距離だけ離れた第2の点との間を連続して移動される際に、ある取り込み速度で前記複数の画像を取り込むように前記カメラを制御する段階であって、前記第1の距離が前記焦点距離より小さく、前記第2の距離が前記焦点距離より大きい、段階
を含む、請求項5記載の方法。 - 前記複数の画像を受け取る前記工程が、
前記モバイル機器の1つまたは複数の状態を判定する段階;および
前記モバイル機器を用いて、前記1つまたは複数の状態に基づく1つまたは複数の聴覚的合図を生成する段階であって、前記1つまたは複数の聴覚的合図が、前記モバイル機器のユーザが前記複数の画像のうちの1つまたは複数を取り込むために前記モバイル機器を位置決めするのを支援する、段階
をさらに含む、請求項6記載の方法。 - 前記1つまたは複数の状態を判定する前記工程が、
前記モバイル機器の加速度計を用いて、前記モバイル機器が移動されている速度が所定の速度制限を超えている、と判定する段階
を含み、
前記1つまたは複数の聴覚的合図を生成する前記工程が、
前記モバイル機器の移動を遅くするよう前記ユーザに指示する聴覚的アラートを生成する段階
を含む、請求項7記載の方法。 - 前記複数の画像が、前記第1の画像の直後に取り込まれた現在の画像を含み、
前記動作を行う前記工程が、
前記現在の画像が前記複数の画像の最後に取り込まれるように前記複数の画像の取り込みを停止するよう前記カメラを制御する段階
を含む、請求項6記載の方法。 - 前記第1の画像は前記ベストフォーカス画像であると決定する前記工程が、
前記第1の画像、前記現在の画像、および、前記第1の画像の直前に取り込まれた前記複数の画像のうちの前の画像の、対応する第1のエネルギー値から第1のエネルギー値の平均値を計算する段階;
各々が前記複数の画像のうちの対応する画像と関連付けられた、前記画像の対応する第1のエネルギー値と前記画像の対応する第2のエネルギー値とを比較する、複数の第1の比率から第1の比率の平均値を計算する段階であって、前記複数の第1の比率が、前記第1の画像、前記前の画像、および前記現在の画像の各々の対応する第1の比率を含む、段階;
前記第1のエネルギー値の平均値が前記エネルギー閾値を超えておりかつ前記第1の比率の平均値がほぼ1.0である、と判定する段階;ならびに
前記第1の画像の前記第1のエネルギー値の平均値が、
前記第1の画像の直前に取り込まれた、前記複数の有効な画像のうちの前の有効な画像;および
前記第1の画像の直後に取り込まれた、前記複数の有効な画像のうちの後の有効な画像
の各々の対応する第1のエネルギー値の平均値より大きい、と判定する段階
を含む、請求項9記載の方法。 - 前記ラプラシアンピラミッドを適用する前記工程が、前記ラプラシアンピラミッドの1つまたは複数のパラメータを、
前記モバイル機器が前記焦点距離より小さい第1の距離だけ前記凹凸面から離れているときに取り込まれた第1の非合焦画像に基づく第1のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが対応する第2のレベルのラプラシアンエネルギーと比べてより高くかつほぼ等しくはない前記第1のレベルおよび前記第2のレベルを呈するように;および
前記モバイル機器が前記焦点距離より大きい第2の距離だけ前記凹凸面から離れているときに取り込まれた第2の非合焦画像に基づく第2のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが前記エネルギー閾値を超えない前記第1のレベルを呈するように
選択する段階を含む、請求項5記載の方法。 - 前記動作を行う前記工程が、
前記第1の画像のぼやけがぼやけ閾値を超えている、と判定する段階;および
前記複数の画像を廃棄すべきでありかつ前記凹凸面の複数の新しい画像を取り込まなければならない、と指示する合図を、前記モバイル機器を用いて生成する段階
を含む、請求項5記載の方法。 - 前記凹凸面が被写体の皮膚表面であり、
前記皮膚表面が、基本外観と、前記基本外観からまたは他の1つもしくは複数の弱い特徴から各々明確に区別されない前記1つもしくは複数の弱い特徴とを有し、
前記動作を行う前記工程が、
前記ベストフォーカス画像内の前記1つまたは複数の弱い特徴を検出し、前記1つまたは複数の弱い特徴に関する情報を生成する段階
を含む、請求項5記載の方法。 - 前記1つまたは複数の弱い特徴が、深いしわ、しわ、および孔を含む群の中から選択される、請求項13記載の方法。
- 焦点距離に設定されたカメラと;
デバイス論理およびラプラシアンピラミッドを記憶するメモリと;
前記メモリおよび前記カメラと電気的に連通するプロセッサであって、前記デバイス論理を実行して、
前記カメラから関心領域の複数の画像を受け取り、
各画像に前記ラプラシアンピラミッドを適用して、前記画像に基づく第1のレベルと、前記第1のレベルに基づく第2のレベルとを有する対応するラプラシアンピラミッドを生成し、
前記対応するピラミッドの前記第1のレベルのラプラシアンエネルギーを表す対応する第1のエネルギー値を、前記複数の画像の画像ごとに決定し、
前記対応するピラミッドの前記第2のレベルのラプラシアンエネルギーを表す対応する第2のエネルギー値を、前記複数の画像の画像ごとに決定し、
前記複数の画像のうちの1つであり、エネルギー閾値を超えておりかつ第2のエネルギー値にほぼ等しい第1のエネルギー値を有する、前記ベストフォーカス画像を含む複数の有効な画像の各有効な画像の、前記対応する第1のエネルギー値に少なくとも一部は基づいて前記複数の画像のうちのベストフォーカス画像を決定し、
前記ベストフォーカス画像に基づいて動作を行う
前記プロセッサ
を含む、モバイル機器。 - 前記ラプラシアンピラミッドが、所定のサイズおよび所定の周波数のハイパス・フィルタリング・カーネルを含み、
前記所定のサイズおよび前記所定の周波数が、
前記モバイル機器が前記焦点距離より小さい第1の距離だけ被写体から離れているときに取り込まれた第1の非合焦画像の第1のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが対応する第2のレベルのラプラシアンエネルギーと比べてより高くかつほぼ等しくはない前記第1のレベルおよび前記第2のレベルを呈するように;および
前記モバイル機器が前記焦点距離より大きい第2の距離だけ前記被写体から離れているときに取り込まれた第2の非合焦画像に基づく第2のラプラシアンピラミッドが、対応する第1のレベルのラプラシアンエネルギーが前記エネルギー閾値を超えない前記第1のレベルを呈するように
選択される、請求項15記載のモバイル機器。 - オートフォーカスモータをさらに含み、
前記カメラの前記焦点距離が前記オートフォーカスモータによって最小焦点距離から最大焦点距離まで調整可能であり、
前記複数の画像を受け取るために、前記カメラによる前記複数の画像の取り込み時に、前記プロセッサが前記デバイス論理を実行して前記焦点距離を最小焦点距離に固定しかつ前記オートフォーカスモータを無効にする、請求項15記載のモバイル機器。 - 前記プロセッサと電気的に連通する距離センサをさらに含み、
前記関心領域が凹凸面を含み、
前記複数の画像を受け取るために、前記プロセッサが前記デバイス論理を実行して、
前記距離センサから信号を受け取り、
前記焦点距離より小さい第1の距離だけ前記凹凸面から離れている第1の点に前記モバイル機器が位置決めされていることを前記距離センサが検出したと前記信号が指示している、と判定し、
前記モバイル機器が、第1の点から、前記焦点距離より大きい第2の距離だけ前記凹凸面から離れている第2の点まで連続して移動される際に、ある取り込み速度で前記複数の画像を取り込むよう前記カメラを制御する、
請求項15記載のモバイル機器。 - 前記複数の画像が第1の順序を有し、前記複数の有効な画像が、前記複数の有効な画像のうちの1つではない前記複数の画像の各画像が除去された前記第1の順序を含む第2の順序を有するように、
前記プロセッサが、前記画像が取り込まれる際に前記複数の画像の各画像を受け取り、
前記複数の有効な画像の各有効な画像が、前記エネルギー閾値を超えておりかつほぼ等しい対応する第1のエネルギー値の平均値および対応する第2のエネルギー値の平均値をさらに有し、
前記プロセッサが前記デバイス論理を実行して、
前記有効な画像、前記第1の順序で前記有効な画像の直前に位置決めされた前の画像、および前記第1の順序で前記有効な画像の直後に位置決めされた後の画像の、前記対応する第1のエネルギー値から前記対応する第1のエネルギー値の平均値を計算し、
前記有効な画像、前記前の画像、および前記後の画像の、前記対応する第2のエネルギー値から前記対応する第2のエネルギー値の平均値を計算し、
前記対応する第1のエネルギー値の平均値が前記エネルギー閾値を超えておりかつ前記対応する第2のエネルギー値の平均値にほぼ等しい、と判定し、
前記ベストフォーカス画像を決定するために、前記プロセッサがデバイス論理を実行して、
前記複数の有効な画像の第1の画像の前記対応する第1のエネルギー値の平均値が、
前記第2の順序で前記第1の画像の直前に位置決めされた、前記複数の有効な画像のうちの、前の有効な画像;および
前記第2の順序で前記第1の画像の直後に位置決めされた、前記複数の有効な画像のうちの、後の有効な画像
の各々の前記対応する第1のエネルギー値の平均値より大きい、と判定し、
前記動作を行うために、前記プロセッサが前記デバイス論理を実行して、前記複数の画像の取り込みを停止するよう前記カメラを制御する、
請求項18記載のモバイル機器。 - スピーカをさらに含み、
前記複数の画像を受け取るために、前記プロセッサが前記デバイス論理を実行して、
前記モバイル機器の1つまたは複数の状態を判定し、
前記複数の画像のうちの1つまたは複数を取り込むために前記モバイル機器のユーザが前記モバイル機器を位置決めするのを支援する、前記1つまたは複数の状態に基づく1つまたは複数の聴覚的合図を生成し、
前記スピーカを介して前記1つまたは複数の聴覚的合図を出力する、
請求項15記載のモバイル機器。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562161318P | 2015-05-14 | 2015-05-14 | |
US62/161,318 | 2015-05-14 | ||
US201562222897P | 2015-09-24 | 2015-09-24 | |
US62/222,897 | 2015-09-24 | ||
PCT/US2016/013868 WO2016182607A1 (en) | 2015-05-14 | 2016-01-19 | Selecting optimal image from mobile device captures |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018524623A true JP2018524623A (ja) | 2018-08-30 |
Family
ID=57248291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017559309A Ceased JP2018524623A (ja) | 2015-05-14 | 2016-01-19 | モバイル機器キャプチャからの最適画像選択方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US10477095B2 (ja) |
EP (1) | EP3295377A4 (ja) |
JP (1) | JP2018524623A (ja) |
WO (1) | WO2016182607A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200114838A (ko) * | 2019-03-29 | 2020-10-07 | 경북대학교 산학협력단 | 전자 장치 및 제어 방법 |
KR102662271B1 (ko) * | 2023-10-30 | 2024-04-30 | 주식회사 엠컴 | 실행 앱 분석을 통해 화면 밝기를 제어하는 에너지 절감형 모니터장치 및 그 제어방법 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10839487B2 (en) | 2015-09-17 | 2020-11-17 | Michael Edwin Stewart | Methods and apparatus for enhancing optical images and parametric databases |
JP6731370B2 (ja) * | 2017-03-27 | 2020-07-29 | 株式会社日立ハイテク | 画像処理システム及び画像処理を行うためのコンピュータープログラム |
JP7121470B2 (ja) * | 2017-05-12 | 2022-08-18 | キヤノン株式会社 | 画像処理システム、制御方法、及び、プログラム |
US10949692B2 (en) | 2018-03-08 | 2021-03-16 | Sri International | 3D dynamic structure estimation using synchronized images |
DE102018209176A1 (de) * | 2018-06-08 | 2019-12-12 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Verfahren und Vorrichtung zur Rekonstruktion von Zeitreihen, degradiert durch Auslastungsgrade |
CN109284680B (zh) * | 2018-08-20 | 2022-02-08 | 北京粉笔蓝天科技有限公司 | 一种渐进式图像识别方法、装置、系统及存储介质 |
US11270477B2 (en) * | 2018-10-31 | 2022-03-08 | General Electric Company | Systems and methods for tailored image texture in iterative image reconstruction |
TWI707307B (zh) * | 2018-11-08 | 2020-10-11 | 瑞昱半導體股份有限公司 | 影像調整方法 |
CN113128375A (zh) * | 2021-04-02 | 2021-07-16 | 西安融智芙科技有限责任公司 | 图像识别方法及电子设备、计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000358186A (ja) * | 1999-05-20 | 2000-12-26 | Hewlett Packard Co <Hp> | 自動的に焦点の合った画像を選択するディジタルカメラおよびその方法 |
JP2014068330A (ja) * | 2012-09-05 | 2014-04-17 | Casio Comput Co Ltd | 画像処理装置、画像処理方法及びプログラム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2749806B2 (ja) * | 1987-01-14 | 1998-05-13 | キヤノン株式会社 | 自動合焦装置 |
US5325449A (en) * | 1992-05-15 | 1994-06-28 | David Sarnoff Research Center, Inc. | Method for fusing images and apparatus therefor |
EP1110381B1 (en) * | 1998-08-28 | 2003-07-16 | Sarnoff Corporation | Method and apparatus for electronically enhancing images |
US6201899B1 (en) * | 1998-10-09 | 2001-03-13 | Sarnoff Corporation | Method and apparatus for extended depth of field imaging |
US6542824B1 (en) * | 1999-01-29 | 2003-04-01 | International Business Machines Corporation | Method and system for determining position information utilizing a portable electronic device lacking global positioning system (GPS) reception capability |
US7233693B2 (en) * | 2003-04-29 | 2007-06-19 | Inforward, Inc. | Methods and systems for computer analysis of skin image |
US7688379B2 (en) | 2005-12-09 | 2010-03-30 | Hewlett-Packard Development Company, L.P. | Selecting quality images from multiple captured images |
US8724013B2 (en) * | 2007-12-27 | 2014-05-13 | Qualcomm Incorporated | Method and apparatus with fast camera auto focus |
KR101060488B1 (ko) * | 2008-04-21 | 2011-08-30 | 주식회사 코아로직 | 최적 영상 선택 방법 및 장치 |
US8000556B2 (en) * | 2008-05-15 | 2011-08-16 | Arcsoft, Inc. | Method for estimating noise according to multiresolution model |
KR101030652B1 (ko) * | 2008-12-16 | 2011-04-20 | 아이리텍 잉크 | 홍채인식을 위한 고품질 아이이미지의 획득장치 및 방법 |
JP5583242B2 (ja) * | 2012-07-05 | 2014-09-03 | キヤノン株式会社 | 画像処理装置およびその制御方法、並びにプログラム |
US20150071547A1 (en) * | 2013-09-09 | 2015-03-12 | Apple Inc. | Automated Selection Of Keeper Images From A Burst Photo Captured Set |
-
2016
- 2016-01-19 EP EP16793104.7A patent/EP3295377A4/en not_active Withdrawn
- 2016-01-19 WO PCT/US2016/013868 patent/WO2016182607A1/en active Application Filing
- 2016-01-19 JP JP2017559309A patent/JP2018524623A/ja not_active Ceased
- 2016-01-19 US US15/573,325 patent/US10477095B2/en active Active
-
2019
- 2019-08-02 US US16/530,774 patent/US20190356844A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000358186A (ja) * | 1999-05-20 | 2000-12-26 | Hewlett Packard Co <Hp> | 自動的に焦点の合った画像を選択するディジタルカメラおよびその方法 |
JP2014068330A (ja) * | 2012-09-05 | 2014-04-17 | Casio Comput Co Ltd | 画像処理装置、画像処理方法及びプログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200114838A (ko) * | 2019-03-29 | 2020-10-07 | 경북대학교 산학협력단 | 전자 장치 및 제어 방법 |
KR102250712B1 (ko) * | 2019-03-29 | 2021-05-11 | 경북대학교 산학협력단 | 전자 장치 및 제어 방법 |
KR102662271B1 (ko) * | 2023-10-30 | 2024-04-30 | 주식회사 엠컴 | 실행 앱 분석을 통해 화면 밝기를 제어하는 에너지 절감형 모니터장치 및 그 제어방법 |
Also Published As
Publication number | Publication date |
---|---|
WO2016182607A1 (en) | 2016-11-17 |
US20180139377A1 (en) | 2018-05-17 |
EP3295377A4 (en) | 2019-01-09 |
EP3295377A1 (en) | 2018-03-21 |
US10477095B2 (en) | 2019-11-12 |
US20190356844A1 (en) | 2019-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10477095B2 (en) | Selecting optimal image from mobile device captures | |
EP3398353B1 (en) | A method for generating a customized/personalized head related transfer function | |
WO2018176938A1 (zh) | 红外光斑中心点提取方法、装置和电子设备 | |
CN107622240B (zh) | 人脸检测方法和装置 | |
US20170076430A1 (en) | Image Processing Method and Image Processing Apparatus | |
JP2024045273A (ja) | 非制約環境において人間の視線及びジェスチャを検出するシステムと方法 | |
WO2019120029A1 (zh) | 智能调节屏幕亮度的方法、装置、存储介质及移动终端 | |
JP6368709B2 (ja) | 3次元身体データを生成する方法 | |
KR101725884B1 (ko) | 이미지들에 대한 자동 프로세싱 | |
US20200234444A1 (en) | Systems and methods for the analysis of skin conditions | |
US20210022603A1 (en) | Techniques for providing computer assisted eye examinations | |
KR20160048140A (ko) | 올-인-포커스 이미지를 생성하기 위한 방법 및 장치 | |
US9384384B1 (en) | Adjusting faces displayed in images | |
Wu et al. | Blind blur assessment for vision-based applications | |
US9811916B1 (en) | Approaches for head tracking | |
CN111444555A (zh) | 一种测温信息显示方法、装置及终端设备 | |
Armato et al. | Comparitive study on photometric normalization algorithms for an innovative, robust and real-time eye gaze tracker | |
CN108875506B (zh) | 人脸形状点跟踪方法、装置和系统及存储介质 | |
CA2949683A1 (fr) | Procede de determination d'au moins un parametre comportemental | |
CN113939221A (zh) | 用于使用图像捕获设备来确定受试者的眼睛的屈光特征的方法和系统 | |
US10572722B2 (en) | Display apparatus and display method | |
KR20210073639A (ko) | 영상 분석 장치 및 영상 분석 방법 | |
WO2017080236A1 (zh) | 图像处理方法及装置 | |
CN110545386B (zh) | 用于拍摄图像的方法和设备 | |
Laco et al. | Depth in the visual attention modelling from the egocentric perspective of view |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171213 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20181105 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20181218 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190118 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190705 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190904 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20191204 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20200204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200304 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200902 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201201 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201223 |
|
A045 | Written measure of dismissal of application [lapsed due to lack of payment] |
Free format text: JAPANESE INTERMEDIATE CODE: A045 Effective date: 20210428 |