JP7454105B2 - 顔画像品質評価方法及び装置、コンピュータ機器並びにコンピュータプログラム - Google Patents
顔画像品質評価方法及び装置、コンピュータ機器並びにコンピュータプログラム Download PDFInfo
- Publication number
- JP7454105B2 JP7454105B2 JP2023516051A JP2023516051A JP7454105B2 JP 7454105 B2 JP7454105 B2 JP 7454105B2 JP 2023516051 A JP2023516051 A JP 2023516051A JP 2023516051 A JP2023516051 A JP 2023516051A JP 7454105 B2 JP7454105 B2 JP 7454105B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- face image
- quality evaluation
- facial
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000001815 facial effect Effects 0.000 title claims description 211
- 238000013441 quality evaluation Methods 0.000 title claims description 193
- 238000000034 method Methods 0.000 title claims description 111
- 238000004590 computer program Methods 0.000 title claims description 7
- 238000009826 distribution Methods 0.000 claims description 283
- 238000012549 training Methods 0.000 claims description 79
- 230000006870 function Effects 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 22
- 238000000605 extraction Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 29
- 238000005516 engineering process Methods 0.000 description 22
- 238000001303 quality assessment method Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 12
- 238000013473 artificial intelligence Methods 0.000 description 10
- 238000002372 labelling Methods 0.000 description 10
- 230000002093 peripheral effect Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 7
- 210000000887 face Anatomy 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000000429 assembly Methods 0.000 description 3
- 230000000712 assembly Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 210000001508 eye Anatomy 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013210 evaluation model Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
- G06V10/993—Evaluation of the quality of the acquired pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
Description
対象顔画像を取得するステップと、
前記対象顔画像の類似度分布距離を決定するステップであって、前記類似度分布距離は、前記対象顔画像が対応する同一人物類似度分布と前記対象顔画像が対応する非同一人物類似度分布との間の分布距離を含み、前記同一人物類似度分布は、前記対象顔画像と、前記対象顔画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記非同一人物類似度分布は、前記対象顔画像と、前記対象顔画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、ステップと、
前記対象顔画像の類似度分布距離に基づいて、前記対象顔画像の画質を決定するステップと、
を含む顔画像品質評価方法が提供される。
少なくとも2つの人物アイデンティティがそれぞれ対応する顔画像セットを含むサンプル画像を取得するステップであって、前記顔画像セットには少なくとも2つの顔画像が含まれる、ステップと、
前記サンプル画像と、前記サンプル画像の人物アイデンティティとに基づいて、前記サンプル画像の類似度分布距離を決定するステップであって、前記サンプル画像の類似度分布距離は、前記サンプル画像が対応する同一人物類似度分布と前記サンプル画像が対応する非同一人物類似度分布との間の分布距離を含み、前記サンプル画像が対応する同一人物類似度分布は、前記サンプル画像と、前記サンプル画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記非同一人物類似度分布は、前記サンプル画像と、前記サンプル画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、ステップと、
前記サンプル画像と、前記サンプル画像の類似度分布距離とにより、訓練対象となる品質評価モデルを訓練し、訓練済みの品質評価モデルを得て訓練するステップであって、前記訓練済みの品質評価モデルは、入力された対象顔画像を処理し、前記対象顔画像の品質評価に用いる前記対象顔画像の類似度分布距離を出力するために用いられる、ステップと、を含む。
対象顔画像を取得するための第1の顔画像取得モジュールと、
前記対象顔画像の類似度分布距離を決定する第1の類似度分布距離取得モジュールであって、前記類似度分布距離は、前記対象顔画像が対応する同一人物類似度分布と前記対象顔画像が対応する非同一人物類似度分布との間の分布距離を含み、前記同一人物類似度分布は、前記対象顔画像と、前記対象顔画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記非同一人物類似度分布は、前記対象顔画像と、前記対象顔画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、第1の類似度分布距離取得モジュールと、
前記対象顔画像の類似度分布距離に基づいて、前記対象顔画像の画質を決定する画質取得モジュールと、
を備える顔画像品質評価装置が提供される。
少なくとも2つの人物アイデンティティがそれぞれ対応する顔画像セットを含むサンプル画像を取得する第2の顔画像取得モジュールであって、前記顔画像セットには少なくとも2つの顔画像が含まれる、第2の顔画像取得モジュールと、
各前記サンプル画像と、前記サンプル画像の人物アイデンティティとに基づいて、前記サンプル画像の類似度分布距離を決定する第2の類似度分布距離取得モジュールであって、前記サンプル画像の類似度分布距離は、前記サンプル画像が対応する同一人物類似度分布と前記サンプル画像が対応する非同一人物類似度分布との間の分布距離を含み、前記サンプル画像が対応する同一人物類似度分布は、前記サンプル画像と、前記サンプル画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記非同一人物類似度分布は、前記サンプル画像と、前記サンプル画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、第2の類似度分布距離取得モジュールと、
前記サンプル画像と、前記サンプル画像の類似度分布距離とにより、訓練対象となる品質評価モデルを訓練し、訓練済みの品質評価モデルを得る訓練モジュールであって、前記訓練済みの品質評価モデルは、入力された対象顔画像を処理し、前記対象顔画像の品質評価に用いる前記対象顔画像の類似度分布距離を出力するために用いられる、訓練モジュールと、
を備える顔画像品質評価装置が提供される。
人工知能は、デジタルコンピュータ又はデジタルコンピュータによって制御されるマシンを利用して、人間の知能をシミュレート、延伸、及び拡張し、環境を感知し、知識を獲得し、その知識を使って最良の結果を得るための理論、方法、技術、及び応用システムである。言い換えると、人工知能は、知能の本質を理解し、人間の知能と同じように反応できる新しい種類のインテリジェントマシンを生み出そうとするコンピュータサイエンスの総合的な技術である。人工知能は、各種のインテリジェントマシンの設計原理や実現方法を研究し、マシンが知覚、推論及び意思決定の能力を持つようにするものである。
コンピュータビジョンは、マシンが「見える」ようにする方法を研究する科学であり、より具体的には、人間の目の代わりにカメラやコンピュータを使って対象物に対して認識、追跡、及び測定などのマシンビジョンを行い、さらに、コンピュータ処理によって人間の目で観察したり、機器で検査するために送信したりするのに適した画像になるようにグラフィックス処理を行う科学である。科学の1つであるコンピュータビジョンは、画像又は多次元データから情報を取得可能な人工知能システムを構築するために、関連する理論及び技術を研究するものである。コンピュータビジョン技術は、通常、画像処理、画像認識、画像意味理解、画像検索、OCR(Optical Character Recognition:光学文字認識)、ビデオ処理、ビデオ意味理解、ビデオコンテンツ/行動認識、3次元物体再構築、3D(Three Dimensions:三次元)技術、バーチャルリアリティ、拡張現実、同時位置決め地図作成などの技術を含み、さらに、顔認識や指紋認識などの一般的なバイオメトリック技術などを含む。
顔認識とは、人の顔の特徴情報に基づいてアイデンティティ認識を行うバイオメトリック技術の一種である。
教師なし学習は機械学習の訓練方法であり、本質的には統計的手段であり、ラベル付けられていないデータからいくつかの潜在的な構造を発見できる訓練方式である。教師なし学習は、主に、次の特徴がある。1、教師なし学習には明確な目標がない。2、教師なし学習ではデータにラベルを付ける必要はない。3、教師なし学習では効果を定量化できない。
各顔画像の特徴抽出を行い、各顔画像の画像特徴を得て、
各顔画像の画像特徴に基づいて、各顔画像同士の間の類似度を決定し、
各顔画像同士の間の類似度と、各顔画像の人物アイデンティティとに基づいて、各顔画像の類似度分布距離を取得する、ように実現される。
顔画像内の有効顔を取得するステップであって、この有効顔とは、顔画像内の顔特徴が認識可能な顔、又は顔画像内で占有領域の面積が予め設定された閾値に達した顔であるステップを含む。
第1の顔画像と他の画像のうちの同じ人物アイデンティティの顔画像との間の第1の類似度セットを取得するステップであって、この第1の顔画像は、各顔画像のうちのいずれか1つであり、他の画像は、各顔画像のうちの、第1の顔画像以外の顔画像であり、同じ人物アイデンティティの顔画像は、他の画像のうちの、第1の顔画像と同じ人物アイデンティティを持つ顔画像である、ステップと、
第1の顔画像と他の画像のうちの異なる人物アイデンティティの顔画像との間の第2の類似度セットを取得するステップであって、異なる人物アイデンティティの顔画像は、他の画像のうちの、第1の顔画像とは異なる人物アイデンティティを持つ顔画像である、ステップと、
第1の類似度セット及び第2の類似度セットに基づいて、第1の顔画像の類似度分布距離を決定するステップと、を含む。
が、それぞれ、顔画像セット及び品質評価モデルに対応する埋め込み特徴セットを表すとすると、同じ人物アイデンティティを持つ2つのサンプル
は、正ペア(クラス内)をなし、その対応するラベルは、
で表される。逆に、異なる人物アイデンティティを持つ2つのサンプルは、負ペア(クラス間)をなし、その対応するラベルは、
である。このため、それぞれの顔画像
について、
をそれぞれ、正ペアと負ペアの類似度セットとすることができる。例えば、コンピュータ機器は、第1の人物アイデンティティを持つ顔画像A、顔画像B及び顔画像C(すなわち、顔画像A、顔画像B及び顔画像Cが、第1の顔画像セットを構成する)と、第2の人物アイデンティティを持つ顔画像D、顔画像E及び顔画像F(すなわち、顔画像D、顔画像E及び顔画像Fが、第2の顔画像セットを構成する)を取得する。第2の人物アイデンティティを持つ顔画像は、異なる人物アイデンティティを持つ顔画像であってもよく、この場合、顔画像B及び顔画像Cは、それぞれ、顔画像Aに対して正ペアをなし、顔画像D、顔画像E及び顔画像Fは、それぞれ、顔画像Aと負ペアをなす。概略的には、図7は、本願の1つの例示的な実施例による顔画像の類似度分布距離の取得の概略図を示している。図7に示すように、顔画像A、顔画像B及び顔画像Cは、第1の顔画像セット710を構成し、顔画像D、顔画像E及び顔画像Fは、第2の顔画像セット720を構成する。顔画像Aを対象顔画像とする場合を例として、顔画像Aと顔画像B、顔画像C、顔画像D、顔画像E及び顔画像Fとの間の類似度をそれぞれ算出し、その後、各顔画像が対応する人物アイデンティティに基づいて、算出された類似度を統計し、類似度分布を取得する。図7に示すように、類似度分布730は、顔画像Aとアイデンティティ情報が同じである顔画像の類似度統計値を表し、類似度分布740は、顔画像Aとはアイデンティティ情報が異なる顔画像の類似度統計値を表す。類似度分布730と類似度分布740における対応する2点間の類似度分布距離をそれぞれ取得し、本願の実施例では、類似度分布730と類似度分布740における最高点間の距離750を類似度分布距離として取得する。
は、それぞれサンプルxiの同一人物類似度セットと非同一人物類似度セットを表し、
は、
の結合確率密度であり、
は、分布距離の算出を表し、
は、分布距離を算出する展開式であり、
は、平均値を求める関数であり、infは、2つの分布におけるすべての要素をトラバースすることである。
サンプル画像の類似度分布距離及び予測分布距離を損失関数に入力し、損失関数値を得て、
損失関数値に基づいて、品質評価モデルのパラメータ更新を行う、ように実現される。
平均二乗誤差損失関数(Mean Squared Error、MSE)、平均絶対誤差損失関数(Mean Absolute Error、MAE)、及び回帰損失関数のうちの少なくとも1つを含む。
は、入力画像、すなわちサンプル画像を表し、
は、生成された仮ラベルを表し、
は、品質モデルが入力画像に基づいて予測した類似度分布距離を表し、
は、実験で1に設定された位置パラメータである。
は、それぞれ、正ペアと負ペアがそれぞれ対応する類似度セットであり、
は、類似度が閾値εよりも小さい
のサブセットを表し、
は、類似度がεよりも大きい
のサブセットを表すと仮定する。上記の場合、FMRとFNMRはそれぞれ、以下のように定義されることができる。
は、設定された基数を表し、仮に、
は、χのサブセットのうちの、σ(%)の最低品質の顔画像が含まれないものであるとし、σは、未考慮画像の比率(Ratio of Unconsidered Images、UIR)を表す。EVRCは、固定した
で、UIR(σ)と
との間の関係を測定する。上記過程において、固定したFMRを得るために、閾値
は、
の変化に伴って変化する必要がある。EVRCの指標から分かるように、標準的な品質ラベルを持つサンプル画像セットを用いてテストを行うと、認識システムのEVRCが急速に下降し、言い換えれば、サンプルxiをサンプル画像セットから削除すると、FNMRが急峻に下降すれば、サンプルxiの品質が低くなることが示唆される。このため、固定したFMRについて、サンプルxiがある場合とサンプルxiがない場合のFNMRの差を取得し、FNMRの差をサンプルxiの品質スコア(
で表す)とすることができる。
は、xiを含まないχのサブセットであり、
はそれぞれ、
の閾値を表す。
が与えられた場合、閾値によっては異なるFMRが生成される。さらに、式(2)から分かるように、FNMRは、与えられた
の閾値によって決定されるため、閾値εを変更すると、大量のサンプル画像の経験的な品質スコアが生成される。このことから、以下の結論が得られる。
について、ε0は
と等しくないが、しかし、極めて高い確率で等しいか、又は上記の場合にはほぼ等しい。
、2)すべての固定したFMR
について
となる、と仮定することができるため、式(3)は以下のように簡略化されることができる。
に対するFMRの期待値をサンプルxiの標準的な品質スコアとして取得することができ、そして、以下のことが得られる。
と定義すると、与えられたデータセットχについて、
はいずれもサンプルxiとは無関係であるため、式(6)は以下のように簡略化されることができる。
は、
から
へのマッピング関数であり、図9は、式(7)の内容を正確に反映することができ、高品質の顔画像は、図9中の(c)部分のように、正ペアの類似度分布(同一人物類似度分布)と負ペアの類似度分布(非同一人物類似度分布)との間の分布間隔が大きい。逆に、低品質の顔画像は、図9中の(b)部分のように、正ペアの類似度分布(同一人物類似度分布)と負ペアの類似度分布(非同一人物類似度分布)との間の分布間隔が小さく、また、品質の良い顔画像は、図9中の(a)部分と(c)部分のように、正ペアの類似度分布(同一人物類似度分布)と負ペアの類似度分布(非同一人物類似度分布)とが重ならない。
である。
である。顔画像セットが大きすぎると、非常に高い計算量をもたらすことになるので、計算の複雑さを低減するために、m個のペアをランダムに選択することができ、ここで、mは偶数に設定され、かつ
であり、これにより、m/2個の正ペアとm/2個の負ペアが得られ、次に、
に基づく計算をK回行って、式(9)を次のように変換する。
はそれぞれ、m個のペアのうちの正ペア及び負ペアをサンプリングして得られた類似度である。式(9)における時間複雑度を
と記し、各画像サンプルについて、m及びKを定数とすると、式(10)の計算複雑度は
となる。そこで、品質評価モデルに基づいて、類似度分布距離が
になる場合の時間複雑度を生成する。
が
の無雑音推定であり、かつ各サンプルに雑音変数kが導入されていると仮定すると、式(10)は次のように書き換えることができる。
と
との差であると読み替えてもよい。式(10)で使用するm個のペアは、すべてのn個のペアからランダムに独立してサンプリングすることにより取得されたものであり、確率論(Papoulis and Pillai 2002)により、
が得られるので、式(10)は式(9)の不偏推定である。
Claims (14)
- コンピュータ機器によって実行される顔画像品質評価方法であって、
対象顔画像を取得するステップと、
前記対象顔画像の類似度分布距離を決定するステップであって、前記類似度分布距離は、前記対象顔画像が対応する同一人物類似度分布と前記対象顔画像が対応する非同一人物類似度分布との間の分布距離を含み、前記同一人物類似度分布は、前記対象顔画像と、前記対象顔画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記非同一人物類似度分布は、前記対象顔画像と、前記対象顔画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、ステップと、
前記対象顔画像の類似度分布距離に基づいて、前記対象顔画像の画質を決定するステップと、
を含むことを特徴とする顔画像品質評価方法。 - 前記対象顔画像の類似度分布距離を決定する前記ステップは、
前記対象顔画像を訓練済みの品質評価モデルに入力し、前記訓練済みの品質評価モデルから出力される前記対象顔画像の類似度分布距離を得るステップを含み、
前記訓練済みの品質評価モデルは、サンプル画像と、前記サンプル画像の類似度分布距離とにより訓練されたものである、ことを特徴とする請求項1に記載の方法。 - 前記対象顔画像を訓練済みの品質評価モデルに入力し、前記訓練済みの品質評価モデルから出力される前記対象顔画像の類似度分布距離を得る前記ステップの前に、
少なくとも2つの人物アイデンティティがそれぞれ対応する顔画像セットを含む各顔画像を取得するステップであって、前記顔画像セットには少なくとも2つの顔画像が含まれるステップと、
前記各顔画像と、前記各顔画像の人物アイデンティティとに基づいて、前記各顔画像の類似度分布距離をそれぞれ決定するステップと、
前記各顔画像を前記サンプル画像とし、前記各顔画像の類似度分布距離を前記サンプル画像の類似度分布距離とするステップと、をさらに含む、ことを特徴とする請求項2に記載の方法。 - 前記各顔画像と、前記各顔画像の人物アイデンティティとに基づいて、前記各顔画像の類似度分布距離をそれぞれ決定する前記ステップは、
前記各顔画像の特徴抽出を行い、前記各顔画像の画像特徴を得るステップと、
前記各顔画像の画像特徴に基づいて、前記各顔画像同士の間の類似度を決定するステップと、
前記各顔画像同士の間の類似度と、前記各顔画像の人物アイデンティティとに基づいて、前記各顔画像の類似度分布距離を取得するステップと、を含む、ことを特徴とする請求項3に記載の方法。 - 前記各顔画像同士の間の類似度と、前記各顔画像の人物アイデンティティとに基づいて、前記各顔画像の類似度分布距離を取得する前記ステップは、
第1の顔画像と他の画像のうちの同じ人物アイデンティティの顔画像との間の第1の類似度セットを取得するステップであって、前記第1の顔画像は、前記各顔画像のうちのいずれか1つであり、前記他の画像は、前記各顔画像のうちの、前記第1の顔画像以外の顔画像であり、前記同じ人物アイデンティティの顔画像は、前記他の画像のうちの、前記第1の顔画像と同じ人物アイデンティティを持つ顔画像である、ステップと、
前記第1の顔画像と前記他の画像のうちの異なる人物アイデンティティの顔画像との間の第2の類似度セットを取得するステップであって、前記異なる人物アイデンティティの顔画像は、他の画像のうちの、第1の顔画像とは異なる人物アイデンティティを持つ顔画像である、ステップと、
前記第1の類似度セット及び前記第2の類似度セットに基づいて、前記第1の顔画像の類似度分布距離を決定するステップと、を含む、ことを特徴とする請求項4に記載の方法。 - 前記各顔画像の特徴抽出を行い、前記各顔画像の画像特徴を得る前記ステップは、
顔認識モデルにおける特徴抽出部により前記各顔画像を処理し、前記各顔画像の画像特徴を得るステップを含む、ことを特徴とする請求項4に記載の方法。 - 前記対象顔画像の画質が予め設定された画質閾値よりも大きい場合、前記対象顔画像を顔認識モデルに入力し、前記対象顔画像の人物アイデンティティを得るステップをさらに含む、ことを特徴とする請求項1に記載の方法。
- 前記対象顔画像を訓練済みの品質評価モデルに入力し、前記訓練済みの品質評価モデルから出力される前記対象顔画像の類似度分布距離を得る前記ステップの前に、
前記サンプル画像を訓練対象となる品質評価モデルに入力し、前記訓練対象となる品質評価モデルから出力される前記サンプル画像の予測分布距離を得るステップと、
前記サンプル画像の類似度分布距離及び前記予測分布距離を損失関数に入力し、損失関数値を得るステップと、
前記損失関数値に基づいて、前記訓練対象となる品質評価モデルのパラメータ更新を行い、訓練済みの品質評価モデルを得るステップと、をさらに含む、ことを特徴とする請求項2に記載の方法。 - 前記損失関数は、
平均二乗誤差損失関数、平均絶対誤差損失関数、及び回帰損失関数のうちの少なくとも1つを含む、ことを特徴とする請求項8に記載の方法。 - 前記類似度分布距離は、
最大平均不一致距離、最短ユークリッド距離、平均距離、メジアン距離、ワッサースタイン距離のうちの少なくとも1つを含む、ことを特徴とする請求項1から9のいずれか一項に記載の方法。 - コンピュータ機器によって実行される顔画像品質評価方法であって、
少なくとも2つの人物アイデンティティがそれぞれ対応する顔画像セットを含むサンプル画像を取得するステップであって、前記顔画像セットには少なくとも2つの顔画像が含まれる、ステップと、
前記サンプル画像と、前記サンプル画像の人物アイデンティティとに基づいて、前記サンプル画像の類似度分布距離を決定するステップであって、前記サンプル画像の類似度分布距離は、前記サンプル画像が対応する同一人物類似度分布と前記サンプル画像が対応する非同一人物類似度分布との間の分布距離を含み、前記サンプル画像が対応する同一人物類似度分布は、前記サンプル画像と、前記サンプル画像と同じ人物アイデンティティを持つ顔画像である第1のタイプの画像との間の類似度分布を示し、前記サンプル画像が対応する非同一人物類似度分布は、前記サンプル画像と、前記サンプル画像とは異なる人物アイデンティティを持つ顔画像である第2のタイプの画像との間の類似度分布を示す、ステップと、
前記サンプル画像と、前記サンプル画像の類似度分布距離とにより、訓練対象となる品質評価モデルを訓練し、訓練済みの品質評価モデルを得るステップであって、前記訓練済みの品質評価モデルは、入力された対象顔画像を処理し、前記対象顔画像の品質評価に用いる前記対象顔画像の類似度分布距離を出力するために用いられる、ステップと、
を含むことを特徴とする顔画像品質評価方法。 - コンピュータ機器に備えられる顔画像品質評価装置であって、
請求項1から11のいずれか一項に記載の顔画像品質評価方法を実行するように構成されたプロセッサ、
を備えることを特徴とする顔画像品質評価装置。 - プロセッサと、メモリとを備え、前記メモリには、請求項1から11のいずれか一項に記載の顔画像品質評価方法のステップを実現するために前記プロセッサによってロードされ実行される少なくとも1つの命令、プログラムの少なくとも1つのセグメント、コードセット又は命令セットが記憶されている、ことを特徴とするコンピュータ機器。
- コンピュータ読み取り可能な命令を含むコンピュータプログラムであって、前記コンピュータ読み取り可能な命令は、プロセッサによって実行されると、請求項1から11のいずれか一項に記載の方法のステップを前記プロセッサに実行させる、ことを特徴とするコンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011255554.8A CN112381782B (zh) | 2020-11-11 | 2020-11-11 | 人脸图像质量评估方法、装置、计算机设备及存储介质 |
CN202011255554.8 | 2020-11-11 | ||
PCT/CN2021/123252 WO2022100337A1 (zh) | 2020-11-11 | 2021-10-12 | 人脸图像质量评估方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023547028A JP2023547028A (ja) | 2023-11-09 |
JP7454105B2 true JP7454105B2 (ja) | 2024-03-21 |
Family
ID=74582805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023516051A Active JP7454105B2 (ja) | 2020-11-11 | 2021-10-12 | 顔画像品質評価方法及び装置、コンピュータ機器並びにコンピュータプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230087657A1 (ja) |
EP (1) | EP4246431A4 (ja) |
JP (1) | JP7454105B2 (ja) |
CN (1) | CN112381782B (ja) |
WO (1) | WO2022100337A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112381782B (zh) * | 2020-11-11 | 2022-09-09 | 腾讯科技(深圳)有限公司 | 人脸图像质量评估方法、装置、计算机设备及存储介质 |
WO2022192992A1 (en) * | 2021-03-18 | 2022-09-22 | Digital Domain Virtual Human (Us), Inc. | Methods and systems for markerless facial motion capture |
CN113139462A (zh) * | 2021-04-23 | 2021-07-20 | 杭州魔点科技有限公司 | 无监督的人脸图像质量评估方法、电子设备和存储介质 |
CN113505700A (zh) * | 2021-07-12 | 2021-10-15 | 北京字跳网络技术有限公司 | 一种图像处理方法、装置、设备及存储介质 |
CN113706502B (zh) * | 2021-08-26 | 2023-09-05 | 重庆紫光华山智安科技有限公司 | 一种人脸图像质量评估方法及装置 |
CN115171198B (zh) * | 2022-09-02 | 2022-11-25 | 腾讯科技(深圳)有限公司 | 模型质量评估方法、装置、设备及存储介质 |
CN115953819B (zh) * | 2022-12-28 | 2023-08-15 | 中国科学院自动化研究所 | 人脸识别模型的训练方法、装置、设备和存储介质 |
CN115830351B (zh) * | 2023-02-15 | 2023-04-28 | 杭州盐光文化艺术传播有限公司 | 图像处理方法、设备以及存储介质 |
CN117275076B (zh) * | 2023-11-16 | 2024-02-27 | 厦门瑞为信息技术有限公司 | 基于特征的人脸质量评估模型的构建方法及应用 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014505952A (ja) | 2011-02-18 | 2014-03-06 | ナショナル・アイシーティ・オーストラリア・リミテッド | 画像品質の評価 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7327891B2 (en) * | 2001-07-17 | 2008-02-05 | Yesvideo, Inc. | Automatic selection of a visual image or images from a collection of visual images, based on an evaluation of the quality of the visual images |
KR102290392B1 (ko) * | 2014-12-02 | 2021-08-17 | 삼성전자주식회사 | 얼굴 등록 방법 및 장치, 얼굴 인식 방법 및 장치 |
CN108269254B (zh) * | 2018-01-17 | 2020-12-01 | 百度在线网络技术(北京)有限公司 | 图像质量评估方法和装置 |
CN108805048B (zh) * | 2018-05-25 | 2020-01-31 | 腾讯科技(深圳)有限公司 | 一种人脸识别模型的调整方法、装置和存储介质 |
CN110866471A (zh) * | 2019-10-31 | 2020-03-06 | Oppo广东移动通信有限公司 | 人脸图像质量评价方法及装置、计算机可读介质、通信终端 |
CN110838119B (zh) * | 2019-11-15 | 2022-03-04 | 珠海全志科技股份有限公司 | 人脸图像质量评估方法、计算机装置及计算机可读存储介质 |
CN111061890B (zh) * | 2019-12-09 | 2023-04-07 | 腾讯云计算(北京)有限责任公司 | 一种标注信息验证的方法、类别确定的方法及装置 |
CN111242097B (zh) * | 2020-02-27 | 2023-04-18 | 腾讯科技(深圳)有限公司 | 一种人脸识别方法、装置、计算机可读介质及电子设备 |
CN111582150B (zh) * | 2020-05-07 | 2023-09-05 | 江苏日颖慧眼智能设备有限公司 | 一种人脸质量评估的方法、装置和计算机存储介质 |
CN111582404B (zh) * | 2020-05-25 | 2024-03-26 | 腾讯科技(深圳)有限公司 | 内容分类方法、装置及可读存储介质 |
CN112381782B (zh) * | 2020-11-11 | 2022-09-09 | 腾讯科技(深圳)有限公司 | 人脸图像质量评估方法、装置、计算机设备及存储介质 |
-
2020
- 2020-11-11 CN CN202011255554.8A patent/CN112381782B/zh active Active
-
2021
- 2021-10-12 JP JP2023516051A patent/JP7454105B2/ja active Active
- 2021-10-12 EP EP21890865.5A patent/EP4246431A4/en active Pending
- 2021-10-12 WO PCT/CN2021/123252 patent/WO2022100337A1/zh active Application Filing
-
2022
- 2022-11-21 US US17/991,670 patent/US20230087657A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014505952A (ja) | 2011-02-18 | 2014-03-06 | ナショナル・アイシーティ・オーストラリア・リミテッド | 画像品質の評価 |
Also Published As
Publication number | Publication date |
---|---|
CN112381782A (zh) | 2021-02-19 |
EP4246431A1 (en) | 2023-09-20 |
WO2022100337A1 (zh) | 2022-05-19 |
CN112381782B (zh) | 2022-09-09 |
US20230087657A1 (en) | 2023-03-23 |
EP4246431A4 (en) | 2024-04-24 |
JP2023547028A (ja) | 2023-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7454105B2 (ja) | 顔画像品質評価方法及び装置、コンピュータ機器並びにコンピュータプログラム | |
CN109359548B (zh) | 多人脸识别监控方法及装置、电子设备及存储介质 | |
CN108875833B (zh) | 神经网络的训练方法、人脸识别方法及装置 | |
Anwarul et al. | A comprehensive review on face recognition methods and factors affecting facial recognition accuracy | |
US10776470B2 (en) | Verifying identity based on facial dynamics | |
US20220172518A1 (en) | Image recognition method and apparatus, computer-readable storage medium, and electronic device | |
Li et al. | Visual tracking via incremental log-euclidean riemannian subspace learning | |
Ng et al. | A review of facial gender recognition | |
CN106557723B (zh) | 一种带交互式活体检测的人脸身份认证系统及其方法 | |
WO2017101267A1 (zh) | 人脸活体的鉴别方法、终端、服务器和存储介质 | |
Abd El Meguid et al. | Fully automated recognition of spontaneous facial expressions in videos using random forest classifiers | |
US9633044B2 (en) | Apparatus and method for recognizing image, and method for generating morphable face images from original image | |
CN106778450B (zh) | 一种面部识别方法和装置 | |
US11126827B2 (en) | Method and system for image identification | |
EP3975039A1 (en) | Masked face recognition | |
KR102054058B1 (ko) | 얼굴 움직임 관계를 이용한 얼굴 특성 분석 방법 및 그 시스템 | |
US10360441B2 (en) | Image processing method and apparatus | |
JP5879188B2 (ja) | 顔表情解析装置および顔表情解析プログラム | |
Torrisi et al. | Selecting discriminative CLBP patterns for age estimation | |
Mirabet-Herranz et al. | New insights on weight estimation from face images | |
US20160180147A1 (en) | Automatic detection of face and thereby localize the eye region for iris recognition | |
Mostafa et al. | Rejecting pseudo-faces using the likelihood of facial features and skin | |
Cornejo et al. | Emotion recognition based on occluded facial expressions | |
Goudelis et al. | Automated facial pose extraction from video sequences based on mutual information | |
Saraçbaşı | Face Recognition Using Facial Dynamics of Emotional Expressions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230508 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240221 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240227 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240308 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7454105 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |