JP2021534480A - 顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体 - Google Patents

顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体 Download PDF

Info

Publication number
JP2021534480A
JP2021534480A JP2021504210A JP2021504210A JP2021534480A JP 2021534480 A JP2021534480 A JP 2021534480A JP 2021504210 A JP2021504210 A JP 2021504210A JP 2021504210 A JP2021504210 A JP 2021504210A JP 2021534480 A JP2021534480 A JP 2021534480A
Authority
JP
Japan
Prior art keywords
key points
key point
target
detectable
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021504210A
Other languages
English (en)
Other versions
JP7106742B2 (ja
Inventor
莫言 趙
紅偉 王
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Publication of JP2021534480A publication Critical patent/JP2021534480A/ja
Application granted granted Critical
Publication of JP7106742B2 publication Critical patent/JP7106742B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本願は、顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体に関し、顔認識技術分野に属し、該方法は、第1の顔画像を受信すると、キーポイントを検出することと、各検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することと、顔認識に対する部分的な顔特徴が隠蔽されている領域の影響スコアを取得することと、影響スコアが所定のスコア閾値よりも高い場合、複数の検出可能なキーポイントのうち、欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することと、前記対象顔特徴テンプレートと前記第1の顔画像とを縫い合わせ、第2の顔画像を得て、第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行することと、を含む。本願は、顔特徴が欠落した場合に、特徴を正確に補完し、さらに、顔認識を効率的かつ正確に実行できる。

Description

<関連出願の相互参照>
本願は、2019年08月01日に中国国家知識産権局に提出された、出願番号201910709169.7、発明の名称「顔認識方法、装置、記憶媒体及び電子機器」の中国特許出願の優先権を主張し、その内容の全てが参照によって本願に組み込まれる。
本願は、顔認識技術分野に関し、特に、顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体に関する。
顔認識は、人間の顔特徴情報に基づいて、身元を認識する生体認識技術である。
現在、顔認識の認識率は、顔が完全である通常の評価環境では、通常、十分に高いが、それは通常の環境での評価であり、本願の発明者は、顔画像を不完全に意図的に装飾するシナリオでは、認識率が大幅に低下し、すなわち、収集された不完全な顔画像を使用して、通常、データベースにおける予め設定された顔とマッチングせず、顔の認識を完了する。
上記の技術的問題を解決するために、本願は、顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体を提供することを1つの目的とする。
ここで、本願の採用する技術的解決手段は以下のとおりである。
第1の態様によれば、顔認識方法であって、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得ることと、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することと、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することと、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することと、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行することと、を含む。
第2の態様によれば、顔認識装置であって、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得るために用いられる検出モジュールと、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得するために用いられる第1の取得モジュールと、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得するために用いられる第2の取得モジュールと、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するために用いられる第3の取得モジュールと、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得するために用いられる第4の取得モジュールと、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行するために用いられる縫い合わせモジュールと、を含む。
第3の態様によれば、電子機器であって、処理ユニットと、前記処理ユニットの顔認識プログラムを記憶するために用いられる記憶ユニットと、を含み、ここで、前記処理ユニットは、前記顔認識プログラムを実行することにより、第1の態様又は第1の態様のいずれかの可能な実施形態における方法を実行するように構成される。
第4の態様によれば、コンピュータ不揮発性読み取り可能な記憶媒体であって、顔認識プログラムが記憶されており、前記顔認識プログラムが処理ユニットによって実行されると、第1の態様又は第1の態様のいずれかの可能な実施形態における方法を実現する。
上記の技術的解決手段において、顔画像が隠蔽されている時、特徴を正確に補完することにより、さらに、顔認識を効率的かつ正確に実行できる。
上記の一般的説明及び以下の詳細説明は両方とも単なる例示及び解説にすぎず、本願を制限するものではないことを理解されたい。
ここでの図面は、明細書に組み込まれ、かつ明細書の一部を構成し、本願に適合する実施例を示し、明細書と共に本願の原理を解釈するために用いられる。
顔認識方法を模式的に示すフローチャートである。 顔認識方法のアプリケーションシナリオの例を模式的に示す図である。 所定の顔特徴の関連関係の複数の対象キーポイントの取得方法を模式的に示すフローチャートである。 顔認識装置を模式的に示すブロック図である。 例示的な実施例による、上述の顔認識方法を実現するための電子機器を模式的に示すブロック図である。 例示的な実施例による、上述の顔認識方法を実現するためのコンピュータ不揮発性読み取り可能な記憶媒体を模式的に示す概略図である。 上記の図面により、本願の明確な実施例が示されており、後でより詳細に説明することになるが、これらの図面及び言葉による説明は、いかなる方法によっても本願の概念の範囲を限定するものではなく、特定の実施例を参照することにより、当業者に本願の概念を説明するものである。
ここでは、例示的な実施例を詳細に説明し、その例を添付の図面に示す。以下の説明が添付の図面に言及している場合、特に明記しない限り、異なる図面の同じ番号は同じ又は類似の要素を表す。以下の例示的な実施例に記載される実施形態は、本願と一致する全ての実施形態を表すわけではない。逆に、それらは、添付の特許請求の範囲に詳細に説明されているように、本願のいくつかの方面と一致する装置及び方法の単なる例である。
以下、図面を参照して、例示的な実施形態をより完全に説明する。しかしながら、例示的な実施形態は、様々な形態で実施可能であり、本明細書に記載された例に限定されるものと解釈されるべきではない。むしろ、これらの実施形態を提供することにより、本願はより包括的かつ完全なものとなり、例示的な実施形態の概念が当業者に包括的に伝達される。記載された特徴、構造又は特性は、任意の適切な方法で1つ又は複数の実施形態に組み込むことができる。
本例示的な実施形態において、まず顔認識方法を提供し、該顔認識方法は、サーバで実行されてもよく、サーバクラスタ又はクラウドサーバなどで実行されてもよく、当然、当業者は、必要に応じて他のプラットフォームで本願の方法を実行することも可能であり、本例示的な実施例では、これについて特別な限定をしない。図1に示すように、該顔認識方法は、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得るステップS110と、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得するステップS120と、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得するステップS130と、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するステップS140と、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得するステップS150と、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行するステップS160と、を含む。
上記顔認識方法において、まず、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得て、このようにして、部分的な顔特徴が隠蔽されている領域がある第1の顔画像で隠蔽されていない検出可能なキーポイントを検出できる。そして、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得し、このようにして、顔認識に対する各検出可能なキーポイントの影響力の認識スコアを取得でき、さらに、隠蔽されている顔の認識可能性を正確に評価するために用いることができ、同時に、第1の顔画像の欠落キーポイントの番号を取得することにより、欠落キーポイントの位置を効率的に取得するために用いることができる。さらに、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得し、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得し、このようにして、第1の顔画像の認識に対する欠落キーポイントの影響が閾値を超えた場合、欠落キーポイントに関連付けられた同一顔特徴上の対象キーポイントを取得できる。さらに前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得し、このようにして、複数の対象キーポイントとの位置の組み合わせ度に基づいて、隠蔽されている領域に適合する対象顔特徴テンプレートを正確に取得できる。さらに、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて、全てのキーポイントを検出した後に顔認識を実行し、このようにして、顔画像が隠蔽されている場合、特徴を正確に補完することにより、さらに、顔認識を効率的かつ正確に実行できる。
以下、本例示的な実施形態における上記の顔認識方法の各ステップについて、添付の図面を参照して詳細に解釈し、説明する。
ステップS110において、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得る。本例示的な実施形態において、図2に示すように、サーバ201は、サーバ202から送信された部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、サーバ201は、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得る。このように、後続のステップにおいて、サーバ201は、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標に基づいて、第1の顔画像における顔特徴が隠蔽されている領域の影響を解析し、及び対応する認識補完措置を取ることができる。理解すべきものとして、後続のステップにおいて、条件が許せば、サーバ202は直接前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得て、そして後続のステップを行うこともできる。ここで、サーバ201はコンピュータ、マイクロプロセッシングユニットなどの処理能力を有するいずれかの機器であってもよく、ここでは特に限定されず、サーバ202は携帯電話、コンピュータなどの命令送信、データ記憶能力を有する機器であってもよく、ここでは特に限定されない。部分的な顔特徴が隠蔽されている領域がある第1の顔画像とは、例えば顔の目部位の一部が隠蔽されている顔画像である。該第1の顔画像は、顔画像を含むピクチャから、顔検出に基づく座標枠を経て、顔領域を切り出し、所定の大きさにスケーリングした後に得られたものである。このようにして、均一なサイズの第1の顔画像を得ることができ、さらに、顔画像上のキーポイントの座標などの位置情報を正確に取得することができる。第1の顔画像から全てのキーポイントを検出することは、既存の顔のキーポイント検出技術を使用して、第1の顔画像における所定数の目、口、鼻の輪郭などの顔上の目尻、目尻の輪郭上のポイントなどの所定の複数のキーポイントを位置決めし、同時に各キーポイントの座標を取得する。複数の検出可能なキーポイントは部分的な顔特徴が隠蔽されている領域がある第1の顔画像上の検出可能なキーポイントである。全てのキーポイントを検出する時、隠蔽されていない複数の検出可能なキーポイントを検出でき、同時に各検出可能なキーポイントの座標を得る。このようにして後続のステップにおいて、欠落キーポイントの情報を正確に取得できる。
ステップS120において、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得する。本例示的な実施形態において、予め設定されたキーポイント情報データベースには全ての顔のキーポイントの、例えば各キーポイントの番号及び、顔認識時に各キーポイントの顔認識への寄与度の認識スコアを記憶している。
キーポイントの認識スコアが高いほど、顔認識時に該キーポイントがより重要であることを示し、例えば、ある認識規則において目の特徴注目度が高いと、目のキーポイントの認識スコアが高くなり、又は、目のあるキーポイントが比較的重要であると、対応する認識スコアが高くなる。欠落キーポイントとは、顔上の全ての所定の検出されるキーポイントから検出可能なキーポイントを除いたキーポイントであり、つまり、顔画像の隠蔽されている領域におけるキーポイントである。予め設定されたキーポイント情報データベースから、各検出可能なキーポイントを検索することにより、各検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を正確に得ることができる。さらに、後続のステップにおいて、顔認識に対する部分的な顔特徴が隠蔽されている領域の影響の程度を正確に判断することが可能となる。
本例示的な一実施形態において、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することは、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントを順番に検索することにより、各前記検出可能なキーポイントに関連付けて記憶された認識スコアを取得することと、前記予め設定されたキーポイント情報データベースから、前記検出可能なキーポイントを除いた他のキーポイントを前記欠落キーポイントとすることと、を含む。予め設定されたキーポイント情報データベースにおいて、1枚の顔画像に対応する全てのキーポイント情報を記憶しており、各前記検出可能なキーポイントを順番に検索することにより、各検出可能なキーポイントに関連付けて記憶された認識スコアを正確に取得でき、同時に、1枚の顔画像から検出可能なキーポイントを除いた他のキーポイントを前記欠落キーポイントとして正確かつ効率的に得ることができる。
ステップS130において、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得する。本例示的な実施形態において、顔認識に対する部分的な顔特徴が隠蔽されている領域の影響スコアとは、顔認識を実行する時、部分的な顔特徴が隠蔽されている領域が顔認識に与える難易度のスコアである。該影響スコアが高ければ高いほど、顔認識が難しくなる。影響スコアの取得方法は、例えば、各検出可能なキーポイントの認識スコアの和を求め、認識スコアの合計を得て、そして、該認識スコアの合計の逆数を影響スコアとして求めることであり得る。該影響スコアを取得することにより、第1の顔画像が認識され得るか否かを正確に判断することができる。
本例示的な一実施形態において、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することは、各前記検出可能なキーポイントの認識スコアの和を求め、認識スコアの合計を得ることと、前記認識スコアの合計から所定の認識スコアの閾値を減算し、前記認識スコアの合計と前記所定の認識スコアの閾値との差を得て、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアとすることと、を含む。前記認識スコアの合計から顔の認識可能性を特徴付けるための所定の認識スコアの閾値を減算し、認識スコアの合計と前記所定の認識スコアの閾値との差を得て、該差が負の値であれば、認識され得ないことを示し、且つ負の値が小さいほど、認識が難しくなる。このようにして、該差に基づいて、顔認識に対する部分的な顔特徴が隠蔽されている領域の影響スコアを正確に特徴付けることができる。
ステップS140において、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得する。本例示的な実施形態において、所定の顔特徴の関連付けの関係は顔の同一の特徴に由来するか否かであり、2つのキーポイントが同一の顔特徴に由来する場合、この2つのキーポイントが所定の顔特徴の関連付けの関係を有することを示し、例えば、眉毛に由来する複数のキーポイントが所定の顔特徴の関連付けの関係を有する。各顔のキーポイントに順番に事前に番号が付けられており、欠落キーポイントの番号に基づいて、それに接続されている複数の番号のキーポイントを正確に取得できる。さらに、予め設定されたキーポイント情報データベースに基づいて、同一の顔特徴上の番号記録によって、複数の検出可能なキーポイントのうち、欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを正確に検索できる。影響スコアが所定のスコア閾値よりも高い場合、部分的な顔特徴が隠蔽されている領域の原因で第1の顔画像の顔認識が不能になることを示す。欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することにより、対象キーポイントの位置に基づいて欠落キーポイントの位置を判断し、さらに後続のステップにおいて欠落キーポイントの解析計算を行い、欠落特徴の補完特徴を得ることができる。
本例示的な一実施形態において、図3に示すように、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、前記影響スコアが所定のスコア閾値よりも高い場合、同一の顔特徴からの前記欠落キーポイントを1つのグループにグルーピングするステップ310と、予め設定されたキーポイント情報データベースから各グループの前記欠落キーポイントの番号と、同一の顔特徴に由来する全ての同一グループのキーポイントの番号を検索するステップ320と、前記全ての同一グループのキーポイントの番号から各グループの前記欠落キーポイントの番号を除いた他のキーポイントを、各グループの欠落キーポイントに対応する前記対象キーポイントとするステップ330と、を含む。前記影響スコアが所定のスコア閾値よりも高い場合、即ち、顔認識に対する欠落キーポイントの影響が大きすぎる場合に、同一の顔特徴に由来する欠落キーポイントを1つのグループにグルーピングし、さらに、グルーピングに基づいて、予め設定されたキーポイント情報データベースから、各グループの欠落キーポイントの番号と、同一の顔特徴に由来する全ての同一グループのキーポイントの番号を効率的に検索し、そして、全ての同一グループのキーポイントの番号から各グループの欠落キーポイントの番号を除いた他のキーポイントを、正確に各グループの欠落キーポイントに対応する対象キーポイントとする。このようにして、まず欠落キーポイントをグルーピングすることで、各グループの対象キーポイントを取得し、これにより対象キーポイントを検索しやすく、同時に、対象キーポイントの管理が容易になり、後続のステップにおいて、欠落キーポイントに基づいて解析を実行する正確性及び効率を保証する。
本例示的な一実施形態において、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、予め設定されたキーポイント情報データベースから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索することと、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、を含む。このようにして、予め設定されたキーポイント情報データベースから、各欠落キーポイントの番号と同一の顔特徴に由来する全てのキーポイントの番号を順番に検索し、各キーポイントに対応する、同一の顔特徴に由来する全てのキーポイントの番号を正確に取得する。さらに、各欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号から、検出可能なキーポイントを検索することにより、各欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを正確に取得できる。
本例示的な一実施形態において、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、前記複数の検出可能なキーポイントの番号から、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索し、検索された検出可能なキーポイントの番号を得ることと、前記検索された検出可能なキーポイントの番号に対応する検出可能なキーポイントを、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントとすることと、を含む。
このようにして、検出された全ての検出可能なキーポイントの番号に基づいて、各欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を比較することにより、各欠落キーポイントに対応する検出可能なキーポイントの番号を検索する。さらに、検索された検出可能なキーポイントの番号に対応する検出可能なキーポイントを取得し、各欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントとする。
ステップS150において、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得する。本例示的な実施形態において、所定の顔特徴テンプレートライブラリにおいて、例えば、人の目、眉毛の大きさが異なる顔特徴テンプレートを記憶している。各対象キーポイントの座標に基づいて、同一の顔特徴に由来する複数の対象キーポイントの座標、例えば、人の眉毛に由来する複数の対象キーポイントの座標が与えられてもよい。対象キーポイントは、顔特徴の一部が隠蔽された後の残る部分のキーポイントであるため、同一の顔特徴に由来する複数の目標キーポイントの座標により、これらの対象キーポイント間の距離を計算し、そして、所定の顔特徴テンプレートライブラリに記憶されている大きさが異なる顔特徴テンプレートで校正されたキーポイント間の相互距離と、類似度を計算することができる。所定の閾値を超える類似度を有するテンプレートは、複数の対象キーポイントの由来する顔特徴との高いマッチング度を有し、つまり複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい。このようにして、複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することができる。後続のステップにおいて、取得された対象顔特徴テンプレートにより顔認識を実行し、隠蔽された領域がある顔画像の認識可能性を効果的に保証することができる。
本例示的な一実施形態において、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することは、各前記対象キーポイントの座標に基づいて、対象顔特徴に由来する複数の対象キーポイントの座標を取得することと、前記対象顔特徴に由来する複数の対象キーポイントの座標に基づいて、前記複数の対象キーポイントの2つずつのキーポイントの第1の距離を計算することと、所定の顔特徴テンプレートライブラリから、前記対象顔特徴に対応する所定の顔特徴テンプレートセット内に、前記複数の対象キーポイントと同じ番号の複数の予め設定されたキーポイントの2つずつのキーポイントの第2の距離を取得することと、前記第1の距離と前記第2の距離に基づいて、前記複数の対象キーポイントと前記所定の顔特徴テンプレートセット内の各テンプレートとの位置の組み合わせ度を計算することと、前記所定の顔特徴テンプレートセットのうち、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きいテンプレートを、前記対象顔特徴テンプレートとすることと、を含む。
対象顔特徴は、例えば、解析処理を行う目、口などの顔特徴である。各対象キーポイントの同一の顔特徴に由来する複数の対象キーポイントの座標を取得することにより、対象顔特徴に由来する複数の対象キーポイントの座標を取得することができる。さらに、複数の対象キーポイントの2つずつのキーポイントの第1の距離を計算することにより、同時に、所定の顔特徴テンプレートライブラリから、対象顔特徴に対応する所定の顔特徴テンプレートセット内に、複数の対象キーポイントと同じ番号の複数の予め設定されたキーポイントの2つずつキーポイントの第2の距離を取得し、第1の距離と第2の距離の差を比較することにより、対象顔特徴における複数の対象キーポイントと所定の顔特徴テンプレートセットにおける各テンプレートの対応する番号のキーポイントとの位置の組み合わせ度を正確に計算する。続いて、所定の顔特徴テンプレートセット内に、対象顔特徴における複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きいテンプレートを、対象顔特徴テンプレートとし、後続のステップにおいて顔認識を実行するために用いられる。ここで、所定の組み合わせ度閾値は予め設定された顔特徴テンプレートの顔画像の組み合わせ度を特徴付ける閾値であり、位置の組み合わせ度が該閾値よりも大きいと組み合わせ不能又は組み合わせ不良を示し、位置の組み合わせ度が該閾値よりも小さいと良好な組み合わせを示す。
前記第1の距離と前記第2の距離に基づいて、前記複数の対象キーポイントと前記所定の顔特徴テンプレートセット内の各テンプレートとの位置の組み合わせ度を計算する方法は、第1の距離と第2の距離の由来するキーポイントの番号が同じである第1の距離と第2の距離との差を求め、全ての第1の距離と第2の距離の差の和を得て、前記位置の組み合わせ度とする。又は、第1の距離と第2の距離の由来するキーポイントの番号が同じである第1の距離と第1の距離との差を求め、全ての第1の距離と第2の距離の差の和と所定の類似度閾値との差を得て、前記位置の組み合わせ度とする。
ステップS160において、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行する。
本例示的な実施形態において、対象顔特徴テンプレート上の予め設定されたキーポイントを第1の顔画像上の同じ番号である複数の対象キーポイントの位置に移動することにより、対象顔特徴テンプレートと第1の顔画像上の複数の対象キーポイントとの縫い合わせを実現し、第2の顔画像を得る。さらに、第2の顔画像にキーポイント検出を行い、続いて、顔の代表的な部位(例えば眉毛、目、鼻、口など)の相対位置及び相対大きさを特徴として抽出し、さらに顔の輪郭の形状情報を特徴として補完して、顔認識を実行する。このようにして、顔画像に部分的な特徴が欠落した時、顔認識を効率的かつ正確に実行し、ユーザの身元を取得する。
本願は、さらに、顔認識装置を提供する。図4に示すように、該顔認識装置は検出モジュール410、第1の取得モジュール420、第2の取得モジュール430、第3の取得モジュール440、第4の取得モジュール450、及び縫い合わせモジュール460を含み得る。ここで、検出モジュール410は、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得るために用いられ、第1の取得モジュール420は、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得するために用いられ、第2の取得モジュール430は、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得するために用いられ、第3の取得モジュール440は、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するために用いられ、第4の取得モジュール450は、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得するために用いられ、縫い合わせモジュール460は、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行するために用いられる。
上述した顔認識装置における各モジュールの具体的な詳細については、対応する顔認識方法に詳細に記載されているので、ここでは繰り返さない。
上記の詳細な説明では、動作を実行するための機器のモジュール又はユニットのいくつかが言及されているが、この区分は必須ではないことに留意されたい。実際には、本願の実施形態によれば、上述した2つ以上のモジュール又はユニットの特徴及び機能は、1つのモジュール又はユニットで具体化され得る。逆に、上述した1つのモジュール又はユニットの特徴及び機能は、さらに、複数のモジュール又はユニットに分割されて具体化され得る。さらに、本願の方法の各ステップは、図面に特定の順序で記載されているが、それらのステップが特定の順序で実行されなければならないこと、又は所望の結果を達成するために示された全てのステップが実行されなければならないことを、必ずしも要求又は意味しているわけではない。追加的又は代替的に、いくつかのステップを省略すること、複数のステップを1つのステップに統合して実行すること、及び/又は1つのステップを複数のステップに分解して実行することなどが可能である。以上の実施形態の説明により、当業者は、本明細書に記載された例示的な実施形態がソフトウェアによって、又はソフトウェアと必要なハードウェアとの組み合わせによって実現され得ることを容易に理解することができる。したがって、本願の実施形態に基づく技術的解決手段はソフトウェア製品の形式で具現化することができ、該ソフトウェア製品は、不揮発性記憶媒体(CD−ROM、Uディスク、モバイルハードディスクなど)又はネットワークに記憶され得、1台のコンピューティングデバイス(パーソナルコンピュータ、サーバ、モバイル端末、又はネットワークデバイスなど)が本願の実施形態に係る方法を実行するようにするためのいくつかの命令を含む。
本願の例示的な実施例において、さらに、上記方法を実現できる電子機器を提供する。
本願の様々な態様は、システム、方法又はプログラム製品として実現され得ることを、当業者は理解することができる。したがって、本願の様々な態様は、完全なハードウェア実施形態、完全なソフトウェア実施形態(ファームウェア、マイクロコードなどを含む)、又はハードウェアとソフトウェアの態様を組み合わせた実施形態として具体的に実現することができ、ここでは総称して「回路」、「モジュール」又は「システム」と呼ぶことができる。
以下、図5を参照して、本願のこのような実施形態による電子機器500を説明する。図5に示された電子機器500は単なる例示であり、本願の実施例の機能及び使用範囲に何ら制限を与えるものではない。
図5に示すように、電子機器500は、汎用コンピューティングデバイスの形態で表される。電子機器500の構成要素は、上述した少なくとも1つの処理ユニット510、上述した少なくとも1つの記憶ユニット520、異なるシステム構成要素(記憶ユニット520及び処理ユニット510を含む)を接続するバス530を含んでもよいが、これらに限定されるものではない。
ここで、前記記憶ユニットは、本明細書の上述の「例示的な方法」の部分に記載された本願の様々な例示的な実施形態によるステップを前記処理ユニット510が実行するように、前記処理ユニット510によって実行され得るプログラムコードを記憶する。例えば、前記処理ユニット510は、図1に示されるような、部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得るステップS110と、各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得するステップS120と、各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得するステップS130と、前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するステップS140と、前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得するステップS150と、前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行するステップS160と、を実行する。
記憶ユニット520は、ランダムアクセス記憶ユニット(RAM)5201及び/又はキャッシュ記憶ユニット5202などの発揮性記憶ユニット形態の読み取り可能な媒体を含んでもよく、さらに、読み出し専用記憶ユニット(ROM)5203を含んでもよい。
記憶ユニット520はまた、1グループ(少なくとも1つ)のプログラムモジュール5205を有するプログラム/ユーティリティ5204を含んでもよく、このようなプログラムモジュール5205は、オペレーティングシステム、1つ以上のアプリケーション、他のプログラムモジュール、及びプログラムデータを含むがこれらに限定されず、これらの例のそれぞれ又はいくつかの組み合わせは、ネットワーク環境の実現が含まれる場合がある。
バス530は、記憶ユニットバス又は記憶ユニットコントローラ、周辺バス、グラフィックスアクセラレーションポート、処理ユニット、又は複数種類のバス構造のいずれかを使用したローカルバスを含む、いくつかの種類のバス構造の1つ又は複数を表すことができる。
電子機器500は、1つ又は複数の外部デバイス700(例えば、キーボード、ポインティングデバイス、ブルートゥース(登録商標)デバイスなど)と通信してもよく、クライアントが該電子機器500と対話することを可能にする1つ又は複数のデバイスと通信してもよく、及び/又は該電子機器500が1つ又は複数の他のコンピューティングデバイスと通信することを可能にする任意のデバイス(例えば、ルータ、モデムなど)と通信してもよい。この通信は、入力/出力(I/O)インタフェース550を介して行われる。また、電子機器500は、ネットワークアダプタ560を通じて、1つ又は複数のネットワーク(例えば、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、及び/又はインターネットなどの公衆ネットワーク)と通信してもよい。図示されるように、ネットワークアダプタ560は、バス530を介して電子機器500の他のモジュールと通信する。なお、図示されていないが、マイクロコード、デバイスドライバ、冗長処理ユニット、外部ディスクドライブアレイ、RAIDシステム、テープドライブ、及びデータバックアップ記憶システムなどを含むがこれらに限定されない他のハードウェア及び/又はソフトウェアモジュールを電子機器500と組み合わせて使用できることを理解すべきである。
以上の実施形態の説明により、当業者は、本明細書に記載された例示的な実施形態がソフトウェアによって、又はソフトウェアと必要なハードウェアとの組み合わせによって実現され得ることを容易に理解することができる。したがって、本願の実施形態に基づく技術的解決手段はソフトウェア製品の形式で具現化することができ、該ソフトウェア製品は、不揮発性記憶媒体(CD−ROM、Uディスク、モバイルハードディスクなど)又はネットワークに記憶され得、1台のコンピューティングデバイス(パーソナルコンピュータ、サーバ、端末装置、又はネットワークデバイスなど)が本願の実施形態に係る方法を実行するようにするためのいくつかの命令を含む。
本願の例示的な実施例では、図6を参照すると、本明細書の上述した方法を実現可能なプログラム製品が記憶されたコンピュータ読み取り可能な記憶媒体をさらに提供し、このコンピュータ読み取り可能な記憶媒体は、コンピュータ不揮発性読み取り可能な記憶媒体であってもよい。いくつかの可能な実施形態では、本願の様々な態様は、プログラムコードを含むプログラム製品の形態として実現することもでき、前記プログラム製品が端末デバイスで実行されるとき、前記プログラムコードは、本明細書の上述の「例示的な方法」の部分に記載された本願の様々な例示的な実施形態によるステップを前記端末デバイスに実行させるために用いられる。
図6を参照すると、本願の実施形態による、上記の方法を実現するためのプログラム製品600を説明し、これは、ポータブルコンパクトディスクリードオンリメモリ(CD−ROM)を採用し、かつプログラムコードを含み、パーソナルコンピュータなどの端末デバイスで実行することができる。しかしながら、本願のプログラム製品は、これに限定されず、本明細書において、読み取り可能な記憶媒体は、命令実行システム、装置、又はデバイスにより使用され、又はそれらと組み合わせて使用されるプログラムを含み又は記憶する任意の有形媒体であり得る。前記プログラム製品は、1つ又は複数の読み取り可能な媒体の任意の組み合わせを採用することができる。読み取り可能な媒体は、読み取り可能な信号媒体又は読み取り可能な記憶媒体であってもよい。読み取り可能な記憶媒体は、例えば、電気、磁気、光、電磁、赤外線、又は半導体のシステム、装置、又はデバイス、又はこれらの任意の組合せとすることができるが、これらに限定されない。読み取り可能な記憶媒体のより具体的な例(非網羅的なリスト)としては、1つ又は複数のワイヤを有する電気接続、ポータブルディスク、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスクリードオンリメモリ(CD−ROM)、光記憶デバイス、磁気記憶デバイス、又は上記の任意の適切な組み合わせを含む。コンピュータ読み取り可能な信号媒体は、ベースバンドで又は搬送波の一部として伝搬されるデータ信号を含み、読み取り可能なプログラムコードを担持することができる。このような伝搬されたデータ信号は、電磁信号、光信号、又は上記の任意の適切な組み合わせを含むが、これらに限定されない様々な形態を採用することができる。読み取り可能な信号媒体は、命令実行システム、装置、又はデバイスにより使用され又はそれらと組み合わせて使用するプログラムを送信、伝播、又は伝送することができる読み取り可能な記憶媒体以外の任意の読み取り可能な媒体であってもよい。読み取り可能な媒体に含まれるプログラムコードは、ワイヤレス、ワイヤード、光ケーブル、RFなど、又は上記の任意の適切な組み合わせを含むが、これらに限定されない任意の適切な媒体を用いて伝送される。本願の操作を実行するためのプログラムコードは、Java、C++などのオブジェクト指向プログラミング言語、及び「C」言語又は類似のプログラミング言語などの従来の手続き型プログラミング言語を含む、1つ又は複数のプログラミング言語の任意の組み合わせで記述されてもよい。プログラムコードは、完全にクライアントコンピューティングデバイスで実行され、部分的にクライアントデバイスで実行され、スタンドアロンソフトウェアパッケージとして実行され、部分的にクライアントコンピューティングデバイスで、部分的にリモートコンピューティングデバイスで実行され、又は完全にリモートコンピューティングデバイス又はサーバで実行され得る。リモートコンピューティングデバイスが関与するシナリオでは、リモートコンピューティングデバイスは、ローカルエリアネットワーク(LAN)又はワイドエリアネットワーク(WAN)を含む任意の種類のネットワークを介してクライアントコンピューティングデバイスに接続されるか、又は、外部コンピューティングデバイス(例えば、インターネットサービスプロバイダを使用してインターネットを介して接続される)に接続される。また、上記の図面は、本願の例示的な実施例による方法が含む処理の単なる例示であり、限定を目的とするものではない。なお、上記の図面に示された処理は、時系列的な順序を示すものでも、限定するものでもないことは言うまでもない。また、これらの処理は、例えば複数のモジュールで同期的に、あるいは非同期に実行される場合もあることは容易に理解できる。当業者は、明細書の検討及び本明細書に開示された発明の実施から、本願の他の実施例を容易に想到するであろう。本願は、本願の一般原理に準拠し、本願に開示されていない当技術分野における公知の知識又は慣用技術的手段を含む、本願のあらゆる変形、用途、又は適応的変更を包含することを意図する。明細書及び実施例は、単なる例示的なものとみなされ、本願の真の範囲及び精神は、特許請求の範囲によって示される。

Claims (22)

  1. 顔認識方法であって、
    部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得ることと、
    各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することと、
    各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することと、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、
    前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することと、
    前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行することと、を含む顔認識方法。
  2. 各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することは、
    予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントを順番に検索することにより、各前記検出可能なキーポイントに関連付けて記憶された認識スコアを取得することと、
    前記予め設定されたキーポイント情報データベースから、前記検出可能なキーポイントを除いた他のキーポイントを前記欠落キーポイントとすることと、を含む請求項1に記載の方法。
  3. 各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することは、
    全ての前記検出可能なキーポイントの認識スコアの和を求め、認識スコアの合計を得ることと、
    前記認識スコアの合計から所定の認識スコアの閾値を減算し、前記認識スコアの合計と前記所定の認識スコアの閾値との差を得て、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアとすることと、を含む請求項1に記載の方法。
  4. 前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記影響スコアが所定のスコア閾値よりも高い場合、同一の顔特徴からの前記欠落キーポイントを1つのグループにグルーピングすることと、
    予め設定されたキーポイント情報データベースから各グループの前記欠落キーポイントの番号と、同一の顔特徴に由来する全ての同一グループのキーポイントの番号を検索することと、
    前記全ての同一グループのキーポイントの番号から各グループの前記欠落キーポイントの番号を除いた他のキーポイントを、各グループの欠落キーポイントに対応する前記対象キーポイントとすることと、を含む請求項1に記載の方法。
  5. 前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、予め設定されたキーポイント情報データベースから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索することと、
    各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、を含む請求項1に記載の方法。
  6. 各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記複数の検出可能なキーポイントから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索し、検索された検出可能なキーポイントの番号を得ることと、
    前記検索された検出可能なキーポイントの番号に対応する検出可能なキーポイントを、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントとすることと、を含む請求項5に記載の方法。
  7. 各前記対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することは、
    各前記対象キーポイントの座標に基づいて、対象顔特徴に由来する複数の対象キーポイントの座標を取得することと、
    前記対象顔特徴に由来する複数の対象キーポイントの座標に基づいて、前記複数の対象キーポイントの2つずつのキーポイントの第1の距離を計算することと、
    所定の顔特徴テンプレートライブラリから、前記対象顔特徴に対応する所定の顔特徴テンプレートセット内に、前記複数の対象キーポイントと同じ番号の複数の予め設定されたキーポイントの2つずつのキーポイントの第2の距離を取得することと、
    前記第1の距離と前記第2の距離に基づいて、前記複数の対象キーポイントと前記所定の顔特徴テンプレートセット内の各テンプレートとの位置の組み合わせ度を計算することと、
    前記所定の顔特徴テンプレートセットのうち、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きいテンプレートを、前記対象顔特徴テンプレートとすることと、を含む請求項1に記載の方法。
  8. 顔認識装置であって、
    部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得るために用いられる検出モジュールと、
    各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得するために用いられる第1の取得モジュールと、
    各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得するために用いられる第2の取得モジュールと、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するために用いられる第3の取得モジュールと、
    前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得するために用いられる第4の取得モジュールと、
    前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行するために用いられる縫い合わせモジュールと、を含む顔認識装置。
  9. 前記第1の取得モジュールは、
    予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントを順番に検索することにより、各前記検出可能なキーポイントに関連付けて記憶された認識スコアを取得し、
    前記予め設定されたキーポイント情報データベースから、前記検出可能なキーポイントを除いた他のキーポイントを前記欠落キーポイントとするように構成される、請求項8に記載の装置。
  10. 前記第2の取得モジュールは、
    全ての前記検出可能なキーポイントの認識スコアの和を求め、認識スコアの合計を得て、
    前記認識スコアの合計から所定の認識スコアの閾値を減算し、前記認識スコアの合計と前記所定の認識スコアの閾値との差を得て、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアとするように構成される、請求項8に記載の装置。
  11. 前記第3の取得モジュールは、
    前記影響スコアが所定のスコア閾値よりも高い場合、同一の顔特徴からの前記欠落キーポイントを1つのグループにグルーピングし、
    予め設定されたキーポイント情報データベースから各グループの前記欠落キーポイントの番号と、同一の顔特徴に由来する全ての同一グループのキーポイントの番号を検索し、
    前記全ての同一グループのキーポイントの番号から各グループの前記欠落キーポイントの番号を除いた他のキーポイントを、各グループの欠落キーポイントに対応する前記対象キーポイントとするように構成される、請求項8に記載の装置。
  12. 前記第3の取得モジュールは、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、予め設定されたキーポイント情報データベースから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索し、
    各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得するように構成される、請求項8に記載の装置。
  13. 前記第3の取得モジュールは、
    前記複数の検出可能なキーポイントから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索し、検索された検出可能なキーポイントの番号を得て、
    前記検索された検出可能なキーポイントの番号に対応する検出可能なキーポイントを、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントとするように構成される、請求項12に記載の装置。
  14. 前記第4の取得モジュールは、
    各前記対象キーポイントの座標に基づいて、対象顔特徴に由来する複数の対象キーポイントの座標を取得し、
    前記対象顔特徴に由来する複数の対象キーポイントの座標に基づいて、前記複数の対象キーポイントの2つずつのキーポイントの第1の距離を計算し、
    所定の顔特徴テンプレートライブラリから、前記対象顔特徴に対応する所定の顔特徴テンプレートセット内に、前記複数の対象キーポイントと同じ番号の複数の予め設定されたキーポイントの2つずつのキーポイントの第2の距離を取得し、
    前記第1の距離と前記第2の距離に基づいて、前記複数の対象キーポイントと前記所定の顔特徴テンプレートセット内の各テンプレートとの位置の組み合わせ度を計算し、
    前記所定の顔特徴テンプレートセットのうち、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きいテンプレートを、前記対象顔特徴テンプレートとするように構成される、請求項8に記載の装置。
  15. 電子機器であって、処理ユニットと、前記処理ユニットの顔認識プログラムを記憶するために用いられる記憶ユニットと、を含み、ここで、前記処理ユニットは、前記顔認識プログラムを実行することにより、
    部分的な顔特徴が隠蔽されている第1の顔画像を受信すると、前記第1の顔画像から全てのキーポイントを検出し、複数の検出可能なキーポイント及び各前記検出可能なキーポイントの座標を得ることと、
    各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することと、
    各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することと、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、
    前記複数の対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することと、
    前記対象顔特徴テンプレートと前記第1の顔画像の前記複数の対象キーポイントとを縫い合わせ、第2の顔画像を得て、前記第2の顔画像に基づいて全てのキーポイントを検出した後に顔認識を実行することと、を実行するように構成される、電子機器。
  16. 各前記検出可能なキーポイントに基づいて、予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントの認識スコア及び欠落キーポイントの番号を取得することは、
    予め設定されたキーポイント情報データベースから、各前記検出可能なキーポイントを順番に検索することにより、各前記検出可能なキーポイントに関連付けて記憶された認識スコアを取得することと、
    前記予め設定されたキーポイント情報データベースから、前記検出可能なキーポイントを除いた他のキーポイントを前記欠落キーポイントとすることと、を含む請求項15に記載の電子機器。
  17. 各前記検出可能なキーポイントの認識スコアに基づいて、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアを取得することは、
    全ての前記検出可能なキーポイントの認識スコアの和を求め、認識スコアの合計を得ることと、
    前記認識スコアの合計から所定の認識スコアの閾値を減算し、前記認識スコアの合計と前記所定の認識スコアの閾値との差を得て、顔認識に対する前記部分的な顔特徴が隠蔽されている領域の影響スコアとすることと、を含む請求項15に記載の電子機器。
  18. 前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記影響スコアが所定のスコア閾値よりも高い場合、同一の顔特徴からの前記欠落キーポイントを1つのグループにグルーピングすることと、
    予め設定されたキーポイント情報データベースから各グループの前記欠落キーポイントの番号と、同一の顔特徴に由来する全ての同一グループのキーポイントの番号を検索することと、
    前記全ての同一グループのキーポイントの番号から各グループの前記欠落キーポイントの番号を除いた他のキーポイントを、各グループの欠落キーポイントに対応する前記対象キーポイントとすることと、を含む請求項15に記載の電子機器。
  19. 前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、前記複数の検出可能なキーポイントのうち、前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記影響スコアが所定のスコア閾値よりも高い場合、前記欠落キーポイントの番号に基づいて、予め設定されたキーポイント情報データベースから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索することと、
    各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することと、を含む請求項15に記載の電子機器。
  20. 各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号に基づいて、前記複数の検出可能なキーポイントから、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントを取得することは、
    前記複数の検出可能なキーポイントから、各前記欠落キーポイントの番号と、同一の顔特徴に由来する全てのキーポイントの番号を検索し、検索された検出可能なキーポイントの番号を得ることと、
    前記検索された検出可能なキーポイントの番号に対応する検出可能なキーポイントを、各前記欠落キーポイントと所定の顔特徴の関連付けの関係を有する複数の対象キーポイントとすることと、を含む請求項19に記載の電子機器。
  21. 各前記対象キーポイントの座標に基づいて、所定の顔特徴テンプレートライブラリから、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きい対象顔特徴テンプレートを取得することは、
    各前記対象キーポイントの座標に基づいて、対象顔特徴に由来する複数の対象キーポイントの座標を取得することと、
    前記対象顔特徴に由来する複数の対象キーポイントの座標に基づいて、前記複数の対象キーポイントの2つずつのキーポイントの第1の距離を計算することと、
    所定の顔特徴テンプレートライブラリから、前記対象顔特徴に対応する所定の顔特徴テンプレートセット内に、前記複数の対象キーポイントと同じ番号の複数の予め設定されたキーポイントの2つずつのキーポイントの第2の距離を取得することと、
    前記第1の距離と前記第2の距離に基づいて、前記複数の対象キーポイントと前記所定の顔特徴テンプレートセット内の各テンプレートとの位置の組み合わせ度を計算することと、
    前記所定の顔特徴テンプレートセットのうち、前記複数の対象キーポイントとの位置の組み合わせ度が所定の組み合わせ度閾値よりも大きいテンプレートを、前記対象顔特徴テンプレートとすることと、を含む請求項15に記載の電子機器。
  22. コンピュータ不揮発性読み取り可能な記憶媒体であって、顔認識プログラムが記憶されており、前記顔認識プログラムが処理ユニットによって実行されると、請求項1から7のいずれか1項に記載の方法を実行する、コンピュータ不揮発性読み取り可能な記憶媒体。
JP2021504210A 2019-08-01 2019-11-12 顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体 Active JP7106742B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910709169.7 2019-08-01
CN201910709169.7A CN110610127B (zh) 2019-08-01 2019-08-01 人脸识别方法、装置、存储介质及电子设备
PCT/CN2019/117656 WO2021017286A1 (zh) 2019-08-01 2019-11-12 人脸识别方法、装置、电子设备及计算机非易失性可读存储介质

Publications (2)

Publication Number Publication Date
JP2021534480A true JP2021534480A (ja) 2021-12-09
JP7106742B2 JP7106742B2 (ja) 2022-07-26

Family

ID=68889857

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021504210A Active JP7106742B2 (ja) 2019-08-01 2019-11-12 顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体

Country Status (5)

Country Link
US (1) US11734954B2 (ja)
JP (1) JP7106742B2 (ja)
CN (1) CN110610127B (ja)
SG (1) SG11202103132XA (ja)
WO (1) WO2021017286A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020154990A1 (zh) * 2019-01-30 2020-08-06 深圳市大疆创新科技有限公司 目标物体运动状态检测方法、设备及存储介质
CN111160221B (zh) * 2019-12-26 2023-09-01 深圳云天励飞技术有限公司 一种人脸采集方法及相关装置
CN111768478B (zh) * 2020-07-13 2023-05-30 腾讯科技(深圳)有限公司 一种图像合成方法、装置、存储介质和电子设备
WO2023272725A1 (zh) * 2021-07-02 2023-01-05 华为技术有限公司 人脸图像处理方法、装置和车辆
CN113689457A (zh) * 2021-10-26 2021-11-23 阿里巴巴达摩院(杭州)科技有限公司 数据处理方法、装置、计算机设备及计算机可读存储介质
CN114519866A (zh) * 2022-01-29 2022-05-20 阿里巴巴(中国)有限公司 人体测量数据的获取方法、处理方法及设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003132339A (ja) * 2001-10-19 2003-05-09 Alpine Electronics Inc 顔画像認識装置および方法
JP2009211151A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2010262392A (ja) * 2009-04-30 2010-11-18 Glory Ltd 画像処理装置、画像処理方法、及び同方法をコンピュータに実行させるプログラム
JP2013196294A (ja) * 2012-03-19 2013-09-30 Toshiba Corp 人物画像処理装置、及び人物画像処理方法
WO2015146101A1 (ja) * 2014-03-28 2015-10-01 日本電気株式会社 顔照合装置、方法、及び、記録媒体

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8379940B2 (en) * 2009-06-02 2013-02-19 George Mason Intellectual Properties, Inc. Robust human authentication using holistic anthropometric and appearance-based features and boosting
CN106778574A (zh) * 2016-12-06 2017-05-31 广州视源电子科技股份有限公司 用于人脸图像的检测方法和装置
CN107679450A (zh) * 2017-08-25 2018-02-09 珠海多智科技有限公司 基于深度学习的遮挡条件下人脸识别方法
CN108985212B (zh) * 2018-07-06 2021-06-04 深圳市科脉技术股份有限公司 人脸识别方法及装置
CN109117797A (zh) * 2018-08-17 2019-01-01 浙江捷尚视觉科技股份有限公司 一种基于人脸质量评价的人脸抓拍识别方法
CN109299658B (zh) * 2018-08-21 2022-07-08 腾讯科技(深圳)有限公司 脸部检测方法、脸部图像渲染方法、装置及存储介质
US11163981B2 (en) * 2018-09-11 2021-11-02 Apple Inc. Periocular facial recognition switching
CN109063695A (zh) * 2018-09-18 2018-12-21 图普科技(广州)有限公司 一种人脸关键点检测方法、装置及其计算机存储介质
CN110070017B (zh) * 2019-04-12 2021-08-24 北京迈格威科技有限公司 一种人脸假眼图像生成方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003132339A (ja) * 2001-10-19 2003-05-09 Alpine Electronics Inc 顔画像認識装置および方法
JP2009211151A (ja) * 2008-02-29 2009-09-17 Secom Co Ltd 顔画像処理装置
JP2010262392A (ja) * 2009-04-30 2010-11-18 Glory Ltd 画像処理装置、画像処理方法、及び同方法をコンピュータに実行させるプログラム
JP2013196294A (ja) * 2012-03-19 2013-09-30 Toshiba Corp 人物画像処理装置、及び人物画像処理方法
WO2015146101A1 (ja) * 2014-03-28 2015-10-01 日本電気株式会社 顔照合装置、方法、及び、記録媒体

Also Published As

Publication number Publication date
CN110610127B (zh) 2023-10-27
WO2021017286A1 (zh) 2021-02-04
JP7106742B2 (ja) 2022-07-26
SG11202103132XA (en) 2021-04-29
CN110610127A (zh) 2019-12-24
US20210312163A1 (en) 2021-10-07
US11734954B2 (en) 2023-08-22

Similar Documents

Publication Publication Date Title
JP2021534480A (ja) 顔認識方法、装置、電子機器及びコンピュータ不揮発性読み取り可能な記憶媒体
US11908239B2 (en) Image recognition network model training method, image recognition method and apparatus
KR102014364B1 (ko) 수술영상을 이용한 출혈 평가 방법 및 장치
WO2019096008A1 (zh) 身份识别方法、计算机设备及存储介质
CN103415825B (zh) 用于手势识别的系统和方法
TW201926140A (zh) 影像標註方法、電子裝置及非暫態電腦可讀取儲存媒體
CN107545241A (zh) 神经网络模型训练及活体检测方法、装置及存储介质
WO2019033576A1 (zh) 人脸姿态检测方法、装置及存储介质
EP3680794A1 (en) Device and method for user authentication on basis of iris recognition
US8229928B2 (en) 3D object descriptors
US8090151B2 (en) Face feature point detection apparatus and method of the same
EP2370932B1 (en) Method, apparatus and computer program product for providing face pose estimation
US9977950B2 (en) Decoy-based matching system for facial recognition
TW201546636A (zh) 註解顯示器輔助裝置及輔助方法
US10937150B2 (en) Systems and methods of feature correspondence analysis
US11823494B2 (en) Human behavior recognition method, device, and storage medium
Nanni et al. Combining face and eye detectors in a high-performance face-detection system
US20220207860A1 (en) Similar area detection device, similar area detection method, and computer program product
US20230306792A1 (en) Spoof Detection Based on Challenge Response Analysis
US11361532B1 (en) System and method for OCR based object registration
US20190147613A1 (en) Estimation of human orientation in images using depth information
US20220300774A1 (en) Methods, apparatuses, devices and storage media for detecting correlated objects involved in image
Karappa et al. Detection of sign-language content in video through polar motion profiles
US20220392192A1 (en) Target re-recognition method, device and electronic device
JP2015184743A (ja) 画像処理装置および物体認識方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210125

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220713

R150 Certificate of patent or registration of utility model

Ref document number: 7106742

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150