JP6622124B2 - 算出装置及び認識装置 - Google Patents

算出装置及び認識装置 Download PDF

Info

Publication number
JP6622124B2
JP6622124B2 JP2016054440A JP2016054440A JP6622124B2 JP 6622124 B2 JP6622124 B2 JP 6622124B2 JP 2016054440 A JP2016054440 A JP 2016054440A JP 2016054440 A JP2016054440 A JP 2016054440A JP 6622124 B2 JP6622124 B2 JP 6622124B2
Authority
JP
Japan
Prior art keywords
similarity
patterns
pattern
registered
proximity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016054440A
Other languages
English (en)
Other versions
JP2017167968A (ja
Inventor
智行 柴田
智行 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2016054440A priority Critical patent/JP6622124B2/ja
Priority to US15/258,230 priority patent/US11443552B2/en
Publication of JP2017167968A publication Critical patent/JP2017167968A/ja
Application granted granted Critical
Publication of JP6622124B2 publication Critical patent/JP6622124B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/24Character recognition characterised by the processing or recognition method
    • G06V30/242Division of the character sequences into groups prior to recognition; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation

Description

本発明の実施形態は、算出装置及び認識装置に関する。
従来から、パターン認識などを行うために、登録パターンと入力パターンとの類似性を表す類似度を算出する技術が知られている。
このような技術において、例えば、顔認識を行う際に、入力パターンである顔画像に写る顔に付帯された眼鏡などの付帯品や画質などの変動要因の影響で、登録パターンである顔画像との類似度が変動し、誤認識されてしまうことを防止するため、入力パターンと登録パターンとの類似度に加え、入力パターンに劣化処理を施した劣化パターンと登録パターンとの類似度も算出し、両類似度を統合する技術がある。
再表2013−088707号公報
しかしながら、上述したような従来技術では、入力パターンと登録パターンとの類似度が想定よりも高くなる場合には対応できるが、入力パターンと登録パターンとの類似度が想定よりも低くなる場合には対応できない。また、上述したような従来技術では、劣化処理用のアルゴリズムの開発が必要であり、コストを要する。
本発明が解決しようとする課題は、コストを抑えつつ類似度の算出精度を高めることができる算出装置及び認識装置を提供することである。
実施形態の算出装置は、登録部と、第1算出部と、受付部と、第2算出部と、を備える。登録部は、複数の登録パターンを登録する。第1算出部は、前記登録パターン間の近傍度合いを算出する。受付部は、入力パターンを受け付ける。第2算出部は、前記複数の登録パターンのうちの第1登録パターンと前記入力パターンとの第1類似度を算出するとともに、前記複数の登録パターンのうちの前記第1登録パターンと近傍関係にある1以上の第2登録パターンそれぞれと前記入力パターンとの第2類似度を算出し、前記第1類似度と前記1以上の第2類似度とを統合した統合類似度を算出する。
第1実施形態の認識装置の構成例を示す図。 第1実施形態の第1類似度及び第2類似度の例を示す説明図。 第1実施形態の処理例を示すフローチャート。 変形例1の第1類似度、第2類似度、及び近傍度合いの例を示す説明図。 第2実施形態の認識装置の構成例を示す図。 第2実施形態の第1類似度、第2類似度、及び第3類似度の例を示す説明図。 第2実施形態の処理例を示すフローチャート。 変形例2の第1類似度、第2類似度、第3類似度、及び近傍度合いの例を示す説明図。 変形例3の第1類似度及び第2類似度の例を示す説明図。 変形例4の第1類似度、第2類似度、及び近傍度合いの例を示す説明図。 変形例5の第1類似度、第2類似度、及び第3類似度の例を示す説明図。 変形例6の第1類似度、第2類似度、第3類似度、及び近傍度合いの例を示す説明図。 各実施形態及び各変形例の認識装置のハードウェア構成例を示す図。
以下、添付図面を参照しながら、実施形態を詳細に説明する。
(第1実施形態)
図1は、第1実施形態の認識装置101の構成の一例を示す図である。図1に示すように、認識装置101は、登録部111と、第1算出部113と、受付部115と、第2算出部117と、認識部119と、出力部121と、を備える。
登録部111、第1算出部113、受付部115、第2算出部117、認識部119、及び出力部121は、例えば、CPU(Central Processing Unit)などの処理装置にプログラムを実行させること、即ち、ソフトウェアにより実現してもよいし、IC(Integrated Circuit)などのハードウェアにより実現してもよいし、ソフトウェア及びハードウェアを併用して実現してもよい。
登録部111は、複数の登録パターンを登録する。例えば、登録部111は、HDD(Hard Disk Drive)やSSD(Solid State Drive)などの記憶部(図示省略)に複数の登録パターンを登録する。
登録パターンとしては、例えば、対象を撮像した画像から抽出した当該対象の特徴量と、当該対象が属するカテゴリと、の組などが挙げられるが、これに限定されるものではない。
対象としては、例えば、物体、顔、及び文字などが挙げられるが、これらに限定されるものではない。特徴量は、例えば、任意の次元数のベクトルである。なお、画像から特徴量をどのように抽出してもよいが、例えば、Dalal N, Triggs B (2005) Histograms of oriented gradients for human detection. In: Computer Vision and Pattern Recognition, IEEE Computer Society Conference on. Volume vol. 1, pp. 886−893.に開示されているHistograms of Oriented Gradientsにより抽出してもよい。また、部分空間の基底は、複数本のベクトルの主成分ベクトルで表現されるため、登録パターン(特徴量)が部分空間法で表現される部分空間の基底でもよい。
第1算出部113は、登録部111により登録された登録パターン間の近傍度合いを算出する。第1実施形態では、近傍度合いは、距離尺度における近い順序に基づき定義される。なお、距離尺度は、類似度と距離とに大別できるが、どちらであってもよい。
例えば、距離尺度が類似度の場合、第1算出部113は、近傍度合いを正規化相互相関などで算出すればよい。この場合、近傍度合いは、1に近いほど近傍であることを表し、0に近いほど近傍でないことを表す。なお、登録パターンが部分空間の場合、部分空間の間の類似度は、例えば、相互部分空間法により求めることができ、正準角と呼ばれる角度で定義できる。なお、N次元の部分空間の間の正準角はN個定義でき、最大値などが用いられる。
また例えば、距離尺度が距離の場合、L2ノルム、L1ノルム、L0ノルム、及びL∞ノルムなどがあり、第1算出部113は、それぞれ定義に基づき、近傍度合いを(距離)を算出できる。
なお、登録パターンxと近傍関係にある登録パターンは、N(x)=xで表され、j番目の登録パターンxが登録パターンxのk番目の近傍パターンであることが表わされる。kは予め定められた固定値(例えば、k=10)であり、登録パターンxと近傍関係にある登録パターンは、最大k個保有される。
受付部115は、入力パターンを受け付ける。入力パターンとしては、例えば、対象を撮像した画像から抽出した当該対象の特徴量が挙げられるが、これに限定されるものではない。
第2算出部117は、登録部111により登録された登録パターン毎に、当該登録パターンである第1登録パターンと受付部115により受け付けられた入力パターンとの第1類似度を算出するとともに、登録部111により登録された複数の登録パターンのうちの第1登録パターンと近傍関係(k近傍の関係)にある1以上の第2登録パターンそれぞれと入力パターンとの第2類似度を算出し、第1類似度と1以上の第2類似度とを統合した統合類似度を算出する。なお、登録部111により登録された全ての登録パターンについて、統合類似度を算出する必要はなく、登録部111により登録された特定の1以上の登録パターンについて、統合類似度を算出してもよい。
ここで、前述のように、特徴量がベクトルの場合、第1類似度及び第2類似度は、正規化相互相関により算出してもよいし、距離尺度により算出した距離の逆数として算出してもよい。また、前述のように、特徴量が部分空間の基底の場合、第1類似度及び第2類似度は、相互部分空間法により算出してもよい。
また統合類似度は、例えば、各類似度(第1類似度、第2類似度)の重み付け和とすることができる。なお、重みは、予め統計的に学習して算出した固定値を用いればよい。
図2は、第1実施形態の第1類似度及び第2類似度の一例を示す説明図である。図2に示す例では、パターン201が第1登録パターン(以下、「第1登録パターン201」と称する)である。また、パターン151が入力パターン(以下、「入力パターン151」と称する)である。また、パターン211〜214が、第1登録パターン201と近傍関係にある1以上の第2登録パターン(以下、「第2登録パターン211〜214」と称する)である。つまり、図2に示す例では、k=4であり、第2登録パターン211〜214は、第1登録パターン201との近傍度合いが上位4番目までのパターンである。
この場合、第2算出部117は、第1類似度として、第1登録パターン201と入力パターン151との類似度161を算出する。また第2算出部117は、1以上の第2類似度として、第2登録パターン211と入力パターン151との類似度171、第2登録パターン212と入力パターン151との類似度172、第2登録パターン213と入力パターン151との類似度173、及び第2登録パターン214と入力パターン151との類似度174を算出する。そして第2算出部117は、類似度161、類似度171、類似度172、類似度173、及び類似度174を統合して統合類似度を算出する。
認識部119は、第2算出部117により算出された複数の統合類似度に基づいて、受付部115により受け付けられた入力パターンを認識する。
例えば認識部119は、複数の統合類似度のうちの類似度が最も高い統合類似度が算出された第1登録パターンに基づいて入力パターンを認識する。この場合、認識部119は、例えば、入力パターンが、類似度が最も高い統合類似度が算出された第1登録パターンのカテゴリに属すると認識する。
また例えば認識部119は、複数の統合類似度のうちの類似度が閾値以上の統合類似度が算出された1以上の第1登録パターンに基づいて入力パターンを認識する。この場合、認識部119は、例えば、入力パターンが、類似度が閾値以上の統合類似度が算出された1以上の第1登録パターンのそれぞれのカテゴリに属する確率を算出する。
出力部121は、認識部119の認識結果などを出力する。例えば、出力部121は、入力パターンが属するカテゴリ、当該カテゴリに属する確率、及びカテゴリの決定(認識)に用いられた統合類似度の少なくともいずれかなどを出力する。
図3は、第1実施形態の処理の手順の流れの一例を示すフローチャートである。
まず、登録部111は、複数の登録パターンを登録する(ステップS101)。
続いて、第1算出部113は、登録部111により登録された登録パターン間の近傍度合いを算出する(ステップS103)。
続いて、受付部115は、入力パターンを受け付ける(ステップS105)。
続いて、第2算出部117は、登録部111により登録された登録パターンのうち第1登録パターンに未設定の登録パターンを第1登録パターンに設定する(ステップS107)。
続いて、第2算出部117は、第1登録パターンと入力パターンとの第1類似度を算出する(ステップS109)。
続いて、第2算出部117は、登録部111により登録された複数の登録パターンのうちの第1登録パターンと近傍関係にある1以上の第2登録パターンそれぞれと入力パターンとの第2類似度を算出する(ステップS111)。
続いて、第2算出部117は、算出した第1類似度と1以上の第2類似度とを統合して統合類似度を算出する(ステップS113)。
以降、登録部111により登録された複数の登録パターン内に、第1登録パターンに未設定の登録パターンが無くなるまで、ステップS107〜ステップS113の処理が繰り返される(ステップS115でYes)。
続いて、第1登録パターンに未設定の登録パターンが無くなると(ステップS115でNo)、認識部119は、第2算出部117により算出された複数の統合類似度に基づいて、受付部115により受け付けられた入力パターンを認識する(ステップS117)。
続いて、出力部121は、認識部119の認識結果などを出力する(ステップS119)。
以上のように第1実施形態によれば、第1登録パターンと入力パターンとの第1類似度だけでなく、第1登録パターンと近傍関係にある1以上の第2登録パターンそれぞれと入力パターンとの第2類似度を用いて、第1登録パターンと入力パターンとの類似性を求めるため、コストを抑えつつ類似度の算出精度を高めることができる。具体的には、正解分布と不正解分布が離れる効果がある。
特に第1実施形態によれば、第1登録パターンと入力パターンとの第1類似度が想定よりも高くなる場合だけでなく、第1類似度が想定よりも低くなる場合であっても、第1登録パターンと入力パターンとの類似性の算出精度を高めることができる。
(変形例1)
上記第1実施形態において、統合類似度に、1以上の第2登録パターンそれぞれと第1登録パターンとの近傍度合いを含めるようにしてもよい。この場合、第2算出部117は、第1類似度と、1以上の第2類似度と、1以上の第2登録パターンそれぞれと第1登録パターンとの近傍度合いと、を統合して、統合類似度を算出すればよい。
図4は、変形例1の第1類似度、第2類似度、及び近傍度合いの一例を示す説明図である。図4に示す例では、第2算出部117は、図2に示す例で説明した類似度161、類似度171、類似度172、類似度173、及び類似度174に加え、第2登録パターン211と第1登録パターン201との近傍度合い221、第2登録パターン212と第1登録パターン201との近傍度合い222、第2登録パターン213と第1登録パターン201との近傍度合い223、及び第2登録パターン214と第1登録パターン201との近傍度合い224を統合して統合類似度を算出する。
(第2実施形態)
第2実施形態では、入力パターンと第1登録パターンとが入れ替わっても同様の統合類似度を算出する例について説明する。以下では、第1実施形態との相違点の説明を主に行い、第1実施形態と同様の機能を有する構成要素については、第1実施形態と同様の名称・符号を付し、その説明を省略する。
図5は、第2実施形態の認識装置501の構成の一例を示す図である。図5に示すように、認識装置501は、第1算出部513及び第2算出部517が第1実施形態と相違する。
第1算出部513は、登録部111により登録された複数の登録パターンそれぞれと受付部115により受け付けられた入力パターンとの近傍度合いを更に算出する。なお、近傍度合いの算出手法は、第1実施形態で説明した登録パターン間の近傍度合いの算出手法と同様である。
第2算出部517は、登録部111により登録された複数の登録パターンのうちの入力パターンと近傍関係にある1以上の第3登録パターンそれぞれと第1登録パターンとの第3類似度を更に算出し、第1類似度と、1以上の第2類似度と、1以上の第3類似度と、を統合して、統合類似度を算出する。なお、第1類似度の算出手法、第2類似度の算出手法、及び統合類似度の算出手法は、第1実施形態と同様である。
図6は、第2実施形態の第1類似度、第2類似度、及び第3類似度の一例を示す説明図である。図6に示す例において、第1登録パターン201、入力パターン151、第2登録パターン211〜214、類似度161、類似度171、類似度172、類似度173、及び類似度174については、図2と同様である。
なお図6に示す例では、パターン611〜614が、入力パターン151と近傍関係にある1以上の第3登録パターン(以下、「第3登録パターン611〜614」と称する)である。つまり、図6に示す例でも、k=4であり、第3登録パターン611〜614は、入力パターン151との近傍度合いが上位4番目までのパターンである。
この場合、第2算出部517は、1以上の第3類似度として、第3登録パターン611と第1登録パターン201との類似度621、第3登録パターン612と第1登録パターン201との類似度622、第3登録パターン613と第1登録パターン201との類似度623、及び第3登録パターン614と第1登録パターン201との類似度624を更に算出する。そして第2算出部517は、類似度161、類似度171、類似度172、類似度173、類似度174、類似度621、類似度622、類似度623、及び類似度624を統合して統合類似度を算出する。
図7は、第2実施形態の処理の手順の流れの一例を示すフローチャートである。
まず、ステップS201〜S205までの処理は、図3に示すフローチャートのステップS101〜S105までの処理と同様である。
続いて、第1算出部513は、登録部111により登録された複数の登録パターンそれぞれと受付部115により受け付けられた入力パターンとの近傍度合いを算出する(ステップS206)。
続いて、ステップS207〜S211までの処理は、図3に示すフローチャートのステップS107〜S111までの処理と同様である。
続いて、第2算出部517は、登録部111により登録された複数の登録パターンのうちの入力パターンと近傍関係にある1以上の第3登録パターンそれぞれと第1登録パターンとの第3類似度を算出する(ステップS212)。
続いて、第2算出部517は、算出した第1類似度と1以上の第2類似度と1以上の第3類似度とを統合して統合類似度を算出する(ステップS213)。
以降の、ステップS215〜S219までの処理は、図3に示すフローチャートのステップS115〜S119までの処理と同様である。
以上のように第2実施形態においても第1実施形態と同様の効果を奏する。特に第2実施形態によれば、入力パターンと近傍関係にある1以上の第3登録パターンそれぞれと第1登録パターンとの第3類似度を統合類似度に含めているため、入力パターンと第1登録パターンとが入れ替わっても同様の統合類似度を算出できる。このため、1:1型の認識を実現する際に、入力パターンと第1登録パターンとが入れ替わっても同様の統合類似度を算出できる。
(変形例2)
上記第2実施形態において、統合類似度に、1以上の第2登録パターンそれぞれと第1登録パターンとの近傍度合いと、1以上の第3登録パターンそれぞれと入力パターンとの近傍度合いと、を含めるようにしてもよい。この場合、第2算出部517は、第1類似度と、1以上の第2類似度と、1以上の第3類似度と、1以上の第2登録パターンそれぞれと第1登録パターンとの近傍度合いと、1以上の第3登録パターンそれぞれと入力パターンとの近傍度合いと、を統合して、統合類似度を算出すればよい。
図8は、変形例2の第1類似度、第2類似度、第3類似度、及び近傍度合いの一例を示す説明図である。図8に示す例では、第2算出部517は、図6に示す例で説明した類似度161、類似度171、類似度172、類似度173、類似度174、類似度621、類似度622、類似度623、及び類似度624に加え、第2登録パターン211と第1登録パターン201との近傍度合い221、第2登録パターン212と第1登録パターン201との近傍度合い222、第2登録パターン213と第1登録パターン201との近傍度合い223、第2登録パターン214と第1登録パターン201との近傍度合い224、第3登録パターン611と入力パターン151との近傍度合い631、第3登録パターン612と入力パターン151との近傍度合い632、第3登録パターン613と入力パターン151との近傍度合い633、及び第3登録パターン614と入力パターン151との近傍度合い634を統合して統合類似度を算出する。
(変形例3)
上記第1実施形態において、登録パターンの数が足りない場合、参照パターンを使用するようにしてもよい。なお、参照パターンとは、登録パターンを補足するために予め用意されているパターンであり、例えば、対象を撮像した画像から抽出した当該対象の特徴量が挙げられるが、これに限定されるものではない。
この場合、第1算出部513は、複数の参照パターンを設定し、複数の登録パターンそれぞれと複数の参照パターンそれぞれとの近傍度合いを更に算出する。なお、近傍度合いの算出手法は、第1実施形態で説明した登録パターン間の近傍度合いの算出手法と同様である。
また、第2算出部517は、1以上の第2類似度として、複数の登録パターン及び複数の参照パターンのうちの第1登録パターンと近傍関係にある1以上の第2登録パターン及び第1参照パターンそれぞれと入力パターンとの類似度を算出する。
図9は、変形例3の第1類似度及び第2類似度の一例を示す説明図である。図9に示す例において、第1登録パターン201、入力パターン151、及び類似度161については、図2と同様である。
なお図9に示す例では、パターン311〜314が、第1登録パターン201と近傍関係にある1以上の第1参照パターン(以下、「第1参照パターン311〜314」と称する)である。つまり、図9に示す例では、k=4であり、第1参照パターン311〜314は、第1登録パターン201との近傍度合いが上位4番目までのパターンである。なお図9に示す例では、第1登録パターン201と近傍関係にある第2登録パターンは存在しない。
この場合、第2算出部517は、1以上の第2類似度として、第1参照パターン311と入力パターン151との類似度181、第1参照パターン312と入力パターン151との類似度182、第1参照パターン313と入力パターン151との類似度183、及び第1参照パターン314と入力パターン151との類似度184を算出する。そして第2算出部517は、類似度161、類似度181、類似度182、類似度183、及び類似度184を統合して統合類似度を算出する。
以上のように変形例3においても第1実施形態と同様の効果を奏する。特に変形例3によれば、登録パターンの数が足りない場合であっても対応できる。
(変形例4)
上記変形例3において、統合類似度に、1以上の第2登録パターンそれぞれと第1登録パターンとの近傍度合いを含めるようにしてもよい。この場合、第2算出部117は、第1類似度と、1以上の第2類似度と、1以上の第2登録パターン及び第1参照パターンそれぞれと第1登録パターンとの近傍度合いと、を統合して、統合類似度を算出すればよい。
図10は、変形例4の第1類似度、第2類似度、及び近傍度合いの一例を示す説明図である。図10に示す例では、第2算出部517は、図9に示す例で説明した類似度161、類似度181、類似度182、類似度183、及び類似度184に加え、第1参照パターン311と第1登録パターン201との近傍度合い321、第2登録パターン312と第1登録パターン201との近傍度合い322、第2登録パターン313と第1登録パターン201との近傍度合い323、及び第2登録パターン314と第1登録パターン201との近傍度合い324を統合して統合類似度を算出する。
(変形例5)
上記第2実施形態においても、登録パターンの数が足りない場合、参照パターンを使用するようにしてもよい。
この場合、第1算出部513は、複数の参照パターンを設定し、複数の登録パターンそれぞれと複数の参照パターンそれぞれとの近傍度合い、及び複数の参照パターンそれぞれと入力パターンとの近傍度合いを更に算出する。なお、近傍度合いの算出手法は、第1実施形態で説明した登録パターン間の近傍度合いの算出手法と同様である。
また、第2算出部517は、1以上の第2類似度として、複数の登録パターン及び複数の参照パターンのうちの第1登録パターンと近傍関係にある1以上の第2登録パターン及び第1参照パターンそれぞれと入力パターンとの類似度を算出する。また、第2算出部517は、1以上の第3類似度として、複数の登録パターン及び複数の参照パターンのうちの入力パターンと近傍関係にある1以上の第3登録パターン及び第2参照パターンそれぞれと第1登録パターンとの類似度を算出する。
図11は、変形例5の第1類似度、第2類似度、及び第3類似度の一例を示す説明図である。図11に示す例において、第1登録パターン201、入力パターン151、及び類似度161については、図6と同様である。
なお図11に示す例では、パターン311〜314が、第1登録パターン201と近傍関係にある1以上の第1参照パターン(以下、「第1参照パターン311〜314」と称する)である。また、パターン711〜714が、入力パターン151と近傍関係にある1以上の第2参照パターン(以下、「第2参照パターン711〜714」と称する)である。つまり、図11に示す例では、k=4であり、第1参照パターン311〜314は、第1登録パターン201との近傍度合いが上位4番目までのパターンであり、第2参照パターン711〜714は、入力パターン151との近傍度合いが上位4番目までのパターンである。なお図11に示す例では、第1登録パターン201と近傍関係にある第2登録パターン、及び入力パターン151と近傍関係にある第3登録パターンは存在しない。
この場合、第2算出部517は、1以上の第2類似度として、第1参照パターン311と入力パターン151との類似度181、第1参照パターン312と入力パターン151との類似度182、第1参照パターン313と入力パターン151との類似度183、及び第1参照パターン314と入力パターン151との類似度184を算出する。また第2算出部517は、1以上の第3類似度として、第3参照パターン711と第1登録パターン201との類似度721、第3参照パターン712と第1登録パターン201との類似度722、第3参照パターン713と第1登録パターン201との類似度723、及び第3参照パターン714と第1登録パターン201との類似度724を算出する。そして第2算出部517は、類似度161、類似度181、類似度182、類似度183、類似度184、類似度721、類似度722、類似度723、及び類似度724を統合して統合類似度を算出する。
以上のように変形例5においても第2実施形態と同様の効果を奏する。特に変形例5によれば、登録パターンの数が足りない場合であっても対応できる。
(変形例6)
上記変形例5において、統合類似度に、1以上の第2登録パターン及び第1参照パターンそれぞれと第1登録パターンとの近傍度合いと、1以上の第3登録パターン及び第2参照パターンそれぞれと入力パターンとの近傍度合いと、を含めるようにしてもよい。この場合、第2算出部517は、第1類似度と、1以上の第2類似度と、1以上の第3類似度と、1以上の第2登録パターン及び第1参照パターンそれぞれと第1登録パターンとの近傍度合いと、1以上の第3登録パターン及び第2参照パターンそれぞれと入力パターンとの近傍度合いと、を統合して、統合類似度を算出すればよい。
図12は、変形例6の第1類似度、第2類似度、第3類似度、及び近傍度合いの一例を示す説明図である。図12に示す例では、第2算出部517は、図11に示す例で説明した類似度161、類似度181、類似度182、類似度183、類似度184、類似度721、類似度722、類似度723、及び類似度724に加え、第1参照パターン311と第1登録パターン201との近傍度合い321、第1参照パターン312と第1登録パターン201との近傍度合い322、第1参照パターン313と第1登録パターン201との近傍度合い323、第1参照パターン314と第1登録パターン201との近傍度合い324、第2参照パターン711と入力パターン151との近傍度合い731、第2参照パターン712と入力パターン151との近傍度合い732、第2参照パターン713と入力パターン151との近傍度合い733、及び第2参照パターン714と入力パターン151との近傍度合い734を統合して統合類似度を算出する。
(適用例)
上記第1〜2実施形態、及び変形例1〜6で説明した認識装置は、顔認識、物体認識、及び文字認識などに有用である。
顔認識(顔照合)の場合、登録パターン、入力パターン、及び参照パターンなどの各パターンの特徴量は、以下のように生成される。
まず、処理対象となる画像中から、顔検出技術により顔が検出される。顔検出はどのような方法を用いても構わないが、例えば、三田、「顔検出に適した共起に基づくJoint Harr-like特徴」、電子情報通信学会論文誌、J89-D、8、2006、p.1791-1801で述べられている方法を用いて検出することができる。
次に、検出した顔領域から、顔の部位を特徴点として画像中の顔部位の座標が検出される。顔特徴点の検出はどのような方法を用いても構わないが、例えば、湯浅,武口,小坂谷,山口,「静止画顔認証のための自動顔特徴点抽出」,信学技報PRMU2006-222,pp.5-10,2007.)で述べられている方法を用いて検出することができる。
次に、検出した特徴点座標を用いて顔の向きおよび大きさを三次元的に正規化した顔パターンが生成される。例えば、特許第4653606号公報で述べられている方法を用いて正規化パターンを生成することができる。
最後に、正規化した顔パターンから、特徴量が抽出される。特徴抽出はどのような方法を用いても構わないが、例えば、特許第4459137号公報で述べられている方法を用いて、特徴量を抽出することができる。
なお、顔認識(顔照合)には、複数登録した顔画像(登録パターン)と照合用の顔画像(入力パターン)を比較し一致する顔があるかどうかを検索する1:N型の顔照合と、2枚の顔画像が本人であるか他人であるかを判定する1:1型の顔照合とがある。
1:N型の顔照合は、参照用の顔画像(参照パターン)を用いる必要がないため、上記第1〜2実施形態、及び変形例1〜2の認識装置で行われる。
ここで、第1登録パターンとなる顔画像の特徴量をd次元のベクトルx、入力パターンとなる顔画像の特徴量をd次元のベクトルx、第2登録パターンとなる顔画像の特徴量をd次元のベクトルrt,k、第3登録パターンとなる顔画像の特徴量をd次元のベクトルrq,kとする。
この場合、第1実施形態の認識装置での統合類似度は、xとxとの類似度(第1類似度)、及びxとrt,kとのk個の類似度(第2類似度)を統合したものとなり、第2実施形態の認識装置での統合類似度は、xとxとの類似度(第1類似度)、xとrt,kとのk個の類似度(第2類似度)、及びxとrq,kとのk個の類似度(第3類似度)を統合したものとなる。
一方、1:1型の顔照合は、参照用の顔画像(参照パターン)を用いる必要があるため、上記変形例3〜6の認識装置で行われる。
ここで、第1登録パターンとなる顔画像の特徴量をd次元のベクトルx、入力パターンとなる顔画像の特徴量をd次元のベクトルx、第1参照パターンとなる顔画像の特徴量をd次元のベクトルvt,k、第2参照パターンとなる顔画像の特徴量をd次元のベクトルvq,kとする。
この場合、変形例3の認識装置での統合類似度は、xとxとの類似度(第1類似度)、及びxとvt,kとのk個の類似度(第2類似度)を統合したものとなり、変形例5の認識装置での統合類似度は、xとxとの類似度(第1類似度)、xとvt,kとのk個の類似度(第2類似度)、及びxとvq,kとのk個の類似度(第3類似度)を統合したものとなる。
また、物体認識の場合、登録パターン、入力パターン、及び参照パターンなどの各パターンの特徴量は、以下のように生成される。
まず、処理対象となる画像中から、物体検出技術により物体が検出される。物体検出はどのような方法を用いても構わないが、例えば、Ming-Ming Cheng, Ziming Zhang, Wen-Yan Lin, Philip H. S. Torr,「BING: Binarized Normed Gradients for Objectness Estimation at 300fps」, IEEE International Conference on Computer Vision and Pattern Recognition (IEEE CVPR), 2014, 2386-2393で述べられている方法を用いて検出することができる。
次に、検出した物体領域から、特徴量が抽出される。特徴抽出はどのような方法を用いても構わないが、例えば、Dalal N, Triggs B (2005) Histograms of oriented gradients for human detection. In: Computer Vision and Pattern Recognition, IEEE Computer Society Conference on. Volume vol. 1, pp. 886−893.で述べられている方法を用いて、特徴量を抽出することができる。
なお、物体認識には、静止画1枚から特徴量(登録パターン)を抽出して認識を行う場合と、動画像から複数の特徴量(登録パターン)を抽出して認識を行う場合とがある。
静止画1枚から抽出した特徴量を用いる場合、各カテゴリの特徴量はベクトル1本であり、1:N型の顔認証と同様の処理により、類似度を算出できる。
一方、動画像から抽出した複数の特徴量を用いる場合、1カテゴリの特徴量集合から部分空間を算出し、相互部分空間法により類似度を算出してもよいし、全ての特徴量を用いて、k近傍を計算する際に、同じカテゴリの特徴量を複数選択しないようにする制約を設けることで、同様に計算することができる。
また、1文字として切り出された文字画像がどの文字コードに対応するかを判定する文字認識の場合、登録パターン、入力パターン、及び参照パターンなどの各パターンの特徴量は、以下のように生成される。
この場合、処理対象となる文字画像中から、特徴量が抽出される。特徴抽出はどのような方法を用いても構わないが、例えば、Kawamura, A. et al. “Online recognition of freely handwritten Japanese characters using directional feature densities”. Proceedings of 11th International Conference on Pattern Recognition (ICPR1992). The Hague, The Netherlands, 1992-08, IAPR. 1992, p.183 - 186.で述べられている方法を用いて、特徴量を抽出することができる。
なお、一般的に登録する文字コードは複数存在するので、上記した物体認識と同様に各文字コードとの類似度を算出することができる。
(ハードウェア構成)
図13は、各実施形態及び各変形例の認識装置のハードウェア構成の一例を示す図である。図13に示すように、各実施形態及び各変形例の認識装置は、CPUなどの制御装置901と、ROMやRAMなどの主記憶装置902と、HDDやSSDなどの補助記憶装置903と、ディスプレイなどの表示装置904と、キーボードやマウスなどの入力装置905と、通信インタフェースなどの通信装置906と、を備えており、通常のコンピュータを利用したハードウェア構成となっている。
各実施形態及び各変形例の認識装置で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、CD−R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されて提供される。
また、各実施形態及び各変形例の認識装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしてもよい。また、各実施形態及び各変形例の認識装置で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するようにしてもよい。また、各実施形態及び各変形例の認識装置で実行されるプログラムを、ROM等に予め組み込んで提供するようにしてもよい。
各実施形態及び各変形例の認識装置で実行されるプログラムは、上述した各部をコンピュータ上で実現させるためのモジュール構成となっている。実際のハードウェアとしては、CPUがROMやHDDなどからプログラムをRAM上に読み出して実行することにより、上記各部がコンピュータ上で実現されるようになっている。
本発明は、上記各実施形態及び各変形例の認識装置そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態及び変形例に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、上記実施形態及び変形例に示される全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施形態及び変形例にわたる構成要素を適宜組み合わせても良い。
例えば、実施形態のフローチャートにおける各ステップを、その性質に反しない限り、実行順序を変更し、複数同時に実施し、あるいは実施毎に異なった順序で実施してもよい。
以上のように、上記各実施形態及び各変形例の認識装置によれば、コストを抑えつつ類似度の算出精度を高めることができる。
101、501 認識装置
111 登録部
113、513 第1算出部
115 受付部
117、517 第2算出部
119 認識部
121 出力部
901 制御装置
902 主記憶装置
903 補助記憶装置
904 表示装置
905 入力装置
906 通信装置

Claims (18)

  1. 複数の登録パターンを登録する登録部と、
    前記登録パターン間の近傍度合いを算出する第1算出部と、
    入力パターンを受け付ける受付部と、
    前記複数の登録パターンのうちの第1登録パターンと前記入力パターンとの第1類似度を算出するとともに、前記複数の登録パターンのうちの前記第1登録パターンと近傍関係にある1以上の第2登録パターンそれぞれと前記入力パターンとの第2類似度を算出し、前記第1類似度と前記1以上の第2類似度とを統合した統合類似度を算出する第2算出部と、
    を備える算出装置。
  2. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第2登録パターンそれぞれと前記第1登録パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項1に記載の算出装置。
  3. 前記第1算出部は、前記複数の登録パターンそれぞれと前記入力パターンとの近傍度合いを更に算出し、
    前記第2算出部は、前記複数の登録パターンのうちの前記入力パターンと近傍関係にある1以上の第3登録パターンそれぞれと前記第1登録パターンとの第3類似度を更に算出し、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、を統合して、前記統合類似度を算出する請求項1に記載の算出装置。
  4. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、前記1以上の第2登録パターンそれぞれと前記第1登録パターンとの近傍度合いと、前記1以上の第3登録パターンそれぞれと前記入力パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項3に記載の算出装置。
  5. 前記第1算出部は、複数の参照パターンを設定し、前記複数の登録パターンそれぞれと前記複数の参照パターンそれぞれとの近傍度合いを更に算出し、
    前記第2算出部は、前記1以上の第2類似度として、前記複数の登録パターン及び前記複数の参照パターンのうちの前記第1登録パターンと近傍関係にある1以上の第2登録パターン及び第1参照パターンそれぞれと前記入力パターンとの類似度を算出する請求項1に記載の算出装置。
  6. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第2登録パターン及び第1参照パターンそれぞれと前記第1登録パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項5に記載の算出装置。
  7. 前記第1算出部は、前記複数の登録パターンそれぞれと前記入力パターンとの近傍度合い、及び前記複数の参照パターンそれぞれと前記入力パターンとの近傍度合いを更に算出し、
    前記第2算出部は、前記複数の登録パターン及び前記複数の参照パターンのうちの前記入力パターンと近傍関係にある1以上の第3登録パターン及び第2参照パターンそれぞれと前記第1登録パターンとの第3類似度を更に算出し、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、を統合して、前記統合類似度を算出する請求項5に記載の算出装置。
  8. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、前記1以上の第2登録パターン及び第1参照パターンそれぞれと前記第1登録パターンとの近傍度合いと、前記1以上の第3登録パターン及び第2参照パターンそれぞれと前記入力パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項7に記載の算出装置。
  9. 複数の登録パターンを登録する登録部と、
    前記登録パターン間の近傍度合いを算出する第1算出部と、
    入力パターンを受け付ける受付部と、
    前記登録パターン毎に、当該登録パターンである第1登録パターンと前記入力パターンとの第1類似度を算出するとともに、前記複数の登録パターンのうちの前記第1登録パターンと近傍関係にある1以上の第2登録パターンそれぞれと前記入力パターンとの第2類似度を算出し、前記第1類似度と前記1以上の第2類似度とを統合した統合類似度を算出する第2算出部と、
    前記複数の統合類似度に基づいて、前記入力パターンを認識する認識部と、
    を備える認識装置。
  10. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第2登録パターンそれぞれと前記第1登録パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項9に記載の認識装置。
  11. 前記第1算出部は、前記複数の登録パターンそれぞれと前記入力パターンとの近傍度合いを更に算出し、
    前記第2算出部は、前記複数の登録パターンのうちの前記入力パターンと近傍関係にある1以上の第3登録パターンそれぞれと前記第1登録パターンとの第3類似度を更に算出し、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、を統合して、前記統合類似度を算出する請求項9に記載の認識装置。
  12. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、前記1以上の第2登録パターンそれぞれと前記第1登録パターンとの近傍度合いと、前記1以上の第3登録パターンそれぞれと前記入力パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項11に記載の認識装置。
  13. 前記第1算出部は、複数の参照パターンを設定し、前記複数の登録パターンそれぞれと前記複数の参照パターンそれぞれとの近傍度合いを更に算出し、
    前記第2算出部は、前記1以上の第2類似度として、前記複数の登録パターン及び前記複数の参照パターンのうちの前記第1登録パターンと近傍関係にある1以上の第2登録パターン及び第1参照パターンそれぞれと前記入力パターンとの類似度を算出する請求項9に記載の認識装置。
  14. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第2登録パターン及び第1参照パターンそれぞれと前記第1登録パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項13に記載の認識装置。
  15. 前記第1算出部は、前記複数の登録パターンそれぞれと前記入力パターンとの近傍度合い、及び前記複数の参照パターンそれぞれと前記入力パターンとの近傍度合いを更に算出し、
    前記第2算出部は、前記複数の登録パターン及び前記複数の参照パターンのうちの前記入力パターンと近傍関係にある1以上の第3登録パターン及び第2参照パターンそれぞれと前記第1登録パターンとの第3類似度を更に算出し、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、を統合して、前記統合類似度を算出する請求項13に記載の認識装置。
  16. 前記第2算出部は、前記第1類似度と、前記1以上の第2類似度と、前記1以上の第3類似度と、前記1以上の第2登録パターン及び第1参照パターンそれぞれと前記第1登録パターンとの近傍度合いと、前記1以上の第3登録パターン及び第2参照パターンそれぞれと前記入力パターンとの近傍度合いと、を統合して、前記統合類似度を算出する請求項15に記載の認識装置。
  17. 前記認識部は、前記複数の統合類似度のうちの類似度が最も高い統合類似度が算出された第1登録パターンに基づいて前記入力パターンを認識する請求項9に記載の認識装置。
  18. 前記認識部は、前記複数の統合類似度のうちの類似度が閾値以上の統合類似度が算出された1以上の第1登録パターンに基づいて前記入力パターンを認識する請求項9に記載の認識装置。
JP2016054440A 2016-03-17 2016-03-17 算出装置及び認識装置 Active JP6622124B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016054440A JP6622124B2 (ja) 2016-03-17 2016-03-17 算出装置及び認識装置
US15/258,230 US11443552B2 (en) 2016-03-17 2016-09-07 Image pattern similarity calculation device and recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016054440A JP6622124B2 (ja) 2016-03-17 2016-03-17 算出装置及び認識装置

Publications (2)

Publication Number Publication Date
JP2017167968A JP2017167968A (ja) 2017-09-21
JP6622124B2 true JP6622124B2 (ja) 2019-12-18

Family

ID=59847071

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016054440A Active JP6622124B2 (ja) 2016-03-17 2016-03-17 算出装置及び認識装置

Country Status (2)

Country Link
US (1) US11443552B2 (ja)
JP (1) JP6622124B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108198052A (zh) * 2018-03-02 2018-06-22 北京京东尚科信息技术有限公司 用户选购商品识别方法、装置以及智能货架系统

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3790680B2 (ja) * 2001-05-25 2006-06-28 株式会社東芝 画像処理システム及びこれを用いた運転支援システム
JP5424819B2 (ja) 2009-11-04 2014-02-26 キヤノン株式会社 画像処理装置、画像処理方法
JP5337673B2 (ja) 2009-11-13 2013-11-06 株式会社日立製作所 画像検索システム
US8818034B2 (en) * 2009-11-30 2014-08-26 Hewlett-Packard Development Company, L.P. Face recognition apparatus and methods
JP5554987B2 (ja) * 2009-12-28 2014-07-23 キヤノン株式会社 オブジェクト識別装置及びその制御方法
US8625887B2 (en) * 2011-07-13 2014-01-07 Google Inc. Systems and methods for matching visual object components
WO2013088707A1 (ja) 2011-12-16 2013-06-20 日本電気株式会社 辞書学習装置、パターン照合装置、辞書学習方法および記憶媒体
JP6299592B2 (ja) * 2012-07-19 2018-03-28 日本電気株式会社 照合装置及び照合装置の制御方法、並びにコンピュータ・プログラム
US9830336B2 (en) * 2012-10-18 2017-11-28 Nec Corporation Information processing device, information processing method and information processing program
CN104769578B (zh) * 2012-11-09 2017-06-27 加州理工学院 自动特征分析、比较和异常检测的方法
JP6062273B2 (ja) 2013-02-05 2017-01-18 株式会社東芝 パターン認識装置、パターン認識方法、及びパターン認識プログラム
US9737227B2 (en) * 2013-08-28 2017-08-22 Boston Scientific Scimed Inc. Estimating the prevalence of activation patterns in data segments during electrophysiology mapping
US10318576B2 (en) * 2013-12-12 2019-06-11 Nant Holdings Ip, Llc Image recognition verification

Also Published As

Publication number Publication date
US20170270351A1 (en) 2017-09-21
US11443552B2 (en) 2022-09-13
JP2017167968A (ja) 2017-09-21

Similar Documents

Publication Publication Date Title
US7995805B2 (en) Image matching apparatus, image matching method, computer program and computer-readable storage medium
CN110569731B (zh) 一种人脸识别方法、装置及电子设备
US9262614B2 (en) Image processing device, image processing method, and storage medium storing image processing program
US10423848B2 (en) Method, system, and computer-readable recording medium for long-distance person identification
US9129145B2 (en) Identification apparatus, identification method, and program
CN106372624B (zh) 人脸识别方法及系统
JP2002342756A (ja) デジタル画像において目と口の位置を検出する方法
WO2020244071A1 (zh) 基于神经网络的手势识别方法、装置、存储介质及设备
CN108596079B (zh) 手势识别方法、装置及电子设备
JP6648639B2 (ja) 生体情報処理装置、生体情報処理方法および生体情報処理プログラム
CN108154099B (zh) 一种人物识别方法、装置及电子设备
JP2018142189A (ja) プログラム、測距方法、及び測距装置
JP6338429B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP2009129237A (ja) 画像処理装置及びその方法
JP6164284B2 (ja) 認証装置、認証方法およびコンピュータプログラム
JP6622124B2 (ja) 算出装置及び認識装置
Pathak et al. A framework for dynamic hand gesture recognition using key frames extraction
KR101450247B1 (ko) Sift 특징점에 기반한 손가락 정맥 인증 방법
Arakala et al. The palm vein graph feature extraction and matching
CN108288023B (zh) 人脸识别的方法和装置
JP2022028912A (ja) 照合処理装置、照合処理方法、及び、照合処理プログラムが格納された記録媒体
EP3702958B1 (en) Method for verifying the identity of a user by identifying an object within an image that has a biometric characteristic of the user and separating a portion of the image comprising the biometric characteristic from other portions of the image
JP6580201B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
Szczepanik et al. Security lock system for mobile devices based on fingerprint recognition algorithm
KR102072298B1 (ko) 객체의 동일성 판단 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191121

R151 Written notification of patent or utility model registration

Ref document number: 6622124

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151