JP6427973B2 - 画像認識装置及び画像認識装置への特徴量データ登録方法 - Google Patents
画像認識装置及び画像認識装置への特徴量データ登録方法 Download PDFInfo
- Publication number
- JP6427973B2 JP6427973B2 JP2014121908A JP2014121908A JP6427973B2 JP 6427973 B2 JP6427973 B2 JP 6427973B2 JP 2014121908 A JP2014121908 A JP 2014121908A JP 2014121908 A JP2014121908 A JP 2014121908A JP 6427973 B2 JP6427973 B2 JP 6427973B2
- Authority
- JP
- Japan
- Prior art keywords
- class
- data
- feature amount
- feature
- new
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/758—Involving statistics of pixels or of feature values, e.g. histogram matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
- G06V40/173—Classification, e.g. identification face re-identification, e.g. recognising unknown faces across different face tracks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
- G06F18/2178—Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23211—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with adaptive number of clusters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
- G06V10/763—Non-hierarchical techniques, e.g. based on statistics of modelling distributions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/778—Active pattern-learning, e.g. online learning of image or video features
- G06V10/7784—Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/50—Maintenance of biometric data or enrolment thereof
Description
、未知オブジェクトの特徴量データXとして図8(a)と同じものが入力されたとする。このとき、図8(c)に示すように、特徴量データXがクラスKAとクラスKBのいずれに属するのか判然としないため、未知オブジェクトに対しオブジェクトAであるという誤った識別結果が出力される可能性がある。
することができる。
(システム構成)
図1は、本発明の第1実施形態に係る顔認証システム(画像認識装置)の機能構成を模式的に示す図である。顔認証システム1は、顔画像を用いて照合対象者の本人認証又は個人識別を行う装置である。本人認証とは、照合対象者が本人であるか否かを確かめる処理(一対一の照合)であり、個人識別とは、照合対象者がデータベースに登録されている登録者のうちの誰であるかを同定する処理(一対多の照合)である。これらの顔認証技術は、例えば、電子機器(コンピュータ、スマートフォン、タブレット端末を含む)におけるセキュリティ装置、侵入者検知を行う監視システム、入退室管理やドアの錠制御を行うゲートシステムなどの様々な用途に応用可能である。
や端点など)の位置関係、特徴点近傍の濃淡値やその周期性・方向性、色分布などを特徴量として採用できる。また顔画像自体を特徴量データとして用いることもできる。特徴量の個数は期待する認識精度に応じて任意に設定できるが、一般的には、一つの顔画像から数十から数万個以上の特徴量が抽出される。このように抽出された特徴量の組(特徴量データ又は特徴ベクトルと呼ぶ)は、画像に写っている顔の特徴を数値化したものといえる。人によって顔の特徴が相違するのと同様、人によって特徴量データに有意な差がでる。
図3は、顔認証システム1の顔認証処理の流れを示すフローチャートである。
。下限値を超える類似度をもつクラスが存在しない場合には、照合対象者は「不明(Unknown)」という識別結果を出力する(ステップS36)。
次に、図4を参照して、新たな特徴量データを顔認証システム1に登録する処理について説明する。図4は、データ登録処理の流れを示すフローチャートである。
以上述べたデータ登録処理によれば、同じ人物(A)の特徴量データ(N)であっても、他人(B)の既登録データ(B1〜B4)との類似度の方が本人(A)の既登録データ(A1〜A4)との類似度よりも高い場合には、新規の特徴量データ(N)は既登録データ(A1〜A4)とは異なるクラス(KA2)に分けて登録される。なお、二つのクラスKA、KA2は同じ人物Aに対応するクラスであるため、ラベル情報は同じものが割り当てられる。
第2実施形態も、他人の既登録データとの類似度の方が本人の既登録データとの類似度よりも高い場合に、新規の特徴量データを本人の既登録データとは別のクラスに登録する、という点で第1実施形態と基本的な考え方は同じである。ただし、第1実施形態では、顔認証処理が不正解であった場合に正しいラベル(人物)をユーザが教示したのに対し、第2実施形態では、登録用画像とともに正解のラベル情報を事前に入力する点が異なる。
を取得する(ステップS53)。例えば、タッチパネル等の入力デバイスを用いてユーザにIDや名称などを入力させればよい。なお、ステップS50及びS53の処理は、画像データベースなどから顔画像データとラベル情報を読み込む処理に置き換えることもできる。例えば、バッチ処理で多数の登録用画像をデータベース登録する場合には、後者の処理の方が好適である。
前述した第1及び第2実施形態では、本人の既登録データに対する類似度Siと他人の既登録データに対する類似度Seを評価したのに対し、第3実施形態では、本人の既登録データの分散σ2の変化と他人の既登録データに対する類似度Seとを評価することにより、既存クラスに追加するかクラスを分割するかを判断する。
以上述べた本実施形態のデータ登録処理によっても、第1及び第2実施形態と同様の作用効果を奏することができる。
前述した第3実施形態では、本人の既登録データの分散σ2の変化と他人の既登録データに対する類似度Seとを評価に用いたのに対し、第4実施形態では、新規の特徴量データを追加する前と後での、クラス内分散とクラス間分散の変化を評価することにより、既存クラスに追加するかクラスを分割するかを判断する。
〜S54、S552の処理と同じである。
上述した各実施形態は本発明の一具体例を示したものにすぎない。例えば、本発明の実施形態として以下のような構成も採り得る。
10:画像取得部
11:顔検出部
12:特徴量抽出部
13:特徴量データベース
14:顔認証部
15:特徴量データ登録部
Claims (10)
- 複数のオブジェクトに対応する複数のクラスが設定され、且つ、各クラスに対応するオブジェクトの画像から得られる特徴量データが登録されているデータベースと、
未知のオブジェクトの画像から得られる特徴量データと前記データベースに登録されている前記複数のクラスそれぞれの特徴量データとの間の類似度を評価することにより、前記未知のオブジェクトの識別を行う識別部と、
前記データベースに特徴量データを登録する特徴量データ登録部と、
を有する画像認識装置であって、
前記データベースは、同じオブジェクトに対し1つ以上のクラスを設定可能であり、
前記特徴量データ登録部は、
前記データベースに既に登録されている第1のオブジェクトについて新規の特徴量データを追加する際に、
前記新規の特徴量データと所定の類似条件を満たす第2のオブジェクトが前記データベースに存在した場合には、前記第1のオブジェクトに対し既存のクラスとは別の新規のクラスを設定し、前記新規の特徴量データを前記新規のクラスに登録し、
前記第1のオブジェクトに対し2つ以上のクラスが設定されている場合には、前記識別部は、未知のオブジェクトの特徴量データとの間の類似度を前記2つ以上のクラスのそれぞれについて求め、前記2つ以上のクラスのうちのいずれかのクラスが、前記データベースに登録されている前記複数のクラスのうち最も類似度が高いクラスに該当する場合に、前記未知のオブジェクトが前記第1のオブジェクトであるという識別結果を出力する
ことを特徴とする画像認識装置。 - 前記所定の類似条件は、前記新規の特徴量データと前記第2のオブジェクトのクラスの特徴量データとの類似度が、前記新規の特徴量データと前記第1のオブジェクトの前記既存のクラスの特徴量データとの類似度よりも高い、という条件を含む
ことを特徴とする請求項1に記載の画像認識装置。 - 前記所定の類似条件は、前記新規の特徴量データと前記第2のオブジェクトのクラスの特徴量データとの類似度が閾値よりも高い、という条件を含む
ことを特徴とする請求項1又は2に記載の画像認識装置。 - 前記所定の類似条件は、前記新規の特徴量データを前記第1のオブジェクトの前記既存のクラスに追加した場合に前記既存のクラスの分散が増加する、という条件を含む
ことを特徴とする請求項2又は3に記載の画像認識装置。 - 前記所定の類似条件は、前記新規の特徴量データを前記第1のオブジェクトの前記既存のクラスに追加した場合に、前記第1のオブジェクトの前記既存のクラスのクラス内分散が増加し、且つ、前記第1のオブジェクトの前記既存のクラスと前記第2のオブジェクトのクラスのあいだのクラス間分散が減少する、という条件を含む
ことを特徴とする請求項1〜3のうちいずれか1項に記載の画像認識装置。 - 前記所定の類似条件は、前記新規の特徴量データを前記第1のオブジェクトの前記既存のクラスへ追加した場合に、前記第1のオブジェクトと前記第2のオブジェクトとのあいだの前記識別部による識別性が低下する、という条件である
ことを特徴とする請求項1に記載の画像認識装置。 - 前記所定の類似条件は、前記識別部によって前記新規の特徴量データが前記第2のオブジェクトの特徴量データであると誤って識別される、という条件であり、
前記特徴量データ登録部は、前記識別部による識別結果が正解であるか否かをユーザに問い合わせることにより、前記新規の特徴量データが前記所定の類似条件を満たすかを判断する
ことを特徴とする請求項1に記載の画像認識装置。 - 前記オブジェクトは、人の顔である
ことを特徴とする請求項1〜7のうちいずれか1項に記載の画像認識装置。 - 複数のオブジェクトに対応する複数のクラスが設定され、且つ、各クラスに対応するオブジェクトの画像から得られる特徴量データが登録されているデータベースと、未知のオブジェクトの画像から得られる特徴量データと前記データベースに登録されている前記複数のクラスそれぞれの特徴量データとの間の類似度を評価することにより、前記未知のオブジェクトの識別を行う識別部と、を有する画像認識装置であって、第1のオブジェクトに対し2つ以上のクラスが設定されている場合に、前記識別部は、未知のオブジェクトの特徴量データとの間の類似度を前記2つ以上のクラスのそれぞれについて求め、前記2つ以上のクラスのうちのいずれかのクラスが、前記データベースに登録されている前記複数のクラスのうち最も類似度が高いクラスに該当する場合に、前記未知のオブジェクトが前記第1のオブジェクトであるという識別結果を出力する、画像認識装置に対し、特徴量データを登録する方法であって、
コンピュータが、前記データベースに既に登録されている前記第1のオブジェクトについて新規の特徴量データを取得するステップと、
コンピュータが、前記新規の特徴量データと所定の類似条件を満たす第2のオブジェクトが前記データベースに存在した場合には、前記第1のオブジェクトに対し既存のクラスとは別の新規のクラスを設定し、前記新規の特徴量データを前記新規のクラスに登録するステップと、
を含むことを特徴とする画像認識装置に対する特徴量データ登録方法。 - 請求項9に記載の特徴量データ登録方法の各ステップをコンピュータに実行させるためのプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014121908A JP6427973B2 (ja) | 2014-06-12 | 2014-06-12 | 画像認識装置及び画像認識装置への特徴量データ登録方法 |
EP15169262.1A EP2955666B1 (en) | 2014-06-12 | 2015-05-26 | Image recognition device and method for registering feature data in image recognition device |
KR1020150073698A KR20150143304A (ko) | 2014-06-12 | 2015-05-27 | 화상 인식 장치 및 화상 인식 장치에의 특징량 데이터 등록 방법 |
CN201510280123.XA CN105184304B (zh) | 2014-06-12 | 2015-05-27 | 图像辨识装置以及对图像辨识装置的特征量数据注册方法 |
US14/725,411 US9740934B2 (en) | 2014-06-12 | 2015-05-29 | Image recognition device and method for registering feature data in image recognition device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014121908A JP6427973B2 (ja) | 2014-06-12 | 2014-06-12 | 画像認識装置及び画像認識装置への特徴量データ登録方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016001450A JP2016001450A (ja) | 2016-01-07 |
JP6427973B2 true JP6427973B2 (ja) | 2018-11-28 |
Family
ID=53284027
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014121908A Active JP6427973B2 (ja) | 2014-06-12 | 2014-06-12 | 画像認識装置及び画像認識装置への特徴量データ登録方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9740934B2 (ja) |
EP (1) | EP2955666B1 (ja) |
JP (1) | JP6427973B2 (ja) |
KR (1) | KR20150143304A (ja) |
CN (1) | CN105184304B (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10198483B2 (en) * | 2015-02-02 | 2019-02-05 | Opower, Inc. | Classification engine for identifying business hours |
CN109074484B (zh) * | 2016-03-02 | 2022-03-01 | 蒂诺克股份有限公司 | 用于有效率的面部识别的系统和方法 |
WO2017173168A1 (en) | 2016-03-30 | 2017-10-05 | Tinoq Inc. | Systems and methods for user detection and recognition |
CN107368770B (zh) * | 2016-05-12 | 2021-05-11 | 江苏安纳泰克能源服务有限公司 | 一种回头客自动识别方法及系统 |
JP6838903B2 (ja) * | 2016-09-13 | 2021-03-03 | 東芝テック株式会社 | 物品読取装置およびプログラム |
EP3549059A1 (en) * | 2016-11-30 | 2019-10-09 | Koninklijke Philips N.V. | Patient identification systems and methods |
US10621419B2 (en) * | 2016-12-06 | 2020-04-14 | Robert William Kocher | Method and system for increasing biometric acceptance rates and reducing false accept rates and false rates |
US11468592B2 (en) | 2017-03-30 | 2022-10-11 | Sony Corporation | Information processing apparatus and information processing method |
US11928895B2 (en) * | 2018-01-22 | 2024-03-12 | Lg Electronics Inc. | Electronic device and control method therefor |
WO2020041352A1 (en) | 2018-08-21 | 2020-02-27 | Tinoq Inc. | Systems and methods for member facial recognition based on context information |
WO2020084423A1 (en) * | 2018-10-24 | 2020-04-30 | Radient Technologies Innovations Inc. | Extraction-based contract execution |
KR102002024B1 (ko) * | 2018-12-06 | 2019-07-22 | 주식회사 아임클라우드 | 객체 라벨링 처리 방법 및 객체 관리 서버 |
US10621473B1 (en) * | 2019-01-30 | 2020-04-14 | StradVision, Inc. | Method for providing object detecting system capable of updating types of detectable classes in real-time by using continual learning and devices using the same |
CN109886182A (zh) * | 2019-02-19 | 2019-06-14 | 北方民族大学 | 一种复杂环境下的刹车盘识别与定位方法 |
CN110569777B (zh) * | 2019-08-30 | 2022-05-06 | 深圳市商汤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020136433A1 (en) * | 2001-03-26 | 2002-09-26 | Koninklijke Philips Electronics N.V. | Adaptive facial recognition system and method |
JP4314016B2 (ja) | 2002-11-01 | 2009-08-12 | 株式会社東芝 | 人物認識装置および通行制御装置 |
US8553949B2 (en) * | 2004-01-22 | 2013-10-08 | DigitalOptics Corporation Europe Limited | Classification and organization of consumer digital images using workflow, and face detection and recognition |
JP2005100062A (ja) * | 2003-09-24 | 2005-04-14 | Sanyo Electric Co Ltd | 認証装置および認証方法 |
CN1266642C (zh) * | 2003-10-09 | 2006-07-26 | 重庆大学 | 基于多类别的人脸分类识别方法 |
JP4697106B2 (ja) | 2006-09-25 | 2011-06-08 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP5010905B2 (ja) * | 2006-12-13 | 2012-08-29 | パナソニック株式会社 | 顔認証装置 |
JP4389956B2 (ja) * | 2007-04-04 | 2009-12-24 | ソニー株式会社 | 顔認識装置及び顔認識方法、並びにコンピュータ・プログラム |
JP5298552B2 (ja) * | 2008-02-04 | 2013-09-25 | 新日鐵住金株式会社 | 判別装置、判別方法及びプログラム |
JP4775515B1 (ja) * | 2011-03-14 | 2011-09-21 | オムロン株式会社 | 画像照合装置、画像処理システム、画像照合プログラム、コンピュータ読み取り可能な記録媒体、および画像照合方法 |
KR101180471B1 (ko) | 2011-09-27 | 2012-09-07 | (주)올라웍스 | 한정된 메모리 환경 하에서 얼굴 인식 성능 향상을 위한 참조 얼굴 데이터베이스 관리 방법, 장치 및 컴퓨터 판독 가능한 기록 매체 |
EP2795538A4 (en) * | 2011-12-21 | 2016-01-27 | Nokia Technologies Oy | PROCESS, DEVICE AND COMPUTER SOFTWARE FOR CONTEX IDENTIFICATION |
JP5900052B2 (ja) | 2012-03-15 | 2016-04-06 | オムロン株式会社 | 登録判定装置、その制御方法および制御プログラム、並びに電子機器 |
-
2014
- 2014-06-12 JP JP2014121908A patent/JP6427973B2/ja active Active
-
2015
- 2015-05-26 EP EP15169262.1A patent/EP2955666B1/en active Active
- 2015-05-27 CN CN201510280123.XA patent/CN105184304B/zh active Active
- 2015-05-27 KR KR1020150073698A patent/KR20150143304A/ko not_active Application Discontinuation
- 2015-05-29 US US14/725,411 patent/US9740934B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP2955666A1 (en) | 2015-12-16 |
CN105184304B (zh) | 2018-08-28 |
EP2955666B1 (en) | 2020-04-29 |
US9740934B2 (en) | 2017-08-22 |
JP2016001450A (ja) | 2016-01-07 |
CN105184304A (zh) | 2015-12-23 |
KR20150143304A (ko) | 2015-12-23 |
US20150363642A1 (en) | 2015-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6427973B2 (ja) | 画像認識装置及び画像認識装置への特徴量データ登録方法 | |
JP6268960B2 (ja) | 画像認識装置及び画像認識装置に対するデータ登録方法 | |
Othman et al. | A face recognition method in the Internet of Things for security applications in smart homes and cities | |
JP7132387B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
Prince et al. | Tied factor analysis for face recognition across large pose differences | |
CN109214373B (zh) | 一种用于考勤的人脸识别系统及方法 | |
Kak et al. | A review of person recognition based on face model | |
Sundaram et al. | Face recognition: demystification of multifarious aspect in evaluation metrics | |
US8842880B2 (en) | Information processing apparatus, method of controlling information processing apparatus, and storage medium | |
WO2018061786A1 (ja) | 生体認証装置 | |
JP2018128736A (ja) | 顔認証システム、顔認証方法、及び顔認証プログラム | |
Nguyen et al. | Reliable detection of eye features and eyes in color facial images using ternary eye-verifier | |
JP7337541B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
Sundaresan et al. | Monozygotic twin face recognition: An in-depth analysis and plausible improvements | |
Chowdhury et al. | Biometric authentication using facial recognition | |
Sehgal | Palm recognition using LBP and SVM | |
Guo et al. | Human face recognition using a spatially weighted Hausdorff distance | |
Shende et al. | Soft computing approach for feature extraction of palm biometric | |
Jain et al. | Face recognition | |
Kumar et al. | Introduction to Multimodal Biometrics using OpenCV | |
Patill et al. | A Survey of Artificial Intelligence Techniques Used in Biometric Systems | |
Shpir | Implementation of the face recognition system using deep learning methods | |
Gavkare et al. | Face Recognition Smart Attendance System:(InClass System) | |
Borkar et al. | Comparison of Real-Time Face Detection and Recognition Algorithms | |
Sghaier et al. | Biometric Recognition Systems: A Short Survey |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180425 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181002 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181015 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6427973 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |