JP7151875B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP7151875B2 JP7151875B2 JP2021508952A JP2021508952A JP7151875B2 JP 7151875 B2 JP7151875 B2 JP 7151875B2 JP 2021508952 A JP2021508952 A JP 2021508952A JP 2021508952 A JP2021508952 A JP 2021508952A JP 7151875 B2 JP7151875 B2 JP 7151875B2
- Authority
- JP
- Japan
- Prior art keywords
- person
- head
- movement
- motion
- index value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/40—Spoof detection, e.g. liveness detection
- G06V40/45—Detection of the body part being alive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Evolutionary Computation (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Description
(画像処理装置100)
図1は、本実施形態1に係わる画像処理装置100の構成を示すブロック図である。図1に示すように、画像処理装置100は、動き検出部104、および、指標値計算部106を備えている。動き検出部104は、動き検出手段の一例である。また、指標値計算部106は、指標値計算手段の一例である。
上述したように、指標値は、人物の頭部の動きと人物の体部の動きとの間の整合性の高さを示す。なりすましとは、人物が他人であるふりをする行為である。ここでは、人物が、印刷やディスプレイに表示させた他人の顔画像を用いて、なりすましを行う場合について説明する。
図3を参照して、本実施形態1に係わる画像処理装置100が実行する指標値計算処理について説明する。図3は、画像処理装置100による指標値計算処理の流れを示すフローチャートである。
本実施形態に構成によれば、動き検出部104は、人物の頭部の動きに関する特徴と、人物の頭部以外の部位である体部の動きに関する特徴とを検出する。指標値計算部106は、人物の頭部の動きに関する特徴と、体部の動きに関する特徴との間の整合性の高さを示す指標値を計算する。指標値は、なりすましを識別した結果を表す。
本実施形態2は、なりすましを識別した結果を表す指標値を算出するだけでなく、指標値に基づいて、人物がなりすましを行っているか否かを判定し、その判定結果を出力する構成を含む。なお本実施形態2で説明するなりすましスコアは、指標値に基づくパラメータの一例である。
図4を参照して、本実施形態2に係わる画像処理装置200の構成を説明する。図4は、画像処理装置200の構成を示すブロック図である。図4に示すように、画像処理装置200は、動き検出部210、指標値計算部230、および、なりすまし判定部240を備えている。動き検出部210は、動き検出手段の一例である。指標値計算部230は、指標値計算手段の一例である。なりすまし判定部240は、なりすまし判定手段の一例である。
例えば、統合特徴は、頭部の動き特徴を表す頭部の動きベクトルと、体部の動き特徴を表す頭部の動きベクトルとを連結したベクトルである。あるいは、統合特徴は、頭部の動き特徴と体部の動き特徴との加重和である。後者の場合、統合特徴は、以下の式(1)のように表されてもよい。ここで、頭部の追跡点の識別子を符号i(iは1以上の整数)で表し、体部の追跡点の識別子を符号j(jは1以上の整数)で表す。
式(1)において、F(i,j,xi,yj)は統合特徴であり、f(i)は頭部の追跡点iの動き特徴であり、g(j)は、体部の追跡点jの動き特徴である。xi,yjは、それぞれ、頭部の動き特徴の重み値、体部の動き特徴の重み値である。特徴統合部220が重み値xi,yjを設定する手法については後述する。
または、指標値計算部230は、統合特徴と標準値との距離を計算する。標準値は、なりすましを行っていない人物の頭部の動き特徴と体部の動き特徴との組み合わせから、式(1)にしたがって得られる統合特徴の代表的な値である。なお、標準値の一例を後で説明する。
特徴統合部220は、式(1)に示す統合特徴を生成するために、動き特徴f(i)、g(j)の重み値xi,yj(i、jは追跡点の識別子)を予め設定する必要がある。
本実施形態2に係わる指標値計算部230は、上述した指標値を計算するために、標準値を予め設定する。上述したように、標準値は、なりすましを行っていない人物の頭部の動き特徴と体部の動き特徴との組み合わせから、式(1)にしたがって得られる統合特徴の代表的な値である。例えば、標準値は、なりすましを行っていない人物の複数のサンプル画像から得られる統合特徴FB(xi,yj)(i、jは追跡点の識別子)の平均などの統計的な値であってもよい。
図5を参照して、なりすまし判定部240がなりすましを判定する手法の一例を説明する。図5は、特徴空間を示すグラフである。特徴空間は、N次元(N>1)のユークリッド空間である。図5は、N次元(N>1)のユークリッド空間を3次元で表している。特徴空間の各軸は、統合特徴に含まれる異なる特徴量と対応する。
図6を参照して、本実施形態2に係わる画像処理装置200が実行する動作について説明する。図6は、画像処理装置200による画像の取得から、なりすましの判定までの処理の流れを示すフローチャートである。
本実施形態の構成によれば、動き検出部210は、時系列の画像から、人物の頭部の動きに関する特徴と、人物の頭部以外の部位である体部の動きに関する特徴とを検出する。指標値計算部230は、人物の頭部の動きに関する特徴と、体部の動きに関する特徴との間の整合性の高さを示す指標値を計算する。
図7を参照して、実施形態3について以下で説明する。
前記実施形態1~2で説明した画像処理装置100、200の各構成要素は、機能単位のブロックを示している。これらの構成要素の一部又は全部は、例えば図7に示すような情報処理装置900により実現される。図7は、情報処理装置900のハードウェア構成の一例を示すブロック図である。
・ROM(Read Only Memory)902
・RAM(Random Access Memory)903
・RAM903にロードされるプログラム904
・プログラム904を格納する記憶装置905
・記録媒体906の読み書きを行うドライブ装置907
・通信ネットワーク909と接続する通信インターフェース908
・データの入出力を行う入出力インターフェース910
・各構成要素を接続するバス911
前記実施形態1~2で説明した画像処理装置100、200の各構成要素は、これらの機能を実現するプログラム904をCPU901が読み込んで実行することで実現される。各構成要素の機能を実現するプログラム904は、例えば、予め記憶装置905やROM902に格納されており、必要に応じてCPU901がRAM903にロードして実行される。なお、プログラム904は、通信ネットワーク909を介してCPU901に供給されてもよいし、予め記録媒体906に格納されており、ドライブ装置907が当該プログラムを読み出してCPU901に供給してもよい。
本実施形態の構成によれば、前記実施形態において説明した画像処理装置が、ハードウェアとして実現される。したがって、前記実施形態において説明した効果と同様の効果を奏することができる。
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2019年3月22日に出願された日本出願特願2019-055164を基礎とする優先権を主張し、その開示の全てをここに取り込む。
104 動き検出部
106 指標値計算部
200 画像処理装置
210 動き検出部
211 頭部検出部
212 体部検出部
215 頭部動き特徴抽出部
216 体部動き特徴抽出部
220 特徴統合部
230 指標値計算部
240 なりすまし判定部
Claims (10)
- 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出する動き検出手段と、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算する指標値計算手段と
を備え、
前記動き検出手段は、前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴とを統合することによって、一つの統合特徴を生成する特徴統合手段を含み、
前記指標値計算手段は、前記統合特徴から前記指標値を計算する
画像処理装置。 - 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出する動き検出手段と、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算する指標値計算手段と
を備え、
前記指標値に基づいて、前記人物が他人になりすましているか否かを判定するなりすまし判定手段をさらに備えた
画像処理装置。 - 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出する動き検出手段と、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算する指標値計算手段と
を備え、
前記動き検出手段は、ニューラルネットワークを用いて、前記時系列の画像から、前記人物の頭部の動きに関する特徴、および前記人物の頭部以外の部位の動きに関する特徴をそれぞれ検出する
画像処理装置。 - 前記指標値は、
前記人物の頭部が動く方向を示す動きベクトルと、前記人物の体部が動く方向を示す動きベクトルとの間の距離、
前記人物の頭部が動く方向を示す動きベクトルと、前記人物の体部が動く方向を示す動きベクトルとの間の角度、および、
前記人物の頭部が動く方向を示す動きベクトルと、前記人物の体部が動く方向を示す動きベクトルを入力とする、深層学習ニューラルネットワークで構成される関数の出力値、のうちいずれかである
ことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。 - 前記特徴統合手段は、前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との加重和を、前記統合特徴として計算する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記動き検出手段は、
前記時系列の画像から、前記人物の頭部を検出する頭部検出手段と、
前記時系列の画像から、前記人物の頭部以外の部位を検出する体部検出手段と、
前記時系列の画像における前記人物の頭部の検出結果から、前記人物の頭部の動きに関する特徴を抽出する頭部の動き特徴抽出手段と、
前記時系列の画像における前記人物の頭部の検出結果から、前記人物の体部の動きに関する特徴を抽出する体部の動き特徴抽出手段と、
を含む
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記人物の頭部の動きに関する特徴は、前記人物の頭部の動きベクトルを含み、
前記人物の体部の動きに関する特徴は、前記人物の体部の動きベクトルを含む
ことを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。 - 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出し、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算することを含み、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴とを検出するとき、前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴とを統合することによって、一つの統合特徴を生成し、
前記指標値を計算するとき、前記統合特徴から前記指標値を計算する
画像処理方法。 - 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出することと、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算することと
をコンピュータに実行させ、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴とを検出するとき、前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴とを統合することによって、一つの統合特徴を生成し、
前記指標値を計算するとき、前記統合特徴から前記指標値を計算する
ことをコンピュータに実行させるためのプログラム。 - 時系列の画像から、人物の頭部の動きに関する特徴と、前記人物の頭部以外の部位である体部の動きに関する特徴とを検出することと、
前記人物の頭部の動きに関する特徴と、前記人物の体部の動きに関する特徴との間の整合性の高さを示す指標値を計算することと
をコンピュータに実行させ、
前記指標値に基づいて、前記人物が他人になりすましているか否かを判定することをコンピュータにさらに実行させるためのプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019055164 | 2019-03-22 | ||
JP2019055164 | 2019-03-22 | ||
PCT/JP2020/009917 WO2020195732A1 (ja) | 2019-03-22 | 2020-03-09 | 画像処理装置、画像処理方法、およびプログラムが格納された記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020195732A1 JPWO2020195732A1 (ja) | 2020-10-01 |
JP7151875B2 true JP7151875B2 (ja) | 2022-10-12 |
Family
ID=72611360
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021508952A Active JP7151875B2 (ja) | 2019-03-22 | 2020-03-09 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11908157B2 (ja) |
EP (1) | EP3944188A4 (ja) |
JP (1) | JP7151875B2 (ja) |
CN (1) | CN113646806A (ja) |
WO (1) | WO2020195732A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113646806A (zh) * | 2019-03-22 | 2021-11-12 | 日本电气株式会社 | 图像处理设备、图像处理方法和存储程序的记录介质 |
US11682272B2 (en) * | 2020-07-07 | 2023-06-20 | Nvidia Corporation | Systems and methods for pedestrian crossing risk assessment and directional warning |
CN112329730B (zh) * | 2020-11-27 | 2024-06-11 | 上海商汤智能科技有限公司 | 视频检测方法、装置、设备及计算机可读存储介质 |
US20210397863A1 (en) * | 2021-09-03 | 2021-12-23 | Intel Corporation | Methods and devices for an occupant of a vehicle |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5061563B2 (ja) | 2006-09-29 | 2012-10-31 | オムロン株式会社 | 検出装置、生体判定方法、およびプログラム |
KR101159164B1 (ko) * | 2010-02-04 | 2012-06-22 | 목포대학교산학협력단 | 위조 영상 판별 장치 및 그 방법 |
US20140347479A1 (en) * | 2011-11-13 | 2014-11-27 | Dor Givon | Methods, Systems, Apparatuses, Circuits and Associated Computer Executable Code for Video Based Subject Characterization, Categorization, Identification, Tracking, Monitoring and/or Presence Response |
US10002297B2 (en) * | 2012-06-20 | 2018-06-19 | Imprivata, Inc. | Active presence detection with depth sensing |
JP2014006700A (ja) * | 2012-06-25 | 2014-01-16 | Mitsubishi Motors Corp | 歩行者検出装置 |
DE102013015600A1 (de) * | 2013-09-19 | 2015-03-19 | Mühlbauer Ag | Vorrichtung, System und Verfahren zum Identifizieren einer Person |
CN107111745A (zh) * | 2014-11-13 | 2017-08-29 | 英特尔公司 | 图像生物特征识别中的欺骗检测 |
US9842250B2 (en) * | 2015-05-13 | 2017-12-12 | Capital One Services, Llc | Systems and methods for authenticating a user based on captured image data |
CN106236060B (zh) * | 2015-06-04 | 2021-04-09 | 松下知识产权经营株式会社 | 生物体信息检测装置 |
US20180211096A1 (en) * | 2015-06-30 | 2018-07-26 | Beijing Kuangshi Technology Co., Ltd. | Living-body detection method and device and computer program product |
US10331945B2 (en) * | 2015-12-22 | 2019-06-25 | Intel Corporation | Fair, secured, and efficient completely automated public Turing test to tell computers and humans apart (CAPTCHA) |
US10990808B2 (en) * | 2016-02-09 | 2021-04-27 | Aware, Inc. | Face liveness detection using background/foreground motion analysis |
JP6773493B2 (ja) | 2016-09-14 | 2020-10-21 | 株式会社東芝 | 検出装置、検出方法、および検出プログラム |
JP2019023785A (ja) * | 2017-07-24 | 2019-02-14 | 富士ゼロックス株式会社 | 人物識別装置及びプログラム |
JP2019055164A (ja) | 2017-09-19 | 2019-04-11 | 浩志 伊藤 | 消灯時殺菌灯 |
US10796514B2 (en) * | 2017-10-13 | 2020-10-06 | Alcatraz AI, Inc. | System and method for optimizing a facial recognition-based system for controlling access to a building |
CN108875509A (zh) * | 2017-11-23 | 2018-11-23 | 北京旷视科技有限公司 | 活体检测方法、装置和系统及存储介质 |
CN113646806A (zh) * | 2019-03-22 | 2021-11-12 | 日本电气株式会社 | 图像处理设备、图像处理方法和存储程序的记录介质 |
-
2020
- 2020-03-09 CN CN202080023319.XA patent/CN113646806A/zh active Pending
- 2020-03-09 EP EP20777945.5A patent/EP3944188A4/en not_active Withdrawn
- 2020-03-09 US US17/437,476 patent/US11908157B2/en active Active
- 2020-03-09 WO PCT/JP2020/009917 patent/WO2020195732A1/ja active Application Filing
- 2020-03-09 JP JP2021508952A patent/JP7151875B2/ja active Active
Non-Patent Citations (1)
Title |
---|
仁田純一, 外4名,"頭部と腕の動きのタイミング構造を考慮した指示動作認識方式とその評価",電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2011年01月13日,第110巻, 第381号,p.199-204 |
Also Published As
Publication number | Publication date |
---|---|
CN113646806A (zh) | 2021-11-12 |
WO2020195732A1 (ja) | 2020-10-01 |
EP3944188A1 (en) | 2022-01-26 |
US20220156959A1 (en) | 2022-05-19 |
JPWO2020195732A1 (ja) | 2020-10-01 |
US11908157B2 (en) | 2024-02-20 |
EP3944188A4 (en) | 2022-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102596897B1 (ko) | 모션벡터 및 특징벡터 기반 위조 얼굴 검출 방법 및 장치 | |
JP7151875B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US10810423B2 (en) | Iris liveness detection for mobile devices | |
US10650261B2 (en) | System and method for identifying re-photographed images | |
KR102483642B1 (ko) | 라이브니스 검사 방법 및 장치 | |
JP5010905B2 (ja) | 顔認証装置 | |
US7912253B2 (en) | Object recognition method and apparatus therefor | |
JP5008269B2 (ja) | 情報処理装置、情報処理方法 | |
JP4156430B2 (ja) | データベース自動更新方法を用いた顔検証方法及びそのシステム | |
KR101612605B1 (ko) | 얼굴 특징점 추출 방법 및 이를 수행하는 장치 | |
JP2016081212A (ja) | 画像認識装置、画像認識方法、および、画像認識プログラム | |
KR20190016733A (ko) | 얼굴 특징점 기반 부분 영역 지정을 통한 부분 가림 얼굴 인식 방법, 이를 수행하기 위한 기록 매체 및 장치 | |
MX2012010602A (es) | Aparato para el reconocimiento de la cara y metodo para el reconocimiento de la cara. | |
JP6822482B2 (ja) | 視線推定装置、視線推定方法及びプログラム記録媒体 | |
JP6071002B2 (ja) | 信頼度取得装置、信頼度取得方法および信頼度取得プログラム | |
Pravallika et al. | SVM classification for fake biometric detection using image quality assessment: Application to iris, face and palm print | |
JP6410450B2 (ja) | オブジェクト識別装置、オブジェクト識別方法及びプログラム | |
US20220012474A1 (en) | Evaluating The Security Of A Facial Recognition System Using Light Projections | |
JP6852779B2 (ja) | 画像認識装置、画像認識方法、および、画像認識プログラム | |
Dhruva et al. | Novel algorithm for image processing based hand gesture recognition and its application in security | |
JP7120590B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
Amjed et al. | Noncircular iris segmentation based on weighted adaptive hough transform using smartphone database | |
CN112183357B (zh) | 一种基于深度学习的多尺度活体检测方法及系统 | |
US20230103555A1 (en) | Information processing apparatus, information processing method, and program | |
Sehgal | Palm recognition using LBP and SVM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210830 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210830 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220802 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220830 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220912 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7151875 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |