JP2020095350A - 支援装置、支援方法およびプログラム - Google Patents
支援装置、支援方法およびプログラム Download PDFInfo
- Publication number
- JP2020095350A JP2020095350A JP2018231164A JP2018231164A JP2020095350A JP 2020095350 A JP2020095350 A JP 2020095350A JP 2018231164 A JP2018231164 A JP 2018231164A JP 2018231164 A JP2018231164 A JP 2018231164A JP 2020095350 A JP2020095350 A JP 2020095350A
- Authority
- JP
- Japan
- Prior art keywords
- blind spot
- wearable device
- support device
- user
- situation information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/945—User interactive design; Environments; Toolboxes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/052—Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed
Abstract
Description
〔支援システムの構成〕
図1は、実施の形態1に係る支援システムの概略構成を示す模式図である。図2は、実施の形態1に係るウェアラブル装置の概略構成を示す図である。図3は、実施の形態1に係るウェアラブル装置の機能構成を示すブロック図である。
まず、ウェアラブル装置1の構成について説明する。図1〜図3に示すように、ウェアラブル装置1は、撮像装置11と、9軸センサ12と、視線センサ13と、投影部14と、GPS(Global Positioning System)センサ15と、装着センサ16と、通信部17と、制御部18と、を備える。本例題では、9軸センサ12としているが3及び6軸で可能であれば少機能であっても良い。
次に、サーバ2の構成について説明する。サーバ2は、通信部201と、制御部202と、を備える。
次に、ウェアラブル装置1が実行する処理について説明する。図4は、ウェアラブル装置1が実行する処理の概要を示すフローチャートである。
次に、実施の形態2について説明する。実施の形態2に係る支援システムは、上述した実施の形態1に係る支援システム1000と同一の構成を有し、ウェアラブル装置が実行する処理が異なる。以下においては、ウェアラブル装置が実行する処理について説明する。なお、上述した実施の形態1に係る支援システム1000と同一の部分には同一の符号を付して詳細な説明は省略する。
図7は、実施の形態2に係るウェアラブル装置1が実行する処理の概要を示すフローチャートである。図7において、ステップS201〜ステップS206は、上述した図4のステップS101〜ステップS106それぞれに対応する。
次に、実施の形態3について説明する。実施の形態3に係る支援システムは、上述した実施の形態1に係る支援システム1000と同一の構成を有し、ウェアラブル装置が実行する処理が異なる。以下においては、ウェアラブル装置が実行する処理について説明する。なお、上述した実施の形態1に係る支援システム1000と同一の部分には同一の符号を付して詳細な説明は省略する。
図9は、実施の形態3に係るウェアラブル装置1が実行する処理の概要を示すフローチャートである。図9において、ステップS301〜ステップS306は、上述した図4のステップS101〜ステップS106それぞれに対応する。
次に、実施の形態3の変形例について説明する。図11は、実施の形態3の変形例に係る制御部18が投影部14に出力する死角状況情報の一例を模式的に示す図である。
次に、実施の形態4について説明する。上述した実施の形態1〜3では、ウェアラブル装置1がネットワーク4を介してサーバ2から画像データを取得していたが、実施の形態4に係る支援システムでは、車両内に設けられたECU(Electronic Control Unit)とウェアラブル装置とが連携しながらECUがウェアラブル装置へ死角状況情報を出力することによってウェアラブル装置が死角状況情報を投影して表示する。なお、上述した実施の形態1に係る支援システム1000と同一の構成には同一の符号を付して詳細な説明は省略する。
図12は、実施の形態4に係る支援システムの概略構成を示す図である。図13は、実施の形態4に係る支援システムの機能構成を示すブロック図である。
支援装置6の構成について説明する。図12および図13に示す支援装置6は、車両600に搭載され、この車両600に搭載された他のECUと連携しながら車両600内の運転者に対して運転時や駐車時の安全を支援する。支援装置6は、イグニッションスイッチ60(以下、「IGスイッチ60」という)と、車速センサ61と、視線センサ62と、撮像装置63と、通信部64と、カーナビゲーションシステム65と、ECU66と、を備える。
次に、支援装置6が実行する処理について説明する。図14は、支援装置6が実行する処理の概要を示すフローチャートである。
次に、実施の形態5について説明する。上述した実施の形態4では、支援装置のECU66がウェアラブル装置1へ死角状況情報を送信していたが、実施の形態3では、サーバがウェアラブル装置に死角状況情報を送信する。なお、上述した実施の形態4に係る支援システム1001と同一の構成には同一の符号を付して詳細な説明は省略する。
次に、サーバ2Aの構成について説明する。サーバ2Aは、通信部201と、制御部202Aと、を備える。
実施の形態1〜5では、運転者が装着可能な眼鏡型のウェアラブル装置1を用いた例を説明していたが、これに限定されることなく、種々のウェアラブル装置に適用することができる。例えば図23に示すように撮像機能を有するコンタクトレンズ型のウェアラブル装置1Aであっても適用することができる。さらに、図24のウェアラブル装置1Bまたは図25の脳内チップ型のウェアラブル装置1CのようにユーザU1の脳へ直接的に伝達する装置であっても適用することができる。さらにまた、図26のウェアラブル装置1Dのようにバイザーを備えたヘルメット形状に構成されてもよい。この場合は、ウェアラブル装置1Dは、バイザーに画像を投影して表示するものであってもよい。
2,2A サーバ
3 基地局
4 ネットワーク
5 GPS衛星
6 支援装置
11,63 撮像装置
12 9軸センサ
13 視線センサ
14 投影部
15 GPSセンサ
16 装着センサ
17,64 通信部
18 制御部
60 IGスイッチ
61 車速センサ
62 視線センサ
65 カーナビゲーションシステム
66 ECU
201 通信部
202,202A 制御部
600 車両
1000,1001,1002 支援システム
A1〜A4,A10,A11,A12 死角状況情報
Claims (15)
- ウェアラブル装置と通信可能な支援装置であって、
メモリと、
ハードウェアを有するプロセッサと、
を備え、
前記プロセッサは、
前記ウェアラブル装置を装着したユーザの視線に関する視線情報を取得し、
前記視線情報に基づいて、前記ユーザの視野領域内で遮蔽物により遮蔽された死角領域の状況を示す死角状況情報を生成し、
前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項1に記載の支援装置であって、
前記プロセッサは、
前記死角状況情報が前記ユーザの視線と一致する領域に表示されるように前記ウェアラブル装置へ前記死角状況情報を出力する、
支援装置。 - 請求項1または2に記載の支援装置であって、
前記プロセッサは、
前記死角領域を撮像した画像データを取得し、
前記画像データに基づいて、前記死角領域に物体が存在するか否かを判定し、
前記物体が存在すると判定した場合、前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3に記載の支援装置であって、
前記プロセッサは、
時間的に連続する複数の前記画像データを順次取得し、
前記死角領域に前記物体が存在すると判定した場合、複数の前記画像データに基づいて、前記物体が移動体であるか否かを判定し、
前記物体が移動体であると判定した場合、前記移動体に応じた前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項4に記載の支援装置であって、
前記プロセッサは、
前記物体が移動体であると判定した場合、複数の前記画像データに基づいて、前記移動体の速度を算出し、
前記移動体と当該支援装置との相対速度に応じた前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3〜5のいずれか一つに記載の支援装置であって、
前記プロセッサは、
前記画像データを用いて前記死角状況情報を生成し、
前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3〜6のいずれか一つに記載の支援装置であって、
前記プロセッサは、
前記視線情報に基づいて、前記ユーザが前記遮蔽物を注視したときの注視領域を検出し、
前記死角状況情報が前記注視領域に表示されるように前記ウェアラブル装置へ前記死角状況情報を出力する、
支援装置。 - 請求項7に記載の支援装置であって、
前記プロセッサは、
前記ユーザが前記注視領域に対して注視した注視時間が所定時間以上であるか否かを判定し、
前記注視時間が所定時間以上である場合、前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3〜8のいずれか一つに記載の支援装置であって、
前記プロセッサは、
前記遮蔽物を撮像した画像データを取得し、
前記遮蔽物を撮像した画像データと前記死角領域を撮像した画像データとを所定の比率で合成した合成画像データを生成し、
前記合成画像データに対応する合成画像を前記死角状況情報として前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3〜8のいずれか一つに記載の支援装置であって、
前記プロセッサは、
前記画像データに対応する画像を前記死角状況情報として前記ウェアラブル装置へ出力する、
支援装置。 - 請求項10に記載の支援装置であって、
前記プロセッサは、
前記遮蔽物を撮像した画像データと前記死角領域を撮像した画像データとに基づいて、前記遮蔽物を仮想的に円柱状、円錐状および球状のいずれかにくり抜いた開口部を有する画像を生成し、
前記画像を前記死角状況情報として前記ウェアラブル装置へ出力する、
支援装置。 - 請求項3〜11のいずれか一つに記載の支援装置であって、
前記プロセッサは、
当該支援装置が搭載された車両の車速に関する車速情報を取得し、
前記車速情報に基づいて、前記車両の車速が所定速度以下であるか否かを判定し、
前記車両の車速が前記所定速度以下である場合、前記死角状況情報を前記ウェアラブル装置へ出力する、
支援装置。 - ユーザが装着可能な支援装置であって、
メモリと、
ハードウェアを有するプロセッサと、
を備え、
前記プロセッサは、
前記ユーザの視線に関する視線情報を取得し、
前記視線情報に基づいて、前記ユーザの視野領域内で遮蔽物により遮蔽された死角領域の状況を示す死角状況情報を生成し、
前記死角状況情報を出力する、
支援装置。 - ウェアラブル装置と通信可能な支援装置が実行する支援方法であって、
前記ウェアラブル装置を装着したユーザの視線に関する視線情報を取得し、
メモリから読み出した前記視線情報に基づいて、前記ユーザの視野領域内で遮蔽物により遮蔽された死角領域の状況を示す死角状況情報を生成し、
前記死角状況情報を前記ウェアラブル装置へ出力する、
支援方法。 - ウェアラブル装置と通信可能な支援装置に実行させるプログラムであって、
前記ウェアラブル装置を装着したユーザの視線に関する視線情報を取得し、
前記視線情報に基づいて、前記ユーザの視野領域内で遮蔽物により遮蔽された死角領域の状況を示す死角状況情報を生成し、
前記死角状況情報を前記ウェアラブル装置へ出力する、
プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018231164A JP7147527B2 (ja) | 2018-12-10 | 2018-12-10 | 支援装置、支援方法およびプログラム |
US16/700,031 US11393196B2 (en) | 2018-12-10 | 2019-12-02 | Line of sight assistance device and method |
CN201911254711.0A CN111292555A (zh) | 2018-12-10 | 2019-12-10 | 支援装置、支援方法以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018231164A JP7147527B2 (ja) | 2018-12-10 | 2018-12-10 | 支援装置、支援方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020095350A true JP2020095350A (ja) | 2020-06-18 |
JP7147527B2 JP7147527B2 (ja) | 2022-10-05 |
Family
ID=70971066
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018231164A Active JP7147527B2 (ja) | 2018-12-10 | 2018-12-10 | 支援装置、支援方法およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11393196B2 (ja) |
JP (1) | JP7147527B2 (ja) |
CN (1) | CN111292555A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7433542B1 (ja) | 2023-02-24 | 2024-02-19 | 三菱電機株式会社 | 遠隔監視装置、遠隔監視システム、及び、遠隔監視方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022084136A (ja) * | 2020-11-26 | 2022-06-07 | 株式会社東海理化電機製作所 | 無線通信装置、システムおよびプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002286459A (ja) * | 2001-03-28 | 2002-10-03 | Nissan Motor Co Ltd | 車両用死角モニタの制御装置 |
WO2009119110A1 (ja) * | 2008-03-27 | 2009-10-01 | パナソニック株式会社 | 死角表示装置 |
JP2014035560A (ja) * | 2012-08-07 | 2014-02-24 | Nissan Motor Co Ltd | 飛び出し検出装置 |
WO2017145645A1 (ja) * | 2016-02-25 | 2017-08-31 | 富士フイルム株式会社 | 運転支援装置、運転支援方法、及び、運転支援プログラム |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4329525B2 (ja) | 2003-12-16 | 2009-09-09 | 株式会社エクォス・リサーチ | 車外情報表示装置 |
US20060016398A1 (en) | 2004-05-28 | 2006-01-26 | Laurent Dubost | Supporting and lifting device for substrates in vacuum |
JP4797588B2 (ja) | 2005-11-17 | 2011-10-19 | アイシン精機株式会社 | 車両周辺表示装置 |
JP4935571B2 (ja) | 2007-08-08 | 2012-05-23 | 株式会社デンソー | 運転支援装置 |
JP5053776B2 (ja) * | 2007-09-14 | 2012-10-17 | 株式会社デンソー | 車両用視界支援システム、車載装置、及び、情報配信装置 |
JP2009184648A (ja) * | 2008-02-11 | 2009-08-20 | Aisin Aw Co Ltd | 運転支援装置、運転支援方法及びプログラム |
JP2010175329A (ja) | 2009-01-28 | 2010-08-12 | Mitsubishi Electric Corp | 車載情報装置 |
JP2011213184A (ja) | 2010-03-31 | 2011-10-27 | Equos Research Co Ltd | シースルー表示装置 |
JP5516998B2 (ja) | 2011-06-09 | 2014-06-11 | アイシン精機株式会社 | 画像生成装置 |
JP6077214B2 (ja) | 2012-02-06 | 2017-02-08 | 富士通テン株式会社 | 画像処理装置、画像処理方法、プログラム、及び画像処理システム |
KR102028720B1 (ko) * | 2012-07-10 | 2019-11-08 | 삼성전자주식회사 | 위험 요소에 대한 정보를 디스플레이하는 투명 디스플레이 장치 및 그 방법 |
DE102012022819A1 (de) * | 2012-11-17 | 2014-05-22 | GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) | Verfahren und Vorrichtungen zur Ausgabe von Informationen in einem Kraftfahrzeug |
JP6380002B2 (ja) | 2014-10-28 | 2018-08-29 | アイシン精機株式会社 | 周辺監視装置 |
WO2017136014A2 (en) | 2015-11-13 | 2017-08-10 | Flir Systems, Inc. | Video sensor fusion and model based virtual and augmented reality systems and methods |
CN106448220B (zh) * | 2016-09-27 | 2019-03-22 | 宇龙计算机通信科技(深圳)有限公司 | 一种告警的方法及虚拟现实眼镜 |
KR102366723B1 (ko) * | 2016-10-11 | 2022-02-23 | 삼성전자주식회사 | 운송 수단으로 시야 확보 영상을 제공하는 방법, 이를 위한 전자 장치 및 컴퓨터 판독 가능한 기록 매체 |
US10552690B2 (en) * | 2016-11-04 | 2020-02-04 | X Development Llc | Intuitive occluded object indicator |
CN107215275B (zh) * | 2017-05-27 | 2019-07-26 | 吉利汽车研究院(宁波)有限公司 | 视图显示方法、视图显示装置及汽车 |
JP6504529B1 (ja) * | 2017-10-10 | 2019-04-24 | マツダ株式会社 | 車両用表示装置 |
US10474916B2 (en) * | 2017-11-20 | 2019-11-12 | Ashok Krishnan | Training of vehicles to improve autonomous capabilities |
-
2018
- 2018-12-10 JP JP2018231164A patent/JP7147527B2/ja active Active
-
2019
- 2019-12-02 US US16/700,031 patent/US11393196B2/en active Active
- 2019-12-10 CN CN201911254711.0A patent/CN111292555A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002286459A (ja) * | 2001-03-28 | 2002-10-03 | Nissan Motor Co Ltd | 車両用死角モニタの制御装置 |
WO2009119110A1 (ja) * | 2008-03-27 | 2009-10-01 | パナソニック株式会社 | 死角表示装置 |
JP2014035560A (ja) * | 2012-08-07 | 2014-02-24 | Nissan Motor Co Ltd | 飛び出し検出装置 |
WO2017145645A1 (ja) * | 2016-02-25 | 2017-08-31 | 富士フイルム株式会社 | 運転支援装置、運転支援方法、及び、運転支援プログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7433542B1 (ja) | 2023-02-24 | 2024-02-19 | 三菱電機株式会社 | 遠隔監視装置、遠隔監視システム、及び、遠隔監視方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111292555A (zh) | 2020-06-16 |
JP7147527B2 (ja) | 2022-10-05 |
US11393196B2 (en) | 2022-07-19 |
US20200184220A1 (en) | 2020-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11351918B2 (en) | Driver-assistance device, driver-assistance system, method of assisting driver, and computer readable recording medium | |
US20190373238A1 (en) | Immersive display and method of operating immersive display for real-world object alert | |
US10838205B2 (en) | Head mounted display, control method thereof, and computer program | |
JP4981566B2 (ja) | 運転支援装置および運転支援方法 | |
JP5277974B2 (ja) | 運転支援装置 | |
CN111284498B (zh) | 驾驶支援装置、系统、方法、可穿戴装置以及存储介质 | |
JP2009043003A (ja) | 運転支援装置 | |
WO2019058785A1 (ja) | レンズ鏡筒及び撮像装置 | |
US11648878B2 (en) | Display system and display method | |
KR20200131820A (ko) | 화상 표시 시스템, 정보 처리 장치, 정보 처리 방법, 프로그램, 및 이동체 | |
US11418909B2 (en) | Driver-assistance device, wearable device, driver-assistance method, and computer-readable recording medium | |
JP7147527B2 (ja) | 支援装置、支援方法およびプログラム | |
JPWO2018159113A1 (ja) | 電子機器 | |
KR20170116895A (ko) | 고글 또는 헬멧에 탈부착 가능한 헤드업 디스플레이 장치 | |
CN112915549B (zh) | 图像处理装置、显示系统、记录介质以及图像处理方法 | |
US11376514B2 (en) | Experience system, experience providing method, and computer readable recording medium | |
JP2019056884A (ja) | 重畳画像表示装置 | |
JP2007104036A (ja) | 表示装置 | |
JP6805974B2 (ja) | 走行支援装置及びコンピュータプログラム | |
JP2019066564A (ja) | 表示装置、表示制御方法、及びプログラム | |
JP2014172554A (ja) | カメラ付き表示装置 | |
JP2009190613A (ja) | 車載表示装置 | |
WO2023063066A1 (ja) | 支援情報提供方法及び記録媒体 | |
CN113085884A (zh) | 移动体控制装置、移动体控制方法及存储介质 | |
JP2019068143A (ja) | 表示装置、表示制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210322 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220216 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220407 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220823 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220905 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7147527 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |