JP7316540B2 - 歩行者位置予測方法及び歩行者位置予測装置 - Google Patents

歩行者位置予測方法及び歩行者位置予測装置 Download PDF

Info

Publication number
JP7316540B2
JP7316540B2 JP2019087359A JP2019087359A JP7316540B2 JP 7316540 B2 JP7316540 B2 JP 7316540B2 JP 2019087359 A JP2019087359 A JP 2019087359A JP 2019087359 A JP2019087359 A JP 2019087359A JP 7316540 B2 JP7316540 B2 JP 7316540B2
Authority
JP
Japan
Prior art keywords
pedestrian
avoidance
course
obstacle
completion position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019087359A
Other languages
English (en)
Other versions
JP2020184135A (ja
Inventor
慎也 山崎
康秀 黒田
晃 舟久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2019087359A priority Critical patent/JP7316540B2/ja
Publication of JP2020184135A publication Critical patent/JP2020184135A/ja
Application granted granted Critical
Publication of JP7316540B2 publication Critical patent/JP7316540B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Description

本発明は、障害物を回避して進む歩行者の将来位置を予測するための方法及び装置に関する。
自動車等の車両の自動運転システムや運転支援システムにおいては、歩行者の将来の歩行を予測することにより、この予測に基づく車両の制御を行う技術が提案されてきている。例えば、特許文献1(特許第6172474号)には、歩行者の静止から一歩目までの体幹の前傾角度に基づいて、歩行者の将来位置を予測する車両用歩行者検出装置が提案されている。また、特許文献2(国際公開WO2016/098238)には、歩行者の身体の角度の変化から、歩行者の進行方向の変化を予測し、車両を制御する走行制御装置が提案されている。
特許第6172474号 国際公開WO2016/098238
ところで、歩道が整備されておらず、比較的狭い道路の単路部では、道路に沿って背面歩行または対面歩行している歩行者が路側障害物(例えば電柱等)を避ける為に車道側へ膨らみ、車と衝突する事故がしばしば発生する。このようなシチュエーションにおいて、多くのドライバは、歩行者のそのような行動変化を予想した上で、事故を未然に防ぐように運転操作を行っていると考えられるが、自動運転システムや運転支援システムにおいて、路側障害物を回避するための歩行者の歩行軌跡の変化を正確に予測することは困難であった。このため、路側障害物を回避する歩行者の将来行動を定量的に予測し得る汎用的な手法が求められていた。
本発明は、以上のような事情を勘案してなされたもので、その目的は、障害物を回避して進む歩行者の将来位置を適切に予測することができる歩行者位置予測方法及び装置を提供することである。
前記目的を達成するため、本発明にあっては、次のような解決方法を採択している。すなわち、請求項1に記載のように、進路を進む歩行者が障害物を回避して歩行する歩行位置を予測する歩行者位置予測装置において、前記歩行者及び前記障害物の位置を検出する検出手段と、前記障害物から前記歩行者の進路方向に直交する方向に所定のすれ違い距離だけ離間した地点を回避完了位置に設定する回避完了位置設定手段と、前記回避完了位置から前記障害物よりも手前側の前記歩行者の前記進路上に引いた直線が前記歩行者の進路方向となす角度が所定の交差角となる地点を回避開始位置に設定する回避開始位置設定手段と、前記回避完了位置から前記障害物よりも先の前記歩行者の前記進路上に引いた直線が前記歩行者の進路方向となす角度が所定の交差角となる地点を進路復帰完了位置に設定する進路復帰完了位置設定手段と、前記回避完了位置、前記回避開始位置及び前記進路復帰完了位置を極値とする多項式を算出し、歩行者の将来の歩行位置が、前記多項式が表す曲線上にあると推定する歩行者経路推定手段とを備えた。
上記解決手法によれば、所定の条件下で多項式の係数を算出するという、簡単で汎用性のある手法で、歩行者の予測される歩行軌跡を数式として表現することができる。したがって、本発明の歩行者位置予測装置を車載システムとした場合、歩行者の歩行軌跡を数秒先まで正確に予測することにより、車両と歩行者の衝突可能性を正確に予測することができる。
上記解決手法を前提とした好ましい態様は、特許請求の範囲における請求項2以下に記載の通りである。すなわち、前記歩行者経路推定手段は、前記障害物が複数存在し、前記障害物の数がn個である場合に、隣接する前記障害物の間の地点に経由点を設定し、前記回避完了位置、前記回避開始位置及び前記進路復帰完了位置に加えて前記経由点を極値とする多項式が表す曲線上に、前記歩行者の将来の歩行位置があると推定する(請求項2対応)。この場合、複数の障害物がある場合でも、汎用性のある手法で、歩行者の将来位置を精度よく数式で表現することができる。
歩行者経路推定手段は、隣接する前記障害物間の距離が所定の限界距離以下である場合に、当該隣接する障害物を1つの障害物と見做して前記多項式を算出する(請求項3対応)。この場合、障害物が近接している場合に、歩行者の将来位置を、より簡単な数式で、より精度よく表現することができる。
前記交差角として、10度以下の角度が設定されている(請求項4対応)。この場合、実際の歩行者軌跡に近い軌跡を推定することが可能となる。
本発明によれば、歩行者の予測される歩行軌跡を数式として表現することができるので、車両の自動運転システムや運転支援システムに適用することにより、車両と歩行者の衝突を適切に回避することができる。
本発明の基礎となる知見を説明するための図。 本発明による歩行者位置予測の概要を示す図。 本発明による歩行者位置予測例の概要示す図。 本発明の制御系の一例を示すブロック構成図。 本発明の制御例を示すフローチャート。
以下、添付図面に基づいて本発明の実施形態について説明する。
図1には、進路上に存在する路側障害物と対峙した歩行者の歩行経路に関して、本発明の基礎となる知見を説明するための図であり、歩行者Pが進路C上にある障害物Oを回避して歩行する場合の経路Tが示されている。ここで、進路Cは、歩行者Pの当初の進行方向に沿った直線であり、障害物Oは、この直線上に存在している。進路C上の初期位置S0から出発した歩行者Pは、障害物Oを回避するため、一時的に進路Cから逸脱した経路Tを通って、障害物Oを越えた後、進路C上の歩行目標位置SAに進む。
本発明者は、図1に示すような状況における歩行者の歩行について観察及び分析を行った結果、以下のような知見を得た。
(A)歩行者Pが路上障害物Oを回避する際に障害物Oとの間で横断方向に確保するマージン距離(すれ違い距離)は、歩行者毎に大きな差は無く、多くの歩行者に共通のすれ違い距離(概ね0.6m程度)を想定できる。なお、すれ違い距離Dは、障害物Oの最も歩行者Pに近い側の端部から歩行者までの距離となる。
(B)歩行者Pが路上障害物を回避する際は、5度程度の小さい角度での進行方向の変更を2回程度繰り返し(したがって、合計で10度程度の進行方向の変更を行い)、障害物Oの横方向にすれ違い距離だけ離れた地点(回避完了位置H2)に達することが多い。また、障害物Oを回避した歩行者Pは、回避完了位置で進行方向の変更を開始し、合計で10度程度の進行方向の変更で、元の歩行経路(進路C)に戻ることが多い。
(C)歩行者Pが障害物を回避するために行う程度の進行方向の変更では、変更の前後で進路Cの方向の速度成分はほとんど変化しない(進路Cに沿ってまっすぐ歩いている時の速度変動幅以内の変化しかない)。
図1には、このような知見に基づいて想定される歩行者Pの大まかな経路(歩行軌跡)Tが図示されている。図示されるように、初期位置S0から出発した歩行者Pは、回避開始位置H1(回避完了位置H2と10度の角度を成す地点)まで進路Cに沿って進んだ後、回避開始位置H1で進行方向の変更を開始し、回避完了位置H2において障害物O(例えば電柱)を回避した後、再び10度程度の進行方向変更を行い、進路復帰完了位置H3において進路Cに戻り、その後、進路Cに沿って歩行目標位置HAに至る。
次に、図2及び図3に基づいて、本発明における歩行者位置予測の概要について説明する。本発明は、上記のような知見を前提として、歩行者が障害物を回避する際に進むと予測される経路を、障害物が複数ある場合でも利用可能な数式で表すことを目指すものである。このため、本発明では、歩行者の歩行軌跡(歩行者のx座標とy座標との関係)を多項式によって表される曲線で近似するようにしている。以下、詳しく説明する。
図2には、1つの障害物Oを回避する歩行軌跡を多項式で近似した場合を示している。この場合、歩行者Pの歩行軌跡Tは、4次式で表せると考えられる。図2に示すように、歩行者Pの進路(当初の経路)Cをy軸とし、y軸を水平に横断する軸をx軸とすると、歩行軌跡の多項式は、以下の式(1)で表すことができる。
x=ay4+by3+cy2+dy+e …(1)
また、式(1)をyで微分すると、以下の式(2)が得られる。
x’=4ay3+3by2+2cy+d …(2)
多項式(1)の係数a、b、c、d、eを求めることを考えると、まず歩行軌跡Tは、回避開始位置H1の座標(x1,y1)と、回避完了位置H2の座標(x2,y2)、進路復帰位置H3の座標(x3,y3)を通過するので、各座標の値を式(1)に代入すると、以下の式(3)~(5)が得られる。
x1=ay14+by13+cy12+dy1+e …(3)
x2=ay24+by23+cy22+dy2+e …(4)
x3=ay34+by33+cy32+dy3+e …(5)
また、歩行軌跡Tは、回避開始位置H1、回避完了位置H2、進路復帰完了位置H3で極値をとるので、式(2)の右辺に回避開始位置のy座標y1と回避完了位置のy座標y2を代入し、式(2)の左辺を0とすると、以下の式(6)及び(式(7)が得られる。
0=4ay13+3by12+2cy1+d …(6)
0=4ay23+3by22+2cy2+d …(7)
なお、歩行軌跡Tは進路復帰完了位置H3でも極値をとるが、必要な式は5つで十分なので、今回の計算では、進路復帰完了位置は利用しない。
このようにして、5つの未知数(多項式の係数a、b、c、d、e)に対して、5つの式(3)~(7)が得られるので、連立方程式(3)~(7)を解くことにより、多項式の係数a~eを決定することができ、歩行軌跡Tを表す多項式を得ることができる。
また、歩行軌跡Tにおける程度の角度での進行方向の変更では、歩行者Pが進路Cに沿って直進する場合とy方向の速度はほとんど変化しないことから、歩行者のy座標はy方向の初速Vypと時間tとを用いて、以下の式(8)で算出できる。
y=Vyp*t …(8)
この式(8)と上記式(1)により、t秒後の歩行者の座標を予測可能となる。
障害物が複数である場合にも、同様の手法で、歩行者経路Tを表す多項式を得ることができる。図3(a)には、障害物が2個(障害物O1、O2)である場合の経路を、また図3(b)には、障害物が3個(障害物O3、O4、O5)である場合の経路を、それぞれ示している。
図示されるように、障害物が2個の場合には、歩行経路を表す多項式は、5つの極値H11~H15を有するものとなる。ここで、H11は回避開始位置、H12とH14は回避完了位置、H15は進路復帰完了位置であり、H6は、障害物O1とO2の間に設定された経由点である。
また、障害物が3個の場合には、歩行経路を表す多項式は、7つの極値H21~H27を有するものとなる。ここで、H21は回避開始位置、H12、H14、H16は回避完了位置、H17は進路復帰完了位置であり、H23、H25は、障害物O3とO4、O4とO5の間にそれぞれ設定された経由点である。
同様に、一般に障害物の個数をnとすると、回避開始後の歩行者軌跡を表す多項式は、極値の個数が(2n+1)となるようにすればよい。したがって、歩行者軌跡を表す多項式の次数は、(2n+2)次となり、決定すべき係数の数は(2n+3)個となる。よって、障害物が1個である場合と同様の手法をとることにより、係数を決定することができ、歩行者軌跡を表す多項式を得ることができる。なお、上記計算に用いる経由点としては、隣接する障害物の間の地点(例えば中間地点)の他、観測可能な情報に基づき決定でき、極値をとると想定し得る点を採用すればよい。
また、上記のような多項式導出において、隣接する障害物の間隔が短いとき(所定の限界距離より小さいとき)には、歩行者が障害物の間に入り込む経路は取らないと考え、隣り合う障害物を1つの障害物と1つの障害物と見做してもよい。これにより、求めるべき多項式の次数を少なくして、計算を簡素化しつつ、実際の歩行者経路に近い経路を求めることができる。
図4には、本発明の歩行者位置予測装置の制御系の一例をブロック構成図で示す。図示されるように、制御系は、カメラ1とコントローラUを備えている。カメラ1は、歩行者位置予測装置が搭載された車両の外部状況を撮影可能となっており、歩行軌跡の予測対象となる対象歩行者と、対象歩行者の進路上に存在する障害物の画像を撮影し、撮影された画像をコントローラUに送信する。
なお、カメラ1は、後述する画像分析手段11とともに歩行者及び障害物の位置を検出する検出手段を構成するものであるが、本発明における検出手段は、カメラ1に限定されるものではない。例えば、カメラ1の代わりに(又はカメラ1とともに)各種センサを用いるようにしてもよい。
コントローラUは、マイクロコンピュータを利用して構成された制御装置であり、処理手段(プログラム)として、画像分析手段11と、回避完了位置設定手段12と、回避開始位置設定手段13と、進路復帰完了位置設定手段14と、歩行者経路推定手段15とを備えている。
画像分析手段11は、カメラ1から取得した画像を分析して、予測対象となる歩行者及び障害物の位置を検出する手段であり、歩行者の位置を検出する歩行者位置検出手段21と、障害物の位置を検出する障害物検出手段22とを備えている。
回避完了位置設定手段12は、障害物の位置に基づいて、障害物から進路方向を横断する方向(y軸方向)に所定のすれ違い距離だけ離れた地点を算出し、この地点を回避完了位置に設定する。
回避開始位置設定手段13は、回避完了位置から障害物の手前側(現在の歩行者側)の歩行者の進路(x軸)上の地点に延びる直線が、x軸と所定の交差角を成すような地点を算出し、この地点を回避開始位置に設定する。また、進路復帰完了位置設定手段14は、回避完了位置から障害物の先(現在の歩行者と反対側)の歩行者の進路(x軸)上の地点に延びる直線が、x軸と所定の交差角を成すような地点を算出し、この地点を進路復帰完了位置に設定する。
歩行者経路推定手段15は、多項式導出手段23を備えている。多項式導出手段23は、歩行者の進路方向と進路方向を水平方向に横断する方向を含む平面(すなわち路面に対する水平面)に適切な座標系を設定し(例えば、歩行者の進路方向をy軸方向、進路方向と直交する進路横断方向をx軸方向とし)、この座標系において、回避開始位置、回避完了位置、進路復帰完了位置を極値とする多項式(障害物が1つの場合には4次の多項式)を算出する(回避開始位置、回避完了位置、進路復帰完了位置で極値をとるという条件で、多項式の係数を決定する)。歩行者経路推定手段15は、算出された多項式が表す曲線を、歩行者が障害物を回避するために歩行していく将来経路として予測する。
次に、図5のフローチャートにしたがって、本発明の歩行者位置予測方法の手順について説明する。歩行者位置予測においては、まずステップS1において、カメラ1からの画像データを取得する。続くステップS2においては、画像から歩行者が検出されたか否かの判定がなされ、歩行者が検出されなかった場合には、そのまま一巡の処理を終了する。
画像から歩行者が検出された場合には、ステップS3に進み、画像から歩行者の進路上に障害物が検出されたか否かの判定がなされ、検出されなかった場合には、そのまま一巡の処理を終了する。一方、障害物が検出された場合には、ステップS4に進む。
ステップS4においては、障害物の位置から回避完了位置を算出する。続くステップS5においては、ステップS4で求められた回避完了位置に基づいて、回避開始位置と進路復帰完了位置を算出する。ステップS6においては、回避開始位置、回避完了位置、進路復帰完了位置を極値とする多項式を算出し、この多項式に沿った曲線を歩行者経路と推定して、一巡の処理を終了する。
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではなく、特許請求の範囲に記載された範囲において適宜の変更が可能である。
本発明は、自動車等の車両の自動運転システムや運転支援システムにおいて、歩行者の位置を予測するために利用できる。
1 カメラ
11 画像分析手段
12 回避完了位置設定手段
13 回避開始位置設定手段
14 復帰予測位置設定手段
15 歩行者経路推定手段
21 歩行者検出手段
22 障害物検出手段
23 多項式導出手段

Claims (4)

  1. 進路を進む歩行者が障害物を回避して歩行する歩行位置を予測する歩行者位置予測装置において、
    前記歩行者及び前記障害物の位置を検出する検出手段と、
    前記障害物から前記歩行者の進路方向に直交する方向に所定のすれ違い距離だけ離間した地点を回避完了位置に設定する回避完了位置設定手段と、
    前記回避完了位置から前記障害物よりも手前側の前記歩行者の前記進路上に引いた直線が前記歩行者の進路方向となす角度が所定の交差角となる地点を回避開始位置に設定する回避開始位置設定手段と、
    前記回避完了位置から前記障害物よりも先の前記歩行者の前記進路上に引いた直線が前記歩行者の進路方向となす角度が所定の交差角となる地点を進路復帰完了位置に設定する進路復帰完了位置設定手段と、
    前記回避完了位置、前記回避開始位置及び前記進路復帰完了位置を極値とする多項式を算出し、歩行者の将来の歩行位置が、前記多項式が表す曲線上にあると推定する歩行者経路推定手段とを備えた歩行者位置予測装置。
  2. 請求項1に記載の歩行者位置予測装置において、
    前記歩行者経路推定手段は、前記障害物が複数存在し、前記障害物の数がn個である場合に、隣接する前記障害物の間の地点に経由点を設定し、前記回避完了位置、前記回避開始位置及び前記進路復帰完了位置に加えて前記経由点を極値とする多項式が表す曲線上に、前記歩行者の将来の歩行位置があると推定する歩行者位置予測装置。
  3. 請求項2に記載の歩行者位置予測装置において、
    前記歩行者経路推定手段は、隣接する前記障害物間の距離が所定の限界距離以下である場合に、当該隣接する障害物を1つの障害物と見做して前記多項式を算出する歩行者位置予測装置。
  4. 請求項1から請求項3のいずれか1項に記載の歩行者位置予測装置において、
    前記交差角として、10度以下の角度が設定されている歩行者位置予測装置。
JP2019087359A 2019-05-07 2019-05-07 歩行者位置予測方法及び歩行者位置予測装置 Active JP7316540B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019087359A JP7316540B2 (ja) 2019-05-07 2019-05-07 歩行者位置予測方法及び歩行者位置予測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019087359A JP7316540B2 (ja) 2019-05-07 2019-05-07 歩行者位置予測方法及び歩行者位置予測装置

Publications (2)

Publication Number Publication Date
JP2020184135A JP2020184135A (ja) 2020-11-12
JP7316540B2 true JP7316540B2 (ja) 2023-07-28

Family

ID=73044656

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019087359A Active JP7316540B2 (ja) 2019-05-07 2019-05-07 歩行者位置予測方法及び歩行者位置予測装置

Country Status (1)

Country Link
JP (1) JP7316540B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102537381B1 (ko) * 2021-04-01 2023-05-30 광주과학기술원 보행경로예측장치
CN114296455B (zh) * 2021-12-27 2023-11-10 东南大学 一种基于行人预测的移动机器人避障方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009175814A (ja) 2008-01-22 2009-08-06 Alpine Electronics Inc 車両運転支援装置
JP2013224094A (ja) 2012-04-23 2013-10-31 Nissan Motor Co Ltd 車両走行制御装置
JP2015014948A (ja) 2013-07-05 2015-01-22 スズキ株式会社 車両用運転支援装置
JP2016091039A (ja) 2014-10-29 2016-05-23 株式会社デンソー 危険予測装置、運転支援システム
JP2017047694A (ja) 2015-08-31 2017-03-09 日立オートモティブシステムズ株式会社 車両制御装置および車両制御システム
JP2018036877A (ja) 2016-08-31 2018-03-08 学校法人日本大学 回避経路推定装置、回避経路推定方法及び回避経路推定プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009175814A (ja) 2008-01-22 2009-08-06 Alpine Electronics Inc 車両運転支援装置
JP2013224094A (ja) 2012-04-23 2013-10-31 Nissan Motor Co Ltd 車両走行制御装置
JP2015014948A (ja) 2013-07-05 2015-01-22 スズキ株式会社 車両用運転支援装置
JP2016091039A (ja) 2014-10-29 2016-05-23 株式会社デンソー 危険予測装置、運転支援システム
JP2017047694A (ja) 2015-08-31 2017-03-09 日立オートモティブシステムズ株式会社 車両制御装置および車両制御システム
JP2018036877A (ja) 2016-08-31 2018-03-08 学校法人日本大学 回避経路推定装置、回避経路推定方法及び回避経路推定プログラム

Also Published As

Publication number Publication date
JP2020184135A (ja) 2020-11-12

Similar Documents

Publication Publication Date Title
US9229453B1 (en) Unified motion planner for autonomous driving vehicle in avoiding the moving obstacle
US9227632B1 (en) Method of path planning for evasive steering maneuver
CN106094812B (zh) 用于自主驾驶的反应式路径规划
US10414438B2 (en) Parking assistance device and parking assistance method
JP6829255B2 (ja) 障害物との衝突が切迫した状況におけるモーター式車両の操舵手段の制御システム
JP6747597B2 (ja) 運転支援車両の走行制御方法及び走行制御装置
US9911330B2 (en) Driving assistance device and driving assistance method
US9283967B2 (en) Accurate curvature estimation algorithm for path planning of autonomous driving vehicle
JP5167051B2 (ja) 車両の運転支援装置
US9499169B2 (en) Driving assistance device
US9708004B2 (en) Method for assisting a driver in driving an ego vehicle and corresponding driver assistance system
US9457807B2 (en) Unified motion planning algorithm for autonomous driving vehicle in obstacle avoidance maneuver
JP5124875B2 (ja) 車両走行支援装置、車両、車両走行支援プログラム
JP6363516B2 (ja) 車両の走行制御装置
WO2010035781A1 (ja) 車線判定装置及びナビゲーションシステム
KR20190113918A (ko) 운전 지원 방법 및 운전 지원 장치
US20210387617A1 (en) Method and Control Unit for Detecting a Vehicle Moving In or Out
JP2005524135A (ja) 車両における横ガイド支援方法及びその装置
JP7315039B2 (ja) 自動車の回避経路を求める方法
KR20190045308A (ko) 차량 판정 방법, 주행 경로 보정 방법, 차량 판정 장치, 및 주행 경로 보정 장치
JP7316540B2 (ja) 歩行者位置予測方法及び歩行者位置予測装置
US20210061356A1 (en) Vehicle control device
CA3064011C (en) Driving assistance method and driving assistance apparatus
JP2008059366A (ja) 操舵角決定装置、自動車及び操舵角決定方法
WO2020148561A1 (ja) 運転支援方法及び運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230629

R150 Certificate of patent or registration of utility model

Ref document number: 7316540

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150