JP6932971B2 - 動体追跡方法、動体追跡プログラム、および動体追跡システム - Google Patents
動体追跡方法、動体追跡プログラム、および動体追跡システム Download PDFInfo
- Publication number
- JP6932971B2 JP6932971B2 JP2017077058A JP2017077058A JP6932971B2 JP 6932971 B2 JP6932971 B2 JP 6932971B2 JP 2017077058 A JP2017077058 A JP 2017077058A JP 2017077058 A JP2017077058 A JP 2017077058A JP 6932971 B2 JP6932971 B2 JP 6932971B2
- Authority
- JP
- Japan
- Prior art keywords
- moving body
- moving
- candidate
- moving object
- movement prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
前記現在フレームで前記動体となる可能性のある動体候補を検出する段階(b)と、
前記移動予測範囲と前記動体候補とを検索して、前記移動予測範囲が複数あり、かつ、複数の前記移動予測範囲の一部が重複する重複領域がある場合に、当該重複領域よりも先に、前記移動予測範囲が重複しない領域から前記動体候補を検索して、前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c)と、
関連付けされた前記動体候補および前記動体、ならびに関連付けされた前記動体と対応している前記移動予測範囲を検索対象から除外する段階(d)と、
を有する、動体追跡方法。
(2)前記段階(c)は、さらに、前記移動予測範囲が重複しない領域に1つの前記動体候補のみが存在する場合は、前記移動予測範囲が重複しない領域の元になった前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c2)を有する、上記(1)に記載の動体追跡方法。
(3)前記段階(c)は、さらに前記移動予測範囲が重複しない領域内にある前記動体候補と前記動体との関連度をあらかじめ定められた第1の指標により調べる段階(c1)を有し、
前記第1の指標により調べた関連度が所定以上の場合に前記動体候補と前記動体とを関連付ける、上記(1)または(2)に記載の動体追跡方法。
(4)前記第1の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせである、上記(3)に記載の動体追跡方法。
(5)前記移動予測範囲が複数ある場合に前記移動予測範囲が重複する1つの領域に前記動体候補がある場合は、前記動体候補とそれぞれの前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(e)を有する、上記(1)〜(4)のいずれか1つに記載の動体追跡方法。
(6)前記移動予測範囲が重複しない1つの領域に複数の前記動体候補がある場合は、前記複数の前記動体候補のそれぞれと、前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(f)を有する、上記(1)〜(5)のいずれか1つに記載の動体追跡方法。
(7)前記第2の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせであり、
前記動体と前記動体候補との間の距離は、短いものほど前記関連度が高いと判断し、
前記動体の移動速度は、前記動体が前記動体候補へ移動したと仮定した場合の前記動体候補の仮定の移動速度を算出し、当該仮定の移動速度が、複数の過去フレームから算出される前記動体の移動速度に近いものほど前記関連度が高いと判断し、
前記画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離は、前記画像取得センサーから前記動体までの方向および距離と、前記画像取得センサーから前記動体候補までの方向および距離のそれぞれの値が近いものほど前記関連度が高いと判断し、
前記動体と前記動体候補のサイズは、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補が占める画素数は、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補の色は、近いほど前記関連度が高いと判断する、上記(5)または(6)に記載の動体追跡方法。
前記現在フレームで前記動体となる可能性のある動体候補を検出する段階(b)と、
前記移動予測範囲と前記動体候補とを検索して、前記移動予測範囲が複数ある場合に、前記移動予測範囲が重複しない領域に1つの前記動体候補のみが存在する場合は、前記移動予測範囲が重複しない領域の元になった前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c)と、
関連付けされた前記動体候補および前記動体、ならびに関連付けされた前記動体と対応している前記移動予測範囲を検索対象から除外する段階(d)と、
前記移動予測範囲が複数ある場合に前記移動予測範囲が重複する1つの領域に前記動体候補がある場合は、前記動体候補とそれぞれの前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(e)を有する、動体追跡方法。
(9)前記段階(c)は、さらに前記移動予測範囲が重複しない領域内にある前記動体候補と前記動体との関連度をあらかじめ定められた第1の指標により調べる段階(c1)を有し、
前記第1の指標により調べた関連度が所定以上の場合に前記動体候補と前記動体とを関連付ける、上記(8)に記載の動体追跡方法。
前記動体と前記動体候補との間の距離は、短いものほど前記関連度が高いと判断し、
前記動体の移動速度は、前記動体が前記動体候補へ移動したと仮定した場合の前記動体候補の仮定の移動速度を算出し、当該仮定の移動速度が、複数の過去フレームから算出される前記動体の移動速度に近いものほど前記関連度が高いと判断し、
前記画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離は、前記画像取得センサーから前記動体までの方向および距離と、前記画像取得センサーから前記動体候補までの方向および距離のそれぞれの値が近いものほど前記関連度が高いと判断し、
前記動体と前記動体候補のサイズは、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補が占める画素数は、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補の色は、近いほど前記関連度が高いと判断する、上記(8)〜(11)のいずれか一つに記載の動体追跡方法。
前記動体を中心として、あらかじめ定められた一定速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、動画を取得する画像取得センサーの設置環境に応じてあらかじめ決められた速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、前記動体の種類に応じてあらかじめ決められた速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、複数の過去フレームから求めた前記動体の速度とフレーム間時間から求めた距離を半径とする円または球、
前記あらかじめ決められた一定速度、前記画像取得センサーの設置環境に応じてあらかじめ決められた速度、前記動体の種類に応じてあらかじめ決められた速度、前記複数の過去フレームから求めた前記動体の速度のいずれかを基にした前記動体の現在フレームにおける到達予想点を中心とし、
あらかじめ決められた一定の加速度、前記画像取得センサーの設置環境に応じてあらかじめ決められた加速度、動体の種類に応じてあらかじめ決められた加速度、および複数の過去フレームから求めた前記動体の加速度のいずれかにフレーム間時間の2乗を掛けた求めた距離を半径とする円または球、ならびに、
複数の過去フレームから求めた前記動体の移動方向と速度のベクトルを長軸方向として、所定の大きさの楕円または回転楕円体、
のうちいずれかの範囲である、上記(1)〜(13)のいずれか1つに記載の動体追跡方法。
上記(19)に記載のプログラムを実行するコンピューターと、
を有する、動体追跡システム。
上述した処理手順では、移動予測範囲をその境界で分割した領域に着目して検索した。これに限らず、たとえば、動体候補に着目して検索してもよい。
次に、レーザーレーダーについて説明する。
102 動体追跡装置、
103 サーバー。
Claims (20)
- 時系列に沿って複数のフレームが並んでいる動画の、現在フレームより前の過去フレームで識別されている1または複数の動体が前記現在フレームでどこまで移動するかを予測した移動予測範囲を前記動体ごとに求める段階(a)と、
前記現在フレームで前記動体となる可能性のある動体候補を検出する段階(b)と、
前記移動予測範囲と前記動体候補とを検索して、前記移動予測範囲が複数あり、かつ、複数の前記移動予測範囲の一部が重複する重複領域がある場合に、当該重複領域よりも先に、前記移動予測範囲が重複しない領域から前記動体候補を検索して、前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c)と、
関連付けされた前記動体候補および前記動体、ならびに関連付けされた前記動体と対応している前記移動予測範囲を検索対象から除外する段階(d)と、
を有する、動体追跡方法。 - 前記段階(c)は、さらに、前記移動予測範囲が重複しない領域に1つの前記動体候補のみが存在する場合は、前記移動予測範囲が重複しない領域の元になった前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c2)を有する、請求項1に記載の動体追跡方法。
- 前記段階(c)は、さらに前記移動予測範囲が重複しない領域内にある前記動体候補と前記動体との関連度をあらかじめ定められた第1の指標により調べる段階(c1)を有し、
前記第1の指標により調べた関連度が所定以上の場合に前記動体候補と前記動体とを関連付ける、請求項1または2に記載の動体追跡方法。 - 前記第1の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせである、請求項3に記載の動体追跡方法。
- 前記移動予測範囲が複数ある場合に前記移動予測範囲が重複する1つの領域に前記動体候補がある場合は、前記動体候補とそれぞれの前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(e)を有する、請求項1〜4のいずれか1つに記載の動体追跡方法。
- 前記移動予測範囲が重複しない1つの領域に複数の前記動体候補がある場合は、前記複数の前記動体候補のそれぞれと、前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(f)を有する、請求項1〜5のいずれか1つに記載の動体追跡方法。
- 前記第2の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせであり、
前記動体と前記動体候補との間の距離は、短いものほど前記関連度が高いと判断し、
前記動体の移動速度は、前記動体が前記動体候補へ移動したと仮定した場合の前記動体候補の仮定の移動速度を算出し、当該仮定の移動速度が、複数の過去フレームから算出される前記動体の移動速度に近いものほど前記関連度が高いと判断し、
前記画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離は、前記画像取得センサーから前記動体までの方向および距離と、前記画像取得センサーから前記動体候補までの方向および距離のそれぞれの値が近いものほど前記関連度が高いと判断し、
前記動体と前記動体候補のサイズは、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補が占める画素数は、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補の色は、近いほど前記関連度が高いと判断する、請求項5または6に記載の動体追跡方法。 - 時系列に沿って複数のフレームが並んでいる動画の、現在フレームより前の過去フレームで識別されている1または複数の動体が前記現在フレームでどこまで移動するかを予測した移動予測範囲を前記動体ごとに求める段階(a)と、
前記現在フレームで前記動体となる可能性のある動体候補を検出する段階(b)と、
前記移動予測範囲と前記動体候補とを検索して、前記移動予測範囲が複数ある場合に、前記移動予測範囲が重複しない領域に1つの前記動体候補のみが存在する場合は、前記移動予測範囲が重複しない領域の元になった前記移動予測範囲に対応している前記動体と前記動体候補を関連付ける段階(c)と、
関連付けされた前記動体候補および前記動体、ならびに関連付けされた前記動体と対応している前記移動予測範囲を検索対象から除外する段階(d)と、
前記移動予測範囲が複数ある場合に前記移動予測範囲が重複する1つの領域に前記動体候補がある場合は、前記動体候補とそれぞれの前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(e)を有する、動体追跡方法。 - 前記段階(c)は、さらに前記移動予測範囲が重複しない領域内にある前記動体候補と前記動体との関連度をあらかじめ定められた第1の指標により調べる段階(c1)を有し、
前記第1の指標により調べた関連度が所定以上の場合に前記動体候補と前記動体とを関連付ける、請求項8に記載の動体追跡方法。 - 前記第1の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせである、請求項9に記載の動体追跡方法。
- 前記移動予測範囲が重複しない1つの領域に複数の前記動体候補がある場合は、前記複数の前記動体候補のそれぞれと、前記動体との関連度をあらかじめ定められた第2の指標により調べ、前記第2の指標により調べた関連度がもっとも高い前記動体候補と前記動体とを関連付ける段階(f)を有する、請求項8〜10のいずれか1つに記載の動体追跡方法。
- 前記第2の指標は、前記動体と前記動体候補との間の距離、前記動体および前記動体候補の移動速度、画像を取得している画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離、前記動体および前記動体候補のサイズ、前記動体および前記動体候補が占める画素数、前記動体および前記動体候補の色、から選択された1つまたは2つ以上の組み合わせであり、
前記動体と前記動体候補との間の距離は、短いものほど前記関連度が高いと判断し、
前記動体の移動速度は、前記動体が前記動体候補へ移動したと仮定した場合の前記動体候補の仮定の移動速度を算出し、当該仮定の移動速度が、複数の過去フレームから算出される前記動体の移動速度に近いものほど前記関連度が高いと判断し、
前記画像取得センサーから前記動体までと前記動体候補までのそれぞれの方向および距離は、前記画像取得センサーから前記動体までの方向および距離と、前記画像取得センサーから前記動体候補までの方向および距離のそれぞれの値が近いものほど前記関連度が高いと判断し、
前記動体と前記動体候補のサイズは、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補が占める画素数は、近いほど前記関連度が高いと判断し、
前記動体および前記動体候補の色は、近いほど前記関連度が高いと判断する、請求項8〜11のいずれか一つに記載の動体追跡方法。 - 前記動体と前記動体候補との間の距離は、前記距離が近いもののうち、前記距離が閾値以上である場合に関連付ける、請求項7または12に記載の動体追跡方法。
- 前記移動予測範囲は、
前記動体を中心として、あらかじめ定められた一定速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、動画を取得する画像取得センサーの設置環境に応じてあらかじめ決められた速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、前記動体の種類に応じてあらかじめ決められた速度とフレーム間時間から求めた距離を半径とする円または球、
前記動体を中心として、複数の過去フレームから求めた前記動体の速度とフレーム間時間から求めた距離を半径とする円または球、
前記あらかじめ決められた一定速度、前記画像取得センサーの設置環境に応じてあらかじめ決められた速度、前記動体の種類に応じてあらかじめ決められた速度、前記複数の過去フレームから求めた前記動体の速度のいずれかを基にした前記動体の現在フレームにおける到達予想点を中心とし、
あらかじめ決められた一定の加速度、前記画像取得センサーの設置環境に応じてあらかじめ決められた加速度、動体の種類に応じてあらかじめ決められた加速度、および複数の過去フレームから求めた前記動体の加速度のいずれかにフレーム間時間の2乗を掛けた求めた距離を半径とする円または球、ならびに、
複数の過去フレームから求めた前記動体の移動方向と速度のベクトルを長軸方向として、所定の大きさの楕円または回転楕円体、
のうちいずれかの範囲である、請求項1〜13のいずれか1つに記載の動体追跡方法。 - 前記動画を取得する画像取得センサーの検知範囲内に境界がある場合、当該境界の外側に前記動体が存在するものとして、前記移動予測範囲として設定する請求項1〜14のいずれか1つに記載の動体追跡方法。
- 前記境界は、前記検知範囲内にある静止物の境界であって、前記静止物の影に前記動体が存在するものとして前記移動予測範囲を設定する、請求項15に記載の動体追跡方法。
- 前記フレームは、3次元計測可能なレーザーレーダーで取得した距離画像である、請求項1〜16のいずれか1つに記載の動体追跡方法。
- 前記動体、前記移動予測範囲、前記動体候補を画面に表示する段階を有する、請求項1〜17のいずれか1つに記載の動体追跡方法。
- 請求項1〜18のいずれか1つに記載の動体追跡方法をコンピューターに実行させる動体追跡プログラム。
- 時系列に沿って画像を取得する画像取得センサーと、
請求項19に記載のプログラムを実行するコンピューターと、
を有する、動体追跡システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017077058A JP6932971B2 (ja) | 2017-04-07 | 2017-04-07 | 動体追跡方法、動体追跡プログラム、および動体追跡システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017077058A JP6932971B2 (ja) | 2017-04-07 | 2017-04-07 | 動体追跡方法、動体追跡プログラム、および動体追跡システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018180788A JP2018180788A (ja) | 2018-11-15 |
JP6932971B2 true JP6932971B2 (ja) | 2021-09-08 |
Family
ID=64276710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017077058A Active JP6932971B2 (ja) | 2017-04-07 | 2017-04-07 | 動体追跡方法、動体追跡プログラム、および動体追跡システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6932971B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114929919B (zh) | 2020-01-09 | 2023-05-05 | 日铁不锈钢株式会社 | 奥氏体系不锈钢钢材 |
KR102279754B1 (ko) * | 2020-02-10 | 2021-07-20 | 주식회사 서울로보틱스 | 충돌 사고 방지 방법, 장치, 서버, 및 컴퓨터 프로그램 |
JP7333546B2 (ja) * | 2020-07-06 | 2023-08-25 | 株式会社ハイシンク創研 | 物体認識装置及びこれを用いた物体搬送システム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0863602A (ja) * | 1994-08-19 | 1996-03-08 | Fuji Electric Co Ltd | 物体追跡装置 |
JP3732757B2 (ja) * | 2001-06-08 | 2006-01-11 | 株式会社東芝 | 画像認識方法および画像認識装置 |
JP2004046647A (ja) * | 2002-07-12 | 2004-02-12 | Univ Waseda | 動画像データに基づく移動物体追跡方法及び装置 |
JP4802112B2 (ja) * | 2007-02-08 | 2011-10-26 | 株式会社東芝 | トラッキング方法及びトラッキング装置 |
JP5349367B2 (ja) * | 2010-02-26 | 2013-11-20 | セコム株式会社 | 移動物体追跡装置 |
JP5754990B2 (ja) * | 2011-03-09 | 2015-07-29 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
-
2017
- 2017-04-07 JP JP2017077058A patent/JP6932971B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018180788A (ja) | 2018-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Martin-Martin et al. | Jrdb: A dataset and benchmark of egocentric robot visual perception of humans in built environments | |
US11821987B2 (en) | Multiple resolution, simultaneous localization and mapping based on 3-D LIDAR measurements | |
EP3283843B1 (en) | Generating 3-dimensional maps of a scene using passive and active measurements | |
WO2021253430A1 (zh) | 绝对位姿确定方法、电子设备及可移动平台 | |
KR101829556B1 (ko) | 객체 움직임의 라이더 기반 분류 기법 | |
EP3252657B1 (en) | Information processing device and information processing method | |
WO2021072710A1 (zh) | 移动物体的点云融合方法、系统及计算机存储介质 | |
US20160328860A1 (en) | Occlusion-Robust Visual Object Fingerprinting using Fusion of Multiple Sub-Region Signatures | |
JP6932971B2 (ja) | 動体追跡方法、動体追跡プログラム、および動体追跡システム | |
JP2008523371A (ja) | 携帯型測量装置および測量方法 | |
EP3358366A1 (en) | Light detection and ranging device | |
CN112384891A (zh) | 用于点云着色的方法和系统 | |
JP2019101000A (ja) | 測距点群データ測定システム、および制御プログラム | |
WO2022198637A1 (zh) | 点云滤噪方法、系统和可移动平台 | |
US9062969B1 (en) | Surface distance determination using reflected light | |
CN113768419B (zh) | 确定扫地机清扫方向的方法、装置及扫地机 | |
RU2679923C1 (ru) | Способ получения пространственной модели окружающей обстановки в режиме реального времени на основе данных лазерной локации и устройство для его осуществления | |
KR20220039623A (ko) | 레이더 고도각 측정 | |
US20230215019A1 (en) | Systems and methods for detecting movement of at least one non-line-of-sight object | |
JP2018181114A (ja) | 侵入監視方法、侵入監視プログラム、および侵入監視装置 | |
JP6898587B2 (ja) | 物体追跡方法、物体追跡プログラム、および物体追跡システム | |
Godil et al. | 3D ground-truth systems for object/human recognition and tracking | |
CN111007521B (zh) | 一种激光主动探测系统及目标识别方法 | |
KR102050756B1 (ko) | 초소형 표적 탐지기 | |
Hutchinson et al. | Simulation-based analysis of range and cross-range resolution requirements for the identification of vehicles in ladar imagery |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200318 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210427 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210617 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210720 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210802 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6932971 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |