JP6412998B1 - 動体追跡装置、動体追跡方法、動体追跡プログラム - Google Patents
動体追跡装置、動体追跡方法、動体追跡プログラム Download PDFInfo
- Publication number
- JP6412998B1 JP6412998B1 JP2017189397A JP2017189397A JP6412998B1 JP 6412998 B1 JP6412998 B1 JP 6412998B1 JP 2017189397 A JP2017189397 A JP 2017189397A JP 2017189397 A JP2017189397 A JP 2017189397A JP 6412998 B1 JP6412998 B1 JP 6412998B1
- Authority
- JP
- Japan
- Prior art keywords
- image frame
- position information
- candidate
- unit
- tracking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
- G06T2207/30224—Ball; Puck
Abstract
画像データを用いた動体の追跡であって、目的とする動体に外観的な際立った特徴が少なく、また、フレーム画像中に目的とする動体と同様の画像が複数存在するような場合であっても、高精度に動体を追跡する。
【解決手段】
所与の環境(例えば、卓球)における特定の特徴(例えば、ボールの動きは運動法則に従う、ボールは卓球台よりも上に位置する場合が多い、等)を画像データから評価して、目的とする動体に外観的な際立った特徴が少なく、また、フレーム画像中に目的とする動体と同様の画像が複数存在するような場合であっても、高精度に動体を追跡する。
【選択図】図1
Description
本実施形態に係る動体追跡装置は、画像を用いて動体を追跡する装置である。本実施形態に係る動体追跡装置は、例えば、卓球、ゴルフ、野球、バレーボール等の球技等においてボールの動きを追跡するような、定められたフィールド内において運動法則に従って運動する色彩や形状等の外観的に際立った特徴が少ない動体を高精度に追跡する装置に好適に採用されるものである。これは例示であって、運動競技のみに適用を限るものではない。
Qn(t)=Pn(t0)+Vn(t0)
ただし、以下の条件をすべて満たす場合はボールが卓球台の上方に位置する場合であり、バウンドを考慮して予測位置Qn(t)は次の数式で求められる。なお、Qn(t).XはQn(t)のX座標を、Qn(t).YはQn(t)のY座標を、Qn(t).ZはQn(t)のZ座標を、それぞれ表しており、以下において同様の表記法をとる。
Pn(t0).Z>0.76、かつ
−1.370≦Qn(t).X≦1.370、かつ
−0.7625≦Qn(t).Y≦0.7625、の場合
Qn(t)=(Qn(t).X,Qn(t).Y,|Qn(t).Z−0.76|+0.76)
S407の処理が終了すると、候補抽出処理(S409)に移行する。
Lmn(t)=exp(−Dmn(t)2)
−0.7625≦Y≦0.7625、かつ
Z≧0.76、の場合
Sp=1.0
−0.7625≦Y≦0.7625、かつ
Z≦0.76、の場合
Sp=0.0
Sp=exp(−(|X|−1.370)2)
Sp=exp(−(2(|Y|−0.7625)(|X|−1.370))2)
上記以外の場合、Sm=min{1.0,1−|V/30−1|}
第2実施形態に係る動体追跡装置は、第1実施形態に係る動体検出装置1と図1に示す構成は同じであり、図2に示す装置2として実現される点も同様である。機能において、第1実施形態に係る動体検出装置1と候補抽出部14の機能が相違するものである。従って、候補抽出部14を中心に説明し、第1実施形態との重複する説明は省略する。
第3実施形態に係る動体追跡装置は、第1実施形態に係る動体検出装置1と図1に示す構成は同じであり、図2に示す装置2として実現される点も同様である。機能において、第1実施形態に係る動体検出装置1と候補抽出部14の機能が相違するものである。従って、候補抽出部14を中心に説明し、第1実施形態との重複する説明は省略する。
10 情報入力部
11 位置情報生成部
12 候補位置保持部
13 位置予測部
14 候補抽出部
15 目標位置特定部
16 動体検出部
2 動体追跡装置を備える装置
21 カメラ
22 検出部
23 表示部
201 中央演算装置(CPU)
202 入力装置
203 出力装置
204 主記憶装置(RAM/ROM)
205 補助記憶装置
301 目標物体(競技に使用されているボール)
302 目標ではない物体(予備のボール)
303 目標ではない物体(床に転がっているボール)
304 目標ではない物体(観客の顔)
Claims (7)
- 画像データを用いて特定の特徴を持つ物体の所与の環境での動きを追跡する動体追跡装置であって、
画像フレーム内の前記画像データから検出された前記特定の特徴を持つすべての物体の位置情報を生成する位置情報生成部と、
前記画像フレームごとに追跡目標として尤もらしい前記物体の複数の候補の前記位置情報を保持する候補位置保持部と、
前記候補位置保持部が前記位置情報を保持する第1画像フレームの前記候補について、前記所与の環境による特有の情報であって座標系、前記追跡目標が存在する位置条件、前記第1画像フレームと連続する第2画像フレームでの予測位置算出式、前記追跡目標の存在確率分布に基づく位置スコア算出式及び前記追跡目標の速度に基づく運動スコア算出式から定まる運動モデルに基づいて、前記第2画像フレームでの予測位置情報を算出する位置予測部と、
前記第2画像フレーム内の前記画像データから前記位置情報生成部によって生成された前記位置情報と、前記位置予測部が算出した前記第2画像フレームでの前記予測位置情報と、から各々の組合せについて位置の一致度を示す尤度スコアを算出し、前記尤度スコアに基づいて前記第2画像フレームでの1ないし2以上の前記候補を抽出し、抽出された前記候補の位置情報を前記候補位置保持部に出力する候補抽出部と、
前記候補抽出部が抽出した前記候補の位置情報から、前記所与の環境から定まる前記運動モデルに基づいて算出された位置スコアと運動スコアの組み合わせから求められる前記追跡目標としての尤もらしさを示す評価スコアに基づいて、前記画像フレームにおける前記追跡目標である前記物体の位置情報を特定する目標位置特定部と、
前記目標位置特定部によって特定された前記物体の位置情報を、連続する前記画像フレームにおいてトレースすることで前記物体の動きを追跡する動体追跡部と、
を備えることを特徴とする動体追跡装置。 - 前記候補抽出部は、前記位置予測部が前記予測位置情報の算出の基礎とした前記第1画像フレームの前記候補が同じである前記第2画像フレームでの前記物体の候補の数に上限を定める請求項1に記載の動体追跡装置。
- 前記候補抽出部は、前記第1画像フレームの前記候補のすべてについて各々を基礎とした少なくとも一つの前記第2画像フレームでの前記候補を抽出する請求項1に記載の動体追跡装置。
- 前記候補抽出部は、前記尤度スコアが閾値以上でない前記第2画像フレームでの前記候補については前記候補から除外する請求項3に記載の動体追跡装置。
- 追跡の目標である前記物体が球技におけるボールである請求項1ないし請求項4のいずれか1項に記載の動体追跡装置。
- 画像データを用いて特定の特徴を持つ物体の所与の環境での動きを追跡する動体追跡方法であって、
画像フレーム内の前記画像データから検出された前記特定の特徴を持つすべての物体の位置情報を生成する位置情報生成ステップと、
前記画像フレームごとに追跡目標として尤もらしい前記物体の複数の候補の前記位置情報を保持する候補位置保持ステップと、
前記候補位置保持部が前記位置情報を保持する第1画像フレームの前記候補について、前記所与の環境による特有の情報であって座標系、前記追跡目標が存在する位置条件、前記第1画像フレームと連続する第2画像フレームでの予測位置算出式、前記追跡目標の存在確率分布に基づく位置スコア算出式及び前記追跡目標の速度に基づく運動スコア算出式から定まる運動モデルに基づいて、前記第2画像フレームでの予測位置情報を算出する位置予測ステップと、
前記第2画像フレーム内の前記画像データから前記位置情報生成部によって生成された前記位置情報と、前記位置予測部が算出した前記第2画像フレームでの前記予測位置情報と、から各々の組合せについて位置の一致度を示す尤度スコアを算出し、前記尤度スコアに基づいて前記第2画像フレームでの1ないし2以上の前記候補を抽出し、抽出された前記候補の位置情報を前記候補位置保持部に出力する候補抽出ステップと、
前記候補抽出部が抽出した前記候補の位置情報から、前記所与の環境から定まる前記運動モデルに基づいて算出された位置スコアと運動スコアの組み合わせから求められる前記追跡目標としての尤もらしさを示す評価スコアに基づいて、前記画像フレームにおける前記追跡目標である前記物体の位置情報を特定する目標位置特定ステップと、
前記目標位置特定部によって特定された前記物体の位置情報を、連続する前記画像フレームにおいてトレースすることで前記物体の動きを追跡する動体追跡ステップと、
を備えることを特徴とする動体追跡方法。 - コンピュータを、画像データを用いて特定の特徴を持つ物体の所与の環境での動きを追跡ように機能させる動体追跡プログラムであって、
画像フレーム内の前記画像データから検出された前記特定の特徴を持つすべての物体の位置情報を生成する位置情報生成部、
前記画像フレームごとに追跡目標として尤もらしい前記物体の複数の候補の前記位置情報を保持する候補位置保持部、
前記候補位置保持部が前記位置情報を保持する第1画像フレームの前記候補について、前記所与の環境による特有の情報であって座標系、前記追跡目標が存在する位置条件、前記第1画像フレームと連続する第2画像フレームでの予測位置算出式、前記追跡目標の存在確率分布に基づく位置スコア算出式及び前記追跡目標の速度に基づく運動スコア算出式から定まる運動モデルに基づいて、前記第2画像フレームでの予測位置情報を算出する位置予測部、
前記第2画像フレーム内の前記画像データから前記位置情報生成部によって生成された前記位置情報と、前記位置予測部が算出した前記第2画像フレームでの前記予測位置情報と、から各々の組合せについて位置の一致度を示す尤度スコアを算出し、前記尤度スコアに基づいて前記第2画像フレームでの1ないし2以上の前記候補を抽出し、抽出された前記候補の位置情報を前記候補位置保持部に出力する候補抽出部、
前記候補抽出部が抽出した前記候補の位置情報から、前記所与の環境から定まる前記運動モデルに基づいて算出された位置スコアと運動スコアの組み合わせから求められる前記追跡目標としての尤もらしさを示す評価スコアに基づいて、前記画像フレームにおける前記追跡目標である前記物体の位置情報を特定する目標位置特定部、
前記目標位置特定部によって特定された前記物体の位置情報を、連続する前記画像フレームにおいてトレースすることで前記物体の動きを追跡する動体追跡部、
として機能させることを特徴とする動体追跡プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017189397A JP6412998B1 (ja) | 2017-09-29 | 2017-09-29 | 動体追跡装置、動体追跡方法、動体追跡プログラム |
KR1020180115747A KR102078473B1 (ko) | 2017-09-29 | 2018-09-28 | 동체 추적 장치, 동체 추적 방법, 동체 추적 프로그램 |
US16/146,222 US10909688B2 (en) | 2017-09-29 | 2018-09-28 | Moving body tracking device, moving body tracking method, and moving body tracking program |
CN201811148680.6A CN109584268B (zh) | 2017-09-29 | 2018-09-29 | 移动体跟踪装置、移动体跟踪方法及计算机可读记录介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017189397A JP6412998B1 (ja) | 2017-09-29 | 2017-09-29 | 動体追跡装置、動体追跡方法、動体追跡プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6412998B1 true JP6412998B1 (ja) | 2018-10-24 |
JP2019066974A JP2019066974A (ja) | 2019-04-25 |
Family
ID=63920550
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017189397A Active JP6412998B1 (ja) | 2017-09-29 | 2017-09-29 | 動体追跡装置、動体追跡方法、動体追跡プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10909688B2 (ja) |
JP (1) | JP6412998B1 (ja) |
KR (1) | KR102078473B1 (ja) |
CN (1) | CN109584268B (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6659524B2 (ja) * | 2016-11-18 | 2020-03-04 | 株式会社東芝 | 移動体追跡装置、表示装置および移動体追跡方法 |
JP6894707B2 (ja) * | 2017-01-06 | 2021-06-30 | キヤノン株式会社 | 情報処理装置およびその制御方法、プログラム |
US10957068B2 (en) * | 2017-01-06 | 2021-03-23 | Canon Kabushiki Kaisha | Information processing apparatus and method of controlling the same |
JP6579727B1 (ja) * | 2019-02-04 | 2019-09-25 | 株式会社Qoncept | 動体検出装置、動体検出方法、動体検出プログラム |
CN112955712A (zh) * | 2020-04-28 | 2021-06-11 | 深圳市大疆创新科技有限公司 | 目标跟踪方法、设备及存储介质 |
US20220203166A1 (en) | 2020-12-31 | 2022-06-30 | Vrotein Inc. | Putting guide system |
CN114612522B (zh) * | 2022-05-09 | 2023-01-17 | 广东金融学院 | 乒乓球运动参数检测方法、装置及乒乓球训练辅助系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008535038A (ja) * | 2005-04-01 | 2008-08-28 | ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド | カメラによりシーンに関して取得された映像中の移動物体を追跡する方法 |
JP2008250999A (ja) * | 2007-03-08 | 2008-10-16 | Omron Corp | 対象物追跡方法、対象物追跡装置および対象物追跡プログラム |
JP2010257441A (ja) * | 2009-04-21 | 2010-11-11 | Nec Soft Ltd | 人物追跡装置及び人物追跡方法並びに人物追跡処理プログラム |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0795461A (ja) * | 1993-09-25 | 1995-04-07 | Sony Corp | 目標追尾装置 |
US7035431B2 (en) * | 2002-02-22 | 2006-04-25 | Microsoft Corporation | System and method for probabilistic exemplar-based pattern tracking |
JP5213486B2 (ja) * | 2008-03-14 | 2013-06-19 | 株式会社ソニー・コンピュータエンタテインメント | 対象物追跡装置および対象物追跡方法 |
JP5635736B2 (ja) * | 2009-02-19 | 2014-12-03 | 株式会社ソニー・コンピュータエンタテインメント | 情報処理装置および情報処理方法 |
US20120281197A1 (en) | 2010-01-27 | 2012-11-08 | Asml Netherlands B.V. | Holographic Mask Inspection System with Spatial Filter |
KR101434768B1 (ko) * | 2010-02-19 | 2014-08-27 | 가부시끼가이샤 도시바 | 이동 물체 추적 시스템 및 이동 물체 추적 방법 |
JP4784709B1 (ja) * | 2011-03-10 | 2011-10-05 | オムロン株式会社 | 対象物追跡装置、対象物追跡方法、および制御プログラム |
US8989448B2 (en) | 2011-03-22 | 2015-03-24 | Morpho, Inc. | Moving object detecting device, moving object detecting method, moving object detection program, moving object tracking device, moving object tracking method, and moving object tracking program |
JP5841390B2 (ja) * | 2011-09-30 | 2016-01-13 | セコム株式会社 | 移動物体追跡装置 |
DE102013204935A1 (de) * | 2013-03-20 | 2014-09-25 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Erstellen einer Aufnahme eines gepulst aufleuchtenden Objekts |
JP6273685B2 (ja) * | 2013-03-27 | 2018-02-07 | パナソニックIpマネジメント株式会社 | 追尾処理装置及びこれを備えた追尾処理システム並びに追尾処理方法 |
WO2014201639A1 (zh) | 2013-06-19 | 2014-12-24 | 成都优阳机电产品设计有限公司 | 具有弹性保护套的转动机构 |
CN104794733B (zh) * | 2014-01-20 | 2018-05-08 | 株式会社理光 | 对象跟踪方法和装置 |
JP6663848B2 (ja) | 2014-08-04 | 2020-03-13 | パナソニック株式会社 | 移動体追跡方法および移動体追跡装置 |
JP6628494B2 (ja) * | 2015-04-17 | 2020-01-08 | Kddi株式会社 | 実空間情報によって学習する識別器を用いて物体を追跡する装置、プログラム及び方法 |
JP2016207140A (ja) * | 2015-04-28 | 2016-12-08 | Kddi株式会社 | 映像解析装置、映像解析方法、およびプログラム |
WO2017045116A1 (en) * | 2015-09-15 | 2017-03-23 | SZ DJI Technology Co., Ltd. | System and method for supporting smooth target following |
CN106920248A (zh) * | 2017-01-19 | 2017-07-04 | 博康智能信息技术有限公司上海分公司 | 一种目标跟踪方法及装置 |
-
2017
- 2017-09-29 JP JP2017189397A patent/JP6412998B1/ja active Active
-
2018
- 2018-09-28 US US16/146,222 patent/US10909688B2/en active Active
- 2018-09-28 KR KR1020180115747A patent/KR102078473B1/ko active IP Right Grant
- 2018-09-29 CN CN201811148680.6A patent/CN109584268B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008535038A (ja) * | 2005-04-01 | 2008-08-28 | ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド | カメラによりシーンに関して取得された映像中の移動物体を追跡する方法 |
JP2008250999A (ja) * | 2007-03-08 | 2008-10-16 | Omron Corp | 対象物追跡方法、対象物追跡装置および対象物追跡プログラム |
JP2010257441A (ja) * | 2009-04-21 | 2010-11-11 | Nec Soft Ltd | 人物追跡装置及び人物追跡方法並びに人物追跡処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN109584268A (zh) | 2019-04-05 |
KR102078473B1 (ko) | 2020-02-17 |
JP2019066974A (ja) | 2019-04-25 |
CN109584268B (zh) | 2023-05-23 |
KR20190038409A (ko) | 2019-04-08 |
US10909688B2 (en) | 2021-02-02 |
US20190122370A1 (en) | 2019-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6412998B1 (ja) | 動体追跡装置、動体追跡方法、動体追跡プログラム | |
Huang et al. | Tracknet: A deep learning network for tracking high-speed and tiny objects in sports applications | |
Kamel et al. | Deep convolutional neural networks for human action recognition using depth maps and postures | |
JP6525453B2 (ja) | オブジェクト位置推定システム、及びそのプログラム | |
CN109670474B (zh) | 一种基于视频的人体姿态估计方法、装置及设备 | |
JP6950692B2 (ja) | 人流推定装置、人流推定方法およびプログラム | |
CN109214265B (zh) | 图像处理装置、其图像处理方法及存储介质 | |
CN110738101A (zh) | 行为识别方法、装置及计算机可读存储介质 | |
JP4956273B2 (ja) | 投球球種識別装置、識別器生成装置、投球球種識別プログラム及び識別器生成プログラム | |
EP2930690B1 (en) | Apparatus and method for analyzing a trajectory | |
JP2020038440A (ja) | 動作認識方法及び装置 | |
JP6525542B2 (ja) | 異常検知方法、異常検知装置、及びプログラム | |
US11157749B2 (en) | Crowd state recognition device, learning method, and learning program | |
JP6425847B1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2018181273A (ja) | 画像処理装置及びその方法、プログラム | |
Karmaker et al. | Cricket shot classification using motion vector | |
CN104881640A (zh) | 一种获取向量的方法及装置 | |
JP6381368B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US20230095568A1 (en) | Object tracking device, object tracking method, and program | |
JP2017033556A (ja) | 画像処理方法及び電子機器 | |
JP6393495B2 (ja) | 画像処理装置および物体認識方法 | |
Dziri et al. | Late fusion of multiple convolutional layers for pedestrian detection | |
KR20150144179A (ko) | 영상에서 대상체 부위의 위치를 추정하기 위한 방법 및 장치 | |
Tran et al. | Action recognition in the frequency domain | |
Dong et al. | Gesture recognition using quadratic curves |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180727 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180816 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180821 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180910 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181001 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6412998 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |