JP6385139B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP6385139B2 JP6385139B2 JP2014110353A JP2014110353A JP6385139B2 JP 6385139 B2 JP6385139 B2 JP 6385139B2 JP 2014110353 A JP2014110353 A JP 2014110353A JP 2014110353 A JP2014110353 A JP 2014110353A JP 6385139 B2 JP6385139 B2 JP 6385139B2
- Authority
- JP
- Japan
- Prior art keywords
- orientation
- free viewpoint
- terminal
- information processing
- virtual camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Description
また、1台以上のカメラを用いて、任意の位置から任意の方向を見たときの見え方を再現する、自由視点映像と呼ばれる技術が知られている。特許文献2には、1台以上のカメラによってプレイヤーの位置を同定して3次元モデルを生成し、3次元モデルのビューを変更することで自由視点映像を生成する方法が開示されている。また、非特許文献1には、複数のカメラからの映像を入力として任意の自由視点映像を生成する手法が開示されている。
なお、情報処理システムが生成する映像の種類は実施形態に限定されるものではない。他の例としては、情報処理システムは、スタジアムやコンサートホールに設置されたカメラにより撮影された撮影映像から自由視点映像を生成してもよい。
110は、自由視点カメラである。フィールド130又はその周辺には、複数台の自由視点カメラ110が設置されている。複数台の自由視点カメラ110は、フィールド130周辺の任意の位置から、任意の方向を向いたときの見え方を再現する自由視点映像を生成するためのカメラアレイである。
また、120は、ライブリプレイカメラである。ライブリプレイカメラ120も同様に、観客席140又はその周辺に設置されている。ライブリプレイカメラ120は、携帯端末100にストリーミングするライブ映像やリプレイ映像を撮影するためのカメラである。ライブリプレイカメラ120は、例えば、テレビ中継で使われる映像を撮影するカメラ等プロのカメラマンが操作し、試合を説明するための映像を撮影するものである。
101は、配信装置である。配信装置101は、自由視点カメラ110やライブリプレイカメラ120から映像を取得し、携帯端末100に配信する。
配信装置101は、CPU201と、ROM202と、RAM203と、HDD204と、表示部205と、入力部206と、ネットワークI/F部207とを有している。CPU201は、ROM202に記憶された制御プログラムを読み出して各種処理を実行する。RAM203は、CPU201の主メモリ、ワークエリア等の一時記憶領域として用いられる。HDD204は、画像データや各種プログラム等各種情報を記憶する。表示部205は、各種情報を表示する。入力部206は、キーボードやマウスを有し、ユーザによる各種操作を受け付ける。
なお、後述する配信装置101の機能や処理は、CPU201がROM202又はHDD204に格納されているプログラムを読み出し、このプログラムを実行することにより実現されるものである。
通信部300は、ネットワークを介して携帯端末100等の外部装置との通信処理を行う。より詳しくは、通信部300は、携帯端末100との通信を適切なプロトコルに従い確立した後、データの送受信を行う。通信部300は、さらに、携帯端末100の認証を行うことにより、認証に成功した携帯端末100のみと、通信の確立を許すこととしてもよい。
自由視点決定部304は、指示受付部302が受け付けた自由操作要求、ライブリプレイ映像の配信要求及びホーム復帰要求に応じて、自由視点映像の生成方法を決定する。画像生成部305は、画像を生成する。画像生成部305は、例えば、仮想カメラの位置、方向及び画角に基づいて、自由視点カメラ110により撮影された自由視点映像を用いて、携帯端末100に送信する自由視点画像を生成する。
また、他の例としては、配信装置101は、施設の無線LAN電波による測位技術を用いて、端末位置及び端末方向として、相対位置及び方向を特定してもよい。また、他の例としては、配信装置101は、携帯端末100により撮影された映像を用いてマーカー型AR又はマーカーレス型AR等の技術を用いることにより、端末位置及び端末方向として、相対位置及び方向を特定してもよい。なお、配信装置101は、例えばフィールド130のセンターサークルの中心を特定位置とし、携帯端末100から特定位置への方向を端末方向として特定してもよい。
さらに、S402において、画像生成部305は、仮想カメラの位置、方向及び画角を用いて、自由視点カメラ110により撮影された撮影映像に基づいて、自由視点映像を生成する。そして、通信部300は、自由視点画像を携帯端末100に配信する。本実施形態においては、このとき利用される撮影映像は、撮影直後のリアルタイム映像であるものとする。なお、以降、S402において生成、配信される自由視点映像を初期自由視点映像と称することとする。ここで、自由視点映像は、自由視点画像の一例である。S402の処理は、画像としての自由視点映像を携帯端末100に送信する送信処理の一例である。
また、他の例としては、画像生成部305は、複数の自由視点カメラ110により撮影された複数の撮影映像に基づいて、プレイヤーの位置及び姿勢を推定し、プレイヤーの推定位置及び推定姿勢に基づいて、CGで構成した仮想空間上にプレイヤーを配置する。そして、画像生成部305は、仮想カメラからの仮想空間の見え方をレンダリングにより生成してもよい。
また、他の例としては、画像生成部305は、プレイヤーにGPSを持たせることにより、プレイヤーの位置及び姿勢を推定してもよい。さらに、他の例としては、CPU201は、自由視点カメラ110により撮影された撮影映像に替えて、コンピュータグラフィックスを用いて、自由視点映像を生成してもよい。
このように、配信装置101は、あたかも携帯端末100において撮影されたような自由視点映像を生成し、携帯端末100に配信することができる。したがって、携帯端末100を持つユーザは、自身の位置と配信された映像との位置関係を容易に認識することができるため、映像内容をより良く把握することができる。
そして、携帯端末100は、仮想カメラの位置、方向及び画角を含む自由操作要求を生成し、これを配信装置101に送信する。携帯端末100はさらに、タイムバーなどのユーザインタフェースを用いて、自由視点映像を生成するために用いる映像の撮影時刻を設定可能としてもよい。
S404において、画像生成部305は、自由操作要求に基づいて、自由操作要求に係る自由視点映像を生成する。なお、自由操作要求には、仮想カメラの位置、方向、画角及び自由視点映像を生成するために用いる映像の撮影期間が含まれるものとする。S404において、画像生成部305はさらに、配信中の映像からS404において生成した自由視点映像まで映像内容が連続的に変化するような補間映像を生成する。
そして、画像生成部305は、開始点から終了点までの経路を定め、経路に沿って仮想カメラの位置及び方向が、変化時間の経過に従い徐々に変化するような補間映像を生成する。そして、S404において画像生成部305は、通信部300を介して、補間映像、自由操作要求に係る自由視点映像の順に、これらの映像を携帯端末100に配信する。
CPU201は、配信処理を終了すると判断した場合には(S405でYes)、配信処理を終了する。CPU201は、配信処理を終了しないと判断した場合には(S405でNo)、処理をS403へ進める。
CPU201は、配信要求を受け付けた場合には(S406でYes)、処理をS407へ進める。CPU201は、配信要求を受け付けなかった場合には(S406でNo)、処理をS409へ進める。
なお、補間映像の生成処理は、S404において説明した補間画像の生成処理と同様である。ただし、S407においては、ユーザが選択したライブリプレイカメラ120又はシーンに対応するライブリプレイカメラ120の位置及び方向が仮想カメラの終了点として設定されるものとする。
そして、S407において、通信部300は、ネットワークI/F部207を介して、補間映像、ライブリプレイ映像の順に、これらの映像を携帯端末100に配信する。
さらに、CPU201は、補間映像、すなわち、自由経路を移動中の映像を表示している間は、映像中に選手を表示しないこととしてもよい。これにより、選手と選手以外の画像との間の位置ずれの問題を解消することができる。
このように、配信装置101は、自由視点映像からライブリプレイ映像に切り替える場合に、連続的に変化するように補間映像を挿入する。これにより、観客は、ライブリプレイ映像の撮影位置と自身の位置との関係性を容易に把握することができる。
CPU201は、ホーム復帰要求を受け付けた場合には(S409でYes)、処理をS410へ進める。CPU201は、ホーム復帰要求を受け付けなかった場合には(S409でNo)、処理をS411へ進める。
なお、補間映像の生成処理は、S404、S407において説明した補間画像の生成処理と同様であるが、S410においては、端末位置及び端末方向が仮想カメラの終了点として設定されるものとする。そして、S410において、通信部300は、S407を介して、補間映像、処理自由視点映像の順に、これらの映像を携帯端末100に配信する。
なお、S402、S404、S410の処理は、自由視点映像を生成する生成処理の一例である。また、S404、S407、S410の処理は、補間画像を生成する生成処理の一例である。
以上、実施形態例を詳述したが、本発明は例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インタフェース機器、撮像装置、webアプリケーション等)から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、本発明の目的は、以下のようにすることによって達成されることはいうまでもない。即ち、前述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。係る記憶媒体は言うまでもなく、コンピュータ読み取り可能な記憶媒体である。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
Claims (13)
- 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理装置であって、
前記所定領域の少なくとも一部を撮影可能な位置に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別手段と、
前記判別手段により判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成手段と、
前記生成手段により生成された前記自由視点画像を前記端末へ送信する送信手段と、
を有することを特徴とする情報処理装置。 - 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理装置であって、
前記所定領域を含む施設内に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別手段と、
前記判別手段により判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成手段と、
前記生成手段により生成された前記自由視点画像を前記端末へ送信する送信手段と、
を有することを特徴とする情報処理装置。 - 前記生成手段は、前記仮想カメラの位置及び向きに基づいて前記複数のカメラの中から特定されるカメラにより撮影された撮影画像に基づいて、前記自由視点画像を生成することを特徴とする請求項1又は2に記載の情報処理装置。
- 前記生成手段は、コンピュータグラフィックスにより、前記自由視点画像を生成することを特徴とする請求項1又は2に記載の情報処理装置。
- 仮想カメラの設定の変更指示を受け付ける変更指示受付手段を有し、
前記生成手段は、前記自由視点画像として第1の自由視点画像を生成し、前記変更指示を受け付けた場合に、前記変更指示に係る第2の自由視点画像を生成し、前記第1の自由視点画像と前記第2の自由視点画像の間を補間する補間画像をさらに生成することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。 - 前記端末の位置情報及び方向情報をそれぞれ前記端末から受信する受信手段と、
前記位置情報に基づいて前記端末の位置を特定し、前記方向情報に基づいて、前記端末の向きを特定する特定手段と
をさらに有することを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。 - 前記仮想カメラをホームポジションに移動させるための移動指示を受け付ける移動指示受付手段を有し、
前記送信手段は、前記判別手段により判別された前記仮想カメラの位置及び向きに応じた自由視点映像を、前記移動指示受付手段による前記移動指示の受信に応じて前記端末へ送信することを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。 - 前記仮想カメラの位置及び向きを操作するための指示を受け付ける受付手段を有し、
前記生成手段は、前記判別手段により判別された前記仮想カメラの位置及び向きに応じた自由視点映像の送信後に前記受付手段により前記指示を受け付けた場合、前記仮想カメラの位置及び向きを起点として、前記仮想カメラの位置及び向きを変更し、当該変更後の前記仮想カメラの位置及び向きに応じた自由視点映像を生成することを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。 - 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理システムであって、
前記所定領域の少なくとも一部を撮影可能な位置に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別手段と、
前記判別手段により判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成手段と、
前記生成手段により生成された前記自由視点画像を前記端末へ送信する送信手段と、
を有することを特徴とする情報処理システム。 - 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理装置が実行する情報処理方法であって、
前記所定領域の少なくとも一部を撮影可能な位置に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別ステップと、
前記判別ステップにおいて判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成ステップと、
前記生成ステップにおいて生成された前記自由視点画像を前記端末へ送信する送信ステップと、
を含むことを特徴とする情報処理方法。 - 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理装置が実行する情報処理方法であって、
前記所定領域を含む施設内に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別ステップと、
前記判別ステップにおいて判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成ステップと、
前記生成ステップにおいて生成された前記自由視点画像を前記端末へ送信する送信ステップと、
を含むことを特徴とする情報処理方法。 - 複数のカメラが所定領域を異なる方向から撮影することにより得られる複数の撮影画像に基づいて生成される自由視点画像を提供する情報処理システムが実行する情報処理方法であって、
前記所定領域の少なくとも一部を撮影可能な位置に存在する端末の位置及び向きに基づいて決定される、仮想カメラの位置及び向きを判別する判別ステップと、
前記判別ステップにおいて判別された前記仮想カメラの位置及び向きに基づいて、前記端末に送信する自由視点画像を生成する生成ステップと、
前記生成ステップにおいて生成された前記自由視点画像を前記端末へ送信する送信ステップと、
を含むことを特徴とする情報処理方法。 - コンピュータを、請求項1乃至8の何れか1項に記載の情報処理装置の各手段として動作させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014110353A JP6385139B2 (ja) | 2014-05-28 | 2014-05-28 | 情報処理装置、情報処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014110353A JP6385139B2 (ja) | 2014-05-28 | 2014-05-28 | 情報処理装置、情報処理方法及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018149042A Division JP6659184B2 (ja) | 2018-08-08 | 2018-08-08 | 情報処理装置、情報処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015225529A JP2015225529A (ja) | 2015-12-14 |
JP6385139B2 true JP6385139B2 (ja) | 2018-09-05 |
Family
ID=54842215
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014110353A Active JP6385139B2 (ja) | 2014-05-28 | 2014-05-28 | 情報処理装置、情報処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6385139B2 (ja) |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101794709B1 (ko) * | 2016-03-30 | 2017-11-08 | 한국과학기술연구원 | 임의 시점의 영상 생성 방법, 이를 수행하기 위한 기록 매체 및 장치 |
JP6821398B2 (ja) * | 2016-11-09 | 2021-01-27 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6948171B2 (ja) * | 2016-11-30 | 2021-10-13 | キヤノン株式会社 | 画像処理装置および画像処理方法、プログラム |
WO2018100928A1 (ja) * | 2016-11-30 | 2018-06-07 | キヤノン株式会社 | 画像処理装置および方法 |
US10389935B2 (en) * | 2016-12-13 | 2019-08-20 | Canon Kabushiki Kaisha | Method, system and apparatus for configuring a virtual camera |
JP7034666B2 (ja) * | 2016-12-27 | 2022-03-14 | キヤノン株式会社 | 仮想視点画像の生成装置、生成方法及びプログラム |
JP6241802B1 (ja) * | 2017-01-20 | 2017-12-06 | パナソニックIpマネジメント株式会社 | 映像配信システム、ユーザ端末装置および映像配信方法 |
JP2019087791A (ja) | 2017-11-01 | 2019-06-06 | キヤノン株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
JP2019125303A (ja) | 2018-01-19 | 2019-07-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP7165254B2 (ja) * | 2018-02-23 | 2022-11-02 | Kddi株式会社 | 自由視点映像のリプレイ映像を再生するシステムおよび方法 |
JP7054351B2 (ja) * | 2018-02-23 | 2022-04-13 | Kddi株式会社 | 自由視点映像のリプレイ映像を再生するシステム |
US10902676B2 (en) * | 2018-03-13 | 2021-01-26 | Canon Kabushiki Kaisha | System and method of controlling a virtual camera |
JP7132730B2 (ja) | 2018-03-14 | 2022-09-07 | キヤノン株式会社 | 情報処理装置および情報処理方法 |
JP2020010300A (ja) | 2018-07-12 | 2020-01-16 | キヤノン株式会社 | 映像生成装置、映像生成装置の制御方法及びプログラム |
JP7207913B2 (ja) * | 2018-09-07 | 2023-01-18 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2020042665A (ja) * | 2018-09-12 | 2020-03-19 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法及びプログラム |
JP6600399B2 (ja) * | 2018-09-20 | 2019-10-30 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP7330683B2 (ja) * | 2018-11-06 | 2023-08-22 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP7301521B2 (ja) * | 2018-11-07 | 2023-07-03 | キヤノン株式会社 | 画像処理装置 |
WO2020262392A1 (ja) * | 2019-06-28 | 2020-12-30 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP7423974B2 (ja) | 2019-10-21 | 2024-01-30 | 株式会社Jvcケンウッド | 情報処理システム、情報処理方法及びプログラム |
JP7542940B2 (ja) * | 2019-11-25 | 2024-09-02 | キヤノン株式会社 | 情報処理装置、情報処理方法、映像処理システム、およびプログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001069531A (ja) * | 1999-08-31 | 2001-03-16 | Matsushita Electric Ind Co Ltd | 全方位映像処理方法 |
JP2012094990A (ja) * | 2010-10-25 | 2012-05-17 | Duse Technologies Co Ltd | 視点連動画像表示システム |
JP5920708B2 (ja) * | 2012-02-29 | 2016-05-18 | 国立大学法人名古屋大学 | 多視点映像ストリーム視聴システムおよび方法 |
JP5975739B2 (ja) * | 2012-06-01 | 2016-08-23 | 任天堂株式会社 | 情報処理プログラム、情報処理装置、情報処理システム、およびパノラマ動画表示方法 |
-
2014
- 2014-05-28 JP JP2014110353A patent/JP6385139B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015225529A (ja) | 2015-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6385139B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
EP3238445B1 (en) | Interactive binocular video display | |
JP5495855B2 (ja) | 映像処理装置及び映像処理方法 | |
CN113301351B (zh) | 视频播放方法、装置、电子设备及计算机存储介质 | |
JP6787394B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP7301507B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN113016010B (zh) | 信息处理系统、信息处理方法和存储介质 | |
US20200053395A1 (en) | Video distribution system, user terminal device, and video distribution method | |
JP7542940B2 (ja) | 情報処理装置、情報処理方法、映像処理システム、およびプログラム | |
JP6659184B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
KR102105510B1 (ko) | 타임 슬라이스 영상을 제공하는 서버, 방법 및 사용자 단말 | |
KR102084970B1 (ko) | 가상현실 관람 방법 및 가상현실 관람 시스템 | |
JP2015162117A (ja) | サーバ装置、プログラム、及び情報処理方法 | |
US20220353484A1 (en) | Information processing apparatus, information processing method, and program | |
JP7389140B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2021220894A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP5962692B2 (ja) | 端末装置、及びプログラム | |
JP2010206391A (ja) | 表示装置、表示方法、表示プログラム及び記録媒体 | |
JP6638326B2 (ja) | 情報処理システム、その制御方法、及びプログラム | |
US20240214614A1 (en) | Multi-camera multiview imaging with fast and accurate synchronization | |
US20240214543A1 (en) | Multi-camera multiview imaging with fast and accurate synchronization | |
JP7530206B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
WO2022181378A1 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR101164895B1 (ko) | 주자관점의 야구경기 영상 생성 장치 및 그 방법의 기록매체 | |
EP4243411A1 (en) | Image processing system, image processing method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170525 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180524 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180605 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180710 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180807 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6385139 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |