JP2014153897A - 計算機システム及びリソース管理装置並びにリソース管理方法 - Google Patents
計算機システム及びリソース管理装置並びにリソース管理方法 Download PDFInfo
- Publication number
- JP2014153897A JP2014153897A JP2013022767A JP2013022767A JP2014153897A JP 2014153897 A JP2014153897 A JP 2014153897A JP 2013022767 A JP2013022767 A JP 2013022767A JP 2013022767 A JP2013022767 A JP 2013022767A JP 2014153897 A JP2014153897 A JP 2014153897A
- Authority
- JP
- Japan
- Prior art keywords
- data center
- management device
- resource management
- computer
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
【解決手段】複数のデータセンタ30、40、50と、第1のネットワーク10と、データセンタ内のリソースを管理するリソース管理装置130、140、150と、ネットワーク管理装置3とを備える計算機システムにおいて、第1のリソース管理装置が、移動予定の仮想計算機132、136、142、146、152,156が必要とするリソース量に基づき他のリソース管理装置に依頼して選定した移動先候補情報を、ネットワーク管理装置でエンドユーザからのデータ送受信において第1のネットワーク内に問題が発生するか否かを判定し、その結果と移動先候補の情報から、最も省電力化を達成する物理計算機を移動予定の仮想計算機の移動先として選択する。
【選択図】図1
Description
図1は、第1の実施形態における計算機システムの構成例を示す説明図である。本実施形態における計算機システムは、エンドユーザ端末2、第1のネットワーク(Wide Area Network:WAN)10、WAN管理サーバ(ネットワーク管理装置)3、第1のネットワークに接続されたノード21、22、23、24、25、複数のデータセンタ30、40、50、各データセンタに設けられたデータセンタ管理装置(データセンタ管理サーバ)130、140、150、第2のネットワーク(データセンタネットワーク)11、12、13等により構成される。各データセンタは、ノード31、32、33、34、35、41、42、43、44、45、51、52、53、54、55、物理サーバ131、135、141、145、151、155、及び仮想サーバ(以下、Virtual Machine、VMと記す。)132、136、142、146、152、156等を有している。本実施形態では、第1のネットワーク10が、ノード21、22、23、24、25により構成される。また、各データセンタ内の第2のネットワークとして、ノード32、33、34、35を含むネットワーク11、ノード42、43、44、45を含むネットワーク12、ノード52、53、54、55を含むネットワーク13が、各々構成される。なお、第1のネットワーク10は、他のネットワークタイプ、例えばスター型ネットワークであっても良い。スター型ネットワークの場合、中心のHUBを介してスポーク状に複数のノードが接続され、これらのノードにエンドユーザ端末2、複数のデータセンタ30、40、50、ネットワーク管理装置3等が接続される。
省電力配置解除処理プログラム231は、VMの処理負荷が高くなる場合に、VMの片寄せ配置を解除(非縮約)し、高負荷時のVMを適正配置する処理を実行する。なお、省電力配置解除処理プログラム231の詳細な動作については、図10を用いて後述する。
リソースモニタリング処理プログラム234は、データセンタ内に存在する全てのVM及び物理サーバに対して、図13に示されるリソースに関して、その状態をモニタリングする。なお、図13の内容については、後述する。
ステップS304の条件を満たしていると判定した場合、VM毎の移動先判定の順番を決定する(ステップS305)。
続いて、CPU171は、ステップS305にて決定した順番に、移動予定のVMが将来(例えば、図5における低負荷確認期間260)の縮約移動において必要とするリソース量を、他のデータセンタ管理サーバ140および150へ送信する(ステップS306)。
CPU171は、ステップS312で最終決定した候補の物理サーバ情報を、他のデータセンタ管理サーバへ通知する(ステップS313)。
ステップS415の条件を満たしていると判定した場合は、ステップS411へ進み処理を継続する。
ステップS416の条件を満たしていると判定した場合は、ステップS411へ進み処理を継続する。
ステップS416の条件を満たしていないと判定した場合は、ステップS406へ進み処理を継続する。
ステップS410の条件を満たしていると判定した場合、移動予定のVMを収容可能な候補としてリストした物理サーバの情報(物理サーバのIPアドレス等の識別子、及び物理サーバを収容するデータセンタの識別子)を、要求元のデータセンタA管理サーバ130へ送信する(ステップS411)。
図23は、第2の実施形態における計算機システムの構成例を示す図である。データセンタ統合管理サーバ160は、データセンタ30内の第2のネットワーク11のノード36に接続されている。データセンタ統合管理サーバ160は、第1の実施形態における各管理サーバ130、140、150が処理していた機能の一部を集約したものである。
本実施形態においても、実施形態1と同様な効果がある。また、各データセンタの全体を集中管理することで、各データセンタにおける省電力化制御のタイミングを適切に制御できる。
3…WAN管理装置、
10…第1のネットワーク(WAN)、
11、12、13…第2の(データセンタ)ネットワーク、
21、22、23、24、25…ノード、
30、40、50…データセンタ、
31、32、33、34、35、36…ノード、
41、42、43、44、45…ノード、
51、52、53、54、55…ノード、
130、140、150…データセンタ管理サーバ、
131、135、141、145、151、155…物理サーバ、
132、136、142、146、152、156…仮想サーバ(VM)、
230…省電力配置制御処理プログラム、
231…省電力配置解除処理プログラム、
232…データセンタ管理サーバ省電力化応答処理プログラム、
233…VM配置とサーバ電源管理処理、
234…リソースモニタリング処理プログラム、
235…リソース消費予測処理プログラム
236…WAN内輻輳判定処理プログラム、
237…WAN内リソースモニタリング処理プログラム、
238…WAN内リソース消費予測処理プログラム、
239…WAN内帯域残量予測処理プログラム、
240…VM消費リソース履歴データベース情報、
241…VM消費リソース予測データベース情報、
242…VM必要リソース予測データベース情報、
243…物理サーバリソース残量予測データベース情報、
244…データセンタリソース残量予測データベース情報、
245…WAN消費帯域履歴データベース、
246…WAN消費帯域予測データベース、
247…WAN帯域残量予測データベース、
260…低負荷確認期間TL、
261…高負荷確認期間TH。
Claims (15)
- 複数のデータセンタと前記複数のデータセンタを接続する第1のネットワークとを備えた計算機システムであって、
前記データセンタ毎に設けられ当該データセンタ内のリソースを管理するリソース管理装置と、
前記第1のネットワークを管理するネットワーク管理装置と、
前記各データセンタ内に存在する移動予定の仮想計算機が必要とするリソース量を取得する手段とを有し、
前記データセンタの1つを管理する第1の前記リソース管理装置は、
管理下の前記1つのデータセンタにおける前記移動予定の仮想計算機が必要とするリソース量を、該他のデータセンタを管理する第2の前記リソース管理装置へ通知する機能と、
前記必要なリソース量の情報に応答して前記第2のリソース管理装置において選定された、前記移動予定の仮想計算機を稼動することが可能な少なくとも1つの物理計算機の候補の情報を受信する機能と、
前記受信した前記仮想計算機の移動先候補の情報を、前記ネットワーク管理装置へ通知する機能とを有し、
前記ネットワーク管理装置は、
当該システムを利用するエンドユーザから前記受信した移動先候補毎の前記物理計算機へのデータ送受信において、前記第1のネットワーク内に問題が発生するか否かを判定し、該判定の結果を前記第1のリソース管理装置へ通知する機能を有し、
前記第1のリソース管理装置は、さらに、
前記移動先候補物理計算機候補の情報と前記の判定の結果とから、省電力化を達成する上位の少なくとも1つの物理計算機を、前記移動予定の仮想計算機の移動先として選択する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記第1のリソース管理装置は、
管理下の前記データセンタ内に存在する仮想計算機が移動予定の時間帯おいて前記仮想計算機が必要とするリソース量を取得する機能と、
前記複数の仮想計算機の移動先物理計算機候補の中から、上位の所定数に絞った数の前記物理計算機候補を選択し、該選択した物理計算機情報を前記ネットワーク管理装置へ通知する機能とを有し、
前記ネットワーク管理装置における前記判定において、前記移動予定の時間帯に前記第1のネットワーク内に問題が発生するか否かを判定する
ことを特徴とする計算機システム。 - 請求項2において、
前記第1のリソース管理装置は、
前記第2のリソース管理装置から受信した前記仮想計算機の移動先物理計算機候補、及び、自データセンタ内の少なくとも1つの仮想計算機の移動先物理計算機候補とから、前記上位の所定数の物理計算機候補を選択する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記第1のリソース管理装置は、
前記移動予定の仮想計算機を収容している物理計算機の電力効率を前記第2のリソース管理装置へ通知する機能を有し、
前記第2のリソース管理装置は、
前記受信した前記電力効率に応答して、該電力効率以上でかつ前記仮想計算機を稼動することが可能な物理計算機の候補の情報を選定し、前記第1のリソース管理装置へ送信する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記第1のリソース管理装置は、管理する仮想計算機全てに対して移動の可否を決定した後に、該配置換えを予定する仮想計算機の移動を実行する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記第2のリソース管理装置は、
前記移動予定の仮想計算機を稼動することが可能な同一のデータセンタ内における物理計算機の候補として、前記第1のネットワーク上において異なる通信経路を利用する複数の前記物理計算機候補を選定する機能を有する
ことを特徴とする計算機システム。 - 請求項6において、
前記第1のネットワークがリング型のネットワークであり、
前記他のデータセンタのリソースを管理する前記第2のリソース管理装置は、仮想計算機を稼動可能な物理計算機の候補を、前記第1のネットワークにおける左回りの通信経路および右回りの通信経路を利用する物理計算機の候補をそれぞれ一台以上選定する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記第2のリソース管理装置は、
管理する物理計算機を電力効率順に管理し、前記第1のリソース管理装置から移動予定の仮想計算機が必要とするリソース量を受信した場合、前記電力効率順に前記仮想計算機が必要とするリソースを提供可能な物理計算機を探索する機能を有する
ことを特徴とする計算機システム。 - 請求項1において、
前記各データセンタは、当該データセンタ内のリソースとして第2のネットワーク含んでおり、
前記第2のリソース管理装置は、
管理する前記物理計算機のうち、所定以上の残リソースを有しない前記物理計算機を、前記移動予定の仮想計算機を収容する物理計算機としてのリストから除外する
ことを特徴とする計算機システム。 - 請求項1において、
前記第2のリソース管理装置は、
前記第1のリソース管理装置から受信した移動予定の仮想計算機を、該仮想計算機の移動時間を含めた期間の間において収容可能かを判定することにより、前記移動予定の仮想計算機を稼動可能な物理計算機を選定する
ことを特徴とする計算機システム。 - 請求項1において、
前記第1のネットワークに接続されたデータセンタ統合管理サーバを備え、
該データセンタ統合管理サーバは、
前記各データセンタ内に存在する移動予定の仮想計算機が必要とするリソース量を取得する機能と、
前記各データセンタの省電力化処理の順序を決定し、前記各データセンタに通知する機能とを有する
ことを特徴とする計算機システム。 - 第1のデータセンタ内のリソースを管理するリソース管理装置であって、
前記第1のデータセンタは、ネットワーク管理装置により制御される第1のネットワークを介して、計算機システムを構成する複数の第2のデータセンタと接続可能に構成されており、
前記リソース管理装置は、
前記第1のデータセンタ内に存在する移動予定の仮想計算機が必要とするリソース量を取得する手段と、
前記取得した移動予定の仮想計算機が必要とするリソース量を前記第2のデータセンタの第2のリソース管理装置へ通知する手段と、
前記第2のリソース管理装置から前記移動予定の仮想計算機を収容可能な物理計算機の候補情報を受信する手段と、
前記受信した仮想計算機を収容可能な物理計算機の候補に対して前記移動予定の前記仮想計算機を移動した場合に前記第1のネットワークに問題が発生しないかを、前記ネットワーク管理装置へ問い合わせる手段と、
前記物理計算機候補の情報と前記問い合わせた結果とから、省電力化を達成する上位の少なくとも1つの物理計算機へ、前記移動予定の仮想計算機を配置するように決定する手段とを有する
ことを特徴とするデータセンタ内のリソース管理装置。 - 請求項12において、
前記リソース管理装置は、
前記第2のリソース管理装置から受信した前記仮想計算機の移動先物理計算機候補、及び、自データセンタ内の少なくとも1つの仮想計算機の移動先物理計算機候補とから、前記上位の所定数の物理計算機候補を選択し、
該選択した物理計算機情報に関し、移動予定の時間帯に前記仮想計算機を移動した場合に前記第1のネットワークに問題が発生しないかを、前記ネットワーク管理装置へ問い合わせる
ことを特徴とするデータセンタ内のリソース管理装置。 - 複数のデータセンタと前記複数のデータセンタを接続する第1のネットワークとを備えた計算機システムにおけるリソース管理方法であって、
前記計算機システムは、
前記データセンタ毎に設けられ当該データセンタ内のリソースを管理するリソース管理装置と、
前記第1のネットワークを管理するネットワーク管理装置とを有しており、
前記データセンタの1つを管理する第1の前記リソース管理装置が、
管理下の前記データセンタ内に存在する移動予定の仮想計算機が必要とするリソース量を取得し、
前記取得した移動予定の仮想計算機が必要とするリソース量を他の前記データセンタを管理する第2のリソース管理装置へ通知し、
前記第2のリソース管理装置が、移動予定の仮想計算機を稼動することが可能な物理計算機の候補を1乃至複数選定し、前記第1のリソース管理装置へ通知し、
前記第1のリソース管理装置は、前記第2の前記リソース管理装置から受信した前記仮想計算機の移動先候補の情報を、前記ネットワーク管理装置へ通知し、
前記ネットワーク管理装置は、当該システムを利用するエンドユーザから前記受信した移動先候補毎の前記物理計算機へのデータ送受信において、前記第1のネットワーク内に問題が発生するか否かを判定し、該判定の結果を前記第1のリソース管理装置へ通知し、
前記第1のリソース管理装置は、前記移動先候補物理計算機と前記の判定の結果とから最も省電力化を達成する少なくとも1つの物理計算機を、前記移動予定の仮想計算機の移動先として選択する
ことを特徴とする計算機システムにおけるリソース管理方法。 - 請求項14において、
前記第1のリソース管理装置は、
管理下の前記データセンタ内に存在する移動予定の仮想計算機が必要とするリソース量を取得し、
前記第2のリソース管理装置から受信した前記仮想計算機の移動先物理計算機候補、及び、自データセンタ内の少なくとも1つの仮想計算機の移動先物理計算機候補とから、前記上位の所定数の物理計算機候補を選択し、
移動予定の時間帯に前記仮想計算機を移動した場合に前記第1のネットワークに問題が発生しないかを、前記ネットワーク管理装置へ問い合わせる
ことを特徴とする計算機システムにおけるリソース管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013022767A JP6081212B2 (ja) | 2013-02-08 | 2013-02-08 | 計算機システム及びリソース管理装置並びにリソース管理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013022767A JP6081212B2 (ja) | 2013-02-08 | 2013-02-08 | 計算機システム及びリソース管理装置並びにリソース管理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014153897A true JP2014153897A (ja) | 2014-08-25 |
JP2014153897A5 JP2014153897A5 (ja) | 2016-01-07 |
JP6081212B2 JP6081212B2 (ja) | 2017-02-15 |
Family
ID=51575714
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013022767A Active JP6081212B2 (ja) | 2013-02-08 | 2013-02-08 | 計算機システム及びリソース管理装置並びにリソース管理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6081212B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016212609A (ja) * | 2015-05-08 | 2016-12-15 | 株式会社日立製作所 | 仮想マシン運用支援システムおよび仮想マシン運用支援方法 |
JP2016218759A (ja) * | 2015-05-20 | 2016-12-22 | 富士通株式会社 | 情報処理装置、情報処理プログラム、及びデータセンタシステム |
JP2017168074A (ja) * | 2016-03-14 | 2017-09-21 | 北京百度網訊科技有限公司 | データ伝送制御方法及び装置 |
JP2019159385A (ja) * | 2018-03-07 | 2019-09-19 | 富士ゼロックス株式会社 | 処理割当装置及び処理割当プログラム |
US10768967B2 (en) | 2017-08-23 | 2020-09-08 | Fujitsu Limited | Maintenance control method, system control apparatus and storage medium |
WO2023152896A1 (ja) * | 2022-02-10 | 2023-08-17 | 日本電信電話株式会社 | 仮想マシン消費電力予測装置、仮想マシン消費電力予測方法、及びプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009134687A (ja) * | 2007-11-29 | 2009-06-18 | Hitachi Ltd | アプリケーションマイグレーションのための候補データセンタを見つける方法および装置[0001] |
JP2011221581A (ja) * | 2010-04-02 | 2011-11-04 | Hitachi Ltd | 計算機システムの管理方法、計算機システム管理端末および計算機管理システム |
JP2012141671A (ja) * | 2010-12-28 | 2012-07-26 | Hitachi Ltd | 仮想計算機の移動方法、仮想計算機システム及び管理サーバ |
-
2013
- 2013-02-08 JP JP2013022767A patent/JP6081212B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009134687A (ja) * | 2007-11-29 | 2009-06-18 | Hitachi Ltd | アプリケーションマイグレーションのための候補データセンタを見つける方法および装置[0001] |
JP2011221581A (ja) * | 2010-04-02 | 2011-11-04 | Hitachi Ltd | 計算機システムの管理方法、計算機システム管理端末および計算機管理システム |
JP2012141671A (ja) * | 2010-12-28 | 2012-07-26 | Hitachi Ltd | 仮想計算機の移動方法、仮想計算機システム及び管理サーバ |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016212609A (ja) * | 2015-05-08 | 2016-12-15 | 株式会社日立製作所 | 仮想マシン運用支援システムおよび仮想マシン運用支援方法 |
JP2016218759A (ja) * | 2015-05-20 | 2016-12-22 | 富士通株式会社 | 情報処理装置、情報処理プログラム、及びデータセンタシステム |
JP2017168074A (ja) * | 2016-03-14 | 2017-09-21 | 北京百度網訊科技有限公司 | データ伝送制御方法及び装置 |
US10768967B2 (en) | 2017-08-23 | 2020-09-08 | Fujitsu Limited | Maintenance control method, system control apparatus and storage medium |
JP2019159385A (ja) * | 2018-03-07 | 2019-09-19 | 富士ゼロックス株式会社 | 処理割当装置及び処理割当プログラム |
JP7077676B2 (ja) | 2018-03-07 | 2022-05-31 | 富士フイルムビジネスイノベーション株式会社 | 処理割当装置及び処理割当プログラム |
WO2023152896A1 (ja) * | 2022-02-10 | 2023-08-17 | 日本電信電話株式会社 | 仮想マシン消費電力予測装置、仮想マシン消費電力予測方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6081212B2 (ja) | 2017-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103608747B (zh) | 基于上下文信息的电力和负载管理 | |
JP6081212B2 (ja) | 計算機システム及びリソース管理装置並びにリソース管理方法 | |
Kaur et al. | Container-as-a-service at the edge: Trade-off between energy efficiency and service availability at fog nano data centers | |
Liu et al. | Solving the multi-objective problem of IoT service placement in fog computing using cuckoo search algorithm | |
US10200261B2 (en) | Multiple-computing-node system job node selection | |
US9442760B2 (en) | Job scheduling using expected server performance information | |
Wadhwa et al. | TRAM: Technique for resource allocation and management in fog computing environment | |
CN102246152B (zh) | 保存程序执行状态 | |
CN104636204B (zh) | 一种任务调度方法与装置 | |
CN102591921A (zh) | 个人数据中心内的调度和管理 | |
Żotkiewicz et al. | Minimum dependencies energy-efficient scheduling in data centers | |
WO2020215752A1 (zh) | 图计算方法及装置 | |
Qu et al. | Study QoS optimization and energy saving techniques in cloud, fog, edge, and IoT | |
Fernández-Cerero et al. | Sphere: Simulator of edge infrastructures for the optimization of performance and resources energy consumption | |
JP6010975B2 (ja) | ジョブ管理装置、ジョブ管理方法、及びプログラム | |
Babu et al. | Interference aware prediction mechanism for auto scaling in cloud | |
US20230367654A1 (en) | Automatic node fungibility between compute and infrastructure nodes in edge zones | |
Whaiduzzaman et al. | Pefc: Performance enhancement framework for cloudlet in mobile cloud computing | |
CN112948088B (zh) | 一种云计算平台中的云工作流智能管理与调度系统 | |
Deiab et al. | Energy efficiency in cloud computing | |
CN105827744A (zh) | 云存储平台的数据处理方法 | |
Liu et al. | KubFBS: A fine‐grained and balance‐aware scheduling system for deep learning tasks based on kubernetes | |
EP2923320A1 (en) | Transparently routing job submissions between disparate environments | |
Shitharth et al. | QoS enhancement in wireless ad hoc networks using resource commutable clustering and scheduling | |
Tang et al. | Edge computing energy-efficient resource scheduling based on deep reinforcement learning and imitation learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140908 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151116 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20151116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160614 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160719 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161004 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20161227 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170118 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6081212 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |