JP7219861B2 - 通信システム、通信方法及び通信プログラム - Google Patents

通信システム、通信方法及び通信プログラム Download PDF

Info

Publication number
JP7219861B2
JP7219861B2 JP2021093152A JP2021093152A JP7219861B2 JP 7219861 B2 JP7219861 B2 JP 7219861B2 JP 2021093152 A JP2021093152 A JP 2021093152A JP 2021093152 A JP2021093152 A JP 2021093152A JP 7219861 B2 JP7219861 B2 JP 7219861B2
Authority
JP
Japan
Prior art keywords
user
smart device
content
server
predetermined location
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021093152A
Other languages
English (en)
Other versions
JP2022185452A (ja
Inventor
俊允 中村
仁美 村井
忠 萬國谷
Original Assignee
株式会社Nttコノキュー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Nttコノキュー filed Critical 株式会社Nttコノキュー
Priority to JP2021093152A priority Critical patent/JP7219861B2/ja
Publication of JP2022185452A publication Critical patent/JP2022185452A/ja
Application granted granted Critical
Publication of JP7219861B2 publication Critical patent/JP7219861B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、通信システム、通信方法及び通信プログラムに関する。
近年、仮想現実(VR:Virtual Reality)や拡張現実(AR:Augmented Reality)をユーザに体感させるHMD(Head Mounted Display)などが提案されている。このうち、AR技術を用いたHMDとして、一般的な眼鏡と同様に、ユーザの頭部に装着して使用されるARグラスが提案されている。
ARグラスは、ユーザの前方の実空間を撮像し、撮像した実空間の画像を、ARグラスのレンズ部分に相当するディスプレイに表示させる。また、ARグラスは、CGで生成された仮想的なコンテンツを、撮像された実空間の画像に重畳してディスプレイに表示させる。これにより、ARグラスを装着したユーザは、実空間の中に仮想的なコンテンツが重畳されたAR空間を体感することができる。
特許第6655751号公報
ARグラスのディスプレイにRPG(Role-Playing Game)コンテンツを表示させることで、RPGをユーザに体験させるシステムが提案されている。ここで、このシステムでは、ARグラスを装着したユーザ自身が実際に自分の体を動かしながらRPG体験を行うため、RPGの円滑な進行が可能であるAR体験が要望されていた。
本発明は、上記に鑑みてなされたものであって、円滑な進行が可能である仮想空間上の体験をユーザに提供することを可能とする通信システム、通信方法及び通信プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、ユーザが使用する表示装置と、ユーザが携帯するスマートデバイスと、スマートデバイスと通信を行うサーバとを有する通信システムであって、第1のユーザが携帯する第1のスマートデバイスは、第1のスマートデバイスが所定の領域の所定箇所に位置する場合、所定箇所に応じた種別の仮想的なコンテンツであって他のユーザの進行を補助する仮想的なコンテンツを作成し、作成した仮想的なコンテンツの登録をサーバに要求する作成部を有し、サーバは、第1のスマートデバイスから登録を要求された仮想的なコンテンツを、登録コンテンツとして、所定箇所の位置に対応付けて登録する登録部と、第1のユーザとは異なる第2のユーザが携帯する第2のスマートデバイスが所定箇所に位置することを判定した場合、第2のスマートデバイスに、所定箇所に対応付けられた登録コンテンツを送信する送信部と、第2のスマートデバイスは、サーバから送信された登録コンテンツを、第2のユーザが使用する表示装置に出力させる制御部を有することを特徴とする。
本発明によれば、円滑な進行が可能である仮想空間上の体験をユーザに提供することを可能とする。
図1は、ARグラスのディスプレイに表示される画像の一例を示す図である。 図2は、実施の形態に係る通信システムの構成を説明する図である。 図3は、実施の形態に係る通信システムの構成の一例を示すブロック図である。 図4は、図3に示すARグラスの構成の一例を示すブロック図である。 図5は、図3に示すスマートデバイスの構成の一例を示すブロック図である。 図6は、図3に示すサーバの構成の一例を示すブロック図である。 図7は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図8は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図9は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図10は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図11は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図12は、通信システムにおける仮想的なコンテンツの作成例を説明する図である。 図13は、実施の形態に係る通信処理の処理手順を示すシーケンス図である。 図14は、プログラムを実行するコンピュータを示す図である。
以下に、本願に係る通信システム、通信方法及び通信プログラムの実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態により本願に係る通信システム、通信方法及び通信プログラムが限定されるものではない。
以下の実施の形態では、実施の形態に係る通信システム、通信方法及び通信プログラムの処理の流れを順に説明し、最後に実施の形態による効果を説明する。
[実施の形態]
まず、実施の形態について説明する。実施の形態では、観光地である所定の領域(例えば、島)を観光するユーザに、ユーザが使用する表示装置として、例えば、仮想的なRPGコンテンツを表示可能であるARグラスを装着させ、観光地を観光しながら、RPGも体験可能とするシステムについて説明する。
図1は、ARグラスのディスプレイに表示される画像の一例を示す図である。図1に例示するように、実際の島の画像に、例えば、敵であるモンスターのコンテンツC1やコインのコンテンツC2を重畳してARグラスに表示させ、ユーザが、モンスターを倒す、コインを集める、ミッションに取り組むなどのゲーム体験を可能としている。また、ARグラスを装着したユーザ間では、通信が可能である。
実施の形態では、小さな島全体を活用して、ユーザ自身が体を動かし、名所等を巡りながらイベントを実行する等の、その土地ならではのRPG体験を可能とする。さらに、実施の形態では、先行のユーザが、自身が携帯するスマートデバイスを操作することで、RPGの進行を補助する仮想的なコンテンツを作成し、このコンテンツを登録する。そして、後続のユーザは、先行のユーザが作成したコンテンツを認識することによって、RPGを円滑に進行することができる。
なお、先行のユーザは、島の所定箇所に応じた種別の仮想的なコンテンツを作成する。例えば、先行のユーザは、目的(例えば、RPGのイベント)の達成を補助する内容や、目的地(例えば、名所やRPGのイベント発生場所)への到着を補助する内容を含む看板画像、コメント画像または音声の仮想的なコンテンツを、島の所定箇所に応じて作成する。
[通信システムの構成]
実施の形態に係る通信システムの構成を説明する。図2は、実施の形態に係る通信システムの構成を説明する図である。図3は、実施の形態に係る通信システムの構成の一例を示すブロック図である。
実施の形態では、例えば、観光地を観光しながらRPGを体験するユーザA(第1のユーザ)とユーザB(第2のユーザ)とが通信システム1を利用する場合を例に説明する。図2及び図3に示すように、実施の形態に係る通信システム1は、ユーザA,Bがそれぞれ装着するARグラス10A,10B(表示装置)、ユーザA,Bがそれぞれ手に持つモーションコントローラー20A,20B、ユーザA,Bがそれぞれ携帯するスマートデバイス30A,30B、及び、データセンタ等に配置されるサーバ40を有する。なお、実施の形態では、RPGの進行において、ユーザAが先行するユーザとし、ユーザBが後続のユーザとして説明する。
ARグラス10Aは、一般的な眼鏡と同様にユーザAの頭部に装着される。ARグラス10Aは、撮像機能、音声入力機能、通信機能、表示機能、音声出力機能を有する。ARグラス10は、実空間を撮像し、撮像した実空間の画像を、ARグラス10Aのレンズ部分に相当するディスプレイに表示させる。ARグラス10Aは、スマートデバイス30Aの制御の基、CGで生成された仮想的なコンテンツを、撮像された実空間の画像に重畳してディスプレイに表示させる。ARグラス10Aは、スマートデバイス30Aの制御の基、仮想的なコンテンツ、例えば、RPG要素である敵、味方、コイン等のキャラクター画像を表示する。また、ARグラス10Aは、仮想的なコンテンツが音声である場合には、この音声を出力してもよい。
ARグラス10Bは、ユーザBの頭部に装着され、ARグラス10Aと同様の機能を有する。ARグラス10Bは、スマートデバイス30Bの制御に従い各種処理を実行する。また、ARグラス10Bは、目的(例えば、RPGのイベント)の達成を補助する内容や、目的地(例えば、名所やRPGのイベント発生場所)への到着を補助する内容を含む看板画像、コメント画像または音声の仮想的なコンテンツを表示する。なお、以降において、ARグラス10A,10Bを総称する場合、ARグラス10と記載する。
モーションコントローラー20Aは、ユーザAが手に持つコントローラである。モーションコントローラー20Aは、例えば、加速度センサと、加速度センサの検出結果をスマートデバイス30Aに送信する通信機能とを有する。モーションコントローラー20Bは、ユーザBが手に持つコントローラであり、モーションコントローラー20Aと同様の機能を有する。モーションコントローラー20Bは、加速度センサの検出結果をスマートデバイス30Bに送信する。
スマートデバイス30Aは、ユーザAが携帯するデバイスである。スマートデバイス30Aは、例えば、タブレット、スマートフォン等のスマートデバイスであり、位置検出機能、画像認識機能、音声認識機能を有する。スマートデバイス30Aは、ARグラス10Aの制御を行う。スマートデバイス30Aは、モーションコントローラー20Aから送信された加速度センサの検出結果を基に、ユーザAの手の動きを取得する。以降において、スマートデバイス30A,30Bを総称する場合、スマートデバイス30と記載する。
スマートデバイス30Aは、ネットワークNを介して、サーバ40に接続し、ユーザAの位置情報等をサーバ40に送信する。スマートデバイス30Aは、ネットワークNを介して、サーバ40から、ARグラス10Aが出力する仮想的なコンテンツの提供を受ける。スマートデバイス30Aは、ARグラス10Aに、サーバ40から提供された仮想的なコンテンツを出力させる。
スマートデバイス30Aは、スマートデバイス30Aが所定の領域の所定箇所に位置する場合、所定箇所に応じた種別の仮想的なコンテンツであって、他のユーザBの進行を補助する仮想的なコンテンツを作成し、作成した仮想的なコンテンツの登録をサーバ40に要求する。
なお、スマートデバイス30Bは、スマートデバイス30Aと同様の機能を有し、ARグラス10Bに、サーバ40から提供された仮想的なコンテンツを出力させる。そして、スマートデバイス30Bは、スマートデバイス30Aが所定の領域の所定箇所に位置する場合、この所定箇所に対応付けられた、ユーザAに作成された仮想的なコンテンツをARグラス10Bに出力させる。
サーバ40は、地図情報及びAR空間上の仮想的なコンテンツを保持するとともに、仮想的なコンテンツを選択し、スマートデバイス30に送信する。サーバ40は、スマートデバイス30Aから登録を要求された仮想的なコンテンツを、登録コンテンツとして、所定箇所の位置に対応付けて登録する。サーバ40は、スマートデバイス30Bが所定箇所に位置することを判定した場合、スマートデバイス30Bに、所定箇所に対応付けられた登録コンテンツを送信する。
[ARグラス]
次に、ARグラス10Aについて説明する。図4は、図3に示すARグラス10Aの構成の一例を示すブロック図である。なお、ARグラス10Bは、ARグラス10Aと同様の構成を有する。
図4に示すように、ARグラス10は、撮像部11、音声入力部12(録音部)、通信部13、表示部14及び音声出力部15を有する。
撮像部11は、実空間を撮像する。例えば、撮像部11は、撮像部11の撮像方向がARグラス10の前方である場合には、ARグラス10の前方の実空間を撮像する。撮像部11は、CCDやCMOS等の光電変換素子と、撮像素子から出力される光電変換信号を処理して実空間の画像を生成する。撮像部11は、例えば、R(赤)、G(緑)、B(青)の3色の2次元画像を取得する。
音声入力部12は、音声の入力を受け付け、入力された音声を録音するデバイスによって構成される。
通信部13は、スマートデバイス30との無線通信を行う。通信部13は、撮像部11が撮像した画像及び音声入力部12が録音した音声を、スマートデバイス30に送信する。通信部13は、スマートデバイス30から送信された仮想的なコンテンツを受信する。また、通信部13は、他のユーザが装着するARグラス10との間で通信を行い、ユーザ間での会話を可能とする。
表示部14は、ディスプレイによって構成される。表示部14は、撮像部11が撮像した実空間の画像を表示する。表示部14は、通信部13が受信した仮想的なコンテンツ、例えば、敵、味方、コイン等のキャラクター画像を、実空間の画像に重畳して表示する。なお、表示部14は、透過表示可能なディスプレイであって、仮想的なコンテンツのうち、敵、味方、コイン等のキャラクター画像を表示してもよい。
音声出力部15は、音声を出力する。音声出力部15は、通信部が受信した仮想的なコンテンツのうち、動物の鳴き声や足音等の音声を出力する。
[スマートデバイス]
次に、スマートデバイス30Aについて説明する。図5は、図3に示すスマートデバイス30Aの構成の一例を示すブロック図である。なお、スマートデバイス30Bは、スマートデバイス30Aと同様の構成を有する。図5に示すように、スマートデバイス30は、通信部31、記憶部32及び制御部33を有する。
通信部31は、無線または有線にて他の装置との間で通信を行う。通信部31は、ネットワーク等を介して接続された他の装置との間で、各種情報を送受信する通信インタフェースである。通信部31は、NIC(Network Interface Card)等で実現され、LAN(Local Area Network)やインターネットなどの電気通信回線を介した他の装置と制御部33(後述)との間の通信を行う。例えば、通信部31は、ARグラス10Aから画像、音声を受信し、ARグラス10Aに仮想的なコンテンツを送信する。通信部31は、サーバ40に、スマートデバイス30Aの位置情報を送信し、サーバ40から仮想的なコンテンツを受信する。
記憶部32は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、光ディスク等の記憶装置である。なお、記憶部32は、RAM(Random Access Memory)、フラッシュメモリ、NVSRAM(Non Volatile Static Random Access Memory)等のデータを書き換え可能な半導体メモリであってもよい。記憶部32は、スマートデバイス30Aで実行されるOS(Operating System)や各種プログラムを記憶する。さらに、記憶部32は、プログラムの実行で用いられる各種情報を記憶する。記憶部32は、サーバ40から送信された仮想的なコンテンツや、スマートデバイス30Aにおいて作成された仮想的なコンテンツを含むコンテンツ情報321を記憶する。記憶部32は、ARグラス10Aから送信された画像データ(不図示)を記憶する。
制御部33は、スマートデバイス30A全体を制御する。制御部33は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等の電子回路や、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の集積回路である。また、制御部33は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、内部メモリを用いて各処理を実行する。また、制御部33は、各種のプログラムが動作することにより各種の処理部として機能する。制御部33は、位置検出部331、動き検出部332及びARグラス制御部333(制御部)を有する。
位置検出部331は、スマートデバイス30Aの位置を検出する。位置検出部331は、例えば、GPS(Global Positioning System)等によりスマートデバイス30Aの位置情報が取得可能である。位置検出部331は、定期的に、スマートデバイス30Aの位置を取得して、緯度及び経度で表した位置情報を、通信部31を介して、サーバ40に送信する。
動き検出部332は、モーションコントローラー20Aから送信された加速度センサの検出結果を基に、ユーザの手の動きを取得する。なお、通信システム1では、モーションコントローラー20の使用はオプションでもよい。モーションコントローラー20を使用しない場合には、スマートデバイス30から動き検出部332を省略してもよい。
ARグラス制御部333は、ARグラス10Aの処理を制御する。例えば、ARグラス制御部333は、ARグラス10Aのレンズ部のディスプレイへの画像表示処理やARグラス10Aによる音声出力処理を制御する。ARグラス制御部333は、コンテンツ作成部334(作成部)及びコンテンツ合成部335を有する。
コンテンツ作成部334は、スマートデバイス30Aが所定の領域の所定箇所に位置する場合、所定箇所に応じた種別の仮想的なコンテンツであって他のユーザBの進行を補助する仮想的なコンテンツを作成する。そして、コンテンツ作成部334は、作成した仮想的なコンテンツの登録をサーバ40に要求する。
コンテンツ合成部335は、サーバ40から送信された仮想的なコンテンツが、実空間の画像に重畳するキャラクター画像である場合、キャラクター画像と実空間の画像との合成処理を行う。コンテンツ合成部335による合成処理後、ARグラス制御部333は、ARグラス10Aの表示部14に、実空間の画像にキャラクター画像を重畳させた画像を表示させる。キャラクター画像の重畳位置は、例えば、予め設定されている。或いは、キャラクター画像の重畳位置は、サーバ40による指示によって設定される。
また、仮想的なコンテンツは、RPG要素である敵、味方、コイン等のキャラクター画像のほか、動物の鳴き声や足音等の音声であってもよい。ARグラス制御部333は、取得したコンテンツが、動物の鳴き声や足音等の音声である場合、ARグラス10Aの音声出力部15から、音声を出力させる。
[サーバ]
次に、サーバ40について説明する。図6は、図3に示すサーバ40の構成の一例を示すブロック図である。図6に示すように、サーバ40は、通信部41、記憶部42及び制御部43を有する。
通信部41は、無線または有線にて他の装置との間で通信を行う。通信部41は、ネットワーク等を介して接続された他の装置との間で、各種情報を送受信する通信インタフェースである。通信部41は、NIC等で実現され、LANやインターネットなどの電気通信回線を介した他の装置と制御部43後述)との間の通信を行う。例えば、通信部41は、スマートデバイス30A,30Bから位置情報を受信し、スマートデバイス30A,30Bに仮想的なコンテンツを送信する。
記憶部42は、HDD、SSD、光ディスク等の記憶装置である。なお、記憶部42は、RAM、フラッシュメモリ、NVSRAM等のデータを書き換え可能な半導体メモリであってもよい。記憶部42は、サーバ40で実行されるOSや各種プログラムを記憶する。
さらに、記憶部42は、プログラムの実行で用いられる各種情報を記憶する。記憶部42は、地図情報421、コンテンツ情報422及び作成用コンテンツ情報423を記憶する。
地図情報421は、ユーザが観光する島等の観光地の森、川、山、平野、名所等を含む地図である。地図情報421は、等高線で土地の高低が示される。
コンテンツ情報422は、各種仮想的なコンテンツを含む。各種仮想的なコンテンツは、敵、味方、コイン等のキャラクター画像、または、動物の足音或いは鳴き声の音声である。敵、味方、コイン等のキャラクター画像は、出現させる位置が予め設定されている。敵、味方のキャラクター画像は、強さが予め設定されている。また、仮想的なコンテンツは、所定の地域(観光地)や、観光地の森、川、山、平野、名所等の各所定箇所に対応づけて予め作成された、観光地の各所定箇所に特有のコンテンツであってもよい。また、観光地の各所定箇所に特有のコンテンツは、敵または味方に分けて、それぞれ作成されたものでもよい。
そして、コンテンツ情報422は、スマートデバイス30Aから登録を要求された仮想的なコンテンツである登録コンテンツを含む。スマートデバイス30Aから登録を要求された仮想的なコンテンツは、所定箇所に位置するスマートデバイス30Aによって作成及び登録を要求された、所定箇所に応じた種別の仮想的なコンテンツであって他のユーザBの進行を補助する仮想的なコンテンツである。
作成用コンテンツ情報423は、所定の領域(例えば、島等の観光地)のうち、ユーザが仮想的なコンテンツを作成可能である所定箇所の位置情報と、所定箇所に応じた仮想的なコンテンツの種別とを含む。所定箇所は、例えば、ユーザBの目的地までの道なりのうちの分かれ道や、目的地までの行き方が分かりにくい箇所である。目的地は、例えば、島等の観光地の名所やRPGのイベント発生場所などである。所定箇所に応じた仮想的なコンテンツの種別は、看板画像、コメント画像または音声のコンテンツである。例えば、ゲーム上のイベント発生場所や分かれ道の場合には、看板画像、コメント画像のコンテンツが設定されており、森や川などの場合には、動植物のキャラクター画像や音声のコンテンツである。
制御部43は、サーバ40全体を制御する。制御部43は、例えば、CPU、MPU等の電子回路や、ASIC、FPGA等の集積回路である。また、制御部43は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、内部メモリを用いて各処理を実行する。また、制御部43は、各種のプログラムが動作することにより各種の処理部として機能する。制御部43は、判定部431、コンテンツ登録部432(登録部)及びコンテンツ送信部433(送信部)を有する。
判定部431は、少なくとも、スマートデバイス30Aから受信したスマートデバイス30Aの各位置情報、地図情報421及び作成用コンテンツ情報423を基に、スマートデバイス30Aが所定箇所に位置するかを判定する。判定部431は、スマートデバイス30Aが所定箇所に位置する場合、作成可能なコンテンツの種別とともに、他のユーザB
他のユーザBの進行を補助する仮想的なコンテンツが可能であることをスマートデバイス30Aに通知する。また、判定部431は、スマートデバイス30Bが、所定箇所に位置するか否かを判定する。
コンテンツ登録部432は、スマートデバイス30Aから登録を要求された仮想的なコンテンツを、登録コンテンツとして、所定箇所の位置に対応付けて、コンテンツ情報422に登録する。
コンテンツ送信部433は、判定部431が、スマートデバイス30Bが所定箇所に位置することを判定した場合、コンテンツ情報422のうち、所定箇所に対応付けられた登録コンテンツを抽出し、スマートデバイス30Bに送信する。スマートデバイス30BのARグラス制御部333は、サーバ40から送信された登録コンテンツをARグラス10Bに出力させる。
[コンテンツ作成例]
図7~図12は、通信システム1における仮想的なコンテンツの作成例を説明する図である。まず、図7では、図7左方のマップM1の地点P1に、RPG上の宝があり、地点P1の宝を見つけることでイベントを達成できる場合を例として説明する。
この地点P1において、ユーザU1が宝を見つけた場合、ユーザU1は、自身のスマートデバイス30を操作し、後続のユーザU2に向けて、「ここにお宝があるよ!」と示した看板画像C11のコンテンツをAR空間上に作成することができる(図7の(1))。この看板画像C11は、サーバ40によって、地点P1に対応付けて登録コンテンツとして登録される(図7の(2))。続いて、後続のユーザU2が地点P1に到着すると、このユーザBのスマートデバイス30にサーバ40から看板画像C11が送信され、ユーザU2のARグラス10に看板画像C11が表示される。これよって、ユーザU2は、看板画像C11のコンテンツを閲覧することができる(図7の(3))。
これに限らず、先行のユーザは、敵キャラクターがいる場所に対し、スマートデバイス30を用いて、後続のユーザに、敵がいることを知らせる看板画像のコンテンツをAR空間上に作成してもよい。また、先行のユーザは、イベントが謎解きイベントの場合には、イベント場所に対応付けて、謎を解く際のヒントとなる看板画像のコンテンツをAR空間上に作成してもよい。先行のユーザは、「あちらに綺麗な〇〇があるよ」といった、他のユーザへのおすすめ情報を掲示してもよい。その際、通信システム1では、例えば、掲示板画像のコンテンツを所定箇所に設定し、ユーザが、仮想空間上で、その掲示板におすすめ情報を書き込めるようにしてもよい。また、通信システム1では、掲示板画像のコンテンツに記載された情報を、一定期間、一定条件でクリアするように制御してもよい。
このような看板画像C11や掲示板画像コンテンツのように、ユーザU1のスマートデバイス30は、後続のユーザU2が閲覧可能な、ユーザU2の目的(例えば、RPGのイベント)の達成を補助する内容を含む仮想的なコンテンツを作成することができる。
また、先行のユーザU1のスマートデバイス30は、後続のユーザU2の目的地への到着を補助する内容を含む仮想的なコンテンツを作成することも可能である。
例えば、ユーザU1のスマートデバイス30Aは、目的地までの道なりのうちの分かれ道に位置する場合、目的地が、分かれ道のいずれの道の先にあるかを示す仮想的なコンテンツを作成する。
具体的に、図8に示すように、目的地までの道なりのうち、分かれ道があった場合を例に説明する。この場合、先行のユーザU3は、自身のスマートデバイス30を操作して、図9に例示するように、後続のユーザのために、分かれ道のそれぞれの行き先を示す看板画像C21,C22のコンテンツを作成してもよい。また、先行のユーザU3は、イベント発生場所である「滝」を示す看板画像C21のみを作成してもよい。このように、ユーザU3は、分かれ道に、各道の先にある名所やイベント発生場所を示す看板画像を作成して、後続のユーザの目的地への到着を補助する。
また、ユーザU3は、自身のスマートデバイス30を操作して、図10に示すように、分かれ道の各行き先を示す実際の看板T31,T32に対応付けて、それぞれの行き先の詳細を説明するコメントを含むコメント画像C31,C32のコンテンツを作成してもよい。
例えば、ユーザU3は、看板T31に対し「ここで唯一の滝があるよ」というコメントを含むコメント画像C32や、看板T32に対し「希少種の花畑があるよ」というコメントを含むコメント画像C32を作成してもよい。このように、ユーザU3は、分かれ道の各看板に、その先にある名所を説明するコメント画像を作成して、後続のユーザが目的地とする名所やイベント発生場所への到着を補助する。
また、ユーザU3は、自身のスマートデバイス30を操作して、図11に示すように、分かれ道の各行き先に対する各ユーザが付与したGOODの数を表示するコメント画像C41,C42のコンテンツを作成してもよい。
例えば、看板T31が指す左の道が57人のユーザによってGOODを付与されていた場合、ユーザU3は、看板T31に対し「左の道は57人おすすめ」というコメント画像C32のコンテンツを作成してもよい。看板T32が指す右の道が14人のユーザによってGOODを付与されていた場合、ユーザU3は、看板T32に対し「右の道は14人おすすめ」というコメント画像C32のコンテンツを作成してもよい。なお、サーバ40は、分かれ道の各道に各ユーザが付与したGOODを集計し、コンテンツ作成時にユーザU3に通知する。
また、ユーザU1のスマートデバイス30Aは、目的地までの行き方が分かりにくい箇所に位置する場合、目的地までの行き方を示す仮想的なコンテンツを作成することも可能である。
具体的には、図12に示すように、先行のユーザは、目的地である滝までの行き方が分かりにくい森の中に、お助けキャラクターとして、鳥のキャラクター画像C51のコンテンツと、「道なりに300mで滝に着くよ」というコメント画像C52のコンテンツとを作成してもよい。後続のユーザU4,U5は、鳥のキャラクター画像C51とコメント画像C52とのコンテンツとをAR空間上で視認することによって、目的地である滝まで円滑に到着することが可能になる。
このように、ユーザU3は、目的地までの行き方が分かりにくい箇所に位置に、目的地までの行き方を示す画像のコンテンツを作成して、後続のユーザが目的地とする名所やイベント発生場所への到着を補助する。
なお、先行のユーザのスマートデバイス30Aは、画像のコンテンツに限らず、音声のコンテンツを作成することも可能である。
例えば、先行のユーザは、鳥のキャラクター画像C51のコンテンツとともに、「道なりに300mで滝に着くよ」という音声のコンテンツを作成してもよい。この際、先行のユーザは、テキスト入力することでコメントの内容を登録するほか、自身の音声を、自身のスマートデバイス30に入力することでコメントの内容を登録することも可能である。音声は、サーバ40によって、鳥のキャラクター画像C51に対応する音声に変換される。また、鳥のキャラクター画像C51は、この森に生息する希少な種の鳥のキャラクター画像であってもよい。また、キャラクター画像C51は、ゲームキャラクター風の画像に限らず、写真等から作成した画像でもよく、動画も含まれる。
上記の例に限らず、通信システム1では、名物の食べ物を食べるというイベントがある場合には、イベントの内容を示す看板画像や、その食べ物が売っている場所を示す看板画像のコンテンツを先行のユーザが作成可能である。このように、通信システム1では、先行のユーザが、イベント達成を補助するためのコンテンツをAR空間上に作成できるように制御する。
[通信処理の処理手順]
図13は、実施の形態に係る通信処理の処理手順を示すシーケンス図である。図13に示すように、サーバ40は、地図情報421、コンテンツ情報422及び作成用コンテンツ情報423を参照する(ステップS1,S2)。
スマートデバイス30Aは、スマートデバイス30Aの位置を検出し(ステップS3)、サーバ40に、スマートデバイス30Aの位置情報を送信する(ステップS4)。サーバ40は、受信した位置情報と地図情報421とを基にユーザAのスマートデバイス30Aの位置を判定する(ステップS5)。
サーバ40は、スマートデバイス30Aの位置は、コンテンツが作成可能である所定箇所の位置であるかを判定する(ステップS6)。スマートデバイス30Aの位置が、コンテンツが作成可能である位置ではない場合(ステップS6:No)、サーバ40は、スマートデバイス30Aの位置情報受信処理に戻り、ステップS5の処理を行う。
スマートデバイス30Aの位置が、コンテンツが作成可能である所定箇所の位置である場合(ステップS6:Yes)、サーバ40は、所定箇所に応じたコンテンツの種別とともに、他のユーザBの進行を補助する仮想的なコンテンツが可能であることをスマートデバイス30Aに通知する(ステップS7)。
スマートデバイス30Aは、コンテンツ作成可能通知を受けて、コンテンツを作成するか否かを判定する(ステップS8)。例えば、スマートデバイス30Aは、コンテンツ作成可能通知とコンテンツ作成画面とを表示し、ユーザAによるスマートデバイス30Aの操作により、コンテンツ作成画面に作成開始指示が入力された場合に、コンテンツを作成すると判定する。スマートデバイス30Aは、コンテンツを作成しないと判定した場合(ステップS8:No)、ステップS3に戻り位置検出処理を行う。
スマートデバイス30Aは、コンテンツを作成すると判定した場合(ステップS8:Yes)、作成可能なコンテンツの種別を読み出し(ステップS9)、読み出したコンテンツの種別を選択可能に表示する。
スマートデバイス30Aは、ユーザAの操作によって、コンテンツの種別が選択されると(ステップS10)、テキストの入力画面を表示する。そして、スマートデバイス30Aは、ユーザAの操作によって、テキストの入力が行われると(ステップS11)、選択された種別のコンテンツであって、入力されたテキストの内容を含むコンテンツの登録をサーバ40に要求する(ステップS12,S13)。なお、テキストは、目的(例えば、RPGのイベント)の達成を補助する内容や、目的地(例えば、名所やRPGのイベント発生場所)への到着を補助する内容を示すものである。
サーバ40は、スマートデバイス30Aから登録を要求された仮想的なコンテンツを、登録コンテンツとして、コンテンツ情報422に登録する(ステップS14)。サーバ40は、登録を要求された仮想的なコンテンツを、スマートデバイス30Aが位置する、所定箇所の位置に対応付けて登録する。
続いて、後続のユーザBのスマートデバイス30Bは、スマートデバイス30Bの位置を検出し(ステップS15)、サーバ40に、スマートデバイス30Bの位置情報を送信する(ステップS16)。サーバ40は、受信した位置情報と地図情報421とを基に、ユーザBのスマートデバイス30Bの位置を判定する(ステップS17)。
サーバ40は、スマートデバイス30Bの位置に、先行のユーザAが作成した仮想的なコンテンツが登録されているか否かを判定する(ステップS18)。すなわち、サーバ40は、スマートデバイス30Bが、ユーザAが作成した仮想的なコンテンツが登録されている所定箇所に位置するか否かを判定する。スマートデバイス30Bの位置に、先行のユーザAが作成したコンテンツが登録されていない場合(ステップS18:No)、サーバ40は、スマートデバイス30Bの位置情報受信処理に戻り、ステップS17の処理を行う。
スマートデバイス30Bの位置に、先行のユーザAが作成したコンテンツが登録されている場合(ステップS18:Yes)、この所定箇所に対応付けられた登録コンテンツを、スマートデバイス30Bに送信する(ステップS19)。
スマートデバイス30Bは、登録コンテンツが、キャラクター画像である場合、キャラクター画像と実空間の画像との合成処理を行う(ステップS20)。そして、スマートデバイス30Bは、ARグラス10Bに、登録コンテンツの出力を指示し(ステップS21)、例えば、看板画像、コメント画像或いは音声である登録コンテンツを、ARグラス10Bから出力させる(ステップS22)。
[実施の形態の効果]
実施の形態では、先行のユーザAは、観光地等の所定領域の所定箇所に位置する場合、ユーザAが携帯するスマートデバイス30Aを介して、所定箇所に応じた種別の仮想的なコンテンツであって他のユーザの進行を補助する仮想的なコンテンツを作成し、登録する。後続のユーザBは、所定箇所に差し掛かった際に、ARグラス10Bから出力された、ユーザAによる登録コンテンツを確認することによって、RPGを円滑に進行することができる。
実施の形態では、例えば、先行のユーザAは、スマートデバイス30Aを介して、看板画像、コメント画像または音声の仮想的なコンテンツを、観光地等の所定箇所に応じて作成する。これらの仮想的なコンテンツは、ユーザBの目的(例えば、RPGのイベント)の達成を補助する内容や、目的地(例えば、名所やRPGのイベント発生場所)への到着を補助する内容を含むコンテンツである。具体的には、これらの仮想的なコンテンツは、目的地が分かれ道のいずれの道の先にあるかを示すものや、行き方が分かりにくい目的地までの行き方を示すコンテンツである。
このため、ユーザBは、所定箇所に差し掛かった際に、ARグラス10Bから出力された、ユーザAによる登録コンテンツを確認することによって、RPGのイベント等の目的を円滑に達成でき、名所やRPGのイベント発生場所等の目的地へ迅速に到着できる。
このように、実施の形態では、先行のユーザAによって、後続のユーザBの進行の補助となるような看板画像、コメント画像、音声等のコンテンツが登録コンテンツとして所定箇所に配置されることで、ユーザBに、RPGの円滑な進行が可能である仮想空間上のAR体験の提供を可能とする。
なお、本実施の形態では、先行のユーザAが仮想的なコンテンツを作成する場合を例に説明したが、ユーザB等のいずれのユーザもコンテンツの作成が可能である。また、後続のユーザは、ユーザBに限らず、ユーザB以外のいずれのユーザもコンテンツを確認することが可能である。
[システム構成等]
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUやGPU及び当該CPUやGPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
また、本実施形態において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
[プログラム]
また、上記実施形態において説明したARグラス10、スマートデバイス30及びサーバ40及びが実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。例えば、実施形態におけるARグラス10、スマートデバイス30及びサーバ40が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。この場合、コンピュータがプログラムを実行することにより、上記実施形態と同様の効果を得ることができる。さらに、かかるプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータに読み込ませて実行することにより上記実施形態と同様の処理を実現してもよい。
図14は、プログラムを実行するコンピュータを示す図である。図14に例示するように、コンピュータ1000は、例えば、メモリ1010と、CPU1020と、ハードディスクドライブインタフェース1030と、ディスクドライブインタフェース1040と、シリアルポートインタフェース1050と、ビデオアダプタ1060と、ネットワークインタフェース1070とを有し、これらの各部はバス1080によって接続される。
メモリ1010は、図14に例示するように、ROM(Read Only Memory)1011及びRAM1012を含む。ROM1011は、例えば、BIOS(Basic Input Output System)等のブートプログラムを記憶する。ハードディスクドライブインタフェース1030は、図14に例示するように、ハードディスクドライブ1090に接続される。ディスクドライブインタフェース1040は、ディスクドライブ1100に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ1100に挿入される。シリアルポートインタフェース1050は、例えばマウス1110、キーボード1120に接続される。ビデオアダプタ1060は、例えばディスプレイ1130に接続される。
ここで、図14に例示するように、ハードディスクドライブ1090は、例えば、OS1091、アプリケーションプログラム1092、プログラムモジュール1093、プログラムデータ1094を記憶する。すなわち、上記の、プログラムは、コンピュータ1000によって実行される指令が記述されたプログラムモジュールとして、例えばハードディスクドライブ1090に記憶される。
また、上記実施形態で説明した各種データは、プログラムデータとして、例えばメモリ1010やハードディスクドライブ1090に記憶される。そして、CPU1020が、メモリ1010やハードディスクドライブ1090に記憶されたプログラムモジュール1093やプログラムデータ1094を必要に応じてRAM1012に読み出し、各種処理手順を実行する。
なお、プログラムに係るプログラムモジュール1093やプログラムデータ1094は、ハードディスクドライブ1090に記憶される場合に限られず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ等を介してCPU1020によって読み出されてもよい。あるいは、プログラムに係るプログラムモジュール1093やプログラムデータ1094は、ネットワーク(LAN(Local Area Network)、WAN(Wide Area Network)等)を介して接続された他のコンピュータに記憶され、ネットワークインタフェース1070を介してCPU1020によって読み出されてもよい。
上記の実施形態やその変形は、本願が開示する技術に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
10,10A,10B ARグラス
11 撮像部
12 音声入力部
13,31,41 通信部
14 表示部
15 音声出力部
20A,20B モーションコントローラー
30,30A,30B スマートデバイス
32,42 記憶部
33,43 制御部
40 サーバ
321,422 コンテンツ情報
331 位置検出部
332 動き検出部
333 ARグラス制御部
334 コンテンツ作成部
335 コンテンツ合成部
421 地図情報
423 作成用コンテンツ情報
431 判定部
432 コンテンツ登録部
433 コンテンツ送信部

Claims (6)

  1. ユーザが使用する表示装置と、前記ユーザが携帯するスマートデバイスと、スマートデバイスと通信を行うサーバとを有する通信システムであって、
    第1のユーザが携帯する第1の前記スマートデバイスは、
    前記第1のスマートデバイスが所定の領域の所定箇所に位置する場合、前記所定箇所に応じた種別の仮想的なコンテンツであって他のユーザの進行を補助する仮想的なコンテンツを作成し、作成した前記仮想的なコンテンツの登録を前記サーバに要求する作成部
    を有し、
    前記サーバは、
    前記第1のスマートデバイスから登録を要求された仮想的なコンテンツを、登録コンテンツとして、前記所定箇所の位置に対応付けて登録する登録部と、
    前記第1のユーザとは異なる第2のユーザが携帯する第2の前記スマートデバイスが前記所定箇所に位置することを判定した場合、前記第2のスマートデバイスに、前記所定箇所に対応付けられた前記登録コンテンツを送信する送信部と、
    を有し、
    前記第2のスマートデバイスは、
    前記サーバから送信された前記登録コンテンツを、前記第2のユーザが使用する表示装置に出力させる制御部
    を有し、
    前記サーバは、前記第1の前記スマートデバイスが、所定の分かれ道に位置する場合に、前記分かれ道の各道に各ユーザが付与したGOODを集計し、前記第1のスマートデバイスに通知し、
    前記作成部は、前記分かれ道の各行き先に対してGOODを付与したユーザ数を基に、前記GOODを付与した数のユーザがおすすめ、であるコンテンツを行き先ごとに作成することを特徴とする通信システム。
  2. 前記作成部は、前記第2のユーザの目的の達成を補助する内容を含む前記仮想的なコンテンツを作成することを特徴とする請求項1に記載の通信システム。
  3. 前記作成部は、前記第2のユーザの目的地への到着を補助する内容を含む前記仮想的なコンテンツを作成することを特徴とする請求項2に記載の通信システム。
  4. 前記作成部は、前記仮想的なコンテンツとして、看板画像、コメント画像または音声のコンテンツを作成することを特徴とする請求項1~3のいずれか一つに記載の通信システム。
  5. ユーザが使用する表示装置と、前記ユーザが携帯するスマートデバイスと、スマートデバイスと通信を行うサーバとを有する通信システムが実行する通信方法であって、
    第1のユーザが携帯する第1の前記スマートデバイスが、前記第1のスマートデバイスが所定の領域の所定箇所に位置する場合、前記所定箇所に応じた種別の仮想的なコンテンツであって他のユーザの進行を補助する仮想的なコンテンツを作成し、作成した前記仮想的なコンテンツの登録を前記サーバに要求する工程と、
    前記サーバが、前記第1の前記スマートデバイスが、所定の分かれ道に位置する場合に、前記分かれ道の各道に各ユーザが付与したGOODを集計し、前記第1のスマートデバイスに通知する工程と、
    前記サーバが、前記要求する工程において登録を要求された仮想的なコンテンツを、登録コンテンツとして、前記所定箇所の位置に対応付けて登録する工程と、
    前記サーバが、前記第1のユーザとは異なる第2のユーザが携帯する第2のスマートデバイスが前記所定箇所に位置することを判定した場合、前記第2のスマートデバイスに、前記所定箇所に対応付けられた前記登録コンテンツを送信する工程と、
    前記第2のスマートデバイスが、前記サーバから送信された前記登録コンテンツを前記第2のユーザが使用する表示装置に出力させる工程と、
    を含み、
    前記要求する工程は、前記分かれ道の各行き先に対してGOODを付与したユーザ数を基に、前記GOODを付与した数のユーザがおすすめ、であるコンテンツを行き先ごとに作成することを特徴とする通信方法。
  6. 方法をコンピュータに実行させる通信プログラムであって、
    第1のユーザが携帯する第1のスマートデバイスとしてのコンピュータに、
    前記第1のスマートデバイスが所定の領域の所定箇所に位置する場合、前記所定箇所に応じた種別の仮想的なコンテンツであって他のユーザの進行を補助する仮想的なコンテンツを作成し、作成した前記仮想的なコンテンツの登録をサーバに要求するステップ
    を実行させ、
    サーバとしてのコンピュータに、
    前記第1の前記スマートデバイスが、所定の分かれ道に位置する場合に、前記分かれ道の各道に各ユーザが付与したGOODを集計し、前記第1のスマートデバイスに通知するステップと、
    前記要求するステップにおいて登録を要求された仮想的なコンテンツを、登録コンテンツとして、前記所定箇所の位置に対応付けて登録するステップと、
    前記第1のユーザとは異なる第2のユーザが携帯する第2のスマートデバイスが前記所定箇所に位置することを判定した場合、前記第2のスマートデバイスに、前記所定箇所に対応付けられた前記登録コンテンツを送信するステップと、
    を実行させ、
    前記第2のスマートデバイスとしてのコンピュータに、
    前記サーバから送信された前記登録コンテンツを前記第2のユーザが使用する表示装置に出力させるステップ
    を実行させ
    前記要求するステップは、前記分かれ道の各行き先に対してGOODを付与したユーザ数を基に、前記GOODを付与した数のユーザがおすすめ、であるコンテンツを行き先ごとに作成することを特徴とする通信プログラム。
JP2021093152A 2021-06-02 2021-06-02 通信システム、通信方法及び通信プログラム Active JP7219861B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021093152A JP7219861B2 (ja) 2021-06-02 2021-06-02 通信システム、通信方法及び通信プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021093152A JP7219861B2 (ja) 2021-06-02 2021-06-02 通信システム、通信方法及び通信プログラム

Publications (2)

Publication Number Publication Date
JP2022185452A JP2022185452A (ja) 2022-12-14
JP7219861B2 true JP7219861B2 (ja) 2023-02-09

Family

ID=84438875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021093152A Active JP7219861B2 (ja) 2021-06-02 2021-06-02 通信システム、通信方法及び通信プログラム

Country Status (1)

Country Link
JP (1) JP7219861B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015026138A (ja) 2013-07-24 2015-02-05 富士通株式会社 情報処理装置、位置指定方法および位置指定プログラム
JP5909301B1 (ja) 2015-07-24 2016-04-26 株式会社コロプラ 地図データを利用したゲーム方法、ゲームプログラム、ゲーム端末、及びゲームシステム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015026138A (ja) 2013-07-24 2015-02-05 富士通株式会社 情報処理装置、位置指定方法および位置指定プログラム
JP5909301B1 (ja) 2015-07-24 2016-04-26 株式会社コロプラ 地図データを利用したゲーム方法、ゲームプログラム、ゲーム端末、及びゲームシステム

Also Published As

Publication number Publication date
JP2022185452A (ja) 2022-12-14

Similar Documents

Publication Publication Date Title
US10668369B2 (en) Game method, game terminal, and game system utilizing map data
Moar et al. Memory for routes
US9643089B2 (en) Game system
CN107683449A (zh) 控制经由头戴式显示器呈现的个人空间内容
WO2012144389A1 (ja) 個人識別キャラクター表示システム、端末装置、個人識別キャラクター表示方法、及びコンピュータプログラム
US20210375052A1 (en) Information processor, information processing method, and program
CN105074783A (zh) 增强现实提供系统、记录介质及增强现实提供方法
CN106575425A (zh) 经由地理围栏边界段穿越进行的调节
US20140152764A1 (en) Information processing system, information processing apparatus, storage medium having stored therein information processing program, and information transmission/reception method
US20190221019A1 (en) Computer Readable Media, Information Processing Apparatus and Information Processing Method
US20230162433A1 (en) Information processing system, information processing method, and information processing program
CN110097692A (zh) 移动店铺系统以及移动店铺系统中的控制方法
US20140247342A1 (en) Photographer's Tour Guidance Systems
WO2016002284A1 (ja) 情報処理装置、情報処理方法およびプログラム
JP7219861B2 (ja) 通信システム、通信方法及び通信プログラム
US20160191773A1 (en) Distribution of location-based augmented reality captures
JP2022110509A (ja) 情報処理装置及びプログラム
KR102164808B1 (ko) 관광지용 가상현실영상제공시스템
JP7187092B1 (ja) ハッシュタグシステム、ハッシュタグ付与方法、ハッシュタグ付与プログラム
CN109243576A (zh) 食物推荐方法和装置
JP7219860B2 (ja) 通信システム、通信方法及び通信プログラム
JP7245890B1 (ja) 情報処理システム、情報処理方法、情報処理プログラム
JP7216940B2 (ja) 通信システム、通信方法及び通信プログラム
JP6149967B1 (ja) 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法
CN111650953B (zh) 飞行器避障处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210602

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20221216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230106

R150 Certificate of patent or registration of utility model

Ref document number: 7219861

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150