JP2021077384A - Arプラットフォームシステム、方法およびプログラム - Google Patents

Arプラットフォームシステム、方法およびプログラム Download PDF

Info

Publication number
JP2021077384A
JP2021077384A JP2021000876A JP2021000876A JP2021077384A JP 2021077384 A JP2021077384 A JP 2021077384A JP 2021000876 A JP2021000876 A JP 2021000876A JP 2021000876 A JP2021000876 A JP 2021000876A JP 2021077384 A JP2021077384 A JP 2021077384A
Authority
JP
Japan
Prior art keywords
information
user
display
request
platform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021000876A
Other languages
English (en)
Other versions
JP7116200B2 (ja
Inventor
健司郎 神山
Kenshiro Kamiyama
健司郎 神山
実希 菱田
Miki Hishida
実希 菱田
卓久 松田
Takahisa Matsuda
卓久 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Research Institute Ltd
Sumitomo Mitsui Banking Corp
Original Assignee
Japan Research Institute Ltd
Sumitomo Mitsui Banking Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Research Institute Ltd, Sumitomo Mitsui Banking Corp filed Critical Japan Research Institute Ltd
Priority to JP2021000876A priority Critical patent/JP7116200B2/ja
Publication of JP2021077384A publication Critical patent/JP2021077384A/ja
Application granted granted Critical
Publication of JP7116200B2 publication Critical patent/JP7116200B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】利用者が見たい/知りたい情報をリアルタイムで表示するARプラットフォームシステム、方法及びプログラムを提供する。【解決手段】ARプラットフォーム140は、情報利用者を識別する情報および検索条件を含む第1のリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報146及び位置情報147を記憶しているデータベースを検索する。検索結果は、情報利用者を識別する情報、検索条件及び情報公開対象者情報に従って制限される。ARプラットフォーム140は、検索結果から第1のAR表示情報を作成して送信し、第1のAR表示情報に対する情報利用者による評価情報を含む第2のリクエストを受信した場合、第2のリクエストに基づいてデータベースを検索し、検索結果から評価情報に従う第2のAR表示情報を作成して、送信する。第2のAR表示情報は、優先度情報を含む。優先度情報の高さは、評価情報の内容に応じて決定される。【選択図】図1

Description

本発明は、ARプラットフォームシステム、方法およびプログラムに関する。
現実の風景に仮想の視覚情報を重ねて表示するAR(Augmented Reality:拡張現実)に関するサービスが提供されている。ARは、例えば現実の風景に付随する情報をメッセージ、記号等の形式を用いて、重ねて表示できる。従来のARは、異なるユーザに対しても一律の情報を表示するか、またはユーザごとに見たい情報を予め設定して表示するものであった。
特開2016−053965号公報
特許文献1には、撮影者が撮影した画像を解析して、撮影者が有する端末装置のディスプレイにおいて、被写体と被写体に関連付けられた宣伝情報とを重ねて表示する技術が開示されている。また、特許文献1には、被写体から撮影者に対する宣伝情報の提供を制限する技術が開示されている。
しかしながら、特許文献1に記載の発明は、ARを目視する利用者が見たい/知りたい情報と宣伝情報とが必ずしも合致するものではない。さらに、特許文献1に記載の発明は、ARを目視する利用者の属性や視覚特性に応じて表示を変更するものではなく、利用者が置かれた状況に応じてリアルタイムで表示を変更するものでもない。
本発明はこのような課題に対し、ARを目視する利用者が見たい/知りたい情報をリアルタイムで表示するARプラットフォームシステム、方法およびプログラムを提供することを目的とする。
本発明の一態様である、ARプラットフォームシステムは、情報利用者を識別する情報を含むリクエストを受信し、受信したリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報、および位置情報を記憶しているデータベースを検索し、検索結果は情報利用者を識別する情報と情報公開対象者情報とに従って制限され、検索結果からAR表示情報を作成して、送信するように構成されたプロセッサを備える。
本発明によれば、ARを目視する利用者が見たい/知りたい情報、または見たい/知りたいと推定される情報をリアルタイムで表示できる。また、本発明によれば、ARを目視する利用者の視覚特性に応じて表示を変更できる。
本発明の一実施形態に係るARプラットフォームシステムの機能ブロックを例示する図である。 本発明の一実施形態に係るARデバイス100の構成を例示する図である。 本発明の一実施形態に係る情報利用者デバイス110、情報提供者デバイス120、およびプラットフォーム140の汎用的な構成を例示する図である。 本発明の一実施形態に係る能動的なAR表示処理フローを例示する図である。 本発明の一実施形態に係る受動的なAR表示処理フローを例示する図である。
以下、図面を参照しながら本発明の実施形態について説明する。複数の図面において同一の符号は同一の要素を表し、重複した説明は省略する。
図1は、本発明の一実施形態に係るARプラットフォーム140システムの機能ブロックを例示する図である。図1は概略的に、ARデバイス100、情報利用者デバイス110、情報提供者デバイス120、外部システム130、プラットフォーム140、およびネットワーク150を含む。
ARデバイス100は、情報利用者によって使用されるデバイスであり、例えば眼鏡形状を有するヘッドマウントディスプレイ方式のウェアラブル端末、スマートフォン、タブレット等とすることができる。本明細書では、ARデバイス100をヘッドマウントディスプレイ方式のウェアラブル端末として説明する。ARデバイス100は、任意の無線通信技術を使用して情報利用者デバイス110と情報を送受信し、および情報利用者デバイス110から受信した制御指示に従って画像の表示等ができる。
ARデバイス100は、情報利用者の視野の一部または全部、情報利用者の虹彩等を撮像できる。ARデバイス100は、所定の時間間隔または情報利用者の操作に応じて撮像でき、動画を撮像してもよい。ARデバイス100はまた、眼鏡のレンズに相当するディスプレイに光を投影することによって、画像を表示できる。ARデバイス100はさらに、情報利用者によるボタン入力、マイクを使用した音声入力、情報利用者の視野と重なるように行うジェスチャー入力等によって、情報利用者から知りたい情報に関するリクエストの入力を受け付けることができる。撮像された画像データおよび入力されたリクエストは、情報利用者デバイス110に送信(連携)される。ARデバイス100は、リクエストが音声により入力される場合、情報利用者による任意のキーワードの発声をトリガとして、入力を受け付けてもよい。
情報利用者デバイス110は、情報利用者によって使用されるデバイスであり、スマートフォン、タブレット等とすることができる。情報利用者デバイス110は、任意の無線通信技術によりARデバイス100と情報を送受信し、およびARデバイス100に対する制御指示を送信できる。ARデバイス100によって撮像された画像データは、情報利用者デバイス110に記憶されてもよい。情報利用者デバイス110は、ARデバイス100と同一のデバイスであってもよい。
情報利用者デバイス110は、ARデバイス100が撮像した画像データ、およびARデバイス100に入力されたリクエスト等の情報をプラットフォーム140に送信できる。リクエストは、例えば情報利用者を識別する任意の情報(例えば、ID)、情報提供者の属性、商品・サービス情報、在庫状況、サービス提供状況、質問等を含み、文字列、数字列等の形式は問わない。情報利用者デバイス110はまた、リクエストに応答して表示されたAR画像の閲覧履歴、視聴時間等をプラットフォーム140に送信してもよい。
情報利用者デバイス110は、パスワード認証、虹彩認証、声紋認証等を含む生体認証等を行うことによって、ARデバイス100を装着または使用している情報利用者を識別できる。生体認証は、ARデバイス100から受信した虹彩画像、音声等のデータを使用できる。情報利用者の識別は所定の時間間隔で行われてもよく、ARデバイス100によって単独で行われてもよい。
情報利用者デバイス110は、任意的に、情報利用者から視覚特性の入力を受け付け、プラットフォーム140に送信できる。視覚特性は、情報利用者の視力(近視、遠視、乱視等を含む)、色覚を含む。
情報提供者デバイス120は、情報提供者によって使用されるデバイスであり、スマートフォン、タブレット等とすることができる。情報提供者デバイス120は、情報提供者から利用サービス・利用目的ごとに提供情報の入力を受け付け、プラットフォーム140に送信できる。提供情報は、例えば情報利用者の公開鍵、情報提供者の属性(氏名・名称、仕事、趣味・嗜好、技能、語学、社会活動等を含み得る)、提供する商品・サービスの情報、在庫状況、交通状況等、任意の情報を含み、文字列、数字列等の形式は問わない。提供する商品・サービスの情報は、例えば広告情報、サービスの提供状況、商品の販売時期・範囲、サービスの提供時期・範囲、商品・サービスの価格情報等を含んでもよい。
情報提供者デバイス120は、情報提供者から利用サービス・利用目的ごとに情報公開対象者情報の入力を受け付け、プラットフォーム140に送信できる。情報公開対象者情報は、例えば対象者名・ID、アプリケーション・ユースケース、アクセス範囲、アクセス許可方法(パスワード認証、虹彩認証、声紋認証等を含む生体認証等)とすることができる。情報公開対象者情報は、情報利用者がどの範囲まで提供情報を閲覧できるか、どの情報利用者が提供情報を閲覧できるか、提供情報の時間/場所等について制限できる。情報公開対象者情報は、例えば特定のイベントの参加者、チケット購入者のみに提供情報を閲覧可能とすること、情報利用者の年齢に応じて酒類を提供する飲食店のサービス状況の閲覧を制限すること等が挙げられる。
情報提供者デバイス120は、GPS(Global Positioning System)、VPS(Virtual Positioning System)等により位置情報を取得して、プラットフォーム140に送信できる。情報提供者デバイス120はまた、情報提供者の顔、服装等の外観に関する画像を取得して、プラットフォーム140に送信できる。情報提供者が施設、店舗、法人等である場合、位置情報は住所、所在地、建物の外観等とすることができる。情報提供者デバイス120は、位置情報および外観に関する画像をリアルタイムでプラットフォーム140に送信できる。
外部システム130は、外部企業が管理する任意のシステムであり、API(Application Programming Interface)を介してプラットフォーム140と任意の情報を送受信できる。
プラットフォーム140は、1つまたは複数のサーバ、PC等により構成され得る。プラットフォーム140は、属性情報DB145、情報公開対象者DB146、位置情報DB147、閲覧履歴DB148、および視覚特性DB149を備える。プラットフォーム140は、情報利用者デバイス110、情報提供者デバイス120、および外部システム130とリアルタイムで任意の情報を送受信できる。
プラットフォーム140は、APIを介して、外部システム130から任意の情報を取得できる。外部システム130から取得する情報は、例えば広告情報、サービスの提供状況、商品の販売時期・範囲、サービスの提供時期・範囲、商品・サービスの価格情報、情報利用者の閲覧履歴等とすることができる。
プラットフォーム140は、任意的に、Webスクレイピング技術を使用して、Web上の任意の情報を取得してもよい。スクレイピングにより取得する情報は、例えば店舗のサービス提供状況、交通状況、天気・気温等の情報、商品の販売時期・範囲、サービスの提供時期・範囲、商品・サービスの価格情報等とすることができる。
プラットフォーム140は、情報提供者デバイス120から受信した提供情報を属性情報DB145、情報公開対象者情報を情報公開対象者DB146、位置情報を位置情報DB147にそれぞれ格納できる。プラットフォーム140は、外部システム130から受信した情報利用者の閲覧履歴を閲覧履歴DB148に格納でき、任意的に、情報利用者から受信した閲覧履歴等を閲覧履歴DB148に格納してもよい。プラットフォーム140は、情報利用者を識別する任意の情報と視覚特性とを関連付けて視覚特性DB149に格納できる。
プラットフォーム140は、画像認識部141によって、情報利用者の視野を撮像した視野画像データに対して画像認識を実行して、画像情報を認識できる。認識された画像情報は、例えば人物、物体等を識別でき、店舗の看板、ロゴ等から識別した文字情報、色彩情報等を含み得る。画像認識は、任意の画像処理アルゴリズム、認識技術等を使用して実施され得る。
プラットフォーム140は、嗜好情報抽出部142によって、情報利用者の嗜好情報を抽出できる。嗜好情報の抽出は、画像情報に含まれる文字情報等のキーワードを使用して、属性情報DB145から取得する。嗜好情報の抽出はまた、画像情報に含まれる文字情報等を使用した部分一致検索や類語検索を行うことによって、属性情報DB145から嗜好関連情報を抽出してもよい。嗜好関連情報は、例えば画像情報に店舗の看板から抽出した文字情報に「中華料理」が含まれる場合、他の中華料理店、「四川」や「広東」等のキーワードで抽出した飲食店の情報が含まれ得る。
嗜好情報の抽出は、情報利用者の視野を撮像した視野画像データから特定の特徴(容姿、行動、物体)が現れる頻度、視野内に占める範囲、および/または情報利用者の眼を撮像した画像情報から得られる視線の偏り等に基づいて抽出されてもよい。視線の偏りは、例えば情報利用者の焦点、同じ対象物を注視する時間、視点の流れ等を分析することにより取得し得る。プラットフォーム140は、情報利用者の嗜好情報、嗜好関連情報を必要に応じて加工し、外部システム130に送信してもよい。
プラットフォーム140は、表示情報作成部143によって、ARデバイス100に表示するためのAR表示情報を作成することができる。AR表示情報は、例えば情報利用者デバイス110から受信したリクエストに含まれるキーワードを使用して、属性情報DB145、情報公開対象者DB146、位置情報DB147等の検索結果から作成され得る。検索結果は、例えばリクエストに合致する情報提供者のリスト、詳細情報、情報提供者の位置情報等とすることができる。AR表示情報は、例えば特定の情報提供者の位置、方角、距離をタグ、記号、メッセージ等により表示する情報等が含まれ得る。AR表示情報は、例えば任意の表示対象物の一部または全部についてタグ付け、色付け、枠、太字、スポットライト等の任意の形式で強調表示が行われてもよい。
AR表示情報は、属性情報DB145から取得した嗜好情報、嗜好関連情報から作成されてもよい。AR表示情報は、例えば嗜好情報に「中華料理A」の店舗が含まれている場合、「中華料理A」、および嗜好関連情報として抽出した「中華料理B」や「四川料理C」等の店舗情報を含めてもよい。AR表示情報は、情報利用者の嗜好情報と、外部システム130から取得した広告情報またはスクレイピングにより取得した広告情報等とをマッチングさせて作成されてもよい。AR表示情報は、例えば嗜好情報に「猫」が含まれている場合、ペットショップが運営する外部システム130から取得したペット用の新商品の広告情報等を含めてもよい。AR表示情報は、嗜好情報または嗜好関連情報に合致する表示対象物について、任意の形式で強調表示が行われてもよい。
AR表示情報は、閲覧履歴を使用して優先度付けされてもよい。優先度付けは、嗜好情報、嗜好関連情報等と合致する閲覧履歴が閲覧履歴DB148に存在する場合、AR表示情報において強調表示、上位表示、最前面表示等がなされるようにしてもよい。優先度付けは、例えば嗜好情報に「中華料理」、「洋食」が含まれ、かつ情報利用者の閲覧履歴(例えば中華料理店のWebサイトの閲覧履歴)が閲覧履歴DB148に存在する場合、「中華料理」の優先度を高くすることができる。
AR表示情報は、情報利用者デバイス110からリクエストを受信しているかどうかに応じて、情報量を調整してもよい。情報量は、例えば目的地までの道案内を行うAR表示情報がARデバイス100に表示されている間は、他のAR表示情報を非表示とするか、または優先度の高い情報量のみ表示する等のように調整してもよい。
プラットフォーム140は、情報利用者デバイス110からAR表示情報の評価を受信してもよい。評価は、AR表示情報を閲覧した情報利用者により入力された評価であり、例えば情報利用者の嗜好に合っているか否か、情報量または表示形式が適切か、等の情報を含み得る。AR表示情報は、評価の高いAR表示情報の優先度を高くするように優先度付けされてもよく、評価の内容に応じて作成または変更されてもよい。プラットフォーム140はまた、情報利用者デバイス110からAR表示情報の登録依頼を受信して、AR表示情報を登録してもよい。登録依頼は、例えば評価の高いAR表示情報と、情報利用者の属性(性別、年齢など)や嗜好情報とに関連付けられてもよい。プラットフォーム140は、AR表示情報を作成するとき、登録されたAR表示情報を利用してもよい。プラットフォーム140は、属性(性別、年齢等)、嗜好情報が類似する他の情報利用者に対してAR表示情報を作成するとき、登録されたAR表示情報を利用してもよい。AR表示情報は、他の情報利用者の属性や嗜好情報に基づいて、登録されたAR表示情報の一部を変更して作成されてもよい。登録されたAR表示情報を利用することにより、情報利用者または他の情報利用者は、自分の嗜好情報に合ったAR表示情報を閲覧するまでの時間を短縮できる。
プラットフォーム140は、視覚特性補正部144によって、情報利用者の視力に応じたARの拡大表示、エッジの強調処理、色覚に応じたARおよび/または視野の一部または全部の色変換を行うようにAR表示情報を補正してもよい。拡大表示およびエッジの強調表示は、例えば情報利用者の視力が老視等により低下している場合、文字の拡大、障害物に対するエッジの強調を行ってARを表示してもよい。色変換は、例えば情報利用者の色覚が低下している場合、色覚に応じたルックアップテーブルを使用して、RGB値で表現される画像の色情報を入力値として、所定の配列置換により色情報を変換してもよい。
AR表示情報の補正は、時間または外的な明度に応じてARおよび/または視野の一部または全部の明度を変化させてもよい。明度の変化は、例えば夏、午後から夕方等のように画像の明度が高い場合、情報利用者の視野の一部または全部の明度を下げるようにAR表示情報を補正してもよい。AR表示情報の補正は、情報利用者デバイス110に送信する前のAR表示情報を直接補正してもよい。AR表示情報の補正はまた、情報利用者からの音声入力等をトリガとしてAR表示情報と補正されたAR表示情報とを切り替えられるようにしてもよい。AR表示情報の補正は、ARデバイス100または情報利用者デバイス110によって実行されてもよい。
プラットフォーム140は、任意的に、情報利用者の瞳孔反応や眼球運動等の画像、音声の揺らぎ等の情報に基づいて情報利用者の感情を分析できる。感情の分析は、例えば瞳孔反応や眼球運動の画像から特徴量を抽出し、快不快、緊張、恐怖等の特徴量の統計モデルとの関係から感情を推定すること等、任意の分析手法により実行され得る。プラットフォーム140は、分析された感情にさらに基づいて嗜好情報を抽出してもよい。分析された感情は、閲覧履歴DB148に記憶された閲覧履歴に対する優先度付けに使用されてもよい。閲覧履歴に対する優先度付けは、例えば分析された感情が不快、緊張等のカテゴリに属するものだった場合、AR表示情報を作成するときの表示順等の優先度を低くしてもよい。分析された感情は、AR表示情報として情報利用者デバイス110に送信されてもよい。
ネットワーク150は、情報利用者デバイス110とプラットフォーム140との間、情報提供者デバイス120とプラットフォーム140との間、および外部システム130とプラットフォーム140との間で相互通信可能な任意のネットワークとすることができ、特に限定されることはない。
図2は、本発明の一実施形態に係るARデバイス100の構成を例示する図である。図2に例示するように、制御部201、記憶部202、通信部203、カメラ204、操作部205、および表示部206がバス207等によって接続される。
制御部201は、CPU等により構成され、記憶部202に記憶されたプログラムを読み出して実行することにより、ARデバイス100に関する種々の情報処理または制御処理等を行うことができる。記憶部202は、例えばRAM、ROM等により構成され、制御部201が処理を実行するために必要なプログラムまたはデータ等を記憶できる。記憶部202はまた、制御部201が演算処理を実行するために必要なデータ等を一時的に記憶できる。通信部203は、例えばアンテナおよび通信に関する処理を行うための処理回路等を含み、任意の無線通信技術により情報利用者デバイス110と情報の送受信を行うことができる。
カメラ204は、例えばCCD(Charge Coupled Device)イメージセンサまたはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等により構成されたアウトカメラを備える。アウトカメラは、ARデバイス100を装着している情報利用者の視野の全部または一部の範囲を撮像できる。アウトカメラは、例えば眼鏡レンズの周辺に相当するARデバイス100の前部周辺に設けることができる。カメラ204は、任意的に、例えばCCDイメージセンサまたはCMOSイメージセンサ等により構成されたインカメラを備えてもよい。インカメラは、ARデバイス100を装着する情報利用者の虹彩等を撮像できる。インカメラは、例えば眼鏡レンズの片方に相当するARデバイス100の上部等に設けることができる。アウトカメラおよびインカメラによって撮像された画像データは、記憶部202に記憶できる。
操作部205は、例えばタッチパッドまたは押下式のボタン、マイク等により構成され得る。操作部205は、例えば眼鏡のフレーム部分に相当するARデバイス100の側部に設けられ、情報利用者による操作、音声入力を受け付ける。表示部206は、例えば光源、ハーフミラー、眼鏡レンズ形状の半透過部材等を含んで構成され得る。光源から照射された光がハーフミラーを介して半透過部材に投影されることにより、表示部206は画像を表示する。
図3は、本発明の一実施形態に係る情報利用者デバイス110、情報提供者デバイス120、プラットフォーム140の汎用的な構成を例示する図である。図3に例示するように、制御部301、主記憶部302、補助記憶部303、通信部304、操作部305、および表示部306がバス307等によって接続される。情報提供者デバイス120はさらに、GPS機能またはVPS機能を備える。情報利用者デバイス110もまた、GPS機能またはVPS機能を備えてもよい。
制御部301はCPUであり、業務システムの各構成要素の制御やデータの演算を行うことができる。主記憶部302はメインメモリであり、入力されたデータ、コンピュータ実行可能な命令および命令による演算処理後のデータ等を記憶できる。補助記憶部303はハードディスク等の記憶装置であり、データやプログラムを長期的に保存する際に使用される。制御部301は、補助記憶部303に格納されているプログラムを主記憶部302に読み出して実行できる。
通信部304は、他のシステムまたは装置との間でデータを送受信する際のインタフェースである。操作部305は、キーボード、マウス、タッチパネル等により構成され、アプリケーションの各種操作や入力データを受け付けることができる。表示部306は、ディスプレイ等により構成され、アプリケーションの各種画面等を提供できる。
図4は、本発明の一実施形態に係る能動的なAR表示処理フローを例示する図である。図4は、例えば懇親会、ネットワーキングイベント等において、情報利用者が情報提供者を探す場合について説明する。プラットフォーム140は、情報提供者から受信した提供情報を属性情報DB145、情報公開対象者情報を情報公開対象者DB146、および位置情報をそれぞれデータベースに記憶しているものとする。また、位置情報はリアルタイムで取得して位置情報DB147を更新できるものとする。提供情報は、例えば情報提供者がIT業界において特定の技能を有するという情報を含み得る。位置情報は、例えば懇親会、ネットワーキングイベント等において、VPSにより取得された情報提供者の会場内の位置情報とすることができる。
S401:情報利用者デバイス110は、任意の無線技術によって、情報利用者が装着しているARデバイス100との相互通信を確立する。
S402:情報利用者デバイス110は、ARデバイス100を装着している情報利用者を識別する。情報利用者の識別は、パスワード認証、虹彩認証、声紋認証等を含む生体認証等により行うことができ、所定の時間間隔で行われてもよい。
S403:ARデバイス100は、音声、ジェスチャー等を介して、情報利用者からリクエストの入力を受け付ける。入力されたリクエストは、情報利用者デバイス110に送信される。ここでは、リクエストに「会場内で特定の話題を持つ人(例えば、IT業界の人)を探す」という内容が含まれているものとする。
S404:情報利用者デバイス110は、リクエストをプラットフォーム140に送信する。リクエストは任意の加工が行われてもよく、時間情報、ARデバイス100によって撮像された画像等を併せて送信してもよい。
S405:プラットフォーム140は、情報利用者デバイス110から受信したリクエストに基づいて、AR表示情報を作成する。AR表示情報は、リクエストに含まれるキーワードを使用して、属性情報DB145、情報公開対象者DB146、位置情報DB147等の検索結果から作成され得る。検索結果は、例えば会場内のIT業界の人のリスト、人数や割合等の情報が得られる。プラットフォーム140は、情報公開対象者情報として情報利用者に閲覧制限がある場合、制限のある提供情報を検索条件または検索結果から除外してもよい。
S406:プラットフォーム140は、AR表示情報を情報利用者デバイス110に送信する。AR表示情報は、例えば会場内のIT業界の人のリスト、人数等をメッセージ形式で表示する情報等が含まれ得る。
S407:情報利用者デバイス110は、プラットフォーム140から受信したAR表示情報に基づいて、ARデバイス100を制御する。ARデバイス100は、情報利用者の視野内でARを表示する。
S408:ARデバイス100は、音声、ジェスチャー等を介して、情報利用者からリクエストの入力を受け付ける。入力されたリクエストは、情報利用者デバイス110に送信される。リクエストは、例えばARデバイス100に表示されたIT業界の人のリストの中から、特定の人の位置を知るという内容が含まれているものとする。
S409:情報利用者デバイス110は、リクエストをプラットフォーム140に送信する。リクエストは任意の加工が行われてもよく、時間情報、ARデバイス100によって撮像された画像等を併せて送信してもよい。
S410:プラットフォーム140は、情報利用者デバイス110から受信したリクエストに基づいて、AR表示情報を作成する。AR表示情報は、リクエストに含まれる特定の人の氏名・名称等を使用して、属性情報DB145、情報公開対象者DB146、位置情報DB147等の検索結果から作成され得る。プラットフォーム140は、情報提供者デバイス120に位置情報の取得要求を送信して、情報提供者の最新の位置情報を取得してもよい。
S411:プラットフォーム140は、AR表示情報を情報利用者デバイス110に送信する。AR表示情報は、例えば特定の情報提供者の位置を強調表示する情報、位置、方角、距離をタグ、記号、メッセージ等により表示する情報等が含まれ得る。位置の強調表示は、例えば情報提供者のタグ付け、色付け、枠、スポットライト等の任意の形式で行われてもよい。
S412:情報利用者デバイス110は、プラットフォーム140から受信したAR表示情報に基づいて、ARデバイス100を制御する。ARデバイス100は、情報利用者の視野内でARを表示する。
このようにすることで、情報利用者が知りたい情報(特定の人を探すこと等)をリアルタイムで表示できる。情報利用者は、距離や遮蔽物等によって目視では確認困難な場合であっても、情報提供者の位置を知ることができる。上記の実施形態において、リクエストの入力(S403、S408)は2回行われているが、少なくとも1回行わればよい。ARデバイス100はまた、情報利用者の視野内に情報提供者が現れた場合、視野画像データをプラットフォーム140に送信してもよい。プラットフォーム140は、視野画像データに対して画像認識を実行して、情報提供者の顔認識結果を情報利用者にフィードバックしてもよい。フィードバックによって、情報利用者は、情報提供者を位置情報と顔認識により確認することができる。
別の実施形態において、情報利用者は、例えば初対面の人または迷子等の情報提供者を探すことができる。情報提供者デバイス120は、情報利用者の公開鍵および位置情報をプラットフォーム140に送信する。情報利用者デバイス110は、情報利用者の秘密鍵をプラットフォーム140に送信する。公開鍵と秘密鍵は、情報利用者のみに情報提供者の位置情報を提供するために使用されるものであり、情報利用者が識別できる任意の情報で代替してもよい。プラットフォーム140は、情報利用者の視野の少なくとも一部において情報提供者の位置を強調表示する内容を含むAR表示情報を情報利用者デバイス110に送信する。情報利用者デバイス110は、プラットフォーム140から受信したAR表示情報に基づいて、情報提供者の位置を強調表示するようにARデバイス100を制御する。
別の実施形態において、情報利用者は、外国語案内やボランティアを行う情報提供者を探すことができる。プラットフォーム140は、例えば語学(英語、中国語、韓国語等)の会話スキルを有しているという提供情報を情報提供者デバイス120から受信し、属性情報DB145に記憶する。ARデバイス100は、語学の会話スキルを有している特定の人を探すというリクエストの入力を受け付け、情報利用者デバイス110を介してプラットフォーム140に送信する。プラットフォーム140は、リクエストに基づいて属性情報DB145および位置情報DB147を検索し、語学の会話スキルを有している特定の人の位置を強調表示する内容を含むAR表示情報を情報利用者デバイス110に送信する。情報利用者デバイス110は、プラットフォーム140から受信したAR表示情報に基づいて、情報提供者の位置を強調表示するようにARデバイス100を制御する。
別の実施形態において、情報利用者は、特定の建物、店舗を探すことができる。リクエストは、例えば情報利用者が繁華街にいる場合において、居酒屋の空席状況、提供する酒類(銘柄)を検索する等の内容を含んでもよい。プラットフォーム140は、APIを介して、外部企業システムからリアルタイムで居酒屋の空席状況等を取得する。空席状況等は、属性情報DB145の検索および/またはスクレイピングにより取得されてもよい。プラットフォーム140は、検索結果を含めてAR表示情報を作成し、情報利用者デバイス110に送信する。プラットフォーム140は、さらに居酒屋等の予約を行うリクエストを受信してもよい。プラットフォーム140は、リクエストに基づいて、外部企業システム(予約サイト、居酒屋チェーンのWebサイト等)に対して、APIを介する予約を行ってもよい。プラットフォーム140は、予約が完了したメッセージ、店舗までの道案内等を含めてAR表示情報を作成してもよい。
図5は、本発明の一実施形態に係る受動的なAR表示処理フローを例示する図である。図5は、例えば情報利用者が街中を歩いている場合であって、目的地までの間に特定の目的または用事がない場合について説明する。
S501:情報利用者デバイス110は、任意の無線技術によって、情報利用者が装着しているARデバイス100との相互通信を確立する。
S502:情報利用者デバイス110は、ARデバイス100を装着している情報利用者を識別する。情報利用者の識別は、パスワード認証、虹彩認証、声紋認証等を含む生体認証等により行うことができ、所定の時間間隔で行われてもよい。
S503:ARデバイス100は、情報利用者の視野の一部または全部を撮像する。ARデバイス100は、例えば所定の時間間隔で情報利用者の視野を撮像することによって、情報利用者が無意識に見ている人、物体等の視野画像データを取得できる。撮像された視野画像データは、情報利用者デバイス110に送信される。
S504:情報利用者デバイス110は、情報利用者の視野画像データをプラットフォーム140に送信する。画像は任意の加工が行われてもよく、画像処理フィルタを利用して抽出した特徴量のみ送信されてもよく、時間情報、情報利用者の眼等を撮像した画像等を併せて送信してもよい。
S505:プラットフォーム140は、情報利用者デバイス110から受信した視野画像データに対して画像認識を実行して、画像情報を認識する。
S506:プラットフォーム140は、情報利用者の嗜好情報を抽出する。嗜好情報の抽出は、画像情報に含まれる文字情報等のキーワードを使用して、属性情報DB145から取得する。嗜好情報の抽出はまた、画像情報に含まれる文字情報等を使用した部分一致検索や類語検索を行うことによって、属性情報DB145から嗜好関連情報を抽出してもよい。嗜好関連情報は、例えば画像情報に店舗の看板から抽出した文字情報に「中華料理」が含まれる場合、他の中華料理店、「四川」や「広東」等のキーワードで抽出した飲食店の情報が含まれ得る。
S507:プラットフォーム140は、情報利用者の嗜好情報に基づいて、AR表示情報を作成する。情報利用者の位置情報が取得できる場合、プラットフォーム140は近隣の店舗情報を優先して表示するようにAR表示情報を作成してもよい。
S508:プラットフォーム140は、AR表示情報を情報利用者デバイス110に送信する。
S509:情報利用者デバイス110は、プラットフォーム140から受信したAR表示情報に基づいて、ARデバイス100を制御する。ARデバイス100は、情報利用者の視野内でARを表示する。
このようにすることで、ARを目視する情報利用者が見たい/知りたいと推定される情報をリアルタイムで表示できる。プラットフォーム140はまた、任意的に情報利用者の感情の分析を行ってもよい。プラットフォーム140は、分析された感情にさらに基づいて嗜好情報を抽出してもよい。分析された感情は、閲覧履歴DB148に対する優先度付けの情報として使用されてもよく、AR表示情報として情報利用者デバイス110に送信されてもよい。このようにすることで、情報利用者が無意識の内に嗜好情報の抽出を補完し、より潜在的なニーズに沿ったAR表示情報を情報利用者に提供できる。
別の実施形態において、嗜好情報の抽出は、認識された画像情報から特定の特徴(容姿、行動、物体)が現れる頻度、視野内に占める範囲、および/または情報利用者の眼を撮像した画像から得られる視線の偏り等に基づいて抽出されてもよい。プラットフォーム140は、例えば嗜好情報に「猫」が含まれている場合、「猫」をキーワードに属性情報DB145を検索して、ペットショップの店舗情報、猫に関するグッズ販売の店舗情報、動物病院の情報等を含めて、AR表示情報を作成してもよい。
別の実施形態において、情報利用者は、ARデバイス100および情報利用者デバイス110を使用して、購入したい商品情報(例えば、特定の輸入食品)が含まれるリクエストを予めプラットフォーム140に送信してもよい。プラットフォーム140は、ARデバイス100が撮像した情報利用者の視野画像データに対して画像認識を実行して、画像情報を認識する。プラットフォーム140は、リクエストに含まれる商品情報と画像情報とをマッチングする。プラットフォーム140は、画像情報に特定の輸入食品を取り扱う店舗の外観が含まれる場合、取り扱いがある店舗を強調表示する内容を含むAR表示情報を作成する。プラットフォーム140はまた、特定の輸入食品を取り扱う他の店舗情報、価格情報、在庫情報等をAR表示情報に含めてもよい。このようにすることで、情報利用者は、購入したい商品情報を取り扱う店舗を事前に調べる必要がなく、情報利用者の行動範囲において店舗が存在すればAR表示情報により通知を受けることができる。
別の実施形態において、プラットフォーム140は、情報利用者とは異なる第三者(例えば、知人、親族等)が使用するデバイスから、AR表示情報に任意の情報を含めるための追加リクエストを受信してもよい。追加リクエストは、例えば情報利用者が特定の地域、施設に移動したとき、第三者が勧める飲食店の情報、商品等をAR表示情報に含む内容とすることができる。このようにすることで、情報利用者は、特定の地域、施設を初めて訪れるような場合であっても、AR表示情報に含まれる第三者からのガイドに従って行動できる。追加リクエストは、第三者から情報利用者に対して、購入を依頼する商品(例えば、日用品)の情報としてもよい。プラットフォーム140は、情報利用者が日用品を販売するスーパーマーケット等に近づいたとき、AR表示情報に日用品を含めて作成することによって、情報利用者の買い忘れ等を防止することができる。
別の実施形態において、AR表示情報は、装着している情報利用者の視覚特性に応じて、階段や看板等の障害物に対するエッジの強調表示、PCのマウスカーソルの強調表示または拡大表示、色変換等の補正が行われてもよい。このようにすることで、AR表示情報は、より情報利用者に沿った内容をすることができる。
説明のため各処理を分けて記載したが、各処理を統合、連携させ、それぞれが有する処理の一部または全部を他方が行うように実装されてもよい。
以上、例示的な実施形態を参照しながら本発明の原理を説明したが、本発明の要旨を逸脱することなく、構成および細部において変更する様々な実施形態を実現可能である。すなわち、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様を採用することが可能である。
100 ARデバイス
110 情報利用者デバイス
120 情報提供者デバイス
130 外部システム
140 プラットフォーム140
141 画像認識部
142 嗜好情報抽出部
143 表示情報作成部
144 視覚特性補正部
145 属性情報DB
146 情報公開対象者DB
147 位置情報DB
148 閲覧履歴DB
149 視覚特性DB
150 ネットワーク

Claims (8)

  1. 情報利用者を識別する情報および検索条件を含む第1のリクエストを受信し、
    受信した前記第1のリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報、および位置情報を記憶しているデータベースを検索し、検索結果は前記情報利用者を識別する情報、前記検索条件および前記情報公開対象者情報に従って制限され、
    前記検索結果から第1のAR表示情報を作成して、送信し、
    前記第1のAR表示情報に対する前記情報利用者による評価情報を含む第2のリクエストを受信した場合、受信した前記第2のリクエストに基づいて、前記データベースを検索し、検索結果から前記評価情報に従う第2のAR表示情報を作成して、送信し、前記第2のAR表示情報は、優先度情報を含み、前記優先度情報の高さは、前記評価情報の内容に応じて決定される
    ように構成されたプロセッサを備えた、システム。
  2. 前記プロセッサは、前記評価情報に基づいて前記第1のAR表示情報をアップデートすることによって前記第2のAR表示情報を作成するようにさらに構成される、
    請求項1に記載のシステム。
  3. 前記プロセッサは、前記情報利用者の視覚特性に応じて、エッジの強調表示、拡大表示、色変換のうちの1つまたは複数を行うことによって、前記第1のAR表示情報および前記第2のAR表示情報を補正するようにさらに構成された、請求項1に記載のシステム。
  4. 前記プロセッサは、
    前記情報利用者の眼の画像または音声に基づいて感情を分析し、
    分析された前記感情を使用して、閲覧履歴を優先度付けする
    ようにさらに構成された、請求項1に記載のシステム。
  5. 情報利用者を識別する情報、前記情報利用者に関連付けられる秘密鍵および検索条件を含む第1のリクエストを第1のデバイスから受信し、
    受信した前記第1のリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報、および情報提供者の位置情報を記憶しているデータベースを検索し、前記提供情報は、前記情報利用者に関連付けられる公開鍵を含んでおり、
    前記検索条件に関連付けられる前記情報提供者の位置情報を強調表示する内容を含むAR表示情報を作成して、前記秘密鍵および前記公開鍵を使用して前記第1のデバイスのみに送信する
    ように構成されたプロセッサを備えた、システム。
  6. コンピュータにより実施される方法であって、
    情報利用者を識別する情報および検索条件を含む第1のリクエストを受信することと、
    受信した前記第1のリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報、および位置情報を記憶しているデータベースを検索することであって、検索結果は前記情報利用者を識別する情報、前記検索条件および前記情報公開対象者情報に従って制限される、ことと、
    前記検索結果から第1のAR表示情報を作成して、送信することと、
    前記第1のAR表示情報に対する前記情報利用者による評価情報を含む第2のリクエストを受信した場合、受信した前記第2のリクエストに基づいて、前記データベースを検索し、検索結果から前記評価情報に従う第2のAR表示情報を作成して、送信することであって、前記第2のAR表示情報は、優先度情報を含み、前記優先度情報の高さは、前記評価情報の内容に応じて決定される、ことと
    を含む、方法。
  7. コンピュータにより実施される方法であって、
    情報利用者を識別する情報、前記情報利用者に関連付けられる秘密鍵および検索条件を含む第1のリクエストを第1のデバイスから受信することと、
    受信した前記第1のリクエストに基づいて、情報提供者の提供情報、情報公開対象者情報、および情報提供者の位置情報を記憶しているデータベースを検索することであって、前記提供情報は、前記情報利用者に関連付けられる公開鍵を含む、ことと、
    前記検索条件に関連付けられる前記情報提供者の位置情報を強調表示する内容を含むAR表示情報を作成して、前記秘密鍵および前記公開鍵を使用して前記第1のデバイスのみに送信することと
    を含む、方法。
  8. 請求項6または7に記載の方法をコンピュータに実行させるためのプログラム。
JP2021000876A 2021-01-06 2021-01-06 Arプラットフォームシステム、方法およびプログラム Active JP7116200B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021000876A JP7116200B2 (ja) 2021-01-06 2021-01-06 Arプラットフォームシステム、方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021000876A JP7116200B2 (ja) 2021-01-06 2021-01-06 Arプラットフォームシステム、方法およびプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019066434A Division JP2020166555A (ja) 2019-03-29 2019-03-29 Arプラットフォームシステム、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2021077384A true JP2021077384A (ja) 2021-05-20
JP7116200B2 JP7116200B2 (ja) 2022-08-09

Family

ID=75898227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021000876A Active JP7116200B2 (ja) 2021-01-06 2021-01-06 Arプラットフォームシステム、方法およびプログラム

Country Status (1)

Country Link
JP (1) JP7116200B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023171341A1 (ja) * 2022-03-08 2023-09-14 株式会社Nttドコモ 表示制御装置

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011217197A (ja) * 2010-03-31 2011-10-27 Sony Corp 電子機器、再生制御システム、再生制御方法及びプログラム
JP2012118882A (ja) * 2010-12-02 2012-06-21 Ns Solutions Corp 情報処理システム、その制御方法及びプログラム
US20120327119A1 (en) * 2011-06-22 2012-12-27 Gwangju Institute Of Science And Technology User adaptive augmented reality mobile communication device, server and method thereof
JP2013519162A (ja) * 2010-02-01 2013-05-23 ジャンプタップ,インコーポレイテッド 統合化された広告システム
JP2013254305A (ja) * 2012-06-06 2013-12-19 Sony Corp 情報処理装置、コンピュータプログラムおよび端末装置
US20140032523A1 (en) * 2007-08-22 2014-01-30 T. A. Dyvadheenam Automatic link generation for video watch style
US20160077337A1 (en) * 2014-09-15 2016-03-17 Google Inc. Managing Information Display
JP2016168927A (ja) * 2015-03-12 2016-09-23 トヨタ自動車株式会社 情報表示装置
US20170142447A1 (en) * 2015-06-12 2017-05-18 Intel Corporation Facilitating environment-based lossy compression of data for efficient rendering of contents at computing devices
US20170200296A1 (en) * 2016-01-12 2017-07-13 Esight Corp. Language element vision augmentation methods and devices
WO2017218436A1 (en) * 2016-06-13 2017-12-21 Sony Interactive Entertainment Inc. Hmd transitions for focusing on specific content in virtual-reality environments
JP2018010641A (ja) * 2010-02-15 2018-01-18 豊 塚本 コンピュータシステムおよびプログラム
JP2018049623A (ja) * 2016-09-23 2018-03-29 雨暹 李 空間オブジェクト検索並べ替え方法及びクラウドシステム
US20180144356A1 (en) * 2016-11-23 2018-05-24 Observa, Inc. System and method for facilitating real-time feedback in response to collection of real-world data
JP6470374B1 (ja) * 2017-10-03 2019-02-13 株式会社コロプラ 仮想現実を提供するためにコンピュータで実行されるプログラムおよび情報処理装置

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140032523A1 (en) * 2007-08-22 2014-01-30 T. A. Dyvadheenam Automatic link generation for video watch style
JP2013519162A (ja) * 2010-02-01 2013-05-23 ジャンプタップ,インコーポレイテッド 統合化された広告システム
JP2018010641A (ja) * 2010-02-15 2018-01-18 豊 塚本 コンピュータシステムおよびプログラム
JP2011217197A (ja) * 2010-03-31 2011-10-27 Sony Corp 電子機器、再生制御システム、再生制御方法及びプログラム
JP2012118882A (ja) * 2010-12-02 2012-06-21 Ns Solutions Corp 情報処理システム、その制御方法及びプログラム
US20120327119A1 (en) * 2011-06-22 2012-12-27 Gwangju Institute Of Science And Technology User adaptive augmented reality mobile communication device, server and method thereof
JP2013254305A (ja) * 2012-06-06 2013-12-19 Sony Corp 情報処理装置、コンピュータプログラムおよび端末装置
US20160077337A1 (en) * 2014-09-15 2016-03-17 Google Inc. Managing Information Display
JP2016168927A (ja) * 2015-03-12 2016-09-23 トヨタ自動車株式会社 情報表示装置
US20170142447A1 (en) * 2015-06-12 2017-05-18 Intel Corporation Facilitating environment-based lossy compression of data for efficient rendering of contents at computing devices
US20170200296A1 (en) * 2016-01-12 2017-07-13 Esight Corp. Language element vision augmentation methods and devices
WO2017218436A1 (en) * 2016-06-13 2017-12-21 Sony Interactive Entertainment Inc. Hmd transitions for focusing on specific content in virtual-reality environments
JP2018049623A (ja) * 2016-09-23 2018-03-29 雨暹 李 空間オブジェクト検索並べ替え方法及びクラウドシステム
US20180144356A1 (en) * 2016-11-23 2018-05-24 Observa, Inc. System and method for facilitating real-time feedback in response to collection of real-world data
JP6470374B1 (ja) * 2017-10-03 2019-02-13 株式会社コロプラ 仮想現実を提供するためにコンピュータで実行されるプログラムおよび情報処理装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
中原 守勇、外2名: "複合現実感における視覚と触覚の融合効果を利用した物体形状提示に関する実験的検討", 日本バーチャルリアリティ学会論文誌, vol. 第13巻,第1号, JPN6016025293, 31 March 2008 (2008-03-31), JP, pages 25 - 35, ISSN: 0004824100 *
山下大貴,外6名: ""仮想現実感を用いた遠隔音楽ライブシステムKSA2"", 情報処理学会研究報告, JPN6022007748, 27 January 2018 (2018-01-27), pages 1 - 7, ISSN: 0004824099 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023171341A1 (ja) * 2022-03-08 2023-09-14 株式会社Nttドコモ 表示制御装置

Also Published As

Publication number Publication date
JP7116200B2 (ja) 2022-08-09

Similar Documents

Publication Publication Date Title
US10878631B2 (en) Providing an augmented reality overlay for display over a view of a user
US11488239B2 (en) Virtual fitting systems and methods for spectacles
US9830561B2 (en) Visual booking system
US20230231923A1 (en) System And Method For Modifying A Preference
US9449106B2 (en) Context-based queryless presentation of recommendations
US8743145B1 (en) Visual overlay for augmenting reality
JP6482172B2 (ja) レコメンド装置、レコメンド方法、およびプログラム
CN111712848A (zh) 在相机馈送中提供相应产品的数字模型
US20210209676A1 (en) Method and system of an augmented/virtual reality platform
US10614383B2 (en) Dynamic progress recognition and recommendations based on machine learning
US20160171109A1 (en) Web content filtering
WO2016052149A1 (ja) 商品推奨装置及び商品推奨方法
US11586841B2 (en) Method and system for generating user driven adaptive object visualizations using generative adversarial network models
US10810647B2 (en) Hybrid virtual and physical jewelry shopping experience
JP2009223656A (ja) 仮想空間提供装置、仮想空間提供システム、仮想空間提供方法及びコンピュータプログラム
KR102340904B1 (ko) 증강현실 기반 가상 피팅 시스템 및 방법
JP7116200B2 (ja) Arプラットフォームシステム、方法およびプログラム
KR20200085723A (ko) 안면착용 제품 추천 방법 및 그 장치
JP2021099831A (ja) 表示制御装置、制御方法、プログラム及び記憶媒体
KR102298101B1 (ko) 성인용품 판매시스템 및 그 시스템의 구동방법
JP2020166555A (ja) Arプラットフォームシステム、方法およびプログラム
KR20200048508A (ko) 개인화된 의류 정보 제공 방법 및 장치
CN114491213A (zh) 基于图像的商品搜索方法和装置、电子设备及计算机可读存储介质
US10922579B2 (en) Frame recognition system and method
EP2940629A1 (en) Visual booking system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220728

R150 Certificate of patent or registration of utility model

Ref document number: 7116200

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150