JP6753785B2 - 場所に基づいた情報処理の方法及び装置 - Google Patents
場所に基づいた情報処理の方法及び装置 Download PDFInfo
- Publication number
- JP6753785B2 JP6753785B2 JP2016571383A JP2016571383A JP6753785B2 JP 6753785 B2 JP6753785 B2 JP 6753785B2 JP 2016571383 A JP2016571383 A JP 2016571383A JP 2016571383 A JP2016571383 A JP 2016571383A JP 6753785 B2 JP6753785 B2 JP 6753785B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- annotation
- location
- user
- computing device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title description 21
- 238000003672 processing method Methods 0.000 title description 17
- 238000000034 method Methods 0.000 claims description 51
- 230000004044 response Effects 0.000 claims description 20
- 238000003860 storage Methods 0.000 claims description 17
- 230000009471 action Effects 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 description 15
- 230000008569 process Effects 0.000 description 9
- 238000012790 confirmation Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000036651 mood Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000002085 persistent effect Effects 0.000 description 3
- 230000008451 emotion Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 235000012054 meals Nutrition 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
- H04W4/023—Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/131—Protocols for games, networked simulations or virtual reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/52—Network services specially adapted for the location of the user terminal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
- H04W4/029—Location-based management or tracking services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/18—Information format or content conversion, e.g. adaptation by the network of the transmitted or received information for the purpose of wireless delivery to users or terminals
- H04W4/185—Information format or content conversion, e.g. adaptation by the network of the transmitted or received information for the purpose of wireless delivery to users or terminals by embedding added-value information into content, e.g. geo-tagging
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L2101/00—Indexing scheme associated with group H04L61/00
- H04L2101/60—Types of network addresses
- H04L2101/69—Types of network addresses using geographic information, e.g. room number
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W64/00—Locating users or terminals or network equipment for network management purposes, e.g. mobility management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
- User Interface Of Digital Computer (AREA)
- Instructional Devices (AREA)
Description
本願は、参照することにより本明細書にその全体として組み込まれる「場所に基づいた情報処理の方法及び装置」と題する、2014年6月9日に出願された中国特許出願第201410253628.2号に対する外国優先権を主張する。
図1を参照すると、本開示の第1の実施形態は最初に、以下の方法ブロックを含んで良い場所に基づいた情報処理方法を提供する。
第1の実装では、注釈情報の注釈位置は特定の領域範囲にとって正確であって良い。位置情報が記録されるとき、注釈の位置情報は、関連付けられた設置位置が位置するシーン領域の画像特徴情報を使用して記述されて良い。具体的には、ユーザーによって入力され、注釈を付けられる必要がある情報コンテンツが受信された後、場所におけるシーン画像情報は収集されて良い。ユーザーが置く動作をトリガすると、現在収集されている画像特徴情報は、注釈情報及び現在の地理的位置情報がアップロードされるときにサーバにさらにアップロードされて良い。このようにして、注釈情報と場所との間の対応関係を記録するとき、サーバは対応関係に対応する画像特徴情報を記録して良い。
前記の第1の実装は、ある範囲までの注釈情報を配置する位置の精度を達成して良い。第2の実装では、配置位置の精度をさらに改善するために、画像特徴が記憶されるときに追加の処理が実行されて良い。具体的には、画像内の識別可能なオブジェクトは画像特徴抽出中に抽出されて良く、ユーザーは通常相対的に顕著な特徴を有するオブジェクトを選択し、注釈実行時にオブジェクトのある位置に情報を配置する。したがって、第2の実装では、画像が画像特徴抽出に基づいて識別可能なオブジェクトを含むと判明する場合、注釈情報と識別可能オブジェクトとの間の関連付け関係が記録され、サーバに送信されて良い。このようにして、注釈情報、場所、及び画像特徴セットの間の対応関係が記憶されるとき、サーバは特定可能なオブジェクトとの関連付け関係をそれに追加して良い。
第3の実装では、より正確な位置決めを達成するために、注釈情報がアップロードされると、注釈情報と識別可能なオブジェクトとの間の相対位置関係がさらに決定されて良く、相対位置関係の情報はサーバにアップロードされて良い。このようにして、関連付けられた識別可能なオブジェクトの注釈情報、場所、及び画像特徴の間の対応関係を記憶するとき、サーバは、後にクエリーを行うユーザーに注釈情報を提供するときに、より正確な位置決めで照合を達成するために相対位置関係の情報をそれに追加して良い。
本実装では、サーバは事前に場所ごとにモデリングを実行し、場所ごとに個別に画像特徴ライブラリを確立して良い。場所ごとの画像特徴ライブラリには、それぞれの場所の1つまたは複数のランドマークオブジェクトの画像特徴が記憶されて良い。ランドマークオブジェクトは何らかの家具または電化製品等であって良く、これらの画像特徴は場所で事前にキャプチャされるランドマークオブジェクトの写真から抽出されて良い。ランドマークオブジェクトの写真を撮影するとき、ユーザーがその周りに自分の注釈情報を置くことを所望することがあるオブジェクトは、場所の実際のレイアウトに基づいて予測されて良く、これらのオブジェクトは次いで、それぞれの特徴がそこから抽出される場所の代表的なランドマークオブジェクトとして写真撮影される。抽出された画像特徴のそれぞれのセットは各ランドマークオブジェクトを表すために使用される。要するに、サーバは、表5に示されるように事前にランドマークオブジェクトの画像特徴ライブラリを作成して良い。
クエリーを行うユーザーに対して、注釈情報とランドマークオブジェクトとの間のより正確な相対位置関係を提供するために、第3の実装での手法に類似した手法が使用されても良い。言い換えると、識別可能なオブジェクトに対する注釈情報の配置点の座標は、画像特徴情報をアップロードする過程で計算され、サーバに記憶される。代わりに、このプロセスを簡略化するために、第5の実装は最適化方法をさらに提供する。
上述の第1の実施形態は、おもに情報コンテンツにどのようにして詳細に注釈を付けるのかの観点から本開示の実施形態を説明している。第2の実施形態は、おもに注釈情報のクエリーをどのようにして行うのかの観点を説明する。方法ブロックは、依然としてアプリケーションのクライアント側によって実行される。実際のアプリケーションでは、クライアント側は第1の実施形態で言及されるクライアント側と同じであって良い。言い換えると、同じクライアント側が場所において情報に注釈を付ける機能、及び場所において他のユーザーの注釈情報を見る機能を実装して良い。
上述の第1の実施形態及び第2の実施形態は、おもにクライアント側の観点から本開示の技術的な解決策を説明する。サーバの観点からの解決策が以下に説明される。第3の実施形態では、注釈を付けるユーザーによる注釈付けを実行する過程でのサーバ側の実装プロセスの詳細が説明される。
第4の実施形態は、おもにクエリーを行う関係者の問い合わせをサポートする観点からサーバ側の実装を詳細に説明する。
ユーザーによって入力された注釈情報を受信するための注釈情報受信ユニット1001と、
携帯端末装置の地理的位置情報を取得するための第1の地理的位置情報取得ユニット1002と、
サーバに注釈情報及び地理的位置情報を送信して、サーバが地理的位置情報に基づいてユーザーが位置する場所の情報を決定し、注釈情報と、場所においてクエリーを行うユーザーに注釈情報を提供するための場所の情報との間の対応関係を作成し、記憶できるようにするための第1の送信ユニット1003と、
を含んで良い。
記憶のために対応関係に注釈位置の情報を追加するためにサーバに対して場所における注釈情報の注釈位置の情報を送信し、場所にいて、その視野が注釈位置を含むクエリーを行うユーザーに対して注釈情報を提供するための注釈位置情報送信ユニット1004と、
をさらに含んで良い。
ユーザーによって入力される注釈情報を受信する前または後に、場所におけるシーン画像情報をキャプチャするためのシーン画像情報キャプチャサブユニット1005と、
注釈確認メッセージを受信することに応えて、キャプチャされたシーン画像の特徴情報を抽出し、注釈位置情報としてサーバに特徴情報を送信するための画像特徴情報送信サブユニット1006と、
を含んで良い。
ランドマークオブジェクトの受信された画像特徴に基づいて、現在キャプチャされているシーン画像においてランドマークオブジェクトの位置を突き止め、相対座標情報に従ってシーン画像の上部に選択可能な各注釈点を表示するためのランドマークオブジェクト位置決めユニット1007と、
ユーザーの選択操作を受けた後にサーバに対して選択された注釈点についての情報を送信して、サーバがランドマークオブジェクトの識別子及び選択された注釈点の情報を、注釈情報の注釈位置情報として対応関係に追加し、記憶できるようにするための注釈点情報送信ユニット1008と、
をさらに含んで良い。
ユーザーによって入力された注釈情報が受信される前または後に場所においてシーン画像情報をキャプチャするための第1の画像情報キャプチャサブユニット1009と、
注釈確認メッセージを受信することに応えて、現在キャプチャされているシーン画像の特徴情報を抽出するための第1の特徴情報抽出サブユニット1010と、
特徴情報が識別可能なオブジェクトの画像特徴を含むかどうかを判断し、肯定の場合、注釈位置情報としてサーバに識別可能なオブジェクトの画像特徴を送信するための第1の判断サブユニット1011と、
をさらに含んで良い。
ユーザーによって入力される注釈情報が受信される前または後に場所においてシーン画像情報をキャプチャするための第2の画像情報キャプチャサブユニット1012と、
注釈確認メッセージを受信することに応えて、現在キャプチャされているシーン画像の特徴情報を抽出するための第2の特徴情報抽出サブユニット1013と、
特徴情報が識別可能なオブジェクトの画像特徴を含むかどうかを判断するための第2の判断サブユニット1014と、
第2の判断サブユニットの判断結果が肯定であることに応えて、注釈情報と識別可能なオブジェクトとの間の相対位置関係情報を取得するための相対位置関係取得サブユニット1015と、
識別可能なオブジェクトの画像特徴情報、及び注釈位置情報として相対位置関係情報をサーバに送信するための送信サブユニット1016と、
を含んで良い。
ユーザーのアイデンティティ情報を取得するためのユーザーアイデンティティ情報取得ユニット1017と、
ユーザーのアイデンティティ情報をサーバに送信して、サーバが対応関係にアイデンティティ情報を追加し、記憶できるようにするためのユーザーアイデンティティ情報送信ユニット1018と、
をさらに含んで良い。
クエリーを行うユーザーから周囲注釈情報を見るための要求を受信するための表示要求受信ユニット1101と、
クエリーを行うユーザーの地理的位置情報を取得するための第2の地理的位置情報取得ユニット1102と、
サーバに地理的位置情報を送信して、サーバが、地理的位置情報に基づいてクエリーを行うユーザーが位置する目標場所を決定し、それぞれの注釈情報及び場所情報の間の事前に記憶された対応関係に基づいて目標場所に対応する各注釈情報を決定し、返すための第2の送信ユニット1103と、
サーバによってクエリーを行うユーザーに返される各注釈情報を提供するための注釈情報提供ユニット1104と、
を含んで良い。
場所のシーン画像情報をキャプチャし、サーバに送信して、サーバが、場所にあり、クエリーを行うユーザーの視野の中にある注釈情報を、それによって受信されたシーン画像情報に従って決定するのを容易にするための画像情報キャプチャ送信ユニット1105と、
をさらに含んで良い。
サーバによって返された各注釈情報と関連付けられる識別可能なオブジェクトの画像特徴情報を受信し、現在キャプチャされているシーン画像における識別可能なオブジェクトの近くに各注釈情報を相応して表示するための識別可能オブジェクト情報受信ユニット1106と、
をさらに含んで良い。
サーバによって返された各注釈情報と関連付けられる識別可能なオブジェクトの画像特徴情報、及び各注釈情報と識別可能オブジェクトとの間の相対位置関係情報を受信し、現在キャプチャされているシーン画像における識別可能なオブジェクトに対応する位置に各注釈情報を相応して表示するための相対位置関係情報受信ユニット1107と、
をさらに含んで良い。
サーバによって返された情報が照合された注釈情報を含まない場合、第1のプロンプト情報を提供するための第1のプロンプト情報提供ユニット1108であって、第1のプロンプト情報がユーザーに視野を変更するようにプロンプトを出すために使用される、第1のプロンプト情報を提供するための第1のプロンプト情報提供ユニット1108と、
をさらに含んで良い。
サーバにクエリーを行うユーザーのアイデンティティ情報を送信して、サーバがクエリーを行うユーザーの友達ユーザーのアイデンティティ情報を取得するのを容易にし、ユーザーが現在位置している場所の各情報コンテンツの注釈を付けるユーザーのアイデンティティ情報を取得し、クエリーを行うユーザーの友人ユーザーが存在するかどうかを判断するためのアイデンティティ情報送信ユニット1109と、
肯定の場合、場所においてクエリーを行うユーザーの友達ユーザーの注釈情報を返すための返却ユニット1110と、
をさらに含んで良い。
をさらに含んで良い。
注釈を付けるクライアント側によってアップロードされる注釈情報、及びユーザーの携帯端末装置の地理的位置情報を受信するための情報受信装置1201と、
地理的位置情報に従って、ユーザーが位置する場所についての場所情報を決定するための場所情報決定ユニット1202と、
注釈情報と場所情報との間の対応関係を確立し、記憶して、注釈情報のクエリーを行うための要求に含まれる地理的位置情報に基づいて、クエリーを行うユーザーが位置する目標場所を決定することと、クエリーを行うクライアント側からクエリーを行う要求を受信すると、クエリークライアント側に目標場所に対応する注釈情報を返すことを可能にするための記憶ユニット1203と、
を含んで良い。
注釈を付けるクライアント側によってアップロードされる場所における注釈情報の注釈位置情報を受信し、記憶のために対応関係に注釈位置情報を追加し、場所にいて、その視野が注釈位置を含むクエリーを行うユーザーに対して注釈情報を提供するための注釈位置情報受信ユニット1204と、
をさらに含んで良い。
注釈を付けるクライアント側によってアップロードされる場所におけるシーン画像の画像特徴情報を受信するための第1の画像特徴情報受信サブユニット1205と、
場所におけるランドマークオブジェクトが画像特徴情報に存在するかどうかを判断し、肯定の場合、場所における注釈情報の注釈位置情報としてランドマークオブジェクトの識別子を設定するための第1の決定サブユニット1206と、
を含んで良い。
注釈を付けるクライアント側によってアップロードされる場所におけるシーン画像の画像特徴情報を受信するための第2の画像特徴情報受信サブユニット1207と、
場所におけるランドマークオブジェクトが画像特徴情報に存在するかどうかを判断し、肯定の場合、ランドマークオブジェクトの画像特徴及びその注釈点(複数の場合がある)の相対座標情報を返すための第2の判断サブユニット1208と、
注釈を付けるクライアント側によってアップロードされる選択された注釈点の情報を受信し、注釈情報の注釈位置情報としてランドマークオブジェクトの識別子及び注釈点の情報を設定するための注釈点情報受信ユニット1209と、
を含んで良い。
クエリーを行うクライアント側から注釈情報のクエリーを行うための要求を受信するための要求受信ユニット1301であって、要求がクエリーを行うユーザーの地理的位置情報を含む、要求受信ユニット1301と、
地理的位置情報に従ってクエリーを行うユーザーが位置する目標場所を決定するための目標場所決定ユニット1302と、
注釈情報と場所情報との間の事前に確立された対応関係に従って、目標場所に対応する注釈情報を決定し、クエリーを行うクライアント側に注釈情報を返すための注釈情報返却ユニット1303と、
を含んで良い。
現在の場所においてクエリーを行うユーザーのシーン位置情報を取得するためのシーン位置情報取得ユニット1304と、
各注釈情報に対応するそれぞれの注釈位置情報に従って照合された注釈情報を取得し、クエリーを行うクライアント側がそれぞれの注釈位置で注釈情報を提供できるようにするためにクエリーを行うクライアント側に照合注釈情報を返すための照合注釈情報取得ユニット1305と、
をさらに含んで良い。
Claims (19)
- 1つまたは複数のコンピューティングデバイスによって実装される方法であって、
第1のユーザーによって入力される注釈情報を第1のコンピューティングデバイスにより受信することと、
前記第1のユーザーによって入力された前記注釈情報を受信する前または後に、前記第1のユーザーが位置する場所においてシーン画像を前記第1のコンピューティングデバイスによりキャプチャすることと、
少なくとも1つのランドマークオブジェクトの画像特徴を前記第1のコンピューティングデバイスにより受信することと、
前記受信された画像特徴に少なくとも部分的に基づいて前記キャプチャされたシーン画像において前記少なくとも1つのランドマークオブジェクトの位置を前記第1のコンピューティングデバイスにより突き止めることと、
前記第1のコンピューティングデバイスの地理的位置情報を前記第1のコンピューティングデバイスにより取得することと、
サーバに前記注釈情報、及び前記地理的位置情報を前記第1のコンピューティングデバイスにより送信することと、
を備え、
前記サーバが、
前記地理的位置情報に少なくとも部分的に基づいて前記第1のユーザーが位置する場所の情報を決定し、
前記注釈情報と前記場所の前記情報との間の対応関係を確立して記憶し、
前記少なくとも1つのランドマークオブジェクトの識別子を前記注釈情報の注釈位置情報として前記対応関係に追加して記憶することであって、前記少なくとも1つのランドマークオブジェクトの前記識別子は前記サーバによって生成される、ことを行い、
第2のユーザーが前記場所を訪問したときに前記場所において第2のコンピューティングデバイスに前記注釈情報を提供するように構成される、方法。 - 前記対応関係に注釈位置情報を追加し、記憶するために、前記サーバに前記場所における前記注釈情報の前記注釈位置情報を前記第1のコンピューティングデバイスにより送信することをさらに備え、
前記サーバが、前記場所において前記第2のコンピューティングデバイスに前記注釈情報を提供することは、前記第2のユーザーの視野が前記注釈位置情報に関連付けられた位置を含むときに前記第2のユーザーに前記注釈情報を提供するようにさらに構成される、請求項1に記載の方法。 - 前記シーン画像の特徴情報を前記第1のコンピューティングデバイスにより抽出することと、
前記対応関係に注釈位置情報を追加し、記憶するために前記サーバに前記場所における前記注釈情報の前記注釈位置情報として前記サーバに前記特徴情報を前記第1のコンピューティングデバイスにより送信することと、
をさらに備える、請求項1に記載の方法。 - 前記サーバから、前記少なくとも1つのランドマークオブジェクトのうちの各ランドマークオブジェクトに対して少なくとも1つの選択可能な注釈点の相対座標情報を前記第1のコンピューティングデバイスにより受信することと、
前記相対座標情報に少なくとも部分的に基づいて前記キャプチャされたシーン画像に各ランドマークオブジェクトの前記少なくとも1つの選択可能な注釈点のうちの各選択可能注釈点を前記第1のコンピューティングデバイスにより表示することと、
選択された注釈点に関連付けられるランドマークオブジェクトの識別子、及び前記対応関係に前記選択された注釈点についての情報を前記注釈情報の注釈位置情報として追加し、記憶するために、前記サーバに前記第1のユーザーの選択操作を受けたことに応えて、前記サーバに前記選択された注釈点の前記情報を前記第1のコンピューティングデバイスにより送信することと、
をさらに備える、請求項1に記載の方法。 - 特徴情報が識別可能なオブジェクトの画像特徴を含むかどうかを前記第1のコンピューティングデバイスにより判断することと、
前記特徴情報が前記識別可能なオブジェクトの前記画像特徴を含むと判断することに応えて、前記対応関係に注釈位置情報を追加し、記憶するために、前記サーバに前記場所における前記注釈情報の前記注釈位置情報として前記サーバに前記識別可能なオブジェクトの前記画像特徴を前記第1のコンピューティングデバイスにより送信することと、
をさらに備える、請求項1に記載の方法。 - 特徴情報が識別可能なオブジェクトの画像特徴を含むかどうかを前記第1のコンピューティングデバイスにより判断することと、
前記特徴情報が前記識別可能なオブジェクトの前記画像特徴を含むと判断することに応えて、前記注釈情報と前記識別可能なオブジェクトとの間の相対位置関係情報を前記第1のコンピューティングデバイスにより取得することと、
前記対応関係に注釈位置情報を追加し、記憶するために、前記場所における前記注釈情報の前記注釈位置情報として、前記サーバに前記識別可能なオブジェクトの前記画像特徴及び前記相対位置関係情報を前記第1のコンピューティングデバイスにより送信することと、
をさらに備える、請求項1に記載の方法。 - 前記注釈情報と前記シーン画像における識別可能なオブジェクトとの間の相対位置関係情報を前記第1のコンピューティングデバイスにより取得することであって、
前記シーン画像における前記識別可能なオブジェクトを表す第1の位置点を決定することと、
前記第1のユーザーの操作に少なくとも部分的に基づいて前記第1のコンピューティングデバイスの表示画面に前記注釈情報と関連付けられた第2の位置点を決定することと、
確立するための起点として前記識別可能なオブジェクトを表す前記第1の位置点を有する座標系を確立することと、
前記座標系の前記注釈情報と関連付けられた前記第2の位置点の座標を決定することと、
前記注釈情報と前記識別可能なオブジェクトとの前記相対位置関係情報として前記座標系における前記注釈情報に関連付けられた前記第2の位置点の前記座標を使用することと、
を含む、ことをさらに備える、請求項1に記載の方法。 - 前記第1のユーザーのアイデンティティ情報を前記第1のコンピューティングデバイスにより取得することと、
前記対応関係に前記アイデンティティ情報を追加し、記憶するために前記サーバに前記第1のユーザーの前記アイデンティティ情報を前記第1のコンピューティングデバイスにより送信することと、
をさらに備える、請求項1に記載の前記方法。 - 1つまたは複数のプロセッサによって実行されるときに、前記1つまたは複数のプロセッサに、
クエリーを行うユーザーから周囲の注釈情報を見るための要求を第1のコンピューティングデバイスにより受信することと、
前記クエリーを行うユーザーによって入力された前記注釈情報を前記第1のコンピューティングデバイスにより受信する前または後に、前記クエリーを行うユーザーが位置する場所においてシーン画像を前記第1のコンピューティングデバイスによりキャプチャすることと、
前記クエリーを行うユーザーの地理的位置情報を前記第1のコンピューティングデバイスにより入手することと、
サーバが、
前記地理的位置情報に少なくとも部分的に基づいて前記クエリーを行うユーザーが位置する目標場所を決定すること、
前記目標場所の情報と、前記目標場所に対応する1つまたは複数の前記注釈情報との事前に記憶されている対応関係に少なくとも部分的に基づいて前記目標場所に対応する前記1つまたは複数の注釈情報及び前記場所における少なくとも1つのランドマークオブジェクトに対応する注釈情報を返すこと、および、
前記場所における前記少なくとも1つのランドマークオブジェクトが、前記場所における前記シーン画像の画像特徴情報に存在するかどうかを判断すること、
を可能にするために、前記サーバに前記地理的位置情報及び前記場所における前記シーン画像の画像特徴情報を前記第1のコンピューティングデバイスにより送信することと、
前記クエリーを行うユーザーに、前記サーバから返される前記目標場所に対応する前記1つまたは複数の前記注釈情報を前記第1のコンピューティングデバイスにより提供することと、
を含む行為を実行させる実行可能な命令を記憶する1つまたは複数のコンピュータ可読媒体。 - 前記行為が、
前記目標場所に対応する前記各注釈情報と関連付けられる識別可能なオブジェクトの画像特徴情報を第2のコンピューティングデバイスにより受信することと、
前記クエリーを行うユーザーの端末装置に示されるシーン画像における前記識別可能なオブジェクトの回りに前記各注釈情報を前記第2のコンピューティングデバイスにより表示することと、
をさらに含む、請求項9に記載の1つまたは複数のコンピュータ可読媒体。 - 前記行為が、
前記目標場所に対応する前記各注釈情報と関連付けられる識別可能なオブジェクトの画像特徴情報を第2のコンピューティングデバイスにより受信することと、
前記目標場所に対応する前記各注釈情報と前記識別可能なオブジェクトとの間の相対位置関係情報を前記第2のコンピューティングデバイスにより受信することと、
前記クエリーを行うユーザーの端末装置に示されるシーン画像における前記識別可能なオブジェクトに対して対応する位置で前記目標場所に対応する前記各注釈情報を前記第2のコンピューティングデバイスにより表示することと、
をさらに含む、請求項9に記載の1つまたは複数のコンピュータ可読媒体。 - 前記行為が、
前記1つまたは複数の前記注釈情報が調和した注釈情報を含まない場合、プロンプト情報を提供することであって、前記プロンプト情報が視野を変更するように前記クエリーを行うユーザーに指示する、プロンプト情報を前記第2のコンピューティングデバイスにより提供することをさらに含む、請求項9に記載の1つまたは複数のコンピュータ可読媒体。 - 前記行為が、前記クエリーを行うユーザーの1人または複数の友人ユーザーのアイデンティティ情報を入手するために前記サーバに前記クエリーを行うユーザーのアイデンティティ情報を1つまたは複数のコンピューティングデバイスにより送信することをさらに含み、前記目標場所に対応する前記1つまたは複数の前記注釈情報のうちの少なくとも1つが、前記1人または複数の友人ユーザーのうちの少なくとも1人のユーザーについて注釈を付けるアイデンティティ情報を含む、請求項9に記載の1つまたは複数のコンピュータ可読媒体。
- 前記行為が、前記クエリーを行うユーザーに、前記目標場所に新しい注釈情報を残すようにプロンプトを出すために前記クエリーを行うユーザーにプロンプト情報を前記第1のコンピューティングデバイスにより提供することをさらに含む、請求項9に記載の1つまたは複数のコンピュータ可読媒体。
- 1つまたは複数のプロセッサと、
メモリと、
注釈を付けるクライアント側によってアップロードされる注釈情報及びユーザーの携帯端末装置の地理的位置情報を受信するために、前記メモリに記憶され、前記1つまたは複数のプロセッサによって実行可能な情報受信ユニットと、
前記地理的位置情報に少なくとも部分的に基づいて、前記ユーザーが位置する場所の場所情報を決定するために、前記メモリに記憶され、前記1つまたは複数のプロセッサによって実行可能な場所情報決定ユニットと、
前記場所のために確立された第1の画像特徴ライブラリであって、前記第1の画像特徴ライブラリが、前記場所における少なくとも1つのランドマークオブジェクトの識別子、及び対応する画像特徴を記憶する、第1の画像特徴ライブラリと、
前記注釈情報と前記地理的位置情報との間の対応関係を確立し、記憶するために、前記メモリに記憶され、前記1つまたは複数のプロセッサによって実行可能な記憶ユニットと、
注釈位置情報受信ユニットであって、
前記注釈を付けるクライアント側によってアップロードされる前記場所におけるシーン画像の画像特徴情報を受信するための画像特徴情報受信サブユニットと、
前記場所における前記少なくとも1つのランドマークオブジェクトが前記画像特徴情報に存在するかどうかを判断し、肯定の場合、前記場所における前記注釈情報の注釈位置情報として前記少なくとも1つのランドマークオブジェクトの前記識別子を設定するための判断サブユニットと、
を備える、注釈位置情報受信ユニットと、
を備える、装置。 - 前記対応関係が、前記注釈情報についてクエリーを行う要求に含まれる地理的位置情報に少なくとも部分的に基づいてクエリーを行うユーザーが位置する目標場所を決定することと、前記クエリーを行うクライアントから前記要求を受信することに応えて前記クエリーを行うクライアントに前記目標場所に対応する前記注釈情報を返すことと、を可能にする、請求項15に記載の装置。
- 前記注釈位置情報受信ユニットは、前記1つまたは複数のプロセッサによって、
前記注釈を付けるクライアント側によってアップロードされる前記場所における前記注釈情報の注釈位置情報を受信する、
前記対応関係に前記注釈位置情報を追加し、記憶する、
クエリーを行うユーザーと関連付けられた視野が前記注釈位置を含むことに応えて、前記場所において前記クエリーを行うユーザーに前記注釈情報を提供する、
ようにさらに実行可能である、請求項15に記載の装置。 - 前記注釈位置情報が、
前記注釈を付けるクライアント側によってアップロードされる前記場所におけるシーン画像の画像特徴情報と、
前記注釈を付けるクライアント側によってアップロードされる前記場所におけるシーン画像に含まれる識別可能なオブジェクトの画像特徴情報と、
前記注釈情報と前記識別可能なオブジェクトとの間の相対位置関係情報と、
のうちの1つまたは複数を備える、請求項17に記載の装置。 - 前記場所のために確立された第2の画像特徴ライブラリをさらに備え、前記第2の画像特徴ライブラリが、前記場所における少なくとも1つのランドマークオブジェクトの識別子、対応する画像特徴、及び前記ランドマークオブジェクトに対して各ランドマークオブジェクトと関連付けられた少なくとも1つの選択可能な注釈点の相対座標情報を記憶し、前記注釈位置情報受信ユニットが、
前記注釈を付けるクライアント側によってアップロードされる前記場所におけるシーン画像の画像特徴情報を受信するための画像特徴情報受信サブユニットと、
前記場所における前記少なくとも1つのランドマークオブジェクトが前記画像特徴情報に存在するかどうかを判断し、肯定の場合、前記少なくとも1つのランドマークオブジェクトの画像特徴、及び前記少なくとも1つのランドマークオブジェクトのうちの1つまたは複数の注釈点の相対座標情報を返すための判断サブユニットと、
前記注釈を付けるクライアント側によってアップロードされる選択された注釈点の情報を受信し、前記注釈情報の前記注釈位置情報として前記少なくとも1つのランドマークオブジェクトの前記識別子及び前記注釈点の前記情報を設定するための注釈点情報受信ユニットと、
を備える、請求項17に記載の装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410253628.2A CN105338479B (zh) | 2014-06-09 | 2014-06-09 | 基于场所的信息处理方法及装置 |
CN201410253628.2 | 2014-06-09 | ||
PCT/US2015/034670 WO2015191448A1 (en) | 2014-06-09 | 2015-06-08 | Place-based information processing method and apparatus |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017526032A JP2017526032A (ja) | 2017-09-07 |
JP2017526032A5 JP2017526032A5 (ja) | 2020-03-26 |
JP6753785B2 true JP6753785B2 (ja) | 2020-09-09 |
Family
ID=54769695
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016571383A Active JP6753785B2 (ja) | 2014-06-09 | 2015-06-08 | 場所に基づいた情報処理の方法及び装置 |
Country Status (8)
Country | Link |
---|---|
US (2) | US10922480B2 (ja) |
EP (2) | EP3474586B1 (ja) |
JP (1) | JP6753785B2 (ja) |
KR (1) | KR102319621B1 (ja) |
CN (1) | CN105338479B (ja) |
HK (1) | HK1218364A1 (ja) |
TW (1) | TWI671502B (ja) |
WO (1) | WO2015191448A1 (ja) |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105338479B (zh) | 2014-06-09 | 2020-03-10 | 阿里巴巴集团控股有限公司 | 基于场所的信息处理方法及装置 |
CN105610868B (zh) * | 2016-03-03 | 2019-08-06 | 腾讯科技(深圳)有限公司 | 一种信息交互的方法、设备及系统 |
US10805696B1 (en) * | 2016-06-20 | 2020-10-13 | Pipbin, Inc. | System for recording and targeting tagged content of user interest |
US11876941B1 (en) * | 2016-06-20 | 2024-01-16 | Pipbin, Inc. | Clickable augmented reality content manager, system, and network |
US11044393B1 (en) * | 2016-06-20 | 2021-06-22 | Pipbin, Inc. | System for curation and display of location-dependent augmented reality content in an augmented estate system |
US11201981B1 (en) * | 2016-06-20 | 2021-12-14 | Pipbin, Inc. | System for notification of user accessibility of curated location-dependent content in an augmented estate |
US11785161B1 (en) * | 2016-06-20 | 2023-10-10 | Pipbin, Inc. | System for user accessibility of tagged curated augmented reality content |
US10638256B1 (en) | 2016-06-20 | 2020-04-28 | Pipbin, Inc. | System for distribution and display of mobile targeted augmented reality content |
US10334134B1 (en) * | 2016-06-20 | 2019-06-25 | Maximillian John Suiter | Augmented real estate with location and chattel tagging system and apparatus for virtual diary, scrapbooking, game play, messaging, canvasing, advertising and social interaction |
US10108859B1 (en) * | 2016-06-20 | 2018-10-23 | Pipbin, Inc. | System for curation, distribution and display of location-dependent augmented reality content |
CN106447433B (zh) * | 2016-09-13 | 2020-09-18 | 北京三快在线科技有限公司 | 用于选择桌位的方法及装置 |
CN106982387B (zh) * | 2016-12-12 | 2020-09-18 | 阿里巴巴集团控股有限公司 | 弹幕的显示、推送方法及装置及弹幕应用系统 |
CN107292248B (zh) * | 2017-06-05 | 2023-04-07 | 广州诚予国际市场信息研究有限公司 | 一种基于图像识别技术的商品管理方法及系统 |
CN107333087B (zh) | 2017-06-27 | 2020-05-08 | 京东方科技集团股份有限公司 | 一种基于视频会话的信息共享方法和装置 |
US9980100B1 (en) | 2017-08-31 | 2018-05-22 | Snap Inc. | Device location based on machine learning classifications |
CN109728995A (zh) * | 2017-10-31 | 2019-05-07 | 百步资讯有限公司 | 一种基于地理位置的信息发送方法及其装置 |
CN108810422B (zh) * | 2018-06-11 | 2020-11-20 | 北京小米移动软件有限公司 | 拍摄环境的补光方法、装置及计算机可读存储介质 |
JP7091940B2 (ja) * | 2018-08-27 | 2022-06-28 | 日本電信電話株式会社 | 照合装置、照合方法および照合プログラム |
US11218639B1 (en) * | 2018-10-12 | 2022-01-04 | Staples, Inc. | Mobile interface for marking and organizing images |
CN109800329B (zh) * | 2018-12-28 | 2021-07-02 | 上海依图网络科技有限公司 | 一种监控方法及装置 |
CN110569265A (zh) * | 2019-09-10 | 2019-12-13 | 浪潮商用机器有限公司 | 一种服务器配件信息显示方法、装置、ar眼镜及介质 |
US10848920B1 (en) * | 2019-09-17 | 2020-11-24 | Microsoft Technology Licensing, Llc | Generation of precise geospatial coordinates |
CN110491090B (zh) * | 2019-09-20 | 2021-07-09 | 苏州智博汇能电子科技股份有限公司 | 基于手机终端的中老年人群监护方法 |
CN110650573A (zh) * | 2019-09-27 | 2020-01-03 | 阿里巴巴集团控股有限公司 | 交互方法、装置、智能镜子、电子设备及计算机存储介质 |
US11157763B2 (en) * | 2020-02-07 | 2021-10-26 | Wipro Limited | System and method for identifying target sections within images |
WO2022260961A1 (en) * | 2021-06-06 | 2022-12-15 | Apple Inc. | Presenting labels in augmented reality |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8432414B2 (en) | 1997-09-05 | 2013-04-30 | Ecole Polytechnique Federale De Lausanne | Automated annotation of a view |
US20020143769A1 (en) | 2001-03-23 | 2002-10-03 | Kirk Tecu | Automatic content generation for images based on stored position data |
US20070032244A1 (en) * | 2005-08-08 | 2007-02-08 | Microsoft Corporation | Group-centric location tagging for mobile devices |
JP2007164534A (ja) * | 2005-12-14 | 2007-06-28 | Matsushita Electric Ind Co Ltd | 電子機器および撮像装置 |
US20070161382A1 (en) * | 2006-01-09 | 2007-07-12 | Melinger Daniel J | System and method including asynchronous location-based messaging |
US7844229B2 (en) * | 2007-09-21 | 2010-11-30 | Motorola Mobility, Inc | Mobile virtual and augmented reality system |
US8072448B2 (en) | 2008-01-15 | 2011-12-06 | Google Inc. | Three-dimensional annotations for street view data |
US8676001B2 (en) | 2008-05-12 | 2014-03-18 | Google Inc. | Automatic discovery of popular landmarks |
JP5436559B2 (ja) | 2008-09-02 | 2014-03-05 | エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ(エーペーエフエル) | ポータブル・デバイス上での画像アノテーション |
US7966024B2 (en) * | 2008-09-30 | 2011-06-21 | Microsoft Corporation | Virtual skywriting |
US8194102B2 (en) | 2008-10-06 | 2012-06-05 | Microsoft Corporation | Rendering annotations for images |
TWI416928B (zh) * | 2009-01-21 | 2013-11-21 | Htc Corp | 管理與顯示行動裝置影像及關聯地理位置資料的方法、系統及裝置 |
DE102009049073A1 (de) * | 2009-10-12 | 2011-04-21 | Metaio Gmbh | Verfahren zur Darstellung von virtueller Information in einer Ansicht einer realen Umgebung |
KR101719982B1 (ko) | 2010-07-19 | 2017-03-27 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
US9179278B2 (en) | 2011-09-01 | 2015-11-03 | Qualcomm Incorporated | Systems and methods involving augmented menu using mobile device |
IN2014CN03498A (ja) | 2011-11-08 | 2015-10-09 | Koninkl Philips Nv | |
US20140081904A1 (en) | 2012-09-14 | 2014-03-20 | David H. Sitrick | Systems And Methods Of Collaboration Comprising, Providing A Presentation Of An Underlying Image; Generating Annotation Data Representative Of Annotations Made By A Respective User, Generating Events Comprising Event Content, Then Defining A Selected Set Of Events, And Generating A Display Presentation Responsive To Processing Said Selected Set Of Events |
US20140156787A1 (en) | 2012-12-05 | 2014-06-05 | Yahoo! Inc. | Virtual wall for writings associated with landmarks |
CN105338479B (zh) | 2014-06-09 | 2020-03-10 | 阿里巴巴集团控股有限公司 | 基于场所的信息处理方法及装置 |
-
2014
- 2014-06-09 CN CN201410253628.2A patent/CN105338479B/zh active Active
- 2014-09-30 TW TW103134020A patent/TWI671502B/zh active
-
2015
- 2015-06-08 EP EP18211390.2A patent/EP3474586B1/en active Active
- 2015-06-08 US US14/733,294 patent/US10922480B2/en active Active
- 2015-06-08 JP JP2016571383A patent/JP6753785B2/ja active Active
- 2015-06-08 WO PCT/US2015/034670 patent/WO2015191448A1/en active Application Filing
- 2015-06-08 KR KR1020167033934A patent/KR102319621B1/ko active IP Right Grant
- 2015-06-08 EP EP15807102.7A patent/EP3152948B1/en active Active
-
2016
- 2016-06-02 HK HK16106245.2A patent/HK1218364A1/zh unknown
-
2019
- 2019-04-17 US US16/387,260 patent/US20190243888A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
CN105338479B (zh) | 2020-03-10 |
EP3474586B1 (en) | 2021-02-17 |
TW201546420A (zh) | 2015-12-16 |
CN105338479A (zh) | 2016-02-17 |
HK1218364A1 (zh) | 2017-02-10 |
US20190243888A1 (en) | 2019-08-08 |
KR102319621B1 (ko) | 2021-11-03 |
EP3152948B1 (en) | 2019-03-06 |
EP3474586A1 (en) | 2019-04-24 |
JP2017526032A (ja) | 2017-09-07 |
EP3152948A1 (en) | 2017-04-12 |
KR20170015313A (ko) | 2017-02-08 |
US20150356063A1 (en) | 2015-12-10 |
WO2015191448A1 (en) | 2015-12-17 |
TWI671502B (zh) | 2019-09-11 |
EP3152948A4 (en) | 2018-01-03 |
US10922480B2 (en) | 2021-02-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6753785B2 (ja) | 場所に基づいた情報処理の方法及び装置 | |
JP6706647B2 (ja) | 画像に表されたオブジェクトの認識及び照合のための方法及び装置 | |
EP3713159B1 (en) | Gallery of messages with a shared interest | |
US8761523B2 (en) | Group method for making event-related media collection | |
US9142038B2 (en) | Rendering a digital element | |
KR20230164227A (ko) | 표면 인식 렌즈 | |
US11977832B2 (en) | Map note annotations at corresponding geographic locations | |
CN112074797A (zh) | 用于将虚拟对象锚定到物理位置的系统和方法 | |
JP2017526032A5 (ja) | ||
US20180130244A1 (en) | Reality-augmented information display method and apparatus | |
KR101722675B1 (ko) | 자료 제공 장치, 방법, 및 컴퓨터 프로그램 | |
US11430211B1 (en) | Method for creating and displaying social media content associated with real-world objects or phenomena using augmented reality | |
US8949238B2 (en) | Information processing device, method, and computer program product | |
CN106375181A (zh) | 呈现与位置相关联的消息 | |
CN104835105B (zh) | 图片处理方法和装置 | |
US10432572B2 (en) | Content posting method and apparatus | |
JP2017108356A (ja) | 画像管理システム、画像管理方法、プログラム | |
CN117991950A (zh) | 内容交互方法、装置、电子设备及计算机存储介质 | |
KR20160062770A (ko) | 증강현실 컨텐츠 매시업 서비스 방법 및 이를 적용한 모바일 장치 | |
KR20140086659A (ko) | 객체 공유 방법 및 객체 공유를 이용한 컨텐츠 제작 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180518 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190327 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190409 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190708 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191112 |
|
A524 | Written submission of copy of amendment under article 19 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20200212 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200303 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200629 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200706 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200721 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200820 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6753785 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |