JP6783179B2 - 三次元空間情報表示システム、及び三次元空間情報表示方法 - Google Patents

三次元空間情報表示システム、及び三次元空間情報表示方法 Download PDF

Info

Publication number
JP6783179B2
JP6783179B2 JP2017082864A JP2017082864A JP6783179B2 JP 6783179 B2 JP6783179 B2 JP 6783179B2 JP 2017082864 A JP2017082864 A JP 2017082864A JP 2017082864 A JP2017082864 A JP 2017082864A JP 6783179 B2 JP6783179 B2 JP 6783179B2
Authority
JP
Japan
Prior art keywords
information
work
unit
space
communication terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017082864A
Other languages
English (en)
Other versions
JP2018181143A (ja
Inventor
智士 水溜
智士 水溜
裕樹 田門
裕樹 田門
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2017082864A priority Critical patent/JP6783179B2/ja
Publication of JP2018181143A publication Critical patent/JP2018181143A/ja
Application granted granted Critical
Publication of JP6783179B2 publication Critical patent/JP6783179B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、三次元空間情報表示システム、及び三次元空間情報表示方法に関する。
非特許文献1、2には、センサとカメラとを組み合わせたシステムが開示される。このシステムはカメラとセンサの情報により端末装置の現在位置と向きを特定することができる。
Tango、[online]、[平成29年1月10日検索]、インターネット、<URL:https://get.google.com/tango/> Googleの空間認識技術「Tango」を搭載する初のスマホ「Lenovo PHAB2 Pro」によるAR体験はこんな感じになる、[online]、[平成29年1月10日検索]、インターネット、<URL:http://gigazine.net/news/20160630-snapdragon-tango-ar/>
ここで、装置の新設、撤去等の作業を行う作業者は、当該作業が行われる建物内部の空間を撮像し、撮像画像と当該作業の情報等を示すオブジェクトとが重畳し表示された画像を確認することにより、当該作業について簡便に確認することができる。
本発明は、上記問題に鑑みて為されたものであり、建物内部の作業に関する情報と、建物内部が撮像された画像とを作業者に平易に提示する技術を提供することを目的とする。
(1)本発明の一態様は、通信端末装置と、サーバ装置とを備える三次元空間情報表示システムであって、前記通信端末装置は、建物内部において行われる作業の位置を示す作業位置情報と、前記作業の内容を示す作業内容情報と、前記作業対象の装置である対象装置情報とのうち、少なくとも1つを空間指定情報として送信する端末送信部と、前記端末送信部が前記空間指定情報を送信することに応じて、建物内部の実空間の三次元空間情報と、前記三次元空間情報に対応付けられたオブジェクト情報とを受信する端末受信部と、前記実空間内を撮像し、画像を生成する撮像部と、前記オブジェクト情報の表示を制御する表示制御部と、を備え、前記端末送信部は、前記撮像部が生成する画像と前記三次元空間情報とに基づいて、前記撮像部が生成する画像に重畳して前記オブジェクト情報が表示されたことを示す情報と、自装置を識別する端末識別情報とを送信し、前記サーバ装置は、前記作業位置情報と、前記作業内容情報と、前記対象装置情報とのうち、少なくとも1つと、前記オブジェクト情報と、前記三次元空間情報とを対応付けて記憶する記憶部と、前記空間指定情報と、前記オブジェクト情報が表示されたことを示す情報と、前記端末識別情報とを受信するサーバ受信部と、前記空間指定情報と、前記オブジェクト情報が表示されたことを示す情報と、前記端末識別情報との少なくともいずれか一つを前記サーバ受信部が受信した時刻である受信時刻を、前記作業の開始時刻として検出する検出部と、前記サーバ受信部が受信する前記空間指定情報に基づいて、前記空間指定情報に対応付けられる前記三次元空間情報と、前記オブジェクト情報とを選択する選択部と、前記選択部が選択する前記三次元空間情報と、前記オブジェクト情報とを前記通信端末装置に送信するサーバ送信部と、を備える三次元空間情報表示システムである。
(2)本発明の一態様は、上記(1)に記載の三次元空間情報表示システムにおいて、前記通信端末装置は、自装置の位置を検出する位置検出部、を備え、前記端末送信部は、前記位置検出部が検出する位置情報を送信し、前記サーバ受信部は、前記位置情報を更に受信し、前記サーバ装置は、前記位置情報が示す位置の周辺に位置する前記建物の名称を示す建物名称情報、前記建物内の部屋の名称又は場所を示す部屋名称情報、及び前記建物内部に設置される装置の位置を示す装置位置情報のうち、少なくとも1つを前記作業位置情報の候補として選択する候補選択部、を備え、前記サーバ送信部は、前記候補選択部が選択した前記作業位置情報の候補を前記通信端末装置に送信する、請求項1に記載の三次元空間情報表示システム。
(3)本発明の一態様は、上記(1)又は(2)に記載の三次元空間情報表示システムにおいて、前記撮像部が生成する画像に基づいて当該画像に撮像される物体の特徴点を検出して、検出した特徴点を示す特徴点情報を生成する特徴点検出部と、前記特徴点検出部が生成する前記特徴点情報と、前記端末受信部が受信する前記三次元空間情報とに基づいて、前記特徴点情報が示す特徴点と、前記三次元空間情報が示す特徴点とを対応付けることにより、実空間における自装置の位置を特定する位置特定部と、をさらに備え、前記表示制御部は、前記位置特定部が特定する自装置の位置と、前記三次元空間情報とに基づいて、前記作業の位置、前記作業の内容、及び対象装置のうち、少なくともいずれかを前記オブジェクト情報として前記画像に重畳して表示する。
(4)本発明の一態様は、上記(3)に記載の三次元空間情報表示システムにおいて、前記通信端末装置は、前記作業の開始、及び前記作業の終了を検出し、前記作業の間に前記撮像部が生成する前記画像と、前記作業の前記作業内容情報とを対応付けて、前記記憶部に記憶する。
(5)本発明の一態様は、上記(4)に記載の三次元空間情報表示システムにおいて、前記通信端末装置は、前記表示制御部が前記オブジェクト情報を表示することに応じて、前記作業の開始を検出する。
(6)本発明の一態様の前記サーバ装置は、前記受信時刻と、前記記憶部に記憶されている前記作業内容情報とを対応付けて前記記憶部に記憶させ、前記検出部は、前記記憶部に記憶された前記受信時刻に基づいて、前記作業が前記受信時刻に開始されたことを検出する
(7)本発明の一態様は、コンピュータが、建物内部において行われる作業の位置を示す作業位置情報と、前記作業の内容を示す作業内容情報と、作業対象の装置である対象装置情報とのうち、少なくとも1つを空間指定情報として指定する指定手順と、コンピュータが、前記指定手順において指定される前記空間指定情報に基づいて、前記作業位置情報と、前記作業内容情報と、前記対象装置情報とのうち、少なくとも1つと、建物内部の実空間の三次元空間情報と、オブジェクト情報とを対応付けて記憶する記憶部から前記空間指定情報に対応付けられる前記三次元空間情報と、前記オブジェクト情報とを選択する選択手順と、コンピュータが、前記指定手順において前記空間指定情報が指定されることに応じて、建物内部の実空間の三次元空間情報と、前記三次元空間情報に対応付けられたオブジェクト情報とを受信する受信手順と、コンピュータが、前記実空間内を撮像し、画像を生成する撮像手順と、コンピュータが、前記オブジェクト情報の表示を制御する表示制御手順と、コンピュータが、前記撮像手順において生成される画像と前記三次元空間情報とに基づいて、前記撮像手順において生成される画像に重畳して前記オブジェクト情報が表示されたことを示す情報と、自装置を識別する端末識別情報とを、前記作業が開始されたことを示す情報として送信する端末識別情報送信手順と、を備える三次元空間情報表示方法である。
本発明によれば、建物内部の作業に関する情報を作業者に平易に提示する技術することができる。
実施形態に係る重畳画像の一例を示す図である。 実施形態に係る通信端末装置の構成の一例を示す図である。 実施形態に係るサーバ装置の構成の一例を示す図である。 実施形態に係る作業内容情報、作業位置情報、及び対象装置情報と、三次元空間情報との対応の一例を示す表である。 実施形態に係る三次元空間情報と、オブジェクト情報との対応の一例を示す表である。 実施形態に係る通信端末装置と、サーバ装置との動作の一例を示す流れ図である。 実施形態に係る操作部の入力の一例を示す図である。 実施形態に係る通信端末装置の動作の一例を示す流れ図である。 変形例1に係る表示部の表示の一例を示す図である。
[実施形態]
以下、図を参照して本発明の実施形態について説明する。
建物内部等の実空間において、当該実空間に配置される物体(以下、物体OB)を撤去、又は交換したり、当該実空間に物体OBを新設したりする作業が発生する場合がある。作業者は、建物内部等の実空間において行われる作業に関する情報を当該作業の前に把握することが好ましい。また、作業者は、当該作業に関する情報を平易に把握したい場合がある。
図1は、実施形態に係る重畳画像SPIの一例を示す図である。
重畳画像SPIとは、作業者が可搬する装置(以下、通信端末装置20)によって実空間を撮像した画像(以下、画像IM)に、オブジェクト情報OBIが配置(重畳)された画像である。オブジェクト情報OBIとは、画像IMに撮像される実空間に対応する情報であって、当該実空間において行われる作業に関する情報である。
図1に示す重畳画像SPIは、第3サーバ装置が設置される前の実空間を撮像した画像IMに、オブジェクト情報OBI1と、オブジェクト情報OBI2とが配置された画像である。図示するオブジェクト情報OBI1は、画像IMに撮像される実空間において行われる作業の位置を明示する情報である。また、図示するオブジェクト情報OBI2のオブジェクト画像OBGは、画像IMに撮像される実空間において行われる作業の内容を示すメッセージ情報である。作業者は、重畳画像SPIを参照することにより、実空間において行われる作業を平易に把握することができる。
以下、重畳画像SPIを表示する三次元空間情報表示システムについて説明する。
三次元空間情報表示システムは、通信端末装置20と、サーバ装置30とによって構成される。以下、通信端末装置20と、サーバ装置30との具体的な構成について説明する。
<通信端末装置について>
図2は、実施形態に係る通信端末装置20の構成の一例を示す図である。
通信端末装置20とは、例えば、携帯電話、スマートフォン及びタブレット型のコンピュータ(タブレットPC)等の携帯型のパーソナルコンピュータなどである。
通信端末装置20は、測定装置110と、制御部230と、操作部CTと、表示部DPと、通信部232とを備える。
測定装置110と、制御部230と、操作部CTと、表示部DPと、通信部232とは、内部バスによって接続されており、情報の送受信が可能である。
測定装置110は、撮像部101と、測距部102と、特徴点検出部103と、相対位置検出部104と、位置特定部105をその機能部として備える。
撮像部101は、実空間内を撮像し、画像IMを生成する。撮像部101は、例えば、常時、又は所定の時間間隔において実空間を撮影し、画像IMを生成する。
測距部102は、通信端末装置20から、実空間内に設置される物体や、実空間を構成する物体(以下、物体OB)までの距離を測定する。実空間を構成する物体とは、例えば、壁、天井、及び床等である。測距部102とは、例えば、ステレオカメラや赤外線センサである。
特徴点検出部103は、実空間を撮像部101が撮像して得られた画像IMに基づき、当該画像IMに撮像される物体OBの特徴点を検出する。特徴点検出部103は、例えば、画像IMに撮像される物体OBの特徴点を点群として表した点群画像を生成する。
相対位置検出部104は、特徴点検出部103が検出した特徴点と、特徴点を撮像した際の通信端末装置20の位置と、向きとを複数記憶し、通信端末装置20の位置から特定可能な特徴点と、当該特徴点の相対位置とを示す情報(以下、周辺三次元空間情報ASP)を生成する。本実施形態の一例では、実空間における相対位置が、XYZ直交座標系によって示される。
位置特定部105は、制御部230から供給される三次元空間情報SPと、特徴点検出部103が生成する画像とに基づいて、実空間における通信端末装置20の現在位置(以下、現在位置CP)とを特定する。
三次元空間情報SPとは、実空間の特徴点と、当該特徴点の実空間における相対位置とが対応付けられた情報である。本実施形態の一例では、三次元空間情報SPは、実空間の物体OBの特徴点の点群を示す点群画像と、当該点群画像を撮像した撮像位置とが対応付けられた情報である。撮像位置は、実空間における相対位置によって示される。
具体的には、位置特定部105は、三次元空間情報SPに含まれる点群画像のうち、特徴点検出部103が画像IMに基づいて生成する特徴点の点群画像と一致する画像を判定(マッチング)する。位置特定部105は、判定した当該画像に対応付けられる撮像位置を、通信端末装置20の現在位置CPとして特定する。これにより、位置特定部105は、三次元空間情報SPにおける通信端末装置20の現在位置CPを特定した後は、通信端末装置20が移動しても、加速度センサ、ジャイロセンサ、及び地磁気センサの検出結果に基づいて、三次元空間情報SP上の座標、及び向きを特定可能である。
なお、位置特定部105は、撮像部101が撮像して得られた画像IMに基づいて、エリアラーニングにより、モーショントラッキングでのずれの累積を補正してもよい。
操作部CTとは、例えば、キーボードやマウス等である。作業者は、操作部CTを用いて通信端末装置20に各種情報を入力する。
表示部DPとは、ディスプレイパネル等の表示装置である。表示部DPは、制御部230の制御に基づいて、重畳画像SPIを表示する。作業者は、表示部DPに表示される重畳画像SPIを参照する。ここでは、操作部CTと、表示部DPとが一体のタッチパネルによって構成される場合について説明する。
通信部232は、サーバ装置30と各種情報の送受信を行う。
制御部230は、CPU(Central Processing Unit)を備えており、アプリケーション実行部235をその機能部として備える。
アプリケーション実行部235は、サーバ装置30から受信する情報に基づいて、重畳画像SPIを生成する。
<サーバ装置について>
以下、図3を参照してサーバ装置30の構成について説明する。
図3は、実施形態に係るサーバ装置30の構成の一例を示す図である。
図3に示す通り、サーバ装置30は、制御部300と、記憶部600とを備える。
制御部300はCPUを備えており、受信部310と、選択部320と、送信部330とをその機能部として備える。
受信部310は、通信端末装置20から送信される情報を受信する。
選択部320は、受信部310が受信する情報に基づいて、制御装置10に送信する情報を選択する。
送信部330は、選択部320が選択する情報を通信端末装置20に送信する。
記憶部600には、三次元空間情報SPと、オブジェクト情報OBIと、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWとが対応付けられて記憶される。具体的には、記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWと、三次元空間情報SPとが対応付けられて記憶され、三次元空間情報SPと、オブジェクト情報OBIとが対応付けて記憶される。
以下、記憶部600に記憶される作業内容情報CWと、作業位置情報PWと、対象装置情報TDWと、三次元空間情報SPとの対応について説明する。
図4は、実施形態に係る作業内容情報CW、作業位置情報PW、及び対象装置情報TDWと、三次元空間情報SPとの対応の一例を示す表である。
図4に示す通り、記憶部600には、作業内容情報CWと、作業位置情報PWと、対象装置情報TDWと、三次元空間情報SPとが対応付けられて記憶される。
作業内容情報CWとは、作業者が行う作業の内容を示す情報である。
作業位置情報PWは、作業が行われる位置を示す情報である。作業位置情報PWは、例えば、作業が行われる建物の名称を示す情報(以下、建物名称情報)や、建物内の部屋の名称(例えば、101号室等)又は部屋の場所(例えば、1F南側)を示す情報(以下、部屋名称情報)や、作業が行われる建物内部に配置される装置の位置(例えば、101号室第1ラック上段等)を示す情報(以下、装置位置情報)である。
対象装置情報TDWとは、作業が行われる作業対象の装置を示す情報である。対象装置情報TDWは、例えば、作業対象の装置の名称を示す情報である。
本実施形態の一例では、記憶部600には、作業内容情報CW1〜作業内容情報CW6の6つの作業内容情報CWが記憶される。具体的には、作業内容情報CW1が示す作業内容は、「第3サーバ新設」である。また、作業内容情報CW2が示す作業内容は、「第1サーバ撤去」である。また、作業内容情報CW3が示す作業内容は、「第2サーバ交換」である。また、作業内容情報CW4が示す作業内容は、「第4サーバ新設」である。また、作業内容情報CW5が示す作業内容は、「第5サーバ撤去」である。また、作業内容情報CW6が示す作業内容は、「第6サーバ交換」である。
本実施形態の一例では、作業位置情報PWが建物名称情報である場合について説明する。したがって、記憶部600には、建物名称情報によって示される作業位置情報PW1、及び作業位置情報PW2の2つの作業位置情報PWが記憶される。具体的には、作業位置情報PW1が示す作業位置は、「第1局舎」である。また、作業位置情報PW2が示す作業位置は、「第2局舎」である。
本実施形態の一例では、記憶部600には、対象装置情報TDW1〜対象装置情報TDW6の6つの対象装置情報TDWが記憶される。具体的には、対象装置情報TDW1が示す作業対象の装置は、「第1サーバ装置」である。また、対象装置情報TDW2が示す作業対象の装置は、「第2サーバ装置」である。また、対象装置情報TDW3が示す作業対象の装置は、「第3サーバ装置」である。また、対象装置情報TDW4が示す作業対象の装置は、「第4サーバ装置」である。また、対象装置情報TDW5が示す作業対象の装置は、「第5サーバ装置」である。また、対象装置情報TDW6が示す作業対象の装置は、「第6サーバ装置」である。
また、本実施形態の一例では、第1局舎を示す情報(作業内容情報CW1〜作業内容情報CW3、作業位置情報PW1、又は対象装置情報TDW1〜対象装置情報TDW3)と、三次元空間情報SP1とが対応付けられ、記憶部600に記憶される。また、第2局舎を示す情報(作業内容情報CW4〜作業内容情報CW6、作業位置情報PW2、又は対象装置情報TDW4〜対象装置情報TDW6)と、三次元空間情報SP2とが対応付けられ、記憶部600に記憶される。換言すると、三次元空間情報SP1は、第1局舎内部の実空間の三次元空間情報SPであって、三次元空間情報SP2は、第2局舎内部の実空間の三次元空間情報SPである。
以下、記憶部600に記憶される三次元空間情報SPと、オブジェクト情報OBIとの対応について説明する。
図5は、実施形態に係る三次元空間情報SPと、オブジェクト情報OBIとの対応の一例を示す表である。
ここで、オブジェクト情報OBIには、オブジェクト画像OBGと、オブジェクト位置OBPとが含まれる。オブジェクト画像OBGとは、画像IMに配置する画像である。オブジェクト位置OBPとは、三次元空間情報SPにおいて当該オブジェクト画像OBGが配置される位置である。
本実施形態の一例では、記憶部600には、オブジェクト情報OBI1〜オブジェクト情報OBI6の6つのオブジェクト情報OBIが記憶される。
ここで、オブジェクト情報OBI1には、オブジェクト画像OBG1と、オブジェクト位置OBP1とが含まれる。オブジェクト画像OBG1は、ピン画像である。オブジェクト位置OBP1は、三次元空間情報SP1が示す第1局舎内部の実空間のうち、(x1,y1,z1)の位置を示す。
また、オブジェクト情報OBI2には、オブジェクト画像OBG2と、オブジェクト位置OBP2とが含まれる。オブジェクト画像OBG2は、メッセージ画像(図1に示す「第3サーバ装置新設予定位置」)である。オブジェクト位置OBP2は、三次元空間情報SP1が示す第1局舎内部の実空間のうち、(x1,y1,z2)の位置を示す。
また、オブジェクト情報OBI3には、オブジェクト画像OBG3と、オブジェクト位置OBP3とが含まれる。オブジェクト画像OBG3は、メッセージ画像である。オブジェクト位置OBP3は、三次元空間情報SP1が示す第1局舎内の実空間のうち、(x3,y3,z3)の位置を示す。
また、オブジェクト情報OBI4には、オブジェクト画像OBG1と、オブジェクト位置OBP4とが含まれる。オブジェクト画像OBG1は、ピン画像である。オブジェクト位置OBP4は、三次元空間情報SP2が示す第2局舎内部の実空間のうち、(x4,y4,z4)の位置を示す。
また、オブジェクト情報OBI5には、オブジェクト画像OBG4と、オブジェクト位置OBP5とが含まれる。オブジェクト画像OBG4は、メッセージ画像である。オブジェクト位置OBP5は、三次元空間情報SP2が示す第2局舎内部の実空間のうち、(x4,y4,z5)の位置を示す。
また、オブジェクト情報OBI6には、オブジェクト画像OBG5と、オブジェクト位置OBP6とが含まれる。オブジェクト画像OBG5は、メッセージ画像である。オブジェクト位置OBP6は、三次元空間情報SP2が示す第2局舎内部の実空間のうち、(x6,y6,z6)の位置を示す。
<通信端末装置とサーバ装置の動作について>
以下、図6を参照して、通信端末装置20と、サーバ装置30との動作の詳細について説明する。
図6は、実施形態に係る通信端末装置20と、サーバ装置30との動作の一例を示す流れ図である。具体的には、図6は、通信端末装置20と、サーバ装置30との情報の送受信に係る動作の一例を示す流れ図である。
通信端末装置20は、作業者が作業対象の実空間を指定する情報(以下、空間指定情報DSP)が操作部CTにより入力される(ステップS310)。
以下、図7を参照して操作部CTにより入力される操作について説明する。
図7は、実施形態に係る操作部CTの入力の一例を示す図である。
通信端末装置20には、例えば、空間指定情報DSPを選択する選択操作が操作部CTにより入力される。ここで、作業者が作業を行う実空間は、例えば、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWによって指定される。換言すると、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWは、空間指定情報DSPの選択肢の一例である。
通信端末装置20は、例えば、空間指定情報DSPをサーバ装置30に送信する際、サーバ装置30にアクセスする。その際、表示部DPには、空間指定情報DSPの選択を促すが表示される(図示する「作業位置情報を選択してください」等)。また、表示部DPには、サーバ装置30に記憶される情報に基づいて、空間指定情報DSPの選択肢が表示される。表示部DPには、例えば、空間指定情報DSPの選択肢として、作業位置情報PW(作業位置情報PW1(図示する第1局舎)、及び作業位置情報PW2(図示する第2局舎))が表示される。通信端末装置20には、重畳画像SPIの参照対象の実空間を指定する操作、つまり空間指定情報DSP選択する選択操作が操作部CTにより入力される。作業者は、表示部DPに表示される作業位置情報PW1、及び作業位置情報PW2のうち、重畳画像SPIの参照対象の作業位置情報PWを選択する選択操作を操作部CTに入力する。以下、作業者が、作業位置情報PW1を選択する場合について説明する。
なお、記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWが対応付けられて記憶される場合について説明したが、これに限られない。記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWのうち、少なくとも1つが記憶されていればよい。この場合、通信端末装置20がサーバ装置30にアクセスした際、表示部DPには、記憶部600に記憶される情報に基づく空間指定情報DSPの選択肢が表示される。
また、上述では、空間指定情報DSPの選択肢として作業位置情報PWが表示部DPに表示される場合について説明したが、これに限られない。表示部DPには、例えば、空間指定情報DSPの選択肢として作業内容情報CWが表示されてもよく、対象装置情報TDWが表示されてもよい。また、表示部DPには、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWのすべてが空間指定情報DSPの選択肢として表示されてもよい。この場合、サーバ装置30は、空間指定情報DSPとして選択された作業位置情報PW、作業内容情報CW、及び対象装置情報TDWに対応付けられる三次元空間情報SPと、オブジェクト情報OBIとを通信端末装置20に送信する。
また、上述では、記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWが対応付けられて記憶される場合について説明したが、これに限られない。記憶部600には、作業内容情報CW、作業位置情報PW、対象装置情報TDW、及び端末IDが対応付けられて記憶されていてもよい。端末IDとは、通信端末装置20を識別する識別情報である。この場合、通信端末装置20がサーバ装置30にアクセスした際、サーバ装置30に対して当該通信端末装置20の端末IDを送信する。また、表示部DPには、記憶部600に記憶される空間指定情報DSPの選択肢のうち、受信した端末IDに対応付けられた空間指定情報DSPの選択肢が表示される。
図6に戻り、通信部232は、操作部CTにより入力された空間指定情報DSPをサーバ装置30に送信する(ステップS320)。
サーバ装置30が備える受信部310は、通信端末装置20から空間指定情報DSPを受信する(ステップS330)。選択部320は、受信した空間指定情報DSPに基づいて、三次元空間情報SP、及びオブジェクト情報OBIを選択する(ステップS340)。
具体的には、選択部320は、空間指定情報DSPを検索キーとして記憶部600を検索し、当該空間指定情報DSPに対応付けられている三次元空間情報SP、及びオブジェクト情報OBIを選択する。
図4に示す通り、作業位置情報PW1には、三次元空間情報SP1が対応付けられている。このため、選択部320は、記憶部600に記憶される三次元空間情報SPのうち、三次元空間情報SP1を選択する。また、図5に示す通り、三次元空間情報SP1には、オブジェクト情報OBI1〜オブジェクト情報OBI3が対応付けられている。このため、選択部320は、記憶部600に記憶されるオブジェクト情報OBIのうち、オブジェクト情報OBI1〜オブジェクト情報OBI3を選択する。
図6に戻り、送信部330は、選択した三次元空間情報SP、及びオブジェクト情報OBIを通信端末装置20に送信する(ステップS350)。
通信端末装置20が備える通信部232は、サーバ装置30から三次元空間情報SP、及びオブジェクト情報OBIを受信する(ステップS360)。
<通信端末装置の動作について>
以下、図8を参照してサーバ装置30の動作の詳細について説明する。
図8は、実施形態に係る通信端末装置20の動作の一例を示す流れ図である。
撮像部101は、実空間を撮像し、画像IMを生成する(ステップS400)。位置特定部105は、通信部232が受信した三次元空間情報SPと、画像IMとに基づいて、現在位置CPを特定する(ステップS410)。
アプリケーション実行部235は、位置特定部105によって特定された現在位置CPに基づいて、オブジェクト情報OBIを画像IMに配置する(ステップS420)。具体的には、アプリケーション実行部235は、通信部232が受信したオブジェクト情報OBI(この一例では、オブジェクト情報OBI1〜オブジェクト情報OBI3)のうち、現在位置CPから視認可能なオブジェクト情報OBIを画像IMに配置する。アプリケーション実行部235は、例えば、測距部102によって、現在位置CPから実空間の物体OBまでの距離を測定する。アプリケーション実行部235は、現在位置CPの座標からオブジェクト位置OBPが示す座標までの距離が測定した当該距離以内のオブジェクト情報OBIを、現在位置CPから視認可能なオブジェクト情報OBIとして画像IMに配置する。
アプリケーション実行部235は、画像IMにオブジェクト位置OBPを重畳して配置した重畳画像SPIを生成する(ステップS425)。アプリケーション実行部235は、表示部DPに重畳画像SPIを表示させる(ステップS430)。図1に示す一例では、受信したオブジェクト情報OBIのうち、オブジェクト情報OBI1、及びオブジェクト情報OBI2が現在位置CPから視認可能なオブジェクト情報OBIであって、オブジェクト情報OBI3は、現在位置CPから視認不可能なオブジェクト情報OBIである。したがって、重畳画像SPIには、オブジェクト情報OBI1、及びオブジェクト情報OBI2が重畳して配置され、オブジェクト情報OBI3が配置されない。
アプリケーション実行部235は、常時、又は所定の時間間隔においてステップS400からステップS430の処理を繰り返す。これにより、アプリケーション実行部235は、通信端末装置20の位置や向きの変化に伴う撮像部101が撮像する範囲の変化に応じた重畳画像SPIを生成し、表示させる。
<実施形態のまとめ>
以上説明したように、本実施形態の通信端末装置20は、重畳画像SPIの参照対象の実空間を指定する空間指定情報DSPを取得する。本実施形態のサーバ装置30は、通信端末装置20から受信した空間指定情報DSPに基づいて、当該空間指定情報DSPによって指定される実空間の三次元空間情報SPと、オブジェクト情報OBIとを選択し、通信端末装置20に送信する。
ここで、サーバ装置30の記憶部600に記憶される三次元空間情報SP、及びオブジェクト情報OBIのデータ量が多い場合、通信端末装置20は、三次元空間情報SP、及びオブジェクト情報OBIを記憶することが困難である。
本実施形態の通信端末装置20、及びサーバ装置30によれば、通信端末装置20の操作者(この一例では、作業者)の所望する三次元空間情報SP、及びオブジェクト情報OBIを供給することができる。
本実施形態の通信端末装置20は、受信した三次元空間情報SPと、オブジェクト情報OBIとに基づいて、測定装置110が撮像する画像IMにオブジェクト情報OBIを重畳して表示する。
したがって、本実施形態の通信端末装置20、及びサーバ装置30によれば、作業者は、表示部DPに表示される重畳画像SPIを参照することにより、建物内部の作業に関する情報を平易に把握することができる。
また、本実施形態の通信端末装置20は、画像IMと、当該画像IMに撮像される実空間の三次元空間情報SPとに基づいて、重畳画像SPIを表示する。このため、通信端末装置20(作業者)が移動したり、通信端末装置20の位置から実空間を撮像する方向が変わったりする場合であっても、通信端末装置20が撮像する画像IMに応じたオブジェクト情報OBIを配置(重畳)し、表示することができる。
また、本実施形態の通信端末装置20は、作業内容情報CW、作業位置情報PW(建物名称情報、部屋名情報、及び装置位置情報)、及び対象装置情報TDW等によって空間指定情報DSPを指定し、空間指定情報DSPに応じた三次元空間情報SP、及びオブジェクト情報OBIを受信する。
ここで、実空間において行われる作業が複数存在し、作業者がすべてを把握することが困難である場合がある。この場合、作業者は、当該作業者が把握している情報に基づいて、空間指定情報DSPを選択可能であることが好ましい。
本実施形態の通信端末装置20によれば、作業者は、多様な表現(作業内容情報CW、作業位置情報PW、及び対象装置情報TDW等)によって空間指定情報DSPが示されることにより、簡便に空間指定情報DSPに選択することができる。
また、上述では、作業内容情報CWと、作業位置情報PWと、対象装置情報TDWとが、同一の三次元空間情報SPに対応付けられ、通信端末装置20は、同一の三次元空間情報SPが対応付けられているすべてのオブジェクト情報OBIを重畳画像SPIに表示する場合について説明したが、これに限られない。通信端末装置20は、例えば、作業者が、空間指定情報DSPとして対象装置情報TDWを選択した場合、当該対象装置情報TDWを示すオブジェクト情報OBIのみを重畳画像SPIとして表示する構成であってもよい。
この場合、記憶部600には、対象装置情報TDWと、三次元空間情報SPと、オブジェクト情報OBIとが対応付けて記憶される。
サーバ装置30は、空間指定情報DSPとして受信した対象装置情報TDWと、当該対象装置情報TDWに対応付けられた三次元空間情報SPと、オブジェクト情報OBIとを通信端末装置20に送信する。通信端末装置20は、受信した三次元空間情報SPと、オブジェクト情報OBIとに基づいて、重畳画像SPIを生成することにより、空間指定情報DSPとして選択した対象装置情報TDWが示す装置に関する情報のみを重畳画像SPIに表示する。
本実施形態の通信端末装置20、及びサーバ装置30によれば、作業者は、表示部DPに表示される重畳画像SPIを参照することにより、作業対象の装置に関する情報を平易に把握することができる。
また、通信端末装置20は、例えば、作業者が、空間指定情報DSPとして作業内容情報CWを選択した場合、当該作業内容情報CWを示すオブジェクト情報OBIのみを重畳画像SPIとして表示する構成であってもよい。
この場合、記憶部600には、作業内容情報CWと、三次元空間情報SPと、オブジェクト情報OBIとが対応付けて記憶される。
サーバ装置30は、空間指定情報DSPとして受信した作業内容情報CWと、当該作業内容情報CWに対応付けられた三次元空間情報SPと、オブジェクト情報OBIとを通信端末装置20に送信する。通信端末装置20は、受信した三次元空間情報SPと、オブジェクト情報OBIとに基づいて、重畳画像SPIを生成することにより、空間指定情報DSPとして選択した作業内容情報CWが示す装置に関する情報のみを重畳画像SPIに表示する。
本実施形態の通信端末装置20、及びサーバ装置30によれば、作業者は、表示部DPに表示される重畳画像SPIを参照することにより、作業対象の作業内容に関する情報を平易に把握することができる。
なお、アプリケーション実行部235は、現在位置CP、及びオブジェクト位置OBPに基づいて、オブジェクト画像OBGの大きさを変換する構成を有していてもよい。アプリケーション実行部235は、例えば、測距部102が測定した現在位置CPからオブジェクト位置OBPまでの距離と、オブジェクト画像OBGの寸法を示す情報とに基づいて、当該距離に応じた大きさのオブジェクト画像OBGを画像IMに重畳し、配置する。これにより、重畳画像SPIを参照する作業者は、より平易にオブジェクト情報OBIを把握することができる。
また、上述では、オブジェクト画像OBGがピン画像やメッセージ画像である場合について説明したが、これに限られない。オブジェクト画像OBGは、例えば、対象装置情報TDWが示す作業対象の装置の形状を示す画像であってもよい。ここで、ある実空間において行われる作業が、対象装置情報TDWが示す作業対象の装置を新設する作業である場合がある。この場合、重畳画像SPIには、当該作業対象の装置が画像IMに重畳して配置される。したがって、作業者は、重畳画像SPIを参照することにより、当該作業対象の装置が配置された後の実空間の様子を把握することができる。
<変形例1:現在地に基づく空間指定情報の選択肢の提示について>
なお、上述では、表示部DPには、空間指定情報DSPの選択肢が表示される場合について説明した。ここで、空間指定情報DSPの選択肢が多数である場合(例えば、予定されている作業が多数である場合)、空間指定情報DSPを選択する選択操作が、作業者にとって手間である場合がある。
ここで、通信端末装置20は、当該通信端末装置20(作業者)が存在する現在位置を絶対座標によって検出する位置検出部を備え、サーバ装置30は、当該現在位置に基づいて、空間指定情報DSPの候補を選択する候補選択部を備える構成であってもよい。
以下、位置検出部、及び候補選択部の詳細について説明する。
通信部232は、位置検出部が検出する通信端末装置20の現在位置を示す情報(以下、現在位置情報ACP)をサーバ装置30に送信する。
候補選択部は、通信端末装置20から受信した現在位置情報ACPに基づいて、記憶部600に記憶される作業位置情報PWのうち、当該現在位置情報ACPの位置の近傍に存在する作業位置情報PW、又は作業位置情報PWと対応付けられている作業内容情報CWや対象装置情報TDWを通信端末装置20に送信する。
通信端末装置20は、受信した作業位置情報PW、又は作業位置情報PWと対応付けられている作業内容情報CWや対象装置情報TDWを空間指定情報DSPの選択肢として表示部DPに表示する。
図9は、変形例1に係る表示部DPの表示の一例を示す図である。図9に示す通り、表示部DPには、通信端末装置20の現在位置情報ACPを示す情報と、現在位置情報ACPの近傍に存在する空間指定情報DSPの選択肢を示す情報(この一例では、作業位置情報PW1、及び作業位置情報PW2)が表示される。
作業者は、表示部DPに表示される情報であって、空間指定情報DSPの選択肢を示す情報のうち、重畳画像SPIの参照対象の実空間の作業位置情報PWを選択する選択操作を操作部CTにより入力する。以降の処理は上述した実施形態と同様であるため、説明を省略する。
上述した構成により、通信端末装置20の表示部DPには、複数の空間指定情報DSPの選択肢のうち、通信端末装置20(作業者)の位置(現在位置情報ACPが示す位置)の近傍に存在する空間指定情報DSPの候補(この一例では、作業位置情報PW1、及び作業位置情報PW2)のみが表示される。
したがって、作業者が空間指定情報DSPを選択する手間を低減することができる。
<変形例2:作業者IDに基づく空間指定情報の選択肢の提示について>
また、記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWに対して、作業者を識別する情報(以下、作業者ID)が更に対応付けられて、記憶されていてもよい。この場合、通信端末装置20には、当該通信端末装置20を操作する作業者の作業者IDが操作部CTにより入力され、通信部232は、入力された作業者IDをサーバ装置30に送信する。
候補選択部は、受信した作業者IDを検索キーとして記憶部600を検索し、当該作業者IDが対応付けられている作業内容情報CW、作業位置情報PW、又は対象装置情報TDWを空間指定情報DSPの候補として選択する。通信端末装置20の表示部DPには、作業者IDに基づいて選択された空間指定情報DSPの選択肢が表示される。
作業者は、表示部DPに表示される情報であって、空間指定情報DSPの選択肢を示す情報に基づいて、空間指定情報DSPを選択する選択操作を操作部CTにより入力する。
上述した構成により、通信端末装置20の表示部DPには、複数の空間指定情報DSPの選択肢のうち、当該通信端末装置20を操作する作業者の作業者IDが対応付けられている空間指定情報DSPの候補のみが表示される。
したがって、作業者が空間指定情報DSPを選択する手間を低減することができる。
<変形例3:作業時刻に基づく三次元空間情報の送信について>
また、記憶部600には、作業内容情報CW、作業位置情報PW、及び対象装置情報TDWに対して、作業の開始予定時刻を示す作業予定時刻情報が更に対応付けられて、記憶されていてもよい。サーバ装置30は、例えば、作業予定時刻情報が示す作業の開始予定時刻、又は作業の開始予定時刻より以前に当該作業予定時刻が対応付けられた作業内容情報CWや作業位置情報PWを通信端末装置20にプッシュ配信する機能を有する。
これにより、作業者は、プッシュ配信によって通知された時刻において行われる作業の詳細を把握することができる。
なお、サーバ装置30は、作業内容情報CWや作業位置情報PWを通信端末装置20にプッシュ配信しつつ、作業予定時刻情報に対応付けられた三次元空間情報SPを通信端末装置20に送信する構成であってもよい。これにより、作業者が、三次元空間情報SPをサーバ装置30から取得(ダウンロード)する手間を低減することができる。
また、通信端末装置20は、現在位置情報ACPを常時、又は所定の時間間隔においてサーバ装置30に送信する構成であってもよい。この場合、サーバ装置30は、作業予定時刻情報が示す時刻に行われる作業であって、現在位置情報ACPの近傍である作業位置(作業位置情報PW)と対応付けられている三次元空間情報SPを通信端末装置20に送信する構成を有していてもよい。
これにより、作業者は、より簡便に三次元空間情報SPをサーバ装置30から取得(ダウンロード)することができる。
<変形例4:三次元空間情報の送信に伴うオブジェクト情報の取得>
なお、上述では、通信端末装置20が空間指定情報DSPを送信することに応じて、サーバ装置30が三次元空間情報SP、及びオブジェクト情報OBIを送信する場合について説明したが、これに限られない。
通信端末装置20は、例えば、常時、又は所定の時間間隔において周辺三次元空間情報ASPを生成し、生成した周辺三次元空間情報ASPに基づいて、三次元空間情報SPを生成する三次元空間情報取得部を備えていてもよい。ここで、通信端末装置20の操作者(この一例では、作業者)は、重畳画像SPIを参照したい実空間において、画像IMを撮像しつつ、当該実空間を把握可能に移動する(例えば、実空間内を一周する)。三次元空間情報取得部は、当該移動に伴って生成された周辺三次元空間情報ASPに基づいて、三次元空間情報SPを生成する。通信端末装置20は、サーバ装置30に三次元空間情報SPを送信する。
サーバ装置30の選択部320は、記憶部600に記憶される三次元空間情報SPのうち、受信した三次元空間情報SPと類似する三次元空間情報SPを検索する。サーバ装置30は、受信した三次元空間情報SPと類似する三次元空間情報SPに対応付けられているオブジェクト情報OBIを選択する。送信部330は、選択部320が選択したオブジェクト情報OBIを通信端末装置20に送信する。
アプリケーション実行部235は、三次元空間情報取得部が生成した三次元空間情報SPと、受信したオブジェクト情報OBIとに基づいて、重畳画像SPIを生成し、表示部DPに表示させる。
上述した構成によれば、作業者が重畳画像SPIの参照対象の実空間において行われる作業に関する情報を把握していない場合であっても、通信端末装置20によって画像IMを撮像しつつ、当該実空間を把握可能に移動した後に、重畳画像SPIを参照することができる。したがって、作業者は、空間指定情報DSPの選択肢を入力することなく、簡便に実空間の作業に関する情報を把握することができる。
<変形例5:実空間内における作業の記録について>
また、サーバ装置30は、当該作業の開始時刻、及び終了時刻を検出する機能を有していてもよい。以下、サーバ装置30が有する作業の開始時刻、及び終了時刻を検出する機能について説明する。
通信端末装置20は、例えば、作業者(通信端末装置20)が空間指定情報DSPによって指定された場所に到着し、重畳画像SPIを表示部DPに表示したこと、つまり、作業を開始したことに応じて、作業開始を示す情報(この一例では、重畳画像SPI、又は重畳画像SPIを表示したことを示す情報、及び端末ID)をサーバ装置30に送信する。サーバ装置30は、受信した作業開始を示す情報に基づいて、作業内容情報CWが示す作業のうち、開始された作業がどの作業であるかを特定する。
この一例では、記憶部600には、作業内容情報CWと、作業内容情報CWが示す作業を行う作業者(通信端末装置20)の端末IDとが対応付けられて記憶される。
サーバ装置30は、受信した端末IDに基づいて作業内容情報CWを特定し、作業開始を示す情報を受信した時刻を作業の開始時刻として検出する。なお、サーバ装置30は、検出した作業の開始時刻を作業内容情報CWに対応付けて記憶部600に記憶する機能を有していてもよい。
通信端末装置20は、操作者(作業者)の誤操作等によって作業の開始時刻ではない時刻に端末IDのみをサーバ装置30に送信する場合がある。この場合、通信端末装置20は、端末IDと併せて重畳画像SPI、又は重畳画像SPIを表示したことを示す情報を送信しない。これは、通信端末装置20が重畳画像SPIを表示部DPに表示するためには、作業が行われる場所において実空間を撮像することが求められるためである。上述したように、サーバ装置30は、通信端末装置20から作業開始を示す情報として端末IDと、重畳画像SPI、又は重畳画像SPIを表示したことを示す情報との2つを受信したことに応じて、作業の開始時刻を検出する。したがって、サーバ装置30は、操作者の誤操作によって端末IDのみが送信された場合には、作業の開始時刻を検出しない。これにより、サーバ装置30は、精度高く作業の開始時刻を検出することができる。
なお、サーバ装置30は、作業開始を示す情報を受信した時刻を作業の開始時刻として検出する構成に代えて、通信端末装置20において重畳画像SPIが表示された時刻を作業の開始時刻として検出する構成であってもよい。この場合、通信端末装置20は、表示部DPに重畳画像SPIが表示された時刻を示す時刻情報をサーバ装置30に送信してもよい。サーバ装置30は、作業開始を示す情報と、時刻情報とを受信し、当該時刻情報が示す時刻を作業の開始時刻として検出する。
また、通信端末装置20は、作業開始を示す情報として作業内容情報CWを示す情報を送信する構成であってもよい。この場合、サーバ装置30は、作業内容情報CWを受信することに応じて、受信した作業内容情報CWが示す作業が開始されたことを検出する。
また、サーバ装置30は、重畳画像SPIに基づいて、作業内容情報CWを特定する構成であってもよい。この場合、通信端末装置20は、作業を開始したことに応じて、重畳画像SPIを送信する。サーバ装置30は、受信した重畳画像SPIに基づいて、記憶部600に記憶される三次元空間情報SPのうち、当該重畳画像SPIに撮像される実空間と合致する三次元空間情報SPを特定する。サーバ装置30は、重畳画像SPIを受信することに応じて、特定した三次元空間情報SPに対応付けられている作業内容情報CWの作業が開始されたことを検出する。
また、サーバ装置30は、作業内容情報CWと、作業内容情報CWが示す作業の開始予定時刻とを対応付けて記憶部600に予め記憶しておき、開始予定時刻から所定時間経過しても当該作業の開始が検出されなければ、作業内容情報CWに対応付けられた端末IDの通信端末装置20に対して、作業が開始されていないことや、作業に関する情報を通知する機能を有していてもよい。
また、サーバ装置30は、作業開始を検出した際、作業開始を示す情報を、端末IDを送信した作業者(通信端末装置20)以外の通信端末装置20に送信してもよい。これにより、作業開始を作業者以外の管理者や監督者も作業の開始を把握することができる。なお、通信端末装置20は、作業の開始を検出した際に撮像部101が実空間を撮像した画像IM(作業開始画像)を、端末IDと合わせてサーバ装置30に送信する構成であってもよい。
サーバ装置30が有する作業の終了を検出する機能も、前述の作業開始を検出する機能と基本的には同じである。通信端末装置20の操作部CTに作業の終了を示す操作が入力されると、通信端末装置20は、作業終了を示す情報(この一例では、端末ID)をサーバ装置30に送信する。サーバ装置30は、受信した端末IDに基づいて作業内容情報CWを特定し、特定した作業内容情報CWが示す作業の開始時刻が検出後である場合、作業終了を示す情報を受信した時刻を作業の終了時刻として検出する。
また、通信端末装置20は、作業終了を示す情報として作業内容情報CWを示す情報を送信する構成であってもよい。この場合、サーバ装置30は、作業内容情報CWを受信することに応じて、受信した作業内容情報CWが示す作業が終了されたことを検出する。
なお、通信端末装置20は、撮像部101が実空間を撮像しながら操作部CTに作業の終了を示す操作が入力されると、時刻情報と、撮影された画像IM(作業終了画像)と、作業終了を示す情報とをサーバ装置30に送信する構成であってもよい。
これにより、サーバ装置30は、作業の開始や終了の進捗状況だけでなく、作業終了の状態を表す画像を対応付けて記憶部600に記憶しておくができる。
これらによって、サーバ装置30に記憶された情報を参照可能な参照者は、作業開始画像、及び作業終了画像を参照することにより、作業に伴う実空間の変化、及び当該作業の詳細について把握することができる。
なお、通信端末装置20は、作業開始から作業終了まで、常時、又は所定の時間間隔において画像IMを撮像し、サーバ装置30に送信する構成であってもよい。
サーバ装置30は、通信端末装置20の作業開始を判定してから、当該作業に対応付けられた作業時間内に作業が終了したか否かを判定する。具体的には、サーバ装置30は、通信端末装置20から作業開始時に送信される端末IDを受信してから当該作業に対応付けられた作業時間が経過するまでの間に、作業終了時に送信される端末IDを受信したか否かを判定する。サーバ装置30は、作業時間内に作業が終了しなかった場合、当該作業に対応付けられた端末IDを有する通信端末装置20に、作業が終了していないこと(又は、作業終了時間を徒過していること)を通知する。
なお、上記の各実施形態における通信端末装置20、及びサーバ装置30が備える各部は、専用のハードウェアにより実現されるものであってもよく、また、メモリおよびマイクロプロセッサにより実現させるものであってもよい。
なお、通信端末装置20、及びサーバ装置30が備える各部は、メモリおよびCPU(中央演算装置)により構成され、通信端末装置20、及びサーバ装置30が備える各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
また、通信端末装置20、及びサーバ装置30が備える各部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
以上、本発明の実施形態を、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更を加えることができる。上述した各実施形態に記載の構成を組み合わせてもよい。
20…通信端末装置、30…サーバ装置、101…撮像部、103…特徴点検出部、104…相対位置検出部、105…位置特定部、110…測定装置、230…制御部、300…制御部、232…通信部、235…アプリケーション実行部、310…受信部、320…選択部、330…送信部、600…記憶部、ACP…現在位置情報、ASP…周辺三次元空間情報、CP…現在位置、CT…操作部、CW、CW1、CW2、CW3、CW4、CW5、CW6…作業内容情報、DP…表示部、DSP…空間指定情報、DT…距離、ID…作業者、IM…画像、OBG、OBG1、OBG2、OBG3、OBG5、OBG6…オブジェクト画像、OBI、OBI1、OBI2、OBI3、OBI4、OBI5、OBI6…オブジェクト情報、OBP、OBP1、OBP2、OBP3、OBP4、OBP5、OBP6…オブジェクト位置、PC…タブレット、PW、PW1、PW2…作業位置情報、SP、SP1、SP2…三次元空間情報、SPI…重畳画像、TDW、TDW1、TDW2、TDW3、TDW4、TDW5、TDW6…対象装置情報

Claims (7)

  1. 通信端末装置と、サーバ装置とを備える三次元空間情報表示システムであって、
    前記通信端末装置は、
    建物内部において行われる作業の位置を示す作業位置情報と、前記作業の内容を示す作業内容情報と、前記作業対象の装置である対象装置情報とのうち、少なくとも1つを空間指定情報として送信する端末送信部と、
    前記端末送信部が前記空間指定情報を送信することに応じて、建物内部の実空間の三次元空間情報と、前記三次元空間情報に対応付けられたオブジェクト情報とを受信する端末受信部と、
    前記実空間内を撮像し、画像を生成する撮像部と、
    前記オブジェクト情報の表示を制御する表示制御部と、
    を備え、
    前記端末送信部は、前記撮像部が生成する画像と前記三次元空間情報とに基づいて、前記撮像部が生成する画像に重畳して前記オブジェクト情報が表示されたことを示す情報と、自装置を識別する端末識別情報とを送信し、
    前記サーバ装置は、
    前記作業位置情報と、前記作業内容情報と、前記対象装置情報とのうち、少なくとも1つと、前記オブジェクト情報と、前記三次元空間情報とを対応付けて記憶する記憶部と、
    前記空間指定情報と、前記オブジェクト情報が表示されたことを示す情報と、前記端末識別情報とを受信するサーバ受信部と、
    前記空間指定情報と、前記オブジェクト情報が表示されたことを示す情報と、前記端末識別情報との少なくともいずれか一つを前記サーバ受信部が受信した時刻である受信時刻を、前記作業の開始時刻として検出する検出部と、
    前記サーバ受信部が受信する前記空間指定情報に基づいて、前記空間指定情報に対応付けられる前記三次元空間情報と、前記オブジェクト情報とを選択する選択部と、
    前記選択部が選択する前記三次元空間情報と、前記オブジェクト情報とを前記通信端末装置に送信するサーバ送信部と、
    を備える三次元空間情報表示システム。
  2. 前記通信端末装置は、
    自装置の位置を検出する位置検出部、
    を備え、
    前記端末送信部は、
    前記位置検出部が検出する位置情報を送信し、
    前記サーバ受信部は、
    前記位置情報を更に受信し、
    前記サーバ装置は、
    前記位置情報が示す位置の周辺に位置する前記建物の名称を示す建物名称情報、前記建物内の部屋の名称又は場所を示す部屋名称情報、及び前記建物内部に設置される装置の位置を示す装置位置情報のうち、少なくとも1つを前記作業位置情報の候補として選択する候補選択部、
    を備え、
    前記サーバ送信部は、
    前記候補選択部が選択した前記作業位置情報の候補を前記通信端末装置に送信する、
    請求項1に記載の三次元空間情報表示システム。
  3. 前記撮像部が生成する画像に基づいて当該画像に撮像される物体の特徴点を検出して、検出した特徴点を示す特徴点情報を生成する特徴点検出部と、
    前記特徴点検出部が生成する前記特徴点情報と、前記端末受信部が受信する前記三次元空間情報とに基づいて、前記特徴点情報が示す特徴点と、前記三次元空間情報が示す特徴点とを対応付けることにより、実空間における自装置の位置を特定する位置特定部と、 をさらに備え、
    前記表示制御部は、
    前記位置特定部が特定する自装置の位置と、前記三次元空間情報とに基づいて、前記作業の位置、前記作業の内容、及び対象装置のうち、少なくともいずれかを前記オブジェクト情報として前記画像に重畳して表示する、
    請求項1又は請求項2に記載の三次元空間情報表示システム。
  4. 前記通信端末装置は、
    前記作業の開始、及び前記作業の終了を検出し、前記作業の間に前記撮像部が生成する前記画像と、前記作業の前記作業内容情報とを対応付けて、前記記憶部に記憶する、
    請求項3に記載の三次元空間情報表示システム。
  5. 前記通信端末装置は、
    前記表示制御部が前記オブジェクト情報を表示することに応じて、前記作業の開始を検出する
    請求項4に記載の三次元空間情報表示システム。
  6. 前記サーバ装置は、
    前記受信時刻と、前記記憶部に記憶されている前記作業内容情報とを対応付けて前記記憶部に記憶させ、
    前記検出部は、
    前記記憶部に記憶された前記受信時刻に基づいて、前記作業が前記受信時刻に開始されたことを検出する
    請求項1から請求項5のいずれか一項に記載の三次元空間情報表示システム。
  7. コンピュータが、建物内部において行われる作業の位置を示す作業位置情報と、前記作業の内容を示す作業内容情報と、作業対象の装置である対象装置情報とのうち、少なくとも1つを空間指定情報として指定する指定手順と、
    コンピュータが、前記指定手順において指定される前記空間指定情報に基づいて、前記作業位置情報と、前記作業内容情報と、前記対象装置情報とのうち、少なくとも1つと、建物内部の実空間の三次元空間情報と、オブジェクト情報とを対応付けて記憶する記憶部から前記空間指定情報に対応付けられる前記三次元空間情報と、前記オブジェクト情報とを選択する選択手順と、
    コンピュータが、前記指定手順において前記空間指定情報が指定されることに応じて、建物内部の実空間の三次元空間情報と、前記三次元空間情報に対応付けられたオブジェクト情報とを受信する受信手順と、
    コンピュータが、前記実空間内を撮像し、画像を生成する撮像手順と、
    コンピュータが、前記オブジェクト情報の表示を制御する表示制御手順と、
    コンピュータが、前記撮像手順において生成される画像と前記三次元空間情報とに基づいて、前記撮像手順において生成される画像に重畳して前記オブジェクト情報が表示されたことを示す情報と、自装置を識別する端末識別情報とを、前記作業が開始されたことを示す情報として送信する端末識別情報送信手順と、
    を備える三次元空間情報表示方法。
JP2017082864A 2017-04-19 2017-04-19 三次元空間情報表示システム、及び三次元空間情報表示方法 Active JP6783179B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017082864A JP6783179B2 (ja) 2017-04-19 2017-04-19 三次元空間情報表示システム、及び三次元空間情報表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017082864A JP6783179B2 (ja) 2017-04-19 2017-04-19 三次元空間情報表示システム、及び三次元空間情報表示方法

Publications (2)

Publication Number Publication Date
JP2018181143A JP2018181143A (ja) 2018-11-15
JP6783179B2 true JP6783179B2 (ja) 2020-11-11

Family

ID=64275625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017082864A Active JP6783179B2 (ja) 2017-04-19 2017-04-19 三次元空間情報表示システム、及び三次元空間情報表示方法

Country Status (1)

Country Link
JP (1) JP6783179B2 (ja)

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3893983B2 (ja) * 2002-01-17 2007-03-14 ソニー株式会社 情報提供装置及び情報提供方法、記憶媒体、並びにコンピュータ・プログラム
JP4167164B2 (ja) * 2003-11-07 2008-10-15 アルゼ株式会社 営業支援システム
JP2006091390A (ja) * 2004-09-24 2006-04-06 Mitsubishi Electric Corp 情報表示システム及び情報表示方法及び情報表示方法をコンピュータに実行させるためのプログラム及び情報表示端末装置
JP5544250B2 (ja) * 2010-09-02 2014-07-09 エヌ・ティ・ティ・コムウェア株式会社 表示画像検索方法
JP5940785B2 (ja) * 2011-09-14 2016-06-29 株式会社バンダイナムコエンターテインメント プログラムおよびゲーム装置
JP5821526B2 (ja) * 2011-10-27 2015-11-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP6016268B2 (ja) * 2012-12-20 2016-10-26 Kddi株式会社 フィールド作業支援装置、方法及びプログラム
US9360672B2 (en) * 2013-07-11 2016-06-07 Seiko Epson Corporation Head mounted display device and control method for head mounted display device
EP3070585A4 (en) * 2013-11-13 2017-07-05 Sony Corporation Display control device, display control method and program
JP6167022B2 (ja) * 2013-11-19 2017-07-19 株式会社Nttドコモ 地図情報提供装置、ユーザ端末、及び地図情報提供方法
JP2016173622A (ja) * 2015-03-16 2016-09-29 日本電気株式会社 情報処理システム
JP6421670B2 (ja) * 2015-03-26 2018-11-14 富士通株式会社 表示制御方法、表示制御プログラム、及び情報処理装置

Also Published As

Publication number Publication date
JP2018181143A (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
JP5247854B2 (ja) 集荷システムおよび集荷方法
JP6217437B2 (ja) 端末装置、情報処理装置、表示制御方法、及び表示制御プログラム
JP2010118019A5 (ja)
JP6582626B2 (ja) 送信制御方法、表示端末および送信制御プログラム
CN102681958A (zh) 使用物理姿势传输数据
JP2015125641A (ja) 情報処理装置、その制御方法、及びプログラム
US20170352077A1 (en) Information collecting system, server, and control program
JP5965430B2 (ja) モバイル端末の位置及び動きパターンを用いてユーザ間の関係を設定するソーシャルネットワークサービス提供システム及び方法
JP5465209B2 (ja) 通信端末、無線ネットワーク可視化システム、無線通信可視化方法およびプログラム
US11386612B2 (en) Non-transitory computer-readable medium, image processing method, and image processing system for controlling progress of information processing in response to a user operation
JP6783179B2 (ja) 三次元空間情報表示システム、及び三次元空間情報表示方法
JP2016162079A (ja) 表示制御方法、表示制御プログラム、及び情報処理装置
JP2013115578A (ja) サポートシステム
CN108307145A (zh) 信息显示系统和图像形成设备
US20220166835A1 (en) Management apparatus, recording medium, and management method
JP2002351971A5 (ja)
JP5266416B1 (ja) テストシステム及びテストプログラム
JP7398227B2 (ja) 作業支援システム及びプログラム
KR102208708B1 (ko) 공통 좌표계 기반의 가상공간에서 가상 컨텐츠 제공 방법 및 장치
JP2005184624A (ja) 商品販売・管理方法、商品販売・管理システムおよびサーバ
JP2018074429A (ja) 情報処理装置、情報処理方法、プログラム
CN104750248B (zh) 电子装置配对方法
JP2017143458A (ja) 設備管理支援システム、設備管理支援方法、情報端末、及びプログラム
CN112565597A (zh) 显示方法和装置
CN111462341A (zh) 增强现实的建造辅助方法、装置、终端和介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200923

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201021

R150 Certificate of patent or registration of utility model

Ref document number: 6783179

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150