JP7013757B2 - 情報処理装置、情報処理システム及びプログラム - Google Patents

情報処理装置、情報処理システム及びプログラム Download PDF

Info

Publication number
JP7013757B2
JP7013757B2 JP2017180371A JP2017180371A JP7013757B2 JP 7013757 B2 JP7013757 B2 JP 7013757B2 JP 2017180371 A JP2017180371 A JP 2017180371A JP 2017180371 A JP2017180371 A JP 2017180371A JP 7013757 B2 JP7013757 B2 JP 7013757B2
Authority
JP
Japan
Prior art keywords
information
image
containment
display
cabinet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017180371A
Other languages
English (en)
Other versions
JP2019057059A (ja
Inventor
忠秋 佐藤
誓哉 稲木
一成 橋本
英剛 出雲
佑介 山浦
大輔 安岡
哲平 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2017180371A priority Critical patent/JP7013757B2/ja
Priority to US15/913,123 priority patent/US11010973B2/en
Priority to CN201810418456.8A priority patent/CN109521835B/zh
Publication of JP2019057059A publication Critical patent/JP2019057059A/ja
Priority to US17/232,501 priority patent/US11763529B2/en
Application granted granted Critical
Publication of JP7013757B2 publication Critical patent/JP7013757B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/004Annotating, labelling

Description

本発明は、情報処理装置、情報処理システム及びプログラムに関する。
近年、電子文書と紙文書を対応づけて管理する文書管理装置が提案されている(例えば、特許文献1参照。)。
特許文献1に記載された文書管理装置は、電子文書及び紙文書を管理する文書管理装置であって、紙文書の管理場所(キャビネット)を記憶する文書情報記憶部と、紙文書に対応する電子文書を記憶する電子文書記憶部と、紙文書を文書情報記憶部に登録するとともに、電子文書を電子文書記憶部に登録し、かつ、紙文書及び電子文書を検索する文書登録管理部とを有する。
特開2004-227462号公報
本発明の課題は、収容手段に収容された収容物に関する情報を収容手段の近傍に仮想的に表示する情報処理装置、情報処理システム及びプログラムを提供することにある。
[1]現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置により、収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段と、を備え
前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、情報処理装置。
[2]前記取得手段は、前記表示装置と前記収容手段との間の距離を取得し、
前記指示手段は、前記収容物に関する情報を、前記距離が長い方を短い方よりも文字サイズを大きいサイズに変更して表示するよう指示する、前記[1]に記載の情報処理装置。
[3]前記指示手段は、前記表示装置からの指示に基づいて、前記収容物に関する情報を変更するよう指示する、前記[1]又は[2]に記載の情報処理装置。
[4]前記指示手段は、前記表示装置からの指示に基づいて、選択された情報の属性情報を表示するよう指示する、前記[3]に記載の情報処理装置。
[5]前記属性情報は、前記表示装置の使用者に与えられたアクセス権によって表示が制限される、前記[4]に記載の情報処理装置。
[6]前記収容物に関する情報は、前記表示装置の使用者に与えられたアクセス権に応じた内容である、前記[1]から[5]のいずれかに記載の情報処理装置。
[7]前記収容物に関する情報は、予め定められた時間に応じて変更される、前記[1]から[6]のいずれかに記載の情報処理装置。
[8]前記収容物は、書類を綴じるファイルであり、
前記収容物に関する情報は、ファイルの背部に表示するファイル名である、前記[1]から[7]のいずれかに記載の情報処理装置。
[9]前記ファイル名の表示幅は、実物のファイルの背幅に対応した大きさを有し、前記ファイル名の文字を表示幅に応じた大きさで表示される、前記[8]に記載の情報処理装置。
[10]前記ファイルの色は、前記実物のファイルが前記収容手段から取り出された回数に応じて変更される、前記[9]に記載の情報処理装置。
[11]前記ファイルは、前記実物のファイルが前記収容手段から取り出されていることを示す色で表示される、前記[9]又は[10]に記載の情報処理装置。
[12]前記収容手段は、扉と、前記使用者が当該収容手段へのアクセス権が有している場合に、前記扉を開錠する施錠制御手段とを備えたものである、前記[5]又は[6]に記載の情報処理装置。
13]前記指示手段は、前記表示装置から前記収容手段を撮影した画像とともに前記表示装置からログインの要求があった場合に、前記収容物に関する情報を前記仮想空間の画像として表示するよう指示し、予め定められた時間指示がなかった場合、又はログオフの要求があった場合に、前記収容物に関する情報を前記仮想空間の画像として表示するのを終了するよう指示する、前記[1]から[12]のいずれかに記載の情報処理装置。
14]現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置と、
前記表示装置により収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段と、を備え
前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、情報処理システム。
15]コンピュータを、現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置により、収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段、として機能させるためのプログラムであって、
前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、プログラム。
請求項1、1415に係る発明によれば、収容手段に収容された収容物に関する情報を収容手段の近傍に仮想的に表示することができ、収容物が重要なものの場合、使用者に注意を促すことができる。
請求項2に係る発明によれば、収容物に関する情報を収容手段までの距離に応じた大きさで表示することができる。
請求項3、4に係る発明によれば、収容手段から離れた位置で収容物に関する情報を変更させることができる。
請求項5、6に係る発明によれば、アクセス権の有無に応じて表示内容を制限することができる。
請求項7に係る発明によれば、予め定められた時間以外の場合に表示内容を制限することができる。
請求項8、9に係る発明によれば、実物のファイルに近い状況で仮想画像を表示することができる。
請求項10、11に係る発明によれば、実物のファイルの収容状況を視覚的に認識することができる。
請求項12に係る発明によれば、管理者の開錠の手間を省くことができる
求項13に係る発明によれば、表示装置の使用者からの意志に基づいて仮想画像の表示又は仮想画像の表示を終了することができる。
図1は、本発明の第1の実施の形態に係る情報処理システムの構成例を示す図である。 図2は、ヘッドマウントディスプレイ装置の一例を示す外観図である。 図3は、HMD装置の制御系の一例を示す図である。 図4は、情報処理装置の制御系の一例を示すブロック図である。 図5は、ユーザ属性テーブルの一例を示す図である。 図6は、キャビネットテーブルの一例を示す図である。 図7は、キャビネット説明情報の階層構造の一例を示す図である。 図8は、仮想画像の表示例を示す図である。 図9は、仮想画像の表示例を示す図である。 図10は、仮想画像の表示例を示す図である。 図11は、第1の実施の形態に係る情報処理装置の動作の一例を示すフローチャートである。 図12は、他の仮想画像の表示例を示す図である。 図13は、本発明の第2の実施の形態に係る情報処理装置の制御系の一例を示すブロック図である。 図14は、仮想画像の表示例を示す図である。 図15は、他の仮想画像の表示例を示す図である。 図16は、ユーザ属性テーブルの変形例を示す図である。
以下、本発明の実施の形態について図面を参照して説明する。なお、各図中、実質的に同一の機能を有する構成要素については、同一の符号を付してその重複した説明を省略する。
[実施の形態の要約]
本実施の形態に係る情報処理装置は、現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置により、収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、前記位置情報に関係付けられた前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段とを備える。
「表示装置」には、使用者の頭部に装着され、使用者が公開情報を仮想空間の画像として視認すると同時に現実空間(外景)も直接視認可能な光透過方式の頭部装着型表示装置、外景を撮影した画像に公開情報を仮想空間の画像として重ねて表示する携帯型情報端末等が含まれる。光透過方式の頭部装着型表示装置は、ゴーグル型でもメガネ型でもよい。携帯型情報端末は、頭部装着型でもよい。
[第1の実施の形態]
図1は、本発明の第1の実施の形態に係る情報処理システムの構成例を示す図である。
この情報処理システム1は、ヘッドマウントディスプレイ装置(以下「HMD装置」という。)2と、HMD装置2を制御する情報処理装置3とを備える。HMD装置2と情報処理装置3とは、互いに無線によって通信可能に接続されている。図1では、HMD装置2を1つ図示しているが、複数でもよい。HMD装置2は、表示装置の一例である。
このような情報処理システム1は、例えば、オフィス、公共施設等の場所で用いられ得る。図1は、オフィスに複数のキャビネット4A、4B(これらを総称するときは「キャビネット4」ともいう。)が配置され、HMD装置2を装着した者がキャビネット4の方向を見ている状態を示す。図1では、キャビネット4を2つ図示しているが、1つでも3つ以上でもよい。キャビネット4は、収容手段の一例である。
HMD装置2は、現実空間(外景)に仮想空間の画像(以下「仮想画像」ともいう。)が重なるように表示するもの、すなわち仮想画像を仮想的に表示するものである。具体的には、HMD装置2は、使用者の頭部に装着されるものであり、使用者が仮想画像を視認すると同時に外景も直接視認可能な光透過方式の頭部装着型表示装置である。
情報処理装置3は、キャビネット4に収容されたファイル5(図4参照)をキャビネット4ごとに管理し、ファイル5に関する情報をHMD装置2の使用者に提供する。
キャビネット4は、本実施の形態では、施錠ができる扉を備えているが、扉を備えていないキャビネットでもよい。複数のキャビネット4のうち、例えば、重要な物が収容されているキャビネット4については、管理者によって予め定められた時刻(例えば、午前8時)に解錠され、予め定められた時刻(例えば、午後6時)に施錠されてもよい。なお、全てのキャビネット4を管理者によって解錠及び施錠してもよく、解錠及び施錠しなくてもよい。
ファイル5は、書類を綴じたものであり、ファイル5は、収容物の一例である。なお、収容手段に収容する収容物は、ファイル5に限られず、社内、部署又はグループ等で共通して使用するカメラ、パーソナルコンピュータ、携帯端末等の備品でもよい。
図2は、HMD装置2の一例を示す外観図である。HMD装置2は、表示部22と、外向きカメラ23Aとを備える。表示部22は、耳に装着されるフレーム220と、右側透過型ディスプレイ221a及び左側透過型ディスプレイ221b(これらを総称するときは「透過型ディスプレイ221」ともいう。)とを備える。
透過型ディスプレイ221は、例えば、透過型液晶ディスプレイ、透過型有機ELディスプレイ、透過型無機ELディスプレイ等を用いることができる。右側透過型ディスプレイ221aは、右眼用の表示画像を表示し、左側透過型ディスプレイ221bは、左眼用の表示画像を表示する。右眼用の表示画像及び左眼用の表示画像は、外景に重なって仮想画像として当該HMD装置2の使用者に視認される。
(HMD装置の構成)
図2は、HMD装置2の制御系の一例を示す図である。HMD装置2は、HMD装置2の各部を制御する制御部20と、各種の情報を記憶する記憶部21と、上記の表示部22と、上記の外向きカメラ23Aと、内向きカメラ23Bと、センサ部24と、音声入力部25と、位置検出部26と、処理部27と、無線通信部28とを備える。
制御部20は、CPU(Central Processing Unit)、インターフェース等から構成されている。CPUは、記憶部21に記憶されたプログラム210に従って動作することにより送信手段200、受信手段201、表示制御手段202等として機能する。各手段200~202の詳細は後述する。
記憶部21は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスク等から構成され、プログラム、データ等が記憶されている。
外向きカメラ23Aは、外景や当該HMD装置2の使用者の手等を撮影し、撮影した画像を制御部20に送る。内向きカメラ23Bは、当該HMD装置2の使用者の眼を撮影し、撮影した画像を制御部20に送る。外向きカメラ23A及び内向きカメラ23Bが撮影する画像は、静止画でも動画でもよい。使用者の手等を撮影してジェスチャーを検出する場合や視線を検出する場合は、動画又は1秒間に複数枚撮影する連続的な静止画が好ましい。
センサ部24は、距離画像センサと、加速度センサと、ジャイロセンサとを備える。距離画像センサは、例えば、赤外線距離センサ、レーザ距離センサ、超音波距離センサ等を用いることができる。距離画像センサは、赤外線、レーザ又は超音波等を照射し、その反射の時間差から画素ごとに距離を読み取って距離画像を得る。加速度センサは、HMD装置2に加わる加速度を検出する。ジャイロセンサは、HMD装置2に加わる角速度を検出する。
音声入力部25は、マイクロフォンで構成され、当該HMD装置2の使用者が発声した音声を電気信号である音声信号に変換して入力する。
処理部27は、外向きカメラ23A、内向きカメラ23B、センサ部24及び音声入力部25により入力された情報を処理するものであり、ジェスチャー検出部270と、視線検出部271と、音声認識部272と備える。
ジェスチャー検出部270は、当該HMD装置2の使用者の動きを示すジェスチャーを検出する。具体的には、ジェスチャー検出部270は、センサ部24の距離画像センサが検出した距離画像から、使用者の手の動き(例えば、2本指によるピンチ動作等)により予め定められた手のジェスチャーを検出する。また、ジェスチャー検出部270は、センサ部24の加速度センサが検出したHMD装置2の加速度と、ジャイロセンサが検出したHMD装置2の角速度とに基づいて、使用者の頭部の動き(例えば、左右に振る等)により予め定められた頭部のジェスチャーを検出する。ジェスチャー検出部270は、検出したジェスチャーに対応するコマンドを制御部20に送信する。
視線検出部271は、内向きカメラ23Bが使用者の眼を撮影した画像から使用者の視線方向を検出し、検出した視線方向や視線方向に対応するコマンドを制御部20に送信する。視線検出技術としては、例えば、内向きカメラ23Bに可視光カメラを用いて、目頭の位置に対する虹彩の位置に基づいて視線を検出してもよく、内向きカメラ23Bに赤外線カメラと赤外線LEDを用いて、角膜反射の位置に対する瞳孔の位置に基づいて視線方向を検出してもよい。なお、ジェスチャーの代わりに視線方向を用いてもよい。
音声認識部272は、音声入力部25が入力した音声信号をデジタルの音声データに変換し、音声データを制御部20に送信する。
無線通信部28は、例えば、Wi-Fi(Wireless Fidelity)、Wi-Fiダイレクト等の無線LANや、Bluetooth(登録商標)、赤外線通信等の近距離無線通信を用いて情報処理装置3と通信する。なお、無線通信部28は、HMD装置2同士で通信してもよい。
位置検出部26は、自装置2の位置を示す位置情報をGPS(Global Positioning System)等を用いて定期的に検出し、検出した位置情報を制御部20に送信する。なお、自装置2の位置をビーコン信号を用いて検出してもよい。すなわち、位置検出部26は、ビーコン発信機を識別するビーコンIDを含むビーコン信号を検出し、ビーコンID及びビーコン信号の強度情報を情報処理装置3に送信する。情報処理装置3は、ビーコンIDに対応するビーコン発信機の位置の情報及びビーコン信号の強度からHMD装置2の位置情報を取得する。
次に、HMD装置2の各手段200~202について説明する。
送信手段200は、外向きカメラ23Aにより撮影された画像、処理部27による処理結果(例えば、ジェスチャー検出部270が検出したジェスチャーに対応するコマンド、視線検出部271が検出した視線方向や視線方向に対応するコマンド、又は音声認識部272により認識された音声データ)、又は位置検出部26が検出した位置情報を、当該HMD装置2の使用者を識別するユーザIDとともに無線通信部28により情報処理装置3に送信する。
受信手段201は、情報処理装置3の送信手段304から送信された表示画像、及び表示画像を仮想画像として視認させるべき位置を示す位置情報を受信する。
表示制御手段202は、受信手段201が受信した表示画像及び位置情報に基づいて表示部22を制御する。すなわち、表示制御手段202は、受信手段201が受信した表示画像及び位置情報に基づいて右眼用の表示画像及び左眼用の表示画像を生成し、右眼用の表示画像を右側透過型ディスプレイ221aに表示し、左眼用の表示画像を左側透過型ディスプレイ221bに表示して位置情報に対応する位置に仮想画像が当該HMD装置2の使用者に視認されるよう制御する。
(情報処理装置の構成)
図4は、情報処理装置3の制御系の一例を示すブロック図である。情報処理装置3は、情報処理装置3の各部を制御する制御部30と、各種の情報を記憶する記憶部31と、各HMD装置2と無線通信を行う無線通信部32と、タグインターフェース33とを備える。
制御部30は、CPU(Central Processing Unit)、インターフェース等から構成されている。CPUは、プログラム310に従って動作することにより受信手段301、取得手段302、表示画像生成手段303、送信手段304、管理手段305等として機能する。表示画像生成手段303及び送信手段304は、指示手段の一例である。各手段301~305の詳細は後述する。
記憶部31は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスク等から構成され、プログラム310、ユーザ属性テーブル311(図5参照)、キャビネットテーブル312(図6参照)、地図データ313、キャビネット説明情報314等が記憶されている。なお、本明細書において、テーブルに情報を書き込む場合に記録又は登録を用い、記憶部に情報を書き込む場合に記憶を用いる。キャビネット説明情報314は、収容物に関する情報の一例である。
地図データ313は、キャビネット4が配置される、建物内又は部屋内の3次元図形と、キャビネット4を識別するキャビネットIDに紐付けられ、建物内又は部屋内に配置されたキャビネット4の3次元位置を示す位置情報とを含む。3次元図形は、HMD装置2の外向きカメラ23Aによって撮影されたキャビネット4の画像と比較されるものである。
無線通信部32は、例えば、Wi-Fi(Wireless Fidelity)、Wi-Fiダイレクト等の無線LANや、Bluetooth(登録商標)、赤外線通信等の近距離無線通信を用いてHMD装置2と通信する。
タグインターフェース33には、キャビネット4A、4Bにそれぞれ設けられたタグリーダ7A、7B(これらを総称するときは「タグリーダ7」ともいう。)が接続されている。ファイル5には、ICタグ6が設けられている。ICタグ6は、メモリにファイルを識別するファイルIDを記憶している。
(ユーザ属性テーブルの構成)
図5は、ユーザ属性テーブル311の一例を示す図である。ユーザ属性テーブル311は、ユーザIDが記録された「ユーザID」欄と、ユーザ名が記録された「ユーザ名」欄と、ユーザが所属する部署が記録された「所属部署」欄と、ユーザが正社員か派遣社員か、管理職か一般職か等の種別が記録された「ユーザ種別」欄とを有する。ユーザID、ユーザ名、所属部署及びユーザ種別は、人の属性情報の一例である。所属部署は、グループの一例である。
(キャビネットテーブルの構成)
図6は、キャビネットテーブル312の一例を示す図である。キャビネットテーブル312は、キャビネットを識別するキャビネットIDが記録される「キャビネットID」欄と、キャビネット4の位置を示す位置情報が記録される「位置情報」欄と、当該キャビネット4に収容されるファイル5を識別するファイルIDが記録される「ファイルID」欄と、ファイル名が記録される「ファイル名」欄と、ファイル5を作成した日時が記録される「作成日時」欄と、ファイル5が更新される更新日時が記録される「更新日時」欄等を有する。
(キャビネット説明情報の階層構造)
図7は、キャビネット説明情報314の階層構造の一例を示す図である。キャビネット説明情報314は、キャビネット4に収容されるファイル5の概要を説明する情報である。具体的には、キャビネット説明情報314は、階層構造の複数の情報から構成され、キャビネットIDに関係付けられて記憶部31に記憶されている。キャビネット説明情報314は、例えば、キャビネット4の管理に関する管理情報314a(図8参照)と、キャビネット4に収容されるファイル5のプロパティー情報314b(図9参照)と、プロパティー情報314bを構成する項目の詳細情報314c(図10参照)とを含む。管理情報314a、プロパティー情報314b、詳細情報314cは、それぞれ階層構造の上層、中間層、下層に位置する。詳細情報314cは、選択された情報の属性情報の一例である。
次に、情報処理装置3の各手段301~305について説明する。
受信手段301は、HMD装置2から送信されるユーザID、画像、音声データ、HMD装置2の位置情報及び各種のコマンド等を受信する。
取得手段302は、受信手段301がログインの要求を示すコマンド、HMD装置2の位置情報、キャビネット4の画像、及びユーザIDを受信すると、HMD装置2の位置情報、キャビネット4の画像及び地図データ313に基づいてキャビネット4に位置情報及びキャビネットIDを取得する。また、取得手段302は、HMD装置2の位置情報及びキャビネット4の位置情報に基づいて、HMD装置2からキャビネット4までの距離を算出する。画像に含まれているキャビネット4が複数の場合は、それぞれのキャビネット4までの距離を算出する。
なお、各キャビネット4にキャビネット4の位置情報及びキャビネットIDを暗号化したQRコード(登録商標)等のコード画像を表面に設けておき、取得手段302が、HMD装置2の外向きカメラ23Aで撮影した画像に含まれるコード画像及びキャビネットIDを復号してキャビネット4の位置情報及びキャビネットIDを取得してもよい。
表示画像生成手段303は、HMD装置2の表示部22に表示させる表示画像、例えば、HMD装置2からキャビネット4までの距離に応じたキャビネット説明情報314を含む表示画像を生成する。すなわち、表示画像生成手段303は、HMD装置2までの距離が長い方を短い方よりもキャビネット説明情報314の文字サイズを大きいサイズに変更して表示画像を生成する。文字サイズを変更しない場合には、HMD装置2からキャビネット4までの距離が長くなるに従って仮想画像として表示されるキャビネット説明情報314の文字が小さく見えるところを、本実施の形態によれば、文字を小さく見えないようにすることができる。
送信手段304は、生成された表示画像を仮想画像として表示するようにHMD装置2に指示する。具体的には、送信手段304は、表示画像生成手段303が生成した表示画像、及び表示画像を仮想画像として視認させるべき位置情報(例えば、当該キャビネット4の近傍)をHMD装置2に送信して表示画像を仮想画像としてキャビネット4の近傍に表示するよう指示をする。なお、仮想画像の位置情報は、キャビネット4の前面でもよい。
管理手段305は、ファイル5をキャビネット4から取り出し、タグリーダ7によってICタグ6から情報を読み取れなくなった場合に、ファイル5がキャビネット4から取り出されたと判断する。また、管理手段305は、ファイル5がキャビネット4に戻され、タグリーダ7によってICタグ6から情報を読み取れるようになった場合に、ファイル5がキャビネット4に戻されたと判断する。
(第1の実施の形態の動作)
次に、情報処理システム1の動作の一例について、図7~図10を参照し、図11のフローチャートに従って説明する。
(1)ログイン
例えば、HMD装置2の使用者が手を動かし、キャビネット4の撮影を指示するジェスチャー(第1のジェスチャー)を行うと、HMD装置2のジェスチャー検出部270は、センサ部24の距離画像センサが取得した距離画像から第1のジェスチャーを検出し、それに対応する第1のコマンドを制御部20に送信する。
制御部20は、ジェスチャー検出部270からの第1のコマンドに基づいて、外向きカメラ23Aを制御してキャビネット4を撮影する。制御部20は、撮影した画像を、その画像を撮影したときの位置検出部26が検出した位置情報とともに記憶部21に記憶する。
次に、HMD装置2の使用者が手を動かし、ログインを指示するジェスチャー(第2のジェスチャー)を行うと、HMD装置2のジェスチャー検出部270は、センサ部24の距画像センサが取得した距離画像から第2のジェスチャーを検出し、それに対応する第2のコマンドを制御部20に送信する。
HMD装置2の送信手段200は、ログインの要求を、画像、HMD装置2の位置情報及びHMD装置2の使用者を識別するユーザIDとともに情報処理装置3に送信する。
情報処理装置3の受信手段301は、HMD装置2から送信されたログインの要求、画像、HMD装置2の位置情報及びユーザIDを受信する(S1:Yes)。
(2)キャビネットの位置情報の取得
取得手段302は、受信手段301が受信した画像及びHMD装置2の位置情報と地図データ313とから、画像に含まれるキャビネット4の位置情報、及びキャビネットIDを取得する。また、HMD装置2の位置情報及びキャビネット4の位置情報に基づいて、HMD装置2からキャビネット4までの距離を算出する(S2)。後述する図8に示す場合は、キャビネット4Aまでの距離Lとキャビネット4Bまでの距離Lを算出する。
(3)表示画像の生成
表示画像生成手段303は、取得手段302が取得したキャビネットID、取得手段302が算出したHMD装置2からキャビネット4までの距離に基づいて、表示画像を生成する(S3)。すなわち、表示画像生成手段303は、キャビネットIDに対応するキャビネット説明情報314のうち上層の管理情報314aを記憶部31から読み出し、HMD装置2からキャビネット4までの距離に応じて文字サイズを変更して表示画像を生成する。
(4)表示画像及び位置情報の送信
送信手段304は、表示画像生成手段303が生成した表示画像、及び取得手段302が取得したキャビネット4の位置情報をHMD装置2に送信する(S4)。
HMD装置2の表示制御手段202は、表示画像及び位置情報に基づいて表示画像がキャビネット4の近傍に仮想画像として視認されるよう表示部22を制御する。
図8は、仮想画像の表示例を示す図である。図8に示す仮想画像110a、110bは、例えば、キャビネット4を使用する部署、キャビネット4に収容されているファイル5の種類、アクセスに関する情報等の管理情報314aを含む。アクセスに関する情報には、鍵の管理者、アクセス権が付与される者等が含まれる。仮想画像110a、110bは、管理情報314aを含む2次元の画像である。
具体的には、図8に示すように、HMD装置2の使用者には、HMD装置2から距離L離れた遠方のキャビネット4Aの近傍に「デザイン部のキャビネット デザイン仕様書があります。鍵は○○さんにお問い合わせください。」の管理情報314aを含む仮想画像110aが視認され、HMD装置2から距離L離れた近くのキャビネット4Bの近傍に「知財部のキャビネット 出願に関する資料があります。知財部以外の人は閲覧できません。」の管理情報314aを含む仮想画像110bが視認される。管理情報314aは、階層構造のうち上層に位置するものである。
HMD装置2からキャビネット4までの距離が長くなるに従って仮想画像として表示される管理情報314aの文字が小さく見えるところを、文字サイズを変更して小さく見えないようにすることで、文字サイズを変更しない場合と比較して管理情報314aが読み易くなる。
なお、HMD装置2の使用者が有するアクセス権に応じた仮想画像の表示を行うようにしてもよい。例えば、取得手段302が、ユーザIDに基づいて所属部署の情報をユーザ属性テーブル311から取得し、キャビネット説明情報314の管理情報314aからキャビネット4を使用する部署を取得する。HMD装置2の使用者がキャビネット4の使用する部署に属していない部外者の場合には、当該情報にアクセスするアクセス権を有していないとして、表示画像を生成しないか、仮想画像として表示しないようにしてもよい。また、部外者には、上層の管理情報314aのみを仮想画像として表示し、中間層のプロパティー情報314bや下層の詳細情報314cを仮想画像として表示しないようにしてもよい。
また、仮想画像として仮想的に表示する情報は、予め定められた時間に応じて変更してもよい。例えば、予め定められた時間(例えば、午前8時から午後6時)は、キャビネット説明情報314の全てにアクセス可能であるが、予め定められた時間以外は、部外者には、キャビネット説明情報314の全て、又はプロパティー情報314b及び詳細情報314cにアクセスできない、すなわち仮想画像として表示しないとしてもよい。
(5)操作の受付
図9に示すように、キャビネット4Aの近傍に表示されている仮想画像110aに対してHMD装置2の使用者がキャビネット4Aから離れた位置で手を動かし、中間層の表示を指示するジェスチャー(第3のジェスチャー)を行うと、HMD装置2のジェスチャー検出部270は、センサ部24の距離画像センサが取得した距離画像から第3のジェスチャーを検出し、それに対応する第3のコマンドを制御部20に送信する。
送信手段200は、ジェスチャー検出部270からの第3のコマンドをユーザIDとともに情報処理装置3に送信する。
情報処理装置3の受信手段301が、HMD装置2から送信された第3のコマンド及びユーザIDを受信すると(S5)、取得手段302は、第3のコマンドに基づいて、キャビネット説明情報314のうち中間層のプロパティー情報314bを記憶部31から取得する。
表示画像生成手段303は、取得手段302が取得したプロパティー情報314bを含む表示画像を生成する(S6)。
送信手段304は、表示画像生成手段303が生成した表示画像、及び取得手段302が取得したキャビネット4の位置情報をHMD装置2に送信する(S7)。
HMD装置2の表示制御手段202は、表示画像及び位置情報に基づいて表示画像がキャビネット4の近傍に仮想画像として視認されるよう表示部22を制御する。
図9は、仮想画像の表示例を示す図である。図9に示す仮想画像111aは、キャビネット4に収容されたファイル5のプロパティー情報314bを含む。プロパティー情報314bは、図9に示すように、例えば、収容されているファイル5のファイル名、データの形式、データ作成日時等を含む。仮想画像111aは、プロパティー情報314bを含む2次元の画像である。図9に示すように、HMD装置2の使用者は、キャビネット4Aから離れた位置から上層の管理情報314a及び中間層のプロパティー情報314bを見ることができる。
次に、図10に示すように、キャビネット4Aの近傍に表示されている仮想画像111aに対してHMD装置2の使用者が手を動かし、仮想画像111aに含まれるプロパティー情報314bに対して項目を選択するためのアイコン120の表示とアイコン120の操作を示すジェスチャー(第4のジェスチャー)を行うと、HMD装置2のジェスチャー検出部270は、センサ部24の距離画像センサが取得した距離画像から第4のジェスチャーを検出し、それに対応する第4のコマンド及び項目の位置情報を制御部20に送信する。
送信手段200は、ジェスチャー検出部270からの第4のコマンド及び項目の位置情報をユーザIDとともに情報処理装置3に送信する。
情報処理装置3の受信手段301が、HMD装置2から送信された第4のコマンド、項目の位置情報及びユーザIDを受信すると(S5)、取得手段302は、第4のコマンド及び項目の位置情報に基づいて、キャビネット説明情報314のうち下層の項目に対応する詳細情報314cを記憶部31から取得する。
表示画像生成手段303は、取得手段302が取得した詳細情報314cを含む表示画像を生成する(S6)。
送信手段304は、表示画像生成手段303が生成した表示画像、及び取得手段302が取得した項目の位置情報をHMD装置2に送信する(S7)。
HMD装置2の表示制御手段202は、表示画像及び項目の位置情報に基づいて表示画像がキャビネット4Aの近傍に仮想画像として視認されるよう表示部22を制御する。
図10は、仮想画像の表示例を示す図である。図10に示す仮想画像112a、113aは、プロパティー情報314bを構成する項目の詳細情報314cを含む。プロパティー情報314bのうち管理者の氏名(例えば、富士太郎)の項目をアイコン120で選択すると、詳細情報314c(例えば、富士太郎の連絡先の情報)を含む仮想画像112aを仮想的に表示する。プロパティー情報314bのうちグラフィックリストの項目をアイコン120で選択すると、グラフィックリストの詳細情報314c(例えば、作成日時、更新日時)を含む仮想画像113aを仮想的に表示する。詳細情報314cは、プロパティー情報314bの下層に位置している。仮想画像112a、113aは、詳細情報314cを含む2次元の画像である。アイコン120で項目を選択可能とすることで、キャビネット4Aから離れた位置からプロパティー情報314b及び詳細情報314cを見ることができる。
上記ステップS5において、予め定められた時間を経過しても操作を示すコマンドを受信しなければ(S8:Yes)、当該HMD装置2を強制的にログアウトする(S9)。なお、HMD装置2の使用者からのログアウトの要求に基づいてログアウトしてもよい。
(他の仮想画像の表示例)
図12は、他の仮想画像の表示例を示す図である。同図に示すように、HMD装置2からキャビネット4までの距離に応じて情報量の異なる仮想画像を仮想的に表示してもよい。具体的には、図12に示すように、遠方のキャビネット4Aに対しては、情報量の少ない電子看板(Digital Signage)に類似した仮想画像110aを仮想的に表示し、近くのキャビネット4Bに対しては、仮想画像110aよりも情報量の多い仮想画像111bを仮想的に表示する。仮想画像110aは、管理情報314aを含む。仮想画像111bは、プロパティー情報314bを含む。近くのキャビネット4Bに表示される仮想画像111bは、情報量が多くてもキャビネット4Bまでの距離が短いため、読み取ることができる。なお、同図に示す場合においても、表示画像生成手段303は、HMD装置2までの距離が長い方を短い方よりも文字サイズを大きいサイズに変更して表示画像を生成してもよい。
[第2の実施の形態]
図13は、本発明の第2の実施の形態に係る情報処理装置の制御系の一例を示すブロック図である。第1の実施の形態では、収容物に関する情報としてキャビネット説明情報314を仮想的に表示したが、本実施の形態は、キャビネット内部画像315を仮想的に表示するものである。以下、第1の実施の形態と異なる点を中心に説明する。
すなわち、本実施の形態に係る情報処理装置3の記憶部31には、キャビネット説明情報314の代わりにキャビネット内部画像315が記憶されている。キャビネット内部画像315は、収容物に関する情報の一例である。
表示画像生成手段303は、HMD装置2の表示部22に表示させる表示画像、例えば、HMD装置2からキャビネット4までの距離に応じたキャビネット内部画像315を含む表示画像を生成する。
キャビネット内部画像315は、キャビネット4の扉を開けたときに見える状態を画像化したものである。キャビネット内部画像315は、キャビネットIDに関係付けられて記憶部31に記憶されている。
図14は、仮想画像の表示例を示す図である。図14は、遠方のキャビネット4Aの前面に仮想画像114aを仮想的に表示し、近くのキャビネット4Bの前面に仮想画像114bを仮想的に表示している状態を示している。仮想画像114a、114bは、キャビネット内部画像315に基づいて生成された表示画像を仮想的に表示したものである。仮想画像114a、114bは、それぞれキャビネット4A、4Bの扉を開けたときに見える状態が画像化されている。すなわち、仮想画像114aは、キャビネット4Aに収容されているファイル5の背部315a及びファイル名315bを含む。仮想画像114bは、キャビネット4Bに収容されているファイル5の背部315a及びファイル名315bを含む。仮想画像114a、114bは、2次元の画像である。HMD装置2からキャビネット4までの距離が長くなるに従って仮想画像として表示されるファイル名315bの文字が小さく見えるところを、文字サイズを変更して小さく見えないようにすることで、文字サイズを変更しない場合と比較してファイル名315bが読み易くなる。
ファイル名315bの表示幅は、実物のファイル5の背幅に対応した大きさを有し、ファイル名315bの文字を表示幅に応じた大きさで表示する。なお、ファイル5の背部315a又はファイル名315bの色を、実物のファイル5がキャビネット4から取り出された回数に応じて変更してもよい。例えば、ファイル5がキャビネット4から取り出される回数が多くなるほど、明るい色、目立つ色で表示してもよい。これにより、色を変えない場合と比較して頻繁に取り出されるファイル5の場所を容易に発見することができる。また、ファイル5の背部315a又はファイル名315bの色を、実物のファイル5がキャビネット4から取り出されていることを示す色で表示してもよい。これにより、色を変えない場合と比較してファイル5がキャビネット4から取り出されていることが容易に分かる。なお、キャビネットIDとファイルIDとを関係付けて記憶しておき、ファイル5が誤ったキャビネット4に収容されようとした場合、そのことを何らかの方法、例えばファイル5の収納先が誤っていることをHMD装置2の表示部22に表示してもよい。
(他の仮想画像の表示例)
図15は、他の仮想画像の表示例を示す図である。同図は、それぞれのキャビネット4A、4Bの前面に仮想画像114a、114bを仮想的に表示している状態を示している。仮想画像114a、114bは、それぞれキャビネット4A、4Bの扉を開けたときに見える状態が画像化されている。同図は、HMD装置2の使用者から各キャビネット4A、4Bまでの距離が同じであるため、仮想画像114a、114bは同じ大きさで表示されている。
HMD装置2の使用者が図10を用いて説明したようにアイコン120を操作して仮想画像114bに含まれるファイル(例えば、背部315a)を選択した場合、当該ファイル5に関する詳細情報を仮想画像として表示してもよい。
(ユーザ属性テーブルの変形例)
図16は、ユーザ属性テーブルの変形例である。同図に示すユーザ属性テーブル311aは、図5に示すユーザ属性テーブル311に対して、特定のキャビネットへのアクセス権を有しているか否かの情報が記録される「特定のキャビネットへのアクセス権」欄を追加したものである。
この場合、図6に示すキャビネットテーブル312の「キャビネットID」欄には、通常のキャビネット4の場合は、先頭に「C」を有するIDが付与され、アクセス権を必要とする特定のキャビネット4の場合は、通常のIDの先頭に「S」が付加してもよい。これにより、キャビネットIDにより対応するキャビネット4が特定のキャビネット4であるか否かが分かる。
取得手段302は、画像に含まれているキャビネット4が特定のキャビネット4の場合は、ユーザIDに基づいて当該HMD装置2の使用者が特定のキャビネット4へのアクセス権を有しているか否かを図16に示すユーザ属性テーブル311aを参照して判断する。
表示画像生成手段303は、アクセス権の有無に応じた表示画像を生成する。アクセス権を有していない場合は、表示画像を生成しないとしてもよい。また、図15に示す場合において、HMD装置2の使用者が図10を用いて説明したようにアイコン120を操作して仮想画像114bに含まれるファイル(例えば、背部315a)を選択した場合、HMD装置2の使用者が当該キャビネット4Bに対してアクセス権を有している場合にのみ当該ファイル5に関する詳細情報を仮想画像として表示してもよい。
キャビネット4は、扉と、HMD装置2の使用者が当該キャビネット4へのアクセス権が有している場合に、扉を開錠する施錠制御手段とを備えたものでもよい。この場合、情報処理装置3の取得手段302がユーザ属性テーブル311aに基づいて当該使用者のアクセス権の有無を判断し、その判断結果を施錠制御手段に通知する。管理者の施錠の手間を省くことが可能になる。
以上、本発明の実施の形態を説明したが、本発明の実施の形態は上記実施の形態に限定されるものではなく、本発明の要旨を変更しない範囲内で種々の変形、実施が可能である。例えば、各実施の形態では、表示装置として光透過方式の頭部装着型表示装置について説明したが、本発明は、現実空間(外景)を撮影した画像に表示画像を仮想画像として重ねて表示するスマートフォン等の携帯型情報端末にも同様に適用することができる。
また、情報処理装置3が有する機能の一部をHMD装置2に移してもよく、HMD装置2が有する機能の一部を情報処理装置3に移してもよい。例えば、HMD装置2が有する音声認識機能を情報処理装置3に移し、HMD装置2から音声信号を情報処理装置3に送信し、情報処理装置3の音声認識機能により音声信号を音声データに変換してもよい。
制御部20、30の各手段は、それぞれ一部又は全部を再構成可能回路(FPGA:Field Programmable Gate Array)、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)等のハードウエア回路によって構成してもよい。
また、本発明の要旨を変更しない範囲内で、上記実施の形態の構成要素の一部を省くことや変更することが可能である。また、本発明の要旨を変更しない範囲内で、上記実施の形態のフローにおいて、ステップの追加、削除、変更、入替え等が可能である。また、上記実施の形態で用いたプログラムをCD-ROM等のコンピュータ読み取り可能な記録媒体に記録して提供することができる。また、上記実施の形態で用いたプログラムをクラウドサーバ等の外部サーバに格納しておき、ネットワークを介して利用することができる。
1…情報処理システム、2…HMD装置、3…情報処理装置、4、4A、4B…キャビネット、5…ファイル、6…ICタグ、7、7A、7B…タグリーダ、20…制御部、21…記憶部、22…表示部、23A…外向きカメラ、23B…内向きカメラ、24…センサ部、25…音声入力部、26…位置検出部、27…処理部、28…無線通信部、30…制御部、31…記憶部、32…無線通信部、33…タグインターフェース、110a、110b、111a、111b、112a、113a、114a、114b…仮想画像、120…アイコン、200…送信手段、201…受信手段、202…表示制御手段、210…プログラム、220…フレーム、221…透過型ディスプレイ、221a…右側透過型ディスプレイ、221b…左側透過型ディスプレイ、270…ジェスチャー検出部、271…視線検出部、272…音声認識部、301…受信手段、302…取得手段、303…表示画像生成手段、304…送信手段、305…管理手段、310…プログラム、311、311a…ユーザ属性テーブル、312…キャビネットテーブル、313…地図データ、314…キャビネット説明情報、314a…管理情報、314b…プロパティー情報、314c…詳細情報、315…キャビネット内部画像、315a…背部、315b…ファイル名

Claims (15)

  1. 現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置により、収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
    前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段と、を備え
    前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、
    情報処理装置。
  2. 前記取得手段は、前記表示装置と前記収容手段との間の距離を取得し、
    前記指示手段は、前記収容物に関する情報を、前記距離が長い方を短い方よりも文字サイズを大きいサイズに変更して表示するよう指示する、
    請求項1に記載の情報処理装置。
  3. 前記指示手段は、前記表示装置からの指示に基づいて、前記収容物に関する情報を変更するよう指示する、
    請求項1又は2に記載の情報処理装置。
  4. 前記指示手段は、前記表示装置からの指示に基づいて、選択された情報の属性情報を表示するよう指示する、
    請求項3に記載の情報処理装置。
  5. 前記属性情報は、前記表示装置の使用者に与えられたアクセス権によって表示が制限される、
    請求項4に記載の情報処理装置。
  6. 前記収容物に関する情報は、前記表示装置の使用者に与えられたアクセス権に応じた内容である、
    請求項1から5のいずれか1項に記載の情報処理装置。
  7. 前記収容物に関する情報は、予め定められた時間に応じて変更される、
    請求項1から6のいずれか1項に記載の情報処理装置。
  8. 前記収容物は、書類を綴じるファイルであり、
    前記収容物に関する情報は、ファイルの背部に表示するファイル名である、
    請求項1から7のいずれか1項に記載の情報処理装置。
  9. 前記ファイル名の表示幅は、実物のファイルの背幅に対応した大きさを有し、前記ファイル名の文字を表示幅に応じた大きさで表示される、
    請求項8に記載の情報処理装置。
  10. 前記ファイルの色は、前記実物のファイルが前記収容手段から取り出された回数に応じて変更される、
    請求項9に記載の情報処理装置。
  11. 前記ファイルは、前記実物のファイルが前記収容手段から取り出されていることを示す色で表示される、
    請求項9又は10に記載の情報処理装置。
  12. 前記収容手段は、扉と、前記使用者が当該収容手段へのアクセス権が有している場合に、前記扉を開錠する施錠制御手段とを備えたものである、
    請求項5又は6に記載の情報処理装置。
  13. 前記指示手段は、前記表示装置から前記収容手段を撮影した画像とともに前記表示装置からログインの要求があった場合に、前記収容物に関する情報を前記仮想空間の画像として表示するよう指示し、予め定められた時間指示がなかった場合、又はログオフの要求があった場合に、前記収容物に関する情報を前記仮想空間の画像として表示するのを終了するよう指示する、
    請求項1から12のいずれか1項に記載の情報処理装置。
  14. 現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置と、
    前記表示装置により収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
    前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段と、を備え
    前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、
    情報処理システム。
  15. コンピュータを、
    現実空間に仮想空間の画像が重なるように表示するとともに撮影機能を有する表示装置により、収容物を収容する収容手段を撮影して得られた画像から前記収容手段の位置情報を取得する取得手段と、
    前記位置情報に関係付けられて記憶された前記収容物に関する情報を前記仮想空間の画像として前記収容手段の近傍に表示するよう前記表示装置に指示する指示手段、として機能させるためのプログラムであって、
    前記収容手段と前記収容物とは関係付けられており、前記収容物に関する情報は、前記収容物が前記収容手段から取り出されている場合には、当該収容物が取り出されていることを示す情報を含む、
    プログラム。
JP2017180371A 2017-09-20 2017-09-20 情報処理装置、情報処理システム及びプログラム Active JP7013757B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017180371A JP7013757B2 (ja) 2017-09-20 2017-09-20 情報処理装置、情報処理システム及びプログラム
US15/913,123 US11010973B2 (en) 2017-09-20 2018-03-06 Information processing apparatus, information processing system, and non-transitory computer readable medium
CN201810418456.8A CN109521835B (zh) 2017-09-20 2018-05-04 信息处理设备、信息处理系统和信息处理方法
US17/232,501 US11763529B2 (en) 2017-09-20 2021-04-16 Information processing apparatus, information processing system, and non-transitory computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017180371A JP7013757B2 (ja) 2017-09-20 2017-09-20 情報処理装置、情報処理システム及びプログラム

Publications (2)

Publication Number Publication Date
JP2019057059A JP2019057059A (ja) 2019-04-11
JP7013757B2 true JP7013757B2 (ja) 2022-02-01

Family

ID=65719279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017180371A Active JP7013757B2 (ja) 2017-09-20 2017-09-20 情報処理装置、情報処理システム及びプログラム

Country Status (3)

Country Link
US (2) US11010973B2 (ja)
JP (1) JP7013757B2 (ja)
CN (1) CN109521835B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113227940A (zh) * 2018-11-09 2021-08-06 贝克曼库尔特有限公司 具有选择性数据提供的服务眼镜
CN109961045B (zh) * 2019-03-25 2021-10-22 联想(北京)有限公司 一种位置信息提示方法、装置及电子设备
WO2021020150A1 (ja) * 2019-07-26 2021-02-04 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008299760A (ja) 2007-06-01 2008-12-11 Canon Inc 画像提示装置及び方法
JP2009271732A (ja) 2008-05-07 2009-11-19 Sony Corp 情報提示装置及び情報提示方法、撮像装置、並びにコンピュータ・プログラム
JP2010076887A (ja) 2008-09-25 2010-04-08 Brother Ind Ltd 物品管理システム
JP2011227644A (ja) 2010-04-19 2011-11-10 Sony Corp 画像処理装置、画像処理方法及びプログラム
WO2014002686A1 (ja) 2012-06-29 2014-01-03 トーヨーカネツソリューションズ株式会社 物品のピッキング作業の支援装置及びシステム
WO2014128752A1 (ja) 2013-02-19 2014-08-28 株式会社ブリリアントサービス 表示制御装置、表示制御プログラム、および表示制御方法
JP2015070598A (ja) 2013-10-01 2015-04-13 共同印刷株式会社 識別コード読取システム及び方法
JP2016033757A (ja) 2014-07-31 2016-03-10 セイコーエプソン株式会社 表示装置、表示装置の制御方法、および、プログラム
JP2016081502A (ja) 2014-10-20 2016-05-16 良幸 香取 拡張現実システム
JP2016188123A (ja) 2015-03-30 2016-11-04 オークラ輸送機株式会社 ピッキングシステム
JP2016206447A (ja) 2015-04-23 2016-12-08 セイコーエプソン株式会社 頭部装着型表示装置、情報システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2017106945A (ja) 2015-12-07 2017-06-15 セイコーエプソン株式会社 頭部装着型表示装置、情報処理装置、画像表示装置、画像表示システム、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06263204A (ja) * 1993-03-10 1994-09-20 Wanbishi Aakaibuzu:Kk 物品の保管・移送用セキュリティシステム
US7116434B2 (en) * 2000-08-10 2006-10-03 Canon Kabushiki Kaisha Controlling a cluster operation
JP2004227462A (ja) 2003-01-27 2004-08-12 Apolloservice Co Ltd 文書管理装置、文書管理方法、及び文書管理プログラム
JP4266870B2 (ja) * 2003-04-07 2009-05-20 キヤノン株式会社 画像出力システム、印刷装置、撮像装置、通信装置、情報処理装置、記憶装置と及びその方法
JP2005223518A (ja) * 2004-02-04 2005-08-18 Seiko Epson Corp 画像供給装置、画像保存装置、自動保存システムおよび画像保存方法
JP4501572B2 (ja) * 2004-07-20 2010-07-14 富士ゼロックス株式会社 書類管理装置および書類管理システム
JP5488082B2 (ja) * 2010-03-17 2014-05-14 セイコーエプソン株式会社 情報認識システム及びその制御方法
JP6064464B2 (ja) * 2012-09-10 2017-01-25 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、認証システム
US20140160157A1 (en) * 2012-12-11 2014-06-12 Adam G. Poulos People-triggered holographic reminders
JP6261206B2 (ja) * 2013-06-28 2018-01-17 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
WO2015159775A1 (ja) * 2014-04-15 2015-10-22 オリンパス株式会社 画像処理装置、通信システム及び通信方法並びに撮像装置
US10225506B2 (en) * 2014-08-01 2019-03-05 Sony Corporation Information processing apparatus and information processing method
US9784976B2 (en) * 2015-02-04 2017-10-10 Seiko Epson Corporation Head mounted display, information processing apparatus, image display apparatus, image display system, method for sharing display of head mounted display, and computer program
US10650684B2 (en) * 2015-02-19 2020-05-12 Francesco Ricci Guidance system and automatic control for vehicles

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008299760A (ja) 2007-06-01 2008-12-11 Canon Inc 画像提示装置及び方法
JP2009271732A (ja) 2008-05-07 2009-11-19 Sony Corp 情報提示装置及び情報提示方法、撮像装置、並びにコンピュータ・プログラム
JP2010076887A (ja) 2008-09-25 2010-04-08 Brother Ind Ltd 物品管理システム
JP2011227644A (ja) 2010-04-19 2011-11-10 Sony Corp 画像処理装置、画像処理方法及びプログラム
WO2014002686A1 (ja) 2012-06-29 2014-01-03 トーヨーカネツソリューションズ株式会社 物品のピッキング作業の支援装置及びシステム
WO2014128752A1 (ja) 2013-02-19 2014-08-28 株式会社ブリリアントサービス 表示制御装置、表示制御プログラム、および表示制御方法
JP2015070598A (ja) 2013-10-01 2015-04-13 共同印刷株式会社 識別コード読取システム及び方法
JP2016033757A (ja) 2014-07-31 2016-03-10 セイコーエプソン株式会社 表示装置、表示装置の制御方法、および、プログラム
JP2016081502A (ja) 2014-10-20 2016-05-16 良幸 香取 拡張現実システム
JP2016188123A (ja) 2015-03-30 2016-11-04 オークラ輸送機株式会社 ピッキングシステム
JP2016206447A (ja) 2015-04-23 2016-12-08 セイコーエプソン株式会社 頭部装着型表示装置、情報システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2017106945A (ja) 2015-12-07 2017-06-15 セイコーエプソン株式会社 頭部装着型表示装置、情報処理装置、画像表示装置、画像表示システム、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム

Also Published As

Publication number Publication date
US20210233324A1 (en) 2021-07-29
JP2019057059A (ja) 2019-04-11
US11763529B2 (en) 2023-09-19
CN109521835B (zh) 2024-03-22
CN109521835A (zh) 2019-03-26
US20190088017A1 (en) 2019-03-21
US11010973B2 (en) 2021-05-18

Similar Documents

Publication Publication Date Title
US9727211B2 (en) Systems and methods for unlocking a wearable device
US11763529B2 (en) Information processing apparatus, information processing system, and non-transitory computer readable medium
CN101093542B (zh) 查询系统、成像装置、查询装置、信息处理方法
US11108990B2 (en) Information processing apparatus, information processing system, and non-transitory computer readable medium storing program
WO2016053008A1 (ko) 수하인 정보 보호를 위한 운송장 및 물류배송관리시스템, 그리고 이를 이용한 물류배송 지원 방법
US20200322506A1 (en) Image processing system, non-transitory recording medium, and image processing method
KR20160015972A (ko) 웨어러블 디바이스 및 그 제어 방법
WO2016079974A1 (en) Authentication management method, information processing apparatus, wearable device, and computer program
CN107025080A (zh) 文档处理系统和方法
JP2018097581A (ja) 情報処理装置およびプログラム
KR102243576B1 (ko) 증강현실 기반 관람 가이드 서비스 방법
US20190180042A1 (en) Image display device, image display control device, and image display control method
JP6214082B2 (ja) 情報処理装置、情報処理方法、プログラム、管理システム、及び管理方法
JP6450890B2 (ja) 画像提供システム、画像提供方法、およびプログラム
JP2016038682A (ja) 情報処理装置及びその制御方法、サーバ装置及びその制御方法、コンピュータプログラム
US20150169568A1 (en) Method and apparatus for enabling digital memory walls
KR101596760B1 (ko) 글래스 타입의 이동 단말기, 이를 이용한 차량 트렁크 잠금장치 해제 방법 및 차량 트렁크 잠금장치 해제 시스템
CN109672798A (zh) 信息处理装置以及存储媒体
WO2022074815A1 (ja) 携帯端末とヘッドマウントディスプレイ及びその連携表示システム
US20220397957A1 (en) Information processing apparatus and non-transitory computer readable medium storing information processing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220103