JP2014215723A - 情報処理装置およびその制御方法 - Google Patents
情報処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2014215723A JP2014215723A JP2013090789A JP2013090789A JP2014215723A JP 2014215723 A JP2014215723 A JP 2014215723A JP 2013090789 A JP2013090789 A JP 2013090789A JP 2013090789 A JP2013090789 A JP 2013090789A JP 2014215723 A JP2014215723 A JP 2014215723A
- Authority
- JP
- Japan
- Prior art keywords
- electronic data
- user
- target object
- state information
- editing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
【課題】繁雑な操作なしに、電子データに対するアクセス権を設定可能とする。【解決手段】第1のユーザが編集権限を有する第1の電子データと第2のユーザが編集権限を有する第2の電子データと、を管理する情報処理装置において、第1のユーザに関連付けられた第1のユーザ装置から、第1の電子データと第2の電子データとに対する一括編集要求を受信し、第1のユーザ装置から、第1の電子データに基づき印刷された第1の対象オブジェクトと第2の電子データに基づき印刷された第2の対象オブジェクトとの配置関係を示す第1の対象状態情報を受信し、第2のユーザに関連付けられた第2のユーザ装置から、第1の対象オブジェクトと第2の対象オブジェクトとの配置関係を示す第2の対象状態情報を受信する。第1の対象状態情報と第2の対象状態情報を比較し一致すると判定された場合に、一括編集要求に基づく編集を許可する。【選択図】図9
Description
本発明は、拡張現実表示を用いた電子データの管理、特に電子データに対するアクセス権の制御技術に関するものである。
近年、カメラとディスプレイが一体化されたタブレットや携帯端末機器が一般化し、撮影した現実の画像に対しリアルタイムで関連情報を重畳して表示する拡張現実(AR:Augmented Reality)表示が提供されるようになっている。たとえば、特許文献1には、実世界にあるドキュメントを撮影することにより、当該ドキュメントに対応する電子データをサーバー等から検索する技術が開示されている。また、特許文献2には、RFIDタグが貼られた紙文書や電子ペーパを所定の作業空間に持ちこむことで、当該紙文書や電子ペーパに対応する電子データを共同作業の対象データとする共同作業空間を自動的に形成する技術が開示されている。
しかしながら、機器で紙文書を撮影し、当該紙文書に対応する電子データを変更する為には、機器のユーザに対して当該電子データへの書き込みが許可されなければならない。つまり、サーバー等において電子データをアクセス権を設定して管理している環境においては、電子データを編集するにあたって当該電子データに対するアクセス権を編集作業者に合わせて設定する必要があった。特に、複数の紙文書のそれぞれに対応する複数の電子データのアクセス権を設定するためには煩雑な操作が必要となっていた。また、RFIDタグ付きの紙を用いることはコスト高となり一般的では無いという問題もある。
本発明は上述の問題点に鑑みなされたものであり、サーバー等で管理される電子データに対するアクセス権を好適に設定可能とする技術を提供することを目的とする。
上述の問題点を解決するため、本発明に係る情報処理装置は以下の構成を備える。すなわち、第1のユーザが編集権限を有する第1の電子データと、前記第1のユーザが編集権限を有さず第2のユーザが編集権限を有する第2の電子データと、を管理する情報処理装置において、前記第1のユーザに関連付けられた第1のユーザ装置から、前記第1の電子データと前記第2の電子データとに対する一括編集要求を受信する要求受信手段と、前記第1のユーザ装置から、前記第1の電子データに基づき印刷された第1の対象オブジェクトと前記第2の電子データに基づき印刷された第2の対象オブジェクトとの配置関係を示す第1の対象状態情報を受信し、前記第2のユーザに関連付けられた第2のユーザ装置から、前記第1の対象オブジェクトと前記第2の対象オブジェクトとの配置関係を示す第2の対象状態情報を受信する、対象状態情報受信手段と、前記第1の対象状態情報と前記第2の対象状態情報とが一致するか否かを判定する判定手段と、前記判定手段により前記第1の対象状態情報と前記第2の対象状態情報とが一致すると判定された場合に、前記一括編集要求に基づく前記第1の電子データ及び前記第2の電子データへの編集を許可するアクセス制御手段と、を有する。
本発明によれば、サーバー等で管理される電子データに対するアクセス権を好適に設定可能とする技術を提供することができる。
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
(第1実施形態)
本発明に係る情報処理装置の第1実施形態として、ユーザ装置からの電子データのアクセスを受け付けるサーバーを例に挙げて以下に説明する。
本発明に係る情報処理装置の第1実施形態として、ユーザ装置からの電子データのアクセスを受け付けるサーバーを例に挙げて以下に説明する。
<1.システム構成>
図1は、第1実施形態に係る情報処理装置であるサーバーを含む情報処理システムの全体構成を示す図である。AR装置101およびAR装置102は、拡張現実(AR)表示が可能なユーザ装置である。拡張現実表示とは、実世界を撮像した撮像画像内に含まれるオブジェクトに対し、当該オブジェクトに関連する付加情報を重畳表示して、あたかも実世界に付加情報が存在しているように見せる表示を意味する。
図1は、第1実施形態に係る情報処理装置であるサーバーを含む情報処理システムの全体構成を示す図である。AR装置101およびAR装置102は、拡張現実(AR)表示が可能なユーザ装置である。拡張現実表示とは、実世界を撮像した撮像画像内に含まれるオブジェクトに対し、当該オブジェクトに関連する付加情報を重畳表示して、あたかも実世界に付加情報が存在しているように見せる表示を意味する。
AR装置101はユーザ「A」(第1のユーザ)の所有物であり、AR装置102はユーザ「B」(第2のユーザ)の所有物であるとする。AR装置101およびAR装置102は、それぞれ、有線や無線のネットワーク103を介してサーバー104に接続されている。サーバー104は、電子データを格納するストレージ105と接続されており、ストレージ105に格納された電子データを管理するよう構成されている。プリンタ106は、ネットワークに接続された出力装置である。なお、以降の説明では、所有者の異なる2つのAR装置の何れにも共通の説明をする場合は、単にAR装置と表記するか、あるいは代表してAR装置101と示す。
図2は、ユーザが所有するAR装置及びサーバーの内部構成を示す図である。図2(a)は、AR装置101の内部構成を示し、図2(b)は、サーバー104の内部構成を示している。
撮像部201は、CCDカメラ等、実世界を撮影し動画像あるいは静止画像を生成する機能部である。表示部202は、液晶ディスプレイ等により構成され、撮影により得られた画像を表示する。なお、表示部202は、画像に対し付加情報を併せて表示可能に構成されている。入力部203は、タッチパネルやボタンなど、ユーザからの操作入力を受け付ける機能部である。通信部204は、無線や有線ネットワークを通じてと外部の装置(サーバーや他のAR装置など)との通信をおこなう機能部である。制御部205は、AR装置101の各部の制御をおこなう機能部であり、例えば、CPUやGPUなどが制御プログラムを実行することにより実現される。また、制御部205は、例えば、撮像部201で撮像された画像に対し、当該画像に関連する情報を付加画像として重畳表示する拡張現実表示の制御も行う。
認証部206は、サーバー104との通信時に、AR装置と当該AR装置の所有者を示すユーザIDとを関連付けるための認証情報を含む。例えば、AR装置101の認証部206は、所有者が「A」であることを保証する為の認証情報を、AR装置102の認証部206は、所有者が「B」であることを保証する為の認証情報を含む。認証部206における認証処理のためのアルゴリズムとしては、公知の任意の認証アルゴリズムが利用可能である。たとえば、アカウント・パスワード認証や、ユーザの顔を撮像することによる顔認証を用いることができる。あるいは、認証部206を、指紋リーダーなど生体認証装置(不図示)を利用して生体認証を行うよう構成しても良い。
AR装置101は、常時あるいは必要時にサーバー104と通信するよう構成されている。また、AR装置101は、撮像部201により得られる撮影画像内に、ストレージ105に格納された電子データと関係がある対象オブジェクトがある場合、当該対象オブジェクトに対し拡張現実表示を行う。
通信部211は、無線や有線ネットワークを通じてと外部の装置(AR装置など)との通信をおこなう機能部である。入力部212は、キーボードやマウスなど、ユーザからの操作入力を受け付ける機能部である。制御部213は、サーバー104の各部の制御をおこなう機能部であり、例えば、CPUやGPUなどが制御プログラムを実行することにより実現される。また、制御部213は、ストレージ105に格納された電子データを管理する機能部であり、例えば、AR装置101から受信した電子データに対する取得要求や編集要求に対する制御を行う。当該制御の詳細については後述する。ストレージIF部214は、ストレージ105と接続するためのインタフェースである。
図3は、AR装置の外観を例示的に示す図である。カメラ301は撮像部201、ディスプレイ302は表示部202、ボタン303は入力部203に対応する。また、ディスプレイ302自体も、入力部203に相当するタッチパネル機能を有している。
なお、図3に示す外観はあくまで一例であり、別の外観を持っていてもよい。たとえば、液晶ディスプレイの代わりに、眼鏡やゴーグル形状の外観を有し網膜投影をおこなうAR装置であってもよい。その場合、入力部203として、例えば、撮像部201により得られる画像に基づき操作者のジェスチャーを検出し入力するジェスチャー入力を行うよう構成すると良い。
<1.1.拡張現実表示の例>
図12は、AR装置における拡張現実表示を説明する図である。ここでは、拡張現実表示は、撮像画像内の媒体画像に対して、当該媒体に関連付けられた電子データに基づく情報を、人間にとって理解容易な形式で重畳表示するものである。具体的には、当該媒体に関連付けられた電子データの内容の一部または全部が文字、記号、図、表などの表現により重畳表示される。
図12は、AR装置における拡張現実表示を説明する図である。ここでは、拡張現実表示は、撮像画像内の媒体画像に対して、当該媒体に関連付けられた電子データに基づく情報を、人間にとって理解容易な形式で重畳表示するものである。具体的には、当該媒体に関連付けられた電子データの内容の一部または全部が文字、記号、図、表などの表現により重畳表示される。
カメラ301により撮影される媒体の典型例は用紙などの紙媒体である。例えば、図12(a)に示す対象オブジェクト1201(第1の対象オブジェクト)は、ユーザ「A」のスケジュールの電子データを元にしてプリンタ106により用紙に印刷されたもの(つまり、紙のスケジュール表)である。ただし、これはあくまで一例であり、他の種類のデータを元にして印刷されたものであってよい。また、カメラ301により撮影される媒体は紙媒体である必要は無く、カメラ301により撮影可能な任意の媒体が利用可能である。例えば、布などの印刷媒体であったり、または電子ペーパーやタブレットなどにより電子的に表示されるものであってもよい。
対象オブジェクト1201には、対応する電子データ1211(第1の電子データ)との対応関係を示すため、IDマーク1202(第1のID情報、第1のコード画像)が付与されている。IDマーク1202は、たとえば1次元コード(バーコード)画像や2次元コード画像として印刷され、AR装置がその内容を解釈し関連する電子データを取得する為に利用される。
IDマーク1202には、例えば、対象オブジェクト1201に対応する電子データ1211を一意に特定可能なID情報が含まれる。ID情報としては、例えば、印刷時に発行されるユニークID情報、あるいは、電子データ1211のネットワーク内での論理的位置(パス)情報などが利用可能である。
また、AR装置による検出の補助を目的として、太枠で囲まれるようにIDマークを印刷してもよい。この場合、公知のエッジ検出技術を用いれば、画像内に存在する一定太さ以上の二重枠を検出し、内部のIDマークの画像を特定することが可能となる。更に、IDマークの向きが特定できるよう、4辺の枠の太さや形状を替えて印刷してもよい。これらはあくまで一例であって、もちろんマーク検出のために他の検出技術を用いてもよい。
なお、ID情報を、背景地紋パターン画像や、公知の電子すかし技術による情報埋め込み画像として対象オブジェクト1201に付与するよう構成しても良い。なお、関連づけはそれ以外の方法、たとえば対象オブジェクト全体や一部を撮影したときの画像から得られる特徴量の一致度によっておこなってもよい。
図12(b)は、対象オブジェクト1201に対応する電子データ1211の例である。電子データ1211は、ストレージ105に保管されており、AR装置101からサーバー104を通してアクセス可能であるとする。なお、ここではXML形式で記述された電子データ1211の例を示しているが、データ形式は任意に選択可能である。
電子データ1211において、記述1212は、電子データ1211の所有者を示す情報である。前述のIDマーク1202は、この所有者のユーザID情報を更に含んでいてもよい。記述1213は、電子データ1211のアクセス権を示す情報である。ここで、アクセス権とは、当該電子データの読み出しや書き込み(削除、追加、変更)の可否を示す権限を意味している。
なお、第1実施形態では、各電子データに対し、読み出し権限はサーバー104にアクセス可能なユーザ全員に付与され、書き込み権限(編集権限)は当該データの所有者のみに付与されていることを想定する。つまり、ここでは、電子データ1211は全ユーザ(all)に対し読み出しが許可されている。一方、書き込みはユーザ「A」に対してのみ許可されている。サーバー104はこの記述1213に従って、AR装置からの電子データ1211へのアクセスを制御する。
サーバー104は、AR装置が有する認証情報に基づいてアクセス制御を行う。つまり、図2で説明したとおり、AR装置は当該AR装置の所有者に関する認証情報を有しているため、当該認証情報を利用して所有者を特定するのである。記述1213に従い、サーバー104は、電子データ1211に対する読み出し依頼に関しては、すべてのAR装置に対し許可する。一方、削除、追加、変更といった書き込みを伴う編集依頼に関しては、所有者が「A」である認証情報を有するAR装置101からのみ許可する。なお、記述1213によるアクセス権設定はあくまで一例であり、例えば、ストレージ105に設けられたデータファイル毎のアクセス権設定部により、同様の制御がおこなわれるようにしてもよい。
ここでは、対象オブジェクト1201は、電子データ1211に記述された日付、時間ごとの予定エントリを表形式で用紙に印刷したスケジュール表である。なお、対象オブジェクト1201には、電子データ1211の内容のすべてが印刷されるとは限らない。たとえば、対象オブジェクト1201では、エントリ記述1214のうち、用紙でのスペースの問題などから、セル1203には、「名称(name)」の文字データである「zzz」のみが印刷されている。記述1214に記載された「名称」以外の内容は、用紙には印刷されておらず、例えば、以降で説明する拡張現実表示に使用される。
図12(c)は、AR装置による拡張現実表示の例を示す図である。付加情報1222は、拡張現実表示における付加情報の一例であり、スケジュール表の該当セルの詳細内容を重畳表示している。なお、付加情報1222は、ユーザがAR装置101のディスプレイ302において所定の指示動作(例えば、当該セルをタッチ)をした際に表示するよう構成しても良い。付加情報1223は、空白セルに対し太枠表示を重畳し、ユーザに新たな予定が入力可能であることを強調している。
ところで、これらの拡張現実表示をおこなう際、AR装置は、撮影画像(第1の撮影画像、第2の撮影画像)内の対象オブジェクトに対し、電子データに含まれる情報を適切に重畳表示するため、位置座標を計算する必要がある。その計算に利用するため、電子データ1211の各エントリには、対象オブジェクト1201における座標範囲が各々記述されているとする。
AR装置が、実世界の矩形形状の対象オブジェクト1201に正対している状態で撮影を行う場合、撮影画像内の対象オブジェクトは実世界の対象オブジェクトと相似する矩形画像として得られる。この場合、撮影画像から紙の4辺にあたる直線をエッジ抽出やハフ変換で検出する技術は公知であり、これにより長方形の大きさと回転角度を得ることができる。また回転の向きは4辺とIDマークの位置関係から得られる。これらの情報を用いることにより、実世界の対象オブジェクト1201における座標範囲に対応する撮影画像における座標範囲を適切に求めることが出来る。
一方、AR装置が、実世界の矩形形状の対象オブジェクトに正対していない状態で撮影する場合、例えば、対象オブジェクトは不等四辺形の輪郭形状を有する画像として得られる。この場合は、例えば、特開2008−288588に開示されるような透視歪検出処理を用いると良い。用紙の4辺が成す不等四辺形に対し当該処理を施すことで、実世界の対象オブジェクトと相似な矩形形状の補正画像(第1の補正画像、第2の補正画像)に変換することができる。この逆変換のパラメーターを用いれば、実世界の対象オブジェクト1201における座標範囲に対応する撮影画像における座標範囲を適切に求めることが出来る。
また、表示されている付加情報内容の削除、追加、変更といった編集指示部をユーザに提供する拡張現実表示をすることも可能である。たとえば、ユーザが付加情報1222内の「[delete]?」の部分をタッチすると、AR装置101は付加情報1222に対応するセルの内容(スケジュール)の削除の指示と解釈する。その結果、AR装置101はサーバー104に対応する電子データの該当スケジュールデータ部分の削除を要求する。また、ディスプレイ302に表示された対象オブジェクト画像1221に対し、スタイラスペンなどを用いて線1224を書き込むことで削除を指示するようにしてもよい。
追加あるいは変更の指示は、例えば、ディスプレイ302に文字入力可能なソフトウェアキーボード等を表示し、付加情報1222内の文字を編集できるようにすればよい。あるいは、付加情報1225のように手書き入力エリアを表示し、ユーザから指示入力されたストロークに対し公知の文字認識技術を適用して文字入力を行うよう構成しても良い。
また、編集された電子データに基づくスケジュール表をプリンタ106により印刷するため、付加情報としてボタン1226を表示するよう構成しても良い。
なお、前述のとおり、電子データ1211においては、書き込みはユーザ「A」のみに許可されている(アクセス権記述1213)。したがって、サーバー104は、電子データ1211に対する編集依頼に対しては、所有者が「A」であるAR装置101からの依頼のみを許可する。すなわち、AR装置102等、「A」以外の所有者のAR装置からの依頼は許可しない。
一方、電子データ1211においては、読み出しはすべてのユーザに対し許可されている(アクセス権記述1213)。したがって、サーバー104は、電子データ1211に対する読み出し依頼に対しては、すべてのAR装置からの依頼を受けつける。
そのため、AR装置102における拡張現実表示と、上述のAR装置101における拡張現実表示とは異なることになる。つまり、AR装置102においては、対象オブジェクト1201を撮影した場合、編集を伴わないような拡張現実表示のみがおこなわれる。たとえば、スケジュールの詳細を表示する付加情報1222においては、削除指示「[delete]?」は表示されない。
なお、AR装置101が対象オブジェクト1201を撮影している状況で、ユーザが実世界の対象オブジェクト1201上にペン等で書きこむことにより、対応する電子データ1211に対する編集の指示を行うよう構成しても良い。このとき、AR装置101は、用紙に書き込まれた文字を撮影画像から抽出し、更に文字認識をおこなうことで入力する文字を検出すればよい。更に、実世界の対象オブジェクト1201に、削除や選択などを指示する為のボタンを予め配置しておき、指示具(ユーザの指やペン)が当該ボタンに触れたことで削除や選択の指示を生成してもよい。また、実世界の対象オブジェクト1201上で、指示具を左右に動かす等のジェスチャー操作を行うことにより削除や選択の指示を生成してもよい。
<1.2.複数の対象オブジェクトが重ねられている場合の拡張現実表示と編集>
図13は、AR装置により複数の電子データに基づく拡張現実表示を説明する図である。具体的には、対象オブジェクト1201が、別の対象オブジェクト1301の上に重ねられている状態の例である。対象オブジェクト1301(第2の対象オブジェクト)は、スケジュールの電子データ1311(第2の電子データ)を元に印刷された紙である。ここで、所有者を示す記述1312は、電子データ1311の所有者がユーザ「B」であることを示している。すなわち、電子データ1211の所有者と電子データ1311の所有者とは異なる。
図13は、AR装置により複数の電子データに基づく拡張現実表示を説明する図である。具体的には、対象オブジェクト1201が、別の対象オブジェクト1301の上に重ねられている状態の例である。対象オブジェクト1301(第2の対象オブジェクト)は、スケジュールの電子データ1311(第2の電子データ)を元に印刷された紙である。ここで、所有者を示す記述1312は、電子データ1311の所有者がユーザ「B」であることを示している。すなわち、電子データ1211の所有者と電子データ1311の所有者とは異なる。
ここでは、説明を簡単にするため、所有者の異なる2つの対象オブジェクトが、同じ向きかつそれぞれのIDマークが識別可能となるように重ねられているものとする。
記述1313は、電子データ1311に対するアクセス権を示している。ここでは、電子データ1311は全ユーザ(all)に対し読み出しが許可されている。一方、書き込みはユーザ「B」に対してのみ許可されている。サーバー104はこの記述1313に従って、AR装置からの電子データ1311へのアクセスを制御する。IDマーク1302(第2のID情報、第2のコード画像)は、IDマーク1202と同様に、対応する電子データ1311を一意に特定するためのID情報を含むものとする。
図13(c)は、対象オブジェクト1201および対象オブジェクト1301が重ねられた状態を、AR装置101により拡張現実表示した例である。ここでは、同種(ここでは、スケジュール表)で2つの対象オブジェクトが重ねられている場合、2つのスケジュール表をマージした拡張現実表示をおこなう。
たとえば、付加情報1321は、対象オブジェクト1201のタイトル部分「A’s schedule」を覆うように「A&B SCHEDULE」という重畳表示をおこなっている。付加情報1322は、ユーザA、B両者に空き時間となっているスケジュール部分を強調するための太枠の重畳表示である。一方、Aのスケジュールは空いているが、Bのスケジュールのみが入っている時間には、付加情報1323のように、背景をグレイにしてBのスケジュール内容が見えるような表示をおこなっている。また、スケジュール詳細の付加情報1324には、AのデータとBのデータが併記されている。すなわち、対象オブジェクト1201および対象オブジェクト1301に対応する、電子データ1211および電子データ1311の双方に基づいて、上述の表示を実現している。
ところで、AR装置101は、図13(c)に示す拡張現実表示に対しても、図12を参照して説明したような編集指示をおこなうことができる。たとえば、両者の空き時間に対し新規入力を促す付加情報1325に対して、新規スケジュール内容となる文字データをユーザは手書き入力できる。また、付加情報1324上のスケジュール詳細データをソフトキーボード等で変更指示したり、線1326を書き込むことで削除を指示することができる。更に、実世界の対象オブジェクト1201である紙に直接書き込むことにより各種編集指示を解釈してもよい。
なお、拡張現実表示1320に対する編集指示は、重ねられた対象オブジェクト1201と対象オブジェクト1301の一括編集とAR装置101により認識される。つまり、ここでは、重なり合った2つの対象オブジェクトを同時撮影した拡張現実表示に対する編集操作は、各対象オブジェクトに関連づけられた2つの電子データを一括編集する操作と解釈される。すなわち、ここでは、AR装置101は、電子データ1211と電子データ1311の対応部分を一括編集する指示と認識する。たとえば、付加情報1325における文字列入力は、両方とも内容が空であるエントリ記述1215とエントリ記述1315に対し、入力文字列を内容データとして追加する編集指示として認識される。
ところで、AR装置101は、一括編集指示として認識した電子データ1211および電子データ1311両方の対応エントリへの変更要求をサーバー104に送信する。しかしながら、前述のとおり2つの電子データは書き込みに対し異なるアクセス制限を有する。具体的には、ユーザ「A」が所有するAR装置101が一括編集要求を行った場合、サーバー104は、電子データ1211への変更のみ許可する。すなわち、サーバー104は、電子データ1311に対する変更は許可されないことになる。この問題に対処する方法について、以下で詳細に説明する方法により電子データに対するアクセス権の変更制御をおこなう。
<2.AR装置の動作>
図4は、AR装置の動作モードの遷移を示す図である。まず、初期状態401から、ユーザによるボタン303やディスプレイ302のタッチパネル操作をトリガに動作開始を指示することで、AR装置は検知モード402に遷移する。動作モードの詳細については後述する。検知モード402では、撮影により得られた撮影画像の状態に基づいて、単独編集モード403、一括編集モード404、一括編集監視モード405のいずれかに遷移する。モード403〜405の何れも、ユーザの終了指示、もしくは撮影画像の状態変化に基づいて、終了状態406に遷移する。なお、終了状態406から自動的に初期状態401に戻るように構成してもよい。
図4は、AR装置の動作モードの遷移を示す図である。まず、初期状態401から、ユーザによるボタン303やディスプレイ302のタッチパネル操作をトリガに動作開始を指示することで、AR装置は検知モード402に遷移する。動作モードの詳細については後述する。検知モード402では、撮影により得られた撮影画像の状態に基づいて、単独編集モード403、一括編集モード404、一括編集監視モード405のいずれかに遷移する。モード403〜405の何れも、ユーザの終了指示、もしくは撮影画像の状態変化に基づいて、終了状態406に遷移する。なお、終了状態406から自動的に初期状態401に戻るように構成してもよい。
<2.1.検知モードの動作>
検知モード402の処理について以下に説明する。検知モード402とは、AR装置が、撮影によって得られる撮影画像に基づいて、次の動作モードを判断するためのモードである。具体的には、撮影画像に基づいて拡張現実表示の対象となる1以上の対象オブジェクトを検知し、検知結果に基づいて次の動作モードを判断する。ここでは、AR装置101、AR装置102の両方とも、動作開始後、初期状態401から自動的に検知モード402に移行するものとする。
検知モード402の処理について以下に説明する。検知モード402とは、AR装置が、撮影によって得られる撮影画像に基づいて、次の動作モードを判断するためのモードである。具体的には、撮影画像に基づいて拡張現実表示の対象となる1以上の対象オブジェクトを検知し、検知結果に基づいて次の動作モードを判断する。ここでは、AR装置101、AR装置102の両方とも、動作開始後、初期状態401から自動的に検知モード402に移行するものとする。
図5は、検知モードにおけるAR装置の動作を説明するフローチャートである。まず、ステップS501では、AR装置は、撮像部201による撮影を開始する。
ステップS502では、AR装置の制御部205は、撮像部201より得られた撮影画像を解析し、撮影画像内における対象オブジェクトを検出する。対象オブジェクトの検出は、例えば、IDマークを検出することにより実現される。そして、撮影画像における対象オブジェクトの状態を示す情報(以下、対象状態情報と呼ぶ)を生成する。
対象状態情報には、例えば、撮影画像に含まれる対象オブジェクトの内容、個数および物理的な配置状態に関する情報が含まれる。ここでは、対象オブジェクト毎に異なるIDマークが付与されていることを前提とし、対象状態情報には、撮影画像内から検出されたIDマークの内容、および個数が含まれるとする。また、検出されたIDマークが複数の場合、対象状態情報は、対応する複数の対象オブジェクト間の位置関係の情報も含む。以降、説明を簡単にするために、想定する対象オブジェクトの状態として、図12(a)のように対象オブジェクトが単一である場合と、図13(a)のよう2つの対象オブジェクトが重ねられている場合の2つのパターンに分類する。
例えば、図12に対応する状況においては、撮影画像内から1つのIDマークが検出される。図13に対応する状況においては、撮影画像内から2つのIDマークが検出される。後者の場合は、2つのIDマークの位置関係を併せて検出する。
ステップS503では、AR装置の制御部205は、ステップS502で生成された対象状態情報から、それぞれの対象オブジェクトの所有者を確認する。そして、AR装置自身の所有者と一致する対象オブジェクトが存在するか否かを判定する。
所有者が一致していることの判断は、例えば、AR装置の認証部206に保持されているユーザID情報と、対象オブジェクトに対応する電子データ所有者のユーザID情報の比較によりおこなう。図12において例示したように、IDマークに電子データの所有者のユーザID情報が含まれている場合は、当該ユーザID情報を比較の対象とするとよい。一方、IDマークに電子データの参照先情報は含まれているが所有者のユーザID情報が含まれていない場合は、サーバー104に問い合わせるよう構成すると良い。例えば、サーバー104から対応する電子データを読み出して、その内容から所有者を確認するようにすればよい。なお、サーバー104に対応する電子データの所有者の情報のみを取得しても良い。
所有者が一致する対象オブジェクトが存在する場合、拡張現実表示の対象となる対象オブジェクトが存在すると判定し、ステップS504へ進む。存在しない場合は、拡張現実表示の対象となる対象オブジェクトが存在しないと判定し、ステップS501に戻る。この場合、拡張現実表示の対象となる対象オブジェクトが撮影範囲に含まれるまで、ステップS501〜S503の処理を繰り返して実行することになる。
具体的には、AR装置101は、図12(a)及び図13(a)に示す状態の両方において、撮影画像には「A」が所有する対象オブジェクト1201が含まれるので、ステップS504に進む。一方、AR装置102は、図12(a)に示す状態の場合、撮影画像に「B」が所有する対象オブジェクトが含まれないのでステップS501に戻る。一方、AR装置102は、図13(a)に示す状態の場合、撮影画像に「B」が所有する対象オブジェクト1301が含まれるので、ステップS504に進む。
ステップS504では、AR装置の制御部205は、撮影画像から、AR装置自身の所有者とは異なる所有者を持つ対象オブジェクトが存在するか否かを調べる。存在する場合はステップS505に進む。一方、存在しない場合は、AR装置の動作モードは単独編集モード403へと遷移する。
具体的には、S504において、図12(a)に示す状態の場合、AR装置101は、自身が所有する対象オブジェクトが1つあるのみなので、単独編集モードに遷移する。一方、図13(a)に示す状態の場合、AR装置101は、別の所有者「B」の保有する対象オブジェクト1301が存在するのでステップS505へ進む。また、図13(a)に示す状態の場合、AR装置102は、別の所有者「A」の所有する対象オブジェクト1201が含まれるのでステップS505に進む。
ステップS505では、AR装置の制御部205は、対象状態情報から、検出された複数の対象オブジェクトの配置関係が所定の配置関係にあるか否かを判定する。ここでは、複数の対象オブジェクトが重なっているか否かの判定をおこなう。重なっている場合、ステップS506に進む。重なっていない場合、AR装置自身の所有者と一致する対象オブジェクトを対象として単独編集モードに遷移する。なお、2つの対象オブジェクトが重なっていない場合、ステップS501に戻るようにしてもよい。
重なりがあるか否かの判定は、たとえば以下のようにおこなうことができる。たとえば、IDマークが必ず紙の左上の定位置に印刷されているという仮定の元で、抽出された複数のIDマークが、同じ向きかつ所定閾値内の距離で配置されている場合に重なり有りと判定することができる。
さらに、前述の公知技術により撮影画像から用紙の4辺を検出し、注目するIDマークを囲む用紙の4辺とIDマークとの位置関係を解釈してもよい。2つの用紙が重ねられている場合、上になっている紙については4辺を好適に検出することが出来るが、下になっている紙は隠れている最低2辺が部分的にしか検出されない。この結果、重なりが有るか否かを判定可能となると共に、重なりの上下関係を判定することもできる。
あるいは、抽出された複数のIDマークに対応する電子データをサーバーから取得し、当該電子データに基づき対象オブジェクトの大きさを推定し、重なり判定を行っても良い。この場合、撮影画像に含まれるIDマークの大きさおよび位置を規準として適切に回転・拡大縮小し、対象オブジェクトの大きさを推定するとよい。さらに、より簡易に重なり判定をおこなうために、用紙の4辺に特殊な基準マークを予め印刷しておき、当該基準マークを重なり判定の補助に利用しても良い。
ステップS506では、AR装置の制御部205は、AR装置自身の所有者と一致するユーザIDを持つ対象オブジェクトが、上に重ねられているか否かを判定する。上に重ねられていると判定された場合、AR装置の動作は一括編集モード404へと遷移する。それ以外の場合、一括編集監視モード405へと遷移する。
具体的には、図13(a)に示す状態の場合、AR装置101は、ユーザ「A」の所有する対象オブジェクト1201が上に重ねられているため、一括編集モード404へと遷移する。一方、AR装置102は、ユーザ「B」の所有する対象オブジェクト1301は下に重ねられているため、一括編集監視モード405へと遷移する。
<2.2.単独編集モードの動作>
図6は、単独編集モードにおけるAR装置の動作を説明するフローチャートである。
図6は、単独編集モードにおけるAR装置の動作を説明するフローチャートである。
単独編集モードとは、AR装置が検知した対象オブジェクトが1つである場合に、AR装置が当該1つの対象オブジェクトに関して拡張現実表示を行い、ユーザによる編集指示の入力をおこなうモードである。
なお、単独編集モードの動作において、AR装置と対象オブジェクトに対応する電子データの所有者が一致していることは、前述の検知モードにおける遷移条件から確定している。すなわち、ユーザ「A」が所有する対象オブジェクト1201を対象として、AR装置101が動作する場合について説明する。なお、ユーザ「B」が所有する対象オブジェクト1301のみを対象として、AR装置102が動作する場合も同様である。
ステップS601では、AR装置101は、対象オブジェクト1201に付与されたIDマークから、対象オブジェクト1201に対応する電子データの取得要求をサーバー104に対しておこなう。ここでは、ユーザ「A」のAR装置101で、対象オブジェクト1201を検知した場合として、サーバー104に電子データ1211の取得を要求する。なお、サーバー104側の動作については後述する。
ステップS602では、AR装置101は、ステップS601での取得を要求した電子データをサーバー104から取得できた場合はステップS604に進み、できなかった場合はステップS603に進む。ステップS603では、AR装置101は、サーバー104からの電子データ取得が失敗し、拡張現実表示が不能である旨をAR装置101の表示部202に表示し、単独編集モード403を終了する。続くステップS604以降は、AR装置101が、対象オブジェクトの撮影画像に対し、取得した電子データに基づく付加情報を重畳する拡張現実表示をおこなう処理である。
ステップS604では、AR装置101は、撮像部201を介して対象オブジェクトの撮影画像を取得する。ステップS605では、ステップS604で取得した撮影画像に基づいて対象状態情報を生成する。ステップS604、S605の処理は、図5のステップS501、S502の処理内容と同等であるため説明は省略する。
ステップS606では、AR装置101は、ステップS605で生成した対象状態情報が、以前取得した対象状態情報と変化なく維持されているかどうかを調べる。すなわち、単独編集モード403における1回目のステップS606では、以前取得した状態とは、検知モード402のステップS502で検出した対象状態情報を意味する。2回目以降のステップS606では、1つ前のループにおけるステップS605で生成した対象状態情報を意味する。
対象状態情報が維持されている(変化していない)と判定された場合はステップS607に進む。維持されていない(変化した)と判定された場合は、対象オブジェクト1201の撮影をやめることで編集動作の終了を指示したと解釈し、単独編集モード403を終了する。
ステップS607では、AR装置101は、ステップS604で撮影した撮影画像に対し、ステップS602でサーバー104から取得した電子データにもとづく拡張現実表示をおこなう。例えば、AR装置101は、図12(c)に示す拡張現実表示を行う。
ステップS608では、AR装置101は、ユーザによる編集指示の有無を判定する。つまり、前述したように、拡張現実表示においては、AR装置101は、ユーザの編集指示を受け付けることができるため、編集指示の有無を判定するのである。編集指示があった場合は、ステップS609に進む。編集指示がない場合は、ステップS604に戻り、ステップS604〜S608を繰り返す。また、ユーザから編集指示のかわりに終了指示を受け付けた場合、単独編集モード403を終了するよう構成しても良い。
ステップS609では、AR装置101は、ステップS608で受け付けた編集指示をもとに、サーバー104に対し、対象オブジェクトに対応する電子データの削除、追加、変更といった編集要求を送信する。具体的な電子データの編集要求の例は、図12を参照して説明したとおりである。なお、ステップS609〜S611に対応するサーバー104側の動作については後述する。
ステップS610では、AR装置101は、ステップS609で送信した編集要求に対して、サーバー104から編集成功の通知を受信したか否かを判定する。編集成功の通知を受信した場合は、ステップS611に進む。一方、編集失敗の通知を受信した場合、あるいは、所定時間応答が無かった場合は、ステップS612に進む。
ステップS611では、AR装置101は、サーバー104から編集後の電子データを受信する。その後、ステップS604に戻って以降の処理を繰り返す。この際、ステップS607の拡張現実表示に用いられるのは、ステップS611で取得した、編集後の新しい電子データにもとづくものとなる。
ステップS610では、AR装置101は、ユーザに編集失敗を知らせる表示をおこなう。その後、ステップS604に戻って以降の処理を繰り返す。
図10は、AR装置からのデータ取得および編集要求に対するサーバーの動作を説明するフローチャートである。図5のフローチャート内で説明されたサーバー104側の動作を説明している。
ステップS1001では、サーバー104は、ユーザ「P」が所有するAR装置から、電子データ(p)に対する要求を受けつける。ここでは、ユーザ「P」は、「A」または「B」である。すなわち、AR装置(P)は、AR装置101またはAR装置102のいずれかである。また、電子データ(p)は、電子データ1211または電子データ1311の何れかである。
ステップS1002では、サーバー104は、S1001で受付けた要求の要求種別を判定する。具体的には、データ取得要求であるか、データ編集要求であるかを調べる。そして、データ取得要求の場合はステップS1003に進み、データ編集要求の場合はステップS1006に進む。例えば、図5においては、AR装置がステップS601およびステップS611で要求するのがデータ取得要求、ステップS609で要求するのがデータ編集要求である。
ステップS1003では、サーバー104は、取得要求された電子データ(p)がユーザ「P」によって読み出し可能か否かを調べる。具体的には、電子データ(p)のアクセス制御記述において、読み出し許可にユーザ「P」のIDが含まれるか、あるいは「all」が指定されている場合、読み出し可能となる。読み出しが可能な場合ステップS1004に進む。一方、電子データ(p)の読み出しが許可されていなかった場合、あるいは電子データ(p)が存在しなかった場合、ステップS1005に進む。
ステップS1004では、サーバー104は、取得要求を行ったAR装置(P)に、電子データ(p)を送信する。同時に、データ取得が成功したことを示すようなステータスを通知してもよい。そして今回の取得要求に対応したサーバー104の一連処理を終了する。なお、サーバー104は、ひとつの要求の終了後に次の要求を受けつけるようにしてもよいし、複数の要求を受けつけられるように、複数の処理を並列に実行してもよい。
ステップS1005では、AR装置(P)に対し取得要求に対する処理は失敗したしたことを通知し、今回処理を終了する。
ステップS1006では、サーバー104は、電子データ(p)がユーザ「P」によって書き込み可能か否かを調べる。具体的には、電子データのアクセス制御記述において、書き込み許可にユーザ「P」のIDが含まれるか、あるいは「all」が指定されている場合、書き込み可能となる。書き込みが可能な場合、ステップS1007に進む。不可の場合、ステップS1005に進み、同様に編集要求に対する処理が失敗したことを通知し終了する。
ステップS1007では、サーバー104は、AR装置(P)からの編集要求の内容に従って、電子データ(p)に対し編集を実行する。たとえば、電子データ(p)に含まれるエントリ記述に対し、変更や削除の処理を行う。
ステップS1008では、サーバー104は、編集要求を行ったAR装置(P)に対し編集が成功したことを通知し、今回の処理を終了する
<2.3.一括編集モードの動作>
図7は、一括編集モードにおけるAR装置の動作を説明するフローチャートである。ここで、一括編集モードとは、図13(a)のように複数の対象オブジェクトが重ねられており、かつAR装置の所有者と一致する対象オブジェクトが最上面(一番上)にあることを検知した場合の動作モードである。ここでは、AR装置101が、図13(a)に示す2つの対象オブジェクトを撮影している場合を想定して説明する。なお、下記で説明されるAR装置101からサーバー104への要求に対応する、サーバー104側の動作については後述する。
<2.3.一括編集モードの動作>
図7は、一括編集モードにおけるAR装置の動作を説明するフローチャートである。ここで、一括編集モードとは、図13(a)のように複数の対象オブジェクトが重ねられており、かつAR装置の所有者と一致する対象オブジェクトが最上面(一番上)にあることを検知した場合の動作モードである。ここでは、AR装置101が、図13(a)に示す2つの対象オブジェクトを撮影している場合を想定して説明する。なお、下記で説明されるAR装置101からサーバー104への要求に対応する、サーバー104側の動作については後述する。
ステップS701では、AR装置101は、サーバー104から、複数の対象オブジェクトのそれぞれに対応する電子データを取得する。処理内容としては、図6のステップS601におけるデータ取得要求を、対象オブジェクトの個数と同じ回数(すなわち、ここでは2回)繰りかえすことと同じであるため、詳細な説明は省略する。また、この要求に対応するサーバー104の処理も、既に説明した図10のデータ取得処理と同様であるため説明は省略する。ここでは、電子データ1211と電子データ1311が取得される。
ステップS702では、AR装置101は、ステップS701ですべての電子データ取得に成功した場合、ステップS704に進む。失敗した場合は、ステップS703に進み、取得失敗をユーザに表示したうえで、一括編集モードを終了する。続くステップS704以降は、重ねられた2つの対象オブジェクトの撮影画像に対し、サーバー104から取得した電子データによる付加情報を加えることで、AR装置101が図13(c)のような拡張現実表示をおこなう処理である。
ステップS704では、AR装置101は、撮像部201を介して対象オブジェクトの撮影画像を取得する。ステップS705では、AR装置101は、ステップS704で取得した撮影画像に基づいて対象状態情報(第1の対象状態情報)を生成する。これらの処理は、図5(ステップS501、S502)の処理内容と同等なので説明は省略する。
ステップS706では、AR装置101は、ステップS705で生成した対象状態情報が、以前取得した対象状態情報と変化なく維持されているかどうかを調べる。すなわち、一括編集モード404における1回目のステップS706では、以前取得した状態とは、検知モード402のステップS502で検出した対象状態情報を意味する。2回目以降のステップS706では、1つ前のループにおけるステップS705で生成した対象状態情報を意味する。対象状態情報が維持されている場合はステップS707に進む。対象状態情報が変化している場合、すなわちユーザが対象オブジェクトの撮影を止めた場合や、別のユーザが対象オブジェクトの配置を変更してしまった場合などは、一括編集モードを終了する。
ステップS707では、AR装置101は、取得した2つの電子データをマージした結果に基づき、拡張現実表示をおこなう。ステップS707の拡張現実表示は、電子データ1211および電子データ1311をマージした結果にもとづいて生成されるものである。例えば、図13(c)に示す拡張現実表示を行う。
ステップS708では、AR装置101は、ユーザによる編集指示の有無を判定する。つまり、前述したように、拡張現実表示においては、AR装置101は、ユーザの編集指示を受け付けることができるため、編集指示の有無を判定するのである。編集指示があった場合は、ステップS709に進む。編集指示がない場合は、ステップS704に戻り、ステップS704〜S708を繰り返す。また、ユーザから編集指示のかわりに終了指示を受け付けた場合、一括編集モード404を終了するよう構成しても良い。
ステップS709では、AR装置101は、ステップS708で受け付けた編集指示をもとに、サーバー104に対し、複数の対象オブジェクトに対応する複数の電子データの削除、追加、変更といった編集要求を送信する。また、ステップS710では、AR装置101は、ステップS709の一括編集要求に関連付けて、ステップS705で取得した対象状態情報をサーバー104に送信する。ここでは、対象状態情報には、対象オブジェクトに付与されたIDマークの内容、個数および位置関係が含まれる。
ステップS711では、AR装置101は、ステップS709で送信した編集要求に対して、サーバー104から編集成功の通知を受信したか否かを判定する。編集成功の通知を受信した場合は、ステップS712に進む。一方、編集失敗の通知を受信した場合、あるいは、所定時間応答が無かった場合は、ステップS713に進む。
ステップS712では、AR装置101は、サーバー104から編集後の複数の電子データを受信する。その後、ステップS704に戻って以降の処理を繰り返す。この際、ステップS707の拡張現実表示に用いられるのは、ステップS712で取得した、編集後の複数の電子データにもとづくものとなる。
ステップS713では、AR装置101は、ユーザに編集失敗を知らせる表示をおこなう。その後、ステップS704に戻って以降の処理を繰り返す。
<2.4.一括編集監視モードの動作>
図8は、一括編集監視モードにおけるAR装置の動作を説明するフローチャートである。ここで、一括編集監視モードとは、図13(a)のように、複数の対象オブジェクトが重ねられており、かつAR装置と所有者と一致する対象オブジェクトが最上面には無いことを検知した場合の動作モードである。ここでは、AR装置102が、図13(a)に示す2つの対象オブジェクトを撮影している場合を想定して説明する。なお、下記で説明されるAR装置102からサーバー104への要求に対応する、サーバー104側の動作については後述する。
図8は、一括編集監視モードにおけるAR装置の動作を説明するフローチャートである。ここで、一括編集監視モードとは、図13(a)のように、複数の対象オブジェクトが重ねられており、かつAR装置と所有者と一致する対象オブジェクトが最上面には無いことを検知した場合の動作モードである。ここでは、AR装置102が、図13(a)に示す2つの対象オブジェクトを撮影している場合を想定して説明する。なお、下記で説明されるAR装置102からサーバー104への要求に対応する、サーバー104側の動作については後述する。
ステップS801では、AR装置102は、サーバー104から、複数の対象オブジェクトのそれぞれに対応する電子データを取得する。処理内容としては、図6のステップS601におけるデータ取得要求を、対象オブジェクトの個数と同じ回数(すなわち、ここでは2回)繰りかえすことと同じであるため、詳細な説明は省略する。また、この要求に対応するサーバー104の処理も、既に説明した図10のデータ取得処理と同様であるため説明は省略する。ここでは、電子データ1211と電子データ1311が取得される。
ステップS802では、AR装置102は、ステップS801ですべての電子データ取得に成功した場合、ステップS804に進む。失敗した場合は、ステップS803に進み、取得失敗をユーザに表示したうえで、一括編集監視モードを終了する。続くステップS804以降は、重ねられた2つの対象オブジェクトの撮影画像に対し、サーバー104から取得した電子データによる付加情報を加えることで、AR装置102が図13(c)のような拡張現実表示をおこなう処理である。
ステップS804では、AR装置102は、撮像部201を介して対象オブジェクトの撮影画像を取得する。ステップS805では、AR装置102は、ステップS804で取得した撮影画像に基づいて対象状態情報(第2の対象状態情報)を生成する。これらの処理は、図5(ステップS501、S502)の処理内容と同等なので説明は省略する。
ステップS806では、AR装置102は、ステップS805で生成した対象状態情報が、以前取得した対象状態情報と変化なく維持されているかどうかを調べる。すなわち、一括編集監視モード405における1回目のステップS806では、以前取得した状態とは、検知モード402のステップS502で検出した対象状態情報を意味する。2回目以降のステップS806では、1つ前のループにおけるステップS805で生成した対象状態情報を意味する。対象状態情報が維持されている場合はステップS807に進む。対象状態情報が変化している場合、すなわちユーザが対象オブジェクトの撮影を止めた場合や、別のユーザが対象オブジェクトの配置を変更してしまった場合などは、一括編集監視モードを終了する。
ステップS807では、AR装置102は、取得した2つの電子データをマージした結果に基づき、拡張現実表示をおこなう。ステップS807の拡張現実表示は、電子データ1211および電子データ1311をマージした結果にもとづいて生成されるものである。例えば、図13(c)に示す拡張現実表示を行う。ただし、一括編集監視モードモードにおいては、付加情報1325や線1326といった編集(追加、削除、変更)の為の表示はおこなわないものとする。同様に、付加情報1324においても、編集指示は受けつけないものとする。
ステップS808では、AR装置102は、サーバー104から編集の監視確認依頼があるか否かを調べる。監視確認依頼があった場合、サーバー104に監視確認準備OKというステータスを返してステップS809に進む。無い場合はステップS804に戻り、以降、対象オブジェクトを再び撮影し拡張現実表示をおこなうよう、ステップS804〜S808を繰り返す。
ステップS809では、AR装置102は、サーバー104からの監視確認依頼に応答して、直前のステップS805で取得された対象状態情報をサーバー104に送信する。ステップS810では、AR装置102は、サーバー104からの編集に関する通知を受信する。すなわち、他のAR装置(ここではAR装置101)による編集要求に対する成功・失敗の有無の通知を受信する。サーバー104からの編集成功の通知が返ってきた場合ステップS811に進む。編集失敗の通知が返ってきた場合ステップS812に進む。
ステップS811では、AR装置102は、サーバー104から編集後の複数の電子データを受信する。その後、ステップS804に戻って以降の処理を繰り返す。この際、ステップS807の拡張現実表示に用いられるのは、ステップS811で取得した、編集後の複数の電子データにもとづくものとなる。
ステップS812では、AR装置102は、ユーザに編集失敗を知らせる表示をおこなう。その後、ステップS804に戻って以降の処理を繰り返す。
<2.5.サーバー104側の動作>
図11は、AR装置からのデータ一括編集要求に対するサーバーの動作を説明するフローチャートである。ここでは、上述の説明と同様、図13(a)に示す2つの対象オブジェクトをAR装置101及びAR装置102が撮影する状況を想定する。
図11は、AR装置からのデータ一括編集要求に対するサーバーの動作を説明するフローチャートである。ここでは、上述の説明と同様、図13(a)に示す2つの対象オブジェクトをAR装置101及びAR装置102が撮影する状況を想定する。
ステップS1101では、サーバー104は、AR装置101から、複数の対象オブジェクトに対応する電子データに対する一括編集要求を受け付ける(要求受信手段)。ここでは、電子データ1211および電子データ1311に対する一括編集要求となる。
ステップS1102では、サーバー104は、一括編集要求に関連づけられた対象状態情報をAR装置から取得する(対象状態情報受信手段)。これは図7(ステップS710)で送信される対象状態情報に相当する。
ステップS1103では、サーバー104は、ステップS1101で受けつけた一括編集要求の対象となる電子データを、一括編集要求をおこなったAR装置の所有者により書き込みが可能なものとそれ以外に区別する。この区別は、AR装置のユーザID情報と、電子データのアクセス権記述中の書き込み許可ユーザID情報を比較すればよい。ここでは、AR装置の所有者であるユーザ「A」が書き込み可能なものとそれ以外に区別することとなる。以降、ユーザ「A」が書き込み可能なデータをデータ(a)、それ以外をデータ(b)とする。すなわち、電子データ1211がデータ(a)に対応し、電子データ1311がデータ(b)に対応する。
ステップS1104では、サーバー104は、ステップS1102で区別されたデータ(b)に対する書き込み権限を有するユーザIDから、当該ユーザが所有するAR装置に対して監視確認依頼をおこなう。ここでは、データ(b)に相当する電子データ1311のアクセス権記述において、書き込み権を有すユーザ「B」を取得する。そして「B」が所有するAR装置102に対して監視確認依頼をおこなう。
ステップS1105では、AR装置102から監視確認準備OKのステータスが返るのを待つ。ステータスが返ってきた場合はステップS1107に進む。AR装置102と通信が不能だったり、所定時間経過してもステータスが返ってこなかった場合はステップS1106に進む。ステップS1106では、サーバー104は、一括編集の同意がユーザ「B」から得られなかったとみなして、編集失敗をAR装置101に通知し、今回の一括編集処理要求に対するサーバー104の処理を終了する。
ステップS1107では、サーバー104は、AR装置102から対象状態情報を取得する。これは図8(ステップS809)で送信される対象状態情報に対応する。
ステップS1108では、サーバー104は、ステップS1103でAR装置101から受信した対象状態情報と、ステップS1107でAR装置102から受信した対象状態情報が一致しているか否かを判定する。一致している場合はステップS1110に進む。一致していない場合はステップS1109に進む。
対象状態情報が一致しているかどうかは、各AR装置で抽出されたIDマークの内容、個数および位置関係がすべて一致しているかどうかで判定すればよい。前述のとおり、IDマークを囲む枠の大きさおよび辺の太さや形状の違いにより、撮影画像からIDマークの向き、大きさがわかるようにしてあれば、それらの情報を用いることができる。
あるいは、サーバー104は、対象状態情報として各AR装置から撮影画像そのものを取得し、各AR装置から得られた画像同士の比較によって一致を判定してもよい。この場合は、IDマークや対象オブジェクトの内容に基づいて、各AR装置から得られた撮影画像に対し画像補正(拡大、縮小、歪み補正など)をおこなったうえで比較する。
更に、図12(c)の説明で述べたように、用紙に印刷された対象オブジェクトに指示具(指やペンなど)で編集指示をおこなっている場合、撮影画像にある指示具の画像の位置に基づいて一致を判定しても良い。また、各AR装置から、各々の対象状態情報を取得した時刻(タイムスタンプ)を併せて取得し、その時刻に差が無いことを一致の条件に加えてもよい。
ステップS1110では、サーバー104は、AR装置101からの編集要求にもとづいてデータ(a)およびデータ(b)の一括編集を実行する。そして、ステップS1111では、サーバー104は、AR装置101およびAR装置102に対し、編集が成功したこと通知する。
ここで、たとえば、AR装置101が、図13(c)に対し、付加情報1325を介してスケジュール追加の編集指示を行った場合を説明する。これは、付加情報1325に対してユーザが入力した文字列を、電子データ1211および電子データ1311の対応エントリ記述に一括して追加するという一括編集要求である。
一括編集要求を受信したサーバー104は、ユーザ「A」が所有する電子データ1211へのエントリデータ追加操作をおこなう。この操作は、電子データの書き込み権を持つユーザと、編集を要求したAR装置のユーザが一致しているため、電子データ1211のアクセス権を変更すること無く実行できる。
一方、ユーザ「B」が所有する電子データ1311に対しては、ユーザ「A」は書き込み権を有さない。その為、サーバー104は、電子データ1311の書き込み権を有す「B」が所有するAR装置102に対し、AR装置101による一括編集を許可するか否かを確認する。ここでは、サーバー104の確認要求に対しAR装置が送信する対象状態情報が、既にAR装置から送信された対象状態情報と同一であるかを判定することで、AR装置101による一括編集を許可するか否かを判定する。
対象状態情報が一致した場合は、サーバー104は、一括編集を許可すると判定し、AR装置101からの編集要求にもとづいて電子データ1311の編集をおこなう。この編集は、たとえば、任意の電子データに対する書き込み権限を有する特権ユーザによる編集操作として実行すると良い。もしくは、特権ユーザによって、電子データ1311に対しユーザ「A」に対する書き込み権限を一時的に付与し、ユーザ「A」の権限で編集をおこなうようにしてもよい。そして編集終了後に電子データ1311の書き込み権限を元に戻せばよい。
対象状態情報が一致しなかった場合は、サーバー104は、一括編集を許可しないと判断し、AR装置101およびAR装置102にそれぞれ編集失敗を通知する。そして今回の一括編集要求に対するサーバー104の処理を終了する。
このように、編集操作を行うユーザ「A」とは別のユーザ「B」が所有する電子データ(b)の編集操作の可否を、ユーザ「B」のAR装置よる撮影状態に応じて決定する。これにより、ユーザ「A」とユーザ「B」のAR装置が同一の対象オブジェクトを拡張現実表示している場合のみ、ユーザ「A」が電子データ(b)に対する編集操作を有効にすることが出来る。
<2.6.AR装置とサーバーの動作シーケンス>
図9は、一括編集における2個のAR装置とサーバーそれぞれの動作シーケンスを示すである。ここでは、一括編集が成功する場合の1例と共に、失敗する場合の2例を併せて示している。
図9は、一括編集における2個のAR装置とサーバーそれぞれの動作シーケンスを示すである。ここでは、一括編集が成功する場合の1例と共に、失敗する場合の2例を併せて示している。
動作901〜906は、一括編集が成功する場合の動作シーケンスの例を示している。
動作901は、図7(ステップS709)に対応し、AR装置101からサーバー104への一括編集要求に相当する。動作902は、図7(ステップS710)に対応し、AR装置101からサーバー104への対象状態情報の送信に相当する。
動作903は、図11(ステップS1104)に対応し、サーバー104からAR装置102への監視確認依頼に相当する。動作904は、図8(ステップS809)に対応し、AR装置102からサーバー104への対象状態情報の送信に相当する。図9では単純化のため、図8(ステップS808)に対応する監視確認準備OKの返答は、動作904に含まれるものとする。
AR装置101で一括編集しようとしている2つの対象オブジェクトを、AR装置102が同時に撮影している場合、動作902および動作904において送信される2つの対象状態情報は一致する。そのため、サーバー104は、一括編集を許可し、一括編集要求の内容に応じた編集をおこなう。そして、動作905及び動作906において、サーバー104は、AR装置101とAR装置102に対し、それぞれ編集成功を通知する。
動作907〜912は、一括編集が失敗する場合の動作シーケンスの例を示している。ここでは、AR装置101で一括編集しようとしている2つの対象オブジェクトを、AR装置102が撮影していない場合を想定する。
動作907〜910は、上述の動作901〜904と同じ動作である。ただし、動作910で送信される対象状態情報は、動作908で送信される対象状態情報と一致しないことになる。そのため、動作911及び912では、サーバー104は、AR装置101とAR装置102に対し編集失敗を通知する。
なお、上述したように、対象状態情報の取得時刻の情報を追加で用いて、2つの対象状態情報が一致しているかを判定しても良い。この時刻の情報を用いることで、AR装置101とAR装置102が、同一の対象オブジェクトを同時に撮影していることの保証性が高まる。つまり、ユーザ「A」とユーザ「B」が、互いの意思を確認できる範囲で共同作業していると解釈することが出来るため、一方のユーザによる一括編集を許可する。一方、ユーザ「A」がユーザ「B」の紙(対象オブジェクト)をコピーするなどして、無断でユーザ「B」の電子データを編集するのを防ぐこともできる。
動作913〜916は、一括編集が失敗する場合の他の動作シーケンスの例を示している。ここでは、AR装置102がサーバー104からの要求に対し応答しない状態を想定する。
動作913〜915は、上述の動作901〜903と同じ動作である。しかし、監視確認の返答待ち時間917を経ても、AR装置102からサーバー104に対象状態情報が送信されない。そこで、返答待ち時間917が満了した後、サーバー104は、AR装置102に対して監視確認準備NGであると判定する。そのため、動作916では、サーバー104は、AR装置101に対し編集失敗を通知する。
以上説明したように、第1実施形態に係る情報処理装置であるサーバー104は、ユーザ装置であるAR装置が撮影する対象オブジェクトに関連づけられた電子データへの編集制御を好適に行うことが可能となる。第1実施形態の構成とすることで、ユーザが自分の電子データを確認なしで他のユーザに編集されることを防ぐことができる。また、同一の対象オブジェクトを同時撮影するという行為により、煩雑なユーザ操作を行うこと無く、一時的に電子データの編集許可する権限を付与することが可能となる。
さらに、複数のAR装置が撮影する対象オブジェクトの対象状態情報を比較することで、同一の対象オブジェクトを撮影していることをより確実に判定することができる。つまり、RFIDタグなどコスト高なものを用いることなく、同一の対象オブジェクトを撮影していることをより確実に判定することができる。
(変形例1)
上述の第1実施形態では、対象オブジェクトの個数を2個として説明したが、3個以上であってもよい。その場合、編集操作を行うユーザのAR装置から一括編集依頼を受けたサーバーは、当該ユーザ以外が所有する電子データへの一括編集可否を、全所有者のAR装置から得た対象状態情報が一致することで判定すればよい。対象状態情報が一致するか否かは、各対象オブジェクトから抽出されるIDマークの状態や、対象である紙等の四辺の情報から判断すればよい。
上述の第1実施形態では、対象オブジェクトの個数を2個として説明したが、3個以上であってもよい。その場合、編集操作を行うユーザのAR装置から一括編集依頼を受けたサーバーは、当該ユーザ以外が所有する電子データへの一括編集可否を、全所有者のAR装置から得た対象状態情報が一致することで判定すればよい。対象状態情報が一致するか否かは、各対象オブジェクトから抽出されるIDマークの状態や、対象である紙等の四辺の情報から判断すればよい。
すなわち、各対象オブジェクトに関連づけられた電子データを所有する全ユーザが、自身のAR装置で同一の対象オブジェクトを同時撮影しているときのみ、ひとつのAR装置のユーザに対し全電子データを編集する権利が与えられるようにする。そして、複数のAR装置の撮影画像から得られる対象オブジェクトの内容と配置が共に一致していると判定されるときのみ、同一の対象オブジェクトを同時撮影していると判定する。
具体的には、各対象オブジェクトに関連づけられた電子データを所有するユーザの全員が、各人の所有するAR装置で同一の対象オブジェクトを同時撮影している場合に、1つのAR装置に対し全電子データの編集を許可する。ここで、複数のAR装置の撮影画像から得られる対象状態情報が共に一致していると判定されるときのみ、同一の対象オブジェクトを同時撮影していると判定する。
(変形例2)
上述の第1実施形態では、対象オブジェクトの対象状態情報は編集要求を行うとき、あるいは、監視確認要求があったときのみ送信するよう説明した。しかしながら、各AR装置が逐次対象状態情報をサーバーに送信するよう構成しても良い。この場合、サーバーは、各AR装置における対象状態情報の変化をリアルタイムに把握することが可能となる。
上述の第1実施形態では、対象オブジェクトの対象状態情報は編集要求を行うとき、あるいは、監視確認要求があったときのみ送信するよう説明した。しかしながら、各AR装置が逐次対象状態情報をサーバーに送信するよう構成しても良い。この場合、サーバーは、各AR装置における対象状態情報の変化をリアルタイムに把握することが可能となる。
図14は、2個のAR装置とサーバーそれぞれの動作シーケンスを示すである。ここでは、一括編集モードにあるAR装置101、および一括編集監視モードにあるAR装置102は、共に自身の撮影画像から得た対象状態情報を一定間隔でサーバー104に送信している。
両者の対象状態情報を受信するサーバー104は、AR装置101における対象状態情報とAR装置102における対象状態情報とが一致しているか否かを逐次判定する。そして、一致していると判定している時間1401の期間に一括編集要求を受信した場合は、編集を許可し編集成功と応答する。一方、両者の対象状態情報が一致しなくなった時点以降は、一括編集要求を受信した場合、編集を許可せず編集失敗と応答する。
なお、対象状態情報としては、第1実施形態で説明したように、対象オブジェクトの内容と位置の情報であってもよいし、撮影画像そのものであってもよい。
なお、各AR装置は、自身が先だって送信した対象状態情報から変化がない場合は、変化が無いことを示す情報のみを代替として送信するようにしてもよい。これにより、通信トラフィックを低減することが可能になる。なお、変化が無いことを示す情報を受信したサーバー104は、当該情報を先だってAR装置から受信した対象状態情報と同一の対象状態情報を受信したと解釈する。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (8)
- 第1のユーザが編集権限を有する第1の電子データと、前記第1のユーザが編集権限を有さず第2のユーザが編集権限を有する第2の電子データと、を管理する情報処理装置であって、
前記第1のユーザに関連付けられた第1のユーザ装置から、前記第1の電子データと前記第2の電子データとに対する一括編集要求を受信する要求受信手段と、
前記第1のユーザ装置から、前記第1の電子データに基づき印刷された第1の対象オブジェクトと前記第2の電子データに基づき印刷された第2の対象オブジェクトとの配置関係を示す第1の対象状態情報を受信し、前記第2のユーザに関連付けられた第2のユーザ装置から、前記第1の対象オブジェクトと前記第2の対象オブジェクトとの配置関係を示す第2の対象状態情報を受信する、対象状態情報受信手段と、
前記第1の対象状態情報と前記第2の対象状態情報とが一致するか否かを判定する判定手段と、
前記判定手段により前記第1の対象状態情報と前記第2の対象状態情報とが一致すると判定された場合に、前記一括編集要求に基づく前記第1の電子データ及び前記第2の電子データへの編集を許可するアクセス制御手段と、
を有することを特徴とする情報処理装置。 - 前記アクセス制御手段は、前記第1の対象状態情報が、前記第1の対象オブジェクトと前記第2の対象オブジェクトとが重ね合わせられており、かつ、前記第1の対象オブジェクトが最上面に存在することを示している場合に、前記一括編集要求に基づく前記第1の電子データ及び前記第2の電子データへの編集を許可する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記第1の対象状態情報及び前記第2の対象状態情報にはそれぞれタイムスタンプが含まれている
ことを特徴とする請求項1又は2に記載の情報処理装置。 - 前記第1の対象オブジェクトには前記第1の電子データを一意に特定する第1のID情報が含まれており、前記第2の対象オブジェクトには前記第2の電子データを一意に特定する第2のID情報が含まれている、
ことを特徴とする請求項1乃至3の何れか一項に記載の情報処理装置。 - 前記第1の対象状態情報は前記第1のユーザ装置により撮影された第1の撮影画像であり、前記第2の対象状態情報は前記第2のユーザ装置により撮影された第2の撮影画像であり、
前記第1のID情報は第1のコード画像として前記第1の対象オブジェクトに含まれており、前記第2のID情報は第2のコード画像として前記第2の対象オブジェクトに含まれており、
前記判定手段は、前記第1の撮影画像を前記第1のコード画像に基づき画像補正した第1の補正画像と、前記第2の撮影画像を前記第2のコード画像に基づき画像補正した第2の補正画像と、に基づいて、前記第1の対象状態情報と前記第2の対象状態情報とが一致するか否かを判定する
ことを特徴とする請求項4に記載の情報処理装置。 - 前記第1のユーザ装置は拡張現実表示を行うよう構成されており、
前記一括編集要求は、前記第1のユーザ装置において前記第1の対象オブジェクトの画像と前記第2の対象オブジェクトの画像との双方に基づく拡張現実表示が行われている期間において所定のユーザ操作が行われた場合に、前記第1のユーザ装置から送信される
ことを特徴とする請求項1乃至5の何れか一項に記載の情報処理装置。 - 前記所定のユーザ操作は、前記第1のユーザ装置に表示された拡張現実表示に対するユーザ操作、又は、前記第1の対象オブジェクトに対するユーザ操作である
ことを特徴とする請求項6に記載の情報処理装置。 - 第1のユーザが編集権限を有する第1の電子データと、前記第1のユーザが編集権限を有さず第2のユーザが編集権限を有する第2の電子データと、を管理する情報処理装置における制御方法であって、
前記第1のユーザに関連付けられた第1のユーザ装置から、前記第1の電子データと前記第2の電子データとに対する一括編集要求を受信する要求受信工程と、
前記第1のユーザ装置から、前記第1の電子データに基づき印刷された第1の対象オブジェクトと前記第2の電子データに基づき印刷された第2の対象オブジェクトとの配置関係を示す第1の対象状態情報を受信し、前記第2のユーザに関連付けられた第2のユーザ装置から、前記第1の対象オブジェクトと前記第2の対象オブジェクトとの配置関係を示す第2の対象状態情報を受信する、対象状態情報受信工程と、
前記第1の対象状態情報と前記第2の対象状態情報とが一致するか否かを判定する判定工程と、
前記判定工程により前記第1の対象状態情報と前記第2の対象状態情報とが一致すると判定された場合に、前記一括編集要求に基づく前記第1の電子データ及び前記第2の電子データへの編集を許可するアクセス制御工程と、
を有することを特徴とする情報処理装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013090789A JP2014215723A (ja) | 2013-04-23 | 2013-04-23 | 情報処理装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013090789A JP2014215723A (ja) | 2013-04-23 | 2013-04-23 | 情報処理装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014215723A true JP2014215723A (ja) | 2014-11-17 |
Family
ID=51941452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013090789A Pending JP2014215723A (ja) | 2013-04-23 | 2013-04-23 | 情報処理装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014215723A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7438752B2 (ja) | 2019-12-26 | 2024-02-27 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、記憶媒体およびプログラム |
-
2013
- 2013-04-23 JP JP2013090789A patent/JP2014215723A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7438752B2 (ja) | 2019-12-26 | 2024-02-27 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、記憶媒体およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4781883B2 (ja) | 情報管理方法及び情報管理システム | |
EP2535837B1 (en) | Connection control device establishing connection between portable type mobile terminal and information processing device by wireless communication | |
JP2007128288A (ja) | 情報表示システム | |
JP2006277167A (ja) | アノテーションデータ処理プログラム、装置、方法 | |
US8577148B2 (en) | Image combining apparatus and image combining program | |
US8126271B2 (en) | Information processing apparatus, remote indication system, and computer readable recording medium | |
JP2009265903A (ja) | 情報管理システム、帳票定義管理サーバ及び情報管理方法 | |
CN105814575B (zh) | 认证设备、认证系统、程序、存储介质和认证方法 | |
JP2016091169A (ja) | 承認装置、承認システム、および承認プログラム | |
JP6534355B2 (ja) | Pdfファイル管理システム、pdfファイル管理サーバ、pdfファイルデータ取得サーバ、pdfファイル管理方法、pdfファイルデータ取得方法、pdfファイル管理プログラム、およびpdfファイルデータ取得プログラム | |
US8526024B2 (en) | Document data management system and image forming apparatus, server, method, and storage medium configuring document data management system | |
JP2007206941A (ja) | 生体認証装置、生体認証システム及び生体データ管理方法 | |
JP2008257530A (ja) | 電子ペン入力データ処理システム | |
JP2008020974A (ja) | 文書管理システムおよびその方法 | |
JP2007279842A (ja) | 電子カルテシステム及びデータ処理装置並びにその方法 | |
JP2014215723A (ja) | 情報処理装置およびその制御方法 | |
JP6291989B2 (ja) | コンテンツ表示装置およびコンテンツ表示装置の制御プログラム | |
JP2014038411A (ja) | パスワード生成システム、制御プログラム | |
JP6881091B2 (ja) | 文書管理システムおよび文書管理装置 | |
JP2010140499A (ja) | 生体認証装置、生体認証システム及び生体データ管理方法 | |
JP2009054089A (ja) | 計算機システム及び書類へのアクセス制御方法 | |
JP6122357B2 (ja) | 情報処理装置、文書合成システム、情報処理方法、及びプログラム | |
JP2003006611A (ja) | 自動機における画像取込方法 | |
JP6650018B1 (ja) | 情報処理装置、情報処理方法、プログラムならびに情報処理サーバ | |
CN107885468B (zh) | 信息处理设备、方法和介质 |