JP6360567B2 - 情報処理装置、情報処理方法 - Google Patents

情報処理装置、情報処理方法 Download PDF

Info

Publication number
JP6360567B2
JP6360567B2 JP2016571180A JP2016571180A JP6360567B2 JP 6360567 B2 JP6360567 B2 JP 6360567B2 JP 2016571180 A JP2016571180 A JP 2016571180A JP 2016571180 A JP2016571180 A JP 2016571180A JP 6360567 B2 JP6360567 B2 JP 6360567B2
Authority
JP
Japan
Prior art keywords
information
arrangement pattern
arrangement
information processing
real space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016571180A
Other languages
English (en)
Other versions
JP2017529578A (ja
Inventor
靖己 田中
靖己 田中
コリン フェイヒー,
コリン フェイヒー,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2017529578A publication Critical patent/JP2017529578A/ja
Application granted granted Critical
Publication of JP6360567B2 publication Critical patent/JP6360567B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)

Description

本発明は、複合現実感(Mixed Reality、MR)を提示するための技術に関するものである。
近年、現実空間と仮想空間との繋ぎ目のない結合を目的としたMRに関する研究が盛んに行われている。複合現実感の提示を行う画像表示装置は、例えば、ビデオカメラ等の撮像装置が撮像した現実空間の画像上に、撮像装置の位置及び姿勢に応じて生成した仮想空間の画像(例えばコンピュータグラフィックスにより描画された仮想物体や文字情報等)を重畳描画した画像を表示する装置である。このような装置には、例えば、ヘッドマウントディスプレイ(HMD)を用いることができる。例えば特許文献1、特許文献2、特許文献3を参照。画像表示装置は、ユーザの頭部に装着された光学シースルー型ディスプレイに、ユーザの視点の位置及び姿勢に応じて生成した仮想空間の画像を表示する光学シースルー方式によっても実現される。撮像装置から取得した現実空間の画像から、撮像装置の位置及び姿勢の計算を行うためにマーカを利用する手法が開示されている(例えば、特許文献1,3を参照)。
マーカを含む現実空間の画像を用いて視点の位置姿勢を求め、該求めた視点の位置姿勢を用いてMRを体感させるシステムを構築する場合、MRの知識が豊富でないユーザにとっては、どのような配置パターンでマーカを配置すれば視点の位置姿勢の計算が安定するのかは分からない。
特願2006-320872号公報 特願2010−189458号公報 特開2007−172596号公報
本発明はこのような問題に鑑みてなされたものであり、どのような配置パターンで指標を配置すれば視点の位置姿勢の計算が安定するのかをユーザに知らしめるための情報を作成するための技術を提供する。
例示的な実施形態の一様態によれば、情報処理装置は、現実空間においてユーザが複合現実感を体験可能な位置情報を取得する取得手段と、
前記位置情報に基づいて、前記ユーザの視点の位置姿勢を計算するために用いる指標の前記現実空間中における複数の配置パターン候補を生成し、該生成された複数の配置パターン候補を組み合わせることにより、配置パターンを生成する生成手段と、
前記生成手段が生成した配置パターンを出力する出力手段と
を備えることを特徴とする。
例示的な実施形態の他の様態によれば、情報処理方法は、現実空間においてユーザが複合現実感を体験可能な位置情報を取得
前記位置情報に基づいて、前記ユーザの視点の位置姿勢を計算するために用いる指標の前記現実空間中における複数の配置パターン候補を生成し、該生成された複数の配置パターン候補を組み合わせることにより、配置パターンを生成
前記生成された配置パターンを出力することを特徴とする。
更なる特徴は、添付の図面を参照し、以下の例示的な実施形態の説明より明らかとなるだろう。
図1は、情報処理装置の機能構成例を示すブロック図。 図2は、ユーザが複合現実感を体感している様子を示す図。 図3は、編集後の合成配置パターンを示す図。 図4は、情報処理装置の機能構成例を示すブロック図。 図5は、ステップS202における処理を説明する図。 図6Aは、矩形の配列を説明する図。 図6Bは、矩形の配列を説明する図。 図7は、ステップS207における処理を説明する図。 図8は、矩形の配列を示す図。 図9は、矩形の配列を示す図。 図10は、合成配置パターンを示す図。 図11は、合成配置パターンにおいて一部の領域を拡大したものを示す図。 図12は、編集後の合成配置パターンを示す図。 図13は、編集後の合成配置パターンを示す図。 図14は、コンピュータのハードウェア構成例を示すブロック図。 図15は、情報処理装置が行う処理のフローチャート。
添付の図面を参照して、以下に例示的な実施形態を説明する。
[第1の実施形態]
本実施形態では、情報処理装置の一様態について説明する。この情報処理装置は、複数種類の配置パターン候補を生成(第1の生成)する。各々の配置パターン候補は、視点の位置姿勢を計算するために利用する複数の指標の現実空間中における配置パターン候補である。この配置パターン候補は、該現実空間において複合現実感を体感可能な範囲内の位置から規定個数以上の指標が観察可能なものである。そして情報処理装置は、該生成した複数種類の配置パターン候補を用いて、複数の指標の現実空間中における配置パターンを表す情報を生成(第2の生成)して出力する。
先ず、本実施形態に係る情報処理装置の機能構成例について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係る情報処理装置は、本体部1000と、表示部1080と、操作部1010と、を有する。
先ず、表示部1080について説明する。表示部1080は、CRTや液晶画面などにより構成されており、本体部1000から出力されたデータに基づいて画像や文字などを表示する。
次に、操作部1010について説明する。操作部1010は、キーボードやマウスなどにより構成されており、ユーザが操作することで各種の指示を本体部1000に対して入力することができる。
次に、本体部1000について説明する。図1に示す如く、本体部1000は、データ記憶部1020、配置情報生成部1030、配置情報出力部1040、画像出力部1070、を有する。
データ記憶部1020には、ユーザが操作部1010を操作することで入力したMR体験情報が格納されている。MR体験情報とは、現実空間において複合現実感を体感可能な範囲内の位置から規定個数以上の指標が観察可能な配置パターン候補を複数種類決定するために用いる情報であり、その詳細については後述する。
配置情報生成部1030は、データ記憶部1020に格納されているMR体験情報を用いて、現実空間において複合現実感を体感可能な範囲内の位置から規定個数以上の指標が観察可能な配置パターン候補を複数種類決定し、決定したそれぞれの配置パターン候補を指標配置情報としてデータ記憶部1020に格納する。
配置情報出力部1040は、データ記憶部1020に格納されているそれぞれの指標配置情報を用いて、複数の指標の現実空間中における配置パターンを表す情報を生成し、該生成した情報をデータ記憶部1020に格納する。
画像出力部1070は、配置情報出力部1040がデータ記憶部1020に格納した情報に基づいて、複数の指標の現実空間中における配置パターンを表す情報を生成して表示部1080に出力する。
ユーザが複合現実感を体感している様子を図2に示す。図2において、複合現実感を体感するユーザが観察可能な範囲の現実空間を立方体2000で示しており、該現実空間において壁2010には複数の指標が配されている。
ユーザは、複合現実感を体感する為に、自身の頭部に頭部装着型表示装置を装着している。この頭部装着型表示装置には周知の如く、表示部と、現実空間を撮像するカメラと、が備わっており、図2において2090はこのカメラを表している。
立方体2050は、立方体2000で表す現実空間において複合現実感を体感可能な範囲を表しており、頭部装着型表示装置が立方体2050内に位置する限り、該頭部装着型表示装置を装着しているユーザは複合現実感を体感することができる。図2の場合、カメラは、壁2010においてカメラ2090の視界2040に含まれている領域2060内の指標群を撮像し、その撮像画像を複合現実感提示装置(本実施形態に係る情報処理装置であっても構わないし、別個の装置であっても構わない)に対して出力する。複合現実感提示装置は、この撮像画像を用いてカメラ2090の位置姿勢を求める。指標群の撮像画像を用いてカメラ2090の位置姿勢を求める技術は、例えば上記の特許文献1,3にも開示されているように周知の技術であるため、この技術に関する説明は省略する。そして複合現実感提示装置は、該求めた位置姿勢に応じた仮想物体2030の画像を生成し、この生成した仮想物体2030の画像とカメラ2090による撮像画像との合成画像を頭部装着型表示装置の表示部に対して送出する。頭部装着型表示装置の表示部にはこの合成画像が表示されるので、頭部装着型表示装置を自身の頭部に装着したユーザは眼前にこの合成画像を観察することができ、これによりユーザは複合現実感を体感することができる。
ここで、上記の通り、カメラ2090は立方体2050で表す範囲内を移動可能であり、カメラ2090の位置に応じて、壁2010に配されている指標の見え方(特に視界2040に含まれている指標の数)は変化する。視界2040内に十分な数の指標が写っていないと、撮像画像上に現れる指標の数は十分でなくなり、位置姿勢の算出精度が低減する。
そこで本実施形態では、カメラ2090が立方体2050が表す範囲内でどのように移動しようとも、撮像画像内に十分な数の指標が写るような指標の配置パターンを決定するための処理を、図1の情報処理装置が行う。本実施形態に係る情報処理装置が、撮像画像内に十分な数の指標が写るような指標の配置パターンを決定するために行う処理について、同処理のフローチャートを示す図15を用いて説明する。
ステップS201では、ユーザが操作部1010を操作してMR体験情報を入力する。情報処理装置の不図示の制御部は、このMR体験情報をデータ記憶部1020に格納する。上記の通り、MR体験情報とは、現実空間において複合現実感を体感可能な範囲内の位置から規定個数以上の指標が観察可能な配置パターン候補を複数種類決定するために用いる情報であるので、同様の目的を達成できる情報であれば、如何なる情報であっても構わない。例えば、MR体験情報は、以下のような種類の情報を含むものとする。
・ 複合現実感を体感するユーザが観察可能な範囲の現実空間(図2の場合は、立方体2000が表す空間)を規定する情報(現実空間情報)
・ 複合現実感を体感するユーザが観察可能な範囲の現実空間において、複合現実感を体感可能な範囲(図2の場合は、立方体2050が表す範囲)を規定する情報(範囲情報)
・ 頭部装着型表示装置が有するカメラの視界を表す情報(例えば画角を表す情報)
現実空間情報は、例えば、現実空間中に設定されている世界座標系(現実空間中における1点を原点とし、該原点で互いに直交する3軸をそれぞれx軸、y軸、z軸とする座標系)における、複合現実感を体感するユーザが観察可能な範囲の現実空間を定義する情報である。図2の場合、世界座標系における、立方体2000が表す空間を定義する情報であっても構わないし、世界座標系における、指標を配する箇所を定義する情報であっても構わない。また、現実空間を模した仮想物体を表示部1080に表示させ、この仮想物体においてユーザが操作部1010を操作して指定した部分を、世界座標系において定義する情報であっても構わない。
範囲情報は、例えば、世界座標系における、複合現実感を体感可能な範囲を表す情報である。
また、MR体験情報には、上記の情報に加えて、カメラの解像度やレンズの歪み情報、焦点距離情報、仮想物体を配置したい領域を規定する情報、などの情報を含めても構わない。
ステップS202では、配置情報生成部1030は、データ記憶部1020からMR体験情報を読み出す。MR体験情報に含まれている現実空間情報と範囲情報とを用いれば、世界座標系における「指標を配する箇所(図2の場合は壁2010)」と「複合現実感を体感可能な範囲」との位置関係は特定できる。配置情報生成部1030は、指標を配する箇所(図2の場合は壁2010)から、複合現実感を体感可能な範囲において該箇所(図2の場合は壁2010)から最も遠い箇所までの距離d1と、指標を配する箇所(図2の場合は壁2010)から、複合現実感を体感可能な範囲において該箇所(図2の場合は壁2010)に最も近い箇所までの距離d2と、を求める。
ステップS202における処理について、図5に示す例を挙げて説明する。図5は、図2に示した立方体2000を矢印2070で示す如く真上から見下ろした状態を示している。
図5の場合、MR体験情報に含まれている現実空間情報と範囲情報とを用いれば、指標を配する箇所である壁2010と、複合現実感を体感可能な範囲(立方体2050で示す範囲)と、の位置関係が特定できる。この場合、複合現実感を体感可能な範囲において壁2010から最も遠い箇所は箇所5100であることから、壁2010と箇所5100との間の距離5000をd1として求める。複合現実感を体感可能な範囲において壁2010から最も近い箇所は箇所5300であることから、壁2010と箇所5300との間の距離5020をd2として求める。
なお、距離d1,d2は上記の方法で求めた距離に限るものではない。例えば、ユーザが操作部1010を操作して入力した最大距離、最小距離をそれぞれ、d1,d2としても構わない。
図15に戻って、ステップS203では、配置情報生成部1030は先ず、変数Dの初期値にd1を設定する。そして、配置情報生成部1030は、指標を表す矩形のサイズSをS=M×Dを計算することで求める。Mは適当な定数であり、予め設定されたものであっても構わないし、ユーザが操作部1010を操作して設定したものであっても構わない。矩形が正方形であれば、縦横サイズをSとすればよいし、長方形であれば、M1,M2をそれぞれ適当な定数として、縦の長さS1=M1×D、横の長さS2=M2×Dとして求めても構わない。このように、矩形のサイズをDが大きいほど大きくし、Dが小さいほど小さくするのであれば、如何なる方法で矩形のサイズを決定しても構わない。
配置情報生成部1030は、MR体験情報に含まれている現実空間情報を用いて指標を配する箇所を特定し、該箇所に、サイズSの矩形を並べて配置することで、該箇所に矩形の配列(例えば図8の10000)を配置する。並べ方については特定の並べ方に限るものではなく、指標を配する箇所からはみ出すことなく矩形を並べることができるのであれば、如何なる並べ方を採用しても構わない。また、この「矩形の配列の配置」は、実際に矩形を配置して描画する処理ではなく、計算上、模式的に行われる処理である。
例えば、図6Aに示す如く、矩形の配列において、壁2010から距離d1(5000)だけ離間した位置に設けた視点6020の視界6040に含まれる領域6060に含まれている部分を図6Bに示す。図6Bでは、領域6060内には、9個の矩形6001〜6009が含まれており、それぞれの矩形は等間隔に並べられている。ステップS203では更に、配置情報生成部1030は、このようにして設置した矩形の配列を、指標配置情報としてデータ記憶部1020に登録する。指標配置情報は、該配列を構成するそれぞれの矩形の3次元座標位置(例えば世界座標系における座標位置)を表す。図2の例では、矩形配列は壁2010に配しており、壁2010の世界座標系における位置や姿勢は現実空間情報によって定義されているため、この現実空間情報から壁2010上のそれぞれの矩形の3次元座標位置は計算可能である。
ステップS204では、配置情報生成部1030は、変数Dの値から規定値を減じることで、変数Dの値を規定値だけ減少させる。
ステップS205では、配置情報生成部1030は、変数Dの値がd2以下であるか否かを判断する。配置情報生成部1030が、変数Dの値がd2以下であると判断した場合は、処理はステップS209に進み、配置情報生成部1030が、変数Dの値がd2よりも大きいと判断した場合には、処理はステップS207に進む。
ステップS207では、配置情報生成部1030は、指標を配する箇所から距離Dだけ離間した位置に視点を設けた場合に、現在設置されている矩形の配列において、該視点の上記の視界内に、規定数(例えば4)以上の矩形が含まれているか否かを判断する。配置情報生成部1030が、視点の上記の視界内に規定数以上の矩形が含まれていると判断した場合には、処理はステップS204に進み、図7に示すように(7001は視点の上記の視界内)、配置情報生成部1030が、視点の上記の視界内に規定数以上の矩形が含まれていないと判断した場合には、処理はステップS208に進む。
ステップS208では、配置情報生成部1030は、上記のステップS203と同様にして、矩形のサイズSをS=M×Dを計算することで求め、MR体験情報に含まれている現実空間情報を用いて指標を配する箇所を特定し、該箇所に、先に配置した配列の代わりに、サイズSの矩形を並べて配置することで、該箇所に矩形の配列(例えば図9の11000)を配置する。そして、配置情報生成部1030は、このようにして設置した矩形の配列を、指標配置情報としてデータ記憶部1020に登録する。
ステップS209では、配置情報出力部1040は、データ記憶部1020に格納されているそれぞれの指標配置情報を読み出す。そして配置情報出力部1040は、読み出したそれぞれの指標配置情報を用いて、複数の指標の現実空間中における配置パターンを表す情報を生成する。本ステップにおいて行う処理には様々な処理が考えられる。以下ではその一例について説明する。
説明を簡単にするために、2種類の指標配置情報を用いて、複数の指標の現実空間中における配置パターンを表す情報を生成する場合について説明するが、3種類以上の指標配置情報を用いる場合であっても、以下の処理を同様に適用すればよい。
先ず、一方の指標配置情報が表す配置パターン候補と、他方の指標配置情報が表す配置パターン候補と、を重ねた合成配置パターンを生成する。図8の配置パターン候補10000と図9の配置パターン候補11000との合成配置パターン12000の一例を図10に示す。合成配置パターン12000において一部の領域12100を拡大したものを図11に示す。
図11において、図8の配置パターン候補10000と図9の配置パターン候補11000との図10の合成配置パターン12000を作成した場合、図8の配置パターン候補10000における矩形13002と、図9の配置パターン候補11000における矩形13001と、が重なってしまっている。矩形同士(指標同士)の重なり判定は、それぞれの矩形が属する配列に対する指標配置情報を用いれば実施可能である。
矩形同士が重なっていると判定した場合に行う処理としては、様々なものが考え得る。例えば、図11に示すように、一方の矩形(矩形13001)の面積のA%以上が他方の矩形(矩形13002)に含められているような場合には、この一方の矩形を削除しても構わない。このような処理を合成配置パターン12000上のそれぞれの矩形(図8の配置パターン候補10000及び図9の配置パターン候補11000のそれぞれの矩形)について行った場合、合成配置パターン12000は、図12に示すような合成配置パターン13100に編集されることになる。
また、矩形同士が重なっていると判定した場合、例えば図13に示す如く、一方の矩形(矩形14001)の面積のA%以上が他方の矩形(矩形14003)に含められているような場合には、矩形同士が重ならないように、一方の矩形を矢印で示す如く方向に移動させて14002で示す位置に移動させても良い。
また、図3に示す如く、壁2010にコンセントや物理的に指標を配置出来ない領域や指標を配置したくない領域17000がある場合、予め現実空間情報に該領域を示す情報を含めておき、この領域17000の位置に矩形17010が重なっている場合には、重ならないように、矩形17010を矢印で示す如く方向に移動させて18000で示す位置に移動させても良い。
また、仮想物体を表示する位置を、予め現実空間情報またはMR体験情報に含めておき、この領域の位置に矩形が配置されるように移動させても良い。このように、矩形同士が重なっていると判定した場合には、合成配置パターンを適宜編集しても構わない。用途によっては、合成配置パターンは編集しなくても構わない。また、合成配置パターンを表示部1080に表示させてユーザに編集をゆだねても構わない。その場合、ユーザは操作部1010を操作して1以上の矩形を移動させたり削除したりすることでこの合成配置パターンを編集する。
ステップS210では、配置情報出力部1040は、編集された/編集されていない合成配置パターンをデータ記憶部1020に格納する。合成配置パターンはどのようなフォーマットでデータ記憶部1020に格納しても良く、例えば、合成配置パターンをpdfやxpsなどの電子文章フォーマットやjpeg,bmpなどの画像フォーマットで格納しても構わない。なお、この合成配置パターンには、該合成配置パターンに含まれているそれぞれの矩形のサイズや3次元位置のデータなど、該合成配置パターンに含まれているそれぞれの矩形を規定するデータが含まれている。
以上説明した、図15のフローチャートに従った処理を実行することで、データ記憶部1020には、複数の指標の現実空間中における配置パターンを表す情報である合成配置パターンを登録することができる。
画像出力部1070は、データ記憶部1020に登録されている合成配置パターンを読み出し、該合成配置パターンを画像や電子文書として表示部1080に表示させる。このとき、画像出力部1070は、合成配置パターンに含められている、それぞれの矩形の3次元座標位置も表示部1080に表示させても構わない。表示部1080に表示させる内容はこれに限るものではなく、複合現実感を体感するためのインターフェースを更に表示させても構わない。
なお、指標を配する箇所は壁に限るものではなく、現実空間中における様々な箇所が考え得る。本実施形態では、ユーザが複合現実感を体感するために自身の頭部に頭部装着型表示装置を装着したが、手持ち型表示装置のHHD(HandHeldDisplay)やタブレットやスマートフォン等を用いても複合現実感を体感することはできる。
[第2の実施形態]
第1の実施形態では、合成配置パターンに基づく画像や電子文書を表示部1080に表示させていたが、合成配置パターンに基づく画像や電子文書の出力先は表示部1080に限るものではない。本実施形態では、合成配置パターンに基づく画像や電子文書を印刷装置に印刷させることができる情報処理装置について説明する。
本実施形態に係る情報処理装置の機能構成例について、図4のブロック図を用いて説明する。図4において、図1に示した機能部と同じ機能部には同じ参照番号を付しており、該機能部に係る説明は上記の通りであり、再度の説明は行わない。図4に示した構成は、本体部1900が、図1の本体部1000に配置情報印刷部18010を加えたものであるという点、そして、本体部1900に印刷装置18020が接続されているという点で、図1の構成と異なる。以下では、第1の実施形態との差分について説明し、以下で特に触れない限りは、第1の実施形態と同様であるものとする。
印刷装置18020は、本体部1900とデータ通信が可能なように該本体部1900に直接的若しくは間接的に接続されている。接続は有線であっても構わないし無線であっても構わない。
配置情報印刷部18010は、データ記憶部1020に登録されている合成配置パターンを読み出し、該合成配置パターンの印刷データを生成し、該生成した印刷データを印刷装置18020に対して送出する。印刷装置18020は、この印刷データに従って紙などの記録媒体上に画像や文字などを印刷する。
[第3の実施形態]
第1の実施形態では、現実空間情報は、ユーザが操作部1010を操作して入力していたが、三次元計測機器等を利用して、複合現実感を体感するユーザが観察可能な範囲の現実空間の3次元情報を計測し、該計測した結果を現実空間情報として取得しても構わない。
[第4の実施形態]
第1の実施形態では、現実空間情報は、ユーザが操作部1010を操作して入力していた。その後、ユーザが操作部1010を操作してこの現実空間情報を適宜編集しても構わないし、用途によっては、入力された現実空間情報から、例えばより簡略化された現実空間を表す現実空間情報に変換しても構わない。すなわち、入力された現実空間情報をそのまま使用しても良いし、何らか手を加えて以降の処理で使用するようにしても構わない。
[第5の実施形態]
図1に示した本体部1000や図4に示した本体部1900を構成する各機能部はハードウェアで構成しても構わないが、データ記憶部1020を除く各機能部をソフトウェア(コンピュータプログラム)で構成しても構わない。後者の場合、データ記憶部1020として機能するメモリを有し、且つこのコンピュータプログラムを実行可能なプロセッサを有するコンピュータであれば、図1に示した本体部1000や図4に示した本体部1900に適用することができる。
図1に示した本体部1000や図4に示した本体部1900に適用可能なコンピュータのハードウェア構成例について、図14のブロック図を用いて説明する。なお、図14に示した構成はこのようなコンピュータの構成の一例であり、この構成に限るものではない。
CPU15001は、RAM15002やROM15003に格納されているコンピュータプログラムやデータを用いて処理を実行することで、コンピュータ全体の動作制御を行うと共に、図1に示した本体部1000や図4に示した本体部1900が行うものとして上述した各処理を実行する。
RAM15002は、外部記憶装置15007や記憶媒体ドライブ15008からロードされたコンピュータプログラムやデータ、I/F(インターフェース)15009を介して外部から受信したコンピュータプログラムやデータを格納するためのエリアを有する。更に、RAM15002は、CPU15001が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM15002は、各種のエリアを適宜提供することができる。
ROM15003には、本コンピュータの設定データやブートプログラムなどが格納されている。
外部記憶装置15007は、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置15007には、OS(オペレーティングシステム)や、図1に示した本体部1000や図4に示した本体部1900が行うものとして上述した各処理をCPU15001に実行させるためのコンピュータプログラムやデータが保存されている。既知の情報として説明したものも、この外部記憶装置15007に保存されている。外部記憶装置15007に保存されているコンピュータプログラムやデータは、CPU15001による制御に従って適宜RAM15002にロードされ、CPU15001により処理される。なお、RAM15002や外部記憶装置15007は、図1のデータ記憶部1020として機能することになる。
記憶媒体ドライブ15008は、CD−ROMやDVD−ROMなどの記憶媒体に記録されているコンピュータプログラムやデータを読み出してRAM15002や外部記憶装置15007に対して出力する。外部記憶装置15007に保存されているものとして説明したコンピュータプログラムやデータのうち一部をこの記憶媒体に記録するようにしても構わない。
I/F15009は、外部装置を本コンピュータに接続するための1以上のインターフェースで構成されており、上記の操作部1010や表示部1080や印刷装置18020はこのI/F15009に接続されている。例えば、I/F15009は、印刷装置18020を接続するためのUSB等のデジタル入出力ポート、表示部1080を接続するためのDVI若しくはHDMIポートによって構成される。このI/F15009には、上記の頭部装着型表示装置を接続しても構わない。上記の各部はバス15010に接続されている。
(その他の実施例)
記憶媒体(例えば、コンピュータが読み取り可能な非一過性の記憶媒体)に記録されたコンピュータ実行可能な命令を読み出して実行して上記一つ又は複数の実施形態の機能を実行するシステム又は装置のコンピュータや、例えば上記記憶媒体から上記コンピュータ実行可能な命令を読み出して実行して上記一つ又は複数の実施形態の機能を実行する上記システム又は装置のコンピュータにより行われる方法により実施形態を実現することもできる。上記コンピュータは、一つ以上の中央処理装置(CPU)、マイクロプロセッサ(MPU)、その他の回路を構成し、別々のコンピュータプロセッサ又は別々のコンピュータのネットワークを有してもよい。上記コンピュータ実行可能な命令は、上記コンピュータに対して例えばネットワークや上記記憶媒体から提供されてもよい。上記記憶媒体は、例えば、一つ以上のハードディスク、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、分散コンピューティングシステムのストレージ、光ディスク(例えば、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、Blu−ray Disc (DB)(記録商標))、フラッシュメモリデバイス、メモリカード等を有してもよい。
本発明を実施形態を例として説明したが、本発明は記載した実現例に限定されているわけでないことは理解されるべきである。以下の請求項の範囲は、全ての変形や同等な構成や機能を含み、最大に広く解釈されるべきでる。
本出願は、2014年8月4日に出願された米国特許出願第14/451371号についての優先権を請求するものであり、その全ての記載内容の参照により本出願に援用する。

Claims (11)

  1. 現実空間においてユーザが複合現実感を体験可能な位置情報を取得する取得手段と、
    前記位置情報に基づいて、前記ユーザの視点の位置姿勢を計算するために用いる指標の前記現実空間中における複数の配置パターン候補を生成し、該生成された複数の配置パターン候補を組み合わせることにより、配置パターンを生成する生成手段と、
    前記生成手段が生成した配置パターンを出力する出力手段と
    を備えることを特徴とする情報処理装置。
  2. 前記生成手段は、前記配置パターン候補を組み合わせて得られた組み合わせ配置パターンにおいて指標同士が重ならないように1以上の指標を削除して前記配置パターンを生成することを特徴とする請求項に記載の情報処理装置。
  3. 前記生成手段は、前記配置パターン候補を組み合わせて得られた組み合わせ配置パターンにおいて指標同士が重ならないように1以上の指標を移動させて前記配置パターンを生成することを特徴とする請求項に記載の情報処理装置。
  4. 前記生成手段は、指標のサイズごとに前記配置パターン候補を生成することにより複数の配置パターン候補を生成することを特徴とする請求項に記載の情報処理装置。
  5. 前記生成手段は、
    前記位置情報に基づいて、前記複合現実感を体験可能な範囲を取得し、第1の位置から前記指標を配する箇所までの距離に応じたサイズを有する指標の配列を配置パターン候補として生成すると共に該箇所に配し、該配列のうち、前記第1の位置よりも前記箇所に近い第2の位置から観察可能な指標の数が規定数よりも少ない場合には、該第2の位置から前記箇所までの距離に応じたサイズを有する指標の配列を配置パターン候補として生成すると共に該箇所に配する
    ことを特徴とする請求項1に記載の情報処理装置。
  6. 前記指標の形状は、四角形であることを特徴とする請求項1に記載の情報処理装置。
  7. 前記複合現実感の体験に用いる撮像手段の情報を取得する撮像手段情報取得手段を更に備え、
    前記生成手段は、前記位置情報に加え、前記撮像手段の情報に基づいて、前記配置パターンを少なくとも1つ生成することを特徴とする請求項1に記載の情報処理装置。
  8. 前記撮像手段の情報は、カメラの解像度、レンズの歪み情報、焦点距離情報のうち、少なくとも1つであることを特徴とする請求項に記載の情報処理装置。
  9. 前記複合現実感の空間を体験するための仮想物体が配置される配置情報を取得する配置情報取得手段を更に備え、
    前記生成手段は、前記位置情報と前記配置情報とに基づいて、前記配置パターンを生成することを特徴とする請求項1に記載の情報処理装置。
  10. 現実空間においてユーザが複合現実感を体験可能な位置情報を取得し、
    前記位置情報に基づいて、前記ユーザの視点の位置姿勢を計算するために用いる指標の前記現実空間中における複数の配置パターン候補を生成し、該生成された複数の配置パターン候補を組み合わせることにより、配置パターンを生成し、
    前記生成された配置パターンを出力することを特徴とする情報処理方法。
  11. コンピュータを、請求項10に記載の情報処理方法を実行させるためのコンピュータプログラムを格納した、コンピュータ読み取り可能な記憶媒体。
JP2016571180A 2014-08-04 2015-08-03 情報処理装置、情報処理方法 Active JP6360567B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/451,371 US9548014B2 (en) 2014-08-04 2014-08-04 Information processing apparatus and information processing method
US14/451,371 2014-08-04
PCT/JP2015/003911 WO2016021181A1 (en) 2014-08-04 2015-08-03 Information processing apparatus and information processing method

Publications (2)

Publication Number Publication Date
JP2017529578A JP2017529578A (ja) 2017-10-05
JP6360567B2 true JP6360567B2 (ja) 2018-07-18

Family

ID=53879739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016571180A Active JP6360567B2 (ja) 2014-08-04 2015-08-03 情報処理装置、情報処理方法

Country Status (4)

Country Link
US (1) US9548014B2 (ja)
EP (1) EP3178082B1 (ja)
JP (1) JP6360567B2 (ja)
WO (1) WO2016021181A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD788819S1 (en) * 2015-02-09 2017-06-06 Lg Electronics Inc. Virtual reality device
JP6938158B2 (ja) * 2016-03-10 2021-09-22 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US10762697B1 (en) * 2019-02-27 2020-09-01 Verizon Patent And Licensing Inc. Directional occlusion methods and systems for shading a virtual object rendered in a three-dimensional scene
US11275453B1 (en) 2019-09-30 2022-03-15 Snap Inc. Smart ring for manipulating virtual objects displayed by a wearable device
US11277597B1 (en) 2020-03-31 2022-03-15 Snap Inc. Marker-based guided AR experience
US11798429B1 (en) 2020-05-04 2023-10-24 Snap Inc. Virtual tutorials for musical instruments with finger tracking in augmented reality
US11520399B2 (en) 2020-05-26 2022-12-06 Snap Inc. Interactive augmented reality experiences using positional tracking
US11925863B2 (en) 2020-09-18 2024-03-12 Snap Inc. Tracking hand gestures for interactive game control in augmented reality
US11546505B2 (en) 2020-09-28 2023-01-03 Snap Inc. Touchless photo capture in response to detected hand gestures
US11740313B2 (en) 2020-12-30 2023-08-29 Snap Inc. Augmented reality precision tracking and display
US11531402B1 (en) 2021-02-25 2022-12-20 Snap Inc. Bimanual gestures for controlling virtual and graphical elements
US12013985B1 (en) 2021-02-25 2024-06-18 Snap Inc. Single-handed gestures for reviewing virtual content
CN117178247A (zh) 2021-04-19 2023-12-05 斯纳普公司 用于动画化及控制虚拟和图形元素的手势

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4689380B2 (ja) 2004-09-28 2011-05-25 キヤノン株式会社 情報処理方法および装置
JP4708752B2 (ja) 2004-09-28 2011-06-22 キヤノン株式会社 情報処理方法および装置
JP4859205B2 (ja) * 2005-02-04 2012-01-25 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP2007172596A (ja) 2005-11-24 2007-07-05 Canon Inc 2次元コード、2次元コード検出方法、および2次元コード検出装置
JP5132138B2 (ja) 2006-11-28 2013-01-30 キヤノン株式会社 位置姿勢計測方法、位置姿勢計測装置
JP4926916B2 (ja) * 2007-11-07 2012-05-09 キヤノン株式会社 情報処理装置、情報処理方法、およびコンピュータプログラム
JP5259286B2 (ja) * 2008-07-16 2013-08-07 株式会社日立製作所 3次元物体認識システム及びそれを用いた棚卸システム
JP5047090B2 (ja) 2008-07-31 2012-10-10 キヤノン株式会社 システム
US8249361B1 (en) 2010-04-22 2012-08-21 Google Inc. Interdependent learning of template map and similarity metric for object identification
JP5769392B2 (ja) 2010-08-26 2015-08-26 キヤノン株式会社 情報処理装置およびその方法
JP5132832B1 (ja) * 2011-07-11 2013-01-30 キヤノン株式会社 計測装置および情報処理装置

Also Published As

Publication number Publication date
EP3178082B1 (en) 2021-12-08
EP3178082A1 (en) 2017-06-14
WO2016021181A1 (en) 2016-02-11
JP2017529578A (ja) 2017-10-05
US20160035134A1 (en) 2016-02-04
US9548014B2 (en) 2017-01-17

Similar Documents

Publication Publication Date Title
JP6360567B2 (ja) 情報処理装置、情報処理方法
US9784972B2 (en) Information processing apparatus, information processing method, and storage medium
JP6203406B2 (ja) 拡張現実環境内の平面の広がりを判定するためのシステムおよび方法
TWI544447B (zh) 擴增實境的方法及系統
JP5592011B2 (ja) マルチスケール3次元配向
CN110956695B (zh) 信息处理装置、信息处理方法和存储介质
JP2005227876A (ja) 画像処理方法、画像処理装置
US9569888B2 (en) Depth information-based modeling method, graphic processing apparatus and storage medium
JP2018106298A (ja) 画像処理装置、画像処理方法、コンピュータプログラム
JP2016122392A (ja) 情報処理装置、情報処理システム、その制御方法及びプログラム
JPWO2018179253A1 (ja) ポリゴンモデル生成装置、ポリゴンモデル生成方法及びプログラム
JP2021016547A (ja) プログラム、記録媒体、物体検出装置、物体検出方法及び物体検出システム
US20140359451A1 (en) Computer-readable non-transitory storage medium with image processing program stored thereon, image processing device, and image processing system
US11551383B2 (en) Image generating apparatus, image generating method, and program for generating an image using pixel values stored in advance
JP7107015B2 (ja) 点群処理装置、点群処理方法およびプログラム
JP6564259B2 (ja) 画像処理装置、画像処理方法
US10068375B2 (en) Information processing apparatus, information processing method, and recording medium
KR20190068880A (ko) Vr 기반의 프레젠테이션 문서의 출력이 가능한 hmd 장치 및 그 동작 방법
US20200258193A1 (en) Information processing apparatus, information processing method, and storage medium
JP2001184373A (ja) 図面生成方法およびシステムおよび3次元モデルデータから2次元図面を生成する図面生成プログラムを記録したコンピュータ読み取り可能な記録媒体
JP6436872B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6482307B2 (ja) 情報処理装置およびその方法
KR20200046538A (ko) 3차원 컬러 블록 생성 방법 및 시스템
KR20200043670A (ko) 3차원 블록 정보 생성 방법 및 시스템
JP4233598B1 (ja) 画像処理プログラム、画像処理装置、および画像処理方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180622

R151 Written notification of patent or utility model registration

Ref document number: 6360567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151