JPWO2015118756A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2015118756A1
JPWO2015118756A1 JP2015561166A JP2015561166A JPWO2015118756A1 JP WO2015118756 A1 JPWO2015118756 A1 JP WO2015118756A1 JP 2015561166 A JP2015561166 A JP 2015561166A JP 2015561166 A JP2015561166 A JP 2015561166A JP WO2015118756 A1 JPWO2015118756 A1 JP WO2015118756A1
Authority
JP
Japan
Prior art keywords
information processing
processing apparatus
principal component
display screen
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015561166A
Other languages
English (en)
Other versions
JP6447521B2 (ja
Inventor
石綿 克利
克利 石綿
聡嗣 鈴木
聡嗣 鈴木
岡本 直也
直也 岡本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2015118756A1 publication Critical patent/JPWO2015118756A1/ja
Application granted granted Critical
Publication of JP6447521B2 publication Critical patent/JP6447521B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Position Input By Displaying (AREA)

Abstract

表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するポイントクラウド生成部と、生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、表示画面において指定された指定位置を決定する位置決定部と、を備える、情報処理装置が提供される。【選択図】図14

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
近年、例えば、操作者のジェスチャに基づく機器の操作に係る技術が開発されている。操作者のジェスチャに基づく機器の操作に係る技術としては、例えば下記の特許文献1に記載の技術が挙げられる。
特開2013−205983号公報
例えば特許文献1に記載の技術では、学習された人体の三次元モデルデータに基づいて、操作者の手のジェスチャが認識される。よって、例えば特許文献1に記載の技術を用いることによって、操作者のジェスチャによる、表示画面において位置を指定する操作(以下、「ポインティング操作」と示す場合がある。)を実現することができる可能性はある。
しかしながら、学習された人体の三次元モデルデータによりジェスチャの認識が行われる場合には、例えば機械学習の精度などに起因して、操作者が意図するポインティング操作を安定して実現することができるとは限らない。
本開示では、距離画像に基づいて表示画面における指定位置を決定することが可能な、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するポイントクラウド生成部と、生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、上記表示画面において指定された指定位置を決定する位置決定部と、を備える、情報処理装置が提供される。
また、本開示によれば、表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップと、生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、上記表示画面において指定された指定位置を決定するステップと、を有する、情報処理装置により実行される情報処理方法が提供される。
また、本開示によれば、表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップ、生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、上記表示画面において指定された指定位置を決定するステップ、をコンピュータに実行させるためのプログラムが提供される。
本開示によれば、距離画像に基づいて表示画面における指定位置を決定することができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。 本実施形態に係るステレオ画像の一例を示す説明図である。 本実施形態に係る距離画像の一例を示す説明図である。 本実施形態に係るポイントクラウドの一例を示す説明図である。 本実施形態に係る情報処理方法に係る処理を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係るオフセット量決定処理の一例を示す流れ図である。 本実施形態に係るキャリブレーション用のオブジェクトが表示された表示画面の一例を示す説明図である。 本実施形態に係る情報処理装置の構成の一例を示すブロック図である。 本実施形態に係る情報処理装置のハードウェア構成の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る情報処理方法
2.本実施形態に係る情報処理装置
3.本実施形態に係るプログラム
(本実施形態に係る情報処理方法)
本実施形態に係る情報処理装置の構成について説明する前に、まず、本実施形態に係る情報処理方法について説明する。以下では、本実施形態に係る情報処理方法に係る処理を、本実施形態に係る情報処理装置が行う場合を例に挙げて、本実施形態に係る情報処理方法について説明する。
[1]本実施形態に係る情報処理方法に係る処理の概要
本実施形態に係る情報処理装置は、例えば、表示画面からオブジェクトまでの距離に相当する距離が表される距離画像に基づいて、表示画面に対して指定された表示画面の位置(以下、「指定位置」と示す。)を決定する。
本実施形態に係る距離画像は、例えば、表示画面側から表示画面に対向する方向が撮像されることにより生成されたステレオ画像に基づいて、生成される。本実施形態に係るステレオ画像とは、例えば、撮像位置を平行にずらして撮像デバイスにより撮像された2つの撮像画像である。本実施形態に係るステレオ画像を構成する2つの撮像画像は、例えば、立体視を実現する場合における、ユーザの右目に対応する右目画像と、ユーザの左目に対応する左目画像とに対応する。本実施形態に係る距離画像は、例えば、三角測量の原理を用いる方法など、ステレオ画像から距離画像を生成することが可能な任意の技術を用いて生成される。ステレオ画像の生成に係る撮像デバイスは、例えば、表示画面側から表示画面に対向する方向が撮像されるように配置される。
なお、本実施形態に係る距離画像は、ステレオ画像に基づき生成される距離画像に限られない。例えば、本実施形態に係る距離画像は、例えば、ToF(Time of Flight)方式や、ストラクチャードライト方式などの距離画像を生成することが可能な任意の方式により生成された画像であってもよい。ToF方式などで距離画像を生成する距離画像センサは、例えば、表示画面側から表示画面に対向する方向に対応する距離画像を生成するように配置される。
本実施形態に係る距離画像の生成に係る処理は、例えば、本実施形態に係る情報処理装置が備える距離画像センサや、本実施形態に係る情報処理装置と有線または無線により通信可能な外部の距離画像センサにより生成される。本実施形態に係る距離画像センサとしては、例えば、パッシブ型の深度センサ(ステレオ画像の視差により距離画像を生成する深度センサ)や、アクティブ型の深度センサ(例えば、ToF方式の深度センサや、ストラクチャードライト方式の深度センサ)が挙げられる。
なお、本実施形態に係る距離画像の生成に係る処理は、距離画像センサにより行われることに限られない。例えば、ステレオ画像から距離画像が生成される場合には、本実施形態に係る情報処理装置は、本実施形態に係る情報処理装置が備える撮像デバイスや、本実施形態に係る情報処理装置と有線または無線により通信可能な外部の撮像デバイスにおいて生成されたステレオ画像から、距離画像を生成することも可能である。
ここで、本実施形態に係る距離画像が示すオブジェクトまでの距離は、厳密には、距離画像センサからオブジェクトまでの距離、または、ステレオ画像の生成に係る撮像デバイスからオブジェクトまでの距離に該当する。しかしながら、上記のように、例えば、距離画像センサは、表示画面側から表示画面に対向する方向に対応する距離画像を生成するように配置され、また、ステレオ画像の生成に係る撮像デバイスは、表示画面側から表示画面に対向する方向が撮像されるように配置される。よって、本実施形態に係る距離画像が示すオブジェクトまでの距離は、表示画面からオブジェクトまでの距離に相当する距離と捉えることが可能である。
以下では、本実施形態に係る距離画像が、距離画像センサにおいてステレオ画像に基づき生成される場合を主に例に挙げる。
より具体的には、本実施形態に係る情報処理装置は、例えば、下記の(1)ポイントクラウド生成処理、および(2)指定位置決定処理を行うことによって、距離画像に基づいて表示画面における指定位置を決定する。
(1)ポイントクラウド生成処理
本実施形態に係る情報処理装置は、距離画像からポイントクラウドを生成する。
ここで、ポイントクラウドとは、2次元の画像で表現される距離画像上の観測点を、3次元空間上に置き換えたものであり、3次元座標で表現される点の集合(以下、「点群」と示す。)である。ポイントクラウドは、オブジェクトの表面を点群で表現したものである。本実施形態に係る情報処理装置は、例えば、距離画像に含まれるオブジェクトの表面を、水平方向の座標x、垂直方向の座標y、深度値zで表される点(x,y,z)を含む点群で表現することにより、距離画像からポイントクラウドを生成する。ここで、ポイントクラウドの各点の3次元座標は、例えば、表示画面上の所定の位置(例えば、表示画面の中心位置や、表示画面の左端上の位置など)など、設定された位置を原点として表される。
具体例を挙げると、距離画像センサの水平画素数を“w”、距離画像センサの垂直画素数を“h”、距離画像上の画素(u,v)における深度値を“d”、距離画像センサの水平画角を“haov”、距離画像センサの垂直画角を“vaov”とすると、本実施形態に係る情報処理装置は、例えば、下記の数式1〜数式3により、ポイントクラウドを生成する。ここで、距離画像が、距離画像センサからの絶対距離を示し、距離画像センサの画角が既知である場合には、本実施形態に係る情報処理装置は、下記の数式1〜数式3によって、実スケールのポイントクラウドを生成することができる。
Figure 2015118756
Figure 2015118756
Figure 2015118756
なお、本実施形態に係るポイントクラウド生成処理は、上記数式1〜上記数式3に示す演算によりポイントクラウドを生成することに限られない。本実施形態に係る情報処理装置は、例えば、ポイントクラウドを生成することが可能な任意の技術を利用して、ポイントクラウドを生成してもよい。
(2)指定位置決定処理
本実施形態に係る情報処理装置は、上記(1)の処理(ポイントクラウド生成処理)により生成されたポイントクラウドに対して主成分分析(Principal Component Analysis)を行い、主成分分析の分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出する。ここで、本実施形態に係る位置指定に関するオブジェクトとしては、例えば、操作者の腕部分や、指示棒などの操作者が位置の指定に用いることが可能な任意のデバイスなどが挙げられる。
そして、本実施形態に係る情報処理装置は、検出された位置指定に関するオブジェクトに対応するベクトルに基づいて、指定位置を決定する。本実施形態に係る情報処理装置は、例えば、主成分分析が行われた点群における所定の位置を起点とする、位置指定に関するオブジェクトに対応するベクトルである第1主成分のベクトルと、表示画面との交点を求める。そして、本実施形態に係る情報処理装置は、表示画面における求められた交点に対応する位置を、指定位置として決定する。上記主成分分析が行われた点群における所定の位置としては、例えば、点群の重心位置などが挙げられる。
本実施形態に係る情報処理装置は、主成分分析の結果得られる第1主成分のベクトルを、位置指定に関するオブジェクトに対応するベクトルとする。第1主成分は、ポイントクラウドを構成する点群において最も分散が大きい方向に対応する直線で表される。
ここで、本実施形態に係る情報処理装置は、例えば、第1主成分の主成分スコアと、主成分分析の結果得られる第2主成分の主成分スコアとの比較結果に基づいて、第1主成分のベクトルと表示画面との交点を選択的に求める。
第1主成分の主成分スコアは、“ポイントクラウドを構成する点群において最も分散が大きい方向に対応する直線に対して、ポイントクラウドを構成する各点の座標を代入して得られる値の和”である。また、第2主成分は、ポイントクラウドを構成する点群において2番目に分散が大きい方向に対応する直線で表される。第2主成分の主成分スコアは、“ポイントクラウドを構成する点群において2番目に分散が大きい方向に対応する直線に対して、ポイントクラウドを構成する各点の座標を代入して得られる値の和”である。つまり、主成分スコアが最も大きなものが第1主成分であり、主成分が2番目に大きなものが第2主成分である。
本実施形態に係る情報処理装置は、例えば、第1主成分の主成分スコアと第2主成分の主成分スコアとの比が、設定されている閾値以上である場合(または、当該比が、当該閾値よりも大きい場合。以下、同様とする。)に、第1主成分のベクトルと表示画面との交点を求める。また、本実施形態に係る情報処理装置は、例えば、第1主成分の主成分スコアと第2主成分の主成分スコアとの比が、設定されている閾値よりも小さい場合(または、当該比が、当該閾値以下である場合。以下、同様とする。)には、第1主成分のベクトルと表示画面との交点を求めない。
本実施形態に係る閾値は、例えば、操作者が指さし動作などの位置の指定に係る所定の動作を行った場合に、第1主成分のベクトルと表示画面との交点が求められ、操作者が当該所定の動作を行わない場合に第1主成分のベクトルと表示画面との交点が求められないような値が、設定される(例えば、実験により最適値が設定される。)。なお、本実施形態に係る閾値は、ユーザ操作などによる調整が可能であってもよい。
例えば上記のように、第1主成分の主成分スコアと第2主成分の主成分スコアとの比較結果に基づいて、第1主成分のベクトルと表示画面との交点を選択的に求めることによって、例えば、操作者が指さし動作などの位置の指定に係る所定の動作を行っていないにも関わらず指定位置が決定されることを、防止することが可能となる。
なお、本実施形態に係る指定位置決定処理の具体例については、後述する。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば、上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)を行う。本実施形態に係る情報処理装置は、上記(2)の処理(指定位置決定処理)において、上記(1)の処理(ポイントクラウド生成処理)において距離画像に基づき生成されたポイントクラウドに対して主成分分析を行った分析結果に基づき、第1主成分のベクトルと表示画面との交点に対応する位置を、指定位置として決定する。
したがって、本実施形態に係る情報処理装置は、距離画像に基づいて表示画面における指定位置を決定することができる。
また、距離画像に基づいて表示画面における指定位置を決定することが可能であるので、本実施形態に係る情報処理装置は、表示画面における指定位置を、安定して決定することができる。
また、ポイントクラウドに対して主成分分析を行った分析結果に基づき検出される位置指定に関するオブジェクトに対応するベクトルによって、表示画面における指定位置が決定されるので、本実施形態に係る情報処理装置は、表示画面における指定位置を精度よく決定することができる。
さらに、ポイントクラウドに対して主成分分析を行った分析結果に基づき指定位置が決定されるので、例えば、操作者の腕(位置指定に関するオブジェクトの一例)のみが距離画像に含まれる場合であっても、本実施形態に係る情報処理装置は、表示画面における指定位置を決定することができる。
[2]本実施形態に係る情報処理方法に係る処理の具体例
図1は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、表示デバイス10と、距離画像センサ(または撮像デバイス)12との位置関係の一例を示している。また、図1では、操作者Uが、指さしによりポインティング操作を行っている例を示している。本実施形態に係る情報処理装置は、距離画像センサ(または撮像デバイス)12から取得された距離画像(または、ステレオ画像)を処理して、表示デバイス10の表示画面における指定位置Pを決定する。なお、図1では、本実施形態に係る情報処理装置を図示していないが、例えば、表示デバイス10が本実施形態に係る情報処理装置の役目を果たしてもよく、また、距離画像センサ(または撮像デバイス)12が本実施形態に係る情報処理装置の役目を果たしてもよい。
図1に示すように、距離画像センサ(または撮像デバイス)12は、表示デバイス10の下部に設置され、表示デバイス10の表示画面側に対向する操作者を観測する。
なお、表示デバイス10と、距離画像センサ(または撮像デバイス)12との位置関係は、図1に示す例に限られない。
図2は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、表示デバイス10と、距離画像センサ(または撮像デバイス)12との位置関係の他の例を示している。
距離画像センサ(または撮像デバイス)12は、例えば図2に示すように、表示デバイス10の表示画面の下方、上方、右方、左方のいずれかに配置することが可能である。
ここで、距離画像センサ(または撮像デバイス)12が、表示画面の下方に配置される場合には、例えば図1、図2に示すように、距離画像センサ(または撮像デバイス)12を床に配置すればよいので、配置が容易であるという利点をさらに有する。また、距離画像センサ(または撮像デバイス)12が、表示画面の上方に配置される場合には、例えば、重力により操作者が着ている服が本実施形態に係る情報処理方法に係る処理に与える影響小さく、また、腕から指先まで比較的平らであることなどから、位置指定に関するオブジェクトに対応するベクトルをより安定して検出することができるという利点をさらに有する。
また、距離画像センサ(または撮像デバイス)12は、例えば、“距離画像が示すオブジェクトまでの距離が、表示画面からオブジェクトまでの距離に相当する距離とみなせる距離”内であって、距離画像センサ(または撮像デバイス)12を配置することが可能な、表示デバイス10との間の距離がより長い距離となる位置に、配置される。上記のように距離画像センサ(または撮像デバイス)12が配置されることによって、本実施形態に係る情報処理装置により決定される表示画面における指定位置の精度を、より向上させることが可能となる。
また、設置される距離画像センサ(または撮像デバイス)12の数、および、表示デバイス10と距離画像センサ(または撮像デバイス)12との位置関係は、図1に示す例に限られない。
図3、図4は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、設置される距離画像センサ(または撮像デバイス)12の数、および、表示デバイス10と距離画像センサ(または撮像デバイス)12との位置関係の他の例を示している。図4は、図3における、センサ数が2で“表示画面下方、表示画面右方”に、距離画像センサ(または撮像デバイス)12Aと、距離画像センサ(または撮像デバイス)12Bとが配置されている例を示している。
ここで、図4に示す、設置される距離画像センサ(または撮像デバイス)12の数、および、表示デバイス10と距離画像センサ(または撮像デバイス)12との位置関係の各ケースは、例えば下記の(a)〜(f)に示すような利点をさらに有する。
(a)センサ数が2で“表示画面上方、表示画面左方”に距離画像センサ(または撮像デバイス)12が配置される場合
“1番目に決定される指定位置の精度をより向上させることができるという利点”と、“操作者が1人である場合における、左手を用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
(b)センサ数が2で“表示画面上方、表示画面右方”に距離画像センサ(または撮像デバイス)12が配置される場合
“1番目に決定される指定位置の精度をより向上させることができるという利点”と、“操作者が1人である場合における、右手を用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
(c)センサ数が2で“表示画面下方、表示画面左方”に距離画像センサ(または撮像デバイス)12が配置される場合
“1番目に決定される指定位置の精度をより向上させることができるという利点”と、“操作者が1人である場合における、左手を用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
(d)センサ数が2で“表示画面下方、表示画面右方”に距離画像センサ(または撮像デバイス)12が配置される場合
“1番目に決定される指定位置の精度をより向上させることができるという利点”と、“操作者が1人である場合における、右手を用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
(e)センサ数が3で“表示画面上方、表示画面左方、表示画面右方”に距離画像センサ(または撮像デバイス)12が配置される場合
“操作者が1人である場合における、右手および左手それぞれを用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
(f)センサ数が3で“表示画面下方、表示画面左方、表示画面右方”に距離画像センサ(または撮像デバイス)12が配置される場合
“操作者が1人である場合における、右手および左手それぞれを用いたポインティング操作に対応する指定位置の精度をより向上させることができるという利点”がある。
例えば図3、図4に示すように、複数の距離画像センサ(または撮像デバイス)に基づく、複数の距離画像を処理して指定位置を決定する場合、本実施形態に係る情報処理装置は、上記(1)の処理(ポイントクラウド生成処理)において、各距離画像からポイントクラウドをそれぞれ生成する。
また、複数の距離画像センサ(または撮像デバイス)に基づく、複数の距離画像を処理して指定位置を決定する場合、本実施形態に係る情報処理装置は、上記(2)の処理(指定位置決定処理)では、例えば、生成された複数のポイントクラウドをマージする。そして、本実施形態に係る情報処理装置は、マージされた1つのポイントクラウドを処理することによって、複数の距離画像に対応する指定位置を決定する。
なお、複数の距離画像センサ(または撮像デバイス)に基づく、複数の距離画像を処理して指定位置を決定する場合における、上記(2)の処理(指定位置決定処理)は、複数のポイントクラウドをマージして行う処理に限られない。
例えば、本実施形態に係る情報処理装置は、生成された複数のポイントクラウドそれぞれに対して上記(2)の処理(指定位置決定処理)を行って、複数のポイントクラウドそれぞれに対応する指定位置を決定する。そして、本実施形態に係る情報処理装置は、複数のポイントクラウドそれぞれに対応する、表示画面における指定位置のx座標(水平方向成分に対応する座標)と、当該表示画面における指定位置のy座標(垂直方向成分に対応する座標)とをマージすることによって、複数の距離画像に対応する指定位置を決定する。本実施形態に係る情報処理装置は、例えば、複数のポイントクラウドそれぞれに対応する、表示画面における指定位置のx座標の平均値と、当該表示画面における指定位置のy座標の平均値とを算出することによって、当該表示画面における指定位置のx座標と当該表示画面における指定位置のy座標とを、マージする。
例えば図3、図4に示すように、複数の距離画像センサ(または撮像デバイス)に基づく、複数の距離画像を処理する場合には、本実施形態に係る情報処理装置は、例えば上記のような処理を行うことによって、指定位置を決定する。
以下、図1に示す状況を例に挙げて、本実施形態に係る情報処理方法に係る処理について、より具体的に説明する。
図5は、本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。ここで、図5では、ステップS104の処理が、上記(1)の処理(ポイントクラウド生成処理)に該当し、ステップS106〜S112の処理が、上記(2)の処理(指定位置決定処理)の一例に該当する。
また、図5では、本実施形態に係る情報処理装置が、撮像デバイスにより撮像されたステレオ画像に基づき距離画像を生成する場合における処理を示している。なお、本実施形態に係る情報処理装置が、距離画像センサから取得された距離画像を処理する場合には、本実施形態に係る情報処理装置は、図5に示すステップS100の処理において距離画像を判定対象とし、図5に示すステップS102の処理を行わない。
本実施形態に係る情報処理装置は、ステレオ画像が取得されたか否かを判定する(S100)。ステップS100においてステレオ画像が取得されたと判定されない場合には、本実施形態に係る情報処理装置は、処理を進めない。
また、ステップS100においてステレオ画像が取得されたと判定された場合には、本実施形態に係る情報処理装置は、ステレオ画像に基づいて距離画像を生成する(S102)。本実施形態に係る情報処理装置は、ステレオ画像における視差から距離画像を生成する。本実施形態に係る情報処理装置は、例えば、三角測量の原理を用いる方法など、ステレオ画像から距離画像を生成することが可能な任意の技術を用いて距離画像を生成する。
図6は、本実施形態に係るステレオ画像の一例を示す説明図であり、ステレオ画像を構成する一の画像(右目画像に該当する画像)の一例を示している。また、図7は、本実施形態に係る距離画像の一例を示す説明図である。
本実施形態に係る情報処理装置は、例えば図7に示すような距離画像からポイントクラウドを生成する(S104)。本実施形態に係る情報処理装置は、例えば、距離画像上の各画素に対して、上記数式1〜上記数式3に示す演算を行うことによって、ポイントクラウドを生成する。
ここで、距離画像が距離画像センサからの絶対距離を示す、すなわち、距離画像から実スケールの深度情報が得られ、また、距離画像センサの画角が既知である場合には、本実施形態に係る情報処理装置は、上記数式1〜上記数式3により実スケールのポイントクラウドを生成することができる。また、上記の場合において実スケールのポイントクラウドが生成されることによって、実スケールの3次元空間を再現することが可能となる。
図8は、本実施形態に係るポイントクラウドの一例を示す説明図であり、図7に示す距離画像から生成されたポイントクラウドの一例を示している。
本実施形態に係る情報処理装置は、ポイントクラウドから表示画面に近い点群を抽出する(S106)。
本実施形態に係る情報処理装置は、例えば、ポイントクラウドを構成する点群のうちから、深度値zが最も小さい点を、表示画面に最も近い点(以下、「突端」と示す場合がある。)として検出する。そして、本実施形態に係る情報処理装置は、表示画面に最も近い点を中心とした、設定された所定の半径の球内に含まれる点群を抽出する。上記所定の半径は、予め設定された固定値であってもよいし、ユーザなどが調整可能な可変値であってもよい。なお、本実施形態に係る情報処理装置は、表示画面に最も近い点を内部に含む、設定された所定の形状の空間に含まれる点群を、抽出することも可能である。
本実施形態に係る情報処理装置は、抽出された点群に対して、主成分分析を行う(S108)。
ここで、本実施形態に係る情報処理装置は、例えば、抽出された点群をセグメンテーションして、複数の点群に分割する。本実施形態に係る情報処理装置は、例えば、3D点群処理ライブラリ(Point Cloud Library。以下「PCL」と示す。)の“Euclidean Cluster”を利用して、抽出された点群を複数の点群に分割する。そして、本実施形態に係る情報処理装置は、分割された点群のうちの、含まれる点の数が最も多い点群に対して、主成分分析を行う。
例えば、抽出された点群をセグメンテーションした上で、抽出された点群に含まれる一部の点群に対して主成分分析を行うことによって、位置指定に関するオブジェクト以外のオブジェクトに対応する点群による、主成分分析の結果への影響を排除することが可能となる。よって、抽出された点群をセグメンテーションした上で、抽出された点群に含まれる一部の点群に対して主成分分析を行うことによって、本実施形態に係る情報処理装置は、決定される表示画面における指定位置の精度をより向上させることができる。
ステップS108において主成分分析が行われると、本実施形態に係る情報処理装置は、第1主成分の主成分スコアと第2主成分の主成分スコアとの比(例えば、“第1主成分の主成分スコア/第2主成分の主成分スコア”)が、所定の閾値以上であるか否かを判定する(S110)。第1主成分の主成分スコアと第2主成分の主成分スコアとの比が、“第1主成分の主成分スコア/第2主成分の主成分スコア”で表される場合、本実施形態に係る所定の閾値としては、例えば、“5”などの設定された値が挙げられる。本実施形態に係る所定の閾値は、予め設定された固定値であってもよいし、ユーザなどが調整可能な可変値であってもよい。
ここで、ステップS110において、第1主成分の主成分スコアと第2主成分の主成分スコアとの比が所定の閾値以上であると判定された場合とは、主成分分析を行った点群に対応するオブジェクトが、棒状のオブジェクト(位置指定に関するオブジェクトの一例)と判定されることに該当する。
図9は、本実施形態に係る情報処理方法に係る処理を説明するための説明図であり、図8に示すポイントクラウドにおける第1主成分と第2主成分との一例を示している。図9に示すAは、第1主成分に対応する直線の一例を示し、図9に示すBは、第2主成分に対応する直線の一例を示している。
ステップS110において、第1主成分の主成分スコアと第2主成分の主成分スコアとの比が所定の閾値以上であると判定されない場合には、本実施形態に係る情報処理装置は、指定位置を決定せずに処理を終了する。
また、ステップS110において、第1主成分の主成分スコアと第2主成分の主成分スコアとの比が所定の閾値以上であると判定された場合には、本実施形態に係る情報処理装置は、第1主成分のベクトルと表示画面との交点を求め、表示画面における求められた交点に対応する位置を、指定位置として決定する(S112)。本実施形態に係る情報処理装置は、例えば、点群の重心位置などの、点群における所定の位置を起点とする第1主成分のベクトルと表示画面との交点を、指定位置として決定する。上記点群における所定の位置は、予め設定されていてもよいし、ユーザなどが調整可能であってもよい。
図10は、本実施形態に係る情報処理方法に係る処理を説明するための説明図である。図10に示すように、第1主成分のベクトルVと表示デバイス10の表示画面との交点が、指定位置Pとして決定される。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば図5に示す処理を行うことによって、距離画像に基づいて表示画面における指定位置を決定する。
なお、本実施形態に係る情報処理方法に係る処理は、図5に示す処理に限られない。
例えば、本実施形態に係る情報処理装置は、図5のステップS104において生成されたポイントクラウドに対して、ステップS106〜S112の処理を繰り返してもよい。
より具体的には、本実施形態に係る情報処理装置は、例えば図5のステップS108において主成分分析を行った場合には、図5のステップS104において生成されたポイントクラウドに対して主成分分析を行った回数が、6回などの設定された所定の回数に関する条件を満たすかを判定する。上記所定の回数に関する条件としては、主成分分析を行った回数が所定の回数以上であることや、主成分分析を行った回数が所定の回数より大きいことなどが挙げられる。上記所定の回数に関する条件は、予め設定された固定の条件であってもよいし、ユーザなどにより適宜変更可能な条件であってもよい。
上記所定の回数に関する条件を満たすと判定されない場合には、本実施形態に係る情報処理装置は、主成分分析が行われた点群を処理対象から外して、再度、図5のステップS106以降の処理を行う。
また、上記所定の回数に関する条件を満たすと判定された場合には、本実施形態に係る情報処理装置は、ステップS106〜S112の処理を繰り返さずに、処理を終了する。
例えば上記のように、設定された所定の回数に関する条件の判定結果に応じて、図10に示すステップS106〜S112の処理を繰り返すことによって、本実施形態に係る情報処理装置は、例えば、操作者の両手による指差しや、複数の操作者による指差しなどに対応する、複数の指定位置を決定することができる。
次に、上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)に該当する、図5に示すステップS104〜S112の処理における処理について、より具体的に説明する。
図11は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。図11のA〜図11のIは、本実施形態に係る情報処理方法に係る処理を時系列に示している。また、図11のA〜図11のCは、図5に示すステップS104に示す処理、すなわち、上記(1)の処理(ポイントクラウド生成処理)に該当する。また、図11のD〜図11のIは、図5に示すステップS112の処理、すなわち、上記(2)の処理(指定位置決定処理)に該当する。
図11のAは、距離画像に基づき生成されたポイントクラウドの一例を示している。以下、図11では、本実施形態に係る情報処理装置が、図11のAに示す点群に対して処理を行うものとする。
本実施形態に係る情報処理装置は、図11のAに示す点群に対して、フィルタ処理を行う。本実施形態に係る情報処理装置は、例えば、PCLの“Pass Through Filter”(オクルージョンの深度0などの処理において無効な点群を削除するフィルタ)や、PCLの“Voxel Grid Filter”(15[mm]空間において代表点におきかえるダウンサンプリングのためのフィルタ)、“Outlier Removal Filter”(空間上に散っている外れ点(ゴミ)を削除するフィルタ)を用いる。なお、本実施形態に係る情報処理装置がフィルタ処理に用いるフィルタが、上記に示す例に限られないことは、言うまでもない。
図11に示すBは、図11のAに示す点群に対してフィルタ処理が行われた結果の一例を示している。フィルタ処理が行われることによって、計算量の削減と、位置指定に関するオブジェクトの誤認識の防止との効果を奏することができる。
本実施形態に係る情報処理装置は、図11のBに示すフィルタ処理後の点群に対して回転行列(移動行列)を乗算し、点群を移動させる。本実施形態に係る情報処理装置は、例えば、表示画面の中心位置などの表示画面における所定の位置から観測された場合に対応するように、点群を移動させる。例えば、距離画像センサ12が、図2に示す表示画面上方に設置されている場合には、本実施形態に係る情報処理装置は、Pitch方向の回転と、垂直方向の移動とを行う。図11に示すCは、図11のBに示すフィルタ処理後の点群を移動させる場合の概念図を示している。
図11のCに示すような点群の移動を行うことによって、本実施形態に係る情報処理装置は、位置指定に関するオブジェクトに対応するベクトルの検出に係る処理をより簡易な処理とすることができる。
本実施形態に係る情報処理装置は、図5に示すステップS104において、例えば図11のA〜図11のCを参照して示した処理を行う。
本実施形態に係る情報処理装置は、図11のDに示すように、点群を構成する全ての点の中から、深度値zが最も小さい点を、突端として検出する。図11のDに示す処理は、図5に示すステップS106に該当する。
本実施形態に係る情報処理装置は、図11のEに示すように、例えば、図11のDに示す処理において検出された点(突端)を中心に、半径300[mm](所定の半径の一例)の球内に含まれる点を抽出する。図11のEでは、複数の点からなる点群が抽出された例を示している。
本実施形態に係る情報処理装置は、図11のFに示すように、図11のEの処理により抽出された点群をセグメンテーションして、複数の点群に分割する。本実施形態に係る情報処理装置は、例えば、PCLの“Euclidean Cluster”を利用して、抽出された点群を複数の点群に分割する。
図11のFに示すように、セグメンテーションにより抽出された点群が複数の点群に分割されることによって、位置指定に関するオブジェクトと、他のオブジェクトとを分けることが可能となる。
本実施形態に係る情報処理装置は、図11のFにおいて分割された点群のうちの、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群であるか否かを判定する。ここで、上記の判定に係る処理は、図11のFにおいて分割された点群のうちの、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群と繋がっているか否かを判定する処理に相当する。図11のGは、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群である場合の概念図を示している。
本実施形態に係る情報処理装置は、例えば、位置指定に関するオブジェクトに対応する点群に含まれる各点との距離が、設定された閾値以下の点(または、当該閾値より小さい点)が、上記含まれる点の数が最も多い点群に含まれる点である場合に、上記含まれる点の数が最も多い点群を、上記隣接する点を含む点群であると判定する。なお、図11のGに係る処理における判定方法は、上記に示す方法に限られず、本実施形態に係る情報処理装置は、例えば、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群と繋がっているか否かを判定することが可能な、任意の処理を行うことも可能である。
図11のGに係る処理において、図11のFにおいて分割された点群のうちの、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群であると判定された場合には、本実施形態に係る情報処理装置は、当該含まれる点の数が最も多い点群に対して主成分分析を行う。そして、本実施形態に係る情報処理装置は、位置指定に関するオブジェクトに対応するベクトルに該当する、第1主成分のベクトルと、表示画面との交点の位置を、選択的に求める。図11のHは、図11のFにおける、分割された点群のうちの含まれる点の数が最も多い点群に対して、主成分分析が行われる場合の概念図を示している。
また、図11のGに係る処理において、図11のFにおいて分割された点群のうちの、含まれる点の数が最も多い点群が、位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群であると判定されない場合には、本実施形態に係る情報処理装置は、当該含まれる点の数が最も多い点群に対して、主成分分析を行わない。そして、本実施形態に係る情報処理装置は、含まれる点の数が最も多い点群を、処理対象から外す。図11のIは、図11のFにおける、分割された点群のうちの含まれる点の数が最も多い点群を、処理対象から外す場合の概念図を示している。
本実施形態に係る情報処理装置は、例えば、分割された点群のうちの含まれる点の数が最も多い点群を構成する各点の深度値zを“9999999”などに書き換えることや、当該含まれる点の数が最も多い点群を削除することによって、当該含まれる点の数が最も多い点群を、処理対象から外す。
本実施形態に係る情報処理装置は、図5に示すステップS108〜S112において、例えば図11のD〜図11のIを参照して示した処理を行う。
また、本実施形態に係る情報処理装置は、上述したように、図11のAに示す生成されたポイントクラウドに対して主成分分析を行った回数が、所定の回数に関する条件を満たすかを判定してもよい。本実施形態に係る情報処理装置は、上記所定の回数に関する条件を満たすと判定されない場合には、主成分分析が行われた点群を処理対象から外して、再度、図11のDからの処理(図5におけるステップS106からの処理に該当する。)を繰り返す。
[3]本実施形態に係る情報処理方法に係る他の処理
本実施形態に係る情報処理装置は、上述したように、本実施形態に係る情報処理方法に係る処理として、例えば、上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)を行うことによって、距離画像に基づいて表示画面における指定位置を決定する。
なお、本実施形態に係る情報処理方法に係る処理は、上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)に限られない。例えば、本実施形態に係る情報処理方法に係る処理により、精度よく指定位置を決定することが可能であるが、例えば、操作者となるユーザごとの感覚的要因などによって、決定された表示画面における位置と、操作者が期待する位置との間にずれが生じる可能性がある。
そこで、本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、(3)指定位置を調整するためのオフセット量を決定する処理(以下、「オフセット量決定処理」と示す。)を行う。
(3−1)オフセット量決定処理の第1の例
本実施形態に係る情報処理装置は、例えば、表示画面における所定の位置と、上記(2)の処理(指定位置決定処理)により決定された指定位置とに基づいて、オフセット量を決定する。
より具体的には、本実施形態に係る情報処理装置は、例えば、操作者が表示画面における特定の位置(表示画面における特定の点の位置や、特定の領域内の位置)を指定した場合において決定された指定位置と、当該特定の位置に対応する位置との差を、x座標(水平方向成分に対応する座標)、y座標(垂直方向成分に対応する座標)それぞれについて求める。そして、本実施形態に係る情報処理装置は、求められたx座標の差を、表示画面における指定位置のx座標を調整するためのオフセット量として決定し、また、求められたy座標の差を、表示画面における指定位置のy座標を調整するためのオフセット量として決定する。
(3−2)オフセット量決定処理の第2の例
なお、本実施形態に係るオフセット量は、上記に限られない。本実施形態に係るオフセット量は、主成分分析の第1主成分のベクトルのYaw角度を調整する角度と、主成分分析の第1主成分のベクトルのPitch角度を調整する角度とであってもよい。
本実施形態に係る情報処理装置は、例えば、“主成分分析の結果得られる第1主成分のベクトル(位置指定に関するオブジェクトに対応するベクトル)”と、“位置指定に関するオブジェクトに対応する所定の位置から表示画面における所定の位置方向のベクトル”との差に基づいて、上記Yaw角度を調整する角度と、上記Pitch角度を調整する角度とを、オフセット量として決定する。ここで、位置指定に関するオブジェクトに対応する所定の位置としては、例えば、位置指定に関するオブジェクトに対応する点群の重心位置などが挙げられる。
本実施形態に係る情報処理装置は、例えば、上記(3−1)に示す第1の例に係るオフセット量決定処理や、上記(3−2)に示す第2の例に係るオフセット量決定処理を行うことによって、オフセット量を決定する。
オフセット量が決定されると、本実施形態に係る情報処理装置は、決定されたオフセット量を、例えば、本実施形態に係る情報処理装置が備える記憶部(後述する)や、本実施形態に係る情報処理装置に接続されている外部記録媒体などに記録させる。
また、オフセット量が決定された場合、本実施形態に係る情報処理装置は、例えば、操作者を示すデータ(例えば、操作者を示すIDなど)と、決定されたオフセット量とを対応付けて記録媒体に記録させてもよい。本実施形態に係る情報処理装置は、“顔認識や音声認識などの生体認識”や、“IDおよびパスワード”などにより認識された操作者の認識結果に基づいて、オフセット量とを対応付ける操作者を示すデータを特定する。ここで、操作者の認識に係る処理は、本実施形態に係る情報処理装置が行ってもよいし、本実施形態に係る情報処理装置の外部装置において行われてもよい。
また、オフセット量が決定された場合、本実施形態に係る情報処理装置は、例えば、操作者の操作に係る手を示すデータ(例えば、右手または左手を示すIDなど)と、決定されたオフセット量とを対応付けて記録媒体に記録させてもよい。本実施形態に係る情報処理装置は、例えば、表示画面側から表示画面に対向する方向が撮像された撮像画像に対する画像処理などにより得られる手の認識結果に基づいて、オフセット量とを対応付ける操作者の操作に係る手を示すデータを特定する。ここで、操作者の操作に係る手の認識に係る処理は、本実施形態に係る情報処理装置が行ってもよいし、本実施形態に係る情報処理装置の外部装置において行われてもよい。
さらに、オフセット量が決定された場合、本実施形態に係る情報処理装置は、例えば、操作者を示すデータ、操作者の操作に係る手を示すデータ、および決定されたオフセット量を対応付けて記録媒体に記録させてもよい。
なお、本実施形態に係るオフセット量決定処理は、上記(3−1)に示す第1の例に係るオフセット量決定処理や、上記(3−2)に示す第2の例に係るオフセット量決定処理に限られない。
例えば、本実施形態に係る情報処理装置は、操作者の認識結果に基づいて、操作者ごとに、選択的にオフセット量を決定してもよい。
本実施形態に係る情報処理装置は、例えば、生体認識などによって認識された操作者に対してオフセット量が決定されていない場合に、オフセット量を決定する。また、本実施形態に係る情報処理装置は、例えば、生体認識などによって認識された操作者に対して、オフセット量が決定されている場合には、オフセット量を決定しない。なお、認識された操作者に対してオフセット量が決定されている場合であっても、本実施形態に係る情報処理装置は、例えば、オフセット量の再決定を行うためのユーザ操作などに基づいて、オフセット量を決定することも可能である。
オフセット量決定処理が行われる場合には、本実施形態に係る情報処理装置は、上記(2)の処理(指定位置決定処理)において、決定されたオブセット量により指定位置を調整して、指定位置を決定する。
ここで、オブセット量が操作者ごとに決定される場合には、本実施形態に係る情報処理装置は、例えば、操作者の認識結果に基づいて、認識された操作者に対応するオブセット量により指定位置を調整する。また、オブセット量が操作者の操作に係る手ごとに決定される場合には、本実施形態に係る情報処理装置は、例えば、操作者の操作に係る手の認識結果に基づいて、認識された操作者の操作に係る手に対応するオブセット量により指定位置を調整する。さらに、オブセット量が操作者および操作者の操作に係る手ごとに決定される場合には、本実施形態に係る情報処理装置は、例えば、操作者の認識結果および操作者の操作に係る手の認識結果に基づいて、認識された操作者と認識された操作者の操作に係る手とに対応するオブセット量により、指定位置を調整することも可能である。
本実施形態に係るオブセット量が、x座標を調整するためのオフセット量およびy座標を調整するためのオフセット量である場合、本実施形態に係る情報処理装置は、例えば、決定した指定位置のx座標の値、y座標の値それぞれに、決定された対応するオブセット量を加算することによって、指定位置を調整する。また、本実施形態に係るオブセット量が、主成分分析の第1主成分のベクトルのYaw角度を調整する角度、および主成分分析の第1主成分のベクトルのPitch角度を調整する角度である場合、本実施形態に係る情報処理装置は、例えば、位置指定に関するオブジェクトに対応するベクトルを、オフセット量によって調整した上で、指定位置を決定する。
本実施形態に係る情報処理装置が、オフセット量決定処理を行い、上記(2)の処理(指定位置決定処理)において、決定されたオブセット量により指定位置を調整して指定位置を決定することによって、決定された表示画面における位置と、操作者が期待する位置との間のずれを補正することが可能となる。よって、本実施形態に係る情報処理装置が、オフセット量決定処理を行い、上記(2)の処理(指定位置決定処理)において、決定されたオブセット量により指定位置を調整して指定位置を決定することによって、操作者にとってより精度の高い指定位置を決定することができる。
以下、本実施形態に係るオフセット量決定処理の具体例について、説明する。図12は、本実施形態に係るオフセット量決定処理の一例を示す流れ図である。
本実施形態に係る情報処理装置は、キャリブレーション用のオブジェクトを表示画面に表示させる(S200)。本実施形態に係るキャリブレーション用のオブジェクトとは、操作者に、表示画面における特定の位置を指定させるためのオブジェクトである。本実施形態に係る特定の位置としては、例えば、キャリブレーション用のオブジェクトに含まれる設定された位置(例えば、キャリブレーション用のオブジェクトの中心位置など)が挙げられる。
図13は、本実施形態に係るキャリブレーション用のオブジェクトが表示された表示画面の一例を示す説明図である。図13に示すAが、本実施形態に係るキャリブレーション用のオブジェクトの一例であり、図13では、本実施形態に係るキャリブレーション用のオブジェクトとして、ログインボタンを示している。図13に示す例では、ログイン操作(操作開始のアクション)と、本実施形態に係るオフセット量決定処理とが同時に行われる。
ここで、図13に示すように、ログイン操作と、本実施形態に係るオフセット量決定処理とが同時に行われることによって、本実施形態に係る情報処理装置は、本実施形態に係るオフセット量決定処理のためだけの操作をユーザに行わせることなく、オフセット量を決定することができる。よって、図13に示すように、ログイン操作と、本実施形態に係るオフセット量決定処理とが同時に行われることによって、ユーザの負荷を軽減しつつ、オフセット量を決定することが可能となる。
なお、本実施形態に係るキャリブレーション用のオブジェクトがログインボタンに限られず、また、本実施形態に係るキャリブレーション用のオブジェクトが表示された表示画面とが、図13に示す例に限られないことは、言うまでもない。
本実施形態に係る情報処理装置は、表示画面上の指定位置を取得する(S202)。本実施形態に係る情報処理装置は、例えば、上記(2)の処理(指定位置決定処理)を行うことによって、指定位置を取得する。
本実施形態に係る情報処理装置は、キャリブレーション用のオブジェクト近くの位置が指定されているか否かを判定する(S204)。本実施形態に係る情報処理装置は、例えば、キャリブレーション用のオブジェクトにおける設定された位置と、ステップS204において取得された指定位置との距離が、設定された閾値以下の場合(または、当該距離が当該閾値より小さい場合)に、キャリブレーション用のオブジェクト近くの位置が指定されていると判定する。
ステップS204において、キャリブレーション用のオブジェクト近くの位置が指定されていると判定されない場合には、本実施形態に係る情報処理装置は、ステップS202からの処理を繰り返す。
また、ステップS204において、キャリブレーション用のオブジェクト近くの位置が指定されていると判定された場合には、本実施形態に係る情報処理装置は、キャリブレーション用のオブジェクト近くの位置が指定されている状態が、設定された一定時間継続しているか否かを判定する(S206)。
ステップS206において一定時間継続していると判定されない場合には、本実施形態に係る情報処理装置は、ステップS202からの処理を繰り返す。
また、ステップS206において一定時間継続していると判定された場合には、本実施形態に係る情報処理装置は、オフセット量を決定する(S208)。本実施形態に係る情報処理装置は、例えば、上記(3−1)に示す第1の例に係るオフセット量決定処理や、上記(3−2)に示す第2の例に係るオフセット量決定処理を行い、オフセット量を求めることによって、オフセット量を決定する。
本実施形態に係る情報処理装置は、本実施形態に係るオフセット量決定処理として、例えば図12に示す処理を行うことによって、オフセット量を決定する。
なお、本実施形態に係るオフセット量決定処理は、図12に示す例に限られない。例えば、本実施形態に係る情報処理装置は、生体認識などによって認識された操作者の認識結果に基づいて、図12のステップS200〜S208の処理(または、キャリブレーション用のオブジェクトが、図13に示すようにログインボタンのように他の処理と共有するオブジェクトの場合には、S202〜S208の処理)を、行わないことも可能である。
(本実施形態に係る情報処理装置)
次に、上述した本実施形態に係る情報処理方法に係る処理を行うことが可能な、本実施形態に係る情報処理装置の構成の一例について説明する。
図14は、本実施形態に係る情報処理装置100の構成の一例を示すブロック図である。情報処理装置100は、例えば、通信部102と、制御部104とを備える。
また、情報処理装置100は、例えば、ROM(Read Only Memory。図示せず)や、RAM(Random Access Memory。図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)などを備えていてもよい。情報処理装置100は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
ROM(図示せず)は、制御部104が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部104により実行されるプログラムなどを一時的に記憶する。
記憶部(図示せず)は、情報処理装置100が備える記憶手段であり、例えば、オフセット量を示すデータなどの本実施形態に係る情報処理方法に係るデータや、アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、情報処理装置100から着脱可能であってもよい。
操作部(図示せず)としては、後述する操作入力デバイスが挙げられる。また、表示部(図示せず)としては、後述する表示デバイスが挙げられる。なお、本実施形態に係る操作対象となる表示画面は、表示部(図示せず)の表示画面であってもよいし、情報処理装置100の外部の表示デバイスの表示画面であってもよい。
[情報処理装置100のハードウェア構成例]
図15は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示す説明図である。情報処理装置100は、例えば、MPU150と、ROM152と、RAM154と、記録媒体156と、入出力インタフェース158と、操作入力デバイス160と、表示デバイス162と、通信インタフェース164とを備える。また、情報処理装置100は、例えば、データの伝送路としてのバス166で各構成要素間を接続する。
MPU150は、例えば、MPU(Micro Processing Unit)などの演算回路で構成されるプロセッサや、各種処理回路などで構成され、情報処理装置100全体を制御する制御部104として機能する。また、MPU150は、情報処理装置100において、例えば、後述する距離画像生成部110、ポイントクラウド生成部112、位置決定部114、およびオフセット量決定部116の役目を果たす。
ROM152は、MPU150が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。RAM154は、例えば、MPU150により実行されるプログラムなどを一時的に記憶する。
記録媒体156は、記憶部(図示せず)として機能し、例えば、オフセット量を示すデータなどの本実施形態に係る情報処理方法に係るデータや、アプリケーションなど様々なデータを記憶する。ここで、記録媒体156としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体156は、情報処理装置100から着脱可能であってもよい。
入出力インタフェース158は、例えば、操作入力デバイス160や、表示デバイス162を接続する。操作入力デバイス160は、操作部(図示せず)として機能し、また、表示デバイス162は、表示部(図示せず)として機能する。ここで、入出力インタフェース158としては、例えば、USB(Universal Serial Bus)端子や、DVI(Digital Visual Interface)端子、HDMI(High-Definition Multimedia Interface)(登録商標)端子、各種処理回路などが挙げられる。
また、操作入力デバイス160は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。操作入力デバイス160としては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクター、あるいは、これらの組み合わせなどが挙げられる。
また、表示デバイス162は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。表示デバイス162としては、例えば、液晶ディスプレイ(Liquid Crystal Display)や有機ELディスプレイ(Organic Electro-Luminescence Display。または、OLEDディスプレイ(Organic Light Emitting Diode Display)ともよばれる。)などが挙げられる。
なお、入出力インタフェース158が、情報処理装置100の外部装置としての外部操作入力デバイス(例えば、キーボードやマウスなど)や外部表示デバイスなどの、外部デバイスと接続することも可能であることは、言うまでもない。また、表示デバイス162は、例えばタッチスクリーンなど、表示とユーザ操作とが可能なデバイスであってもよい。
通信インタフェース164は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部の距離画像センサや外部の撮像デバイス、外部の表示デバイスなどの外部デバイスや、外部装置と、無線または有線で通信を行うための通信部102として機能する。ここで、通信インタフェース164としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11ポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。また、本実施形態に係るネットワークとしては、例えば、LANやWAN(Wide Area Network)などの有線ネットワーク、無線LAN(WLAN:Wireless Local Area Network)や基地局を介した無線WAN(WWAN:Wireless Wide Area Network)などの無線ネットワーク、あるいは、TCP/IP(Transmission Control Protocol/Internet Protocol)などの通信プロトコルを用いたインターネットなどが挙げられる。
情報処理装置100は、例えば図15に示す構成によって、本実施形態に係る情報処理方法に係る処理を行う。なお、本実施形態に係る情報処理装置100のハードウェア構成は、図15に示す構成に限られない。
例えば、情報処理装置100は、パッシブ型の深度センサや、アクティブ型の深度センサなどの距離画像センサをさらに備えていてもよい。距離画像センサをさらに備える場合、情報処理装置100は、当該距離画像センサが生成した距離画像を処理することが可能である。
また、情報処理装置100は、例えば、ステレオ画像を生成する撮像デバイスをさらに備えていてもよい。本実施形態に係る撮像デバイスとしては、例えば、レンズ/撮像素子と信号処理回路とが挙げられる。レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサとで構成される。信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換する。また、信号処理回路は、例えば、White Balance補正処理や、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理など各種信号処理を行ってもよい。
また、情報処理装置100は、例えば、接続されている外部通信デバイスを介して、外部装置と通信を行う場合には、通信インタフェース164を備えていなくてもよい。また、情報処理装置100は、記録媒体156や、操作入力デバイス160、表示デバイス162を備えない構成をとることも可能である。
再度図14を参照して、情報処理装置100の構成の一例について説明する。通信部102は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部の距離画像センサなどの外部デバイスや、外部装置と、無線または有線で通信を行う。また、通信部102は、例えば制御部104により通信が制御される。
ここで、通信部102としては、例えば、通信アンテナおよびRF回路や、LAN端子および送受信回路などが挙げられるが、通信部102の構成は、上記に限られない。例えば、通信部102は、USB端子および送受信回路など通信を行うことが可能な任意の規格に対応する構成や、ネットワークを介して外部装置と通信可能な任意の構成をとることができる。
制御部104は、例えばMPUなどで構成され、情報処理装置100全体を制御する役目を果たす。また、制御部104は、例えば、距離画像生成部110と、ポイントクラウド生成部112と、位置決定部114と、オフセット量決定部116とを備え、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。また、制御部104は、例えば、通信部102における通信を制御する通信制御部(図示せず)をさらに備えていてもよい。
距離画像生成部110は、表示画面側から表示画面に対向する方向が撮像されることにより生成されたステレオ画像から、距離画像を生成する。距離画像生成部110は、例えば、三角測量の原理を用いる方法など、ステレオ画像から距離画像を生成することが可能な任意の技術に係る処理を行うことによって、距離画像を生成する。
距離画像生成部110は、例えば、表示画面側から表示画面に対向する方向が撮像されるように配置された外部の撮像デバイスから送信され、通信部102により受信されたステレオ画像を処理する。また、例えば、情報処理装置100が、表示画面側から表示画面に対向する方向が撮像されるように配置された撮像デバイスを有する撮像部(図示せず)を備えている場合には、距離画像生成部110は、撮像部(図示せず)が撮像により生成したステレオ画像を処理する。
ポイントクラウド生成部112は、上記(1)の処理(ポイントクラウド生成処理)を主導的に行う役目を果たし、距離画像からポイントクラウドを生成する。また、ポイントクラウド生成部112は、さらに、図11のB、および図11のCに示す処理を行ってもよい。
距離画像生成部110において距離画像が生成される場合、ポイントクラウド生成部112は、例えば、距離画像生成部110から伝達された距離画像からポイントクラウドを生成する。また、通信部102が、外部の距離画像センサから送信された距離画像を受信した場合には、ポイントクラウド生成部112は、例えば、通信部102により受信された距離画像からポイントクラウドを生成する。
位置決定部114は、上記(2)の処理(指定位置決定処理)を主導的に行う役目を果たす。位置決定部114は、ポイントクラウド生成部112において生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、表示画面において指定された指定位置を決定する。位置決定部114は、例えば、図5のステップS106〜S112の処理や、図11のD〜図11のIに示す処理を行うことによって、指定位置を決定する。
オフセット量決定部116は、上記(3)の処理(オフセット量決定処理)を主導的に行う役目を果たし、オフセット量を決定する。オフセット量決定部116は、例えば、上記(3−1)に示す第1の例に係るオフセット量決定処理や、上記(3−2)に示す第2の例に係るオフセット量決定処理などを行う。
また、位置決定部114は、オフセット量決定部116においてオフセット量が決定された場合には、決定されたオブセット量により指定位置を調整した上で、指定位置を決定する。
制御部104は、例えば、距離画像生成部110、ポイントクラウド生成部112、位置決定部114、およびオフセット量決定部116を備えることによって、本実施形態に係る情報処理方法に係る処理を主導的に行う。
情報処理装置100は、例えば図14に示す構成によって、本実施形態に係る情報処理方法に係る処理(例えば、上記(1)の処理(ポイントクラウド生成処理)〜上記(3)の処理(オフセット量決定処理))を行う。
したがって、情報処理装置100は、例えば図14に示す構成によって、距離画像に基づいて表示画面における指定位置を決定することができる。
また、例えば図14に示す構成によって、情報処理装置100は、例えば上述したような、本実施形態に係る情報処理方法に係る処理が行われることにより奏される効果を、奏することができる。
なお、本実施形態に係る情報処理装置の構成は、図14に示す構成に限られない。
例えば、外部の距離画像センサにおいて生成された距離画像を処理する構成である場合には、本実施形態に係る情報処理装置は、図14に示す距離画像生成部110を備えなくてもよい。また、例えば、本実施形態に係る情報処理装置は、図14に示すオフセット量決定部116を備えない構成をとることも可能である。
図14に示す距離画像生成部110とオフセット量決定部116との一方または双方を備えない構成をとる場合であっても、本実施形態に係る情報処理装置は、上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)を行うことができる。よって、上記の構成をとる場合であっても、本実施形態に係る情報処理装置は、距離画像に基づいて表示画面における指定位置を決定することができる。
また、本実施形態に係る情報処理装置は、例えば、図14に示す距離画像生成部110、ポイントクラウド生成部112、位置決定部114、およびオフセット量決定部116のうちの1または2以上を、制御部104とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、本実施形態に係る情報処理装置は、本実施形態に係る距離画像や、表示画面側から表示画面に対向する方向が撮像されることにより生成されたステレオ画像を生成する検出部(図示せず)をさらに備えていてもよい。検出部(図示せず)は、例えば、本実施形態に係る距離画像を生成する距離画像センサや、表示画面側から表示画面に対向する方向が撮像されることにより生成されたステレオ画像を生成する撮像デバイスを有する。
検出部(図示せず)を備える場合、ポイントクラウド生成部112は、検出部(図示せず)が生成した距離画像や、検出部(図示せず)が生成したステレオ画像に基づき距離画像生成部110が生成した距離画像を処理する。
また、例えば、通信部102と同様の機能、構成を有する外部の通信デバイスを介して、外部の距離画像センサなどの外部デバイスや、外部装置と通信を行う場合には、本実施形態に係る情報処理装置は、通信部102を備えていなくてもよい。
以上、本実施形態として、情報処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、PC(Personal Computer)やサーバなどのコンピュータや、距離画像センサを有する装置、表示装置、テレビ受像機、携帯電話やスマートフォンなどの通信装置、タブレット型の装置、映像/音楽再生装置(または映像/音楽記録再生装置)、ゲーム機など、様々な機器に適用することができる。また、本実施形態は、例えば、上記のような機器に組み込むことが可能な、処理IC(Integrated Circuit)に適用することもできる。
また、本実施形態は、例えばクラウドコンピューティングなどのように、ネットワークへの接続(または各装置間の通信)を前提とした、複数の装置からなるシステムにより実現されてもよい。つまり、上述した本実施形態に係る情報処理装置は、例えば、複数の装置からなる情報処理システムとして実現することも可能である。
(本実施形態に係るプログラム)
コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラム(例えば、“上記(1)の処理(ポイントクラウド生成処理)、および上記(2)の処理(指定位置決定処理)”や、“上記(1)の処理(ポイントクラウド生成処理)〜上記(3)の処理(オフセット量決定処理)”など、本実施形態に係る情報処理方法に係る処理を実行することが可能なプログラム)が、コンピュータにおいてプロセッサなどにより実行されることによって、距離画像に基づいて表示画面における指定位置を決定することができる。
また、コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラムが、コンピュータにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る情報処理方法に係る処理によって奏される効果を、奏することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するポイントクラウド生成部と、
生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定する位置決定部と、
を備える、情報処理装置。
(2)
前記位置決定部は、
主成分分析の結果得られる第1主成分の主成分スコアと、第2主成分の主成分スコアとの比較結果に基づいて、前記位置指定に関するオブジェクトに対応するベクトルである前記第1主成分のベクトルと、前記表示画面との交点を選択的に求め、求められた交点を前記指定位置として決定する、(1)に記載の情報処理装置。
(3)
前記位置決定部は、前記表示画面に最も近い点を含む点群を前記ポイントクラウドから抽出し、抽出された点群に対して、主成分分析を行う、(1)、または(2)に記載の情報処理装置。
(4)
前記位置決定部は、前記表示画面に最も近い点を中心とした、設定された所定の半径の球内に含まれる点群を抽出する、(3)に記載の情報処理装置。
(5)
前記位置決定部は、
抽出された点群をセグメンテーションして、複数の点群に分割し、
分割された点群のうちの、含まれる点の数が最も多い点群に対して、主成分分析を行う、(4)に記載の情報処理装置。
(6)
前記位置決定部は、前記含まれる点の数が最も多い点群が、前記位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群である場合には、
前記含まれる点の数が最も多い点群に対して、主成分分析を行わず、
前記含まれる点の数が最も多い点群を、処理対象から外す、(5)に記載の情報処理装置。
(7)
前記位置決定部は、
主成分分析を行った場合には、前記ポイントクラウドに対して主成分分析を行った回数が、設定された所定の回数に関する条件を満たすかを判定し、
前記所定の回数に関する条件を満たすと判定されない場合には、主成分分析が行われた点群を処理対象から外して、再度、前記ポイントクラウドから前記表示画面に最も近い点を含む点群を抽出して、抽出された点群に対して主成分分析を行う、(3)〜(6)のいずれか1つに記載の情報処理装置。
(8)
前記指定位置を調整するためのオフセット量を決定するオフセット量決定部をさらに備え、
前記位置決定部は、前記オフセット量が決定された場合には、決定されたオブセット量により前記指定位置を調整した上で、前記指定位置を決定する、(1)〜(7)のいずれか1つに記載の情報処理装置。
(9)
前記オフセット量決定部は、表示画面における所定の位置と、決定された前記指定位置とに基づいて、前記オフセット量を決定する、(8)に記載の情報処理装置。
(10)
前記オフセット量決定部は、前記位置指定に関するオブジェクトに対応するベクトルである、主成分分析の結果得られる第1主成分のベクトルと、前記位置指定に関するオブジェクトに対応する所定の位置から前記表示画面における所定の位置方向のベクトルとの差に基づいて、前記オフセット量を決定する、(8)に記載の情報処理装置。
(11)
前記オフセット量決定部は、操作者の認識結果に基づいて、操作者ごとに、選択的に前記オフセット量を決定する、(8)〜(10)のいずれか1つに記載の情報処理装置。
(12)
前記表示画面側から前記表示画面に対向する方向が撮像されることにより生成されたステレオ画像から、前記距離画像を生成する距離画像生成部をさらに備え、
前記ポイントクラウド生成部は、前記ステレオ画像から生成された前記距離画像からポイントクラウドを生成する、(1)〜(11)のいずれか1つに記載の情報処理装置。
(13)
前記ポイントクラウド生成部は、実スケールでポイントクラウドを生成する、(1)〜(12)のいずれか1つに記載の情報処理装置。
(14)
表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップと、
生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定するステップと、
を有する、情報処理装置により実行される情報処理方法。
(15)
表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップ、
生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定するステップ、
をコンピュータに実行させるためのプログラム。
10 表示デバイス
12、12A、12B 距離画像センサ(または撮像デバイス)
100 情報処理装置
102 通信部
104 制御部
110 距離画像生成部
112 ポイントクラウド生成部
114 位置決定部
116 オフセット量決定部

Claims (15)

  1. 表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するポイントクラウド生成部と、
    生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定する位置決定部と、
    を備える、情報処理装置。
  2. 前記位置決定部は、
    主成分分析の結果得られる第1主成分の主成分スコアと、第2主成分の主成分スコアとの比較結果に基づいて、前記位置指定に関するオブジェクトに対応するベクトルである前記第1主成分のベクトルと、前記表示画面との交点を選択的に求め、求められた交点を前記指定位置として決定する、請求項1に記載の情報処理装置。
  3. 前記位置決定部は、前記表示画面に最も近い点を含む点群を前記ポイントクラウドから抽出し、抽出された点群に対して、主成分分析を行う、請求項1に記載の情報処理装置。
  4. 前記位置決定部は、前記表示画面に最も近い点を中心とした、設定された所定の半径の球内に含まれる点群を抽出する、請求項3に記載の情報処理装置。
  5. 前記位置決定部は、
    抽出された点群をセグメンテーションして、複数の点群に分割し、
    分割された点群のうちの、含まれる点の数が最も多い点群に対して、主成分分析を行う、請求項4に記載の情報処理装置。
  6. 前記位置決定部は、前記含まれる点の数が最も多い点群が、前記位置指定に関するオブジェクトに対応する点群に含まれる点と隣接する点を含む点群である場合には、
    前記含まれる点の数が最も多い点群に対して、主成分分析を行わず、
    前記含まれる点の数が最も多い点群を、処理対象から外す、請求項5に記載の情報処理装置。
  7. 前記位置決定部は、
    主成分分析を行った場合には、前記ポイントクラウドに対して主成分分析を行った回数が、設定された所定の回数に関する条件を満たすかを判定し、
    前記所定の回数に関する条件を満たすと判定されない場合には、主成分分析が行われた点群を処理対象から外して、再度、前記ポイントクラウドから前記表示画面に最も近い点を含む点群を抽出して、抽出された点群に対して主成分分析を行う、請求項3に記載の情報処理装置。
  8. 前記指定位置を調整するためのオフセット量を決定するオフセット量決定部をさらに備え、
    前記位置決定部は、前記オフセット量が決定された場合には、決定されたオブセット量により前記指定位置を調整した上で、前記指定位置を決定する、請求項1に記載の情報処理装置。
  9. 前記オフセット量決定部は、表示画面における所定の位置と、決定された前記指定位置とに基づいて、前記オフセット量を決定する、請求項8に記載の情報処理装置。
  10. 前記オフセット量決定部は、前記位置指定に関するオブジェクトに対応するベクトルである、主成分分析の結果得られる第1主成分のベクトルと、前記位置指定に関するオブジェクトに対応する所定の位置から前記表示画面における所定の位置方向のベクトルとの差に基づいて、前記オフセット量を決定する、請求項8に記載の情報処理装置。
  11. 前記オフセット量決定部は、操作者の認識結果に基づいて、操作者ごとに、選択的に前記オフセット量を決定する、請求項8に記載の情報処理装置。
  12. 前記表示画面側から前記表示画面に対向する方向が撮像されることにより生成されたステレオ画像から、前記距離画像を生成する距離画像生成部をさらに備え、
    前記ポイントクラウド生成部は、前記ステレオ画像から生成された前記距離画像からポイントクラウドを生成する、請求項1に記載の情報処理装置。
  13. 前記ポイントクラウド生成部は、実スケールでポイントクラウドを生成する、請求項1に記載の情報処理装置。
  14. 表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップと、
    生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定するステップと、
    を有する、情報処理装置により実行される情報処理方法。
  15. 表示画面からオブジェクトまでの距離に相当する距離が表される距離画像からポイントクラウドを生成するステップ、
    生成されたポイントクラウドに対して主成分分析を行い、分析結果に基づいて位置指定に関するオブジェクトに対応するベクトルを検出し、前記表示画面において指定された指定位置を決定するステップ、
    をコンピュータに実行させるためのプログラム。
JP2015561166A 2014-02-10 2014-11-28 情報処理装置、情報処理方法、およびプログラム Expired - Fee Related JP6447521B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014023348 2014-02-10
JP2014023348 2014-02-10
PCT/JP2014/081561 WO2015118756A1 (ja) 2014-02-10 2014-11-28 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2015118756A1 true JPWO2015118756A1 (ja) 2017-03-23
JP6447521B2 JP6447521B2 (ja) 2019-01-09

Family

ID=53777573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015561166A Expired - Fee Related JP6447521B2 (ja) 2014-02-10 2014-11-28 情報処理装置、情報処理方法、およびプログラム

Country Status (4)

Country Link
US (1) US10088910B2 (ja)
EP (1) EP3106968B1 (ja)
JP (1) JP6447521B2 (ja)
WO (1) WO2015118756A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102356435B1 (ko) * 2017-04-11 2022-01-28 라운드파이어, 인크. 자연어 기반 컴퓨터 애니메이션
US11462054B2 (en) * 2019-10-21 2022-10-04 Analog Devices International Unlimited Company Radar-based indoor localization and tracking system
EP3985491A1 (en) * 2020-10-19 2022-04-20 ameria AG Control method for touchless gesture control
CN112782664B (zh) * 2021-02-22 2023-12-12 四川八维九章科技有限公司 一种基于毫米波雷达的卫生间跌倒检测方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08328735A (ja) * 1995-06-02 1996-12-13 Takenaka Komuten Co Ltd ハンドポインティング入力装置
JP2004246856A (ja) * 2002-12-18 2004-09-02 National Institute Of Advanced Industrial & Technology インタフェース装置
JP2008152622A (ja) * 2006-12-19 2008-07-03 Mitsubishi Electric Corp ポインティング装置
WO2011158511A1 (ja) * 2010-06-17 2011-12-22 パナソニック株式会社 指示入力装置、指示入力方法、プログラム、記録媒体および集積回路
JP2012003723A (ja) * 2010-06-21 2012-01-05 Nippon Telegr & Teleph Corp <Ntt> 動作解析装置、動作解析方法、およびプログラム
JP2012069095A (ja) * 2010-08-25 2012-04-05 Canon Inc 情報処理装置およびその制御方法
WO2014009561A2 (en) * 2012-07-13 2014-01-16 Softkinetic Software Method and system for human-to-computer gesture based simultaneous interactions using singular points of interest on a hand
JP2015135572A (ja) * 2014-01-16 2015-07-27 キヤノン株式会社 情報処理装置とその制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8145594B2 (en) * 2009-05-29 2012-03-27 Microsoft Corporation Localized gesture aggregation
KR101646616B1 (ko) * 2010-11-30 2016-08-12 삼성전자주식회사 객체 제어 장치 및 방법
JP2013205983A (ja) 2012-03-27 2013-10-07 Sony Corp 情報入力装置及び情報入力方法、並びにコンピューター・プログラム
JP5963353B2 (ja) * 2012-08-09 2016-08-03 株式会社トプコン 光学データ処理装置、光学データ処理システム、光学データ処理方法、および光学データ処理用プログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08328735A (ja) * 1995-06-02 1996-12-13 Takenaka Komuten Co Ltd ハンドポインティング入力装置
JP2004246856A (ja) * 2002-12-18 2004-09-02 National Institute Of Advanced Industrial & Technology インタフェース装置
JP2008152622A (ja) * 2006-12-19 2008-07-03 Mitsubishi Electric Corp ポインティング装置
WO2011158511A1 (ja) * 2010-06-17 2011-12-22 パナソニック株式会社 指示入力装置、指示入力方法、プログラム、記録媒体および集積回路
JP2012003723A (ja) * 2010-06-21 2012-01-05 Nippon Telegr & Teleph Corp <Ntt> 動作解析装置、動作解析方法、およびプログラム
JP2012069095A (ja) * 2010-08-25 2012-04-05 Canon Inc 情報処理装置およびその制御方法
WO2014009561A2 (en) * 2012-07-13 2014-01-16 Softkinetic Software Method and system for human-to-computer gesture based simultaneous interactions using singular points of interest on a hand
JP2015522195A (ja) * 2012-07-13 2015-08-03 ソフトキネティック ソフトウェア 手の上の特異な注目すべき点を使用した人間−コンピュータ・ジェスチャ・ベース同時相互作用のための方法及びシステム
JP2015135572A (ja) * 2014-01-16 2015-07-27 キヤノン株式会社 情報処理装置とその制御方法

Also Published As

Publication number Publication date
US20170003752A1 (en) 2017-01-05
EP3106968B1 (en) 2019-09-25
JP6447521B2 (ja) 2019-01-09
US10088910B2 (en) 2018-10-02
WO2015118756A1 (ja) 2015-08-13
EP3106968A4 (en) 2017-08-30
EP3106968A1 (en) 2016-12-21

Similar Documents

Publication Publication Date Title
EP3241093B1 (en) Electronic system with gesture calibration mechanism and method of operation thereof
CN110036258B (zh) 信息处理装置和信息处理方法
US9218781B2 (en) Information processing apparatus, display control method, and program
WO2013161182A1 (en) Image processing apparatus, image processing method, and program
CN107438812B (zh) 信息处理设备、信息处理方法和程序
US20160195926A1 (en) Information processing apparatus and information processing method
US9268408B2 (en) Operating area determination method and system
JP6447521B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20160231810A1 (en) Information processing apparatus, information processing method, and program
US20200211205A1 (en) Resilient Dynamic Projection Mapping System and Methods
CN108885496B (zh) 信息处理装置、信息处理方法和程序
WO2014194148A2 (en) Systems and methods involving gesture based user interaction, user interface and/or other features
WO2018078986A1 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2013104315A1 (zh) 一种为发射光源的运动轨迹映射其应用轨迹的方法与系统
TWI465984B (zh) 用於決定控制域中之控制輸出的方法與控制裝置
JP6229554B2 (ja) 検出装置および検出方法
CN106663412B (zh) 信息处理设备、信息处理方法及程序
CN111491095B (zh) 图像虚化方法、装置和电子设备
KR101394604B1 (ko) 모션 감지를 통한 사용자 인터페이스 구현 방법 및 그 장치
JP2017041125A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2016148622A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2016194798A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2013257830A (ja) 情報処理装置
KR101472314B1 (ko) 단일 카메라를 이용한 3차원 입력장치 및 방법
WO2013175341A2 (en) Method and apparatus for controlling multiple devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181119

R151 Written notification of patent or utility model registration

Ref document number: 6447521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

LAPS Cancellation because of no payment of annual fees