JP4264601B2 - 情報入力装置、情報入力方法及びゲーム装置 - Google Patents

情報入力装置、情報入力方法及びゲーム装置 Download PDF

Info

Publication number
JP4264601B2
JP4264601B2 JP30016498A JP30016498A JP4264601B2 JP 4264601 B2 JP4264601 B2 JP 4264601B2 JP 30016498 A JP30016498 A JP 30016498A JP 30016498 A JP30016498 A JP 30016498A JP 4264601 B2 JP4264601 B2 JP 4264601B2
Authority
JP
Japan
Prior art keywords
image
information
light sources
light
observer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30016498A
Other languages
English (en)
Other versions
JP2000132306A (ja
Inventor
健 早川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP30016498A priority Critical patent/JP4264601B2/ja
Publication of JP2000132306A publication Critical patent/JP2000132306A/ja
Application granted granted Critical
Publication of JP4264601B2 publication Critical patent/JP4264601B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
この発明は、TV番組のキャラクタを仮想空間上の手のひらで遊ばせる、いわゆるバーチャルキャラクタ育成ゲーム装置などに適用して好適な情報入力装置、情報入力方法及びゲーム装置に関する。
【0002】
詳しくは、撮像可能な任意の物体の特定の面に取り付けた点滅パターンの異なる光源の位置情報に応じて入力情報を発生する手段を設け、複数の光源の中で任意の光源の点滅パターンを遮光したときに、少なくとも、点滅パターンが遮光された光源以外の光源の位置情報に応じて入力情報を発生できるようにすると共に、上述のバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適な簡易コマンダを構成できるようにしたものである。
【0003】
【従来の技術】
近年、バーチャル・リアリティ(仮想現実感)に基づく表示技術の向上に伴い、複数の画像表示面に跨って仮想現実感を観察者に提供するための仮想画像立体合成装置が出現している。
【0004】
この種の立体表示装置は、特開平9−237353号の技術文献に見られる。この技術文献によれば、縦横数m程度の大きさの映写空間が設けられ、各々の面に表示装置が配置され、各々の表示装置から恐竜、怪獣や武器などの仮想体の画像が立体表示される。そして、観察者は液晶シャッター付きの眼鏡をかけ、その映写空間に立つと、あたかも、各々の表示装置で表示された仮想体と同じ場所に居るようなされる。
【0005】
また、観察者が仮想空間上で手にする武器がカメラによって撮像され、その武器の動きによって仮想体が反応するように画像処理されている。これにより、観察者は数千年前の原始時代にタイムスリップして、恐竜退治などをゲーム感覚で行うことができる。
【0006】
【発明が解決しようとする課題】
ところで、従来方式の立体表示装置によれば、映写空間に飛び出させる仮想体を指定するために、ジョグダイヤルのような入力ツールが使用されている。そして、観察者が操作したジョグダイヤルの変位情報に基づいて画像処理系では、仮想空間上に恐竜などの仮想体を出現させて合成表示している。
【0007】
従って、観察者の属する実空間の基準面上に、TV番組のキャラクタなどを仮想的に飛び出させ、その仮想空間上の観察者の手のひらでそのキャラクタを遊ばせる仮想画像立体合成装置を構成しようとしたときに、従来方式のジョグダイヤルをそのまま適用すると、入力ツールから画像処理系へリード線が引き回されたり、入力操作が複雑となったりして、ゲーム装置のコマンダとしての操作性が悪いという問題がある。
【0008】
そこで、本発明は上記の課題に鑑み創作されたものであり、仮想画像立体合成装置などの入力ツールの操作性を向上できるようにすると共に、その入力ツールを使用してTV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などを再現性良く構成できるようにした情報入力装置、情報入力方法及びゲーム装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
上述した課題は、点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と、プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に取付けられた点滅パターンが異なる複数の光源と、点滅パターンが異なる複数の光源を撮像する撮像手段と、この撮像手段により撮像された点滅パターンが異なる複数の光源の輝度情報を画像処理して光源の各々の位置情報を求める演算手段と、この演算手段による光源の位置情報に応じた入力情報を発生するデータ発生手段とを備え、点滅パターンの異なる光源が菱形状のプレート部の対角線に沿って十字状に配置され、データ発生手段は、光源の任意の点滅パターンが遮光されたときに、少なくとも、点滅パターンを遮光された光源以外の光源の位置情報に応じた入力情報を発生する情報入力装置によって解決する。
【0010】
この発明の情報入力装置によれば、撮像可能な任意の物体の特定の面に取付けられた点滅パターンの異なる光源の位置情報に応じた入力情報がデータ発生手段によって発生される。例えば、複数の光源の中で任意の光源の点滅パターンを遮光したときに、その点滅パターンが遮光された光源の位置情報及びそれ以外の光源の位置情報に応じた入力情報が発生される。
【0011】
従って、TV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適な簡易コマンダを構成することができる。
【0012】
本発明に係る情報入力方法は、点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と当該プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に点滅パターンが異なる複数の光源を取付け、点滅パターンが異なる複数の光源を撮像し、撮像された点滅パターンが異なる複数の光源の輝度情報を画像処理して該光源の各々の位置情報を求め、点滅パターンの異なる光源を菱形状のプレート部の対角線に沿って十字状に配置し、光源の任意の点滅パターンを遮光したときに、少なくとも、点滅パターンを遮光した光源以外の光源の位置情報に応じた入力情報を発生するものである。
【0013】
この発明の情報入力方法によれば、点滅パターンの異なる複数の光源の中で、任意の光源の点滅パターンを遮光したときに、その点滅パターンが遮光された光源以外の光源の位置情報に応じた入力情報を発生させることができるので、上述のバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適なワイヤレスリモコンに匹敵する簡易コマンダを再現性よく構成することができる。
【0014】
本発明に係るゲーム装置は、観察者の属する実空間上で任意の基準面を認識する面認識手段と、面認識手段により認識された仮想空間の基準面上であって、観察者の属する外界像に任意のキャラクタ画像を立体的に合成する合成手段と、少なくとも、キャラクタ画像を変化させるための入力情報を指示する入力手段とを備え、この入力手段は、点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と、プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に取付けられた点滅パターンが異なる複数の光源と、点滅パターンが異なる複数の光源を撮像する撮像手段と、この撮像手段により撮像された点滅パターンが異なる複数の光源の輝度情報を画像処理して光源の各々の位置情報を求める演算手段と、演算手段による光源の位置情報に応じた入力情報を発生するデータ発生手段とを有し、点滅パターンの異なる光源が菱形状のプレート部の対角線に沿って十字状に配置され、データ発生手段は、光源の任意の点滅パターンが遮光されたときに、少なくとも、点滅パターンを遮光された光源以外の光源の位置情報に応じた入力情報を発生するものである。
【0015】
本発明に係るゲーム装置によれば、上述の情報入力装置が入力手段に応用されるので、入力操作が簡単で、しかも、操作性の良い簡易コマンダを備えたバーチャルキャラクタ育成ゲーム装置などを構成することができる。
【0016】
【発明の実施の形態】
以下、図面を参照しながら、この発明の実施形態としての情報入力装置、情報入力方法及びゲーム装置について説明をする。
【0017】
(1)実施形態としての情報入力装置
図1は本発明に係る各実施形態としての情報入力装置100の構成例を示すブロック図である。
【0018】
この実施形態では、撮像可能な任意の物体の特定の面に取り付けた点滅パターンの異なる光源の位置情報に応じて入力情報を発生する手段を設け、複数の光源の中で任意の光源の点滅パターンを遮光したときに、少なくとも、点滅パターンが遮光された光源以外の光源の位置情報に応じて入力情報を発生できるようにすると共に、TV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適な簡易コマンダを構成できるようにしたものである。
【0019】
この発明の情報入力装置100は入力ツールとして図1に示す簡易コマンダ4を有している。簡易コマンダ4は撮像可能な任意の物体であって、その特定の面には点滅パターンの異なる複数の光源として例えば9個の発光ダイオードLEDが取付けられている。この発光ダイオードLEDは図31で説明する点滅制御回路5によって点滅パターンが制御される。この例では、簡易コマンダ4の発光ダイオードLED上を指でスライドすると、その指で隠された発光ダイオードLEDの発光位置が変化して、ジョグダイヤルとほぼ同様な機能を持たせることができる。従って、この簡易コマンダ4を、ジョグダイヤルの代わりに使用することができる。
【0020】
また、情報入力装置100には撮像手段として流し撮りCCD装置23’が設けられ、上述の点滅パターンが異なるように点滅される9個の発光ダイオードLEDを所定の撮像方向に流すように撮像される。ここで、流し撮りとは、流し撮りCCD装置23’において、同一フィールド期間中に複数回、光電変換素子(フォトダイオードなど)から信号電荷を読み出す撮影モードをいう。
【0021】
この例で流し撮りCCD装置23’として垂直転送部を有するインターライン転送方式の二次元撮像デバイスを使用した場合には、同一フィールド期間中に複数回、光電変換素子から垂直転送部に信号電荷が読み出される。また、流し撮りCCD装置23’として電荷蓄積部を有するフレーム転送方式の二次元撮像デバイスを使用した場合には、同一フィールド期間中に複数回、光電変換素子から電荷蓄積部に信号電荷が読み出される。
【0022】
この流し撮りCCD装置23’の出力段には演算手段6が接続され、上述の9個の発光ダイオードLEDの輝度情報を流し撮りCCD装置23’から入力し、それを画像処理して発光ダイオードLEDの各々の位置情報Dpが求められる。この演算手段6の出力段にはデータ発生手段7が接続され、簡易コマンダ4に取付けられた9個の発光ダイオードLEDの位置情報Dpに応じた入力情報Dinが発生される。このデータ発生手段7では、発光ダイオードLEDの任意の点滅パターンを遮光したときに、少なくとも、点滅パターンを遮光した発光ダイオードLED以外の発光ダイオードLEDの位置情報Dpに応じた入力情報Dinを発生する。
【0023】
従って、TV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などに、この情報入力装置100を適用した場合に、9個の発光ダイオードLEDの内で、例えば、右手のひとさし指で覆った発光ダイオードLEDの位置に応じた入力情報Dinを発生できるので、ジョグダイヤルのような複雑な操作が不要となる。
【0024】
この例では、データ発生手段7には記憶手段16が設けられ、9個の発光ダイオードLEDの位置情報Dpに対応付けられた入力情報Dinが格納されている。この記憶手段16にはROM(読み出し専用メモリ)を使用し、ジョグダイヤルの入力ソフトプログラムなどを記憶しておくとよい。このように構成すると、9個の発光ダイオードLEDの位置情報Dpをアドレスにして記憶手段16から入力情報Dinを読み出すことができる。この記憶手段16の内容については図8及び図9において説明する。
【0025】
この例で、簡易コマンダ4は図2に示す菱形状のプレート部14と、このプレート部14に接合されたリング状の指輪部15とを有している。この指輪部15は、そのプレート部14が流し撮りCCD装置23’の撮影範囲内に入るように左手のひとさし指などに装着するとよい。プレート部14は発光面を成すものであり、流し撮りし易くするために、例えば、中央部が盛り上がった山形状(立体形状)に形成されている。プレート部14の大きさは腕時計程度であり、その一辺の長さは3cm程度であり、大きくても、せいぜい5cm程度である。
【0026】
このプレート部14の対角線上には、複数の光源として点滅パターンの異なる9個の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42がその対角線に沿って配置される。この例では、発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42が、樹脂部材を菱形状に成形したプレート部14に十字状に埋め込まれている。もちろん、簡易コマンダ4は図2に示すものに限られることはなく、図3に示すプレート部14’が平坦状を成し、そのプレート部14’の表面の周辺部に12個の発光ダイオードLEDを埋め込んだようなものであってもよい。
【0027】
この例では、図4に示す十字状に配置された発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42が4つのグループに分けて点滅制御される。第1グループは3つの発光ダイオードLED10〜LED12から成り、3つの発光点p10〜p12の位置座標として例えば、(x5,y5)、(x6,y6)、(x8,y8)が与えられると共に、G1グループの第1番〜第3番目の発光ダイオードというようにナンバーリングされている。
【0028】
第2グループは2つの発光ダイオードLED21、LED22から成り、2つの発光点p21、p22の位置座標として例えば(x7,y7)、(x9,y9)が与えられると共に、G2グループの第1番、第2番目の発光ダイオードというようにナンバーリングされている。
【0029】
また、第3グループは2つの発光ダイオードLED31、LED32から成り、2つの発光点p31、p32の位置座標として例えば(x4,y4)、(x2,y2)が与えられると共に、G3グループの第1番、第2番目の発光ダイオードというようにナンバーリングされている。第4グループは2つの発光ダイオードLED41、LED42から成り、2つの発光点p41、p42の位置座標として例えば(x3,y3)、(x1,y1)が与えられると共に、G4グループの第1番、第2番目の発光ダイオードというようにナンバーリングされている。
【0030】
この9個の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42は、そのマーク部としての機能を発揮するために、つまり、その取付け位置が明らかになるように、少なくとも、点滅パターンが異なるように点滅されると共に、4つのグループG1〜G4に分けて点滅制御される。
【0031】
この例の簡易コマンダ4では発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42が離れて取付けられていないと、流し撮りCCD装置23’で再現性良く発光位置を認識されないので、例えば、点滅パターンを認識する周期をグループ毎に4等分して出力する。
【0032】
この9個の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42の位置情報Dpを認識するためには、流し撮りCCD装置23で、1/4周期毎に点滅パターンを無視する方法(時分割)と、流し撮りCCD装置23’を4台設けて、これを1/4周期毎に動作させる方法とが考えられるが、本実施の形態では前者の場合について説明する。この位置情報Dpの認識については図6及び図7で説明をする。
【0033】
続いて、簡易コマンダ4の使用方法について説明する。図5は簡易コマンダ4の使用例を示す上面図である。図5に示す簡易コマンダ4では右手ひとさし指30Rで例えばG4グループの第1及び第2番目の発光ダイオードLED41、LED42を遮光した場合を示している。
【0034】
この場合には、G4グループ以外の第1、第2及び第3グループG1〜G3の発光ダイオードLED10〜LED12、LED21、23、LED31、32が流し撮りCCD装置23’によってその点滅パターンが撮像される。従って、演算手段6ではどのグループの何番目の発光ダイオードが消えたかを判別することができる。
【0035】
この例では演算手段6によって、上述の簡易コマンダ4による発光ダイオードLED10〜LED12、LED21、23、LED31、32の輝度情報を流し撮りCCD装置23’から入力し、それを画像処理して発光ダイオードLED10〜LED12、LED21、23、LED31、32の各々の位置情報Dpが求められる。この画像処理の結果で、例えば、右手ひとさし指30Rで遮光された光源が、G4グループの第1及び第2番目の発光ダイオードLED41、LED42であることが認識される。
【0036】
つまり、プレート部14上に何も覆わない場合には、点滅パターンの異なる簡易コマンダ4の9つの発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42を通常のCCD撮像装置25で撮像すると、図6に示すようになる。しかし、流し撮りCCD装置23’から出力された流し撮り信号(輝度信号)SOUTの点滅パターンに関しては、図7に示すウインドウWにより画定された画像領域内で、9つの流し撮り輝点p10〜p12、p21、p22、p31、p32、p41p、p42を含むXY平面を成す空間的な配置パターンに変換される。
【0037】
その後、その配置パターン上を走査して、少なくとも、9つの輝点p10〜p12、p21、p22、p31、p32、p41p、p42の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)、(X5,Y5)(X6,Y6)、(X7,Y7)、(X8,Y8)、(X9,Y9)が求められる。例えば、図7に示す配置パターン上で流し撮像方向をY軸とし、そのY軸に直交する方向をX軸としたときに、演算手段6によって流し撮像方向と同一方向又はその反対方向に輝度信号値が加算される。この加算値がX軸上にプロットされると、そのX軸にプロットされた輝度信号値が最大となる9つの位置が検出され、この9つの位置に対応するX座標値X1、X2、X3、X4、X5、X6、X7、X8、X9が求められる。
【0038】
また、その配置パターン上で取得画像をY方向に走査したときに、そのY方向に並んだ複数の輝点のうち、最初に発光した輝点位置が各々X座標値に対応したY座標値Y1、Y2、Y3、Y4、Y5、Y6、Y7、Y8、Y9として求められる。この9つの輝点p10〜p12、p21、p22、p31、p32、p41p、p42は例えば観察者に左ひとさし指に装着された簡易コマンダ4の9つの発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42の位置情報Dpを示している。
【0039】
従って、図5に示した右手ひとさし指30RでG4グループの第1及び第2番目の発光ダイオードLED41、LED42が遮光された簡易コマンダ4では、G4グループ以外の第1、第2及び第3グループG1〜G3の発光ダイオードLED10〜LED12、LED21、23、LED31、32による7つの位置座標としては、(X2,Y2)、(X4,Y4)、(X5,Y5)(X6,Y6)、(X7,Y7)、(X8,Y8)、(X9,Y9)が求められ、位置座標(X1,Y1)、(X3,Y3)は求められない。従って、G4グループの以外の第1〜第3のグループG1〜G3による位置座標に基づいた入力情報Dinを記憶手段16から読み出すことができる。なお、図8は9個の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42の番号とその取付け位置情報例を示す表図である。
【0040】
続いて、記憶手段16に格納される入力情報例について説明する。図9は4つのグループG1〜G4の位置情報Dpに対する入力情報例を示す参照テーブルである。この例では、簡易コマンダ4の説明を簡略化するためにグループ単位に、位置情報Dpを入力する場合について説明をする。従って、4つのグループG1〜G4を「覆う」又は「覆わない」の組み合わせによって16通りの入力情報Dinを得ることができる。
【0041】
この例では、図10に示す表示手段24の基準面上に、あたかも、仮想体としての3Dポリゴン(雪だるま)10を存在させるような、バーチャルキャラクタ育成ゲーム装置用の簡易コマンダ4を想定した場合に、その表示手段24の画面上にアイコン24Aが表示され、「入力待機」、「飛び出せ」、「左に動け」、「右に動け」・・・・「消えろ」などの16種類の命令情報が表示される。このアイコン24Aは、同画面上に表示されたカーソル24Bによって指定できるようになされている。このカーソル24Bは簡易コマンダ4に基づいて移動する。
【0042】
ここで、図11に示す3Dポリゴン10をx方向及びy方向に移動する例を挙げて説明をする。この簡易コマンダ4ではジョグダイヤル的な入力動作を行うことができる。つまり、図12に示す簡易コマンダ4の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42に関して、何等の遮光をしていない場合の位置情報Dp=「1111」に対しては、これをアドレスとする入力情報Din=「入力待機」が記憶手段16に予め格納される。この何等の遮光をしていない場合の非遮光パターンをPT=0及びPT=7とする。
【0043】
そして、この例では、簡易コマンダ4の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42を順に水平方向に例えば右手のひとさし指、中指又は薬指で覆っていくようになされる。図13ではグループG4の発光ダイオードLED42が遮光された場合である。この遮光パターンをPT=1とする。更に、図14ではグループG4の2つの発光ダイオードLED41、42が遮光された場合である。この遮光パターンをPT=2とする。
【0044】
また、図15ではグループG4の発光ダイオードLED41と、グループG1及びG3の発光ダイオードLED10〜12と、発光ダイオードLED31〜32とが遮光された場合である。この遮光パターンをPT=3とする。更に、図16ではグループG1、G3の発光ダイオードLED10〜12と、発光ダイオードLED31〜32と、グループG2の発光ダイオードLED21とが遮光された場合である。この遮光パターンをPT=4とする。
【0045】
そして、図17ではグループG4の2つの発光ダイオードLED21、22が遮光された場合である。この遮光パターンPT=5とする。更に、図18ではグループG2の発光ダイオードLED22が遮光された場合である。これを遮光パターンをPT=6とする。
【0046】
この例では、図9のうち1つのコマンドでジョグダイヤルモードに設定することができ、遮光パターンPT=0→7を入力すると、ジョグダイヤルの右回転動作と等価になり、反対に、遮光パターンPT=7→0を入力するとジョグダイヤルの左回転動作と等価になる。例えば、PT=0,1,2,3→2,1,0を連続して入力すると、ジョグダイヤルを右回転から左回転に切替えた場合と同じ結果が得られ、図10に示した16種類のアイコン24Aの左側をカーソルが上方向又は下方向に移動するようになされる。この例では、カーソル24Bが止まったところで、「動作の決定」を指示するようになされる。
【0047】
そして、簡易コマンダ4のジョグダイヤル的な決定動作では遮光パターンPT=0→5で「YES」を示し、遮光パターンPT=5→0で「NO」を示す。例えば、遮光パターンPT=0→5を1回又は2回続けると、「何かをしても良いですか」などの答えとして、再度、遮光パターンPT=0→5を入力すると「YES」を示し、遮光パターンPT=5→0を入力すると「NO」を示すことができる。あるいは、図19に示す右手のひとさし指でグループG4の発光ダイオードLED42を遮光し、その中指でグループG2の発光ダイオードLED22を遮光することでも、ジョグダイヤル的な決定動作を指示することができる。
【0048】
また、図11〜図18では簡易コマンダ4上に右手の指を水平方向にスライドさせる場合について説明したが、これに限られることはなく、図20〜図24に示すように簡易コマンダ4’上に右手の指を垂直方向にスライドさせてもよい。図20ではグループG1の発光ダイオードLED12が遮光された場合である。この遮光パターンPT=1とする。更に、図21ではグループG1の発光ダイオードLED12、11が遮光された場合である。これを遮光パターンをPT=2とする。
【0049】
図22ではグループG1の3つの発光ダイオードLED10〜12と、グループG4の発光ダイオードLED41と、グループG2の発光ダイオードLED21とが遮光された場合である。この遮光パターンPT=3とする。更に、図23ではグループG1の発光ダイオードLED10〜12と、グループG4の発光ダイオードLED41と、グループG2の発光ダイオードLED21と、グループG3の発光ダイオードLED31とが遮光された場合である。この遮光パターンPT=4とする。更に、図24ではグループG1の発光ダイオードLED10〜12と、グループG4の発光ダイオードLED41と、グループG2の発光ダイオードLED21と、グループG3の発光ダイオードLED31、32とが遮光された場合である。これを遮光パターンをPT=5とする。
【0050】
この例でも、図9のうち1つのコマンドでジョグダイヤルモードに設定することができ、遮光パターンPT=0→5に順に変化させて行くと、ジョグダイヤルの右回転動作と等価な入力状態になり、反対に、遮光パターンPT=5→0に順に変化させて行くと、ジョグダイヤルの左回転動作と等価な入力状態を得ることができる。例えば、PT=0,1,2,3→2,1,0を連続して変化させると、ジョグダイヤルを右回転から左回転に切替えた場合と同じ結果が得られ、図10に示した16種類のアイコン24Aの左側をカーソルが上方向又は下方向に移動するようになされる。この例でも、カーソル24Bが止まったところで、簡易コマンダ4と同様にして「動作決定」の指示を与えることができる。
【0051】
なお、以下のようにして入力情報を指示入力する構成としても良い。この例では、4つのグループの発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42に関して、何等の遮光をしていない場合の位置情報Dp=「1111」に対しては、これをアドレスとする入力情報Din=「入力待機」が記憶手段16に予め格納される。同様にして、G1グループ以外の3つのグループG2、G3、G4を遮光した場合の位置情報Dp=「1000」に対しては、これをアドレスとする入力情報Din=「飛び出せ」が記憶手段16に記憶される。
【0052】
また、G2グループ以外の3つのグループG1、G3、G4を遮光した場合の位置情報Dp=「0100」に対しては、これをアドレスとする入力情報Din=「左に動け」が記憶手段16に予め格納される。同様にして、G3グループ以外の3つのグループG1、G2、G4を遮光した場合の位置情報Dp=「0010」に対しては、これをアドレスとする入力情報Din=「右に動け」が記憶手段16に予め格納される。
【0053】
更に、G4グループ以外の3つのグループG1、G2、G3を遮光した場合の位置情報Dp=「0001」に対しては、これをアドレスとする入力情報Din=「ジャンプしろ」が記憶手段16に予め格納される。以下、同様にして、G1、G2、G3グループ以外のグループG4を遮光した場合の位置情報Dp=「1110」に対しては、これをアドレスとする入力情報Din=「声を出せ」が記憶手段16に予め格納される。そして、全てのグループG1〜G4を遮光した場合の位置情報Dp=「0000」に対しては、これをアドレスとする入力情報Din=「消えろ」が記憶手段16に予め格納される。
【0054】
従って、4つのグループの発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42に関して、何等の遮光をしていない場合には、位置情報Dp=「1111」がアドレスとして記憶手段16に指示されるので、その記憶手段16から「入力待機」なる入力情報Dinを読み出すことができる。
【0055】
また、G1グループ以外の3つのグループG2、G3、G4を遮光した場合には、位置情報Dp=「1000」がアドレスとして記憶手段16に指示されるので、その記憶手段16から「飛び出せ」なる入力情報Dinを読み出すことができる。この「飛び出せ」の入力情報Dinに基づいて仮想空間上に、TV番組のキャラクタなどを飛び出させるような画像処理を行うことができる。
【0056】
そして、右手で、全てのグループG1〜G4を遮光した場合には、位置情報Dp=「0000」がアドレスとして記憶手段16に指示されるので、その記憶手段16から「消えろ」なる入力情報Dinを読み出すことができる。この「消えろ」の入力情報Dinに基づいてTV番組のキャラクタを仮想空間上から消すような画像処理を行うことができる。
【0057】
このように本実施の形態として情報入力装置100によれば、点滅パターンの異なる9個の発光ダイオードLED10〜12、LED21、23、LED31、32、LED41、42の中で、任意のグループG1〜G4の発光ダイオードLED10〜12、LED21、23、LED31、32、LED41、42の点滅パターンを遮光したときに、その点滅パターンが遮光されたグループ以外のグループの発光ダイオードの位置情報Dpに応じた入力情報Dinを発生させることができる。
【0058】
この構成によって、TV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適かつ操作性の良い簡易コマンダ4を再現性良く構成することができる。しかも、簡易コマンダ4から画像処理系へリード線が引き回されることもないので、赤外線リモコンや、無線リモコンなどの感覚で入力情報を指示することができる。
【0059】
これにより、ジョグダイヤルで入力ソフトプログラムを実行するような入力処理を簡易コマンダ4によっても行うことができるので、バーチャルキャラクタ育成ゲーム装置などの入力コマンダとして十分に応用することができる。しかも、この例では、TV番組のキャラクタを出現させる基準面の認識用の流し撮りCCD装置23とこの簡易コマンダ4用の流し撮りCCD装置23’とを兼用することができる。
【0060】
(2)第1の実施形態
続いて、本発明に係る情報入力装置100を応用したバーチャルキャラクタ育成などのゲーム装置200を説明する。図25は第1の実施形態としてのゲーム装置200の構成例を示す斜視図である。
【0061】
この例では、TV番組のキャラクタを仮想空間上の観察者の手のひらで遊ばせる、いわゆるバーチャルキャラクタ育成ゲーム装置などにおいて、本発明に係る情報入力装置100を応用して、そのキャラクタを仮想空間上に出現させたり、それを左右に動かしたり、ジャンプさせたり、仮想空間上から消したりするようになされたものである。
【0062】
図25に示すバーチャルキャラクタ育成用のゲーム装置200は観察者の属する外界像に、TV番組のキャラクタなどの仮想体画像を立体的に合成表示する装置である。このゲーム装置200は簡易コマンダ4、基準面設定用のブレスレット1、特殊グラストロン2及び画像処理装置3を有している。この簡易コマンダ4は例えば観察者の左手のひとさし指30Lに装着され、ブレスレット1はその左手に装着して使用される。この特殊グラストロン2の本体部21にはベルト22が設けられ、眼鏡をかけるように本体部21が観察者の顔面に装着されると共に、その観察者の頭部外周部に沿ってベルト22が固定される。
【0063】
また、特殊グラストロン2には少なくとも流し撮りCCD装置23及び表示手段24が設けられている。特殊グラストロン2の機種によっては通常のCCD撮像装置25が設けられる。この基準面設定用のブレスレット1、流し撮りCCD装置23及び画像処理装置3によって面認識手段が構成され、観察者の属する実空間上で任意の基準面を認識できるようになされている。
【0064】
更に、特殊グラストロン2には画像処理装置3が接続され、流し撮りCCD装置23から出力された画像データに基づいて基準面などを認識する画像処理がなされる。この画像処理装置3には表示手段24が接続され、面認識手段により認識された基準面が表示される。この特殊グラストロン2内には偏光ビームスプリッタなどの光学手段が設けられる場合があり、表示手段24によって表示された仮想空間の基準面上で仮想体の画像が合成される。この例では、実空間上の基準面の属する位置に、あたかも、仮想体としての3Dポリゴン(雪だるま)10が存在するようになされている。
【0065】
この例で、基準面設定用のブレスレット1は図26に示すプレート部11と、腕輪部12とを有している。プレート部11は基準面を成すものであり、凹凸の無い平坦状に形成される。プレート部11の大きさは、簡易コマンダ4のプレート部14とほぼ同じ大きさ、もしくは、これよりもやや大きな矩形状を有している。プレート部11の表面四隅には、それぞれ発光ダイオード(LED1〜4)が取付けられ、3Dポリゴン10を飛び出せようとする基準面の4つの点P1〜P4の座標として(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)が与えられる(仮想空間上では画像を合成しようとする基準面に相当する)。
【0066】
この4個の発光ダイオードLED1〜4は、そのマーク部としての機能を発揮するために、つまり、その取付け位置が明らかになるように、簡易コマンダ4の発光ダイオードLEDと同様にして、少なくとも、点滅パターンが異なるように点滅される。この発光ダイオードLED1〜4は図31で説明する点滅制御回路13によって点滅パターンが制御される。
【0067】
この発光ダイオードLED1〜4の発光は特殊グラストロン2内の流し撮りCCD装置23により、所定の流し撮像方向に流すように撮像される。この流し撮りは4個の発光ダイオードLED1〜4の取付け位置から基準面を特定するためである。この基準面の特定については図32及び図33で説明をする。
【0068】
この腕輪部12は観察者の手首にフィットさせるように伸縮自在である構造が好ましい。例えば、バンド部材にマジックテープを設けて装着状態を加減できるようにしたものなどである。プレート部11は流し撮りCCD装置23の撮影範囲内に入るように左手の甲側に装着するとよい。
【0069】
図27に示す特殊グラストロン2は非透過型のヘッドマウントディスプレイを構成しており、通常のCCD撮像装置25と、上述した流し撮りCCD装置23と、第1の画像表示素子としての右眼表示用の液晶表示装置(以下LCDという)26と、第2の画像表示素子としての左眼表示用のLCD27とを有している。
【0070】
つまり、観察者の眉間に相当する位置には、通常のCCD撮像装置25と、流し撮りCCD装置23とが並べて配置され、前者によって観察者の属する外界像が撮像され、後者によって簡易コマンダ4の9個の発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42及びブレスレット1の4個の発光ダイオードLED1〜4が流し撮りされる。従って、観察者がコマンダ4や基準面設定用のブレスレット1に目を向けると、その発光面や基準面の方向に流し撮りCCD装置23が向くようになる。
【0071】
そして、特殊グラストロン2内の観察者の右目に相対する位置にはLCD26が取付けられ、例えば、通常のCCD撮像装置25により撮影した観察者のブレスレット1と、予め準備されたコンピユータ・グラフィックス(CG)による3Dポリゴン10の画像とを合成したステレオ画像の一方が表示される。
【0072】
また、その観察者の左目に相対する位置にはLCD27が取付けられ、上述の簡易コマンダ4と、ブレスレット1と、3Dポリゴン10の画像と合成したステレオ画像の他方が表示される。この特殊グラストロン2は観察者の顔面又は頭部に装着され、上述のLCD26のステレオ画像と、LCD27のステレオ画像とが観察者の眼球に導くようになされている。これにより、観察者の属する背景像と3Dポリゴン10とは頭の中で合成される。
【0073】
図28に示す特殊グラストロン20は透過型のヘッドマウントディスプレイを構成しており、通常のCCD撮像装置25は搭載されていない。従って、透過型のヘッドマウントディスプレイは、流し撮りCCD装置23と、外界像取り込み用の液晶シャッタ28と、画像表示素子としてのLCD29を有している。
【0074】
例えば、観察者の眉間に相当する位置には、流し撮りCCD装置23が配置され、観察者が簡易コマンダ4や、基準面設定用のブレスレット1に目を向けると、その簡易コマンダ4の9個の発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42及びブレスレット1の4個の発光ダイオードLED1〜4が流し撮りされる。そして、観察者の左目及び右目に相当する位置には液晶シャッタ28が設けられ、例えば、液晶シャッタ28が開かれると、その液晶シャッタ28を通過した観察者のブレスレット1や簡易コマンダ4の実像が直接眼球に導かれる。
【0075】
また、特殊グラストロン2内の観察者の左目又は右目の脇に位置する部分には、LCD29が取付けられ、上述の特殊グラストロン2と同様にしてキャラクタ画像が表示される。図示しないが、液晶シャッタ28と、LCD29との間には偏光ビームスプリッタなどの光学手段が設けられ、観察者のブレスレット1や簡易コマンダ4の実像と、3Dポリゴン10の画像とが観察者の眼球に導くようになされている。これにより、観察者の属する背景像と3Dポリゴン10とが頭の中で合成される。
【0076】
続いて、インターライン転送方式の流し撮りCCD装置23の内部構成について説明する。図29に示す流し撮りCCD装置23は基板31を有している。その基板31上には、1画素を構成する光電変換素子としてフォトダイオードPHij(i=1〜n、j=1〜m)がn列×m行のマトリクス状に配置されている。
【0077】
この基板31の列方向には電荷転送部としてm本の垂直転送部32が設けられ、フォトダイオードPHijから読み出した信号電荷が垂直読み出し信号S1に基づいて垂直方向(流し撮り方向)に転送される。この垂直転送部32には水平転送部33が接続され、その信号電荷が水平読み出し信号S2に基づいて水平方向に転送されるので、出力端子34に流し撮り信号SOUTが出力される。この例では、流し撮りをするために、少なくとも、同一フィールド期間中に複数回、フォトダイオードPHijから垂直転送部32に信号電荷が読み出される。
【0078】
また、流し撮りCCD装置23は図30に示す魚眼レンズ35を有している。魚眼レンズ35は例えばCCD撮像素子36の光軸上に設けられる。この魚眼レンズ35によって簡易コマンダ4や基準面設定用のブレスレット1などを広範囲に撮像できるようになされている。もちろん、通常のレンズでも構わないが、視野が狭くなるので、観察者は簡易コマンダ4やブレスレット1に向けてより多く頭部を傾けなければならない。
【0079】
続いて、ゲーム装置200の回路構成について説明する。図31に示すゲーム装置200は大きく分けて4つの回路ブロックから成る。第1の回路ブロックは基準面設定用のブレスレット1であり、このブレスレット1には点滅制御回路13が設けられ、4個の発光ダイオードLED1〜4に所定の電圧が印加されて点滅制御される。点滅制御回路13では点滅パターンが異なるように発光ダイオードLED1、LED2、LED3及びLED4が点滅間隔が制御される。発光ダイオードLED1〜4の電源には図示しない小型の乾電池やボタン電池などが使用される。
【0080】
第2の回路ブロックは簡易コマンダ4であり、この簡易コマンダ4には点滅制御回路5が設けられ、9個の発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42に所定の電圧が印加されて点滅制御される。点滅制御回路5では点滅パターンがグループG1〜G4毎に異なり、グループ内でも点滅パターンが異なるように発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42の点滅間隔が制御される。発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42の電源にはブレスレット1と同様にして小型の乾電池やボタン電池などが使用される。
【0081】
第3の回路ブロックは特殊グラストロン2であり、非透過型の場合には上述した流し撮りCCD装置23、通常のCCD撮像装置25、右眼表示用のLCD26及び左眼表示用のLCD27を有している。
【0082】
第4の回路ブロックは画像処理装置3であり、内部バス41を有している。内部バス41にはインタフェース(I/O)42、画像キャプチャ部43、画像処理部44、CPU45、ROM46、RAM47及びE2PROM(電気的な情報の書き込み及び消去が可能な読み出し専用メモリ)48が接続されている。流し撮りCCD装置23、通常のCCD撮像装置25、右眼表示用のLCD26及び左眼表示用のLCD27はインタフェース42を介して内部バス41に接続される。
【0083】
この内部バス41には記録媒体としてE2PROM48が接続され、観察者の属する外界像に3Dポリゴン10の画像を立体的に合成するアルゴリズムが格納されている。例えば、E2PROM48には、観察者の属する実空間上で任意に設定された基準面を撮像して仮想空間上にその基準面を表示すると共に、その仮想空間上に3Dポリゴン10の画像を重ね合わせて合成するアルゴリズムが格納される。
【0084】
従って、このアルゴリズムを実行することによって、簡易に、しかも、少ない計算量で実空間上の基準面を認識することができる。これにより、実空間上の基準面の属する位置に、あたかも、3Dポリゴン10が存在するように画像処理することができるので、バーチャルキャラクタ育成ゲーム装置などのゲーム装置200を再現性良く構成することができる。
【0085】
更に、内部バス41には記憶手段16としてのROM46が接続され、図9で説明した4つのグループG1〜G4の位置情報Dpに対する入力情報Dinが記憶されている。従って、4つのグループG1〜G4を「覆う」又は「覆わない」の組み合わせによって16通りの入力情報Dinを得ることができる。その他に、このROM46にはゲーム装置200を制御するためのシステムプログラムや、メモリの読み出し手順などの制御情報が格納される。
【0086】
また、内部バス41にはワーキング用のRAM47が接続され、上述した入力情報Din、システムプログラムやキャラクタ画像を表示する表示情報が一時記録される。また、内部バス41にはCPU45が接続され、インタフェース42、画像キャプチャ部43、画像処理部44、ROM46、RAM47及びE2PROM48の入出力の制御や、流し撮りCCD装置23、CCD撮像装置25、LCD26及びLCD27の入出力の制御が行われる。
【0087】
このインタフェース42には画像処理部44が接続され、例えば、通常のCCD撮像装置25で撮像された図32に示す基準面設定用の4つの発光ダイオードLED1〜4の画像が、CPU45の制御命令と共にインタフェース42を介して、画像処理部44に取り込まれ、そこで所定の画像処理がなされ、再び、インタフェース42を介して特殊グラストロン2内のLCD26及びLCD27などに転送される。
【0088】
また、インタフェース42には画像キャプチャ部43が接続され、CPU45の制御命令を受けて、流し撮りCCD装置23から入力した点滅パターンの画像データを獲得する所定のキャプチャ処理がなされる。この点滅パターンの画像データは時間経過に対応する輝度の変化として表現されている。画像キャプチャ部43には演算手段6としての画像処理部44が接続され、所定の画像処理が施された画像データに関して、点滅パターンの同期ずれが補正されたり、観察者の属する基準面が求められる。
【0089】
例えば、画像処理部44では流し撮りCCD装置23から出力された流し撮り信号(輝度信号)SOUTの点滅パターンに関して、図33に示すウインドウWにより画定された画像領域内で、4つの流し撮り輝点P1〜P4を含むXY平面を成す空間的な配置パターンに変換される。その後、その配置パターン上を走査して、少なくとも、4つの輝点P1〜P4の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)が求められる。この4つの輝点P1〜P4は観察者に装着されたブレスレット1の基準面設定用の4つの発光ダイオードLED1〜4である。実空間上の4つの発光ダイオードLED1〜4の位置座標は既知であり、その位置座標は(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)である。
【0090】
従って、上述の実空間上の基準面は4つの発光ダイオードLED1〜4の取付け位置に射影する変換行列を演算することにより得られる。ここで実空間の平面上の点(xi,yi,0)をある並進・回転運動によって移動し、それを透視変換で画像座標系に射影した点を(Xi,Yi)で示すと、両者の間には(1)式なる関係がある。
【0091】
【数1】
Figure 0004264601
【0092】
但し、a1・・・・a8は未知の係数でCCD撮像装置25などの外部パラメータ(位置と方向)及び焦点距離などの内部パラメータである。これらのパラメータは実空間の既知の点の位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)と、それらに対応する4組の画像処理系の位置座標(X1,Y1)、(Y2,Y2)、(X3,Y3)、(X4,Y4)が存在すれば、(2)式の方程式を解くことにより得られる。
【0093】
【数2】
Figure 0004264601
【0094】
ここで得られた4点の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)を結ぶことにより、図32に示した実空間上の基準面が認識される。
【0095】
具体的には、図33に示す配置パターン上で流し撮像方向をY軸とし、そのY軸に直交する方向をX軸としたときに、画像処理部44によって流し撮像方向と同一方向又はその反対方向に輝度信号値が加算される。この加算値がX軸上にプロットされると、そのX軸にプロットされた輝度信号値が最大となる4つの位置が検出され、この4つの位置に対応したX座標値X1、X2、X3、X4が求められる。また、その配置パターン上で取得画像をY方向に走査したときに、そのY方向に並んだ複数の輝点のうち、最初に発光した輝点位置が各々X座標値に対応したY座標値Y1、Y2、Y3、Y4として求められる。
【0096】
ここで、実空間上の4つの発光ダイオードLED1〜4の位置座標をwi(i=1〜4)とし、その4つの発光ダイオードLED1〜4の位置座標wiのカメラ座標系上での表現ベクトルをCiとし、その4つの発光ダイオードLED1〜4のLCD画面上での位置座標をPiとし、流し撮りCCD装置23の回転マトリクスをR、その移動ベクトルをTとすると、(3)式、すなわち、
Ci=R・wi+T ・・・(3)
但し、Ci=Pi・ki(kiはスカラー)
という関係がある。従って、通常のCCD撮像装置25の回転マトリクスRとその移動ベクトルTとを演算し、これをパラメータとして実空間と仮想空間との間で座標変換を容易に行うことができるので、仮想空間上の基準面にキャラクタ画像を合成することができる。
【0097】
次に、本発明の情報入力方法に関して、ゲーム装置200の動作を説明する。この例では、観察者の属する外界像に3Dポリゴン10の画像を立体的に合成した後に、簡易コマンダ4を使用して3Dポリゴン10を変化させる場合を想定する。もちろん、観察者は発光面が上に向くように簡易コマンダ4を左手のひとさし指30Lに装着し、図27に示した特殊グラストロン2を頭部に装着する。
【0098】
まず、図34に示すフローチャートのステップA1で観察者の属する実空間上で任意の基準面を設定するために、観察者は、例えば、プレート部11が上に向くように、左腕に基準面設定用のブレスレット1を装着する。その後、点滅制御部13をオンして4つの発光ダイオードLED1〜4を所定の点滅パターンで点滅する。これに前後して、点滅制御回路5をオンして9つの発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42を所定の点滅パターンで点滅する。
【0099】
次に、ステップA2において、一方で通常のCCD撮像装置25を使用して実空間上の基準面を撮影してLCD26及びLCD27にステレオ画像を表示する。他方で、流し撮りCCD装置23を使用して実空間上の簡易コマンダ4及び基準面を流し撮りする。例えば、3Dポリゴン10の画像を合成させようとする位置に取付けられた4つの発光ダイオードLED1〜4が、点滅パターンが異なるように点滅されるので、その点滅パターンが所定の撮像方向に流すように撮像される。
【0100】
その後、ステップA3で観察者の属する実空間上に任意に設定された基準面を認識するために画像処理する。画像処理部44では、例えば、図35に示すサブルーチンをコールしてステップB1でビデオキャプチャ処理を実行する。その後、ステップB2で四隅の発光ダイオードLED1〜4を認識する。具体的には、流し撮りCCD装置23で撮像された4つの発光ダイオードLED1〜4による輝度信号の点滅パターンが、4つの輝点P1〜P4を含むXY平面を成す空間的な配置パターンに変換される。
【0101】
その後、その配置パターン上を走査して、少なくとも、4つの輝点P1〜P4の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)が求められ、上述した(1)式及び(2)式が演算され、実空間上の4つの発光ダイオードLED1〜4の取付け位置と、画像処理系の4点の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)との関係が求められ、この4点を結ぶことにより基準面が求められる。そして、ステップB3で画像処理部44では上述の(3)式に基づいて演算処理が行われ、流し撮りCCD装置23と基準面との位置関係が検出される。
【0102】
一方、図6及び図7で説明した簡易コマンダ4の9個の発光ダイオードLED10〜12、LED21、22、LED31、32、LED41、42の9つの輝点p10〜p12、p21、p22、p31、p32、p41p、p42の位置座標(X1,Y1)、(X2,Y2)、(X3,Y3)、(X4,Y4)、(X5,Y5)(X6,Y6)、(X7,Y7)、(X8,Y8)、(X9,Y9)が求められる。この時点で、簡易コマンダ4の発光面を何等覆わないものとすれば、4つのグループG1〜G4の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42に関して、位置情報Dp=「1111」がアドレスとしてROM46に指示されるので、そのROM46から「入力待機」なる入力情報Dinを読み出すことができる。
【0103】
その後、ステップA4にリターンして観察者による簡易コマンダ4からの指示に基づいて画像処理が行われる(図5参照)。例えば、簡易コマンダ4のG1グループ以外の3つのグループG2、G3、G4を右手のひとさし指30Rで遮光するように指示が与えられると、仮想空間の基準面上に3Dポリゴン10の画像が重ね合わされるようにして合成される。このとき、流し撮りCCD装置23による位置情報Dp=「1000」がアドレスとしてROM46に指示されるので、そのROM46から「飛び出せ」なる入力情報Dinが読み出され、この「飛び出せ」の入力情報Dinに基づいて基準面上に、3Dポリゴン10が出現するような画像処理を行うことができる。
【0104】
従って、観察者が装着した特殊グラストロン2では、LCD26による実空間の外界像と3Dポリゴン10の画像とを合成したステレオ画像の一方が観察者の右の眼球に導くようになされる。LCD27による実空間の外界像と3Dポリゴン10の画像とを合成したステレオ画像の他方が観察者の左の眼球に導くようになされる。
【0105】
これにより、図36Aに示す実空間上では基準面上に3Dポリゴン10が出現していないのに、図36Bに示す仮想空間ではその基準面上に3Dポリゴン10を出現させることができる。従って、観察者の属する実空間上の背景画像と、仮想空間上に出現した3Dポリゴン10とが頭の中で合成されるので、実空間上の基準面の属する位置に、あたかも、3Dポリゴン10が存在するようにできる。
【0106】
その後、簡易コマンダ4を使用して、更に、G2グループ以外の3つのグループG1、G3、G4を遮光した場合には、位置情報Dp=「0100」がアドレスとしてROM46に指示されるので、そのROM46から「左に動け」なる入力情報Dinを読み出すことができる。この「左に動け」の入力情報Dinに基づいて基準面上の3Dポリゴン10を左に動かすような画像処理を行うことができる。
【0107】
また、G3グループ以外の3つのグループG1、G2、G4を遮光した場合には、位置情報Dp=「0010」がアドレスとしてROM46に指示されるので、そのROM46から「右に動け」なる入力情報Dinを読み出すことができる。この「右に動け」の入力情報Dinに基づいて基準面上の3Dポリゴン10を右に動かすような画像処理を行うことができる。
【0108】
更に、G4グループ以外の3つのグループG1、G2、G3を遮光した場合には、位置情報Dp=「0001」がアドレスとしてROM46に指示されるので、そのROM46から「ジャンプしろ」なる入力情報Dinを読み出すことができる。この「ジャンプしろ」の入力情報Dinに基づいて基準面上の3Dポリゴン10をジャンプさせるような画像処理を行うことができる。
【0109】
以下、同様にして、G1、G2、G3グループ以外のグループG4を遮光した場合には、位置情報Dp=「1110」がアドレスとしてROM46に指示されるので、そのROM46から「声を出せ」なる入力情報Dinを読み出すことができる。この「声を出せ」の入力情報Dinに基づいて基準面上の3Dポリゴン10」を喋らせるような音声処理を行うことができる。
【0110】
そして、右手で、全てのグループG1〜G4を遮光した場合には、位置情報Dp=「0000」がアドレスとしてROM46に指示されるので、そのROM46から「消えろ」なる入力情報Dinを読み出すことができる。この「消えろ」の入力情報Dinに基づいて3Dポリゴン10をその基準面上から消すような画像処理を行うことができる。
【0111】
このように、第1の実施形態としての情報入力装置100を応用したゲーム装置200によれば、9個の発光ダイオードLED10〜LED12、LED21、23、LED31、32、LED41、42の点滅パターンによる位置情報Dpに基づいて、ジョグダイヤルのソフトプログラムを実行させるような入力処理を簡易コマンダ4によって行うことができるので、バーチャルキャラクタ育成ゲーム装置などの入力ツールとしての操作性を向上させることができる。しかも、3Dポリゴン10を出現させる基準面の認識用の流し撮りCCD装置23とこの簡易コマンダ用の流し撮りCCD装置23’とを兼用することができる。
【0112】
従って、観察者の属する実空間上の基準面の属する位置に、あたかも、TV番組のキャラクタなどを飛び出させ、観察者の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置200やその他のゲーム装置を容易に構成することができる。また、これらのバーチャルキャラクタ育成ゲーム装置などのコストダウンを図ることができる。
【0113】
なお、図37は他のゲーム装置300の構成例を示す斜視図である。この例では簡易コマンダ4を基準面にして仮想空間上に3Dポリゴン10を出現させたものである。簡易コマンダ4の発光ダイオードLEDは基準面の認識に使用できるので、その仮想空間の簡易コマンダ4が作る基準面上に3Dポリゴン10を出現させることができる。従って、基準面設定用のブレスレット1が無くても、3Dポリゴン10を出現させることができる。
【0114】
この例で、簡易コマンダ4は上述したものに限られることはなく、データグローブ90を使用したものであってよい。図38Aは実空間におけるデータグローブ90の画像例を示し、図38Bは仮想空間のデータグローブ90上に3Dポリゴン10を出現させたイメージ図である。この例でも、データグローブ90には点滅パターンの異なる複数の発光ダイオードLEDが取付けられている。流し撮りCCD装置23によって基準面が認識されると、そのデータグローブ90上に3Dポリゴン10を出現させることができる。
【0115】
図39はグローブ型の簡易コマンダ40の構成例を示すイメージ図である。この簡易コマンダ40は、右手の親指が届く位置のひとさし指を覆うグローブ部に、複数の発光ダイオードLEDが線状に取付けられている。
【0116】
このグローブ部のひとさし指の発光ダイオードLEDを右から左方向、又は、左から右方向に順に右手の親指で遮光すると、上述した簡易コマンダ4のような遮光パターンを変えることができるので、グローブ型の簡易コマンダ40によって、ジョグダイヤル動作をさせることができる。従って、画像処理系で簡易コマンダ40による回転や動作決定を認識できるので、バーチャルキャラクタ育成ゲーム装置などの入力ツールとしての操作性を向上させることができる。
【0117】
図40はグローブ型の他の簡易コマンダ40’の構成例を示すイメージ図である。この簡易コマンダ40’は、右手の親指が届く位置の中指を覆うグローブ部に複数の発光ダイオードLEDが取付けられている。このグローブ部の中指の発光ダイオードLEDを右から左方向、又は、左から右方向に順に右手の親指で遮光すると、上述した簡易コマンダ4のような遮光パターンを変えることができるので、グローブ型の他の簡易コマンダ40’によってもジョグダイヤル動作をさせることができる。
【0118】
従って、画像処理系で簡易コマンダ40’による回転や動作決定を認識できるので、バーチャルキャラクタ育成ゲーム装置などの入力ツールとしての操作性を向上させることができる。
【0119】
(3)第2の実施形態
図41は第2の実施形態としてのゲーム装置で使用する基準面設定用の二次元バーコード50の構成例を示す図である。この実施例では4つの発光ダイオードLED1〜4に代わって、図41に示す二次元バーコード50を使用して基準面が認識されるものである。もちろん、二次元バーコード50上に出現した3Dポリゴン10を上述した情報入力装置100によってその動きを制御することができる。
【0120】
この例の面認識手段は2次元マトリクスコード50を有しており、実空間上の基準面を認識するために使用される。2次元バーコード50は少なくとも、白地に黒で印刷されたn行×n列の白黒マトリクスと、その白黒マトリクスと同じ太さの黒枠部51から成る。この例では黒枠部51で囲まれた5×5画素がコード領域部52であり、この25画素のうち、図42に示す12画素が黒で塗りつぶされている。
【0121】
このバーコード50は3Dポリゴン10の画像を合成しようとする位置、例えば、図2に示したブレスレット1のプレート11上に設けられる。この二次元マトリクスコード50は流し撮りCCD装置23に代わって通常のCCD撮像装置25で撮像される。この撮像装置25の出力段には、図31で説明したような画像処理装置3が接続される。その画像処理装置3には演算手段6が設けられ、CCD撮像装置25から出力された撮像信号(輝度信号)を画像処理して二次元マトリクスコード50から基準面が求められる。
【0122】
例えば、画像処理部44では前処理が施される。この処理では、まず、取得画像が適当な閾値で2値化される。バーコード部分は白地に黒で印刷されているので、固定閾値によって、かなり安定的に背景画像とコード領域とを分離することができる。次に、黒ピクセルの連結領域毎にラベル付けが施される。2次元バーコード50の黒枠部51はラベル付けされた連結領域のいずれかに含まれることとなる。従って、連結領域の外接四角形の大きさと縦横比を考慮して、コード領域部52が含まれている可能性の低い背景画像(領域)は除去するようになされる。
【0123】
その後、前処理の結果得られた連結領域の各要素に対してバーコード枠の当てはめを行う。例えば、外接四角形の各辺から内側に向かって、黒領域を探索し、コー黒枠部51の点列を得る。この点列に対して最小二乗法で線分を当てはめる。その後、当該二次元バーコード50に与えられたコード領域部52を認識する。
【0124】
上述の基準面は黒枠部51の4頂点を正方形の頂点に射影する変換行列を演算することにより得られる。ここで実空間の平面上の点(xi,yi,0)をある並進・回転運動によって移動し、それを透視変換で画像座標系に射影した点を(Xi,Yi)で示すと、両者の間には第1の実施例で説明した(1)式と同様な関係がある。
【0125】
従って、これらのパラメータは実空間の既知の点の位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)と、それらに対応する4組の画像処理系の位置座標(X1,Y1)、(Y2,Y2)、(X3,Y3)、(X4,Y4)が存在すれば、先に説明した(2)式の方程式を解くことにより得られる。
【0126】
ここで得られた位置座標(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に関して、一辺の長さを「1」とする正方形の4頂点とすると、この4頂点を結ぶ面が実空間上の基準面となる。なお、画面上の黒枠部51はCCD撮像装置25の姿勢や、透視投影によって歪んでいるが、外部パラメータ及び内部パラメータによって、画面上の矩形頂点を正方形の各頂点に射影することができる。従って、図42に示す仮想空間上の二次元バーコード50の四隅の位置座標から正立方体53を作成することができるので、その正立方体53に3Dポリゴン10などを合成することができる。
【0127】
そして、第1の実施形態と同様にして観察者による簡易コマンダ4からの指示に基づいて、その仮想空間の二次元バーコード50上に3Dポリゴン10を飛び出させたり、そのバーコード50上で3Dポリゴン10を左右に移動させたり、それをジャンプさせたり、声を出させたり、バーコード50上から3Dポリゴン10を消したりすることができる。
【0128】
このように、本実施形態としてのゲーム装置よれば、仮想空間の二次元バーコード50上に、あたかも、TV番組のキャラクタなどを飛び出させ、観察者の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置やその他のゲーム装置を構成したときに、上述した情報入力装置100を簡易コマンダ4として使用することができる。
【0129】
なお、この実施形態では非透過型の特殊グラストロン2又は透過型の特殊グラストロン20を使用する場合について説明したが、これに限られることはなく、透過型と非透過型を切換え可能な兼用タイプの特殊グラストロンを用いても、もちろん構わない。
【0130】
この実施形態のゲーム装置200は、特開平10−123453号、特開平9−304727号、特開平9−304730号、特開平9−211374号、特開平8−160348号、特開平8−94960号、特開平7−325265号、特開平7−270714号及び特開平7−67055号に記載される透過型のヘッドマウントディスプレイに適用することができる。
【0131】
この実施形態では流し撮りCCD23に関してインターライン転送方式の二次元撮像デバイスを使用する場合について説明したが、これに限られることはなく、フレーム転送方式の二次元撮像デバイスを使用する場合であっても同様な効果が得られる。
【0132】
この実施形態では簡易コマンダ4に9個の発光ダイオードLED10〜12、LED21、22、LED31、32、LED42、42を取付ける場合について説明したが、これに限られることはなく、その発光面に発光ダイオードをいくつ取付けても構わない。更に、この実施形態ではグループ単位に入力情報Dinを発生する場合について説明したが、これに限られることはなく、グループの下位階層として第1番目、第2番目の発光ダイオードを個々に遮光するようにして、入力情報Dinの量を16通り以上に増やしてもよい。このように構成すると、3Dポリゴン10の表情などをより細かく表示制御することができる。
【0133】
【発明の効果】
以上説明したように、本発明の情報入力装置によれば、撮像可能な任意の物体の特定の面に取付けられた点滅パターンの異なる光源の位置情報に応じた入力情報を発生するデータ発生手段が設けられるものである。
【0134】
この構成によって、複数の光源の中で任意の光源の点滅パターンを遮光したときに、少なくとも、点滅パターンが遮光された光源以外の光源の位置情報に応じた入力情報を発生させることができる。
【0135】
また、本発明の情報入力方法によれば、撮像可能な任意の物体の特定の面に取付けられた点滅パターンの異なる複数の光源の中で、任意の光源の点滅パターンを遮光したときに、少なくとも、その点滅パターンを遮光した光源以外の光源の位置情報に応じた入力情報を発生するものである。
【0136】
この構成によって、TV番組のキャラクタを仮想空間上の手のひらで遊ばせるバーチャルキャラクタ育成ゲーム装置などの入力ツールに最適なワイヤレスリモコンに匹敵する簡易コマンダを再現性良く構成することができる。
【0137】
この発明に係るゲーム装置によれば、上述の情報入力装置が入力手段に応用されるので、入力操作が簡単で、しかも、操作性の良い簡易コマンダを備えたバーチャルキャラクタ育成ゲーム装置などを構成することができる。
【0138】
この発明は、バーチャルキャラクタ育成ゲーム装置などに適用して極めて好適である。
【図面の簡単な説明】
【図1】本発明に係る各実施形態としての情報入力装置100の構成例を示すブロック図である。
【図2】その簡易コマンダ4の構成例を示す斜視図である。
【図3】他の簡易コマンダ4の構成例を示す斜視図である。
【図4】簡易コマンダ4の9つの発光ダイオードのグループ例を示す概念図である。
【図5】その簡易コマンダ4の使用例を示す上面図である。
【図6】その簡易コマンダ4の通常画像例を示すイメージ図である。
【図7】その9つの発光ダイオードの位置座標の算出例を示す模式図である。
【図8】発光ダイオードLEDの番号及びその取付け位置情報例を示す表図である。
【図9】その4つのグループによる位置情報Dpに対する入力情報例を示す表図である。
【図10】その入力情報の表示例を示すイメージ図である。
【図11】その3Dポリゴンのx、y方向への移動例を示すイメージ図である。
【図12】その簡易コマンダ4のジョグダイヤル的な動作例(PT=0,7)を示すイメージ図である。
【図13】そのジョグダイヤル的な動作例(PT=1)を示すイメージ図である。
【図14】そのジョグダイヤル的な動作例(PT=2)を示すイメージ図である。
【図15】そのジョグダイヤル的な動作例(PT=3)を示すイメージ図である。
【図16】そのジョグダイヤル的な動作例(PT=4)を示すイメージ図である。
【図17】そのジョグダイヤル的な動作例(PT=5)を示すイメージ図である。
【図18】そのジョグダイヤル的な動作例(PT=6)を示すイメージ図である。
【図19】簡易コマンダ4や4’の「動作決定」指示の入力例を示すイメージ図である。
【図20】簡易コマンダ4’の他のジョグダイヤル的な動作例(PT=1)を示すイメージ図である。
【図21】そのジョグダイヤル的な動作例(PT=2)を示すイメージ図である。
【図22】そのジョグダイヤル的な動作例(PT=3)を示すイメージ図である。
【図23】そのジョグダイヤル的な動作例(PT=4)を示すイメージ図である。
【図24】そのジョグダイヤル的な動作例(PT=5)を示すイメージ図である。
【図25】本発明に係る情報入力装置を応用したゲーム装置200の構成例を示す斜視図である。
【図26】第1の実施形態で使用する基準面設定用のブレスレット1の構成例を示す斜視図である。
【図27】ゲーム装置200で使用する特殊グラストロン2の構成例を示す正面から見た概念図である。
【図28】ゲーム装置200で使用する他の特殊グラストロン20の構成例を示す正面から見た概念図である。
【図29】その特殊グラストロン2の流し撮りCCD装置23の内部構成例を示す平面図である。
【図30】その流し撮りCCD装置23の光学系の構成例を示す断面図である。
【図31】ゲーム装置200の回路ブロック例を示す図である。
【図32】その基準面を成すプレート部11の通常画像例を示すイメージ図である。
【図33】その基準面の位置座標の算出例を示す模式図である。
【図34】ゲーム装置200の動作例(その1)を示すメインルーチンのフローチャートである。
【図35】ゲーム装置200の動作例(その2)を示すサブルーチンのフローチャートである。
【図36】Aは、実空間上のプレート部11の実像例であり、Bは、仮想空間における基準面上の3Dポリゴンの合成例を示すイメージ図である。
【図37】情報入力装置を応用した他のゲーム装置300の構成例を示す斜視図である。
【図38】Aは、データグローブ90を応用した場合の実像例であり、Bは、仮想空間におけるデータグローブ90上の3Dポリゴンの合成例を示すイメージ図である。
【図39】グローブ型の簡易コマンダ40の構成例(ひとさし指)を示すイメージ図である。
【図40】他のグローブ型の簡易コマンダ40’の構成例(中指)を示すイメージ図である。
【図41】第2の実施形態で使用する基準面設定用の2次元バーコード50の例を示す平面図である。
【図42】その2次元バーコード50上の3Dポリゴン10の合成例を示す斜視図である。
【符号の説明】
1・・・基準面設定用のブレスレット(面認識手段)、2,20・・・特殊グラストロン、3・・・画像処理装置、4,4’40,40’・・・簡易コマンダ、6・・・演算手段、7・・・データ発生手段、10・・・3Dポリゴン、16・・・記憶手段、23,23’・・・流し撮りCCD装置(撮像手段)、24・・・表示手段、25・・・CCD撮像装置、26・・・右眼表示用のLCD(第1の画像表示素子)、27・・・左眼表示用のLCD(第2の画像表示素子)、32・・・垂直転送部(電荷転送部)、33・・・水平転送部、46・・・ROM、50・・・2次元バーコード、90・・・データグローブ、100・・・情報入力装置、200,300・・・ゲーム装置

Claims (10)

  1. 点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と、前記プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に取付けられた点滅パターンが異なる複数の光源と、
    前記点滅パターンが異なる複数の光源を撮像する撮像手段と、
    前記撮像手段により撮像された前記点滅パターンが異なる複数の光源の輝度情報を画像処理して前記光源の各々の位置情報を求める演算手段と、
    前記演算手段による前記光源の位置情報に応じた入力情報を発生するデータ発生手段とを備え、
    前記点滅パターンの異なる光源が前記菱形状のプレート部の対角線に沿って十字状に配置され、
    前記データ発生手段は、前記光源の任意の点滅パターンが遮光されたときに、少なくとも、前記点滅パターンを遮光された光源以外の光源の位置情報に応じた入力情報を発生する情報入力装置。
  2. 前記十字状に配置された点滅パターンの異なる光源が4つのグループに分けて点滅制御される請求項に記載の情報入力装置。
  3. 前記データ発生手段には記憶手段が設けられ、
    前記記憶手段には、
    前記光源の位置情報に対応付けられた入力情報が格納される請求項1に記載の情報入力装置。
  4. 前記撮像手段には、
    各画素を構成する複数の光電変換素子を有した二次元撮像デバイスが使用され、
    前記光電変換素子から得られた信号電荷を所定の方向に転送するときに、
    少なくとも、同一フィールド期間中に複数回、前記光電変換素子から前記信号電荷を読み出すようになされた請求項1記載の情報入力装置。
  5. 記演算手段は、
    前記撮像手段による輝度信号の点滅パターンに関して、複数の輝点を含むXY平面を成す空間的な配置パターンに変換し、
    前記配置パターン上を走査して、少なくとも、複数の位置座標を求めるようになされた請求項1記載の情報入力装置。
  6. 前記演算手段は、
    複数の輝点を含むXY平面を成す配置パターン上で流し撮像方向をY軸とし、該Y軸に直交する軸をX軸としたときに、
    前記流し撮像方向に輝度信号値を加算してX軸上にプロットし、
    前記X軸上にプロットされた輝度信号値が最大となる位置を検出して複数のX座標値を求め、かつ、
    前記配置パターン上でY軸方向に走査したときに、
    前記流し撮像方向に並んだ複数の輝点のうち、最初に発光した輝点位置を各々X座標値に対応したY座標値として求める請求項1記載の情報入力装置。
  7. 点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と当該プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に点滅パターンが異なる複数の光源を取付け、
    前記点滅パターンが異なる複数の光源を撮像し、
    前記撮像された点滅パターンが異なる複数の光源の輝度情報を画像処理して該光源の各々の位置情報を求め、
    前記点滅パターンの異なる光源を前記菱形状のプレート部の対角線に沿って十字状に配置し、
    前記光源の任意の点滅パターンを遮光したときに、少なくとも、前記点滅パターンを遮光した光源以外の光源の位置情報に応じた入力情報を発生する情報入力方法。
  8. 観察者の属する実空間上で任意の基準面を認識する面認識手段と、
    前記面認識手段により認識された仮想空間の基準面上であって、観察者の属する外界像に任意のキャラクタ画像を立体的に合成する合成手段と、
    少なくとも、前記キャラクタ画像を変化させるための入力情報を指示する入力手段とを備え、
    前記入力手段は、
    点滅パターンの異なる複数の光源が特定面に取付けられた菱形状を成すプレート部と、
    前記プレート部に接合された指輪部とを有する撮像可能な任意の物体の特定の面に取付けられた点滅パターンが異なる複数の光源と、
    前記点滅パターンが異なる複数の光源を撮像する撮像手段と、
    前記撮像手段により撮像された前記点滅パターンが異なる複数の光源の輝度情報を画像処理して前記光源の各々の位置情報を求める演算手段と、
    前記演算手段による前記光源の位置情報に応じた入力情報を発生するデータ発生手段とを有し、
    前記点滅パターンの異なる光源が前記菱形状のプレート部の対角線に沿って十字状に配置され、
    前記データ発生手段は、前記光源の任意の点滅パターンが遮光されたときに、少なくとも、前記点滅パターンを遮光された光源以外の光源の位置情報に応じた入力情報を発生するゲーム装置。
  9. 前記合成手段は、
    観察者の属する外界像を撮像する撮像手段と、
    前記撮像手段による外界像と予め準備された仮想体の画像と合成したステレオ画像の一方を表示する第1の画像表示素子と、
    前記ステレオ画像の他方を表示する第2の画像表示素子とを有したヘッドマウントディスプレイであり、
    前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
    前記第1の画像表示素子によるステレオ画像と、前記第2の画像表示素子によるステレオ画像とを重ね合わせて観察者の眼球に導くようになされた請求項記載のゲーム装置。
  10. 前記合成手段は、
    観察者の属する外界像を取り込むために入射光の開閉をする液晶シャッタと、
    前記外界像に合成するための仮想体の画像を表示する画像表示素子と、
    前記画像表示素子による仮想体の画像と、前記液晶シャッタを通過した観察者の属する外界像とをその観察者の眼球に導く光学手段とを有したヘッドマウントディスプレイであり、
    前記ヘッドマウントディスプレイは、観察者の顔面又は頭部に装着され、
    前記液晶シャッタを開いたときは、
    前記液晶シャッタを通過した観察者の属する実空間上の外界像に、前記画像表示素子による仮想体の画像を重ね合わせて観察者の眼球に導くようになされた請求項記載のゲーム装置。
JP30016498A 1998-10-21 1998-10-21 情報入力装置、情報入力方法及びゲーム装置 Expired - Fee Related JP4264601B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP30016498A JP4264601B2 (ja) 1998-10-21 1998-10-21 情報入力装置、情報入力方法及びゲーム装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30016498A JP4264601B2 (ja) 1998-10-21 1998-10-21 情報入力装置、情報入力方法及びゲーム装置

Publications (2)

Publication Number Publication Date
JP2000132306A JP2000132306A (ja) 2000-05-12
JP4264601B2 true JP4264601B2 (ja) 2009-05-20

Family

ID=17881527

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30016498A Expired - Fee Related JP4264601B2 (ja) 1998-10-21 1998-10-21 情報入力装置、情報入力方法及びゲーム装置

Country Status (1)

Country Link
JP (1) JP4264601B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4348576B2 (ja) * 1999-07-08 2009-10-21 ソニー株式会社 画像処理装置および方法、並びに記録媒体
US6417836B1 (en) * 1999-08-02 2002-07-09 Lucent Technologies Inc. Computer input device having six degrees of freedom for controlling movement of a three-dimensional object
KR100532525B1 (ko) * 2002-05-07 2005-11-30 이문기 카메라를 이용한 삼차원 포인팅장치
JP2008096868A (ja) * 2006-10-16 2008-04-24 Sony Corp 撮像表示装置、撮像表示方法
JP2009245392A (ja) * 2008-03-31 2009-10-22 Brother Ind Ltd ヘッドマウントディスプレイ及びヘッドマウントディスプレイシステム
JP4950230B2 (ja) * 2009-01-14 2012-06-13 Smk株式会社 リモートコントロールシステム
JP5005758B2 (ja) * 2009-12-25 2012-08-22 株式会社ホンダアクセス 自動車における車載機器の操作装置
JP5629766B2 (ja) * 2010-05-10 2014-11-26 日本システムウエア株式会社 マーカー検出システム、検出方法、プログラム及び該プログラムを格納したコンピュータ可読媒体
JP5330444B2 (ja) * 2011-03-28 2013-10-30 株式会社ホンダアクセス 自動車の車載機器操作装置における手の判定方法および判定装置
WO2013094786A1 (en) * 2011-12-21 2013-06-27 Lg Electronics Inc. Electronic device having 3-dimensional display and method of operating thereof
US9032334B2 (en) 2011-12-21 2015-05-12 Lg Electronics Inc. Electronic device having 3-dimensional display and method of operating thereof
US9317171B2 (en) * 2013-04-18 2016-04-19 Fuji Xerox Co., Ltd. Systems and methods for implementing and using gesture based user interface widgets with camera input
US9649558B2 (en) * 2014-03-14 2017-05-16 Sony Interactive Entertainment Inc. Gaming device with rotatably placed cameras
CN107390953A (zh) * 2017-07-04 2017-11-24 深圳市虚拟现实科技有限公司 虚拟现实手柄空间定位方法
TWI739069B (zh) * 2019-03-04 2021-09-11 仁寶電腦工業股份有限公司 遊戲裝置與辨識遊戲裝置的方法

Also Published As

Publication number Publication date
JP2000132306A (ja) 2000-05-12

Similar Documents

Publication Publication Date Title
US11257285B2 (en) Direct light compensation technique for augmented reality system
JP4264601B2 (ja) 情報入力装置、情報入力方法及びゲーム装置
CN105393283B (zh) 增强现实体验的重投影oled显示
CN106462370B (zh) 基于注视位置的稳定性平面确定
CN105474273B (zh) 后期重投影的方法和装置
JP2000172431A (ja) 情報入力装置及びゲーム装置
JP5739674B2 (ja) 情報処理プログラム、情報処理装置、情報処理システム、および、情報処理方法
US9662583B2 (en) Portable type game device and method for controlling portable type game device
CN108292489A (zh) 信息处理装置和图像生成方法
CN108535868B (zh) 头部佩戴型显示装置及其控制方法
JP7047394B2 (ja) 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法
CN109691084A (zh) 信息处理装置和方法以及程序
CN107850937A (zh) 视线检测系统、头戴式显示器、视线检测方法
KR20170074742A (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램
US9521329B2 (en) Display device, display method, and computer-readable recording medium
JP4281139B2 (ja) 位置認識装置、位置認識方法及び仮想画像立体合成装置
JP2000184398A (ja) 仮想画像立体合成装置、仮想画像立体合成方法、ゲ―ム装置及び記録媒体
JP7283958B2 (ja) 複数のマーカを備えたデバイス
US11231745B1 (en) Wearable article with conduits for a performance capture system
JP2000098871A (ja) 仮想画像立体合成装置、仮想画像立体合成方法、ゲーム装置及び記録媒体
JP2000132329A (ja) 面認識装置、面認識方法及び仮想画像立体合成装置
JP2000098300A (ja) 仮想画像立体合成装置、仮想画像立体合成方法、ゲーム装置及び記録媒体
JP2020181320A (ja) 情報処理装置およびデバイス情報導出方法
JP2000098870A (ja) 仮想画像立体合成装置、仮想画像立体合成方法、ゲーム装置及び記録媒体
JP2000131017A (ja) 自己位置提示物体、その位置認識装置及びその位置認識方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050720

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080401

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080602

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081021

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130227

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140227

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees