JP3812093B2 - 姿勢検出装置及び方法 - Google Patents

姿勢検出装置及び方法 Download PDF

Info

Publication number
JP3812093B2
JP3812093B2 JP29418697A JP29418697A JP3812093B2 JP 3812093 B2 JP3812093 B2 JP 3812093B2 JP 29418697 A JP29418697 A JP 29418697A JP 29418697 A JP29418697 A JP 29418697A JP 3812093 B2 JP3812093 B2 JP 3812093B2
Authority
JP
Japan
Prior art keywords
signal
image
posture
intensity
human body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP29418697A
Other languages
English (en)
Other versions
JPH11128535A (ja
Inventor
公博 斉藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP29418697A priority Critical patent/JP3812093B2/ja
Publication of JPH11128535A publication Critical patent/JPH11128535A/ja
Application granted granted Critical
Publication of JP3812093B2 publication Critical patent/JP3812093B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1012Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1087Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
    • A63F2300/1093Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera using visible light
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60Methods for processing data by generating or executing the game program
    • A63F2300/69Involving elements of the real world in the game world, e.g. measurement in live races, real video

Landscapes

  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、ゲームを楽しむ人が実際に自分の姿勢を変化させ、姿勢の変化を反映させることができる姿勢検出装置および方法に関する。
【0002】
【従来の技術】
ゲームを楽しむ人が実際に自分の体を動かし、この人の人体、あるいは、人体部位の姿勢を認識し、認識結果に従ってテレビ等に接続されたコンピュータを制御し、全体としてゲーム装置を構成することが考えられている。例えば二人のプレーヤが指定された位置に対峙して、パンチを出したり、キックを行い、これらプレーヤの姿勢を認識し、認識結果をコンピュータに与え、コンピュータが作成したゲームキャラクターをモニタ上に表示し、モニタ上で、ゲームキャラクターがプレーヤと同様に動き、二人のプレーヤについてのスコアを集計、表示するようになされる。
【0003】
この種のコンピュータゲーム装置においては、人体の姿勢を認識することが必要である。従来、人体の全体、または、一部をCCD(固体撮像素子)カメラにより撮像し、このCCDカメラにより出力されるが画像信号(電気信号)に基づいて、人体、あるいは、人体部位の姿勢を検出するように構成された姿勢検出装置が提案されている。
【0004】
例えば"Artificial Retina Chips as Image Input Interfaces for Multimedia Systems"(First Optoelectronics and Communications Confernce(OECC'96)Technical Digest,July 1996,Makuhari Messe p516-p517)には、CCDにより撮像された画像データを処理することによって、画像中の物体の輪郭線(エッジ)を抽出する技術が開示されている。このエッジから人体を動きを判定することができる。そして、検出された人体の動きをコントローラによる入力に代えてコンピュータゲームに入力することによって、例えば格闘ゲームを構成することが可能となる。
【0005】
【発明が解決しようとする課題】
従来の姿勢認識装置では、人体を撮影した画像から輪郭線を抽出する処理を行うために、信号処理に時間を費やし、応答が遅くなるという欠点があった。例えば、人体の姿勢を認識する時間が0.6秒から0.7秒程度必要であるとされている。0.6秒もの時間が、認識するために費やされてしまっては、ゲームの応答が遅くなり、実用的とは言えなかった。また、輪郭線の抽出および認識の処理がコンピュータで行われるため、高価なコンピュータを必要とするという欠点があった。また、人体の背後の画像が一様でない場合に背景の一部が人体の一部として認識されてしまったり、人体の明るさ(輝度)が背景に近い場合には人体が背景から区別できない可能性があるという欠点があった。
【0006】
従って、この発明の目的は、高速で、小規模のハードウエアによって、人体、あるいは人体の部位の姿勢を認識し、認識結果をゲームに反映させることが可能な姿勢検出装置及び方法を提供することにある。
【0007】
また、この発明の他の目的は、人体の背後の画像が一様でない場合においてもまた、人体の明るさ(輝度)が背景に近い場合においても正確に人体あるいは人体の部位の姿勢を認識できる姿勢検出装置及び方法を提供することにある。
【0008】
【課題を解決するための手段】
かかる課題を解決するために、請求項1の発明は、人体の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、
画像入力手段により入力された画像信号の1画面中に複数の信号検出領域を設定し、各信号検出領域中の信号強度をそれぞれ算出する強度検出手段と、
画像入力手段により入力された特定の時間間隔以前の画像信号から得られた度検出手段の複数の出力を記憶する記憶手段を有し、複数の強度検出手段の出力から記憶手段により記憶された出力を差し引いた信号強度により人体の姿勢を認識する認識手段と、
認識手段の出力に応じて、人体の画像と異なる画像情報を作成する情報作成手段と、
画像情報を出力する画像出力手段を備えたことを特徴とする姿勢検出装置である。
【0009】
請求項2の発明は、人体の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、
画像入力手段により入力された画像信号を異なる色成分の複数の信号に分離すると共に、複数の信号中に複数の信号検出領域を設定し、各信号検出領域中の信号強度をそれぞれ算出する強度検出手段と、
画像入力手段により入力された特定の時間間隔以前の画像信号から得られた強度検出手段の複数の出力を記憶する記憶手段を有し、複数の強度検出手段の出力から記憶手段により記憶された出力を差し引いた信号強度により人体の姿勢を認識する認識手段と、
認識手段の出力に応じて、人体の画像と異なる画像情報を作成する情報作成手段と、
画像情報を出力する画像出力手段を備えたことを特徴とする姿勢検出装置である。
【0010】
請求項の発明は、人体の姿勢を画像信号として特定の時間間隔で逐次入力するステップと、
入力された画像信号の1画面中に複数の信号検出領域を設定し、各信号検出領域中の信号強度をそれぞれ算出する強度検出ステップと、
入力された特定の時間間隔以前の画像信号から得られた各信号検出域の信号強度を記憶し、各信号検出領域中の信号強度から記憶された出力を差し引いた信号強度により人体の姿勢を認識する認識ステップと、
認識した結果に応じて、人体の画像と異なる画像情報を作成する画像情報作成ステップと、
画像情報を出力する出力ステップとを備えたことを特徴とする姿勢検出方法である。
【0011】
請求項の発明は、人体の姿勢を画像信号として特定の時間間隔で逐次入力するステップと、
入力された画像信号を異なる色成分の複数の信号に分離すると共に、複数の信号中に複数の信号検出領域を設定し、各信号検出領域中の信号強度ををそれぞれ算出する強度検出ステップと、
入力された特定の時間間隔以前の画像信号から得られた各信号検出領域中の信号強度を記憶し、各信号検出領域中の信号強度から記憶された出力を差し引いた信号強度により人体の姿勢を認識する認識ステップと、
認識した結果に応じて、人体の画像と異なる画像情報を作成する画像情報作成ステップと、
画像情報を出力する出力ステップとを備えたことを特徴とする姿勢検出方法である。
【0014】
また、この発明では、人体あるいは人体各部の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、画像入力手段により入力された特定の時間間隔以前の画像信号から得られた複数の強度検出手段の出力を記憶する手段とが設けられ、認識処理に際して、複数の強度検出手段の現画像出力から記憶されている所定時間前の前回取り込まれた複数の強度検出手段の出力を差し引き、この差し引いた信号により人体の姿勢の認識処理がなされる。
【0015】
更に、この発明では、画像入力手段により入力された画像信号から異なる色成分の複数の信号が分離され、この分離された信号により人体の姿勢の認識処理がなされる。
【0016】
【発明の実施の形態】
以下、この発明の一実施形態について図面を参照して説明する。図1は、この発明の一実施形態に係る姿勢検出ゲーム装置を全体的に示すブロック図である。この姿勢検出ゲーム装置は、ゲームプレーヤ1の姿勢をCCDカメラ2で電気信号(いわゆるビデオ信号)SVに変換し、姿勢認識装置3に入力する。姿勢認識装置3では、ゲームプレーヤ1の現在の姿勢を認識する。典型的な例は、格闘ゲームであるが、この発明は、他の種類のゲームに対しても適用できる。例えばストレッチ体操等のエキササイズのゲームを構成することができる。これは、画面上のコーチ、教師の行う体操をプレーヤが真似て、上手く真似るほど、点数が良くなるゲームである。
【0017】
姿勢認識装置3は、例えば、ゲームプレーヤ1の『前方へのパンチ』『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』『ジャンプ』の6通りの姿勢を認識する。姿勢認識装置3において、ゲームプレーヤ1の各姿勢に対応して信号(PC1,PC2,KK1,KK2,SD,JM)が形成され、この各姿勢に対応した信号(PC1,PC2,KK1,KK2,SD,JM)の夫々がゲーム装置4に供給される。
【0018】
例えば、ゲームプレーヤ1が『前方へのパンチ』を出している姿勢であると認識された場合には、ゲーム装置4に対して信号PC1をアクティブにし、『斜め上方へのパンチ』を出している姿勢であると認識された場合には、ゲーム装置4に対して信号PC2をアクティブにする。また、同様にゲームプレーヤ1の現在の姿勢が『前方へのキック』であると認識された場合には、ゲーム装置4に対して信号KK1をアクティブにし、『後方へのキック』であると認識された場合には、ゲーム装置4に対して信号KK2をアクティブにする。更に、ゲームプレーヤ1の現在の姿勢が『しゃがみ』であると認識された場合には、ゲーム装置4に対して信号SDをアクティブにし、『ジャンプ』であると認識された場合には、ゲーム装置4に対して信号JMをアクティブにする。
【0019】
ゲーム装置4は、これらの外部入力信号(PC1,PC2,KK1,KK2,SD,JM)により、ゲームプレーヤ1の姿勢が『前方へのパンチ』『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』『ジャンプ』の6姿勢のうちのいずれかであると認識されたものとして、信号(PC1,PC2,KK1,KK2,SD,JM)に従って、ゲームを進行する。
【0020】
具体的には、信号PC1がアクティブの場合には、ゲームのキャラクターに『前方へのパンチ』を行わせ、また同様に信号KK1がアクティブの場合には、ゲームのキャラクターに『前方へのキック』を行わせ、他の信号の場合も同様に対応した動作を行わせるようになされている。このゲームの進行状況は、ディスプレイ装置5に表示され、ゲームプレーヤ1が常にゲームの進行状況を把握できるように構成されている。すなわち、既存のコンピュータゲームにおける外部入力装置(押しボタンキー、ジョイスティック、トラックボール等)に変わるものとして、姿勢認識装置3からの信号(PC1,PC2,KK1,KK2,SD,JM)が使用される。ゲーム装置4に対してディスプレイ装置5が接続され、ディスプレイ装置5には、ゲーム装置4からビデオ信号VDが供給される。
【0021】
このようなゲーム装置4としては、例えば、ソニーコンピュータエンターテイメント社から発売されている、『プレイステーション』を使用することができる。また、ディスプレイ装置5に関しては、一般のテレビモニターを使用することができる。図1では、理解の容易のため、ディスプレイ装置5上に表示されているキャラクターがプレーヤと同様の形とされているが、実際には、プレーヤとは別個の娯楽性を高めるためのアニメーション等のゲーム装置4で作成されたキャラクターが表示される。キャラクターとしては、複数種類のものが用意されており、プレーヤが好みのものを選択可能としても良い。
【0022】
また、ゲームプレーヤ1の姿勢を正確に認識する上で、プレーヤの立つ場所、プレーヤの背景の画像、プレーヤの着衣の色彩等が必要に応じて指定される。さらに、図1の例では、プレーヤが一人の例であり、ゲーム装置4により作成された対戦相手のキャラクターがディスプレイ装置5上に表示される。ゲームプレーヤ1は、相手の動きを見ながら、6種類のいずれかの姿勢をとる。ゲーム装置4では、対戦相手の動きとプレーヤの姿勢とから点数を集計し、点数表示を行う。また、1ゲームの時間を規定し、ゲーム終了後に集計点数と勝敗の表示を行うことができる。これらの態様は、既存の格闘ゲームに採用されているものを適用できる。
【0023】
尚、この発明の一実施形態は、プレーヤが1名の場合であるが、プレーヤが2名の場合に対してもこの発明を適用できる。さらに、プレーヤが1名の場合と2名の場合とを選択可能としても良い。プレーヤが2名の場合には、画像入力手段としてのCCDカメラ、強度検出手段を有した認識手段が並列に増設される。また、同様にプレヤーが3名以上の場合には、3以上の複数の人体の姿勢を認識するために、認識する人体の数に対応して分離して画像入力手段としてのCCDカメラ、強度検出手段を有した認識手段が並列に設けられるが、この発明の特徴とする点は、姿勢認識装置3に存するので、簡単のため図1に示すプレーヤが1名の場合を例として、姿勢認識について以下説明する。
【0024】
図2は、姿勢認識装置3において人体(プレーヤ)の姿勢を認識するために割り当てられた強度検出手段の一例を簡単に示したものである。姿勢認識装置3は、前述したようにゲームプレーヤ1の『前方へのパンチ』『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』『ジャンプ』の6通りの姿勢を認識する。図2において、『しゃがみ』を認識するための強度検出手段は、Ddで示される領域である。図2において、人体の存在する黒く塗り潰された領域が広ければ広い程、信号強度が大きくなるものとすると、ゲームプレーヤ1が『しゃがみ』の姿勢をとった時には検出される信号強度が小さくなる。
【0025】
また、『前方へのパンチ』を認識するための強度検出手段として、MPdで示される領域が設けられ、『斜め上方へのパンチ』を認識するための強度検出手段として、UPdで示される領域が設けられ、『前方へのキック』を認識するための強度検出手段として、Kdで示される領域が設けられ、『後方へのキック』を認識するための強度検出手段として、BKdで示される領域が設けられ、『ジャンプ』を認識するための強度検出手段として、Jdで示される領域が設けられる。『しゃがみ』の姿勢以外の夫々の姿勢に対応して割り当てられた強度検出手段の領域(MPd,UPd,Kd,BKd,Jd)においては、夫々の姿勢をとった時には『しゃがみ』の場合とは逆に検出される信号強度が大きくなる。
【0026】
図3及び図4は、姿勢認識装置3においてなされる認識処理の第1の例を示す。図3は、姿勢認識装置3において、画像認識手段として設けられたCCDカメラ2により人体像41とその背後にある障害物像42とが画像情報として取り込まれた状態を示す。
【0027】
図3において人体像41の存在する黒く塗り潰された領域及びその背後にある障害物像42の存在する黒く塗り潰された領域が広ければ広い程、信号強度が大きくなるものとすると、図3に示す場合には、『前方へのパンチ』を認識するための強度検出手段の領域MPdと障害物像42の存在する領域とが重なっているため、強度検出手段の領域MPdで検出される信号強度が大きくなり、ゲームプレーヤ1が『前方へのパンチ』を出したものと認識する可能性がある。従って、この発明では、例えば、ゲーム開始前に予め人体像41の背後にある障害物像42をCCDカメラ2により画像情報として取り込み、ゲーム進行時には、その画像情報を用いて認識処理を行う。
【0028】
図4は、姿勢認識装置3において、CCDカメラ2により人体像41の背後にある障害物像42のみが画像情報として取り込まれた状態を示す。図4において、『前方へのパンチ』を認識するための強度検出手段の領域MPd内の画像と図3における強度検出手段の領域MPd内の画像とは同一であるため、図3における強度検出手段の領域MPdにより検出された強度出力から図4における強度検出手段の領域MPdにより検出された強度出力を差し引くことで障害物像42の影響を相殺することができ、ゲームプレーヤ1が『前方へのパンチ』を出したものと誤って認識することがないようになされる。
【0029】
尚、上述の説明においては、『前方へのパンチ』を認識する場合を例に挙げて説明したが、その他の姿勢である『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『ジャンプ』『しゃがみ』についての認識処理においても同様に適用できる。また、図3及び図4において示す障害物像42に関しては、その形状にとらわれることなく、他の異なる形状のものにおいても同様に適用できる。
【0030】
図5、図6、図7及び図8は、姿勢認識装置3においてなされる認識処理の第2の例を示す。図6は、姿勢認識装置3において、画像認識手段として設けられたCCDカメラ2により『前方へのパンチ』の姿勢をとった人体像41とその背後にある障害物像42とが画像情報として取り込まれた状態を示す。また、図5は、姿勢認識装置3において、CCDカメラ2によりゲームプレーヤ1が図6に示す『前方へのパンチ』の姿勢をとったタイミングより前の所定の時間間隔以前に取り込まれた画像を示す。
【0031】
図5及び図6において人体像41の存在する黒く塗り潰された領域及びその背後にある障害物像42の存在する黒く塗り潰された領域が広ければ広い程、信号強度が大きくなるものとする。また、図5及び図6に示す画像は、二次元の強度分布とみなせ、図6に対応する強度分布から図5に示す強度分布を差し引いた強度分布を演算により合成することができ、その結果を図7に示す。図7において、黒く塗り潰された領域44が正の値を有した領域となる一方で、黒く塗り潰された領域43が負の値を有した領域となり、変化があった領域のみが抽出され、それらの画像情報に基づいて認識処理がなされる。尚、図7において、黒く塗り潰されていないその他の領域に関しては、前回に取り込まれた画像情報と現画像情報との間において変化がなく差異がないため、0の値となっている。
【0032】
この場合の処理について更に詳細に説明する。図6に示す画像情報が得られたタイミングにおいて、『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された信号強度の夫々を(SJd,SUPd,SMPd,SKd,SBKd,SDd)とする。また、図5に示す画像が得られたタイミングにおいて、『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された信号強度の夫々を(SJd0,SUPd0,SMPd0,SKd0,SBKd0,SDd0)とする。この場合に、この発明では、下記の数式(1)〜(6)に示す演算結果である(SJd1,SUPd1,SMPd1,SKd1,SBKd1,SDd1)が用いられて認識処理がなされる。
【0033】
SJd1=SJd−SJd0・・・(1)
SUPd1=SUPd−SUPd0・・・(2)
SMPd1=SMPd−SMPd0・・・(3)
SKd1=SKd−SKd0・・・(4)
SBKd1=SBKd−SBKd0・・・(5)
SDd1=SDd−SDd0・・・(6)
図8は、図6に対応する強度分布から図5に示す強度分布を差し引くことで得られた強度分布(図7に示す)と『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)との位置関係を示したものである。
【0034】
『前方へのパンチ』を認識するための強度検出手段の領域MPdに対応する上記数式(3)の演算結果であるSMPd1は、図8において43で示すように強度検出手段の領域MPdと重なって存在し、正の値となる。また、その他の姿勢に対応する上記数式(1),(2),(4)〜(6)の演算結果である(SJd1,SUPd1,SKd1,SBKd1,SDd1)は、略々0となる。従って、この演算処理によって、動かない背景の障害物像42の影響が相殺され、所定時間間隔において動いた部分のみが抽出された状態で姿勢の認識処理がなされ、ゲームプレーヤ1が『前方へのパンチ』を出した時にのみ正確に『前方へのパンチ』の姿勢をとったと認識する。
【0035】
尚、上述の説明においては、『前方へのパンチ』を認識する場合を例に挙げて説明したが、その他の姿勢である『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『ジャンプ』『しゃがみ』についての認識処理においても同様に適用できる。また、図5〜図8に示す障害物像42に関しては、その形状にとらわれることなく、他の異なる形状のものにおいても同様に検出できる。
【0036】
また、上述した処理を行う具体的な回路は、遅延回路と減算器とにより容易に構成される。例えば、具体的には、減算器の一方の+入力端子に入力信号としての画像情報を直接入力すると共に、入力信号としての画像情報を遅延回路を介して減算器の他方の−入力端子に供給する。減算器において現画像情報から遅延回路において遅延された所定時間前の画像情報が逐次減算され、現画像情報と所定時間間隔前の画像情報との差が求めらる。この減算器によって得られる出力が認識処理に用いられる。
【0037】
図9〜図16は、姿勢認識装置3においてなされる認識処理の第3の例を示す。図9は、姿勢認識装置3において、画像認識手段として設けられたCCDカメラ2によりどの姿勢もとっていない赤色の人体像41Rと、その背後にある青色の障害物像42Bとが画像情報として取り込まれた状態を示す。また、図10は、姿勢認識装置3において、CCDカメラ2により『前方へのパンチ』の姿勢をとった赤色の人体像41Rと、その背後にある青色の障害物像42Bとが画像情報として取り込まれた状態を示す。
【0038】
図11は、図9に示す画像情報の輝度成分の分布を示し、図12は、図10に示す画像情報の輝度成分の分布を示す。また、図13は、図9に示す画像情報の青色成分のみの分布を示し、図14は、図10に示す画像情報の青色成分のみの分布を示す。更に、図15は、図9に示す画像情報の赤色成分のみの分布を示し、図16は、図10に示す画像情報の赤色成分のみの分布を示す。
【0039】
図11〜図16において、前述した場合と同様に『前方へのパンチ』を認識するための強度検出手段の領域がMPdで示される。また、人体像41Rの存在する黒く塗り潰された領域及びその背後にある障害物像42Bの存在する黒く塗り潰された領域が広ければ広い程、信号強度が大きくなるものとする。
【0040】
図11及び図12における『前方へのパンチ』を認識するための強度検出手段の領域MPd内では、輝度成分の分布が略々同じで差異がないため、『前方へのパンチ』の姿勢を認識することは、困難である。しかしながら、この発明では、各色成分に分離した画像情報を用いて人体と人体の背後の障害物とを分離した状態で処理されるため、誤った認識がなされることなく各姿勢が正確に認識される。
【0041】
上述した処理を具体的に詳細に説明すると、図13及び図14における『前方へのパンチ』を認識するための強度検出手段の領域MPd内では、青色成分の分布が異なっているのが明らかである。つまり、『前方へのパンチ』の姿勢をとった場合の方が信号強度が小さくなり、『前方へのパンチ』の姿勢をとったと認識することができる。また、図15及び図16における『前方へのパンチ』を認識するための強度検出手段の領域MPd内では、赤色成分の分布が異なっているのが明らかである。つまり、『前方へのパンチ』の姿勢をとった場合の方が信号強度が大きくなり、『前方へのパンチ』の姿勢をとったと認識することができる。
【0042】
尚、上述の説明においては、『前方へのパンチ』を認識する場合を例に挙げて説明したが、その他の姿勢である『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『ジャンプ』『しゃがみ』についての認識処理においても同様に適用できる。また、図11〜図16に示す障害物像42Bに関しては、その形状にとらわれることなく、他の異なる形状のものにおいても同様に適用できる。また、赤色の人物像41R及び青色の障害物像42Bについて説明したが、同一色でない他の色の異なる組み合わせならば同様に適用することができる。
【0043】
姿勢認識装置3においてなされる第1,第2及び第3の認識処理の例について説明したが、それらの認識処理は、組み合わせて用いることができ、組み合わせて用いることによりその効果を相乗的なものとすることができる。例えば、第1の認識処理と、第3の認識処理とを組み合わせて、画像入力手段により入力された画像信号を異なる色成分の複数の信号に分離すると共に、複数の信号を有限個の領域に分割し、各領域中の信号強度を算出する複数の強度検出手段と、画像入力手段に人体を入力しない場合の前記複数の強度検出手段の出力を記憶する記憶手段とを有し、複数の強度検出手段の出力から記憶手段により記憶された出力を差し引いた信号強度により人体の姿勢を認識することにより、人体の背後の障害物の影響を相殺すると共に、人体と人体の背後の障害物とを分離した状態で処理して正確に人体の姿勢を認識する。
【0044】
また、第2の認識処理と、第3の認識処理とを組み合わせて、人体、あるいは人体各部の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、画像入力手段により入力された画像信号を異なる色成分の複数の信号に分離すると共に、複数の信号を有限個の領域に分割し、各領域中の信号強度を算出する複数の強度検出手段と、画像入力手段により入力された特定の時間間隔以前の画像信号から得られた複数の強度検出手段の出力を記憶する記憶手段とを有し、複数の強度検出手段の出力から記憶手段により記憶された出力を差し引いた信号強度により人体の姿勢を認識することにより、人体の背後の障害物の影響を相殺すると共に、人体と人体の背後の障害物とを分離した状態で処理して正確に人体の姿勢の認識する。
【0045】
図17は、上述した姿勢認識装置3においてなされる第1及び第2の処理動作が可能とされる姿勢検出ゲーム装置の一実施形態を示し、図1と同一部分には、同一の参照符号が付されている。また、図18は、図17において93にて示されるランダムアクセスメモリの内容の一部を簡単に示す。姿勢認識装置3が図17に示すようにA/Dコンバータ92、RAM(ランダムアクセスメモリ)93、CPU(マイクロプロセッサ)94及びインターフェース回路95等により構成される。A/Dコンバータ92、RAM93、CPU94及びインターフェース回路95の夫々は、データバスにより接続され、双方向にデータの授受が可能とされている。
【0046】
ゲームプレーヤ1の姿勢をCCDカメラ2で電気信号(いわゆるビデオ信号)SVに変換し、姿勢認識装置3に入力する。入力されたビデオ信号は、A/Dコンバータ92によりアナログ信号からディジタル信号に変換される。ディジタル信号に変換された画像データは、マイクロプロセッサ94によりランダムアクセスメモリ93上に蓄えられる。
【0047】
第1の認識処理の場合には、マイクロプロセッサ94は、初期化処理の段階において、例えば、ゲーム開始前に予めゲームプレーヤ1を含めないで背景のみをCCDカメラ2により撮影し、得られた『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された信号強度(SJd0,SUPd0,SMPd0,SKd0,SBKd0,SDd0)のデータの夫々をランダムアクセスメモリ93の第1行目のメモリに保持する。
【0048】
次に、ゲーム進行時には、ゲームプレーヤ1を含めた状態でCCDカメラ2により撮影がなされ、得られた『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された信号強度(SJd,SUPd,SMPd,SKd,SBKd,SDd)のデータの夫々をランダムアクセスメモリ93の第2行目のメモリに保持する。
【0049】
そして、(SJd0,SUPd0,SMPd0,SKd0,SBKd0,SDd0)及び(SJd,SUPd,SMPd,SKd,SBKd,SDd)のデータに基づいて下記の数式(7)〜(12)に示す演算が行われ、演算結果である(SJd1,SUPd1,SMPd1,SKd1,SBKd1,SDd1)が正の値であるかどうかによって姿勢認識処理を行う。尚、ランダムアクセスメモリ93の第3行目のメモリに保持される数式(7)〜(12)において(TJd,TUPd,TMPd,TKd,TBKd,TDd)で示されるデータは、画像情報に含まれる雑音などで誤認識しないように設定された所定の数値である。
【0050】
SJd1=SJd−SJd0−TJd・・・(7)
SUPd1=SUPd−SUPd0−TUPd・・・(8)
SMPd1=SMPd−SMPd0−TMPd・・・(9)
SKd1=SKd−SKd0−TKd・・・(10)
SBKd1=SBKd−SBKd0−TBKd・・・(11)
SDd1=SDd−SDd0−TDd・・・(12)
マイクロプロセッサ94は、上述した姿勢認識処理などを行った後、ゲーム装置4と姿勢認識装置3との信号変換を行うインターフェイス回路95に認識処理結果を送る。インターフェイス回路95は、ゲーム装置4を操作する信号(PC1,PC2,KK1,KK2,SD,JP)を形成してその信号(PC1,PC2,KK1,KK2,SD,JP)をゲーム装置に供給し、ゲーム装置4は、ゲームのキャラクターに信号に対応する動作を行わせる。以上のようにこの発明による姿勢検出ゲーム装置は、ゲームプレーヤ1の姿勢を認識してゲームプレーヤ1の姿勢に従ったゲームを構成することが可能となる。尚、3次元認識を行う場合には、CCDカメラ2が増設されて認識処理がなされる。
【0051】
第2の認識処理の場合には、マイクロプロセッサ94は、ゲーム進行時において逐次背景を含めてゲームプレーヤ1の姿勢をCCDカメラ2により撮影し、得られた現タイミングの『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された信号強度(SJd,SUPd,SMPd,SKd,SBKd,SDd)のデータの夫々をランダムアクセスメモリ93の第2行目のメモリに保持し、前回取り込まれて保持されていた信号強度の夫々のデータを(SJd0,SUPd0,SMPd0,SKd0,SBKd0,SDd0)としてランダムアクセスメモリ93の第1行目のメモリに移動して保持する。つまり、所定の時間間隔で以てデータの移動と書き込みが逐次なされ、ランダムアクセスメモリ93の第1行目のメモリには、所定時間間隔前に取り込まれた画像データが保持され、ランダムアクセスメモリ93の第2行目のメモリには、現画像データが常に保持される。
【0052】
そして、(SJd0,SUPd0,SMPd0,SKd0,SBKd0,SDd0)及び(SJd,SUPd,SMPd,SKd,SBKd,SDd)のデータに基づいて上述した第1の認識処理の場合と同様に数式(7)〜(12)に示す演算が行われ、演算結果である(SJd1,SUPd1,SMPd1,SKd1,SBKd1,SDd1)が正の値であるかどうかによって姿勢認識処理がなされる。尚、ランダムアクセスメモリ93の第3行目のメモリに保持される数式(7)〜(12)における(TJd,TUPd,TMPd,TKd,TBKd,TDd)は、画像に含まれる雑音などで誤認識しないように設定された所定の数値である。
【0053】
マイクロプロセッサ94は、上述した姿勢認識処理などを行った後、ゲーム装置4と姿勢認識装置3との信号変換を行うインターフェイス回路95に認識処理結果を送る。インターフェイス回路95は、ゲーム装置4を操作する信号(PC1,PC2,KK1,KK2,SD,JP)を形成してその信号(PC1,PC2,KK1,KK2,SD,JP)をゲーム装置に供給し、ゲーム装置4は、ゲームのキャラクターに信号に対応する動作を行わせる。以上のようにこの発明の姿勢検出ゲーム装置は、ゲームプレーヤ1の姿勢を認識してゲームプレーヤ1の姿勢に従ったゲームを構成することが可能となる。尚、3次元認識を行う場合には、CCDカメラ2が増設されて認識処理がなされる。
【0054】
図19は、上述した姿勢認識装置3においてなされる第3の処理動作が可能とされる姿勢検出ゲーム装置の他の実施形態を示し、図1と同一部分には、同一の参照符号が付されている。また、図20は、図19において84にて示されるランダムアクセスメモリの内容の一部を簡単に示す。姿勢認識装置3が図19に示すように色信号分離回路82、各色成分に対応したA/Dコンバータ83R、A/Dコンバータ83G、A/Dコンバータ83B、RAM(ランダムアクセスメモリ)84、CPU(マイクロプロセッサ)85及びインターフェース回路86等により構成される。A/Dコンバータ83R、A/Dコンバータ83G、A/Dコンバータ83B、RAM84、CPU85及びインターフェース回路86の夫々は、データバスにより接続され、双方向にデータの授受が可能とされている。
【0055】
ゲームプレーヤ1の姿勢をCCDカメラ2で電気信号(いわゆるビデオ信号)SVに変換し、姿勢認識装置3に入力する。入力されたビデオ信号SVは、図19に示す色信号分離回路82において三原色信号(R,G,B)の夫々に分離される。色信号分離回路82において分離されたR信号RがA/Dコンバータ83Rに供給され、G信号がA/Dコンバータ83Gに供給され、B信号がA/Dコンバータ83Bに供給される。
【0056】
A/Dコンバータ83R,83G,83Bの夫々においてR,G,B信号の夫々がアナログ信号からディジタル信号に変換される。ディジタル信号に変換された各色の画像データは、マイクロプロセッサ85によりランダムアクセスメモリ84上に蓄えられる。
【0057】
第3の認識処理の場合には、マイクロプロセッサ85は、ゲーム進行時において逐次背景を含めてゲームプレーヤ1の姿勢をCCDカメラ2により撮影し、得られた『ジャンプ』『斜め上方へのパンチ』『前方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』の夫々の姿勢に対応して割り当てられた強度検出手段の領域(Jd,UPd,MPd,Kd,BKd,Dd)により検出された赤色成分に関する信号強度(RJd,RUPd,RMPd,RKd,RBKd,RDd)のデータの夫々をランダムアクセスメモリ84の第1行目のメモリに保持する。
【0058】
同様に緑色成分に関する信号強度(GJd,GUPd,GMPd,GKd,GGKd,GDd)のデータの夫々をランダムアクセスメモリ84の第2行目のメモリに保持すると共に、青色成分に関する信号強度(BJd,BUPd,BMPd,BKd,BBKd,BDd)のデータの夫々をランダムアクセスメモリ84の第3行目のメモリに保持する。
【0059】
そして、マイクロプロセッサ85において、(RJd,RUPd,RMPd,RKd,RBKd,RDd)、(GJd,GUPd,GMPd,GKd,GGKd,GDd)及び(BJd,BUPd,BMPd,BKd,BBKd,BDd)のデータに基づいて下記の数式(13)〜(18)に示す演算が行われ、演算結果である(SJd1,SUPd1,SMPd1,SKd1,SBKd1,SDd1)が正の値であるかどうかによって姿勢認識処理がなされる。尚、ランダムアクセスメモリ84の第4行目〜第6行目のメモリに保持される数式(13)〜(19)における(TRJd,TRUPd,TRMPd,TRKd,TRBKd,TRDd)、(TGJd,TGUPd,TGMPd,TGKd,TGBKd,TGDd)及び(TGJd,TGUPd,TGMPd,TGKd,TGBKd,TGDd)は、画像に含まれる雑音などで誤認識しないように設定された所定の数値である。
【0060】
SJd1=max(RJd−TRJd,GJd−TGJd,BJd−TBJd)・・・(13)
SUPd1=max(RUPd−TRUPd,GUPd−TGUPd,BUPd−TBUPd)・・・(14)
SMPd1=max(RMPd−TRMPd,GMPd−TGMPd,BMPd−TBMPd)・・・(15)
SKd1=max(RKd−TRKd,GKd−TGKd,BKd−TBKd)・・・(16)
SBKd1=max(RBKd−TRBKd,GBKd−TGBKd,BBKd−TBBKd)・・・(17)
SDd1=max(RDd−TRDd,GDd−TGDd,BDd−TBDd)・・・(18)
尚、上記の数式(13)〜(18)におけるmax(a,b,c,,,z)で表記される関数は、(a,b,c,,,z)のうちで最大の値を出力するものである。
【0061】
マイクロプロセッサ85は、上述した姿勢認識処理などを行った後、ゲーム装置4と姿勢認識装置3との信号変換を行うインターフェイス回路86に認識処理結果を送る。インターフェイス回路86は、ゲーム装置4を操作する信号(PC1,PC2,KK1,KK2,SD,JP)を形成してその信号(PC1,PC2,KK1,KK2,SD,JP)をゲーム装置に供給し、ゲーム装置4は、ゲームのキャラクターに信号に対応する動作を行わせる。以上のようにこの発明の姿勢検出ゲーム装置は、ゲームプレーヤ1の姿勢を認識してゲームプレーヤ1の姿勢に従ったゲームを構成することが可能となる。尚、3次元認識を行う場合には、CCDカメラ2が増設されて認識処理がなされる。
【0062】
尚、上述した色信号分離回路においては、ビデオ信号が赤色、緑色、青色成分の信号に分離される場合について説明したが、他の信号、例えば、輝度信号、色相信号、彩度信号にビデオ信号を色信号分離回路において分離するようにしても良い。また、正確に赤色、緑色、青色成分の信号に分離する必要はなく、混ぜ合わせた状態においてもこの発明を適用することができる。更に、赤色、緑色、青色成分の信号即ち、必ずしも三色に分離する必要はなく、2色以上に分離すれば十分に効果を発揮することができる。
【0063】
また、図21は、上述した動作を行う姿勢認識装置3の他の例の構成を示し、、ホログラム6が用いられる。図21において、CCDカメラ2からの映像信号SVは、液晶ディスプレイ33に送られ、液晶ディスプレイ33上に2次元の情報として投影される。レーザ発振器31からのレーザ光線は、コリメーターレンズ32により平行光線に変換された後に、この液晶ディスプレイ33を照射する。従って、液晶ディスプレイ33の直後には、コヒーレントなレーザ光として、CCDカメラ2で撮影された画像が復元される。このコヒーレントな光による画像情報は、結像レンズ34によってホログラム6上に結像される。また、レーザ発振器31は、レーザパワー制御装置30(Automatio Power Control 回路)により、常に所定の出力が得られるように制御されている。
【0064】
このようにして液晶ディスプレイ33上に得られたゲームプレーヤ1の姿勢情報は、結像レンズ34によってホログラム6上に投影される。ホログラム6は、投影された画像を必要に応じて6個の領域(MPd,UPd,Kd,BKd,Jd,Dd)に分割し、各領域中の強度に比例した強度の光線を異なる角度方向に回析させる。
【0065】
ホログラム6によって回析された光線の方向を図22に示す。この図22において、領域MPdの内部の光強度に比例した強度の光線がAの方向に向かって飛ぶようになされている。また、同様にして領域UPd内部の光強度に比例した強度を持つ光線が、Bの方向に発生する。以下同様に、領域(Kd,BKd,Jd,Dd)の光強度に従ってC〜Fの方向に光線が飛ぶようになされる。このように、6個の領域(MPd,UPd,Kd,BKd,Jd,Dd)毎に光線の角度を所定のものとするためには、ホログラム6の6個の領域にそれぞれ対応する領域に所定の縞模様を形成する必要がある。すなわち、ホログラム6は、例えば各領域が所定の方向に回析するようになされた回析格子として構成されたCGH(Computer Genereted Hologram)などの手法で作製することができる。
【0066】
ホログラム6から回析された光線は、ディテクターアレイ35により電気信号に変換される。ディテクターアレイ35は、図22中のAからFまでの各方向に対して、少なくとも1つ以上の独立したフォトディテクターを持ち、各方向成分の光線を独立に検出して6個の電気信号(図21におけるBd1,Bd2,Bd3,Bd4,Bd5,Bd6)に変換する。この電気信号のレベル(ピーク値、または平均値)は、AからFまでの各方向の光線の強度に対応する。なお、図22では、6個の領域に対応して6個のフォトディテクターを使用しているが、一つの領域に対して、複数のフォトディテクターを使用しても良い。
【0067】
このようにして得られた6個の電気信号(Bd1,Bd2,Bd3,Bd4,Bd5,Bd6)は、増幅ユニット7により、各検出信号毎に増幅され、十分なSNR(信号対雑音比)が得られる検出信号(Ad1,Ad2,Ad3,Ad4,Ad5,Ad6)として判定ユニット8に出力される。増幅ユニット7は、例えば6つのオペレーショナル・アンプリファイヤーを単純に並べることで構成することができる。
【0068】
判定ユニット8は、6個の検出信号(Ad1,Ad2,Ad3,Ad4,Ad5,Ad6)を入力とし、ゲームプレーヤ1の姿勢が『前方へのパンチ』と判定した場合には、信号PC1をアクティブとし、『斜め上方へのパンチ』と判定した場合には、信号PC2をアクティブとする。また、ゲームプレーヤ1の姿勢が『前方へのキック』と判定した場合には、信号KK1をアクティブとし、『後方へのキック』と判定した場合には、信号KK2をアクティブとする。更に、ゲームプレーヤ1の姿勢が『しゃがみ』と判定した場合には、信号SDをアクティブとし、『ジャンプ』と判定した場合には、信号JMをアクティブとする。
【0069】
判定ユニット8の一例を図23に示す。図23において、6本の入力(検出)信号(Ad1,Ad2,Ad3,Ad4,Ad5,Ad6)は、A/Dコンバータ71A〜71Fによって各8ビットのディジタル信号(D1,D2,D3,D4,D5,D6)に変換される。この結果のディジタル信号(D1,D2,D3,D4,D5,D6)は、図示しないインターフェース回路を通して、マイクロプロッセッサー72に取り込まれる。
【0070】
マイクロプロッセッサー72は、上述の入力信号からゲームプレーヤ1の姿勢を判定して、『前方へのパンチ』の姿勢であると判定した場合には信号PC1をアクティブとし、『斜め上方へのパンチ』の姿勢であると判定した場合には信号PC2をアクティブとする。また、『前方へのキック』の姿勢であると判定した場合には信号KK1をアクティブとし、『後方へのキック』の姿勢であると判定した場合には信号KK2をアクティブとする。更に、『しゃがみ』の姿勢であると判定した場合には、信号SDをアクティブとし、『ジャンプ』の姿勢であると判定した場合には、信号JMをアクティブとする。これらの信号(PC1,PC2,KK1,KK2,SD,JM)は、ゲーム装置4に対して供給される。
【0071】
マイクロプロセッサ72が行う『前方へのパンチ』『斜め上方へのパンチ』『前方へのキック』『後方へのキック』『しゃがみ』『ジャンプ』の6姿勢の判定動作のうちの『前方へのパンチ』及び『前方へのキック』の場合を特に例として挙げながら次に説明する。マイクロプロセッサ72の内部には、図24に示すような(7行×6バイト,図24中には3行分しか図示せず)のメモリが搭載されている。第1行目のメモリは、入力バッファーであり、入力された6つのディジタル検出信号(D1,D2,D3,D4,D5,D6)が常に保持されている。
【0072】
第2行目のメモリは、前方へのパンチ姿勢基準として用いられる基準値を保持する。このメモリは、ゲーム開始に先立ち、実際にゲームを楽しもうとするゲームプレーヤ1が『前方へのパンチ』の姿勢であるときの画像をCCDカメラ2で取り込み、増幅ユニット7の出力から得られた6バイトの信号を保持している。このメモリに保持される『前方へのパンチ』の基準値を、(YM1,YM2,YM3,YM,YM5,YM6)と表記する。
【0073】
第3行目のメモリは、前方へのキック姿勢基準として用いられる基準値を保持する。これらのメモリは、ゲーム開始に先立ち、ゲームプレーヤ1が『前方へのキック』の姿勢であるときの画像をCCDカメラで取り込み、増幅ユニット7の出力から得られた6バイトの夫々の信号を保持している。第3行目のメモリに保持される『前方へのキック』の基準値を、(ZF1,ZF2,ZF3,ZF4,ZF5,ZF6)と表記する。
【0074】
第2行目から第7行目までのメモリに保持する各姿勢の基準値は、例えば工場出荷時に実験を行って定め、ROM(リードオンリーメモリ)として構成しておくことができる。このようにROMで構成すれば、電源を入れただけで直ちに使用を開始することも可能である。また、RAM(ランダムアクセスメモリ)として構成することも可能である。RAMで構成し、上述したように、実際のプレーヤの姿勢から基準値を生成することによって、ゲームプレーヤ1の個人的な差を吸収して、確実な動作をさせることが可能となる。
【0075】
マイクロプロッセッサ72は、これらのメモリに保持された値に対して、例えば、各パラメータの差の二乗和の演算を行う。この演算によって、入力信号(D1,D2,D3,D4,D5,D6)と、各姿勢の基準値のそれぞれとの距離を求める。例えば、『前方へのパンチ』及び『前方へのキック』の場合には、以下の数式(19)及び(20)で示されるような演算を行い、距離DMY及びDFZを算出する。
【0076】
DYM=(D1−YM1)2 +(D2−YM2)2 +(D3−YM3)2 +(D4−YM4)2 +(D5−YM5) 2 +(D6−YM6)2 ・・・数式(19)
DZF=(D1−ZF1)2 +(D2−ZF2)2 +(D3−ZF3)2 +(D4−ZF4)2 +(D5−ZF5)2 +(D6−ZF6)2 ・・・数式(20)
マイクロプロセッサ72は、このようにして生成した各姿勢の距離に関して大小比較を行い、求められた距離がもっとも小さいものを決定する。この大小比較の結果、例えば、DYMの値がもっとも小さいと判定された場合には、マイクロプロセッサ72はゲームプレーヤ1が『前方へのパンチ』の姿勢をとっていると判断し、ゲーム装置4に対する信号PC1をアクティブにして、前方へのパンチの動作を行うように指示する。
【0077】
同様にして、大小比較の結果、例えば、DZFの値がもっとも小さいと判定された場合には、マイクロプロセッサ72はゲームプレーヤ1が『前方へのキック』の姿勢をとっていると判断し、ゲーム装置4に対する信号KK1をアクティブにして、前方へのキックの動作を行うように指示する。
【0078】
また、他の姿勢の距離が小さい場合には、同様に対応する信号をアクティブとし、その姿勢を行うように指示する。尚、ゲームプレーヤの姿勢を認識するタイミングは、予め決定された所定時間の周期、または検出信号の大きな変化が発生する時点になされる。
【0079】
以上のように、この発明の姿勢検出ゲーム装置1は、ゲームプレーヤ1の姿勢を認識して、ゲームプレーヤ1の姿勢にしたがったゲームを構成することが可能となる。尚、認識する姿勢としては、上述したものに限らず、『静止』のような他の姿勢であっても良い。
【0080】
【発明の効果】
この発明の姿勢検出ゲーム装置は、ゲームプレーヤの人体、あるいは人体各部の姿勢を画像信号として入力し、この画像信号を複数個の領域に分割し、各領域中の信号強度を検出し、検出信号に基づいて人体の姿勢を認識するように構成されているので、人体を撮影した画像情報から輪郭線を抽出する処理が必要なくなる。このため高速な動作が可能となり、さらに、安価な信号処理装置で実現することが可能となる。
【0081】
また、この発明は、輪郭線の抽出が必要ないので、認識装置をホログラムなどの回折手段を使って実現することも可能となり、さらに安価で高速な動作を実現することが可能となるという効果を奏する。
【0082】
また、この発明では、ゲームプレーヤを含まない背景のみの状態での複数の強度検出手段の出力を記憶する手段が設けられ、認識処理に際して、ゲームプレーヤを含んだ状態でのゲーム進行中の複数の強度検出手段の出力から記憶されている背景のみの状態での複数の強度検出手段の出力を差し引き、この差し引いた信号により人体の姿勢の認識処理がなされる。従って、この発明に依れば、背景の障害物に影響されることなく正確に姿勢認識処理を行うことができ、誤認識が防止される。
【0083】
また、この発明では、人体あるいは人体各部の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、画像入力手段により入力された特定の時間間隔以前の画像信号から得られた複数の強度検出手段の出力を記憶する手段とが設けられ、認識処理に際して、複数の強度検出手段の現画像出力から記憶されている所定時間前の前回取り込まれた複数の強度検出手段の出力を差し引き、この差し引いた信号により人体の姿勢の認識処理がなされる。従って、この発明に依れば、動かない背景の障害物は相殺され、所定時間間隔において動いた部分のみを抽出して正確に姿勢認識処理を行うことができ、誤認識が防止される。
【0084】
また、この発明では、画像入力手段により入力された画像信号から異なる色成分の複数の信号が分離され、この分離された信号により人体の姿勢の認識処理がなされる。従って、この発明に依れば、人体の明るさ(輝度)が背景の障害物と近い場合においても、人体と障害物とが分離されて別個に処理され、背景の障害物に影響されることなく正確に姿勢認識処理を行うことができ、誤認識が防止される。
【図面の簡単な説明】
【図1】この発明の一実施形態に係わる姿勢検出ゲーム装置の一例を示すブロック図である。
【図2】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図3】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図4】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図5】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図6】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図7】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図8】この発明の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図9】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図10】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図11】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図12】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図13】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図14】この発明の他の実施形態における姿勢認識装置の動作を説明する略線図である。
【図15】この発明の他の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図16】この発明の他の一実施形態における姿勢認識装置の動作を説明する略線図である。
【図17】この発明の一実施形態における姿勢認識装置の一例を示すブロック図である。
【図18】図17に示すランダムアクセスメモリの内部を示す略線図である。
【図19】この発明の他の実施形態における姿勢認識装置の一例を示すブロック図である。
【図20】図19に示すランダムアクセスメモリの内部を示す略線図である。
【図21】この発明の一実施形態及び他の実施形態においける姿勢認識装置の他の例を示すブロック図である。
【図22】図21に示す姿勢認識装置におけるホログラムの回折効果を説明する略線図である。
【図23】図21に示す姿勢認識装置における判定ユニットの一例を示すブロック図である。
【図24】図23に示す判定ユニットにおけるマイクロプロセッサ内部のメモリを示す略線図である。
【符号の説明】
4・・・ゲーム装置、5・・・ディスプレイ装置、6・・・ホログラム、8・・・判定ユニット、31・・・レーザ発振器、32・・・コリメーターレンズ、33・・・液晶ディスプレイ、35・・・ディテクターアレイ、71A〜71F,,83R,83G,83B,92・・・A/Dコンバータ、72,85,94・・・マイクロプロセッサ、82・・・色信号分離回路、84,93・・・ランダムアクセスメモリ、86,95・・・インターフェース回路

Claims (5)

  1. 体の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、
    前記画像入力手段により入力された画像信号の1画面中に複数の信号検出領域を設定し、信号検出領域中の信号強度をそれぞれ算出する強度検出手段と、
    前記画像入力手段により入力された特定の時間間隔以前の画像信号から得られた前記強度検出手段の複数の出力を記憶する記憶手段を有し、前記複数の強度検出手段の出力から前記記憶手段により記憶された出力を差し引いた信号強度により前記人体の姿勢を認識する認識手段と、
    前記認識手段の出力に応じて、記人体の画像と異なる画像情報を作成する情報作成手段と、
    前記画像情報を出力する画像出力手段を備えたことを特徴とする姿勢検出装置。
  2. 人体の姿勢を画像信号として特定の時間間隔で逐次入力する画像入力手段と、
    前記画像入力手段により入力された画像信号を異なる色成分の複数の信号に分離すると共に、前記複数の信号中に複数の信号検出領域を設定し、各信号検出領域中の信号強度をそれぞれ算出する強度検出手段と、
    前記画像入力手段により入力された特定の時間間隔以前の画像信号から得られた前記強度検出手段の複数の出力を記憶する記憶手段を有し、前記複数の強度検出手段の出力から前記記憶手段により記憶された出力を差し引いた信号強度により前記人体の姿勢を認識する認識手段と、
    前記認識手段の出力に応じて、記人体の画像と異なる画像情報を作成する情報作成手段と、
    前記画像情報を出力する画像出力手段を備えたことを特徴とする姿勢検出装置。
  3. 請求項またはにおいて、
    前記強度検出手段は、
    前記画像信号を2次元の光強度分布に変換する光強度変調手段と、
    前記光強度変調手段の光強度分布を複数の領域に分割し、前記信号検出領域毎に異なる角度方向に光を回折させる光回折手段と、
    前記回折光の強度を求める複数の光検出手段とからなることを特徴とする姿勢検出装置。
  4. 体の姿勢を画像信号として特定の時間間隔で逐次入力するステップと、
    入力された画像信号の1画面中に複数の信号検出領域を設定し、各信号検出領域中の信号強度をそれぞれ算出する強度検出ステップと、
    前記入力された特定の時間間隔以前の画像信号から得られた前記各信号検出域の信号強度を記憶し、前記各信号検出領域中の信号強度から前記記憶された出力を差し引いた信号強度により前記人体の姿勢を認識する認識ステップと、
    認識した結果に応じて、記人体の画像と異なる画像情報を作成する画像情報作成ステップと、
    前記画像情報を出力する出力ステップとを備えたことを特徴とする姿勢検出方法。
  5. 体の姿勢を画像信号として特定の時間間隔で逐次入力するステップと、
    入力された画像信号を異なる色成分の複数の信号に分離すると共に、前記複数の信号中に複数の信号検出領域を設定し、各信号検出領域中の信号強度ををそれぞれ算出する強度検出ステップと、
    前記入力された特定の時間間隔以前の画像信号から得られた前記各信号検出領域中の信号強度を記憶し、前記各信号検出領域中の信号強度から前記記憶された出力を差し引いた信号強度により前記人体の姿勢を認識する認識ステップと、
    認識した結果に応じて、記人体の画像と異なる画像情報を作成する画像情報作成ステップと、
    前記画像情報を出力する出力ステップとを備えたことを特徴とする姿勢検出方法。
JP29418697A 1997-10-27 1997-10-27 姿勢検出装置及び方法 Expired - Fee Related JP3812093B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29418697A JP3812093B2 (ja) 1997-10-27 1997-10-27 姿勢検出装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29418697A JP3812093B2 (ja) 1997-10-27 1997-10-27 姿勢検出装置及び方法

Publications (2)

Publication Number Publication Date
JPH11128535A JPH11128535A (ja) 1999-05-18
JP3812093B2 true JP3812093B2 (ja) 2006-08-23

Family

ID=17804437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29418697A Expired - Fee Related JP3812093B2 (ja) 1997-10-27 1997-10-27 姿勢検出装置及び方法

Country Status (1)

Country Link
JP (1) JP3812093B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4925538B2 (ja) * 2001-09-28 2012-04-25 株式会社バンダイナムコゲームス ゲームシステム
JP2006068315A (ja) 2004-09-02 2006-03-16 Sega Corp ポーズ検出プログラム、ビデオゲーム装置、ポーズ検出方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体
US8678895B2 (en) 2007-06-14 2014-03-25 Harmonix Music Systems, Inc. Systems and methods for online band matching in a rhythm action game
US9981193B2 (en) 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
WO2011056657A2 (en) 2009-10-27 2011-05-12 Harmonix Music Systems, Inc. Gesture-based user interface
US8550908B2 (en) 2010-03-16 2013-10-08 Harmonix Music Systems, Inc. Simulating musical instruments
US9358456B1 (en) 2010-06-11 2016-06-07 Harmonix Music Systems, Inc. Dance competition game
US9024166B2 (en) 2010-09-09 2015-05-05 Harmonix Music Systems, Inc. Preventing subtractive track separation
JP2012113460A (ja) 2010-11-24 2012-06-14 Sony Corp 情報処理装置および方法、並びにプログラム

Also Published As

Publication number Publication date
JPH11128535A (ja) 1999-05-18

Similar Documents

Publication Publication Date Title
JP3812092B2 (ja) 姿勢検出装置及び方法
US6890262B2 (en) Video game apparatus, method and recording medium storing program for controlling viewpoint movement of simulated camera in video game
US6835136B2 (en) Game system, computer readable storage medium storing game program and image displaying method
JP3812093B2 (ja) 姿勢検出装置及び方法
US7059962B2 (en) Gun shooting game device, method of controlling computer and program
US7597622B2 (en) Game device, computer control method, and computer-readable information storage medium
US7959511B2 (en) Information processing device for controlling movement of a game character by using a player image and game character movement control method
US7911447B2 (en) Information processing device for controlling object by using player image and object control method in the information processing device
KR100508368B1 (ko) 게임장치및게임장치에있어서의화면표시방법
JP5039808B2 (ja) ゲーム装置、ゲーム装置の制御方法、及びプログラム
US8257176B2 (en) Game device and method for processing images responsive to captured player images
JP2001299975A (ja) 体感装置及び体感システム
WO1996034364A1 (fr) Dispositif de traitement d'images, procede de traitement d'images, appareil de jeu les utilisant et support de memoire
EP0893149A3 (en) Video-game apparatus, method of processing video game image, and computer-readable recording medium with stored video game program
JPH1153563A (ja) 姿勢検出ゲーム装置およびゲーム方法
US20100035684A1 (en) System and method for controlling movement of a plurality of game objects along a playfield
US20100160042A1 (en) Game program, game apparatus and game control method
JPH11144061A (ja) 画像認識装置、画像認識方法及び姿勢検出ゲーム装置
JP2009061180A (ja) カメラ装置、画像処理方法及びカメラシステム
JP2002085344A (ja) 画像フリーズ処理装置
JP2009018012A (ja) 射撃ゲーム装置
Kage et al. Artificial retina chips as on-chip image processors and gesture-oriented interfaces
JP2004033640A (ja) 玩具ロボット、その制御方法、制御プログラムおよび可読記録媒体
EP0864342B1 (en) A method and apparatus for operating a video game with backfeeding a video image of a player
JP2001340636A (ja) 撮影ゲーム装置、撮影ゲーム処理方法および情報記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050816

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060228

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060522

LAPS Cancellation because of no payment of annual fees