JP2002081909A - 位置検出装置及び位置検出方法、並びに、エンターテインメント装置 - Google Patents

位置検出装置及び位置検出方法、並びに、エンターテインメント装置

Info

Publication number
JP2002081909A
JP2002081909A JP2000275397A JP2000275397A JP2002081909A JP 2002081909 A JP2002081909 A JP 2002081909A JP 2000275397 A JP2000275397 A JP 2000275397A JP 2000275397 A JP2000275397 A JP 2000275397A JP 2002081909 A JP2002081909 A JP 2002081909A
Authority
JP
Japan
Prior art keywords
signal
unit
charge
light receiving
charge transfer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000275397A
Other languages
English (en)
Other versions
JP4581204B2 (ja
Inventor
Junichi Sakagami
順一 坂上
Shigeru Mori
繁 盛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000275397A priority Critical patent/JP4581204B2/ja
Publication of JP2002081909A publication Critical patent/JP2002081909A/ja
Application granted granted Critical
Publication of JP4581204B2 publication Critical patent/JP4581204B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

(57)【要約】 【課題】 表示装置に表示される所定画像の位置を非接
触により検出する。 【解決手段】 ゲーム筐体10、コントローラ型撮像装
置11、表示部12、スピーカ13を備える位置検出シ
ステム1において、コントローラ型撮像装置11によっ
て表示部12を撮影する。ゲーム筐体10に備えられた
ゲーム制御部32は、コントローラ型撮像装置11によ
り撮影された表示部12の撮影画像を比較し、識別子1
4の動き検出して照準点16を表示する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、一方の機器に対す
る他方の機器の相対位置を検出する位置検出装置及び位
置検出方法、並びに、エンターテインメント装置に関
し、特に、識別子を検出して解析することにより相対位
置を検出する位置検出装置及び位置検出方法、並びに、
これらを適用したエンターテインメント装置に関する。
【0002】
【従来の技術】近年、電子ゲーム技術の発展に伴い、幾
つかの入力ボタンの組み合わせにより操作入力を行った
り、いわゆるジョイスティック等により操作入力を行っ
たりするだけのゲームでは、ユーザの要求を満たした
り、ユーザの興味を獲得することが困難になってきた。
【0003】そこで、例えば、釣りをするゲームであれ
ば釣り道具を模した入力装置を使用し、楽器を演奏する
ゲームであれば楽器を模した入力装置を使用し、射撃ゲ
ームであれば本物の銃に模した入力装置を使用するなど
して、より現実的な操作によりゲームを行うことができ
るように工夫されている。また、ユーザが画面を見なが
ら、実際に身体を動かして行うゲーム装置も存在する。
【0004】この場合、身体全体の動きを検出するので
はなく、所定位置に接触するとそれが検出されるような
入力装置を用いて、ユーザの身体の動きを、例えばステ
ップ等の部分的な動きとして入力している。
【0005】ユーザが現実的な動作により近い動作を行
うことでゲームの入力を行うために、ユーザの動きを検
出し、これを入力信号として利用することが考えられて
いる。例えば、ゲームプレーヤ(ユーザ)を撮像装置に
より撮像して、その撮像画像に基づいてゲームプレーヤ
(ユーザ)の動きを解析し、その解析結果をゲームの入
力に反映させるといったものである。
【0006】ユーザの動き、或いは所定部位の位置を非
接触にて検知するシステムは、既に実現されており、こ
のような位置検出システムとしては、例えば、ブラウン
管の走査線をビームで感光させて発光素子で検出する場
合、赤外線、或いは超音波を使用して位置検知する場合
等がある。
【0007】
【発明が解決しようとする課題】ところが、非接触で目
標部位の位置を検出する場合、特に、赤外線を用いる場
合は、予め設置された複数の赤外線発生装置からの赤外
線を受けて干渉縞を検出することにより位置を特定する
ために、至近距離で使用しないと位置検出精度が低くな
ってしまう。また、赤外線を使用した他の機器からの干
渉を受けやすいため、特に同じ装置を並べて使用するよ
うな場合に位置検出精度が低下するという問題点があっ
た。また、超音波を使用する場合は、予め設置された複
数の超音波センサが受ける反射波を測定することによ
り、位置並びに動きを特定するため、赤外線を用いると
きと同様に、反射波が干渉を受けるような条件では、や
はり位置検出精度が低下する。
【0008】また、ユーザが画面に表示される標的に向
かって射撃を行うゲーム装置では、ブラウン管の走査線
をビームで感光させ、これを受光素子で検出すること
で、画面上の位置を検出する方法を採用しているが、検
出動作の度に画面の一部又は全域をフラッシュさせる必
要がある。そのため、位置検出動作の度に画面をフラッ
シュさせても違和感のないようなアプリケーションにし
か適用できなかった。その上、この方法を適用した位置
検出は、走査線を有した表示装置にのみ有効であって、
プロジェクタで映し出される画像や、液晶モニタに表示
される画像に対しては適用できないという問題点があっ
た。
【0009】そこで、このような不都合を解消するため
の位置検出装置が特開平6−301475号公報に開示
されている。ところが、ここに開示された位置検出装置
を射撃ゲームに適用した場合、銃型コントローラとして
の撮像装置の傾きが検出されないため、ユーザが銃型コ
ントローラとしての撮像装置を正確に水平に保たない限
り、ユーザが狙った照準と検出された位置との間で誤差
が生じる。
【0010】また、特開平11−305935号公報に
も撮像装置を用いた位置検出装置が開示されているが、
識別子として赤外線発光素子が用いられているため、例
えば、この位置検出装置を家庭用のディスプレイに適用
させようとすることは困難であって、業務用の大型筐体
のゲーム機としての利用に限定されてしまう。また、こ
の位置検出装置は、赤外線カットフィルタを備えていな
いため、撮像装置を取り外しても通常のカメラとして使
用することができないのは、利便性に欠けるものであ
る。
【0011】このように、従来型のユーザインターフェ
イスとして、接触型インターフェイスによるGUI(Graph
ical User Interface)や、デスクトップメタファ(Des
ktopmetaphor)といった概念があるが、上述したような
種々の問題点が存在する。
【0012】そこで本発明は、このような従来の実情に
鑑みて提案されたものであり、あらゆる種類の表示装置
に対応し、高精度の動き検出が可能な非接触の画像入力
による新しいユーザインターフェイスとしての位置検出
装置及び位置検出方法、並びに、このような位置検出方
法を適用したエンターテインメント装置を提供すること
を目的とする。
【0013】
【課題を解決するための手段】本発明に係る位置検出装
置は、複数の識別子を表示する表示手段と、結像部を介
して識別子を撮像する撮像手段と、撮像された識別子を
用いて撮像手段の表示手段に対する位置を解析する解析
手段とを備えることにより、上述の目的を達成する。
【0014】また、本発明に係る位置検出方法は、複数
の識別子を表示する表示工程と、結像部を介して識別子
を撮像する撮像工程と、撮像された識別子を用いて撮像
工程において撮像した表示手段に対する撮像手段の位置
を解析する解析工程とを備えることにより、上述の目的
を達成する。
【0015】また、本発明に係るエンターテインメント
装置は、複数の識別子を表示する表示手段と、結像部を
介して識別子を撮像する撮像手段と、撮像された識別子
を用いて撮像手段の表示手段に対する位置を解析する解
析手段と、解析手段で解析された位置情報を制御情報に
変換してプログラムを制御する制御手段とを備えること
により上述の目的を達成する。
【0016】
【発明の実施の形態】以下、本発明の実施の形態につい
て、図面を参照して詳細に説明する。
【0017】本発明の第1の実施の形態として示す位置
検出システム1は、表示装置に識別子を表示し、この識
別子を含む表示画像を操作入力装置としての撮像装置で
撮影し、撮影した画像を解析手段において解析すること
によって、表示装置と撮像装置との位置関係、並びに撮
像装置の表示装置に対する向き等を非接触により検出す
る位置検出システムであって、例えば表示装置に表示さ
れる画像の所定位置或いは所定の画像に対して、操作入
力装置としての撮像装置を対向して選択動作を行うこと
で、操作入力を行うことが可能なユーザインターフェイ
スである。
【0018】位置検出システム1を図1に示す。位置検
出システム1は、後述する表示部12及びスピーカ13
を有したゲーム筐体10と、銃を模したコントローラ型
撮像装置11とを備える。
【0019】表示部12には、ゲームの内容であるアニ
メーション画像等が出力され、スピーカ13からは、表
示部12に表示される画像に合わせて、効果音や音楽等
が再生される。図1に示す位置検出システム1におい
て、表示部12には、詳細は図示しないが背景画像と、
識別子14と、標的15と、照準点16とが表示されて
いる。
【0020】このように、当該位置検出システム1は、
例えば、ユーザ1000が銃を模した操作入力装置とし
てのコントローラ型撮像装置11を用いて、表示部12
に表示される標的15に向かって照準点16を定めて射
撃をするゲーム装置を構成している。
【0021】コントローラ型撮像装置11は、撮像素子
としてCCD(Charge Coupled Device)を備えた撮像
カメラであり、ユーザ1000によってゲーム筐体10
の表示部12に対向されるとき、表示部12に表示され
ている画像を含めた周辺の環境を撮像し、この撮像範囲
17の画像をゲーム筐体10に送信している。このと
き、コントローラ型撮像装置11が捕らえた撮像範囲1
7の中心が照準点16として表示部12上の対応箇所に
表示される。
【0022】次に、このゲーム装置としての位置検出シ
ステム1の具体的な回路構成を図2に示す。
【0023】図2に示すように、位置検出システム1に
おけるゲーム筐体10は、レンズ部20、固体撮像素子
とされるCCD(Charge Coupled Device)部或いはC
CDイメージャ21(Imager)21、S/H(Sampling
/Hold)部22、AGC(Auto Gain Controler)部2
3、A/D(Analog/Digital)部24、信号処理部2
5、TG(Timing Generator)部26、撮像駆動部2
7、撮像制御部28、SDRAM(Synchronous Dynami
c Random Access Memory)29、メインメモリ30、機
械的I/F(Interface)31、ゲーム制御部32、表
示制御部33、ROM(Read Only Memory)34、画像
処理部35及びフレームメモリ36を備えている。
【0024】このような構成からなる位置検出システム
1において、CCD(Charge Coupled Device)部或い
はCCDイメージャ(Imager)21、S/H部22、A
GC部23、A/D部25、信号処理部25、TG部2
6、撮像駆動部27、撮像制御部28及びSDRAM2
9からコントローラ型撮像装置11が構成され、ゲーム
制御部32は、コントローラ型撮像装置11から出力さ
れた時間的に異なる撮影画像を比較して動き検出をする
動き検出手段として機能する。
【0025】具体的には、コントローラ型撮像装置11
は、非同期のシャッタにより任意のタイミングで撮像を
行う機能と、撮像のための同期信号の一周期内において
複数の撮像を行う多重露光撮影により撮像を行う機能と
を有している。これらの機能の詳細は後述する。
【0026】また、ゲーム制御部32は、ある時間にお
ける表示部12を撮影した画像と、所定時間経過後のゲ
ームプレーヤ(ユーザ)の動作後の撮影画像とを比較し
て動きを検出する。ゲーム制御部32は、検出した動き
検出結果に基づいてプログラムを実行する制御手段とし
ての機能も有する。
【0027】このような位置検出システム1において、
レンズ部10を介して入力される撮像された画像は、固
体撮像素子であるCCD部11にて光電変換される。こ
こで撮像素子は、CCDに限定されるものではなく、例
えば、CMOSセンサー等といった他の撮像素子を用い
ることもできる。CCD部11にて光電変換された画像
信号は、S/H部22においてサンプリング及びホール
ドされ、続いてAGC部23にて利得の調節がなされ
て、A/D部25に入力される。このとき、CCD部1
1からの画像信号の読み出しタイミングやS/H部22
における処理タイミングは、TG部26からの読み出し
タイミング信号によって制御されている。
【0028】A/D部25では、入力された撮像信号は
量子化される。A/D部25にて量子化された画像情報
は信号処理部25にて一般的なカメラ信号処理が施され
て、情報記憶部であるSDRAM29に格納される。こ
こで、画像情報が記憶される情報記憶部は、SDRAM
29に限定されるものではなく、他の揮発性記憶手段で
あってよい。SDRAM29に格納された画像は、ゲー
ム制御部32の要求に応じて撮像制御部28にてストリ
ームにされて、ゲーム制御部32を介してメインメモリ
30に転送される。
【0029】撮像制御部28は、位置検出システム1の
各部を統括して制御している。撮像制御部28は、撮像
駆動部17を制御してレンズ部10を駆動し、絞り、ズ
ーム、フォーカス等の制御を行う。
【0030】ゲーム制御部32は、SDRAM29から
ストリームとして転送された画像を画像処理して動き検
出を行うものである。なお、ここでゲーム制御部32と
撮像制御部28とは、同一のプロセッサとして構成され
ていてもよい。
【0031】動き検出は、例えば後述する特開平9-2475
56号公報に開示された多重露光撮影技術によって行われ
る。多重露光撮影技術を用いた動き検出についての詳細
は、後述する。
【0032】ゲーム制御部32は、転送された画像を画
像処理して予め決められている特徴点を検出する。すな
わち、表示部の所定位置に表示されている識別子14を
抽出し、コントローラ型撮像装置11が捕らえた撮像範
囲17の中心を照準点16として表示部12上の対応箇
所に表示する。
【0033】次に、ゲーム制御部32は、上述のように
して抽出した識別子14の座標を記憶する。そして、ゲ
ーム制御部32は、次々に転送されてくる画像、すなわ
ちコントローラ型撮像装置11にて撮像されて、順次転
送されてくる画像について上述した処理を繰り返す。
【0034】ゲーム制御部32は、識別子14の座標を
時系列で統計・分析することにより識別子14の動き検
出を行う。また、動体予測によって識別子14の動きを
補正する。
【0035】検出した識別子14の動き及び照準点16
の位置は、機械的I/F部31からの制御信号や撮影時
のトリガ信号とともに制御信号として扱われ、ゲームに
対するユーザの入力信号として使用される。ゲーム制御
部32は、この入力信号としての制御信号に基づいてゲ
ームを実行し、照準の位置とトリガに依存した標的や照
準等が表示部12において表示される。
【0036】すなわち、ゲーム制御部32は、識別子1
4の動きを検出し、その動き検出結果を制御信号に含め
ることによって、ゲーム筐体10に対するコントローラ
型撮像装置11の動きを、表示部12に表示される動き
を伴うキャラクター、特に、本発明にかかる実施の形態
においては照準点16の動きに反映させている。
【0037】照準点16の動きを検出するに際して、図
3に示すように、ユーザに対して規定の動作を促すため
の看板、或いは音声ガイド等を設けたり、図4に示すよ
うに、ゲーム制御手段32に同期して表示部12に規定
の動作を促す表示を行うことで、識別子14の基準相対
位置を予め検出するキャリブレーション動作を行うこと
で、位置検出がより容易に行える。
【0038】なお、ROM34には、ゲームを実行する
ためのプログラム等が記憶されている。また、画像処理
部35は、画像処理を行う部であって、例えば、クロマ
キー処理等を行う。
【0039】続いて、位置検出システム1におけるコン
トローラ型撮像装置11が表示部12を含めたゲーム筐
体10の周辺の環境を撮像し、当該コントローラ型撮像
装置11の表示部12に対する向きに応じて、表示部1
2に照準点16を表示する処理を図5を用いて説明す
る。
【0040】撮像制御部28は、常に撮像条件を監視・
検出している。撮像制御部28は、ステップS1におい
て、撮像条件が適正か否かの判別を行う。
【0041】撮像制御部28は、ステップS1において
撮像条件が適正でないと判断した場合、ステップS2に
進み、絞り(Iris)、ズーム(Zoom)、フォーカス(Fo
cus)を制御する撮像駆動部27と、TG部26と、A
GC部23と信号処理部25とを直ちに制御して撮像条
件を調整する。
【0042】ステップS1において、撮像条件が適正で
あると判断された場合、ステップS3に進んで、動き検
出の要求が出されたか否かの判別を行う。
【0043】ステップS3において、動き検出を行うこ
とが要求されなかった場合、ステップS1の工程を繰り
返す。一方、動き検出を行うことを要求された場合、ス
テップS4に進んで、コントローラ型撮像装置11は、
撮像範囲17の画像を取得し、ゲーム筐体10に対して
出力し、ステップS1の工程を繰り返す。
【0044】このとき、ゲーム筐体10内のゲーム制御
部32がコントローラ型撮像装置11からの画像に基づ
いて動き検出を行う処理を図6に示す。
【0045】ゲーム制御部32は、ステップS10にお
いて、画像が入力されたか否かの判別を行う。画像が入
力された場合、ステップS11において、画像情報の中
から識別子14を抽出する。
【0046】続いてゲーム制御部32は、ステップS1
2において、抽出した識別子の画角に対する座標を記憶
し、コントローラ型撮像装置11の表示部12に対する
方向・角度と照準点16とを補正する後述するキャリブ
レーション動作の際に識別子の基準相対位置から位置予
測を行い、不可視の識別子の位置を予測する。
【0047】ここで図7を用いて、識別子14の位置を
予測する際の概念を説明する。図7(a)に示す基準と
なる基準相対位置と、図7(b)に示す撮像された識別
子14とは常に相似であることを前提として、撮像され
た識別子が図7(c)のようであった場合、相対位置が
相似であることから図7(c)に示す位置に識別子Cが
存在することを予測する。
【0048】ゲーム制御部32は、ステップS13にお
いて、予測によって補完した識別子含む複数の識別子の
相対位置から照準点16の位置を検出する。
【0049】ステップS14において、検出した照準点
16の位置を、さらに動体予測によって補正し、ノイズ
を除去し、制御信号としてゲームの入力に反映させる。
【0050】以上示したように、図1に示す位置検出シ
ステム1は、ユーザが入力装置としてのコントローラ型
撮像装置11のトリガを引くと、コントローラ型撮像装
置11から画像情報とトリガが引かれたことを示すトリ
ガ情報とがゲーム筐体10に送信される。このときゲー
ム制御部32は、画像情報から識別子14を認識し、複
数の識別子の相対位置からコントローラ型撮像装置11
が表示部12のどの位置に向けられているかを解析す
る。解析した結果は、トリガ情報とともゲーム制御部3
2に送られ、制御信号に変換されて照準点16として表
示するほか、ゲームの入力として使用される。
【0051】したがって、第1の実施の形態として示し
た位置検出システム1は、コントローラ型撮像装置11
によって撮影された撮影範囲17の画像から、表示部1
2に背景画像とともに表示される識別子14を検出し
て、識別子14の座標に応じて照準点16を表示するこ
とができる。
【0052】これにより、位置検出システム1は、ゲー
ムプレーヤ(ユーザ)の動きや実際の射撃動作を入力情
報として使用し、例えばゲームのような仮想世界に現実
世界の動作を反映させることを可能としている。
【0053】続いて、本発明の第2の実施の形態につい
て説明する。第2の実施の形態として示す位置検出シス
テム2は、本発明に係る位置検出システムを家庭用のゲ
ーム装置に適用したものである。この位置検出システム
2は、図8に示すように、モニタ40、ゲーム装置50
及びコントローラ型撮像装置60を備えて構成されてい
る。
【0054】ここで、モニタ40は画像表示手段であ
り、通常、外部からの映像及び音声入力が可能なテレビ
ジョン受像機(以下、テレビと記す。)である。ゲーム
装置50は、第1の実施の形態に示したような業務用の
ゲーム筐体10を小型化した家庭用ゲーム装置であっ
て、所定のプログラムに従ってゲームを実行する処理手
段を備えている。コントローラ型撮像装置60は、入力
装置であって、ゲームの入力に必要な操作ボタン等の他
の入力手段が備えられているが、基本的には撮像装置で
あって、ゲームの入力装置としての使用に止まることな
く通常のCCDカメラ装置のように撮像装置単体として
使用することができる。
【0055】例えばゲーム装置50とコントローラ型撮
像装置60とは、無線通信又は有線通信によりデータの
送受信を行うことができるようになっている。モニタ4
0、ゲーム装置50及びコントローラ型撮像装置60
は、概略を図8に示すように、それぞれ互いに接続され
ている。
【0056】この第2の実施の形態の位置検出システム
は、モニタ40、ゲーム装置50及びコントローラ型撮
像装置60により、上述した第1の実施の形態に示した
位置検出システム1の処理と同様の処理を行うことがで
きる。すなわち、第2の実施の形態において、モニタ4
0は、位置検出システム1の表示部12に対応し、ゲー
ム装置50は、上述の位置検出システム1における動き
検出等の処理を行うゲーム筐体10内の構成要素に対応
している。
【0057】位置検出システム2の回路構成を図9に示
す。上述のように第2の実施の形態として示す位置検出
システム2は、第1の実施の形態の位置検出システム1
と同様の処理を行うことから、基本的には第1の実施の
形態の位置検出システム1と共通の構成要素とすること
ができる。よって、位置検出システム1と共通する構成
部分については同一番号を付して詳細な説明を省略す
る。
【0058】なお、当然のことながら、第1の実施の形
態の位置検出システム1と共通の構成部分であっても、
第2の実施の形態の位置検出システム2に適応するよう
に適宜変更を加えることができることはいうまでもな
い。
【0059】位置検出システム2は、基本的には、第1
の実施の形態として示した位置検出システム1と同様の
処理を行う。コントローラ型撮像装置60において、レ
ンズ部10を介して入力される撮像された像は、CCD
部11にて光電変換される。CCD部11にて光電変換
された画像信号は、S/H部22にてサンプルホールド
によりサンプリングされ、続いてAGC部23にて利得
調節されて、A/D部25に入力される。ここで、CC
D部11からの画像信号の読み出しタイミングやS/H
部22における処理タイミングは、TG部26からの読
み出しタイミング信号によって制御されている。
【0060】A/D部25では、入力された撮像信号は
量子化される。A/D部25にて量子化された画像情報
は信号処理部25にて一般的なカメラ信号処理が施され
て、情報記憶部とされるSDRAM29に格納される。
SDRAM29に格納された画像は、ゲーム制御部32
の要求に応じて撮像制御部28にてストリームとされ
て、ゲーム制御部32を介してメインメモリ30に転送
される。
【0061】コントローラ型撮像装置60は、I/F
(interface;インターフェイス)部61を備えてお
り、このI/F部61を介してゲーム装置50との間で
データ通信を行う。対応するゲーム装置50は、I/F
部51を備えており、このI/F部51を介してコント
ローラ型撮像装置60のI/F部61との間でデータ通
信を行う。I/F61とI/F部51とは、例えば無線
通信或いは有線通信によりデータの送受信が可能な通信
手段で構成されている。
【0062】ゲーム装置50では、ゲーム制御部32に
おいて、SDRAM29からストリームとして転送され
た画像を画像処理して動き検出が行われる。ゲーム制御
部32による動き検出については、第1の実施の形態の
位置検出システム1と同様の処理によって行われる。検
出された結果は、機械的I/F部31からの制御信号と
ともに制御信号として扱われ、ゲームに対する入力情報
に反映される。
【0063】ゲーム制御部32は、入力情報が含まれる
制御信号に基づいてゲームを実行し、モニタI/F部5
2を介して、ユーザが動かす入力装置としてのコントロ
ーラ型撮像装置60の動きに依存して照準点16をモニ
タ40に表示する。
【0064】このとき位置検出システム2におけるコン
トローラ型撮像装置60が表示部12を含めたゲーム筐
体40の周辺の環境を撮像し、当該コントローラ型撮像
装置60の表示部12に対する向きに応じて、表示部1
2に照準点16を表示する処理を図10を用いて説明す
る。
【0065】撮像制御部28は、常に撮像条件を監視・
検出している。撮像制御部28は、ステップS21にお
いて、撮像条件が適正か否かの判別を行う。
【0066】撮像制御部28は、ステップS21におい
て撮像条件が適正でないと判断した場合、ステップS2
2に進み、絞り(Iris)、ズーム(Zoom)、フォーカス
(Focus)を制御する撮像駆動部27と、TG部26
と、AGC部23と信号処理部25とを直ちに制御して
撮像条件を調整する。
【0067】ステップS21において、撮像条件が適正
であると判断された場合、ステップS23に進んで、動
き検出の要求が出されたか否かの判別を行う。
【0068】ステップS23において、動き検出の要求
がなかった場合、ステップS21の工程へと戻る。動き
検出を行うことを要求された場合、ステップS24に進
んで、コントローラ型撮像装置60における撮像制御部
28は、撮像範囲17の画像を取得し、これを所定の形
式で圧縮する。
【0069】撮像制御部28は、ステップS25におい
て、所定の形式で圧縮した画像をゲーム装置50に対し
て出力する。
【0070】このときゲーム装置50内のゲーム制御部
32がコントローラ型撮像装置60からの画像に基づい
て動き検出を行う処理を図11に示す。
【0071】ゲーム制御部32は、ステップS31にお
いて、画像が入力されたか否かの判別を行う。画像が入
力された場合、ステップS32において、入力した圧縮
画像を展開(解凍)する。
【0072】ゲーム制御部32は、ステップS33にお
いて、画像情報の中から識別子14を抽出する。
【0073】続いて、ゲーム制御部32は、ステップS
34において、抽出した識別子の画角に対する座標を記
憶し、コントローラ型撮像装置60の表示部12に対す
る方向・角度と照準点16とを補正する後述するキャリ
ブレーション動作の際に識別子の基準相対位置から位置
予測を行い、不可視の識別子の位置を予測する。このと
き、図7に示す上述した位置予測が行われる。
【0074】ゲーム制御部32は、ステップS35おい
て、予測によって補完した識別子含む複数の識別子の相
対位置から照準点16の位置を検出する。
【0075】ステップS36において、検出した照準点
16の位置を、さらに動体予測によって補正し、ノイズ
を除去し、制御信号としてゲームの入力に反映させる。
【0076】以上示したように、図9に示す位置検出シ
ステム2は、ユーザが入力装置としてのコントローラ型
撮像装置60のトリガを引くと、コントローラ型撮像装
置60から画像情報とトリガが引かれたことを示すトリ
ガ情報とがゲーム装置50に送信される。このときゲー
ム制御部32は、画像情報から識別子14を認識し、複
数の識別子の相対位置からコントローラ型撮像装置60
がモニタ40のどの位置に向けられているかを解析す
る。解析した結果は、トリガ情報とともゲーム制御部3
2に送られ、制御信号に変換されて照準点16として表
示するほか、ゲームの入力情報として使用される。
【0077】したがって、第2の実施の形態として示し
た位置検出システム2は、コントローラ型撮像装置60
によって撮影された撮影範囲17の画像から、モニタ4
0に背景画像とともに表示される識別子14を検出し
て、識別子14の座標に応じてモニタ40に照準点16
を表示することができる。
【0078】これにより、位置検出システム2は、小型
化された家庭用のゲーム装置50において、ゲームプレ
ーヤ(ユーザ)の動きや実際の射撃動作を入力情報とし
て使用し、例えばゲームのような仮想世界に現実世界の
動作を反映させることを可能としている。また、位置検
出システム2において、コントローラ型撮像装置60
は、ゲーム装置50の入力装置のみならず、通常の撮像
装置として使用することができる。
【0079】位置検出システム2は、ゲーム制御部32
における動き検出をコントローラ型撮像装置60の撮像
制御部28において行うようにすることも可能である。
この場合の撮像制御部28における処理を図12に示
す。
【0080】撮像制御部28は、常に撮像条件を監視・
検出している。撮像制御部28は、ステップS41にお
いて、撮像条件が適正か否かの判別を行う。
【0081】撮像制御部28は、ステップS41におい
て撮像条件が適正でないと判断した場合、ステップS4
2に進み、絞り(Iris)、ズーム(Zoom)、フォーカス
(Focus)を制御する撮像駆動部27と、TG部26
と、AGC部23と信号処理部25とを直ちに制御して
撮像条件を調整する。
【0082】ステップS41において、撮像条件が適正
であると判断された場合、ステップS43に進んで、動
き検出の要求が出されたか否かの判別を行う。
【0083】ステップS43において、動き検出の要求
がなかった場合、ステップS41の工程を繰り返す。動
き検出を行うことを要求された場合、ステップS44に
おいて、撮像制御部28は、撮像範囲17の画像を取得
し、画像情報の中から識別子14を抽出する。
【0084】撮像制御部28は、ステップS45におい
て、抽出した識別子の画角に対する座標を記憶し、コン
トローラ型撮像装置60の表示部12に対する方向・角
度と照準点16とを補正する後述するキャリブレーショ
ン動作の際に識別子の基準相対位置から位置予測を行
い、不可視の識別子の位置を予測する。このとき図7に
示す位置予測が行われる。
【0085】撮像制御部28は、ステップS46おい
て、予測によって補完した識別子含む複数の識別子の相
対位置から照準点16の位置を検出する。
【0086】撮像制御部28は、ステップS47におい
て、検出した照準点16の位置をさらに動体予測によっ
て補正し、ノイズを除去し、制御信号としてゲームの入
力に反映させる。
【0087】撮像制御部28は、ゲーム制御部32に対
して、検出した照準点16の座標を出力する。
【0088】以上のように、撮像制御部28において動
き検出を行う場合は、ゲーム制御部32において動き検
出を行う場合と比較して、I/F部51及び61を介し
て転送する処理にかかる遅延がないため、動き検出の動
作がさらに高速化される。
【0089】第2の実施の形態として示す位置検出シス
テム2では、ベクトル演算を行うためのベクトル演算ユ
ニットを設け、当該ベクトル演算ユニットにおいて上述
の位置検出システム1及び2と同様の動き検出を行うよ
うにしてもよい。このような位置検出システムを第3の
実施の形態として図13に示す。
【0090】第3の実施の形態として示す位置検出シス
テム3は、ゲーム装置50にベクトル演算ユニット53
を備えている。ベクトル演算ユニット53は、ゲーム等
に特有の高速画像処理を行うためのベクトル演算専用の
ハードである。
【0091】なお、図13に示す位置検出システム3で
は、ゲーム制御部32は、メインメモリ30、機械的I
/F部31、ROM34、画像処理部35及びフレーム
メモリ36がバス37を介して接続されている構成とな
っているが、図13に示す位置検出システム3と、図9
に示す位置検出システム2の基本的な構成は同じであ
る。
【0092】図13に示すゲームシステムにおいて、ベ
クトル演算ユニット53は、現フレームにて撮像したフ
レームと、メインメモリ30に記憶されている1つ前の
フレームで撮影した画像とからベクトル場を計算する。
続いて、ベクトル演算ユニット53は、このベクトル場
から特徴点を抽出して、対応するベクトル場を追いかけ
ることにより動き検出を行う。ゲーム制御部32は、ベ
クトル演算ユニット53による動き検出の結果を制御信
号をとして扱い、入力情報に反映させている。
【0093】ベクトル場による動き検出の概念について
図14及び図15を用いて具体的に示す。
【0094】ベクトル場の算出では、まず図14に示す
ように、濃度曲面を基準として現フレームと前フレーム
との差分をとり濃度の変化を求める。その後、再び現フ
レームに対してその濃度の変化を乗算することにより、
当該濃度曲面に関しての動きベクトル場を算出する。
【0095】次に、図15を用いて濃度変化から動きベ
クトルを算出する手順の概要について説明する。ここで
提案している動き検出の手法はオプティカルフローを応
用した相関を用いて行うものである。まず、時間tが0
から1に遷移するにあたり、濃度Qが位置Xに対してガ
ウス分布し、t=0の時にその中心がX=1の位置にあ
り、t=1の時に中心がX=2の位置に移動するような
濃度変化を想定してみる。本提案では、X=1,2,3
という基本セルでの濃度遷移から動きを検出するため、
その中間の位置では濃度がサンプルできないと仮定し、
各基本セル毎に濃度遷移に対応した動きベクトルを出力
することを目的としている。ここでは一例として、X=
2の位置における動きベクトルVX を計算する。
【0096】t=1の時のX=2の位置におけるX軸に
正方向の動きに対する相関をC2,1とすると、それは
サンプリングレートX=1刻みに対しての動きとの相関
が最大にならなくてはならないため、t=0の時のX=
1の位置での濃度Q1,0と、t=1の時のX=2の位置
での濃度Q2,1との相関を中心に計算する必要がある。
よって本提案では、C2,1=Q1,0×Q2,1としての相関
を算出している。同様に、t=1の時のX=2の位置に
おけるX軸に負方向の動きに対する相関をC2, 3とする
と、それはC2,3=Q3,0×Q2,1として算出できる。最
後にX=2の位置における動きベクトルVXを相関値C
2,1−C2,3として計算することができる。
【0097】一般にゲーム装置では、ベクトル演算に特
化した演算処理装置をハードとして備えている。このよ
うなベクトル演算ユニットは、ベクトル演算処理速度を
高速化できるため、上記のようなベクトル演算に焼き直
し易い相関の算出における動き検出が有効である。以上
のようにして濃度変化から動きベクトルを算出してい
る。
【0098】続いて、このとき位置検出システム3にお
けるベクトル演算ユニット53が、動き検出する際の処
理を図16を用いて説明するが、動き検出は、図16に
示した一連の処理により実行されることに限定されるも
のではない。
【0099】ゲーム装置50におけるゲーム制御部32
は、ステップS51において、撮影画像が入力されたか
否かを判別する。ゲーム制御部32は、撮影画像が入力
されるまでこのステップS51における処理を繰り返し
行う。
【0100】撮像画像が入力されると、ゲーム制御部3
2は、ステップS52において、ベクトル演算ユニット
53を用いて画素値の濃度曲面を算出する。
【0101】ゲーム制御部32は、続くステップS53
において、画像全体の動きを検出して統計処理すること
でぶれを抽出し補正する。
【0102】ベクトル演算ユニット53は、ステップS
54において、補正後の画像を格子状のブロックに分
け、各々のブロック毎に動きベクトルを抽出することで
ベクトル場を算出する。
【0103】ゲーム制御部32は、ステップS55にお
いて、連続した類似のベクトルをまとめることにより特
徴物体を抽出する。
【0104】続いてステップS56において、パターン
マッチングと追跡判定を施すことにより特徴物体が識別
子14であることを認識する。
【0105】ゲーム制御部32は、ステップS57にお
いて、不可視の識別子がある場合、複数の可視識別子の
基準相対位置から不可視の識別子の位置を予測し、これ
らの識別子の相対位置から照準点16の位置を検出す
る。
【0106】ゲーム制御部32は、ステップS58にお
いて、検出された照準点16の位置を制御信号に変換し
て、ゲームへの入力情報として反映させる。
【0107】以上示したように、ベクトル演算ユニット
53を備えた位置検出システム3によれば、色・紋様等
に頼っていた特徴点の抽出処理がより高精度でリアルタ
イム制を向上した動き検出が可能になる。
【0108】ここで、上述した非同期のシャッタにより
任意のタイミングで撮像を行う機能と、撮像のための同
期信号の一周期内において複数の撮像を行う多重露光撮
影により撮像を行う機能とを説明する。以下に、本発明
が先行関連技術として利用した特開平9-247556号公報
(発明の名称「個体撮像部を備えた撮像装置」)につい
て説明する。この先行関連技術では、発明を撮像装置に
適用している。
【0109】撮像装置は、例えば図17に示すように、
光電変換を行う多数の受光素子部が多数の並行列を形成
して配列形成されるとともに、各受光素子部で得られた
電荷を転送するCCDにより形成された電荷転送領域が
設けられて成る受光・電荷転送部を有するものとされた
固体撮像部111が備えられている。また、固体撮像部
111の前方には、絞り機構112、レンズ・システム
113等を含んで構成される光学系が配されており、こ
の光学系は、固体撮像部111が有する受光・電荷転送
部に外光を入射させて被写体像を投影する。
【0110】受光・電荷転送部は、図18に示すよう
に、半導体基体115上に、各々が個々の画素を構成す
る多数の受光素子部116が、多数の水平方向(矢印h
の方向)に伸びる並行列(画素水平列)を形成するもの
とされて配列配置されている。多数の画素水平列のそれ
ぞれを形成する受光素子部116は、また、多数の垂直
方向(矢印vの方向)に伸びる並行列(画素垂直列)を
も形成しており、このような受光素子部116が形成す
る各画素垂直列に沿って、CCD群により形成された垂
直電荷転送部117が配されている。各垂直電荷転送部
117は、例えば、2相の垂直転送駆動信号φV1及び
φV2により駆動されて電荷転送動作を行う。そして、
各画素垂直列を形成する複数の受光素子部116それぞ
れとその垂直列に対応する垂直電荷転送部117との間
には、電荷読出ゲート部118が設けられている。
【0111】また、各受光素子部116の周囲には、図
19に示すように、チャンネル・ストッパー部119及
びオーバーフロー制御部120が形成されている。さら
に、オーバーフロー制御部120に隣接してドレイン部
121が配され、このドレイン部121と隣の垂直電荷
転送部117との間が、チャンネル・ストッパー部12
2によって区別されている。
【0112】上述の各部の上には絶縁層が配されてお
り、その絶縁層を介して、垂直電荷転送部117上に水
平方向に伸びる垂直転送電極E1及びE2が垂直方向に
交互に配されている。垂直転送電極E1は、蓄積部電極
E1cと転送部電極E1tとで構成され、また、垂直転
送電極E2が、蓄積部電極E2cと転送部電極E2tと
で構成されている。そして、垂直転送電極E1及びE2
に垂直転送駆動信号φV1及びφV2がそれぞれ供給さ
れる。
【0113】また、電荷読出ゲート部118上には、垂
直方向に伸びる読出ゲート電極EGが配され、さらに、
オーバーフロー制御部120上には、同じく垂直方向に
伸びるオーバーフローゲート電極EDが配されている。
これらの読出ゲート電極EG及びオーバーフローゲート
電極EDには、読出ゲート制御信号SG及びオーバーフ
ローゲート制御信号SDがそれぞれ供給される。そし
て、受光素子部116上を残して他の各部の上には、遮
光層が配されている。
【0114】複数の垂直電荷転送部117のそれぞれの
一端部側は、半導体基体115の端縁部において、CC
D群により形成されて水平方向に伸びるものとされた水
平電荷転送部123に連結されている。水平電荷転送部
123は、例えば、2相の水平転送駆動信号φH1及び
φH2により駆動されて電荷転送動作を行う。そして、
水平電荷転送部123の一端には出力部24が設けられ
ており、出力部124からは出力端子125が導出され
ている。
【0115】また、半導体基体115における複数の垂
直電荷転送部117それぞれの他端部側には、水平方向
に伸びる電荷吸収部126が設けられている。
【0116】このような図18及び図19に示される受
光・電荷転送部を有した固体撮像部111において静止
画撮像動作が行われる際には、受光・電荷転送部につい
ての所定の受光期間が設定され、その受光期間におい
て、レンズ・システム113、絞り機構112等を含む
光学系を通じて受光・電荷転送部に入射する撮像対象か
らの光を受けた多数の受光素子部116のそれぞれが、
光電変換を行って受光に応じた電荷を蓄積する。その
後、複数の電荷読出ゲート部118が、それに供給され
る駆動信号形成部130からの読出ゲート制御信号SG
に応じて、対応する受光素子部116に蓄積された電荷
を対応する垂直電荷転送部117へと読み出す。
【0117】続いて、各垂直電荷転送部117に読み出
された電荷が、駆動信号形成部130から信号電荷転送
駆動信号STとして固体撮像部111における垂直転送
電極E1及びE2にそれぞれ供給される2相の垂直転送
駆動信号φV1及びφV2によって駆動される各垂直電
荷転送部117の電荷転送動作により、各画素水平列を
形成する複数の受光素子部116により得られた分宛、
順次、信号電荷として水平電荷転送部123に向けて転
送されていく。水平電荷転送部123においては、駆動
信号形成部130から信号電荷転送駆動信号STとして
供給される2相の水平転送駆動信号φH1及びφH2に
よって駆動されることにより行われる電荷転送動作によ
り信号電荷として転送される、1画素水平列を形成する
複数の受光素子部116で得られた分の電荷が、出力部
124へと供給される。出力部124においては、水平
電荷転送部123により転送されてくる電荷が順次信号
化されて出力端子125に導出され、出力端子125
に、複数の受光素子部116に蓄積された電荷に基づ
く、撮像対象に応じた撮像出力信号IPが得られる。
【0118】斯かる場合、受光・電荷転送部における全
画素水平列のそれぞれを形成する複数の受光素子部11
6で得られた電荷についての1画素水平列分宛の、各垂
直電荷転送部117による水平電荷転送部123への転
送は、各フレーム期間内において終了し、また、水平電
荷転送部123に転送される1画素水平列を形成する複
数の受光素子部116で得られた分の電荷についての、
水平電荷転送部123による出力部124への供給は、
各ライン期間内において終了するものとされるように、
信号電荷転送駆動信号STとされる2相の垂直転送駆動
信号φV1及びφV2及び2相の水平転送駆動信号φH
1及びφH2のそれぞれが設定される。それゆえ、出力
端子125に導出される撮像出力信号IPは、ライン期
間分を単位とするものが連なって形成されるフレーム期
間分が繰り返されるものとされることになる。
【0119】駆動信号形成部130は、タイミング信号
発生部131からの電荷読出タイミング信号TG、信号
電荷転送タイミング信号TT、電荷掃出し転送タイミン
グ信号TS及び電荷排出タイミング信号TDが供給さ
れ、電荷読出タイミング信号TGに応じて形成した読出
ゲート制御信号SGを送出し、また、信号電荷転送タイ
ミング信号TTに応じて形成した2相の垂直転送駆動信
号φV1及びφV2及び2相の水平転送駆動信号φH1
及びφH2を信号電荷転送信号STとして送出する状態
と、電荷掃出し転送タイミング信号TSに応じて形成し
た2相の垂直転送駆動信号φV2及びφV1及び2相の
水平転送駆動信号φH2及びφH1を掃出し転送駆動信
号SSとして送出する状態とを選択的にとり、さらに、
電荷排出タイミング信号TDに応じて形成したオーバー
フローゲート制御信号SDを送出する。
【0120】タイミング信号発生部131は、同期信号
発生部132からのフレーム同期信号SF及びライン同
期信号SHが供給され、さらに、動作制御部を形成する
制御ユニット133からの受光期間信号SE、非同期ノ
ーマル受光モード設定信号SN、非同期シャッタ待モー
ド設定信号SWS、同期復帰指令信号SR及び多重露光
モード設定信号SMMも供給される。
【0121】そして、タイミング信号発生部131にあ
っては、制御ユニット133からの受光期間信号SE、
非同期ノーマル受光モード設定信号SN、非同期シャッ
タ待モード設定信号SWS、同期復帰指令信号SR及び
多重露光モード設定信号SMMの状態に応じて、フレー
ム同期信号SF及びライン同期信号SHにそれぞれ同期
したもの、すなわち、フレーム同期信号SF及びライン
同期信号SHとそれぞれ同位相のものもしくはフレーム
同期信号SFとの間及びライン同期信号SHとの間にそ
れぞれ一定の位相差を有したものとされる内部フレーム
同期信号SFO及び内部ライン同期信号SHOを発生す
る状態と、フレーム同期信号SF及びライン同期信号S
Hに対して非同期とされた内部フレーム同期信号SFO
及び内部ライン同期信号SHOを発生する状態とが選択
的にとられる。
【0122】さらに、駆動信号形成部130は、タイミ
ング信号発生部131においてフレーム同期信号SF及
びライン同期信号SHにそれぞれ同期したものとされる
内部フレーム同期信号SFO及び内部ライン同期信号S
HOが得られるもとで、それらの内部フレーム同期信号
SFO及び内部ライン同期信号SHOに基づいて形成さ
れた電荷読出タイミング信号TG、信号電荷転送タイミ
ング信号TT、電荷掃出し転送タイミング信号TS及び
電荷排出タイミング信号TDが供給され、電荷読出タイ
ミング信号TGに応じて形成した読出ゲート制御信号S
Gを送出する動作状態、及び、タイミング信号発生部1
31においてフレーム同期信号SF及びライン同期信号
SHに対して非同期とされる内部フレーム同期信号SF
O及び内部ライン同期信号SHOが得られるもとで、そ
れらの内部フレーム同期信号SFO及び内部ライン同期
信号SHOに基づいて形成された電荷読出タイミング信
号TG、信号電荷転送タイミング信号TT、電荷掃出し
転送タイミング信号TS及び電荷排出タイミング信号T
Dが供給され、電荷読出タイミング信号TGに応じて形
成した読出ゲート制御信号SGを送出する動作状態を選
択的にとる。
【0123】同期信号発生部132からのフレーム同期
信号SF及びライン同期信号SH、及び、タイミング信
号発生部131において形成される内部フレーム同期信
号SFO及び内部ライン同期信号SHOは、制御ユニッ
ト133にも供給され、また、タイミング信号発生部1
31において得られる電荷読出タイミング信号TG、信
号電荷転送タイミング信号TT、電荷掃出し転送タイミ
ング信号TS及び電荷排出タイミング信号TDも制御ユ
ニット133に供給される。さらに、動作制御部を形成
する制御ユニット133には、動作モード指定信号SM
が端子134を通じて、シャッタ速度指定信号SSVが
端子135を通じて、及び、装置に撮像動作を行わせる
ための操作であるシャッタ操作に応じて発せられる、受
光指令信号であるシャッタ信号SSHが端子136を通
じてそれぞれ供給される。
【0124】図18に示される固体撮像部111の受光
・電荷転送部における出力端子125に得られる撮像出
力信号IPは、図17に示される如くに、自動利得制御
(AGC)増幅部140により増幅されてサンプリング
・ホールド部141に供給される。サンプリング・ホー
ルド部141においては、撮像出力信号IPに対する所
定の短周期毎のレベル・サンプリング及びサンプル・レ
ベル保持が行われて、サンプリング・ホールド出力信号
SIが得られ、それがアナログ/ディジタル(A/D)
変換部142に供給される。A/D変換部142におい
ては、サンプリング・ホールド出力信号SIに基づいて
の撮像出力信号IPのディジタル化が図られ、A/D変
換部142から、撮像出力信号IPに対応するディジタ
ル撮像信号DIが得られて、それが撮像信号ディジタル
処理部143に供給される。
【0125】なお、図2に示した位置検出システム1の
コントローラ型撮像装置11では、S/H部22から出
力された信号がAGC部23において処理されており、
前述の撮像装置の信号処理手順と異なっているが、位置
検出システム1のコントローラ型撮像装置11は、前述
の撮像装置のように、AGC増幅部140において処理
された信号をサンプルホールド部(S/H部)141に
おいて処理するようにしてもよい。
【0126】撮像信号ディジタル処理部143と制御ユ
ニット133との相互間においては、制御データDCC
及び制御データDCDの遣り取りが行われ、撮像信号デ
ィジタル処理部143においては、制御データDCC及
び制御データDCDの遣り取りに応じて、撮像出力信号
IPに対する各種のディジタル処理が施される。その結
果、撮像信号ディジタル処理部143から出力端子14
4に、ディジタル撮像出力信号DIOが導出される。
【0127】このようなもとで、静止画撮像動作が行わ
れる際には、制御ユニット133に、選択されるべき動
作モードを指定する動作モード指定信号SMが端子13
4を通じて供給されるとともに、選択されるべきシャッ
タ速度を指定するシャッタ速度指定信号SSVが供給さ
れる。動作モード指定信号SMにより指定される動作モ
ードは、例えば、非同期ノーマル受光モード、非同期シ
ャッタ待受光モード、多重露光モード等とされる。以
下、各モードにおける撮像装置の処理について説明す
る。
【0128】動作モード指定信号SMが指定する動作モ
ードが非同期ノーマル受光モードであるときには、制御
ユニット33は、非同期ノーマル受光モード設定信号S
Nをタイミング信号発生部131に供給する。タイミン
グ信号発生部131は、非同期ノーマル受光モード設定
信号SNに応じて、図20における時点ta前の期間に
おいて見られる如くに、図20のAに示される同期信号
発生部132からのフレーム同期信号SFとの間に一定
の位相差を有した図20のDに示される内部フレーム同
期信号SFOに基づく、図20のEに示される如くのタ
イミング信号SXOが形成される。
【0129】また、このとき、タイミング信号発生部1
31から内部フレーム同期信号SFOに応じた電荷読出
タイミング信号TG、信号電荷転送タイミング信号T
T、電荷掃出し転送タイミング信号TS及び電荷排出タ
イミング信号TDが送出されることにより、駆動信号形
成部130から、図20における時点ta前の期間にお
いて見られる如くに、内部フレーム同期信号SFOに同
期した、図20のFに示される如くの読出ゲート制御信
号SG及び図20のGに示される如くの掃出し転送駆動
信号SSが送出される。図20における時点ta前の期
間においては、図20のJに示される如く、フレーム同
期信号SFに同期したSF同期モードがとられているこ
とになる。
【0130】斯かるもとで、図20における時点taに
おいてシャッタ操作が行われると、図20のBに示され
る如くの、受光指令信号であるシャッタ信号SSHが、
端子136を通じて制御ユニット133に供給される。
【0131】制御ユニット133は、シャッタ信号SS
Hの前縁に応じて、図20のCに示される如くの受光期
間信号SEをタイミング信号発生部131に供給する。
このときタイミング信号発生部131は、図20のC及
びDに示される如く、受光期間信号SEの前縁により内
部フレーム同期信号SFOの形成にリセットをかけて、
内部フレーム同期信号SFOをフレーム同期信号SFと
非同期なものとするとともに、タイミング信号SXOの
形成を中断し、また、受光期間信号SEの前縁に応じた
電荷読出タイミング信号TG及び電荷排出タイミング信
号TDを送出する。
【0132】そして、駆動信号形成部130から、図2
0のF及びGに示される如くに、受光期間信号SEの前
縁に応じた読出ゲート制御信号SG及び掃出し転送駆動
信号SSが、固体撮像部111の受光・電荷転送部へと
送出される。それにより、固体撮像部111の受光・電
荷転送部において、各電荷読出ゲート部118が、読出
ゲート制御信号SGに応じて開状態をとり、各受光素子
部116における電荷を各垂直電荷転送部117へ読み
出す電荷読出しを行うとともに、各垂直電荷転送部11
7が、掃出し転送駆動信号SSに応じて、開状態をとる
電荷読出ゲート部118を通じて読み出された電荷を、
半導体基体115における水平電荷転送部123とは反
対側に設けられた電荷吸収部126へと転送する電荷掃
出し動作を行う。電荷掃出しにより転送された電荷は電
荷吸収部126において吸収される。このような電荷掃
出し動作が行われる電荷掃出期間は、例えば、27ライ
ン期間程度とされる。
【0133】そして、受光期間信号SEの前縁におい
て、電荷掃出期間を含む固体撮像部111の受光・電荷
転送部についての受光期間が開始され、図20のJに示
される如くに、SF同期モードから自走モードに移行す
ることになる。受光期間にあっては、図20のDに示さ
れる如く、受光期間信号SEの前縁においてリセットさ
れ、フレーム同期信号SFと非同期なものとされた内部
フレーム同期信号SFOが得られるが、タイミング信号
SXOは得られない。それにより、受光期間において
は、読出ゲート制御信号SGも受光期間信号SEの前縁
に応じて得られた以降においては得られず、電荷掃出期
間の始めの短期間を除いて電荷読出ゲート部118が閉
状態に維持されて、多数の受光素子部116に受光によ
る電荷の蓄積が図20のIに示される如くになされる。
【0134】図21は、制御ユニット133に供給され
るシャッタ信号SSHと内部ライン同期信号SHO、受
光期間信号SE、読出ゲート制御信号SG及び掃出し転
送駆動信号SSとの詳細なタイミング関係を拡大して示
す。図21に示されるタイミング関係にあっては、時点
taにおいてシャッタ信号SSHの前縁が到来すると、
その後の最初の内部ライン同期信号SHOの前縁の時点
において、受光期間信号SEの前縁が得られる。そし
て、受光期間信号SEの前縁の時点において、読出ゲー
ト制御信号SGの前縁及び掃出し転送駆動信号SSの前
縁が得られ、SF同期モードから自走モードに移行す
る。すなわち、受光期間信号SEの前縁はシャッタ信号
SSHの前縁より僅か(最大で略1ライン期間)に遅れ
ることになる。
【0135】その後、図20に示される如く、時点tb
において、制御ユニット133からタイミング信号発生
部131に供給される受光期間信号SEの後縁が到来す
ると、タイミング信号発生部131においては、図20
のD及びEに示される如く、受光期間信号SEの後縁に
応じて内部フレーム同期信号SFOが得られるととも
に、その内部フレーム同期信号SFOの前縁応じてタイ
ミング信号SXOが得られる。受光期間信号SEの後縁
の時点tbは、制御ユニット133により、それに供給
されるシャッタ速度指定信号SSVが指定するシャッタ
速度に応じて設定される。そして、タイミング信号発生
部131は、タイミング信号SXOに応じて、電荷読出
タイミング信号TG及び信号電荷転送タイミング信号T
Tを送出する。それにより、駆動信号形成部130か
ら、図20のF及びHに示される如く、受光期間信号S
Eの後縁に応じた前縁を有する読出ゲート制御信号SG
及び受光期間信号SEの後縁に応じた前縁を有する信号
電荷転送駆動信号STが、固体撮像部111の受光・電
荷転送部に送出されて受光期間が終了する。
【0136】それにより、固体撮像部111の受光・電
荷転送部において、各電荷読出ゲート部118が、読出
ゲート制御信号SGに応じて開状態をとり、図20のI
に示される如くに、多数の受光素子部116における電
荷を各垂直電荷転送部117へ読み出す電荷読出しを行
うとともに、各垂直電荷転送部117が、信号電荷転送
駆動信号STに応じて、開状態をとる電荷読出ゲート部
118を通じて読み出された電荷を、信号電荷として半
導体基体115における水平電荷転送部123へと転送
する電荷転送動作が行われる。そして、さらに、水平電
荷転送部123が、信号電荷転送駆動信号STに応じ
て、各垂直電荷転送部117により転送された電荷を、
信号電荷として出力部124へと転送する電荷転送動作
が行われる。出力部124に転送された電荷は出力部1
24において撮像出力信号IPに変換され、撮像出力信
号IPが出力端子125に導出される。
【0137】このような各垂直電荷転送部117及び水
平電荷転送部123による電荷転送動作が行われる電荷
転送期間は、その後にタイミング信号発生部31におい
て、図20のD及びEに示される如く、内部フレーム同
期信号SFOが得られ、その内部フレーム同期信号SF
Oの前縁に応じてタイミング信号SXOが得られる時点
tcにおいて、信号電荷転送駆動信号STの後縁が到来
して終了する。そして、タイミング信号発生部131
は、タイミング信号SXOに応じて、電荷読出タイミン
グ信号TG及び信号電荷転送タイミング信号TTを送出
し、それにより、駆動信号形成部130から、図20の
F及びGに示される如く、信号電荷転送駆動信号STの
後縁に応じた前縁を有する読出ゲート制御信号SG及び
信号電荷転送駆動信号STの後縁に応じた前縁を有する
掃出し転送駆動信号SSが、固体撮像部111の受光・
電荷転送部に送出されて電荷掃出し動作が行われる。
【0138】その後、時点tdにおいて、図20のDに
示される如くに、タイミング信号発生部131において
得られる内部フレーム同期信号SFOが、再び、フレー
ム同期信号SFとの間に一定の位相差を有するものとさ
れて、図20のJに示される如くに、自走モードからS
F同期モードに戻ることになる。
【0139】このように、非同期ノーマル受光モードの
もとでの静止画撮像動作が行われる場合には、シャッタ
操作が行われると、そのシャッタ操作の時点から最大で
略1ライン期間とされる僅かに遅れた時点において、固
体撮像部111の受光・電荷転送部についての受光期間
が開始され、その開始から電荷掃出し動作が終了する、
例えば、27ライン期間後には、受光・電荷転送部にお
ける多数の受光素子部116に有効な電荷蓄積が行われ
る受光状態が得られることになる。従って、シャッタ操
作がなされた際における受光応答動作の迅速性が大幅に
改善される。
【0140】次に、非同期シャッタ待受光モードについ
て説明する。動作モード指定信号SMが指定する動作モ
ードが非同期シャッタ待受光モードであるときに、制御
ユニット133は、非同期シャッタ待モード設定信号S
WSをタイミング信号発生部131に供給する。タイミ
ング信号発生部131は、非同期シャッタ待モード設定
信号SWSに応じて、図22における時点te前の期間
において見られる如くに、図22のAに示される同期信
号発生部132からのフレーム同期信号SFとの間に一
定の位相差を有した図22のDに示される内部フレーム
同期信号SFOが得られているもとで、時点te以降、
タイミング信号SXOの形成を停止するとともに、時点
te後の最初の内部フレーム同期信号SFOの前縁に応
じて、電荷読出タイミング信号TG及び電荷掃出し転送
タイミング信号TSの継続的送出を開始する。それによ
り、図22のBに示される如く、時点teにおいて、ノ
ーマル受光状態からシャッタ待状態への移行が行われ
る。
【0141】タイミング信号発生部131からの電荷読
出タイミング信号TG及び電荷掃出し転送タイミング信
号TSの継続的送出の開始により、駆動信号形成部13
0から、図22のG及びHに示される如く、時点te後
の最初の内部フレーム同期信号SFOの前縁に応じて、
読出ゲート制御信号SG及び掃出し転送駆動信号SSが
継続的に固体撮像部111の受光・電荷転送部に送出さ
れる状態とされる。それにより、固体撮像部111の受
光・電荷転送部において、各電荷読出ゲート部118
が、読出ゲート制御信号SGに応じて継続的に開状態を
とり、各受光素子部116における電荷を各垂直電荷転
送部117へ読み出す電荷読出しを継続的に行うととも
に、各垂直電荷転送部117が、掃出し転送駆動信号S
Sに応じて、継続的に開状態をとる電荷読出ゲート部1
18を通じて読み出された電荷を、半導体基体115に
おける水平電荷転送部123とは反対側に設けられた電
荷吸収部126へと継続的に転送する電荷掃出し動作を
行う。電荷掃出しにより転送された電荷は電荷吸収部1
26において吸収される。このような継続的な電荷掃出
し動作が行われる電荷掃出期間においては、図22のJ
に示される如く、固体撮像部111の受光・電荷転送部
における電荷の蓄積はなされない。
【0142】そして、固体撮像部111の受光・電荷転
送部において電荷掃出し動作が継続的に行われているも
とで、図22における時点tfにおいてシャッタ操作が
行われると、図22のCに示される如くのシャッタ信号
SSHが端子136を通じて制御ユニット133に供給
される。制御ユニット133は、シャッタ信号SSHの
前縁に応じて、図22のFに示される如くの受光期間信
号SEをタイミング信号発生部131に供給する。この
ときタイミング信号発生部131は、図22のD及びE
に示される如く、受光期間信号SEの前縁により内部フ
レーム同期信号SFOの形成にリセットをかけて、内部
フレーム同期信号SFOをフレーム同期信号SFと非同
期なものとするとともに、タイミング信号SXOの形成
を中断し、また、電荷読出タイミング信号TG及び電荷
掃出し転送タイミング信号TSの継続的送出を終了す
る。
【0143】それにより、駆動信号形成部130が、図
22のG及びHに示される如く、受光期間信号SEの前
縁に応じて読出ゲート制御信号SG及び掃出し転送駆動
信号SSの継続的送出を停止する。そして、図22のF
に示される如く、受光期間信号SEの前縁において、電
荷掃出期間を含むことなく、固体撮像部111の受光・
電荷転送部についての受光期間が開始され、図22のB
に示される如くに、シャッタ待状態からノーマル受光状
態への移行が行われる。
【0144】受光期間にあっては、図22のDに示され
る如く、受光期間信号SEの前縁においてリセットさ
れ、フレーム同期信号SFと非同期なものとされた内部
フレーム同期信号SFOが得られるが、タイミング信号
SXOは得られない。それにより、受光期間において
は、読出ゲート制御信号SGも得られず、電荷読出ゲー
ト部118が閉状態に維持されて、多数の受光素子部1
16に受光による電荷の蓄積が図22のJに示される如
くになされる。
【0145】その後、時点tgにおいて制御ユニット1
33からタイミング信号発生部131に供給される受光
期間信号SEの後縁が到来すると、タイミング信号発生
部131においては、図22のD及びEに示される如
く、受光期間信号SEの後縁に応じて内部フレーム同期
信号SFOが得られるとともに、その内部フレーム同期
信号SFOの前縁応じてタイミング信号SXOが得られ
る。受光期間信号SEの後縁の時点tfは、制御ユニッ
ト133により、それに供給されるシャッタ速度指定信
号SSVが指定するシャッタ速度に応じて設定される。
そして、タイミング信号発生部131は、タイミング信
号SXOに応じて、電荷読出タイミング信号TG及び信
号電荷転送タイミング信号TTを送出する。それによ
り、駆動信号形成部130から、図22のG及びIに示
される如く、受光期間信号SEの後縁に応じた前縁を有
する読出ゲート制御信号SG及び受光期間信号SEの後
縁に応じた前縁を有する信号電荷転送駆動信号STが、
固体撮像部111の受光・電荷転送部に送出されて受光
期間が終了する。
【0146】それにより、固体撮像部111の受光・電
荷転送部において、各電荷読出ゲート部118が、読出
ゲート制御信号SGに応じて開状態をとり、図22のJ
に示される如くに、多数の受光素子部116における電
荷を各垂直電荷転送部117へ読み出す電荷読出しを行
うとともに、各垂直電荷転送部117が、信号電荷転送
駆動信号STに応じて、開状態をとる電荷読出ゲート部
118を通じて読み出された電荷を、信号電荷として半
導体基体115における水平電荷転送部123へと転送
する電荷転送動作が行われる。そして、さらに、水平電
荷転送部123が、信号電荷転送駆動信号STに応じ
て、各垂直電荷転送部117により転送された電荷を、
信号電荷として出力部124へと転送する電荷転送動作
が行われる。出力部124に転送された電荷は出力部1
24において撮像出力信号IPに変換され、撮像出力信
号IPが出力端子125に導出される。
【0147】このような各垂直電荷転送部117及び水
平電荷転送部123による電荷転送動作が行われる電荷
転送期間は、その後にタイミング信号発生部131にお
いて、図22のD及びEに示される如く、内部フレーム
同期信号SFOが得られ、その内部フレーム同期信号S
FOの前縁に応じてタイミング信号SXOが得られる時
点thにおいて、信号電荷転送駆動信号STの後縁が到
来して終了する。そして、タイミング信号発生部131
は、タイミング信号SXOに応じて、電荷読出タイミン
グ信号TG及び電荷掃出し転送タイミング信号TSを送
出し、それにより、駆動信号形成部130から、図22
のG及びHに示される如く、信号電荷転送駆動信号ST
の後縁に応じた前縁を有する読出ゲート制御信号SG及
び信号電荷転送駆動信号STの後縁に応じた前縁を有す
る掃出し電荷転送駆動信号SSが、固体撮像部111の
受光・電荷転送部に送出されて電荷掃出し動作が行われ
る。
【0148】その後、時点tiにおいて、制御ユニット
133からタイミング信号発生部31に同期復帰指令信
号SRが送出され、それにより、図22のDに示される
如くに、タイミング信号発生部131において得られる
内部フレーム同期信号SFOが、再び、フレーム同期信
号SFとの間に一定の位相差を有するものとされて、S
F同期が復活される。
【0149】このように、非同期シャッタ待受光モード
のもとでの静止画撮像動作が行われる場合には、予めシ
ャッタ待状態がとられて固体撮像部111の受光・電荷
転送部において電荷掃出し動作が継続的に行われている
もとで、シャッタ操作が行われると、そのシャッタ操作
の時点まで行われていた継続的な電荷掃出し動作が終了
せしめられて、ただちに、固体撮像部111の受光・電
荷転送部についての受光期間が開始され、受光・電荷転
送部における多数の受光素子部116に有効な電荷蓄積
が行われる受光状態が得られることになる。従って、シ
ャッタ操作がなされた際において、極めて迅速な受光応
答動作が行われることになる。
【0150】次に、多重露光モードについて説明する。
動作モード指定信号SMが指定する動作モードが多重露
光モードであるときに、制御ユニット133は、多重露
光モード設定信号SMMをタイミング信号発生部131
に供給する。タイミング信号発生部131は、多重露光
モード設定信号SMMに応じて、図23のAに示される
同期信号発生部132からのフレーム同期信号SFに対
して内部フレーム同期信号SFOを発生するとともに、
図23のCに示される如く、内部フレーム同期信号SF
Oについての3周期分を単位期間として、各単位期間内
においてその開始時点から所定数、例えば、7個のタイ
ミング信号SXOを一定の周期をもって発生する。
【0151】また、タイミング信号発生部131は、内
部フレーム同期信号SFOについての3周期分の各単位
期間において、所定数のタイミング信号SXOのそれぞ
れの前縁に応じた電荷読出タイミング信号TGを送出す
るとともに、所定数のタイミング信号SXOの最後のも
のの後縁の時点から単位期間の終了時点までの期間にお
いて、電荷排出タイミング信号TDを継続的に送出し、
さらに、内部フレーム同期信号SFOについての3周期
分の各単位期間中における最終の内部フレーム同期信号
SFOについての1周期分の期間に、信号電荷転送タイ
ミング信号TTを送出する。
【0152】それにより、駆動信号形成部130が、電
荷読出タイミング信号TGに応じて、図23のDに示さ
れる如くの、内部フレーム同期信号SFOについての3
周期分とされる各単位期間内における所定数、例えば、
7個の読出ゲート制御信号SGを、固体撮像部111の
受光・電荷転送部に送出するとともに、電荷排出タイミ
ング信号TDに応じて、図23のEに示される如くの、
内部フレーム同期信号SFOについての3周期分とされ
る各単位期間内における所定数の読出ゲート制御信号S
Gの最後のものの後縁の時点から単位期間の終了時点ま
での期間中継続するオーバーフローゲート制御信号SD
を固体撮像部111の受光・電荷転送部に送出する。さ
らに、駆動信号形成部130は、信号電荷転送タイミン
グ信号TTに応じて、図23のGに示される如く、内部
フレーム同期信号SFOについての3周期分とされる各
単位期間中における最終の内部フレーム同期信号SFO
についての1周期分の期間に、信号電荷転送駆動信号S
Tを固体撮像部111の受光・電荷転送部に送出する。
【0153】その結果、固体撮像部111の受光・電荷
転送部において、内部フレーム同期信号SFOについて
の3周期分とされる各単位期間中において、所定数、例
えば、7個の読出ゲート制御信号SGの相互間が受光・
電荷転送部についての分断受光期間とされることにな
り、図23のFに示される如くに、分断受光期間それぞ
れにおいて、受光・電荷転送部における多数の受光素子
部116に受光による電荷の蓄積がなされる。そして、
各分断受光期間により得られた電荷は、その期間に続く
期間に読出ゲート制御信号SGが供給されて開状態とさ
れる各電荷読出ゲート部18により各垂直電荷転送部1
17へと順次読み出される。
【0154】このようにして、内部フレーム同期信号S
FOについての3周期分とされる各単位期間中に、受光
・電荷転送部における多数の受光素子部116から各電
荷読出ゲート部118を通じて各垂直電荷転送部117
に断続的に読み出される電荷は、各単位期間中における
最終の内部フレーム同期信号SFOについての1周期分
の期間が到来するまでは、各垂直電荷転送部117にお
いて重畳蓄積される。それにより、実質的に、内部フレ
ーム同期信号SFOについての3周期分とされる各単位
期間中において、受光・電荷転送部における多数の受光
素子部116に対しての多重露光が行われることにな
る。
【0155】そして、各単位期間中における最終の内部
フレーム同期信号SFOについての1周期分の期間が到
来すると、各垂直電荷転送部117において重畳蓄積さ
れた電荷は、固体撮像部111の受光・電荷転送部に信
号電荷転送駆動信号STが供給されることにより、信号
電荷として各垂直電荷転送部117から水平電荷転送部
123へ、さらに、水平電荷転送部123から出力部1
24へと転送される。そして、出力部124に転送され
た電荷は、出力部124において撮像出力信号IPに変
換され、出力端子125に撮像出力信号IPが導出され
る。
【0156】このように各垂直電荷転送部117におい
て重畳蓄積された電荷が信号電荷として転送される期間
において、固体撮像部111の受光・電荷転送部におけ
る多数の受光素子部116に受光によって得られる電荷
は、そのとき受光・電荷転送部に設けられたオーバーフ
ローゲート電極EDにオーバーフローゲート制御信号S
Dが継続的に供給されることにより開状態とされるオー
バーフロー制御部120を通じて、ドレイン部121に
排出される。従って、各単位期間中における受光・電荷
転送部についての分断受光期間の開始時にあっては、受
光・電荷転送部における多数の受光素子部116に、そ
の分断受光期間に先立つ受光による不要な電荷が蓄積さ
れていることになる事態は生じない。
【0157】このようにして、多重露光モードのもとで
の静止画撮像動作が行われる場合には、比較的簡単な構
成及び動作制御にもとに、実質的に、内部フレーム同期
信号SFOについての3周期分とされる各単位期間中に
おいて、受光・電荷転送部における多数の受光素子部1
16に対しての多重露光が行われて得られる信号電荷に
基づく撮像出力信号IPが得られることになる。
【0158】このような先行関連技術に基づく多重露光
撮影及び非同期シャッタを本発明に適用した場合につい
て考える。
【0159】多重露光撮影された画像には、多重露光の
回数(N)に応じた枚数の画像が重ねて表示されている
ことになる。例えばN=2の多重露光撮影が為された画
像の場合、図24に示すような画像201と画像202
として示す2枚分の画像が1枚の画像203の中に重ね
て表示された画像となる。
【0160】この場合、画像203の中には、時間経過
とともに位置が変化していく複数の識別子が表示されて
いる。ここでは多重露光の回数がN=2である場合につ
いて考えているため、時系列で考えて、2倍精密な照準
点の位置検出が可能となる。1つの画像に表示される複
数の識別子間の時間的な前後関係は、記憶した過去の照
準点の位置変化が連続になっていることを手掛かりとし
て類推される。
【0161】ここでは、ベクトル演算処理に対応した多
重露光機能を持ったTG(Timing Generator)を使用す
ることにより、N=2の多重露光撮影を行えば、従来と
同等のサンプリングレートが期待できる。さらに、N=
4とすれば、従来の倍のサンプリングレートが期待で
き、より細かなタイミングで位置検出が実現できる。ま
た、このときの画像の転送レートは、サンプリングレー
トのN分の1で良いため、本発明に係る位置検出システ
ムに適用した場合、転送レートを稼ぐことが可能とな
り、より効率の良い位置検出システムが構築できる。
【0162】例えば、USBVer.1.1に準拠した
高速モード12MHzで転送しても、OVGA16bi
tの色数で30fpsの画像を転送するのが限界だった
が、これをN=4で多重露光することにより、例えば図
16に示すステップS25における連続した類似ベクト
ルをまとめることによって物体を抽出する工程までは3
0fpsの時と変わらないCPUパワーで120fps
に相当するサンプリングレートによって、より高精度な
位置検出を実現することができる。
【0163】次に、非同期シャッタにより任意のタイミ
ングで撮像する場合について考える。図25(A)は、
従来の固定されたタイミングにより撮像する場合を示
し、図25(B)は、本発明が適用されたゲーム装置が
任意のタイミングで撮像する場合を示している。
【0164】従来では、図25(A)に示すように、前
の画像210と後の画像211とは1/30秒間隔で固
定のタイミングにより撮像され、最初の撮像から1/3
0秒までの間の任意のタイミングでの撮像することは不
可能であった。
【0165】本発明にかかる位置検出システムに、図2
0及び図22を用いて説明した非同期による撮像技術を
利用することにより、図25(B)に示すように、画像
212を任意のタイミングで得ることができる。
【0166】なお、任意のタイミングにより得た画像の
直前の画像(本来の固定のタイミングにより撮像された
画像)213は、掃き捨てられるため読めない。しか
し、任意のタイミングにより得た画像212の後の画像
214は、通常の撮像タイミングとして、1/30秒の
CCDの読み取りタイミングに合わせて読み取られる。
【0167】従来の撮像装置を使用した場合、1/30
秒等のCCDの読み出しタイミングで得た画像からしか
特徴点の位置検出ができなかった。また、上述したよう
に、多重露光撮影により撮像した場合でも、1/30秒
等のCCDの読み出しタイミングをN=4程度までの小
さな整数で時分割したタイミングで得た画像からしか位
置検出ができなかった。一方、本発明にかかる位置検出
システムは、任意のタイミングで画像を撮像し、任意の
タイミングで特徴点の位置を測定できるため、補間によ
り特徴点の位置を類推する場合に比べ、より高精度の動
き検出が可能となる。
【0168】このように本発明に係る位置検出システム
は、多重露光撮影及び非同期シャッタによる撮影を適用
することによって、さらに、第4の実施の形態及び第5
の実施の形態として以下に示す位置検出を可能とする。
【0169】本発明の第4の実施の形態として示す位置
検出システム4は、表示装置に識別子を表示し、この識
別子を含む表示画像を操作入力装置としての撮像装置で
撮影し、撮影した画像を解析手段において解析すること
によって、表示装置と撮像装置との位置関係、並びに撮
像装置の表示装置に対する向き等を非接触により検出す
る位置検出システムであって、例えば表示装置に表示さ
れる画像の所定位置或いは所定の画像に対して、操作入
力装置としての撮像装置を対向して選択動作を行うこと
で操作入力を行うことを可能としたことに加え、多重露
光撮影によって選択動作を連続して行うことを可能にし
たユーザインターフェイスである。
【0170】位置検出システム4は、図26に示すよう
に、表示部73とスピーカ74とを有したゲーム筐体7
0と、銃を模した銃型撮像装置71と、盾を模した盾型
撮像装置72とを備える。
【0171】表示部73には、ゲームの内容であるアニ
メーション画像等が出力され、スピーカ74からは、表
示部73に表示される画像に合わせて、効果音や音楽等
が再生される。図26に示す位置検出システム4におい
て、表示部73には、詳細は図示しないが背景画像と、
識別子75と、照準点76と、照準点77とが表示され
ている。
【0172】このように、当該位置検出システム4は、
例えば、ユーザ1000が銃を模した操作入力装置とし
ての銃型撮像装置71を用いて表示部73に表示される
射撃対象に向かって照準点76を定めて射撃をし、かつ
盾を模した操作入力装置としての盾型撮像装置72を用
いて盾としての照準点77を定めて飛来物を防御するよ
うなゲーム装置を構成している。
【0173】銃型撮像装置71は、撮像素子としてCC
D(Charge Coupled Device)を備えた撮像カメラであ
り、ユーザ1000によってゲーム筐体70の表示部7
3に対向されるとき、表示部73に表示される画像を含
めた周辺の環境を撮像し、この撮像範囲78の画像をゲ
ーム筐体70に送信している。このとき、銃型撮像装置
71が捕らえた撮像範囲78の中心が照準点76として
表示部73上の対応箇所に表示される。
【0174】また、盾型撮像装置72は、同じくCCD
を備えた撮像カメラであり、ユーザによって表示部73
に対向されるとき、表示部73に表示される画像を含め
た周辺の環境を撮像し、この撮像範囲79の画像をゲー
ム筐体70に送信している。このとき撮像範囲79の中
心の所定領域が照準点77として表示部73の対応箇所
に表示される。
【0175】位置検出システム4は、第1の実施の形態
の位置検出システム1と同様の処理を行うことから、具
体的な回路構成は、第1の実施の形態の位置検出システ
ム1と共通の構成要素とすることができるため詳細な説
明は省略する。
【0176】なお、当然のことながら、第1の実施の形
態の位置検出システム1と共通の構成部分であっても、
第4の実施の形態の位置検出システム4に適応するよう
に適宜変更を加えることができることはいうまでもな
い。
【0177】照準点を表示する処理は、上述した位置検
出システム1乃至3と同じであるため省略する。
【0178】また、本発明の第5の実施の形態として示
す位置検出システム5は、表示装置に識別子を表示し、
この識別子を含む表示画像を操作入力装置としての撮像
装置で撮影し、撮影した画像を解析手段において解析す
ることによって、表示装置と撮像装置との位置関係、並
びに撮像装置の表示装置に対する向き等を非接触により
検出する位置検出システムであって、例えば表示装置に
表示される画像の所定位置或いは所定の画像に対して操
作入力装置としての撮像装置を対向し、非同期シャッタ
を用いた位置検出動作によって操作入力を行うことを可
能としたユーザインターフェイスである。
【0179】位置検出システム5は、図27に示すよう
に、表示部82とスピーカ83とを有したゲーム筐体8
0と、ラケットを模したラケット型撮像装置81と、接
触センサ84とを備えている。
【0180】表示部82には、ゲームの内容であるアニ
メーション画像等が出力され、スピーカ83からは、表
示部82に表示される画像に合わせて、効果音や音楽等
が再生される。図27に示す位置検出システム5におい
て、表示部82には、詳細は図示しないが背景画像と、
識別子85と、球86とが表示されている。
【0181】このように、当該位置検出システム5は、
例えば、ユーザ1000がラケットを模した操作入力装
置としてのラケット型撮像装置81を用いて、実際に球
を打ち返す動作を行って、表示部82に表示される球8
6をプレーヤに対して打ち返すようなゲーム装置を構成
している。
【0182】位置検出システム5は、第1の実施の形態
の位置検出システム1と同様の処理を行うことから、具
体的な回路構成は、第1の実施の形態の位置検出システ
ム1と共通の構成要素とすることができるため詳細な説
明は省略する。
【0183】ユーザは、表示部82に3次元の深さをも
って表示される球にあわせて卓球のラケットに模したラ
ケット型撮像装置81を構え、表示される球を打ち返す
動作を行う。このとき撮像範囲87の画像が撮像され
て、ゲーム筐体80へと転送される。
【0184】ゲーム筐体80に備えられたゲーム制御部
は、表示装置に3次元の深さを持って表示される球86
がユーザの元に達するのに相当するタイミングでラケッ
ト型撮像装置81の位置と向きとを検出することによ
り、実際に検出された位置と角度から球が打ち出される
ような打球の軌道を計算して、その軌道に合わせて球8
6が打ち出されていくように表示する。
【0185】また、例えばユーザは、スマッシュの際に
接触センサ84を強く踏む。このとき接触センサ84が
踏まれたタイミングをトリガとして、非同期シャッタに
よる位置検出を行う。
【0186】したがって、このような位置検出システム
5は、高速な動きでありながら、ラケット型撮像装置8
1の向きと角度とを正確に検出することが可能となる。
位置検出システム5は、卓球のスマッシュのみならず、
テニスのスマッシュ、ゴルフのショット、野球のバッテ
ィング、ダンスのステップ等の同様の動きに対して適用
可能である。
【0187】なお、当然のことながら、第1の実施の形
態の位置検出システム1と共通の構成部分であっても、
第5の実施の形態の位置検出システム5に適応するよう
に適宜変更を加えることができることはいうまでもな
い。
【0188】従来のようなブラウン管の走査線を受光素
子で検知する方法では、位置検出の都度、画面をフラッ
シュする必要があったため、常に位置を検出し、ポイン
タを表示し続けようとするような使用には適していなか
ったが、上述した多重露光撮影を駆使することによっ
て、位置検出システム4及び位置検出システム5に示す
ような従来の位置検出システムを上回るサンプリングレ
ートでの位置検出を実現することができる。
【0189】したがって、このような動き検出動作は、
動き検出の判定誤差範囲を人間(ユーザ)の感覚誤差の
範囲内に納めることが可能であるため、ユーザにとっ
て、照準点77があたかもポインタのように常時表示さ
れているかのようにすることが可能である。また、非同
期シャッタでの撮影により、高速の動きに対しても正確
な位置検出を可能とし、ユーザにとって違和感のない快
適な操作入力を実現する。
【0190】以上、第1の実施の形態乃至第5の実施の
形態として示した位置検出システムによれば、ゲームプ
レーヤ(ユーザ)の動きやゲーム世界での動作に類似し
た動作を入力情報として使用して、例えばゲームのよう
な仮想世界に現実世界の動作を反映させることを可能と
し、より高精度でリアルタイム制を向上した動き検出が
可能になる。
【0191】また、以上のような位置検出装置は、一般
家庭で導入され始めたプロジェクタ、液晶テレビ、VGA
モニタ等にも対応可能であって、NTSC、PALといった走
査線の仕様に影響されることがない。
【0192】なお、位置検出システム1乃至5におい
て、識別子は、通常表示されないようにすることもでき
る。すなわち、操作入力装置としての撮像装置からの入
力があった場合にのみ、例えば射撃ゲームであれば、銃
型コントローラのトリガが引かれた場合にのみ識別子が
表示されるようにすることも可能である。
【0193】この他にも、多重露光撮影時における各露
光タイミング、或いは非同期シャッタによる撮影時の各
シャッタタイミング等を識別子を表示するタイミングと
して用いることができる。
【0194】なお、位置検出システム1乃至5におい
て、ゲーム処理部はクロマキー処理を施すことによって
特徴点の抽出をより高性能にすることができる。クロマ
キー処理は、画像処理部で行われるようにしてもよい。
【0195】なお、本発明は上述した実施の形態のみに
限定されるものではなく、本発明の要旨を逸脱しない範
囲において種々の変更が可能であることは勿論である。
【0196】
【発明の効果】以上詳細に説明したように、本発明に係
る位置検出装置及び位置検出方法は、は、複数の識別子
を表示して、結像部を介して識別子を撮像して、撮像さ
れた識別子を含む画像を用いて撮像手段の表示手段に対
する位置を解析するものである。
【0197】したがって、以上のような位置検出装置及
び位置検出方法によれば、表示される画像等の仮想世界
での動作に類似した実際の動作を非接触により検出する
ことで仮想世界に現実世界の動作を反映させることを可
能とし、表示装置の種類に関わらず、より高精度でリア
ルタイム制を向上した動き検出を行うことが可能にな
る。
【0198】また、以上のような位置検出装置及び位置
検出方法は、表示装置の種類によらず適用可能である。
そのため、一般家庭で導入され始めたプロジェクタ、液
晶テレビ、VGAモニタ等にも対応可能であって、NTSC、P
ALといった走査線の仕様に影響されることがない。した
がって、導入の際のコストが低減され、ユーザに対する
利便性が向上する。
【0199】本発明に係るエンターテインメント装置
は、複数の識別子を表示する制御を行う表示制御手段
と、結像部を介して上記識別子を撮像する撮像手段と、
撮像された識別子を用いて上記撮像手段の上記複数の識
別子を表示する表示手段に対する位置を解析する解析手
段と、解析手段で解析された位置情報を制御情報に変換
してプログラムを制御する制御手段とを備える。
【0200】したがって、以上のようなエンターテイン
メント装置によれば、ゲームプレーヤ(ユーザ)の動き
やゲーム世界のような仮想世界での動作に類似した実際
の動作を非接触により検出することで仮想世界に現実世
界の動作を反映させることを可能とし、表示装置の種類
に関わらず、より高精度でリアルタイム制を向上した動
き検出を行うことが可能になる。さらに、検出した位置
情報を制御情報に変換してプログラムの制御を行うこと
を可能になる。
【0201】また、以上のようなエンターテインメント
装置は、表示装置の種類によらず適用可能である。その
ため、一般家庭で導入され始めたプロジェクタ、液晶テ
レビ、VGAモニタ等にも対応可能であって、NTSC、PALと
いった走査線の仕様に影響されることがない。したがっ
て、導入の際のコストが低減され、ユーザに対する利便
性が向上する。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態として示す位置検出
システムの構成の概略を示す概略図である。
【図2】本発明の第1の実施の形態として示す位置検出
システムの構成を示すブロック図である。
【図3】本発明の第1の実施の形態として示す位置検出
システムがキャリブレーションを行う際の概略を示した
概略図である。
【図4】本発明の第1の実施の形態として示す位置検出
システムがキャリブレーションを行う際の概略を示した
概略図である。
【図5】本発明の第1の実施の形態として示す位置検出
システムにおけるコントロール型撮像装置が画像を取り
込む処理を示すフローチャートである。
【図6】本発明の第1の実施の形態として示す位置検出
システムにおけるゲーム制御部が照準点の位置を検出す
る処理を示すフローチャートである。
【図7】識別子の位置を予測する際の概念を示した模式
図である。
【図8】本発明の第2の実施の形態として示す位置検出
システムの構成の概略を示す概略図である。
【図9】本発明の第2の実施の形態として示す位置検出
システムの構成を示すブロック図である。
【図10】本発明の第2の実施の形態として示す位置検
出システムにおけるコントロール型撮像装置が画像を取
り込む処理を示すフローチャートである。
【図11】本発明の第2の実施の形態として示す位置検
出システムにおけるゲーム制御部が照準点の位置を検出
する処理を示すフローチャートである。
【図12】本発明の第2の実施の形態として示す位置検
出システムにおける画像制御部が行う処理を示すフロー
チャートである。
【図13】本発明の第3の実施の形態として示す位置検
出システムの構成を示すブロック図である。
【図14】ベクトル場の概念を示す概念図である。
【図15】濃度変化から動きベクトルを算出する手順を
説明するために使用した特性図である。
【図16】本発明の第3の実施の形態として示す位置検
出システムにおけるゲーム制御部が照準点の位置を検出
する処理を示すフローチャートである。
【図17】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の構成を示すブロック図である。
【図18】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の固体撮像部における受光・電荷転送部
を説明する説明図である。
【図19】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の固体撮像部における受光・電荷転送部
の一部を示した図である。
【図20】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の動作を説明するタイムチャートであ
る。
【図21】図20に示したタイムチャートの一部を拡大
して示すタイムチャートの拡大図である。
【図22】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の動作を説明するタイムチャートであ
る。
【図23】非同期シャッタによる撮影及び多重露光撮影
を行う撮像装置の動作を説明するタイムチャートであ
る。
【図24】N=2の多重露光撮影が為された画像を示す
模式図である。
【図25】非同期シャッタにより任意のタイミングで撮
像する場合の撮像タイミングを説明する図である。
【図26】本発明の第4の実施の形態として示す位置検
出システムの構成の概略を示す概略図である。
【図27】本発明の第5の実施の形態として示す位置検
出システムの構成の概略を示す概略図である。
【符号の説明】
1,2,3,4,5 位置検出システム、10,70,
80 ゲーム筐体、11,60 コントローラ型撮像装
置、12,73,82 表示部、13,74,83 ス
ピーカ、14,75,85 識別子、15 標的、16
照準点、17,78,79 撮像範囲、20 レンズ
部、21 CCDイメージャ、22 S/H部、23
AGC部、24 A/D部、25 信号処理部、26
TG部、27 撮像駆動部、28 撮像制御部、29
SDRAM、30 メインメモリ、31 機械的I/
F、32 ゲーム制御部、33 表示制御部、34 R
OM、35 画像表示部、36 フレームメモリ、37
バス、40 モニタ、50ゲーム装置、51 I/F
部、52 モニタI/F部、53 ベクトル演算ユニッ
ト、61 I/F部、71 銃型撮像装置、72 盾型
撮像装置、76,77 照準点、81 ラケット型撮像
装置、84 接触センサ、86 球
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 7/18 H04N 7/18 P 5L096 // H01L 27/148 5/225 Z H04N 5/225 5/232 A 5/232 H01L 27/14 B Fターム(参考) 2C001 BA02 BC01 BC05 BC10 CA08 CB04 CC01 CC08 2F065 AA03 BB28 CC00 FF04 FF42 JJ03 JJ26 QQ03 QQ17 QQ21 QQ24 QQ28 QQ32 4M118 AA10 AB02 BA10 CA02 DB01 DB06 FA06 FA16 FA25 FA26 FA33 5C022 AA00 AB02 AB11 AB22 AB55 AC21 AC31 AC42 5C054 AA04 CA04 CC03 CE16 CH02 DA01 DA07 DA08 EA05 EC01 EC03 ED04 FA01 FC12 FC13 HA15 5L096 AA11 BA08 BA18 CA02 DA04 FA62 HA04 HA08 LA03 LA12

Claims (48)

    【特許請求の範囲】
  1. 【請求項1】 複数の識別子を表示する表示手段と、 結像部を介して上記識別子を撮像する撮像手段と、 上記撮像された識別子を用いて上記撮像手段の上記表示
    手段に対する位置を解析する解析手段とを備えることを
    特徴とする位置検出装置。
  2. 【請求項2】 複数の識別子を表示する制御を行う表示
    制御手段を有する第1の機器と、 上記第1の機器から信号が供給され、供給された信号に
    応じて結像部を介して複数の識別子を含む画像を撮像す
    る撮像手段を有する第2の機器とを備え、 上記第1の機器は、上記第2の機器から供給された撮像
    画像から複数の識別子を検出し、当該複数の識別子の相
    対位置の解析により、上記表示手段に対する上記撮像手
    段の位置を解析する解析手段を有することを特徴とする
    請求項1記載の位置検出装置。
  3. 【請求項3】 上記第1の機器は、上記第2の機器との
    間で無線通信を行うことを特徴とする請求項2記載の位
    置検出装置。
  4. 【請求項4】 複数の識別子を表示する制御を行う表示
    制御手段を有する第1の機器と、 上記第1の機器から信号が供給され、供給された信号に
    応じて結像部を介して複数の識別子を含む画像を撮像す
    る撮像手段を有する第2の機器とを備え、 上記第2の機器は、上記画像から複数の識別子を検出
    し、当該複数の識別子の相対位置の解析により、上記表
    示手段に対する上記撮像手段の位置を解析する解析手段
    を有することを特徴とする請求項1記載の位置検出装
    置。
  5. 【請求項5】 上記第1の機器は、上記第2の機器との
    間で無線通信を行うことを特徴とする請求項4記載の位
    置検出装置。
  6. 【請求項6】 動き検出を行うベクトル演算手段を備
    え、 上記解析手段は、上記ベクトル演算手段により動き検出
    を行うことを特徴とする請求項1記載の位置検出装置。
  7. 【請求項7】 上記撮像手段は、 受光により電荷を蓄積する複数の受光素子部、電荷を転
    送する電荷転送部、上記複数の受光素子部に蓄積された
    電荷を上記電荷転送部に読み出す電荷読出ゲート部、及
    び上記電荷転送部により伝送された電荷を撮像出力信号
    に変換する出力部を含む受光・電荷転送部を備えた固体
    撮像部と、 ライン同期信号及びフレーム同期信号を発生する同期信
    号発生部と、 上記フレーム同期信号と同位相もしくは上記フレーム同
    期信号との間に一定の位相差を有した第1の内部フレー
    ム同期信号及び上記フレーム同期信号とは非同期とされ
    る第2の内部フレーム同期信号を選択的に発生するとと
    もに、当該第1の内部フレーム同期信号もしくは第2の
    内部フレーム同期信号に同期した電荷読出タイミング信
    号及び電荷転送タイミング信号を送出するタイミング信
    号発生部と、 当該タイミング信号発生部から送出される電荷読出タイ
    ミング信号及び電荷転送タイミング信号にそれぞれ応じ
    たゲート駆動信号及び電荷転送駆動信号を形成して、当
    該ゲート駆動信号及び電荷転送駆動信号を上記固体撮像
    部における電荷読出ゲート部及び電荷転送部にそれぞれ
    供給する駆動信号形成部と、 受光指令信号が供給されるとともに、上記タイミング信
    号発生部についての動作制御を行う動作制御部とを備
    え、 上記動作制御部が、上記受光指令信号が供給されると
    き、当該受光指令信号に応じて上記タイミング信号発生
    部に所定の期間にわたって上記第2の内部フレーム同期
    信号を発生するとともに当該第2の内部フレーム同期信
    号に同期した電荷読出タイミング信号及び電荷転送タイ
    ミング信号を送出する状態を取らせ、それにより上記固
    体撮像部の受光・電荷転送部についての受光期間を上記
    第2の内部フレーム同期信号に応じて設定される期間と
    なされており、 上記解析手段は、上記撮像手段より得た撮像画像に基づ
    いて上記撮像手段の上記表示手段に対する位置を解析す
    ることを特徴とする請求項1記載の位置検出装置。
  8. 【請求項8】 上記タイミング信号発生部が、電荷転送
    タイミング信号として電荷掃出し転送タイミング信号と
    信号電荷転送タイミング信号とを送出し、駆動信号形成
    部が上記電荷掃出し転送タイミング信号に応じた掃出し
    転送駆動信号を固体撮像部における電荷転送部に供給し
    て、当該電荷転送部における電荷が掃き出される状態と
    なし、また、上記信号電荷転送タイミング信号に応じた
    信号電荷転送駆動信号を上記固体撮像部における電荷転
    送部に供給して、当該電荷転送部における電荷が信号電
    荷として出力部へと転送される状態となすことを特徴と
    する請求項7記載の位置検出装置。
  9. 【請求項9】 上記動作制御部が、受光指令信号が供給
    されるときに、まず、タイミング信号発生部に第2の内
    部フレーム同期信号に同期した電荷読出タイミング信号
    及び電荷掃出し転送タイミング信号を送出させて、固体
    撮像部における複数の受光素子部及び電荷転送部におけ
    る電荷が掃き出される状態となし、続いて、上記固体撮
    像部の受光・電荷転送部についての受光期間が経過した
    とき、上記タイミング信号発生部に第2の内部フレーム
    同期信号に同期した電荷読出タイミング信号及び信号電
    荷転タイミング信号を送出させて、上記固体撮像部にお
    ける複数の受光素子部に蓄積された電荷を信号電荷とし
    て上記電荷転送部を通じて出力部へと転送される状態と
    なすことを特徴とする請求項7記載の位置検出装置。
  10. 【請求項10】 上記動作制御部が、タイミング信号発
    生部に第2の内部フレーム同期信号に同期した時点から
    電荷読出タイミング信号及び電荷掃出し転送タイミング
    信号を継続的に送出する受光指令待状態を取らせて、固
    体撮像部における複数の受光素子部及び電荷転送部にお
    ける電荷が継続的に掃き出される状態となし、上記タイ
    ミング信号発生部が上記受光指令待状態にあるもとで受
    光指令信号が供給されるとき、上記タイミング信号発生
    部に上記電荷読出タイミング信号及び電荷掃出し転送タ
    イミング信号の送出を停止させて、上記固体撮像部の受
    光・電荷転送部についての受光期間を開始させ、当該受
    光期間が経過したとき、上記タイミング信号発生部に上
    記電荷読出タイミング信号及び信号電荷転送タイミング
    信号を送出させて、上記固体撮像部における複数の受光
    素子部における電荷が信号電荷として上記電荷転送部を
    通じて出力部へと転送される状態となすことを特徴とす
    る請求項7記載の位置検出装置。
  11. 【請求項11】 複数の識別子を表示する制御を行う表
    示制御手段は、上記撮像手段の撮像タイミングに同期し
    て上記識別子を表示することを特徴とする請求項7記載
    の位置検出装置。
  12. 【請求項12】 上記撮像タイミングは、上記受光指令
    信号が供給されるタイミングであることを特徴とする請
    求項11記載の位置検出装置。
  13. 【請求項13】 上記撮像手段は、非同期シャッタを備
    えること特徴とする請求項1記載の位置検出装置。
  14. 【請求項14】 複数の識別子を表示する制御を行う表
    示制御手段は、上記撮像手段の撮像タイミングに同期し
    て上記識別子を表示することを特徴とする請求項13記
    載の位置検出装置。
  15. 【請求項15】 上記撮像タイミングとは、非同期シャ
    ッタのシャッタタイミングであることを特徴とする請求
    項14記載の位置検出装置。
  16. 【請求項16】 上記識別子は、所定の色範囲で識別さ
    れる識別子であることを特徴とする請求項1記載の位置
    検出装置。
  17. 【請求項17】 上記識別子は、所定模様で識別される
    識別子であることを特徴とする請求項1記載の位置検出
    装置。
  18. 【請求項18】 上記識別子は、所定の輝度範囲で識別
    される識別子であることを特徴とする請求項1記載の位
    置検出装置。
  19. 【請求項19】 上記解析手段は、上記識別子を自動的
    に認識することを特徴とする請求項1記載の位置検出装
    置。
  20. 【請求項20】 上記解析手段は、予め決められている
    所定動作により検出される識別子の位置を基準として比
    較することで、上記撮像された識別子を認識することを
    特徴とする請求項19記載の位置検出装置。
  21. 【請求項21】 上記所定動作は、上記解析手段におい
    て制御される動作であることを特徴とする請求項20記
    載の位置検出装置。
  22. 【請求項22】 上記所定動作は、上記解析手段に同期
    した動作であることを特徴とする請求項20記載の位置
    検出装置。
  23. 【請求項23】 複数の識別子を表示する表示工程と、 結像部を介して上記識別子を撮像する撮像工程と、 上記撮像された識別子を用いて上記撮像工程において撮
    像した表示手段に対する撮像手段の位置を解析する解析
    工程とを備えることを特徴とする位置検出方法。
  24. 【請求項24】 第1の機器に複数の識別子を表示する
    表示工程と、 上記第1の機器から第2の機器に信号が供給され、供給
    された信号に応じて、上記第2の機器が結像部を介して
    複数の識別子を含む画像を撮像する撮像工程とを備え、 上記第1の機器において、上記第2の機器から供給され
    た撮像画像から複数の識別子を検出し、当該複数の識別
    子の相対位置の解析により上記表示手段に対する上記撮
    像手段の位置を解析する解析工程を有することを特徴と
    する請求項23記載の位置検出方法。
  25. 【請求項25】 第1の機器に複数の識別子を表示する
    表示工程と、 上記第1の機器から第2の機器に信号が供給され、供給
    された信号に応じて、上記第2の機器が結像部を介して
    複数の識別子を含む画像を撮像する撮像工程とを備え、 上記第2の機器において、上記画像から複数の識別子を
    検出し、当該複数の識別子の相対位置の解析により上記
    表示手段に対する上記撮像手段の位置を解析する解析工
    程を有することを特徴とする請求項23記載の位置検出
    方法。
  26. 【請求項26】 上記表示工程において、上記撮像工程
    の撮像タイミングに同期して上記識別子を表示すること
    を特徴とする請求項23記載の位置検出方法。
  27. 【請求項27】 複数の識別子を表示する制御を行う表
    示制御手段と、 結像部を介して上記識別子を撮像する撮像手段と、 上記撮像された識別子を用いて上記撮像手段の上記複数
    の識別子を表示する表示手段に対する位置を解析する解
    析手段と、 上記解析手段で解析された位置情報を制御情報に変換し
    てプログラムを制御する制御手段とを備えることを特徴
    とするエンターテインメント装置。
  28. 【請求項28】 複数の識別子を表示する制御を行う表
    示制御手段を有する第1の機器と、 上記第1の機器から信号を供給され、供給された信号に
    応じて、結像部を介して複数の識別子を含む画像を撮像
    する撮像手段を有する第2の機器とを備え、 上記第1の機器は、上記第2の機器から供給された撮像
    画像から複数の識別子を検出し、当該複数の識別子の相
    対位置の解析により、上記表示手段に対する上記撮像手
    段の位置を解析する解析手段と、上記解析手段で解析さ
    れた位置情報を制御情報に変換してプログラムを制御す
    る制御手段とを有することを特徴とする請求項27記載
    のエンターテインメント装置。
  29. 【請求項29】 上記第1の機器は、上記第2の機器と
    の間で無線通信を行うことを特徴とする請求項28記載
    のエンターテインメント装置。
  30. 【請求項30】 複数の識別子を表示する制御を行う表
    示制御手段を有する第1の機器と、 上記第1の機器から信号を供給され、供給された信号に
    応じて、結像部を介して複数の識別子を含む画像を撮像
    する撮像手段を有する第2の機器とを備え、 上記第2の機器は、上記画像から複数の識別子を検出
    し、当該複数の識別子の相対位置の解析により、上記表
    示手段に対する上記撮像手段の位置を解析する解析手段
    と、上記解析手段で解析された位置情報を制御情報に変
    換してプログラムを制御する制御手段とを有することを
    特徴とする請求項27記載のエンターテインメント装
    置。
  31. 【請求項31】 上記第1の機器は、上記第2の機器と
    の間で無線通信を行うことを特徴とする請求項30記載
    のエンターテインメント装置。
  32. 【請求項32】 動き検出を行うベクトル演算手段を備
    え、 上記解析手段は、上記ベクトル演算手段により動き検出
    を行うことを特徴とする請求項27記載のエンターテイ
    ンメント装置。
  33. 【請求項33】 上記撮像手段は、 受光により電荷を蓄積する複数の受光素子部、電荷を転
    送する電荷転送部、上記複数の受光素子部に蓄積された
    電荷を上記電荷転送部に読み出す電荷読出ゲート部、及
    び上記電荷転送部により伝送された電荷を撮像出力信号
    に変換する出力部を含む受光・電荷転送部を備えた固体
    撮像部と、 ライン同期信号及びフレーム同期信号を発生する同期信
    号発生部と、 上記フレーム同期信号と同位相もしくは上記フレーム同
    期信号との間に一定の位相差を有した第1の内部フレー
    ム同期信号及び上記フレーム同期信号とは非同期とされ
    る第2の内部フレーム同期信号を選択的に発生するとと
    もに、当該第1の内部フレーム同期信号もしくは第2の
    内部フレーム同期信号に同期した電荷読出タイミング信
    号及び電荷転送タイミング信号を送出するタイミング信
    号発生部と、 当該タイミング信号発生部から送出される電荷読出タイ
    ミング信号及び電荷転送タイミング信号にそれぞれ応じ
    たゲート駆動信号及び電荷転送駆動信号を形成して、当
    該ゲート駆動信号及び電荷転送駆動信号を上記固体撮像
    部における電荷読出ゲート部及び電荷転送部にそれぞれ
    供給する駆動信号形成部と、 受光指令信号が供給されるとともに、上記タイミング信
    号発生部についての動作制御を行う動作制御部とを備
    え、 上記動作制御部が、上記受光指令信号が供給されると
    き、当該受光指令信号に応じて上記タイミング信号発生
    部に所定の期間にわたって上記第2の内部フレーム同期
    信号を発生するとともに当該第2の内部フレーム同期信
    号に同期した電荷読出タイミング信号及び電荷転送タイ
    ミング信号を送出する状態を取らせ、それにより上記固
    体撮像部の受光・電荷転送部についての受光期間を上記
    第2の内部フレーム同期信号に応じて設定される期間と
    なされており、 上記解析手段は、上記撮像手段より得た撮像画像に基づ
    いて上記撮像手段の上記表示手段に対する位置を解析
    し、上記制御手段は、上記解析手段で解析された位置情
    報を制御情報に変換してプログラムを制御することを特
    徴とする請求項27記載のエンターテインメント装置。
  34. 【請求項34】 上記タイミング信号発生部が、電荷転
    送タイミング信号として電荷掃出し転送タイミング信号
    と信号電荷転送タイミング信号とを送出し、駆動信号形
    成部が上記電荷掃出し転送タイミング信号に応じた掃出
    し転送駆動信号を固体撮像部における電荷転送部に供給
    して、当該電荷転送部における電荷が掃き出される状態
    となし、また、上記信号電荷転送タイミング信号に応じ
    た信号電荷転送駆動信号を上記固体撮像部における電荷
    転送部に供給して、当該電荷転送部における電荷が信号
    電荷として出力部へと転送される状態となすことを特徴
    とする請求項33記載のエンターテインメント装置。
  35. 【請求項35】 上記動作制御部が、受光指令信号が供
    給されるときに、まず、タイミング信号発生部に第2の
    内部フレーム同期信号に同期した電荷読出タイミング信
    号及び電荷掃出し転送タイミング信号を送出させて、固
    体撮像部における複数の受光素子部及び電荷転送部にお
    ける電荷が掃き出される状態となし、続いて、上記固体
    撮像部の受光・電荷転送部についての受光期間が経過し
    たとき、上記タイミング信号発生部に第2の内部フレー
    ム同期信号に同期した電荷読出タイミング信号及び信号
    電荷転タイミング信号を送出させて、上記固体撮像部に
    おける複数の受光素子部に蓄積された電荷を信号電荷と
    して上記電荷転送部を通じて出力部へと転送される状態
    となすことを特徴とする請求項33記載のエンターテイ
    ンメント装置。
  36. 【請求項36】 上記動作制御部が、タイミング信号発
    生部に第2の内部フレーム同期信号に同期した時点から
    電荷読出タイミング信号及び電荷掃出し転送タイミング
    信号を継続的に送出する受光指令待状態を取らせて、固
    体撮像部における複数の受光素子部及び電荷転送部にお
    ける電荷が継続的に掃き出される状態となし、上記タイ
    ミング信号発生部が上記受光指令待状態にあるもとで受
    光指令信号が供給されるとき、上記タイミング信号発生
    部に上記電荷読出タイミング信号及び電荷掃出し転送タ
    イミング信号の送出を停止させて、上記固体撮像部の受
    光・電荷転送部についての受光期間を開始させ、当該受
    光期間が経過したとき、上記タイミング信号発生部に上
    記電荷読出タイミング信号及び信号電荷転送タイミング
    信号を送出させて、上記固体撮像部における複数の受光
    素子部における電荷が信号電荷として上記電荷転送部を
    通じて出力部へと転送される状態となすことを特徴とす
    る請求項33記載のエンターテインメント装置。
  37. 【請求項37】 上記表示制御手段は、上記撮像手段の
    撮像タイミングに同期して上記識別子を表示することを
    特徴とする請求項27記載のエンターテインメント装
    置。
  38. 【請求項38】 上記撮像タイミングは、上記受光指令
    信号が供給されるタイミングであることを特徴とする請
    求項37記載のエンターテインメント装置。
  39. 【請求項39】 上記撮像手段は、非同期シャッタを備
    えること特徴とする請求項27記載のエンターテインメ
    ント装置。
  40. 【請求項40】 上記表示制御手段は、上記撮像手段の
    撮像タイミングに同期して上記識別子を表示することを
    特徴とする請求項39記載のエンターテインメント装
    置。
  41. 【請求項41】 上記撮像タイミングとは、非同期シャ
    ッタのシャッタタイミングであることを特徴とする請求
    項40記載のエンターテインメント装置。
  42. 【請求項42】 上記識別子は、所定の色範囲で識別さ
    れる識別子であることを特徴とする請求項27記載のエ
    ンターテインメント装置。
  43. 【請求項43】 上記識別子は、所定模様で識別される
    識別子であることを特徴とする請求項27記載のエンタ
    ーテインメント装置。
  44. 【請求項44】 上記識別子は、所定の輝度範囲で識別
    される識別子であることを特徴とする請求項27記載の
    エンターテインメント装置。
  45. 【請求項45】 上記解析手段は、上記識別子を自動的
    に認識することを特徴とする請求項27記載のエンター
    テインメント装置。
  46. 【請求項46】 上記解析手段は、予め決められている
    所定動作により検出される識別子の位置を基準として比
    較することで、上記撮像された識別子を認識することを
    特徴とする請求項45記載のエンターテインメント装
    置。
  47. 【請求項47】 上記所定動作は、上記解析手段におい
    て制御される動作であることを特徴とする請求項46記
    載のエンターテインメント装置。
  48. 【請求項48】 上記所定動作は、上記解析手段に同期
    した動作であることを特徴とする請求項46記載のエン
    ターテインメント装置。
JP2000275397A 2000-09-11 2000-09-11 位置解析装置及び位置解析方法、並びに、エンターテインメント装置 Expired - Fee Related JP4581204B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000275397A JP4581204B2 (ja) 2000-09-11 2000-09-11 位置解析装置及び位置解析方法、並びに、エンターテインメント装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000275397A JP4581204B2 (ja) 2000-09-11 2000-09-11 位置解析装置及び位置解析方法、並びに、エンターテインメント装置

Publications (2)

Publication Number Publication Date
JP2002081909A true JP2002081909A (ja) 2002-03-22
JP4581204B2 JP4581204B2 (ja) 2010-11-17

Family

ID=18761025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000275397A Expired - Fee Related JP4581204B2 (ja) 2000-09-11 2000-09-11 位置解析装置及び位置解析方法、並びに、エンターテインメント装置

Country Status (1)

Country Link
JP (1) JP4581204B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006314777A (ja) * 2005-05-10 2006-11-24 Pixart Imaging Inc オリエンテーション装置およびそれに用いられる座標生成方法
JP2007036742A (ja) * 2005-07-27 2007-02-08 Matsushita Electric Works Ltd 複数画像合成方法及び複数画像合成装置
JP2007075353A (ja) * 2005-09-14 2007-03-29 Nintendo Co Ltd ゲームプログラムおよびゲームシステム
JP2007252915A (ja) * 2006-03-21 2007-10-04 Avago Technologies General Ip (Singapore) Private Ltd インターリーブされた十字ナビゲーションフレームを使用するアクティブ基準化方法
JP2008125666A (ja) * 2006-11-17 2008-06-05 Nintendo Co Ltd ポインティング装置の調整プログラムおよびポインティング装置
JP2008527854A (ja) * 2005-01-07 2008-07-24 ジェスチャー テック,インコーポレイテッド オプティカルフローに基づく傾きセンサー
JP2009050701A (ja) * 2007-08-23 2009-03-12 Pixart Imaging Inc 対話画像システム、対話装置及びその運転制御方法
JP2010022777A (ja) * 2008-07-24 2010-02-04 Taito Corp ゲーム機の入力装置、ゲーム機及びゲーム機の入力方法
JP2011183205A (ja) * 2011-06-17 2011-09-22 Nintendo Co Ltd ゲームシステムおよびゲームプログラム
US8096880B2 (en) 2006-08-15 2012-01-17 Nintendo Co., Ltd. Systems and methods for reducing jitter associated with a control device
US8456534B2 (en) 2004-10-25 2013-06-04 I-Interactive Llc Multi-directional remote control system and method
US9189082B2 (en) 2009-04-08 2015-11-17 Qualcomm Incorporated Enhanced handheld screen-sensing pointer
US9569892B2 (en) 2013-09-26 2017-02-14 Qualcomm Incorporated Image capture input and projection output
CN113040084A (zh) * 2021-03-23 2021-06-29 武汉大学 一种分析水中电流场对鱼类行为影响的实验装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0871252A (ja) * 1994-09-05 1996-03-19 Taito Corp 射撃ゲーム装置におけるビデオ画面とガンの相対位置を検出する方法及び装置
JPH08226793A (ja) * 1995-02-21 1996-09-03 Konami Co Ltd 射的ゲーム装置
JPH11305935A (ja) * 1998-04-24 1999-11-05 Image Tec Kk 位置検出システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0871252A (ja) * 1994-09-05 1996-03-19 Taito Corp 射撃ゲーム装置におけるビデオ画面とガンの相対位置を検出する方法及び装置
JPH08226793A (ja) * 1995-02-21 1996-09-03 Konami Co Ltd 射的ゲーム装置
JPH11305935A (ja) * 1998-04-24 1999-11-05 Image Tec Kk 位置検出システム

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8456534B2 (en) 2004-10-25 2013-06-04 I-Interactive Llc Multi-directional remote control system and method
JP2008527854A (ja) * 2005-01-07 2008-07-24 ジェスチャー テック,インコーポレイテッド オプティカルフローに基づく傾きセンサー
US8983139B2 (en) 2005-01-07 2015-03-17 Qualcomm Incorporated Optical flow based tilt sensor
US8213686B2 (en) 2005-01-07 2012-07-03 Qualcomm Incorporated Optical flow based tilt sensor
JP2006314777A (ja) * 2005-05-10 2006-11-24 Pixart Imaging Inc オリエンテーション装置およびそれに用いられる座標生成方法
JP4602281B2 (ja) * 2005-05-10 2010-12-22 ユアン シアン コー チー クー フェン ユー シェン コン シー オリエンテーション装置に用いられる座標生成方法
JP2007036742A (ja) * 2005-07-27 2007-02-08 Matsushita Electric Works Ltd 複数画像合成方法及び複数画像合成装置
JP4715366B2 (ja) * 2005-07-27 2011-07-06 パナソニック電工株式会社 複数画像合成方法及び複数画像合成装置
US8228293B2 (en) 2005-09-14 2012-07-24 Nintendo Co., Ltd. Remote control and system and method using the remote control
JP2007075353A (ja) * 2005-09-14 2007-03-29 Nintendo Co Ltd ゲームプログラムおよびゲームシステム
US7833100B2 (en) 2005-09-14 2010-11-16 Nintendo Co., Ltd. Video game program and video game system
JP2007252915A (ja) * 2006-03-21 2007-10-04 Avago Technologies General Ip (Singapore) Private Ltd インターリーブされた十字ナビゲーションフレームを使用するアクティブ基準化方法
US8096880B2 (en) 2006-08-15 2012-01-17 Nintendo Co., Ltd. Systems and methods for reducing jitter associated with a control device
JP2008125666A (ja) * 2006-11-17 2008-06-05 Nintendo Co Ltd ポインティング装置の調整プログラムおよびポインティング装置
JP2009050701A (ja) * 2007-08-23 2009-03-12 Pixart Imaging Inc 対話画像システム、対話装置及びその運転制御方法
JP2010022777A (ja) * 2008-07-24 2010-02-04 Taito Corp ゲーム機の入力装置、ゲーム機及びゲーム機の入力方法
US9189082B2 (en) 2009-04-08 2015-11-17 Qualcomm Incorporated Enhanced handheld screen-sensing pointer
US10146298B2 (en) 2009-04-08 2018-12-04 Qualcomm Incorporated Enhanced handheld screen-sensing pointer
JP2011183205A (ja) * 2011-06-17 2011-09-22 Nintendo Co Ltd ゲームシステムおよびゲームプログラム
US9569892B2 (en) 2013-09-26 2017-02-14 Qualcomm Incorporated Image capture input and projection output
CN113040084A (zh) * 2021-03-23 2021-06-29 武汉大学 一种分析水中电流场对鱼类行为影响的实验装置
CN113040084B (zh) * 2021-03-23 2022-10-14 武汉大学 一种分析水中电流场对鱼类行为影响的实验装置

Also Published As

Publication number Publication date
JP4581204B2 (ja) 2010-11-17

Similar Documents

Publication Publication Date Title
US8848097B2 (en) Image processing apparatus, and method, for providing special effect
US11223770B2 (en) Imaging apparatus and display control method thereof
JP4098251B2 (ja) デジタルカメラにおける画像ぼけを低減させるための装置及び方法
US7689113B2 (en) Photographing apparatus and method
US8711230B2 (en) Image capture apparatus and program
JP4581204B2 (ja) 位置解析装置及び位置解析方法、並びに、エンターテインメント装置
KR101413926B1 (ko) 촬상 장치 및 촬상 장치의 제어 방법
US20110164147A1 (en) Imaging apparatus
CN106575027A (zh) 摄像装置及其被摄体跟踪方法
US20130114938A1 (en) Image-capturing apparatus
JP2010041299A (ja) 電子カメラ
JP2001086395A (ja) 撮像装置
JP2002027315A (ja) 動き検出装置及び動き検出方法
KR101690261B1 (ko) 디지털 영상 처리장치 및 그 제어방법
US9215426B2 (en) Imaging apparatus and imaging method
JP2002024833A (ja) エンタテインメントシステム、エンタテインメント装置及び情報処理方法
JP5383361B2 (ja) 撮像装置及びその制御方法、並びにプログラム
JP2010171491A (ja) 撮影装置、撮影方法及びプログラム
JP2007225550A (ja) 速度測定装置、撮像装置、撮像方法および制御プログラム
JP2004117195A (ja) 速度計測機能付デジタルカメラ
JP2004289870A (ja) ディジタルカメラ
JP5683898B2 (ja) 追尾装置および追尾方法
JP6354377B2 (ja) 撮像装置およびその制御方法とプログラム
JP2010193106A (ja) 撮像装置
JP4235281B2 (ja) 撮像装置および撮像装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090402

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090910

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100226

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100816

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130910

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees