JP2000214992A - 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体 - Google Patents

方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体

Info

Publication number
JP2000214992A
JP2000214992A JP11013422A JP1342299A JP2000214992A JP 2000214992 A JP2000214992 A JP 2000214992A JP 11013422 A JP11013422 A JP 11013422A JP 1342299 A JP1342299 A JP 1342299A JP 2000214992 A JP2000214992 A JP 2000214992A
Authority
JP
Japan
Prior art keywords
projection
dimensional
motion vector
output
dimensional motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP11013422A
Other languages
English (en)
Inventor
Yasushi Kage
裕史 鹿毛
Hidekazu Funatsu
英一 船津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP11013422A priority Critical patent/JP2000214992A/ja
Priority to US09/295,412 priority patent/US6377241B1/en
Publication of JP2000214992A publication Critical patent/JP2000214992A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0317Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors

Abstract

(57)【要約】 【課題】 特別に操作スペースを確保する必要がなく、
さらに、摩擦の少ない場所や垂直な面(壁等)等の場所
においても、画面上のポインタを安定的に動作させるこ
とができるとともに、安価なCPUおよび小容量のメモ
リを使用することにより、低コストでの実装を実現可能
な方向指示装置を得ること。 【解決手段】 画像処理機能を有する画像センサにより
撮影される二次元画像のデータを入力する画像入力部1
と、画像入力部1に入力されるデータに基づいて、その
二次元画像全体に関する複数方向の射影を算出する射影
算出部2と、射影算出部2にて算出された射影に基づい
て、個々の一次元動きベクトルを算出する動き算出部3
と、動き算出部3にて算出された一次元動きベクトルに
基づいて、撮影された二次元画像全体の二次元動きベク
トルを推定する方向推定部4と、を備える構成とする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像センサにより
撮影される二次元画像から、その二次元画像全体に関す
る複数方向の射影を計算し、その計算結果から動作方向
の推定処理を行う方向指示装置および方向推定方法、並
びにその方法にかかるプログラムを記録したコンピュー
タ読み取り可能な記録媒体に関するものである。
【0002】
【従来の技術】以下、従来の方向指示装置について説明
する。たとえば、パソコン等の情報機器においては、ポ
インティングデバイスとして用いられているマウス等の
動作に応じて、画面上に表示されたポインタを移動させ
る。すなわち、ポインタ等の差し示す画面上の座標(位
置)、および、付属されるボールの転がり(回転)から
計算される、たとえば、ポインタの移動方向および移動
速度、に応じて、画面上に表示されたポインタを移動さ
せている。
【0003】しかしながら、このようなポインティング
デバイスは、机上での使用に限定されており、すなわ
ち、操作スペースを確保する必要があり、たとえば、移
動中の車中等のようなスペースのない場所で操作を行う
ことはできない。また、特定の操作スペースを確保した
場合でも、その場所が、たとえば、摩擦の少ない場所や
垂直な面(壁等)等の場所では、前記マウス内のボール
が正常に回転できず、画面上のポインタを安定的に動作
させることができない。
【0004】そこで、上記スペースのない場所におい
て、画面上の指示位置(ポインタ)を移動させるため
に、ポインティングデバイス内に、たとえば、画像セン
サを備えて、その画像センサにて撮影される画像の動き
から、画像センサ自体の移動方向を算出し、その結果か
ら画面上のポインタを特定位置に移動させる方法が考え
られる。このような方法によれば、特別に操作スペース
を確保する必要がなく、さらに、摩擦の少ない場所や垂
直な面(壁等)等の場所においても、机上で操作した場
合と同様に、画面上のポインタを安定的に動作させるこ
とができる。
【0005】このようなポインティングデバイスを実現
するためには、画像センサにて撮影された画像の動きを
推定し、その結果に基づいてマウス位置や画面上のポイ
ンタの位置(座標データ)を更新することにより、ポイ
ンタを移動させる必要がある。このような処理を可能と
する技術文献としては、たとえば、特開平9―1342
50号公報におけるビデオディスプレイのカーソル位置
制御、がある。この文献による方法は、32×32画素
の画像に含まれる動きベクトルを相関演算によって計算
する方法である。
【0006】一般に、どのような解像度でも一画素内に
収まる動きは検出できないので、この解像度でカバーで
きない比較的ゆっくりとした動きに対応するためには、
画像自体の解像度を上げる必要がある。従って、上記技
術文献における位置制御において、前記ゆっくりとした
動きに対応していくためには、たとえば、動きベクトル
の相関演算に必要な計算量、および画像バッファとして
のメモリ容量を、N×N画素で示される解像度に応じて
増加していく必要がある。
【0007】このように、従来の技術では、画像センサ
にて撮影された画像に基づいて、N×N画素の画像に含
まれる動きベクトルを相関演算によって計算することに
より、画面上のカーソル等を制御することができる。
【0008】
【発明が解決しようとする課題】しかしながら、上記、
従来技術では、画像センサの解像度の向上に応じて、動
きベクトルの相関演算に必要な計算量が増大するため、
高速処理を行うためには、より高価なCPUが必要とな
る。さらに、画像センサの解像度の向上に応じて、画像
データおよび演算結果の格納手段であるメモリの容量が
増大することになり、より大容量のメモリが必要とな
る。このようなことから、上記従来技術では、ポインテ
ィングデバイスの低コストでの実装が困難となる、とい
う問題点があった。
【0009】本発明は、上記に鑑みてなされたものであ
って、特別に操作スペースを確保する必要がなく、さら
に、摩擦の少ない場所や垂直な面(壁等)等の場所にお
いても、画面上のポインタを安定的に動作させることが
できるとともに、安価なCPUおよび小容量のメモリを
使用することにより、低コストでの実装を実現可能な方
向指示装置および方向推定方法、並びにその方法にかか
るプログラムを記録したコンピュータ読み取り可能な記
録媒体を得ることを目的とする。
【0010】
【課題を解決するための手段】上述した課題を解決し、
目的を達成するために、本発明にかかる方向指示装置に
あっては、画像センサにより撮影される二次元画像のデ
ータを入力する画像入力手段(後述する実施の形態の画
像入力部1に相当)と、前記画像入力手段に入力される
データに基づいて、その二次元画像全体に関する複数方
向の射影を算出する射影算出手段(射影算出部2に相
当)と、前記射影算出手段にて算出された射影に基づい
て、個々の一次元動きベクトルを算出する動き算出手段
(動き算出部3に相当)と、前記動き算出手段にて算出
された一次元動きベクトルに基づいて、撮影された二次
元画像全体の二次元動きベクトルを推定する方向推定手
段(方向推定部4に相当)と、を備えるものである。
【0011】この発明によれば、画像センサにより撮影
される二次元画像のデータから、その二次元画像全体に
関する複数方向の射影を算出し、その算出された射影に
基づいて、個々の一次元動きベクトルを算出する。そし
て、これら複数の一次元動きベクトルに基づいて、撮影
された二次元画像全体の二次元動きベクトルを推定して
いる。このように、本発明の方向指示装置では、従来の
ように、二次元画像の画素データから直接二次元動きベ
クトルを計算するのではなく、まず、二次元画像の射影
を求めてから、その後、二次元動きベクトルを推定して
いる。具体的にいうと、たとえば、32×32(=10
24)画素のデータから直接二次元動きベクトルを計算
するのではなく、まず、32行+32列(=64)の射
影を求めてから、その後、二次元動きベクトルを推定し
ている。
【0012】これにより、本発明の方向指示装置は、デ
ータ数を大幅に削減でき、それに伴って、CPUによる
計算量およびデータを格納するためのメモリ容量を大幅
に削減できるため、すなわち、安価なCPUおよびメモ
リを実装できるため、低コストのシステムで、たとえ
ば、ポインティングデバイス等の機能を実現することが
できる。さらに、CPUによる計算量およびデータを格
納するためのメモリ容量を大幅に削減できることから、
高速化も実現できる。さらに、本発明の方向指示装置を
マウスとして使用した場合、このマウスは、画像処理に
よる動き認識であるため、従来のトラックボールによる
機械式マウスのように、特別に操作スペース(平らな場
所等)を確保する必要がなく、さらに、摩擦の少ない場
所や垂直な面(壁等)等の場所においても、画面上のポ
インタを安定的に動作させることができる。
【0013】つぎの発明にかかる方向指示装置にあって
は、さらに、前記方向推定手段にて推定された二次元動
きベクトルに基づいて、座標で示される位置情報を更新
する座標更新手段(後述する実施の形態の座標更新部5
に相当)と、前記座標で示される位置情報に基づいて、
その位置を画面に表示する座標表示手段(座標表示部6
に相当)と、を備えるものである。
【0014】この発明によれば、たとえば、画面上のあ
る位置にポインタが表示されている場合、前記方向推定
手段にて推定された二次元動きベクトルに基づいて、座
標で示される位置情報(現在表示中のポインタの位置情
報)を更新し、その更新された座標で示される位置情報
およびベクトルの大きさ(速度)に基づいて、画面上の
ポインタの位置を更新された座標に移動する。これによ
り、本発明の方向指示装置は、特別に操作スペース(平
らな場所等)を確保する必要のないマウスを実現するこ
とができるとともに、さらに、撮影される二次元画像を
用いて、スクリーン上に表示されるポインタ等を移動で
きる特性を利用して、会議や講演などでスクリーン上を
指し示すポインティングデバイス(従来のペンライトや
スティックに相当するもの)や、ゲーム操作用のポイン
ティングデバイス(シューティングゲームやキャラクタ
を移動させるゲームの操作)、を実現することができ
る。
【0015】つぎの発明にかかる方向指示装置にあって
は、画像処理機能を有する画像センサにより撮影される
二次元画像のデータに基づいて、その二次元画像全体に
関する複数方向の射影を出力する射影出力手段(後述す
る実施の形態の射影出力部21に相当)と、前記射影出
力手段にて出力された射影に基づいて、個々の一次元動
きベクトルを算出する動き算出手段(動き算出部3に相
当)と、前記動き算出手段にて算出された一次元動きベ
クトルに基づいて、撮影された二次元画像全体の二次元
動きベクトルを推定する方向推定手段(方向推定部4に
相当)と、を備えるものである。
【0016】この発明によれば、画像センサにより撮影
される二次元画像のデータから、その二次元画像全体に
関する複数方向の射影を自動的に出力し、その射影に基
づいて、個々の一次元動きベクトルを算出する。そし
て、これら複数の一次元動きベクトルに基づいて、撮影
された二次元画像全体の二次元動きベクトルを推定して
いる。このように、本発明の方向指示装置では、従来の
ように、二次元画像の画素データから直接二次元動きベ
クトルを計算するのではなく、まず、二次元画像の射影
を求めてから、その後、二次元動きベクトルを推定して
いる。具体的にいうと、たとえば、32×32(=10
24)画素のデータから直接二次元動きベクトルを計算
するのではなく、まず、32行+32列(=64)の射
影を求めてから、その後、二次元動きベクトルを推定し
ている。
【0017】これにより、本発明の方向指示装置は、デ
ータ数を大幅に削減でき、それに伴って、CPUによる
計算量およびデータを格納するためのメモリ容量を大幅
に削減できできるため、すなわち、安価なCPUおよび
メモリを実装できるため、より低コストのシステムで、
たとえば、ポインティングデバイス等の機能を実現する
ことができる。さらに、CPUによる計算量およびデー
タを格納するためのメモリ容量を大幅に削減できること
から、さらなる高速化も実現できる。さらに、本発明の
方向指示装置をマウスとして使用した場合、このマウス
は、画像処理による動き認識であるため、従来のトラッ
クボールによる機械式マウスのように、特別に操作スペ
ース(平らな場所等)を確保する必要がなく、さらに、
摩擦の少ない場所や垂直な面(壁等)等の場所において
も、画面上のポインタを安定的に動作させることができ
る。
【0018】つぎの発明にかかる方向指示装置におい
て、前記射影出力手段は、さらに、現時刻の射影出力と
前時刻の射影出力との差分を算出し、前記動き算出手段
では、該差分に基づいて、個々の一次元動きベクトルを
算出するものである。
【0019】この発明によれば、動き算出手段にて行う
現時刻の射影出力と前時刻の射影出力との差の計算を行
う必要がなくなる。これにより、本発明の方向指示装置
は、CPUによる計算量をさらに大幅に削減することが
でき、伴って、より高速な動作を実現できる。
【0020】つぎの発明にかかる方向指示装置におい
て、前記射影出力手段は、前記二次元画像に関する複数
方向の射影、および前記現時刻の射影出力と前時刻の射
影出力の差分、の少なくともいずれか一方の出力を実現
可能とする半導体集積回路、であることを特徴とするも
のである。
【0021】この発明によれば、半導体集積回路として
動作する、たとえば、人工網膜LSIが、画像センサに
より撮影される二次元画像のデータから、その二次元画
像全体に関する複数方向の射影、および現時刻の射影出
力と前時刻の射影出力の差分、の少なくともいずれか一
方を自動的に出力する。これにより、本発明の方向指示
装置は、CPUによる計算量をさらに大幅に削減するこ
とができ、全体のソフトウェア量も大幅に削減すること
ができる。
【0022】つぎの発明にかかる方向指示装置にあって
は、さらに、前記方向推定手段にて推定された二次元動
きベクトルに基づいて、座標で示される位置情報を更新
する座標更新手段(後述する実施の形態の座標更新部5
に相当)と、前記座標で示される位置情報に基づいて、
その位置を画面に表示する座標表示手段(座標表示部6
に相当)と、を備えるものである。
【0023】この発明によれば、たとえば、画面上のあ
る位置にポインタが表示されている場合、前記方向推定
手段にて推定された二次元動きベクトルに基づいて、座
標で示される位置情報(現在表示中のポインタの位置情
報)を更新し、その更新された座標で示される位置情報
およびベクトルの大きさ(速度)に基づいて、画面上の
ポインタの位置を更新された座標に移動する。これによ
り、本発明の方向指示装置は、特別に操作スペース(平
らな場所等)を確保する必要のないマウスを実現するこ
とができるとともに、さらに、撮影される二次元画像を
用いて、スクリーン上に表示されるポインタ等を移動で
きる特性を利用して、会議や講演などでスクリーン上を
指し示すポインティングデバイス(従来のペンライトや
スティックに相当するもの)や、ゲーム操作用のポイン
ティングデバイス(シューティングゲームやキャラクタ
を移動させるゲームの操作)、を実現することができる
【0024】つぎの発明にかかる方向指示装置の方向推
定方法にあっては、画像センサにより撮影される二次元
画像から、その二次元画像全体に関する複数方向の射影
を計算することにより、動作方向を推定可能であり、特
に、得られる二次元画像に関する複数方向の射影に基づ
いて、現時刻の射影出力と前時刻の射影出力との差分を
計算し、その差分から個々の一次元動きベクトルを算出
する動き算出ステップ(後述する実施の形態のステップ
S1〜ステップS5に相当)と、前記動き算出ステップ
にて算出された個々の一次元動きベクトルを合成するこ
とにより、撮影された二次元画像全体の二次元動きベク
トルを推定する方向推定ステップ(ステップS21〜ス
テップS23に相当)と、を含むことを特徴とする。
【0025】この発明によれば、まず、二次元画像に関
する複数方向の現時刻の射影を格納し、つぎに、この現
時刻の射影出力と、先に格納されている前時刻の射影出
力との差分を計算し、つぎに、その差分から個々の一次
元動きベクトルを算出し、つぎに、一次元動きベクトル
を平滑化して出力する。そして、最後に、平滑化された
複数の一次元動きベクトルを合成することにより、撮影
された二次元画像全体の二次元動きベクトルを推定す
る。
【0026】この方法により、本発明の方向指示装置
は、データ数を大幅に削減でき、それに伴って、CPU
による計算量およびデータを格納するためのメモリ容量
を大幅に削減できるため、すなわち、安価なCPUおよ
びメモリを実装できるため、低コストのシステムで、た
とえば、ポインティングデバイス等の機能を実現するこ
とができる。さらに、CPUによる計算量およびデータ
を格納するためのメモリ容量を大幅に削減できることか
ら、高速化も実現できる。さらに、この方法を用いて、
本発明の方向指示装置をマウスとして使用した場合、こ
のマウスは、画像処理による動き認識であるため、従来
のトラックボールによる機械式マウスのように、特別に
操作スペース(平らな場所等)を確保する必要がなく、
さらに、摩擦の少ない場所や垂直な面(壁等)等の場所
においても、画面上のポインタを安定的に動作させるこ
とができる。
【0027】つぎの発明にかかる方向指示装置の方向推
定方法において、前記動き算出ステップでは、ある位置
の現時刻の射影出力と前時刻の射影出力とが変化してい
ない場合か、または、変化している場合でも、現時刻あ
るいは前時刻を参照時刻として選択し、参照時刻におけ
る二つの隣接射影出力とが同じ射影出力である場合は、
方向を推定せず、ある位置の現時刻の射影出力と前時刻
の射影出力との差分が正の場合は、前時刻における二つ
の隣接射影出力のうち、射影出力の小さい方に、方向を
推定し、ある位置の現時刻の射影出力と前時刻の射影出
力との差分が負の場合は、前時刻における二つの隣接射
影出力のうち、射影出力の大きい方に、方向を推定し、
すべての位置について、方向を推定後、一次元動きベク
トルを算出することを特徴とする(後述する実施の形態
のステップS11〜ステップS19に相当)。
【0028】この発明によれば、一次元動きベクトルの
算出アルゴリズムが明確化される。これにより、正確な
一次元動きベクトルを容易に算出可能となる。
【0029】つぎの発明にかかるプログラムを記録した
記録媒体にあっては、画像センサにより撮影される二次
元画像から、その二次元画像全体に関する複数方向の射
影を計算し、その計算結果から動作方向の推定処理を行
わせることを可能とし、特に、得られる二次元画像に関
する複数方向の射影に基づいて、現時刻の射影出力と前
時刻の射影出力との差分を計算させ、その差分から個々
の一次元動きベクトルを算出させる動き算出ステップ
(後述する実施の形態のステップS1〜ステップS5に
相当)と、前記動き算出ステップにて算出された個々の
一次元動きベクトルを合成することにより、撮影された
二次元画像全体の二次元動きベクトルを推定させる方向
推定ステップ(ステップS21〜ステップS23に相
当)と、を含むことを特徴とする。
【0030】この発明によれば、このプログラムは、ま
ず、二次元画像に関する複数方向の現時刻の射影を格納
させ、つぎに、この現時刻の射影出力と、先に格納され
ている前時刻の射影出力との差分を計算させ、つぎに、
その差分から個々の一次元動きベクトルを算出させ、つ
ぎに、一次元動きベクトルを平滑化して出力させる。そ
して、最後に、平滑化された複数の一次元動きベクトル
を合成させることにより、撮影された二次元画像全体の
二次元動きベクトルを推定させる。
【0031】このプログラムが実行されることにより、
本発明の方向指示装置は、データ数を大幅に削減でき、
それに伴って、CPUによる計算量およびデータを格納
するためのメモリ容量を大幅に削減できるため、すなわ
ち、安価なCPUおよびメモリを実装できるため、低コ
ストのシステムで、たとえば、ポインティングデバイス
等の機能を実現することができる。さらに、CPUによ
る計算量およびデータを格納するためのメモリ容量を大
幅に削減できることから、高速化も実現できる。さら
に、このプログラムをダウンロードして、本発明の方向
指示装置をマウスとして使用した場合、このマウスは、
画像処理による動き認識であるため、従来のトラックボ
ールによる機械式マウスのように、特別に操作スペース
(平らな場所等)を確保する必要がなく、さらに、摩擦
の少ない場所や垂直な面(壁等)等の場所においても、
画面上のポインタを安定的に動作させることができる。
さらに、コンピュータからのダウンロードが可能なた
め、プログラムの変更および追加等の作業を容易に行う
ことができる。
【0032】つぎの発明にかかるプログラムを記録した
記録媒体にあっては、ある位置の現時刻の射影出力と前
時刻の射影出力とが変化していない場合か、または、変
化している場合でも、現時刻あるいは前時刻を参照時刻
として選択し、参照時刻における二つの隣接射影出力と
が同じ射影出力である場合は、方向を推定せず、ある位
置の現時刻の射影出力と前時刻の射影出力との差分が正
の場合は、前時刻における二つの隣接射影出力のうち、
射影出力の小さい方に、方向を推定し、ある位置の現時
刻の射影出力と前時刻の射影出力との差分が負の場合
は、前時刻における二つの隣接射影出力のうち、射影出
力の大きい方に、方向を推定し、すべての位置について
方向を推定後、一次元動きベクトルを算出するステッ
プ、を含むことを特徴とする(後述する実施の形態のス
テップS11〜ステップS19に相当)。
【0033】この発明によれば、一次元動きベクトルの
算出アルゴリズムが明確化される。これにより、正確な
一次元動きベクトルを容易に算出可能となる。また、コ
ンピュータからのダウンロードが可能なため、プログラ
ムの変更および追加等の作業を容易に行うことができ
る。
【0034】
【発明の実施の形態】以下に、本発明にかかる方向指示
装置および方向推定方法、並びにその方法にかかるプロ
グラムを記録したコンピュータ読み取り可能な記録媒体
の実施の形態を図面に基づいて詳細に説明する。なお、
この実施の形態によりこの発明が限定されるものではな
い。
【0035】実施の形態1.図1は、本発明にかかる方
向指示装置における実施の形態1の構成を示すブロック
図である。図1において、本発明の方向指示装置は、画
像センサを含み、該画像センサにより撮影される二次元
画像のデータを入力する画像入力部1と、画像入力部1
に入力されるデータに基づいてその二次元画像全体に関
する複数方向の射影を算出する射影算出部2と、射影算
出部2にて算出された射影に基づいて個々の一次元動き
ベクトルを算出する動き算出部3と、動き算出部3にて
算出された一次元動きベクトルに基づいて撮影された二
次元画像全体の二次元動きベクトルを推定する方向推定
部4と、を備えている。
【0036】以下、上記のように構成される方向指示装
置の動作について説明する。まず、図2は、画像入力部
1によって撮影される、たとえば、32×32画素の入
力画像と、射影算出部2によって計算される列射影と行
射影を示す。図2に示すとおり、射影算出部2では、画
像入力部1にて撮影される二次元画像7の列方向および
行方向の二方向に関する画素値の総和を計算することに
より、それぞれ列射影8および行射影9、すなわち、6
4個の射影を出力する。なお、本実施の形態では、説明
の便宜上、32×32画素の二次元画像を撮影可能な画
像センサを用いているが、撮影可能な画素数はこれに限
ず、内蔵する画像センサの性能に応じて変化するもので
ある。
【0037】つぎに、動き算出部3による一次元動きベ
クトルの計算は、後述する一次元オプティカルフローア
ルゴリズム(図6参照)により行われる。ここで、一次
元動きベクトル計算の原理について説明する。図3は、
一次元動きベクトルを計算するための図であり、たとえ
ば、射影の各要素(64個の射影の一つ一つを示す)を
一つの画素値と見なし、隣接する三つの画素値により作
られるコントラスト(以下、明暗エッジと呼ぶ)が、左
右に動く4通りの例を示したものである。なお、図示の
細い線が前時刻の射影、太い線が現時刻の射影、を示
す。また、明るい方の画素値を50とし、暗い方を10
とする。
【0038】たとえば、図3(a)および(c)は、明
暗エッジが左から右の方向に動く場合の射影値の変化を
示しており、図3(b)および(d)は、明暗エッジが
右から左に動く場合の射影値の変化を示している。これ
らより、射影値(画素値)の変化と射影の動きとの間に
は、ある射影位置における動き方向に関して、次のよう
な一定の三つの法則があることがわかる。
【0039】(I)ある射影位置において、射影値の変
化が0のときか、あるいは射影値の変化があっても現時
刻あるいは前時刻を参照時刻として選択し、参照時刻に
おける隣接二射影値が同じ射影値を持つときは、動き方
向は0(動きなし)と推定される。 (II)ある射影位置において、射影値の変化が正の値の
とき、動き方向は、参照時刻における隣接二射影値のう
ち、射影値の小さい方向と推定される。 (III)ある射影位置において、射影値の変化が負の値
のとき、動き方向は、参照時刻における隣接二射影値の
うち、射影値の大きい方向と推定される。
【0040】図4は、前時刻の射影と現時刻の射影の一
例と、一次元動きベクトルの推定方向を示す図である。
つぎに、上記の法則を利用して、前時刻と現時刻の射影
値の変化からどのように一次元動きベクトル(すなわ
ち、一次元オプティカルフロー)が得られるかを、図4
を用いて説明する。なお、図4(a)(b)は、それぞ
れ8個の要素からなる射影値の例であり、それぞれ前時
刻と現時刻における射影値を示す。図4(c)は、上記
三つの法則が各射影の配列要素毎にどのように適用され
るかを、具体的に説明するための表である。また、各要
素は、簡単のため、10〜50の値をとることとする。
また、参照時刻は、前時刻の場合で説明するが、本実施
の形態とは別に参照時刻として現時刻を選択しても同様
の結果が得られる。
【0041】まず、要素#1に関しては、前時刻と現時
刻との射影地の差分が0であることから、法則(I)を
適用して、推定方向は0となる。つぎに、要素#2に関
しては、前記差分が負の値であることから、法則(II
I)を適用して、推定方向は#2→#3の向きとなる。
要素#3と#4についても同様に、それぞれ推定方向は
#3→#4,#4→#5となる。つぎに、要素#5に関
しては、差分が正の値であるが、前時刻の射影におい
て、要素#4と#6が同じ値であることから、法則
(I)を適用して、推定方向は0となる。つぎに、要素
#6に関しては、差分が正の値であることから、法則
(II)を適用して、推定方向は#6→#7の向きとな
る。要素#7についても同様に、推定方向は#7→#8
となる。最後に、要素8に関しては、差分が正の値であ
るが、前時刻の射影において、隣接要素がないことか
ら、方向を推定できない。
【0042】以上、一次元動きベクトル計算の原理につ
いて説明を行ってきたが、つぎに、この原理を利用した
動き算出部3の動作を、図面に従って説明する。図5
は、本発明にかかる方向指示装置における一次元動きベ
クトル算出方法であり、動き算出部3の動作を示すもの
である。なお、射影算出部2によって計算された列射影
と行射影については、同一のアルゴリズムにて一次元動
きベクトルを算出するため、以下の説明においては、こ
れらの射影を区別しないで説明する。
【0043】まず、動き算出部3では、射影算出部2が
出力した射影を取得し、その射影を現時刻の射影とし
て、配列curr_projへ格納する(ステップS
1)。つぎに、動き算出部3は、配列curr_pro
jと、前時刻の射影が格納されている配列prev_p
rojとの差分を計算し、その結果を配列diff_p
rojへ格納する(ステップS2)。つぎに、配列di
ff_projと配列prev_projとを用いて、
各要素毎に、一次元動きベクトルの計算を行い、そのす
べての結果を配列vect_projに格納する(ステ
ップS3)。なお、一次元動きベクトルを計算する動作
の詳細については後述する。
【0044】そして、動き算出部3は、すべての一次元
動きベクトルを計算後、配列curr_projを前時
刻の射影として、配列prev_projに格納する
(ステップS4)。最後に、ステップS3で得られた一
次元動きベクトルのノイズを削減するため、配列vec
t_projを平滑化して出力する(ステップS5)。
ここで、上記のステップS3における射影要素毎の一次
元動きベクトルの計算について、上記法則を用いて詳細
に説明する。なお、ここでは、射影の配列インデックス
kの計算過程を、図6のフローチャートを用いて説明す
る。
【0045】まず、動き算出部3は、prev_pro
j[k−1]とprev_proj[k+1]の大小比
較を行う(ステップS11)。これらの値が等しいとき
は(ステップS12,YES)、vect_proj
[k]に0を代入して(ステップS13)、計算を終了
する(法則(I)に相当)。一方、等しくないときは
(ステップS12,NO)、配列インデックスk,k+
1のうち、prev_projの値の小さい方をL、大
きい方をGとする(ステップS14)。
【0046】つぎに、diff_proj[k]の符号
を確認して、たとえば、0であれば(ステップS15,
YES)、vect_proj[k]に0を代入して
(ステップS13)、計算を終了し(法則(I)に相
当)、負の値であれば(ステップS15,NO、ステッ
プS16,YES)、方向k→Gを選択し(ステップS
18,法則(III)に相当)、正の値であれば(ステッ
プS15,NO、ステップS16,NO)、方向k→L
を選択する(ステップS17,法則(II)に相当)。そ
して、ステップS18およびS17において、G(また
はL)が、たとえば、k−1であれば、vect_pr
oj[k]に−1を代入し、G(またはL)がk+1で
あれば、vect_proj[k]に+1を代入する。
【0047】最後に、動き算出部3は、vect_pr
oj[k]の値を、diff_proj[k]の絶対値
で重み付けして(ステップS19)、一次元動きベクト
ルの計算を終了する。
【0048】図7は、本発明にかかる方向指示装置にお
ける二次元動きベクトル算出方法を示す。方向推定部4
では、動き算出部3により計算される各射影の一次元動
きベクトルから代表ベクトルを推定し、その代表ベクト
ルを合成することにより、二次元動きベクトルの推定処
理を行う。以下、図7のフローチャートを用いて、方向
推定部4の動作を説明する。
【0049】まず、方向推定部4は、動き算出部3によ
り計算される列射影および行射影の各一次元動きベクト
ルを取得する(ステップS21)。つぎに、方向推定部
4は、各一次元動きベクトルから代表ベクトルを計算す
る(ステップS22)。なお、ここでは、列射影および
行射影に対応する代表ベクトルを、たとえば、それぞれ
XベクトルおよびYベクトルとする。また、この代表ベ
クトルは、オプティカルフローを構成する一次元動きベ
クトルの平均とするが、代表ベクトルの計算方法はこれ
に限らず、たとえば、構成する一次元動きベクトルのう
ち、最大のノルムを持つものを代表ベクトルとしてもよ
い。そして、最後に、上記XベクトルとYベクトルを合
成して、元の撮影二次元画像全体の二次元的動きに関す
るベクトル(二次元動きベクトル)を推定する(ステッ
プS23)。
【0050】以上、本発明にかかる方向指示装置にて行
われる、二次元動きベクトルの推定処理は、図5、図
6、および図7に示すフローチャート(方向指示用プロ
グラム)により実現され、このプログラムは、後述する
記録媒体にて提供される。
【0051】このように、本発明の方向指示装置では、
従来のように、二次元画像の画素データから直接二次元
動きベクトルを計算するのではなく、まず、二次元画像
の射影を求めてから、その後、二次元動きベクトルを推
定している。具体的にいうと、たとえば、32×32
(=1024)画素のデータから直接二次元動きベクト
ルを計算するのではなく、まず、32行+32列(=6
4)の射影を求めてから、その後、二次元動きベクトル
を推定している。
【0052】従って、本発明の方向指示装置において
は、データ数を大幅に削減でき、それに伴って、CPU
による計算量およびデータを格納するためのメモリ容量
を大幅に削減できるため、換言すれば、安価なCPUお
よびメモリを実装できるため、低コストのシステムで、
たとえば、ポインティングデバイス等の機能を実現する
ことができる。さらに、CPUによる計算量およびデー
タを格納するためのメモリ容量を大幅に削減できること
から、高速化も実現できる。さらに、本発明の方向指示
装置をマウスとして使用した場合、このマウスは、画像
処理による動き認識であるため、従来のトラックボール
による機械式マウスのように、特別に操作スペース(平
らな場所等)を確保する必要がなく、さらに、摩擦の少
ない場所や垂直な面(壁等)等の場所においても、画面
上のポインタを安定的に動作させることができる。
【0053】なお、本実施の形態では、撮影画像の射影
を図8(a)に示すように、列方向と行方向への射影を
計算する例を示したが、射影の計算方法はこれに限ら
ず、たとえば、図8(b)のように、斜め下方向と斜め
上方向への射影を計算後、二次元動きベクトルを推定し
てもよく、さらに、図8(c)のように、列・行・斜め
上・斜め下の4方向すべてについて射影を計算後、また
は任意の3方向の射影を計算後、二次元動きベクトルを
推定することとしてもよい。
【0054】また、図9は、画像センサおよび方向推定
プログラムを内蔵する方向指示装置の全体構成図を示す
ものである。図9において、方向指示装置は、方向推定
プログラムを実行するCPUを含む制御部101と、R
AM、ROM等のメモリを含み、制御部101が実行す
べきプログラム、および処理の過程で得られた必要なデ
ータ等を記憶するメモリ部102と、パソコン等の計算
機105と接続され、二次元動きベクトルを出力する入
出力部103と、二次元画像を撮影する画像センサ10
4と、を備えており、これら各部は、それぞれシステム
バスを介して接続されている。
【0055】上記のように構成される方向指示装置で
は、制御部101(CPU)が、メモリ部102に格納
されたプログラムに従って、先に説明した処理を実行す
ることになる。なお、方向推定プログラムが、たとえ
ば、CD−ROMに格納されている構成としてもよく、
この場合は、計算機105からマウスのメモリ部102
に該プログラムがダウンロードされる。
【0056】また、上記の説明では、このプログラムを
ROM、RAM、およびCD−ROMにて提供する場合
について説明しているが、記録媒体はこれらに限定され
ることなく、システムを構成する計算機に応じて、たと
えば、フロッピーディスク等の磁気ディスク、光磁気デ
ィスク、磁気テープ等の他の記録媒体を用いることも可
能である。
【0057】実施の形態2.図10は、本発明にかかる
方向指示装置における実施の形態2の構成を示すブロッ
ク図である。なお、実施の形態2において、先に説明し
た実施の形態1と同様の構成については、同一の符号を
付して説明を省略し、さらに、同一の動作についても説
明を省略する。また、実施の形態2においても、実施の
形態1と同一のプログラムが実行されるものとする。
【0058】図10において、本発明の方向指示装置
は、実施の形態1の構成に加え、方向推定部4にて推定
された二次元動きベクトルに基づいて座標で示される位
置情報を更新する座標更新部5と、前記座標で示される
位置情報に基づいてその位置を画面に表示する座標表示
部6と、を備えている。
【0059】上記のように構成される方向指示装置にお
いて、座標更新部5は、座標表示用メモリを有する構成
とし、たとえば、現在該メモリ上に保持されている画面
上のポインタの座標に、方向推定部4の出力した二次元
動きベクトルを加算することにより、ポインタの座標を
更新している。さらに、座標表示部6は、ポインタを表
示するための画面を有する構成とし、座標更新部5によ
り更新された座標に基づいて、画面上にポインタを表示
する。
【0060】図11および図12は、本実施の形態の構
成を利用した具体例を示すものである。たとえば、図1
1は、本実施の形態の構成を、パソコン用インターフェ
ースであるマウスとして応用した場合を示すものであ
る。この場合、マウスは、実施の形態1に示す方向指示
プログラム、および画像センサを内蔵しており、たとえ
ば、支持台の上でマウスを矢印の方向に動かすと、マウ
スから出力された方向指示プログラムの出力情報、すな
わち、二次元動きベクトルは、ケーブルを介して、座標
更新部5および座標表示部6の機能が実装されている計
算機に入力される。
【0061】そして、座標更新部5では、計算機のメモ
リ上で保持されているポインタの座標を上記の方法で更
新し、座標表示部6では、更新された座標に基づいて画
面上のポインタを位置11から位置12に移動する。な
お、本実施の形態では、マウス操作を、従来のマウスと
同様に、机上で繰作する場合について示したが、マウス
の動きを光学的に撮影ことができるため、実際は操作す
る場所を選ばない。
【0062】一方、図12は、図11とは異なる具体例
として、本実施の形態の構成を、講演会などでスクリー
ンを指し示すためのペンとして応用した場合を示すもの
である。この場合、ペンは、実施の形態1で示した方向
指示プログラム、および画像センサを内蔵しており、た
とえば、人間(講演者)が空間内を矢印の方向に動かす
と、ペンから出力された方向指示プログラムの出力情
報、すなわち、二次元動きベクトルは、無線通信等で、
座標更新部5および座標表示部6の機能が実装されてい
る計算機に入力される。
【0063】そして、座標更新部5では、計算機のメモ
リ上で保持されているポインタの座標を上記の方法で更
新し、座標表示部6では、更新された座標に基づいてス
クリーン上のポインタを位置13から位置14に移動す
る。なお、ペンにて指し示されたポインタは、座標表示
部6の機能を実現する投影機を通じて、スクリーン上に
表示される。
【0064】このように、本実施の形態によれば、実施
の形態1に加え、座標更新部5と座標表示部6を有して
いるので、特別に操作スペース(平らな場所等)を確保
する必要のないマウスを実現することができるととも
に、さらに、撮影される二次元画像を用いて、スクリー
ン上に表示されるポインタ等を移動できる特性を利用し
て、会議や講演などでスクリーン上を指し示すポインテ
ィングデバイス(従来のペンライトやスティックに相当
するもの)を実現することができる。また、上記特性を
利用すれば、さらに、ゲーム操作用のポインティングデ
バイス(シューティングゲームやキャラクタを移動させ
るゲームの操作)、を実現することも可能である。
【0065】実施の形態3.図13は、本発明にかかる
方向指示装置における実施の形態3の構成を示すブロッ
ク図である。なお、実施の形態3において、先に説明し
た実施の形態1と同様の構成については、同一の符号を
付して説明を省略し、さらに、同一の動作についても説
明を省略する。また、実施の形態3においても、実施の
形態1と同一のプログラムが実行されるものとする。
【0066】図13において、本発明の方向指示装置
は、実施の形態1を構成する画像入力部1と射影計算部
2に代えて、画像処理機能を有する画像センサにより撮
影される二次元画像のデータに基づいてその二次元画像
全体に関する複数方向の射影を出力するか、および、現
時刻の射影出力と前時刻の射影出力との差分を算出する
半導体集積回路(たとえば、後述の人工網膜LSI等)
である射影出力部21を備えている。なお、射影出力部
21から出力される射影出力は、図2に示す列射影と行
射影と同等のものである。また、射影出力部21は、二
次元画像全体に関する複数方向の射影だけを出力するこ
ととしてもよい。この場合、本実施の形態の動作は、実
施の形態1と同様である。
【0067】上記のように構成される方向指示装置にお
いて、射影出力部21が前記差分を出力する場合、動き
算出部3では、該差分に基づいて、個々の一次元動きベ
クトルを算出する。
【0068】つぎに、上記半導体集積回路にて現時刻の
射影出力と前時刻の射影出力との差分を算出する場合
の、動き算出部3の動作を、図14のフローチャートに
従って説明する。
【0069】まず、動き算出部3では、射影出力部21
が出力した射影を取得し、その射影を、配列prev_
projへ格納する(ステップS31)。つぎに、動き
算出部3は、射影出力部21が出力した前時刻の射影と
現時刻の射影との差分を取得し、配列diff_pro
jへ格納する(ステップS32)。つぎに、配列dif
f_projと配列prev_projとを用いて、各
要素毎に、一次元動きベクトルの計算を行い、そのすべ
ての結果を配列vect_projに格納する(ステッ
プS33)。なお、一次元動きベクトルを計算する動作
の詳細については、先に説明した図6と同様のため、説
明を省略する。
【0070】そして、最後に、動き算出部3は、すべて
の一次元動きベクトルを計算後、ステップS33で得ら
れた一次元動きベクトルのノイズを削減するため、配列
vect_projを平滑化して出力する(ステップS
34)。
【0071】なお、上記本実施の形態の方向支持装置に
て、射影出力部2に含まれる画像センサの例として、た
とえば雑誌「Nature,“Artificial
Retinas―Fast, Versatile I
mage Processors" 」(vol.37
2, No.6502,pp197−198,199
4)、および、特開平8−242265に記載された人
工網膜LSIを用いれば、入力画像から直接、列射影と
行射影を出力できるので、実施の形態1で実現されるシ
ステムの動作をさらに高速化することが可能である。さ
らに、上記LSIによれば、後段の処理に必要なプロセ
ッサをより安価なものに置き換えることができるので、
システム全体としてのコストダウンも可能である。
【0072】実施の形態4.図15は、本発明にかかる
方向指示装置における実施の形態4の構成を示すブロッ
ク図である。なお、実施の形態4において、先に説明し
た実施の形態3と同様の構成については、同一の符号を
付して説明を省略し、さらに、同一の動作についても説
明を省略する。また、実施の形態4においても、実施の
形態1と同一のプログラムが実行されるものとする。
【0073】図15において、本発明の方向指示装置
は、実施の形態3の構成に加え、方向推定部4にて推定
された二次元動きベクトルに基づいて座標で示される位
置情報を更新する座標更新部5と、前記座標で示される
位置情報に基づいてその位置を画面に表示する座標表示
部6と、を備えている。
【0074】上記のように構成される方向指示装置にお
いて、座標更新部5は、座標表示用メモリを有する構成
とし、たとえば、現在該メモリ上に保持されている画面
上のポインタの座標に、方向推定部4の出力した二次元
動きベクトルを加算することにより、ポインタの座標を
更新している。さらに、座標表示部6は、ポインタを表
示するための画面を有する構成とし、座標更新部5によ
り更新された座標に基づいて、画面上にポインタを表示
する。なお、本実施の形態の構成を利用した具体例とし
ては、先に説明した図11および図12がある。
【0075】このように、本実施の形態によれば、実施
の形態3に加え、座標更新部5と座標表示部6を有して
いるので、特別に操作スペース(平らな場所等)を確保
する必要のないマウスを実現することができるととも
に、さらに、撮影される二次元画像を用いて、スクリー
ン上に表示されるポインタ等を移動できる特性を利用し
て、会議や講演などでスクリーン上を指し示すポインテ
ィングデバイス(従来のペンライトやスティックに相当
するもの)を実現することができる。また、上記特性を
利用すれば、さらに、ゲーム操作用のポインティングデ
バイス(シューティングゲームやキャラクタを移動させ
るゲームの操作)、を実現することも可能である。
【0076】
【発明の効果】以上、説明したとおり、この発明によれ
ば、データ数を大幅に削減でき、それに伴って、CPU
による計算量およびデータを格納するためのメモリ容量
を大幅に削減できるため、すなわち、安価なCPUおよ
びメモリを実装できるため、低コストのシステムで、た
とえば、ポインティングデバイス等の機能を実現するこ
とができる、という効果を奏する。さらに、CPUによ
る計算量およびデータを格納するためのメモリ容量を大
幅に削減できることから、高速化も実現できる、という
効果を奏する。さらに、本発明の方向指示装置をマウス
として使用した場合、このマウスは、画像処理による動
き認識であるため、従来のトラックボールによる機械式
マウスのように、特別に操作スペース(平らな場所等)
を確保する必要がなく、さらに、摩擦の少ない場所や垂
直な面(壁等)等の場所においても、画面上のポインタ
を安定的に動作させることができる、という効果を奏す
る。
【0077】つぎの発明によれば、特別に操作スペース
(平らな場所等)を確保する必要のないマウスを実現す
ることができるとともに、さらに、撮影される二次元画
像を用いて、スクリーン上に表示されるポインタ等を移
動できる特性を利用して、会議や講演などでスクリーン
上を指し示すポインティングデバイス(従来のペンライ
トやスティックに相当するもの)や、ゲーム操作用のポ
インティングデバイス(シューティングゲームやキャラ
クタを移動させるゲームの操作)、を実現することがで
きる、という効果を奏する。
【0078】つぎの発明によれば、データ数を大幅に削
減でき、それに伴って、CPUによる計算量およびデー
タを格納するためのメモリ容量を大幅に削減できできる
ため、すなわち、安価なCPUおよびメモリを実装でき
るため、より低コストのシステムで、たとえば、ポイン
ティングデバイス等の機能を実現することができる、と
いう効果を奏する。さらに、CPUによる計算量および
データを格納するためのメモリ容量を大幅に削減できる
ことから、さらなる高速化も実現できる、という効果を
奏する。さらに、本発明の方向指示装置をマウスとして
使用した場合、このマウスは、画像処理による動き認識
であるため、従来のトラックボールによる機械式マウス
のように、特別に操作スペース(平らな場所等)を確保
する必要がなく、さらに、摩擦の少ない場所や垂直な面
(壁等)等の場所においても、画面上のポインタを安定
的に動作させることができる、という効果を奏する。
【0079】つぎの発明によれば、動き算出手段にて行
う現時刻の射影出力と前時刻の射影出力との差の計算を
行う必要がなくなる。これにより、本発明の方向指示装
置は、CPUによる計算量をさらに大幅に削減すること
ができ、伴って、より高速な動作を実現できる、という
効果を奏する。
【0080】つぎの発明によれば、半導体集積回路とし
て動作する、たとえば、人工網膜LSIが、画像センサ
により撮影される二次元画像のデータから、その二次元
画像全体に関する複数方向の射影、および現時刻の射影
出力と前時刻の射影出力の差分、の少なくともいずれか
一方を自動的に出力する。これにより、本発明の方向指
示装置は、CPUによる計算量をさらに大幅に削減する
ことができ、全体のソフトウェア量も大幅に削減するこ
とができる、という効果を奏する。
【0081】つぎの発明によれば、特別に操作スペース
(平らな場所等)を確保する必要のないマウスを実現す
ることができるとともに、さらに、撮影される二次元画
像を用いて、スクリーン上に表示されるポインタ等を移
動できる特性を利用して、会議や講演などでスクリーン
上を指し示すポインティングデバイス(従来のペンライ
トやスティックに相当するもの)や、ゲーム操作用のポ
インティングデバイス(シューティングゲームやキャラ
クタを移動させるゲームの操作)、を実現することがで
きる、という効果を奏する。
【0082】つぎの発明によれば、この方法により、本
発明の方向指示装置は、データ数を大幅に削減でき、そ
れに伴って、CPUによる計算量およびデータを格納す
るためのメモリ容量を大幅に削減できるため、すなわ
ち、安価なCPUおよびメモリを実装できるため、低コ
ストのシステムで、たとえば、ポインティングデバイス
等の機能を実現することができる、という効果を奏す
る。さらに、CPUによる計算量およびデータを格納す
るためのメモリ容量を大幅に削減できることから、高速
化も実現できる、という効果を奏する。さらに、この方
法を用いて、本発明の方向指示装置をマウスとして使用
した場合、このマウスは、画像処理による動き認識であ
るため、従来のトラックボールによる機械式マウスのよ
うに、特別に操作スペース(平らな場所等)を確保する
必要がなく、さらに、摩擦の少ない場所や垂直な面(壁
等)等の場所においても、画面上のポインタを安定的に
動作させることができる、という効果を奏する。
【0083】つぎの発明によれば、一次元動きベクトル
の算出アルゴリズムが明確化される。これにより、正確
な一次元動きベクトルを容易に算出可能となる、という
効果を奏する。
【0084】つぎの発明によれば、このプログラムが実
行されることにより、本発明の方向指示装置は、データ
数を大幅に削減でき、それに伴って、CPUによる計算
量およびデータを格納するためのメモリ容量を大幅に削
減できるため、すなわち、安価なCPUおよびメモリを
実装できるため、低コストのシステムで、たとえば、ポ
インティングデバイス等の機能を実現することができ
る、という効果を奏する。さらに、CPUによる計算量
およびデータを格納するためのメモリ容量を大幅に削減
できることから、高速化も実現できる、という効果を奏
する。さらに、このプログラムをダウンロードして、本
発明の方向指示装置をマウスとして使用した場合、この
マウスは、画像処理による動き認識であるため、従来の
トラックボールによる機械式マウスのように、特別に操
作スペース(平らな場所等)を確保する必要がなく、さ
らに、摩擦の少ない場所や垂直な面(壁等)等の場所に
おいても、画面上のポインタを安定的に動作させること
ができる、という効果を奏する。さらに、コンピュータ
からのダウンロードが可能なため、プログラムの変更お
よび追加等の作業を容易に行うことができる、という効
果を奏する。
【0085】つぎの発明によれば、一次元動きベクトル
の算出アルゴリズムが明確化される。これにより、正確
な一次元動きベクトルを容易に算出可能となる、という
効果を奏する。また、コンピュータからのダウンロード
が可能なため、プログラムの変更および追加等の作業を
容易に行うことができる、という効果を奏する。
【0086】従って、本発明によれば、特別に操作スペ
ースを確保する必要がなく、さらに、摩擦の少ない場所
や垂直な面(壁等)等の場所においても、画面上のポイ
ンタを安定的に動作させることができるとともに、安価
なCPUおよび小容量のメモリを使用することにより、
低コストでの実装を実現可能な方向指示装置を提供する
ことができる。
【図面の簡単な説明】
【図1】 本発明にかかる方向指示装置の実施の形態1
の構成を示すブロック図である。
【図2】 撮影される二次元画像と、列射影および行射
影の一例を示す説明図である。
【図3】 一次元動きベクトルを計算するための射影の
動きと射影値の変化を示す説明図である。
【図4】 前時刻の射影と現時刻の射影の一例と、一次
元動きベクトルの推定方向を示す図である。
【図5】 本発明にかかる方向指示装置における一次元
動きベクトル算出方法を示すフローチャートである。
【図6】 一次元動きベクトルの算出における詳細アル
ゴリズムを示すフローチャートである。
【図7】 本発明にかかる方向指示装置における二次元
動きベクトル算出方法を示すフローチャートである。
【図8】 算出される射影の具体例を示す説明図であ
る。
【図9】 画像センサおよび方向推定プログラムを内蔵
する方向指示装置の全体構成を示すブロック図である。
【図10】 本発明にかかる方向指示装置の実施の形態
2の構成を示すブロック図である。
【図11】 実施の形態2の具体例を示す説明図であ
る。
【図12】 実施の形態2の具体例を示す説明図であ
る。
【図13】 本発明にかかる方向指示装置の実施の形態
3の構成を示すブロック図である。
【図14】 本発明にかかる方向指示装置における一次
元動きベクトル算出方法を示すフローチャートである。
【図15】 本発明にかかる方向指示装置の実施の形態
4の構成を示すブロック図である。
【符号の説明】
1 画像入力部、2 射影算出部、3 動き算出部、4
方向推定部、5 座標更新部、6 座標表示部、7
二次元画像、8 列射影、9 行射影、11,12,1
3,14 ポインタ、21 射影出力部、101 制御
部、102 メモリ部、103 入出力部、104 画
像センサ、105 計算機。
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 DA07 DB02 DC02 DC03 DC08 DC19 5B087 AA01 AA06 AA09 AE03 BC03 BC12 BC32 CC09 CC26 CC33 DD03 DJ00 DJ01

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 画像センサにより撮影される二次元画像
    のデータを入力する画像入力手段と、 前記画像入力手段に入力されるデータに基づいて、その
    二次元画像全体に関する複数方向の射影を算出する射影
    算出手段と、 前記射影算出手段にて算出された射影に基づいて、個々
    の一次元動きベクトルを算出する動き算出手段と、 前記動き算出手段にて算出された一次元動きベクトルに
    基づいて、撮影された二次元画像全体の二次元動きベク
    トルを推定する方向推定手段と、 を備えることを特徴とする方向指示装置。
  2. 【請求項2】 前記方向推定手段にて推定された二次元
    動きベクトルに基づいて、座標で示される位置情報を更
    新する座標更新手段と、 前記座標で示される位置情報に基づいて、その位置を画
    面に表示する座標表示手段と、 を備えることを特徴とする請求項1に記載の方向指示装
    置。
  3. 【請求項3】 画像処理機能を有する画像センサにより
    撮影される二次元画像のデータに基づいて、その二次元
    画像全体に関する複数方向の射影を出力する射影出力手
    段と、 前記射影出力手段にて出力された射影に基づいて、個々
    の一次元動きベクトルを算出する動き算出手段と、 前記動き算出手段にて算出された一次元動きベクトルに
    基づいて、撮影された二次元画像全体の二次元動きベク
    トルを推定する方向推定手段と、 を備えることを特徴とする方向指示装置。
  4. 【請求項4】 前記射影出力手段は、さらに、現時刻の
    射影出力と前時刻の射影出力との差分を算出し、 前記動き算出手段では、該差分に基づいて、個々の一次
    元動きベクトルを算出することを特徴とする請求項3に
    記載の方向指示装置。
  5. 【請求項5】 前記射影出力手段は、前記二次元画像に
    関する複数方向の射影、および前記現時刻の射影出力と
    前時刻の射影出力の差分、の少なくともいずれか一方の
    出力を実現可能とする半導体集積回路、であることを特
    徴とする請求項3または4に記載の方向指示装置。
  6. 【請求項6】 前記方向推定手段にて推定された二次元
    動きベクトルに基づいて、座標で示される位置情報を更
    新する座標更新手段と、 前記座標で示される位置情報に基づいて、その位置を画
    面に表示する座標表示手段と、 を備えることを特徴とする請求項3〜5のいずれか一つ
    に記載の方向指示装置。
  7. 【請求項7】 画像センサにより撮影される二次元画像
    から、その二次元画像全体に関する複数方向の射影を計
    算することにより、動作方向を推定可能な方向指示装置
    の方向推定方法において、 得られる二次元画像に関する複数方向の射影に基づい
    て、現時刻の射影出力と前時刻の射影出力との差分を計
    算し、その差分から個々の一次元動きベクトルを算出す
    る動き算出ステップと、 前記動き算出ステップにて算出された個々の一次元動き
    ベクトルを合成することにより、撮影された二次元画像
    全体の二次元動きベクトルを推定する方向推定ステップ
    と、 を含むことを特徴とする方向指示装置の方向推定方法。
  8. 【請求項8】 前記動き算出ステップでは、 ある位置の現時刻の射影出力と前時刻の射影出力とが変
    化していない場合か、または、変化している場合でも、
    現時刻あるいは前時刻を参照時刻として選択し、参照時
    刻における二つの隣接射影出力とが同じ射影出力である
    場合は、方向を推定せず、 ある位置の現時刻の射影出力と前時刻の射影出力との差
    分が正の場合は、前時刻における二つの隣接射影出力の
    うち、射影出力の小さい方に、方向を推定し、 ある位置の現時刻の射影出力と前時刻の射影出力との差
    分が負の場合は、前時刻における二つの隣接射影出力の
    うち、射影出力の大きい方に、方向を推定し、 すべての位置について、方向を推定後、一次元動きベク
    トルを算出することを特徴とする請求項7に記載の方向
    指示装置の方向推定方法。
  9. 【請求項9】 画像センサにより撮影される二次元画像
    から、その二次元画像全体に関する複数方向の射影を計
    算し、その計算結果から動作方向の推定処理を行わせる
    ためのプログラムを記録した記録媒体において、 得られる二次元画像に関する複数方向の射影に基づい
    て、現時刻の射影出力と前時刻の射影出力との差分を計
    算させ、その差分から個々の一次元動きベクトルを算出
    させる動き算出ステップと、 前記動き算出ステップにて算出された個々の一次元動き
    ベクトルを合成することにより、撮影された二次元画像
    全体の二次元動きベクトルを推定させる方向推定ステッ
    プと、 を含むプログラムを記録したコンピュータ読み取り可能
    な記録媒体。
  10. 【請求項10】 請求項9に記載のプログラムを記録し
    た記録媒体において、 ある位置の現時刻の射影出力と前時刻の射影出力とが変
    化していない場合か、または、変化している場合でも、
    現時刻あるいは前時刻を参照時刻として選択し、参照時
    刻における二つの隣接射影出力とが同じ射影出力である
    場合は、方向を推定せず、 ある位置の現時刻の射影出力と前時刻の射影出力との差
    分が正の場合は、前時刻における二つの隣接射影出力の
    うち、射影出力の小さい方に、方向を推定し、 ある位置の現時刻の射影出力と前時刻の射影出力との差
    分が負の場合は、前時刻における二つの隣接射影出力の
    うち、射影出力の大きい方に、方向を推定し、 すべての位置について方向を推定後、一次元動きベクト
    ルを算出するステップ、を含むプログラムを記録したコ
    ンピュータ読み取り可能な記録媒体。
JP11013422A 1999-01-21 1999-01-21 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体 Pending JP2000214992A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP11013422A JP2000214992A (ja) 1999-01-21 1999-01-21 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体
US09/295,412 US6377241B1 (en) 1999-01-21 1999-04-21 Direction instructing apparatus direction estimating apparatus and a computer-readable storage medium containing a program for the same stored thereon

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11013422A JP2000214992A (ja) 1999-01-21 1999-01-21 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体

Publications (1)

Publication Number Publication Date
JP2000214992A true JP2000214992A (ja) 2000-08-04

Family

ID=11832706

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11013422A Pending JP2000214992A (ja) 1999-01-21 1999-01-21 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体

Country Status (2)

Country Link
US (1) US6377241B1 (ja)
JP (1) JP2000214992A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002063578A (ja) * 2000-08-21 2002-02-28 Mitsubishi Electric Corp 動き情報検知装置及び動き情報検知方法及び動き情報検知プログラムを記録した記録媒体
KR100744189B1 (ko) * 2005-09-22 2007-08-01 주식회사 케이티 공간점유 상태 감지 시스템 및 그 방법

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003518284A (ja) * 1999-12-22 2003-06-03 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ポインタ座標割当て
JP4018326B2 (ja) * 2000-08-07 2007-12-05 キヤノン株式会社 座標入力装置及びその制御方法、コンピュータ可読メモリ
US7180429B2 (en) * 2002-02-14 2007-02-20 Intel Corporation Slow motion detection system
KR100642499B1 (ko) * 2005-12-02 2006-11-10 주식회사 애트랩 광 네비게이션 장치 및 이의 동작 방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5502459A (en) 1989-11-07 1996-03-26 Proxima Corporation Optical auxiliary input arrangement and method of using same
JP2622620B2 (ja) 1989-11-07 1997-06-18 プロクシマ コーポレイション コンピュータにより発生されたデイスプレイ可視像を変更するためのコンピュータ入力システム
US5504501A (en) 1989-11-07 1996-04-02 Proxima Corporation Optical input arrangement and method of using same
US5326940A (en) * 1992-06-23 1994-07-05 Calcomp Inc. Dynamically-adjustable scanning rate in digitizers
JPH07234938A (ja) 1994-02-23 1995-09-05 Matsushita Electron Corp 画像位置・動き検出方法
JPH07261920A (ja) 1994-03-17 1995-10-13 Wacom Co Ltd 光学式位置検出装置および光学式座標入力装置
US5528263A (en) 1994-06-15 1996-06-18 Daniel M. Platzker Interactive projected video image display system
JPH08242265A (ja) 1995-03-02 1996-09-17 Omron Corp 通信条件設定方法および通信端末装置
JPH0965195A (ja) 1995-08-25 1997-03-07 Fujitsu Ltd 動き検出方法、動き検出装置及び動き検出撮像装置
US5786804A (en) 1995-10-06 1998-07-28 Hewlett-Packard Company Method and system for tracking attitude

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002063578A (ja) * 2000-08-21 2002-02-28 Mitsubishi Electric Corp 動き情報検知装置及び動き情報検知方法及び動き情報検知プログラムを記録した記録媒体
KR100744189B1 (ko) * 2005-09-22 2007-08-01 주식회사 케이티 공간점유 상태 감지 시스템 및 그 방법

Also Published As

Publication number Publication date
US6377241B1 (en) 2002-04-23

Similar Documents

Publication Publication Date Title
US7634143B2 (en) Image processing apparatus and method, recording medium, and program
KR102256706B1 (ko) 부드럽게 변화하는 포비티드 렌더링
TWI543610B (zh) 電子裝置及其影像選擇方法
JP4916548B2 (ja) 画像のドミナントライン(dominantline)の確定及び使用
CN110322542B (zh) 重建真实世界3d场景的视图
US11776142B2 (en) Structuring visual data
US8599320B2 (en) Picture processing apparatus, processing method for use therewith, and program
US20100066860A1 (en) Image processing device, dynamic image reproduction device, and processing method and program in them
US10665024B2 (en) Providing recording guidance in generating a multi-view interactive digital media representation
US20160142650A1 (en) Methods, systems and apparatuses for multi-directional still pictures and/or multi-directional motion pictures
WO2018233623A1 (zh) 图像显示的方法和装置
US11044398B2 (en) Panoramic light field capture, processing, and display
US11245887B2 (en) Electronic device and operation method therefor
US20230117311A1 (en) Mobile multi-camera multi-view capture
CN112368737A (zh) 将基于图像的跟踪操作从通用处理单元卸载到硬件加速器单元的系统和方法
US11494961B2 (en) Sticker generating method and apparatus, and medium and electronic device
JP2000214992A (ja) 方向指示装置および方向推定方法、並びにその方法にかかるプログラムを記録したコンピュ―タ読み取り可能な記録媒体
López et al. Head-tracking virtual 3-D display for mobile devices
US11770551B2 (en) Object pose estimation and tracking using machine learning
JP4652536B2 (ja) 動き情報検知装置及び動き情報検知方法及び動き情報検知プログラムを記録した記録媒体
JP7293362B2 (ja) 撮影方法、装置、電子機器及び記憶媒体
CN111095922B (zh) 电子设备及其操作方法
US11948257B2 (en) Systems and methods for augmented reality video generation
US20230196658A1 (en) Enclosed multi-view visual media representation
JP2511771B2 (ja) 画像メモリ式画像生成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051226

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20061004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080304