JP2006018472A - ポインティングデバイス - Google Patents
ポインティングデバイス Download PDFInfo
- Publication number
- JP2006018472A JP2006018472A JP2004194341A JP2004194341A JP2006018472A JP 2006018472 A JP2006018472 A JP 2006018472A JP 2004194341 A JP2004194341 A JP 2004194341A JP 2004194341 A JP2004194341 A JP 2004194341A JP 2006018472 A JP2006018472 A JP 2006018472A
- Authority
- JP
- Japan
- Prior art keywords
- head
- unit
- image
- projection curve
- absolute difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Processing (AREA)
- Position Input By Displaying (AREA)
- Image Analysis (AREA)
Abstract
【課題】 使用者に拘束条件を与えず、特殊なデバイスを必要とせず、またあらかじめデータ作成を必要としないポインティングデバイスを提供することを目的とする。
【解決手段】
ユーザーの頭部及び頭部周辺の画像を取り込むカメラと、取り込まれた画像から頭部画像の切り出しを行なう頭部画像切り出し部1と、切り出した頭部画像から投影曲線生成を行なう投影曲線生成部2と、列方向の投影曲線から絶対差分を求める列相関度演算部3と、行方向の投影曲線から絶対差分を求める行相関度演算部4と、前記列相関度演算部3の絶対差分と行相関度演算部4の絶対差分から頭部回転運動方向検出を行なう頭部回転運動方向検出部5とからなることを特徴とするポインティングデバイス。
【選択図】 図2
【解決手段】
ユーザーの頭部及び頭部周辺の画像を取り込むカメラと、取り込まれた画像から頭部画像の切り出しを行なう頭部画像切り出し部1と、切り出した頭部画像から投影曲線生成を行なう投影曲線生成部2と、列方向の投影曲線から絶対差分を求める列相関度演算部3と、行方向の投影曲線から絶対差分を求める行相関度演算部4と、前記列相関度演算部3の絶対差分と行相関度演算部4の絶対差分から頭部回転運動方向検出を行なう頭部回転運動方向検出部5とからなることを特徴とするポインティングデバイス。
【選択図】 図2
Description
本発明は、ポインティングデバイスに関する。
現在コンピュータを利用する際に、キーボードやマウスといったインタフェースが多く利用されている。コンピュータの高性能化、低価格化や一般への普及に従って、身体の不自由なユーザーなどにとっても負担が少なく、従来のものよりもより使い易いインタフェースが望まれてきている。そのため、顔領域、顔、目、髪領域、人物領域などを用いてポインタを制御する方法が開発されている。
しかし、現在の技術ではあらかじめ顔の角度や鼻領域のテンプレートを作成する必要がある場合や、背景のデータを登録する必要がある場合があり、使用者の意図通りに円滑にポインタを動かせなかったり、肌の色や環境の変化によって大きく影響を受けてしまったりすることがあった。また、特殊なデバイスを用いる必要がある場合や機器の装着といったユーザーに拘束条件を与えてしまう場合があった。
本発明は、このような従来の技術的課題に鑑みてなされたもので、使用者に拘束条件を与えず、特殊なデバイスを必要とせず、またあらかじめデータ作成を必要とせず、使用方法が簡単で、しかも顔を動かすことによって正確にポインタを移動操作することができるポインティングデバイスを提供することを目的とする。
請求項1の発明のポインティングデバイスは、ユーザーの頭部及び頭部周辺の画像を撮像するカメラと、前記カメラの撮像した画像から頭部画像の切り出しを行なう頭部画像切り出し部と、切り出した頭部画像から投影曲線生成を行なう投影曲線生成部と、前記投影曲線から変化量の算出を行なう変化量算出部と、前記変化量算出部の算出結果に基づいてディスプレイに表示されているポイントを移動させる表示制御部とを備え、前記頭部画像切り出し部は、HLS表色系変換式によりHLS表色系に変換するHLS変換部と、H(色相)における閾値処理を行なって肌色を抽出する2値化部と、前記2値化部が抽出した肌色領域を切り出す頭部領域切り出し部とを有することを特徴とするものである。
請求項2の発明は、請求項1のポインティングデバイスにおいて、前記投影曲線生成部は、前記頭部画像切り出し部の切り出した頭部画像フレームに対して、隣接フレームである前フレームの画像と現在フレームの画像それぞれから生成した投影曲線を逐次比較することを特徴とするものである。
請求項3の発明は、請求項1又は2のポインティングデバイスにおいて、前記変化量算出部は、列方向の投影曲線から絶対差分を求める列相関度演算部と、行方向の投影曲線から絶対差分を求める行相関度演算部と、前記列相関度演算部の絶対差分と行相関度演算部の絶対差分から頭部回転運動方向検出を行なう頭部回転運動方向検出部とを有することを特徴とするものである。
本発明によれば、使用者に拘束条件を与えず、特殊なデバイスを必要とせず、またあらかじめデータ作成を必要とせず、しかも使用者の顔の動きによって正確にポインタを移動操作することができる。
以下、本発明の実施の形態を図に基づいて詳説する。図1は本発明の1つの実施の形態のポインティングデバイスのシステム構成を示していて、使用者の頭部の画像を撮像するカメラ101、このカメラ101の撮像信号をコンピュータ100内に取り込むインタフェース102、このインタフェース102によって取り込まれた画像信号を後述する方法で処理して使用者の頭部の動きを解析するビデオ信号処理部103、このビデオ信号処理部103の解析結果に基づいてディスプレイ106の画面に表示されているポインタ107の移動方向と移動距離を決定するポイント移動制御処理部104、ディスプレイ106に対して画像表示信号を出力するビデオカード105を備えている。
図2は上記実施の形態のポインティングデバイスの演算処理機能を示した図である。本実施の形態のポインティングデバイスは、前処理として、特徴抽出の精度向上のために頭部画像切り出しを行なう頭部画像切り出し部1と、切り出した頭部画像の特徴抽出を行なう投影曲線生成部2と、投影曲線から変化量算出を行なう列相関度演算部3、行相関度演算部4及び頭部回転運動方向検出部5とで構成されている。
次に、上記のポインティングデバイスの処理方法について説明する。
(前処理)図3は本実施の形態のポインティングデバイスの前処理の機能構成を示した図である。頭部画像切り出し部1による前処理は、HLS表色系変換式によりHLS表色系に変換するHLS変換部6と、H(色相)における閾値処理を行なう2値化部7と、モルフォロジー処理を行なうノイズ除去部8と、ラベリング処理を行なうノイズ除去部9及び矩形領域切り出し部10で構成されている。
図4はRGB色空間、YCC色空間、HLS色空間の特徴を説明した図である。本実施の形態では、図4に示すように肌色領域の抽出を、入力RGB画像を(1)式に従いYCC画像に変換し、YCC画像を(2)式に従ってHLS表色系に変換した後、色相において肌に属する範囲を抽出する。
図5は、HLS表色系の肌色抽出における特性図である。HLS表色系を利用する利点はRGB表色系に比べ、3つの要素、色相(Hue)、彩度(Saturation)、明度(Light)間の相関性が低く、また図5に示すとおり肌色が色相情報を利用することで比較的容易に抽出でき照明条件により発生する明度変化に強いことが挙げられる。HLS表色系においては、肌色が色相(Hue)情報においてある一定の範囲に属することが知られている。そこで閾値処理により肌領域と非肌領域からなる2値画像を作成する。得られた2値画像において背景に含まれる肌色に近い部分も肌領域ノイズとして抽出されてしまう。ここで背景に含まれるノイズは実際の肌色領域に比べ、2値化処理を施した際に小さな点として出てくるため、モルフォロジー(膨張収縮)処理を施すことで大半を除去することが可能である。図6はモロフォロジー処理の収縮膨張それぞれの説明図である。
しかしながらモロフォロジー処理では完全にノイズを除去することはできず、頭部領域と、その他の小さな島がいくらか残ってしまう。そこで提案手法ではラベリング処理を行うことで各領域の面積を算出し、画像内で頭部における肌領域が最大であるという仮定のもと頭部領域を抽出する。図7はラベリング処理についての説明図である。最大の肌色部を頭部として認識し、肌色画素の最大最小座標より矩形を切り出す。
図8は前処理の各段階で得られた画像を示しており、正面画像、上を向いた画像、眼鏡をかけているときの画像の3通りを並べている。(a)が閾値処理による2値化後画像、(b)はモルフォロジー処理の収縮処理後画像、(c)はモルフォロジー処理の膨張処理後画像、(d)はラベリング処理後の画像であり、(e)は頭部矩系領域抽出画像である。
(特徴抽出)頭部画像の特徴抽出に際して、本実施の形態では投影曲線を利用している。図9は本実施の形態の投影曲線生成の説明図である。投影曲線を生成する際、前処理段階で算出した色相(Hue)情報を利用する。これは実際の撮影環境において照明条件による局所的な輝度値の変化の影響を少なくするためである。また、水平方向、垂直方向それぞれの投影曲線を生成している。図10は水平方向回転時の投影曲線を具体的に示した図である。頭部の回転によって投影曲線が変化しているのが見て取れる。
図11は本実施の形態のフレーム間における投影処理の説明図である。頭部の回転運動方向を、隣接フレームである前フレーム11と現在フレーム12の画像を逐次比較していくことで算出している。頭部画像の切り出し範囲はフレームごとに逐次変化してしまう。そのため投影処理により特徴量を抽出し、頭部の投影曲線が前フレームからどの程度シフトしたかを算出するためには、フレーム毎に検出頭部領域の投影をとるのではなく、常に現在フレームで、一つ前のフレームにおいて頭部領域として抽出された領域における投影をとる必要があるためである。
(変化量の算出)頭部画像の投影曲線は、頭部の各部位の特徴を反映しており、顔向きの微小変化における投影曲線同士の形状変化は比較的少ない。図12、図13に示すように、ここで、k番目、k+1番目の画像についての列方向投影曲線を各々gkx(n),g(k+1)x(n)とし、gkx(n)をδxだけシフトした曲線gkx(n+δx)とg(k+1)x(n)の曲線の相関値Rx(δ)を(3)式を用いて計算し、最小値をマッチングポイントとすることでシフト量δ* xを求める。
(回転運動方向の検出)上述の水平(行)、垂直(列)方向のシフト量から頭部の回転運動方向を逐次検出していく。図14は使用者が頭部を水平回転させたときの列方向、行方向投影曲線の変化を示し、図15は垂直回転運動のときの列方向、行方向投影曲線の変化を示している。移動投影処理において生成される投影曲線は頭部の上下、左右回転運動に際して互いに影響を受けないことが分かる。そこで、回転運動方向の検出に関しては頭部2自由度剛体モデルを使用し、列、行双方のシフト量から傾きを求めることができる。
アルゴリズムを実際に計算機に実装し、動作認識実験を行った。画像の取り込みには市販のUSBカメラを使用し、7フレーム/秒程度で処理を行った。図16に実際に頭部の回転運動によるマウスカーソルの動きを示す。ここでは水平方向(上図)、垂直方向(下図)の動きでマウスカーソルを動かしている。線で囲んだ矩形領域は前処理段階で自動的に肌領域を切り出したものである。上を向いた際に照明により輝度が大きく変化しているが色相情報を使っているため影響が小さく肌領域を抽出できていることがわかる。また、メガネによる顔の遮蔽、表情変化による追従性の低下は起きなかった。
以上のように本実施の形態によれば、カメラの前に使用者が座って首を水平方向、垂直方向に回転させ、あるいは斜めに首を回転させることでポインタをディスプレイの画面上に所望の方向に移動させることができ、使用者に拘束条件を与えず、特殊なデバイスを必要とせず、またあらかじめデータ作成を必要とせず、しかも使用者の頭部を回転させる動きによってポインタを移動操作することができる。
なお、本発明はポインティングデバイスのみならず、コンピュータ100内で実行する投影曲線生成処理、シフト量演算処理のソフトウェアをも特徴とするものであり、ハードウェアに限定されるものではない。
1 頭部画像切り出し部
2 投影曲線生成部
3 列相関度演算部
4 行相関度演算部
5 頭部回転運動方向検出部
6 HLS変換部
7 2値化部
8,9 ノイズ除去部
10 矩形領域切り出し部
11 前フレーム
12 現在フレーム
100 コンピュータ
101 カメラ
102 インタフェース
103 ビデオ信号処理部
104 ポインタ移動制御処理部
106 ディスプレイ
107 ポインタ
2 投影曲線生成部
3 列相関度演算部
4 行相関度演算部
5 頭部回転運動方向検出部
6 HLS変換部
7 2値化部
8,9 ノイズ除去部
10 矩形領域切り出し部
11 前フレーム
12 現在フレーム
100 コンピュータ
101 カメラ
102 インタフェース
103 ビデオ信号処理部
104 ポインタ移動制御処理部
106 ディスプレイ
107 ポインタ
Claims (3)
- ユーザーの頭部及び頭部周辺の画像を撮像するカメラと、前記カメラの撮像した画像から頭部画像の切り出しを行なう頭部画像切り出し部と、切り出した頭部画像から投影曲線生成を行なう投影曲線生成部と、前記投影曲線から変化量の算出を行なう変化量算出部と、前記変化量算出部の算出結果に基づいてディスプレイに表示されているポイントを移動させる表示制御部とを備え、
前記頭部画像切り出し部は、HLS表色系変換式によりHLS表色系に変換するHLS変換部と、H(色相)における閾値処理を行なって肌色を抽出する2値化部と、前記2値化部が抽出した肌色領域を切り出す頭部領域切り出し部とを有することを特徴とするポインティングデバイス。 - 前記投影曲線生成部は、前記頭部画像切り出し部の切り出した頭部画像フレームに対して、隣接フレームである前フレームの画像と現在フレームの画像それぞれから生成された投影曲線を逐次比較することを特徴とする請求項1に記載のポインティングデバイス。
- 前記変化量算出部は、列方向の投影曲線から絶対差分を求める列相関度演算部と、
行方向の投影曲線から絶対差分を求める行相関度演算部と、前記列相関度演算部の絶対差分と行相関度演算部の絶対差分から頭部回転運動方向検出を行なう頭部回転運動方向検出部とを有することを特徴とする請求項1又は2に記載のポインティングデバイス。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004194341A JP2006018472A (ja) | 2004-06-30 | 2004-06-30 | ポインティングデバイス |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004194341A JP2006018472A (ja) | 2004-06-30 | 2004-06-30 | ポインティングデバイス |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006018472A true JP2006018472A (ja) | 2006-01-19 |
Family
ID=35792703
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004194341A Pending JP2006018472A (ja) | 2004-06-30 | 2004-06-30 | ポインティングデバイス |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006018472A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008030619A (ja) * | 2006-07-28 | 2008-02-14 | Toyota Motor Corp | 道路区画線種別判定装置、及び、道路区画線認識装置 |
JP2010108242A (ja) * | 2008-10-30 | 2010-05-13 | Fujitsu Frontech Ltd | 画像処理プログラム、画像処理装置および画像処理方法 |
-
2004
- 2004-06-30 JP JP2004194341A patent/JP2006018472A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008030619A (ja) * | 2006-07-28 | 2008-02-14 | Toyota Motor Corp | 道路区画線種別判定装置、及び、道路区画線認識装置 |
JP2010108242A (ja) * | 2008-10-30 | 2010-05-13 | Fujitsu Frontech Ltd | 画像処理プログラム、画像処理装置および画像処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5538909B2 (ja) | 検出装置およびその方法 | |
US6526161B1 (en) | System and method for biometrics-based facial feature extraction | |
US8218862B2 (en) | Automatic mask design and registration and feature detection for computer-aided skin analysis | |
EP1969559B1 (en) | Contour finding in segmentation of video sequences | |
EP2242253B1 (en) | Electronic camera and image processing method | |
Lin | Face detection in complicated backgrounds and different illumination conditions by using YCbCr color space and neural network | |
JP2000105829A (ja) | 顔パーツ検出方法及びその装置 | |
JP2007087345A (ja) | 情報処理装置及びその制御方法、コンピュータプログラム、記憶媒体 | |
US20230334235A1 (en) | Detecting occlusion of digital ink | |
US7460705B2 (en) | Head-top detecting method, head-top detecting system and a head-top detecting program for a human face | |
CN113608663B (zh) | 一种基于深度学习和k-曲率法的指尖跟踪方法 | |
Arseneau et al. | Real-time image segmentation for action recognition | |
JP2014029656A (ja) | 画像処理装置および画像処理方法 | |
KR102052449B1 (ko) | 가상 마우스 시스템 및 그 제어 방법 | |
CN108521594B (zh) | 一种基于体感相机手势识别的自由视点视频播放方法 | |
Khilari | Iris tracking and blink detection for human-computer interaction using a low resolution webcam | |
JP2006018472A (ja) | ポインティングデバイス | |
JP5051671B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2000134638A (ja) | 画像処理装置 | |
Ramesh et al. | Eye ball movement to control computer screen | |
JP2008130015A (ja) | 被写体識別プログラム、および被写体識別装置 | |
JP2005165983A (ja) | 人物顔のあご検出方法及びあご検出システム並びにあご検出プログラム | |
Bulbul et al. | A face tracking algorithm for user interaction in mobile devices | |
Vančo et al. | Gesture identification for system navigation in 3D scene | |
Abdallah et al. | Different techniques of hand segmentation in the real time |