JP2003280813A - ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体 - Google Patents

ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体

Info

Publication number
JP2003280813A
JP2003280813A JP2002082894A JP2002082894A JP2003280813A JP 2003280813 A JP2003280813 A JP 2003280813A JP 2002082894 A JP2002082894 A JP 2002082894A JP 2002082894 A JP2002082894 A JP 2002082894A JP 2003280813 A JP2003280813 A JP 2003280813A
Authority
JP
Japan
Prior art keywords
pointer
pointing device
coordinate
detected
display screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002082894A
Other languages
English (en)
Inventor
Yukinobu Ishino
行宣 石野
Masahide Tanaka
雅英 田中
Isamu Kato
勇 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
EJIKUN GIKEN KK
Nikon Corp
Nikon Gijutsu Kobo KK
Original Assignee
EJIKUN GIKEN KK
Nikon Corp
Nikon Gijutsu Kobo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by EJIKUN GIKEN KK, Nikon Corp, Nikon Gijutsu Kobo KK filed Critical EJIKUN GIKEN KK
Priority to JP2002082894A priority Critical patent/JP2003280813A/ja
Publication of JP2003280813A publication Critical patent/JP2003280813A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Projection Apparatus (AREA)
  • Position Input By Displaying (AREA)

Abstract

(57)【要約】 【課題】任意の操作位置から表示画面上の所望の位置に
直接ポインタ位置操作やコマンド実行操作を可能とする
非常に操作性の良い、小型で軽量な空間操作型のポイン
ティングデバイス、ポインタ制御装置、ポインタ制御方
法及びその方法を記録した記録媒体を提供する。 【解決手段】複数の特徴点を有する表示画面上の被検出
位置にポインタ位置を制御するポインティングデバイス
であって、前記複数の特徴点を含めて撮像する撮像手段
と、前記撮像手段により撮像された撮像画像データに基
づいて表示画面上の被検出位置の座標を算出するための
信号を送出する信号出力手段と、前記信号出力手段から
出力された結果に基づいて表示されたポインタ位置から
被検出位置までのポインタ移動感度係数を設定するため
の圧力を検出する前記圧力検出手段とを備えた構成であ
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、パーソナルコンピ
ュータから出力された表示画面上のポインタを操作する
ポインティングデバイス、またポインティングデバイス
より指示された位置にポインタ位置を制御するポインタ
制御装置、ポインタ制御方法及びその方法を記録した記
録媒体に関するものである。
【0002】
【従来の技術】従来からコンピュータ画面上のポインタ
操作を行うポインティングデバイスとして、操作面上を
接触させながらポインタを所望の位置まで動かすマウス
や平面上の動きに拘束されず、空間的に操作できるよう
に操作部にトラックボールやジョイスティックを設けた
ポインティングデバイスなどがある。これらポインティ
ングデバイスの基本動作について、マウスを例にあげ、
簡単に説明する。操作者は、マウスを平面上で上下左右
に動かすことにより、その時の移動量がX方向、Y方向
の信号としてCPUに入力される。CPUでは現在のポ
インタの位置から、その移動量をもとに座標を算出し
て、その位置にポインタを移動させる。表示画面に表示
されるポインタは1つで、マウスの動きがそのままポイ
ンタの動きとして表わされ、操作者はポインタを見なが
らマウスを動かし、所望する位置を指示することで、ユ
ーザの意志が計算機に反映できるようになっている。
【0003】しかしながら、これらポインティングデバ
イスの動作ではプロジェクーにより投影された大画面に
対しては操作しづらいことから、より操作性の良い大画
面用のポインティングデバイスが数多く提案されてい
る。例えば、特開平2−306294号公報、特開平4
−305687号公報、特開平6ー308879号公
報、特開平6−332612号公報、特開平10−39
994号公報、特開平11−143629号公報などが
あげられる。
【0004】特開平2−306294号公報は、プロジ
ェクタにより投影されたスクリーン、スクリーン上の被
検出位置を指示するレーザーポインタ、スクリーン上に
向けられレーザーポインタの輝点を検出するための固定
CCDカメラから構成されている。このCCDカメラに
より所定時間毎にスクリーン上のレーザー輝点を検出
し、スクリーン上の輝点の位置を検出しようとするもの
である。
【0005】また、特開平6ー308879号公報はス
クリーンの近傍に複数の発光素子を配置し、指示器には
複数の発光素子からの光を受光する受光素子が設けら
れ、発光素子からの光強度や光の方向性を基に計算機に
より計算しスクリーン上の位置を特定できるようにした
装置で、操作者が任意の位置で操作してもスクリーン上
の指示位置を特定できる装置である。
【0006】さらに、特開平10−39994号公報
は、操作者の視線検出センサとポインティングデバイス
に設けられたジャイロにより操作者の動きに制限のない
ようなプレゼンテーション用ポインティングデバイスを
提案している。
【0007】
【発明が解決しようとする課題】しかしながら、従来の
ポインティングデバイスのポインタ制御装置は、表示画
面上のポインタを見ながら操作面上の操作体(マウス)
を手指操作により移動させている。従って操作平面に拘
束され使用環境に制約が生じるという問題がある。
【0008】さらに、従来のポインティングデバイスを
用いて、表示画面上の所定の位置にポインタを移動させ
る場合、操作者は以下の操作を行う必要がある。まず現
在のポインタ位置を確認し、ポインタを移動させる方向
と距離を見定め、逐次ポインタの位置を確認しつつ、ポ
インティングデバイスを操作し、目標の位置とポインタ
が重なった時点で速やかにポインティングデバイスを停
止させる。このような方法では、ポインタを長距離移動
させようとする場合、ポインティングデバイスを何回か
試行錯誤して所定の位置までポインタ操作する必要があ
り、操作が煩雑であった。
【0009】本発明の目的は、任意の操作位置から表示
画面上の所望の位置に直接ポインタ位置操作やコマンド
実行操作を可能とする非常に操作性の良い、小型で軽量
な空間操作型のポインティングデバイス、ポインタ制御
装置、ポインタ制御方法及びその方法を記録した記録媒
体を提供することである。
【0010】
【課題を解決するための手段】上述した問題点を解決す
るために、本発明の請求項1は、複数の特徴点を有する
表示画面上の被検出位置にポインタ位置を制御するポイ
ンティングデバイスであって、前記複数の特徴点を含め
て撮像する撮像手段と、前記撮像手段により撮像された
撮像画像データに基づいて表示画面上の被検出位置の座
標を算出するための信号を送出する信号出力手段と、前
記信号出力手段から出力された結果に基づいて表示され
たポインタ位置から被検出位置までのポインタ移動感度
係数を設定するための圧力を検出する前記圧力検出手段
とを備えたことを特徴とする。
【0011】また、本発明の請求項3は、 表示画面上
の所望の位置にポインタを連続的に移動させるポインタ
制御装置であって、ポインティングデバイスにより指示
された被検出位置の座標を算出する座標演算手段と、前
記座標演算手段により算出された被検出位置の第1座標
値と第2座標値との距離に応じた移動感度係数に基づい
てポインタの位置を制御するポインタ位置制御手段とを
備えたことを特徴とする。
【0012】さらに、本発明の請求項5は、表示画面上
の所望の位置にポインタを連続的に移動させるポインタ
制御装置であって、ポインティングデバイスにより順次
指示された被検出位置の第1、第2及び第3の座標値を
算出する座標演算手段と、前記座標演算手段から算出さ
れた第1座標値と第2座標値との距離と第2座標値と第
3座標値との距離との距離比に応じた移動感度係数に基
づいてポインタの位置を制御するポインタ位置制御手段
とを備えたことを特徴とする。
【0013】また、本発明の請求項7は、表示画面上の
所望の位置にポインタを移動制御するポインタ制御装置
であって、ポインティングデバイスから出力された表示
画面上の被検出位置データに基づき被検出位置の座標を
算出する座標演算手段と、前記座標演算手段より算出さ
れた被検出位置座標と所望の位置とのズレ量を前記ポイ
ンティングデバイスから出力された圧力検出量に応じた
移動感度係数を設定する移動感度設定手段とを備え、前
記圧力検出量の大きさに基づいて設定された移動感度係
数と前記被検出位置座標とに基づいてポインタ位置を制
御することを特徴とする。
【0014】さらに、本発明の請求項11は、表示画面
上の所望の位置にポインタの位置を連続移動させるポイ
ンタ制御方法であって、ポインティングデバイスにより
順次指示された被検出位置の第1及び第2座標値を算出
する座標演算ステップと、前記座標演算ステップにより
算出された第1座標値と第2座標値との距離に応じた移
動感度係数に基づいてポインタの位置を制御するポイン
タ位置制御ステップとを含むことを特徴とするポインタ
制御方法。
【0015】また、本発明の請求項12は、 表示画面
上の所望の位置にポインタの位置を連続的に移動させる
ポインタ制御方法であって、ポインティングデバイスに
より順次指示された被検出位置の第1、第2及び第3座
標値を算出する座標演算ステップと、前記座標演算ステ
ップにより算出された第1座標値と第2座標値との距離
と第2座標値と第3座標値との距離との比に応じた移動
感度係数に基づいてポインタの位置を制御するポインタ
位置制御ステップとを含むことを特徴とする。
【0016】さらに、本発明の請求項14は、表示画面
上の所望の位置にポインタを移動制御するポインタ制御
方法であって、ポインティングデバイスから出力された
表示画面上の被検出位置データに基づき被検出位置の座
標を算出する座標演算ステップと、前記座標演算ステッ
プにより算出された被検出位置座標と所望の位置とのズ
レ量を前記ポインティングデバイスから出力された圧力
検出量に応じた移動感度係数を設定する移動感度設定ス
テップと、前記圧力検出量の大きさに基づいて設定され
た移動感度係数と前記被検出位置座標とに基づいてポイ
ンタ位置を制御することを特徴とする。
【0017】また、本発明の請求項15のコンピュータ
可読記録媒体は、 前記請求項11〜13記載のいずれ
か1つに記載された方法をコンピュータに実行させるプ
ログラムを記録したことを特徴とする。
【0018】
【発明の実施の形態】<第1の実施の形態>図1は第1
の実施の形態に係わるポインティングデバイスを用いた
ポインタ制御装置の構成ブロック図である。また図2は
ポインティングデバイスを用いてスクリーン面上に投影
された画像の被検出位置Psをポインティングしている
システム構成概念図である。
【0019】100はポインティング操作入力するポイ
ンティングデバイス、110は座標検出対象となるスク
リーン平面、120はパーソナルコンピュータ(以下、
PCと呼ぶ)、130はプロジェクタである。また、1
11はスクリーン平面上に投影されている表示画像であ
る。また、表示画像には矩形形状を形成する4個のマー
ク画像として特徴点Q1、Q2、Q3、Q4を示した。記号
は表示された9個のマーク画像のうちの4個だけに付与
した。ポインティングデバイス100はスクリーン11
0に対し任意の位置から操作することが可能である。破
線101aはポインティングデバイス100に設けられ
ている撮像手段101の撮像面の中心から垂直に表示画
像上の被検出位置まで延びている光軸である。
【0020】また、撮像手段101には被写体である平
面上の被検出位置を特定するため、投影画像に重畳させ
て予め決められた位置に9個のマークを操作タイミング
動作に合わせ表示するようにしている。
【0021】ここで図1の本発明の第1の実施の形態に
係わるポインタ制御装置の構成ブロック図に基づいて説
明する。ポインティングデバイス100は撮像手段10
1を有し、スクリーン上の被検出位置Psになるように
撮像手段の撮像面の中心として延びた線と撮像レンズの
光軸とを一致させてある。すなわち、撮像レンズ光軸が
ポインティングする方向としてある。また、操作者がス
クリーン上の被検出位置を特定できるようにしたレーザ
ーポインタやファインダーなどを用いた照準手段102
を撮像手段に設けるようしてもよい。図3はポインティ
ングデバイスの外観斜視図である。 11はトリガ信号
入力ボタン、すなわち撮像手段のシャッターボタンであ
る。このボタンを押下し続けている間、撮像信号をPC
本体側に送出し続ける。
【0022】12、13はコマンド実行出力ボタン及び
ポップアップメニューボタンである。コマンド実行ボタ
ン12は画面上のアイコン、図、テキストなど動作対象
オブジェクトにポインタ位置を合わせコマンド実行信号
を送出するボタンである。また、ポップアップメニュー
ボタン13は通常のマウスポインタの右クリックボタン
に相当する。ポインタ表示している位置でポップアップ
メニュー表示を行う動作である。
【0023】また、本実施の形態では対象オブジェクト
にポインタ位置を合わせオブジェクトを移動させるドラ
ッグ操作は、ボタン12を押下しながらボタン11を押
すことによって実現できる。
【0024】PC本体120にはポインティングデバイ
スからの画像信号を受信する受信手段121、撮像画像
データをA/D変換してポインタ位置演算手段に送出す
るインターフェース手段3、ポインティングされたスク
リーン上の被検出位置の座標を演算するポインタ位置演
算手段5、ポインタ位置制御手段6、画面表示制御手段
7などが備えられている。
【0025】121は受信手段であり、ポインティング
デバイス100から出力された撮像画像データやコマン
ド実行信号を受信する。ポインティングデバイスから受
信した被検出位置信号が含まれている撮像データは、画
像処理手段51にて処理され被検出位置信号として出力
される。なお、本実施の形態ではポインティングデバイ
スとパソコン本体とのデータの授受は無線であるが、U
SB接続による有線接続であっても良い。
【0026】4はポインタ制御装置全体の制御を行うC
PUである。このCPU4はRAM41、ROM42を
備えており、OS、アプリケーション、透視射影演算処
理するプログラムや各種制御プログラムなどが格納され
ている。なお、各種プログラムはCPUにより読み取り
実行可能な形式でハードディスクに記録してある。な
お、プログラムはフロッピーディスク(商標登録)、光
磁気ディスクなどの外部記録媒体43に記録してもよ
い。
【0027】本実施の形態に係わるポインティングデバ
イスではPC本体120に画像処理手段5を備えた構成
としたが、ポインティングデバイス100内に画像処理
手段や被検出位置座標演算手段を設けても良い。
【0028】ポインタ位置演算手段5はポインティング
デバイスより出力された撮像画像信号に基づき被検出位
置Psの座標を演算する処理を行い、画像処理手段51
と座標演算手段52とから構成されている。
【0029】特徴点抽出手段511はポインティングデ
バイスより送出された撮像画像データに重畳している複
数のマーク画像を、差分画像処理、二値化処理などによ
り抽出する処理を行なう。9個のマーク画像は1フレー
ムで表示され、これらマーク画像は第1及び第2のマー
ク画像として色又は輝度の異なる2種類の状態で表示さ
れ、撮像される。
【0030】さらに特徴点特定演算手段512は、撮像
画像から抽出されたマークが投影画像上に表示された複
数のマークの中でどのマークに対応しているかを特定
し、特徴点としてスクリーン座標値を得る処理を行う。
【0031】座標演算手段52は画像処理手段51によ
り座標特定された4個の特徴点の撮像画像系の座標値に
基づいてポインティングされたスクリーン座標系の被検
出位置Psの座標を演算する。
【0032】ポインタ位置制御手段6は、ポインタ動作
を制御するためのポインタドライバや、ポインタ位置演
算手段から被検出位置信号に基づいてポインタの単位時
間当たりの表示動作に関して制御する。
【0033】次に本発明の実施の形態に係わるポインタ
制御装置について説明する。図4は本実施の形態に係わ
るポインタ制御システムの基本動作フローチャートであ
る。
【0034】操作者はポインティングデバイスをスクリ
ーン上の所望の位置Tに向ける。所望の位置に向けられ
たポインティングデバイスの撮像レンズの視軸101a
とスクリーン平面との交点が被検出位置Psとなる。す
なわち、撮像面の中心位置が被検出位置となるPsであ
るステップS101で、この合わせた状態で撮像手段の
シャッター11、すなわち、ポインタの連続移動動作ス
イッチがONされる。CPUによりある一定の時間間隔
で間欠的なクロック制御信号を発生し、その制御信号に
より撮像シャッターが制御される。この時間間隔の設定
はポインタがスクリーン上に投影される間隔となり、時
間間隔が長ければ移動している間に投影されるポインタ
の回数が少なくなる。この時間の設定は操作中でも設定
可能となっている。
【0035】ステップS102で第1マーク画像を表示
し、ステップS103にて第1マーク画像を撮像し取り
込む。同様にステップS104,S105で第2のマー
ク画像を表示し撮像する。このように連続して少なくと
も2枚の撮像画像を取り込む。
【0036】ステップS106では画像処理のステップ
で取り込んだ撮像画像に基づいて複数の特徴点である複
数のマークを差分画像処理、二値化処理して抽出し、矩
形形状を特徴づける4個のマークの重心位置座標q1,
q2,q3,q4を特定する。ステップS107に進む。
【0037】ステップS107ではこれら差分画像処理
により抽出された特徴画像の4つの座標点からディスプ
レイ平面に対するポインティングデバイスの姿勢パラメ
ータ(β、ψ、γ)を演算される。次に、この姿勢パラ
メータに基づいてディスプレイ平面上の被検出位置の座
標位置が演算処理される。
【0038】次のステップS108ではステップS10
7で得られた被検出位置座標に基づいて現在のポインタ
位置から被検出位置までポインタはポインタ位置制御手
段により表示位置制御され、スクリーン上の投影画像に
重畳表示される。このステップについては後述詳細に説
明する。
【0039】所望の位置にポインタ移動が出来ればポイ
ンタ移動動作のスイッチはオフされ、移動動作は終了す
る。しかしながら、1度で目標位置である所望の位置ま
でポインタを移動できす、所望の位置まで移動動作を続
ける場合はステップS102に戻り反復繰り返し処理が
行われ、操作ボタンがオフされればこれら連続移動動作
は終了する。
【0040】ここで、被検出位置Psの座標演算処理に
ついて簡単に説明する。図5は操作者が任意の位置から
ポインティングデバイスに設けられた撮像手段101の
撮像方向を矩形形状である所定平面に向けて撮像した撮
像画像qを示した。図はスクリーン上の投影画像の一部
を撮像した撮像面上の画像であり、被検出位置Psを撮
像面の中心(撮像面の原点Om)に一致させてある。こ
れら4個の特徴点q1,q2,q3,q4は、図2の平面座
標系X*−Y*座標系における4個のマーク画像Q1、Q
2、Q3、Q4の重心位置にそれぞれ対応する。次に撮像
された撮像画像に基づいて画像処理手段によりマーク画
像を抽出し、4個の特徴点q1,q2,q3,q4の撮像画
像上の座標を特定する。
【0041】次にこれら4点の特徴点の座標に基づい
て、スクリーン画像上の被検出位置の座標が順次演算さ
れる。この演算方法の詳細について、すでに出願されて
いる特願2000−218969号、特願2001−6
2848号に記載されているので、ここでは簡単に説明
する。
【0042】(1)消失点を算出する。q1,q2,q3,q
4の座標位置に基づいて、撮像画像qの相隣接する特徴
点を通る直線式I1.I2,I3,I4を算出し、矩形形状
である表示画面の1対の平行に対応した消失点S0、T0
を算出する。すなわち、消失点S0は、直線Q1Q4に対
応する撮像面上の直線 q1q4 と直線Q2Q3に対応す
る直線q2q3との交点である。
【0043】(2)消失特徴点を算出する。2つの消失点
と画像原点とを結ぶ直線と矩形を特徴づける各直線I
1.I2,I3,I4との交点(この点を消失特徴点と呼
ぶ)qs1、qs2、qt1、qt2 を算出する。
【0044】(3)画像座標系において消失点S0をX軸に
一致させるように、画像座標系を画像中心として座標系
を回転する。図6はX−Y座標系を反時計回りに角度β
回転させた時の説明図である。座標回転後の座標系は
X'−Y'座標系で、特徴点Q1、S1、S2、T1、T
2のそれぞれの座標は、q1(X1,Y1)→q'
1(X’1,Y’1)、qs1(Xs1,Ys1)→q's1(X’
s1,Y’s1)、qs2(Xs2,Ys2)→q's2(X’s2
Y’s2)、qt1(Xt1,Yt1)→q't1(X’t1,Y’
t1)、qt2(Xt2,Yt2)→q't2(X’t2,Y’t2
となる。
【0045】(4)座標系の回転後に得られた座標値に基
づき透視射影演算することにより、撮像面に対するスク
リーン平面の平面姿勢パラメータである角度γ、ψのい
ずれか1つを演算する。本実施の形態では角度ψは次式
数1により演算する。
【0046】
【数1】
【0047】(5)スクリーン画像上の被検出位置の座標
は、上記姿勢パラメータψを用いて次式数2により演算
する。
【0048】
【数2】
【0049】ここで、横軸比m=|S1Ps|/|S2Ps
|、縦軸比n=|T1Ps|/|T2Ps|、Umax、Vmax
はスクリーン座標系の横軸、縦軸の最大スケール、fは
撮像レンズの焦点距離である。
【0050】次に図4のS108のポインタ位置制御手
段の詳細動作について説明する前に、ポインタ位置制御
のない場合の連続移動動作について説明する。図7はポ
インタ位置制御のない場合のポインタ連続動作を説明す
る図である。
【0051】ポインティングデバイスの連続動作スイッ
チがオンされるとポインティングデバイスにより表示画
面上の指示された被検出位置を検出する動作が始まる。
サンプリング時間は先に説明した基本動作の周期により
決まる。ポインティングデバイスの視軸の方向101a
にある表示画面上の被検出位置Ps1を指し示されれば、
ポインタは現在のポインタ位置C0から被検出位置Ps1で
示された位置C1に瞬時に移動する。同様に、視軸方向1
01bの被検出位置Ps2、101cのPs3を指し示せば
瞬時にポインタ移動する。すなわち、ポインティングデ
バイスの視軸方向に示される表示画面上の被検出位置に
ポインタが追随するように移動するのである。このよう
な動作では、ポインタを大きく移動させる場合には問題
ないが、ポインタを微妙に移動させる時に問題が生じ
る。本実施の形態のポインタ制御方法では、上記ポイン
タ制御方法に加え、ポインタの微少操作もできるような
制御方法とすることにより、さらに使い易いポインティ
ングデバイスとなる。そのポインタ制御方法である第1
から第3の実施の形態について説明する。これらのポイ
ンタ制御装置の動作フローに記述されている機能を実現
するためのプログラムはコンピュータが読み取り可能な
プログラムコードの形態で記録媒体に記録されている。
【0052】図8は第1の実施の形態のポインタ位置制
御手段の動作フローである。第1の実施の形態では、ポ
インタ位置の移動制御方法は、被検出位置と現在のポイ
ンタ表示位置との距離または距離比に基づいて検出され
た被検出位置までポインタ移動を制御する方法である。
【0053】ステップS201は時系列的に得られる被
検出位置データ間の距離の演算を順次行い、それぞれの
距離Liを算出する。ステップS202ではステップS
201で得られた距離から検出されたデータに基づき距
離比εi=Li-1/Liを順次算出する。このεiはポイン
タ移動動作の急激な変化を距離比で検出しようとするも
のである。すなわち、次のステップSS203ではポイ
ンティングした位置(被検出位置)Psが所望の位置T
に近づき度合いを表す係数としてαを用いてポインタ動
作切り替え判断を行う。 距離比εiは係数αと比較さ
れ、α>εi(本実施の形態ではα=0.95とした)で
あれば、ステップS204に進み、α<εiであれば急
激な変化はないと判断し、ステップS205に進む。こ
の係数αは予め経験的に設定しておくようにする。
【0054】次のステップS204では、第i番目のポ
インタ位置は予め定められた移動感度係数K1を用いて
次式にて算出する。ポインタ位置Ciは、次の式により
ポインタの位置は移動する。
【0055】Ci=K1(Li−Ci-1) (本実施の形態
ではK1=0.2とした) この式に従えば、所望の位置に近づいた後、大きなポイ
ンティング操作であってもポインティング位置を微少に
動かしながら所望の位置までポインティング制御が可能
となる。
【0056】ステップS205は被検出位置と第2の移
動感度係数K2とからポインタ位置を決定する。本実施
の形態では第2の移動感度係数K2を1とした。すなわ
ち、指し示した位置(被検出位置)にポインタを表示す
る。この移動感度係数K2はこの位置間のポインタをど
う表示するか依存する係数であり設定変更も可能であ
る。
【0057】図9は本実施の形態に係わるポインタ制御
方法を説明するための図であり、ポインティングデバイ
スを用いた時のスクリーン上のポインタ位置の軌跡を示
した。 図に基づき所望の位置Tまでのカーソル位置の
動作について説明する。C0はポインティング操作する
前の最初のポインタ位置である。次にポインティングデ
バイスが指し示した方向101a、101bの表示画面
上の被検出位置Ps1、Ps2にポインタが位置C1、C2と
して順次移動表示する。これら最初の3個のポインタ位
置データC0、被検出位置データP1、P2に基づいて距
離比εを算出する。これは図8のステップS202に相
当する。次のポインタ位置C3からポインタの位置制御
開始し、所望の位置Tに向けてポインタの位置が制御さ
れる。図ではポインティングされた被検出位置Ps3によ
り所望の位置Tにポインタを移動制御され位置C3として
いる。
【0058】本実施の形態では所望の位置(目標位置)
Tに対しポインティングデバイスを大きく移動させても
表示画面上のポインタを微小な動きになるように予めポ
インタ移動感度係数Kを決めておき、操作者がポインタ
を所望の位置Tに移動させる動作が1回でできず、所望
の位置で繰り返されるポインティング動作を極力少な
く、また所望の位置に移動し易くする方法である。
【0059】所望の位置Tまでポインタ移動させる近づ
け方は移動感度係数Kに依存する。移動感度係数Kは、
ポインタ移動倍率モードであり、K<1であれば実際の移
動量に対し小さい移動量となり、また、K>1であれば実
際の移動量に対し大きい移動量となる。
【0060】本実施の形態では、ある操作タイミングで
移動感度係数による制御を動作させるようにしてある。
すなわち、移動感度係数の切り替えはディスプレイ上に
直接指示した位置座標(被検出位置座標)を演算でき、
その位置にポインタを移動することができるので第1回
目の動作ではK=1とし、指し示した被検出位置にポイ
ンタを移動させ、切り替え後の動作からK=0.2として
ポインタ位置制御するようにした。
【0061】このような制御方法によれば、第1回目で
表示されたポインタ位置が操作者が意図する位置である
ならば操作オフし、わずかにずれた場合には操作オンの
状態で自動的に近づいたことの判断が行われ、移動感度
係数に基づいたポインタ位置制御を行うことができる。 <第2の実施の形態>次に、第2の実施の形態について
説明する。
【0062】第1の実施の形態では距離比に基づいて移
動感度係数Kを自動的に切り替える方法であったが、第
2実施の形態では、距離の絶対値に基づいてポインタ表
示移動制御を行い、移動感度係数Kの切り替えは被検出
位置座標に対し制御対象とする領域を予め設定しておく
方法である。
【0063】移動感度係数Kが切替られ、指示位置Psに
対してKi・Psの量だけポインタを移動するようにす
る。この時の倍率Kiは、操作者が最も操作しやすい量
を予め求めておき、その値を設定するようにする。
【0064】図10は第2の実施の形態のポインタ制御
の動作フローである。図に従って説明する。第1の実施
の形態と異なる動作は移動感度係数を変更する判断ステ
ップであり、他のステップは同じである。
【0065】ステップS302で時系列的に演算された
被検出位置の座標データ間の距離Liを算出する。次の
ステップS302ではステップS301で得られた距離
がLi<rであるならばステップS303に進み、第1
の移動感度係数を用いて次式に基づいてポインタ位置制
御される。
【0066】Ci=K1(Pi −Ci-1) 本実施の形態ではr=50mm、第1の移動感度係数K1=
0.2とした。また、ステップS302でLi>rであ
るならばステップS304に進み、第2の移動感度係数
に基づいて次式によりポインタ位置が制御される。
【0067】Ci=K2・Pi 第2の実施の形態は第1の実施の形態と異なる点は、移
動感度係数の切り替え条件が異なる点のみであり、他の
処理は同じである。移動感度係数の切り替えは、予め設
定されている被検出位置を中心とした半径rの表示領域
に基づいて行われる。本実施の形態では算出された被検
出位置の座標を中心に領域rが設定され、その後にポイ
ンタがその座標値に向かって移動する。ポインタがその
領域に入ったら移動感度係数が変わるようになってい
る。
【0068】なお、この切り替え領域は距離rは、予め
適切な表示ドット領域を実験的に算出しておく。 <第3の実施の形態>第3の実施の形態は、操作部に設
けられた押圧力検出部により検出された押圧力の大きさ
に応じてポインタ移動の係数Kiを変えようとするもの
である。
【0069】図11は第3の実施の形態のポインティン
グデバイスの構成である。ポインティングデバイスは、
把持された時の押圧力を検出する圧力検出手段300お
よびその出力信号を処理し、PC本体側へ送出する信号
処理手段301とから構成される。
【0070】図12はポインティングデバイスに設けら
れた押圧力検出手段からの出力信号に基づくポインタ動
作基本フローである。ステップS401で、この合わせ
た状態で撮像手段のシャッター11、すなわち、ポイン
タの連続移動動作スイッチがONされる。ステップS4
02ではポインティングデバイスに設けられている圧力
検出手段300にて圧力が検出されたか否か判断され
る。圧力検出されなければステップS403に進み、圧
力が検出されるまでポインタは静止したままであり、移
動動作は行われない。ステップS403からS408ま
での動作は図4で説明した基本動作と同じであり説明は
省く。ステップS409のポインタ制御手段動作につい
ては図13で後述する。 ステップS410では操作ボ
タンがオフされなければステップS402に戻り、動作
が繰り返される。操作ボタンがオフされれば、動作は終
了する。
【0071】図13は図12で示したステップS409
のポインタ制御の詳細動作である。ステップS501は
被検出位置Pi間の距離を算出するステップである。次
のステップS502では、検出された押圧力に応じて移
動感度係数Kpを設定するステップである。ここで押圧
力と移動感度係数Kpとの対応データは、予め実験的に
求めておくことが必要である。例えば、移動量を大きく
したい場合は、ポインティングデバイスの操作部を強く
握るまたは強く操作ボタンを押す操作をする。この時、
移動感度係数Kpが大きくなるように設定される。ま
た、移動量を小さくしたい場合は、操作部の押圧力検出
部を弱く握るまたは押下する。この時、移動感度係数K
pは小さくなるよう設定される。
【0072】この押圧力に対する移動感度係数の決め方
がポインティングデバイスの使い易さ、操作者が意図す
るようなポインタ操作ができるか否かを左右することに
なる。 ステップS503では、S502で設定された
移動感度係数でポインタの移動を行う。すなわち、被検
出位置Piにポインタ位置Ciを近づける。
【0073】このようなポインタ制御方法によれば、操
作者がディスプレイ上を見ながら現在のポインタ表示位
置と所望の位置との遠近により操作者の意図を反映する
ことができる。
【0074】以上説明した第1から第3の実施の形態に
よるポインタ表示移動制御方法を用いたポインティング
デバイスであれば手ぶれなどの不安定な操作であっても
容易に所望の位置にポインタを移動することができる。
【0075】なお、第1及び第2の実施の形態で示した
距離による移動感度係数切り替えと第3の実施の形態で
説明した押圧力によるポインタ移動とを組み合わせた使
い方であってもよい。
【0076】また、本実施の形態に係わるポインタ制御
方法は、最初の検出動作でディスプレイ上の所望の位置
座標を取得できる方法であれば良く、本実施の形態以外
の交差方法、レーザーを用いて行う視線検出方法や輝点
検出方法などの他の検出方法や演算方法であってもよ
い。また、本実施の形態に係わるポインタ制御方法を用
いたポインティングデバイスはプロジェクタ投影画像の
みならず、一般に用いられる表示画面であってもよい。
【0077】
【発明の効果】以上の説明したように、本発明の実施の
形態に係わるポインティングデバイス、ポインタ制御装
置及び方法によれば、操作者はスクリーン上の所望の位
置にポインタを自在に空間操作ができ、ポインタを所望
の位置に迅速かつ容易に移動操作することが可能とな
る。
【0078】さらには、ポインティングデバイスに圧力
検出部を設けたことにより、スクリーンのポインタ位置
を見ながら操作者の意志を反映させるべく違和感のない
ポインタ制御が可能となる。
【図面の簡単な説明】
【図1】 本発明の実施の形態の構成ブロック図。
【図2】 本実施の形態に係わるポインティングデバイ
ス及びポインタ制御方法を説明するためのシステム構成
斜視図。
【図3】 本実施の形態のポインティングデバイスの構
成斜視図。
【図4】 本発明の実施の形態に係わるポインタ制御動
作を説明するポインティングシステムの基本動作フロ
ー。
【図5】 被検出位置座標演算を説明するためスクリー
ン上の投影画像を撮像した撮像画像。
【図6】 撮像画像の座標系回転を説明する図。
【図7】 ポインタ位置制御されていない場合のスクリ
ーン上のポインタ軌跡。
【図8】 第1の実施の形態に係わるポインタ制御動作
フロー。
【図9】 第1の実施の形態に係わるスクリーン上のポ
インタ動作を説明するポインタ軌跡図。
【図10】 第2の実施の形態に係わるポインタ制御動
作フロー。
【図11】 第3の実施の形態に係わるポインティング
デバイスの構成ブロック図。
【図12】 第3の実施の形態に係わるポインタ動作フ
ロー。
【図13】 第3の実施の形態に係わるポインタ制御動
作の詳細フロー。
【符号の説明】
5 画像処理手段 6 ポインタ位置演算手段 7 ポインタ位置制御手段 11 シャッターボタン(トリガボタン) 100 ポインティングデバイス 101 撮像手段 110 スクリーン 120 パソコン 130 プロジェクタ 300 圧力検出手段
───────────────────────────────────────────────────── フロントページの続き (72)発明者 石野 行宣 東京都品川区二葉1丁目3番25号 株式会 社ニコン技術工房内 (72)発明者 田中 雅英 東京都品川区二葉1丁目3番25号 株式会 社ニコン技術工房内 (72)発明者 加藤 勇 埼玉県さいたま市風渡野683番3号106 有 限会社エジクン技研内 Fターム(参考) 2K103 AA16 AB10 CA58 5B087 AA09 BC08 BC31 CC01 CC09 DE07

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 複数の特徴点を有する表示画面上の被検
    出位置にポインタ位置を制御するポインティングデバイ
    スであって、前記複数の特徴点を含めて撮像する撮像手
    段と、前記撮像手段により撮像された撮像画像データに
    基づいて表示画面上の被検出位置の座標を算出するため
    の信号を送出する信号出力手段と、 前記信号出力手段から出力された結果に基づいて表示さ
    れたポインタ位置から被検出位置までのポインタ移動感
    度係数を設定するための圧力を検出する前記圧力検出手
    段とを備えたことを特徴とするポインティングデバイ
    ス。
  2. 【請求項2】 前記被検出位置は撮像レンズの光軸と撮
    像面との交点としたことを特徴とする請求項1記載のポ
    インティングデバイス。
  3. 【請求項3】 表示画面上の所望の位置にポインタを連
    続的に移動させるポインタ制御装置であって、ポインテ
    ィングデバイスにより指示された被検出位置の座標を算
    出する座標演算手段と、前記座標演算手段により算出さ
    れた被検出位置の第1座標値と第2座標値との距離に応
    じた移動感度係数に基づいてポインタの位置を制御する
    ポインタ位置制御手段とを備えたことを特徴とするポイ
    ンタ制御装置。
  4. 【請求項4】 前記ポインタ位置制御手段は、前記距離
    が所定値以下になった時、ポインタの位置を制御するこ
    とを特徴とする請求項3記載のポインタ制御装置。
  5. 【請求項5】 表示画面上の所望の位置にポインタを連
    続的に移動させるポインタ制御装置であって、ポインテ
    ィングデバイスにより順次指示された被検出位置の第
    1、第2及び第3の座標値を算出する座標演算手段と、 前記座標演算手段から算出された第1座標値と第2座標
    値との距離と第2座標値と第3座標値との距離との距離
    比に応じた移動感度係数に基づいてポインタの位置を制
    御するポインタ位置制御手段とを備えたことを特徴とす
    るポインタ制御装置。
  6. 【請求項6】 前記ポインタ位置制御手段は前記距離比
    が所定値以下になった時、ポインタの位置を制御するこ
    とを特徴とする請求項5記載のポインタ制御装置。
  7. 【請求項7】 表示画面上の所望の位置にポインタを移
    動制御するポインタ制御装置であって、ポインティング
    デバイスから出力された表示画面上の被検出位置データ
    に基づき被検出位置の座標を算出する座標演算手段と、
    前記座標演算手段より算出された被検出位置座標と所望
    の位置とのズレ量を前記ポインティングデバイスから出
    力された圧力検出量に応じた移動感度係数を設定する移
    動感度設定手段とを備え、前記圧力検出量の大きさに基
    づいて設定された移動感度係数と前記被検出位置座標と
    に基づいてポインタ位置を制御することを特徴とするポ
    インタ制御装置。
  8. 【請求項8】 前記圧力検出量が大きい時にはポインタ
    を被検出位置に速く近づけ、押圧力が小さい時にはポイ
    ンタを被検出位置に遅く近づけることを特徴とする請求
    項7記載のポインタ制御装置。
  9. 【請求項9】 前記座標演算手段は前記ポインティング
    デバイスから入力された撮像画像データに基づいて演算
    することを特徴とする請求項3、5又は7記載のポイン
    タ制御装置。
  10. 【請求項10】 前記座標演算手段は表示画面に対する
    撮像面の姿勢パラメータに基づいて演算することを特徴
    とする請求項3、5又は7記載のポインタ制御装置。
  11. 【請求項11】 表示画面上の所望の位置にポインタの
    位置を連続的に移動させるポインタ制御方法であって、
    ポインティングデバイスにより順次指示された被検出位
    置の第1及び第2座標値を算出する座標演算ステップ
    と、前記座標演算ステップにより算出された第1座標値
    と第2座標値との距離に応じた移動感度係数に基づいて
    ポインタの位置を制御するポインタ位置制御ステップと
    を含むことを特徴とするポインタ制御方法。
  12. 【請求項12】 表示画面上の所望の位置にポインタの
    位置を連続的に移動させるポインタ制御方法であって、
    ポインティングデバイスにより順次指示された被検出位
    置の第1、第2及び第3座標値を算出する座標演算ステ
    ップと、前記座標演算ステップにより算出された第1座
    標値と第2座標値との距離と第2座標値と第3座標値と
    の距離との比に応じた移動感度係数に基づいてポインタ
    の位置を制御するポインタ位置制御ステップとを含むこ
    とを特徴とするポインタ制御方法。
  13. 【請求項13】 前記移動感度係数はポインティングデ
    バイスからの出力信号により変更することを特徴とする
    請求項11または12記載のポインタ制御方法。
  14. 【請求項14】 表示画面上の所望の位置にポインタを
    移動制御するポインタ制御方法であって、ポインティン
    グデバイスから出力された表示画面上の被検出位置デー
    タに基づき被検出位置の座標を算出する座標演算ステッ
    プと、前記座標演算ステップにより算出された被検出位
    置座標と所望の位置とのズレ量を前記ポインティングデ
    バイスから出力された圧力検出量に応じた移動感度係数
    を設定する移動感度設定ステップと、前記圧力検出量の
    大きさに基づいて設定された移動感度係数と前記被検出
    位置座標とに基づいてポインタ位置を制御することを特
    徴とするポインタ制御方法。
  15. 【請求項15】 前記請求項11〜14記載のいずれか
    1つに記載された方法をコンピュータに実行させるプロ
    グラムを記録したことを特徴とするコンピュータ可読記
    録媒体。
JP2002082894A 2002-03-25 2002-03-25 ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体 Pending JP2003280813A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002082894A JP2003280813A (ja) 2002-03-25 2002-03-25 ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002082894A JP2003280813A (ja) 2002-03-25 2002-03-25 ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体

Publications (1)

Publication Number Publication Date
JP2003280813A true JP2003280813A (ja) 2003-10-02

Family

ID=29230905

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002082894A Pending JP2003280813A (ja) 2002-03-25 2002-03-25 ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体

Country Status (1)

Country Link
JP (1) JP2003280813A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007535773A (ja) * 2004-04-30 2007-12-06 ヒルクレスト・ラボラトリーズ・インコーポレイテッド 自由空間ポインティングデバイスおよびポインティング方法
JP2009064409A (ja) * 2007-03-26 2009-03-26 Avago Technologies Ecbu Ip (Singapore) Pte Ltd 画像データの取り込まれたフレーム内の表示スクリーンを使用して入力装置を追跡するためのシステムおよび方法
JP2009193230A (ja) * 2008-02-13 2009-08-27 Nippon Telegr & Teleph Corp <Ntt> 画像表示方法、画像表示装置および処理システム
JP2010237913A (ja) * 2009-03-31 2010-10-21 Pentel Corp 座標補正方法
US8305627B2 (en) 2008-02-25 2012-11-06 Ricoh Company, Ltd. Image forming apparatus, misregistration correction control method and computer-readable information recording medium
JP2012230702A (ja) * 2007-05-26 2012-11-22 Moon Key Lee カメラとマーク出力とによるポインティング装置
US8723803B2 (en) 2004-05-28 2014-05-13 Ultimatepointer, Llc Easily deployable interactive direct-pointing system and presentation control system and calibration method therefor
US9285897B2 (en) 2005-07-13 2016-03-15 Ultimate Pointer, L.L.C. Easily deployable interactive direct-pointing system and calibration method therefor
WO2016157804A1 (ja) * 2015-03-30 2016-10-06 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
US9785253B2 (en) 2007-05-26 2017-10-10 Moon Key Lee Pointing device using camera and outputting mark

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007535773A (ja) * 2004-04-30 2007-12-06 ヒルクレスト・ラボラトリーズ・インコーポレイテッド 自由空間ポインティングデバイスおよびポインティング方法
US8723803B2 (en) 2004-05-28 2014-05-13 Ultimatepointer, Llc Easily deployable interactive direct-pointing system and presentation control system and calibration method therefor
US9411437B2 (en) 2004-05-28 2016-08-09 UltimatePointer, L.L.C. Easily deployable interactive direct-pointing system and presentation control system and calibration method therefor
US11755127B2 (en) 2004-05-28 2023-09-12 UltimatePointer, L.L.C. Multi-sensor device with an accelerometer for enabling user interaction through sound or image
US11416084B2 (en) 2004-05-28 2022-08-16 UltimatePointer, L.L.C. Multi-sensor device with an accelerometer for enabling user interaction through sound or image
US9785255B2 (en) 2004-05-28 2017-10-10 UltimatePointer, L.L.C. Apparatus for controlling contents of a computer-generated image using three dimensional measurements
US11073919B2 (en) 2004-05-28 2021-07-27 UltimatePointer, L.L.C. Multi-sensor device with an accelerometer for enabling user interaction through sound or image
US8866742B2 (en) 2004-05-28 2014-10-21 Ultimatepointer, Llc Easily deployable interactive direct-pointing system and presentation control system and calibration method therefor
US9063586B2 (en) 2004-05-28 2015-06-23 Ultimatepointer, Llc Easily deployable interactive direct-pointing system and presentation control system and calibration method therefor
US11409376B2 (en) 2004-05-28 2022-08-09 UltimatePointer, L.L.C. Multi-sensor device with an accelerometer for enabling user interaction through sound or image
US11402927B2 (en) 2004-05-28 2022-08-02 UltimatePointer, L.L.C. Pointing device
US11841997B2 (en) 2005-07-13 2023-12-12 UltimatePointer, L.L.C. Apparatus for controlling contents of a computer-generated image using 3D measurements
US9285897B2 (en) 2005-07-13 2016-03-15 Ultimate Pointer, L.L.C. Easily deployable interactive direct-pointing system and calibration method therefor
US10372237B2 (en) 2005-07-13 2019-08-06 UltimatePointer, L.L.C. Apparatus for controlling contents of a computer-generated image using 3D measurements
JP2009064409A (ja) * 2007-03-26 2009-03-26 Avago Technologies Ecbu Ip (Singapore) Pte Ltd 画像データの取り込まれたフレーム内の表示スクリーンを使用して入力装置を追跡するためのシステムおよび方法
JP2012230702A (ja) * 2007-05-26 2012-11-22 Moon Key Lee カメラとマーク出力とによるポインティング装置
US9785253B2 (en) 2007-05-26 2017-10-10 Moon Key Lee Pointing device using camera and outputting mark
JP2015187884A (ja) * 2007-05-26 2015-10-29 キィ リー、ムーン カメラとマーク出力とによるポインティング装置
JP2009193230A (ja) * 2008-02-13 2009-08-27 Nippon Telegr & Teleph Corp <Ntt> 画像表示方法、画像表示装置および処理システム
US8305627B2 (en) 2008-02-25 2012-11-06 Ricoh Company, Ltd. Image forming apparatus, misregistration correction control method and computer-readable information recording medium
JP2010237913A (ja) * 2009-03-31 2010-10-21 Pentel Corp 座標補正方法
JP2016188892A (ja) * 2015-03-30 2016-11-04 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
WO2016157804A1 (ja) * 2015-03-30 2016-10-06 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法

Similar Documents

Publication Publication Date Title
US9001208B2 (en) Imaging sensor based multi-dimensional remote controller with multiple input mode
JP5122887B2 (ja) 実写基盤移動機器の制御方法、装置および媒体
JP5921835B2 (ja) 入力装置
US8867791B2 (en) Gesture recognition method and interactive system using the same
JP5808712B2 (ja) 映像表示装置
US10234955B2 (en) Input recognition apparatus, input recognition method using maker location, and non-transitory computer-readable storage program
TW201911133A (zh) 用於多個自由度之控制器追蹤
US9544556B2 (en) Projection control apparatus and projection control method
US10168769B2 (en) Input apparatus, input method, and program
JP2011028366A (ja) 操作制御装置および操作制御方法
JP2003280785A (ja) 画像表示処理装置、および画像表示処理方法、並びにコンピュータ・プログラム
JP2012027515A (ja) 入力方法及び入力装置
JP2014026355A (ja) 映像表示装置および映像表示方法
JP6204686B2 (ja) 情報処理プログラム、情報処理システム、情報処理装置、および、情報処理の実行方法
JP6452369B2 (ja) 情報処理装置とその制御方法、プログラム、記憶媒体
JP2003280813A (ja) ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体
US7982753B2 (en) Information display apparatus
JP2010272036A (ja) 画像処理装置
JP4563723B2 (ja) 指示動作認識装置及び指示動作認識プログラム
JP4244202B2 (ja) 操作入力装置および操作入力方法
EP3629135A2 (en) Action processing apparatus
JP2018018308A (ja) 情報処理装置、及びその制御方法ならびにコンピュータプログラム
CN113557492B (zh) 利用二维摄像头来辅助对象控制的方法、系统和非暂时性计算机可读记录介质
JP2018063555A (ja) 情報処理装置、情報処理方法及びプログラム
JP2013109538A (ja) 入力方法及び入力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080122

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080527