JPWO2008136064A1 - 操作デバイス、情報処理システム、表示装置及び情報処理方法 - Google Patents

操作デバイス、情報処理システム、表示装置及び情報処理方法 Download PDF

Info

Publication number
JPWO2008136064A1
JPWO2008136064A1 JP2009512800A JP2009512800A JPWO2008136064A1 JP WO2008136064 A1 JPWO2008136064 A1 JP WO2008136064A1 JP 2009512800 A JP2009512800 A JP 2009512800A JP 2009512800 A JP2009512800 A JP 2009512800A JP WO2008136064 A1 JPWO2008136064 A1 JP WO2008136064A1
Authority
JP
Japan
Prior art keywords
user
coordinate input
input device
light
operated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009512800A
Other languages
English (en)
Inventor
山岸 建
建 山岸
平田 真一
真一 平田
大場 章男
章男 大場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Computer Entertainment Inc filed Critical Sony Computer Entertainment Inc
Publication of JPWO2008136064A1 publication Critical patent/JPWO2008136064A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry

Abstract

コンピュータに接続され、透明な操作面を備え、操作面にユーザの指が触れた場合にユーザの指が触れた位置座標を検知し、所定の案内状態において、操作面内のユーザによる操作対象となる位置をユーザに案内し、コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては位置座標が操作データとして供給され、案内状態においては位置座標に代えて案内された操作対象となる位置にユーザが触れたか否かを示す情報が操作データとして供給される座標入力デバイスである。

Description

本発明は、接続されたコンピュータに対して座標入力を行うための座標入力デバイス、当該座標入力デバイスを備えた情報処理システム、表示装置及び情報処理方法に関する。
家庭用ゲーム機等のコンピュータに対してユーザによる様々な種類の操作入力を行うために、操作入力の種類ごとに適した操作デバイスが提案されている。例えば、方向や位置などの情報を入力する用途に対しては、タッチパネルなど、座標入力を行うことのできる座標入力デバイスがある。ユーザは、このような座標入力デバイスを用いて、接続された接続されたコンピュータに対して、位置や方向を指示する操作入力を行うことができる。
通常、コンピュータに対する操作入力としては、座標入力以外にも、例えば処理の実行開始やキャンセルを指示する指示入力など、複数種類のものが必要となる。このような用途に対しては、座標入力デバイスだけで操作入力を行うことができず、別に操作入力手段を設ける必要がある。
本発明は上記実情に鑑みてなされたものであって、その目的の一つは、座標入力を行うとともに、他の操作入力にも用いることのできる座標入力デバイス、当該座標入力デバイスを備えた情報処理システム、表示装置及び情報処理方法を提供することにある。
本発明に係る座標入力デバイスは、コンピュータに接続される座標入力デバイスであって、透明な操作面と、前記操作面にユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知する座標検知手段と、所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内する操作位置案内手段と、を含み、前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標が操作データとして供給され、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報が前記操作データとして供給されることを特徴とする。
上記座標入力デバイスにおいて、前記操作位置案内手段は、複数の前記操作対象となる位置をユーザに案内し、前記アプリケーションプログラムに対して、前記案内状態において、複数の前記操作対象となる位置のうち、ユーザが触れた位置を特定する情報が前記操作データとして供給されることとしてもよい。
また、上記座標入力デバイスにおいて、前記操作位置案内手段は、前記案内状態において光を発する発光部と、前記発光部から発せられた光を受ける反射面と、前記発光部から発せられた光に対して、当該光と異なる波長の光を反射する蛍光材料により形成され、前記反射面内の所定位置に所定形状で配置された表示要素と、を含み、前記表示要素により反射された光が、前記操作面内の前記操作対象となる位置に応じた位置を透過することにより、前記操作対象となる位置をユーザに案内することとしてもよい。
さらに上記座標入力デバイスにおいて、前記操作位置案内手段は、複数の前記表示要素を備え、複数の前記表示要素のそれぞれにより反射された光により、複数の前記操作対象となる位置をユーザに案内することとしてもよい。
また、上記座標入力デバイスにおいて、前記発光部から発せられる光は非可視光であって、前記表示要素は、前記非可視光に対して可視光を反射する蛍光材料により形成されることとしてもよい。
また、上記座標入力デバイスにおいて、前記操作位置案内手段は、複数種類の前記案内状態のそれぞれにおいて、互いに異なる位置を前記操作対象となる位置としてユーザに案内し、前記アプリケーションプログラムに対して、前記複数種類の案内状態のそれぞれにおいて案内された前記操作対象となる位置に、ユーザが触れたか否かを示す情報が前記操作データとして供給されることとしてもよい。
また、本発明に係る表示装置は、光を発する発光部と、前記発光部から発せられた光を受ける反射面と、前記発光部から発せられた光に対して、当該光と異なる波長の光を反射する蛍光材料により形成され、前記反射面内の所定位置に所定形状で配置された表示要素と、を含み、前記表示要素により反射された光により、前記所定形状の画像を所定位置に表示することを特徴とする。
また、本発明に係る情報処理システムは、座標入力デバイスと、当該座標入力デバイスが接続されるコンピュータと、を含む情報処理システムであって、前記座標入力デバイスに設けられた透明な操作面と、前記操作面にユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知する座標検知手段と、所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内する操作位置案内手段と、前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標を操作データとして供給し、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報を前記操作データとして供給する操作データ供給手段と、を含むことを特徴とする。
また、本発明に係る情報処理方法は、コンピュータと接続される座標入力デバイスに設けられた透明な操作面に、ユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知するステップと、所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内するステップと、前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標を操作データとして供給し、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報を前記操作データとして供給するステップと、を含むことを特徴とする。
図1は、本発明の実施の形態に係る座標入力デバイスを含む情報処理システムの例を表す概略図である。 図2(a)、図2(b)及び図2(c)は、本発明の実施の形態に係る座標入力デバイスの例を表す概観図である。 図3は、本発明の実施の形態に係る座標入力デバイスの内部構造の例を表す断面図である。 図4は、本発明の実施の形態に係る座標入力デバイスが表示する案内画像の一例を表す図である。 図5は、本発明の実施の形態に係る座標入力デバイスの回路部の構成例を表す構成ブロック図である。 図6は、情報処理装置の構成例を表す構成ブロック図である。 図7は、仮想3次元空間の一例を示す説明図である。
以下、本発明の一実施形態について、図面を参照しながら説明する。
本実施形態に係る情報処理システム1は、図1に示すように、相互に通信可能に接続された操作デバイス2(座標入力デバイス)と、情報処理装置3(コンピュータ)と、を含んで構成される。本実施形態においては、操作デバイス2は情報処理装置3と無線にて通信を行うこととしているが、これに限らず有線にて接続されてもよい。
本実施形態に係る操作デバイス2は、ユーザが保持して使用するデバイスであって、図2(a)、図2(b)及び図2(c)に示されるように、略直方体の形状をしている。なお、図2(a)は操作デバイス2の正面図であり、図2(b)は右側面図であり、図2(c)は背面図である。また、以下の説明においては、図2(a)に示されるように、操作デバイス2の幅方向をX軸方向、長手方向をY軸方向、厚さ方向(図2(a)において紙面奥に向かう方向)をZ軸方向とする。これらの各軸は、互いに直交している。
図2(a)に示すように、操作デバイス2の中心部には、座標入力に用いられるタッチパネル11(操作面)が設けられている。このタッチパネル11は透明であり、操作デバイス2の正面において、矩形の領域を占めている。さらに、操作デバイス2の筐体のうち、裏面側においてタッチパネル11の反対側に位置する部分も透明になっている。そのため、操作デバイス2の正面及び裏面のいずれからでも、タッチパネル11を透過して操作デバイス2の反対側が見える構造になっている。タッチパネル11は、その表面にユーザの指が触れた場合に、当該ユーザの指が触れた位置を検知し、検知した位置の位置座標を示す信号を出力する。タッチパネル11は、抵抗膜方式や、光学方式、静電方式など、各種の方式で指の接触を検知するものであってよい。
さらに、操作デバイス2の内部には、タッチパネル11に対してかかる圧力を検知する圧力センサ等の圧力検知手段が設けられてもよい。これにより、ユーザがタッチパネル11に指を押し当てる操作を行った場合、情報処理システム1は、ユーザの指の位置だけでなく、指を押し当てる圧力を検知し、検知した圧力に応じた処理を実行することができる。
また、タッチパネル11の中心部には、センタ突起部12aが設けられている。また、タッチパネル11の端部近傍の所定位置には、二つの突起部12b及び12cがそれぞれ設けられている。これらの突起部は、ユーザがタッチパネル11を見なくとも、指でタッチパネル11の表面に触れるだけでその位置が分かるようになっている。
さらに、図2(b)に示すように、操作デバイス2の右側面上方には、円弧状操作部材13が設けられている。円弧状操作部材13は、操作デバイス2の正面から見て円弧状に形成された静電センサ等のセンサである。円弧状操作部材13は、その表面にユーザの指が触れた場合に、ユーザの指が触れた位置を示す信号をユーザの操作内容を示す情報として出力する。円弧状操作部材13が出力する信号に基づいて、ユーザの指が円弧に沿って上方又は下方のいずれの方向に動いたかを特定することにより、情報処理システム1は、円弧状操作部材13を指でなぞるユーザの操作に応じた処理を実現できる。また、円弧状操作部材13は円の一部のような形状であるため、ユーザはあたかも指で当該部分を回転させるような指の動きで、操作指示を行うことができる。
また、図2(c)に示すように、操作デバイス2の裏面には、ユーザの操作対象となる3つのスイッチ14a、14b及び14cが設けられている。これらのスイッチも、ユーザの指が接触したことを検知する静電センサ等のセンサによって構成されてもよい。
次に、操作デバイス2の内部構造について説明する。操作デバイス2の内部には、タッチパネル11と平行に、情報表示部19が配置されている。情報表示部19は、所定の案内状態において、タッチパネル11内のユーザによる操作対象となる位置をユーザに案内する案内情報(案内画像)を表示する。本実施形態における情報表示部19は、以下に詳しく説明するように、中空部15を形成する入射面16a、反射面16b、及び出射面16cと、発光部17と、表示要素18と、を含んで構成される。
図3は、操作デバイス2を、X軸及びZ軸に平行、Y軸に垂直で、かつタッチパネル11を通る平面で切った断面図である。図3に示すように、操作デバイス2の内部には、略三角柱の形状をした中空部15が存在する。中空部15は、入射面16a、反射面16b、及び出射面16cの3つの側面によって形成されている。入射面16aは、Y軸及びZ軸に平行で、X軸に垂直な平面である。出射面16cは、X軸及びY軸に平行で、Z軸に垂直な平面であって、タッチパネル11の裏面に面している。また、反射面16bはY軸に平行な平面であって、X軸及びZ軸のそれぞれに対して所定の角度だけ傾いている。なお、これらの面は、いずれも透明な部材によって形成される。
さらに、図2(a)及び図3に示されるように、操作デバイス2の内部には、入射面16aに面して、複数の発光部17が配置されている。図2(a)の例においては、3つの発光部17a、17b、及び17cが、Y軸方向に沿って並んだ状態で配置されている。
それぞれの発光部17は、例えば紫外線発光ダイオード及び集光レンズを含んで構成される。この発光部17は、発光ダイオードが発する光を集光レンズによって指向性のある光にして、X軸の負方向に向けて照射する。発光部17から発せられた光は、入射面16aを通って中空部15に入射する。なお、発光部17が発する光は、紫外線発光ダイオードが発する紫外線光などの非可視光であってよい。
反射面16bは、この発光部17から発せられた光が照射される位置に配置されている。なお、反射面16bは前述した通りX軸に対して傾いているため、X軸の負方向に向けられた発光部17からの光は、反射面16bに対して斜めに入射する。
反射面16b上の所定位置には、所定形状の表示要素18が配置されている。表示要素18は、所定の波長の光(励起光)を受けると、励起光の波長とは異なる波長の光(蛍光)を発する物質(蛍光材料)により形成されている。この表示要素18によって、発光部17から中空部15に入射した光の一部は、波長の異なる光(例えば可視光)となって反射される。なお、本実施形態における表示要素18は、通常の室内などにおける環境光の下では、無色透明の状態になっている。
表示要素18によって反射された光は、出射面16cを通って中空部15の外部に出射し、タッチパネル11を透過して操作デバイス2の外部に出射する。図3における破線の矢印は、発光部17から発せられ、表示要素18によって反射される光の光路の一例を示している。なお、出射面16cとタッチパネル11との間には、蛍光以外の散乱光や励起光などを遮断するためのフィルタ部が設けられてもよい。
以上説明した構成によれば、発光部17から光が発せられると、操作デバイス2の外面のうちタッチパネル11が占める領域内に、反射光による案内画像が表示される。この案内画像は、反射面16b上の表示要素18の形状に応じた形状で、反射光の波長に応じた色になる。このように、発光部17からの光を反射面16bに配置された表示要素18が異なる波長の光として反射することにより、操作デバイス2は、所定形状の画像を所定位置に表示する表示装置として動作する。なお、前述したように、タッチパネル11及び操作デバイス2の筐体裏面側のタッチパネル11の位置に対応する部分は、透明である。そのため、案内画像は、あたかも透明な操作デバイス2の内部に浮かび上がるように見える。
操作デバイス2は、発光部17による発光のオン/オフを切り替えることによって、案内画像を表示させたり消したりすることができる。また、複数の発光部17のうち、一部の発光部17だけ発光させることにより、複数の案内画像のうち、一部の案内画像だけを表示させる制御を行ってもよい。この案内画像は、所定の状態の下で、タッチパネル11上のユーザによる操作対象となる位置を、ユーザに案内するために用いられる。
図4は、操作デバイス2が表示する案内画像の一例を示す図である。ここで、案内画像P1は発光部17aからの光に応じて、案内画像P2及びP3は発光部17bからの光に応じて、案内画像P4は発光部17cからの光に応じて、それぞれタッチパネル11上の所定の位置に表示される。
なお、これらの案内画像が表示される位置を、センタ突起部12aと一致する位置や、図4に例示するようにセンタ突起部12aの周囲(上下左右など)の所定の位置とすることにより、ユーザは操作デバイス2の案内画像を直接目で見て確認せずとも、センタ突起部12aの位置を指で探すことで、これらの案内画像が表示される位置を操作することができる。この場合、操作デバイス2の個体差により、案内画像が表示される位置とセンタ突起部12aとの間の位置関係にばらつきが生じないようにすることが望ましい。そこで、操作デバイス2の製造時に、表示要素18が配置される位置とセンタ突起部12aとの位置関係が所定のものとなるよう、調整しながら組み立てることとしてもよい。
次に、操作デバイス2の内部に実装される回路部について、説明する。操作デバイス2の回路部は、機能的に、図5に示すように、信号処理部21と、通信部22と、傾き検知部23と、バッテリ24と、を含んで構成される。
信号処理部21は、マイクロコンピュータ等であって、内蔵する記憶部に格納されたプログラムに従って動作する。この信号処理部21は、タッチパネル11や、円弧状操作部材13、スイッチ14a、14b及び14cなどの操作部材に対するユーザの操作に応じた信号を、ユーザの操作内容を示す情報として出力する。また、後述する傾き検知部23による検知結果に応じた信号を出力する。これらの信号は、通信部22を介して情報処理装置3に送信される。通信部22は、例えばBluetooth(登録商標)規格に基づく無線通信手段であり、信号処理部21が出力する信号を情報処理装置3に対して送信する。また、信号処理部21は、通信部22を介して情報処理装置3から受信した制御信号に基づいて、発光部17による発光のオン/オフを切り替えることにより、情報表示部19による案内情報の表示/非表示を切り替える制御を実行する。
傾き検知部23は、例えば加速度センサであって、操作デバイス2の傾きを検知し、検知した結果を示す信号を信号処理部21に対して出力する。この場合の加速度センサは、例えば3つの基準軸(X軸、Y軸、Z軸)のそれぞれの方向に生じる加速度を検知する3軸加速度センサであってよい。3軸加速度センサは、各軸に対して生じる加速度に略比例する3つの電圧信号を出力する。
この傾き検知部23による検知結果を用いることにより、情報処理システム1は、タッチパネル11等の操作部材に対するユーザの操作だけでなく、操作デバイス2そのものの姿勢を変化させるユーザの操作に応じた処理を実行できる。例えば、操作デバイス2に設定された各基準軸に対して生じる重力加速度を傾き検知部23が検知することによって、各基準軸が水平面に対してどの程度傾いているかを判定することが可能となる。また、ユーザが操作デバイス2を振った場合、短い時間内に重力加速度を超える加速度が生じる。そこで、情報処理システム1は、このような加速度の変化を検知することにより、ユーザが操作デバイス2を振る動作に応じて所定の処理を実行することができる。
バッテリ24は、例えば充放電可能な二次電池であり、操作デバイス2の各部に電源を供給する。
一方、情報処理装置3は、例えば家庭用ゲーム機やパーソナルコンピュータ等であって、図6に示すように、制御部31と、記憶部32と、表示制御部33と、インタフェース部34と、を含んで構成される。
制御部31は、CPU等であって、記憶部32に格納されたプログラムに従って動作する。本実施形態において、制御部31は、インタフェース部34を介して操作デバイス2から送信されるユーザの操作内容を示す信号に基づいて、例えばゲームなどの各種の処理を実行する。
記憶部32は、例えばRAMやROM等の記憶素子、ハードディスクやDVD−ROM等のディスクデバイスなど、コンピュータ読み取り可能な情報記憶媒体を含んで構成される。記憶部32には、制御部31によって実行されるプログラムが格納される。また、制御部31のワークメモリとしても動作する。
表示制御部33は、家庭用テレビ受像機等の表示装置に接続されている。表示制御部33は、制御部31の指示に従って画像を描画し、描画した画像を表示装置に出力し、表示させる。
インタフェース部34は、通信部22と同様の通信手段を備え、少なくとも一つの操作デバイス2と接続される。このインタフェース部34は、操作デバイス2から受信したユーザの操作内容を示す信号を、制御部31に出力する。また、インタフェース部34は、制御部31の指示に従って、操作デバイス2を制御する各種の信号等を出力することとしてもよい。
本実施形態において、情報処理装置3の制御部31は、記憶部32に記憶されたアプリケーションプログラムを実行することによって、ユーザの操作デバイス2に対する指示操作に応じた処理を実行する。この場合において、以下に説明するように、同じタッチパネル11に対するユーザの操作に対して、情報処理システム1の動作状態に応じて異なる種類の情報が操作データとしてアプリケーションプログラムに供給される。
以下、複数の動作状態のそれぞれにおける、ユーザの操作内容とアプリケーションプログラムに供給される操作データとの対応関係について、説明する。なお、以下の説明においては、情報処理システム1は座標入力状態又は案内状態のいずれかの動作状態で動作するものとする。
まず、座標入力状態においては、操作デバイス2は座標入力用のデバイスとして機能し、アプリケーションプログラムに対してはユーザの指が触れた位置(以下、接触検知位置という)を示す位置座標が操作データとして供給される。具体例として、アプリケーションプログラムを実行する制御部31は、供給される操作データに応じて仮想3次元空間内に配置された視点位置を移動させる処理を行うこととする。この場合、供給される操作データは方向を指示する操作入力として扱われる。図7は、アプリケーションプログラムによって実現される仮想3次元空間の一例を示す説明図である。図7の例においては、X′、Y′、Z′の3つの基準軸が設定された空間内に、視点位置Vが配置されている。また、視点位置Vには予め視線方向Dが定められている。制御部31は、視点位置Vから視線方向Dに向かって仮想3次元空間を見た様子を示す空間画像を生成し、表示制御部33を介して表示装置に生成した空間画像を表示する。
この例においては、タッチパネル11の中心位置(センタ突起部12aが配置された位置)を基準位置とする。そして、接触検知位置の基準位置に対する方向により、視点位置Vの移動方向が決定される。また、接触検知位置の基準位置からの距離に応じて、視点位置Vの移動速度が決定される。例えば、タッチパネル11上において基準位置に対してX軸の正方向の位置にユーザの指が触れている間、視点位置Vは仮想3次元空間内においてX′軸の正方向に移動する。この場合に、ユーザの指が基準位置に近い位置に触れている場合には、視点位置Vは比較的遅い速度で移動し、ユーザの指がタッチパネル11の端部に近い位置に触れている場合には、視点位置Vは比較的速い速度で移動する。
この例のように基準位置からの方向により視点位置Vの移動方向が決定される場合、基準位置の近傍の所定範囲については、ユーザがいずれの方向を指示しているか判別し難くなるため、方向を指示する操作に用いないこととしてもよい。さらにこの場合、基準位置の近傍の所定範囲を、方向を指示する操作とは異なる操作に用いることとしてもよい。例えば、タッチパネル11の表面は2次元であるため、X′軸及びY′軸といった2次元の方向を指示することはできるが、接触検知位置の基準位置に対する方向の情報だけでは、3次元の方向に対する指示操作を実現できない。そこで、この所定範囲をZ′軸に対する方向の指示操作に用いることにより、ユーザは3次元空間内の任意の方向に対する指示操作を行うことができる。
この場合、単に所定範囲にユーザの指が触れたか否かだけでは、Z′軸の正方向及び負方向のいずれの方向に対する指示がなされたか特定できない。そこで、制御部31は、傾き検知部23によって検知された操作デバイス2の傾きに関する情報と、接触検知位置の位置座標の情報と、を組み合わせて、方向の特定を行ってもよい。例えば、操作デバイス2のY軸が水平面に対して所定の基準角度(例えば60度)以上傾いた状態で基準位置近傍の所定範囲にユーザの指が触れた場合には、視点位置Vを仮想3次元空間内においてZ′軸の負方向に移動させる。一方、操作デバイス2のY軸の水平面に対する傾きが基準角度未満の状態で基準位置近傍の所定範囲にユーザの指が触れた場合には、視点位置Vを仮想3次元空間内においてZ′軸の正方向に移動させる。こうすれば、ユーザはタッチパネル11を触れる操作と操作デバイス2を傾ける操作を組み合わせて、視点位置Vを仮想3次元空間内において任意の方向に移動させることができる。
なお、この場合において、制御部31は、操作デバイス2のY軸の水平面に対する角度と基準角度との差に応じて、視点位置VのZ′軸正負方向に対する移動速度を決定してもよい。また、前述したようにタッチパネル11をユーザが押す力を圧力センサ等により検知可能な場合、制御部31は、基準位置近傍の所定範囲をユーザが押す力の強さに応じて、視点位置Vの移動速度を変化させてもよい。
また、この例においては操作デバイス2の傾きが基準角度以上か否かによってZ′軸の正負方向を区別している。そのため、ユーザの意図に反して操作デバイス2の傾きが変化してしまい、指示方向が逆転してしまうことがあり得る。そこで、操作デバイス2は例えば振動モータ等を備え、操作デバイス2の傾きが基準角度に近づいた場合、又は基準角度を超えて変化する場合に、このような事象の発生を装置の振動によってユーザに提示してもよい。
また、基準位置から接触検知位置までの距離に応じて視点位置Vの移動速度が決定される場合、タッチパネル11は矩形であるため、矩形領域の四隅にあたる位置も、方向を指示する操作に使われる可能性は少ないと考えられる。そこで、このようなタッチパネル11の端部近傍の範囲についても、方向を指示する操作とは異なる特定の機能に割り当ててもよい。例えば、タッチパネル11の端部近傍に設けられた突起部12b又は12cの位置をユーザが指で触れた場合には、視線方向Dの鉛直角をそれぞれ上方向又は下方向に変化させるなどの処理を実行してもよい。
なお、センタ突起部12a及び突起部12b、12cの存在により、ユーザは、都度タッチパネル11を目で見て確認せずとも、これらの突起部を指で探すことで、それぞれ特定の機能が割り当てられたタッチパネル11上の所定の場所に触れることができる。
また、接触検知位置の基準位置からの距離が所定の値以上か否かに応じて、制御部31は異なる種類の処理を実行してもよい。例えば、接触検知位置が基準位置から所定距離以内の場合には、これまでに説明した処理によって視点位置Vを移動させる。一方、接触検知位置が基準位置から所定距離以上離れている場合には、視点位置Vを移動させる代わりに、例えば画面上に表示されたカーソル画像など、その他のオブジェクトを移動させることとしてもよい。
また、このような3次元の方向を指示する入力に加えて、ユーザが円弧状操作部材13を上方向又は下方向に指でなぞる操作により、さらに4次元的な方向を指示する操作入力が実現されてもよい。これにより、例えば仮想3次元空間内に配置されたオブジェクトの位置が時系列に従って変化する場合に、ユーザは、前述したタッチパネル11に対する操作によって視点位置Vを変化させつつ、円弧状操作部材13を操作することにより仮想3次元空間内の時間を進めたり、又は戻したりすることができる。
一方、情報処理システム1の状態が座標入力状態から案内状態に切り替わった場合、操作デバイス2は、タッチパネル11内のユーザによる操作対象となる位置(以下、操作対象位置という)をユーザに案内する。そして、情報処理装置3の制御部31は、座標入力状態におけるタッチパネル11の位置座標の情報に代えて、この操作対象位置にユーザが触れたか否かを示す情報を操作データとしてアプリケーションプログラムに供給する。このような処理は、例えば記憶部32に格納されたデバイスプログラムを制御部31が実行することによって、実現される。
具体例として、操作デバイス2は、発光部17を発光させて、前述した図4の例のような複数の案内画像を表示することにより、ユーザにタッチパネル11内の複数の操作対象位置を案内する。この例においては、各案内画像が表示された位置が、それぞれ異なる操作の対象となる操作対象位置になっている。また、各操作対象位置は、それぞれ1つの案内画像を含む一定の範囲の領域であるものとする。
この場合、制御部31は、操作デバイス2から送信された接触検知位置の位置座標の情報を取得する。そして、当該取得した位置座標が複数の操作対象位置のいずれかに含まれるか否かを判定する。接触検知位置がいずれかの操作対象位置に含まれる場合、制御部31は、この接触検知位置が含まれる操作対象位置を特定する情報を、操作データとしてアプリケーションプログラムに供給する。一方、接触検知位置がいずれの操作対象位置にも含まれない場合には、操作対象位置以外のいずれかの位置にユーザの指が触れている場合であっても、ユーザの操作がなされていないことを示す情報を操作データとしてアプリケーションプログラムに供給する。
以上説明した処理によって、ユーザは、各案内画像が表示されたタッチパネル11上の位置に触れることで、それぞれの案内画像に対応する機能をアプリケーションプログラムに実行させることができる。例えば図4に示す案内画像がタッチパネル11上に表示されている場合、ユーザが案内画像P1の位置に触れることによって、情報処理装置3は、アプリケーションプログラムを実行してコンテンツの再生を行う。また、ユーザが案内画像P2、P3又はP4の位置に触れることによって、それぞれコンテンツ再生の早送り、巻き戻し、又は停止を実行する。
以上の例においては、アプリケーションプログラムによって実行される処理の内容に応じて、情報処理装置3の制御部31が座標入力状態と案内状態とを切り替えることとしている。制御部31は、アプリケーションプログラムの処理内容に応じて、操作デバイス2に対して座標入力状態と案内状態とを切り替える制御信号を出力する。操作デバイス2の信号処理部21は、受信した制御信号に応じて発光部17による発光のオン/オフを切り替える制御を行うことにより、状態に応じた案内画像の表示/非表示の切り替えを行う。
なお、座標入力状態と案内状態とは、ユーザの操作デバイス2に対する所定の操作に応じて切り替えられることとしてもよい。例えば操作デバイス2は、状態切り替え用のスイッチを備えてもよい。この場合、操作デバイス2のスイッチ操作によって切り替えられた状態に関する情報が情報処理装置3に対して出力され、情報処理装置3は出力された情報に基づいて操作データを生成し、アプリケーションプログラムに供給する。
以上説明したように、本実施形態によれば、ユーザは、座標入力状態においてはタッチパネル11を座標入力に用いるとともに、案内状態においては操作デバイス2上に提示される案内に従ってタッチパネル11内の所定の操作対象位置に対して操作を行うこととする。これにより、情報処理システム1は、同じタッチパネル11に対するユーザの操作に対して、その状態に応じた操作データをアプリケーションプログラムに供給することができ、ユーザは状態に応じて様々な用途に座標入力デバイスを用いることができる。また、案内状態にない場合には案内画像が消去されることにより、座標入力などの他の用途に操作デバイス2を使用する場合に、不要な表示によりタッチパネル11を操作し難くなることを防止できる。
なお、本発明は上記実施形態に限定されるものではなく、種々の変形実施が可能である。例えば、以上の説明において情報処理装置3の制御部31が実行することとした処理の一部又は全部は、操作デバイス2内の信号処理部21が実行することとしてもよい。具体例として、案内状態において、接触検知位置が操作対象位置内にあるか否かを信号処理部21が判定し、判定結果を操作データとして情報処理装置3に送信することとしてもよい。
また、以上の説明においては1つの座標入力状態と1つの案内状態とが切り替えられることとしたが、座標入力状態及び案内状態はいずれもアプリケーションプログラムによって実行される処理などに応じて複数種類あってもよい。この場合、操作デバイス2は、複数種類の案内状態のそれぞれにおいて、互いに異なる位置を操作対象位置としてユーザに案内してもよい。また、複数種類の案内状態のそれぞれにおいて、ユーザに提示される案内画像は互いに異なってもよい。例えば操作デバイス2は、複数の発光部17のうち案内状態の種類に応じて選択された一部の発光部17を発光させることにより、状態ごとに異なる案内画像を表示させることができる。
あるいは、操作デバイス2は、複数の中空部15を備えてもよい。この場合、複数の中空部15は、例えば操作デバイス2内においてZ軸方向に沿って重ねて配置される。そして、複数の中空部15のそれぞれに対して、光を照射する1又は複数の発光部17が配置される。また、各中空部15を構成する反射面16bのそれぞれは、対応する発光部17からの光をタッチパネル11が配置された方向に反射する角度で配置される。また、各反射面16bには、互いに異なる位置及び/又は形状で表示要素18が配置される。これにより、操作デバイス2は、案内状態の種類に応じて、複数の中空部15のいずれかに対応する発光部17を発光させることで、各中空部15に配置された表示要素18に応じた案内画像を選択的に表示させることができる。なお、このような構造によれば、2層の中空部15による表示を交互に切り替えて、例えば液晶シャッタ方式などによる立体映像を表示することもできる。
また、操作デバイス2は、中空部15を挟んで正面側だけでなく、裏面側にもタッチパネルを備えてもよい。操作デバイス2のタッチパネル11が配置された部分は透明なので、操作デバイス2の裏面側の指の位置も正面側から見ることができる。そのため、ユーザは、裏面のタッチパネル上において、案内画像が表示された位置に対応する位置を指で触れる操作も容易に行うことができる。操作デバイス2がこのような裏面のタッチパネルに対する操作を検知することにより、ユーザは、状況に応じて正面又は裏面のどちらに対しても操作を行うことができる。また、ユーザが両面のタッチパネルに対してそれぞれ異なる操作を行うことにより、制御部31は、複数のオブジェクトを同時にそれぞれ指示された方向に移動させるなどの処理を実行してもよい。
さらに、操作デバイス2は、例えば紙製のカードなどをタッチパネル11に平行な向きで挿入又は嵌め込み可能に構成されてもよい。このカードには、操作対象位置をユーザに案内するための案内画像が形成されている。情報処理システム1は、操作デバイス2にこのようなカードが挿入されたことを検知することによって、カードが挿入されている間、カードに表された案内画像の位置に応じた操作対象位置に接触検知位置が含まれるか否かを示す情報を、操作データとしてアプリケーションプログラムに供給する。この場合において、情報処理システム1は、例えばカードに埋め込まれたRFIDタグなどによってカードの種類を識別することにより、識別したカードの種類に応じて予め定められた位置を操作対象位置として、操作データを生成してもよい。これにより、複数種類のカードを交換することで、一つの操作デバイス2を様々な操作方法で使用することができる。
さらに、上述したカードなどの対象物を操作デバイス2の内部に挿入するのではなく、例えば対象物を操作デバイス2のタッチパネル11と反対側の面に重ねるなど、ユーザから見て操作デバイス2に対して奥側の位置に配置して使用してもよい。この場合において、情報表示部19は、例えばカメラ等により撮像された画像や、センサの検知結果などを用いてこの対象物の位置を特定し、特定した位置に応じたタッチパネル11上の位置に、案内情報を表示させてもよい。操作デバイス2のタッチパネル11が配置された部分は透明になっているため、ユーザは、操作デバイス2を通して対象物を見ながら、タッチパネル11に対する操作を行うことができる。
また、以上の説明においては発光部17からの光を表示要素18が反射することにより案内画像を表示することとしているが、情報表示部19は、他の方法で案内情報を表示してもよい。例えば情報表示部19は、半透過型液晶などを用いた表示装置により、各種の案内情報を所定位置に表示させてもよい。

Claims (9)

  1. コンピュータに接続される座標入力デバイスであって、
    透明な操作面と、
    前記操作面にユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知する座標検知手段と、
    所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内する操作位置案内手段と、
    を含み、
    前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標が操作データとして供給され、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報が前記操作データとして供給される
    ことを特徴とする座標入力デバイス。
  2. 請求の範囲第1項に記載の座標入力デバイスにおいて、
    前記操作位置案内手段は、複数の前記操作対象となる位置をユーザに案内し、
    前記アプリケーションプログラムに対して、前記案内状態において、複数の前記操作対象となる位置のうち、ユーザが触れた位置を特定する情報が前記操作データとして供給される
    ことを特徴とする座標入力デバイス。
  3. 請求の範囲第1項に記載の座標入力デバイスにおいて、
    前記操作位置案内手段は、
    前記案内状態において光を発する発光部と、
    前記発光部から発せられた光を受ける反射面と、
    前記発光部から発せられた光に対して、当該光と異なる波長の光を反射する蛍光材料により形成され、前記反射面内の所定位置に所定形状で配置された表示要素と、
    を含み、
    前記表示要素により反射された光が、前記操作面内の前記操作対象となる位置に応じた位置を透過することにより、前記操作対象となる位置をユーザに案内する
    ことを特徴とする座標入力デバイス。
  4. 請求の範囲第3項に記載の座標入力デバイスにおいて、
    前記操作位置案内手段は、複数の前記表示要素を備え、複数の前記表示要素のそれぞれにより反射された光により、複数の前記操作対象となる位置をユーザに案内する
    ことを特徴とする座標入力デバイス。
  5. 請求の範囲第3項に記載の座標入力デバイスにおいて、
    前記発光部から発せられる光は非可視光であって、
    前記表示要素は、前記非可視光に対して可視光を反射する蛍光材料により形成される
    ことを特徴とする座標入力デバイス。
  6. 請求の範囲第1項に記載の座標入力デバイスにおいて、
    前記操作位置案内手段は、複数種類の前記案内状態のそれぞれにおいて、互いに異なる位置を前記操作対象となる位置としてユーザに案内し、
    前記アプリケーションプログラムに対して、前記複数種類の案内状態のそれぞれにおいて案内された前記操作対象となる位置に、ユーザが触れたか否かを示す情報が前記操作データとして供給される
    ことを特徴とする座標入力デバイス。
  7. 光を発する発光部と、
    前記発光部から発せられた光を受ける反射面と、
    前記発光部から発せられた光に対して、当該光と異なる波長の光を反射する蛍光材料により形成され、前記反射面内の所定位置に所定形状で配置された表示要素と、
    を含み、
    前記表示要素により反射された光により、前記所定形状の画像を所定位置に表示することを特徴とする表示装置。
  8. 座標入力デバイスと、当該座標入力デバイスが接続されるコンピュータと、を含む情報処理システムであって、
    前記座標入力デバイスに設けられた透明な操作面と、
    前記操作面にユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知する座標検知手段と、
    所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内する操作位置案内手段と、
    前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標を操作データとして供給し、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報を前記操作データとして供給する操作データ供給手段と、
    を含むことを特徴とする情報処理システム。
  9. コンピュータと接続される座標入力デバイスに設けられた透明な操作面に、ユーザの指が触れた場合に、当該ユーザの指が触れた位置座標を検知するステップと、
    所定の案内状態において、前記操作面内のユーザによる操作対象となる位置をユーザに案内するステップと、
    前記コンピュータにおいて実行されるアプリケーションプログラムに対して、所定の座標入力状態においては、前記検知された位置座標を操作データとして供給し、前記案内状態においては、前記検知された位置座標に代えて、前記案内された操作対象となる位置にユーザが触れたか否かを示す情報を前記操作データとして供給するステップと、
    を含むことを特徴とする情報処理方法。
JP2009512800A 2007-04-19 2007-04-19 操作デバイス、情報処理システム、表示装置及び情報処理方法 Pending JPWO2008136064A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2007/058516 WO2008136064A1 (ja) 2007-04-19 2007-04-19 座標入力デバイス、情報処理システム、表示装置及び情報処理方法

Publications (1)

Publication Number Publication Date
JPWO2008136064A1 true JPWO2008136064A1 (ja) 2010-07-29

Family

ID=39943189

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009512800A Pending JPWO2008136064A1 (ja) 2007-04-19 2007-04-19 操作デバイス、情報処理システム、表示装置及び情報処理方法

Country Status (2)

Country Link
JP (1) JPWO2008136064A1 (ja)
WO (1) WO2008136064A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9258402B2 (en) * 2009-04-14 2016-02-09 Qualcomm Incorporated System and method for controlling mobile devices
US8814686B2 (en) 2010-02-03 2014-08-26 Nintendo Co., Ltd. Display device, game system, and game method
EP2392389A4 (en) 2010-02-03 2014-10-15 Nintendo Co Ltd GAME SYSTEM, OPERATING METHOD AND GAME PROCESSING METHOD
US8913009B2 (en) 2010-02-03 2014-12-16 Nintendo Co., Ltd. Spatially-correlated multi-display human-machine interface
US8339364B2 (en) 2010-02-03 2012-12-25 Nintendo Co., Ltd. Spatially-correlated multi-display human-machine interface
JP6243586B2 (ja) 2010-08-06 2017-12-06 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
US10150033B2 (en) 2010-08-20 2018-12-11 Nintendo Co., Ltd. Position calculation system, position calculation device, storage medium storing position calculation program, and position calculation method
JP6184658B2 (ja) * 2010-08-20 2017-08-23 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
JP5840385B2 (ja) 2010-08-30 2016-01-06 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
JP5840386B2 (ja) 2010-08-30 2016-01-06 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
KR101492310B1 (ko) 2010-11-01 2015-02-11 닌텐도가부시키가이샤 조작 장치 및 정보 처리 장치
JP5689014B2 (ja) 2011-04-07 2015-03-25 任天堂株式会社 入力システム、情報処理装置、情報処理プログラム、および3次元位置算出方法
EP2575006B1 (en) 2011-09-27 2018-06-13 Elo Touch Solutions, Inc. Touch and non touch based interaction of a user with a device
JP6957712B1 (ja) * 2020-10-08 2021-11-02 エヌエイチエヌ コーポレーション プログラムおよび視野制御方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0623084U (ja) * 1992-08-28 1994-03-25 筒中プラスチック工業株式会社 蛍光表示装置
JPH0719775U (ja) * 1993-09-14 1995-04-07 筒中プラスチック工業株式会社 蛍光表示装置
JP2000066830A (ja) * 1998-08-24 2000-03-03 Nec Corp 液晶表示機能付きタブレット型座標入力装置
JP2003053908A (ja) * 2001-08-13 2003-02-26 Teijin Chem Ltd 高意匠性シート状積層構造体およびその利用
JP2003091250A (ja) * 2001-09-18 2003-03-28 Konica Corp 蛍光表示装置
JP2003519810A (ja) * 2000-01-06 2003-06-24 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 照明装置及び発光パネル
JP2006075362A (ja) * 2004-09-09 2006-03-23 Omron Corp 表示装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000075293A (ja) * 1998-09-02 2000-03-14 Matsushita Electric Ind Co Ltd 照明装置、照明付きタッチパネル及び反射型液晶表示装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0623084U (ja) * 1992-08-28 1994-03-25 筒中プラスチック工業株式会社 蛍光表示装置
JPH0719775U (ja) * 1993-09-14 1995-04-07 筒中プラスチック工業株式会社 蛍光表示装置
JP2000066830A (ja) * 1998-08-24 2000-03-03 Nec Corp 液晶表示機能付きタブレット型座標入力装置
JP2003519810A (ja) * 2000-01-06 2003-06-24 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 照明装置及び発光パネル
JP2003053908A (ja) * 2001-08-13 2003-02-26 Teijin Chem Ltd 高意匠性シート状積層構造体およびその利用
JP2003091250A (ja) * 2001-09-18 2003-03-28 Konica Corp 蛍光表示装置
JP2006075362A (ja) * 2004-09-09 2006-03-23 Omron Corp 表示装置

Also Published As

Publication number Publication date
WO2008136064A1 (ja) 2008-11-13

Similar Documents

Publication Publication Date Title
JPWO2008136064A1 (ja) 操作デバイス、情報処理システム、表示装置及び情報処理方法
CN103970265B (zh) 具有触觉反馈的增强现实用户接口
JP5930618B2 (ja) 空間手書きシステム及び電子ペン
CN103124951B (zh) 信息处理装置
CN114127669A (zh) 无源指示笔的可跟踪性增强
US9678663B2 (en) Display system and operation input method
JP2008071102A (ja) 点図ディスプレイ装置
JP2013125247A (ja) ヘッドマウントディスプレイ及び情報表示装置
US10261327B2 (en) Head mounted display and control method for head mounted display
JP2023053397A (ja) 座標算出システム
CN111344663B (zh) 渲染装置及渲染方法
JP2013535066A (ja) 対話型システムのための起動オブジェクト
JP5872185B2 (ja) 携帯型電子機器
US8599171B2 (en) Optical position detecting device and display device with position detecting function
US20180081444A1 (en) Simulation system
JPWO2019171719A1 (ja) 入力装置及び入力方法
JP2013084096A (ja) 情報処理装置
US20230205416A1 (en) Spatial position indication system
KR102218919B1 (ko) 이동 단말기
US9703410B2 (en) Remote sensing touchscreen
CN115298646A (zh) 信息处理设备、信息处理方法、计算机程序和增强现实感测系统
KR20120136719A (ko) 손과 눈의 3차원 위치정보를 이용한 원거리 스크린 상의 물체지목 및 제어방법
US11789536B2 (en) Input device and display input system
KR102465862B1 (ko) 입력 장치 및 그 제어방법
US11449296B2 (en) Display system, display method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100415

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101124

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121219

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130416