JP6153564B2 - カメラとマーク出力とによるポインティング装置 - Google Patents

カメラとマーク出力とによるポインティング装置 Download PDF

Info

Publication number
JP6153564B2
JP6153564B2 JP2015120124A JP2015120124A JP6153564B2 JP 6153564 B2 JP6153564 B2 JP 6153564B2 JP 2015120124 A JP2015120124 A JP 2015120124A JP 2015120124 A JP2015120124 A JP 2015120124A JP 6153564 B2 JP6153564 B2 JP 6153564B2
Authority
JP
Japan
Prior art keywords
mark
image
output
camera
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015120124A
Other languages
English (en)
Other versions
JP2015187884A (ja
Inventor
キィ リー、ムーン
キィ リー、ムーン
Original Assignee
キィ リー、ムーン
キィ リー、ムーン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by キィ リー、ムーン, キィ リー、ムーン filed Critical キィ リー、ムーン
Publication of JP2015187884A publication Critical patent/JP2015187884A/ja
Application granted granted Critical
Publication of JP6153564B2 publication Critical patent/JP6153564B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0317Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0317Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
    • G06F3/0321Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface by optically sensing the absolute position with respect to a regularly patterned surface forming a passive digitiser, e.g. pen optically detecting position indicative tags printed on a paper sheet
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0386Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry for light pen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • G06V30/1423Image acquisition using hand-held instruments; Constructional details of the instruments the instrument generating sequences of position coordinates corresponding to handwriting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/19Image acquisition by sensing codes defining pattern positions

Description

本発明は、カメラとマーク出力とによるポインティング装置に関する。
カメラを装着したリモコンやペン状のポインティング装置で、モニタ画面に出力される特定マークを撮影してそのマークを認識し、カメラを装着したポインティング装置が画面のどの点に向いているかを知り、マウスカーソルのようなポインタの座標を変化させるポインティング装置に類似したものとして、特許文献1がある。
前記特許文献1は、モニタ周辺に光源を装着し、カメラでその光源を撮影して形態を認識し、ポインティング作業を行う方式である。
しかしながら、前記特許文献1は、モニタ周辺に光源を装着し、光源に電源を接続しなければならないという短所がある。また、電子黒板に使われるポインティング装置の場合は、ポインティング装置の追跡のために、超音波や赤外線発生装置をモニタ画面に装着しなければならないという短所がある。そして、PDAやタブレットコンピュータに使われるスタイラスペン状のポインティング装置の場合は、モニタ画面に圧力を感知させたり、または磁場を感知する特別の装置を必要とする。このような特別な装置は、現在開発中である巻き物のように巻き取ることが可能な電子紙型ディスプレイに、非常に適用し難いという短所がある。
韓国特許第10−0532525−0000号公報(「カメラを利用した三次元ポインティング装置」)
本発明は、前記の既存のポインティング装置のように、モニタ周辺に光源や超音波発生装置のような付加装置を装着しなければならないという欠点を解消するためになされたもので、その目的は、モニタ画面の周囲にいかなる物理的なマークや付加装置を装着することなく、任意のモニタに適用可能なポインティング装置を提供することである。
本発明は、前記目的を達成するために、モニタ画面の周囲に物理的なマークや付加装置を装着する代わり、モニタ画面に特定のマークを出力したり、コンピュータやデジタルTV画面映像自体をマークとして使用し、カメラでそのマークを撮影して映像処理部で認識し、ポインティング作業を行う構成を提供するものである。
具体的には、本発明によるポインティング装置は、マークをモニタ画面に出力するマーク出力部と、前記マークを撮影するカメラと、前記カメラによって撮影された映像を映像処理してマークを認識し、ポインティング座標を算出する映像処理部と、を含むことを特徴とするものである。
本発明によるポインティング装置を使用すれば、モニタディスプレイにいかなる付加的な装置を追加することなしに使用可能なために、現在商用化を控えている巻き物のように巻き取ることのできる電子紙型ディスプレイに適用し、既存のタブレットパソコン(PC)に、スタイラスペンで文字や絵を描くように使用できる。このような方式で、物理的なノートや手帳を、本発明によるポインティング装置を使用した電子紙形態のディスプレイで代替可能である。また、本発明によるポインティング装置をリモコンや銃の形態にして、デジタルTV画面に表示されるカーソルを移動させ、またはゲーム画面中のカーソルを移動させ、射撃ゲームを含んだ任意のゲームを行うことも可能である。
本発明の実施例を示した図面である。 左側に移動するマークを示した図面である。 任意方向に移動するマークを示した図面である。 モニタ画面を多数の四角形領域で分けた様子を示した図面である。 マーク映像を示した図面である。 図5の白黒反転映像を示した図面である。 バーコードが二次元マトリックス形態で配列されたマークを画面に出力中の様子を示した図面である。
本発明によるポインティング装置は、モニタ画面にマウスカーソルのようなマークを出力するマーク出力部、前記マークを撮影するペンやリモコンまたは銃形態のカメラ、前記カメラによって撮影された映像を映像処理してマークを認識し、ポインティング座標を算出する映像処理部を含むことを特徴とする。
前記映像処理部は、例えば、コンピュータやデジタルシグナルプロセッサ(DSP)で実行される映像処理プログラムにより構成することができる。マークは、マイクロソフト社のウインドウズのようなグラフィックOSに使われる矢印や、手の形態をしたマウスカーソルをそのまま使用してもよいが、四角形、円または任意のアイコン状の本発明固有のマークを使用してもよい。
既存のマウスカーソルをマークとして使用する場合、マーク出力部は省略可能である。また、ゲームプログラムに使われる特殊なカーソルをユーザがプログラムを介して登録して使用してもよい。すなわち、マークの形態や色相に対する制限はなく、映像処理部で認識可能であるならば、マークはいかなる形態でもよい。
図1は、タブレットパソコン形態のモニタ画面(mo)上に矢印状のマーク(mk)を出力し、スタイラスペン状(以下「ペン状」という)のカメラ(ca)で前記マーク(mk)を撮影してポインティング作業を行う本発明によるポインティング装置の様子を示している。
図1において、モニタ画面に表示されているマーク(mk)をペン状のカメラ(ca)で撮影し、マークを移動させようとする方向に絵を描くように、ペン状のカメラを移動させる。それにより、撮影された動画映像において、マークは動画映像の外部方向に移動することになる。このような映像において、映像処理プログラムは、マークの移動方向を検出し、マークが映像の中心に来るように、当該マークの位置を調整する。
例えば、図1に表示されているように、水平線をx軸、垂直線をy軸としたとき、ペン状のカメラをx軸方向(dx)に移動させれば、カメラで撮影された映像において、矢印マーク(mk)は、図2に表示されているように、−x軸方向(−dx)に移動する。それにより、映像処理部は、マークの位置をx方向に少しずつ増加させる。すなわち、映像処理部は、撮影された映像において、映像処理プログラムによりマークの移動方向動きベクトル(motion vector)を求め、マークが映像の中心に来ることができるように、マークのカーソルの座標を適度に変化させる。
ここで、前記マークの位置は、マウスポインタやジョイスティックのポインタに該当する。それにより、ペンに沿ってマークがついてくるようになり、ポインティング作業を行える。もし撮影された映像で、マークが映像の中心に位置しているならば、それ以上マークの座標を変化させない。
以上の説明では、説明の便宜上、x軸方向に動くことを例に挙げたが、任意の方向に対しても、同一に動作する。すなわち、ペン状のカメラをモニタ画面に向かわせ、任意の方向(dx,dy)に移動させれば、映像処理部では、撮影された映像で、マークが中心から外れた程度と方向(−dx,−dy)とを検出し、マークが映像の中心に来ることができるように、マーク位置を変化させる。もし撮影された映像で、マークを認識できなかったならば、現在のマーク位置を維持する。
また、マークの形態とサイズとを認識し、カメラとマークとの距離と方向とを算出することによって、三次元ポインティング作業を行うこともできる。すなわち、撮影された映像で認識したマークのサイズが小さければ、それはカメラとマークとの距離が遠いことを意味し、撮影された映像で認識したマークのサイズが大きいならば、それはカメラとマークとの距離が近いことを意味している。このような距離情報を、既存のマウスカーソルの二次元座標(x,y)に、図1に表示された第3座標値zとして付け加え、(x,y,z)のような三次元ポインティング座標を算出することもできる。
さらに、撮影された映像で、矢印マークの矢印方向を検出することによって、ペン状のカメラが回転した角度も検出し、図1に表示された回転座標(r)として入力することが可能である。また、矢印をなす特徴点(例えば、矢印多角形の頂点)がなす多角形のゆがんだ程度を分析し、ペン状のカメラがモニタ画面に向かった方向も検出して入力することができる。
このような方向検出方法は、多角形の一例として、四角形を使用した韓国特許第10−0532525−0000号公報(カメラを利用した三次元ポインティング装置)に説明された直観的な方法を使用してもよく、数学的な公式を使用してもよい。数学的な公式はperspective n point problemという分野で公知の方法である。この方法は、相対位置が知られたn個の点を撮影し、撮影されたn個の点から、カメラとJUMとの相対位置を求める問題である。これについての説明は、「http://homepages.Inf.ed.ac.uk/rbf/CVonline/LOCAL_COPIES/MARBLE/high/pia/solving.htm」で得ることができる。
本発明によるポインティング装置でポインティング作業をしている最中に、ポインティング装置のカメラを、モニタ画面ではない他の場所に向けた場合には、モニタ画面のマークを撮影できずに、モニタ画面に表示されるマークは、そこに停止することになる。この状態で、カメラをマークがある場所に持っていけば、そのときからマークが撮影され、マークが動くカメラについて来ることになるが、もしカメラをマークがない画面上の他の場所に持っていけば、マークを撮影できずに、相変らずそこに停止することになる。
すなわち、ユーザは、しばらく中断したポインティング作業を再び始めようとするならば、カメラをマークが存在する場所まで移動させねばならない。これは非常に面倒なことである。これを解消するために、ポインティング装置にリセットボタンを設け、ユーザがそのリセットボタンを押せば、マークを、カメラが向かったモニタ画面のポインティング地点に自動的に移動させることが望ましい。このようなリセット機能の詳細な構成は次の通りである。
すなわち、リセットボタンを押したり、ある原因によってソフトウェア的にリセット信号が発生したら、マーク出力部は、モニタ画面を、図4のように、マトリックス状の多数の領域に分け、各領域の中心にマークを順次に移動させる。
図4において、モニタ画面は6行6列のマトリックス状の領域に分けられている。この場合、マーク出力部は、0行0列の四角形領域にマークを出力させ、マークを順次右に移動させる。そして、マークが0行5列まで移動したら、1行下に移動し、1行0列から1行5列に、すなわち左から右にマークを移動させる。これにより、6x6=36個の領域を通過するようにマークを順次移動させれば、移動中のある瞬間にカメラにマークが撮影されて認識される。その瞬間から、正常なポインティング作業を始めればよい。
なお、先に説明した6x6個の領域は一例であり、実際には、マークのサイズとカメラの視野角とに適当な領域の数を選択すればよい。このようなマークの移動は、目障りでありうるので、非常に速い速度で移動させ、カメラは、高速カメラを使用することが望ましい。また、リセットボタンを省略し、カメラで撮影された映像において、マークを認識できない場合、無条件にこのようなマーク移動を行うこともできる。
前記実施例1では、カメラがモニタ画面にほとんど接するほどに近接してカーソルマークを撮影する方式について説明した。もしモニタ画面から遠く離れたところで、カメラにモニタ画面を撮影させれば、カーソルマークがあまりにも小さく撮影され、認識し難くなる。そのような場合には、カメラのレンズに、望遠レンズを使用すればよい。このとき、焦点が合わなければ、カーソルマークがぼやけて撮影され、認識を行えないので、現在実用化されているデジタルカメラに使われる、自動的に焦点を合わせる装置をさらに含むことが望ましい。
そして、カメラとモニタ画面との距離が可変的である場合にも、良好にポインティング作業を行うためには、ズームレンズを使用することが望ましい。このような構成を採る場合は、カメラとモニタ画面との距離を測定する装置をさらに含み、その装置で測定した距離情報を利用してズームレンズを調整し、カーソル映像を常に鮮明であって大き目に撮影することが望ましい。このような構成によると、本発明によるカメラを使用したポインティング装置は、モニタ画面に接触する一般のライトペンのように使用することもできるし、モニタ画面から遠く離れても、リモコンのように使用することもできる。
前記実施例1では、カメラがモニタ画面に非常に近接した状態で、マウスカーソル用アイコンと共に既定のマークをモニタ画面に出力する方式である。本実施例3では、カメラがモニタ画面から遠く離れており、そのような既定の一定形態のマークがない場合に、ポインティング作業を行う構成について説明する。
かかる構成は、任意の映像がモニタ画面に出力中である場合に、その映像情報を映像処理部に伝送し、マークの代わりに使用する方式を採用したものである。すなわち、現在モニタ画面に出力中である映像全体が実施例1のカーソルマークに該当する。この場合、カメラは、モニタ画面の全領域を一度に撮影できるほど、モニタ画面から適当に離れていることが望ましい。そして、映像処理部では、毎瞬間撮影された映像から、現在モニタ画面に出力中である映像を検出し、その映像の枠である四角形を分析し、カメラとモニタ画面との三次元相対位置と距離とを算出する。この構成を採るためには、現在モニタ画面に出力中である映像を得てきて映像処理部に伝送するモニタ映像伝達部を追加しなければならない。
現在モニタ画面に出力中の映像を持ってくる方法は、マイクロソフト社のウインドウズXPを搭載したコンピュータの場合を例にとれば、キーボードのPrint Screen SysRqキーを押し、モニタ画面に出力中である映像をウインドウズXPのクリップボードにキャプチャする方法をソフトウェア的に実行することである。
すなわち、キーボードのPrint Screen SysRqキーが押されることをエミュレーションするプログラムを実行すれば、モニタ画面の映像を得ることができる。キーボードのエミュレーションプログラムは、一定の時間間隔(例えば、1/30秒)ごとにモニタ画面をキャプチャし、クリップボードにモニタ画面の映像を保存する。
そして、映像処理プログラムでは、クリップボードから映像を読み取って、カメラで撮影された映像と比較することにより、撮影された映像のうち、どこにモニタ画面があるかを知ることができる。また、ハードウェア的にビデオメモリに接近する装置を構成することもできる。
カメラで撮影された映像で、モニタ画面に出力中である映像部分を検出する方法の例を挙げれば、イメージプロセシングの公知技術であるモデル基盤ビジョン(model based vision)技法がある。
モデル基盤ビジョン技法は、与えられたイメージ(カメラで撮影された映像)で、予め知られたモデル(モニタ画面に出力中である映像)の位置と対応点とを探す技法である。さらに詳細に説明すれば、撮影された映像の適度な候補位置にモデルをアファイン(affine)変換、投射変換などを利用して拡大、縮小、回転、投影し、実際に撮影された映像の領域と最も好ましく対応する地点を探すものである。これについての詳細な説明は、David A.ForsythとJean Ponceとの共著「Computer vision a modern approach」(ISBN:0-13-085198-1)の18ページ(Model based vision)に詳細に記述されている。
本実施例3と類似した方式のポインティング装置としては、韓国特許第10−0708875号公報(「表示画面を指すポインタのポインティング位置を算出する装置及び方法)がある。この特許文献では、本来の出力映像画面に対して、四角形の枠の形態からなる人工的な基準映像をさらに出力し、その枠をカメラで撮影した映像から検出し、ポインティング作業を行うようになっている。かかる人工的な基準映像の枠は、ユーザに目障りになるという短所がある。これに比べ、本実施例3は、そのような人工的な基準映像の枠を出力せずに、モニタ映像伝達部を介して得た本来の出力映像自体をマークとして使用して認識する方式である。
本実施例4では、前記実施例3で使われるモデル基盤ビジョン技法を、さらに容易に行うために、モニタ画面のちらつき(flicker)を利用する構成について説明する。
すなわち、撮影された映像からモニタ画面領域を求めることは、モニタ画面の背景が単純な場合(例えば、広い白い壁面に映像をビームプロジェクタで投射する場合)、比較的容易に行うことができるが、背景が複雑な場合、背景からモニタ画面を区別し難いことがある。このような場合には、モニタ画面に出力される映像のフレームのうち、偶数番目(0,2,4,…)のフレームは、空白映像(blank image)を出力し、奇数番目(1,3,5,…)のフレームのみ映像を出力する。
ここで、空白映像を出力するということは、モニタ画面全体またはモニタ画面の特定領域を特定色で塗って出力することを意味する。このとき、各フレーム間の時間は、十分に短く(例えば、1/30秒より短い時間)し、肉眼にはちらつきが感じられないようにすることが望ましい。その簡単な例としては、偶数番目のフレームの間には、モニタ画面全体を黒色に出力し、奇数番目のフレームには、正常な映像を出力する。そして、カメラでフレームごとに撮影し、奇数番目のフレームが出力された直後に撮影した映像と、その直前の瞬間の偶数番目のフレームが出力された直後に撮影された映像との差分映像(difference image)を求める。
前記差分映像は、2つの映像のそれぞれの同位置の画素値の差を求めて得られる映像であり、映像処理分野の公知概念である。例えば、差分映像の(x,y)地点の画素値は、2つの入力映像の(x,y)地点の画素値の差から得られる。それにより、カメラが停止した状態で、背景が変わっていないならば、モニタ画面の部分だけ画素値が0ではない差分映像が得られ、モニタ画面以外の部分では、差分映像がいずれも0である画素値を有するようになる。この場合は、差分映像で、画素値が0ではない領域を検出すれば、その領域が直ちにモニタ画面の領域に該当する。
従って、上記のような画素値が0ではない領域に対して、モデル基盤ビジョン技法で、モニタ映像の対応点を遂行すれば、差分映像を使用しない場合より、はるかに容易にモニタ画面領域を認識できる。
カメラが動いたとするならば、背景部分でも差分映像の画素値が0ではなくなるが、その領域は非常に狭い領域に制限されるので、実施例3のように、差分映像ではない本来の映像を利用し、モデル基盤ビジョン技法を適用するより、はるかに容易にモニタ領域を検出できる。
また、カメラ撮影速度(秒当たりの撮影フレーム数)と画面出力速度(秒当たり出力フレーム数)とを速くするならば、カメラが動いても、ほとんどの背景領域での差分映像の画素値を0にすることができる。
crtモニタのように、モニタ画面自体に走査線のスキャニングによるちらつきがあるならば、そのちらつきを撮影して差分映像を求めてもよい。もし、ある任意のモニタ画面自体にちらつきがほとんどない場合ならば、画面出力プログラムで、適当なちらつきを具現したり、またはモニタ映像がちらつくように適切なハードウェアをモニタに追加してもよい。例えば、コンピュータのOSに画面ちらつきを調節する機能を追加することもできる。
また、ゲームプログラムの画面出力方式を、偶数番目のフレームは画面全体を黒色または白色に出力し、奇数番目のフレームは、正常なゲームグラフィック映像を出力するようにすることができる。このとき、各フレームの出力瞬間と、カメラで撮影されるフレームとの間を同期化させることが望ましい。例えば、偶数番目のフレームをモニタ画面に出力した直後に、カメラでモニタ画面を撮影し、次に、奇数番目のフレームをモニタ画面に出力した後、カメラでモニタ画面を撮影し、以前フレームを撮影した映像と、現在フレームを撮影した映像との差分映像を求めるのである。この場合、前記ちらつきを具現する部分が、実施例1のマーク出力部に該当する。この場合、マークは、2つのフレームにわたって出力される空白映像と正常な画面映像とに該当する。
本実施例5では、前記実施例4と同様に、偶数番目のフレームには、特定マークの映像を出力し、奇数番目のフレームには、正常な本来の出力映像を出力して偶数番目のフレームの映像だけ撮影し、その撮影した映像を映像処理部で認識してマークを検出し、ポインティング作業を行う構成について説明する。
すなわち、前記実施例4では、偶数番目のフレームには空白映像を出力したが、本実施例5では、例えば、図5のように、上辺中央が空いた四角形と、その四角形中心に位置した+状のマークとを出力することを例として説明する。
図5において、四角形中心の+は、マークの中心を早く検出するためであり、一方、四角形は、三次元ポインティングを行うためのものである。そして、四角形の上辺が空いているのは、カメラの回転状態を検出するための基準点を表示するためのものである。このような図5のマークの形態は一例に過ぎず、いかなる形態のマークを使用してもよい。
このような方式は、前記実施例3で説明した前記特許文献(韓国特許第10−0708875号公報(「表示画面を指すポインタのポインティング位置を算出する装置及び方法」))とある程度類似している。しかし、前記特許文献では、マークを本来の出力映像上に合成して出力するので、本来の映像部分が識別され、映像処理部でマークを検出し難いという短所がある。
これに比べ、本実施例5の方式によると、本来の映像とマーク映像とが時間差をおいて、互いに異なるフレームに出力され、映像処理部ではマーク映像のフレームのみ分析すればよいので、はるかに容易にマークを検出できる。また、本来の映像がマークによって識別されないという長所がある。このとき、マーク映像が出力される頻度数は、本来の映像が出力される頻度数に比べて小さくすることができるので、肉眼ではマーク映像が見えないようにすることが望ましい。例えば、偶数番号目のフレームのうち、フレーム番号が4またはそれ以上の偶数の倍数である場合にだけマークを出力し、残りのフレームは、正常な映像を出力する方式である。
前記実施例5では、マーク映像が肉眼に見えないようにするために、マーク映像の出力フレームと本来の映像の出力フレームとの映像出力頻度数を調整した。本実施例6ではそのようなマーク映像とそのマーク映像を反転させた映像(例えば、白黒反転)とを交互に出力することによって、肉眼ではマーク映像とその白黒反転映像とが合わさり、全体的にマーク形状が消えた空白映像(全体が灰色の映像)に見えるようにする方式について説明する。
例えば、マーク映像は図5のように白い土台に黒色マークであり、その白黒反転映像は図6に示されている。このようなマーク映像とその反転映像とを交互に速く反復して順次出力すれば、肉眼では2つの映像が重なって全体的にマークが消えたように見えることになる。具体的には、フレーム番号を3で割った余りが0である場合は、マーク映像を出力し、余りが1である場合は、マークの反転映像を出力し、余りが2である場合は、正常な画面映像を出力する。そして、映像処理部では、余りが0であるフレームを撮影してマークを検出し、ポインティング作業を行う。
この場合、マークが肉眼に見えないようにするために、マーク映像のフレームとその反転映像のフレームは、時間的に隣接して順次出力することが望ましい。そして、マーク映像とその反転映像のフレームの出力頻度数は、本来の映像フレームの出力頻度数よりも少なくすることが望ましい。例えば、フレーム数を10で割った余りが0であるならば、マーク映像を出力し、余りが1であるならば、その反転映像を出力し、余りが2ないし9であるならば、正常な画面映像を出力することが望ましい。
本実施例7では、前記実施例1のように、ペン状のカメラでタブレット形態のモニタ画面に文字を記入するように使用するポインティング装置に、前記実施例5及び6で使われた、フレーム別に異なった映像を出力する技法を適用した方式について説明する。
本実施例7の方式では、前記実施例5及び6においてマークに該当する映像で、二次元マトリックス状に配列されたバーコード映像(mkb)(図7)を使用する。ここで、バーコードは、それ自体の位置がx,y座標情報を示す。各バーコードサイズは、ペン状のカメラがモニタ画面に近接したとき、1つのバーコードが1画面に撮影できるほどのサイズであることが望ましい。図7は、そのようなバーコードのマトリックス状のマーク映像が出力される様子である。
本実施例7の方式でも、前記実施例5及び6と同様に、マーク映像と本来の映像とを交互に出力する。そして、映像処理部では、そのマーク映像のバーコードを認識し、バーコードからそのバーコードの座標が分かる。それにより、その座標が現在ペン状のカメラが向かっているモニタ画面上の座標に該当する。その座標を使用し、ポインティング作業を行うことができる。
これと類似の技術は、韓国特許公開第10−2007−0015230号公報(「イメージ感知オペレーター入力装置」)に(「絶対位置装置でのマウスの使用」)欄に紹介されている。
前記特許文献は、マウスパッドにバーコードマトリックスを印刷し、マウス底のカメラでバーコードを撮影し、絶対座標を入力する装置である。これに比べ、本実施例7のポインティング装置は、モニタ画面上に肉眼で見えないように、バーコードマトリックス状のマークを出力する方式である。すなわち、別途のマウスパッドが不要な簡単な構成であることを特徴とする。
本実施例7は、マークの形態がバーコードのマトリックス状である点と、カメラとモニタ画面との距離が近いという点とを除いて、具体的な残りの動作方式は、前記実施例5及び6と同一である。ここで、バーコードの代わりにその他のマークや数字を使用してもよい。例えば、数字やアルファベットをバーコードの代わりに使用してもよい。また、それぞれのバーコードを含むセルを表示する四角形の枠を、図7のように方眼紙の如く表示し、その方眼紙のセルの四角形のゆがんだ形態とサイズとを認識することによって、三次元ポインティング作業を行うこともできる。
本実施例7は、前記実施例1で必要なリセット機能が不要であるという長所がある。これに比べ、前記実施例1は、カメラの撮影速度がそれほど速くなくともよいという長所がある。すなわち、本実施例7は実施例1に比べ、撮影速度が速いカメラを必要とする。

Claims (5)

  1. ポインティング装置において、
    マークをモニタ画面に出力するマーク出力部と、
    前記マークを撮影するカメラと、
    前記カメラによって撮影された映像を映像処理してマークを認識し、ポインティング座標を算出する映像処理部と、を含み、
    前記マーク出力部は、
    マークを含むマーク映像と正常映像とを続けて反復して出力して、前記マーク映像は所定の周期によって反復するように出力されるとともに、前記マーク映像を反転させた映像をさらに出力し、
    前記映像処理部は、前記カメラによって撮影された映像のうち前記マーク映像に該当するフレームが撮影された映像を選択的に使用して、前記マークの位置を認識し、該認識した前記マークの位置によって決定されるポインティング座標を算出することを特徴とするカメラとマーク出力とによるポインティング装置。
  2. 前記マーク映像は、ニ次元xy座標値を示すパターンがニ次元マトリックス形態に配列された映像であることを特徴とする請求項1に記載のカメラとマーク出力とによるポインティング装置。
  3. 前記マーク映像は、3次元ポインティングを行うための図形形状を含み、カメラの回転状態の検出のために前記図形形状は非対称の形態を有することを特徴とする請求項1に記載のカメラとマーク出力とによるポインティング装置。
  4. 前記マーク映像は、前記正常映像に比べて出力される頻度数が少ないことを特徴とする請求項1に記載のカメラとマーク出力とによるポインティング装置。
  5. 前記マーク映像は、前記正常映像とは互いに異なる別のフレームから出力されることから、前記正常映像は前記マーク映像によって遮られる領域が存在しないことを特徴とする請求項1に記載のカメラとマーク出力とによるポインティング装置。
JP2015120124A 2007-05-26 2015-06-15 カメラとマーク出力とによるポインティング装置 Expired - Fee Related JP6153564B2 (ja)

Applications Claiming Priority (10)

Application Number Priority Date Filing Date Title
KR10-2007-0051168 2007-05-26
KR20070051168 2007-05-26
KR20070080925 2007-08-10
KR10-2007-0080925 2007-08-10
KR20070095580 2007-09-19
KR10-2007-0095580 2007-09-19
KR10-2007-0098528 2007-09-30
KR20070098528 2007-09-30
KR10-2008-0041623 2008-05-05
KR20080041623A KR100936816B1 (ko) 2007-05-26 2008-05-05 카메라와 마크 출력에의한 포인팅 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012158455A Division JP5822400B2 (ja) 2007-05-26 2012-07-17 カメラとマーク出力とによるポインティング装置

Publications (2)

Publication Number Publication Date
JP2015187884A JP2015187884A (ja) 2015-10-29
JP6153564B2 true JP6153564B2 (ja) 2017-06-28

Family

ID=40365952

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2010510205A Expired - Fee Related JP5122641B2 (ja) 2007-05-26 2008-05-25 カメラとマーク出力とによるポインティング装置
JP2012158455A Expired - Fee Related JP5822400B2 (ja) 2007-05-26 2012-07-17 カメラとマーク出力とによるポインティング装置
JP2015120124A Expired - Fee Related JP6153564B2 (ja) 2007-05-26 2015-06-15 カメラとマーク出力とによるポインティング装置

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2010510205A Expired - Fee Related JP5122641B2 (ja) 2007-05-26 2008-05-25 カメラとマーク出力とによるポインティング装置
JP2012158455A Expired - Fee Related JP5822400B2 (ja) 2007-05-26 2012-07-17 カメラとマーク出力とによるポインティング装置

Country Status (6)

Country Link
US (1) US20100103099A1 (ja)
EP (1) EP2150880A2 (ja)
JP (3) JP5122641B2 (ja)
KR (1) KR100936816B1 (ja)
CN (1) CN101730876B (ja)
WO (1) WO2008147083A2 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130187854A1 (en) 2007-05-26 2013-07-25 Moon Key Lee Pointing Device Using Camera and Outputting Mark
KR100936816B1 (ko) * 2007-05-26 2010-01-14 이문기 카메라와 마크 출력에의한 포인팅 장치
US8007522B2 (en) 2008-02-04 2011-08-30 Depuy Spine, Inc. Methods for correction of spinal deformities
KR101624505B1 (ko) * 2009-09-24 2016-05-26 삼성전자주식회사 3-d 포인팅 감지 장치 및 방법
WO2011152634A2 (ko) * 2010-05-29 2011-12-08 Lee Moon Key 모니터 기반 증강현실 시스템
KR20120013575A (ko) * 2010-08-05 2012-02-15 동우 화인켐 주식회사 좌표 인식용 프레임을 이용한 포인팅 시스템 및 방법
JP5829020B2 (ja) 2010-12-22 2015-12-09 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
US8446364B2 (en) * 2011-03-04 2013-05-21 Interphase Corporation Visual pairing in an interactive display system
JP5905585B2 (ja) * 2011-09-30 2016-04-20 ▲ムン▼基 李 ステレオ映像に基づく映像処理システム
CN102710978B (zh) * 2012-04-12 2016-06-29 深圳Tcl新技术有限公司 电视机的光标移动方法及装置
US9782204B2 (en) 2012-09-28 2017-10-10 Medos International Sarl Bone anchor assemblies
KR102083937B1 (ko) 2012-10-10 2020-03-04 삼성전자주식회사 멀티 디스플레이 장치 및 그 툴 제공 방법
KR102061881B1 (ko) 2012-10-10 2020-01-06 삼성전자주식회사 멀티 디스플레이 장치 및 그 디스플레이 제어 방법
KR102063952B1 (ko) 2012-10-10 2020-01-08 삼성전자주식회사 멀티 디스플레이 장치 및 멀티 디스플레이 방법
KR101984683B1 (ko) 2012-10-10 2019-05-31 삼성전자주식회사 멀티 디스플레이 장치 및 그 제어 방법
KR101951228B1 (ko) 2012-10-10 2019-02-22 삼성전자주식회사 멀티 디스플레이 장치 및 그 촬상 방법
KR102083918B1 (ko) 2012-10-10 2020-03-04 삼성전자주식회사 멀티 디스플레이 장치 및 그 제어 방법
KR20140046327A (ko) * 2012-10-10 2014-04-18 삼성전자주식회사 멀티 디스플레이 장치, 입력 펜, 멀티 디스플레이 장치의 제어 방법 및 멀티 디스플레이 시스템
US20150212647A1 (en) 2012-10-10 2015-07-30 Samsung Electronics Co., Ltd. Head mounted display apparatus and method for displaying a content
KR101617068B1 (ko) 2012-10-11 2016-05-02 이문기 편광 차분 카메라를 이용한 영상처리 시스템
CN104813341B (zh) * 2012-10-22 2018-04-03 李汶基 图像处理系统以及图像处理方法
CN103049111B (zh) * 2012-12-20 2015-08-12 广州视睿电子科技有限公司 一种触控笔及触控坐标计算方法
US9724145B2 (en) 2013-03-14 2017-08-08 Medos International Sarl Bone anchor assemblies with multiple component bottom loading bone anchors
US9775660B2 (en) 2013-03-14 2017-10-03 DePuy Synthes Products, Inc. Bottom-loading bone anchor assemblies and methods
US9259247B2 (en) 2013-03-14 2016-02-16 Medos International Sarl Locking compression members for use with bone anchor assemblies and methods
US10342582B2 (en) 2013-03-14 2019-07-09 DePuy Synthes Products, Inc. Bone anchor assemblies and methods with improved locking
US20140277153A1 (en) 2013-03-14 2014-09-18 DePuy Synthes Products, LLC Bone Anchor Assemblies and Methods With Improved Locking
TWI489352B (zh) * 2013-08-13 2015-06-21 Wistron Corp 光學觸控定位方法、系統及光學觸控定位器
CN103727899B (zh) * 2013-12-31 2015-07-01 京东方科技集团股份有限公司 一种电视系统中检测遥控器旋转角度的方法及电视系统
CN106775000B (zh) * 2016-10-18 2020-09-29 广州视源电子科技股份有限公司 智能终端光标跟随鼠标笔笔头移动的方法及装置
CN107479729A (zh) * 2017-06-20 2017-12-15 广州视源电子科技股份有限公司 触控点的定位方法、装置、系统、显示终端以及书写笔
KR102338901B1 (ko) * 2018-04-03 2021-12-13 삼성전자주식회사 전자 장치 및 그 동작 방법
JP2021043705A (ja) * 2019-09-11 2021-03-18 Necパーソナルコンピュータ株式会社 情報処理装置、撮像装置、情報処理システム、及びその入力処理方法
CN112882612B (zh) * 2021-01-12 2024-01-23 京东方科技集团股份有限公司 一种显示方法、显示设备及显示系统

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07121293A (ja) * 1993-10-26 1995-05-12 Nippon Telegr & Teleph Corp <Ntt> 表示画面をアクセスするリモートコントローラ
JP3277052B2 (ja) * 1993-11-19 2002-04-22 シャープ株式会社 座標入力装置、および座標入力方法
JPH07200150A (ja) * 1993-12-28 1995-08-04 Casio Comput Co Ltd ペン入力装置
JPH07234755A (ja) * 1994-02-25 1995-09-05 Hitachi Ltd 座標入力手段および情報処理装置
JPH10198506A (ja) 1997-01-13 1998-07-31 Osaka Gas Co Ltd 座標検出システム
JPH1185395A (ja) * 1997-09-08 1999-03-30 Sharp Corp ポインティング機能付き液晶プロジェクタ装置
JP3554517B2 (ja) * 1999-12-06 2004-08-18 株式会社ナムコ ゲーム用の装置、位置検出用の装置及び情報記憶媒体
JP2001325069A (ja) * 2000-03-07 2001-11-22 Nikon Gijutsu Kobo:Kk 位置検出装置およびその方法
FR2812955A1 (fr) * 2000-08-11 2002-02-15 Yves Jean Paul Guy Reza Dispositif de pointage et de pilotage d'un curseur a distance, independant de la taille et de la technologie du dispositif d'affichage
JP2002222043A (ja) * 2001-01-29 2002-08-09 Nissan Motor Co Ltd カーソル制御装置
US6731330B2 (en) * 2001-01-30 2004-05-04 Hewlett-Packard Development Company, L.P. Method for robust determination of visible points of a controllable display within a camera view
JP4055388B2 (ja) * 2001-10-12 2008-03-05 ソニー株式会社 情報処理装置、情報処理システム、及びプログラム
JP2003280813A (ja) * 2002-03-25 2003-10-02 Ejikun Giken:Kk ポインティングデバイス、ポインタ制御装置、ポインタ制御方法及びその方法を記録した記録媒体
KR100532525B1 (ko) * 2002-05-07 2005-11-30 이문기 카메라를 이용한 삼차원 포인팅장치
JP2004171414A (ja) * 2002-11-21 2004-06-17 Nippon Telegr & Teleph Corp <Ntt> 3次元位置姿勢入力装置、方法、プログラムおよびプログラムを記録した媒体
CN1841290A (zh) * 2003-03-28 2006-10-04 精工爱普生株式会社 信息显示系统及其信息处理装置、指示装置和标记显示法
US7256772B2 (en) * 2003-04-08 2007-08-14 Smart Technologies, Inc. Auto-aligning touch system and method
JP2005052306A (ja) * 2003-08-01 2005-03-03 Sony Corp 位置検出システム
KR20050070870A (ko) * 2003-12-31 2005-07-07 엘지전자 주식회사 영상기기의 터치 펜 구현장치 및 그 제어방법
KR100860158B1 (ko) * 2004-01-27 2008-09-24 김철하 펜 형의 위치 입력 장치
JP2005258694A (ja) * 2004-03-10 2005-09-22 Asahi Kasei Microsystems Kk ポインティング装置
JPWO2005096129A1 (ja) * 2004-03-31 2008-02-21 株式会社タムラ製作所 撮像装置の指示位置検出方法および装置、撮像装置の指示位置検出用プログラム
US20060197742A1 (en) * 2005-03-04 2006-09-07 Gray Robert H Iii Computer pointing input device
JP4572758B2 (ja) * 2005-07-06 2010-11-04 ソニー株式会社 位置座標入力装置
JP2007086995A (ja) * 2005-09-21 2007-04-05 Sharp Corp ポインティング装置
JP2007114820A (ja) * 2005-10-18 2007-05-10 Sharp Corp 携帯型ポインタ装置及び表示システム
KR100708875B1 (ko) * 2006-02-10 2007-04-17 (주)소프트가족 표시화면을 가리키는 포인터의 포인팅 위치를 산출하는장치 및 방법
JP4725383B2 (ja) * 2006-03-24 2011-07-13 カシオ計算機株式会社 ポインティング装置、外部情報処理装置、指示位置特定装置、及び指示位置特定方法
US7852315B2 (en) * 2006-04-07 2010-12-14 Microsoft Corporation Camera and acceleration based interface for presentations
KR101040700B1 (ko) * 2006-11-16 2011-06-10 주식회사 엘지화학 테레프탈알데히드의 정제방법
KR100936816B1 (ko) * 2007-05-26 2010-01-14 이문기 카메라와 마크 출력에의한 포인팅 장치

Also Published As

Publication number Publication date
JP5122641B2 (ja) 2013-01-16
JP2015187884A (ja) 2015-10-29
JP2010539557A (ja) 2010-12-16
EP2150880A2 (en) 2010-02-10
KR20080104100A (ko) 2008-12-01
CN101730876A (zh) 2010-06-09
CN101730876B (zh) 2012-12-12
WO2008147083A3 (en) 2009-01-29
JP5822400B2 (ja) 2015-11-24
JP2012230702A (ja) 2012-11-22
KR100936816B1 (ko) 2010-01-14
WO2008147083A2 (en) 2008-12-04
US20100103099A1 (en) 2010-04-29

Similar Documents

Publication Publication Date Title
JP6153564B2 (ja) カメラとマーク出力とによるポインティング装置
US8717381B2 (en) Gesture mapping for image filter input parameters
US20010030668A1 (en) Method and system for interacting with a display
US9544556B2 (en) Projection control apparatus and projection control method
WO2019059020A1 (ja) 制御装置、制御方法、及びプログラム
JP2011022945A (ja) 指先操作型情報提供システム、プログラム、記録媒体
JP6079695B2 (ja) 画像表示撮影システム、撮影装置、表示装置、画像の表示および撮影の方法、およびコンピュータープログラム
US11477432B2 (en) Information processing apparatus, information processing method and storage medium
JP4848521B2 (ja) プロジェクタ投影映像のマウス代替操作方法およびそのマウス代替操作システム
JP2014029656A (ja) 画像処理装置および画像処理方法
JP2016103137A (ja) ユーザインタフェース装置、画像処理装置及び制御用プログラム
TW578031B (en) Projection system with an image capturing device
US9785253B2 (en) Pointing device using camera and outputting mark
JP2019057291A (ja) 制御装置、制御方法、及びプログラム
WO2011096571A1 (ja) 入力装置
JP2010272078A (ja) 電子情報ボードシステム、電子情報ボード制御装置およびカーソル制御方法
CN107403406B (zh) 实体影像与虚拟影像之间转换的方法及其系统
JP2001067183A (ja) 座標入力/検出装置および電子黒板システム
JP2008203538A (ja) 画像表示システム
JP2003099196A (ja) 会議等支援用画像投影装置
JP2021005168A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム
JP6679430B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2024021205A (ja) 画像処理プログラム
JP2020053088A (ja) 制御装置、制御方法、及びプログラム
JP2013181992A (ja) 照明装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160708

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20161107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170315

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170502

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170530

R150 Certificate of patent or registration of utility model

Ref document number: 6153564

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees