JP4611479B2 - コンテクスト識別を使用する多レベル選択装置 - Google Patents
コンテクスト識別を使用する多レベル選択装置 Download PDFInfo
- Publication number
- JP4611479B2 JP4611479B2 JP37575299A JP37575299A JP4611479B2 JP 4611479 B2 JP4611479 B2 JP 4611479B2 JP 37575299 A JP37575299 A JP 37575299A JP 37575299 A JP37575299 A JP 37575299A JP 4611479 B2 JP4611479 B2 JP 4611479B2
- Authority
- JP
- Japan
- Prior art keywords
- code
- selection
- computer
- user
- icon
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
- G06F3/0386—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry for light pen
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
- G06F3/0317—Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
- G06F3/0321—Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface by optically sensing the absolute position with respect to a regularly patterned surface forming a passive digitiser, e.g. pen optically detecting position indicative tags printed on a paper sheet
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K19/00—Record carriers for use with machines and with at least a part designed to carry digital markings
- G06K19/06—Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
- G06K19/06009—Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
- G06K19/06037—Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
- G06K7/1404—Methods for optical code recognition
- G06K7/1439—Methods for optical code recognition including a method step for retrieval of the optical code
- G06K7/1443—Methods for optical code recognition including a method step for retrieval of the optical code locating of the code in an image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Electromagnetism (AREA)
- General Health & Medical Sciences (AREA)
- Toxicology (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- User Interface Of Digital Computer (AREA)
- Position Input By Displaying (AREA)
Description
【発明の属する技術分野】
本発明は、電子ディスプレイの典型的なディメンジョンによって束縛されず、且つディスプレイ装置とユーザ入力装置との間の電子的な調和を要求しないコンピュータインターフェースに関する。
【0002】
【従来の技術】
従来のユーザインターフェースによれば、ユーザは、コンピュータシステムの操作を選択的に始動することができる。コンピュータは、電子ディスプレイとキーボードのようなユーザ入力装置とを整合させる(coordinate)。コマンドラインインターフェースは、例えばユーザに、コンピュータに特定の操作を実行するように指令するコマンドのタイプ入力(タイプイン)を要求する。グラフィックユーザインターフェースは、コンピュータシステムエンティティ(entities)及びコンピュータシステム操作のグラフィックによる(グラフィックな)選択を可能にすることによって、ユーザを、コマンドをタイプする負担から解放する。例えば、ユーザがマウスを使用してスクリーン上のファイルアイコンを選択すると、コンピュータは、そのアイコンに関連付けられたファイルにアクセスする。グラフィックユーザインターフェースが特に好都合であるのは、これらが直観的であり、したがって使い易いからである。
【0003】
【発明が解決しようとする課題】
以前は、従来のグラフィックユーザインターフェースは、コンピュータモニタのスクリーンのようなコンピュータI/O装置に表示されたグラフィック要素を、電子的に(X,Y)アドレッシングすることを可能にするように構成されていた。任意の所与の時点でアクセス可能なアドレス空間は、ディスプレイ空間によって束縛されている。より大きなアドレス空間を、そのディスプレイの制約内で実現することができるが、これによれば、ユーザは、ディスプレイのディメンジョン(dimensions)内のそのより大きな空間を通って順に進んでいく(ナビゲートする;navigate)必要がある。
【0004】
従来のグラフィックユーザインターフェースは、コンピュータシステムがユーザ入力装置からの電気信号をディスプレイ上のユーザインターフェースグラフィックスに調和させなければならないという要件にも、束縛される。これはフレキシビリティを制限するが、それは、コンピュータがユーザインターフェースをディスプレイ上に生成して、入力装置から受領した入力に調和させなければならないからである。
【0005】
そこで必要とされるものは、電子ディスプレイの典型的なディメンジョンによって束縛されず、且つディスプレイ装置とユーザ入力装置との間の電子的な調和を要求しないコンピュータインターフェースである。
【0006】
【課題を解決するための手段】
本発明の原理に合致した装置及び方法は、多レベルのイメージ獲得及びコンテクスト識別を利用するユーザインターフェースを提供する。本発明に合致する装置は、知覚的な識別子(sensory indicia)と埋め込まれたデータコードとを有するユーザインターフェース、並びにユーザインターフェースのある部分を選択してその部分に対応するイメージ情報を送るイメージ獲得装置と共に使用されるものであって、第1のイメージ情報を第1のイメージ獲得コードに復号するイメージプロセッサと、第1のイメージ獲得コードを第1の選択コードにマッピングする解読器と、第1の選択コードを第2の選択コードで分析するシンタックスプロセッサとを備えている。
【0007】
本発明に合致する方法は、知覚的な識別子と埋め込まれたデータコードとを有するユーザインターフェース、並びにユーザインターフェースのある部分を選択してその部分に対応するイメージ情報を送るイメージ獲得装置と共に使用されるものであって、第1のイメージ情報を第1のイメージ獲得コードに復号するステップと、第1のイメージ獲得コードを第1の選択コードにマッピングするステップと、第1の選択コードを第2の選択コードで分析するステップと、を含んでいる。
【0008】
コンピュータシステムのエンティティ及び操作の文字表示、グラフィック表示、及び文字とグラフィックとの混合表示のような人間の知覚情報は、このユーザインターフェースを使用して選択することができる。この知覚情報が、この埋め込まれたデータアドレス空間の各空間アドレスに対して重ねて又は並べて空間的に記録される。これらの空間アドレスが、今度は、各コンピュータシステム操作及びエンティティについてのコンピュータにより認識可能な記載と共に、ルックアップテーブルあるいは同様の機構に記録される。
【0009】
本発明のさらに他の目的は、添付の図面と共に以下の詳細な説明がを読めば、明らかになるであろう。
【0010】
【発明の実施の形態】
ここで図面において、特にこの時点では図1において、従来どおりのセルフクロッキンググリフコードパターン21を示す。このコードパターン21は、延長されたスラッシュに似た印、又は「グリフ」22及び23を含み、適切な記録媒体24上の中心の概して規則的な長方形の格子に書かれる。適切には、グリフ22及び23はプリンタ(図示せず)によって印刷され、このプリンタは300d.p.i.から600d.p.i.で動作し、4画素×4画素から7画素×7画素のグリフの表示を、規則的に間隔を開けられた中心に印刷する。この中心は、記録媒体24の横方向と縦方向に分配され、長方形のコードパターン21を形成する。標準の照明条件下で、通常の読書距離において、これらの細粒グリフコードパターンのグリフを、補助を受けない人間の目で解像することは容易ではない。このため、コードパターン21は典型的には概して均一のグレイスケールの見かけをもつが、それでもグリフコードは、機械読込み可能なデジタル情報を効果的に通信する能力がある。この機能を実行するために、25に示すように、グリフ22及び23はそれぞれ、通常は、左と右に、記録媒体24の長手方向から+45°及び−45°傾き、2進数の「1」と「0」とを符号化する。
【0011】
図2は、グリフアドレスカーペットを使って設定されたグラフィックユーザインターフェースの例を示す図である。このインターフェースは二つの構成部分を含む。(1)知覚的な識別子、と(2)グリフアドレスカーペット1612を含む背景と、である。図2の知覚的な識別子は、好適には視覚的な識別子で、特にアイコン1610などのグラフィック要素である。グリフアドレスカーペット1612は、グラフィック要素の背景の壁紙として使われる。背景を形成するグリフパターンは、「アドレスカーペット」と呼ばれる。これは、グリフが復号されて、各場所に特有のアドレス情報を提供できるからである。
【0012】
図2に示すように、グリフアドレスカーペットの一部であるグリフによって、アイコンが部分的に形成されてもよい。グリフトーン(glyphtone)(例えば、トウ(Tow)に与えられた米国特許第5,315,098号を参照)の場合や、サーペントーン(serpentone)(カレー(Curry)に与えられた米国特許第5,706,099号を参照)の場合では、識別子が、実質上グリフそのものを含んでもよい。グリフは、アドレス情報を符号化するので、グリフの一部を光学的に読み込み、復号してローカル位置特有のアドレスを決定することができる。
【0013】
グリフアドレスカーペットを使って設定されたグラフィックユーザインターフェースは、そのインターフェースの構成部分を表示できるどの媒体でも設定できる。よって、インターフェースは、紙、ラベル、物理的な対象、写真術媒体などのハードコピー上に設定されてもよく、陰極線管(CRT)ディスプレイや液晶(LCD)ディスプレイなどの動的なディスプレイ上に設定されてもよく、又は、スライド映写機やテレビなどの、固定又は動的な媒体から映写するディスプレイ上に設定されてもよい。
【0014】
ここで説明する実施形態では、グリフを用いるが、その他の方法として、グリフは、どのようなシステムに置き換えられてもよく、このシステムは、可視及び不可視のシステムを含み、データアドレスコードを提供する。ここで説明する実施形態では、視覚的な識別子を用いるが、その他の方法として視覚的な識別子を知覚的な識別子に置き換えることもでき、この知覚的な識別子は、機械読込み可能なデータアドレスコードが、アドレスの論理的な参照を提供する間に、ユーザ又は機械を導き場所を選択するように働くことができる。ここで説明する実施形態では、紙の基板を用いるが、この紙の基板はどのような媒体によって置き換えられてもよく、この媒体は、データアドレスコードを埋め込むことができ、機械によって読込み可能である。
【0015】
知覚的な識別子は、データアドレスコードと同じ媒体に埋め込まれてもよいし、又は他の媒体に埋め込まれてもよい。その他の方法として、知覚的な識別子は、グリフに投影されてもよく、又はグリフが知覚的な識別子に投影されてもよい。
【0016】
図3は、イメージ獲得システムのブロック図であり、このイメージ獲得システムを使い、グリフアドレスカーペット1732などのグラフィックユーザインターフェースのユーザが選択した一部を獲得し、獲得された部分のグリフを復号できる。一つの実施形態では、コンピュータシステム1712は、例えば従来のパーソナルコンピュータ又はラップトップコンピュータなどの汎用コンピュータシステムであり、メインメモリ1716、読出し専用記憶装置(ROM)1718、記憶装置1720、プロセッサ1722、通信インターフェース1724を有し、この全てがバス1726によって相互連結されている。バス1726はまた、ディスプレイ1730、カーソルコントロール1714、フレームキャプチャ1728にも接続されている。
【0017】
イメージ獲得装置1710、この場合はカメラペン(camerapen)は、フレームキャプチャ1728及びマウス1731に接続されている。カメラペン1710は、イメージの情報をフレームキャプチャ1728に送信する。一つの実施形態では、カメラペン1710のボタン1715がマウス1731に有線で接続され、ユーザがボタン1715を押した時に、信号がマウスの回路であるフレームキャプチャ1728を通りカーソルコントロール1714に送られる。この信号によって、プロセッサ1722は、フレームキャプチャ1728に指示を出すプログラムを開始しカメラペン1710からイメージを獲得する。もう一つの実施形態では、カメラペン1710からのイメージライン及び信号ラインの両方が、フレームキャプチャカード1728に直接入力される。カメラペン1710とコンピュータ1712との間のラインは、カメラペン1710からイメージの獲得を提供する有線のいずれの方法で接続してもよい。
【0018】
ユーザは、グリフアドレスカーペット1732上の視覚的な識別子上又は識別子の近くにカメラペン1710を配置し、ボタン1715を押すことによって、選択をする。ボタン1715を押すことによってカメラペン1710は、カメラペン1710の先端の下にあるアドレスカーペットの部分を獲得し、フレームキャプチャ1728を介して、分析のためにコンピュータ1712にイメージを送信する。ボタン又は複数のボタンは、ダブルクリックや維持動作などの追加の信号のために使うことができる。
【0019】
図4は、ホットゾーン(hotzone)を設定するユーザインターフェースの実施形態を示す。ホットゾーンとは、視覚的な識別子上又はその近くの領域で、この領域が選択された時に、その視覚的な識別子を選択した場合と同じ効果を持つ場所である。好適な実施形態では、ホットゾーンは、視覚的な識別子を取り囲んでもよい。例えば、図4では、アイコン「David’sDOC2」は、破線で示すホットゾーンをもつ。もしユーザがこのホットゾーン内を選択すれば、アイコン「David’sDOC2」が選択される。これにより、ユーザが視覚的な識別子上又はその近くで選択することが可能になる。この選択は、システムによって、まるで視覚的な識別子が選択されたように扱われる。ホットゾーンは、アドレスカーペット上での視覚的に違う色合いなどを含む視覚的な識別子によって明示されてもよく、又は暗に適当な接近を示すものでもよい。
【0020】
図4はまた、グリフアドレスカーペットコーディング組織の好適な実施形態も示す。各グリフは、前方スラッシュ又は後方スラッシュのどちらかである。グリフの行と列の方向及び間隔はそれぞれ、OGX及びOGYで示されている。図にAとBとで示すように、Aコードは一行おきにあり、その間にBコードが混ぜ合わされている。右下に向かっての対角線に沿っては、全てのAの値が好適には同一である。同様に、左下に向かっての対角線に沿っては、全てのBの値が好適には同一である。
【0021】
図5は、カメラペン1710を使った選択処理を示すブロック図である。各アイコンは、破線のホットゾーン1910で示される実際の選択範囲をもつ。カメラペン1710の先端は1914で示される範囲を覆う。カメラペン1710の先端の方向は、YC軸及びXC軸によって示される。選択するためには、ユーザがカメラペン1710の先端を、選択する範囲の上に配置する。ユーザがボタン1715を押すと、範囲1914内のイメージが獲得される。コンピュータ1712が獲得されたイメージを分析し、選択範囲1914の中心1912の位置を決定する。中心1912の位置の決定後、中心1912の位置を使い、中心1912に対応する機能を調べる。
【0022】
図6は、第2の種類の選択処理を示す図であり、この処理は本発明の原理に基づくグラフィックユーザフェースを実行するために使ってもよい。この実施形態では、カメラペン1710は、指示装置を先端に取付けられて備え、したがって、カメラペンのイメージ獲得範囲をユーザが指した場所からずれさせる。例えば、図6では、ユーザはアイコン「David’sDOC」を指して選択するが、カメラペン1710のイメージ獲得範囲2014はアイコンからずれ、その中心は2012にある。この場合、コンピュータ1712が実際の選択を、(1)イメージ範囲2014と(2)選択された範囲の方向と(3)イメージ獲得範囲からのずれの距離及び方向とに基づき、中心2012から決定する必要がある。ずれは、以下に説明する獲得イメージ復号処理からのグリフ格子パラメータを用いて計算される。
【0023】
図3に戻り、一つの実施形態では、メインメモリ1716は、ランダムアクセスメモリ(RAM)又は、プロセッサ1722が実行した命令を保存する動的な記憶装置である。メインメモリ1716はまた、命令を実行するために使われる情報を保存していてもよい。ROM1718は、プロセッサ1722によって使われる静的な情報及び命令を保存するために使われる。記憶装置1720は、例えば磁気又は光学ディスクであり、これもまた、コンピュータシステム1712の動作に使われる命令及びデータを保存する。
【0024】
ディスプレイ1730は、CRT又は他の種類のディスプレイ装置であってもよい。カーソルコントロール1714は、ディスプレイ1730上のカーソルの動きを制御する。カーソルコントロール1714は、例えばマウス、トラックボール又はカーソル方向キーであってもよい。
【0025】
図3に示すシステムを使い、以下に示すグリフアドレスカーペット獲得及び変換システムを実行することができる。ここで説明する装置及び方法は、コンピュータシステム1712によって、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアの組合わせを使うことによって設置できる。例えば、ここで説明する装置及び方法は、メインメモリ1716、ROM1718、又は記憶装置1720の一つ又はそれ以上の中のプログラムとして実行してもよい。一つの実施形態では、プロセッサ1722がプログラムを実行し、グリフアドレスカーペットの獲得された部分を分析し、グリフに符号化されたアドレス情報を決定する。
【0026】
このようなプログラムは、メインメモリ1716に他のコンピュータ読込み可能な媒体、例えば記憶装置1720から読み込まれてもよい。メインメモリ1716に含まれた一連の命令の実行によって、プロセッサ1722が、ここで説明する本発明に基づく処理ステップを実行する。また、メインメモリ1716に含まれた一連の命令の実行によって、処理ステップを実行するための装置構成部分をプロセッサが設置する。配線された回路を、ソフトウェア命令の代わりに又はソフトウェア命令と組み合わせて使い、本発明を実施してもよい。よって、本発明の実施形態は、ハードウェア回路とソフトウェアとの特定の組合わせに限定されるものではない。
【0027】
ここで使われる用語「コンピュータによって読込み可能な媒体」とは、命令を実行のためにプロセッサ1722に提供する作業に参加するいずれかの媒体を意味する。このような媒体には多数の形式があり、これに制限されないが、不揮発性記憶媒体、揮発性記憶媒体、及び送信媒体を含む。不揮発性記憶媒体は、例えば記憶装置1720などの光学又は磁気ディスクを含む。揮発性記憶媒体は、メインメモリ1716などのRAMを含む。送信媒体は、同軸ケーブル、銅線、及び光ファイバを含み、バス1726を形成する配線を含む。送信媒体はまた、電波及び赤外線データ通信の過程で発生するような音響又は光の波の形を取ることもある。
【0028】
コンピュータによって読込み可能な媒体の一般的な形は、例えば、フロッピディスク、フレキシブルディスク、ハードディスク、磁気テープ又は他の磁気記憶媒体、CD−ROM、他の光学媒体、穿孔カード、紙テープ、穴のパターンを有する他の物理的な媒体、RAM、PROM、EPROM、FLASH−EPROM、他のメモリチップ又はカートリッジ、以下に説明されるような搬送波、又はコンピュータが読み込み、使うことのできる他の媒体を含む。
【0029】
様々な形の、コンピュータが読込み可能な媒体が、命令の実行のために一以上の一連の命令をプロセッサ1722に運ぶことに関連する場合がある。例えば命令は、最初に磁気ディスク又は遠隔のコンピュータによって運ばれてもよい。遠隔のコンピュータは、その動的なメモリに命令をロードし、モデムを使って電話回線上に命令を送信できる。コンピュータシステム1712に限られるモデムが、電話回線上でデータを受信し、赤外線送信機を使ってデータを赤外線信号に変換できる。適切な回路に結合された赤外線検出器が、赤外線信号内で運ばれたデータを受信し、このデータをバス1726に配置できる。バス1726はデータをメインメモリ1716に運び、このメインメモリ1716からプロセッサ1722が命令を引き出し実行する。メインメモリ1716で受信された命令は、プロセッサ1722での実行の前又は後に、記憶装置1720に任意に保存してもよい。
【0030】
コンピュータシステム1712はまた、通信インターフェース1724をバス1726に結合して備える。通信インターフェース1724は、他のシステムへの双方向通信を提供する。例えば、通信インターフェース1724は統合サービスデジタル通信網(ISDN)カード又はモデムであって、データ通信接続を対応する種類の電話回線に提供してもよい。通信はまた、例えば構内ネットワーク(LAN)カードであって、LANに通信を提供してもよい。通信インターフェース1724はまた、無線カードであって、コンピュータシステム1712と無線システムとの間に無線通信を設定してもよい。このような設定のいずれであっても、通信インターフェース1724は電子、電磁、又は光学信号を送信及び受信し、この信号は、様々な種類の情報を表すデータストリームを運ぶ。
【0031】
通信インターフェース1724と外部の装置及びシステムとの間のリンクは、典型的には一以上のネットワーク又は他の装置を通じてデータ通信を提供する。例えば、リンクは、ホストコンピュータ又は、インターネットサービスプロバイダ(ISP)によって動作するデータ装置への構内ネットワーク(図示せず)への接続を提供してもよい。ISPは、現在一般的には「インターネット」として知られる世界的なパケットデータ通信ネットワークを通じてデータ通信サービスを提供する。構内ネットワーク及びインターネットは両方、デジタルデータストリームを運ぶ電子、電磁、又は光学信号を使う。デジタルデータをコンピュータシステム1712へ又はコンピュータシステム1712から運ぶ、様々なネットワークを通じての信号及びネットワークと通信インターフェース1724との間の信号は、情報を運ぶ搬送波の形式の例である。
【0032】
コンピュータシステム1712は、ネットワークを通じ、通信インターフェース1724と外部システム又は装置との間のリンクを介して、メッセージを送信し、プログラムコードを含むデータを受信することができる。インターネット上では、例えばサーバが、アプリケーションプログラムのために要求されたコードをインターネット、ISP、構内ネットワーク、通信インターフェース1724を通じて送信する場合もある。
【0033】
ネットワークから受信したプログラムコードは、プロセッサ1722によって受信と同時に実行してもよく、後に実行するために記憶装置1720などのメモリに保存してもよく、又はこの両方を行ってもよい。この方法によって、コンピュータシステム1712は、搬送波の形でアプリケーションコードを取得できる。
【0034】
図7は、グリフアドレスカーペット1732に符号化されたアドレスコードの実施形態を示す。より詳しくは、図7はグリフアドレスカーペットの一部2110を示す。アドレスは、行に「A」アドレスコードのシーケンスと「B」アドレスコードのシーケンスとを交互に配置し符号化される。各行の各シーケンスに沿った位置は、所定の長さの副シーケンスから明白に決定できるべきである。例えば、Nビットのシフトレジスタの最大の長さのコードは、Nビットの副シーケンスからその位置を特定できる。各アドレスコードシーケンスは15ビットのシーケンスであり、Aシーケンスは左から右に、Bシーケンスは逆の方向に右から左へと索引をつけられる。Aコードシーケンスの各行は、Aアドレスの一つ前又は次の行からグリフの位置にして二つずれる。同様に、Bコードシーケンスの各行は、逆の方向に二つの位置ずれる。よって、符号化組織は、二つの特徴をもつ。一つは、一次元の特有のアドレスコードの二つの集合を含む平行な行であり、もう一つは、二つの集合からの各ペア間のずれが特有になるような、二つの集合の構成員内での相対的なずれである。これによって、二次元の特有のアドレス位置が確立される。
【0035】
コンピュータ1712は、獲得されたイメージの範囲を分析し、グリフに符号化されたアドレス情報を二つのステップで復号する。理想的には、ユーザがカメラペン1710をグリフアドレスカーペット1732上の一部に配置し、図7に示すようなビットのパターンに示されるように角度を整列してイメージを獲得する。しかし現実では、ユーザがカメラペン1710を興味対象の範囲の上で様々な方向に向け、このため、パターンは0°から360°のどの角度にも方向付けられる場合がある。したがって、コンピュータ1712は、アドレス情報を復号し解釈するための第一のステップとして、イメージの方向を決定する必要がある。
【0036】
イメージの方向は、獲得されたイメージを分析することで決定される。この処理は、明確化と呼ばれる(例えばハットら(Hachtetal.)に与えられた米国特許第5,521,372号を参照)。イメージの適切な方向を決定した後、コンピュータ1712は、アドレスカーペット上で選択された位置のアドレスを復号する。コンピュータ1712によって実行される明確化及びアドレス復号処理を、ここから、より詳しく説明する。
【0037】
図8及び図9は、獲得したイメージ領域に関してコンピュータ1712が行う明確化(disambiguation)及びアドレス復号処理を示すフローチャートである。コンピュータ1712は明確化処理を始めるにあたり、アドレスカーペットの獲得部分をイメージ処理してグリフシードを見つける。グリフシードは最初に確認されたグリフであり、その周りには可読グリフが有る。一旦グリフシードを見つけると、その周辺部を処理することでグリフ格子を検出できる。次に、グリフを復号して1または0で示し、グリフ格子列に対応する列と行とを有するバイナリデータマトリクスに埋める。90°及び180°の回転に関する配向は、まだ曖昧かもしれない。
【0038】
図10は、カメラペン1710によって獲得したグリフ格子を元に作成したバイナリデータマトリクス(BDM)を示す。BDMはグリフ格子に対応する場所を有する。したがって、BDMの大きさはグリフ格子の大きさに密接に対応する。
【0039】
グリフ格子の各位置を分析し、BDMの対応位置にどの値を配置するかを決定する。まず、BDMにΦ等の値を埋める。これは、グリフを読む試みがまだなされていないことを示す。特定位置に対応するグリフを分析した後、その位置のΦをそのグリフ分析結果で置き換える。
【0040】
図10では、Bは境界位置を示す。Xはグリフ格子の対応場所に翻訳可能グリフが見つからなかったことを示す。Eは獲得メージ部分の端部にあるグリフを示す。0はバックスラッシュグリフを示す。1はフォワードスラッシュグリフを示す。獲得イメージに対応するマトリクス領域は、0及び1で埋められる。端部にはEがあり、Xは可読グリフがない位置に対応する。しかし現実には、一般的にBDMは類似パターンを有するようになるが、値は同様に均一には配置されない場合が多々ある。例えば、獲得イメージ内のグリフ位置にXがくることがある。これは、グリフが消去されると生じる。丸や四角で囲んだいくつかの値は、2本の別個のコード列を示す。これらの列は逆方向に互い違いに配列されている。
【0041】
ユーザが選択を行う場合、ユーザはユーザインターフェイス上でカメラペンを任意の方向に向けるので、獲得されたイメージは、任意の角度に配向されている可能性がある。したがって、ステップ2210においてコンピュータ1712が獲得イメージを元にした0及び1をBDMから引き出すことができたとしても、そのイメージを獲得する元になったグリフアドレスカーペットのオリジナルコードパターンに対してBDMが0°(つまり正確な配向)、90°、180°または270°のいずれに配向されているかは不確かである。獲得イメージの配向が決定されるまで、BDMから正確なアドレスコードを引き出すことはできない。配向は、物理的システム制約(physical system constraints)等の予備情報を用いて示すことができるが、アドレスコードから直接、独自に決定することもできる。
【0042】
グリフを0及び1に変換した後、基準グリフ格子を選択する(ステップ2211)。この位置は多様な方法で選択してもよいが、一般的に、関連の選択を示す位置である。例えば、基準グリフ格子はBDMの中心である得る。
【0043】
イメージをBDMに変換した後、コンピュータ1712によって処理する(ステップ2212)。獲得したイメージから作成したオリジナルBDMをBDM1とよぶ。コンピュータ1712はBDM1のコピーを作成し、コピーを時計方向に90°回転させて第2バイナリデータマトリクスBDM2を作成する(ステップ2214)。BDM1を90°回転させることにより、BDM1の列がBDM2の行に、BDM1の行がBDM2の列になる。さらに、BDM2の全ビット値を0から1に、1から0にひっくり返す。これは、45°スラッシュグリフを90°回転させると、回転していない状態でのグリフの逆になるからである。
【0044】
次にコンピュータ1712は、BDM1の奇数列と偶数列に対して別々に相関処理を行い(ステップ2216)、どのコード列が前方あるいは後方にずれているか(staggered)を検出する。相関処理は、BDM2の奇数及び偶数列に対しても行う(ステップ2218)。各BDMの全列に対して相関処理を行う。この結果、BDM1に対して相関値C1が、BDM2に対して相関値C2が、それぞれ得られる。
【0045】
図11は、図9の相関ステップ2216、2218の実施の形態を示すフローチャートである。この処理により、BDMにおける各方向の対角線に沿った一行おきの相関値を検出し、列相関値を合計して、奇数または偶数列の最終的な相関値を形成する。この処理を、BDM1の奇数列に対して行いBDM1の相関値C1ODDを、BDM1の偶数列に対して行いBDM1の相関値C1EVENを、BDM2の奇数列に対して行いBDM2の相関値C2ODDを、BDM2の偶数列に対して行いBDM2の相関値C2EVENを、それぞれ形成する。BDMが0°または180°に配向されていれば、他の配向のDBMより大きなCODD+CEVENを有することになる。
【0046】
コンピュータ1712は、最初にBDMを入力し(ステップ2410)、次に一列おきに仮マトリクスにコピーする(ステップ2412)。同様の処理を右向及び左向の斜線に対して行う。ステップ2414、2416、2418、2420、2422及び2424では、右向斜線に対して処理を行う。例えば、図12では、これらのステップにおいて、左上から右下にかけての斜線に沿って相関関係を算定する。最初に、列カウントNと相関値C_RIGHTとを初期化してゼロにする(ステップ2414)。列Nを2位置分右に移動して、次の列に相関させる(ステップ2416)。次に、C_Nをこの値に設定する(ステップ2418)。続いて、C_RIGHTをC_RIGHT+C_Nに設定し(ステップ2420)、Nを増加する(ステップ2422)。列カウントNがNmax以上であれば、この処理後にステップ2426に進む。この時、NはBDM中の奇数または偶数列の数である。NがNmax未満であれば、この処理後にステップ2416に進む。したがって、この処理によって各隣接列を相関させた後では、相関値C_RIGHTは、右向斜線に沿った相関の強さを示す。
【0047】
図11の右側に示すステップは、ステップ2414、2416、2418、2420、2422、2424に類似し、右上から左下にかけた斜線を処理して、C_LEFTを求める。左右の斜線を相関させてC_RIGHTとC_LEFTとを決定した後、最終相関値Dを決定する。これは、C_RIGHTからC_LEFTを減じて行う。例えば、BDM1の奇数列を処理した場合、C値はBDM1のC1ODDとなる。
【0048】
図11の処理ステップを、BDM1の奇数及び偶数列と、BDM2の奇数及び偶数列に対して行う。この情報から、BDM1の相関値C1はC1EVEN+C1ODDに設定され(BDM1の列に対して図11で決定した通り)、BDM2の相関値C2はC2EVEN+C2ODDに設定される(BDM1の列に対して図11で決定した通り)。
【0049】
図12は、一列おきのコードのシフト方向が相関関係から決定できる理由を示す。例えば、右向斜線に沿った円で囲まれたA1で示すように、第2列の最初の位置のA1から始まる斜線に沿ったコードは、消去や誤差でない限り、この斜線に沿って一列おきに同じ値を有するべきである。同様に、四角で囲まれたB1で示すように、右上隅から始まる斜線に沿ったコードは、消去や誤差でない限り、この斜線に沿って一列おきに同じ値を有するべきである。これは、それぞれB2、B3・・・から始まる奇数列での斜線に沿った値に対しても同様である。したがって、奇数列での左下向斜線に沿って強い相関があり、偶数列での右下向斜線に沿って強い相関があることは、偶数列上のコードは右に、奇数列上のコードは左に、それぞれシフトしていることを示唆する。
【0050】
したがって、各BDMに対して4個の相関値が求められる。1)奇数列右から左、2)奇数列左から右、3)偶数列右から左、4)偶数列左から右、に対する相関値である。これらの相関値から、偶数列、奇数列のそれぞれに対する最も強い相関値を選択して、BDMのCEVEN及びCODDとする(ステップ2216及び2218)。次にCEVENとCODDとを加算して、そのBDMの最終C相関値を形成する。ステップ2220に関してこれまでに説明したように、最強の相関値を有するBDMが、0°または180°に配向されたBDMである。これは、奇数列及び偶数列におけるコードの相対的配向のためである。つまり、選択されたBDMに対して2つの局面が分かった。つまり、一行おきのコード列がどの方向にずれているかと、BDMが水平方向に0°または180°に配向しているということである。別の相関処理ステップ2230を行って、各列のコードが(ずれている方向に対して)伸びている方向を検出する。
【0051】
奇数列のコードは一方向にずれており、偶数列のコードは別の方向にずれている。奇数列及び遇数列に伸びるそれぞれのコードが分かれば、これに関連させてこのコードのずれ特性から、BDMの適切な0°配向を検出できる。
【0052】
図8において、C1がC2よりも大きければ(ステップ2220)、BDM1を選択してさらに処理する。C1がC2よりも大きいということは、BDM1の一次元コードは非常に強く相関しており、したがって0°または180°の配向であることを示す(ステップ2224)。もし、C2がC1よりも大きければ、その時はBDM2を選択してさらに処理する。これは、相関が高いということは、BDM2が0°または180°の配向にあることを示すからである(ステップ2224)。こうして、正確なBDMを見つける。しかし、獲得したイメージのアドレス位置を決定する前に、コンピュータ1712はまず、選択されたBDMが0°である(つまり、正確な配向)か、180°回転されているのかを検出する。
【0053】
図9は、コンピュータ1712が、グリフカーペットの獲得領域のアドレスを決定するステップを示すフローチャートである。BDMが0°に配向されている場合、BDMの斜線に沿ったビット位置は、一列おきに同じ値を有することが好適である。しかし、イメージ獲得処理や、視覚的な識別子からの干渉(インターフェアレンス)により、BDMデータに誤差や消去が生じるかもしれない。こうした誤差や消去の影響を減らすために、コンピュータ1712は、奇数列がずれる方向の斜線に沿って多数票(majority vote)をとり、さらに、偶数列がずれる方向の各斜線に沿った偶数列に対して多数票処理を繰り返す(ステップ2225)。この結果、奇数列に対しては第1コード列が、また偶数列に対しては第2コード列が、それぞれ得られる。多数票によって各ビット位置を正確に求められる範囲において、第1及び第2コード列は、それぞれ奇数または偶数列セットに対応するオリジナル疑似ノイズアドレス列の副シーケンス(subsequence)と一致すべきである。
【0054】
次にコンピュータ1712は、前方にずれた列に対してオリジナル疑似ノイズアドレスコード(ゲットコード1)を引き出し(ステップ2226)、後方にずれた列に対してオリジナル疑似ノイズアドレスコード(ゲットコード2)を引き出す(ステップ2228)。各コードセットA及びBに対するオリジナル疑似ノイズアドレスコードと、多数票によって得られたコードとを使用して、コンピュータ1712は4つのクロス相関を行い(ステップ2230)、奇数及び偶数列に対して、グリフ列とPN列位置とのベストマッチを確立する。
【0055】
特に、BDMにおいてステップ2211で選択した基準要素に最も近い隣接した2列を、オリジナルアドレスカーペットを構成するそれぞれの完結PN列(complete PN sequences)と相関させる。PN列は同一であり得る。前方及び後方相関を各列に対して行う。4つの相関から、4つのピーク相関値と位置値の対を求める。
【0056】
1) P1とV1。完結PN列と後向きに相関したコード1に対するピーク相関値及び対応位置をそれぞれ示す。
【0057】
2) Q1とU1。完結PN列と前向きに相関したコード2に対するピーク相関値及び対応位置をそれぞれ示す。
【0058】
3) P2とV2。完結PN列と前向きに相関したコード1に対するピーク相関値及び対応位置をそれぞれ示す。
【0059】
4) Q2とU2。完結PN列と後向きに相関したコード2に対するピーク相関値及び対応位置をそれぞれ示す。
【0060】
ピークの大きさに対応するUi及びVi位置値(iは1または2)を使用して、ステップ2211で選択した基準要素に対応するX値及びY値を決定する。つまり、(P1+Q1)>(P2+Q2)であれば(ステップ2232)、U1とV1を使用して、ステップ2211で選択した基準グリフ位置のX及びY位置を計算する(ステップ2236)。(P1+Q1)≦(P2+Q2)であれば(ステップ2232)、U2とV2を使用して、ステップ2211で選択した基準グリフ位置のX及びY位置を計算する(ステップ2234)。次の式にしたがってアドレス情報を求める。
【0061】
X=(Vi−Ui+全コード長)/2
Y=(Vi+Ui−全コード長)/2
算出されたX及びY位置を戻す(ステップ2238)。斜線はU及びVの定数値にそれぞれ対応し、列及び行はX及びYに対応する。U及びVを、アドレスパラメータとして直接使用することもできる。
【0062】
このようにして、ステップ2211で選択した基準点に関連したX及びY値を決定する。コンピュータ1712はこの情報を使用して、論理基準を有するX及びY座標、つまり論理基準と制御信号との組み合わせ(例えば、ボタンクリック)を、これから行う特定動作に関連させる。例えば、X及びY座標をインデックスとして使用し、コンピュータ1712または、コンピュータ1712の監督下で他の装置が実行可能な動作のテーブルを参照する。X及びY座標をファイルオープンコマンドと関連させることができる。ファイルオープンコマンドは、アドレス空間でX及びY座標の近くに位置するアイコンと関連づけられたファイルを開く。実際、コンピュータ1712が行う任意動作を、特定のX及びY座標、つまりX及びY座標の範囲と関連させることができる。
【0063】
図13は、ユーザインターフェイスの実施の形態を示す。このユーザインターフェイスでは、アドレスカーペット12は複数のホットゾーンに分割される。各ホットゾーンはアドレス範囲を有する。このアドレス範囲はグラフィック目的物に対応し、グラフィック目的物はシステムの目的や機能に対応する。コンピュータ1712は、イメージ獲得によって決定されたX及びYアドレスを使用して、ユーザがアドレスカーペット12のどの領域を選択したかを検出する。例えば、アドレスがX=1052及びY=32であれば、これはアドレスカーペット12の左上部分にあるので、ユーザは、CloseWin.aviを選択したことになる。コンピュータ1712はテーブルを使用して、X及びY座標を、これらの座標を元にして実行される1個以上の機能に関連させる。例えば、上記の例では、X=1052及びY=32を、ユーザがCloseWin.aviを選択した時に実行される1個以上の機能に関連させる。ボタン1715によって(一回以上のクリック等)、コンピュータ1712に始動の信号が送られる。あるいは、イメージ獲得台(image capture steady)をある時間保持する事によって、始動信号がコンピュータ1712に伝えられる。位置選択の正確さは1グリフ単位であり、区別された選択の最小識別距離(resolution of differentiated selection)は1グリフ単位と同じ程細かい。獲得選択装置がアドレスカーペットをグリフ間隔の一部以内まで照会できれば、最小識別距離をグリフ単位の部分にまですることができる。たとえば、カメラピクセルは、一般的にグリフ間隔の一部である。
【0064】
図14は、ユーザがカメラペン1710を使用して個別に選択することができるいくつかのアイコンを有するユーザインターフェース3210を示す。ユーザインタフェース3210は、数値アイコン3238、音量制御バー3250、Undoアイコン3246、Confirmアイコン3240、Duplicateアイコン3236、Resetアイコン3244、Dave’sDocアイコン3214、Tom’sDocアイコン3216、Jay’sDocアイコン3218、FileTアイコン3232、FolderAアイコン3230、Outbasketアイコン3228、3.5Floppyアイコン3248、PARCPrinterアイコン3222、及びTokyoPrinterアイコン3224を含む。ユーザインターフェース3210のハッチングされた背景は、グリフのような埋め込みデータコードを示す。図14では、埋め込みデータコードはアドレスコードである。あるいは、埋め込みデータコードはラベルとして実現されることができる。
【0065】
選択を行うために、ユーザはイメージ獲得装置を使用して、グラフィックエンティティの一つを選択して埋め込みコードを獲得する。このときには、(先に説明した)グラフィック読み取り装置の構成に依存して、グラフィックエンティティを指したり、イメージ獲得装置をグラフィックエンティティの上に配置したりする動作を伴うことがある。次にユーザは、ボタンを押すことによって選択を活性化する。ボタンが押されたことに応答して、イメージ獲得装置は、埋め込みコードを含む獲得されたイメージを、図17のコンピュータ1712のようなコンピュータにさらなる処理のために送る。
【0066】
ユーザインターフェース3210は、カメラペンのようなイメージ獲得装置によって埋め込みデータを担持するイメージをそこから獲得することができる媒体であれば、どのような媒体に対しても実行することができる。例えば、ユーザインターフェース3210は、コンピュータディスプレイスクリーン、1枚の紙の上に実現されたり、あるいは壁に投射されたりすることができる。獲得装置は、例えば、携帯型カメラ、リモートカメラ、デジタルコピー機のプラテン、あるいはイメージを獲得することができる他の装置を含む。
【0067】
各グラフィックエンティティの周囲の破線は、そのグラフィックエンティティに対するホットゾーンを示す。このホットゾーンは、特定のグラフィックエンティティが選択されたという有効な読みとりをコンピュータ1712が得るために、ユーザがその内部で選択を行わなければならない領域である。これは、通常はアイコンの周囲を含む。ホットゾーンは、典型的にはユーザに明示的に示されないが、図14では図面への描写の目的で示している。
【0068】
図15は、埋め込みコードに重なったアイコンを示している。図15の埋め込みコードはグリフである。この配置は、(図16に示される実施形態と同様に)ユーザインターフェース3210を実現するために使用されることがある。イメージ獲得は、コンピュータ1712による復号が可能な十分な埋め込みコードを含むように、十分に大きくなければならない。
【0069】
図16は、ユーザ選択及びそのユーザ選択の処理を実現するコンピュータ1712の処理を示す、簡略化されたブロック図である。より具体的には、図16は、イメージの獲得、イメージの復号、コードの解読、及びインターフェース3210からのユーザ選択のシンタックス復号を示す。
【0070】
ユーザインターフェース3416からグラフィックエンティティを活性化するために、ユーザはカメラペン3418を使用してグラフィックエンティティを選択し、カメラペンボタン3422を押す。ある実施形態では、カメラペン3418は2つのボタン3420及び3422を有しており、これらのボタンは、従来のコンピュータマウスにおける複数のマウスボタンと同様の方法で、使用されることができる。コンピュータ1712は、ボタン3420及び3422からのクリックに応答して、そのクリックをユーザによる一つ以上のグラフィックエンティティの選択と共に解釈する。
【0071】
ユーザがカメラペン3418のボタンを押したことに応答して、カメラペン3418はユーザインターフェース3416からイメージを獲得して、そのイメージをイメージプロセッサ3410に送る。このプロセスは、フレームキャプチャ1728(図16には示されていない)の使用を含む。各選択によって、埋め込みデータのイメージ、及び恐らくは選択されたアイコンあるいはそのアイコンの一部が、処理のためにイメージプロセッサ3410に送られる。
【0072】
選択を他のユーザインターフェースから行ってもよい。例えば、ユーザは、ディスプレイモニタ3424から、ユーザインターフェース3426からのグラフィックエンティティの選択を行ってもよい。これより、ユーザは、グラフィックエンティティを紙のユーザインターフェース3416、電子ディスプレイユーザインターフェース3426、あるいは他のユーザインターフェースから選択して、その選択をコンピュータ1712によって統合的に処理させてもよい。
【0073】
イメージプロセッサ3410は、イメージを2段階で処理する。最初に、イメージプロセッサ3410は、そのイメージの埋め込みデータをバイナリ値に変換する。第2に、イメージプロセッサ3410は、そのバイナリ値を分析して、獲得されたイメージを示すイメージ獲得コードを生成する。そのイメージ獲得コードが、特定のグラフィックエンティティのホットゾーン内の領域を示している限りは、コンピュータ1712は、そのイメージ獲得コードを、ホットゾーン内の選択されたコンピュータエンティティあるいは操作を示す対応する選択コードに解読することができるであろう。イメージ獲得コードの決定後に、イメージプロセッサ3410は、そのイメージ獲得コードをコード解読器3412に送る。
【0074】
コード解読器3412は、ユーザによって選択されたグラフィックエンティティによって示されるコンピュータシステムエンティティあるいは操作に対応する選択コードに、そのイメージ獲得コードを解読する。どのグラフィックエンティティが選択されたかを決定するために、コード解読器3412は、イメージ獲得コードを選択されたグラフィックエンティティを示す選択コードに相関させるマッピングテーブル(図示されていない)を使用する。例えば、図14のユーザインターフェース3210に関して、マッピングテーブルは、Dave’sDocアイコン3214に対するホットゾーン内の全てのイメージ獲得コードを、Dave’sDocアイコン3214を示す選択コードにマッピングする。同様に、マッピングテーブルは、Undoアイコン3246に対するホットゾーン内の全てのイメージ獲得コードをUndo操作を示す選択コードにマッピングする。これにより、コード解読器3412は、どのコンピュータシステムエンティティあるいは操作がイメージ獲得コードに対応するかを、図16に関して前述した処理と同様にマッピングテーブルを使用することによって決定する。コード解読器3412は次に、選択されたグラフィックエンティティを示す選択コードをシンタックスプロセッサ3414に伝達する。
【0075】
ある実施形態では、アドレスコードの代わりにラベルが使用される。ラベルシステムでは、ホットゾーン内のイメージ部分は、選択されたグラフィックエンティティに対応する特定のラベル(すなわちイメージ獲得コード)に常に復号される。コード解読器3412がマッピングステップを実行する必要がないようにラベルを実現することも可能である。そのようなシステムでは、ラベル自身が、コンピュータシステムエンティティあるいは操作を十分に識別する。
【0076】
シンタックスプロセッサ3414は、コード解読器3412から選択コードを受領して、特定のシンタックスを有する選択コードの特定の組合せが受領されたときには、コンピュータ1712に操作コードを出力する。ユーザによる特定のグラフィックエンティティの選択あるいは複数のグラフィックエンティティの選択の組合せを示す特定の選択コードあるいは選択コードの組合せが受領されたら、シンタックスプロセッサはコンピュータ1712に、その選択コードあるいは選択コードの組合せに対応する操作を実行するように指示する。
【0077】
イメージプロセッサ3410、コード解読器3412、及びシンタックスプロセッサは、ハードウエアとして実現されても、ソフトウエアとして実現されても、あるいはハードウエアとソフトウエアとの組合せとして実現されてもよい。全体的にあるいは部分的にソフトウエア要素として実現されるならば、それらのソフトウエア要素はディスク上に記憶されてもよく、信号としてネットワークを転送されてもよい。ここに説明されている本発明に合致する装置及び方法の全部あるいは一部を実現するソフトウエア要素は、コンピュータ読み取り可能及び使用可能な媒体上にプログラム部品あるいはモジュールとして記憶されてもよい。
【0078】
コンピュータ1712は、ユーザによる選択の処理中に適切なタイミングで、ユーザへのフィードバックを提供してもよい(図示していない)。このフィードバックは、従来のシステムと同様に、音響的、視覚的、あるいは触覚的などのような、どのタイプの感覚的フィードバックであってもよい。例えば、コンピュータスクリーンがコンピュータ1712に接続されていたら、フィードバックは、ハイライト化あるいはアニメーションのような視覚的なものであってもよい。フィードバックは、例えばシンタックス処理の一部として使用されて、特定の選択が行われたことや特定の一連の選択が行われたことをユーザに知らせてもよい。
【0079】
多レベル選択では、一連のグラフィックエンティティのユーザによる選択を伴い、これらは、コンピュータ1712によって一緒に解釈されると、コンピュータ1712に操作を実行させたりコンピュータシステムエンティティを選択させたりする。多レベル選択を使用すると、ユーザがコンピュータ1712にある操作を実行させたいとき、ユーザは、カメラペン3418を順に位置させてインターフェースの個別のグラフィックエンティティを選択し、ボタン3422を押して各エンティティを選択することによって、ユーザインターフェース3210の上の一連のグラフィックエンティティを選択する。ボタン3422が押される毎に、カメラペン3418の先端の下のイメージがコンピュータ1712に送られる。イメージプロセッサ3410は各イメージを受領し、そのイメージの中の埋め込みデータを復号して、その獲得に対応しているイメージ獲得コードを形成する。コード解読器3412はイメージ獲得コードを選択コードにマッピングし、シンタックスプロセッサ3414は、受領した選択コードをその受領時に分析して、受領されたコードの特定の組合せが適切なシンタックス及び値を有していれば、操作を実行する。
【0080】
例えば、ユーザが第1にDavid’sDocアイコン3214を選択し、次にPARCPrinterアイコン3222を選択したら、コンピュータ1712は、David’sDocアイコン3214に関連した文書を、PARCPrinterアイコン3222に関連したプリンタに印刷する。グラフィックエンティティの他の選択に応答して、他の操作が実行される。例えば、Outbasketアイコン3228の選択に続いて文書アイコンが選択されて、その文書を、コンピュータ1712のOutbasketアイコン3228に関連した電子アウトバスケットファイルに置いてもよい。文書アイコンの選択に続いてFolderAアイコン3230を選択して、その文書をコンピュータ1712のFolderAアイコン3230に関連した電子フォルダにコピーしてもよい。あるいは、文書アイコンの選択後にFileTアイコン3232を選択して、その文書をコンピュータ1712のFileTアイコン3232に関連した電子ファイルにコピーしてもよい。
【0081】
ユーザインターフェース3210のあるグラフィックエンティティの選択は、ユーザインターフェース3210の機能性を増加あるいは援助する。例えば、コンピュータ1712は、従来のグラフィックユーザインターフェース上の典型的なメニューアイテムであるグラフィックエンティティの選択に応答するようにプログラムされることができる。これより、Undoアイコン3246の選択によって、ユーザは、選択あるいは操作の一つ以上のレベルを取り消すことができる。Confirmアイコン3240の選択によって、ユーザは、そのように要求されたら情報を確認することができる。例えば、コンピュータ1712は、確認を要求する音声をスピーカに出力することによって、要求された操作の確認を求めるかもしれない。Resetアイコン3244の選択によって、ユーザは、以前の選択を全て消去することができる。文書アイコンの選択に続いてDuplicateアイコン3266を選択すれば、選択された文書が複製される。
【0082】
数字アイコン3238によって、ユーザは、コンピュータ1712によって実行されるべき操作に関連した数値情報を入力することができる。例えば、「22」と入力するためには、ユーザは「2」、「2」、及び「#」を選択する(「#」の選択は選択の終了を示す)。これにより、ユーザがJay’sDocのコピーを22部Tokyoプリンタに印刷したいときには、ユーザは「2」、「2」、「#」、Jay’sDocアイコン3218、及びTokyoPrinterアイコン3234を選択する。コンピュータ1712は、各選択に対するイメージを受領して、そのイメージで獲得された埋め込みデータを、「2」、「2」、「#」、Jay’sDocアイコン3218、及びTokyoPrinterアイコン3234の選択を示す選択コードに復号する。コンピュータ1712は、この一連の選択コードを、ユーザがJay’sDocのコピーを22部Tokyoプリンタに印刷したがっていることを意味すると解釈して、それらのコピーをTokyoプリンタに印刷する。他の実施形態では、キーボード全体あるいは代替キーボードが、印刷されたグラフィックユーザインターフェースとして提供されることができる。
【0083】
音量制御バー3250に沿ってある位置を選択することによって、ユーザは、コンピュータ1712に対するスピーカ音量のレベルを選択してもよい。音量制御バー3250のようなグラフィックエンティティは、埋め込みコードと共に利用可能な位置選択の微細レベルを利用する。例えば、グリフアドレスカーペットが使用されれば、アドレスカーペットの各グリフは、それ自身の特有のアドレスを有している。これより、音量バー3250は、ディテールのこの微細レベルを利用して、垂直方向に沿ってHiからLoまで実用的に無限の範囲の音量レベル値を提供することができる。
【0084】
コンピュータ1712は、単一のユーザ選択あるいは一連のユーザ選択に応答して操作を実行する。操作はまた、同じグラフィックエンティティの複数の選択に応答して、単独で又は他の選択との組合せとして実行される。
【0085】
要約すると、コンピュータ1712は、個別のグラフィックエンティティの選択あるいはグラフィックエンティティの選択の組合せに応答して、コンピュータによって実行可能な対応する機能を実行するようにプログラムされることができる。加えて、コンピュータ1712は、カメラペン3418からの一つ以上のボタン信号、あるいは他のユーザ入力装置からの信号に応答して、操作を実行するようにプログラムされることができる。カメラペン3418を含む各入力装置は一つ以上のボタンを有していてもよく、各ボタンは別個の信号によって別個に解釈されてもよい。
【0086】
図17は、ユーザからの選択の受領時に、コード解読器3412によって実行される処理を示すフローチャートである。コード解読器3412はまず、カメラペン3418の上のボタン3422が押されたことを示す信号を待つ(ステップ3510)。その信号に応答して、コード解読器3412は、カメラペン3418からイメージを獲得して、イメージ獲得コードに復号する(ステップ3512)。イメージが復号可能でなければ(ステップ3514)、コード解読器3412は、その選択が復号可能ではないことをユーザにシグナルしてもよく、処理は継続されて、カメラペン3418の上のボタン3422が押されたことを示す次の信号を待つ(ステップ3510)。
【0087】
イメージが復号可能であれば(ステップ3514)、好ましくはユーザに対して選択が確認されて(ステップ3518)、イメージ獲得コードが選択コードにマッピングされ、選択コードはシンタックスプロセッサ3414に送られて、必要であれば他の未解読のペンディング中の選択コードと共に記憶される(ステップ3520)。シンタックスプロセッサ3414は、ペンディング中の選択コードが実行されるべき操作を示すまで、選択コードをバッファする。
【0088】
図18は、シンタックスプロセッサ3414によって実行される処理を示すフローチャートである。シンタックスプロセッサ3414はまず、新しい選択コードがコード解読器3412から受領されるまで待つ(ステップ3610)。新しいコードが受領されたら、シンタックスプロセッサ3414は、その新しい選択コードを、以前の選択にペンディング中の選択コードがあればそれと一緒に、受領した順に記憶する。シンタックスプロセッサ3414は次に、ペンディング中の選択コードを分析して文法的関係を解釈し(パースし;parse)、ペンディング中の選択コードがどの操作が実行されるべきであるかを総称的にあるいは個別に示すかを決定する(ステップ3612)。シンタックスプロセッサ3414は、ある操作が実行されるべきであることを示す所定の基準(クライテリア;criteria)に合う選択コードのシーケンスあるいは組合せを求めて、ペンディング中の選択コードを分析する。
【0089】
シンタックスプロセッサ3414はまた、ペンディング中の選択コードを分析して、それらのコードが再構築されるべきかどうかを決定する(ステップ3614)。再構築は、ペンディング中の選択コードの順序の変更や、ペンディング中の選択コードの削除を伴うことがある。選択コードが、シンタックスに基づいてコードの除去を要求するある選択シーケンスあるいは組合せを示すときには、一つ以上のペンディング中の選択コードが除去されることがある。例えば、システムが実行されて、ユーザがカメラペン3418を使用して第1の文書アイコンを選択し、次に、第2の文書アイコンを選択してカメラボタン3422をダブルクリックすることによって、第2の文書アイコンの包括的な選択を実行することがある。この場合、コードのシーケンスは包括的な選択として認知され、シンタックスプロセッサ3414は両方のコードをペンディング中に維持するであろう。しかし、第1の文書アイコンの選択に続いて第2の文書アイコンの非包括的な選択が行われたら、再構築ステップ3614は、その選択が非包括的であるので、第1の文書アイコンに対応するコードをドロップするであろう。これは、ある従来のシステムにおける非包括的な選択に対して、第1のアイコンをクリックし、次に第2のアイコンをクリックすることと同等である。
【0090】
シンタックスプロセッサ3414がステップ3612で、ペンディング中の選択コードがある操作を示さないと判定したら、シンタックスプロセッサ3414は、新しい選択コードの待機状態に戻る(ステップ3616)。シンタックスプロセッサ3414がステップ3612で、ペンディング中の選択コードがある操作を示すと判定したら(ステップ3616)、その操作が実行されて(ステップ3618)、シンタックスプロセッサ3414は、再び新しい選択コードの待機を開始する(ステップ3610)。
【0091】
図19は、図18のフローチャートの実行時にシンタックスプロセッサ3414によって実現され得る状態ダイアグラムのブロック図である。シンタックスプロセッサ3414は、WAIT状態3710から開始する。選択コードが何も受領されない限りは、シンタックスプロセッサ3414はWAIT状態3710に留まる。シンタックスプロセッサ3414が文書選択コードを受領したら、シンタックスプロセッサ3414はDOC状態3712に移動する。数またはプリンタ選択コード以外の選択コードが受領されたら、シンタックスプロセッサ3414はWAIT状態3710に戻る。しかし、数選択コードが受領されたら、シンタックスプロセッサ3414は、文書選択コード及び数選択コードが受領されたことを示すDOC,NBR状態3716に移動する。プリンタ選択コードが受領されたら、シンタックスプロセッサ3414はPRINT状態3718に移動して、選択された文書を印刷する。印刷の終了後に、シンタックスプロセッサ3414はWAIT状態3710に戻る。
【0092】
シンタックスプロセッサ3414がWAIT状態3710にあって数選択コードが受領されたら、シンタックスプロセッサ3414はNBR状態3714に移動する。文書選択コード以外の選択コードが受領されたら、シンタックスプロセッサ3414はWAIT状態3710に戻る。しかし、文書選択コードが受領されたら、シンタックスプロセッサ3414はDOC,NBR状態3716に移動する。
【0093】
DOC,NBR状態3716から、プリンタ選択コード以外の選択コードが受領されたら、シンタックスプロセッサ3414はWAIT状態3710へ移動する。しかし、プリンタ選択コードが受領されたら、シンタックスプロセッサ3414はPRINT状態3718へ移動して、その文書を特定のプリンタに特定された回数だけ印刷する。印刷の終了後に、シンタックスプロセッサ3414はWAIT状態3710に戻る。
【0094】
図19の状態図は、入力されてくる選択コード信号を処理するためにシンタックスプロセッサ3414によって使用されることができる状態図のみを示している。複合性(complexity)及び特定のシンタックス処理は、システム毎に変わるであろう。実施形態は、選択コードに加えて装置ボタンあるいは他のユーザ選択に基づく状態間での移動を含むことがある。
【0095】
図20及び図21はユーザインターフェース3810及び3812を示す。ユーザインターフェース3810及び3812はユーザインターフェース3210と同様であるが、コンテクストアイコンを含む。コンテクストアイコンは、コンピュータ1712に、ユーザインターフェース3810あるいは3812を処理するときにそれぞれ異なるコンテクストで操作するように指示する。ユーザインターフェース3810に対するコンテクストはDave’sDesktop#3アイコン3820を使用して選択され、ユーザインターフェース3812に対するコンテクストはDave’sDesktop#4アイコン3822を使用して選択される。選択されると、各コンテクストアイコンは、コンピュータ1712にそれぞれのマッピングとシンタックス処理モジュールとの組合せを使用させる。コンテクストアイコンは、コンテクストコードを提供するために実質的に獲得されなければならない埋め込みデータコードを含んでいる見かけの領域に、グラフィック的に関連されている。誤り訂正符号によって、部分的な獲得が行われてもよい。例えば、図20及び図21のコンテクストアイコン上の可視境界マークが、見かけの領域の例である。
【0096】
Dave’sDesktop#3アイコン3820を選択するために、ユーザはカメラペン3418を使用して、図14のグラフィックエンティティに関連して先述したようにDave’sDesktop#3アイコン3820を選択する。Dave’sDesktop#3アイコン3820の選択後に、ユーザインターフェース3810からの残りの選択がマッピングされて、Dave’sDesktop#3アイコン3820から導かれたコンテクストコードに基づいてシンタックス的に処理されるであろう。同様に、Dave’sDesktop#4アイコン3822の選択後に、ユーザインターフェース3812からの残りの選択がマッピングされて、Dave’sDesktop#4アイコン3822から導かれたコンテクストコードに基づいてシンタックス的に処理されるであろう。
【0097】
図22、23、24及び25は、コード解読器3412及びシンタックスプロセッサ3414の実施形態の各論理表示を示す。図22の実施形態では、コード解読器3412は、各コンテクストに対応する複数のマッピングモジュール3910及び複数のシンタックス処理モジュール3912を含む。これより、ユーザがコンテクストグラフィックエンティティを選択すると、コード解読器3412の対応するコンテクストマッピングモジュールとシンタックスプロセッサ3414のシンタックス処理モジュールとが、その時点から、そのコンテクストがシステムあるいはユーザによって変えられるまで使用される。例えば、コンテクストアイコンAが選択されると、その時点から、コンテクストAマッピングモジュール及びコンテクストAシンタックス処理モジュールが使用される。
【0098】
図23は、図22の変形を示す。図23では、マッピングモジュール3910及びシンタックス処理モジュール3916は独立して選択される。例えば、ユーザは、コンテクストAマッピングモジュールとコンテクストEシンタックス処理モジュールとを選択してもよい。この実施形態は、マッピングモジュール及びシンタックス処理モジュールのセットが単一のコンテクストコードによって選択される図22の実施形態とは、対照的である。
【0099】
図24は、コード解読器3412及びシンタックスプロセッサ3414の他の実施形態を示す。この実施形態では、マッピングは、コンテクストにかかわらず、常にマッピングモジュール3918によって実行される。しかし、シンタックスプロセッサ3414は、ユーザあるいはシステムによって選択されるときにシンタックス処理モジュール3912の一つによるシンタックス処理を提供する、選択可能なコンテクストである。
【0100】
図25が示すコード解読器3412及びシンタックスプロセッサ3414の他の実施形態では、マッピングコンテクストはユーザあるいはシステムによって選択可能であるが、シンタックス処理は、コンテクストとにかかわらず、シンタックス処理3920によって同様に実行される。
【0101】
図14に示された実施形態は、固定コンテクストシステムを示す。この実施形態は、コード解読器3412の単一のマッピングモジュールとシンタックスプロセッサ3414(図示せず)の単一のシンタックス処理モジュールとを備える。
【0102】
コンテクストの変更によって、さらに広範囲の機能性及びフレキシビリティが可能になり、コンテクスト毎に異なるグラフィックエンティティの特定の選択に応答して実行される操作を可能にする。例えば、複数のユーザインターフェースが各々、同じ埋め込みコードアドレス空間を利用してもよいが、各々が特有のコンテクストを持つことによって、各々の各ユーザインターフェースのマッピングを全く異ならせることができる。
【0103】
さらに、コンテクストは、実質的にどんな形態のユーザ入力によって又はシステムによって選択されてもよい。例えば、埋め込みコードユーザインターフェースをウエブページと共に使用することができる。ウエブページは、ユーザインターフェースに対して、マッピングあるいはシンタックス、またはその両方のためのコンテクストを提供するであろう。
【0104】
図26は、図20及び21に示されたような、コンテクストに基づいたユーザインターフェースを実現するために使用され得る状態図の例を示している。状態図の上半分は第1のコンテクストAを示し、状態図の下半分は第2のコンテクストBを示す。状態図要素WAIT状態3710、DOC状態3712、NBR状態3714、DOC,NBR状態3716、及びPRINT状態3718は、図19に示されているものと同じ状態である。
【0105】
WAIT状態4020から始まって、シンタックスプロセッサ3414は、ユーザからのコンテクスト選択コードを待つ。ユーザがDave’sDesktop#3アイコン3820のようなコンテクストAを示すコンテクストアイコンを選択すると、シンタックスプロセッサ3414は、WAIT状態4020からWAIT状態3710へ移動する。図19に関連して先に述べたように処理は続く。これより、図19におけるように、コンテクストAに対して要求されるシンタックスは、文書/数/プリンタの組合せ、数/文書/プリンタの組合せ、あるいは文書/プリンタの組合せが選択されるというものである。
【0106】
WAIT状態4020あるいはWAIT状態3710にいる間に、ユーザがコンテクストBを示すコンテクストアイコンを選択すると、シンタックスプロセッサ3414は、WAIT状態4022へ移動する。コンテクストBでは、ユーザ入力は、WAIT状態4022、DOC状態4028、NBR状態4024、及びPRINT状態4026によって要求されるシンタックスにしたがって処理される。WAIT状態4022から、ユーザが数を選択すれば、シンタックスプロセッサ3414はNBR状態4024に移動する。文書選択コードが受領されたら、シンタックスプロセッサ3414はDOC状態4028に移動する。ユーザが次に数を選択すると、シンタックスプロセッサ3414はPRINT状態4026に移動して、コンピュータ1712にその文書を印刷させて、WAIT状態4022に戻る。
【0107】
シンタックスプロセッサ3414がWAIT状態4022にあり且つ数が受領されたら、シンタックスプロセッサ3414はNBR状態4024に移動する。文書選択コードが次に受領されると、シンタックスプロセッサ3414はPRINT状態4026に移動してその文書が印刷され、シンタックスプロセッサ3414はWAIT状態4022に戻る。WAIT状態4022から、コンテクストA選択コードが受領されると、プロセッサ1712はWAIT状態3710に戻る。
【0108】
要約すると、コンテクストAは、文書/数/プリンタの組合せ、数/文書/プリンタの組合せ、あるいは文書/プリンタの組合せの選択を要求する。コンテクストBは、文書/数の組合せ、あるいは数/文書の組合せの選択を要求する。これより、コンテクストBでは、プリンタは既に選択されて、コンピュータ1712は文書及び数の受領のみの後に、その文書を印刷するであろう。しかし、コンテクストAでは、プリンタが選択されなければならない。
【0109】
図19及び図26の状態図は、単純化されたシンタックス処理を示している。システムは、典型的には、ユーザ選択の如何なる組合せに対しても実行されることができるもっと複雑な状態図を有して、結果としてコンピュータ機能が選択されるであろう。
【0110】
図27は、図14、20及び21に示されたインターフェースと同様のユーザインターフェースの実施形態を示しているが、可視ではない暗黙的なホットゾーンの代わりに、グラフィックエンティティの周囲に視覚的な境界ブロックを使用して実現されている。ユーザがカメラペン3418の先端を境界の内部に置くと、ボタンが押されたときに埋め込みコードのイメージが獲得されて、そのブロック内のグラフィックエンティティに対応する選択コードを選択させる。
【0111】
図20、21のコンテクストに基づくシステムは、埋め込みコンテクストコードを使用して実現されてもよく、これにより、明示的な局在化されたコンテクストアイコンに対する必要性を軽減する。ある実施形態では、コンテクストは、コンテクストコードを位置コードと共に埋め込みデータに埋め込むコーディングシステムによって実現される。これより、コンピュータ1712が獲得された画像を復号すると、この復号化によって位置及びコンテクストの両方が提供される。そのようなコーディングシステムは、分散型ラベルコードと呼ばれることがある。例えば、図10、11及び12を参照されたい。図27に示されるものと同様のユーザインターフェースの実施形態は、一つ以上のコンテクストコードをコーディングシステムに埋め込むことによって、コンテクストアイコンなしに実現されることもある。コンテクストコード及びアドレスコードは、図5に示したものと同様のアプローチを使用してインターリーブされてもよい。
【0112】
図28は、ユーザインターフェースの複数のセクションを、それぞれ別個の基材上で使用することを示すブロック図である。この実施形態は、関連したグラフィックエンティティによるアイコンのグループ化も示している。ユーザインターフェース4210は、選択プロセスを増大させるグラフィックエンティティを含み、ユーザインターフェース4212は文書グラフィックエンティティを示し、ユーザインターフェース4214は文書記憶グラフィックエンティティを含み、ユーザインターフェース4216は入力/出力装置グラフィックエンティティを備えており、ユーザインターフェース4218はコンテクストAアイコン4220及びコンテクストBアイコン4222を含む。ユーザは、図28に示されるユーザインターフェースのどのセクションからも選択を行うことができて、コンピュータ1712に操作を実行させることができる。これより、図28は、ここに説明されているイメージ獲得ユーザインターフェースのフレキシブルな性質を示している。物理的には、ユーザインターフェースのセクションは、紙プリント、電子スクリーン、及び壁又はスクリーン上へのイメージ投射のような異なるタイプの基材であることができる。
【0113】
さらに、ユーザインターフェースの各部分は、異なるタイプの埋め込みコードを使用して実現することができる。例えば、ある部分はラベルコードを使用して実現することができ、別の部分がアドレスカーペットを使用して実現されてもよい。加えて、ユーザインターフェースの単一の部分が、複数のタイプの埋め込みデータコードを組み込んでいることもできる。
【0114】
インターフェースの各部分は、多色印刷、プリント上へのイメージ投射、あるいは複数の投射イメージの重畳のような、埋め込みデータプリント及びグラフィック要素プリントの重畳を含んでもよい。重畳されたイメージの論理的及び空間的な記載を確立及び維持するように、注意を払わなければならない。
【0115】
図29は、文書処理環境での多レベル選択を示すブロック図である。文書4314は、背景のグレイ領域によって示されているように、埋め込みデータに重なるテキストを含む。ユーザは、まず関心興味のある選択の始まり(「1」によって示されている)で選択を行い、次に、その関心のある選択の終わり、この場合には文の終わり(「2」によって示されている)で第2の選択を行うことによって、テキストを選択する。印刷のために、ユーザは次にPARCPrinterアイコン3222あるいはTokyoPrinterアイコン3234のいずれかを選択して、これにより、選択されたテキストを選択されたプリンタにプリントアウトさせる。図29に示されたこの一般的な多レベル選択スキームは、他のテキスト及び文書処理操作のために使用されてもよい。
【0116】
文書処理は、アドレスカーペット及び他の埋め込みデータによって提供される選択の微細レベルを利用することもできる。各位置が異なるコードに復号されるので、ユーザはディテールの微細レベル、グリフアドレスカーペットの場合には典型的には一つのグリフを、選択することができる。300dpiのプリントでは、グリフ間隔は、例えば60/インチ(約23.6/cm)であってもよく、これは従来のスクリーンの解像度と互換性を有している。これより、テキストの選択は、従来のマウス及び電子ユーザインターフェースによって実行される操作を模擬するカメラペン3418を使用して実行されることができる。さらに、グリフ間の補間によって、選択の解像度を拡大することができる。
【0117】
図30は、ローカル埋め込みデータコードラベルを使用するe−メールシステムを示すユーザインターフェース例を示す。示されている実施形態では、ある会社の組織構造が、ローカル埋め込みデータコードによって選択可能なノードと共に与えられている。例えば、ノード4410はスーパバイザ5を示し、これは埋め込みデータラベル4412によって選択され得る。ユーザインターフェースは、e−メール文書に対する受領者を選択する機構を提供する。ユーザは、図14からDave’sDocアイコン3214を選択し、次に埋め込みデータラベル4412を使用してノード4410を選択して、文書Dave’sDocをノード4410に関連付けられたスーパバイザに向ける。アイコン4414は、ユーザインターフェースに関連付けられたコンテクストを選択するために使用される。ローカル埋め込みデータコードの代替として、あるいはそれらに加えて、図30のユーザインターフェースを、背景としてのアドレスカーペットを使用して実現してもよい。
【図面の簡単な説明】
【図1】 セルフクロッキンググリフコードパターン及びその2進解釈(binary interpretation)の一部を示す図である。
【図2】 グリフアドレスカーペットを用いて実施されたユーザインターフェースの例を示す図である。
【図3】 グリフアドレスカーペットのユーザ選択部分を獲得し、この獲得部分のグリフを復号化するイメージ獲得システムのブロック図である。
【図4】 ホットゾーンを実行するユーザインタフェースの実施形態を示す図である。
【図5】 カメラペン1710を用いる選択プロセスを示す図である。
【図6】 本発明の原理に一致する、グラフィックユーザインターフェースを実施するために用いられる第2のタイプの選択プロセスを示す図である。
【図7】 グリフアドレスカーペット1732の符号化されたアドレスコードの実施形態を示す図である。
【図8】 コンピュータ1712により、獲得イメージ領域に実行される明確化及びアドレス復号化プロセスを示すフローチャートである。
【図9】 コンピュータ1712により、獲得イメージ領域に実行される明確化及びアドレス復号化プロセスを示すフローチャートである。
【図10】 カメラペン1710によって獲得されたグリフ格子から形成された2進データマトリクス2310を示す図である。
【図11】 相関ステップ2116及び2118を実行するためのプロセスを示すフローチャートである。
【図12】 獲得されたイメージのグリフによって符号化されたアドレスを決定するための、コンピュータ1712により実行される分析を示す図である。
【図13】 アドレスカーペット1612が、それぞれのアドレス範囲を有する領域にどのように分割されるかを示す図である。
【図14】 ユーザがカメラペン1710を使用して個別に選択することができるいくつかのアイコンを有するユーザインターフェース3210を示す図である。
【図15】 埋め込みコードに重なっているアイコンを示す図である。
【図16】 イメージ獲得、埋め込みコードの復号、コード解読、及びシンタックス復号を実行するコンピュータ1712のプロセスを示すブロック図である。
【図17】 ユーザからの選択を受領したときにコンピュータ1712によって実行されるプロセスを示すフローチャートである。
【図18】 復号された埋め込みデータ情報に応答してコンピュータ1712によって実行されるプロセスを示すフローチャートである。
【図19】 ペンディング中のコードが実行されるべき操作を総称的に示すかどうかを決定するときに、コンピュータ1712によって使用される要素のブロック図である。
【図20】 各々がそれぞれ異なるコンテクストを有するユーザインターフェース3810及び3812を示す図である。
【図21】 各々がそれぞれ異なるコンテクストを有するユーザインターフェース3810及び3812を示す図である。
【図22】 コード解読器3412及びシンタックスプロセッサ3414の実施形態の論理的表示を示す図である。
【図23】 コード解読器3412及びシンタックスプロセッサ3414の実施形態の論理的表示を示す図である。
【図24】 コード解読器3412及びシンタックスプロセッサ3414の実施形態の論理的表示を示す図である。
【図25】 コード解読器3412及びシンタックスプロセッサ3414の実施形態の論理的表示を示す図である。
【図26】 コンテクストに基づくシンタックス処理を使用した、入力されてくるコードの処理を示す状態図である。
【図27】 図14に示されたインターフェースと同様であるが、グラフィックエンティティの周囲に明示的にマークされたホットゾーンを使用して実行されるユーザインターフェースの実施形態を示す図である。
【図28】 様々なコンピュータシステムエンティティ及び機能を選択するために使用可能な様々な異なるユーザインターフェースを示すブロック図である。
【図29】 テキスト文書を含む文書処理環境における本発明の原理を示す図である。
【図30】 ローカル埋め込みデータコードラベルを使用するe−メールシステムを示すユーザインタフェース例を示す図である。
【符号の説明】
3210 ユーザインターフェース、3214 Dave’sDocアイコン、3216 Tom’sDocアイコン、3218 Jay’sDocアイコン、3222 PARCPrinterアイコン、3224 TokyoPrinterアイコン、3228 Outbasketアイコン、3230 FolderAアイコン、3232 FileTアイコン、3236 Duplicateアイコン、3238 数値アイコン、3240 Confirmアイコン、3244 Resetアイコン、3246 Undoアイコン、3250 音量制御バー。
Claims (1)
- 知覚的な識別子と埋め込みデータコードとを表示するユーザインターフェース、並びに前記ユーザインターフェースのある部分を選択して前記部分に対応するイメージ情報を獲得するイメージ獲得装置と共に使用される装置であって、
前記知覚的な識別子の選択に応答して前記イメージ獲得装置により獲得された、前記ユーザインターフェースのうち前記選択された知覚的な識別子に対応する部分のイメージ情報を受け、当該イメージ情報に含まれる埋め込みデータコードをイメージ獲得コードに復号するイメージプロセッサと、
前記イメージ獲得コードを前記選択された知覚的な識別子を示す選択コードにマッピングする解読器と、
前記解読器により得られた一連の複数の選択コードを分析して、当該一連の複数の選択コードが特定の操作を示す特定の選択コードの組合せであると判定した場合に、当該特定の操作を実行するようにコンピュータシステムに指示するシンタックスプロセッサと、
を備え、
前記解読器は、前記イメージ獲得コードを前記選択コードにマッピングする単一または選択的に使用される複数のマッピングモジュールを含み、
前記シンタックスプロセッサは、前記一連の複数の選択コードを分析する単一または選択的に使用される複数のシンタックス処理モジュールを含み、
前記埋め込みデータコードは、前記ユーザインターフェース上の位置を示すアドレスコードと共にコンテクストコードを含み、
前記装置は、前記イメージ獲得装置により獲得された、前記ユーザインターフェースのうち選択された部分のイメージ情報を受けると、当該イメージ情報に含まれる埋め込みデータコードを復号して、前記選択された部分の位置を示す前記選択コードを得るための前記イメージ獲得コードと共にコンテクストを取得し、当該コンテクストに基づき、前記複数のマッピングモジュールまたは前記複数のシンタックス処理モジュールを選択的に使用する、
装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/223882 | 1998-12-31 | ||
US09/223,882 US6594406B1 (en) | 1996-12-20 | 1998-12-31 | Multi-level selection methods and apparatus using context identification for embedded data graphical user interfaces |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000227833A JP2000227833A (ja) | 2000-08-15 |
JP4611479B2 true JP4611479B2 (ja) | 2011-01-12 |
Family
ID=22838352
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP37575299A Expired - Fee Related JP4611479B2 (ja) | 1998-12-31 | 1999-12-28 | コンテクスト識別を使用する多レベル選択装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US6594406B1 (ja) |
EP (1) | EP1016953B1 (ja) |
JP (1) | JP4611479B2 (ja) |
Families Citing this family (63)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6330976B1 (en) | 1998-04-01 | 2001-12-18 | Xerox Corporation | Marking medium area with encoded identifier for producing action through network |
US6832717B1 (en) | 1999-05-25 | 2004-12-21 | Silverbrook Research Pty Ltd | Computer system interface surface |
US7128270B2 (en) | 1999-09-17 | 2006-10-31 | Silverbrook Research Pty Ltd | Scanning device for coded data |
US7605940B2 (en) | 1999-09-17 | 2009-10-20 | Silverbrook Research Pty Ltd | Sensing device for coded data |
US8416468B2 (en) | 1999-09-17 | 2013-04-09 | Silverbrook Research Pty Ltd | Sensing device for subsampling imaged coded data |
SE517445C2 (sv) | 1999-10-01 | 2002-06-04 | Anoto Ab | Positionsbestämning på en yta försedd med ett positionskodningsmönster |
US20030061188A1 (en) * | 1999-12-23 | 2003-03-27 | Linus Wiebe | General information management system |
US7143952B2 (en) * | 2000-03-21 | 2006-12-05 | Anoto Ab | Apparatus and methods relating to image coding |
WO2002013126A2 (de) * | 2001-08-08 | 2002-02-14 | Anitra Medienprojekte Gmbh | Träger und verfahren zur erstellung positionsgebender vorlagen mit zugehörigem lesegerät |
US20020075268A1 (en) * | 2000-12-18 | 2002-06-20 | Hecht David L. | Method and apparatus for implementing a user interface using occlusion glyph code tilings |
US8341194B2 (en) * | 2001-04-02 | 2012-12-25 | Accenture Global Services Limited | Matrix-based user interface and system for creating the same |
US20040139100A1 (en) * | 2001-04-02 | 2004-07-15 | Gottsman Edward J. | Context-based display technique |
US7418160B2 (en) * | 2001-09-21 | 2008-08-26 | Anoto Ab | Method and device for processing of information |
US6915281B2 (en) * | 2002-06-30 | 2005-07-05 | Pitney Bowes Inc. | Systems and methods using a digital pen for funds accounting devices and postage meters |
US7082444B2 (en) * | 2002-09-30 | 2006-07-25 | Pitney Bowes Inc. | Method and system for identifying a form version |
US7417773B2 (en) * | 2002-09-30 | 2008-08-26 | Pitney Bowes Inc. | Method and system for creating and sending a facsimile using a digital pen |
US7343042B2 (en) * | 2002-09-30 | 2008-03-11 | Pitney Bowes Inc. | Method and system for identifying a paper form using a digital pen |
US7167586B2 (en) * | 2002-09-30 | 2007-01-23 | Pitney Bowes Inc. | Method and system for remote form completion |
WO2004042620A1 (en) * | 2002-11-04 | 2004-05-21 | Deepq Technologies, A General Partnership | Document processing based on a digital document image input with a confirmatory receipt output |
US7121469B2 (en) * | 2002-11-26 | 2006-10-17 | International Business Machines Corporation | System and method for selective processing of digital images |
US7840492B2 (en) * | 2002-12-30 | 2010-11-23 | Pitney Bowes Inc. | Personal funds metering system and method |
US7110576B2 (en) | 2002-12-30 | 2006-09-19 | Pitney Bowes Inc. | System and method for authenticating a mailpiece sender |
US7097094B2 (en) * | 2003-04-07 | 2006-08-29 | Silverbrook Research Pty Ltd | Electronic token redemption |
JP4504369B2 (ja) * | 2003-06-13 | 2010-07-14 | アノト アクティエボラーク | コーディングパターンのオンデマンド印刷 |
US7111230B2 (en) * | 2003-12-22 | 2006-09-19 | Pitney Bowes Inc. | System and method for annotating documents |
US7293034B2 (en) * | 2004-02-23 | 2007-11-06 | Microsoft Coporation | Dynamically customizing a user interface for the aggregation of content |
US7624123B2 (en) * | 2004-02-26 | 2009-11-24 | Ati Technologies, Inc. | Image processing system and method |
US8316068B2 (en) | 2004-06-04 | 2012-11-20 | Telefonaktiebolaget Lm Ericsson (Publ) | Memory compression |
US7240849B2 (en) * | 2004-08-27 | 2007-07-10 | Hewlett-Packard Development Company, L.P. | Glyph pattern generation and glyph pattern decoding |
JP2006082422A (ja) * | 2004-09-16 | 2006-03-30 | Fuji Photo Film Co Ltd | プリンタ、プリントシステム及びプリント条件設定プログラム |
US7546528B2 (en) | 2004-12-20 | 2009-06-09 | Ricoh Co., Ltd. | Stamp sheets |
JP4556705B2 (ja) | 2005-02-28 | 2010-10-06 | 富士ゼロックス株式会社 | 2次元座標同定装置、画像形成装置及び2次元座標同定方法 |
US20060212430A1 (en) | 2005-03-18 | 2006-09-21 | Searete Llc, A Limited Liability Corporation Of The State Of Delaware | Outputting a saved hand-formed expression |
US8290313B2 (en) * | 2005-03-18 | 2012-10-16 | The Invention Science Fund I, Llc | Electronic acquisition of a hand formed expression and a context of the expression |
US8229252B2 (en) | 2005-03-18 | 2012-07-24 | The Invention Science Fund I, Llc | Electronic association of a user expression and a context of the expression |
US8823636B2 (en) | 2005-03-18 | 2014-09-02 | The Invention Science Fund I, Llc | Including environmental information in a manual expression |
US8787706B2 (en) | 2005-03-18 | 2014-07-22 | The Invention Science Fund I, Llc | Acquisition of a user expression and an environment of the expression |
US7809215B2 (en) | 2006-10-11 | 2010-10-05 | The Invention Science Fund I, Llc | Contextual information encoded in a formed expression |
US7826687B2 (en) | 2005-03-18 | 2010-11-02 | The Invention Science Fund I, Llc | Including contextual information with a formed expression |
US8340476B2 (en) * | 2005-03-18 | 2012-12-25 | The Invention Science Fund I, Llc | Electronic acquisition of a hand formed expression and a context of the expression |
US7791593B2 (en) | 2005-03-18 | 2010-09-07 | The Invention Science Fund I, Llc | Machine-differentiatable identifiers having a commonly accepted meaning |
US8232979B2 (en) * | 2005-05-25 | 2012-07-31 | The Invention Science Fund I, Llc | Performing an action with respect to hand-formed expression |
US7817816B2 (en) * | 2005-08-17 | 2010-10-19 | Microsoft Corporation | Embedded interaction code enabled surface type identification |
US7543758B2 (en) * | 2005-12-20 | 2009-06-09 | Xerox Corporation | Document localization of pointing actions using disambiguated visual regions |
RU2457532C2 (ru) * | 2006-03-10 | 2012-07-27 | Кенджи Йошида | Система обработки ввода для устройства обработки информации |
US7950046B2 (en) | 2007-03-30 | 2011-05-24 | Uranus International Limited | Method, apparatus, system, medium, and signals for intercepting a multiple-party communication |
US8060887B2 (en) | 2007-03-30 | 2011-11-15 | Uranus International Limited | Method, apparatus, system, and medium for supporting multiple-party communications |
US8702505B2 (en) | 2007-03-30 | 2014-04-22 | Uranus International Limited | Method, apparatus, system, medium, and signals for supporting game piece movement in a multiple-party communication |
US7765261B2 (en) | 2007-03-30 | 2010-07-27 | Uranus International Limited | Method, apparatus, system, medium and signals for supporting a multiple-party communication on a plurality of computer servers |
US8627211B2 (en) | 2007-03-30 | 2014-01-07 | Uranus International Limited | Method, apparatus, system, medium, and signals for supporting pointer display in a multiple-party communication |
US7765266B2 (en) | 2007-03-30 | 2010-07-27 | Uranus International Limited | Method, apparatus, system, medium, and signals for publishing content created during a communication |
US7909424B2 (en) * | 2007-07-31 | 2011-03-22 | Hewlett-Packard Development Company, L.P. | Method and system for dispensing liquid |
JP5557419B2 (ja) * | 2007-10-17 | 2014-07-23 | スパンション エルエルシー | 半導体装置 |
US7991153B1 (en) | 2008-08-26 | 2011-08-02 | Nanoglyph, LLC | Glyph encryption system and related methods |
JP5608847B2 (ja) * | 2009-03-13 | 2014-10-15 | 健治 吉田 | 情報読取出力装置および情報読取出力システム |
JP5469428B2 (ja) * | 2009-10-21 | 2014-04-16 | 株式会社ゼンリン | 情報出力装置、携帯端末装置、情報出力方法、およびコンピュータプログラム |
US9965140B2 (en) | 2011-12-26 | 2018-05-08 | TrackThings LLC | Method and apparatus of a marking objects in images displayed on a portable unit |
US9026896B2 (en) | 2011-12-26 | 2015-05-05 | TrackThings LLC | Method and apparatus of physically moving a portable unit to view composite webpages of different websites |
US8836698B2 (en) | 2011-12-26 | 2014-09-16 | TrackThings LLC | Method and apparatus for identifying a 3-D object from a 2-D display of a portable unit |
US8532919B2 (en) * | 2011-12-26 | 2013-09-10 | TrackThings LLC | Method and apparatus of physically moving a portable unit to view an image of a stationary map |
CN107408214B (zh) * | 2015-01-30 | 2021-07-09 | 惠普发展公司,有限责任合伙企业 | M进制循环编码 |
US11349816B2 (en) * | 2016-12-02 | 2022-05-31 | F5, Inc. | Obfuscating source code sent, from a server computer, to a browser on a client computer |
CN109448453B (zh) * | 2018-10-23 | 2021-10-12 | 昆明微想智森科技股份有限公司 | 基于图像识别追踪技术的点读问答方法与系统 |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS56168281A (en) * | 1980-05-29 | 1981-12-24 | Sony Corp | Control method for electronic apparatus |
JPS61262832A (ja) * | 1985-05-16 | 1986-11-20 | Canon Inc | 座標入力装置 |
JPS61296421A (ja) * | 1985-06-25 | 1986-12-27 | Canon Inc | 座標入力装置 |
AU7579887A (en) * | 1986-07-21 | 1988-01-28 | Matsushita Electric Industrial Co., Ltd. | Programming member for program timer recording |
US4841132A (en) * | 1986-07-21 | 1989-06-20 | Matsushita Electric Industrial Co., Ltd. | Program recording scheduling apparatus using an optical reader |
JPS63118633U (ja) * | 1987-01-21 | 1988-08-01 | ||
US5051736A (en) * | 1989-06-28 | 1991-09-24 | International Business Machines Corporation | Optical stylus and passive digitizing tablet data input system |
US5337361C1 (en) | 1990-01-05 | 2001-05-15 | Symbol Technologies Inc | Record with encoded data |
JPH0440562A (ja) * | 1990-06-06 | 1992-02-10 | Nec Corp | データベース及びデータ合成システム |
CA2044404C (en) * | 1990-07-31 | 1998-06-23 | Dan S. Bloomberg | Self-clocking glyph shape codes |
US5315098A (en) | 1990-12-27 | 1994-05-24 | Xerox Corporation | Methods and means for embedding machine readable digital data in halftone images |
JPH0750430B2 (ja) * | 1991-03-29 | 1995-05-31 | 株式会社東芝 | 機能導出装置および機能導出方法 |
US5388203A (en) | 1991-03-29 | 1995-02-07 | Kabushiki Kaisha Toshiba | Function extraction method and apparatus |
US5777315A (en) * | 1991-09-17 | 1998-07-07 | Metrologic Instruments, Inc. | Method and apparatus for programming system function parameters in programmable code symbol readers |
US5420943A (en) * | 1992-04-13 | 1995-05-30 | Mak; Stephen M. | Universal computer input device |
FR2705480B1 (fr) * | 1993-05-21 | 1995-08-11 | Cherloc | Document portant une image ou un texte et pourvu d'une trame d'indexation, et système d'analyse documentaire associé. |
US5416312A (en) | 1992-11-20 | 1995-05-16 | Cherloc | Document bearing an image or a text and provided with an indexing frame, and associated document analysis system |
JP3262297B2 (ja) * | 1993-04-27 | 2002-03-04 | 株式会社ワコム | 光学式座標入力装置 |
JP3277052B2 (ja) * | 1993-11-19 | 2002-04-22 | シャープ株式会社 | 座標入力装置、および座標入力方法 |
JP4053100B2 (ja) * | 1995-09-21 | 2008-02-27 | 株式会社リコー | 文書情報管理システムおよび文書情報管理方法 |
JP3604483B2 (ja) * | 1995-12-02 | 2004-12-22 | 株式会社リコー | 文書情報管理システムおよび文書情報管理方法 |
US5761686A (en) * | 1996-06-27 | 1998-06-02 | Xerox Corporation | Embedding encoded information in an iconic version of a text image |
US5962839A (en) * | 1996-09-17 | 1999-10-05 | Interlego Ag | Apparatus programmable to perform a user defined sequence of actions |
US5937110A (en) | 1996-12-20 | 1999-08-10 | Xerox Corporation | Parallel propagating embedded binary sequences for characterizing objects in N-dimensional address space |
US5862271A (en) * | 1996-12-20 | 1999-01-19 | Xerox Corporation | Parallel propagating embedded binary sequences for characterizing and parameterizing two dimensional image domain code patterns in N-dimensional address space |
IL120186A (en) | 1997-02-09 | 2000-06-01 | Raviv Roni | Display pointing device and method |
-
1998
- 1998-12-31 US US09/223,882 patent/US6594406B1/en not_active Expired - Lifetime
-
1999
- 1999-12-24 EP EP99310580.8A patent/EP1016953B1/en not_active Expired - Lifetime
- 1999-12-28 JP JP37575299A patent/JP4611479B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP1016953A2 (en) | 2000-07-05 |
JP2000227833A (ja) | 2000-08-15 |
US6594406B1 (en) | 2003-07-15 |
EP1016953B1 (en) | 2019-07-24 |
EP1016953A3 (en) | 2001-09-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4611479B2 (ja) | コンテクスト識別を使用する多レベル選択装置 | |
JP4353591B2 (ja) | グリフアドレスカーペット方法及び多次元アドレス空間の位置情報を提供する装置 | |
CN1499440B (zh) | 用于产生图像以用于识别对象相对于该图像的位置的方法 | |
US6208771B1 (en) | Methods and apparatus for robust decoding of glyph address carpets | |
CN1744104B (zh) | 用于确定所捕捉的数组的位置的方法和设备 | |
US6935562B2 (en) | Operations on images having glyph carpets | |
JP3953501B1 (ja) | プログラム、情報記憶媒体、2次元コード生成システム、画像生成システム及び2次元コード | |
RU2360303C2 (ru) | Анализ изображения позиционно кодированного документа и нанесение метки | |
US6678425B1 (en) | Method and apparatus for decoding angular orientation of lattice codes | |
CN100472554C (zh) | 照相机-笔尖映射和校准方法和系统 | |
CN100489897C (zh) | 有效的嵌入式交互编码 | |
US6880755B2 (en) | Method and apparatus for display of spatially registered information using embedded data | |
JP2000099257A5 (ja) | ||
US7542976B2 (en) | Local metadata embedding and decoding | |
JP2005235178A (ja) | 高速画像マッチングによるグローバルローカライゼーション | |
CN105556942B (zh) | 数字水印 | |
JP2006127081A (ja) | 情報表示装置、位置指示装置および位置検出システム | |
JP4008235B2 (ja) | オクルージョングリフ符号タイリングを実行するための方法及び装置 | |
JP2002223353A (ja) | オクルージョングリフ符号化タイルを用いたユーザインターフェースを実現するための方法及び装置 | |
JP2009237743A (ja) | 画像処理システムおよびプログラム | |
EP1557793A2 (en) | Method and apparatus for registering, displaying and decoding of information for spatial registration | |
JP2011171786A (ja) | 画像処理装置及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061225 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20061225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090827 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100414 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20100423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100921 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101014 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131022 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |