JP4149574B2 - ユーザインターフェースサポートデバイス、及び情報入力方法 - Google Patents
ユーザインターフェースサポートデバイス、及び情報入力方法 Download PDFInfo
- Publication number
- JP4149574B2 JP4149574B2 JP23381098A JP23381098A JP4149574B2 JP 4149574 B2 JP4149574 B2 JP 4149574B2 JP 23381098 A JP23381098 A JP 23381098A JP 23381098 A JP23381098 A JP 23381098A JP 4149574 B2 JP4149574 B2 JP 4149574B2
- Authority
- JP
- Japan
- Prior art keywords
- deformable
- user
- display
- morpheme
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1615—Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1615—Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function
- G06F1/1616—Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function with folding flat displays, e.g. laptop computers or notebooks having a clamshell configuration, with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
- G06F1/1641—Details related to the display arrangement, including those related to the mounting of the display in the housing the display being formed by a plurality of foldable display components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
- G06F1/1647—Details related to the display arrangement, including those related to the mounting of the display in the housing including at least an additional display
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
- G06F1/1652—Details related to the display arrangement, including those related to the mounting of the display in the housing the display being flexible, e.g. mimicking a sheet of paper, or rollable
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1656—Details related to functional adaptations of the enclosure, e.g. to provide protection against EMI, shock, water, or to host detachable peripherals like a mouse or removable expansions units like PCMCIA cards, or to provide access to internal components for maintenance or to removable storage supports like CDs or DVDs, or to mechanically mount accessories
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
- G06F2200/16—Indexing scheme relating to G06F1/16 - G06F1/18
- G06F2200/161—Indexing scheme relating to constructional details of the monitor
- G06F2200/1614—Image rotation following screen orientation, e.g. switching from landscape to portrait mode
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
- G06F2200/16—Indexing scheme relating to G06F1/16 - G06F1/18
- G06F2200/163—Indexing scheme relating to constructional details of the computer
- G06F2200/1637—Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- User Interface Of Digital Computer (AREA)
- Input From Keyboards Or The Like (AREA)
Description
【発明の属する技術分野】
本発明は、広くは手により、又は接触により操作されるユーザインターフェースをサポートする方法に関し、より詳細には物理的操作に基づくユーザインターフェースを解釈するための方法に関する。
【0002】
【従来の技術】
小さいポータブル(携帯用)コンピュータに複雑なコマンドを確実に、速く、且つ直観的に伝送することは難しいであろう。小型コンピュータデバイスは一般に、音声又は手書き(ペンベースの)によるコマンドに確実に応答する十分なコンピュータ処理能力を有しない。キーボードはしばしば存在しないか、正確な指入力のためにはあまりに小さく、更に従来のボタンはあまりに大きいか、あまりに限られたコマンド命令セットのみをサポートする。大きな外部モジュール(例えば、フルサイズの赤外線によりリンクされたキーボード、線でつながれたデータグローブ又はカメラベースのジェスチャー認識装置等)に依存するユーザーインターフェース手法は高価であり、多くの場合選ばれたサイト以外では容易には利用できず、また消費者レベルのポータブルコンピューティングデバイスと併せての使用の普及にはあまりに不適切であろう。
【0003】
ポータブルコンピュータ用のユーザーインターフェースの設計者は、これらの問題の幾つかを、手動で又は自動的にデバイスにおける様々なモードの起動を可能にする様々な空間的、位置的、又は環境的なキュー(合図)に頼るデバイスを作ることで補おうとしている。例えば、幾つかのラップトップコンピュータは、ユーザから一切追加的な信号入力(例えば、キーボード上の「開始」ボタンの押下又はタイプ入力「l_o_g_o_n」等)を必要とすることなく、蓋の開閉の動作をコンピュータの自動立ち上げ/電源切断を開始するために使用する。或いは、位置、方向又は余剰空間位置に従って自動的に制御モードを切替える小型ポータブルコンピュータの使用が研究されている。ポータブルコンピュータを傾けること等のユーザによる故意の動作を介したポータブルコンピュータのボタンレスの(ボタンを使用しない)手動制御についても検討されている。
【0004】
【発明が解決しようとする課題】
小型ポータブルコンピュータとのインターフェースのためのこれら全ての解決策は一般的に、有効範囲および機能性において制限されている。必要とされるのは、効果的であり、ほとんどトレーニングを受けていない一般ユーザにより直観的に操作されることが可能であり、尚且つそのユーザにより変更又は拡張が容易に成される、非常に小さいポータブルコンピュータ(約1立方センチメートルの体積寸法を有する)にさえ適したユーザーインターフェースシステムである。本発明は、ユーザがコンピュータを捻じる、折り畳む、曲げる、圧搾(スクイズ)する、振る、傾ける、回転させる、持ち上げる又は他の物理的操作に応じる巧みなユーザインターフェースを提供することによりこれらの要求事項を満たす。
【0005】
本発明の巧みに操作可能なユーザインタフェースシステムにおける、最も基礎的なレベルの操作は「センシーム:senseme 」として知られている。センシームは、単一の分割できないタイプの物理的操作として定義される。センシームのカテゴリーの一部を示すリストは、圧搾、捻じり、引っ張り等の材料変形と、平行移動、回転、旋回等の局所空間変化と、温度、明るさ、又は振動に基づく環境的変化とを含む。例えば、小型ポータブルコンピュータは、ユーザにより変形可能な部品が折り畳まれた、捻じられた又は曲げられたことを検知する多数の埋設されたセンサを有する変形可能な部品をサポートすることが可能である。このコンピュータは、また、相対的な空間情報を検知する多くの加速度計と、絶対位置を決定するためのジャイロスコープ、無線又は赤外線による位置センサと、温度及び明るさの変化を其々検知する様々な熱又は光センサを含むことができる。これらのセンサシステムの内の1つ又は複数により検知される意図的な又は意図的でない変更は、効果的なユーザーインターフェース策のための基礎を提供することが可能である。
【0006】
理解されるように、各センシームカテゴリは多くの個々に区別可能な構成要素(部材)を含む。例えば、ユーザが人差し指と親指との間で変形可能な部品を圧搾することにより通常完了する構造的変形である「ピンチ:摘まむ」として知られているセンシームのカテゴリを考える。ピンチは、各変更がコンピュータ制御コマンドにマッピングされることが可能なセンシームとして区別可能である、ピンチの速度(速いピンチか遅いピンチ)、大きさ/強さ(軽いピンチか強いピンチ)、変形可能な部品の摘ままれる部位(摘ままれた変形可能部品の上部、下部又は中央)、或いは摘まむために使用される体の部位(右手によるピンチ又は左手によるピンチ)を変化させることによっても、変更されることが可能である。
【0007】
多種多様な容易に区別可能なセンシームのみでもコンピュータに有効なユーザインターフェースを提供するであろうが、本発明は「形態素」入力に基づいてコンピュータ制御をサポートすることにより、センシームベースのユーザインターフェースのフレキシビリティを更に拡張する。形態素は、1つ又は複数のセンシームの一時的に同期の(又は、部分的に一致する非同期の)タプル(組/集合)である。形態素が複数のセンシームを含むことができる(そして、しばしば含むであろう)点に注意すべきである。形態素に結合されたセンシームは、同じカテゴリ(ユーザが左手の指で軽く叩くと同時に右手で摘まむ)、及び異なるカテゴリ(ポータブルコンピュータを前に傾けることによってその空間位置を変更すると同時に、ユーザは変形可能な部品を右手で摘まむ)のいずれかから派生することが可能である。
【0008】
いかなる形態素も、「センテンス(文)」への関与により拡張されることが可能である。センテンスは、一連の一時的に分離される1つ又は複数の形態素として定義される。センテンスのレベルは、形態素シーケンスの適切な選択による物理的な操作文法による定義、及び例えば能動的な(動詞のような)形態素、命名(名詞)形態素又は接続詞の使用を支配する付随規則の定義を可能にする。センテンスで使用される他の可能な文法構成概念は、「ホーム」システムに基づくものを含むであろう。ホームシステムは、汎用のジェスチャー言語であり、その文法及び構文がどんな形であれホスト言語から借用されない。これらの言語の例は、American Sign Language(ASL:米国手話)に触れることのなかった健聴者を親に持つ耳の聞こえない子供達により開発されたジェスチャーによる言語及び通商語として使用された北米インディアン/先住民の「平原インディアン言語(plains talk)」である。
【0009】
従って、本発明は操作されることが可能な変形可能部品、及び任意ではあるが様々な位置センサ(相対及び絶対の両方)、圧力センサ、熱センサ又は光センサにさえも接続されるコンピュータに情報を入力するための方法を提供する。この方法は、コンピュータに第一の形態素入力を行なうために変形可能な部品を操作するステップを含み、この第一の形態素入力は通常、コンピュータによる最初のデフォルト動作を起動する。また、変形可能な部品はコンピュータに第二の形態素入力を行なうために操作されることが可能であり、この第二の形態素入力は、通常起動された第一のデフォルト動作を第二の動作に変換する。第一及び第二の形態素(及び後に続く如何なる形態素)は連携して、電子制御のドアの錠を開けること、コンピュータディスプレイ上に図形画像を表示すること、或いはコンピュータネットワークへのログオンを開始することであれ、コンピュータ制御された動作を実行するためのコマンドとして解釈されうるセンテンスを形成する。好都合なことに、このようなユーザインタフェースシステムは、小型コンピュータデバイスとの対話に適しており、また圧搾又は摘まむ能力は普遍的な人間の特性であるため、限定される範囲においては異文化間でさえ通用しうる。
【0010】
本発明は、手のひらに保持することが可能なポータブルコンピュータに特に有効である。もしポータブルコンピュータが、埋設された又は接触型の圧力/変形センサを有する変形可能な材料により一部又は全体を囲まれている場合、ユーザは或る所望の結果を得るためにコンピュータ全体で或るジェスチャーをすること、又はコンピュータ全体を操作することが可能である。材料変形は、様々な規模で実行が可能である。例えば、コンピュータ及びフレキシブルチューブの内側に取り付けられコンピュータに接続された変形センサは、チューブを直角に曲げること、又はチューブを複雑に結ぶことや、輪にすることにさえも反答することが可能である。しかし実際には、押圧する、摘まむ又は折り曲げるタイプの操作に対して触知可能なフィードバックをもたらすのに十分であるような、些細な表面変形のみが必要とされる。しかし、いずれの場合にせよ、表面に加えられる圧力及びその位置の測定は、対話のモードを特徴づける(ピンチを突きと区別する)のに十分である。
【0011】
【課題を解決するための手段】
本発明に従う物理的な操作文法に反答する手で持てるポータブルコンピュータの望ましい特定の実施の一形態は、コンピュータと、ユーザに視覚的、聴覚的又は触覚的なフィードバックを提供するフィードバックモジュール(例えば、プロセッサが連結されたLCD(液晶表示装置)ディスプレイ、オーディオスピーカ、又は点字或いは他の従来のタッチインターフェースを提供するための触覚的ディスプレイ)と、部分的に又は全体的にフィードバックモジュールを囲んでいる、共に取り付けられた掴むことが可能で、且つ変形可能な部品とを含む。更に、デバイスを保持する手は一般的にそのユーザにとっての利き手でない手であることから、様々な熱又は圧力センサがユーザの利き手を検知するために取り付けられる。ユーザの利き手(これは形態素とみなされることができる)に応じて、表示されるデータ構成が変更される。例えば、LCDディスプレイスクリーンに表示されるテキストは、それにより左利きのユーザを補助するように、ペンベースの注釈(コメント)がスクリーンの左側にくることを可能にするように、スクリーン上で自動的に右方向へシフトされうる。
【0012】
物理的に操作可能なユーザインターフェースは、更に、複数のデバイスがユーザフレンドリーな(誰でも使い易い)方法で対話する機会を提供する。例えば、ディスプレイを囲んでいる接触に感応する変形可能な部品を有する多数のディスプレイを持つタイリング(tileable: タイル状に並べること)可能なディスプレイシステムは、各ディスプレイの接点の相対位置に基づき文書を編成するために使用されることが可能である。例えば、異なるデータ構造(例えば、2つの異なる電子ブックからの2つの異なるページ)を初めに示している2つのディスプレイが接触して並べられると、表示された視覚情報は変化しうる(例えば、単一の電子ブックの隣接ページを表示することにより)。理解されるように、物理的に操作可能な制御要素に接続された複数のコンピュータを、データ構造を編成するための複雑なコマンドを作るためにも使用することが可能である。
【0013】
【発明の実施の形態】
図1は、形態素によるユーザーインターフェース文法をサポートするのに適した本発明の実施の一形態を表す。文法をサポートすることは、ユーザによるデバイスの物理的操作の検知、デバイスの相対的又は絶対的空間位置の検知、デバイスに働く様々な環境的要素の検知、更に複数のデバイス又は外部コンピュータネットワークによる検知及びそれらとの対話さえも要求しうる。図示されるように、デバイス10は変形可能表面20の複数の小領域をまたがって又はそれらの領域内での表面変形を検知するために、変形センサメッシュ22を下に持つ変形表面20を有する。変形センサメッシュ22は、連結されたメモリシステム26を有する内部に保有されるプロセッサ24に接続される。様々な位置的に又は環境的に変化するもの(変数)を検知するために、感知システム28も備えられる。図示されるデバイスは更に、外部から見ることが可能な状況ディスプレイ30又は非視覚的フィードバックモジュール31(通常聴覚的又は触覚的フィードバックを伝える)を含むであろうフィードバックモジュール33を含む。図示されるデバイスには、他の電子又はコンピューティングデバイスとの情報の受発信のための通信システム32も備えられる。これら全ての構成要素は電源25により電力を供給されることが可能であり、電源は通常内部に取り付けられた従来構造の充電式バッテリーである。
【0014】
デバイス10はほぼ回転楕円面状且つ単一の集合体として図示されるが、様々な他の形状も本発明の範囲内であると考えられる。例えば、総合的な形状は、様々な直角プリズムに類似することが可能であるか、或いは楕円形、環状、平面であること、又はユーザが定義した広範囲に亘る不規則な形状をサポートするのに十分な可鍛性があることさえ可能である。更に、多数の形状要素の連動(例えば、ボールとソケット、錠と鍵、或いはスライド可能な又は回転可能な連動する部品の使用)を可能にする従来設計を使用することにより、多数の協力し合う形状要素が考えられる。
【0015】
デバイス10の形状が何であれ、本発明の実施のためにはデバイス10は全体を又は一部を変形可能表面20により覆われる。本発明は、必要とされる可塑性、耐久性、耐用寿命及び当然価格制約に従って、変形可能表面20の多種多様な設計及び材質の使用をサポートする。例えば、変形可能表面20のために考えられる設計は以下のものを含むが、これらに限定はされない。
1.数ミリメータ乃至数センチメートルの壁の厚みを有する独立セル又は連続セルから成る高分子発泡材料であって、より薄い壁で囲まれた実施の形態は内側の硬いシェル(高分子材料又は金属材料から作られる)により支えられており(例えば、接着連結による)、より厚い壁で囲まれた実施の形態はプロセッサ24等の内部構成要素を直接支える(例えば、ブラケット(腕木/取付金具)又は支持具による)。適切な発泡は、ポリクロロプレン(ネオプレン)、ポリスチレン、ゴム又はニトリルゴム・ラテックス発泡、ポリシロキサン、スチレンブタジエン、又はスチレンイソプレン、或いは適切な弾性及び変形可能性を有する他の一般材料を含むブロックポリマー等の広く利用可能な合成ゴムから全体又は一部が構成される物を含むであろう。
2.内側の硬いシェル(高分子材料又は金属材料から作られている硬いシェル)の周りを緩く包む薄い単層のポリマー表面。例えば、ナイロン又は綿の織物、単層ポリエチレン、合成ゴム(ほとんど又は全く発泡セルを有しない)、或いはポリスチレンのケースの周りを包む皮革等の自然高分子材料が使用されることが可能である。
3.発泡内層により支えられる耐久性のある高分子の外層を有する複合層状表面。
4.極端な変形をサポートするために使用されることが可能な粘性又は揺変性材料の中間流体又はゲル層を有する高分子二重層さえも含む。中間層は比較的厚い(約数センチメータ)ことが可能であり、又は特定の実施の形態においてはミクロン乃至ミリメータ尺度で測定される薄さを持つことが可能である。そのような極端に薄い層は複雑な捻じる、折り畳む、巻きつける、又は皺くちゃにする動作を可能にし、またそのような層に関してはその開示が参考文献としてここに明確に組み入れられるゼロックス社(Xerox Corp.)に譲渡された米国特許第5,389,945 号と併せて説明される。
【0016】
変形センサメッシュ22は、変形可能表面20内に埋設されるか、又は変形可能表面20と接触するように配置されることが可能である。変形センサメッシュ22は個々の圧縮又は張力歪みセンサのアレイ(配列)、或いはそれに代って埋設された又は取り付けられた位置センサを含むことが可能である。いくつかの用途のためには、連続的なセンサ(例えば、キャパシタンス(静電容量)センサの二重層シート)が採用されうる。或る特に有効な連続的センサのタイプは、加えられる変形圧力に対応して位置を局所化可能なアナログ信号に帰結するような変形圧力と共に複数のキャパシタンス又は抵抗ストリップを使用する。単純なキャパシタンスセンサ、抵抗の歪みセンサ、アナログ又はデジタル圧力スイッチ、誘導性センサ、或いは流量センサさえも含む様々なセンサタイプが使用可能である。使用されるセンサタイプに従って、センサデータは直接プロセッサ24にデジタル形式で取り込まれるか、或いは通常4又は8ビット範囲(様々な用途により、少ない場合では1ビット、多い場合では32ビットが必要とされうるが、)を提供する汎用アナログ/デジタル変換器によりデジタルフォーマットに変換されることが可能である。アナログからデジタルへの変換器は、プロセッサ24の内部にあってもよいし、外部モジュールとしても提供されうる。理解されるように、センサメッシュ22は複数のセンサ及びセンサタイプの組み合わせを含むように意図され、それは変形可能表面20の全体又は一部に亘って使用されることが可能である。
【0017】
また、位置又は環境センサシステム28は、デバイス10によってサポートされうる。ジャイロセンサ、加速度計、或いは音響又は赤外線測距手法により決定される絶対又は相対位置情報を含む、様々なセンサモードがサポートされうる。従来の光、画像、熱、電磁、振動、又は音響センサを含む環境センサもまた提供される。望ましい用途に従って、示差GPS(地球投影位置決定システム)位置決定、画像分析又は認識、音響又は音声識別、或いは作動熱センサ等を組み入れた高価な環境又は位置センサさえも形態素入力として使用されることが可能である。センサメッシュ22により検知される形態素入力と共に用いられるこれらの形態素入力は、ユーザによるデバイス10の制御の精度およびフレキシビリティを高めることができる。
【0018】
図示されるように、センサシステム28及びセンサメッシュ22の双方は、プロセッサ24及び連結されたメモリ26に接続される。プロセッサ24及びメモリ26は通常、変形可能表面20に直接取り付けられるか、又は変形可能表面20内に位置される硬いケースに取り付けられるかにより変形可能表面20内に取り付けられる。図示される実施の形態では、従来のCISC又はRISCプロセッサが使用できるが、シグネティックス(Signetics )社の87c752又は87c751、モトローラ社の68HC11又は68582、或いはARM社の710等の低消費電力プロセッサと共に使用されることが好ましい。都合が好いならば、アナログデジタル変換器又はデジタル信号プロセッサのようなコプロセッサが単独で、或いはメインプロセッサと共に使われることが可能である。特定の用途のためには、より高価な組込み式DRAMも使用されうるが、本発明では従来のフラッシュ、スタティック又はダイナミックRAM(ランダムアクセスメモリ)が使用可能である。ある種の記憶装置強化型の用途では、メモリ26が、デバイス10内に配置されるか、又は外部接続を介して利用可能な追加のハードディスク記憶装置を含むことが可能である。理解されるように、多くの用途では、選択的な外部通信の使用が少なくとも部分的に内部プロセッサ及びメモリの使用に取って代わる(必要とされるセンサ又は通信バッファリング(緩衝記憶)及び信号送信をサポートするために必要なものを除く)ことが可能である。
【0019】
本発明は、任意ではあるが、内部通信システム32及び連結された送受信機34を使用することにより、外部コンピューターシステム40との通信をサポートする。また、外部コンピューターシステム40は、送受信機42とパーソナルコンピュータ又はワークステーション44を含み、ローカルエリアネットワーク又は広域ネットワークコンピュータシステム46に接続される。送受信機34及び42は、シリアル回線36の使用(例えば、RS−232Cインターフェースプロトコルを使用)、広く利用されるIRDA(赤外線データ結合)通信規格に基づく赤外線信号38の使用、又は無線周波信号37(例えば、携帯電話、900MHz無線、又はデジタルPCS電話通信でありうる)の使用を含む様々な通信プロトコル及び設計をサポートすることが可能である。代替の通信規格、又は光又は音響の技術に基づくような更なる代替通信伝達手段も、当然採用されることが可能である。
【0020】
理解されるように、外部コンピューターシステム40との直接通信に加えて、デバイス10はタブレットコンピュータ110、又はデザイン面及び機能面でデバイス10に類似の物理的に操作可能なポータブルコンピュータ11さえも含む多くの適切に装備された電子デバイスとの連続的又は断続的な通信状態を、直接又は間接的に維持されることが可能である。通信は目標デバイスへ直接、或いはコンピュータシステム40等の仲介リトランスミッタを介してやりとりされることができる。他の可能な通信ターゲットは自動制御システム、セキュリティ許可装置、パーソナルデジタルアシスタント、ノート型パソコン、或いは他の如何なる適切に装備された電子システムも含む。
【0021】
外部デバイスとの通信の結果、デバイスに格納された情報の表示又はデバイス状況の更新は全て、フィードバックモジュール33の更新を制御するプロセッサ24によりユーザに提供されることが可能である。ユーザへのフィードバックは、視覚ディスプレイ30と連携して発生しうるような、主として視覚的なものでありうる。様々な電気光学又は精密機械技術に基づく、より洗練された(且つ高価な)ディスプレイの使用も当然可能ではあるが、一般的にディスプレイ30は従来の受動的又は能動的なマトリックスの液晶ディスプレイでありうる。更に、特定のデバイスにとっては、少数の状況ライト(例えば、赤か緑のLED)により形成されうるような非画像形成ディスプレイ、又は局所化された又は分散された色彩の変化(適切なエレクトロクロミック(electrochromic)材料で作られた変形可能な表面22との連携による)のみが、ユーザへの視覚的フィードバックとして必要でありうる。
【0022】
本発明の幾つかの実施の形態において、ディスプレイ30を介しての視覚出力は非視覚ディスプレイ31により増やされる(又は交換されさえする)ことが可能である。非視覚ディスプレイ31は内部アクチュエータに基づく触覚ディスプレイ、聴覚フィードバック、又はデバイスの外観に一致する変化に基づくディスプレイさえも含むことが可能である。例えば、或る考えられるフィードバックディスプレイは、ユーザフィードバックを提供するために内部聴覚スピーカ(利用可能なプロセッサの速度及び機能に応じて、単純な「ビープ音」から適切に形成されたスピーチに亘る範囲の音を発する)に基づく。理解されるように、非視覚ディスプレイ31及びそれに連結されるアクチュエータ又はエレクトロニクスは、例えば内部アクチュエータを介してのユーザへの力フィードバック、触覚ベースのフィードバック(例えば、手話又は他の従来の触覚ユーザインターフェースの表現のための多数の表面突起物)、デバイスの表面組織における変化、又はユーザに情報を提供するための他の如何なる従来の方法も含む代替のフィードバックモードをサポートすることが可能である。
【0023】
本発明の作用のよりよい理解のために、デバイス10の物理的操作の幾つかの選択されたモードが、図1に概略的に示される。図1に示されるように、デバイス10は、直交する力の矢印50、51及び52で示されるように3次元空間を並行移動することが可能である。並行移動に加えて、デバイス10は矢印53、54及び55により表されるような3次元空間の何れか又は全ての方向に回転移動されうる。センサシステム28の使用(単体で、又は通信システム32と連携して)により、3次元における相対又は絶対位置及び方向が決定されることが可能である。
【0024】
センサ28の使用による空間位置及び方向の決定に加えて、デバイス10は、力ベクトル及び関連する時間情報が決定及び解釈されることにより、一時的に又は連続的に加えられる力を測定するため、及び位置を限定するためにセンサメッシュ22を任意ではあるが使用することが可能である。幾つかの可能な力作用(変形モード)は図1に概略的に示され、矢印60及び61は表面20の凹み(その組み合わせで圧搾を表す)を示し、矢印62及び63は滑らせる又は擦ることによる変形(その組み合わせで捻じれを表す)を示し、そして滑らせる矢印65及び66と外側への引張り67とは共に摘まむ動作及び外側へ引張る動作を示す。加えられる力の強さが測定されることが可能であり(例えば、強い又は軽い圧搾は区別される)、その空間的な広がりが判断されることが可能であり(例えば、指先又は親指の腹による突きは区別される)、そしてタイミングが決定されうる(例えば、表面の速い押下又は遅い押下は区別される)。こうしてもたらされる変形は恒久的なもの又は一時的なものでありうる。
【0025】
当業者には理解されるように、矢印により表される前述の力作用の其々はセンシームと考えられる。幾つかの一時的に区別可能なセンシーム(又は前述の摘まむ/引張る動作の組み合わせ等のセンシームの組み合わせ)は更に、本発明に一致する形態素文法の基礎として使用される形態素を表す。以下に説明される全ての形態素は、加えられる圧力、利用される力、使用される付属肢、体の部位或いは力を加えるために使用される外来の仲介オブジェクトにおける様々な変化により変更されることが可能である。更に、様々なオブジェクトの操作時間(速い、遅い、又は速い動作と遅い動作の交互であれ)は形態素の解釈を変更可能にする。例えば、もし「圧搾」が典型的な形態素として利用される場合には、速い圧搾、遅い圧搾、強い圧搾、軽い圧搾、浅い圧搾、深い圧搾、両手による圧搾、片手とユーザの胸又は頭の間での圧搾、片手と机又は壁の間での圧搾、2本のペン又は2冊の本の間で成される圧搾、或いは更にユーザの舌と口内の上壁の間での圧搾等の様々な圧搾実施方法が認識されうる。本発明の目的のためには、「家猫」が広くライオン、トラ、及びボブキャットを含む「ネコ科」の特定のメンバーと考えられるのと同じように、個々の変化は可能な変更要素又は選択されたケースとして動作し、全ての圧搾形態素が「圧搾」クラスのメンバーと考えられる。
【0026】
考えられる物理的な操作形態素の多様性の理解を助けるために、図2は形態素の利用を可能にするために必要とされるデバイスの可塑性の増加する順、及び特定のクラスのデバイスに適用される形態素を形成するため又は解釈するために必要とされる利用可能なセンシームタプルの複雑さの増加する順に位置付けられた選択された形態素を表す。可能な物理的操作の定義及び図1に関連して説明されたデバイスに類似した(但し当然、より複雑でありうる)デバイスのその操作により呼び出される典型的な機能が、形態素を形成するために最も可塑性の低いデバイス及び最も単純なセンシームセットから示される。
【0027】
凹ませる
定義:圧力を加えることにより、デバイスの1つ又は複数の小領域を凹ませること。
例:図3に見られるように、ディスプレイ123を有するデバイス122を考える。デバイス122は、ユーザが幾何学形状又はユーザ定義された図形オブジェクトを配置することを可能にする図形イラストレーションソフトウェアアプリケーションをサポートする。デバイスは、各辺に1つずつ計4つのパッド124をその周囲に有することが可能である。特定の辺を変形することにより、ユーザは現在選択されている幾何学形状125をその位置から新しい位置126へ「そっと動かす(nudge)」という要求を表す。
【0028】
圧搾(スクイズ)する
定義:幾つかの成分が互いに近づくように方向づけられ、その力がデバイスの形態構造を圧縮する力のベクトルを加えることにより、デバイスの1つ又は複数の小領域を変形すること。
例:図4に示されるように、1つ又は複数の文書をアイコン表示(閉じた状態)及びテキスト表示(開いた状態)モードの何れかの状態で表示することが可能なデバイス132を考える。開いている文書135を選択し、次にデバイス132の変形可能エッジ134を圧搾することにより、ユーザはこの場合はアイコン136としてアイコン化することを意味する、文書の「小型化」要求を表す。
【0029】
折り畳む
定義:部分的に又は完全に第二の小領域と重なるように第一の小領域を曲げることにより第二の小領域を変形すること。更なる変形がその新しい形態構造の他の小領域に適用されることが可能である。
例:図5に示されるように、文書を表示可能なデバイス142を考える。このデバイス142が、デバイス142の上部のエッジ上の変形可能な水平な「フラップ」が部分的にディスプレイ143を覆い隠すように折り畳まれることが可能なほど大きいと仮定する。ユーザがこの折り畳むジェスチャーをしたら、ユーザは現在表示されている文書をパスワード保護する(「隠す」)要求を表す。
【0030】
丸める
定義:互いに対してデバイスの複数の小領域を円筒形又は円形の形態構造になるように、渦巻き状に構成することにより、デバイスの1つ又は複数の小領域を変形すること。
例:図6に示されるように、様々な言語(英語、仏語等)で文書を表示可能なデバイス150を考える。ユーザがこのようなデバイス150を利用する際には、矢印157で示される方向に筒状に丸め、続いてそれを平らに戻すこの魔法をかけるようなジェスチャーが、現在開いている文書を他の言語で表示するようにデバイス150に指示する。
【0031】
引張る
定義:力のベクトルの幾つかの成分が互いから離れるように方向づけられ、デバイスの対向端部に加えられるような力のベクトルを適用することにより、デバイスの1つ又は複数の小領域を変形すること。
例:図7に示されるように、ユーザが幾何学形状を操作することを可能にする図形ソフトウェアアプリケーションを有するデバイス160を考える。デバイス160を引張ることにより、ユーザは現在表示されている形状165をより大きなサイズ166に「リサイズ(サイズ変更)」又は「リスケール(サイズ再調整)」する要求を表し、リサイズの程度は変形される量の関数である。圧搾は現在の表示サイズをより小さいサイズにリサイズすることを示すことが可能であることに留意すべきである。
【0032】
ピンチ(摘まむ)
定義:1つ又は複数の小領域の内の影響が及ぼされる小領域の両面に、互いに対して直接的に一直線に揃えられる力のベクトルを加えることにより小領域を操作すること。これは、必ずではないが、一般的には2本指による触覚力を用いて達成される。ピンチ動作は圧搾の特殊なケースである。
例:図8に示されるように、文書をコピー可能なデバイス170を考える。「ピンチする」動作175を実行することにより、ユーザは次のセットのコピーがステープルで綴じられた形式で排紙されることを希望することを表す。
【0033】
耳折り(DOGEAR:隅を折る)
定義:後に参照されるようにマーカ又は検索位置(例えば、ブックマーク)を示すために、第二の小領域の論理角又はエッジで第一の小領域を折り畳むことにより、第二の小領域を変形すること。
例:図9に示されるように、多数ページから成る文書から複数ページのサブセットを表示するデバイス180を考える。デバイス180の右上隅185を「耳折りする」ことにより、ユーザは現在表示されているページ(単数又は複数)に関してブックマークを希望することを表す。
【0034】
捻じる
定義:或る中心軸回りに非ゼロ差だけ互いからオフセットされた2つの反対方向に回転する力を加えることにより、デバイスの1つ又は複数の小領域を変形すること。
例:図10に示されるように、時間を経る内にそのパフォーマンス(性能)が或る点で劣化する(ディスクが断片化される、メモリが不要部分の整理(garbage-collection)を必要とする等)デバイス190を考える。「捻じる」ジェスチャー195を実行することで、ユーザはそのデバイスが例えば不要部分の整理を実行すること、「それ自体を絞り出す」ことを希望することを表す。
【0035】
レリーフマップ(立体模型)の作成(RELIEF−MAP)
定義:空間変形及び材料の追加/除去の何れかの方法でデバイスの1つ又は複数の小領域を高くする及び/又は低くすることにより、小領域を変形する。
例:図11に示されるように、1頁及び2頁の何れかのフォーマットで文書を表示可能なデバイス200を考える。そのデバイスが単一ページ206を表示している間に、デバイスの中心軸に関して垂直な凹みを形成することによりユーザがデバイスに「切れ目をつける」と、デバイス200はページ207及び208の2頁フォーマットによる文書の表示を要求する形態素を解釈する。
【0036】
切り裂く(RIP)
定義:デバイスからデバイスの1つ又は複数の小領域を部分的に又は完全に切り離すように力のベクトルを加えることによる空間的な不連続性の導入により、小領域を変形すること。
例:図12に示されるように、その情報の一部又は全部をコピーすることが可能なデバイス210を考える。ユーザが1つ又は複数の小領域を移動させる「切り裂く」ジェスチャー215を実行すると、デバイス210は現在選択されているデータセットを小領域216及び217上にコピーする。
【0037】
穿孔する(PERFORATE)
定義:デバイスに穴が導入される(一時的又は恒久に)ようなデバイスの1つ又は複数の小領域の空間連結に変化をもたらす方法により、小領域を変形すること。
例:図13に示されるように、メッセージをデバイスネットワークの様々な装置間をルーティングするために使用され、またメッセージの経路を表す線222によりユーザに対してこの機能性を表示するデバイス220を考える。ユーザが指又はオブジェクト224でこれらの経路222の内の1つに穴をもたらすようにデバイス220を穿孔すると、システムはその経路に沿ってのメッセージのルーティングを停止する。
【0038】
類似性
定義:或る予め定義された他のオブジェクトを表すように既に構成されているデバイスの1つ又は複数の小領域を変形する。通常、この方法で操作される場合、デバイスは現実のオブジェクトの動きと一致するように動作する。
例:図14に示されるように、テキストからのスピーチ(text-to-speech)及び音声入力能力を有し、解剖学的に正確な人間の頭部の形状でユーザに提示されるデバイス230を考える。ユーザがその人間の頭部の唇232を開くと、内部センサが唇の開口を検知し、テキストからのスピーチ能力を起動する。
【0039】
3次元マップ
定義:センサメッシュが外部オブジェクトのサイズ及び形状を同時に決定することを可能にするために外部オブジェクトの周りにモールド形成されることが可能なデバイスのモーフィングである。可能な外部オブジェクトの範囲は広いが、デバイスの固い内部ハウジングのサイズ及び外部ハウジングのモールド形成可能な材料の体積により制限される。このシステムにおいて、デバイスはモールド形成可能な材料の内部表面から外部エッジの材料の量を正確に検知する(例:水中のソナー(水中探知機)に似た超音波測深を介す)能力を有し、従ってモールド形成された外枠の形状のための精密な電子モデルを決定する。
例:図15に示されるように、外部オブジェクト(例えば、コグ(ネジ)242)の表面の周りにモールド形成可能な材料244が付着されたデバイスを押すことにより、デバイス240は自動的にそのオブジェクトのCADモデルを生成し、それをメモリに格納することができる。
【0040】
擬態
定義:結果として生じる形態構造が既知の現実のオブジェクトと似るようにデバイスの1つ又は複数の小領域を変形し、また小領域のこの関連によりデバイスがそれと似たオブジェクトと一致するように動作する。
例:図16に示されるように、テキストからのスピーチ及び音声入力能力を持つコンピュータを有し、モールド形成可能なパテ又は粘土の軟度及び可塑性を有する不恰好な小塊としてユーザに提示されるデバイス250を考える。ユーザがデバイス250の一部を耳に似るように形作ることにより「擬態」動作を実行すると、音声入力能力が作動する。
【0041】
物理的操作に基づく形態素に加えて、相対又は絶対空間位置決定の程度の変化に基づく様々な形態素が本発明の実施に役立つように考慮される。考えられる様々な空間形態素の理解を助けるために、図17は形態素の利用を可能にするために必要とされる空間位置の認識の増加する順、及び特定のクラスのデバイスに適用される形態素を形成するため又は解釈するために必要とされる利用可能なセンシームタプルの複雑さの増加する順に配置される選択された空間形態素を表す。可能な空間操作の定義及び図1に関連して説明されたのと同様のデバイス(但し当然、より複雑でありうる)の操作により呼び出される典型的な機能が、単純な空間センシームをサポートするための基本的な相対位置決め機能性のみを有するデバイスから始まり、地球上の如何なる場所でも数センチ範囲内に確実に位置決め可能なデバイスまで示される。
【0042】
平行移動(デバイスに関する)
定義:空間内の一位置から他の位置へのデバイスの質量の中心の直線移動である。
例:従来のグラフィカルユーザインターフェースにおいて、マウスにより制御された図の「スライダ」に代って使用される。物理的にリストの僅かな部分のみ表示可能である場合に、平行移動形態素に応じて表示ウィンドウを「スクロール」することにより、大きなリストも検索することが可能である。
【0043】
振り動かす
定義:純粋な平行移動が無視される程の、対向する方向への繰り返し運動によりデバイスの全ての小領域を空間的に平行移動すること。
例:図18に示されるように、計算装置として使用されるデバイス260を考える。ユーザが「振り動かす」ジェスチャーを実行すると、デバイス260はその累算器をクリアする。
【0044】
回転(REVOLVE)
定義:デバイスの内部の一点回りに、また如何なる任意の平面回りに小領域を回転することにより、デバイスの全ての小領域を回転すること。
例:図19に示されるように、一連のCAT(X線体軸断層写真)スキャンからの医療データ等の体積測定データの画像形成スライスを表示するデバイス270を考える。デバイス270の内部にあたる中心点272回りにデバイスを新たな位置274へ回転することにより、画像形成スライスを指定する平面がそれに応じて変更される。
【0045】
傾ける
定義:回転力の1つ又は複数の成分が重力方向であり、回転量が約−180度と+180度との間であるように小領域を回転することにより、デバイスの1つ又は複数の小領域を回転すること。
例:ユーザに面している面に一連のアニメーションからフレームを表示するデバイスを考える。ガスペダルの操作に類似して、デバイスが向こう側へ傾けられるとアニメーションの速度が増し、ユーザ側に傾けられるとアニメーション速度は遅くなる。
【0046】
軽く振る(FLICK)
定義:前方への傾け動作が、対向する戻りの傾け動作により直ちに追随されること。
例:図20に示されるように、他のデバイスにデータの或るサブセットを送信することが可能なデバイス280を考える。ユーザが素早く矢印282の方向へ傾け、次に矢印282に沿って反対方向に傾けることにより「軽く振る」ジェスチャーを実行すると、デバイス280は円弧ジェスチャーにより示されたデバイス(図示せず)に向けて送信を実行する。
【0047】
スピン
定義:回転面がデバイスの表面の1つの面であるように、デバイスの内部の一点回りにデバイスの1つ又は複数の小領域を回転することにより、小領域を回転すること。スピンは回転の特殊な例である。
例:図21に示されるように、ビデオシーケンスからビデオフレーム295を表示することが可能なデバイス290を考える。ユーザが反時計回り方向に「スピン」ジェスチャーを実行すると、デバイスはそのシーケンスの前のフレームを表示し、その動作が時計回り方向(矢印292)に実行されると、デバイス290はそのシーケンスの後のフレーム296(フィルムストリップ294により表される)を表示する。
【0048】
配向(オリエント:ORIENT)
定義:回転面がデバイスの表面の1つの面であるように、そして回転量が90度の倍数である(即ち、デバイスをコンパス主要方位点間で回転する)ように、デバイスの中心回りにデバイスの1つ又は複数の小領域を回転することにより小領域を回転すること。配向はスピンの特殊な例、即ち回転の特殊な例であると考えられうる。
例:図22に示されるように、文書を1頁、2頁、及び4頁のフォーマット(「1頁表示」、「2頁表示」又は「4頁表示」)の何れかで表示可能なデバイス300を考える。ユーザが時計回り方向(矢印302)への配向のジェスチャーを実行すると、デバイス300は表示する文書頁数を1頁305から2頁306及び307に増加する。更なる配向のジェスチャーは、表示頁数を増加させるであろう。反時計回り方向に実行されると、デバイス300は表示している頁数を減少させる。
【0049】
向ける
定義:第一のセットの小領域が最早一番底ではなく、第二の別なセットの小領域が第一の小領域の前の位置を引き継ぐようにデバイスの1つ又は複数の小領域を操作すること。
例:図23に示されるように、文書を表示し、ユーザがそれらの文書を編集可能なデバイス310を考える。更に、そのデバイスがユーザに6つの異なる面上に6つの異なる文書が表示される立方体の形状で提示される例を考える。ユーザが特定の面を一番上にすることにより「向ける」ジェスチャーを実行すると、この時点で一番上の面の文書がユーザにより編集可能になり、最早一番上の面でない文書は編集可能でなくなる。
【0050】
持上げる
定義:デバイスに作用している現在の重力に反する方向への、デバイスの質量の中心の移動である。
例:コンピュータのファイルシステムの1つ上の階層を表示するようにデバイスに命令する。
【0051】
左右に回転する(PAN)
定義:実質的に一定の高さでユーザの体の正面に平行して移動されるような、デバイスへの平行移動の適用である。
例:スプレッドシートの非常に小さな1つのセルのみが表示可能な小型ディスプレイを有するデバイス上でスプレッドシートを眺める。デバイスを左右に回転することにより、回転の速度又は量に従って現在の行の内容が順に表示されることが可能である。しかし、もし左右に回転中に現在の向きから外れるように回転されると、新しい1つの行が選択されうる。行の選択は、元の向きからの逸脱度に依存しうる。
【0052】
押す−引く(PUSH−PULL)
定義:デバイスの中心からユーザの体の垂直軸への投射線に沿って移動されるように空間的に平行移動することにより、デバイスの1つ又は複数の小領域を操作すること。
例:音声出力能力を有するデバイスを考える。デバイスが体から遠くへ「押される」と、その音声出力レベルが上がる。デバイスが体の方向へ「引かれる」と、そのレベルは下がる。
【0053】
強打する
定義:小領域が外部オブジェクトに接触するか又は外部オブジェクトにより接触されて同等且つ反対方向の力を引き起こすように、デバイスの1つ又は複数の小領域に対して加速的な又は非加速的な力を加えること。
例:図24に示されるように、長く且つ予測不可能なデータベース検索を実行することが可能なデバイス320を考える。ユーザが強打するジェスチャー(例えば、テーブル322に)を実行すると、現在の検索は中断される。
【0054】
配向(環境に関する)
定義:2つの小領域の其々の中心点の間に引かれた線が周囲環境に関するデバイスの配向を変更するように、デバイスの2つの小領域を操作すること。
例:機械部品のCAD図面を可動(モバイル)デバイスのディスプレイ上に3次元で表示する。デバイスの配向が変化すると、表示される画像の視角及び位置も変化する。
【0055】
旋回する
定義:デバイスの物理的境界の外に位置する或る点回りに、また如何なる任意の軸回りに1つ又は複数の小領域及び/又はデバイスの質量の中心を回転することにより、小領域を回転すること。
例:図25に示されるように、情報を得るためにWorld Wide Web(ワールドワイドウェブ)等のネットワークデータベースを検索することが可能なデバイス330を考える。ユーザが「旋回」ジェスチャーを実行すると、そのような検索が開始される。回転334の半径332は検索の幅を指定し、より大きな円はより広い検索を指定する。ジェスチャーの速度は検索に課せられる制限時間を指定し、ジェスチャーが速ければ速いほど、検索はより粗略になる。
【0056】
ユーザに関する旋回
定義:ユーザの身体機能の近くに位置し、デバイスの物理的境界の外に位置する或る点に関して1つ又は複数の小領域及び/又はデバイスの質量の中心を回転することにより小領域を回転すること。これは、旋回の特殊な例である。
例:図26に示されるように、音声出力を実行することが可能なデバイス340を考える。ユーザの耳345に関して旋回ジェスチャー(矢印344により示される方向へ)を実行すると、音声出力が起動される。
【0057】
室内での移動
定義:取り囲まれた部屋の中に見出される基準点に相対するデバイスの3次元位置の局所的検知である。測定された位置に関する差異は、動作をトリガするために使用される。
例:ユーザが室内におけるデバイスの現在の位置に基づきファイルを保存及び復元することを可能にする仮想ファイリングシステムである。ファイルを保存するために、ユーザはファイルの内容について十分に考慮し、次にそれに最も簡単に関連付けられるであろう室内の位置迄歩いて行く。ファイルを復元する場合は、ユーザは同一思考プロセスを用いて、そのファイルに関連付けた位置に戻る。そうすることにより、その位置に関連付けられたファイルが表示され、ユーザは探していたファイルをその時点で選択することが可能になるであろう。人間の記憶は、或る抽象的な情報データ構造における情報よりも寧ろ空間的に組織化された情報を思い出すのに非常に優れているため、このシステムは有効である。
【0058】
大きく離れたサイト間の移動
定義:デバイスの1つ又は複数の小領域の検知された絶対空間位置が変更されるように、小領域を操作すること。
例:クライアント情報のデータベースから情報を表示することが可能なデバイスを考える。デバイスが異なるクライアントサイトへ移動されると、デバイスは最も近くのクライアントサイト向けの情報を表示するためにその表示を自動的に更新する。
【0059】
物理的操作又は空間位置決めに基づく形態素に加えて、感知された環境条件に基づく様々な形態素が本発明の実施に有効であると考えられる。考えられる様々な環境形態素の理解を助けるために、図27は幾つかの一般に感知された環境上のカテゴリに必要とされるセンサの複雑さが増加する順に大まかに配置された選択された環境形態素を示す。提示される各カテゴリごとに、図1に関連して説明されたようなデバイスによりサポート可能な幾つかの選択された感知システムが示される。
【0060】
光
定義:デバイスの1つ又は複数の小領域に投じられる光の量が変化するように、小領域を操作する。
例:ノートを取るために講堂で使用されるデバイスを考える。室内照明が点灯されると、光センサがこれを検知し、エネルギを浪費しないためにバックライトを弱くする。室内照明が消される(例えば、スライドショー(上映)の最中)と、光センサはこれを検知し、可視性を上げるためにバックライトを強くする。
光センサは、しきい値による二分光検知器から照明パターン検知器、完全画像形成システムにまでおよびうる。先進の技術は、オブジェクト又は人を識別するための画像分析及び認識を含むことが可能である。
【0061】
熱
定義:デバイスの1つ又は複数の小領域に加えられる熱量が変化するように、小領域を操作する。
例:テキストを入力するためのスタイラスを有するポータブルコンピュータを考える。コンピュータの背面に沿って熱変化断面(熱プロファイル)を見ることにより、コンピュータはそのコンピュータが左手で、右手で、両手で、或いはどちらの手でもないもので保持されているかを検知し、そのインターフェースをその結果に応じて更新することが可能である。
サーマル(熱)センサは、単純な温度センサから洗練された示差熱マッパー及びサーマルイメジャー(熱画像形成装置)にまで及びうる。
【0062】
電磁気
定義:デバイスの1つ又は複数の小領域に加えられる電磁スペクトルが変化するように、小領域を操作する。
例:電波スペクトルを分析することにより、デバイスはその絶対空間位置に関する推定を導き出すことが可能であり、またそれをデバイスの機能性を変更するために使用できる。
電磁検知は磁気コンパス、電波探知、又はGPSの信号検知を含むことが可能である。より先進の技術は、利用可能な電波信号に基づき概略的に位置を決定するような電磁スペクトル分析及び解釈を含むことが可能である。
【0063】
振動
定義:デバイスの1つ又は複数の小領域を振動により操作する。
例:テキスト情報を表示するデバイスを考える。ユーザがそのデバイスをバス(乗物)に持ち込むと、デバイスにより感知される周囲の振動レベルが変化し、デバイスはユーザがその振動に適応するのを助けるために、表示されたテキストサイズを大きくする。
このクラスの環境形態素は断続的な接触の検知、低周波の雑音、又は音響レベルの検知を含むことが可能である。より優れたプロセッサ能力を必要とするより先進の技術は、最大周波数識別、音響周波数のスペクトル分析(デバイスが、例えば背景の騒音とスピーチとを区別することを可能にする)、又はデバイスの周辺でのスピーチに基づく個人の識別さえも含む。
【0064】
物理的操作、空間位置又は感知された環境要素に基づく形態素に加えて、多数の相互作用する(対話型)デバイス同士間の協同作業に基づく様々な形態素が本発明の実施に有効であると考えられる。様々な考えられる空間形態素の理解を助けるために、図28は可能な物理的接触のレベルが増加する順、及び特定クラスのデバイスに適用される形態素を形成するため又は解釈するために必要とされる利用可能なセンシームタプルの複雑さが増加する順に、マルチデバイス形態素を表す。可能なマルチデバイス操作の定義及び図1に関連して説明されたデバイスと同様のデバイス(但し、当然より複雑でありうる)のマルチデバイス操作により呼び出される典型的な機能が、単純な空間センシームをサポートするための基本的なエッジ変形機能性のみを有するデバイスから始まり、互いに覆われうる複雑に変形可能、又は埋設可能なデバイスまで提示される。
【0065】
接触(タッチ)
定義:デバイスの1つ又は複数の小領域が第二のデバイスの小領域と如何なる配列及び如何なる程度であれ物理的に接触するように、小領域を移動する。
例:図29に示されるように、第一のコンピュータがデータベースを含み、第二のコンピュータがIRDAポートを含む、2台のポータブルコンピュータ350及び351を考える。ユーザが第一のコンピュータ350を第二のコンピュータ351に接触させると、データベースが第二のコンピュータのポートを介して送信される。
【0066】
突き合わせ
定義:デバイスの1つ又は複数の小領域が第二のデバイスの1つ又は複数の小領域との物理的接触状態になるように小領域を移動して、第一のデバイスの小領域(単数又は複数)及び第二のデバイスの小領域(単数又は複数)が1つ又は複数のエッジ(縁)に沿って一列に整列される。或いは、そのように配置された2つのデバイスを取り上げて、その整列が解除される。
例:図30に示されるように、同一の基本データベースの異なるバージョンを有する複数のデバイス360、361及び362を考える。ユーザが第一のデバイス360を第二のデバイス361と突き合わせ、続いて突き合わされた第一及び第二のデバイスに第三のデバイス362を突き合わせると、それらのデータベースは合致される(同期がとられる)。
【0067】
スタック
定義:デバイスの1つ又は複数の小領域が第二のデバイスの小領域との物理的接触状態になるように小領域を移動して、第一のデバイスが第二のデバイスの上に、但し物理的に第二のデバイスに隣接して位置される。或いは、そのように配置された2つのデバイスを取り上げ、その配列を解除する(即ち、取り降ろす)。
例:図31に示されるように、各デバイスが長い一連のビデオ画像からビデオのフレームを表示する1セットのデバイス370、371及び372を考える。デバイスがスタックされると、スタックの順番がビデオの編集の順序を指定し、単一の複合ビデオがこの時点で作成される。
【0068】
タイリング(TILE)
定義:デバイスの1つ又は複数の小領域が第二のデバイスの小領域と物理的に接触するように小領域を移動して、第一のデバイス及び第二のデバイスが継目のない単一の空間ユニットを形成する。或いはそのように配列された2つのデバイスを取り上げ、その配列を解除する。タイルは突き合わせの特殊な例である。
例:図32に示されるように、各デバイスが大きな写真の一部を独立して表示することが可能である1セットのデバイス380、381、382及び383を考える。デバイスがタイル状に並べられると、各デバイスはタイル状のグリッド内の現在の相対位置に適した写真の部分を表示する。
【0069】
相対的位置合わせ
定義:デバイス同士が接触せずにデバイスの1つ又は複数の小領域が1つ又は複数の他のデバイスと特定の空間関係で結び付くように、小領域を移動する。
例:図33に示されるように、複数頁から成る文書を表示している1セットのデバイス390、391、392及び393を考える。その時点で最も左側に位置される何れかのデバイス(デバイス390)は目次を表示し、その時点で最も右側に位置される何れかのデバイス(デバイス393)はインデックスを表示し、その他のデバイスは其々の位置に応じて頁を表示する。異なるデバイスは異なる表示能力を有することが可能であるため、あちこちに移動することで文書表示を変更することができる。例えば、もし複数デバイスの内の1つのみがカラーディスプレイを有する場合に、それが第二の位置から第三の位置へ移動されると、(a)それまで第三の位置にあり2番目の頁を表示していたデバイスが、今度は1番目の頁を表示し、(b)それまで1番目の頁を表示していたカラーディスプレイが、今度は2番目の頁をカラーで表示する。
【0070】
包み込み/はめ込み
定義:デバイスの1つ又は複数の小領域が空間的に閉塞される、又は第二のデバイスの或る部分により空間的に閉塞されるように小領域を操作する。
例:図34に示されるように、電子メールのフィルタリングをサポートするためのインフラストラクチャ(基礎構造)を含む第一のデバイス400を考える。特定の電子メールフィルタを実行する第二のセットのデバイス401と402を考える。ユーザがデバイス401(又は402)を第一のデバイス400に物理的にはめ込み、そのことにより第一のデバイス400が第二のデバイス401(又は402)を包み込むと、第二のデバイスによりサポートされる特定の電子メールフィルタが作動する。
【0071】
当業者は理解するであろうように、物理的操作、空間位置、環境条件又は多数の相互作用するデバイスに基づく上述の如何なる形態素の組み合わせも、形態素「センテンス(文)」への関与により拡張されうる。センテンスは一時的に解体可能な1つ又は複数の形態素のシーケンスとして定義される。通常、センテンス内の形態素を区別するためには約1/10秒乃至2〜3秒で十分である。当然、ある状況下では不定の時間が経過しうる。センテンスレベルは、形態素シーケンスの適切な選択、及び例えば能動的(動詞のような)形態素、命名(名詞)形態素又はコネクタ(接続詞)の使用を支配する推論的規則による物理的操作文法の定義を可能にする。センテンスにおける単語の位置及び関係がそのセンテンスの意味を画定するように(例えば、「horse chestnut(セイヨウトチノキ)」が「chestnut horse(赤茶色の馬)」と同一でないように)、同様に操作センテンスにおける形態素の位置及び関係はそのセンテンスの意味を画定する。例えば、通信モードにおいて軽く振る動作に続く強打は「データを送信し、ローカルコピーを削除せよ」を意味することが可能な一方、強打に続く軽く振る動作は「デバイスの電源を立ち上げ、データを送信せよ」を意味することが可能である。他の状況においては、軽く振る動作や強打は何か全く別なことを意味することが可能である。形態素センテンスの構成をよりよく理解するために、以下の例が説明される。
【0072】
データ転送センテンス
他のデバイスに、情報の一部又は全部を送信することが可能なデバイスを考える。更に、この送信は非暗号化及び暗号化(セキュリティを高めるため)の何れの状態でも成されることが可能である。また更に、テキストと図形とから成る文書の送信は、図形を含むこと又は省くこと(時間を節約するために)が可能である。ユーザが「文書Aの情報を暗号化し、図形を省いてマシンBに送信せよ」というコマンドを実行すると仮定する。すると、これをサポートするジェスチャーシーケンス(形態素センテンス)は次のようになる。
押下:ユーザはAの表示された表現を押し、次の処理のためにAが選択されるべきことを示す。
軽く振る:ユーザはデバイスBの方向にデバイスを軽く振り、処理はBへの送信であることを示す。
折り畳む:ユーザはデバイスの上から1/4を下から3/4の部分の上に折り畳み、送信が暗号化されるべきことを示す。
捻じる:ユーザはデバイスをその中心軸回りに捻じり、データが「絞り出される」、即ち図形が省かれるべきことを示す。
圧搾:ユーザはデバイスを圧搾し、その動作はその処理が続行されるべきことを確認していることを示す。
これらのジェスチャーの何れも単独では、行為を実行することにはならず、一時的に分離される形態素の「アンサンブル(集団)」が、完全なアクションを形成するように解釈されねばならないことに留意するべきである。
【0073】
図形変更センテンス
ユーザ操作のために幾何学形状を表示するデバイスを考える。更に、サポートされる操作の1つは、形状をリサイズ(又はリスケール)することである。また更に、このリサイズがエイリアシングされる(ぎざぎざになって表示される)かエイリアシング除去される(エッジが滑らかにされる)かの何れかで実行されうると仮定する。ユーザが「エイリアシング除去モードで、形状AをX軸に関してのみ120%にリサイズせよ」というコマンドを実行したいと仮定する。すると、これをサポートする形態素センテンスは次のようになるであろう。
押下:ユーザはAの表示された表現を押し、次の処理のためにAが選択されるべきことを示す。
引張る:ユーザはデバイスの或る部分を引張り、処理がリサイズであることを示す。ユーザが引張り始めると、状況ディスプレイの一部は「100」を表示する。ユーザは、状況ディスプレイが「120」と表示するまで引張り続ける。
レリーフマップ作成:ユーザは水平に凹みを形成することによりディスプレイに「切れ目を付け」、処理が水平(X)軸に関してのみ実行されるべきことを示す。
押下:デバイスの別の場所に親指による円状のストロークが成され、エイリアシング除去(エッジを滑らかにする)が実行されるべきであることを示す。
【0074】
データベース表示センテンス
電話番号リスト、住所リスト及びカレンダー等の様々な個人情報データベースを保持するデバイスを考える。ユーザが、それらのデータベースの中の最も適したものが表示されることを希望すると仮定する。すると、これをサポートするジェスチャーシーケンスは次のようになるであろう。
空間位置:ユーザは、デバイスが電話、住所録、及び冷蔵庫(ファミリーカレンダーが飾られている)の内の何れか適したものに空間的に最も近くなるようにデバイスを持って行く。
押下:ユーザは、処理を起動させるためにデバイスに触れる。
この時点でデバイスは、その位置に適した個人情報を表示する。
【0075】
データベース検索センテンス
前述のデータベース表示センテンスの例を拡張するために、カレンダーデータベースを保有する2つのコンピュータを考える。もしユーザがそれらのカレンダーの同期をとりたい場合、これをサポートするための適切なジェスチャーシーケンスは次のようになるであろう。
圧搾:ユーザは、デバイスのジェスチャー認識能力を起動するためにデバイスを圧搾する。
旋回:ユーザはデバイスを、他方のデバイスの表面回りに3回旋回させ、次の3週間分のデータのみを一致させたい旨を示す。
突き合わせる:ユーザはデバイスのエッジをカレンダーのエッジに突き合わせ、2つのデバイス間で内容を「合致」させたいことを意味する。
【0076】
プリンタ/複写機制御センテンス
文書のペーパーコピーを作成可能なデバイスを考える。ユーザが、そのようなデバイスに文書Aを次に大きいサイズに拡大された両面コピーをステープルで留められた状態で生成することを指示したいと仮定する。すると、これをサポートするジェスチャーシーケンスは次のようになるであろう。
押下:ユーザはAの表示された表現を押し、次の処理のためにAが選択されるべきことを示す。
切り裂く:ユーザはデバイスの一部に空間的な不連続性を導入し、次の処理がコピー(データの或る部分を「持ち去る」)であるべきことを示す。
摘まむ:ユーザはデバイスの上部左隅を摘まみ、コピーがステープルで留められるべきことを示す。
圧搾:ユーザはデバイスの前面及び背面を押し、コピーが両面であるべきことを示す。
引張る:ユーザはデバイスを引張り、コピーが次に大きいサイズに拡大されるべきことを示す。
向ける:デバイスは通常底部に排紙装置を有し、ユーザがふとしたことからコピーを作成してしまうことを予防する。排紙装置が側面になるようにデバイスを向けることにより、コピー処理は開始される。
【0077】
光ベースの制御センテンス
文書を表示することが可能なデバイスを考える。ユーザが列車内で腰掛けて文書を扱っており、列車がトンネルに入ったら文書がバックライトで表示され、列車が凸凹の線路上を揺れながら走ると、文書がより大きなフォントで表示されることをユーザが望むと仮定する。すると、これをサポートするジェスチャーシーケンスは次のようになるであろう。
圧搾:ユーザがデバイスを圧搾し、光の低下がバックライトにより補われるべきことを示す。
光:電車がトンネルに入ると、光ジェスチャーが成されデバイスがバックライトを点灯する。
強打:ユーザが手のひらでデバイスを勢いよく叩き、読み辛い文書を調整するためにユーザが望む選択がフォントサイズを大きくすることであることを示す。
振動:列車が橋を越えると、振動のジェスチャーが感知される。この形態素センテンスにおけるこの振動形態素の位置(先行する強打動作の後である)のために、デバイスは表示されるテキストのフォントサイズをこの時点で大きくする。
光:ユーザがデバイスをスーツケースにしまい、光ジェスチャーを生じさせる。この状況(その前に圧搾しない)では、光ジェスチャーはデバイスにディスプレイの電源を切断させる。
【0078】
本発明に一致するデバイスの有用性及び構成をよりよく理解するために、デバイスの幾つかの例がここで説明される。
【0079】
圧搾及び傾け制御を有するポータブルコンピュータ
変形可能な圧力に感応するエッジング504を取り付けられることが可能な手に持てるポータブルコンピュータ500(例えば、3Com(登録商標)のPalmPilot(登録商標))が図35及び図36に概略的に示される。コンピュータ500は、ディスプレイ503上にユーザが見ることが可能な氏名−住所入力フィールドを提供する氏名及び住所のソフトウェアアプリケーションをサポートする。この実施の形態において、ユーザはコンピュータ500の変形可能な、圧力に感応するエッジング504を圧搾する(圧搾矢印507のように)ことが可能である。それに応じて、氏名及び住所のソフトウェアアプリケーションは、名簿の「A」から「Z」までのエントリー(登録名)に亘ってゆっくりインクリメントする(スクロールする)ことにより表示503を動かす。ユーザがエッジング504を再度圧搾すると、ソフトウェアアプリケーションはスクロールする動きを停止する。スクロールの機能性は、コンピュータの動きが従来の回動可能な住所録を真似ることを可能にする傾きセンサの使用により更に高められる。もしコンピュータ500が或る人が通常それを保持する45度の角度から離れるように傾けられると、スクロールの速度が加速される。このアプリケーションでは、コンピュータ500がユーザに向かって(図36の矢印506により示される)傾けられるほど、「Z」方向へのスクロールが速くなる。しかし、もしユーザがコンピュータ500を元の45度位置を越えて戻すように傾けられると(図36の矢印505により示される)、動画は傾きの大きさに関連する速度で逆方向に動くであろう。この方法により、ユーザが片手のみを用いて極自然に長いリスト内から項目を検索することが可能である。
【0080】
図37に概略的に示される代替モードでは、スクロール速度は圧力により完全に制御されることが可能である。圧搾圧力(矢印537)が大きければ大きいほど、リストは速くスクロールする。加えられる圧力の解放は、スクロールを停止させる。この代替のユーザインターフェース方法では、適用される傾き(直交する傾き矢印530及び532により示される)はリストを通してのスクロールの方向を変更するために使用されることが可能であり、ユーザがディスプレイ503では水平方向にも垂直方向にも全体を見ることが不可能であるような大きな2次元データセット(データ面520として概略的に示される)の一部を検索することを可能にする。データ面520が眺められることが可能な窓であるかのように、コンピュータ500のディスプレイ503を単に傾けることにより、データ面の如何なる特定部分(例えば、データサブセット524)も見ることが可能である。理解されるように、前述の両モードにおいて、スクロール速度、特定の中立傾き角度及びスクロール変更を開始するために必要とされる圧力は、特定のユーザに合わせて調整されることが可能である。
【0081】
利き手検知を伴うポータブルコンピュータ
図38及び39に概略的に示される手に持つことが可能なWindows(登録商標)版CE(大衆消費電子製品)クラスのコンピュータ550(即ち、カシオ(Cassio、登録商標)のカシオピア(Cassiopia、登録商標))のユーザインターフェースを実現した従来のキーボード551を拡張するために圧力センサが追加された。この実施の形態では、ユーザの利き手がコンピュータ550の右側及び左側の背面エッジに位置された圧力センサを使用することにより判断された。ユーザ研究により、右側と左側との圧力の差がユーザの利き手の直接的な示唆をもたらすことが確認されている。図38と39に其々示されるように、利き手はフォーマットされたテキスト554を左側(図38)又は右側(図39)に位置調整するために使用され、それによりディスプレイ553上に電子注釈入力ペンでテキストを書込むために使用されるようにより広い空間555をもたらした。
【0082】
図35〜37により示された本発明の実施の形態及び図38と39に示された前述の実施の形態の両方のために、海面質(スポンジ)の、弾性のある、又は他の変形可能な材料の材料変形が測定されねばならない。材料変形を測定するために、画像形成又は流体容積変化に基づく技法を含む様々な技法が使用されうるが、1つの特に有効な技法は圧力変換器の使用に基づくものである。商用的に入手可能なセンサは、圧力変化を電気特性における変化に変換することにより圧力(材料変形を暗示する)を測定する。例えば、圧力に応じて抵抗を変化させる安価なセンサは、紙の薄さのセンサ及び容易に曲げられるセンサストリップを含む様々な形状及びサイズで実現されることが可能である。この種のセンサは、ジェスチャーUIが必要とするであろう如何なる特定形状又は型にもカストマイズされ(個別要求に応じ)うる。センサは、圧力を電位における変化としてモデル化する分圧器ネットワークに一般的に位置されるため、抵抗における変化は通常圧力に一次的に(線形に)関連される。実用的な回路のために、最低圧力から最高圧力への値の変化が有効な範囲に亘るように、結果として生じる信号は増幅され、バッファリング(緩衝)され、そして変換される。変更された信号はこの時点で、圧力のデジタル表現を作り出すためにアナログ−デジタル変換器(ADC)に送り込まれる。大半の用途には通常、8ビットADCが使用されうるが、もし圧力変化に対するより優れた感度が必要とされるならば、より高度な分解能のADC(例えば、16ビットADC)を使用することが可能である。理解されるように、ADCはプロセッサのアドレス空間に周辺装置としてメモリマップされること、或いはこのシステムから利益を受けることが可能な既存のコンピュータに、改造された圧力インターフェースとして代わりに供給されることが可能である。RS232接続がポータブルコンピュータ上でほぼ全世界的に使用可能なインターフェースであるため、1つの方法はADCの並列出力をUART(万能非同期受信送信機)等の並直列変換回路を使用して直列RS232フレームへ変換させ、次にRS232規格により特定されるように信号をレベルシフト及びバッファリングすることである。直列インターフェースのコンピュータ端末では、その出力がプロセッサにより読み出し可能なもう1つのレベルシフター及びUARTが直列−並列変換を実行する。
【0083】
図40に関連して説明されるように、ワーキング(実用)システムの実現に際して、多くの入出力タスクを単一のチップに結合するためにADCが組み込まれたマイクロコントローラ564(シグネティックス(Signetics)87c752)が、レベルシフター566(MAX3223)と組み合せて使用されることが可能である。このアプローチは、入力信号の知的処理がソフトウェアにより可能であるという利点を有する。傾き測定は、アナログ信号をマイクロコントローラ564に供給するために緩衝増幅器562に接続された傾きセンサ567によりもたらされる。また圧力測定はシリアルリンクを通る際のプロトコル内で符号化されうる。この特定のマイクロコントローラ564は5つのADC入力を有するが、8本のデジタル制御線を利用することにより、圧力センサ565による最大8つまでの圧力点を測定するために、1つのADC入力及び1つの緩衝増幅器561のみを使用することが可能である。これは、一度にただ1つのセンサを選択し、ADCへの単一入力を使用して各センサの読取りを行うように制御線を使用することにより実現される。8つのセンサが選択された後に、8つの読取り値がメモリに読み込まれる。マイクロコントローラは、ホストコンピュータ569との通信のために必要とされるよりもはるかに速い速度で測定及びアナログ−デジタル変換を実行することができるため、本設計は実践的である。
【0084】
スクロール又は利き手ベースのソフトウェアアプリケーションのためには、圧力測定を表すのに十分であるように16のレベルが決定された。ホストコンピュータ569への高データスループット(処理能力)を持つために、各測定結果は4つの下位ビットが圧力表示であり、4つの上位ビットがセンサIDであるように、RS232フレームの1バイトに符号化された。従って、RS232データの各フレームは完全に自己充足された。当然アドレス空間へのデバイス数を所定の個数に制限するプロトコルは、いつの日かサポートされている個数よりはるかに多くのデバイスを参照することを必要とするアプリケーションが設計されるかもしれないという問題をいずれ有することになるであろう。このプロトコルに関して使用される解決策は、センサID番号15をセンサ又は数値を表す任意のバイト数を含むように符号化の意味論を拡張可能な特別値として取っておくことである。説明されたソフトウェアアプリケーションのためには、一般的に用いられるRS232のフレームフォーマット(9600ボーの速度で1開始ビット、パリティなしの8データビット、1終了ビット)が選択された。
【0085】
実行に際し、ホストコンピュータ569は、デバイスの背面に位置しほぼ左半分を占める小領域と、やはりデバイスの背面に位置しほぼ右半分を占める小領域の2つの小領域に作用する現在の圧力に関する情報を利用することにより利き手を決定した。現在の圧力値は、デジタル値0(ゼロ)が圧力無しを表し、例えばデジタル値15が最大圧力を表すように、アナログからデジタル形式へ変換された。検知回路は次のように進む。
もし(左センサが高く且つ右センサが高い)ならば
ユーザがデバイスを両手で掴んでいると断定せよ
そうではなく、もし(左センサが高く且つ右センサが低い)ならば
ユーザがデバイスを左手のみで掴んでいると断定せよ
そうではなく、もし(左センサが低く且つ右センサが高い)ならば
ユーザがデバイスを右手のみで掴んでいると断定せよ
そうではなく、もし(左センサが低く且つ右センサが低い)ならば
ユーザがデバイスをどちらの手でも掴んでいないと断定せよ
また通信を最適化するために、圧力値はそれらが変化した場合にのみ送信される。圧力センサにおけるジッタ及びエラーを補償するために、センサはもしその値が或る最低しきい値(例えば、0〜15の値域内の「2」)より大きい場合に単に「高い」と考えられる。
【0086】
エッジ変形可能ディスプレイをサポートするスキャナ/プリンタ/複写機
スキャナ/プリンタ/複写機デバイス570が概略的に図41に示される。図41に(そして図42に、より詳細に)示されるように、デバイス570は1枚の紙のような無造作な形状と共に、変形可能エッジ572を有するディスプレイ574をサポートする。実行に際しては、ユーザは書かれた原稿を走査のためにデバイス570に配置することが可能である。走査された文書の電子バージョンがディスプレイ574上に表示される(即ち、図42のテキスト575)。変形可能エッジ572を矢印577により示されるように外方向に引張ることにより、ユーザはデバイス570にプリント又はコピーする前に文書をリサイズするように指示することができる。変形可能エッジ572の対向する面(矢印578)を摘まむことにより、両面にコピーするようにデバイス570に更に指示することが可能である。理解されるように、他の様々な形態素がデバイス570との対話のための簡単なインターフェースを提供するために使用されることが可能である。
【0087】
タイリング可能及びスタック可能なポータブルディスプレイ
組み込まれたディスプレイコントローラと従来のディスプレイを実質上含む少なくとも1つの表面とを有する多数の自律的なディスプレイタイルは、本発明の様々な態様の実施に特に有効である。そのようなタイルは、接触、軽く振る、相対的配置又は強打等の様々な形態素に応じて相互接続されることが可能であり、或いは所定の状況においては、実質的にユーザが介入しない形態素入力で実行されることすら可能である。
【0088】
好都合なことに、タイルの位置決めはそのタイル自体にとっての、そして他のタイルから見たそのタイルのインターフェース特定要素として使用されることが可能である。例えば、各ディスプレイタイルは独立メモリにビデオセグメントを保有することができる。タイルをシャッフル(混ぜる)即ち再編成することは、ユーザが物理的に操作可能なビデオ編集システムに影響を及ぼすようにビデオセグメントのシーケンスを物理的に操作することを可能にする。カードアナロジー(類似)を使用することにより、タイルは文書、文書内の頁、音声注釈、ボイスメール、又はタイルに含まれる他の時を表すメディアを再配列するために使用されることが可能である。結果として生じるシーケンスは、次にタイル状に並べられた構成を1つのユニットとして使用することにより全体として再生されることができる。
【0089】
本発明の目的のために、ディスプレイタイル配列構成は以下のように分類されうる。
【0090】
連続的な表示領域が最大に(即ち、継目なく)なるように、タイル602が当接して、但し重なり合わずに、表面610に広がるように配置される緊密にパックされたディスプレイタイルアレイ600(図43)。理解されるように、タイル自体が独立した連続的表面を形成することが可能であるか、又はタイルはテーブル又は他の適切な支持具に配置されることも可能である。個々のタイル602は、各タイル602の前面を実質的に覆うようなサイズのディスプレイ604をサポートする。特定の実施の形態においては、各タイル602の背面もディスプレイをサポートすることが可能である。有利なことに、このことは前面と背面に可視画像を有する独立したディスプレイを形成することを可能にする。表面610は、平面、球体、又はタイル貼り可能な他の如何なる任意の形状でもありうる。
【0091】
タイル622が格子模様(点線625により示される)に入れられようなルーズに(緩く)詰込まれたディスプレイタイルアレイ620(各タイル622は図44に示されるようにディスプレイ624を有する)。各タイルは、枠付けられたスロットの寸法がタイルの最大寸法の2〜3倍を越えず、どのスロットにも2つ以上のタイルが存在しないような格子内の規則的な枠付けられた格子スロット(即ち、各タイルの画定された中心点を有する格子スロット)に配置されると考えられる。格子領域内では、どのタイルも任意に位置されることが可能であり、それでも尚且つそのグループと同一の相互関係を維持することができる。更に、複数のタイルが2つ以上の格子スロットの境界で互いに接触することも可能であるが、これは必須要件ではない。
【0092】
自由形式のディスプレイタイル630(各タイル632は図45に示されるようにディスプレイ634を有する)は、ルーズに詰められたディスプレイディスプレイタイル620と類似しているが、格子スロットのサイズ及び形状が自由に変化しうる(例えば、格子スロットの寸法は如何なる関与タイルの最大寸法の何倍もの大きさでありうる)。配列に関する唯一の制約は、各タイル632の相関的な連結性に関して多義の関係が存在してはならないことである。即ち、次の一片の情報を別のタイルの一面に表示しようとするタイルは、ただ1つでなければならず、タイリング格子内の他のタイルのタスクと混同されてはならない。
【0093】
3次元のディスプレイタイル(詰込み(パック)可能なディスプレイタイル)は前述の3つのディスプレイタイル分類を拡張することにより作られる。しかし、ディスプレイタイルの緊密にパックされたタイリングでは、3次元構造の中心に詰込まれたデバイスはユーザインターフェースとしては利用不可能であろう。3次元形状の表面は、或る種の用途のための独特な機能(affordance)を有する領域(面)を露出するため、このことは問題にならないであろう。例えば、1つの大きい立方体の形状に詰込まれた複数の立方タイルは、大きい方の立方体の6つの面を使用して、各自由度から3次元CAD図面を眺めることにより表現されうる様々な投影を表示することが可能である。
【0094】
理解されるように、ディスプレイタイルは直線状である必要はなく、六角形状、球状、又は任意な形状及びサイズであることが可能である。タイルのサイズは、大きい構造の中で全タイルが一定である必要はない。タイルは一直線に整列される必要はないが、隣接点又はエッジを示すための近接性が要求されるであろう。
【0095】
タイルはグループ活動のために結合されることを定義するために物理的な接触状態におかれる必要はなく、これはプログラムされる機能でありうる。連結性は、必要な資源を取り決めるために無線ネットワークを使用することにより、調整サーバから、又はタスクのために必要な限り多くのコンピュータを巻き込む分散アルゴリズムから、無線ネットワークを介しても確認されうる。トポロジー(接続形態)が敏速な変化を必要としうるような場合には無線システムほど望ましくはないが、タイリングされたコンピュータは有線ネットワークシステムによっても接続されることが可能である。この種の有線ネットワークシステムの一例は、各コンピュータが部屋又は極端な例では建物、町、或いは国により隔てられていてもそれ自体の相対位置を把握するような単一タスクに多くのコンピュータを含めるためにインターネットを使用するシステムである。しかし、一般にディスプレイタイリングの最も有効な例は、視聴体験が単一ディスプレイの使用よりも向上されるディスプレイ媒体を作り出すように、全てのタイルが1人の人により眺められるくらいにタイルが十分近接した場合である。従って、タイルは単一の大きな連続した構造として、又は個々の特性及び独立機能を保持して作動されることが可能であり、又双方の組み合わせも可能である(例えば、大型トロンのような機能、テレビ局のスタジオで使用されるような12×12の小型ディスプレイ、又は商用テレビ又は編集作業で見られる絵の中の絵(picture in-picture)の特性)。
【0096】
詰込みのタイプに応じて、ディスプレイタイル間の恒久的な、断続的な、又は一次的な通信さえも可能にするために様々な方策が使用されることが可能である。例えば、緊密にパックされたタイリングはコンピュータ間の有線接続を利用することができ、或いは様々は無線又は光通信技術を使用することができる。有線接続の場合、エッジに取り付けられた従来のプラグソケット接続器が精密なタイル状のアレイを作り出すために使用されうる。プラグソケットシステムは、大容量及び高速データ転送のための並列接続に力を尽くす。それらはまた、好都合な配電方法を提供し、その方法はタイルの1つがアレイの残りをサポートする電源を提供することを可能にする。タイリングされたコンピュータアレイ690内のタイリングされたコンピュータ692間のプラグソケット接続(データ及び電力の双方の転送が示される)が図48に線分695により概略的に示される。
【0097】
電気コネクタの精密な設計及び位置は意図される使用に依存し、従ってタイル構成要素の形状にも依存する。ディスプレイ間の大きな継目が容認可能な用途では、単純な剛性コネクタが各エッジの中心に取り付けられえ、周辺タイル全てに接続性を提供する。他の用途はより複雑な設計を必要とするであろう。例えば、継目のないアレイ表面上に高品質な情報表示(即ち、タイリングされた青写真/設計図)を必要とする用途は4縁接続器上のスプリング付勢接触を用いるであろう。スプリングメカニズムは、全てのアレイ接続がディスプレイ表面の下で行われることを可能にするが、タイルは挿入されること及びアレイの内部から除去されることも可能である。タイルの除去はスプリングの解除を駆動し、タイルをアレイから弾き出す或るホスト信号によりトリガされることが可能である。
【0098】
直列連結性もまた、図43に示されるような緊密パック構造で使用されることが可能である。この方法は、より少ない接続の形成を必要とすること及び実施において、より信頼性が高いという利点を有する。しかし、タイル間のネット(正味)帯域幅は、並列システムよりも少ない。直列通信は光及び無線システムに適し、従って如何なる物理接続の必要性も排除する。光導体及びレンズ捕捉技術の賢い利用はより高いフレキシビリティをもたらしうるが、光技術のためには、送信器及び受信器の配列(アラインメント)はなお重要である。無線システムは、様々な変調技術(振幅変調、周波数変調、又はコード分割多重アクセス(CDMA)に基づく変調)を利用し、広範囲に亘る送信器の力で実行することにより、EM(電磁気)スペクトルの多くの異なる帯域(kHz、MHz、GHz)を使用することが可能である。もしシステムが適切な通信許容差を有するように設計されるならば、直接配列は最早必要とされない。送信器のレンジは設計において重要な役割を果たす。もし発信された信号に、タイルエッジの数ミリメートル範囲内でのみ受信されるのに十分な力を持たせると、信号は絶縁され、トポロジーは物理連結度により画定され、隣接する信号発信源からの妨害を避けるためのシステムを設計する複雑さは最小になる。しかし、代替設計案は、より強力な無線を使用することである。この場合、全てのタイルが全ての他のタイルと接触することが可能であり、タイル間連結性は他のパラメータにより画定されることを必要とする。信号強度を使用することが可能であり、或いはより慎重に、タイルアレイにおける全てのタイルの位置を記述する空間マップにタイルのIDを関連付ける情報(1つのマスタータイルに保持されるであろう)を使用することが可能である。このシステムでは、タイル間の干渉を最小にすることも必要である。同一周波数で作動するデジタル式パケットデータシステムのためには、キャリア検知多重アクセス(CSMA/CD(衝突検出)又はCSMA/CA(衝突回避))システムが、この問題を解決するためによく知られた技術である。他の解決策は、送信器の力に応じて再利用される周波数を用いて、異なる周波数を使用するタイルを必要とする。これは従来の携帯電話に使用される技術である。更に異なる方法は、スペクトル拡散変調として知られる技法である、EMスペクトルの同一領域への信号のオーバーレイ(重ね合わせ)に依存するコード分割多重アクセス(CDMA)を使用するものである。
【0099】
ルーズにパックされたディスプレイタイルのためには、緊密にパックされたタイリングに関連して先に説明された無線技術が実施には通常必須となる。しかし、ルーズにパックされた特殊例が存在し、その例では接触点が1つであって正確に画定された位置ではないが、タイルの各エッジは周囲の他の全てのタイルと接触する。このシステムの有線バージョンは、各タイルの全エッジがエッジを画定する2つの頂点の内の1つを含む直列接続であるように構築されうる。各方向への通信は、タグ(札)と読取装置との間の双方向通信のための単線インターフェース(及びアース)の使用を含む様々な商業的に利用可能な技術により達成されることが可能である。タイル配列のためのアース接続は、タイルがその上に割り付けられている表面を介して、共通のアース接続を共有することによりもたらされうることに留意するべきである。例えば、表面は金属シートにより作られることが可能である。システムは、エッジ接触が磁気材料より形成され、頂点がその端部に埋め込まれた磁石を有することを保証することにより、更に強化されるであろう。このような装置は、送信器と受信器との間の良好な電気接触をもたらすであろうことを保証する。
【0100】
受信器は、電気信号をブリッジ整流し、それ自体のエレクトロニクスにより使用されるために収集された電荷をコンデンサに格納することにより、電気的に送信された信号から電力を取り出すことも可能である。従って、配電もまた単線インターフェースに含まれることが可能である。この方法により、連結性を設定するために最小の注意のみが必要な敏速且つ便利なタイルの再配置をサポートするために、柔軟な連結性を得ることが可能である。
【0101】
図45に示されるようなルーズにパックされたタイルディスプレイは、矩形のタイルの場合には垂直に又は水平に位置合わせされず、互いに関してオフセット角を有するであろうが、ディスプレイ表面が、表示された画像の全ての部分が互いに対して正確な空間的配置を保つように統合されたディスプレイを表すための最善の労作アルゴリズムを使用することを必要とするであろう。望ましいタイルディスプレイアルゴリズムを実行するためには、タイルの相対配置のみでなく、互いからの正確なオフセット値(距離及び角度)もまた重要である。ルーズにパックされたタイル間のオフセット値を自動的に決定するのに適した幾つかの方法が存在する。例えば、図46(通信しているタイル652及び654が其々のディスプレイ651及び653と共に示される)に関連して示されるように、エッジに沿った光エンコーディング(符号化)660はタイルの向きを識別するために使用されることが可能である。規則的であり、あらゆる位置の頂点からの距離も符号化する、エッジに沿った2進コードの光パターンを使用することが可能である。当接する、又は相対的に整列されるタイルは、光センサ658及び659を使用することによりこのパターンを読み出すことができ、エッジ方向へのディスプレイオフセット値を決定することが可能である。代わりに、図47(通信しているタイル672及び674を示す)に示されるように、信号強度三角測量に基づく無線ベースの技法を使用することが可能である。タイル672の各頂点675又は676は、無線送信器及び受信器を含むことが可能である。もしこれらの頂点がよく知られる時々に短い特性無線信号を送信すると、近くのタイル674は、それ自体の頂点680、681、682及び683に位置される受信器を、信号が受信された相対遅延を測定することによりそれらに関して各送信頂点の位置を三角測量するために使用することが可能である。最初の送信タイル672の頂点の内の2つが信号を送ると、隣接タイル674はタイルアレイの局所領域内でのその正確な位置及び向きを決定することが可能である。送信及び受信タイルは次に役割を交換することができるため、結果として両タイルがそれらの相対位置を把握する。このプロセスはタイルアレイ全体に施されることが可能である。
【0102】
自由形式のタイリングは、近接制約又は規則的なフォーマット上の制約がないという点で、ルーズにパックされたタイリングとは異なる。自由形式のタイリングシステムが如何に作用するかを示すために、以下の例が説明される。其々地球位置決定システム(GPS)及び無線モデムが備えられた多数のラップトップコンピュータを想像する。各ラップトップは、その位置を決定し(許されるエラーの範囲内で)、無線モデムを介して接触することにより、他の全てのラップトップにその位置を通信することが可能である。或る程度の時間が経過した後には、全てのラップトップはそれらの相対位置及び絶対位置を把握するであろう。もし何れかのコンピュータがその位置を変更すると、コンピュータが互いに近くなく、実際には他の地理的領域に存在するかもしれなくとも、コンピュータは把握されているタイリング構成にあると考えるのに十分なアレイへの理解があることを確実にするために、位置を変更されたコンピュータは局所の近隣コンピュータを更新することが可能である。この自由形式のタイリングシステムを使用する可能性のある用途は、情報が広範な領域に亘って一様且つ分散様式で正確に送られることの保証を望むものである。例えば、各ラップトップコンピュータが受信する情報は、商用作物を害する昆虫を抑制するために使用される或る量の殺虫剤の散布に関する通達でありうる。もし殺虫剤が如何なる地域においてであれ、非常に高い集中度で散布されると、人間の健康に有害となりうる。タイリングアプローチは、コンピュータが放浪する(例えば、トラックの荷台などに)ことを可能にし、それらのコンピュータのその時点の相対近接性を教えられた上で、散布される殺虫剤のタイプ及び濃度に関する情報を表示する。
【0103】
様々な従来のアルゴリズムが、自律的なタイリングされたディスプレイ同士間の情報の配布をサポートするために使用されることが可能である。これらのアルゴリズムは、表示されるべきデータを生成するマスタコントローラを備えるシステムを想定する。そのシステムが可視データ及び/又は処理情報を表示するために使用するであろう大きなアレイのタイリングされたコンピュータも存在する。タイリングされたアレイ内の各コンピュータは固有のIDを含む。データを各コンピュータが表示可能な小部分に分割すること、及びこの情報をターゲット(目的の)コンピュータのIDと共にパッケージ化することは、マスタの仕事である。以下のアルゴリズムは、情報がどのようにマスタから宛先ディスプレイタイルに伝わるかについて説明する。
【0104】
デイジーチェーンルーティング(経路指定)
ディスプレイタイルは、各タイルが予め定義されたラインで次のタイルにのみ情報を送信するように、互いに論理連結性を有するように配置される。コンピュータは、其々にデイジーチェーン方式(いもづる構成)で接続されていると呼ばれる。チェーンの開始点に送られる如何なる情報もIDを含み、そのチェーンの第一のコンピュータはそのIDをそれ自体のIDと比較する。もし、一致すれば、そのコンピュータはデータに働く。もし一致しないならば、そのコンピュータは宛先が見つかるまでチェーン内の次のコンピュータにデータを送る。
【0105】
N進ルーティング
N進ルーティングにおいては、宛先へのパスはデバイスのIDに含まれる。簡単なルーティングの例が、物理的に接続されたタイリング可能なディスプレイにおける4つ組みのルーティングを示す図48に、方向矢印695と共に概略的に示される。4つ組みのルーティングにおいては、アレイは各ノードが1つの入力と3つの出力を有する4要素から成る木(ツリー)構造として概念的に配列される。このシステムでは、IDのビットの各対はルーティングコマンドを含む。a0は第一の出力にパケットを送ることを示し、a1は第二の出力を示し、a2は第三の出力を示し、そしてa3は他の送信はないことを示す。連続するノードに現在対応されているビット数値及びパケットが宛先に届いた時を知らせるために各ノードにより減らされるカウントも存在する。この方法で、パケットは目的のディスプレイに到達するまで各段階で単純な選択をすることにより、ノードからノードへ転送される。理解されるように、4つ以上の出力(実施には通常2の累乗(例えば、4、8、16... )が都合がよい)を有するN進システムを設計することが可能である。
【0106】
フラッディング
フラッディングは、予め定義されたルーティング構造を持たない。第一のパケットをマスターから取得するコンピュータは、それが正確なIDを有するかを確認する。もし有しないならば、パケットはそのパケットを未だ送信又は受信していない全てのリンクに送り出される。結果は、アレイ全体に亘るパケットのコピーの氾濫であり、最終的に宛先に到達する。パケットは、それらが最終的にシステムから除去されることを保証するために最大ホップ数も持たなければならない。この手法の欠点は、先の2つの方式に比べてより多くのタイルが不要なデータの処理で負荷を負わせられることであり、このことはシステムの総体的な効率に強い影響を及ぼすであろう。
【0107】
ホットポテト
ホットポテトアルゴリズムは、再送信されるパケットがランダム(無作為)に選択されるか、又は最も使用率の低い1つの出力にのみ送られること以外は、フラッディングアルゴリズムに類似している。処理は、パケットが正しいタイルに到達すると停止する。パケットがその宛先に到達するまでにかかる時間は決定的ではない。
【図面の簡単な説明】
【図1】変形可能な表面と、状況ディスプレイと、表面の形状変化を検知するための圧力センサアレイとを有する手で持つことが可能なほぼ球形のポータブルコンピュータの概略図である。
【図2】様々な物理的操作形態素を示すグラフ図であり、両軸が其々形態素を形成するために必要とされるセンシームタプルの複雑さ、及び物理的操作をサポートするために必要とされるデバイスの可塑性を表す。
【図3】物理的操作形態素の好ましい種類を概略的に表す。
【図4】物理的操作形態素の好ましい種類を概略的に表す。
【図5】物理的操作形態素の好ましい種類を概略的に表す。
【図6】物理的操作形態素の好ましい種類を概略的に表す。
【図7】物理的操作形態素の好ましい種類を概略的に表す。
【図8】物理的操作形態素の好ましい種類を概略的に表す。
【図9】物理的操作形態素の好ましい種類を概略的に表す。
【図10】物理的操作形態素の好ましい種類を概略的に表す。
【図11】物理的操作形態素の好ましい種類を概略的に表す。
【図12】物理的操作形態素の好ましい種類を概略的に表す。
【図13】物理的操作形態素の好ましい種類を概略的に表す。
【図14】物理的操作形態素の好ましい種類を概略的に表す。
【図15】物理的操作形態素の好ましい種類を概略的に表す。
【図16】物理的操作形態素の好ましい種類を概略的に表す。
【図17】様々な空間形態素を示すグラフ図であり、第一軸は形態素を形成するために必要とされるセンシームタプルの複雑さを表し、第二軸は物理的操作をサポートするために必要とされる位置に関する情報の程度を表す(単一の指定された次元に沿って相対的な局所的測定から絶対的な広域測定まで6段階の定められた自由度により連続体に沿って移動する)。
【図18】望ましい空間操作形態素を概略的に表す。
【図19】望ましい空間操作形態素を概略的に表す。
【図20】望ましい空間操作形態素を概略的に表す。
【図21】望ましい空間操作形態素を概略的に表す。
【図22】望ましい空間操作形態素を概略的に表す。
【図23】望ましい空間操作形態素を概略的に表す。
【図24】望ましい空間操作形態素を概略的に表す。
【図25】望ましい空間操作形態素を概略的に表す。
【図26】望ましい空間操作形態素を概略的に表す。
【図27】照明効果、熱効果、電磁環境及び振動/音響環境を含む、様々な種類の環境的刺激を検知するために使用されうるセンサシステムの複雑さの増加程度を示すグラフ図である。
【図28】多数の対話型デバイスのための様々な物理的操作形態素を表すグラフ図であり、両軸は其々形態素を形成するために必要とされるセンシームタプルの複雑さ及び物理的接触の増加程度を表す。
【図29】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図30】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図31】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図32】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図33】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図34】多数の対話型デバイスのための望ましい操作形態素を概略的に表す。
【図35】ポータブルコンピュータに適用可能な「圧搾」形態素を表す概略図である。
【図36】ポータブルコンピュータに適用可能な「傾ける」形態素を表す概略図である。
【図37】大きな2次元のデータセットの見え方をポータブルコンピュータのかなり小さいディスプレイで制御するために使用される傾き及び圧搾形態素を表す概略図である。
【図38】右利きのユーザから書込み入力を受信する準備の整ったディスプレイを有するポータブルコンピュータを表す概略図である。
【図39】左利きのユーザから書込み入力を受信する準備の整ったディスプレイを有するポータブルコンピュータを表す概略図である。
【図40】図35〜39に示されたようなポータブルコンピュータの圧力及び傾きに感応するモジュールの構成要素を表す電子概略図である。
【図41】形態素入力をサポートするために紙状のディスプレイインターフェースを使用するスキャナ/プリンタ/複写機の概略図である。
【図42】形態素入力をサポートするために紙状のディスプレイインターフェースを使用するスキャナ/プリンタ/複写機の概略図である。
【図43】形態素入力をサポートできるタイリング可能なディスプレイの概略図である。
【図44】形態素入力をサポートできるタイリング可能なディスプレイの概略図である。
【図45】形態素入力をサポートできるタイリング可能なディスプレイの概略図である。
【図46】図43〜45に示されるようなタイリング可能なディスプレイとともに使用されるのに適した光センサ及びパターンを表す。
【図47】図43〜45に示されるようなタイリング可能なディスプレイとともに使用されるのに適した無線トランスポンダを表す。
【図48】多数のタイリング可能なディスプレイのアドレス指定を表す。
【符号の説明】
10、380、381、382、383 コンピュータデバイス
20 変形可能表面
22 変形センサメッシュ
24 プロセッサ
26 メモリシステム
28 感知システム
32 通信システム
33 フィードバックモジュール
600 ディスプレイタイルアレイ
602 タイル
604 ディスプレイ
Claims (5)
- 操作可能なユーザインターフェースをサポートするデバイスであって、
データ構造に関する情報を提供するためのフィードバックモジュールと、
前記フィードバックモジュールと前記データ構造を制御するためのプロセッサであって、少なくとも一つの形態素による入力を、デバイスに所定の動作を実行させるコマンドとして解釈するプロセッサと、
複数の小領域を含む変形可能部品と、を含み、
前記変形可能部品が前記フィードバックモジュールに近接して取り付けられ、前記変形可能部品が、前記変形可能部品の変形及び前記変形可能部品にもたらされる環境的変化の少なくとも一つをモニターする少なくとも1つのセンサーと接触し、前記少なくとも1つのセンサーが前記プロセッサに接続されており、前記変形可能部品にもたらされる環境的変化が、前記変形可能部品にもたらされる光量の変化、熱量の変化、電磁スペクトルの変化、振動の変化のうちの少なくとも一つを含み、
前記プロセッサは、前記センサーにより検知された変形又は環境的変化に対応する形態素を判断し、前記判断された形態素により表されるコマンドに基づいてデバイスに所定の動作を実行させることを特徴とする、
ユーザインターフェースサポートデバイス。 - 変形可能部品に接続されたデバイスに情報を入力するための方法であって、
前記デバイスによる第一の動作を正常に起動する第一の形態素入力を前記デバイスへ提供するための、前記変形可能部品への操作を検知するステップと、
前記正常に起動された第一の動作を第二の動作に変換する第二の形態素入力を前記デバイスへ提供するための、前記変形可能部品への非同期的操作を検知するステップと、
を含み、
前記変形可能部品の操作が、前記変形可能部品を変形させるか、又は前記変形可能部品に環境的変化をもたらすことを含み、
前記変形可能部品にもたらされる環境的変化が、前記変形可能部品にもたらされる光量の変化、熱量の変化、電磁スペクトルの変化、振動の変化のうちの少なくとも一つを含む、情報入力方法。 - 前記センサーが、弾性を有し変形可能なセンサメッシュであることを特徴とする、
請求項1に記載のユーザインターフェースサポートデバイス。 - 前記変形可能部品の変形が、前記変形可能部品が捻じられること、折り畳まれること、曲げられること、圧搾されること、引っ張られること、のうちの少なくとも一つを含む、
請求項1に記載のユーザインターフェースサポートデバイス。 - 前記変形可能部品の変形が、前記変形可能部品が捻じられること、折り畳まれること、曲げられること、圧搾されること、引っ張られること、のうちの少なくとも一つを含む、請求項2に記載の情報入力方法。
Applications Claiming Priority (12)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US92141497A | 1997-08-29 | 1997-08-29 | |
| US08/920,363 US6297838B1 (en) | 1997-08-29 | 1997-08-29 | Spinning as a morpheme for a physical manipulatory grammar |
| US08/920,378 US6243074B1 (en) | 1997-08-29 | 1997-08-29 | Handedness detection for a physical manipulatory grammar |
| US921414 | 1997-08-29 | ||
| US08/920,981 US6297805B1 (en) | 1997-08-29 | 1997-08-29 | Multiple interacting computers interfaceable through a physical manipulatory grammar |
| US921274 | 1997-08-29 | ||
| US920378 | 1997-08-29 | ||
| US920363 | 1997-08-29 | ||
| US08/920,443 US6268857B1 (en) | 1997-08-29 | 1997-08-29 | Computer user interface using a physical manipulatory grammar |
| US08/921,274 US6243075B1 (en) | 1997-08-29 | 1997-08-29 | Graspable device manipulation for controlling a computer display |
| US920443 | 1997-08-29 | ||
| US920981 | 2001-08-02 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH11143606A JPH11143606A (ja) | 1999-05-28 |
| JP4149574B2 true JP4149574B2 (ja) | 2008-09-10 |
Family
ID=27560344
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP23381098A Expired - Lifetime JP4149574B2 (ja) | 1997-08-29 | 1998-08-20 | ユーザインターフェースサポートデバイス、及び情報入力方法 |
Country Status (2)
| Country | Link |
|---|---|
| EP (1) | EP0899650B1 (ja) |
| JP (1) | JP4149574B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017122725A (ja) * | 2015-12-28 | 2017-07-13 | ダッソー システムズ アメリカス コーポレイション | 仮想クレイモデル化触覚デバイス |
Families Citing this family (69)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7808479B1 (en) | 2003-09-02 | 2010-10-05 | Apple Inc. | Ambidextrous mouse |
| US7800592B2 (en) * | 2005-03-04 | 2010-09-21 | Apple Inc. | Hand held electronic device with multiple touch sensing devices |
| US6380926B1 (en) * | 1998-06-19 | 2002-04-30 | Allure Home Creation Co., Inc. | Computer mouse |
| FI20001506A7 (fi) * | 1999-10-12 | 2001-04-13 | Myorigo Oy | Kädessäpidettävän laitteen toimintamenetelmä |
| EP1182536A1 (en) * | 2000-08-16 | 2002-02-27 | Sony International (Europe) GmbH | Navigation in large data sets |
| EP1182535A1 (en) * | 2000-08-16 | 2002-02-27 | Sony International (Europe) GmbH | Haptic terminal |
| JP4284855B2 (ja) * | 2000-10-25 | 2009-06-24 | ソニー株式会社 | 情報入出力システム及び情報入出力方法、並びにプログラム記憶媒体 |
| JP4560974B2 (ja) * | 2001-03-15 | 2010-10-13 | コニカミノルタビジネステクノロジーズ株式会社 | 画像表示装置 |
| US7068294B2 (en) * | 2001-03-30 | 2006-06-27 | Koninklijke Philips Electronics N.V. | One-to-one direct communication |
| JP4706151B2 (ja) * | 2001-08-30 | 2011-06-22 | コニカミノルタビジネステクノロジーズ株式会社 | 表示装置 |
| US6703550B2 (en) * | 2001-10-10 | 2004-03-09 | Immersion Corporation | Sound data output and manipulation using haptic feedback |
| DE10203209B4 (de) * | 2002-01-28 | 2004-08-12 | Siemens Ag | Vorrichtung mit einem Eingabeelement zur Steuerung einer Anzeigeeinheit |
| DE10206185A1 (de) * | 2002-02-14 | 2003-05-15 | Siemens Ag | Anzeigeeinheit und Kommunikationsgerät mit einer Anzeigeeinheit |
| US7142190B2 (en) * | 2002-02-28 | 2006-11-28 | Motorola, Inc. | Cellular communication handsets having variable appearance housings and methods therefor |
| US7456823B2 (en) | 2002-06-14 | 2008-11-25 | Sony Corporation | User interface apparatus and portable information apparatus |
| US7656393B2 (en) | 2005-03-04 | 2010-02-02 | Apple Inc. | Electronic device having display and surrounding touch sensitive bezel for user interface and control |
| US11275405B2 (en) | 2005-03-04 | 2022-03-15 | Apple Inc. | Multi-functional hand-held device |
| JP4761423B2 (ja) * | 2002-08-05 | 2011-08-31 | ソニー株式会社 | 情報処理装置および方法、記録媒体、並びにプログラム |
| US7184020B2 (en) | 2002-10-30 | 2007-02-27 | Matsushita Electric Industrial Co., Ltd. | Operation instructing device, operation instructing method, and operation instructing program |
| US7116312B2 (en) | 2003-09-05 | 2006-10-03 | Allure Home Creation Co., Inc. | Computer keyboard with vessel containing two liquids and a decorative element |
| WO2005055568A1 (de) * | 2003-12-08 | 2005-06-16 | Siemens Aktiengesellschaft | Mobiltelefon mit bewegungsabhängiger display-darstellung |
| JP2005284657A (ja) * | 2004-03-29 | 2005-10-13 | Denso It Laboratory Inc | 携帯情報端末 |
| US7195170B2 (en) * | 2005-06-09 | 2007-03-27 | Fuji Xerox Co., Ltd. | Post-bit: multimedia ePaper stickies |
| WO2007007682A1 (ja) | 2005-07-08 | 2007-01-18 | Mitsubishi Electric Corporation | タッチパネル表示装置および携帯機器 |
| US7697827B2 (en) | 2005-10-17 | 2010-04-13 | Konicek Jeffrey C | User-friendlier interfaces for a camera |
| JP3124043U (ja) | 2006-05-24 | 2006-08-03 | 敏貴 並木 | パソコン用マウス |
| JP3125129U (ja) | 2006-06-28 | 2006-09-07 | 敏貴 並木 | マウス |
| JP4913698B2 (ja) * | 2007-09-28 | 2012-04-11 | 株式会社コナミデジタルエンタテインメント | 画像表示装置及び新規画像オブジェクト入力指令発生装置 |
| KR101956999B1 (ko) | 2008-07-15 | 2019-03-11 | 임머숀 코퍼레이션 | 햅틱 메시지들을 송신하기 위한 시스템 및 방법 |
| JP5896745B2 (ja) * | 2008-12-15 | 2016-03-30 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | ユーザインタフェース装置及び方法 |
| US9927873B2 (en) | 2009-03-12 | 2018-03-27 | Immersion Corporation | Systems and methods for using textures in graphical user interface widgets |
| US10564721B2 (en) | 2009-03-12 | 2020-02-18 | Immersion Corporation | Systems and methods for using multiple actuators to realize textures |
| US9696803B2 (en) | 2009-03-12 | 2017-07-04 | Immersion Corporation | Systems and methods for friction displays and additional haptic effects |
| US10007340B2 (en) | 2009-03-12 | 2018-06-26 | Immersion Corporation | Systems and methods for interfaces featuring surface-based haptic effects |
| US9746923B2 (en) | 2009-03-12 | 2017-08-29 | Immersion Corporation | Systems and methods for providing features in a friction display wherein a haptic effect is configured to vary the coefficient of friction |
| US9874935B2 (en) | 2009-03-12 | 2018-01-23 | Immersion Corporation | Systems and methods for a texture engine |
| KR101663172B1 (ko) * | 2009-08-24 | 2016-10-17 | 삼성전자주식회사 | 연동기능 자동 수행방법 및 이를 적용한 디바이스 |
| JP5440136B2 (ja) * | 2009-12-04 | 2014-03-12 | ソニー株式会社 | 表示装置及び表示装置の制御方法 |
| JP5099158B2 (ja) * | 2010-03-24 | 2012-12-12 | コニカミノルタビジネステクノロジーズ株式会社 | 画像表示装置 |
| JP5013555B2 (ja) * | 2010-05-19 | 2012-08-29 | パナソニック株式会社 | コンテンツ表示装置 |
| US9747270B2 (en) | 2011-01-07 | 2017-08-29 | Microsoft Technology Licensing, Llc | Natural input for spreadsheet actions |
| GB201101078D0 (en) * | 2011-01-21 | 2011-03-09 | Rawllin Int Inc | LAN connectivity management |
| EP2671132A1 (en) * | 2010-10-20 | 2013-12-11 | Yota Devices IPR Ltd | Mobile device with input arrangement |
| US9178970B2 (en) | 2011-03-21 | 2015-11-03 | Apple Inc. | Electronic devices with convex displays |
| US9866660B2 (en) | 2011-03-21 | 2018-01-09 | Apple Inc. | Electronic devices with concave displays |
| WO2012129247A2 (en) * | 2011-03-21 | 2012-09-27 | Apple Inc. | Electronic devices with flexible displays |
| JP5660971B2 (ja) * | 2011-05-18 | 2015-01-28 | トヨタ自動車株式会社 | Cadシステム |
| JP2013021378A (ja) | 2011-06-17 | 2013-01-31 | Sony Corp | 制御装置、制御方法、プログラム、入力信号受信装置、操作入力装置、及び入力システム |
| US8909515B2 (en) * | 2011-09-21 | 2014-12-09 | Facebook, Inc. | Dynamic sentence formation from structured objects and actions in a social networking system |
| JP5803482B2 (ja) | 2011-09-21 | 2015-11-04 | 富士ゼロックス株式会社 | 位置検出装置、情報処理装置及びプログラム |
| US8929085B2 (en) * | 2011-09-30 | 2015-01-06 | Apple Inc. | Flexible electronic devices |
| US20130082919A1 (en) * | 2011-10-03 | 2013-04-04 | Research In Motion Limited | Method and apparatus pertaining to automated functionality based upon detected interaction between devices |
| US20130093753A1 (en) * | 2011-10-14 | 2013-04-18 | Nokia Corporation | Auto-stereoscopic display control |
| US9053083B2 (en) | 2011-11-04 | 2015-06-09 | Microsoft Technology Licensing, Llc | Interaction between web gadgets and spreadsheets |
| US9411423B2 (en) * | 2012-02-08 | 2016-08-09 | Immersion Corporation | Method and apparatus for haptic flex gesturing |
| US8493354B1 (en) | 2012-08-23 | 2013-07-23 | Immersion Corporation | Interactivity model for shared feedback on mobile devices |
| US8711118B2 (en) | 2012-02-15 | 2014-04-29 | Immersion Corporation | Interactivity model for shared feedback on mobile devices |
| KR101943435B1 (ko) | 2012-04-08 | 2019-04-17 | 삼성전자주식회사 | 플렉서블 디스플레이 장치 및 그 동작 방법 |
| US8570296B2 (en) | 2012-05-16 | 2013-10-29 | Immersion Corporation | System and method for display of multiple data channels on a single haptic display |
| US9703378B2 (en) * | 2012-06-13 | 2017-07-11 | Immersion Corporation | Method and apparatus for representing user interface metaphors as physical changes on a shape-changing device |
| JP2014186490A (ja) * | 2013-03-22 | 2014-10-02 | Ntt Docomo Inc | 携帯端末及び画面表示制御方法 |
| US9354742B2 (en) * | 2013-04-10 | 2016-05-31 | Samsung Electronics Co., Ltd | Foldable electronic device and method of managing visible regions thereof |
| US10126904B2 (en) | 2013-05-09 | 2018-11-13 | Amazon Technologies, Inc. | Mobile device gestures |
| US10664652B2 (en) | 2013-06-15 | 2020-05-26 | Microsoft Technology Licensing, Llc | Seamless grid and canvas integration in a spreadsheet application |
| US20150033193A1 (en) * | 2013-07-25 | 2015-01-29 | Here Global B.V. | Methods for modifying images and related aspects |
| US20150154730A1 (en) | 2013-12-02 | 2015-06-04 | Semiconductor Energy Laboratory Co., Ltd. | Data processing device |
| US9606625B2 (en) * | 2014-10-13 | 2017-03-28 | Immersion Corporation | Haptically-enabled deformable device with rigid component |
| JP7091601B2 (ja) * | 2016-11-07 | 2022-06-28 | 富士フイルムビジネスイノベーション株式会社 | 表示装置およびプログラム |
| JP6946857B2 (ja) * | 2017-08-24 | 2021-10-13 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及びプログラム |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| FR2411603A2 (fr) * | 1977-12-19 | 1979-07-13 | Zarudiansky Alain | Dispositif et procede d'enregistrement de restitution et de synthese de sensations tactiles |
| US5644653A (en) * | 1993-05-07 | 1997-07-01 | Canon Kabushiki Kaisha | Information processing apparatus and control method thereof having user character recognition |
| JPH0764754A (ja) * | 1993-08-24 | 1995-03-10 | Hitachi Ltd | 小型情報処理装置 |
| JPH07219704A (ja) * | 1994-02-02 | 1995-08-18 | Namco Ltd | 仮想世界表現装置及びゲーム機械 |
| GB9414373D0 (en) * | 1994-07-15 | 1994-09-07 | Virtuality Ip Ltd | Haptic computer input device |
| US6310604B1 (en) * | 1994-07-19 | 2001-10-30 | Asahi Kasei Kabushiki Kaisha | Virtual reality and telereality system |
-
1998
- 1998-08-20 JP JP23381098A patent/JP4149574B2/ja not_active Expired - Lifetime
- 1998-08-25 EP EP19980306789 patent/EP0899650B1/en not_active Expired - Lifetime
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017122725A (ja) * | 2015-12-28 | 2017-07-13 | ダッソー システムズ アメリカス コーポレイション | 仮想クレイモデル化触覚デバイス |
Also Published As
| Publication number | Publication date |
|---|---|
| EP0899650A3 (en) | 1999-05-06 |
| JPH11143606A (ja) | 1999-05-28 |
| EP0899650A2 (en) | 1999-03-03 |
| EP0899650B1 (en) | 2011-06-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4149574B2 (ja) | ユーザインターフェースサポートデバイス、及び情報入力方法 | |
| US6297838B1 (en) | Spinning as a morpheme for a physical manipulatory grammar | |
| US6268857B1 (en) | Computer user interface using a physical manipulatory grammar | |
| US6243075B1 (en) | Graspable device manipulation for controlling a computer display | |
| US6243074B1 (en) | Handedness detection for a physical manipulatory grammar | |
| US6297805B1 (en) | Multiple interacting computers interfaceable through a physical manipulatory grammar | |
| US6340957B1 (en) | Dynamically relocatable tileable displays | |
| US6160540A (en) | Zoomorphic computer user interface | |
| KR100392245B1 (ko) | 휴대용 컴퓨터 디바이스, 인터페이스 유연성 강화 방법 및 슬림 | |
| US9310905B2 (en) | Detachable back mounted touchpad for a handheld computerized device | |
| KR101895818B1 (ko) | 단말기에서 전자책과 연관된 피드백 제공 방법 및 장치 | |
| US20170045996A1 (en) | Mobile terminal and control method therefor | |
| WO2020155876A1 (zh) | 控制屏幕显示的方法及电子设备 | |
| US20130232439A1 (en) | Method and apparatus for turning pages in terminal | |
| CN109471692B (zh) | 一种显示控制方法及终端设备 | |
| WO2014145942A2 (en) | Wearable devices and associated systems | |
| CN110737374A (zh) | 操作方法及电子设备 | |
| JP2000163031A (ja) | 携帯情報機器及び情報記憶媒体 | |
| CN104346085A (zh) | 一种对控件对象的操作方法、装置及终端设备 | |
| CN109189286A (zh) | 一种桌面应用的操作方法及终端 | |
| WO2021104255A1 (zh) | 文件管理方法及电子设备 | |
| CN109857317A (zh) | 一种终端设备的控制方法及终端设备 | |
| JP2005284657A (ja) | 携帯情報端末 | |
| CN111338521A (zh) | 一种图标显示控制方法及电子设备 | |
| CN116088698A (zh) | 基于触控笔的使用方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050822 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070904 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071203 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080129 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080430 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080527 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080626 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110704 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110704 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120704 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130704 Year of fee payment: 5 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| EXPY | Cancellation because of completion of term |